Page 2 - Modelos IAG

Laboratorio Inteligencia Artificial e
Internet de las Cosas
segunda parte del proceso consiste en revertir
los datos compuestos por ruido en datos
similares a los originales, a lo que se le llama
Difusión Inversa. En esta etapa, el modelo
aprende a revertir el ruido paso a paso, hasta
llegar a datos similares a los originales. Este
modelo se utiliza para la generación de
imágenes (Stable Diffusion es uno de los más
conocidos), audio, texto, entre otros tipos de
datos.
Autocodificadores Variacionales
Los autocodificadores variacionales (VAE
por su nombre en inglés) tienen una
arquitectura compuesta por dos redes
neuronales: el codificador y el
decodificador. Estos modelos se entrenan
para crear una representación compacta de
los datos (tarea del codificador), lo que se
denomina como espacio latente; esto es, una
representación matemática de los datos,
representados en función de todos sus
atributos esenciales. Luego el decodificador
toma el espacio latente y lo reconstruye en
datos que se parecen a los de la entrada
original. Estos modelos son utilizados para
reducir dimensiones, crear nuevas imágenes o
eliminar ruido de ellas, o clasificar objetos.
Modelos basados en Transformers
Los modelos transformers son redes
neuronales que tienen la capacidad de
aprender el contexto y procesar las relaciones
entre los datos de la secuencia; en el caso de
texto, las relaciones entre las palabras de una
oración. Para ello utilizan representaciones
matemáticas que le permiten identificar la
relación y la relevancia entre los datos (por
ejemplo: palabras). Un transformador
generalmente se compone de un codificador
y un decodificador; el primero se encarga de
leer la entrada y el segundo de imprimir la
cadena de salida. Los transformadores en
muchos casos están reemplazando a las redes
neuronales convolucionales (CNN, por su
nombre en inglés) y a las redes neuronales
recurrentes (RNN), principalmente porque
pueden gestionar más eficazmente las
dependencias de largo alcance,
particularmente en tareas de procesamiento
de lenguaje natural (NLP, por su nombre en
inglés). Un ejemplo de dependencias de largo
alcance en un texto se refiere a la relación
entre palabras que se encuentran distantes en
una frase, es aquí en donde los
transformadores son muy eficientes.
Modelos Autorregresivos
Los modelos autorregresivos son modelos
que predicen el siguiente elemento de una
secuencia, basándose en los valores previos
de la secuencia. Estos modelos utilizan
técnicas matemáticas similares a la técnica
estadística de autorregresión para series
temporales, las cuales se basan en que el
siguiente valor de una serie temporal
corresponde a una función de sus valores
anteriores. Lo que buscan es definir la
correlación probabilística entre los elementos
de la secuencia. Con esa información
predicen el siguiente elemento de una
secuencia no conocida. Son útiles para la
generación de texto; por ejemplo, en la
funcionalidad de teclado predictivo de los
teléfonos inteligentes.
Referencias
Nvidia (2022), Recuperado de:
https://la.blogs.nvidia.com/blog/que-es-un-
mode lo-transformer/
YellowAI (2024), Recuperado de:
https://yellow.ai/blog/types-of-generative-
ai/
AWS (2024), Recuperado de:
https://aws.amazon.com/es/what-
is/generative-ai/