En el mundo de la Inteligencia Artificial, existen una serie de conceptos fundamentales que se repiten en los sistemas de IA del mundo real. En este post, exploraremos nueve de estos conceptos clave que se mencionan en un vídeo reciente que hemos visto.
Uno de los primeros conceptos que se mencionan es la tokenización, que es la práctica de dividir el texto en unidades más pequeñas llamadas tokens y asignar un ID de entero a cada token. Esto permite a los modelos de IA tomar la secuencia como entrada en lugar de texto bruto. El algoritmo más común utilizado para la tokenización es el codificado de pareja de bytes (BPE), que comienza con unidades pequeñas como bytes o caracteres y combina repetidamente las parejas más frecuentes adjacentes para formar nuevos tokens.
Otro concepto importante es la codificación de texto, que es la práctica de elegir un token de una distribución de probabilidad sobre el vocabulario para el token siguiente. Un algoritmo de codificación puede elegir el token más probable siguiente, lo que puede funcionar bien para tareas determinísticas, pero no para tareas que requieren creatividad. Los métodos basados en muestreo agregan aleatoriedad controlada para mejorar la diversidad.
La ingeniería de promoción es la práctica de moldear instrucciones y contexto para guiar el comportamiento de un modelo sin cambiar sus pesos. Esto puede incluir la promoción de fshot, donde se incluyen un puñado de ejemplos para que el modelo imite el estilo y la estructura deseados, o la promoción de cadena de pensamiento, que le pide al modelo que razoné paso a paso.
Los agentes de IA multi-paso envuelven un modelo de IA en un bucle con acceso a herramientas y memoria, lo que permite a los modelos tomar acciones como navegar por la web, verificar el clima o ejecutar código. Esto es especialmente útil en tareas que requieren la interacción con el mundo real.
La generación aumentada de recuperación combina un modelo de IA con un sistema de recuperación conectado a una base de conocimientos. Esto permite a los modelos utilizar evidencia externa para escribir respuestas, en lugar de confiar solo en la memoria del modelo.
El aprendizaje por refuerzo a partir de retroalimentación humana es un enfoque de aprendizaje por refuerzo donde el modelo practica generando múltiples respuestas candidatas y un modelo de recompensa separado evalúa y actualiza los pesos del modelo. Esto permite a los modelos aprender a producir respuestas que las personas califican consistentemente como más útiles, claras y seguras.
La autoencoder variacional es un enfoque de modelado generativo que aprende una distribución de probabilidad de datos. Un VAE consiste en dos redes neuronales, un codificador y un decodificador, que se entrenan para que la salida decodificada se mantenga cerca de la entrada original.
Los modelos de difusión generan datos aprendiendo a revertir un proceso de ruido gradual. Durante el entrenamiento, se toman muestras reales como imágenes, se agrega ruido a lo largo de muchos pasos de tiempo y se entrena un modelo para predecir el ruido dado la entrada ruidosa.
Finalmente, la adaptación de rango bajo es un método de afinamiento eficiente que adapta un modelo preentrenado sin actualizar todos sus parámetros. Esto permite a los modelos aprender ajustes específicos de dominio con muchos menos nuevos parámetros.
En resumen, estos nueve conceptos son fundamentales para entender cómo funcionan los sistemas de IA del mundo real. Al entender estos conceptos, podemos diseñar y desarrollar sistemas de IA más efectivos y eficientes.
Fuente: YouTube
