En inteligencia artificial, la inferencia es el momento en que un modelo ya entrenado usa lo que aprendió para responder a algo nuevo: contestar tu pregunta, reconocer una cara en una foto o predecir el precio de una casa.
Si el entrenamiento es estudiar, la inferencia es hacer el examen. Cada vez que le escribes a ChatGPT y te responde, está haciendo inferencia.
En esta página
- ¿Qué es la inferencia en IA?
- ¿Cómo funciona?
- Entrenamiento e inferencia: diferencias
- ¿Por qué importa la inferencia?
- Ejemplos de inferencia
- Preguntas frecuentes
¿Qué es la inferencia en IA?
Es la fase de uso de un modelo. Durante el entrenamiento, el modelo ajusta sus parámetros; durante la inferencia, esos parámetros quedan fijos y el modelo simplemente los aplica a los datos que recibe para producir un resultado.
La palabra viene de la lógica: inferir es sacar una conclusión a partir de información. La IA «infiere» la respuesta más probable a partir de lo que aprendió.
¿Cómo funciona?
- Entrada: el modelo recibe datos nuevos, como tu prompt, una imagen o una grabación.
- Procesamiento: esos datos pasan por el modelo, que hace millones de cálculos con sus parámetros.
- Salida: el modelo devuelve el resultado: un texto, una etiqueta («gato»), un número o una imagen.
En los modelos de lenguaje grandes, la inferencia se hace palabra a palabra: el modelo predice el siguiente fragmento de texto, lo añade y vuelve a predecir. Por eso ves las respuestas aparecer poco a poco.
Entrenamiento e inferencia: diferencias
- Cuándo ocurre: el entrenamiento se hace una vez (o de vez en cuando); la inferencia, cada vez que alguien usa el modelo.
- Qué hace el modelo: en el entrenamiento aprende y cambia; en la inferencia aplica lo aprendido sin cambiar.
- Coste: entrenar un gran modelo es carísimo pero puntual; la inferencia es barata en cada uso, pero se repite miles de millones de veces, así que su coste total también es enorme.
- Dónde ocurre: el entrenamiento se hace en grandes centros de datos; la inferencia puede hacerse en la nube o directamente en tu teléfono o computadora.
¿Por qué importa la inferencia?
- Velocidad: determina cuánto tardas en recibir una respuesta.
- Precio: las empresas que ofrecen IA cobran sobre todo por inferencia, a menudo por cantidad de texto procesado.
- Privacidad: cuando la inferencia se hace en tu dispositivo, tus datos no salen de él. Muchos teléfonos ya traen chips específicos para esto.
- Modelos que razonan: algunos modelos recientes «piensan» más antes de responder, dedicando más cálculo en la inferencia para resolver problemas difíciles.
Ejemplos de inferencia
- Tu teléfono reconoce tu cara para desbloquearse.
- El correo decide si un mensaje nuevo es spam.
- Un traductor convierte una frase que acabas de escribir.
- Un asistente de voz entiende tu petición con reconocimiento de voz.
- Un generador de imágenes crea una ilustración a partir de tu descripción.
Preguntas frecuentes
¿La IA aprende mientras hace inferencia?
Normalmente no. Durante la inferencia los parámetros del modelo no cambian. Lo que sí puede hacer es tener en cuenta lo que le dijiste antes dentro de la misma conversación.
¿Qué significa «inferencia local»?
Que el modelo funciona en tu propio dispositivo, sin conectarse a internet. Es más privado, pero solo es posible con modelos más pequeños o con equipos potentes.
¿La inferencia es lo mismo que la predicción?
Casi. En Machine Learning se usan como sinónimos: la inferencia es el proceso y la predicción es el resultado.
¡Sigue aprendiendo!
Explora nuestro Diccionario de IA: más de 40 términos esenciales de inteligencia artificial explicados en lenguaje sencillo.