Un modelo de lenguaje grande, o LLM, es un modelo entrenado con grandes colecciones de datos para calcular continuaciones plausibles de una secuencia de tokens. Recibe una entrada, procesa sus relaciones internas y produce una distribución de probabilidades sobre posibles tokens siguientes. La respuesta aparece al repetir ese proceso bajo una estrategia de generación.
“Grande” alude principalmente a escala de datos, parámetros y capacidad de cómputo, no a una garantía de calidad. Un modelo puede escribir con fluidez y equivocarse en una fecha, una cita o una relación causal.
Qué aprende durante el entrenamiento
Durante el entrenamiento, el modelo ajusta sus parámetros para reducir el error al predecir partes de los datos a partir del contexto disponible. Los parámetros son valores numéricos que capturan patrones estadísticos; no son una base de datos consultable con una fila por cada documento.
Los datos y el procedimiento de entrenamiento condicionan el resultado. Después pueden aplicarse fases adicionales para mejorar instrucciones, seguridad o formatos, pero ninguna etapa convierte la salida en una fuente infalible de hechos actuales.
Tokens, contexto y probabilidades
El texto se divide en tokens, que pueden ser palabras completas, fragmentos, signos o partes de código. El modelo opera con esa secuencia y con el contexto que la aplicación le entrega. A cada paso calcula probabilidades condicionadas por los tokens anteriores y selecciona una continuación según la configuración de generación.
Una aplicación puede incluir instrucciones del sistema, mensaje del usuario, documentos recuperados y resultados de herramientas. Todo ello consume la ventana de contexto. Lo que el modelo no recibe en una petición no puede influir directamente en esa generación, aunque apareciera en sus datos de entrenamiento.
Inferencia: usar el modelo ya entrenado
La inferencia es la ejecución de esas operaciones para producir una respuesta. Puede realizarse mediante una API externa o en infraestructura administrada por quien opera la aplicación. El tamaño del modelo, la longitud de entrada, la memoria disponible y la concurrencia influyen en tiempo y coste.
La generación token a token puede producir una primera respuesta rápida y después continuar con otra velocidad. Medir solo el tiempo total oculta diferencias importantes entre tiempo hasta el primer token y tiempo de generación del resto.
Por qué el lenguaje fluido no demuestra certeza
El objetivo de generación es producir una continuación probable, no verificar cada afirmación contra una fuente. Puede combinar patrones correctos con detalles inventados, especialmente cuando la pregunta es ambigua o falta información. El tono seguro tampoco es una señal fiable de exactitud.
Una aplicación puede reducir riesgo usando fuentes recuperadas, validaciones, límites de tarea, citas y revisión humana. Esas medidas pertenecen al sistema completo y no son propiedades automáticas de un LLM.
Tamaño, parámetros y calidad
Más parámetros pueden aportar capacidad, pero el resultado depende de datos, arquitectura, entrenamiento, idioma, contexto y evaluación. Un modelo menor puede ser suficiente para clasificación o extracción bien definida, mientras que otra tarea necesita más capacidad o herramientas externas.
También existen compromisos de memoria, latencia y coste. Elegir un modelo por su tamaño sin probar las consultas reales puede producir un servicio más caro sin mejorar la métrica que importa.
El LLM dentro de una aplicación
El modelo suele ser una capa de un sistema que incluye interfaz, backend, contexto, almacenamiento, herramientas, permisos y observabilidad. El backend debe proteger claves, controlar datos enviados y decidir qué respuestas pueden convertirse en acciones. El modelo no debería recibir acceso directo a una base de datos solo porque puede generar una llamada.
Qué conviene entender antes de integrar un LLM
Define qué tarea se espera, qué datos estarán disponibles, cómo se medirá la calidad y qué ocurrirá si la salida es incorrecta o el servicio no responde. Un LLM puede aportar generación flexible, pero su utilidad depende del diseño que lo rodea, de la evaluación continua y de límites claros sobre lo que puede afirmar o ejecutar.
Generación, temperatura y selección
Después de calcular probabilidades, el sistema necesita una estrategia para seleccionar el siguiente token. Una configuración más determinista suele producir respuestas más repetibles; otra con más variación puede explorar formulaciones distintas. Ninguna configuración convierte una salida en un hecho verificado ni corrige una fuente ausente.
La generación se detiene al alcanzar una condición de final, un límite de tokens o una señal definida por la aplicación. Controlar esa longitud ayuda a contener coste, pero una respuesta corta tampoco es necesariamente correcta o suficiente.
Parámetros y memoria de ejecución
Los parámetros del modelo deben cargarse en la memoria disponible y la inferencia necesita espacio adicional para cálculos y contexto. La cuantización puede reducir el tamaño de la representación con compromisos de precisión, y el hardware elegido afecta a latencia y concurrencia. El modelo, el servidor y la aplicación deben dimensionarse juntos.
En una integración mediante API, parte de esta operación queda en el proveedor, pero siguen siendo responsabilidad del equipo el tiempo de espera, los reintentos, el tratamiento de datos y el control de costes. Ejecutarlo localmente da más control sobre la operación y también traslada mantenimiento, actualizaciones y capacidad al operador.
Qué no debe decidir el modelo
Un LLM puede redactar una propuesta, pero las autorizaciones, los cálculos críticos y las reglas de negocio deben permanecer en componentes verificables. La aplicación puede usar el modelo para interpretar lenguaje y reservar las decisiones irreversibles para código o revisión humana.