Cómo funciona el modelo de lenguaje
LLM está entrenado en una gran cantidad de texto para predecir la siguiente palabra. De este sencillo principio surge la capacidad de responder, escribir y razonar. El modelo no “comprende” como una persona: encuentra una continuación plausible basándose en patrones aprendidos.
Por qué el modelo seguramente estará equivocado
Debido a que el modelo genera verosimilitud en lugar de probar la verdad, puede inventar un hecho, una referencia o una cifra, y parecer seguro al hacerlo. A esto se le llama alucinación. Por lo tanto, siempre verifique los hechos importantes.
Fichas, temperatura, frontera del conocimiento.
El modelo funciona con tokens (fragmentos de texto); de esto dependen el costo y los límites. La temperatura controla la creatividad: más baja es más estable, más alta es más variada. Y el modelo tiene un límite de conocimiento: una fecha después de la cual no sabe nada del mundo; fresco requiere una fuente externa.
¿Qué aporta esto en la práctica?
Sabiendo esto, utiliza el modelo de manera más inteligente: establece claramente la tarea, verifica los hechos, comprende cuándo necesita buscar datos nuevos y no se sorprende con los errores. Comprender la herramienta marca la diferencia entre quienes se benefician y quienes quedan decepcionados.