Brown et al. mostraron que un LLM suficientemente grande realiza tareas con prompts few-shot sin fine-tuning específico.
En mayo de 2020, OpenAI publicó el paper de GPT-3 (175B). El hallazgo central: con escala suficiente, el modelo ejecuta muchas tareas vía demostraciones en el prompt.
La API de OpenAI industrializó el acceso. Startups construyeron productos sobre un endpoint. Surgieron límites: costos, alucinaciones, sesgos.
GPT-3 desplazó el centro de gravedad del NLP desde fine-tuning ubiqüo hacia prompting y, luego, hacia instrucción y chat.
OpenAI presentó GPT-2 y inicialmente limitó la liberación del modelo mayor por riesgos de desinformación, anticipando dilemas de open vs closed.
OpenAI lanzó ChatGPT y alcanzó 100 millones de usuarios en meses; la IA conversacional se volvió hábito global.
OpenAI lanzó GPT-4 con mejoras notables en exámenes profesionales, robustez y capacidad visual en variantes posteriores.