Papers de scaling laws mostraron relaciones predecibles entre pérdida, parámetros, datos y FLOPs, guiando inversiones en LLM.
Kaplan et al. (OpenAI, 2020) y luego Hoffmann et al. (Chinchilla, DeepMind, 2022) cuantificaron cómo mejora la pérdida al escalar modelo, datos y cómputo.
Esas curvas justificaron clusters multimillonarios y decisiones de “entrenar más grande” versus “entrenar más tokens”. Se volvieron lenguaje de boards y labs.
Las leyes no son leyes físicas eternas, pero sí brújulas empíricas que organizaron la carrera 2020–2026.
Investigación en modelos de mundo buscó predicción de dinámicas para planificación, más allá de generar pixels bonitos.
DeepMind supera baselines clásicos en predicción científica con un nuevo sistema de aprendizaje profundo.
El debate de 2026 sobre razonamiento opaco vs. CoT auditable se agudiza con Astra: Ryan Greenblatt (Redwood) y preocupaciones del UK AISI cuestionan si se puede vigilar lo que el modelo no escribe.