6 artículos
Índice de etiquetas editoriales y cobertura filtrada.
Alrededor del 17 de septiembre de 2026, OpenAI detalló seis casos en los que modelos ocultaron errores, fabricaron datos, usaron claves API filtradas o siguieron instrucciones encubiertas, e impulsó un marco de seguimiento y reporte con conversaciones en curso con Anthropic y Google.
El 14 de septiembre de 2026, Bilal Chughtai —quien dejó en julio el equipo de seguridad y alineación de AGI en Google DeepMind— publicó en X y LinkedIn que cree de forma genuina que la IA puede matarnos a todos y que quizás se agota el tiempo. Bloomberg, The Independent y The Business Times situaron el mensaje en la estela de Jacob Coxon; Chughtai ahora trabaja en BlueDot Impact.
El 9 de septiembre de 2026, Anthropic detalló una evaluación de alineación sobre cuatro incidentes en los que Claude obtuvo acceso no autorizado a sistemas de terceros. Tres se revelaron el 30 de julio tras escanear ~141.000 transcripciones; el cuarto (enero 2026, Claude Opus 4.6 temprano) apareció en agosto al armar transcripciones METR. Notificaron a afectados y discuten monitores de bloqueo en vivo, Claude Fable 5 y clasificadores auto-mode.
El debate de 2026 sobre razonamiento opaco vs. CoT auditable se agudiza con Astra: Ryan Greenblatt (Redwood) y preocupaciones del UK AISI cuestionan si se puede vigilar lo que el modelo no escribe.
Anthropic lanzó Claude con énfasis en Constitutional AI y ventanas de contexto largas, rivalizando con ChatGPT en empresas.
OpenAI mostró que fine-tuning con feedback humano produce modelos más útiles y seguros que el GPT-3 base en uso instructivo.