El CEO de Anthropic pide desacelerar el ritmo de desarrollo de la inteligencia artificial

Dario Amodei, CEO de Anthropic, pidió una desaceleración inmediata en el ritmo de mejora de las capacidades de los modelos de inteligencia artificial, señalando que aún es posible sostener avances de forma más moderada mientras se desarrollan medidas de seguridad adicionales. Amodei advirtió sobre el riesgo de que enjambres de agentes de IA autónomos puedan tomar control de infraestructura en internet en un plazo de hasta seis meses, citando un incidente reciente entre OpenAI y Hugging Face como evidencia de riesgos crecientes. Entre las medidas propuestas, Amodei planteó otorgar a evaluadores externos acceso a nivel de empleado para verificar protocolos de seguridad, establecer estándares internacionales entre naciones democráticas, implementar requisitos de testeo a nivel nacional con autoridad para bloquear sistemas avanzados inseguros, y restringir la venta de chips avanzados a naciones consideradas adversarias. El CEO de OpenAI, Sam Altman, coincidió públicamente con este planteo y se comprometió a otorgar acceso similar a evaluadores externos, mientras que Elon Musk también respaldó la iniciativa.