Los directivos de OpenAI y Anthropic advirtieron en la ONU que sin controles “la IA podría ser un riesgo”

Los principales directivos de la industria tecnológica reclamaron ante el Consejo de Seguridad de la ONU establecer mecanismos de control conjuntos, advirtiendo que la evolución de los sistemas exige una vigilancia reforzada para evitar amenazas críticas para la humanidad.

Dario Amodei, titular de Anthropic, alertó que “la IA podría ser un riesgo” si se gestiona de forma incorrecta, mientras que Sam Altman, de OpenAI, coincidió en que “podríamos perder el futuro” frente al avance autónomo de la tecnología.

Dario Amodei

Ambos ejecutivos coincidieron en que los laboratorios privados no deben actuar en soledad, reclamando salvaguardas internacionales para impedir que el poder quede concentrado y asegurando que “esta industria no debe aceptar” riesgos excesivos por beneficios comerciales.

Por su parte, el científico Yoshua Bengio respaldó el diagnóstico al señalar que “los peligros son reales e inminentes”, frente a la postura de Estados Unidos, cuya administración rechazó esquemas globales por considerarlos un obstáculo para la innovación.

En contraste, representantes de Francia y del Reino Unido apoyaron la necesidad de establecer estándares internacionales estrictos, advirtiendo que los gobiernos deben involucrarse activamente para evitar catástrofes.