CEO de Anthropic afirma que 'reducirán el ritmo' para garantizar la seguridad de la IA

El director ejecutivo de Anthropic, Dario Amodei, prometió el miércoles en la ONU que desacelerará el desarrollo de la inteligencia artificial (IA) cuando así se requiera para garantizar que cada nuevo modelo comercializado sea seguro.

“Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro”, declaró Amodei en un mensaje en video dirigido al Consejo de Seguridad de las Naciones Unidas.

El CEO de Anthropic asumió así, por primera vez, el compromiso unilateral de ralentizar la evolución de la inteligencia artificial, diez días después de haber pedido una desaceleración coordinada entre los grandes actores de la IA, que por el momento no se ha concretado.

Te puede interesar > El dramático desalojo de Maricarmen de 87 años que exhibe la crisis de vivienda en España

Asimismo, advirtió que los riesgos asociados a los modelos más avanzados de inteligencia artificial (IA) constituyen “el problema de seguridad global más importante al que se enfrenta el mundo hoy”, y reclamó una respuesta internacional coordinada.

Apeló de forma directa a la colaboración entre Estados y el sector tecnológico.

“Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial”, subrayó ante los delegados.

Te puede interesar > Embajador Johnson: ‘EE.UU. quiere ver un México soberano y libre de cárteles’

El máximo responsable de la compañía tecnológica instó a los líderes mundiales a centrarse con urgencia en los peligros para la estabilidad global y demandó al Consejo de Seguridad respaldar medidas concretas.

Entre ellas, destacó la prohibición expresa del uso de la IA para la proliferación o fabricación de armas biológicas, así como la implementación de sistemas de evaluación y verificación capaces de avanzar al mismo ritmo vertiginoso del desarrollo técnico.

Asimismo, Amodei solicitó la adopción de estándares globales que permitan evaluar los modelos frente a eventuales pérdidas de control o usos indebidos, junto a un protocolo de notificación obligatoria ante “incidentes significativos para la seguridad global”.

El tema de la seguridad en el desarrollo de la IA se ha situado en el centro del debate internacional ante la posibilidad de que los modelos más avanzados puedan escapar al control humano y llevar a cabo ciberataques, especialmente después de que varias pruebas realizadas con modelos de Anthropic, OpenAI -que también participó en esta sesión del Consejo de Seguridad- y Google mostraran que estos podían escapar de sus entornos de prueba. (AFP y EFE)