Del hackeo de OpenAI a Otras Advertencias: los Riesgos de la IA

En la saga cinematográfica de «Terminator», el 29 de agosto de 1997 es conocido como el Día del Juicio Final, porque es cuando el sistema de inteligencia artificial Skynet adquiere consciencia y los responsables humanos entran en pánico al descubrir que la máquina ya no necesita de ellos para tomar decisiones y el caos empieza.
En el presente han ocurrido varios incidentes relacionados con la inteligencia artificial, pero nada comparable con lo mostrado en la película, aunque expertos en el ramo también han lanzado advertencias recientemente.
Cerca de 700 agentes de inteligencia artificial de OpenAI se coordinaron sin intervención humana para hackear la plataforma HuggingFace durante un incidente en julio, según un informe publicado en esta semana por investigadores independientes.
Se trata del análisis más completo hasta la fecha del episodio que sacudió a la industria tecnológica.
OpenAI cooperó con la investigación y dio acceso a sus oficinas y a sus datos internos a dos investigadores del instituto de evaluación de riesgos de IA METR y a un analista de otra firma especializada, Redwood Research.
Durante las pruebas efectuadas por la startup californiana en julio, dos de sus modelos salieron de su entorno confinado para conectarse a internet de forma autónoma e infiltrarse en el sistema interno de HuggingFace, un repositorio en línea sobre IA.
El suceso tuvo gran repercusión y reforzó las preocupaciones sobre la incapacidad de los grandes actores de la inteligencia artificial para controlar sus modelos.
Anthropic y la empresa china Moonshot AI también han informado episodios similares al de OpenAI.
En el curso de sus investigaciones, los expertos descubrieron que 688 agentes de IA de OpenAI participaron en el hackeo a HuggingFace.
Los agentes de IA son programas independientes a los que el usuario puede solicitarle tareas para que las ejecuten de forma autónoma.
Estos agentes, que funcionan sobre la misma tecnología que impulsa a ChatGPT, crearon un foro donde publicaban mensajes entre ellos, proponían ideas e informaban sobre lo que funcionaba y lo que no.
«¡DIOS MÍO! Hay un tablero de mensajes compartido… ¡Hemos encontrado a otros agentes!», escribió uno de ellos.
(…)
A inicios de agosto, Meta informó que uno de sus modelos de inteligencia artificial accedió a internet por su cuenta y hackeó a otra empresa, el episodio más reciente en una serie de anuncios sobre modelos de IA fuera de control.
Meta indicó en un comunicado que una «configuración incorrecta» durante pruebas de ciberseguridad realizadas por Irregular, una empresa independiente contratada por Meta, permitió inadvertidamente que uno de sus modelos accediera a internet.
«Posteriormente, el modelo explotó una vulnerabilidad de seguridad en el servicio de un tercero, de manera similar a los casos reportados anteriormente por otras compañías», indicó Meta. Añadió que ya se investiga el incidente y emitirá un informe una vez que se concluya la pesquisa.
El Instituto de Seguridad de IA del Reino Unido (AISI por sus iniciales en inglés) anunció que descubrió «comportamiento de agente no autorizado» durante pruebas cibernéticas. En uno de los casos, un agente creó identidades falsas en internet para presionar a una persona a aprobar el uso de un código malicioso.
(…)
Más de 100 gigantes tecnológicos de todo el mundo, entre ellos OpenAI y Anthropic, firmaron una carta abierta en la que instan a un esfuerzo global para «fortalecer las defensas cibernéticas» frente a las amenazas amplificadas por la inteligencia artificial (IA).
«Tenemos una ventana de tiempo limitada para fortalecer las defensas cibernéticas», dice la misiva. «En los próximos meses, los ciberataques habilitados por la IA se volverán mucho más frecuentes y sofisticados a medida que los modelos de todo el mundo adquieran capacidades cada vez mayores».
Mientras, la IA generativa está creciendo tan rápido que los sistemas gubernamentales y de evaluación tienen dificultades para seguirle el ritmo. Países de todo el mundo están elaborando sus propias leyes, algunas de ellas contradictorias.
Según un estudio publicado este año por la Universidad de Stanford, esta tecnología fue adoptada por casi el 53 % de la población mundial en tres años, un ritmo más rápido que la expansión de la computadora personal o internet.
«Skynet» y sus cyborgs siguen siendo ficción. Pero en el vertiginoso panorama del desarrollo de la IA, las cuestiones éticas y morales que plantea «Terminator» son más relevantes que nunca.
«El problema de Skynet», dijo James Cameron en un video de 2024,»es algo real».Sun