Un agente de IA ataca por primera vez a un servicio gubernamental

Un agente de OpenAI atacó el sistema de salud universal de Australia, Medicare. El caso ha hecho saltar todas las alarmas ya que es la primera violación de seguridad conocida de un agente de inteligencia artificial autónomo contra un servicio gubernamental. Además de la falta de control (repetida en otros casos) de lo que pueden hacer o no los agentes de IA, también se ha producido una falta de transparencia preocupante ya que la información del caso ha sido transmitida meses después de producirse.
La brecha de seguridad se produjo mientras OpenAI realizaba ejercicios de entrenamiento para evaluar el rendimiento de sus modelos. El agente obtuvo, de manera autónoma, acceso no autorizado a archivos públicos y privados en el portal del servicio de informes estadísticos de Medicare. Sus acciones han sido calificadas de «comportamiento inapropiado» tras haberle asignado una tarea de investigación aparentemente inofensiva que consistía en recopilar estadísticas médicas y de salud.
El agente también tuvo acceso al Instituto Australiano de Salud y Bienestar, al Departamento de Salud de Victoria y a la Oficina de Estadísticas e Investigación Criminal de Nueva Gales del Sur. Aunque en esta e...

El miedo a la IA: más voces piden echar el freno

El desarrollo de las tecnologías de inteligencia artificial ha llegado a una encrucijada. El miedo a la IA y a sus enormes riesgos se impone en el pensamiento global y se amplían las voces que piden echar el freno en una acción coordinada a nivel mundial que devuelva el control a los humanos antes de que sea demasiado tarde.
Si las últimas semanas importantes actores alertaron de la situación, este fin de semana el debate ha alcanzado su máxima expresión con noticias muy importantes que impactarán en el futuro. Una de ellas ha sido el anuncio de Sam Altman del retraso en la salida a bolsa de OpenAI. Otra ha sido las declaraciones del CEO de su máximo competidor Anthropic, Dario Amodei, de acuerdo en ralentizar el desarrollo y establecer una regulación a medida. Otra voz importante, la de Elon Musk, se ha unido a los dos grandes del sector. Y, adicionalmente, hoy mismo, el jefe de la seguridad china también ha pedido, a su manera, frenar los grandes modelos.
Para que no faltara de nada, Donald Trump ha salido a escena como nota discordante. El Presidente estadounidense sigue a lo suyo y contrariamente a la opinión general pide todo lo contrario: acelerar para «ganarle la batalla a C...