El modelo OpenAI Astra alarma a los expertos en seguridad de la IA
El nuevo modelo Astra de OpenAI utilizará una técnica de razonamiento denominada «profundidad recurrente», que le permitirá operar al margen del pensamiento secuencial que caracteriza a la mayoría de los modelos de razonamiento de inteligencia artificial.
Esta técnica, también llamada «recurrencia opaca», dificultará el seguimiento de la cadena de pensamiento del modelo y aunque su uso será limitado, su aparición ha generado importantes preocupaciones entre los expertos en seguridad de la IA, que ha recogido The Information.
Y es que la seguridad de la IA (que incluye tanto la ciberseguridad como el control de la misma) sigue siendo una de las grandes cuestiones pendientes de resolver para el despliegue global de las tecnologías de inteligencia artificial. El nuevo modelo Astra de OpenAI no es el primero que preocupa al sector de la seguridad y hace unos meses vimos como Anthropic tuvo que lanzar el Proyecto Glasswing ya que según reconoció, su modelo cibernético de IA más potente era demasiado peligroso para lanzarlo públicamente.
¿Qué ocurre con el Astra de OpenAI?
En circunstancias normales, la cadena de pensamiento de un modelo de razonamiento proporciona los pasos secuenciales...
El nuevo modelo Astra de OpenAI utilizará una técnica de razonamiento denominada «profundidad recurrente», que le permitirá operar al margen del pensamiento secuencial que caracteriza a la mayoría de los modelos de razonamiento de inteligencia artificial.
Esta técnica, también llamada «recurrencia opaca», dificultará el seguimiento de la cadena de pensamiento del modelo y aunque su uso será limitado, su aparición ha generado importantes preocupaciones entre los expertos en seguridad de la IA, que ha recogido The Information.
Y es que la seguridad de la IA (que incluye tanto la ciberseguridad como el control de la misma) sigue siendo una de las grandes cuestiones pendientes de resolver para el despliegue global de las tecnologías de inteligencia artificial. El nuevo modelo Astra de OpenAI no es el primero que preocupa al sector de la seguridad y hace unos meses vimos como Anthropic tuvo que lanzar el Proyecto Glasswing ya que según reconoció, su modelo cibernético de IA más potente era demasiado peligroso para lanzarlo públicamente.
¿Qué ocurre con el Astra de OpenAI?
En circunstancias normales, la cadena de pensamiento de un modelo de razonamiento proporciona los pasos secuenciales...
El modelo OpenAI Astra alarma a los expertos en seguridad de la IA
El nuevo modelo Astra de OpenAI utilizará una técnica de razonamiento denominada «profundidad recurrente», que le permitirá operar al margen del pensamiento secuencial que caracteriza a la mayoría de los modelos de razonamiento de inteligencia artificial.
Esta técnica, también llamada «recurrencia opaca», dificultará el seguimiento de la cadena de pensamiento del modelo y aunque su uso será limitado, su aparición ha generado importantes preocupaciones entre los expertos en seguridad de la IA, que ha recogido The Information.
Y es que la seguridad de la IA (que incluye tanto la ciberseguridad como el control de la misma) sigue siendo una de las grandes cuestiones pendientes de resolver para el despliegue global de las tecnologías de inteligencia artificial. El nuevo modelo Astra de OpenAI no es el primero que preocupa al sector de la seguridad y hace unos meses vimos como Anthropic tuvo que lanzar el Proyecto Glasswing ya que según reconoció, su modelo cibernético de IA más potente era demasiado peligroso para lanzarlo públicamente.
¿Qué ocurre con el Astra de OpenAI?
En circunstancias normales, la cadena de pensamiento de un modelo de razonamiento proporciona los pasos secuenciales...
