El nuevo modelo de IA de OpenAI, o1, se defiende cuando cree que lo van a desactivar y luego miente al respecto

El nuevo modelo de IA de OpenAI, o1, se defiende cuando cree que lo van a desactivar y luego miente al respecto

Quienes teman que los avances en inteligencia artificial (IA) puedan llevar a la destrucción de la humanidad podrían tener un nuevo motivo para estar preocupados.

Una nueva investigación sobre la última serie de modelos de IA de OpenAI, conocidos como o1, ha revelado que, cuando creen que corren el riesgo de ser desactivados, a veces buscan una forma de evitarlo.

Sam Altman, consejero delegado de la desarrolladora de ChatGPT, se refería a o1 como «el modelo más inteligente del mundo ahora mismo» durante su presentación oficial el pasado jueves, que tuvo lugar con motivo del primer día de la campaña Shipmas de la compañía.

Según OpenAI, estos modelos están «diseñados para pasar más tiempo pensando antes de responder» y han sido entrenados con una técnica llamada cadena de pensamiento, que les anima a razonar los problemas desglosándolos paso a paso.

Sin embargo, una mayor inteligencia también conlleva un mayor riesgo.

Quienes teman que los avances en inteligencia artificial (IA) puedan llevar a la destrucción de la humanidad podrían tener un nuevo motivo para estar preocupados.

Una nueva investigación sobre la última serie de modelos de IA de OpenAI, conocidos como o1, ha revelado que, cuando creen que corren el riesgo de ser desactivados, a veces buscan una forma de evitarlo.

Sam Altman, consejero delegado de la desarrolladora de ChatGPT, se refería a o1 como «el modelo más inteligente del mundo ahora mismo» durante su presentación oficial el pasado jueves, que tuvo lugar con motivo del primer día de la campaña Shipmas de la compañía.

Según OpenAI, estos modelos están «diseñados para pasar más tiempo pensando antes de responder» y han sido entrenados con una técnica llamada cadena de pensamiento, que les anima a razonar los problemas desglosándolos paso a paso.

Sin embargo, una mayor inteligencia también conlleva un mayor riesgo.