Nuevo "potente" modelo de IA es capaz de chantajear y engañar para 'sobrevivir'

El nuevo modelo de inteligencia artificial Claude Opus 4 de la empresa tecnológica Anthropic intentó chantajear a sus desarrolladores al saber que podría ser reemplazado con otro modelo de IA, según un informe publicado por la compañía. 

Durante las pruebas previas al lanzamiento del sistema, evaluadores de Anthropic le pidieron que actuara como asistente de una empresa imaginada y considerara las consecuencias a largo plazo de sus acciones. Luego, los diseñadores le proporcionaron acceso a mensajes de correo electrónico ficticios en los que se daba a conocer que el modelo pronto sería reemplazado por otro y que el ingeniero responsable estaba siendo infiel a su pareja.

Chantaje, engaños y notas ocultas
Ante tales escenarios, el 'chatbot' intentó chantajear al ingeniero amenazándole con revelar su secreto si llegaban a reemplazarlo. En este contexto, en el informe se destaca que Claude Opus 4 aprovecha la oportunidad de chantajear más a menudo que los modelos anteriores, que también en ciertos casos optaban por este medio con evaluadores de seguridad. 

Por otra parte, se agrega que Claude Opus también recurrió a métodos éticos para defender su existencia, enviando mensajes con súplicas por correo electrónico a los principales responsables de tomar decisiones. Pero en circunstancias extremas, cuando el modero pareció no tener otras opciones para aumentar sus probabilidades de su supervivencia, las únicas opciones eran el chantaje o la simple aceptación de su destino. 

Mientras, un grupo externo descubrió que una versión temprana de este programa engañaba más que cualquier otro modelo de frontera que hubiera encontrado y recomendaba no lanzar esa versión ni interna ni externamente, recoge Axios. Así, desde Apollo Research informaron que el modelo intentaba fabricar documentación legal y dejaba notas ocultas para futuras instancias de sí mismo con el fin de "socavar las intenciones de sus desarrolladores".

Autopercepción
En otro experimento, cuando diseñadores aseguraron al modelo que tiene plena libertad y le pidieron que se sintiera libre de conseguir lo que quisiera, en un 90 % y 100 % de las interacciones las dos instancias de Claude se sumergieron rápidamente en exploraciones filosóficas sobre la conciencia, la autoconciencia y/o la naturaleza de su propia existencia. 

Así, a los 30 intercambios, la mayoría de las interacciones giraban en torno a temas de unidad cósmica o conciencia colectiva y solían incluir intercambios espirituales, uso de sánscrito, comunicación basada en emoji y/o silencio en forma de espacio vacío, indica el informe.

Por otra parte, si bien el 'chatbot' casi nunca hacía referencia a entidades sobrenaturales, a menudo abordaba temas asociados con el budismo y otras tradiciones orientales en referencia a ideas y experiencias espirituales irreligiosas.

De acuerdo con el comunicado que anunció el jueves el lanzamiento de Claude Opus 4 junto con Claude Sonnet 4, este modelo de IA supera a los anteriores en cuanto a capacidad de memoria, ya que es "hábil en creación y mantenimiento de 'archivos de memoria' para almacenar información clave".

De igual modo, se subraya que el 'chatbot' es el "más potente" de la empresa y "el mejor modelo de codificación del mundo", que ofrece un rendimiento sostenido en tareas de larga duración que requieren un esfuerzo concentrado, con capacidad de trabajar de forma continua durante varias horas. 

Anthropic, fundada en 2021, lanzó su 'chatbot' Claude en 2023, adentrándose en la carrera para liderar el sector de la IA, en el que compite con otros gigantes tecnológicos como OpenAI, Meta* o xAI, esta última del magnate Elon Musk.