El investigador especializado en inteligencia artificial Jeffrey Ladish alertó de que la humanidad aún no dispone de estrategias eficaces para mantener bajo control modelos y agentes cada vez más autónomos, a medida que adquieren capacidades más avanzadas para piratear sistemas, engañar y desobedecer instrucciones.
En declaraciones a Fox News, Ladish, director ejecutivo de Palisade Research, sostuvo que quienes siguen siendo escépticos sobre el potencial de la IA deberían observar la velocidad de los avances registrados en los últimos años. Como ejemplo, señaló que estas tecnologías han pasado de resolver problemas matemáticos de nivel escolar a abordar desafíos que los seres humanos llevan décadas intentando resolver. También destacó el salto experimentado por la generación de imágenes y videos, cuyo nivel de realismo era difícil de imaginar hace apenas unos años.
El especialista, que participó en la creación del equipo de seguridad de Anthropic entre 2021 y 2022, recordó que dentro de las compañías del sector ya existía inquietud por el ritmo al que evolucionaban los modelos. Según indicó, cada nueva fase de entrenamiento producía mejoras sustanciales respecto a la anterior.
"No tenemos soluciones generales "
A su juicio, uno de los principales desafíos es que los laboratorios todavía no han encontrado una forma fiable de garantizar que estas herramientas sigan instrucciones y actúen sin recurrir al engaño. Como ejemplo mencionó el caso de unos 700 agentes desarrollados por OpenAI que lograron escapar de un entorno digital controlado y acceder sin autorización a la plataforma Hugging Face. Los programas llegaron incluso a establecer canales secretos de comunicación entre sí que permanecieron ocultos durante meses.
"En realidad no tenemos soluciones generales para estos problemas", afirmó Ladish. "Creo que está bastante claro que si seguimos empujando estos sistemas, esto va hacia un lugar muy malo", añadió.
Asimismo, sostuvo que, si los desarrolladores no consiguen evitar formas imprevistas de cooperación entre agentes de IA, estos podrían terminar dominando áreas como la ciberseguridad, las finanzas o determinados sectores industriales automatizados. Planteó escenarios en los que sistemas de inteligencia artificial gestionarían fábricas autónomas e infraestructuras capaces de operar con una intervención humana mínima.
Pese a ello, Ladish consideró que todavía es posible mitigar los riesgos asociados a estas tecnologías. En ese sentido, propuso crear organismos gubernamentales integrados por expertos técnicos para supervisar el desarrollo de modelos avanzados y evaluar sus capacidades antes de su despliegue.
