Los expertos descubrieron con "sorpresa" que los grandes modelos de lenguaje actuales tuvieron algún tipo de éxito para resolver las tareas que probaban el razonamiento fuera de contexto.
Inteligencia Artifical10 de septiembre de 2023
Un equipo de expertos internacionales en informática desarrolló un método para determinar si los grandes modelos de lenguaje (LLM, por sus siglas en inglés) adquieren conciencia de sí mismos y de sus circunstancias. El método en cuestión se basa en establecer una prueba que evalúe las habilidades de razonamiento de un LLM, como el sistema de inteligencia artificial (IA) generativa ChatGPT, desarrollado por la empresa OpenAI OpenAI, sacándolo de contexto, o lo que es lo mismo, midiendo su nivel de conciencia situacional.
Riesgos latentes
Si bien el uso de esta tecnología no es nuevo, la repentina popularidad del chatbot ChatGPT despertó este año preocupaciones ante su rápido avance y alertó a los líderes tecnológicos en todo el mundo, haciéndoles proponer varias iniciativas para minimizar los riesgos de esta herramienta capaz de producir respuestas similares a las humanas y generar contenido como texto, imágenes, código y más.
Los investigadores expusieron su método en un artículo de preimpresión que se publicó recientemente en arXiv, pero que aún está sin arbitrar. Allí señalaron que, aunque todo modelo de IA generativa actual es probado en cuanto a seguridad antes de implementarse, cabe la posibilidad de que pueda aprovechar el conocimiento de la situación para lograr una puntuación alta en las pruebas de seguridad y, al mismo tiempo, tomar acciones perjudiciales después del lanzamiento al público.
Los autores consideran que ese algoritmo sería consciente de la situación si el mismo detecta que es un modelo y al mismo tiempo puede reconocer si se encuentra actualmente en una prueba o en implementación frente a sus clientes. "Debido a estos riesgos, es importante predecir con anticipación cuándo surgirá la conciencia situacional", escribieron.
El "razonamiento fuera de contexto"
Los expertos propusieron experimentos que evalúan el razonamiento fuera de contexto (en contraste con el aprendizaje en contexto) como una manera de prever el surgimiento de las habilidades necesarias para la adquisición de conciencia situacional. Definieron al razonamiento fuera de contexto como la capacidad de recordar hechos aprendidos en el entrenamiento y utilizarlos en el momento del examen, a pesar de que estos hechos no estén directamente relacionados con la indicación del momento del examen.
Resultados de las evaluaciones
En una serie de experimentos, estos especialistas ajustaron un LLM según la descripción de una prueba sin proporcionar ejemplos ni demostraciones y luego evaluaron si el modelo podía pasar la prueba. Descubrieron con "sorpresa" que los LLM tuvieron éxito en las tareas que probaban el razonamiento fuera de contexto y que tanto para GPT-3 como para LLaMA-1*, el rendimiento mejora en la medida que aumenta el tamaño del modelo. Los autores concluyeron que sus hallazgos ofrecen "una base para estudios empíricos adicionales, destinados a predecir y potencialmente controlar" el surgimiento de la conciencia situacional en los LLM.
El pacto tiene como objetivo primordial fortalecer el desarrollo del ecosistema de inteligencia artificial (IA) en la República Dominicana y Centroamérica.
Edwards, quien nunca antes había jugado a la lotería, confesó que mientras jugaba decidió abrir el programa en su celular: "Estaba como, 'ChatGPT, háblame… ¿Tienes números para mí?'".
Demis Hassabis afirmó que dada la rapidez con la que avanza la IA, "lo único seguro es que se avecina un gran cambio".
Sam Altman sugirió que en 75 años la mitad de la gente hará cosas nuevas y la otra mitad actividades parecidas a las actuales.
El enfoque de los investigadores chinos permite entrenar el modelo utilizando volúmenes de datos significativamente más bajos.
El estudio realizado sobre el campo laboral estadounidense indicó que las áreas relacionadas con el desarrollo de 'software', los servicios al cliente, la contabilidad y el apoyo administrativo son los más castigados por la automatización de la IA.
El principal argumento de los renunciantes se centra en la falta de garantías de seguridad para sus vidas durante las audiencias, citando la alteración del orden público en el entorno del Palacio de Justicia.
Actualmente, más de 500 miembros del Cuerpo de Bomberos del Distrito Nacional han recibido capacitación presencial y virtual, fortaleciendo la preparación del organismo de socorro.
El líder del PLD afirmó con determinación que el partido compite actualmente por el primer lugar y pronosticó que, gracias a su trayectoria, la organización recuperará la confianza mayoritaria del pueblo dominicano en los próximos meses.
La puesta en funcionamiento de ambas instituciones marca un hito para la provincia, con el objetivo de ampliar las oportunidades de educación superior pública y de calidad en la región.
Este espacio está destinado a brindar tratamientos a pacientes pediátricos con enfermedades complejas como artritis idiopática juvenil y lupus eritematoso sistémico.
Gamal Michelén, reconocido arquitecto y crítico de arte, resaltó la trascendencia de esta iniciativa cultural, que reúne obras de cinco grandes maestros dominicanos
Según el informe, el detenido Cristofer de León Lora (a) Cris realizó varios disparos en medio del suceso, ocasionándole a la víctima las heridas mortales.
La entidad argumenta que los magistrados han ejercido sus funciones como salvaguarda del sistema democrático dominicano.
El líder de Fenatrano afirmó que este monumental monto no incluye la vasta cantidad de dinero que, a su juicio, obtienen los empresarios al engañar a los usuarios con el octanaje de los combustibles.