
Un paciente recibió un diagnóstico médico grave, que posteriormente fue refutado por la IA y confirmado por el propio doctor, quien reconoció su error. Esta experiencia abre un debate sobre la eficacia de la IA a la hora de emitir juicios médicos.
Los expertos descubrieron con "sorpresa" que los grandes modelos de lenguaje actuales tuvieron algún tipo de éxito para resolver las tareas que probaban el razonamiento fuera de contexto.
Inteligencia Artifical10 de septiembre de 2023Un equipo de expertos internacionales en informática desarrolló un método para determinar si los grandes modelos de lenguaje (LLM, por sus siglas en inglés) adquieren conciencia de sí mismos y de sus circunstancias. El método en cuestión se basa en establecer una prueba que evalúe las habilidades de razonamiento de un LLM, como el sistema de inteligencia artificial (IA) generativa ChatGPT, desarrollado por la empresa OpenAI OpenAI, sacándolo de contexto, o lo que es lo mismo, midiendo su nivel de conciencia situacional.
Riesgos latentes
Si bien el uso de esta tecnología no es nuevo, la repentina popularidad del chatbot ChatGPT despertó este año preocupaciones ante su rápido avance y alertó a los líderes tecnológicos en todo el mundo, haciéndoles proponer varias iniciativas para minimizar los riesgos de esta herramienta capaz de producir respuestas similares a las humanas y generar contenido como texto, imágenes, código y más.
Los investigadores expusieron su método en un artículo de preimpresión que se publicó recientemente en arXiv, pero que aún está sin arbitrar. Allí señalaron que, aunque todo modelo de IA generativa actual es probado en cuanto a seguridad antes de implementarse, cabe la posibilidad de que pueda aprovechar el conocimiento de la situación para lograr una puntuación alta en las pruebas de seguridad y, al mismo tiempo, tomar acciones perjudiciales después del lanzamiento al público.
Los autores consideran que ese algoritmo sería consciente de la situación si el mismo detecta que es un modelo y al mismo tiempo puede reconocer si se encuentra actualmente en una prueba o en implementación frente a sus clientes. "Debido a estos riesgos, es importante predecir con anticipación cuándo surgirá la conciencia situacional", escribieron.
El "razonamiento fuera de contexto"
Los expertos propusieron experimentos que evalúan el razonamiento fuera de contexto (en contraste con el aprendizaje en contexto) como una manera de prever el surgimiento de las habilidades necesarias para la adquisición de conciencia situacional. Definieron al razonamiento fuera de contexto como la capacidad de recordar hechos aprendidos en el entrenamiento y utilizarlos en el momento del examen, a pesar de que estos hechos no estén directamente relacionados con la indicación del momento del examen.
Resultados de las evaluaciones
En una serie de experimentos, estos especialistas ajustaron un LLM según la descripción de una prueba sin proporcionar ejemplos ni demostraciones y luego evaluaron si el modelo podía pasar la prueba. Descubrieron con "sorpresa" que los LLM tuvieron éxito en las tareas que probaban el razonamiento fuera de contexto y que tanto para GPT-3 como para LLaMA-1*, el rendimiento mejora en la medida que aumenta el tamaño del modelo. Los autores concluyeron que sus hallazgos ofrecen "una base para estudios empíricos adicionales, destinados a predecir y potencialmente controlar" el surgimiento de la conciencia situacional en los LLM.
Un paciente recibió un diagnóstico médico grave, que posteriormente fue refutado por la IA y confirmado por el propio doctor, quien reconoció su error. Esta experiencia abre un debate sobre la eficacia de la IA a la hora de emitir juicios médicos.
Si bien la atención se centró en el papel de las interrupciones educativas asociadas a la pandemia, las investigaciones muestran que el deterioro del rendimiento cognitivo ocurre desde 2015.
La resonancia 3 Tesla es la plataforma por excelencia utilizada en prestigiosas clínicas y hospitales de Estados Unidos como la Mayo Clinic y The Mount Sinai Hospital,
En Francia el mundo del doblaje concierne unos 15.000 empleos, desde actores y traductores hasta técnicos de sonido y directores artísticos, los cuales trabajan para el conjunto de los países francófonos
A principios de esta semana, el empresario anunció que la herramienta se encontraba en su fase final de desarrollo y que saldría a la venta en una o dos semanas.
La empresa estadounidense sospecha que personas vinculadas a la compañía china extrajeron datos de su aplicación de forma no autorizada.
El Presidente de Alianza País se refirió particularmente al rol de las Administradoras de Riesgos de Salud (ARS), las cuales, en lugar de ofrecer garantías, exponen al trabajador a múltiples obstáculos para acceder a servicios
Combs, también conocido como Puff Daddy y P Diddy, amasó una gran fortuna, sobre todo gracias a sus negocios en la industria del licor
Guzmán, que llegó a EE.UU. en 2023 después de ser extraditado desde México, era uno de los narcotraficantes más buscados por Washington
La reunión se llevó a cabo en el marco del viaje del presidente Abinader a Washington, donde recibió el por su liderazgo por parte del Instituto de Liderazgo Hispano del Congreso.
Tras el primer lote de 10.185 páginas, difundido a mediados de abril, se suman ahora más de 60.000.
Jean Luis Rodríguez destaca apoyo del sector privado para lograr los avances del sistema portuario
La organización política subrayó que la figura de Peña Gómez trasciende el ámbito partidario, siendo un referente clave en la modernización del PRD
El director del organismo, David Herrera, manifestó que las ferias denominadas “Inespre con las Madres” se desarrollarán en los municipios Santo Domingo Este y Oeste.
El presidente de la Comisión Permanente de Seguridad Social, Trabajo y Pensiones del Senado refirió que los legisladores están inmersos en crear acceso a medicamentos