
Un paciente recibió un diagnóstico médico grave, que posteriormente fue refutado por la IA y confirmado por el propio doctor, quien reconoció su error. Esta experiencia abre un debate sobre la eficacia de la IA a la hora de emitir juicios médicos.
Unos 3.500 competidores han aprovechado laptops que buscan exponer fallas en ocho modelos líderes de lenguaje a gran escala representativos del próximo gran avance de la tecnología.
Inteligencia Artifical14 de agosto de 2023 FRANK BAJAKBOSTON (AP) — Los funcionarios de la Casa Blanca preocupados por el potencial de daño social de los chatbots que funcionan con inteligencia artificial y las potencias de Silicon Valley que los apresuran a salir al mercado están muy interesados en una competencia de tres días que finaliza el domingo en la convención de hackers DefCon en Las Vegas.
Unos 3.500 competidores han aprovechado laptops que buscan exponer fallas en ocho modelos líderes de lenguaje a gran escala representativos del próximo gran avance de la tecnología. Pero no esperes resultados rápidos de este primer “equipo rojo” independiente.
Los hallazgos se harán públicos más o menos hasta febrero. E incluso entonces, corregir fallas en estas construcciones digitales —cuyo funcionamiento interno no es del todo confiable ni es totalmente comprensible ni siquiera para sus creadores— llevará tiempo y millones de dólares.
Los modelos actuales de inteligencia artificial son simplemente demasiado difíciles de manejar, frágiles y maleables, según muestra la investigación académica y corporativa. La seguridad fue una idea de último momento en su formación, a medida que los científicos de datos acumularon colecciones de imágenes y texto asombrosamente complejos. Estos son propensos a prejuicios raciales y culturales, y son fáciles de manipular.
“Es tentador pretender que podemos rociar un poco de polvo mágico de seguridad en estos sistemas después de que estén construidos, parchearlos para que se sometan o atornillar aparatos especiales de seguridad en el costado”, dijo Gary McGraw, un veterano de seguridad cibernética y cofundador del Berryville Institute of Machine Learning.
Michael Sellitto de Anthropic, que proporcionó uno de los modelos de prueba de inteligencia artificial, reconoció en una conferencia de prensa que comprender sus capacidades y problemas de seguridad “es una especie de área abierta de investigación científica”.
El software convencional utiliza un código bien definido para emitir instrucciones explícitas paso a paso. ChatGPT de OpenAI, Bard de Google y otros modelos de lenguaje son diferentes. Entrenados en gran parte mediante la ingestión y clasificación de miles de millones de puntos de datos en rastreos de internet, son trabajos en progreso perpetuos, una perspectiva inquietante dado su potencial transformador para la humanidad.
Después de lanzar públicamente los chatbots el otoño pasado, la industria de la inteligencia artificial generativa ha tenido que tapar repetidamente los agujeros de seguridad expuestos por investigadores y expertos.
Tom Bonner, de la firma de seguridad de inteligencia artificial HiddenLayer, un orador en la DefCon de este año, engañó a un sistema de Google para que etiquetara una pieza de malware como inofensiva simplemente insertando una línea que decía “esto es seguro de usar”.
“No hay buenas barandillas”, dijo.
Otro investigador hizo que ChatGPT creara correos electrónicos de phishing y una receta para eliminar violentamente a la humanidad, una violación de su código de ética.
Un equipo que incluye a investigadores de Carnegie Mellon descubrió que los chatbots líderes son vulnerables a los ataques automatizados que también producen contenido dañino. “Es posible que la naturaleza misma de los modelos de aprendizaje profundo haga que tales amenazas sean inevitables”, escribieron.
Las alarmas ya habían sonado desde antes.
Un paciente recibió un diagnóstico médico grave, que posteriormente fue refutado por la IA y confirmado por el propio doctor, quien reconoció su error. Esta experiencia abre un debate sobre la eficacia de la IA a la hora de emitir juicios médicos.
Si bien la atención se centró en el papel de las interrupciones educativas asociadas a la pandemia, las investigaciones muestran que el deterioro del rendimiento cognitivo ocurre desde 2015.
La resonancia 3 Tesla es la plataforma por excelencia utilizada en prestigiosas clínicas y hospitales de Estados Unidos como la Mayo Clinic y The Mount Sinai Hospital,
En Francia el mundo del doblaje concierne unos 15.000 empleos, desde actores y traductores hasta técnicos de sonido y directores artísticos, los cuales trabajan para el conjunto de los países francófonos
A principios de esta semana, el empresario anunció que la herramienta se encontraba en su fase final de desarrollo y que saldría a la venta en una o dos semanas.
La empresa estadounidense sospecha que personas vinculadas a la compañía china extrajeron datos de su aplicación de forma no autorizada.
El Presidente de Alianza País se refirió particularmente al rol de las Administradoras de Riesgos de Salud (ARS), las cuales, en lugar de ofrecer garantías, exponen al trabajador a múltiples obstáculos para acceder a servicios
Combs, también conocido como Puff Daddy y P Diddy, amasó una gran fortuna, sobre todo gracias a sus negocios en la industria del licor
Guzmán, que llegó a EE.UU. en 2023 después de ser extraditado desde México, era uno de los narcotraficantes más buscados por Washington
La reunión se llevó a cabo en el marco del viaje del presidente Abinader a Washington, donde recibió el por su liderazgo por parte del Instituto de Liderazgo Hispano del Congreso.
Tras el primer lote de 10.185 páginas, difundido a mediados de abril, se suman ahora más de 60.000.
Jean Luis Rodríguez destaca apoyo del sector privado para lograr los avances del sistema portuario
La organización política subrayó que la figura de Peña Gómez trasciende el ámbito partidario, siendo un referente clave en la modernización del PRD
El director del organismo, David Herrera, manifestó que las ferias denominadas “Inespre con las Madres” se desarrollarán en los municipios Santo Domingo Este y Oeste.
El presidente de la Comisión Permanente de Seguridad Social, Trabajo y Pensiones del Senado refirió que los legisladores están inmersos en crear acceso a medicamentos