Las mujeres son un objetivo particular de las herramientas y aplicaciones de IA, ampliamente disponibles de forma gratuita y sin necesidad de conocimientos técnicos
Inteligencia Artifical26 de julio de 2023
Aplicaciones fotográficas que desnudan digitalmente a las mujeres, la posibilidad de crear desde una simple frase fotos de "chicas de inteligencia artificial (IA)" e imágenes manipuladas que alimentan la "extorsión sexual": el auge de la pornografía ultrafalsa está superando esfuerzos de EEUU y Europa para regular la tecnología.
Las falsificaciones de fotos y videos cada vez más realistas basadas en IA -llamadas "deepfakes"- generalmente se asocian a personalidades conocidas, como el papa Francisco con un abrigo acolchado o Donald Trump bajo arresto, pero los expertos afirman que su uso se está extendiendo para generar pornografía no consensuada que puede destruir vidas comunes y corrientes.
Las mujeres son un objetivo particular de las herramientas y aplicaciones de IA, ampliamente disponibles de forma gratuita y sin necesidad de conocimientos técnicos, que permiten a los usuarios retirar digitalmente la ropa de sus fotos o insertar sus rostros en videos sexualmente explícitos.
"El aumento de la pornografía generada por IA y de la 'deepfake porn' normaliza el uso de la imagen de una mujer sin su consentimiento", explica a la AFP Sophie Maddocks, investigadora de la Universidad de Pensilvania que estudia los abusos sexuales basados en imágenes.
"¿Qué mensaje enviamos como sociedad sobre el consentimiento cuando se puede desnudar virtualmente a cualquier mujer?", comentó.
En un dramático video, una "streamer" estadounidense de Twitch conocida como QTCinderella lamentó la "constante explotación y cosificación" de las mujeres cuando se convirtió en víctima del "porno deepfake". Fue acosada, agregó, por personas que le enviaban copias de las manipulaciones en las que aparecía.
El escándalo estalló en enero durante una transmisión en vivo del también "streamer" Brandon Ewing, quien fue sorprendido mirando un sitio web que contenía imágenes sexuales falsas de varias mujeres, entre ellas QTCinderella.
"No es tan simple como 'sólo' ser violada. Es mucho más que eso", escribió la creadora de contenido en Twitter, ahora llamado X, añadiendo que la experiencia la había "arruinado".
"CHICAS HIPERREALES"
La proliferación de "deepfakes" subraya la amenaza de la desinformación habilitada por la IA, que puede dañar la reputación y provocar intimidación o acoso.
Si bien celebridades como la cantante Taylor Swift y la actriz Emma Watson han sido víctimas de la pornografía falsa, las mujeres que no están en el ojo público también son el objetivo de estos ataques.
Los medios de comunicación estadounidenses y europeos están llenos de testimonios de primera mano de mujeres, desde académicas hasta activistas, que se sorprendieron al descubrir sus rostros en videos pornográficos falsos.
Alrededor del 96% de los videos "deepfake" en línea son pornografía no consensuada y en la mayoría de ellos aparecen mujeres, según un estudio de 2019 realizado por la empresa holandesa de IA Sensity.
"El acto de la fantasía sexual, que antes era privado y que tiene lugar dentro de la mente de alguien, se transfiere ahora a la tecnología y a los creadores de contenidos en el mundo real", dijo a la AFP Roberta Duffield, directora de inteligencia de Blackbird.AI.
Hay aplicaciones gratuitas que pueden crear "chicas hiperreales de IA", avatares a partir de fotos reales, personalizándolas con indicaciones como "piel oscura" u otras con connotaciones sexuales.
"RINCÓN OSCURO"
Los avances tecnológicos han dado lugar a lo que Duffield denomina una "industria artesanal en expansión" en torno al porno potenciado con IA, en la que muchos creadores de "deepfakes" aceptan solicitudes pagas para generar contenidos con una persona que el cliente elige.
El mes pasado, el FBI emitió una advertencia sobre los "esquemas de sextorsión", en los que los estafadores capturan fotos y videos de las redes sociales para crear material falso de "temática sexual" que luego se utilizan para chantajear al usuario afectado.
El FBI añadió que entre las víctimas había menores de edad y adultos que no dieron su consentimiento.
La proliferación de herramientas de inteligencia artificial ha superado la regulación.
"Esto no es un rincón oscuro de Internet, donde se crean y comparten estas imágenes", dijo a la AFP Dan Purcell, director ejecutivo y fundador de la empresa de protección de marcas de inteligencia artificial Ceartas.
"Está justo delante de nuestras narices. Y sí, la ley debe ponerse al día", añadió.
En Estados Unidos, cuatro estados, incluidos California y Virginia, prohibieron la distribución de pornografía falsa, pero las víctimas suelen tener pocos recursos legales si los perpetradores viven fuera de estas jurisdicciones.
En mayo, un legislador estadounidense presentó la Ley de prevención de falsificaciones profundas de imágenes íntimas, que haría ilegal compartir pornografía falsificada sin consentimiento.
Espacios en línea populares, como Reddit, también han tratado de regular sus florecientes comunidades de pornografía con IA.
"Internet es una jurisdicción sin fronteras, y debe haber una ley internacional unificada para proteger a las personas contra esta forma de explotación", dijo Purcell.
Después de que Google y otros tomaran la delantera en la carrera de la inteligencia artificial, Apple prometió plantar su primera gran apuesta en el campo con una serie de nuevas características que debían llegar al iPhone en 2024 como parte de una anunciada actualización de software.
Kirchner, de 27 años y uno de los rostros más visibles de Stop AI, sigue desaparecido desde el 21 de noviembre, cuando tuiteó que ya no era parte de esa empresa, que había cofundado
Con la posible introducción de publicidad en su modelo de inteligencia artificial, OpenAI buscaría aumentar sus ingresos para cubrir sus elevados costes computacionales.
La empresa estadounidense Anthropic comunicó este jueves que su herramienta de codificación, Claude Code, fue "manipulada" supuestamente por 'hackers' chinos para atacar de forma autónoma a 30 entidades en todo el mundo.
El comentario de Musk se produjo en respuesta a un video compartido por el emprendedor e 'influencer' Mario Nawfal, en el que el magnate explica cómo su robot humanoide podría transformar la economía y la sociedad.
El caso es visto como un precedente jurídico sobre las regulaciones de la IA generativa dentro de la Unión Europea, particularmente en el ámbito artístico.
En septiembre pasado, el Servicio de Inmigración y Control de Aduanas baleó de muerte a otra persona fuera de Chicago. Dos personas han muerto después de ser atropelladas por vehículos mientras huían de las autoridades de inmigración.
La muerte del intérprete de 'Aventurero' fue confirmada por el coronel Álvaro Bello de la Aeronáutica Civil. Según reportan medios locales, otras seis personas, que al parecer eran sus músicos, también fallecieron en el siniestro.
Alexis Moisés expresó que los buenos resultados alcanzados gracias a este trabajo se evidencian en el incremento constante del flujo de llegadas internacionales, que en 2025 superó los 11.6 millones de visitantes
Según su testimonio, tiempo después vivió un episodio real en el que, tras despegar del aeropuerto Olaya Herrera, de Medellín, la aeronave en la que viajaba sufrió una falla en uno de sus motores y tuvo que regresar de emergencia
Los investigadores abandonaron el lugar tras recuperar la única bala, probablemente, disparada desde varios cientos de metros de distancia. El caso está siendo investigado como asesinato cometido por una banda organizada.
El tribunal de medidas coercitivas en la región suroeste de Valais, ordenó que Jacques Moretti, un gerente del bar Le Constellation en Crans-Montana, fuera retenido debido a un posible "riesgo de fuga" señalado por los fiscales.
La jueza federal de distrito, Margaret Garnett, indicó que la audiencia en el caso de pena de muerte se limitará a un solo testigo: un policía de Altoona, Pensilvania, donde Mangione fue arrestado en diciembre de 2024.
La justicia federal de Nueva York determinó que el acusado coordinó durante años el envío de toneladas de cocaína con apoyo de altos mandos militares y funcionarios estatales vinculados a la organización terrorista Cartel de los Soles
El legislador afirmó que los productores agrícolas del Valle de San Juan han sido dejados “a su suerte”, al señalar la falta de crédito oportuno, ausencia de protección estatal y deudas millonarias acumuladas con los productores, principalmente de habichuelas