La policía de Tokio, Japón, arrestó hace unos días a un hombre de 31 años por crear y difundir imágenes sexuales falsas de mujeres famosas, utilizando inteligencia artificial generativa.
Así lo informó el medio The Japan Times, que detalló que el sospechoso Hiroya Yokoi, proveniente de la ciudad de Akita, habría hecho 20.000 imágenes sexualmente explícitas de 262 mujeres del mundo de la actuación y la televisión.
La empresa argentina que cerró el acuerdo multimillonario con OpenAI: los detalles del proyecto y la inversión
El sospechoso confirmó que trabajó haciendo deepfakes (imágenes, videos o audios falsos creados con inteligencia artificial que imitan de manera muy realista la apariencia o la voz de una persona) para ganar dinero, destinado a cubrir sus gastos de manutención, como alojamiento, transporte, alimentación, y para pagar un préstamo estudiantil. De esta forma, acumuló un total de ¥1,2 millones (yen japonés) entre octubre del año pasado y septiembre de este año, lo que equivale a unos US$8000.
Se trata de la primera vez que la policía de Japón toma medidas enérgicas contra este tipo de situaciones en las que se difunden imágenes deepfakes sexuales de celebridades.
El acusado explicó que se sirvió de un software gratuito de inteligencia artificial generativa, el cual aprendió a utilizar leyendo artículos y videos que encontró en internet. Señaló que mostraba las imágenes que generaba a los usuarios que pagasen una cuota mensual; contaba con un “servicio premium”, para aquellos que abonaran un plan más caro. Estos podían acceder a contenido personalizado, solicitando celebridades en particular, realizando poses específicas.
Fuerte golpe en el mundo cripto. Dos viernes seguidos de liquidaciones millonarias
Desde el medio japonés aseguran que las imágenes deepfake de contenido sexual se han convertido en una problemática social, sobre todo en casos en que las víctimas son jóvenes. De hecho, el año pasado, según datos de la Agencia Nacional de Policía, hubo más de 100 casos de deepfake sexual en el país. Vale resaltar que la mayoría fueron creados por compañeros de clase.
Estas noticias se suman al anuncio que hizo hace unos días por Open AI -empresa dueña de ChatGPT- sobre las nuevas medidas que implementarán para “aliviar” las restricciones de su chatbot, que podrá entregar contenido erótico a usuarios adultos verificados.
El director general de OpenAI, Sam Altman, dijo en su cuenta de X que restricciones más fuertes sobre la IA para abordar preocupaciones de salud mental han hecho que ChatGPT sea “menos útil o disfrutable para muchos usuarios que no tienen problemas de salud mental”.
Los controles más estrictos llegaron después de que el adolescente Adam Raine, de California, se suicidara a principios de este año. En una demanda, sus padres aseguraron que ChatGPT le dio consejos específicos sobre cómo quitarse la vida.
En septiembre, se lanzó una experiencia de ChatGPT para menores de 18 años, redirigiéndolos a contenido apropiado para su edad que bloquea material gráfico y sexual. El cambio más significativo llegará en diciembre cuando Open AI planea implementar un control de edad más exhaustivo para llevar contenido erótico a adultos verificados.