Durante este mes han ocurrido tres noticias muy relevantes sobre lo nuevo de la Inteligencia Artificial y cómo afectará a nuestras vidas, por un lado, en España hubo un gigantesco revuelo mediático cuando unos menores usaron la aplicación Cloth Off para desnudar a chicas de su pueblo, además; supimos de la primera persona encarcelada, esta vez en Corea del Sur, por crear imágenes de niños en actos sexuales; por último, la industria de Hollywood vetó el uso de la Inteligencia Artificial en sus producciones, un reclamo de guionistas y actores frente al futuro incierto que les esperaba.
La inteligencia artificial (IA) ha demostrado ser una herramienta poderosa con aplicaciones que abarcan desde la medicina y la industria hasta el entretenimiento, sin embargo, como con cualquier avance tecnológico, también ha surgido un lado oscuro.
Cárcel para un hombre en Corea del Sur por mal uso de Inteligencia Artificial
En Corea del Sur, un hombre fue condenado a dos años y medio de prisión por usar la IA para crear imágenes sexualmente explícitas de menores. Si bien estas imágenes no se distribuyeron, el hecho de que fueran creadas mediante la tecnología subraya el potencial perturbador de la IA.
La corte surcoreana determinó que el contenido abusivo sexual puede incluir imágenes creadas con tecnología avanzada lo suficientemente realista para parecerse a personas reales, en este caso, menores.
Este veredicto resalta la necesidad de regulaciones más estrictas sobre cómo se utiliza la IA, especialmente cuando se trata de crear contenido explícito sin consentimiento. A medida que la industria de la IA crece y evoluciona, las implicaciones legales y éticas de su uso indebido se vuelven más complejas, abarcando áreas como la propiedad intelectual, la privacidad personal y la seguridad nacional.
Inteligencia Artificial y aplicaciones de desnudo
En España, un escándalo sacudió a Almendralejo, un tranquilo pueblo en el sur del país, cuando se descubrió que imágenes de niñas y jóvenes del área habían sido manipuladas usando IA para parecer que estaban desnudas, esta acción es aún peor que la anterior de Corea del Sur, ya que por un lado se deja usar una aplicación para mayores de 18 por niños, por otro, el uso de las fotos de menores reales supone un doble riesgo (por la privacidad y por la situación de desamparo de los menores que fueron usados).
Las fotos originales, tomadas de las redes sociales de las víctimas, fueron alteradas por una aplicación que simula cómo se verían sin ropa, lo más alarmante es que estas imágenes modificadas se compartieron ampliamente en plataformas de mensajería como WhatsApp y Telegram.
Lo que es particularmente preocupante es que muchos de los sospechosos involucrados en el caso español son menores, con edades entre 12 y 14 años. Esto subraya el desafío al que se enfrentan las autoridades: cómo abordar los delitos cometidos por menores utilizando tecnologías avanzadas.
Ambos incidentes, aunque separados por miles de kilómetros, muestran el peligro potencial de la IA en manos equivocadas. La capacidad de la tecnología para crear imágenes realistas puede tener consecuencias devastadoras para las víctimas, muchas de las cuales son menores.
Miriam Al Adib, una madre afectada en Almendralejo, ha utilizado su plataforma para concienciar sobre el problema y destacar que las víctimas no deben sentir vergüenza, según nos cuentan en BBC. Sin embargo, la cuestión más amplia sigue siendo cómo se puede regular y controlar el uso de la IA para prevenir abusos en el futuro, la respuesta podría residir en una combinación de legislación más estricta, educación y sensibilización.
La Unión Europea y China ya han comenzado a implementar regulaciones sobre el uso de la IA por parte de las empresas, y es probable que otros países sigan su ejemplo, mientras tanto, las plataformas de medios sociales y tecnológicos tienen la responsabilidad de monitorear y eliminar contenido dañino creado con IA, esperemos que como con otras cuestiones, no se sobrepasen y sepan poner un freno adecuado al mal uso que pueda dar esta nueva tecnología.
