Otro caso fue el que dio a conocer la FGJCDMX con la detención de Diego “N”, ex alumno del Instituto Politécnico Nacional (IPN) por delito de violencia digital.

El lado oscuro de la IA: casos de deepfakes en México y el mundo

Una aplicación llamada Lisa AI publicó en la red X (Twitter) un anuncio de 22 segundos con imágenes de Scarlett Johansson con voz de IA promocionándola, pero fue un engaño.

La estrella Bad Bunny, Gretta Thunberg y Vladimir Putin son ejemplos de la manipulación de su voz a través de supuestas grabaciones que nunca habían hecho. hicieron, resultado de una clonación ilegal realizada con Inteligencia Artificial (IA).

Los anteriores, son casos típicos de deepfakes aplicados a la voz, pero también los hay en los que se combinan imágenes y voz, tal como lo padeció la actriz Scarlett Johansson.

Una aplicación llamada Lisa AI publicó en la red X (Twitter) un anuncio de 22 segundos con imágenes de la actriz y una voz generada por IA similar a la de ella promocionando su aplicación, aunque el anuncio fue eliminado)

Los abogados de la actriz mencionaron a Variety que Johansson “no es un portavoz de la aplicación” y su abogado sentenció que “no tomamos estas cosas a la ligera. Según nuestro curso de acción habitual en estas circunstancias, lo abordaremos con todos los recursos legales que tengamos”.

Porno e IA

Otro caso fue el que dio a conocer la La Fiscalía General de Justicia de Ciudad de México (FGJCDMX) con la detención de Diego “N”, ex alumno de la Escuela Superior de Comercio y Administración (ESCA), del Instituto Politécnico Nacional (IPN) por el delito de violencia digital, en contra de un grupo de estudiantes.

El acusado usó sin autorización, fotos de estudiantes para modificarlas con IA y venderlas como contenido explícito a través de plataformas digitales.

Prevención legislativa

Ante ello, el diputado Miguel Torruco presentó una propuesta de reforma al Código Penal Federal para castigar con ocho años de cárcel, la alteración de contenidos con herramientas basadas en IA en perjuicio de cualquier persona.

La iniciativa considera cambios al capítulo 3, artículo 121 por el uso indebido de la tecnología, así como las sanciones.

La reforma penalizaría a personas, hackers o colectivos que usen algoritmos para la creación o modificación de videos, audios, rostros, grabaciones de voz, o escenarios que puedan parecer reales, para cometer fraude o perjudicar la imagen y reputación de cualquier persona física o moral, o quienes estén en busca de causar daño patrimonial.

Las sanciones serían para individuos o colectivos que, sin consentimiento, generen, expongan, distribuyan, transmitan, reproduzcan, comercialicen e intercambien contenido íntimo creado con IA, a través de medios impresos, correos electrónicos, redes sociales, o cualquier otro medio tecnológico.

Las sanciones van de 2 a 8 años de prisión, con multas de entre 100 y 800 días de salario mínimo y si las personas afectadas son menores de edad, se encuentran en condiciones de vulnerabilidad, discapacidad, la condena aumentará 20%.

Para consultar la propuesta, puedes hacerlo aquí (http://gaceta.diputados.gob.mx/Gaceta/65/2023/nov/20231114-II-1.html#Iniciativa3)

Con información de Wired, Yahoo News y FJCDMX.

Contact Us