Iniciativa en el Senado para tipificar como delitos deepfakes y sancionar la manipulación de imágenes, aunque no exista víctima determinable

La semana pasada, la senadora Olga Sánchez Cordero presentó una iniciativa de reformas al Código Penal Federal, “en materia de regulación de las nuevas tecnologías con fines de la creación de contenido con fines lascivos con víctimas reales o generadas”, es decir, deepfakes o ultrafalsos.

En el sitio latam.kaspersky.com se explica que deepfake “es una palabra compuesta por ‘deep’ de ‘deep learning’, o aprendizaje profundo, y ‘fake’, que significa falsificación. El aprendizaje profundo es un método avanzado de Inteligencia Artificial (IA) que utiliza múltiples capas de algoritmos de aprendizaje automático para extraer progresivamente características de nivel superior de una entrada sin procesar. Tiene la capacidad de aprender a partir de datos no estructurados, como el rostro humano. Por ejemplo, la IA puede recopilar datos sobre tus movimientos físicos.

“Posteriormente, se pueden procesar estos datos para crear un vídeo deepfake a través de una GAN (Red generativa antagónica). Se trata de otro tipo de sistema especializado de aprendizaje automático. Se emplean dos redes neuronales que compiten entre sí para el aprendizaje de las características de un conjunto de entrenamiento (por ejemplo, fotografías de caras) y la generación posterior de nuevos datos con las mismas características (nuevas ‘fotografías’).”

Como son imágenes generadas por computadora, tratándose de delitos de índole sexual, como pornografía o pornografía infantil, no suele existir una víctima real o identificable. Sin embargo, según se lee en la iniciativa, en abril, el juez provincial Benoit Gagnon, de Quebec, Canadá, sentenció a prisión a Steven Larouche por la posesión y creación de pornografía infantil mediante el uso de lA.

Este hombre creó siete videos con pornografía infantil mediante la tecnología de deepfake. Al haberse declarado culpable de haber creado estos videos, además de la posesión de 545,000 archivos con pornografía infantil, fue sentenciado a ocho años de prisión. Se trató del primer caso de su tipo en Canadá en el que se sancionó un delito sin una víctima real o identificable.

Si bien la utilización de estas tecnologías se ha presentado como una forma de expresión, protegida por el derecho humano a la libertad de expresión, en la iniciativa se recuerda que en México la Suprema Corte determinó que se debe distinguir entre tres tipos de manifestaciones en Internet: “(I) las que constituyen un delito según el derecho internacional; (II) las que no son punibles como delito, pero pueden justificar una restricción y una demanda civil; y (III) las que no dan lugar a sanciones penales ni civiles, pero que plantean problemas en términos de tolerancia, urbanidad y respeto por los demás.”1

Cuando se trata de conductas que no están tipificadas como delitos, la Suprema Corte considera que el bloqueo del contenido de Internet debe ser concreto.

Al considerar que la creación de imágenes pornográficas daña a la sociedad y el desarrollo sano de niñas, niños y adolescentes, en la iniciativa se propone, por un lado, aumentar la pena a quienes comercien, distribuyan, expongan, hagan circular u oferten, a menores de dieciocho años de edad libros, escritos, grabaciones, filmes, fotografías, anuncios impresos, imágenes u objetos, de carácter pornográfico, reales o simulados, sea de manera física, o a través de cualquier medio, de seis meses a cinco años de prisión y de trescientos a quinientos días multa actuales, a de siete a doce años de prisión y de ochocientos a dos mil días multa. (Artículo 200 del Código Penal Federal).

Por otro lado, se propone agregar el Capítulo VIII Bis "DE LAS ACTIVIDADES TECNOLÓGICAS QUE ATENTAN CONTRA LA DIGNIDAD DE LAS PERSONAS", para sancionar con pena de prisión de seis a ocho años de prisión y hasta quinientos días multa a la persona que de manera directa o interpósita persona utilice las tecnologías relacionadas con internet y computación en los siguientes supuestos:

“I. A quien altere digitalmente el rostro de una persona en imágenes, videos y/o audios con la intención de hacerlos pasar por verdaderos.

“II. A quien dibuje, modifique, adapte fotografías, videos, imágenes de forma digital o por computadora que representen a personas menores de dieciocho años de edad, a personas que no tengan capacidad para comprender el significado del hecho o a personas que no tengan capacidad para resistirlo, realizando, ejecutando o participando de forma directa o indirecta en los delitos que contempla el presente Código.

“III. A quien represente, dibuje, exponga, ilustre o utilice fotografías de los órganos sexuales de un niño, niña o adolescente con fines lascivos.”

También se propone sancionar a quien reproduzca, utilice, almacene, posea, distribuya, venda, compre, arriende, exponga, publicite, transmita, importe, exporte, elabore, represente o produzca por cualquier medio el material referido antes.

Cabe señalar que en la iniciativa hay algunos errores, como la palabra “silvato”, en lugar de “silbato”, o la referencia en el propuesto artículo 209 Bis 4 a un inexistente artículo 416 Bis:

“Artículo 209 Bis 4.- En los casos a los que se refiere el artículo 416 Bis en que no exista una víctima real o determinable la pena será de seis a ocho años de prisión y hasta setecientos cincuenta días multa.

“La pena de este delito se considerará con base en la edad que aparenta la persona en imágenes, videos y/o audios; y en la cantidad de archivos que resulten de la investigación.”

Los errores tendrán que ser solventados en las Comisiones Unidas de Justicia y de Estudios Legislativos a las que se turnó la iniciativa.

Más información senado.gob.mx

miabogadoenlinea.net

Se permite la reproducción total o parcial, citando y vinculando a miabogadoenlinea.net

Imagen de netambulo.com

Whatsapp