Los ‘deepfakes’ y el derecho penal

Helena Hernández

Experta en Derecho Penal

X: @Helena77Hdez

¿Qué pasa con la difusión de imágenes íntimas modificadas por inteligencia artificial (IA)? Piénsese en representaciones de personas, cuyos rostros son de hombres o mujeres que sí existen. ¿Acaso se cree que no hay afectación en sus vidas? Peor aún, ¿qué pasa si es el rostro de una niña o niño el que se utiliza para reproducir un video pornográfico?, ¿en caso de ser niños ficticios las imágenes empleadas en contenido pornográfico no interesan al derecho penal?

Un país como Costa Rica ha resuelto estos interrogantes con bastante claridad, al entender un bien jurídico tan poco desarrollado, como la integridad sexual[1], consistente en la composición de todo lo que involucra la sexualidad, a saber: los aspectos (i) físico, (ii) sicológico, (iii) emocional y todo cuanto abarca el bienestar y la salud.

El Código Penal de Costa Rica señala: “Artículo 173. Fabricación, producción o reproducción de pornografía. Será sancionado con pena de prisión de cinco a nueve años, quien fabrique, produzca o reproduzca, divulgue o utilice imágenes, la voz o los datos personales, por cualquier medio, de material pornográfico infantil”.

“(…) Para los efectos de este Código, se entenderá por material pornográfico infantil toda representación escrita, visual o auditiva producida por cualquier medio, de una persona menor de edad, su imagen o su voz, alteradas o modificadas, dedicada a actividades sexuales explícitas, reales o simuladas, o toda representación de las partes genitales de una persona menor de edad con fines sexuales”.

“Artículo 174 bis. Pornografía virtual y pseudo pornografía. Se impondrá pena de prisión de seis meses a dos años al que posea, produzca, venda, distribuya, exhiba o facilite, por cualquier medio, material pornográfico en el que no habiendo utilizado personas menores de edad:

a) Emplee a una persona adulta que simule ser una persona menor de edad realizando actividades sexuales.

b) Emplee imagen, caricatura, dibujo o representación, de cualquier clase, que aparente o simule a una persona menor de edad realizando actividades sexuales”.

La anterior normativa sancionatoria, que incluye videos manipulados por IA (en los que se simulan características o personalidades ficticias o ajenas a la ocurrencia real de las actividades difundidas) permite advertir, positivamente, el entendimiento de la vulneración de la integridad sexual a partir de un ámbito más amplio del que comprende en un espacio físico.

En otras palabras, la integridad sexual no se limita al sitio físico ni demanda secuelas en este plano material. El mundo virtual es también el mundo real. Lo que allí sucede existe y genera afectaciones. El contenido sexual ficticio, la manipulación de personas para simular desnudos, entre otras, lesiona gravemente este bien jurídico (que comprende el aspecto emocional y síquico de la persona humana).

La violencia digital (en sus múltiples manifestaciones) atenta contra la dignidad humana y, cuando la imagen de una persona es utilizada para contenido pornográfico (con todas las modificaciones posibles a través de IA), el principal bien jurídico afectado es la integridad sexual.

Pese a la importancia de este bien jurídico, así como al enorme impacto que tienen las deepfakes –especialmente en difusión de contenido sexual no autorizado–, Colombia tiene profundos vacíos legislativos en torno a estos asuntos. Uno de estos es la inexistencia de un tipo penal que sancione la difusión de imágenes y videos íntimos o desnudos de una persona, sin su consentimiento. Otro vacío es el tema principal del que ahora se escribe, consistente en el contenido pornográfico no consentido y creado con IA.

Para atender lo que ocurre con las deepfakes y todo lo relacionado con el contenido sexual de menores de edad, el delito de pornografía con menores de 18 años tendría que incluir el uso de IA por parte de quien videograbe, audiograbe o fotografíe a una persona, así como a quien los modifique para elaborar y divulgar material pornográfico en imágenes, videos o audios por cualquier medio. De igual forma, a quien sustraiga/consuma dicho contenido. 

La historicidad y transformaciones sociales que atraviesa al derecho penal deben reflejarse en cambios de paradigmas y actualización en la tipificación de delitos, así como la nueva comprensión de bienes jurídicos. La IA generativa no siempre es empleada para buenos propósitos, realidad a la que debe responder cada legislación. Los deepfakes sexuales son una nueva forma de violencia sexual. 

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, con los datos identificadores y documentos sin límite.

Paute en Ámbito Jurídico. 

Siga nuestro canal en WhatsApp.