Actualmente, este tipo de conducta es impune, y todavía no se ha producido en España. Justo por eso, es necesario analizarla con detalle y deslindar el ilícito civil (la mera caricatura), de la infracción penal. La inteligencia artificial está lo suficientemente desarrollada como para crear este tipo de imágenes, y también para clonar la voz de otras personas.
Consiste en la utilización de un programa informático, en el que mediante la captura de la imagen de una persona (la víctima), y mediante algoritmos, se logra superponerla en el cuerpo de otra persona, y animarla en diversos fotogramas. Los posibles campos de actuación, teniendo en cuenta la aplicación práctica en otros países como EE. UU. y Reino Unido, pueden ser los siguientes:
a) Violencia de género.Es una nueva infracción, que comparte elementos propios de los delitos informáticos, de delitos falsarios, y del delito de injurias. Decimos esto último, ya que se trata de una acción o expresión que lesiona la dignidad de otra persona, menoscaba su fama o atenta a su propia estimación, y que únicamente se perfeccionará cuando sea puesta en el tráfico jurídico (redes sociales). También comparte elementos del delito de calumnias en cuanto a que la persona que crea el “deepfake”, lo hace con “conocimiento de su falsedad o temerario desprecio hacia la verdad”. En síntesis, estamos en presencia de una mentira digitalizada.
El sujeto activo del delito tratará de permanecer oculto dado que utilizará o una aplicación (app) especializada o un programa de IA.
La acción es la utilización no consentida de imágenes de la víctima, y la creación de un video falso. Debemos puntualizar que, si para crear el “deepfake” se usan imágenes protegidas por copyright, se infringirá otro tipo penal. Es decir, se cometería un delito previsto y penado en el art. 270 CP (SP/LEG/2486), en concurso medial del art. 77 CP, con el delito de nuevo cuño.
El ánimo del creador de estas imágenes es mucho más complejo de definir porque los móviles internos no son los mismos en unos casos y otros, dependiendo de en qué ámbito de relaciones acontezca; así, por ejemplo:
- En los delitos cometidos entre personas relacionadas conforme al art. 173.2 CP prima el acoso, pero también la extorsión sexual, el bullying y la pornovenganza.
- Fuera de la aplicación del art. 173.2 CP, y en los que el sujeto pasivo del delito es un “youtuber”, “instagramer” u otras personas, el ánimo tendencial es el de acabar con su reputación en redes sociales. Estas conductas en redes sociales siempre están impregnadas de un fuerte componente de odio y envidia, por los ingresos derivados del número de seguidores y la publicidad.
- Mención separada tienen los “deepfake” electorales. Nuestra legislación electoral no contiene norma alguna sobre este tipo de conducta. El ánimo tendencial será el de subvertir o alterar el resultado de las elecciones, o empañar la imagen del candidato. Es necesario puntualizar, que no basta la mera caricatura, sino que debe traspasar ese umbral y hacer creer que el candidato dijo, o hizo algo, que sea o pueda serle reprochado por su electorado.
Como citamos al principio, es una conducta penalmente atípica en todos los ámbitos descritos. Conviene, no obstante analizar una figura penal afín introducida, en la Ley de garantía integral de la libertad sexual 10/2022, de 6 de septiembre (SP/LEG/38277).
El art. 172 ter apartado 5 dice: El que, sin consentimiento de su titular, utilice la imagen de una persona para realizar anuncios o abrir perfiles falsos en redes sociales, páginas de contacto o cualquier medio de difusión pública, ocasionándole a la misma situación de acoso, hostigamiento o humillación, será castigado con pena de prisión de tres meses a un año o multa de seis a doce meses.
Ahora bien, este precepto no describe el “deepfake”, sino la creación de perfiles falsos en páginas de contacto personal para acosar a otra persona. No cabe la subsunción de la conducta que analizamos en este tipo penal, ya que el derecho penal español prohíbe la analogía.
El Dictamen 393/2021, del Consejo de Estado de 10 de junio, sobre el Anteproyecto de Ley Orgánica de ley integral de libertad sexual, y en referencia al art. 172 ter CP. hizo las siguientes recomendaciones:
El Consejo de Estado considera que debería mantenerse ese umbral mínimo de alteración de la vida cotidiana de la víctima para la tipificación penal de este tipo de conductas, en aplicación del principio de intervención mínima del Derecho penal, que en nuestro sistema constitucional debe ser una última ratio por su seguridad.
¿Es posible cuantificar la pérdida generada por la pérdida total de suscriptores o seguidores, o por tener que cerrar la web de la víctima? La repuesta debe de ser afirmativa. ¿Y, si lo que se subvierte es el resultado unas elecciones generales o regionales? La respuesta queda en el aire.
El Convenio de Estambul (SP/LEG/14733), en su art. 34 “Stalking”, establece que los firmantes deben tipificar como delito "el hecho, cuando se cometa intencionadamente, un comportamiento amenazador contra otra persona que lleve a esta a temer por su integridad”.
Y, en el art. 40 define el Acoso sexual:
“Las Partes adoptarán las medidas legislativas o de otro tipo necesarias para que toda forma de comportamiento no deseado, verbal, no verbal o físico, de carácter sexual, que tenga por objeto o resultado violar la dignidad de una persona, en particular cuando dicho comportamiento cree un ambiente intimidatorio, hostil, degradante, humillante u ofensivo, sea castigado con sanciones legales o de otro tipo”.
Reino Unido. Este problema surgió a partir del año 2017 en Reino Unido debido a los “deepfake” creados en la plataforma Reddit. En la actualidad el proyecto de ley introducido por el grupo conservador está en trámite en la cámara de los Lores. El anteproyecto legal prevé penas de prisión de hasta 12 meses o una multa con los límites que fijan sus leyes, y para Irlanda del Norte se fija un máximo de 6 meses de prisión para los infractores.
- Estado de TEXAS. En 2019, ese estado legisló únicamente sobre los “deepfake” políticos, entrando en vigor esa norma en el septiembre de ese año. El texto aprobado se denomina “Ley relativa a la creación de un delito por fabricación vídeos engañosos con la intención de influir en el resultado de unas elecciones”, mediante la creación de un video que pueda dañar o influir en el resultado de unas elecciones, siempre que se haga dentro de los 30 días de unas elecciones.
Penalidad para los “deepfake” electorales: pena de prisión de hasta 1 año y multa de hasta 4.000 dólares.
- Estado de Virginia. En julio de 2019 entró en vigor en el estado de Virginia, una ampliación de las leyes contra la “pornografía no consensual” (más conocida como “pornovenganza”) que buscan incluir dentro de dicha definición los “deepfakes” pornográficos, así como cualquier vídeo o imagen manipulados con herramientas digitales. La difusión en el estado de Virginia de falsos desnudos "con la intención de coaccionar, acosar o intimidar" a otra persona podrá suponer hasta un año de cárcel y 2.500 dólares de multa.
- Estado de California. Debido a los abusos cometidos sobre las imágenes de determinadas “streamers”, la Asamblea del estado de California presentó el proyecto 602, para reformar el Código Civil de California con la finalidad de permitir que el perjudicado pudiera ejercitar acciones contra la persona que crea y divulga intencionalmente material sexualmente explícito manipulado digitalmente, en la que el perjudicado puede obtener la indemnización de daños económicos con multas desde los 1.500 dólares hasta los 3000 dólares, o, si el acto se cometió con malicia, hasta 150.000 dólares, y reparación de daños morales, incluida la angustia emocional, daños estatutarios (concepto propio de EE. UU.).
Delitos electorales. El Proyecto de Ley 730 de la Asamblea de California modificó su Código Electoral para prohibir la difusión en el plazo de los 60 días antes de una elección de una imagen, grabación de audio o video manipulada de un candidato, pero que dé la impresión de auténtica, y que provoque que el destinatario reciba o comprenda un mensaje distinto del que el candidato expresó, si la versión original no hubiera sido alterada.
Esta ley estableció dos exenciones de responsabilidad legal caso de que el distribuidor de la información advierta que el video ha sido manipulado, o en los casos de parodia o sátira. Como ley ad hoc, expiró el 1 de enero de 2023.
El origen de esta norma tuvo lugar con motivo de la difusión de un video de Nancy Pelosi donde se cuestionaba su salud mental, al aparecer en el video hablando de forma repetitiva.
Desde el punto de vista estrictamente constitucional el precepto que regula esta materia es el art. 18 CE (SP/LEG/2314), derecho de honor e imagen, en relación con el art. 20 del mismo cuerpo legal en su vertiente de derecho de libertad de expresión o de publicación y el art. 10 del mismo texto en relación con el derecho a la dignidad de la persona.
La Ley Orgánica 1/1982, de 5 de mayo, de Protección Civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen (SP/LEG/2401) que desarrolla el art. 18 de la carta magna, en su art. 7, apartados 5 y 6 y art. 8, apartados 1 y 2, describe lo que se deben considerar intromisiones ilegítimas y la Sentencia del Tribunal Supremo, Sala Primera, de lo Civil, 380/1988, de 9 de mayo, realizó las siguientes consideraciones:
“Porque resulta lógico concluir que un derecho fundamental como es el derecho a la protección de la propia imagen, tan solo puede ceder ante otro que ostente el mismo rango, como es el de información, …, pero nunca puede ceder ante el mero interés crematístico de un tercero, que en forma alguna alcanza un rango jurídico tan elevado como el de los derechos fundamentales”.
No contempla los “deepfake”, sino el fotomontaje, algo parecido pero irrelevante penalmente.
Así, en la Sentencia del Tribunal Constitucional 23/2010 de 27 de abril (SP/SENT/507036), en el caso de un fotomontaje hizo las siguientes consideraciones: “Con la generalización de las nuevas tecnologías de tratamiento de la imagen, esta categoría, que tradicionalmente se había basado exclusivamente en la dimensión humorística del dibujo, se plasma cada vez con más frecuencia en la alteración de fotografías originales, aunque no pierde por ello su esencia de creación irónica basada en la reelaboración de la fisionomía del modelo que tiene por objeto”.
La preocupación que este tema ha generado en la Unión Europea por el número de víctimas femeninas hizo que se considerara como un asunto de género, y dio lugar a un estudio en profundidad del fenómeno del “Deepfake” a través de un “Think Tank” europeo, formado por participantes de Alemania, República Checa y Holanda. Este estudio se desglosa minuciosamente este nuevo fenómeno, a nivel sociológico y a nivel legal. Se centra, sobre todo, en el estudio pormenorizado de las técnicas de Inteligencia Artificial tanto para la utilización de las imágenes, como para crear videos falsos, como para el clonado de voz. También realiza un análisis de la normativa vigente en determinados países, sobre todo de EE. UU., China donde esta tecnología se ha desarrollado de manera exponencial. También realiza un abordaje de la problemática de países sensibles como Taiwán, debido a la desinformación que estas tecnologías pueden provocar.
El marco legal europeo es el Convenio del Consejo de Europa sobre prevención y lucha contra la violencia contra las mujeres y la violencia doméstica, de Estambul, que regula en el art. 34, la posibilidad de tipificar el acoso, cuando se cometa un comportamiento amenazador contra otra persona, que lleve a esta a temer por su seguridad y en el nº 2 del art. 36 que, al regular la violencia sexual, menciona “los demás actos de carácter sexual no consentidos sobre otra persona”.
Dada la magnitud del problema la UNICRI y EUROPOL han publicado un trabajo denominado “Malicious Uses and Abuses of Artificial Intelligence” que se trata de una presentación tipo “PowerPoint” de las tecnologías empleadas, y los posibles escenarios de crimen cibernético en los que puede ser que se implementen estos nuevos delitos, y sus campos de actuación, criptomonedas, ingeniería social, etc.
Como epílogo, debo citar el art. 4.2 CP, que dispone lo siguiente: “En el caso de que un Juez o Tribunal, en el ejercicio de su jurisdicción, tenga conocimiento de alguna acción u omisión que, sin estar penada por la Ley, estime digna de represión, se abstendrá de todo procedimiento sobre ella y expondrá al Gobierno las razones que le asistan para creer que debiera ser objeto de sanción penal.”