Deepfakes y violencia de género digital: una respuesta penal incierta

Abstract

[Resumen]: Los deepfakes son solo uno de los muchos productos de la Inteligencia Artificial (IA) generativa en auge. Sin embargo, el especial potencial lesivo y criminógeno de estas creaciones audiovisuales ultrafalsas resulta preocupante y demanda una respuesta normativa urgente. Por otra parte, resulta destacable el impacto desproporcionado de los deepfakes, especialmente de contenido sexual, en las mujeres, lo que invita a analizar el fenómeno como una nueva forma de violencia de género digital que, como tal, ha de ser abordado con la necesaria perspectiva de género. A pesar del potencial lesivo de los deepfakes de naturaleza sexual, el Código Penal español, hasta la fecha, no recoge de forma expresa estas conductas, lo que obligar a indagar sobre la mejor subsunción de estas conductas en delitos tradicionales como las injurias o los delitos contra la integridad moral. En este trabajo, se explorarán algunos de los usos ilegítimos y criminógenos de los deepfakes, se reflexionará sobre la forma en que estas creaciones afectan de manera desigual a las mujeres y se analizarán las posibilidades y las carencias de la actual respuesta normativa ante el imparable avance de los deepfakes de naturaleza sexual.

[Abstract]: Deepfakes are just one of the many products of the booming generative Artificial Intelligence (AI). However, the special harmful and criminogenic potential of these ultra-fake audiovisual creations is worrying and demands an urgent regulatory response. On the other hand, the disproportionate impact of deepfakes, especially of sexual content, on women is remarkable, which invites to analyze the phenomenon as a new form of digital gender violence that, as such, has to be addressed from the necessary gender perspective. Despite the potentially harmful nature of deepfakes, the Spanish Penal Code, to date, does not expressly include these behaviors, which makes it necessary to inquire about the best subsumption of these behaviors in traditional crimes such as slander or crimes against moral integrity. In this paper, we will explore some of the illegitimate and criminogenic uses of deepfakes, reflect on how these creations unequally affect women, and analyze the possibilities and shortcomings of the current regulatory response to the unstoppable advance of deepfakes of a sexual nature.