La protección de la imagen personal frente a la Inteligencia Artificial: Apuntes desde el derecho constitucional y el derecho civil peruano(*)(**)

The protection of personal image against Artificial Intelligence: Notes from Constitutional Law and Civil Law

Julia Romero Herrera(***)

Pontificia Universidad Católica del Perú (Lima, Perú)

Aldo Santome Sánchez(****)

Pontificia Universidad Católica del Perú (Lima, Perú)

Resumen: El desarrollo de la inteligencia artificial ha llevado a un aumento en la divulgación y alteración del semblante físico de las personas a través de deepfakes, lo que se ha consolidado como un problema recurrente en la actualidad. En ese sentido, el presente artículo buscó mostrar un panorama completo respecto de cómo el derecho a la imagen personal es afectado mediante el uso de esta tecnología, adaptando su contenido esencial a los nuevos dilemas propios de la era digital. Finalmente, se buscó exponer cómo el ordenamiento jurídico peruano, a través del derecho civil y constitucional, ha establecido vías de protección para resguardar la imagen personal de forma idónea, las cuales pueden ser aplicadas ante afectaciones causadas por deepfakes.

Palabras clave: Inteligencia Artificial - Deepfakes - Derecho a la Imagen Personal - Derechos Fundamentales - Derecho Civil - Derecho Constitucional - Perú

Abstract: The development of Artificial Intelligence has led to an increase in the dissemination and alteration of people’s physical appearance through deepfakes, which has become a recurring problem today. In this regard, the present article aimed to provide a comprehensive overview of how the right to one’s personal image is affected by the use of this technology, adapting its essential content to the new dilemmas of the digital age. Finally, it sought to show how the Peruvian legal system, through civil and constitutional law, has established mechanisms of protection to safeguard personal image adequately, which may be applied in cases of harm caused by deepfakes.

Keywords: Artificial Intelligence - Deepfakes - Right to Personal Image - Fundamental Rights - Civil Law - Constitutional Law – Peru

1. Introducción

Una constante en la discusión sobre el ejercicio de derechos fundamentales es que, independientemente de su reconocimiento como tales, estos constantemente van a estar expuestos a nuevos tipos de afectaciones. En ese sentido, el avance de la tecnología, si bien conlleva innumerables ventajas para las personas respecto de su calidad de vida, puede también ser fuente de nuevas maneras de afectación de sus derechos elementales. Precisamente, esa es la discusión que hoy existe respecto de la inteligencia artificial [IA] siendo que este nuevo tipo de tecnología viene siendo utilizada de diversas formas positivas, también es empleada para la comisión de nuevos tipos de ilícitos.

Al respecto, uno de los temas más comentados en los últimos años es respecto de cómo el uso indebido de la IA viene afectando la imagen de algunas personas a través de los denominados deepfakes. Y es que, la IA ha permitido que, con mayor facilidad, cualquier persona pueda modificar o alterar el semblante físico de otra con el fin de que estas variaciones sean difundidas públicamente, causando un grave perjuicio hacia los aludidos. Por ejemplo, hoy en día es común ver cómo la imagen de varios artistas y políticos es alterada sin ningún tipo de consentimiento mediante la IA para diversos fines, por ejemplo, influir negativamente en una campaña electoral o promover estafas online.

No obstante, el tema se agrava cuando este uso indebido es realizado con fines que atentan contra la propia dignidad de las personas, incluyendo las que no son famosas. Como ejemplo de lo anterior, se puede citar el caso de unos alumnos en un colegio limeño que, mediante la IA, alteraban la imagen de sus compañeras para convertirlas en imágenes pornográficas, las cuales comercializaban por Internet. Sobre el particular, este tipo de usos resultan cuestionables no sólo por un tema netamente patrimonial, sino por la afectación a la propia humanidad de las afectadas, lo que, a su vez, trae consigo una consecuencia más estructural. En ese sentido, este tipo de usos que se le suele dar a la IA pueden terminar por acentuar nuevas situaciones de vulnerabilidad contra las mujeres, siendo éstas las principales afectadas por la creación de este tipo de contenido.

A partir de los casos antes mencionados, es necesario realizar unos apuntes sobre cómo está resguardada la imagen personal en nuestro sistema jurídico, sobre todo considerando las implicancias de la IA sobre este derecho. De ese modo, es necesario que el contenido de este derecho pueda acoplarse a los avances de esta tecnología para su debida protección, sobre todo considerando el ritmo acelerado con el que la IA se desarrolla. Evidentemente, para ello también será necesario que el mismo ordenamiento jurídico no solo reconozca la existencia del derecho, sino que tenga previstos remedios idóneos para su defensa.

En ese sentido, el objetivo principal de la presente investigación es mostrar un panorama completo respecto de cómo el ordenamiento jurídico peruano protege al derecho a la imagen personal en la actualidad, sobre todo frente a las afectaciones generadas mediante el uso de la IA, específicamente a través de los deepfakes. Para ello, como primer objetivo específico, se procederá a describir cómo el desarrollo de las nuevas tecnologías fue un punto de quiebre en la tutela de los derechos fundamentales, antes conocidos solamente como derechos de la persona, con el fin de comprender cómo el desarrollo de la IA podría implicar un punto de inicio para una nueva reflexión en torno a su protección.

Posteriormente, como segundo objetivo específico, se procederá al desarrollo conceptual del derecho a la imagen personal, analizando sus implicancias y ámbito de protección, delimitando su contenido en la nueva era digital. Una vez realizado ello, como tercer objetivo específico, se buscará detallar las diferentes afectaciones realizadas hoy en día por el uso indebido de la IA contra el referido derecho a través de los deepfakes, con el fin de constatar la diversidad de fines para los que son empleados, así como las consecuencias que podrían tener para las personas agraviadas.

Finalmente, ante dicho escenario, como cuarto objetivo específico, se expondrá cómo el derecho a la imagen personal es actualmente tutelado mediante dos vías igualmente idóneas dentro del derecho peruano: por un lado, la tutela civil, y de otro lado, la tutela constitucional, las cuales están destinadas a amparar el ejercicio de los derechos fundamentales, independientemente de las diferencias que podría haber entre una y otra.

Con respecto de la metodología empleada, esta será de carácter dogmático, siendo que se hará uso de fuentes documentales, principalmente doctrina y jurisprudencia, tanto nacional como extranjera. Ello, principalmente, con la finalidad de comprender los alcances del derecho a la imagen personal de forma adecuada, concretizando su ámbito de protección en tiempos de IA.

Así, el presente estudio se justifica no solo por el aporte dogmático hacia la comprensión del derecho a la imagen personal, sino que busca también hacer una revisión sobre los remedios que el ordenamiento jurídico peruano tiene estructurados para la defensa de este derecho en caso de sufrir alguna afectación. La IA se ha consolidado como una herramienta de uso cotidiano y, nos atrevemos a decir, ha venido para quedarse; por tanto, es importante que el Derecho pueda autoevaluarse con el fin de constatar si cuenta con un marco de protección suficiente para la adecuada tutela de los derechos fundamentales.

2. Sobre la tutela de los derechos fundamentales y la IA como nueva amenaza para su ejercicio

2.1. La tutela de la persona. Una ruta desde el derecho civil hasta el derecho constitucional

En primer lugar, se debe destacar que el derecho a la imagen personal se ha considerado como parte de lo que históricamente se conoce como los “derechos de la personal”, también llamados “derechos de la personalidad”. Por tanto, con el fin de comprender mejor este derecho, creemos conveniente, como primer punto del presente trabajo, desarrollar qué se ha entendido por “derechos de la persona”, con el fin de explicar el contexto dogmático del cual surge el derecho a la imagen personal.

Al respecto, el concepto de “derechos de la personalidad” tiene como origen la Alemania de fines del siglo XIX, siendo una reacción de la doctrina civil hacia los avances tecnológicos de la época, los cuales estaban cambiando la vida de las personas, exponiéndolas a nuevas formas de peligro (León, 2007). Y es que, hasta finales del siglo XIX, lo común era que la cualquier afectación hacia la persona se desarrollará únicamente a través de la vía penal, la cual podría resultar insuficiente, debido a los objetivos propios de esta rama del Derecho (Di Majo, 2023).

Sobre el particular, la teoría de los “derechos de la persona” se sostenía, según la dogmática alemana, que no solo se debían sancionar las intromisiones hechas por el Estado, sino también las realizadas entre privados (Poptcheva, 2015). Lo anterior resulta importante debido a que, si bien el Estado podía afectar los derechos de los individuos, como era la tendencia clásica, también debían reconocerse las afectaciones realizadas por los particulares lo que, de por sí, escapaba del ámbito del derecho público, pasando al derecho privado.

En ese contexto, la tutela civil de los derechos se consagró como una vía idónea para la protección de las personas ante la diversidad de nuevos ataques que pudieran sufrir, buscando ya no solo una sanción carcelaria a posteriori, sino una acción preventiva que pudiera cesar todo tipo de acto lesivo y que evite su reiteración, lo que hoy conocemos como tutela inhibitoria, considerando, además, la posibilidad de solicitar una indemnización por los daños no patrimoniales generados (Di Majo, 2023). De esta manera, el derecho civil abandonó una concepción clásica sobre los daños, tutelando no solo las afectaciones patrimoniales, por ejemplo, los daños a la propiedad, sino también los atributos más próximos al individuo, como su imagen, voz, intimidad, etc. (Mendoza, 2014; León, 2007).

Sin embargo, la tutela de los derechos pasó a una nueva etapa cuando la lógica antes referida fue, posteriormente, reconocida en diversas Constituciones a mediados del siglo pasado, reafirmando una necesidad puntual: No bastaba con tutelar a los individuos frente a intromisiones del Estado, sino que se les debía resguardar ante las diversas vulneraciones sufridas a manos de privados, lo cual era, hasta ese momento, entendido como un tema exclusivo del derecho civil (Di Majo, 2023). En dicho escenario, diversas Constituciones buscaron incorporar no sólo cuestiones estructurales de orden público para limitar la fuerza del Estado frente a los particulares, sino también el reconocimiento de la tutela de los derechos frente a las intromisiones hechas en la interacción entre éstos (Mendoza, 2009).

Así, este nuevo escenario respecto tuvo una consecuencia dentro del plano práctico: que la tutela sobre los “derechos de la persona” termine por abandonar al derecho civil y pase ahora a ser objeto del derecho constitucional (Landa et al., 2024). A partir de lo anterior, cierto sector de la doctrina concluye que los “derechos de la persona han sido rebautizados actualmente como “derechos fundamentales”, siendo el principal objeto del derecho constitucional contemporáneo. Dicha lógica abrirá la puerta al fenómeno conocido hoy como “constitucionalización del derecho civil”, en donde la Constitución, al ser la norma principal del ordenamiento influye directamente en la interpretación que hoy se debe realizar de las normas civiles, con el fin de darle más armonía con los valores que emanan de esta (Landa et al., 2024).

Sin embargo, independientemente de lo anterior, hay que mencionar que incluso hasta hoy ambas ramas, tanto el derecho civil como el derecho constitucional, procuran la protección de la persona respecto a su esfera individual de derechos no patrimoniales, entendiendo al ser humano como objeto de protección en sí mismo. Lo que sí es indudable es que, si bien ambos campos responden al mismo fin, conllevarán a mecanismos de tutela diferentes, como veremos en la parte final del presente artículo.

2.2. Los avances tecnológicos y los derechos fundamentales

Como se mencionó previamente, el surgimiento de la teoría de los “derechos de la persona”, hoy, “derechos fundamentales”, aconteció en un contexto donde las nuevas tecnologías comenzaron a variar el día a día de los individuos. Inventos como la cámara fotográfica o el fonógrafo comenzaron a conllevar a afectaciones nunca antes vistas contra la imagen y voz de las personas, por lo que eran necesarias nuevas formas de proteger dichos derechos (Ammerman, 2021). Entonces, sería válido afirmar que fue el avance tecnológico ocurrido a finales de siglo XIX lo que resultó determinante para el rediseño de la tutela de los derechos, buscando una protección más integral del individuo.

En vista de lo anterior, surge la duda sobre si, considerando los nuevos avances tecnológicos de hoy en día, de manera específica, la IA, estamos actualmente en un escenario donde sea necesario cuestionar si el marco de protección vigente aún es capaz de resguardar adecuadamente los derechos fundamentales. Así, cabe preguntarse si acaso es momento de actualizar el contenido de algunos derechos con el fin de comprender sus alcances a los nuevos contextos sociales y, de esta forma, evaluar la pertinencia de los mecanismos de tutela reconocidos por el ordenamiento.

Cabe mencionar, que los autores consideramos que la IA no es que sea mala per se, ya que podría colaborar con el desarrollo de muchas actividades que benefician a la población, como la agricultura, la atención sanitaria o la seguridad pública (Presno, 2022), sin mencionar las facilidades que surgen en los procesos creativos, como la creación de imágenes realistas generadas para fines publicitarios o comerciales (Ramos-Zaga, 2024). Sin embargo, ello no debería evitar que consideremos los inminentes riesgos que esta tecnología podría ocasionar respecto de los derechos fundamentales, como el derecho a la imagen personal, e, incluso, contra el sistema democrático, por ejemplo, a través de la divulgación de noticias falsas en tiempos electorales (Pérez-Ugena, 2024), como veremos más adelante.

2.3. La Inteligencia Artificial hoy

En primer lugar, antes de esbozar alguna definición para la IA, es debido mencionar que, en realidad, puede que no exista alguna acepción que tenga un amplio consenso dentro de la comunidad científica. Ello principalmente debido a que esta tecnología está en permanente evolución, siendo capaz de desarrollar nuevas acciones y tener diversas formas de incidencia de la comunidad (Pérez-Ugena, 2024).

Sobre el particular, se suele mencionar que la IA podría ser definida como aquella rama de las ciencias de la computación que busca la reproducción de las funciones cognitivas del ser humano, como el razonamiento, la memoria o la capacidad de tomar decisiones, por parte de las máquinas a través de algoritmos, con el fin de obtener resultados específicos (Rodríguez, 2024). Lo anterior es posible a partir de la recolección de datos por un programador; siendo que, a partir de ello, la máquina será capaz de procesarlos de manera autónoma, es decir, sin la supervisión humana, pudiendo aprender, crear o planificar resultados exitosos (Pérez-Ugena, 2024).

Al respecto, se podría decir que, a través de la IA, se busca que las máquinas puedan eficazmente imitar los procesos cognitivos de las personas, siendo que para ello será clave su aprendizaje respecto de la conducta humana con la que interactúa, con el fin de acrecentar su “propia” percepción sobre las cosas y adaptarla a distintos escenarios (Ramos-Zaga, 2024). Incluso, este esbozo de definición fue el que contempló la reglamentación de la comunidad europea, donde definió a la IA como aquel software que, a través de diversas técnicas y formas, puede no solo asimilar datos, sino crear nueva información o recomendaciones (Presno, 2022). Por tanto, no solo será clave para la IA la base de datos introducida por su programador, sino que, a partir de sus propios procesos cognitivos, ésta será capaz de aprender de su entorno y de su interacción con sus usuarios, lo que le permitirá acrecentar sus conocimientos y adaptar sus respuestas a determinadas personas o contextos (Ramos-Zaga, 2024).

Siguiendo lo advertido previamente, se debe volver a resaltar que no hay un claro consenso sobre la definición de IA, en tanto su dinámica va cambiando día a día. En ese sentido, se deben reconocer distintas variedades de IA, unas más complejas que otras, aunque todas se ubican dentro del mismo término (Trujillo, 2024). Así, a grandes rasgos, hoy estamos viviendo una época donde podemos hablar de la IA como una tecnología estructurada a partir de datos y con un aprendizaje autónomo, con el fin de cumplir diversas funciones y bajo diferentes medios, que podrían facilitarles a muchas personas sus actividades cotidianas (Presno, 2022).

2.4. Riesgos a partir del uso indebido de la IA

Ahora, independientemente de las posibles ventajas obtenidas por el uso de la IA, se debe tener en cuenta que un uso indebido de ésta podría conllevar a posibles riesgos. En ese sentido, debe destacarse que el uso de la IA sí puede conllevar a la afectación de los derechos fundamentales de distintas formas, especialmente respecto del uso de datos personales (Pérez-Ugena, 2024). Por tanto, considerando los casos reportados, los derechos más afectados por esta tecnología son los concernientes a los “derechos de la persona”, ahora reconocidos como derechos fundamentales, principalmente la intimidad, imagen, voz, secreto de las telecomunicaciones, entre otros (Presno, 2022).

Sobre el particular, para comprender adecuadamente lo anterior y sus implicancias, debemos considerar la diversidad de tipologías de IA en la actualidad, considerando que diariamente se descubren nuevas variedades de este tipo de tecnología. En ese sentido, existirá una vertiente de la IA considerada “débil”, la cual está diseñada para tareas específicas y limitadas, como la reconocimiento de rostros, identificación de voz, o la traducción de textos; sin embargo, los problemas se acentúan cuando estamos ante la presencia de una IA considerada “fuerte”, la cual goza de una mayor autonomía para la realización de sus tareas a través de un aprendizaje autónomo, lo que llevará a la producción de información nueva e independiente de todo tipo de control humano (Pérez-Ugena, 2024; Presno, 2022).

Al respecto, este último tipo de IA podría ser especialmente más proclive a afectar los derechos de las personas. De este modo, a partir del procesamiento de los datos personales de alguien, un tercero podría ordenar a la IA modificar o alterar su imagen en una fotografía o video, sin tener que supervisar o fiscalizar la ejecución de dicha tarea. Así, es en este contexto donde suelen ocurrir los casos de deepfakes, que serán mencionados posteriormente.

Precisamente, debido a los distintos riesgos que podría provocar un uso abusivo de la IA, es que se ha comenzado a proponer una debida regulación para su uso, con el fin de someter este nuevo tipo de tecnología al principio de legalidad, garantizando el ejercicio de los derechos fundamentales de las personas (Presno, 2022). Incluso, esa fue la intención del Reglamento del Parlamento Europeo y del Consejo de la Unión Europea sobre inteligencia artificial, emitido en 2024(1), donde se reconocían los posibles riesgos de la IA frente a los particulares, así como las obligaciones de los Estados para prevenir este tipo de ilícitos. Aunque, es de advertir que, al estar frente a un tipo de tecnología que se va desarrollando cada día, es necesario que las normas regulatorias cuenten con un marco general de aplicación, que mínimamente asegure un uso responsable y ético de la IA (Pérez-Ugena, 2024).

3. El derecho a la imagen personal en la actualidad

En lo que respecta al derecho a la imagen personal, este ha ido consagrándose explícita e implícitamente como derecho fundamental producto de la relevancia de la proyección personal en la sociedad del siglo XXI. Al respecto, debemos resaltar que, en nuestro contexto, la sociedad de la información considera a la “apariencia” como el rasgo más exterior y público de la persona, exponiéndose también por ello a mayores intervenciones (Rodrigues da Cunha e Cruz, 2013). En ese sentido, la importancia de la protección jurídica de la imagen personal se revela en situaciones donde, como ocurre en la actualidad, la figura física de la persona es capturada de manera cada vez más recurrente y con medios que no necesariamente implican el consentimiento de su titular.

Al respecto, el término “imagen” ha sido definido conforme a la Real Academia Española (s.f.) como la “figura, representación, semejanza y apariencia de algo”. Es por ello que, al referirnos a la imagen personal sobre la que se proyecta el derecho fundamental, nos estamos refiriendo a la proyección física que deriva de toda persona o la representación gráfica de esta (Barbosa, 2017); es decir, a la proyección que imprime un sello de singularidad personal en la sociedad que, de cierto modo, proporciona signos que dan genuinidad al individuo para su reconocimiento particular (Gómez, 2014).

En ese sentido, los autores encontramos más apropiado el concepto “imagen personal” o “imagen propia”, con el fin de distinguir este aspecto propio e inherente de las personas en comparación de otras manifestaciones externas de otro tipo de entes o fenómenos, como podría ser la imagen de algún animal, de alguna edificación, o de algún elemento de la naturaleza. Así, es esta “imagen personal” la que se proyecta en la percepción que tienen otras personas respecto de los rasgos físicos de uno, y que, considerando las nuevas tecnologías, se puede plasmar en un soporte físico o virtual -fotos, dibujos, caricaturas, videos, entre otros-, reproduciendo toda o solo una parte de la imagen de la persona, e incluso alterándola total o parcialmente.

3.1. Delimitación del derecho a la imagen personal a partir de su relación con otros derechos

Habiendo contemplado qué vamos a entender por imagen personal, resulta conveniente distinguir este derecho de otros, más aún cuando en la actualidad no es pacífica la postura de su autonomía. Ello debido a que, como ocurre en la mayoría de países, hay Constituciones donde no se le reconoce expresamente como derecho autónomo, sino que se ha incluido la protección de la imagen personal dentro del marco de otros derechos fundamentales. Lo indicado es importante en el marco del reconocimiento del ámbito de protección de este derecho (Brage, 2004) o de su contenido prima facie (Alexy, 2022).

De esa manera, en el derecho comparado se identifica que el derecho a la imagen personal ha tenido protección constitucional de manera expresa, como derecho autónomo, o como contenido de otro. Para ilustrar mejor ello, presentamos el siguiente cuadro:

Tabla 1

Protección Constitucional del derecho a la imagen en el derecho comparado

País	Texto constitucional	Tipo de protección
Argentina	No	Derecho autónomo no expreso
Bolivia	Art. 11	Expreso
Brasil	Art. 5. XXVIII	Expreso
Colombia	No	Derecho autónomo no expreso
Chile	No	Derecho autónomo no expreso
México	No	Derecho autónomo no expreso
Perú	Art. 2.7	Expreso
España	Art. 18.1	Expreso

Lo mismo sucede a nivel internacional, en donde se observa que, en los tratados de derechos humanos, no se ha consagrado expresamente este derecho; no obstante, a pesar de ello, igual se ha protegido a nivel jurisprudencial las facultades que tenemos sobre nuestra propia imagen. Así, por ejemplo, en el Tribunal Europeo de Derechos Humanos (2009) y la Corte Interamericana de Derechos Humanos (2011) han brindado protección ante la captación o difusión de la imagen personal sin consentimiento, pero también han reconocido que no toda publicación de imágenes requiere el consentimiento de la persona retratada, más aún cuando estamos ante personajes públicos. En estos casos, el abordaje jurídico se ha reconducido en relación al derecho a la vida privada, el cual está reconocido en el artículo 8 de la Convención Europea de Derechos Humanos y en el artículo 11 de la Convención Americana sobre Derechos Humanos.

Sin perjuicio de lo anterior, y con el fin de delimitar de manera pedagógica el contenido del derecho a la imagen personal, pasaremos a diferenciar este derecho de otros con los cuales mantiene cierta relación.

3.1.1. Con relación al derecho a la intimidad

A grandes rasgos, el derecho a la intimidad protege ámbitos personalísimos que son sustraídos del conocimiento de terceros. En tal sentido, este derecho protege que ciertas esferas de la vida de su titular no sean divulgadas sin su consentimiento. Incluso, un sector de la doctrina considera que este derecho puede conllevar a un doble carácter: por un lado, legitima al individuo a resguardar para sí la información que considera no debería ser compartida con otros; y, de otro lado, implica un deber a cargo de terceros, de omitir cualquier tipo de injerencia frente a esta información (Tarrillo, 2023).

Por sus implicancias en la realidad, es evidente que este derecho podría vincularse con el derecho a la imagen personal debido a que ambos protegen la inviolabilidad personal (Rodrigues da Cunha e Cruz, 2013). En efecto, dado a que la imagen propia puede expresar actos que forman parte de la intimidad o de la vida privada es que el ámbito de protección de ambos derechos podría coincidir (Tribunal Constitucional del Perú, 2011); por ejemplo, pensemos en una fotografía que capta a una persona en una situación comprometedora, por un lado, se afecta la imagen personal, pero paralelamente, también hay una afectación a la intimidad.

No obstante, no toda manifestación del derecho a la imagen personal conformará aspectos de la vida privada; por ejemplo, la captación de una imagen del rostro de la persona en un escenario aparentemente neutral y su alteración por la IA. En estos casos, pese a que se interviene la imagen de una persona sin su consentimiento, no se proyecta necesariamente el ámbito de protección del derecho a la intimidad, ya que no se incide en aspectos privados de la persona.

Por lo mencionado, se puede afirmar que, pese a que ambos derechos se relacionan en casos puntuales, ello no implica que el derecho a la imagen propia sea parte del derecho a la intimidad o viceversa (Lara, 2004), pues esta tiene un ámbito de protección específico y que se distingue del contenido de la intimidad, por lo que incluso puede vulnerarse con independencia de dicho derecho (Nogueira, 2007).

3.1.2. Con relación al derecho al honor

Del mismo modo, existe una posible vinculación entre el derecho a la imagen personal y el derecho al honor, toda vez que la divulgación de determinada imagen de una persona puede impactar en cómo la sociedad la percibe, conllevando incluso a la asignación de calificativos negativos hacia el individuo afectado. Así, mientras el derecho a la imagen personal estará relacionado a la difusión de ésta, el derecho al honor incidirá en la connotación valorativa a nivel social que se da a la persona concreta debido a la imagen difundida (Poptcheva, 2015).

No obstante, al igual que con el derecho a la intimidad, si bien ambos derechos pueden coincidir en algunos casos, el derecho al honor implica más ámbitos de los que están vinculados con el empleo de la imagen de una persona. Así, este derecho protege específicamente a su titular respecto de la valoración que éste tiene en la sociedad, la cual puede verse afectada también por el empleo de expresiones que sean humillantes o difamatorias, y no necesariamente respecto de la difusión de una imagen.

Y de otro lado, la reproducción sin autorización de la imagen propia no implica necesariamente una afectación al honor. Por ejemplo, pensemos en la reproducción de una imagen de una persona en la portada de una revista sin que ésta haya brindado la autorización correspondiente. En dicho escenario, hay indudablemente un uso no consentido de la imagen; no obstante, no puede desprenderse necesariamente ningún ánimo por injuriar o afectar la reputación del individuo en sociedad, ya que, para ello, la imagen tendría que venir acompañada de algún tipo de elemento valorativo negativo.

3.1.3. Con relación al derecho a la identidad

Se ha establecido que la imagen personal es una forma en la que se manifiesta la identidad personal (Rodrigues da Cunha e Cruz, 2013); así pues, se señala que la imagen es “una extrinsecación estática del derecho a la identidad personal” (Espinoza, 2019, p. 852), pues expresa un dato físico que identifica a su titular y sobre el cual existe el interés de que no sea alterada.

Del mismo modo, la jurisprudencia constitucional ha mencionado que la identidad puede contemplarse también desde una óptica estática, haciendo referencia a la identificación del individuo a partir de ciertos rasgos con cierto grado de permanencia en el tiempo como el nombre, la imagen personal, rasgos genéticos, etcetera. Sin embargo, debe mencionarse que estos rasgos, si bien podrían colaborar a diferenciar a un individuo de otro, no abarcarían todo el concepto de identidad, considerando que ésta se compone también por rasgos dinámicos, tal como ha afirmado el Tribunal Constitucional en reiterada jurisprudencia.

Precisamente, el referido Tribunal ha mencionado que las disposiciones constitucionales deben estar expuestas a una constante evolución, siendo que derechos como la identidad requieren adaptar su contenido a nuevos contextos con el fin de brindar una protección más integral a la dignidad humana (Tribunal Constitucional del Perú, 2006 y 2016). Incluso, debido a dicha concepción fue que se ha ido descartando posiciones rígidas con respecto de la extensión del derecho a la identidad (Tribunal Constitucional del Perú, 2014). Por tanto, el máximo intérprete de la Constitución ha reconocido que la identidad de una persona no solo se debería sustentar en cuestiones biológicas o conservables en el tiempo, sino que podría abarcar incluso las decisiones que uno tome en el desarrollo de su proyecto de vida, el cual podría estar construyéndose progresivamente (Tribunal Constitucional del Perú, 2016).

No obstante, dicha tendencia no es original de nuestro ordenamiento, siendo que la doctrina europea, desde fines de los años setenta, ha propuesto que el derecho a la identidad tiene una relación directa con un fin más general, y no solo con ciertos rasgos aparentemente estáticos. Así, se reconocía que la identidad buscaba proteger el “modo de ser” del individuo en sociedad, extendiendo su protección hacia la proyección personal del individuo a partir de convicciones personales, ideológicas, culturales, políticas, etc. (León, 2022).

De ese modo, consideramos que, a diferencia del derecho a la propia imagen, el derecho a la identidad no tiene como finalidad proteger la figura física de la persona en sí misma, sino únicamente como una de las tantas formas para individualizar a la persona. De ese modo, estamos ante un derecho que, de manera más concreta, tutela el reconocimiento de la construcción de los rasgos que individualizan a la persona respecto de su proyección en sociedad, los que, en determinado momento, bien podrían expresarse en datos objetivos como la imagen personal.

Finalmente, es importante advertir que existen otros derechos que también se vinculan con el derecho a la imagen personal, pero desde una percepción aparentemente conflictiva, nos referimos principalmente a los escenarios en los que la difusión de la imagen colisiona con los derechos a la información, expresión o libertad artística. No obstante, observaremos más adelante cómo se solucionan estos problemas, más aún cuando estamos frente a la presencia de la IA.

3.2. El ámbito de protección del derecho a la imagen personal

De lo expuesto en el apartado anterior, queda claro que, como se ha mencionado en la jurisprudencia, la imagen personal se protege incluso cuando no tenga relación con el honor, intimidad o identidad (Tribunal Constitucional de España, 2013). Ello es así debido a que estamos ante un derecho con un contenido de protección propio, lo que no desconoce que en ciertas situaciones exista concordancia con otros derechos fundamentales.

Antes de describir el contenido de este derecho, es fundamental detenernos en la doble naturaleza que tiene el derecho a la imagen personal, que combina tanto una dimensión personal como una dimensión patrimonial (Gómez. 2014). En efecto, se trata de un derecho que tiene, por un lado, una dimensión personalísima sobre la que no podemos renunciar; y, de otro lado, ostenta una dimensión que permite que la imagen de la persona sea tratada como un bien susceptible de tráfico con un valor económico. La primera hace posible ver a este derecho como un derecho fundamental; y el segundo, como un derecho de naturaleza económica.

Por tanto, lo que evaluaremos más adelante es cómo el derecho a la imagen personal se ve vulnerado por el empleo indebido de la IA, sin que ello implique necesariamente una afectación a otro derecho o a la explotación comercial de la imagen (Trujillo. 2024); del mismo modo, nos centraremos en identificar las diversas formas en las que se manifiesta la afectación realizada por esta tecnología.

Ahora, en lo que concierne al contenido iusfundamental de este derecho, si bien han existido diferencias con algunos sistemas jurídicos sobre ello (Rodrigues da Cunha e Cruz, 2013), podríamos decir que, en su mayoría, se ha adoptado la posición de que el derecho a la imagen personal incluye dos vertientes:

a) Una vertiente negativa: que expresa una facultad de defensa ante la captación, reproducción o publicación sin el consentimiento del titular, con independencia de la finalidad que tenga el uso de la imagen (Nogueira, 2007; Rodrigues da Cunha e Cruz, 2013). A partir de ello, este derecho otorga a la persona una potestad destinada a evitar que un tercero capture la imagen de una persona sin su consentimiento, la altere, modifique o difunda sin consentimiento del titular (Poptcheva, 2015). Sobre el consentimiento, somos de la posición que este “debe ser específico o concedido para un determinado acto o finalidad” (Agüero, 2021, p. 129), tal como ha quedado asentada en jurisprudencia constitucional, con lo que, para retener, reproducir o difundir la imagen de alguien se requiere, salvo excepciones previamente establecidas en la ley, su consentimiento expreso (Tribunal Constitucional de España, 2020).

b) Una vertiente positiva: la cual otorga a su titular la posibilidad de utilizar su imagen, reproducirla o difundirla (Tribunal Constitucional del Perú, 2011). En nuestra opinión, esta vertiente incluye la autorización que otorga la persona titular para la captación y publicitación de su propia imagen, motivada por determinado interés legítimo, no necesariamente oneroso. Cabe indicar que, si bien el derecho en cuestión incluye la facultad de autorizar a un tercero el empleo de nuestra imagen personal, la cuestión del valor económico, que es un tema meramente patrimonial, debería verse estrictamente en el fuero civil. Al respecto, si bien todas las personas somos igualmente titulares del derecho en cuestión, no todas tenemos sobre nuestra imagen el derecho de exigir el mismo valor comercial sobre nuestra proyección individual; por ello, es que determinadas personas, cantantes, actrices, actores, entre otros, pueden exigir una contraprestación económica superior a la que podría recibir cualquier otra persona, sin que ello irrumpa el derecho a la igualdad.

En ese sentido, estas dos vertientes del derecho a la imagen personal se sustentan en un factor volitivo sobre el control de la persona para determinar dónde y cuándo puede hacer un uso de su semblanza física. Cabe mencionar que esta doble concepción de la imagen personal ha estado presente tanto desde la óptica del derecho civil como del derecho constitucional. Al respecto, el bien jurídico protegido por el derecho a la imagen en tanto “derecho de la personalidad”, se alinea con el mismo derecho en su dimensión constitucional en tanto “derecho fundamental” (De Verda y Beamonte, 2011a).

A partir de lo anterior, es que diferimos de un sector de la doctrina que considera que la tutela civil de la imagen únicamente se habilita para la protección contra la explotación comercial de la misma o hacia el enriquecimiento patrimonial ilícito por su uso, siendo que, al igual que ocurre respecto de los otros derechos de la persona, esta tiene como fin la protección de su contenido elemental (Retamozo, 2023).

En efecto, entendemos que el significado del derecho a la imagen personal resulta siendo mismo, tanto en el ámbito civil como en el constitucional; así, resulta necesario entender los diferentes remedios que ambas ramas del derecho reconocen para la defensa de este aspecto de la persona, con el fin de analizar su idoneidad. En ese sentido, reafirmamos lo señalado en las primeras páginas del presente artículo, respecto de que los denominados “derechos de la persona” han sido rebautizados como “derechos fundamentales”; no obstante, seguimos hablando del mismo contenido.

Finalmente, en relación a los destinatarios, queda claro que el Estado tiene la obligación general de no intervenir en el ejercicio de las facultades contenidas en este derecho; sin embargo, también está obligado a garantizar la existencia de mecanismos de protección ante posibles afectaciones. De otro lado, cabe mencionar que, en relación a los particulares, estos también tienen el deber general de respetar la decisión de otros sobre su imagen, en tanto la protección de los derechos es un deber del Estado y de la comunidad. Lo anterior será de vital importancia al momento de considerar los riesgos que trae el uso desmedido de la IA para la generación de imágenes, en tanto, mediante este medio, los usuarios pueden modificar la imagen de cualquier otra persona sin mayor dificultad.

3.3. Límites a la protección del derecho a la imagen

Lo anterior no exime a que existan determinados escenarios donde el contenido del derecho a la imagen personal pueda ser limitado válidamente por otros derechos o bienes constitucionalmente protegidos. La determinación de las reglas aplicables para resolver esos escenarios dependerá de las condiciones fácticas y jurídicas de cada caso; no obstante, en la jurisprudencia se han desarrollado algunas reglas que pueden graficarnos la armonización en esos conflictos.

Por ejemplo, en la jurisprudencia del Tribunal Constitucional peruano se ha señalado que el consentimiento del titular para emplear su imagen no será necesario cuando “la persona desempeñe un cargo público y el uso de su imagen se relacione con el cargo que desempeña, por hecho de interés público o por motivos de índole, científica, didáctica o cultural” (Tribunal Constitucional del Perú, 2011, fundamento 12). Así, por citar un ejemplo, un funcionario público no puede alegar que la publicación de unas fotos que se le realizaron en un acto público es un mal uso de su imagen, aun si estas no fueran de su agrado.

En la misma línea, la jurisprudencia y legislación española han establecido un sinnúmero de casos en los que se valida una intervención legítima al derecho a la imagen personal, siempre que se encuentre al servicio de la libertad de información de la sociedad (De Verda y Beamonte, 2011b). Por ejemplo, la fotografía de un personaje público en la portada de un libro que tiene por objeto ser una biografía de este podría permitirse incluso sin su consentimiento. En ese sentido, podemos partir de una regla concreta: la libertad de información será prioritaria frente al derecho a la imagen personal.

No obstante, una cuestión excepcional es el derecho a la imagen personal de niñas y niños, pues se ha mencionado que, en su caso, la exposición de su imagen debe adaptarse a sus especiales circunstancias (Tribunal Constitucional del Perú, 2013). Así, en amparo de proteger su interés superior, se ha señalado que, cuando se encuentran en un contexto de difusión de imágenes o videos que los involucran como partícipes de un ilícito, no se debe difundir su imagen, incluso si ello conlleva a sacrificar el derecho a la libertad de información de la sociedad(2).

De otro lado, también se ha establecido en la jurisprudencia constitucional, que el derecho a la imagen personal podría ser intervenido legítimamente en amparo de la libertad de expresión. Por ejemplo, una representación gráfica que modifica la proyección física de una persona puede ser legítima si esta es expresada “en clave humorística y con carácter crítico” (De Verda y Beamonte, 2011b, p.107), debido a que dicho uso constituye un ejercicio válido de la libertad de expresión. Ello puede verse de manifiesto en el caso de las caricaturas, siendo que éstas son representaciones artísticas que, si bien modifican o imitan la imagen de una persona, tiene un fin concreto que debe ser resguardado por el ordenamiento jurídico, como podría ser el de plantear una crítica social hacia determinado político o persona pública.

Lo mencionado demuestra que, pese a que estamos ante un derecho que brinda el ejercicio de diversas facultades a su titular, también puede estar sometido a legítimas limitaciones que se amparan en otros derechos fundamentales o bienes constitucionales.

4. ¿Qué podría salir mal?: Afectaciones a la imagen personal en tiempos de IA

Habiendo adelantado algunas nociones respecto de la IA, podríamos mencionar que una de las tantas manifestaciones digitales que funcionan con esta herramienta, y que se ha acrecentado últimamente, es el deepfake. Al respecto, este consiste en la creación o alteración de imágenes, videos y voz, mediante redes neuronales denominadas Generative Adversial Networks [GNA], con el fin de crear contenidos engañosos (Ramos-Zaga, 2024; Trujillo, 2024). Ahora, como se puede inferir, el impacto del deepfake resulta más significativo con respecto del derecho a la imagen personal, puesto que, considerando que cada vez más personas suben públicamente su imagen a plataformas digitales, colocando fotos y videos en redes sociales, por ejemplo, estas se exponen a una mayor disposición para un uso ilegítimo de su semblante físico (Gosztonyi y Lendvai, 2024).

Al respecto, el empleo del deepfake puede tener diversos objetivos; así, en el presente trabajo identificamos que el uso de imágenes mediante IA puede expresarse de las siguientes formas: (i) la creación ex novo de una figura completa, que implica crear totalmente una figura personal cuyo titular realmente no existe y que, por ende, no tiene derechos; y, de otro lado, (ii) la alteración del semblante físico de alguien existente, lo que supone desde la manipulación de ciertos atributos, como los rasgos faciales o corporales, hasta la inclusión de su figura en contextos que no son reales (Barrientos, Piñeiro y Porto, 2024).

Considerando dicho contexto, este uso desmedido de deepfakes no solo provocaría una serie de vulneraciones a los derechos de una persona a través de la manipulación de su imagen, sino que incluso podría tener repercusiones más generales, como la afectación de la opinión pública respecto de algunos personajes célebres, por ejemplo, políticos o líderes sociales, aumentando una sensación de desinformación colectiva (Barrientos, Piñeiro y Porto, 2024), tal y como se ha visto en los últimos años.

4.1. Algunos antecedentes al problema

Precisamente, a partir de lo desarrollado anteriormente, se puede establecer que el uso de deepfakes se realiza, mayoritariamente, en tres ámbitos: (i) en el ámbito político, (ii) en el ámbito de los personajes públicos y (iii) con respecto de personas comunes.

Con respecto del primero de estos casos, los deepfakes han venido siendo usados como un mecanismo para manipular la opinión pública respecto de ciertos políticos, por lo general en el marco de procesos electorales. Así, a través de imágenes falsas generadas por IA, se ha buscado mostrar a ciertos candidatos como participantes de conductas cuestionables o atribuyéndoles declaraciones polémicas o falsas, buscando perjudicar la valoración que tiene el electorado sobre éste. Sin embargo, también se ha dado el caso contrario, donde mediante deepfakes se ha buscado generar una valoración positiva hacia determinado candidato, a través imágenes falsas que lo muestren realizando acciones que realmente nunca hizo, únicamente para obtener tener réditos electorales.

En efecto, uno de los primeros casos reportados sobre ello se dio en el 2018, donde el ex alcalde de Sao Paulo, Joao Doria, denunció que, en el marco de un proceso electoral, fue acusado de aparecer en un video donde “aparentemente” participaba de una orgía. Tras una investigación, se corroboró que aquel video fue un deepfake, en el cual se usó una fotografía real del candidato con el fin de incrustarla con IA en un video pornográfico. Ese uso indebido de la IA tenía un claro objetivo: afectar la reputación del candidato de cara al proceso electoral del cual era participante (Medon, 2021).

Un caso similar se dio en enero del 2024, cuando se difundió un supuesto video del presidente de Ucrania, Volodímir Zelenski, bailando en una reunión social una danza de origen ruso. Según se reportó, esta imagen fue generada por IA, colocando el rostro de Zelenski en un video de un bailarín real, con el fin de desprestigiarlo públicamente, en el marco del conflicto armado que vive Ucrania con Rusia (Gastón, 2024).

Posteriormente, en plena campaña electoral estadounidense del 2024, comenzaron a circular en redes sociales una serie de fotografías de Donald Trump junto con varios miembros de la comunidad afroamericana, que aparentemente demostraban el interés del candidato por este colectivo. Al respecto, se descubrió que dichas imágenes fueron generadas por IA a partir de fotos reales del candidato, con el fin de ser usadas mejorar su imagen pública (Spring, 2024).

Ejemplos como los anteriores abundan, pero podríamos encontrar un factor común, y es que todos están relacionados a buscar influenciar en la opinión pública respecto de un candidato, ya sea atribuyéndole conductas cuestionables, o falseando su imagen con el ánimo de atraer más votos hacia su campaña.

Ahora, el tema de los deepfakes adquiere otro matiz cuando nos alejamos del fuero electoral y aterrizamos en la situación particular de personajes públicos, como es el caso de los artistas. Sobre el particular, en los últimos dos años se ha visto un claro y lamentable incremento de este fenómeno.

Por ejemplo, en mayo del 2023, la cantante conocida como “La Rosalía” denunció públicamente que estaba circulando por redes sociales una fotografía de ella aparentemente desnuda; sin embargo, solo se trataba de un deepfake, ya que dicha imagen se había creado con IA recortando el rostro de la implicada de una fotografía real y colocándola en el cuerpo de otra mujer (Arena, 2023). Posteriormente, en agosto del 2023, se reportó el caso de la influencer Laura Escanes, quien denunció que una imagen suya editada con IA venía circulando por redes sociales; al igual que en el caso anterior, resultó que se había pegado su rostro en una imagen pornográfica (Ortiz, 2023).

A inicios del 2024, la cantante Taylor Swift denunció un hecho similar con respecto de una serie de imágenes aparentemente suyas que venían circulando por la web, lo que incluso llevó a que la red social X comenzará a bloquear todo tipo de contenido relacionado con la cantante; aunque, en torno a la implicada no solo ocurrió ello, sino que, posteriormente, también se descubrió que una imagen de ella, también editada con IA, venía siendo usada en anuncios de venta de utensilios de cocina, en donde incluso se incluía una edición de su voz (Agudo, 2024). De esta forma, en el caso concreto, no solo se empleó el deepfake con una connotación pornográfica, sino que incluso se usó su imagen para la promoción de productos sin su consentimiento, lo que pudo haber llevado a que el creador de la imagen se enriquezca indebidamente.

En ese sentido, se aprecia que en estos casos los deepfakes adquieren nuevos objetivos. Por un lado, un objetivo comercial, usando la imagen de artistas conocidos o celebridades para hacerle creer al público que están validando un determinado producto o servicio; de otro lado, hay un objetivo para acrecentar la sexualización de celebridades a través de imágenes pornográficas, en específico de mujeres.

Es más, ya para el 2019 se advertía que casi el 96% de todo el material considerado deepfake era de carácter pornográfico (Medon, 2021). Con ello, no se desconoce que este tipo de imágenes no puedan considerar a otro tipo de afectados; sin embargo, el dato mencionado sirve para indicar algo bien puntual: hay un uso predominante al momento de realizar deepfakes, en donde mayormente son afectadas las mujeres (Barrientos, Piñeiro y Porto, 2024).

Lo anterior adquiere una mayor preocupación cuando la afectación no recae en una persona pública, sino en personas comunes (Medon, 2021), las que no tienen los mismos recursos para denunciar el uso indebido de su imagen, como ocurría en el caso de las celebridades, que cuentan con plataformas compuestas por millones de seguidores. Incluso, el escenario se vuelve aún más peligroso si estuviéramos frente al caso de menores de edad. Sobre el particular, en agosto del 2023, se reportó el caso de un grupo de escolares en un colegio en Chorrillos que habría estado comercializando, a través de redes sociales, imágenes de sus compañeras con connotación pornográfica, las cuales fueron realizadas mediante IA, a partir de fotografías reales que dichas alumnas subieron a sus redes sociales (Cabeza, 2023).

Esto lamentablemente no es un caso aislado, siendo que en Chile, Argentina y España esta práctica ya está significando una nueva forma de hostigamiento entre estudiantes (Mondaca, 2024; Nedok, 2024; Kohan, 2024). A diferencia de los casos anteriormente descritos, aquí es más notorio el ánimo de perjudicar a la persona afectada a través de la difusión de dichas imágenes, independientemente del beneficio económico que obtendrían los infractores. Así, el hecho de estar frente a personas comunes, sobre todo si son menores de edad, hace que el análisis se lleve por una cuestión más allá de lo patrimonial, vinculando dicha contravención con la esfera más íntima de la persona: su propia dignidad.

4.2. La afectación al derecho a la imagen personal a través de los deepfakes

Se puede apreciar, a raíz de los casos mencionados, que el uso de deepfakes conlleva a una clara afectación a la imagen de las personas aludidas en estas. Es decir, se puede constatar que el aspecto físico de las y los afectados fue indebidamente usado con el fin de ser editado maliciosamente con IA, ya sea con fines políticos, comerciales o con otro tipo de fines ilícitos.

En ese sentido, hoy en día el problema no pasa solo por la “reproducción” de la imagen, que era el supuesto clásico en lo referido a la imagen personal, por ejemplo, mediante la propagación de una imagen comprometedora de una persona. Hoy pareciera que el problema adquiere un nuevo matiz por la posibilidad de “generar” nuevas imágenes a partir de otras, por ejemplo, alguna fotografía que una persona haya subido a redes sociales.

Si bien ello antes era posible mediante algunos sofisticados programas de edición, como el Photoshop, ahora pareciera que, con el uso de la IA, estos procesos son más accesibles y sencillos para cualquier persona, siendo que ya no es necesario tener conocimiento técnico sobre algún tipo de programa para producir deepfakes (Medon, 2021). De ese modo, bastará con una indicación puntual por parte de algún usuario para que la IA pueda producir, de forma autónoma, el resultado solicitado.

La tecnología va adquiriendo nuevas facetas con el paso del tiempo, por tanto, el incremento en el uso de IA amerita que la protección a la imagen personal puede extenderse a estos nuevos espacios de afectación. Ya no solo se trata de una persona “capturando” la imagen de otra, por ejemplo, mediante una cámara fotográfica, sino que el problema escala a niveles en el que una persona vaya “recolectando” diversas fotografías de redes sociales de terceros para “reutilizarlas” mediante la IA.

A partir de los casos narrados, se puede constatar que hay un claro atentado contra la imagen de las personas, sean públicas o no. El uso desmedido del aspecto físico para fines políticos, comerciales o atentatorios contra la dignidad humana a través de la generación de material audiovisual falso, conlleva a un atentado contra parte esencial de la esfera privada del individuo que no debería tolerarse.

En ese sentido, la reivindicación del derecho a la imagen propia en un contexto donde la IA ha fomentado la creación de deepfakes es una necesidad puntual. En ese sentido, se debe garantizar el hecho de que las personas puedan gozar de los beneficios de las plataformas digitales, por ejemplo, redes sociales, sin que ello conlleve a considerar una aparente renuncia a sus derechos fundamentales, como es el caso de la imagen (Presno, 2022).

4.3. La afectación a otros derechos fundamentales

Podemos ver que las diversas afectaciones denunciadas no solo traen consigo una vulneración al derecho a la imagen, sino que, adicionalmente, pueden afectar a otros derechos conexos. Por ejemplo, respecto del derecho al honor, se puede desprender que habrá imágenes generadas con IA que conllevarán a que se genere en la colectividad alguna opinión imprecisa respecto de la persona. Un claro ejemplo de ello es cuando se utiliza la imagen para simular actos totalmente reprochables como actos vinculados a la violencia sexual.

De otro lado, respecto al derecho a la identidad, si bien la imagen responde a una esfera estática del derecho a la identidad, debe considerarse que, con su afectación mediante el empleo de deepfakes, también puede desprenderse cierta vulneración a la identidad dinámica. Ello en el sentido de que, mediante dicha tecnología, se le puede atribuir a su titular ciertas opiniones o conductas que no corresponden a sus reales creencias. Como ejemplo de lo anterior, podemos denotar que la IA podría ser usada para atribuirle a cierta persona una opción política con la que no concuerda; o, incluso, se le podría colocar exhortando a las personas a elegir un determinado producto o servicio, simulando alguna opinión favorable que el afectado nunca brindó realmente.

Finalmente, quisiéramos hacer alusión al derecho a la igualdad y no discriminación, refiriéndonos a las afectaciones a los derechos de las mujeres a través del empleo de la IA, lo que refleja la discriminación estructural que ya de por sí las mujeres viven. Sobre el particular, se mencionó que el uso de deepfakes afecta mayormente a las mujeres o incluso niñas, pues la finalidad más recurrente que se tiene para editar la imagen de una mujer a través de la IA se centra en la creación y divulgación de material pornográfico. Y, como se mencionó, el tema se acrecienta cuando estamos frente a la afectación de mujeres que, al no ser celebridades, no cuentan con los mismos medios para denunciar este uso indebido de sus imágenes.

5. La tutela civil y constitucional frente a las afectaciones a la imagen personal a través de la IA: apuntes a partir del caso peruano

Habiendo expuesto la afectación al derecho de la imagen personal por medio de deepfakes realizados con IA, procederemos a resaltar dos vías de tutela para este derecho dentro del ordenamiento peruano. En ese sentido, se hará alusión a la tutela civil de dicho derecho, en tanto “derecho de la personalidad”, y a la tutela constitucional del mismo, en tanto “derecho fundamental”.

5.1. La tutela civil del derecho a la imagen personal

Al respecto, se debe tener presente que el derecho a la imagen propia está reconocido en el artículo 15 del Código Civil peruano, reconociéndolo expresamente como “derecho de la persona”. Al respecto, como mencionamos previamente, la tutela civil no se limita únicamente a buscar un resarcimiento por los daños producidos a un particular, sino que está destinada a resguardar el ámbito no patrimonial del derecho, siendo ello producto del desarrollo histórico mencionado en la primera parte del presente trabajo. En ese sentido, hay que tomar en cuenta que el derecho civil ha establecido históricamente la posibilidad de recurrir a medidas de carácter inhibitorio para disponer el cese de actos lesivos contra la persona o evitar su repetición (Di Majo, 2023). De esta forma, se debe destacar que la tutela civil de los derechos de la persona no solo busca compensar el daño ya ocasionado, considerando además las dificultades para calcular monetariamente dichas afectaciones, sino prevenir nuevos daños.

Así, con el fin de generar una protección más integral a la imagen, es necesario anticiparse a la producción de nuevas afectaciones o, en caso de agresiones continuadas, cesarlas antes de que ocasionen mayores daños. Precisamente, ante las formas más recientes de agresión contra los derechos de la persona, por ejemplo, las realizadas mediante la IA, es necesario priorizar la tutela preventiva inhibitoria, debido al alcance de las plataformas digitales, y no esperar a que éstas generen daños más gravosos.

Al respecto, el ordenamiento jurídico peruano, en un reflejo de su histórico afán protector hacia los derechos de la persona, contempla expresamente esta posibilidad en el artículo 17 del Código Civil, el cual menciona lo siguiente: “La violación de cualquiera de los derechos de la persona a que se refiere este título, confiere al agraviado o a sus herederos acción para exigir la cesación de los actos lesivos. La responsabilidad es solidaria”.

No obstante, una simple lectura del artículo en cuestión podría hacer que se tengan más preguntas que respuestas en torno a su aplicación práctica(3). Al respecto, Carlos Fernández Sessarego (2022), conocido por ser el jurista a cargo de la elaboración del Libro I del Código Civil peruano, ha explicado que la ratio legis del citado artículo era establecer un mecanismo concreto, dentro del fuero civil, que pueda permitirles a los jueces cesar, sancionar o prevenir los daños hacia la persona, pudiendo, de manera accesoria, ordenar una indemnización. Por tanto, se entiende que el Código Civil vigente sí contempla, aunque con claras deficiencias en su redacción, la posibilidad de tutelar en la vía civil los derechos de la persona de manera preventiva, y no solo las consecuencias patrimoniales generadas a partir de su contravención (Retamozo, 2023).

Sin perjuicio de lo anterior, hay que mencionar que, respecto de las afectaciones a la imagen propia, el Código Procesal Civil contiene una regulación específica para el derecho en cuestión en el artículo 686, el cual establece que cuando se solicite la tutela de este derecho, se pueden solicitar incluso las medidas cautelares correspondientes, con el fin de hacer más efectiva la protección del derecho civil. De esa forma, las personas afectadas por el aprovechamiento de una imagen suya modificada por la IA, podrían solicitar el cese de dicha afectación a través de la tutela inhibitoria propuesta por el artículo 17 del Código Civil, debiendo, de ser el caso, solicitar las medidas cautelares correspondientes.

De otro lado, algo que no puede pasarse por alto es la posibilidad de solicitar, adicionalmente a lo anterior, un monto indemnizatorio por los daños ya materializados. Al respecto, se debe tener presente que la responsabilidad civil, no solo busca indemnizar los daños materiales, sino también los daños no patrimoniales, donde, evidentemente, encontramos a los daños hacia los derechos de la persona (Fernández Sessarego, 2022). Del mismo modo, un sector de la doctrina considera ello puede llevar incluso a prevenir nuevas afectaciones; y es que, a través del monto impuesto como reparación, se busca inducir a que las personas procuren no realizar el mismo daño en el futuro (Leiva, 2020).

En vista de ello, el uso indebido de la imagen personal mediante la IA podría llevar al despliegue de la tutela inhibitoria civil; del mismo modo, podría conducir a la obtención de un monto indemnizatorio como forma de reparación para el derecho afectado, aplicando según corresponda las reglas propias de la responsabilidad extracontractual. En ese sentido, por ejemplo, una artista que se ha visto afectada por la circulación de una fotografía trucada mediante IA, podría solicitar el cese en lo que respecta a la circulación de dicha imagen, evitando la reiteración del perjuicio; del mismo modo, podría solicitar accesoriamente una indemnización por el daño no patrimonial ocasionado; sin embargo, se debe comprender que ésta última pretensión deberá someterse a las implicancias procesales del caso, debiendo actuar los medios probatorios correspondientes que acrediten el daño sufrido, lo cual puede llevar a una apreciación subjetiva por parte de los jueces. Considerando ello, habría que considerar otro tipo de remedios que pudieran resultar más céleres para la tutela del derecho a la imagen personal, sobre todo ante la posibilidad de que la duración del proceso civil permite que se ocasionen daños irreparables a los afectados.

5.2. La tutela constitucional del derecho a la imagen personal

El derecho constitucional peruano, siguiendo la tendencia garantista del Estado Constitucional de Derecho, ha estructurado mecanismos propios para poder tutelar los derechos fundamentales, los cuales responden a un interés particular de los Estados con el fin de resguardar debidamente los derechos inherentes a cada persona (Murillo, 2024). Como mencionamos previamente, la imagen personal es considerada, hoy en día, como un derecho fundamental, tal y como se consigna expresamente en el inciso 7 del artículo 2 de la Constitución. En ese sentido, según el inciso 10 del artículo 44, correspondiente al Nuevo Código Procesal Constitucional peruano, el proceso de amparo sería el idóneo para resguardar la imagen personal en caso de vulneraciones contra este derecho.

Al respecto de la vía del amparo, cabe mencionar que el origen de este tipo de procesos surge de una necesidad concreta: contar con una tutela de urgencia respecto de la vulneración de derechos; y es que, la vía constitucional del amparo busca distinguirse de otro tipo de procesos ordinarios, como los procesos civiles, al ser una vía célere y sencilla de protección de derechos fundamentales, garantizando la supremacía de la Constitución (Abad, 2019). De esta forma, el factor de urgencia es el objeto principal sobre el que se sustenta este recurso procesal(4).

Sobre el particular, tras los hechos ocurridos en la segunda guerra mundial, los compromisos asumidos por los diversos Estados conllevaron a la consolidación de procesos céleres e idóneos para la defensa de los derechos de las personas; en ese sentido, el proceso de amparo no solo tienen un objetivo concreto, centrado en la tutela de algunos derechos frente a afectaciones que pudiera recibir una persona en particular, sino que tiene un objetivo más estructural, al ser una manifestación del compromiso de los ordenamientos con la dignidad humana y el respeto al individuo como valores institucionales (Jenkins, 2025).

Aterrizando en el caso peruano, la doctrina sostiene que este tipo de procesos básicamente cumplen tres funciones: en primer lugar, buscan prevenir cualquier tipo de vulneración concreta hacia los derechos fundamentales, ya sea realizado por un ente estatal o por particulares; en segundo lugar, buscan cesar o dejar sin efecto todo tipo de actos u omisiones que, a diferencia del supuesto anterior, sean continuadas en el tiempo; finalmente, buscan impedir que estos actos puedan repetirse, en caso estos sean irreparables (Murillo, 2024).

Como puede apreciarse, si atendemos debidamente a las funciones descritas, podemos ver una gran similitud con los objetivos de la tutela inhibitoria civil. Por un lado, ambos mecanismos de protección tienen como fin el resguardo del individuo; y de otro lado, coinciden en que no es apropiado esperar a que los daños se materialicen para que el derecho intervenga, siendo que ambas vías permiten la prevención o cese de actos lesivos, impidiendo la ocurrencia de actos dañosos o su repetición.

Sin embargo, se puede establecer una serie de diferencias entre ambas vías. En primer lugar, porque el proceso de amparo sólo estará disponible en caso de vulneración de lo que la doctrina constitucional ha llamado el “contenido constitucionalmente protegido” de los derechos invocados(5), el cual debería estar dirigido a resguardar el ámbito iusfundamental de estos.

De esta forma, considerando el derecho a la imagen personal, entendemos que el proceso de amparo debería admitirse en caso se vulneren las prerrogativas del individuo en torno al uso de su semblante físico; distinto sería el caso si lo que está en cuestión es únicamente el disfrute económico del derecho o la búsqueda de una indemnización, ya que se entiende que ello deberá ser debatido en los fueros ordinarios. En ese sentido, el proceso de amparo en el Perú, al ser una tutela de urgencia, se estructura a partir de situaciones que afecten directamente al derecho en sí, y no cuestiones accesorias.

En torno a lo anterior, otra de las cuestiones esenciales al momento de entender la vía del amparo en el Perú, es que esta se habilita únicamente en casos donde no exista una vía igualmente satisfactoria y donde, para que se pueda interponer, es necesario que se hayan agotado todas las vías previas(6). Entonces, cabe la pregunta sobre si la tutela inhibitoria civil, mencionada previamente, podría significar ello. Y es que, si fuera el caso, cualquier demanda de amparo que busque resguardar el derecho a la imagen personal debería declararse improcedente, ordenando que primero se solicite su tutela en la vía civil.

No obstante, debe tenerse en cuenta que las propias deficiencias respecto de la redacción del artículo 17 del Código Civil han hecho que ésta no se haya consolidado aún como una vía recurrente para la defensa de los derechos, pese a que dicha disposición sigue vigente. En ese sentido, dada la regulación ambigua e imprecisa del referido artículo, el recurso de amparo se ha venido consolidando casi exclusivamente como el mecanismo por excelencia para la defensa de derechos como la imagen personal (Fernández Sessarego, 2022). Por tanto, comprender a la vía civil como una vía que debe agotarse previamente podría resultar una interpretación muy restringida y, siguiendo lo dispuesto por el artículo 43 del Nuevo Código Procesal Constitucional, ante la duda sobre el agotamiento de la vía previa, se debe preferir la admisión de la acción de amparo.

Del mismo modo, debemos mencionar que, a diferencia de la vía del amparo, la vía civil podría resultar más compleja debido a sus características procesales, sobre todo si se solicita algún tipo de indemnización, lo que podría llevar a procesos más largos que, a su vez, ocasionen situaciones de irreparabilidad. Al respecto, el inciso 2 del artículo 43 del Nuevo Código Procesal Constitucional menciona que en casos donde haya un riesgo de un daño irreparable, se puede exceptuar la regla respecto del agotamiento de las vías previas, dejando al amparo como una vía procedente.

En ese sentido, en caso se esté accionando contra una afectación manifiesta al derecho a la imagen y esta no conlleve al debate jurídico sobre otras pretensiones accesorias, como una indemnización, y siempre que medie la posibilidad de que se produzca un daño irreparable si no se atiende de manera célere, el proceso de amparo resultará idóneo. Así, como menciona Abad (2019), no se debe perder de vista que la acción de amparo no debe dejar de ser excepcional, siendo que solo debe ser procedente cuando la urgencia del caso lo justifique. Por ejemplo, en el caso de las escolares afectadas por el uso que sus compañeros le dieron a la IA para la alteración de sus fotos sí hubiera sido procedente un recurso de amparo con el fin de cesar la afectación de su derecho a la imagen personal, siendo que, amparándonos en el principio del interés superior del niño, el caso era de suma urgencia debido a las repercusiones que las menores podrían acarrear.

5.3. Consideraciones procesales a contemplar para una debida tutela del derecho a la imagen en el derecho peruano

A partir de lo señalado previamente, se puede llegar a la conclusión que, tal y como está configurado el ordenamiento jurídico peruano, una persona que ha sufrido la afectación de su imagen, tendría un derecho potestativo de elegir la vía que más encuentre conveniente a sus intereses siempre que las circunstancias que fundamentan sus pretensiones así lo ameriten. En ese sentido, dada su complejidad, no se excluye la posibilidad que el derecho a la imagen propia pueda ser resguardado tanto en el derecho civil como en el derecho constitucional (Murillo 2024; Landa et al., 2024). Incluso, hay cierto sector de la doctrina que sostiene que la tutela civil podría resultar más ventajosa, siendo que ésta podría no solo cesar la conducta lesiva, sino que, mediante una pretensión accesoria, se podría solicitar un resarcimiento por los daños ocasionados (Murillo, 2024). Incluso, esa es la opción que se ha tomado en muchos países de Europa, donde estos procesos son, por lo general, tramitados exclusivamente en la vía civil ordinaria, siendo el amparo una alternativa excepcional en caso no encontrar una tutela eficiente (Zela, 2010).

Sobre el particular, se debe recordar que la vía constitucional no contempla la posibilidad de solicitar indemnizaciones, siendo que la valoración de pruebas necesaria para ello no es acorde con la naturaleza célere de un proceso de amparo, conforme lo regulado en el Perú, siendo ello exclusivo de la vía civil. En ese mismo sentido, debe considerarse que, si la amenaza que buscaba ser frenada en un proceso de amparo, provoca un daño irreparable, quien juzga aún podría declarar fundada la demanda, aunque no para reparar dicho daño, sino con el único objetivo de prevenir futuras repeticiones de la afectación (Murillo, 2024).

Y es que, como hemos mencionado, el proceso de amparo busca ser una vía célere destinada al resguardo del contenido constitucionalmente protegido de los derechos, por lo que su tramitación está diseñada para tener una sentencia estimatoria en un breve plazo de tiempo, el cual evidentemente podría variar dependiendo de la carga procesal de cada juzgado. En ese sentido, al no contar con una fase de valoración de pruebas, se entiende que las transgresiones deben ser manifiestas, con el fin de que el juzgado pueda ordenar la inhibición de cualquier tipo de daño.

Visto el panorama, ante vulneraciones contra el derecho a la imagen propia, por un lado tendríamos como alternativa al proceso de amparo, que busca ser una vía célere para cesar actos lesivos contra la imagen de una persona, pero que no contempla el aspecto indemnizatorio; y, de otro lado, tendríamos a la vía civil que busca también el cese de actos lesivos contra la imagen pero con una correspondiente indemnización por los daños; sin embargo, hay una cuestión procesal que debemos destacar: que en el Código Procesal Civil no hay una vía procesal claramente definida para la tutela inhibitoria de la imagen, aunque para un sector de la doctrina esto tendría que llevarse a cabo en un proceso de conocimiento (Murillo, 2024), el cual se caracteriza por su larga duración y diversas fases procesales, debiendo la parte interesada interponer las medidas cautelares correspondientes para evitar eventuales daños durante el transcurso del proceso.

En ese sentido, vemos que el ordenamiento jurídico peruano ha contemplado remedios concretos ante la vulneración de los derechos de los individuos, en donde se incluye el derecho a la imagen. Así, ante las diversas agresiones que se pueden generar actualmente mediante el uso indebido de la IA, el ordenamiento jurídico nacional sí cuenta con mecanismos de tutela; sin embargo, se deben hacer notar algunas consideraciones específicas respecto a las ventajas y desventajas de éstos, con el fin de orientar al afectado a que opte por la vía más acorde a su interés.

Finalmente, debido a que las afectaciones a la imagen generadas por deepfakes son relativamente recientes, aún no hay mayor jurisprudencia al respecto a la tutela en este tipo de escenarios; sin embargo, es debido mencionar y resaltar la existencia de las vías civil y constitucional ante este tipo de situaciones, con el fin de asegurar una protección más integral a la persona humana y su dignidad.

6. Conclusiones

a) El derecho a la imagen personal, inicialmente concebido dentro de la doctrina civil como uno de los “derechos de la personalidad”, hoy tiene reconocimiento constitucional como parte de los “derechos fundamentales”, con un contenido autónomo diferenciado al ámbito de protección de otros derechos fundamentales, tales como el derecho al honor, a la intimidad e identidad. Al respecto, ello ocurre tanto en sistemas jurídicos que lo han reconocido expresamente como en otros que lo contemplan de manera implícita.

b) En términos de contenido, este derecho se compone de dos vertientes, una negativa, que busca evitar el uso o difusión de la imagen sin consentimiento de la persona, y una positiva, que busca reconocer la potestad de usar y disfrutar la imagen personal de cada uno, ya sea con fines económicos o no. Ahora, para asegurar una protección idónea al individuo, es necesario que dicho derecho contemple los nuevos ámbitos de afectación, sobre todo los generados por las nuevas tecnologías. En ese sentido, debe contemplar ahora una protección ante los denominados deepfakes.

c) Precisamente, en los últimos años se ha venido acrecentando con mayor intensidad la divulgación de deepfakes, material audiovisual generado por IA a partir de los datos de una persona, con el fin de introducirla en situaciones falsas o degradantes. Cabe mencionar que ello ya no es solo un problema de las personas públicas, sino de cualquier individuo, aunque de manera específica de las mujeres y niñas. Así, esta nueva manifestación de la IA permite no solo crear imágenes humanas completamente falsas desde cero, sino que permite modificar, alterar y descontextualizar la imagen de una persona de una manera más sencilla.

d) El uso de deepfakes ha conllevado a una afectación al derecho a la imagen personal de los implicados, siendo que se viene utilizando su semblante físico sin su consentimiento con el fin de generar ideas falsas respecto de éstos, generando no solo una posible afectación patrimonial, sino sobre todo una afectación a su imagen personal, al quitarle todo tipo de control sobre su uso. Del mismo modo, esto podría llevar a afectaciones a otros derechos como el honor, la identidad y el derecho a la igualdad y no discriminación.

e) En ese sentido, ante esta situación, y considerando el reconocimiento del derecho a la imagen en el Código Civil y en la Constitución, el ordenamiento peruano ha estructurado dos vías concretas para salvaguardar el semblante físico de la persona afectada. Así, la imagen propia puede resguardarse en la vía civil a través de la tutela inhibitoria otorgada por el artículo 17 del Código Civil; del mismo modo, este derecho puede defenderse en la vía constitucional mediante un proceso de amparo. Si bien ambas son susceptibles de atender el contenido del derecho a la imagen, van a encontrarse ciertas distinciones en su aplicación práctica, por lo que será una decisión de los accionantes optar por una u otra vía dependiendo de cada caso particular.

f) Finalmente, es obligación del ordenamiento jurídico que pueda fomentar el uso de estas vías procesales con el fin de asegurarles a los individuos afectados por deepfakes una tutela idónea y apropiada. En ese sentido, los próximos años serán esenciales para ver cómo la judicatura logra tutelar el derecho a la imagen a través de los procesos desarrollados en la presente investigación, con el fin de cumplir el mandato principal del Estado de proteger a la persona y su dignidad.

Referencias Bibliográficas

Abad, S. (2019). Manual de Derecho Procesal Constitucional. Palestra.

Agudo, S. (29 de enero del 2024). X comienza a bloquear las búsquedas relacionadas con Taylor Swift en la red social. Andro4all. https://andro4all.com/redes-sociales/x-comienza-a-bloquear-las-busquedas-relacionadas-con-taylor-swift-en-la-red-social

Agüero, A. (2021). Derecho a la propia imagen y divulgación en prensa de fotos obtenidas de Facebook. Derecho Privado y Constitución, (38), 119-155. https://doi.org/10.18042/cepc/dpc.38.04

Alexy, R. (2022). Teoría de los derechos fundamentales (3 a ed.). Centro de Estudios Políticos y Constitucionales.

Ammerman, J. (2021). El derecho a la propia voz como derecho de la personalidad. Colex.

Arena, B. (2023, 26 de mayo). El caso de Rosalía o cómo la inteligencia artificial puede ensombrecer (y mucho) la vida de las mujeres. Vogue. https://www.vogue.es/articulos/rosalia-fotos-inteligencia-artificial-peligro-mujeres

Barbosa, M. (2017). El derecho de la propia imagen: estudio interdisciplinar y comparado [Tesis de doctorado, Universitat de Barcelona]. Dipósis Digital. https://hdl.handle.net/2445/122605

Barrientos, A., Piñeiro, T. & Porto, D. (2024). Imágenes falsas, efectos reales. Deepfakes como manifestaciones de la violencia política de género. Revista Latina de Comunicación Social, (82), 1-29. https://doi.org/10.4185/rlcs-2024-2278

Brage, J. (2004). Los límites a los derechos fundamentales. Dykinson.

Cabeza, Y. (2023, 28 de agosto). Chorrillos: Padres denuncian a escolares por comercializar fotos de adolescentes con contenido sexual. Infobae. https://www.infobae.com/peru/2023/08/28/padres-denuncian-a-escolares-del-colegio-st-georges-en-chorrillos-por-comercializar-fotos-con-contenido-sexual/

Calderón, C. (2014). Daño a la persona. Origen, desarrollo y vicisitudes en el derecho civil peruano. Motivensa.

Caso Fontevecchia y D’Amico vs. Argentina (2011, 29 de noviembre). Corte Interamericana de Derechos Humanos. http://www.corteidh.or.cr/docs/casos/articulos/seriec_238_esp.pdf

Caso Reklos y Davourlis vs. Grecia (2009, 15 de enero). Tribunal Europeo de Derechos Humanos. https://hudoc.echr.coe.int/eng#{%22itemid%22:[%22001-90617%22]}

Código Civil [CC]. Decreto Legislativo 295. 24 de julio de 1984 (Perú).

Código Procesal Civil [CPC]. Decreto Legislativo 768. 4 de marzo de 1992 (Perú).

Constitución Política del Perú [Const.]. 29 de diciembre de 1993 (Perú).

Convención Americana sobre Derechos Humanos [CADH]. 22 de noviembre de 1969 (San José, Costa Rica).

Convención Europea de Derechos Humanos [CEDH]. 4 de noviembre de 1950 (Roma, Italia).

Convención sobre los Derechos del Niño [CDN]. 20 de noviembre de 1989 (Nueva York, Estados Unidos).

De Verda y Beamonte, J. (2011a). El derecho a la propia imagen en la Ley Orgánica 1/1982, de 5 de mayo. En J. De Verda y Beamonte (Ed.), Derecho y nuevas tecnologías. El Derecho a la imagen desde todos los puntos de vista (pp. 41-66). Thomson Reuters Aranzadi.

De Verda y Beamonte, J. (2011b). Intromisiones ilegítimas en el derecho a la propia imagen autorizadas por la ley. En J. De Verda y Beamonte (Ed.), Derecho y nuevas tecnologías. El Derecho a la imagen desde todos los puntos de vista (pp. 87-120). Thomson Reuters Aranzadi.

Di Majo, A. (2023). La tutela civil de los derechos. Zela.

Espinoza, J. (2019). Derecho de las personas (8a ed.) Instituto Pacífico.

Expediente No. 01970-2008-PA/TC. Caso Moulet Guerra (2011, 30 de mayo). Tribunal Constitucional. https://www.tc.gob.pe/jurisprudencia/2011/01970-2008-AA.pdf

Expediente No. 03459-2012-PA/TC. Caso O.R.V.A. y otro (2013, 3 de junio). Tribunal Constitucional. https://www.tc.gob.pe/jurisprudencia/2014/03459-2012-AA.pdf

Expediente No. 00139-2014-PA/TC. Caso P.E.M.M. (2014, 18 de marzo). Tribunal Constitucional. https://www.tc.gob.pe/jurisprudencia/2014/00139-2014-AA.pdf

Expediente No. 02272-2005-PHC/TC. Caso Quiroz Cabanillas (2006, 20 de abril). Tribunal Constitucional. https://img.lpderecho.pe/wp-content/uploads/2024/10/Exp.-2273-2005-PHC-TC-LPDerecho.pdf

Expediente No. 06040-2015-PA/TC. Caso Romero Saldarriaga (2016, 21 de octubre). Tribunal Constitucional. https://www.tc.gob.pe/jurisprudencia/2016/06040-2015-AA.pdf

Fernández Sessarego, C. (2022). Derechos de las personas. Análisis de cada artículo del Libro Primero del Código Civil peruano DE 1984 (14a ed.). Rimay.

Gastón, D. (2024, 20 de febrero). Un video de Zelenski interpretando un baile oriental es un deepfake. VerificaRTVE. https://verifica.efe.com/video-zelenski-baile-oriental-es-deepfake/

Gómez, E. (2014). La propia imagen como categoría constitucional. Thomson Reuters Aranzadi.

Jenkins, G. (2025). Amparo (de Derechos fundamentales en Latinoamérica). EUNOMÍA. Revista en Cultura de la Legalidad, (28), 304-331. https://doi.org/10.20318/eunomia.2025.9500

Kohan, M. (2023, 18 de septiembre). Los implicados en las fotos de las niñas de Almendralejo podrían enfrentarse a una pena de uno a nueve años de prisión. Público. https://www.publico.es/sociedad/implicados-fotos-ninas-almendralejo-podrian-enfrentarse-pena-nueve-anos-prision.html

Landa, C., Benatti, F., León, L. & Rubio, M. (2024). Mesa redonda: ¿Constitucionalización del Derecho Civil o civilización del Derecho Constitucional? THEMIS Revista de Derecho, (85), 525-536. https://doi.org/10.18800/themis.202401.029

Lara, F. (2004). El derecho fundamental a la propia imagen y la publicación de fotografías. Revista de Ciencias Jurídicas, (105), 189-214. https://doi.org/10.15517/rcj.2004.13348

Leiva, C. (2020). La delimitación de la función preventiva de la responsabilidad civil en el Código Civil y Comercial Argentino. Revista IUS, 14(46), 243-267. https://doi.org/10.35487/rius.v14i46.2020.576

León, L. (2007). El problema jurídico de la manipulación de información personal. Palestra.

León, L. (2022). La atomización de la identidad como bien de la personalidad. Significado y límites de su tutela jurídica en el Perú. Actualidad Civil, (100), 117-197.

Medon, F. (2021). 0 direito a imagem na era das deepfakes. Revista Brasileira de Direito Civil, 27(1), 251-277. https://rbdcivil.ibdcivil.org.br/rbdc/article/view/438

Mendoza, L. (2014). La acción civil del daño moral. Universidad Nacional Autónoma de México.

Mendoza, M. (2009). Derechos fundamentales y derecho privado. Grijley.

Mondaca, G. (2024, 25 de mayo). Imágenes falsas: la IA abre una nueva forma de bullying en los colegios. La Tercera. https://www.latercera.com/la-tercera-sabado/noticia/imagenes-falsas-la-ia-abre-una-nueva-forma-de-bullying-en-los-colegios/ZWBRG32IXBDXFIGVRXTBLUW7WU/

Murillo, J. (2024). Diálogo de tutelas: entre la inhibición y el resarcimiento en el ordenamiento jurídico peruano. Revista de Derecho Privado, (47),167-194. https://doi.org/10.18601/01234366.47.07

Nedok, I. (2024, 9 de agosto). Escándalo en Roca: estudiantes usaron IA para trucar y difundir fotos de compañeras. Patagonia Press. https://www.patagonia.press/policiales/2024/8/9/escandalo-en-roca-estudiantes-usaron-ia-para-trucar-difundir-fotos-de-companeras-12654.html

Nogueira, H. (2007). El derecho a la propia imagen como derecho fundamental implícito: fundamentación y caracterización. Ius et Praxis, 13(2), 245-285. http://dx.doi.org/10.4067/S0718-00122007000200011

Ley No. 27337. Ley que aprueba el Nuevo Código de los Niños y Adolescentes [NCNA] (2000, 7 de agosto). Congreso de la República.Nuevo Código Procesal Constitucional [NCPC]. 23 de julio del 2021 (Perú).

Ortiz, M. (2023, 16 de agosto). Laura Escanes denuncia unas fotos hechas por inteligencia artificial en las que sale desnuda. El Independiente. https://www.elindependiente.com/gente/2023/08/16/laura-escanes-fotos-desnuda-creadas-por-inteligencia-artificial/

Pérez-Ugena, M. (2024). La Inteligencia Artificial: Definición, regulación y riesgos para los derechos fundamentales. Estudios De Deusto, 72 (1), 307-337. https://doi.org/10.18543/ed.3108

Poptcheva, E. (2015). Los derechos de la personalidad en el ordenamiento jurídico alemán. En J. Barcena, D. Capodiferro & J. Gavara (Eds.), El control judicial de los medios de comunicación (pp. 241-264). J.M. Bosch Editor.

Presno, M. (2022). Derechos Fundamentales e Inteligencia Artificial. Marcial Pons.

Ramón, F. (2022). Inteligencia artificial y los derechos en torno a la creación y la imagen. Actualidad Jurídica Iberoamericana, (16), 3762-3791. https://revista-aji.com/inteligencia-artificial-y-los-derechos-en-torno-a-la-creacion-y-la-imagen/

Ramos-Zaga, F. (2024). Deepfake: Análisis de sus implicancias tecnológicas y jurídicas en la era de la Inteligencia Artificial. Derecho global. Estudios sobre derecho y justicia, 9 (27), 359-387. https://doi.org/10.32870/dgedj.v9i27.754

Real Academia Española. (s. f.). Imagen. Diccionario de la lengua española. https://dle.rae.es/imagen

Reglamento (UE) 2024/1689. Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas sobre inteligencia artificial (2024, 13 de junio). Parlamento Europeo y Consejo de la Unión Europea.

Retamozo, J. (2023). Artículo 17.- Defensa de los derechos de la persona. En J. Espinoza & L. Barchi (Dirs.), Nuevo Comentario al Código Civil peruano (Tomo I, pp. 310-320). Instituto Pacífico.

Rodrigues da Cunha e Cruz, M. (2013). El concepto constitucional del derecho a la propia imagen en España y en Brasil. Espaço Jurídico: Journal of Law, 14 (2), 349-383. https://dialnet.unirioja.es/servlet/articulo?codigo=4547040

Rodriguez, A. (2024). Buena regulación y normación sobre Inteligencia Artificial. En Castilla, M., Cervilla, M., Hernández, I. y Neupavert, M. (Eds.), El Derecho y la justicia ante la inteligencia artificial y otras tecnologías disruptivas (pp.387-405). Aranzadi.

Tribunal Constitucional de España. (2020, 24 de febrero). Sentencia 27/2020. Pleno. Sala Primera. [Ponente: Juan José González Rivas]. https://hj.tribunalconstitucional.es/es/Resolucion/Show/26246

Spring, M. (2024, 4 de marzo). Trump supporters target black voters with faked AI images. BBC News. https://www.bbc.com/news/world-us-canada-68440150

Tarrillo, D. (2023). Artículo 14: Derecho a la intimidad. En L. Barchi & J. Espinoza (Eds.), Nuevo comentario del Código Civil peruano. Tomo 1: Título preliminar y derecho de las personas (pp. 288-293). Instituto Pacífico.

Trujillo, C. (2024). El derecho a la propia imagen (y a la voz) frente a la inteligencia artificial Indret Privado. Revista para el Análisis del Derecho, (1), 75-113. https://indret.com/el-derecho-a-la-propia-imagen-y-a-la-voz-frente-a-la-inteligencia-artificial/

Zela, A. (2010). La tutela preventiva de los derechos: una introducción. THEMIS Revista De Derecho, (58), 41-52. https://revistas.pucp.edu.pe/index.php/themis/article/view/9116

(*) Nota del Equipo Editorial: Este artículo fue recibido el 5 de setiembre de 2025 y su publicación fue aprobada el 1 de enero de 2026.

(**) El artículo ha recibido el financiamiento del Centro de Investigación, Capacitación y Asesoría Jurídica (CICAJ) de la PUCP Pontificia Universidad Católica del Perú (Lima, Perú), como parte de la “Convocatoria conjunta para docentes TC y TPA: Concurso de proyectos de artículos de investigación 2024-I”.

(***) Abogada por la Universidad Nacional Mayor de San Marcos (Lima, Perú). Magistra en Derecho Constitucional por la Pontificia Universidad Católica del Perú (Lima, Perú). Profesora de Derecho Constitucional en la Pontificia Universidad Católica del Perú. Co-docente de la Clínica Jurídica en “Derechos de las Personas y Nuevas Tecnologías” en la Facultad de Derecho de dicha universidad. Integrante del Grupo de Investigación en Derecho Constitucional y Derechos Fundamentales y del Grupo de Investigación sobre Derechos Fundamentales, Derecho Comparado, Tecnología y Neurociencia. ORCID: https://orcid.org/0000-0001-9346-3263. Correo electrónico: jromeroh@pucp.edu.pe.

(****) Abogado por la Pontificia Universidad Católica del Perú (Lima, Perú). Magíster en Persona, Matrimonio y Familia por la Universidad Católica Santo Toribio de Mogrovejo (Chiclayo, Perú) y maestrando en Derecho Civil en la Pontificia Universidad Católica del Perú (Lima, Perú). Profesor de Derecho Civil en dicha universidad. Integrante del Grupo de Investigación de Derecho Privado y Mercado. Co-docente de la Clínica Jurídica en “Derechos de las Personas y Nuevas Tecnologías” en la Facultad de Derecho de la Pontificia Universidad Católica del Perú ORCID: https://orcid.org/0000-0002-5208-6489. Correo electrónico: asantome@pucp.edu.pe.

(1) Para ser más exactos, nos estamos refiriendo al Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024 mediante el cual se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) 300/2008, (UE) 167/2013, (UE) 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial).

(2) Esto mismo se desprende del contenido del artículo 13.4 de la Convención Americana sobre los Derechos Humanos; el artículo 17 de la Convención sobre los derechos del niño; y del artículo 6 del Código del Niño y el Adolescente peruano.

(3) Al respecto, Calderón (2014, p. 154) menciona tres observaciones claras en torno a la redacción del artículo 17 en cuestión. Por un lado, se hace referencia solamente a la “cesación de los actos lesivos”, pero no se menciona expresamente la posibilidad de interponer esta acción ante amenazas, por más certeras e inminentes que pudieran ser; del mismo modo, el segundo párrafo es una anomalía respecto de la definición clásica de norma jurídica, siendo que es un precepto sin supuesto de hecho, por más que deba sobreentenderse que, cuando se habla de responsabilidad solidaria, se está refiriendo a la daño realizado por más de una persona; finalmente, el artículo en cuestión pareciera que no contempla la posibilidad expresa de acudir a medidas cautelares con el fin de resguardar debidamente los derechos de la persona.

(4) Sobre el particular, los orígenes del proceso de amparo dan a entender este compromiso con ser un procedimiento urgente y efectivo. Al respecto, según se tienen registros, fue en México y Argentina donde se comenzó a reconocer de manera expresa este mecanismo como un remedio excepcional para la vulneración de derechos constitucionales. Posteriormente, este se fue expandiendo a otros países de la región, en donde se fueron incorporando determinadas particularidades según cada ordenamiento (Jenkins, 2025).

(5) Como se señala expresamente en el artículo 7, inciso 1 del Nuevo Código Procesal Constitucional peruano.

(6) Como se señala expresamente en el artículo 7, inciso 2, y en el artículo 43 del Nuevo Código Procesal Constitucional peruano.