Jefes de Estado y políticos de todo el mundo están impulsando medidas para protegerse de los deepfakes creados con inteligencia artificial. Algunos promueven normativas que abarcan a todos los funcionarios de sus respectivos países. Otros se limitan a aplicar medidas para evitar que se clonen sus voces. Estas disposiciones echan a andar al tiempo que ha trascendido que al menos 46 diputadas del Parlamento Europeo, una de cada seis, han aparecido en imágenes pornográficas hiperrealistas pero falsas de pornografía creada con inteligencia artificial, según una investigación de la organización Agora Digitale Transformation, presentada el lunes en el Parlamento Europeo. Una situación “intolerable y deplorable”, ha denunciado presidenta de la Eurocámara, Roberta Metsola, que ha urgido a los Estados miembros que garanticen la aplicación efectiva de las nuevas normas europeas, que actúen contra las aplicaciones que permiten crear este tipo de contenido y que se persiga la difusión de deepfakes sexuales no consentidos.
La presidenta mexicana acelera una reforma para penalizar el uso de vídeos falsos en los que aparecen funcionarios gubernamentales, mientras que la mandataria italiana patenta su voz como marca sonora ante la UE
Jefes de Estado y políticos de todo el mundo están impulsando medidas para protegerse de los deepfakescreados con inteligencia artificial. Algunos promueven normativas que abarcan a todos los funcionarios de sus respectivos países. Otros se limitan a aplicar medidas para evitar que se clonen sus voces. Estas disposiciones echan a andar al tiempo que ha trascendido que al menos 46 diputadas del Parlamento Europeo, una de cada seis, han aparecido en imágenes pornográficas hiperrealistas pero falsas de pornografía creada con inteligencia artificial, según una investigación de la organización Agora Digitale Transformation, presentada el lunes en el Parlamento Europeo. Una situación “intolerable y deplorable”, ha denunciado presidenta de la Eurocámara, Roberta Metsola, que ha urgido a los Estados miembros que garanticen la aplicación efectiva de las nuevas normas europeas, que actúen contra las aplicaciones que permiten crear este tipo de contenido y que se persiga la difusión de deepfakes sexuales no consentidos.
En Italia, la primera ministra Giorgia Meloni ha solicitado registrar su voz como marca ante la Unión Europea con el objetivo de defenderse de montajes realizados con inteligencia artificial. Según ha adelantado este lunes el periódico La Repubblica, la ultraderechista ha archivado su voz y las inflexiones de su timbre ante la Oficina de Propiedad Intelectual de la Unión Europea (EUIPO) con una grabación de cuatro segundos en la que pronuncia dos veces la frase Io sono Giorgia Meloni (Yo soy Giorgia Meloni). La solicitud sigue en fase de revisión, pero, si es aceptada, Meloni dispondrá de nuevas herramientas legales para impedir la circulación de contenidos falsos, como exigir la retirada de cualquier material ilícito y reclamar posteriormente una indemnización por daños.
Elena Gil, abogada experta en IA y fundadora de Data Guardians, advierte de que registrar la voz no ofrece una cobertura absoluta frente a la generación de vídeos falsos: “Es verdad que la marca puede ayudar a determinados usos comerciales, pero como la protección se da para los productos o servicios para los que tú la hayas registrado, no es para cualquier deepfake”, explica.
Si bien Meloni ha optado por una herramienta de protección individual, en México, en cambio, el Gobierno trabaja en una medida mucho más amplia que no solo protege a la presidenta, Claudia Sheinbaum. El pleno del Senado aprobó el miércoles último, por 72 votos a favor y 34 en contra, una reforma para penalizar el uso de vídeos falsos en los que aparecen funcionarios gubernamentales. La modificación, que aún debe aprobarse por la Cámara de Diputados, ha sido bautizada como “ley anti-memes” y ha despertado duras críticas por parte de la oposición. Los parlamentarios acusaron a la administración de Sheinbaum de crear un instrumento para censurar la sátira y la parodia, al reformar la Ley Federal de Protección a la Propiedad Industrial y el Código Penal federal.
Ante el revuelo generado, la propia jefa de Estado ha intentado contener la polémica. “¿Qué se sanciona? Que salga la presidenta en un video utilizando inteligencia artificial para cometer un fraude. Eso es lo que aparece en la ley, que no se pueden cometer delitos. No la sátira política, ni siquiera la ofensa personal”, explicó en la conferencia matutina del jueves pasado. La consejera jurídica del Ejecutivo Federal, Luisa María Alcalde Luján, detalló que el texto aprobado contempla una pena de cinco años de cárcel y una multa de hasta 1.173.000 pesos mexicanos (unos 58.000 euros).
Para el abogado experto en derecho digital Borja Adsuara, medidas como las impulsadas por Claudia Sheinbaum o Giorgia Meloni no son necesarias en España, donde el adelanto electoral ha dejado de momento en suspenso la reforma que pretendía prohibir por primera vez los videos falsos generados sin el consentimiento de la persona afectada. En su opinión, no hay que regular los deepfakes como una categoría específica, como pretendía hacer el Gobierno de Pedro Sánchez antes de la disolución de las Cortes con una nueva ley. “No se debe crear un nuevo derecho a la propia imagen en el entorno digital. Ya nos protege la Constitución en su artículo 18, nos ampara la ley de protección civil, el código penal y la ley de protección de datos. La imagen y la voz son datos personales”, insiste en una conversación telefónica mientras recuerda que la Agencia Española de Protección de Datos ya ha abierto expedientes sancionadores por usar la imagen y la voz de una persona sin su consentimiento.
Adsuara propone como alternativa que, en todo caso, se introduzcan agravantes a los delitos que ya están legislados y pone como ejemplo las estafas que se cometen haciendo uso de vídeos generados o manipulados. “En vez de poner deepfake, se puede poner imágenes reales o realistas. Con esa terminología, da igual si se crearon con inteligencia artificial o con Photoshop. No hay que hacer una reforma legal cada vez que nos encontramos ante una tecnología emergente”, sentencia.
Elena Gil, la divulgadora y abogada experta en IA, coincide en parte con Adsuara, aunque afirma que una normativa específica ayudará a arrojar una mayor claridad. “Una ley que mencione expresamente que las imágenes manipuladas sin consentimiento están penalizadas puede ayudar a dar más seguridad jurídica, pero eso no quiere decir que actualmente no exista una protección”, indica.
La respuesta de los gobiernos para proteger a sus autoridades o a sus ciudadanos de los peligros de la inteligencia artificial varía de país a país. Gil destaca el caso de Dinamarca. “Han aprobado una ley que otorga a los ciudadanos derechos sobre su propia identidad digital, la voz, el rostro o el cuerpo. Esto es para evitar que se usen para entrenamiento de la IA. La normativa les permite, incluso, pedir indemnizaciones. Como excepción, se permite la sátira o la parodia con fotografías o vídeos creados por IA, porque no cualquier imagen generada implica que hemos cruzado el umbral de lo que es ilegal”, apunta.
En otros países, como Brasil, las medidas se han concentrado en el ámbito electoral. En agosto, el Tribunal Superior Electoral (TSE) llegó a un acuerdo con la empresa británica ElevenLabs para crear un mecanismo de protección para bloquear la clonación no autorizada de las voces de los candidatos. Entre los aspectos clave de la asociación, figura la lucha contra la desinformación, la detección de fraude y la colaboración en investigaciones judiciales para determinar si las grabaciones de audio sospechosas de ser fraudulentas se generaron en sus propios sistemas.
Tecnología en EL PAÍS
