Explicado: Nuevas reglas de la UE sobre IA, deepfakes y chatbots: ¿Cómo te afectarán?

Etiquetado de IA y Deepfakes en la UE

Pronto será obligatorio por ley en la Unión Europea el etiquetado de creaciones por inteligencia artificial y la marcación de deepfakes, como parte de la sección de transparencia de la nueva regulación integral de IA, que entrará en vigor el 2 de agosto.

Con la implantación de estas nuevas normativas, cualquier persona en la UE estará mejor informada acerca de cuándo está interactuando con sistemas de IA.

Según el Acta de IA: «Los proveedores de IA deberán diseñar sistemas que notifiquen a los usuarios cuando estén interactuando directamente con una IA, y deberán añadir marcas legibles por máquinas para permitir la detección de contenido generado o manipulado por IA».

Chatbots

Cualquier sitio web, departamento de servicio al cliente o agencia gubernamental que utilice un chatbot deberá informar a los usuarios de que están interactuando con una IA y no con una persona real, a menos que ya sea evidente que se está utilizando IA (por ejemplo, si se proporciona el mensaje ‘consulta a nuestro chatbot de IA para más información’ o similar).

Esta información debe mostrarse claramente en el momento adecuado y ser fácil de entender. Es responsabilidad del proveedor del chatbot asegurar que el usuario reciba esta información de manera adecuada.

Es importante destacar que esto aplica a todos los nuevos chatbots que operen en la UE a partir del 2 de agosto. Los ya existentes tienen hasta diciembre de 2026 para cumplir con la legislación, aunque muchos ya lo hacen.

Imágenes, vídeos o textos creados por IA

Nuevas reglas también se aplicarán al contenido creado o editado por IA.

Cualquier imagen, vídeo, sonido o texto producido por un sistema automatizado deberá ser identificable como tal mediante una marca técnica que permitirá rastrear su origen artificial.

Esta marca de rastreo podría adoptar varias formas: datos incrustados en el archivo, información sobre su origen o una marca de agua técnica, accesible a herramientas de verificación. Es crucial que esta información permanezca intacta incluso si el original es recortado o alterado de otra manera.

Las herramientas de verificación deben poder recuperar esta información, pero, crucialmente, no necesita ser clara para el usuario. Por lo tanto, la mayoría de las fotos, vídeos o artículos generados por IA no tienen que estar acompañados por una etiqueta visible que indique «generado por IA».

Este principio también se aplica al contenido original modificado con IA.

Deepfakes

Los deepfakes, con ciertas concesiones para usos personales, artísticos, satíricos y ficticios, deben estar claramente marcados como generados o manipulados por IA.

Los espectadores de un vídeo que aparentemente presenta a un político, líder empresarial u otra persona identificable ofreciendo información, consejos o comentarios, deben poder entender que lo que están viendo es generado o manipulado por IA.

Según el Acta de IA, un deepfake de audio, similar a uno en EE. UU. donde un mensaje deepfake de Joe Biden instaba a los estadounidenses a no votar en las elecciones presidenciales de 2024, debería comenzar con un aviso que declare en un «lenguaje natural claro y sencillo» que es generado por IA.

Además, los sistemas de reconocimiento de emociones y de categorización biométrica, por ejemplo, el reconocimiento facial, deberán informar a las personas que están expuestas a ellos a partir del 2 de agosto.

Próxima fase

Una tercera ola del Acta de IA, que incluye herramientas de reclutamiento, evaluación de crédito, educación, control de fronteras y infraestructura crítica —que implican regulaciones mucho más estrictas— entrará en vigor el 2 de diciembre de 2027.

Los sistemas utilizados como componentes de seguridad en ciertos productos, como dispositivos médicos, juguetes o ascensores, estarán sujetos a estas regulaciones a partir del 2 de agosto de 2028.

Las multas de hasta 35 millones de euros o el siete por ciento del ingreso global pueden imponerse por incumplimiento.

Artículos similares

• Meta permite que chatbots tengan conversaciones románticas con niños: polémica decisión desata debates
• Confusión en Postbank: Descubre qué hay detrás de su último anuncio
• Plataforma de Pornografía Deepfake Cierra: Descubre qué sucedió
• Dinamarca lidera en Europa: aprueba primera ley contra los deepfake
• “Espero que pasen cosas malas”: la inquietante advertencia del creador de la IA

Alberto Ramos

Alberto Ramos es un periodista experimentado especializado en noticias de tecnología y entretenimiento. Su pasión por la innovación y la cultura pop impulsa sus crónicas, basadas siempre en fuentes confiables. Con un estilo claro y conciso, Alberto le ayuda a comprender el trasfondo de cada novedad.