RGPD e inteligencia artificial: la guía para empresas (con un consejo de 1215)

Un colaborador pega en un chatbot el correo de un cliente enfadado, con nombre, número de pedido y dirección, y pide: "ayúdame a responder". Parece un gesto inocente. En realidad es un tratamiento de datos personales, con todo lo que exige el RGPD. Esta guía explica, de forma práctica, qué debe hacer una empresa que usa inteligencia artificial para cumplir: roles, bases jurídicas, proveedores, transferencias, evaluación de impacto, derechos de las personas.

Pero antes, como siempre, una lección de historia. Esta vez vamos a Roma, en noviembre de 1215.

El secreto de 1215 y el "consejo sin nombre"

En 1215 el papa Inocencio III reúne en Letrán uno de los concilios más importantes de la Edad Media, el IV Concilio de Letrán. Entre sus decretos está el canon 21, conocido por sus primeras palabras latinas Omnis utriusque sexus: todo fiel, hombre o mujer, llegado a la edad de la razón, debe confesarse al menos una vez al año con su propio sacerdote. No era una novedad absoluta, como recuerdan los historiadores, pero el canon lo convirtió en regla general para toda la cristiandad latina.

Piénsenlo un momento como responsables del tratamiento. Millones de personas que, cada año, entregan a un tercero la información más delicada de su vida. El mayor archivo de "categorías especiales de datos" de Europa, guardado en la memoria de miles de párrocos. ¿Cómo se protege algo así?

El canon lo dice con una claridad que envidiarían muchos reglamentos. El sacerdote debe guardarse de traicionar al penitente "de palabra, por signos o de cualquier otro modo". Y quien se atreva a revelar un pecado oído en confesión no solo será depuesto del sacerdocio, sino recluido en un monasterio para hacer penitencia perpetua (el texto se recoge, entre otros, en la entrada sobre el sigilo de la Catholic Encyclopedia). Nada que ver con una multa administrativa.

Pero la frase que más me interesa es otra, casi escondida. El canon prevé que el sacerdote, ante un caso difícil, pueda necesitar "un consejo más sabio". ¿Y entonces? Que lo pida, pero con cautela y sin mencionar a la persona.

Dirán ustedes: profesor, ¿qué tiene que ver con la inteligencia artificial? Todo. Ese sacerdote que busca un parecer externo sin dar nombres es exactamente su empleado delante de ChatGPT. Necesitar ayuda es legítimo; cómo se pide marca la diferencia. Ochocientos años después, el RGPD llama a ese gesto seudonimización y minimización de datos. Su empresa hoy está en la misma posición: custodia información ajena y tiene a mano un consejero potentísimo. Veamos cómo usarlo sin traicionar a nadie.

Cuándo se aplica el RGPD a la inteligencia artificial

El Reglamento (UE) 2016/679 se aplica siempre que se tratan datos personales, es decir, información sobre una persona identificada o identificable. La herramienta da igual: hoja de cálculo, ERP o modelo de lenguaje. Para una empresa que usa IA hay tres situaciones típicas:

1. Uso de asistentes generalistas (ChatGPT, Claude, Gemini, Copilot): datos personales en los prompts o en los documentos subidos.
2. IA dentro de los procesos de la empresa: un asistente que responde a clientes, un sistema que lee facturas, una herramienta que analiza CV, un CRM que puntúa contactos.
3. Entrenamiento o personalización de modelos con datos de la empresa (por ejemplo, un histórico de incidencias o correos).

Si en los datos no hay nada que remita a una persona, el RGPD no se aplica. Pero cuidado: quitar el nombre no siempre basta. Un número de pedido, una dirección o una descripción muy concreta ("nuestro único cliente de un pueblo pequeño que fabrica embutidos") pueden hacer identificable a alguien.

Los roles: quién es responsable y quién encargado

Cuando usas una herramienta de IA por cuenta de tu empresa, normalmente la empresa es responsable del tratamiento (decide por qué y cómo se tratan los datos) y el proveedor es encargado del tratamiento según el artículo 28 del RGPD. Consecuencia práctica: hace falta un contrato de encargo (Data Processing Agreement, DPA) que fije qué puede hacer el proveedor con los datos.

Ahí está la diferencia entre planes personales y empresariales. Los planes business de los principales proveedores suelen incluir un DPA y excluyen por defecto el uso de los contenidos para entrenar los modelos. Los planes gratuitos o personales a menudo no. Si un empleado usa su cuenta privada con datos de clientes, la empresa está tratando datos con alguien con quien no tiene contrato alguno. Es el problema de la shadow AI, y la solución es una política clara: lo vemos en ChatGPT en la empresa: normas para los empleados.

Qué revisar en el contrato con el proveedor:

• si tus datos se usan para entrenar modelos y cómo excluirlo;
• dónde se conservan y durante cuánto tiempo;
• qué subencargados intervienen (otros proveedores cloud, por ejemplo);
• qué medidas de seguridad se garantizan;
• cómo se gestionan las solicitudes de supresión y las brechas de datos.

La base jurídica: por qué puedes tratar esos datos

Todo tratamiento necesita una de las bases del artículo 6: contrato, obligación legal, consentimiento, interés legítimo y pocas más. En la práctica:

• usar IA para responder a la solicitud de un cliente suele encajar en la ejecución del contrato o en medidas precontractuales, porque el dato se usa para la misma finalidad para la que se dio;
• usar IA para analizar el comportamiento de los clientes con fines de marketing suele requerir interés legítimo (con una ponderación documentada) o consentimiento;
• reutilizar datos recogidos para otro fin (por ejemplo, entrenar un modelo con los correos de los clientes) exige una valoración cuidadosa: la nueva finalidad debe ser compatible con la original.

Sobre el interés legítimo en el desarrollo y uso de modelos de IA se pronunció el Comité Europeo de Protección de Datos en el Dictamen 28/2024 de diciembre de 2024: puede ser una base válida, pero solo si el tratamiento es realmente necesario y la ponderación con los derechos de las personas se sostiene, teniendo en cuenta también lo que estas pueden esperar razonablemente.

Categorías especiales de datos: el doble de prudencia

Salud, opiniones políticas, convicciones religiosas, afiliación sindical, datos biométricos y los demás datos del artículo 9 solo pueden tratarse en casos concretos. Si eres una consulta médica, una farmacia, una agencia de empleo o un departamento de personal, la regla práctica es sencilla: estos datos no entran en un asistente generalista salvo dentro de una herramienta evaluada, contratada y configurada para ello. En la duda, el consejo de 1215 sigue valiendo: pide ayuda "sin mencionar a la persona".

Transparencia: actualiza la información a los interesados

Los artículos 13 y 14 del RGPD obligan a explicar a las personas cómo se tratan sus datos. Si introduces la IA en un proceso que les afecta, la información debe actualizarse: qué herramientas, para qué fines, con qué proveedores, si hay transferencias fuera de la UE.

Se suman dos reglas más:

• desde el 2 de agosto de 2026, el artículo 50 del AI Act exige que quien interactúa con un sistema de IA, como un chatbot, sepa que está hablando con una máquina (salvo que resulte evidente);
• en Italia, la Ley 132/2025 obliga al empleador a informar a los trabajadores sobre el uso de la IA (artículo 11) y a los profesionales a informar a sus clientes sobre los sistemas que usan (artículo 13). La misma ley, en su artículo 4, exige el consentimiento de los padres para que los menores de catorce años accedan a tecnologías de IA.

Minimización y privacidad desde el diseño: el consejo sin nombre

El principio de minimización (artículo 5) dice que solo se tratan los datos necesarios. El artículo 25 pide diseñar los procesos con la protección de datos integrada desde el principio. En el día a día de una oficina:

• quita nombres, números de identificación, direcciones y teléfonos antes de pegar un texto en un asistente, si no son necesarios para la tarea;
• sustituye los datos por marcadores ("Cliente A", "Proveedor B") y vuelve a ponerlos tú en la respuesta final;
• sube solo las páginas necesarias, no el expediente completo;
• desactiva el historial o la memoria de las conversaciones cuando no los necesites, si la herramienta lo permite;
• para procesos recurrentes, valora herramientas que seudonimizan automáticamente los datos antes de enviarlos al modelo.

Recuerda, eso sí, que los datos seudonimizados siguen siendo datos personales para el RGPD: quien tiene la "clave" puede llegar a la persona. Reducen el riesgo, no lo eliminan.

Transferencias fuera de la Unión Europea

Muchos proveedores de IA son estadounidenses. Las transferencias a terceros países se rigen por el capítulo V del RGPD (artículos 44 y siguientes). Para Estados Unidos existe hoy una decisión de adecuación de la Comisión Europea, el EU-U.S. Data Privacy Framework, adoptada el 10 de julio de 2023: las transferencias a empresas estadounidenses adheridas están permitidas sin más instrumentos. El Tribunal General de la UE desestimó un recurso contra esa decisión el 3 de septiembre de 2025 (asunto T-553/23, Latombe); se ha recurrido en casación ante el Tribunal de Justicia, así que conviene seguir el asunto.

En la práctica: comprueba en el contrato dónde se tratan los datos, si el proveedor está adherido al Data Privacy Framework o usa cláusulas contractuales tipo, y si ofrece conservar los datos en Europa. Varios proveedores lo ofrecen en sus planes empresariales.

Decisiones automatizadas: el artículo 22

El artículo 22 del RGPD da a las personas el derecho a no ser objeto de decisiones basadas únicamente en un tratamiento automatizado que produzcan efectos jurídicos o les afecten de forma similar y significativa. Piensa en un sistema que descarta candidatos automáticamente, deniega una financiación o bloquea a un cliente sin que nadie mire el caso.

Hay excepciones (contrato, ley, consentimiento explícito), pero exigen garantías: como mínimo, el derecho a obtener intervención humana, a expresar su punto de vista y a impugnar la decisión. La regla práctica para una pyme: la IA propone, una persona decide. Y la revisión humana debe ser real, no un clic automático en "aprobar".

Para la IA en selección de personal se añade el AI Act, que clasifica estos sistemas como de "alto riesgo": tras el aplazamiento del Reglamento (UE) 2026/1744, sus obligaciones se aplican desde el 2 de diciembre de 2027.

La evaluación de impacto (EIPD): cuándo hace falta

El artículo 35 del RGPD exige una evaluación de impacto cuando un tratamiento, sobre todo con nuevas tecnologías, puede entrañar un alto riesgo para los derechos de las personas. La IA no la hace obligatoria automáticamente, pero la hace mucho más probable si:

• tratas categorías especiales de datos (salud, por ejemplo) a gran escala;
• evalúas o puntúas a personas (clientes, candidatos, empleados);
• supervisas sistemáticamente el comportamiento de los trabajadores;
• combinas datos de fuentes distintas de formas que la gente no espera.

Para quien usa sistemas de IA de alto riesgo, el artículo 26 del AI Act prevé que el responsable del despliegue utilice la información del proveedor también para realizar la EIPD. Las dos normas trabajan juntas.

Una EIPD no es una novela: describe el tratamiento, valora necesidad y proporcionalidad, identifica riesgos y medidas para reducirlos. Hecha al principio, evita descubrir los problemas cuando el sistema ya está en producción.

Seguridad y brechas de datos

El artículo 32 exige medidas de seguridad adecuadas al riesgo. Con la IA, eso significa: cuentas de empresa con doble factor, permisos por puesto, ninguna clave de acceso compartida por correo y cuidado con las herramientas conectadas al correo o al archivo (que pueden manipularse con instrucciones ocultas en los documentos, la llamada prompt injection). Si se produce una brecha, el artículo 33 obliga a notificarla a la autoridad de control en 72 horas cuando supone un riesgo para las personas. Tenemos una guía específica sobre riesgos de seguridad ligados a la IA: phishing y ciberseguridad en las pymes.

Lo que enseña la autoridad italiana

El Garante italiano de protección de datos ha sido una de las autoridades más activas de Europa en IA generativa. Tres casos útiles:

• ChatGPT, marzo de 2023. El Garante ordenó la limitación provisional del tratamiento de los datos de los usuarios italianos, señalando entre otras cosas la falta de información, de base jurídica para el entrenamiento y de verificación de edad. El servicio volvió tras la adopción de una serie de medidas por parte de OpenAI.
• OpenAI, diciembre de 2024. Al cerrar la investigación, el Garante anunció una multa de 15 millones de euros y una campaña informativa de seis meses. OpenAI recurrió y en marzo de 2026 el Tribunal de Roma anuló la resolución, estimando las objeciones sobre la competencia de la autoridad italiana, ya que OpenAI había establecido entretanto en Irlanda su establecimiento principal en la UE.
• DeepSeek, enero de 2025. El Garante ordenó con urgencia la limitación del tratamiento de los datos de los usuarios italianos tras unas respuestas consideradas insuficientes por parte de las empresas, que sostenían no estar sujetas a la normativa europea.

La lección para una empresa no es "evita tal o cual proveedor". Es más sencilla: elige herramientas de las que puedas documentar adónde van los datos y con qué contrato. Si no sabes responder a esas dos preguntas, el problema no es del proveedor: es tuyo.

La lista de control RGPD para la IA en la empresa

Escenario tipo: una tienda online con asistente de clientes

Imagina una tienda online de artículos para el hogar, 12 personas, miles de consultas al mes. La empresa quiere un asistente de IA que responda sobre el estado de los pedidos y las devoluciones.

Los pasos correctos: elegir un proveedor con contrato de encargo y opción de conservar los datos en la UE; conectar el asistente solo a los datos necesarios (estado del pedido, no todo el historial de compras); decir claramente al cliente que habla con un asistente automático y cómo pasar a una persona; actualizar la información de privacidad; dejar en manos de una persona las decisiones que afectan al cliente, como denegar un reembolso; fijar plazos de conservación de las conversaciones. Es un escenario tipo, pero cubre el 90% de los casos que vemos.

Preguntas frecuentes

¿Puedo usar ChatGPT con datos de clientes sin incumplir el RGPD?

Sí, si usas un plan empresarial con contrato de encargo, tienes una base jurídica para esa finalidad, has informado a las personas e introduces solo los datos necesarios. Con una cuenta personal gratuita y datos identificativos de clientes el riesgo es alto: mejor evitarlo.

¿Necesito el consentimiento de los clientes para usar IA?

No siempre. Si la IA sirve para gestionar la solicitud del cliente, la base suele ser el contrato. El consentimiento es necesario en casos concretos, por ejemplo algunos usos de marketing o el tratamiento de categorías especiales cuando no hay otra base. Hay que valorarlo caso por caso.

¿Cuándo es obligatoria la EIPD para un sistema de IA?

Cuando el tratamiento puede suponer un alto riesgo: típicamente si evalúas o perfilas a personas, tratas datos de salud a gran escala o supervisas a los empleados. En la duda, una EIPD breve es igualmente útil para documentar tus decisiones.

¿Qué cambia el AI Act respecto al RGPD?

El RGPD protege los datos personales; el AI Act regula los sistemas de IA según su riesgo. Se aplican juntos: el AI Act no sustituye al RGPD. Para una pyme que usa IA, hoy el AI Act exige sobre todo transparencia con quien habla con un chatbot y medidas de alfabetización del personal; las obligaciones para sistemas de alto riesgo, como los de selección de personal, se aplican desde el 2 de diciembre de 2027.

Más lecturas y apoyo

Esta guía forma parte de nuestra serie sobre IA en la empresa: empieza por la guía completa de inteligencia artificial para pymes, lee cómo plantear la formación de los empleados y qué supone el AI Act para las pymes. Si trabajas en un despacho, nuestra página para despachos profesionales recoge los casos más frecuentes.

En Penzai diseñamos soluciones de IA con la protección de datos integrada desde el principio, junto a tu DPD o asesor de privacidad. Descubre nuestros servicios o reserva una llamada gratuita: partimos de las herramientas que ya usas.

Esta guía tiene carácter informativo y no sustituye el asesoramiento jurídico sobre tu caso concreto.