Tu asistente de IA le dice a un cliente que la entrega es el 15, pero es el 30. El cliente organiza una obra, pierde una semana y te manda un correo. ¿De quién es la culpa? Adelanto: no del software. Veamos por qué, y cómo protegerte sin renunciar a la IA.
Un mercader de Prato y sus agentes
Empecemos de lejos, porque el Profesor tiene debilidad por los mercaderes. Francesco di Marco Datini, nacido en Prato hacia 1335 y fallecido allí en 1410, montó una red de negocios entre Pisa, Prato, Génova, Barcelona, Valencia y Mallorca, con la dirección general en Florencia y la antigua sede de Aviñón todavía activa (véase también la entrada de Wikipedia sobre Datini). Su archivo, conservado en el Archivo de Estado de Prato, reúne unos 150.000 entre cartas, documentos y libros de cuentas: un mercader que escribía muchísimo porque no podía estar en todas partes.
Y diréis: ¿qué tiene que ver Datini con un asistente de IA? Mucho. Un mercader medieval no veía con sus propios ojos lo que sus agentes, los fattori, firmaban en su nombre en Barcelona o en Génova. Sin embargo, según el ius commune, que se inspiraba en el derecho romano, quien ponía a un agente al frente de su negocio respondía, en líneas generales, de los actos que el agente realizaba en ese papel. Los detalles técnicos variaban según el lugar y el caso, y no pretendo hacer de abogado: el principio general, con todo, era ese. Si mandas a un agente a negociar en tu nombre, los terceros confían en ti, no en él.
Pues bien, tu empresa hoy está en ese mismo taller. El agente, ahora, es un programa.
El mismo principio, en 2024, con un chatbot
En febrero de 2024 el Civil Resolution Tribunal de la Columbia Británica resolvió el caso Moffatt contra Air Canada. Un pasajero había preguntado al chatbot de la aerolínea cómo funcionaba la tarifa por duelo; el chatbot le dijo que podía solicitarla después de comprar el billete, pero la política real de la compañía no lo permitía. La aerolínea intentó sostener que no respondía de lo que decía su chatbot. El tribunal rechazó la defensa: la empresa no había tenido el cuidado razonable de asegurar que el chatbot fuera preciso, y un cliente no debe comprobar una página del sitio con otra (lo resume la prensa canadiense).
Ojo: es una decisión canadiense, no europea, y se trataba de una reclamación menor. Aquí no sienta jurisprudencia. Pero muestra cómo razona quien juzga: quien pone una herramienta delante de los clientes responde de ella, y punto.
Qué dicen hoy el derecho europeo e italiano
No existe un artículo de código titulado «errores de la IA». Pero se aplican igualmente reglas generales:
- Responsabilidad contractual y precontractual. Si prometes algo a un cliente mediante un chatbot o un correo generado, has hecho esa promesa. Qué norma se aplica depende del caso: por eso una página clara de condiciones vale más que mil disculpas.
- RGPD. El reglamento prevé, en el artículo 22, garantías para las decisiones basadas únicamente en un tratamiento automatizado que afectan de forma significativa a las personas. Si la IA decide sola sobre un crédito, una contratación o una exclusión, hace falta especial cuidado.
- AI Act. El Reglamento (UE) 2024/1689 exige a quien usa sistemas de alto riesgo una supervisión humana competente. Lo tratamos en Qué cambia el AI Act para las pymes.
- Ley italiana 132/2025. La ley italiana sobre IA, en vigor desde el 10 de octubre de 2025, prevé que los profesionales informen al cliente del uso de sistemas de IA y que el empleador informe a los trabajadores.
La novedad: el software pasa a ser «producto»
Está además la Directiva (UE) 2024/2853 sobre responsabilidad por productos defectuosos. Dos puntos clave:
- La definición de producto incluye expresamente el software; entre los responsables puede estar quien suministra un sistema de IA.
- Los Estados miembros deben transponerla antes del 9 de diciembre de 2026; se aplicará a los productos introducidos en el mercado después de esa fecha.
Una precisión honesta: la directiva protege sobre todo a las personas físicas frente a daños como lesiones, muerte, daños a bienes y pérdida o corrupción de datos. No es la norma que cubre un presupuesto equivocado entre dos empresas. Pero si fabricas o revendes soluciones con IA, o integras software en un producto propio, te afecta de cerca. Antes de decidir, revisa el decreto italiano de transposición cuando se publique en la Gazzetta Ufficiale.
Dónde se equivoca la IA en una pyme y quién responde
Escenario tipo, no un cliente real: una consultora de 12 personas usa IA en cuatro puntos. Así se reparte la responsabilidad.
| Uso | Error típico | Quién responde ante el cliente |
|---|---|---|
| Chatbot del sitio | Promete un descuento o un plazo inexistente | La empresa |
| Borrador de presupuesto | Cifra o cláusula equivocada | Quien firma y envía el presupuesto |
| Resumen de reunión | Atribuye una decisión a quien no la tomó | La empresa, ante colegas y clientes |
| Selección de currículos | Descarta candidatos sin motivo | La empresa, con obligaciones adicionales (alto riesgo) |
El proveedor de la herramienta tiene sus responsabilidades, pero suelen estar limitadas por contrato. Lee las condiciones: es frecuente que excluya toda garantía sobre la exactitud de los contenidos generados.
Cómo protegerte sin renunciar a la IA
El Profesor no es enemigo de la IA, todo lo contrario. Datini no dejó de enviar agentes por el Mediterráneo: los eligió con cuidado, los hizo escribir, revisó las cuentas. El mismo método vale hoy.
- Un responsable por herramienta. Nombre y apellido, no «el departamento».
- Revisión humana donde el error cuesta. Presupuestos, contratos, comunicaciones a clientes, todo lo que compromete a la empresa.
- Transparencia. Dile a los clientes cuándo hablan con un chatbot y dónde están las condiciones oficiales. Hay un ejemplo práctico en Chatbot para el sitio de la empresa: cuándo hace falta.
- Un registro sencillo. Quién usó qué, para qué documento, quién lo revisó. Los mercaderes llevaban libros; tú puedes llevar una hoja compartida.
- Reglas escritas para el personal. Nuestro artículo sobre ChatGPT en la empresa: reglas para los empleados es un buen punto de partida.
- Revisión del contrato con el proveedor. Adónde van los datos, qué garantiza, quién responde ante un incidente.
Si quieres una visión a medida, la página para pymes recoge los ámbitos en los que trabajamos, y entre nuestros servicios encontrarás los itinerarios de estrategia y formación en IA.
Qué hacer el lunes por la mañana
- Haz la lista de dónde habla la IA en tu nombre. Chatbots, correos automáticos, presupuestos, formularios: para cada uno anota quién lo controla.
- Pon un control humano en todo lo que compromete a la empresa. Basta una regla: ningún presupuesto ni contrato sale sin una segunda lectura.
- Vuelve a leer las condiciones del proveedor. Busca garantías, límites de responsabilidad y tratamiento de datos, y anota las preguntas que le harás.
La IA es un excelente agente: rápido, incansable, nunca pide vacaciones. Pero firma en tu nombre. Si quieres poner orden en esta cadena de responsabilidad, reserva una llamada de toma de contacto gratuita: en media hora vemos juntos dónde está expuesta tu empresa y qué hace falta de verdad.
El Profesor de Penzai
