Il tuo assistente AI scrive a un cliente che il termine di consegna è il 15, ma è il 30. Il cliente organizza un cantiere, perde una settimana, ti manda una mail. A chi va la colpa? Spoiler: non al software. Vediamo perché, e come metterti al riparo senza rinunciare all'AI.
Un mercante di Prato e i suoi agenti
Partiamo da lontano, perché il Professore ha un debole per i mercanti. Francesco di Marco Datini, nato a Prato intorno al 1335 e morto nella stessa città nel 1410, mise in piedi una rete di attività tra Pisa, Prato, Genova, Barcellona, Valencia e Maiorca, con la direzione generale a Firenze e la vecchia sede di Avignone ancora attiva (ne parla anche la voce di Wikipedia su Datini). Il suo archivio, conservato all'Archivio di Stato di Prato, conta circa 150.000 tra lettere, documenti e libri di conto: un mercante che scriveva tantissimo perché non poteva essere dappertutto.
E voi direte: ma cosa c'entra Datini con un assistente AI? C'entra eccome. Un mercante medievale non vedeva con i suoi occhi quello che i fattori, cioè i suoi agenti, firmavano in sua vece a Barcellona o a Genova. Eppure, secondo il diritto comune che si ispirava al diritto romano, chi metteva un agente a gestire la propria attività rispondeva, in linea di massima, degli atti compiuti dall'agente in quel ruolo. Il dettaglio tecnico dipendeva dal luogo e dal caso, e non pretendo di fare l'avvocato: il principio generale, però, era quello. Se mandi un fattore a trattare a tuo nome, i terzi si fidano di te, non di lui.
Ecco, la tua azienda oggi è in quella stessa bottega. Il fattore, ora, è un software.
Il principio, nel 2024, con un chatbot
Nel febbraio 2024 il Civil Resolution Tribunal della Columbia Britannica ha deciso il caso Moffatt contro Air Canada. Un passeggero aveva chiesto al chatbot della compagnia come funzionasse la tariffa per lutto; il chatbot gli aveva detto che poteva richiederla anche dopo l'acquisto, ma la politica reale della compagnia non lo prevedeva. La compagnia ha provato a sostenere di non rispondere di ciò che diceva il suo chatbot. Il tribunale ha respinto la difesa: l'azienda non aveva usato la dovuta cura per garantire che il chatbot fosse accurato, e un cliente non deve controllare una pagina del sito per verificare l'altra (lo riassume la stampa canadese).
Attenzione: è una decisione canadese, non italiana, e riguardava una controversia di modesto valore. Non fa giurisprudenza qui. Ma mostra come ragiona chi giudica: chi mette uno strumento davanti ai clienti ne risponde, punto.
Cosa dice il diritto europeo e italiano oggi
Non esiste (ancora) un articolo del codice intitolato «errori dell'AI». Esistono però regole generali che si applicano comunque:
- Responsabilità contrattuale e precontrattuale. Se prometti qualcosa a un cliente tramite chatbot o email generata, hai fatto quella promessa. Quale norma si applichi dipende dal caso: per questo una pagina sulle condizioni vale più di mille scuse.
- GDPR. Il regolamento prevede, all'articolo 22, tutele per le decisioni basate unicamente su un trattamento automatizzato che producono effetti significativi sulle persone. Se l'AI decide da sola su un credito, un'assunzione o un'esclusione, serve un'attenzione speciale.
- AI Act. Il Regolamento (UE) 2024/1689 chiede a chi usa sistemi ad alto rischio una sorveglianza umana competente. Ne abbiamo parlato in AI Act, cosa cambia per le PMI.
- Legge 132/2025. La legge italiana sull'AI, in vigore dal 10 ottobre 2025, prevede per le professioni intellettuali che il professionista informi il cliente dell'uso di sistemi di AI, e per il lavoro che il datore informi i lavoratori.
La novità: il software diventa «prodotto»
C'è poi la Direttiva (UE) 2024/2853 sulla responsabilità per danno da prodotti difettosi. Due punti da sapere:
- La definizione di prodotto include espressamente il software; tra i soggetti responsabili rientra anche chi fornisce un sistema di AI.
- Gli Stati membri devono recepirla entro il 9 dicembre 2026; si applicherà ai prodotti immessi sul mercato dopo quella data.
Una precisazione onesta: la direttiva tutela soprattutto le persone fisiche per danni come lesioni, morte, danni a beni e perdita o corruzione di dati. Non è la norma che copre un preventivo sbagliato tra due imprese. Ma se produci o rivendi soluzioni con AI dentro, o integri software in un tuo prodotto, la questione ti riguarda da vicino. Prima di prendere decisioni, controlla il testo del decreto di recepimento italiano quando sarà pubblicato in Gazzetta Ufficiale.
Dove l'AI sbaglia in una PMI, e di chi è la responsabilità
Scenario tipo, non un cliente reale: uno studio di consulenza di 12 persone usa l'AI in quattro punti. Ecco chi risponde in ognuno.
| Uso | Errore tipico | Chi risponde davanti al cliente |
|---|---|---|
| Chatbot sul sito | Promette uno sconto o un termine inesistente | L'azienda |
| Bozza di preventivo | Cifra o clausola sbagliata | Chi firma e invia il preventivo |
| Riassunto di una riunione | Attribuisce una decisione a chi non l'ha presa | L'azienda, verso colleghi e clienti |
| Selezione dei curriculum | Esclude candidati senza motivo | L'azienda, con obblighi aggiuntivi (alto rischio) |
Il fornitore dello strumento ha le sue responsabilità, ma di norma sono limitate dal contratto. Leggi le condizioni: spesso il fornitore esclude ogni garanzia sull'accuratezza dei contenuti generati.
Come ci si protegge senza rinunciare all'AI
Il Professore non è un nemico dell'AI, tutt'altro. Datini non smise di mandare fattori in giro per il Mediterraneo: li scelse con cura, li fece scrivere, controllò i conti. Lo stesso metodo vale oggi.
- Un responsabile per ogni strumento. Un nome e cognome, non «il reparto».
- Revisione umana dove l'errore costa. Preventivi, contratti, comunicazioni a clienti, tutto ciò che impegna l'azienda.
- Informare con trasparenza. Dì ai clienti quando parlano con un chatbot e dove trovare le condizioni ufficiali. Ne trovi un esempio concreto in Chatbot sul sito aziendale: quando serve davvero.
- Un registro semplice. Chi ha usato cosa, per quale documento, chi l'ha controllato. I mercanti tenevano i libri; tu puoi tenere un foglio condiviso.
- Regole scritte per i dipendenti. Il nostro articolo su ChatGPT in azienda: le regole per i dipendenti è un buon punto di partenza.
- Controllo del contratto col fornitore. Dove vanno i dati, cosa garantisce, chi risponde in caso di incidente.
Se vuoi un quadro per la tua realtà, la pagina per le PMI raccoglie gli ambiti in cui lavoriamo, e tra i nostri servizi trovi i percorsi di strategia e formazione AI.
Cosa fare lunedì mattina
- Elenca dove l'AI parla a nome tuo. Chatbot, email automatiche, preventivi, moduli: per ciascuno scrivi chi lo controlla.
- Metti un controllo umano sugli atti che impegnano l'azienda. Basta una regola: nessun preventivo o contratto esce senza una seconda lettura.
- Rileggi le condizioni del fornitore. Cerca le parti su garanzie, limiti di responsabilità e trattamento dei dati, e annota le domande da fargli.
L'AI è un ottimo fattore: veloce, instancabile, non chiede ferie. Ma firma a nome tuo. Se vuoi mettere ordine in questa catena di responsabilità, prenota una call conoscitiva gratuita: in mezz'ora vediamo insieme dove la tua azienda è esposta e cosa serve davvero.
Il Professore di Penzai
