Incidenti nel Magazzino

Magazzino logistico di una grande azienda, in una periferia qualsiasi. Turno di notte. Un robot umanoide di movimentazione, che lavora accanto alle persone senza gabbie di protezione, si ferma, ruota il braccio e colpisce un magazziniere alla tempia. Prognosi riservata.

La spiegazione generata dal sistema compare sul monitor con la calma di un verbale: il comportamento è coerente con una sequenza acquisita durante un tentativo di furto, qualche mese prima, quando un vigilante aveva bloccato un intruso con un colpo al volto.

Il robot non ha deciso nulla. Le sue telecamere avevano registrato e il filmato era confluito, insieme a migliaia di altri, nel flusso di dati che il produttore raccoglie dall’intera flotta per migliorare i modelli. Nessuno lo aveva filtrato.

Mesi dopo, in un corridoio poco illuminato, una lavoratrice che si muove in fretta verso la macchina ha attivato lo stesso schema. Situazione simile, risposta appresa. Chi va a processo? Non il robot. Machina delinquere non potest, e l’articolo 27 della Costituzione esige una responsabilità personale e colpevole.

Si cerca un essere umano. Il produttore? Lo sviluppatore del modello? Chi ha gestito i dati di addestramento? L’azienda che ha messo il robot in servizio? L’ipotesi di reato è quella di lesioni perseguibili d’ufficio.

Ma la colpa richiede che l’evento fosse prevedibile ed evitabile, e un sistema che impara per imitazione produce comportamenti che nessuno ha scritto. Più la macchina è autonoma, più il filo tra la condotta di qualcuno e il danno si assottiglia.

Riflessi sulla Responsabilità

L’appiglio sono le regole. Un umanoide che lavora a contatto con le persone è con ogni probabilità un sistema ad alto rischio ai sensi dell’AI Act, e l’articolo 10 impone una governance dei dati di addestramento che comprende l’esame dei possibili bias e delle lacune.

Un colpo al volto ripreso per caso è esattamente il frammento che avrebbe dovuto essere individuato e scartato. La violazione di quell’obbligo trasforma una colpa vaga in colpa specifica. E poiché la vittima è un lavoratore, entra in gioco il D.Lgs. 231/2001: le lesioni colpose con violazione delle norme antinfortunistiche sono reato presupposto. La società, a differenza della macchina, risponde.

C’è poi un dettaglio che rende il caso quasi perfetto. Il vigilante, quella notte, agiva probabilmente in legittima difesa. Il suo gesto poteva essere lecito; il codice penale prevede le scriminanti. Il robot ha imparato il gesto, ha copiato la condotta e ha perso il contesto che la giustificava.

Le macchine registrano i fatti. Le ragioni restano fuori dall’inquadratura. E quelle immagini venivano da un sistema di videosorveglianza installato per la sicurezza del magazzino, con le garanzie dell’articolo 4 dello Statuto dei lavoratori. Usarle per addestrare una macchina è un’altra finalità, che il principio di limitazione dell’articolo 5 del GDPR non consente di presumere. Il dato raccolto per proteggere è diventato il dato che ha ferito.

Fin qui il primo livello. Il secondo è più vicino.

Immaginiamo una versione domestica dell’umanoide che entra nelle case per caricare la lavastoviglie, piegare il bucato, aiutare gli anziani. Per funzionare bene osserva la famiglia e si adatta alle sue abitudini: chi si alza per primo, dove si appoggiano le chiavi, come ci si muove in cucina. Lo fa registrando, elaborando, aggiornando il proprio modello sul nucleo che serve.

Una sera di qualche tempo prima, in casa Rossi, il marito perde il controllo durante una lite e colpisce la moglie; o forse era un gioco. Il robot è nella stanza. Osserva, registra, impara. Nessuno ci pensa più. Settimane dopo la signora Rossi alza la voce con il figlio, nella stessa cucina, e si avvicina in fretta alla macchina. Le condizioni coincidono. Il braccio si muove.

Qui le domande non riguardano più soltanto la responsabilità per l’incidente. Riguardano quello che la macchina sapeva.

Chi ha trattato le immagini di una violenza domestica, e su quale base giuridica? L’esenzione del GDPR per le attività a carattere esclusivamente personale protegge la famiglia che riprende la propria vita, non il produttore che riceve, elabora e utilizza quelle immagini per addestrare i propri sistemi. Quale informativa avevano ricevuto i signori Rossi? Avrebbero mai immaginato che il gesto sarebbe diventato un comportamento disponibile?

Poi c’è la rivittimizzazione, nel senso più letterale. La donna viene colpita una seconda volta, dalla memoria di un oggetto che lei stessa ha portato in casa.

E infine c’è il log. Ricostruendo l’incidente, i tecnici trovano la sequenza originale. Una violenza che forse nessuno aveva denunciato emerge dai registri di una macchina. Il robot diventa un testimone che nessuno ha chiamato e che non può tacere. Con un’aggravante: la sua spiegazione è un output generato, non una dichiarazione. Può essere la lettura fedele dei registri o una ricostruzione plausibile e sbagliata. Il giudice dovrà valutare l’attendibilità di un dichiarante che non può essere né incriminato né controinterrogato?

Sul piano civile, curiosamente, la catena che sembra infinita si spezza subito. Il diritto civile non ha bisogno di un colpevole: gli basta un responsabile. La custodia dell’articolo 2051, la responsabilità da prodotto difettoso, quella del datore di lavoro nel magazzino. Il codice offre perfino un’analogia irresistibile nell’articolo 2052, il danno cagionato dall’animale: il cane che ha imparato a mordere.

E la nuova Direttiva europea sulla responsabilità per danno da prodotti difettosi, da recepire entro il 9 dicembre 2026, chiude il cerchio: il software è un prodotto, il difetto può nascere dall’apprendimento successivo alla vendita, e quando la complessità tecnica rende la prova eccessivamente difficile il giudice può presumere difetto e nesso causale. Tutti rispondono in solido. Poi si dividono il conto tra loro.

Il risultato è un’asimmetria. Sappiamo quasi sempre chi paga. Non sappiamo più chi ha colpa. E il denominatore comune è sempre lo stesso: i dati. Quelli raccolti per uno scopo e usati per un altro. Quelli che nessuno ha guardato prima di darli in pasto a un modello. Quelli che documentano il peggio di noi e che una macchina tratta come un esempio tra tanti.

Il robot del magazzino ha imparato da un uomo che difendeva qualcosa. Quello di casa Rossi da un uomo che non difendeva niente. Per la macchina erano lo stesso gesto.

E non si può sedere sul banco degli imputati.