L’intelligenza artificiale nasce, almeno nel nostro immaginario, come alleata dell’uomo: un supporto che amplifica capacità, produttività, creatività. Eppure, complice uno sciagurato scenario internazionale, un’altra domanda bussa con forza alla porta: cosa succede quando la stessa tecnologia viene messa al servizio della guerra?
Per Globalsystem, che da anni lavora sul digitale come leva di innovazione e crescita sostenibile, questa non è una curiosità accademica, ma un tema di responsabilità: fino a dove è giusto spingersi nello sviluppo dell’IA? E chi decide il punto in cui la tecnologia deve fermarsi?
Le leggi della robotica non bastano più
Molti di noi hanno conosciuto l’idea di “etica dell’IA” leggendo Isaac Asimov.
Le sue famose Tre Leggi della Robotica – la prima: un robot non può recare danno a un essere umano, né permettere che un essere umano subisca danno per sua inattività – hanno creato un frame potente: se scriviamo nel “cervello” delle macchine delle regole morali, saremo al sicuro.
Il problema è che, nel mondo reale, quelle leggi non esistono. Non sono incorporare per default nei sistemi di IA, né tantomeno nei sistemi d’arma. Non esiste una “costituzione etica” universale impressa nei modelli, condivisa da tutti i governi e tutte le aziende.
Esistono, piuttosto, scelte progettuali, policy aziendali, regolamenti militari, trattati internazionali – con una grande differenza rispetto alla narrativa di Asimov: possono essere aggirati, allentati, reinterpretati o semplicemente non adottati.
E allora la domanda cambia: non “può un’IA violare le leggi della robotica?”, ma “quali leggi stiamo scegliendo – come società – di NON scrivere nel codice e nelle regole di ingaggio?”.
Claude e il rifiuto di diventare un’arma
Un caso recente ha reso questo dibattito molto concreto.
Anthropic, la società che sviluppa Claude (uno dei modelli di IA generativa più avanzati al mondo), ha introdotto da tempo una posizione molto netta: il suo sistema non deve essere usato per scopi militari offensivi, né per la progettazione o il controllo di armi autonome, né per la sorveglianza di massa.
Questa posizione non è solo comunicazione: è implementata nei termini d’uso e nelle salvaguardie tecniche. Claude rifiuta, ad esempio, richieste che mirano a:
-
progettare o ottimizzare sistemi d’arma;
-
coordinare operazioni di combattimento;
-
sviluppare strumenti di tracciamento e targeting di persone senza consenso;
-
automatizzare decisioni letali sul campo di battaglia.
Negli ultimi mesi, questa scelta è entrata in rotta di collisione con il governo degli Stati Uniti, in particolare con il Dipartimento della Difesa, che spinge per un uso più ampio dell’IA, anche in ambito bellico.
Quando Anthropic ha ribadito di non poter “in coscienza” rimuovere i propri limiti di sicurezza per favorire applicazioni militari letali, alcuni rappresentanti del Pentagono hanno definito questa scelta “non democratica”, arrivando addirittura a etichettare l’azienda come un rischio per la catena di fornitura.
In altre parole: un’azienda privata, per motivi etici, sta dicendo “no” a un utilizzo militare della propria tecnologia; uno Stato, per ragioni di sicurezza e strategia, considera quel “no” un problema.
La posizione del governo USA: non un rifiuto, ma una gestione
E il governo degli Stati Uniti, qual è la sua linea?
Negli ultimi anni il Dipartimento della Difesa ha aggiornato le proprie direttive sulle armi autonome e sull’uso dell’IA. La logica non è quella del divieto assoluto, ma del “controllo responsabile”:
-
si accetta che esistano sistemi in grado di identificare e ingaggiare bersagli con livelli significativi di autonomia;
-
si richiede, almeno sulla carta, la presenza di un “controllo umano significativo” per alcune funzioni critiche;
-
si definiscono principi etici – responsabilità, tracciabilità, affidabilità, governabilità – che dovrebbero guidare lo sviluppo e l’uso dell’IA militare;
-
si introducono processi di revisione tecnica e legale dei sistemi d’arma autonomi prima del loro impiego operativo.
Parallelamente, gli Stati Uniti hanno promosso una “dichiarazione politica” internazionale sull’uso responsabile dell’IA in ambito militare, sottoscritta da decine di Paesi. È un passo importante, ma resta una dichiarazione non vincolante: non è un trattato, non prevede sanzioni automatiche, non crea di per sé una “Prima Legge” alla Asimov.
Il punto chiave, qui, è la differenza di prospettiva:
-
Anthropic parte dall’idea che alcune applicazioni (ad esempio la decisione letale autonoma) vadano semplicemente escluse.
-
Il governo USA parte dall’idea che la tecnologia militare evolverà comunque, e che sia più realistico orientarla e regolarla che vietarla del tutto.
Può un’IA uccidere un essere vivente?
Se togliamo per un attimo il velo delle buone intenzioni e guardiamo alle capacità tecniche, la risposta è scomoda ma chiara: sì, un sistema artificiale può oggi contribuire in modo determinante all’uccisione di un essere vivente.
Già oggi esistono:
-
droni e munizioni “loitering” in grado di pattugliare un’area, identificare un bersaglio e colpirlo con un intervento umano minimo;
-
sistemi di difesa aerea e navale automatici che selezionano e ingaggiano minacce in tempi rapidissimi;
-
algoritmi di riconoscimento e tracciamento che supportano il targeting e la pianificazione di attacchi.
La frontiera si sta spostando dalla semplice “assistenza alla decisione” (l’IA suggerisce, l’umano decide) a forme in cui l’IA identifica, priorizza, ingaggia – e l’umano, nella pratica, si limita ad autorizzare o supervisionare a distanza, spesso in modo solo formale.
Di nuovo, la domanda cruciale non è se l’IA “possa” violare la Prima Legge di Asimov. È: siamo disposti ad accettare sistemi che, per progetto, non la hanno mai avuta tra i propri vincoli?
Chi scrive davvero le regole della tecnologia?
Nel 2026 i limiti della tecnologia non sono scritti nel silicio, ma:
-
nelle scelte delle aziende (come Anthropic che decide di dire “no” a certi usi, anche a costo di perdere contratti importanti);
-
nelle normative nazionali (che possono imporre controlli umani, audit, trasparenza o, al contrario, lasciare ampi margini di discrezionalità);
-
nei trattati e nelle dichiarazioni internazionali (che stabiliscono cosa è accettabile in guerra e cosa no);
-
nelle aspettative dell’opinione pubblica e degli ecosistemi industriali (chi compra, investe, adotta soluzioni tecnologiche).
Per un’azienda come Globalsystem, che opera nel digitale e sviluppa soluzioni per imprese e organizzazioni, questo si traduce in una responsabilità concreta: decidere oggi quali scenari non vogliamo mai abilitare con le nostre competenze, i nostri prodotti, le nostre integrazioni.
Forse non potremo scrivere tre leggi perfette nei “cervelli” di tutte le IA, ma possiamo contribuire a scrivere policy, linee guida, clausole contrattuali, standard tecnici e culturali che dicano chiaramente: oltre questa linea, la tecnologia non deve andare.
La domanda che lasciamo aperta
Ci piace chiudere con la stessa domanda con cui abbiamo iniziato:
Quali devono essere i limiti della tecnologia?
È accettabile che un sistema artificiale – progettato da noi – prenda parte, direttamente o indirettamente, all’uccisione di un essere vivente?
Asimov immaginava un mondo in cui le regole morali erano un vincolo assoluto, scritto nel cuore dei robot.
Noi viviamo in un mondo in cui quelle regole dobbiamo scriverle noi: nei codici, nei contratti, nelle leggi, nelle scelte quotidiane di business.
Come Globalsystem, crediamo che la vera innovazione non sia rendere la tecnologia onnipotente, ma decidere consapevolmente dove deve fermarsi.
E tu, dove metteresti il confine?
