Quando l’Intelligenza Artificiale dice “No” a Trump

Nel gran teatro dell’assurdo che ormai è geopolitica digitale, abbiamo assistito a uno scontro che nemmeno la fantasia più sfrenata di un autore di fantascienza di provincia avrebbe potuto concepire. 

Da una parte il Pentagono e dall’altra Dario Amodei, amministratore di Anthropic: la società del modello di AI Claude.

La vicenda non è soltanto una disputa contrattuale. È una questione filosoficatravestita da negoziazione militare.

Ebbene proprio Dario Amodei, un ragazzo che sprizza logos da tutti i pori, si è scontrato con il Dipartimento della Guerra (che poi sarebbe il Pentagono, ma col nome nuovo fa più "Iliade"). Il Segretario Pete Hegseth, uno che probabilmente considera il dubbio un errore di sistema, gli ha dato un ultimatum di tre giorni: "O ci dai Claude senza restrizioni, o ti cancelliamo dalla lista della spesa dello Stato". 

Ma Amodei non ha avuto dubbi ed alla fine ha pronunciato una frase semplice ma esplosiva:

“Non possiamo, in coscienza, accettare la vostra richiesta.”

E quando qualcuno parla di coscienza in un contratto da 200 milioni di dollari, vuol dire che la faccenda è seria.

Il punto della contesa: due “eccezioni” che valgono più di cento pagine

La questione è che il Pentagono vuole usare l'AI per due cosine da niente: la sorveglianza di massa degli americani e le armi autonome, quelle che sparano senza che un povero cristo di soldato debba premere il grilletto.

Amodei, facendo prova di una dignitas che oggi scarseggia, ha detto: "Nossignore". E lo ha fatto per due motivi che definirei epicurei:

• L'inaffidabilità tecnica: Queste macchine oggi non sono ancora capaci di distinguere un nemico da un cespuglio di ginestre. Mettere un’arma in mano a un algoritmo instabile significa rischiare la vita di innocenti.
• I valori democratici: Spiare tutti i cittadini comprando i loro dati privati, cosa che oggi è legale solo perché la legge cammina col passo della tartaruga mentre l'AI corre come una lepre inseguita, è una violazione della nostra libertà.

Nell’ intervista in esclusiva rilasciata alla CBS News, Il CEO Amodei, poche ore dopo che il Segretario alla Difesa Pete Hegseth aveva dichiarato che l'azienda rappresentava un rischio per la sicurezza nazionale, ha definito la dichiarazione del ministro della guerra come "una ritorsione e una punizione".

Ha ricordato, inoltre, che Anthropic è stata tra le aziende più collaborative con governo ed esercito, rendendo disponibile il suo modello AI Claude per supportare la sicurezza degli Stati Uniti,  l'analisi, la modellizzazione e la simulazione dei dati di intelligence.

Amodei dice chiaramente nell’intervista: “Siamo d’accordo con il 98% degli usi richiesti. Solo due casi ci preoccupano.” Due. Non cento. Solo due.

Il primo è la sorveglianza interna di massa.

Perché oggi accade qualcosa di nuovo: dati legalmente acquistabili, movimenti, cronologia web, relazioni sociali, possono essere aggregati da un’AI in un quadro completo della vita di un individuo. Automaticamente. Su larga scala.

E qui nasce la questione filosofica: Se qualcosa è legale ma diventa tecnicamente onnipotente, resta accettabile?

La legge, spiega il CEO di Anthropic, non è ancora allineata alla velocità esponenziale della tecnologia . 

Il Pentagono risponde: “Useremo l’AI solo per scopi leciti”.  Ma Anthropic replica: “Non basta dire ‘lecito’, se la legge non ha ancora capito cosa è possibile fare.”

Il secondo caso riguarda le armi autonome: quando il dito non è più umano.

Quando parliamo di armi completamente autonome intendiamo sistemi che selezionano e colpiscono bersagli senza intervento umano, solo con l’uso dell’AI.

Anthropic non contesta l’uso di sistemi parzialmente autonomi. Ma afferma che i modelli attuali non sono sufficientemente affidabili per togliere l’uomo dal circuito decisionale.

Qui il problema non è ideologico. È tecnico.

Nei modelli di AI esiste una certa imprevedibilità strutturale, un margine di errore che, in un chatbot, produce una risposta sbagliata ma in un sistema di armi completamente autonome produce un funerale.

Amodei è stato chiaro: “Non forniremo consapevolmente un prodotto che metta a rischio soldati e civili americani.”

Il Paradosso del Pentagono

Il bello viene adesso. Hegseth, offeso nell'orgoglio, ha definito Anthropic un "rischio per la catena di approvvigionamento". È un’accusa che di solito si riserva alle spie di nazioni nemiche, mai a un'azienda americana.

Ma notate il paradosso, che è il sale della filosofia.

Da un lato dicono che Anthropic è pericolosa e bisogna farne a meno. 

Dall'altro minacciano di usare il Defense Production Act per obbligarla a lavorare per lo Stato, perché la loro tecnologia è considerata "vitale". 

Insomma: "Sei un traditore, quindi ti ordino di proteggermi". È come se una moglie dicesse al marito: "Sei un uomo inutile, non ti voglio più vedere, ma stasera devi assolutamente portarmi a cena fuori perché senza di te non so dove andare".

"La minaccia non cambia la nostra posizione" dice Anthropic "Non possiamo in buona coscienza accettare." 

Ecco, la parola magica: Coscienza. In un mondo che corre verso l'automazione del dolore, c'è ancora qualcuno che si ferma a contare i passi. E io, tra un generale che vuole un robot killer e un programmatore che ha paura di sbagliare, scelgo sempre chi dubita. Perché chi non dubita mai, di solito, non ha capito bene la domanda.

Un tempo si diceva: “La guerra è troppo importante per lasciarla ai generali.”

Oggi potremmo dire: “L’intelligenza artificiale è troppo potente per lasciarla solo agli ingegneri.”

Ma forse anche:“Troppo delicata per lasciarla solo ai governi.”

 

Gi(ov)anni Grandinetti

Esperto di Intelligenza Artificiale e Innovazione Digitale

Innovation Manager Certificato UNI 11814