Robot killer. Macchine che decidono se e quando sparare Ne discutono gli esperti Onu

12 Mag, 2014 Fonte: Tullio Avoledo, Corriere della Sera - redazione

Tre anni fa, durante un dibattito radiofonico con il giornalista americano William Langewiesche, gli feci notare che il suo reportage Esecuzioni a distanza (Adelphi 2011) era più fantascientifico di tanti romanzi futuristici. Mi aveva particolarmente impressionato, di quel libro, la descrizione dei tecnici Usa che da un ufficio dotato di aria condizionata nei dintorni di Las Vegas pilotavano a distanza un aereo drone nei cieli dell’Afghanistan per fargli eliminare degli estremisti islamici. Langewiesche disse una cosa che passò senza lasciare apparentemente traccia negli altri presenti all’intervista, ma che mi colpì molto. Disse che lo stress emotivo di quelle uccisioni a distanza per quei tecnici era tale che erano in fase avanzata dei progetti per produrre macchine in grado di decidere e gestire in autonomia l’eliminazione di un bersaglio umano. Scenari che ricordano quelli immaginati da Philip K. Dick nel romanzo La penultima verità , dove vengono descritti i «Plumbei», robot in grado di combattere sulla superficie della Terra devastata dalle atomiche, mentre l’umanità sopravvive in rifugi sotterranei.
Chi pensa ancora sia un’idea fantascientifica dovrebbe riflettere sulla notizia del dibattito tra due esperti che avverrà alle Nazioni Unite a Ginevra da domani al 16 maggio, per discutere proprio la questione dei cosiddetti «robot killer»: armi che non appartengono affatto al futuro, ma sono già una realtà. L’agenzia statunitense Darpa (Defense Advanced Research Projects Agency) sta sviluppando dal 2006 il Crusher, un carro armato indipendente dal controllo umano (una cosa peraltro già prevista dallo scrittore americano Keith Laumer negli anni Settanta, con i suoi tank «Bolo», macchine dotate d’orgoglio e addirittura di senso dell’onore), mentre gli inglesi hanno testato con successo Taranis, un aereo intercontinentale senza pilota. Il futuro è già qui, insomma.
I due esperti di robotica Ronald Arkin e Noel Sharkey, che tra qualche giorno dibatteranno davanti alle Nazioni Unite l’argomento della necessità e della moralità dei robot killer, lo faranno nell’ambito di una delle conferenze periodiche sulle Ccw (Certain Conventional Weapons) che dal 1980 si occupano delle armi convenzionali considerate eccessivamente dannose o pericolose. Le opinioni dei due scienziati non sono concordi: il professor Arkin, del Georgia Institute of Technology, ritiene che l’adozione di robot dotati di capacità decisionali ridurrebbe significativamente le perdite umane in guerra, ed è quindi favorevole a una moratoria, piuttosto che a un bando, di queste armi. C’è da augurarsi che abbia visto il film Terminator di James Cameron (1984), in cui un immaginario supercomputer chiamato Skynet prendeva il controllo del potenziale bellico americano, distruggendo buona parte del pianeta e dando poi la caccia ai superstiti umani con l’utilizzo di robot chiamati, appunto, Terminator. Ma più ancora che in quel film, la fobia dei robot killer veniva evocata già da Il mondo dei robot (Westworld ) film diretto nel 1973 da Michael Crichton in cui gli automi di un parco di divertimenti del futuro si ribellavano facendo strage degli umani. Chi ha visto il film non potrà mai dimenticare l’angoscia suscitata dall’implacabile robot interpretato da Yul Brynner, persino più insistente dei droni che perseguitano Tom Cruise nel più recente Oblivion .
Se come disse D’Alembert «l’arte della guerra è l’arte di distruggere gli uomini», i robot assassini sono un indiscutibile progresso tecnico, e prima o poi dovremmo purtroppo vederli in opera sul campo. A meno che, saggiamente, non si decida di applicare ai robot le famose tre leggi della robotica promulgate da Asimov, le prime due delle quali stabiliscono che «un robot non può recare danno a un essere umano», e che «un robot deve obbedire agli ordini impartiti da esseri umani, purché tali ordini non contravvengano alla prima legge». Gli automi stanno diventando sempre più intelligenti e versatili. Fanno per noi già un sacco di cose utili e a volte vitali. Esplorano la superficie di altri pianeti, lavorano in ambienti letali per l’uomo, sono persino in grado di effettuare operazioni chirurgiche. Sarebbe davvero un peccato sprecare la loro intelligenza in un’attività stupida e ripetitiva come la guerra.