Relazioni fittizie tra persone e chabot: le derive dell’AI, descritte da Giulia Bovassi

Abbiamo iniziato a sviscerare i temi di “Attrazione digitale. Il lato oscuro del transumano e dell’intelligenza artificiale” (Il Timone), un libro scritto dalla bioeticista Giulia Bovassi. Nella prima parte dell’intervista ci ha aiutato a capire in che modo la tecnologia può aiutare la vita dell’uomo, a patto che non rinneghi la condizione creaturale e non si sostituisca alla persona per cancellare qualcosa che è insito in noi: empatia e spiritualità. 

Nel suo libro parla molto di illusione di maggiore libertà che si tramuta, spesso, in perdita di libertà… Può farci degli esempi?

Nel testo vengono forniti numerosi esempi che ci parlano di questo paradosso secondo cui ad un aumento di sofisticazione tecnologica, alla spinta del progresso non corrisponde una proporzionata capacità di controllo. Ciò, ad esempio, e lo ritengo tra gli usi esemplificativi più eclatanti, accade nella distorsione della corporeità, dell’identità e dell’autenticità attuata dal e nel digitale, in particolare nell’uso di chatbot. Oggi assistiamo ad una vera e propria emergenza globale per i rischi connessi alla salute psico-fisica e all’incolumità degli utenti. Parlo di suicidi di minori o giovanissimi, assistiti da chatbot; di relazioni sintetiche, anche fra adulti, che divengono mezzo di fuga dalle difficoltà di quelle reali; di un livello preoccupante di confidenzialità nel quale il confine naturale/artificiale, reale/irreale sfuma in modo critico provocando un attaccamento emotivo che opacizza la razionalità con la quale normalmente approcciamo agli oggetti. 

La domanda che si fa urgente è la seguente: come e quando è accaduto che l’unico essere senziente rispetto ad una macchina, ad un oggetto, riesca, pur nella consapevolezza di aver intrapreso una “relazione” fittizia, a lasciarsi ingannare da qualcosa che non esiste? 

Ha esposto la questione molto chiaramente… E immagino ci sia dell’altro.

Altri esempi riguardano il condizionamento emotivo, democratico, valoriale, culturale operato ad hoc da sistemi intelligenti che orientano la formazione della nostra personalità e, di conseguenza, hanno il potere di intervenire anche sulla sensibilità etica e politica di un paese. Altri ancora analizzano il legame pericoloso fra tecnica, libertà e potere prendendo in considerazione scenari come il Social Credit System cinese che nel testo paragono al sistema panottico di Jeremy Bentham il quale teorizzò, mediante il progetto di una prigione, un meccanismo di sorveglianza attiva ma impercettibile che orientava il comportamento degli incarcerati. Allo stesso modo ritengo si debba prestare attenzione al rischio di un uso malevolo dell’IA per profilare, sorvegliare, categorizzare e ammaestrare i cittadini in virtù di un ben più preponderante principio emergenziale di sicurezza o sviluppo morale della collettività, come nel caso cinese menzionato. Affronto il dato di fatto che questa triade persona-potere-tecnica va diffondendosi, anzi fa parte, anche dell’Occidente, forse in modo meno diretto con il potere politico, ma non per questo eticamente aproblematico. 

Banalmente, però, possiamo guardare alla delega algoritmica di attività che fino a poco tempo fa vantavano uno statuto umano fondato, come l’attività giudiziaria, mentre oggi vengono affidate ad algoritmi. I risvolti sono molteplici, per questo il testo si presta ad essere una panoramica agganciata alla realtà e che da essa trae ispirazione per porre domande critiche sull’inerzia tecnologica. 

Leggi anche: L’uomo nell’era digitale. Intervista a Giulia Bovassi/Prima parte

Da biotecista quali sono i pericoli, legati all’Intelligenza Artificiale, che intravede all’orizzonte?

Al di là del punto di contatto con il transumanesimo, nel mito definito “Singolarità”, cioè la convinzione che giungeremo ad un punto di non ritorno nel quale l’IA supererà in modo definitivo, irreversibile, l’intelligenza umana, credo vi sia una rosa di problematicità nelle quali rientrano anche quelle menzionate. I rischi fondamentali, già concreti, riguardano l’identità personale/digitale; lo sviluppo umano autentico; il pericolo di una banalizzazione della delega algoritmica e un disarmo etico-giuridico o una grave insufficienza su questo fronte; l’accelerazione esponenziale, che non consente il tempo umano di comprendere la portata di un cambiamento rivoluzionario di simili proporzioni; de-skilling, perdita delle abilità umane; l’evanescenza della privacy e del controllo umano significativo; la tenuta democratica e la tutela della libertà; una progressiva difficoltà a gestire la falsificazione (o inganno) algoritmico con gli abusi che ne conseguono; i rischi per i minori esposti a questi strumenti.  

Alcuni aspetti da tenere sempre presenti per non lasciarsi sopraffare dal progresso?

Credo sia fondamentale trovare un punto di convergenza globale – ed è forse la sfida maggiore per un’epoca dettata da secolarismo e relativismo – sulla verità dell’uomo e del bene. La sfida è questa. L’IA, il transumano, il postumano sono megafoni di questa frammentarietà sulle questioni fondamentali. È necessaria un’algoretica; è fondamentale una governance globale, ma del costruttore chi si occupa?