La prima cosa da ricordare, quando parliamo di etica dell’IA, è che è bipartita: c’è l’etica dell’utilizzo, e l’etica dell’addestramento. La seconda è un tema affascinante, ma difficile da coprire: la cosa migliore da fare, per vederlo con i propri occhi, è sperimentare.

Proporre lo stesso paradosso etico, come il dilemma del carrello – aziono lo scambio e salvo cinque persone ma ne ammazzo una che altrimenti si sarebbe salvata, o mi faccio gli affari miei e lascio morire cinque tizi – a modelli linguistici diversi e vedere che succede. Modelli diversi, come l’americano ChatGpt e il cinese Qwen, possono rispondere in maniera diversa a questi quesiti, specialmente se chiediamo loro di interpretare un ruolo – poliziotto, o impiegato delle ferrovie, per esempio.

Il succo è che l’etica può dipendere dal modello che usiamo, dal ruolo che chiediamo in interpretare, e che questi oggetti sono talmente complessi che prima di utilizzarli a livello etico è necessario capire che ogni modello è diverso. Parlare di etica delle IA è un po’ come parlare di etica delle persone che si chiamano Filippo: un nome sotto cui si possono trovare sia santi che pluriomicidi. Quindi, necessariamente, un’etica delle IA è un’etica della competenza. Per usarla in maniera moralmente condivisibile dovremmo usare, e probabilmente sviluppare, competenze che in questo momento non ci appaiono palesi.

È la capacità di esprimerci l’abilità per poter utilizzare l’intelligenza artificiale

Un po’ come capita ai piloti di Formula 1. Non sembrerebbe, ma un pilota di Formula 1 deve avere caratteristiche fisiche eccezionali, volte a un’attività che sembra il contrario dell’atletismo: stare fermi. Tenere la testa ferma. Sembra facile, ma in un automezzo che subisce accelerazioni di 6 G non lo è per nulla. Per questo i piloti sono e devono mantenere una forma fisica eccellente, straordinaria, assolutamente necessaria al loro ruolo.

Questa metafora della Formula 1 può servire anche per capire la caratteristica più propria dei Large language model, e la più pericolosa per un uso etico del suo utilizzo: la velocità. Questi algoritmi sono in grado di produrre testo di qualsiasi tipo, anche codice informatico o immagini, con un ritmo insostenibile per un essere umano: sia per quanto riguarda la produzione, sia per quanto riguarda la verifica, il controllo qualità del prodotto stesso. E qui abbiamo un problema. Dire cretinate è facile. Il contrario, meno. Smentire una balla, o smantellare un argomento fallace, è molto più difficile che non esprimerla. Farà piacere sapere che in Italia, almeno su questo, siamo all’avanguardia: a formalizzare questa osservazione, dandole dignità di legge empirica, è stato infatti l’informatico Alberto Brandolini, con il suo Bullshit Asymmetry Principle (principio di asimmetria delle stronzate) il quale afferma che «la quantità di energia e di sforzo necessaria per confutare una notizia falsa o una fandonia è di un ordine di grandezza superiore rispetto a quella necessaria per produrla». Facezie a parte, credo che siamo tutti d’accordo sul fatto che i danni causati da una notizia falsa, o da un calcolo sbagliato, magari generato con l’IA, rischiano di essere irreparabili: esattamente come per un incidente d’auto. E come facciamo a cercare di evitare gli incidenti? Semplice: evitiamo di sfruttare il mezzo per quella che sarebbe la sua piena capacità, e lo usiamo alla nostra capacità. La mia automobile, a fidarsi del cruscotto, può raggiungere i 200 km/h – velocità alla quale sarei pericoloso. Mandare l’auto a quella velocità lo sanno fare tutti – controllarla, parecchi meno.

Nella mente di un giallista ai tempi dell’IA: dialogo con Marco Malvaldi

Per questo, l’etica dell’utilizzo dell’IA non può che partire da una considerazione: la consapevolezza della nostra ignoranza. Non è importante quello che sappiamo o quello che non sappiamo: ciò che è fondamentale è conoscerne i confini, la linea di separazione tra quello che padroneggiamo e quello che ignoriamo. Una linea sfumata, spesso rappresentata dal confine più pericoloso: le cose che sappiamo appena, di cui magari abbiamo un’infarinatura, di cui magari siamo più esperti del cittadino medio, ma molto meno di ciò che servirebbe per ragionarci su.

Il che non significa limitarsi o fermarsi, attenzione. Non sarebbe umano. Ce lo diceva già l’Ulisse di Dante: fatti non foste a vivere come bruti, ma perseguir virtute e conoscenza. Eccola lì, forse, la soluzione: virtù e conoscenza. Non ci si può comportare virtuosamente se non si conosce, ma al tempo stesso la nostra natura ci spinge a espandere i confini della conoscenza. Arrendersi, fare finta che quel confine esista anche nella pratica e non solo sulla mappa, sarebbe assolutamente non etico, assolutamente non virtuoso, assolutamente disumano.

L’intelligenza artificiale ha bisogno di regole e di anima

Ma la facilità con cui possiamo produrre è lì, e pone un problema concreto. Per questo, credo che quando si parla di IA ed etica, prima ancora che di competenza si debba parlare di ignoranza: di quella che si annida in ognuno di noi, ma anche (e in certi casi soprattutto) in quelli che hanno studiato molto e che per questo sono convinti di essere in grado di ragionare bene su tutto. Il diavolo spesso è nei dettagli: e salire su una automobile che può andare a 200 all’ora, scoprendo solo in marcia che il bagagliaio è stipato di bombole di gas infiammabile, può farci fare danni difficili da immaginare.

L’appuntamento

Nell’ambito del festival Radici, lo scrittore Marco Malvaldi partecipa il 13 novembre (ore 18) al Circolo dei lettori e delle lettrici di Torino alla conversazione “C’è posto per l’etica nell’IA?” con il filosofo Filippo Santoni De Sio