L’intelligenza artificiale sta prendendo una cattiva strada, ma non è troppo tardi per intervenire (Etica dell’IA, parte 1)

Joanna Bryson, esperta di IA e informatica presso l’Università di Bath, nel Regno Unito

La verità è che l’intelligenza artificiale (IA) è una vera rivoluzione, che sta sovvertendo i mercati del lavoro globali e un’ampia gamma di settori, dalla produzione alla sanità, dai trasporti al retail.

I giganti digitali stanno scommettendo tutto sul suo successo e le agenzie governative vi riversano miliardi di investimenti. Di conseguenza, le considerazioni etiche sull’uso dell’IA si stanno diffondendo tra dirigenti e consigli di amministrazione di tutto il mondo.

La vera domanda è: possiamo davvero confidare nell’IA per prendere decisioni corrette su ciò che influenza le nostre vite?

Joanna Bryson, una delle 50 principali influencer in materia di IA da seguire su Twitter secondo Cognilytica, è stata intervistata da Appian e ci ha regalato delle vere perle sull’applicazione dell’etica nel campo dell’intelligenza artificiale:

  • Le conseguenze dei pregiudizi dell’IA su affari e società
  • Come sradicare i pregiudizi dall’IA
  • I rischi connessi a ignorare la due diligence nello sviluppo di software
  • Perché i regolamenti non elimineranno la magia (apprendimento profondo) dall’innovazione dell’IA
  • Perché è importante capire le verità e le conseguenze dell’IA

Verità o conseguenze

In materia di IA, Bryson sconsiglia di adottare un approccio alla "Move fast and break things" di Zuckerberg, secondo cui è bene muoversi in fretta anche a costo di fare danni. Inoltre sottolinea che nel processo di sviluppo dei software non bisogna dimenticare di dare la priorità alla due diligence. Un esempio pratico: l’IA utilizzata in un sistema automatizzato ha improvvisamente interrotto l’erogazione dei sussidi di invalidità per migliaia di persone in Idaho.

Purtroppo, il sistema era basato su dati errati e su una formula corrotta, che determinava arbitrariamente l’assegnazione dei sussidi in questione.

Secondo i notiziari, i funzionari coinvolti si sarebbero rifiutati di rivelare il funzionamento dell’IA (sfruttando il pretesto della proprietà intellettuale).

Questa loro mancanza di trasparenza non ha fatto che alimentare la rabbia dei contribuenti, i quali hanno intentato una causa che a sua volta ha portato a una sentenza per cui i funzionari dell’agenzia sono stati costretti a rivedere il sistema corrotto.

La trasparenza è importante

Il punto è che l’IA influenza quasi ogni aspetto delle nostre vite.

I sistemi intelligenti prendono miliardi di decisioni ogni giorno, determinando di tutto, da chi riceverà il sapone dall’apposito dispenser a chi ottiene la libertà condizionata, l’approvazione di un prestito, l’assunzione o il licenziamento da un posto di lavoro e molto altro ancora.

L’importante, però, è capire in che modo l’IA prende decisioni, come determina cosa vediamo e cosa no, e chi è responsabile quando le cose non vanno come dovrebbero.

La prossima settimana non dimenticate di sintonizzarvi per ascoltare la prima parte di questa stimolante conversazione con la nota influencer di IA Joanna Bryson.

Vi aprirà gli occhi sull’importanza dell’etica nell’uso dell’IA.

 

ISCRIVITI a APPIAN WEEKLY!