Retroscena
IA, Machine Learning e Deep Learning: qual è la differenza?
di Kevin Hofer
Sessista, razzista e con una visione a tunnel: Tre punti critici dell'IA
14.9.2018
Traduzione: tradotto automaticamente
Raccomandazioni dai motori di ricerca, pubblicità personalizzata o conteggio del traffico: L'uso dell'intelligenza artificiale è vario. Può avere effetti molto positivi, ma anche molto negativi. Ti spiego dove si nascondono le opportunità e i rischi dell'intelligenza artificiale.
Sto scrivendo un articolo sulle eGPU e ancora una volta ho bisogno di Windows 10. Dopo l'installazione, Cortana mi accoglie. Mi sembra di aver sentito la sua voce mille volte, anche se non uso l'assistente vocale di Microsoft nella mia vita quotidiana. Questa volta sono perplesso. Perché gli assistenti intelligenti parlano tutti con una voce femminile per impostazione predefinita?
L'intelligenza artificiale esiste?
Ora è possibile selezionare anche voci maschili. Ma ci sono voluti alcuni anni per arrivare a questo punto. Mentre cercavo spiegazioni, mi sono imbattuto in uno studio dell'UE. In esso si afferma che le tecnologie informatiche sono in gran parte sviluppate da uomini. Le donne sono ancora molto sottorappresentate nelle professioni IT in Europa.
L'argomento è già stato discusso. Secondo le dichiarazioni ufficiali degli sviluppatori, noi esseri umani consideriamo le voci femminili più piacevoli e capaci di ispirare fiducia rispetto a quelle maschili. Questo può essere vero. Ma non trovo giusto che non si possa scegliere la lingua dell'assistente, almeno nei primi tempi. Perché? Perché suggerisce che gli assistenti sono donne e che il femminile deve essere considerato subordinato. Il femminile - rappresentato dalla voce femminile dell'assistente - è al servizio del proprietario. L'assistente si trova quindi in un ruolo gerarchicamente subordinato. È il più debole dei due arti.
Forse starai pensando che questo non è un grosso problema, perché riguarda solo l'emissione vocale dell'assistente.
A proposito: hai notato qualcosa?
Ci riferiamo agli assistenti solo nella loro forma maschile. Non ci riferiamo a loro come assistenti, ma come assistenti vocali. Ci riferiamo alla parte intelligente della tecnologia come a un uomo, anche se ci parla con una voce femminile. In questo caso, tracciamo una linea linguistica tra la tecnologia in quanto maschile e intelligente e l'elemento che parla, ovvero l'assistente vocale, in quanto femminile.
È questa sistematica subordinazione del femminile che deve essere esaminata nello sviluppo dell'IA. Altrimenti, l'immagine della donna come gerarchicamente subordinata non solo viene cementata nella mente di noi umani, ma viene anche inconsciamente adottata dall'intelligenza artificiale. Non sto affermando che gli sviluppatori maschi siano sessisti in generale. Ma tutti noi siamo influenzati da certe immagini e idee e spesso non ne siamo consapevoli. Non ci riflettiamo. In un gruppo professionale in cui la percentuale di uomini è così alta come nell'IT, certi pregiudizi sono più diffusi.
L'esempio dimostra bene che gli sviluppatori uomini sono sessisti in generale.
L'esempio mostra bene che l'IA può essere influenzata e quindi non è mai veramente libera da pregiudizi. Se gli sviluppatori sono consapevoli di questo fatto e sono costituiti da team eterogenei, è possibile tenerne conto. Per team eterogenei intendo team composti da persone di sesso, età e background diversi. In questo modo, l'intelligenza artificiale può diventare più imparziale.
Bolle di filtraggio
Internet è libero. Chiunque può accedere alle informazioni che desidera. Almeno questa è la teoria. Ma questo non è del tutto vero con gli algoritmi dei social media o dei motori di ricerca. L'intelligenza artificiale dei social media mostra agli utenti solo i contenuti che corrispondono ai loro interessi. Se mi piace qualcosa, mi vengono mostrati contenuti simili. Il filtraggio dei contenuti riduce il mio campo visivo: Vedo solo i contenuti che corrispondono ai miei interessi.
Ad esempio, se seguo Steve Bannon su Twitter, ricevo principalmente consigli su contenuti politici di destra. Se seguo DigitalFoundry su YouTube, invece, ricevo principalmente raccomandazioni di Ultime notizie sul mondo dei videogiochi. I miei orizzonti si restringono. Le Ultime notizie mandano i loro saluti.
Quello che da un lato è uno svantaggio, dall'altro può essere anche il contrario. Se sono interessato ad altri contenuti, gli algoritmi dei social media o dei motori di ricerca mi aprono nuove prospettive. Mi addentro più rapidamente in nuovi argomenti, stabilisco contatti con nuove persone e allargo i miei orizzonti.
Implicazioni culturali
Questo punto è una conseguenza delle bolle di filtraggio. Come la maggior parte degli altri fornitori di streaming, anche Spotify ha una funzione di raccomandazione. Questo ha un grande impatto su chi ascolta cosa.
Immaginiamo che Spotify abbia una funzione di raccomandazione.
Immaginiamo che, grazie ai big data, Spotify sappia molto di più su di noi di ciò che ascoltiamo. In base alla nostra età, al nostro sesso e alla nostra provenienza, Spotify ci fornisce ora raccomandazioni specifiche basate su ciò che ascoltano altri utenti con caratteristiche simili. In quanto uomo di circa 30 anni, originario della Svizzera e appassionato di videogiochi, è molto probabile che Spotify mi consigli il metal. Un afroamericano che vive nel Bronx riceve principalmente consigli per l'hip hop.
La profilazione razziale invia a Spotify un messaggio di ascolto di musica di qualità.
La profilazione razziale ti manda i suoi saluti.
Si capisce: anche io ho un problema con il fatto che siamo costretti a entrare in un certo stampo. Ed è proprio quello che fa l'IA in questo esempio. Ci dice quale musica dovremmo ascoltare in base a determinate caratteristiche. C'è così tanto da scoprire. E a chi piace essere etichettato? Personalmente, trovo il mondo molto più interessante quando non tutti si conformano a un certo stereotipo.
Conclusione
L'AI di per sé non è né buona né cattiva. Ma nasconde opportunità e rischi. La direzione che prenderà dipende da come verrà sviluppata e utilizzata. Può aiutarci a non giudicare e a vivere la diversità in tutte le sue sfaccettature. Tuttavia, può anche portarci all'omogeneizzazione, a rafforzare i pregiudizi esistenti e a stereotipare alcuni gruppi e individui.
Siamo ancora noi a decidere quale direzione prenderà l'IA, almeno per ora. Per farlo, però, dobbiamo riflettere sulle circostanze sociali esistenti e incorporarle nello sviluppo dell'IA. I team eterogenei possono anche contribuire a mantenere l'IA il più possibile priva di valori. <p
Kevin Hofer
Senior Editor
kevin.hofer@digitecgalaxus.chTecnologia e società mi affascinano. Combinarle entrambe e osservarle da punti di vista differenti sono la mia passione.
Informatica
Segui gli argomenti e ricevi gli aggiornamenti settimanali relativi ai tuoi interessi.
27 commenti
later