Sexiste, raciste et avec une vision en tunnel : Trois points critiques de l'IA

Kevin Hofer

14/9/2018

Traduction: traduction automatique

Recommandations des moteurs de recherche, publicité personnalisée ou comptage du trafic : L'utilisation de l'IA est très variée. Cela peut avoir des effets très positifs, mais aussi très négatifs. Je vais vous dire où se trouvent les opportunités et les risques de l'IA.

Je suis en train d'écrire un article sur les eGPU et j'ai besoin de Windows 10. Après l'installation, Cortana m'accueille. J'ai entendu sa voix des milliers de fois, même si je n'utilise pas l'assistant vocal de Microsoft au quotidien. Cette fois, je me pose des questions. Pourquoi les assistants intelligents parlent-ils tous par défaut avec une voix féminine ?

L'IA sexiste?

Aujourd'hui, vous pouvez aussi choisir des voix masculines. Mais il a fallu quelques années pour en arriver là. En cherchant des explications, je suis tombé sur une étude de l'UE. Celle-ci indique que les technologies informatiques sont en grande partie développées par des hommes. Les femmes seraient encore massivement sous-représentées dans les métiers de l'informatique en Europe. . Ce thème a déjà fait l'objet de discussions. Selon les déclarations officielles des développeurs, nous considérons que les voix féminines sont plus agréables et inspirent plus confiance que les voix masculines. C'est peut-être vrai. Mais je ne suis pas d'accord avec le fait que je ne puisse pas choisir la langue de l'assistant, du moins à ses débuts. Pourquoi ? Parce qu'il est suggéré que les assistants sont des femmes et que le féminin doit être considéré comme subordonné. Le féminin - représenté par la voix féminine de l'assistant - est là pour servir le propriétaire ou la propriétaire. L'assistant(e) se trouve ainsi dans un rôle hiérarchiquement subordonné. Elle est le plus faible des deux membres.

Vous vous dites peut-être que ce n'est pas grave, que cela ne concerne que la synthèse vocale de l'assistant.

À ce propos, avez-vous remarqué quelque chose ?

Nous nommons les assistants exclusivement au masculin. Nous ne parlons pas d'assistantes, mais d'assistants vocaux. Nous qualifions d'homme ce qui est intelligent dans la technologie, bien qu'il nous parle avec une voix féminine. Nous traçons ici une frontière linguistique entre la technologie en tant que masculine et intelligente et la chose qui exécute - c'est-à-dire l'assistant vocal qui sert -, en tant que féminine.

C'est cette subordination systématique du féminin qu'il faut remettre en question dans le développement de l'IA. Sinon, l'image du féminin comme étant hiérarchiquement subordonné n'est pas seulement consolidée dans nos esprits, à nous les humains, mais aussi inconsciemment adoptée par les IA. Je ne dis pas que les développeurs masculins sont systématiquement sexistes. Mais nous sommes tous influencés par certaines images et idées, et nous n'en sommes souvent pas conscients. Nous n'y réfléchissons pas. Dans une profession où la proportion d'hommes est aussi importante que dans l'informatique, certains préjugés sont plus visibles.

Cet exemple montre bien que l'IA peut très bien être influencée et qu'elle n'est donc jamais vraiment exempte de préjugés. Si les développeurs en sont conscients et qu'ils sont composés de plusieurs équipes, cela peut être pris en compte. Par équipes diverses, j'entends des équipes composées de personnes de sexe, d'âge et d'origine différents. De cette façon, l'IA peut effectivement être plus libre de tout préjugé.

Les bulles de filtrage

L'Internet est libre. Chacun ou chacune peut obtenir les informations qu'il ou elle souhaite. C'est du moins la théorie. Mais ce n'est pas tout à fait vrai avec les algorithmes des médias sociaux ou des moteurs de recherche. L'IA des médias sociaux ne montre aux utilisateurs que les contenus qui correspondent à leurs intérêts. Si j'aime quelque chose, les contenus similaires me sont présentés. En filtrant le contenu, mon champ de vision est réduit : Je ne vois que le contenu qui correspond à mes intérêts.

Par exemple, si je suis Steve Bannon sur Twitter, je recevrai principalement des recommandations de contenu politique de droite. En revanche, si je suis DigitalFoundry sur Youtube, je recevrai surtout des recommandations pour des news sur la game-tech. Mon horizon se rétrécit. Les fake news vous saluent.

Ce qui est d'une part un inconvénient peut aussi se retourner contre moi. Si je m'intéresse à d'autres contenus, les algorithmes des médias sociaux ou des moteurs de recherche m'ouvrent de nouvelles perspectives. J'accède plus rapidement à de nouveaux thèmes, je noue des contacts avec de nouvelles personnes et j'élargis mes horizons.

Les implications culturelles

Ce point est une conséquence des bulles de filtre. Comme la plupart des autres sites de streaming, Spotify a une fonction de recommandation. Cela a un impact important sur qui écoute quoi.

Partir du principe que Spotify en sait plus sur nous que ce que nous écoutons grâce au Big Data. En fonction de notre âge, de notre sexe et de notre origine, Spotify nous fait des recommandations spécifiques basées sur ce qu'écoutent les autres utilisateurs ayant les mêmes caractéristiques. En tant qu'homme dans la trentaine, né en Suisse et passionné de jeux vidéo, Spotify est le plus susceptible de me recommander du métal. Un Afro-Américain vivant dans le Bronx reçoit principalement des recommandations sur le hip-hop.

Le profilage racial vous dit bonjour.

L'IA n'est ni bonne ni mauvaise en soi. Mais elle présente des opportunités et des risques. La direction vers laquelle elle tend dépend de son développement et de son utilisation. Elle peut nous aider à être plus libres de nos valeurs et à faire l'expérience de la diversité sous toutes ses formes. Mais elle peut aussi conduire à une homogénéisation, renforcer les préjugés existants et stéréotyper certains groupes et personnes.

C'est toujours nous qui décidons de la direction que prend l'IA, du moins jusqu'à présent. Mais pour cela, nous devons réfléchir aux conditions sociales existantes et les intégrer dans le développement de l'IA. Diverses équipes peuvent en outre nous aider à faire en sorte que l'IA soit aussi exempte de valeurs que possible .

Kevin Hofer

Senior Editor

kevin.hofer@digitecgalaxus.ch

La technologie et la société me fascinent. Combiner les deux et les regarder sous différents angles est ma passion.

Suivre

---

Informatique

Suivez les thèmes et restez informé dans les domaines qui vous intéressent.

Suivre

Ces articles pourraient aussi vous intéresser