ChatGPT : la triste réalité derrière le fantasme de l'intelligence artificielle

Les intelligences artificielles en fascinent beaucoup. Voici de quoi les faire déchanter.

Non, les I.A GPT4 ou Midjourney ne sont pas capables de penser ou de créer. Elles simulent, se nourrissent des requêtes de ses 100 millions d’utilisateurs et détruisent des emplois dans les médias notamment (de CNET à Bild en passant par Wired ou Buzzfeed, lire ici).

Un singe savant

En 1904, le psychologue Charles Spearman définit l’intelligence comme la capacité mentale générale d'un individu à comprendre les concepts abstraits, à raisonner de manière logique, à résoudre des problèmes et à s'adapter à de nouvelles situations.

Or, comme l’explique Laurence Devillers, chercheuse au CNRS : "les robots ne ressentent rien. Il ne s’agit que de simulations". ChatGPT n’a rien d’intelligent : c’est un automate. 

Les textes qu'il écrit ne sont pas des savoirs, mais des recopies d’informations glanées sur Internet (sans citation des sources). On y trouve souvent des erreurs ou de fausses informations que seuls les experts peuvent repérer. La domination des textes générés automatiquement menacera la crédibilité et la diversité sur les réseaux numériques. Les réponses automatiques des moteurs de recherche limiteront l'accès à une variété de sources. Si les points de vue sont uniformes et les publications discréditées, le Web ne pourra remplir son rôle d'espace de partage des savoirs.

Un nouvel esclavage numérique ? 

Les algorithmes ne peuvent pas reconnaître les textes offensants ou violents, ce qui nécessite la surveillance humaine pour les identifier et indexer. Microsoft, vient de licencier 10 000 employés, remplacés par des travailleurs kényans payés 2 $/h pour indexer d’immenses quantités de contenus toxiques circulant sur Internet, afin de « nettoyer » les données d’entraînement de ChatGPT (lire ici). La plupart de ces travailleurs sont psychologiquement affectés par l'exposition constante à des contenus nuisibles. On parle notamment de stress post-traumatique.

Mais OpenAI n’est pas la seule entreprise de la Silicon Valley à recourir à des travailleurs des régions les plus pauvres du monde pour étiqueter les données et rendre leurs systèmes plus “sûrs” pour le grand public. Cette pratique a été mise en lumière par Antonio Casilli dans son enquête En attendant les robots : Enquête sur le travail du clic. 

Un diktat technologique

Un autre risque potentiel de l'IA est lié à la sécurité et à la vie privée. Ces systèmes peuvent être piratés ou volontairement biaisés, avec des conséquences importantes sur la qualité de l’information de décideurs publics, notamment. Enfin, l'IA peut être utilisée pour développer des armes autonomes capables de causer des pertes humaines importantes sans intervention humaine directe.

• "Je suis profondément troublée par le potentiel de nuisance des récentes avancées en matière d’intelligence artificielle." Volker Türk, Haut-Commissaire de l'ONU aux droits de l’Homme.

Dans une démocratie, il n’est pas acceptable que de tels dispositifs soient déployés à grande échelle, sans aucune consultation des citoyens ou de leurs représentants. C'est du moins ce qui ressort du rapport de la mission parlementaire menée par Cédric Villani sur la question, publié en... 2018. Nous avions le temps pour développer des systèmes de surveillance et de contrôle en amont de ces I.A. !

Actuellement, une régulation au niveau européen est envisagée. On peut s’attendre à voir émerger un “A.I Act” d’ici 2024 pour réglementer l’usage et la commercialisation des intelligences artificielles et interdire les systèmes présentant un "risque inacceptable" pour les droits humains. Mais beaucoup doutent déjà de l’efficacité de tels garde-fous, dont un millier d’experts de la tech - y compris le patron de OpenAI - qui ont publié une lettre ouverte sur le site du Future of life institute.

Pour découvrir le Low-Tech Journal, c'est par ici !