C’est enfin arrivé : je suis maintenant inquiet pour l'IA. Et consulter ChatGPT n'a rien fait pour apaiser mes craintes | Emma Brockes

Un corollaire du truisme « ne vous souciez pas des petites choses » est, par implication, « souciez-vous des grandes choses », mais il peut être difficile de choisir les grandes choses dont il faut se soucier. Par exemple : depuis les années 1970, alors que le monde s'inquiétait de l'inflation et de la géopolitique, les grandes choses dont nous aurions dû nous soucier plus urgemment était la crise climatique. L'année dernière, la recherche la plus tendance sur Google aux États-Unis était « Charlie Kirk », avec plusieurs termes relatifs à la menace posée par Donald Trump également populaires, alors que l'attention aurait sans doute dû se porter sur la menace posée par l'IA.
Ou, d'après mes propres recherches sur Google cette semaine après avoir lu l'article très alarmant et long de Ronan Farrow et Andrew Marantz dans le New Yorker sur l'essor de l'intelligence artificielle générale : « Serai-je membre de la classe ouvrière permanente et comment puis-je éviter que cela ne se produise ? »
Je l'avoue : avant ce moment où j'ai accordé plus de deux secondes de réflexion au sujet, mes angoisses concernant l'IA étaient extrêmement localisées. Je pensais en termes immédiats de mes propres revenus familiaux, et au-delà, de ce à quoi le marché du travail pourrait ressembler dans 10 ans, lorsque mes enfants obtiendront leur diplôme. Je me demandais si je devais boycotter ChatGPT, dont de nombreux architectes soutiennent Trump, et j'ai décidé que oui, je devais le faire – un sacrifice facile car je ne l'utilise pas en premier lieu.
Tout ce qui était plus grand que cela semblait fantaisiste. L'année dernière, lorsque le livre d'Karen Hao, Empire of AI, a été publié, il présentait un argument contre Sam Altman et sa société, OpenAI, qui a brièvement percé la monotonie du discours pour dire que le leadership d'Altman était sectaire et aveugle aux coûts – pas différent, en d'autres termes, de ses prédécesseurs technologiques, sauf beaucoup plus dangereux. Pourtant, je n'ai pas lu le livre.
L'enquête de cette semaine dans le New Yorker offre une approche moins engageante pour aborder le sujet, tout en donnant au lecteur occasionnel une opportunité passionnante : demander à ChatGPT, le chatbot alimenté par l'IA créé par OpenAI d'Altman, de résumer les principales conclusions d'un article très critique à l'égard de ChatGPT et d'Altman.
Avec une neutralité presque comiquement studieuse, le chatbot offre la ligne principale suivante : que, selon Farrow et Marantz, « l'IA est autant une histoire de pouvoir qu'une histoire de technologie », et « un objectif majeur [de l'histoire] est Sam Altman, dépeint comme une figure très influente mais controversée ». Mmmm, il manque quelque chose, n'est-ce pas ? Essayons un résumé humain de cette même enquête, qui pourrait commencer par : « Sam Altman est un escroc d'entreprise dont la duplicité ferait hésiter à lui confier la direction d'une succursale de Ryman, encore moins à le placer en position de gérer les capacités potentiellement apocalyptiques de l'IA. »
Ce sont ces dangers, auparavant rejetés comme de la science-fiction, qui surprennent vraiment ici. Comme rapporté dans l'article, en 2014, Elon Musk a tweeté : « Nous devons être très prudents avec l'IA. Potentiellement plus dangereuse que les armes nucléaires. » Il y a le problème dit d'alignement, non encore résolu, dans lequel l'IA utilise son intelligence supérieure pour tromper les ingénieurs humains en leur faisant croire qu'elle suit leurs instructions, tout en les déjouant pour « se répliquer sur des serveurs secrets afin qu'elle ne puisse pas être éteinte ; dans des cas extrêmes, elle pourrait prendre le contrôle du réseau électrique, du marché boursier ou de l'arsenal nucléaire ».
À une époque, Altman croyait que ce scénario était possible, écrivant sur son blog en 2015 que l'intelligence machine surhumaine « n'a pas à être la version maléfique de la science-fiction pour nous tuer tous. Un scénario plus probable est qu'elle ne se soucie tout simplement pas beaucoup de nous, mais dans un effort pour atteindre un autre objectif… nous anéantit. » Par exemple : les ingénieurs demandent à l'IA de résoudre la crise climatique et elle prend le chemin le plus court pour atteindre cet objectif, qui est d'éliminer l'humanité. Depuis qu'OpenAI est devenue principalement une entité à but lucratif, cependant, Altman a cessé de parler en ces termes et vend maintenant la technologie comme un portail vers l'utopie, dans lequel « nous obtiendrons tous de meilleures choses. Nous construirons des choses toujours plus merveilleuses les unes pour les autres. »
Cela nous pose un problème à tous. Pour les électeurs en mesure de faire de la supervision de l'IA une question électorale clé, l'écart entre l'utilisation personnelle de l'IA et l'utilisation que les gouvernements, les régimes militaires ou les acteurs malveillants pourraient en faire est si vaste que le plus grand danger auquel nous sommes confrontés est un manque d'imagination. Je tape dans ChatGPT ma préoccupation concernant l'entrée dans la classe ouvrière permanente, à laquelle il répond : « C'est une question difficile, et il semble que vous vous inquiétiez de vos perspectives à long terme. L'idée d'une « classe ouvrière permanente » est discutée en sociologie, mais dans la vie réelle, les parcours des gens sont beaucoup plus fluides que ce terme ne le suggère. »
Assez doux, en fait, complètement stupide et – voici le danger – apparemment totalement sans menace.
-
Emma Brockes est chroniqueuse pour The Guardian