Google reportedly signeé un accord classifié IA avec le Pentagone

Google a apparemment signé un accord avec le Pentagone américain pour utiliser ses modèles d'intelligence artificielle pour des travaux classifiés. La société technologique rejoint une liste croissante d'entreprises de la Silicon Valley qui scellent des accords avec l'armée américaine.

L'accord permet au Pentagone d'utiliser l'IA de Google pour « tout usage gouvernemental légal », a ajouté le rapport de l'Information, mettant ainsi aux côtés d'OpenAI et de xAI d'Elon Musk, qui ont également des accords pour fournir des modèles d'IA pour une utilisation classifiée. Des accords similaires, tant au niveau de Google que d'autres entreprises d'IA, ont suscité d'importantes désaccords avec le Pentagone et une forte opposition des employés.

Les réseaux classifiés sont utilisés pour gérer un large éventail de travaux sensibles, notamment la planification des missions et la mise en cible des armes. Le Pentagone a signé des accords d'une valeur pouvant atteindre 200 millions de dollars chacun avec les principaux laboratoires d'IA en 2025, notamment Anthropic, OpenAI et Google. L'agence gouvernementale avait poussé les principales entreprises d'IA telles qu'OpenAI et Anthropic à rendre leurs outils disponibles sur les réseaux classifiés sans les restrictions standard appliquées aux utilisateurs.

L'accord de Google exige qu'il aide à ajuster les paramètres de sécurité et les filtres de l'entreprise sur demande du gouvernement, selon le rapport de l'Information.

Le contrat comprend un langage stipulant que « les parties conviennent que le Système d'IA n'est pas destiné à, et ne doit pas être utilisé pour, la surveillance de masse à l'intérieur des frontières ou des armes autonomes (y compris la sélection de cibles) sans une supervision et un contrôle humains appropriés ».

Cependant, l'accord indique également qu'il ne donne pas à Google le droit de contrôler ou de bloquer les décisions opérationnelles légales du gouvernement, a ajouté le rapport.

Le Pentagone a décliné de commenter la question.

Google a déclaré qu'il soutenait les agences gouvernementales dans les deux projets, classifiés et non classifiés. Un porte-parole de l'entreprise a déclaré que l'entreprise restait attachée au consensus selon lequel l'IA ne doit pas être utilisée pour la surveillance de masse à l'intérieur des frontières ou les armes autonomes sans une supervision humaine appropriée.

« Nous pensons que la fourniture d'un accès API à nos modèles commerciaux, y compris sur l'infrastructure Google, avec des pratiques et des conditions standard de l'industrie, représente une approche responsable pour soutenir la sécurité nationale », a déclaré un porte-parole de Google à Reuters.

Le Pentagone a déclaré qu'il n'avait aucun intérêt à utiliser l'IA pour mener une surveillance de masse des Américains ou pour développer des armes létales qui fonctionnent sans intervention humaine, mais souhaite que « tout usage légal » de l'IA soit autorisé. Anthropic a rencontré des problèmes avec le Pentagone plus tôt cette année après que le startup avait refusé de supprimer les garde-fous contre l'utilisation de son IA pour des armes autonomes ou une surveillance de masse, et le département avait désigné le créateur de Claude comme un risque pour la chaîne d'approvisionnement.

L'accord de Google avec le Pentagone intervient malgré les craintes des employés que leur travail puisse être utilisé de « manière inhumaine ou extrêmement nuisible », comme le litige des employés de Google.

Lundi, plus de 600 employés de Google ont signé une lettre ouverte au PDG, Sundar Pichai, exprimant leurs préoccupations concernant les négociations entre Google et le Pentagone.

« Nous estimons que notre proximité avec cette technologie crée une responsabilité de mettre en évidence et de prévenir ses utilisations les plus contraires à l'éthique et dangereuses », ont-ils écrit. « Par conséquent, nous demandons à vous de refuser de rendre nos systèmes d'IA disponibles pour les travaux classifiés. »

L'année dernière, le propriétaire de Google, Alphabet, avait levé l'interdiction d'utiliser l'IA pour les outils d'armes et de surveillance. La société avait supprimé un langage de ses directives éthiques qui promettait que l'entreprise ne poursuivrait pas « les technologies qui causent ou sont susceptibles de causer des dommages globaux » . Le responsable de l'IA de l'entreprise, Demis Hassabis, a déclaré dans un article de blog que l'IA était devenue importante pour protéger « la sécurité nationale ».

Certains employés de Google ont exprimé leurs préoccupations concernant le changement de langage sur le message interne de l'entreprise à ce moment-là. L'un d'eux a demandé : « Sommes-nous les méchants ? » selon Business Insider.

L'utilisation de l'IA et des technologies dans la guerre est depuis longtemps une source d'anxiété pour les employés de Google, dont l'activisme précédent sur cette question a connu un certain succès. En 2018, des milliers d'employés de Google ont signé une lettre protestant contre leur implication dans un contrat avec le Pentagone qui utilisait leurs outils d'IA pour analyser les images de surveillance des drones. Google avait choisi de ne pas renouveler le contrat Project Maven cette même année après un contre-réaction interne important, et l'entreprise de surveillance controversée Palantir s'est portée à la concurrence pour prendre le relais.