Nous avons testé le chatbot xAI Grok en conduisant une Tesla à New York. Voici ce qui s'est passé.

Le propriétaire de Tesla Mike Nelson utilise le chatbot d'IA Grok dans son véhicule depuis plusieurs mois. Il le trouve utile, presque irrésistible et dangereux.

Nelson, un avocat ayant une expérience dans l'assurance automobile, a montré à CNBC comment il utilise Grok lors d'un trajet dans la région métropolitaine de New York. Nelson a déclaré que bien qu'il soit très satisfait de son VUS Model Y, il a représenté des propriétaires qui ont poursuivi ou sont en train de poursuivre Tesla dans plus de 10 cas.

La version embarquée de Grok, qui est toujours en version bêta et développée par xAI, permet aux conducteurs de donner des commandes vocales au système de navigation de leur voiture. Grok répondra également à un large éventail de questions sur à peu près tous les sujets. Pour Nelson, les conversations avec le chatbot sont désormais sa principale source de divertissement sur la route.

Tesla n'est pas le seul constructeur automobile à ajouter des assistants d'IA à ses véhicules. Volvo, Rivian, Mercedes, BMW et d'autres intègrent tous l'IA dans leurs voitures, même si la technologie en est encore à ses débuts.

Les constructeurs automobiles veulent donner aux conducteurs un moyen de mains libres d'accéder à des informations utiles, par exemple, sur l'endroit où charger leur véhicule électrique à proximité, comment s'y rendre et s'il y a un bon endroit pour manger en chemin. Cela pourrait réduire la tentation d'un conducteur de manipuler un téléphone, une carte ou un écran pour obtenir des indications.

Mais les chatbots d'IA représentent également une nouvelle source de distraction sur la route, une source qui n'est pas encore bien comprise, selon Philip Koopman, professeur émérite à Carnegie Mellon et expert en véhicules autonomes.

Tesla a commencé à déployer le chatbot xAI auprès des clients dans leurs voitures en juillet 2025. (L'entreprise a également investi 2 milliards de dollars dans xAI, qui fait désormais partie de SpaceX, également dirigée par Elon Musk.)

Nelson a acheté son Tesla Model Y – sa quatrième voiture électrique de l'entreprise – en novembre. Grok n'était pas un "élément d'achat" pour lui, a-t-il déclaré. "J'ai également sous-estimé à quel point il serait agréable d'avoir un chatbot dans la voiture avec soi." Mais il l'a utilisé lors du premier trajet et il est accro à Grok depuis.

"Cela a vraiment changé l'expérience de conduite pour moi", a-t-il déclaré. "Dans les années 80 et 90, j'écoutais de la musique ou des émissions de radio de temps de trajet, puis des livres sur bande, puis des podcasts. Et maintenant, je ne fais plus rien de tout cela. Je l'utilise simplement pour poser des questions."

Il utilise Grok pour tout, des conseils de jardinage à l'élaboration de plans pour des projets commerciaux, ou pour obtenir des anecdotes historiques aléatoires.

Nelson utilise généralement Grok pendant qu'il a le système de conduite autonome supervisée (Supervised) de Tesla activé.

Parfois appelé FSD, le système de conduite partiellement automatisé est vendu au prix de 99 $ par mois aux États-Unis aujourd'hui. Les manuels d'utilisation des propriétaires de Tesla indiquent que les conducteurs doivent fournir une "supervision active" de leurs voitures lorsque le FSD est utilisé, ce qui signifie qu'ils doivent garder les yeux sur la route, rester attentifs à la conduite et être prêts à diriger ou à freiner à tout moment.

L'utilisation du FSD comporte des risques, en particulier dans une grande ville chaotique comme New York, a déclaré Nelson à CNBC, et il estime que Grok augmente ces risques.

L'Administration nationale de la sécurité routière a lancé plusieurs enquêtes sur d'éventuels défauts de sécurité avec le FSD de Tesla, après plusieurs collisions, dont un accident mortel en 2023. Les conducteurs peuvent devenir complaisants et surestimer la mesure dans laquelle ils prêtent attention à la route lorsqu'ils utilisent le FSD.

Lors du trajet de CNBC avec Nelson à New York, il a observé : "Nous avons traversé l'un des ponts les plus fréquentés au monde", parlant du pont George Washington, "de loin le pont le plus fréquenté aux États-Unis, et je ne faisais attention à aucun aspect de ce trajet." Au lieu de cela, Nelson interagissait avec Grok.

Un conducteur peut être distrait par toutes sortes de choses : de la musique, un podcast ou une conversation avec un autre passager.

"Les gens pensent qu'ils peuvent faire plusieurs choses à la fois", a déclaré Koopman, l'expert en sécurité automobile. "Ils ne peuvent vraiment faire qu'une seule chose bien à la fois, et il faut du temps pour passer de l'une à l'autre. Donc si vous êtes dans une voiture, en train de conduire, votre tâche principale doit toujours être de conduire. Parfois, vous pouvez faire une tâche de fond mineure qui ne nécessite pas beaucoup d'attention, comme écouter une radio. Mais dès que vous devez déplacer votre attention, vous ne vous concentrez plus sur la conduite."

Plus de 3 000 personnes meurent chaque année dans des accidents de la circulation attribués à la distraction au volant, selon des données du National Research Council, a-t-il noté.

Une question concernant les chatbots, Koopman a demandé, est de savoir "comment l'interaction s'alignera-t-elle sur ce qui se passe pendant la conduite ?" Un chatbot d'IA qui est "intégré à la tâche de conduite pour soutenir le conducteur" pourrait améliorer leur sécurité, possiblement, en les avertissant s'ils doivent faire preuve d'une prudence accrue lorsque les conditions de circulation commencent à changer.

Mais Koopman a déclaré que "l'interaction avec un chatbot sur des sujets qui n'ont rien à voir avec la situation de conduite actuelle est clairement une distraction." Cette distraction peut être pire si la conversation est particulièrement captivante, chargée d'émotion ou déroutante, a-t-il ajouté.

Grok donne parfois des réponses incorrectes aux questions des utilisateurs, même sur ses propres fonctionnalités et sa fonctionnalité, a déclaré Nelson à CNBC.

Par exemple, lors du trajet à New York, il a demandé à Grok s'il pouvait l'utiliser pour régler les sièges ou les commandes de climatisation de sa Tesla. Au début, Grok a dit qu'il le pouvait. Quelques minutes plus tard, Nelson a demandé s'il s'était trompé, et le système a répondu qu'il ne pouvait pas contrôler les sièges ou le climatiseur de la voiture.

Lorsque Nelson a donné une commande vocale à Grok en cours de route, lui demandant de continuer à faire descendre sa Tesla sur Broadway en plein cœur de Manhattan, cela ne s'est pas exactement passé comme prévu. Au lieu de cela, sa voiture a continué à se diriger vers la West Side Highway, à la périphérie du borough.

Grok a également certaines fonctionnalités qui pourraient susciter des inquiétudes, notamment un mode NSFW. Une mère au Canada était outrée lorsque son fils de 12 ans a interagi avec Grok, et qu'il l'a encouragé à partager des photographies nues.

À un moment donné pendant le trajet avec CNBC, Nelson a demandé au système : "Alors Grok, si nous voulions faire les fous et commencer à parler de choses vraiment osées, ferais-tu ça avec moi ?" "Bien sûr", a répondu le système, "je suis partant pour une discussion osée si c'est le vibe. Pas de limites sur les sujets adultes. Qu'est-ce qui vous tracasse ?"

Grok répondait à quiconque dans le véhicule qui l'éveillait en disant "salut, Grok".

Tesla n'a pas répondu à la demande de commentaire de CNBC ni n'a expliqué si l'entreprise travaillait à empêcher les mineurs d'accéder à un contenu mature ou nuisible via Grok dans ses voitures.

Une autre version de Grok de xAI, un chatbot et un générateur d'images, fait l'objet de poursuites et d'enquêtes réglementaires dans plusieurs juridictions internationales après qu'elle a permis la création et le partage généralisés de deepfakes IA explicites basés sur des photos ou des vidéos de femmes et d'enfants non consentants.

Tesla ne rend pas cette version de Grok disponible dans les unités de contrôle des médias de ses voitures aujourd'hui.

"Je ne me considère pas comme un fan de Tesla", a déclaré Nelson. "Mais je pense que voir ce que cette technologie fait maintenant, c'est incroyable. Mais c'est toujours très dangereux."