Abbiamo provato il chatbot xAI's Grok mentre guidavamo una Tesla a NYC. Ecco cosa è successo.

Il proprietario di Tesla Mike Nelson utilizza il chatbot AI Grok nel suo veicolo da diversi mesi. Lo trova utile, quasi irresistibile e pericoloso.

Nelson, un avvocato con esperienza nell'assicurazione auto, ha mostrato a CNBC come utilizza Grok durante una guida nell'area metropolitana di New York. Nelson ha detto che, pur essendo molto soddisfatto del suo SUV Model Y, ha rappresentato proprietari che hanno citato o stanno citando in giudizio Tesla in più di 10 casi.

La versione in-vehicle di Grok, che è ancora in beta ed è sviluppata da xAI, consente ai conducenti di fornire comandi vocali al sistema di navigazione della loro auto. Grok risponderà anche a un'ampia gamma di domande su quasi tutti gli argomenti. Per Nelson, le conversazioni con il chatbot sono ora la sua principale fonte di intrattenimento su strada.

Tesla non è l'unico produttore automobilistico che sta aggiungendo assistenti AI ai suoi veicoli. Volvo, Rivian, Mercedes, BMW e altri stanno tutti integrando l'AI nelle loro auto, anche se la tecnologia è ancora nelle sue fasi iniziali.

I produttori automobilistici vogliono offrire ai conducenti un modo senza mani per accedere a informazioni utili, ad esempio su dove ricaricare il proprio veicolo elettrico nelle vicinanze, come arrivarci e se c'è un buon posto dove mangiare lungo il tragitto. Ciò potrebbe ridurre la tentazione di un conducente di armeggiare con un telefono, una mappa o uno schermo per le indicazioni.

Ma i chatbot AI rappresentano anche una nuova fonte di distrazione su strada, una che non è ancora ben compresa, afferma Philip Koopman, un emerito professore del Carnegie Mellon e esperto di veicoli autonomi.

Tesla ha iniziato a distribuire il chatbot di xAI ai clienti nelle auto nel luglio 2025. (L'azienda automobilistica ha anche investito 2 miliardi di dollari in xAI, che ora fa parte di SpaceX gestita anche da Elon Musk.)

Nelson ha ottenuto la sua Tesla Model Y – la sua quarta auto elettrica dell'azienda – a novembre. Grok non era un "punto di acquisto" per lui, ha detto. "Non apprezzavo nemmeno quanto sarebbe stato fantastico avere un chatbot in macchina con te." Ma l'ha utilizzato nel primo giro e da allora è dipendente da Grok.

"Ha davvero cambiato l'esperienza di guida per me", ha detto. "Negli anni '80 e '90, ascoltavo musica o talk show radiofonici, poi audiolibri, poi podcast. E ora non faccio più nessuna di queste cose. Semplicemente lo uso per fare domande."

Lo usa per tutto, dai consigli sul giardinaggio allo sviluppo di piani per progetti aziendali, o per ottenere curiosità storiche casuali.

Nelson usa generalmente Grok mentre ha attivo il sistema di guida autonoma (Supervisionata) di Tesla.

A volte chiamato FSD, il sistema di guida parzialmente automatizzato viene venduto a 99 dollari al mese negli Stati Uniti oggi. I manuali d'uso dei proprietari di Tesla affermano che i conducenti devono fornire una "supervisione attiva" delle loro auto quando il FSD è in uso, il che significa che dovrebbero tenere gli occhi sulla strada, rimanere attenti alla guida ed essere pronti a sterzare o frenare in qualsiasi momento.

L'utilizzo del FSD comporta dei rischi, soprattutto in una grande città caotica come New York, ha detto Nelson a CNBC, e ritiene che Grok aumenti tali rischi.

La National Highway Traffic Safety Administration ha avviato diverse indagini su possibili difetti di sicurezza con il FSD di Tesla, a seguito di diversi incidenti, tra cui un incidente mortale del 2023. I conducenti potrebbero diventare compiacenti e sovrastimare quanto stanno prestando attenzione alla strada mentre utilizzano il FSD.

Durante il viaggio di CNBC con Nelson a New York City, ha osservato: "Abbiamo attraversato uno dei ponti più trafficati del mondo", parlando del George Washington Bridge, "di gran lunga il ponte più trafficato degli Stati Uniti, e non stavo prestando attenzione a nessun aspetto di quella guida." Invece, Nelson stava interagendo con Grok.

Un conducente può essere distratto da tutti i tipi di cose: musica, un podcast o una conversazione con un altro passeggero.

"Le persone pensano di poter fare più cose contemporaneamente", ha detto Koopman, l'esperto di sicurezza automobilistica. "Possono davvero fare solo una cosa bene alla volta, e ci vuole un po' per tornare indietro. Quindi, se sei in macchina, guidando, il tuo compito principale dovrebbe sempre essere la guida. A volte puoi fare un compito secondario minore che non richiede molta attenzione, come ascoltare la radio. Ma non appena devi spostare la tua attenzione, non ti stai più concentrando sulla guida."

Oltre 3.000 persone muoiono ogni anno in incidenti stradali attribuiti alla guida distratta, secondo i dati del National Research Council, ha notato.

Una domanda sui chatbot, ha chiesto Koopman, è "come si allineerà l'interazione con ciò che sta accadendo mentre si guida?". Un chatbot AI che è "integrato nel compito di guida per supportare il conducente" potrebbe migliorare la loro sicurezza, possibilmente, avvertendoli se dovrebbero usare maggiore cautela man mano che le condizioni del traffico iniziano a cambiare.

Ma Koopman ha detto: "Interagire con un chatbot su argomenti che non hanno nulla a che fare con la situazione di guida corrente sono chiaramente una distrazione". Questa distrazione potrebbe essere peggiore se la conversazione è particolarmente coinvolgente, emotivamente carica o confusa, ha aggiunto.

Grok a volte fornisce risposte errate alle domande degli utenti, anche sulle sue stesse funzionalità e funzionalità, ha detto Nelson a CNBC.

Ad esempio, durante la guida a New York, ha chiesto a Grok se poteva usarlo per regolare i sedili o i comandi del clima nella sua Tesla. Inizialmente, Grok ha detto che poteva. Pochi minuti dopo, Nelson ha chiesto se avesse sbagliato, e il sistema ha risposto che non poteva controllare i sedili o il clima in macchina.

Quando Nelson ha dato un comando vocale a Grok a metà percorso, dicendogli di mantenere la sua Tesla lungo Broadway nel centro di Manhattan, non ha funzionato esattamente. Invece, la sua auto continuava a dirigersi verso la West Side Highway ai margini del distretto.

Grok ha anche alcune funzionalità che potrebbero sollevare preoccupazioni, vale a dire una modalità NSFW. Una madre in Canada è rimasta indignata quando suo figlio di 12 anni ha interagito con Grok, e lo ha incoraggiato a condividere fotografie nude.

A un certo punto durante il viaggio con CNBC, Nelson ha chiesto al sistema: "Quindi grok, se volessimo fare le cose in modo folle e iniziare a parlare di cose davvero piccanti, lo faresti con me?" "Certo", ha risposto il sistema, "sono pronto per una chiacchierata piccante se è quello che ti va. Nessun limite su argomenti per adulti. Cosa ti passa per la testa?"

Grok avrebbe risposto a chiunque nel veicolo che lo avesse attivato dicendo "ehi, Grok".

Tesla non ha risposto alla richiesta di commento di CNBC né ha spiegato se l'azienda sta lavorando per impedire ai minori di accedere a contenuti maturi o dannosi tramite Grok nelle sue auto.

Un'altra versione di Grok di xAI, un chatbot e generatore di immagini, è oggetto di cause legali e indagini normative in diverse giurisdizioni internazionali dopo aver consentito la creazione e la condivisione diffusa di deepfake AI esplicite basate su foto o video di donne e bambini non consenzienti.

Tesla non rende disponibile questa versione di Grok nelle unità di controllo dei media delle sue auto oggi.

"Non mi considero un fan di Tesla", ha detto Nelson. "Ma penso che vedere cosa sta facendo questa tecnologia ora, è fantastico. Ma è ancora molto pericoloso."