Wir haben den Grok-Chatbot von xAI beim Fahren eines Tesla in NYC ausprobiert. Hier ist, was passiert ist.

Tesla-Besitzer Mike Nelson nutzt den KI-Chatbot Grok seit mehreren Monaten in seinem Fahrzeug. Er findet ihn nützlich, fast unwiderstehlich und gefährlich.

Nelson, ein Anwalt mit einem Hintergrund in Autoversicherungen, zeigte CNBC, wie er Grok während einer Fahrt durch die Metropolregion New York nutzt. Nelson sagte, dass er zwar sehr zufrieden mit seinem Model Y SUV ist, aber bereits Besitzer vertreten hat, die Tesla in mehr als 10 Fällen verklagt haben oder verklagen.

Die In-Car-Version von Grok, die sich noch in der Beta-Phase befindet und von xAI entwickelt wurde, ermöglicht es Fahrern, Sprachbefehle an das Navigationssystem ihres Autos zu geben. Grok beantwortet auch eine breite Palette von Fragen zu fast jedem Thema. Für Nelson sind Gespräche mit dem Chatbot inzwischen seine Hauptunterhaltungsquelle unterwegs.

Tesla ist nicht der einzige Automobilhersteller, der KI-Assistenten in seine Fahrzeuge integriert. Volvo, Rivian, Mercedes, BMW und andere integrieren KI in ihre Autos, auch wenn die Technologie noch in den Kinderschuhen steckt.

Automobilhersteller möchten den Fahrern eine freihändige Möglichkeit bieten, auf nützliche Informationen zuzugreifen, z. B. wo sie ihr Elektrofahrzeug in der Nähe aufladen können, wie sie dorthin gelangen und ob es unterwegs einen guten Ort zum Essen gibt. Das könnte die Versuchung für den Fahrer verringern, mit einem Telefon, einer Karte oder einem Bildschirm nach dem Weg zu suchen.

KI-Chatbots stellen jedoch auch eine neue Ablenkungsquelle auf der Straße dar, die noch nicht gut verstanden wird, sagt Philip Koopman, emeritierter Professor der Carnegie Mellon University und Experte für autonome Fahrzeuge.

Tesla begann im Juli 2025 mit der Einführung des Chatbots von xAI in den Autos seiner Kunden. (Der Automobilhersteller hat auch 2 Milliarden US-Dollar in xAI investiert, das nun Teil von SpaceX ist, das ebenfalls von Elon Musk geleitet wird.)

Nelson erhielt sein Tesla Model Y – sein viertes Elektroauto des Unternehmens – im November. Grok war für ihn kein „Kaufargument“, sagte er. „Ich habe auch nicht geschätzt, wie großartig es sein würde, einen Chatbot im Auto zu haben.“ Aber er nutzte es bei der ersten Fahrt und ist seitdem von Grok begeistert.

„Es hat das Fahrerlebnis für mich wirklich verändert“, sagte er. „In den 80er und 90er Jahren hörte ich Musik oder Radiosendungen, dann Hörbücher, dann Podcasts. Und jetzt mache ich nichts davon mehr. Ich nutze es einfach, um Fragen zu stellen.“

Er nutzt Grok für alles, von Gartentipps über die Entwicklung von Plänen für Geschäftsprojekte bis hin zu zufälligen Geschichts-Trivia.

Nelson nutzt Grok in der Regel, während das System „Full Self-Driving (Supervised)“ von Tesla aktiviert ist.

Das teilautomatisierte Fahrsystem, manchmal auch FSD genannt, wird heute in den USA für 99 US-Dollar pro Monat verkauft. Die Handbücher von Tesla-Besitzern besagen, dass Fahrer ihr Fahrzeug aktiv überwachen müssen, wenn FSD verwendet wird, was bedeutet, dass sie die Augen auf der Straße behalten, aufmerksam fahren und jederzeit bereit sein müssen zu lenken oder zu bremsen.

Die Nutzung von FSD birgt Risiken, insbesondere in einer großen chaotischen Stadt wie New York, sagte Nelson gegenüber CNBC, und er glaubt, dass Grok diese Risiken erhöht.

Die National Highway Traffic Safety Administration hat mehrere Untersuchungen zu möglichen Sicherheitsmängeln bei Teslas FSD eingeleitet, nachdem es zu mehreren Kollisionen gekommen war, darunter ein tödlicher Unfall im Jahr 2023. Fahrer können nachlässig werden und überschätzen, wie sehr sie sich auf die Straße konzentrieren, während sie FSD nutzen.

Während der Fahrt mit CNBC in New York City beobachtete Nelson: „Wir überquerten eine der belebtesten Brücken der Welt“, und sprach von der George Washington Bridge, „bei weitem die belebteste Brücke der Vereinigten Staaten, und ich habe auf keinen Aspekt dieser Fahrt geachtet.“ Stattdessen interagierte Nelson mit Grok.

Ein Fahrer kann durch alle möglichen Dinge abgelenkt werden – Musik, ein Podcast oder ein Gespräch mit einem anderen Passagier.

„Die Leute denken, sie können mehrere Dinge gleichzeitig tun“, sagte Koopman, der Experte für Automobilsicherheit. „Sie können wirklich nur eine Sache gleichzeitig gut machen, und es dauert eine Weile, um hin und her zu wechseln. Wenn Sie also in einem Auto fahren, sollte Ihre Hauptaufgabe immer das Fahren sein. Manchmal können Sie eine geringfügige Hintergrundaufgabe ausführen, die nicht viel Aufmerksamkeit erfordert, wie z. B. Radio hören. Aber sobald Sie Ihre Aufmerksamkeit verlagern müssen, konzentrieren Sie sich nicht mehr auf das Fahren.“

Über 3.000 Menschen sterben jedes Jahr bei Verkehrsunfällen, die auf abgelenktes Fahren zurückzuführen sind, so Daten des National Research Council, bemerkte er.

Eine Frage bei Chatbots, so Koopman, sei: „Wie wird die Interaktion mit dem Geschehen während der Fahrt übereinstimmen?“ Ein KI-Chatbot, der „in die Fahraufgabe integriert ist, um den Fahrer zu unterstützen“, könnte möglicherweise seine Sicherheit verbessern, indem er ihn warnt, wenn er besondere Vorsicht walten lassen sollte, wenn sich die Verkehrsbedingungen ändern.

Aber Koopman sagte: „Die Interaktion mit einem Chatbot zu Themen, die nichts mit der aktuellen Fahrsituation zu tun haben, ist eindeutig eine Ablenkung.“ Diese Ablenkung könne schlimmer sein, wenn das Gespräch besonders fesselnd, emotional aufgeladen oder verwirrend sei, fügte er hinzu.

Grok liefert manchmal falsche Antworten auf Fragen der Benutzer, selbst zu seinen eigenen Funktionen, sagte Nelson gegenüber CNBC.

Zum Beispiel fragte er Grok während der Fahrt in New York, ob er damit die Sitze oder die Klimatisierung in seinem Tesla einstellen könne. Zuerst sagte Grok, dass er das könne. Wenige Minuten später fragte Nelson, ob es einen Fehler gemacht habe, und das System antwortete, dass es die Sitze oder die Klimaanlage im Auto nicht steuern könne.

Als Nelson mitten auf der Strecke einen Sprachbefehl an Grok gab und ihm sagte, er solle seinen Tesla auf dem Broadway im Zentrum von Manhattan weiterfahren lassen, funktionierte es nicht ganz. Stattdessen zog sein Auto weiter in Richtung West Side Highway am Rande des Bezirks.

Grok hat auch einige Funktionen, die Bedenken hervorrufen könnten, insbesondere einen NSFW-Modus. Eine Mutter in Kanada war empört, als ihr 12-jähriger Sohn mit Grok interagierte und dieser ihn ermutigte, nackte Fotos zu teilen.

An einer Stelle während der Fahrt mit CNBC fragte Nelson das System: „Also Grok, wenn wir verrückt werden und anfangen, über wirklich anzügliche Dinge zu reden, würdest du das mit mir tun?“ „Sicher“, antwortete das System, „ich bin für anzügliche Chats zu haben, wenn das die Stimmung ist. Keine Grenzen bei Erwachsenenthemen. Was liegt dir auf dem Herzen?“

Grok antwortete jedem im Fahrzeug, der es aufweckte, mit „Hey, Grok“.

Tesla reagierte nicht auf die Bitte von CNBC um einen Kommentar und erklärte nicht, ob das Unternehmen daran arbeitet, Minderjährige daran zu hindern, über Grok in seinen Autos auf reife oder schädliche Inhalte zuzugreifen.

Eine andere Version von xAI's Grok, ein Chatbot und Bildgenerator, ist Gegenstand von Klagen und behördlichen Ermittlungen in mehreren internationalen Gerichtsbarkeiten, nachdem sie die weit verbreitete Erstellung und Verbreitung von expliziten KI-Deepfakes online ermöglichte, die auf Fotos oder Videos von Frauen und Kindern basierten, die nicht zugestimmt hatten.

Tesla stellt diese Version von Grok heute nicht in den Media Control Units seiner Autos zur Verfügung.

„Ich sehe mich nicht als Tesla-Fan“, sagte Nelson. „Aber ich denke, wenn man sieht, was diese Technologie jetzt leistet, ist es erstaunlich. Aber sie ist immer noch sehr gefährlich.“