Kami mencoba chatbot Grok xAI saat mengendarai Tesla di NYC. Inilah yang terjadi.

Pemilik Tesla Mike Nelson telah menggunakan chatbot AI Grok di kendaraannya selama beberapa bulan sekarang. Dia merasa itu berguna, hampir tak tertahankan, dan berbahaya.

Nelson, seorang pengacara dengan latar belakang asuransi otomotif, menunjukkan kepada CNBC bagaimana dia menggunakan Grok saat berkendara di sekitar wilayah metropolitan New York. Nelson mengatakan bahwa meskipun dia sangat senang dengan SUV Model Y-nya, dia telah mewakili pemilik yang menggugat atau sedang menggugat Tesla dalam lebih dari 10 kasus.

Versi Grok di dalam kendaraan, yang masih dalam tahap beta dan dikembangkan oleh xAI, memungkinkan pengemudi untuk memberikan perintah suara ke sistem navigasi di mobil mereka. Grok juga akan menjawab berbagai macam pertanyaan tentang hampir semua topik. Bagi Nelson, percakapan dengan chatbot kini menjadi sumber hiburan utamanya di jalan.

Tesla bukan satu-satunya produsen mobil yang menambahkan asisten AI ke kendaraannya. Volvo, Rivian, Mercedes, BMW, dan lainnya semuanya mengintegrasikan AI ke dalam mobil mereka meskipun teknologinya masih dalam tahap awal.

Produsen mobil ingin memberikan pengemudi cara bebas genggam untuk mengakses informasi yang berguna, misalnya, tentang di mana mengisi daya kendaraan listrik mereka di dekatnya, cara menuju ke sana, dan apakah ada tempat makan yang baik di sepanjang jalan. Hal itu dapat mengurangi godaan pengemudi untuk mengutak-atik ponsel, peta, atau layar untuk petunjuk arah.

Tetapi chatbot AI juga merupakan sumber gangguan baru di jalan, yang belum dipahami dengan baik, kata Philip Koopman, seorang profesor emeritus Carnegie Mellon dan ahli dalam kendaraan otonom.

Tesla mulai meluncurkan chatbot xAI ke mobil pelanggan pada Juli 2025. (Produsen mobil itu juga telah menginvestasikan $2 miliar ke xAI, yang sekarang menjadi bagian dari SpaceX yang juga dijalankan oleh Elon Musk.)

Nelson mendapatkan Tesla Model Y-nya – mobil listrik keempatnya dari perusahaan – pada bulan November. Grok bukanlah "poin pembelian" baginya, katanya. "Saya juga tidak menghargai betapa hebatnya memiliki chatbot di dalam mobil bersama Anda." Tetapi dia menggunakannya pada perjalanan pertama, dan sejak itu ketagihan dengan Grok.

"Ini benar-benar mengubah pengalaman berkendara bagi saya," katanya. "Pada tahun 80-an dan 90-an, saya mendengarkan musik atau acara bincang-bincang radio saat mengemudi, lalu ke buku kaset, lalu ke podcast. Dan sekarang saya tidak melakukan semua itu. Saya hanya menggunakan ini untuk bertanya."

Dia menggunakan Grok untuk segala hal mulai dari saran berkebun hingga mengembangkan rencana untuk proyek bisnis, atau mendapatkan trivia sejarah acak.

Nelson umumnya menggunakan Grok saat sistem Full Self-Driving (Supervised) Tesla diaktifkan.

Kadang-kadang disebut FSD, sistem mengemudi yang sebagian otomatis dijual seharga $99 per bulan di AS saat ini. Manual pemilik Tesla menyatakan pengemudi harus memberikan "pengawasan aktif" pada mobil mereka saat FSD digunakan, yang berarti mereka harus tetap memperhatikan jalan, tetap waspada saat mengemudi, dan siap untuk mengemudi atau mengerem kapan saja.

Menggunakan FSD datang dengan risiko, terutama di kota besar yang kacau seperti New York, Nelson memberi tahu CNBC, dan dia merasa Grok meningkatkan risiko tersebut.

National Highway Traffic Safety Administration telah memulai beberapa penyelidikan terhadap kemungkinan cacat keselamatan dengan FSD Tesla, setelah beberapa tabrakan, termasuk kecelakaan fatal pada tahun 2023. Pengemudi dapat menjadi acuh tak acuh, dan melebih-lebihkan seberapa besar perhatian mereka terhadap jalan saat menggunakan FSD.

Selama perjalanan CNBC bersama Nelson di New York City, dia mengamati, "Kami melintasi salah satu jembatan tersibuk di dunia," berbicara tentang Jembatan George Washington, "jauh jembatan tersibuk di Amerika Serikat, dan saya tidak memperhatikan aspek apa pun dari perjalanan itu." Sebaliknya, Nelson berinteraksi dengan Grok.

Seorang pengemudi dapat terganggu oleh segala macam hal – musik, podcast, atau percakapan dengan penumpang lain.

"Orang berpikir mereka dapat melakukan banyak hal sekaligus," kata Koopman, ahli keselamatan otomotif. "Mereka benar-benar hanya dapat melakukan satu hal dengan baik pada satu waktu, dan perlu waktu untuk beralih bolak-balik. Jadi jika Anda berada di dalam mobil, mengemudi, tugas utama Anda seharusnya selalu mengemudi. Terkadang Anda dapat melakukan tugas latar belakang kecil yang tidak memerlukan banyak perhatian, seperti mendengarkan radio. Tetapi segera setelah Anda harus mengalihkan perhatian Anda, Anda tidak lagi fokus pada mengemudi."

Lebih dari 3.000 orang meninggal setiap tahun dalam kecelakaan lalu lintas yang disebabkan oleh mengemudi yang terganggu, menurut data dari National Research Council, catatnya.

Satu pertanyaan dengan chatbot, Koopman bertanya, adalah "bagaimana interaksi akan selaras dengan apa yang terjadi saat mengemudi?" Chatbot AI yang "terintegrasi ke dalam tugas mengemudi untuk mendukung pengemudi," dapat meningkatkan keselamatan mereka, mungkin, dengan memperingatkan mereka jika mereka harus berhati-hati ekstra saat kondisi lalu lintas mulai berubah.

Tetapi Koopman berkata, "Berinteraksi dengan chatbot tentang topik yang tidak ada hubungannya dengan situasi mengemudi saat ini jelas merupakan gangguan." Gangguan itu mungkin lebih buruk jika percakapan sangat menarik, sarat emosi, atau membingungkan, tambahnya.

Grok terkadang memberikan jawaban yang salah sebagai tanggapan atas pertanyaan pengguna, bahkan tentang fitur dan fungsinya sendiri, Nelson memberi tahu CNBC.

Misalnya, selama perjalanan di New York, dia bertanya kepada Grok apakah dia bisa menggunakannya untuk menyesuaikan kursi atau kontrol iklim di Teslanya. Awalnya, Grok mengatakan dia bisa. Beberapa menit kemudian, Nelson bertanya apakah itu membuat kesalahan, dan sistem menjawab bahwa itu tidak dapat mengontrol kursi atau iklim di mobil.

Ketika Nelson memberikan perintah suara ke Grok di tengah rute, menyuruhnya untuk menjaga Teslanya tetap di Broadway di pusat kota Manhattan, itu tidak berjalan dengan baik. Sebaliknya, mobilnya terus bergerak menuju West Side Highway di tepi borough.

Grok juga memiliki beberapa fungsionalitas yang mungkin menimbulkan kekhawatiran, yaitu mode NSFW. Seorang ibu di Kanada sangat marah ketika putranya yang berusia 12 tahun berinteraksi dengan Grok, dan itu mendorongnya untuk berbagi foto telanjang.

Pada satu titik selama perjalanan dengan CNBC, Nelson bertanya kepada sistem: "Jadi Grok, jika kita ingin menjadi gila dan mulai berbicara tentang hal-hal yang sangat berani, apakah kamu akan melakukannya denganku?" "Tentu," jawab sistem, "Saya siap untuk obrolan berani jika itu suasananya. Tidak ada batasan pada topik dewasa. Apa yang ada di pikiranmu?"

Grok akan merespons siapa pun di dalam kendaraan yang membangunkannya dengan mengatakan "hei, Grok."

Tesla tidak menanggapi permintaan CNBC untuk komentar atau menjelaskan apakah perusahaan sedang berupaya mencegah anak di bawah umur mengakses konten dewasa atau berbahaya melalui Grok di mobilnya.

Versi lain dari Grok xAI, chatbot dan generator gambar, adalah subjek gugatan dan penyelidikan peraturan di berbagai yurisdiksi internasional setelah memungkinkan pembuatan dan berbagi luas deepfake AI eksplisit secara online yang didasarkan pada foto atau video wanita dan anak-anak yang tidak memberikan persetujuan.

Tesla tidak menyediakan versi Grok itu di unit kontrol media mobilnya saat ini.

"Saya tidak menganggap diri saya sebagai penggemar Tesla," kata Nelson. "Tetapi saya pikir melihat apa yang dilakukan teknologi ini sekarang, itu luar biasa. Tetapi itu masih sangat berbahaya."