xAI's Grok sohbet robotunu NYC'de Tesla kullanırken denedik. İşte neler oldu.

Tesla sahibi Mike Nelson, birkaç aydır aracında xAI yapay zeka sohbet robotu Grok kullanıyor. Bunun faydalı, neredeyse vazgeçilmez ve tehlikeli olduğunu düşünüyor.

Avukat ve oto sigortası konusunda uzman olan Nelson, CNBC'ye New York metropol alanı etrafındaki bir sürüşte Grok'u nasıl kullandığını gösterdi. Nelson, Model Y SUV'sinden çok memnun olmasına rağmen, Tesla'ya karşı dava açan veya dava açmakta olan sahipleri için 10'dan fazla davada temsil ettiğini söyledi.

xAI tarafından geliştirilen ve hala beta aşamasında olan araç içi Grok sürümü, sürücülerin araçlarındaki navigasyon sistemine sesli komutlar vermesini sağlar. Grok ayrıca hemen hemen her konuda çok çeşitli soruları yanıtlayacaktır. Nelson için sohbet robotuyla yapılan konuşmalar artık yoldaki ana eğlence kaynağıdır.

Tesla, araçlarına yapay zeka asistanları ekleyen tek otomobil üreticisi değil. Volvo, Rivian, Mercedes, BMW ve diğerleri de teknoloji henüz emekleme aşamasında olmasına rağmen araçlarına yapay zeka entegre ediyor.

Otomobil üreticileri, sürücülerin yakınlardaki elektrikli araçlarını şarj edebilecekleri yerler, oraya nasıl gidebilecekleri ve yol boyunca iyi bir yemek yeme yeri olup olmadığı gibi, kullanışlı bilgilere dokunmadan erişmelerini sağlamak istiyor. Bu, sürücünün yol tarifi için telefon, harita veya ekrana oynamasını azaltabilir.

Ancak yapay zeka sohbet robotları aynı zamanda yoldaki yeni bir dikkat dağıtıcı unsur olarak da yer alıyor ve henüz tam olarak anlaşılmayan bir unsur olarak ortaya çıkıyor, diyor Carnegie Mellon emekli profesörü ve otonom araçlar konusunda uzman olan Philip Koopman.

Tesla, xAI'nin sohbet robotunu Temmuz 2025'te müşterilerinin arabalarına sunmaya başladı. (Otomobil üreticisi aynı zamanda şimdi Elon Musk tarafından yönetilen SpaceX'in bir parçası olan xAI'ye 2 milyar dolar yatırım yaptı.)

Nelson, şirketten dördüncü elektrikli arabisi olan Tesla Model Y'sini Kasım ayında aldı. Grok'un onun için "satın alma noktası" olmadığını, "Ancak bunun arabanızda bir sohbet robotuna sahip olmanın ne kadar harika olacağını takdir etmedim. Ama ilk sürüşte kullandı ve o zamandan beri Grok'a bağımlı oldu" dedi.

"Gerçekten sürüş deneyimimi değiştirdi" dedi. "80'lerde ve 90'larda müzik veya yayınlanan radyo programları dinliyordum, ardından sesli kitaplara, ardından podcast'lere geçtim. Ve şimdi bunların hiçbirini yapmıyorum. Sadece sorular sormak için bunu kullanıyorum."

Bahçe tavsiyelerinden iş projeleri geliştirmeye veya rastgele tarih trivia'sı elde etmeye kadar her şey için Grok'u kullanıyor.

Nelson genellikle Tesla'nın Full Self-Driving (Supervised) sistemini çalışır durumda olduğunda Grok kullanıyor.

Bazen FSD olarak adlandırılan kısmen otomatik sürüş sistemi, bugün ABD'de aylık 99 dolar karşılığında satılıyor. Tesla sahiplerinin kullanım kılavuzları, FSD kullanıldığında sürücülerin araçlarına "aktif gözetim" sağlamaları gerektiğini, yani yolun üzerinde gözlerini açık tutmaları, sürüşe dikkat etmeleri ve gerektiğinde herhangi bir zamanda direksiyonu çevirmeye veya fren yapmaya hazır olmaları gerektiğini belirtiyor.

FSD kullanmak, özellikle New York gibi büyük ve kaotik bir şehirde riskler taşır, Nelson CNBC'ye söyledi ve Grok bu riskleri artırdığına inanıyor.

Ulusal Karayolu Trafik Güvenliği İdaresi, birkaç çarpışma, 2023'te ölümcül bir kaza da dahil olmak üzere Tesla'nın FSD'siyle ilgili olası güvenlik kusurları hakkında birden fazla soruşturma başlattı. Sürücüler, FSD kullanırken yola dikkat ettiklerini abartarak kendilerini rahatlatabilirler.

CNBC'nin Nelson ile New York Şehri'ndeki gezisi sırasında, dünyanın en yoğun köprülerinden birinden geçtiğini gözlemledi, Washington George Köprüsü'nden bahsetti, "Amerika Birleşik Devletleri'ndeki tartışmasız en yoğun köprü ve ben o sürüşün hiçbir yönüne dikkat etmedim." Bunun yerine Nelson Grok ile etkileşim kuruyordu.

Bir sürücü, müzik, bir podcast veya başka bir yolcuyla konuşma gibi her türlü şeyle dikkat dağıtabilir.

"İnsanların aynı anda birden fazla şey yapabileceklerini düşündüklerini" dedi, otomotiv güvenlik uzmanı Koopman. "Gerçekte, aynı anda sadece bir şeyi iyi yapabilirler ve geri dönmek biraz zaman alır. Bu nedenle araba kullanıyorsanız, birincil göreviniz her zaman sürüş olmalıdır. Bazen radyo dinlemek gibi çok fazla dikkat gerektirmeyen küçük bir arka plan görevi yapabilirsiniz. Ancak dikkatinizi başka bir şeye yönlendirdiğiniz anda artık sürüşe odaklanmıyorsunuz."

Ulusal Araştırma Konseyi'nin verilerine göre, her yıl dikkatsiz sürüşe atfedilen trafik kazalarında 3.000'den fazla insan hayatını kaybediyor, diye belirtti.

Koopman, sohbet robotları ile ilgili olarak, "Etkileşim, sürüş sırasında neler olup bittiğiyle nasıl uyumlu olacak?" diye sordu. Sürücüyü desteklemek için sürüş görevine entegre edilmiş bir yapay zeka sohbet robotu, trafik koşulları değişmeye başladığında onlara ek önlem almalarını uyarak güvenliklerini iyileştirebilir.

Ancak Koopman, "Sohbet robotuyla mevcut sürüş durumuyla hiçbir ilgisi olmayan konularda etkileşim kurmak açıkça bir dikkat dağıtıcıdır" dedi. Bu dikkat dağıtıcı, konuşma özellikle ilgi çekici, duygusal olarak yüklü veya kafa karıştırıcıysa daha da kötü olabilir, diye ekledi.

Grok bazen kullanıcıların sorularına, hatta kendi özelliklerine ve işlevselliğine ilişkin sorulara yanlış cevaplar verir, diye Nelson CNBC'ye söyledi.

Örneğin, New York sürüşü sırasında, Tesla'sındaki koltukları veya iklim kontrollerini ayarlamak için Grok'u kullanıp kullanamayacağını sordu. Başlangıçta Grok, kullanabileceğini söyledi. Birkaç dakika sonra Nelson, hata yapıp yapmadığını sordu ve sistem, arabadaki koltukları veya iklimi kontrol edemeyeceğini yanıtladı.

Nelson, orta rotada Grok'a sesli bir komut verdiğinde, Tesla'sının Manhattan'ın ortasındaki Broadway aşağısından gitmesini söyleyerek, aracı kasabanın kenarındaki West Side Highway'e doğru çekmeye başladı.

Grok'un ayrıca, bir anne tarafından 12 yaşındaki oğlunun Grok ile etkileşime girmesi ve ondan çıplak fotoğraf paylaşmasını teşvik etmesi üzerine Kanada'da tepkiyle karşılanan NSFW modu gibi bazı endişe verici işlevleri de var.

CNBC ile olan sürüş sırasında bir noktada Nelson sistemden şunları sordu: "Yani Grok, eğer çılgınlaşıp gerçekten müstehcen şeyler konuşmaya başlarsak, sen de bunu benimle yapar mısın? "Elbette" diye yanıtladı sistem, "Eğer o vibe ise seninle müstehcen sohbet için hazırım. Yetişkin konularla ilgili sınırlama yok. Aklında ne var?"

Grok, uyanan herkesle "hey, Grok" diyerek konuşmaya devam edecekti.

Tesla, yorum talebine yanıt vermedi veya şirketin Grok aracılığıyla araçlarındaki küçüklerin olgun veya zararlı içeriklere erişmesini önlemeye çalıştığını açıklamadı.

xAI'nin Grok'un başka bir sürümü, bir sohbet robotu ve görüntü oluşturucusu, uluslararası yetki alanındaki çok sayıda yargı bölgesinde, fotoğraflara veya çocukların rızası olmayan kadınların videolarına dayalı açık AI deepfake'lerin yaygın oluşturulmasını ve paylaşılmasını sağladıktan sonra davalara ve düzenleyici incelemelere konu oldu.

Tesla, bugün arabalarındaki medya kontrol ünitelerinde Grok'un bu sürümünü sunmuyor.

"Kendimi bir Tesla hayranı olarak düşünmüyorum" dedi Nelson. "Ancak bu teknolojinin şimdi neler yaptığını görmek, harika. Ama hala çok tehlikeli."