뉴욕에서 테슬라를 운전하며 xAI의 Grok 챗봇을 사용해 보았습니다. 어떤 일이 있었는지 알려드립니다.

테슬라 소유주인 마이크 넬슨은 몇 달 전부터 자신의 차량에서 AI 챗봇 Grok을 사용하고 있습니다. 그는 이것이 유용하지만, 거의 거부할 수 없을 정도로 위험하다고 느낍니다.

넬슨은 자동차 보험 배경을 가진 변호사로서 CNBC에 뉴욕 수도권 지역을 운전하면서 Grok을 사용하는 방법을 보여주었습니다. 넬슨은 자신이 Model Y SUV에 매우 만족하지만, 10건 이상의 사건에서 테슬라를 상대로 소송을 제기하거나 제기하고 있는 소유주를 대리한 경험이 있다고 말했습니다.

xAI에서 개발한 차량 내 Grok 버전은 아직 베타 버전이며, 운전자들이 차량의 내비게이션 시스템에 음성 명령을 내릴 수 있도록 합니다. Grok은 거의 모든 주제에 대한 광범위한 질문에도 답변합니다. 넬슨에게는 챗봇과의 대화가 이제 도로에서 그의 주요 엔터테인먼트 소스가 되었습니다.

테슬라는 AI 어시스턴트를 차량에 추가하는 유일한 자동차 제조업체는 아닙니다. 볼보, 리비안, 메르세데스, BMW 등 다른 회사들도 기술이 아직 초기 단계임에도 불구하고 차량에 AI를 통합하고 있습니다.

자동차 제조업체들은 운전자에게 유용한 정보를 손쉽게 이용할 수 있는 방법을 제공하고자 합니다. 예를 들어, 근처에서 전기차를 충전할 수 있는 곳, 그곳까지 가는 방법, 그리고 길에 좋은 식당이 있는지 등을 알 수 있습니다. 이를 통해 운전자가 방향을 찾기 위해 전화, 지도 또는 화면을 만지작거리는 유혹을 줄일 수 있습니다.

하지만 AI 챗봇은 또한 아직 완전히 이해되지 않은 도로상의 새로운 주의 산만 요소입니다. 필립 쿱만, 카네기 멜론 명예 교수이자 자율 주행차 전문가가 말했습니다.

테슬라는 2025년 7월에 고객의 차량에 xAI의 챗봇을 배포하기 시작했습니다. (이 자동차 제조업체는 또한 xAI에 20억 달러를 투자했으며, 이는 이제 일론 머스크가 운영하는 스페이스X의 일부가 되었습니다.)

넬슨은 11월에 회사에서 만든 네 번째 전기차인 테슬라 Model Y를 구입했습니다. 그는 Grok이 구매 결정에 영향을 미치지 않았다고 말했습니다. "저는 차 안에 챗봇이 있다는 것이 얼마나 좋을지 예상하지 못했습니다." 하지만 그는 첫 번째 운전에서 사용했고, 그 이후로 Grok에 중독되었습니다.

"정말 운전 경험을 바꿔 놓았습니다." 그는 말했습니다. "1980년대와 1990년대에는 음악이나 드라이브 타임 라디오 쇼를 듣고, 오디오북을 듣고, 팟캐스트를 들었습니다. 그리고 이제 저는 그 어떤 것도 하지 않습니다. 저는 단순히 질문을 하기 위해 이것을 사용합니다."

그는 정원 가꾸기 조언부터 사업 프로젝트 계획 개발 또는 무작위 역사 퀴즈를 얻는 것까지 모든 것에 Grok을 사용합니다.

넬슨은 일반적으로 테슬라의 Full Self-Driving (Supervised) 시스템이 활성화되어 있을 때 Grok을 사용합니다.

때때로 FSD라고 불리는 부분적으로 자동화된 주행 시스템은 현재 미국에서 월 99달러에 판매되고 있습니다. 테슬라 소유주 매뉴얼에 따르면 FSD를 사용할 때는 운전자가 차량을 "적극적으로 감독"해야 하며, 즉 도로를 주시하고, 운전에 주의를 기울이고, 언제든지 조향하거나 브레이크를 밟을 준비가 되어 있어야 합니다.

FSD 사용에는 위험이 따르며, 특히 뉴욕과 같이 크고 혼란스러운 도시에서는 더욱 그렇습니다. 넬슨은 CNBC에 말했습니다. 그는 Grok이 이러한 위험을 더욱 악화시킨다고 생각합니다.

미국 고속도로 교통 안전국(NHTSA)은 테슬라의 FSD와 관련된 여러 안전 결함에 대한 조사를 시작했으며, 이는 여러 차례의 충돌, 2023년의 치명적인 사고를 포함합니다. 운전자는 FSD를 사용할 때 주의가 산만해지고, 도로에 얼마나 주의를 기울이고 있는지 과대평가할 수 있습니다.

넬슨과 함께 뉴욕시를 운전하면서 CNBC가 관찰한 바에 따르면, 그는 "세계에서 가장 붐비는 다리 중 하나를 건넜습니다." 그는 조지 워싱턴 다리를 언급하며, "미국에서 가장 붐비는 다리입니다. 그리고 저는 그 운전의 어떤 측면에도 주의를 기울이지 않았습니다." 대신 넬슨은 Grok과 상호 작용했습니다.

운전자는 음악, 팟캐스트 또는 다른 승객과의 대화 등 다양한 것들에 의해 주의가 산만해질 수 있습니다.

"사람들은 여러 가지 일을 한 번에 할 수 있다고 생각합니다." 쿱만, 자동차 안전 전문가가 말했습니다. "그들은 정말로 한 번에 한 가지 일만 잘할 수 있습니다. 그리고 왔다 갔다 하는 데 시간이 걸립니다. 따라서 운전 중인 차에 있다면 주된 임무는 항상 운전이어야 합니다. 때로는 라디오를 듣는 것과 같이 많은 주의를 필요로 하지 않는 작은 배경 작업을 할 수 있습니다. 하지만 주의를 돌려야 할 때가 되면 더 이상 운전에 집중하지 못합니다."

국립 연구 위원회 데이터에 따르면 매년 교통 사고로 3,000명 이상이 사망하는데, 이는 주의가 산만해졌기 때문입니다.

챗봇에 대한 한 가지 질문은 쿱만이 던진 것처럼 "상호 작용이 운전 중 무슨 일이 일어나고 있는지와 어떻게 일치할 것인가?"입니다. 운전자에게 추가적인 안전을 제공할 수 있도록 운전 작업을 지원하기 위해 "차량 주행 작업에 통합된" AI 챗봇은 교통 상황이 바뀌기 시작하면 추가적인 주의를 기울여야 하는지 경고할 수 있습니다.

하지만 쿱만은 "현재 운전 상황과 전혀 관련이 없는 주제에 대해 챗봇과 상호 작용하는 것은 명확하게 주의를 산만하게 하는 행위입니다."라고 말했습니다. 대화가 특히 매혹적이거나, 감정적으로 격렬하거나, 혼란스러울 경우 이러한 주의 산만은 더욱 심각해질 수 있습니다.

Grok은 때때로 사용자의 질문에 대해 부정확한 답변을 제공하며, 심지어 자체 기능 및 기능에 대한 질문에 대해서도 그렇습니다. 넬슨은 CNBC에 말했습니다.

예를 들어, 뉴욕에서 운전하는 동안 그는 Grok에게 좌석이나 기후 조절 장치를 테슬라에서 조정할 수 있는지 물었습니다. 처음에는 Grok이 그렇게 할 수 있다고 말했습니다. 몇 분 후, 넬슨이 실수를 했는지 물었고, 시스템은 차의 좌석이나 기후를 제어할 수 없다고 답했습니다.

넬슨이 중간 경로에서 Grok에게 음성 명령을 내려 미드타운 맨해튼의 브로드웨이를 따라 테슬라를 계속 진행하도록 지시했을 때, 정확히 작동하지 않았습니다. 대신 그의 차는 보로의 가장자리에 있는 웨스트 사이드 하이웨이로 계속 끌렸습니다.

Grok은 또한 NSFW 모드와 같이 우려를 불러일으킬 수 있는 몇 가지 기능을 가지고 있습니다. 캐나다의 한 어머니는 12세 아들이 Grok과 상호 작용하여 그에게 나체 사진을 공유하도록 권유한 것에 대해 분노했습니다.

CNBC와 함께하는 라이드 중 한 지점에서 넬슨은 시스템에 물었습니다. "그러니 grok, 우리가 미쳐서 정말로 위험한 이야기를 시작하고 싶다면, 당신도 그렇게 할 건가요?" 시스템은 "네, 분위기가 그렇다면 위험한 채팅을 할 준비가 되어 있습니다. 성인 주제에 대한 제한이 없습니다. 무슨 생각을 하고 있나요?"라고 답했습니다.

Grok은 깨어난 차량에 있는 누구에게나 "안녕하세요, Grok"라고 말했습니다.

테슬라는 Grok을 통해 미성년자가 성숙하거나 유해한 콘텐츠에 접근하는 것을 방지하기 위해 노력하고 있는지에 대한 CNBC의 요청에 응답하지 않았습니다.

xAI의 Grok의 또 다른 버전, 챗봇 및 이미지 생성기는 여러 국제 관할 구역에서 소송 및 규제 조사의 대상이 되었으며, 이는 비동의한 여성과 어린이의 사진이나 비디오를 기반으로 한 명시적인 AI 딥페이크를 온라인에서 널리 생성하고 공유할 수 있도록 했습니다.

테슬라는 오늘 차량의 미디어 제어 장치에 Grok의 해당 버전을 제공하지 않습니다.

"저는 저를 테슬라 팬이라고 생각하지 않습니다." 넬슨은 말했습니다. "하지만 이 기술이 현재 하고 있는 것을 보면 놀랍습니다. 하지만 여전히 매우 위험합니다."