ChatGPT에 세금 도움을 요청했습니다—전문가들은 제가 고전적인 함정에 빠졌다고 말합니다

성인 생활 대부분 동안 저는 비교적 간단한 세금 상황을 누려왔습니다. 대부분의 해에는 W-2 소득이 정확한지 확인하고 선호하는 세금 소프트웨어의 질문을 끝까지 클릭하는 것으로 충분했습니다. 부양가족도 없고, 부업 소득도 없으며, 제 이름으로 된 부동산도 없었습니다.
이번 년은 조금 달랐습니다. 회사의 직원 주식 매입 계획을 통해 수년간 주식을 매입한 후, 다가오는 결혼식 자금을 마련하기 위해 대부분의 주식을 매도했습니다.
이러한 주식을 매도하는 것과 관련된 비교적 까다로운 규칙들이 있지만, 요점은 이러한 계획을 통해 직원들이 실제 주가보다 할인된 가격으로 주식을 매입할 수 있다는 것입니다. 따라서 주식 매도로 얼마의 수익(자본 이득세를 내야 하는 경우) 또는 손실을 냈는지 결정하려면 약간의 계산이 필요합니다.
그래서 저는 IPX 1031의 최근 설문조사에 따르면 약 5명 중 1명의 납세자가 하고 있는 것과 동일한 일을 했습니다: AI에 도움을 요청했습니다.
저는 회의적으로 그렇게 했습니다. AI "환각"에 대한 충분한 이야기들을 보았기 때문에 챗봇이 제 세금을 엉망으로 만들 것이라고 반쯤 예상했습니다. 게다가 3년 전에 세금 전략에 AI를 테스트하여 실패하는 것을 지켜본 지 얼마 되지 않았습니다. 또한 OpenAI의 사용 정책은 인간 검토 없이 민감한 분야에서 고위험 결정을 자동화하는 데 제품을 사용하지 말 것을 경고한다는 점도 언급할 가치가 있습니다.
그럼에도 불구하고 OpenAI의 최신 대형 언어 모델과 대화를 시작했을 때, 저의 주저가 녹아내리는 것을 느낄 수 있었습니다. 그것은 제 첫 번째 질문에 대한 답변뿐만 아니라 ESPP 매도가 어떻게 과세되는지에 대한 답변뿐만 아니라 소화하기 쉬운 요점 항목으로 나누어 설명하고 더 많은 정보를 공유하는 것이 편한지 물어보기도 했습니다.
제가 데이터가 OpenAI의 모델을 훈련시키는 데 사용되지 않는 소프트웨어의 기업용 버전을 사용하고 있었기 때문에 중개업체의 통합 1099 양식을 업로드했습니다.
"이것은 훌륭합니다—[귀하의 중개업체]가 우리에게 필요한 모든 것을 실제로 제공했습니다," 봇이 저에게 말했습니다. "여기에서 무슨 일이 일어나고 있는지 알려드리겠습니다."
ChatGPT가 저에게 말한 것은 본질적으로 다음과 같습니다: 귀하의 중개업체는 하나의 숫자를 사용하고 있으며, 이 숫자가 귀하의 세금 소프트웨어에 업로드되고 있습니다. 하지만 실제로는 다른 숫자를 사용해야 합니다. 저는 제 최근 W-2 몇 개를 확인하여 특정 항목이 포함되어 있는지 확인해야 했습니다.
저는 "제출"을 누를 준비가 되어 있었습니다. 하지만 먼저 이전에 세금 관련 기사를 도와준 공인 회계사인 Miklos Ringbauer에게 제 대화를 검토해 보았습니다.
그는 제가 아마도 올바르지만 불완전한 정보를 얻었다고 말했습니다. ChatGPT가 그다지 큰 문제가 아니라고 확신시켜준 W-2 확인은 실제로 매우 중요하다고 그는 말했습니다—저 또는 세금 전문가가 숫자를 검토하고 중개업체의 숫자와 비교하여 모든 것이 합산되는지 확인해야 했습니다.
게다가 제 1099의 몇몇 숫자는 제가 하지 않았을 수도 있는 특정 과세 조치를 했다는 것을 나타내는 것 같았습니다, Ringbauer가 말했습니다. ChatGPT는 그것에 대해 아무 말도 하지 않았습니다—아마도 제가 물어보는 것을 생각하지 못했기 때문일 것입니다.
"문제는 납세자가 검토하는 문서를 이해하여 해결해야 하는 항목을 이해하고 수정할 수 있는 필수적인 이해력이 있는가 하는 것입니다?" Ringbauer가 말합니다. "제 이해에 따르면 우리 고객 중 다수는 그렇지 않습니다."
세금을 신고할 때 피해야 할 AI 함정
전체적인 맥락에서 볼 때, 제가 겪은 오류는 작은 것이었습니다. ChatGPT는 제가 할 일이 약간 더 있었음에도 불구하고 "거의 확실히" 옳다고 말했습니다. 중요한 것은 제가 받은 조언이 그렇게 그럴듯하고 너무 쉽게 전달되어 제출할 준비가 되어 있었고 실수를 할 위험이 있었다는 것입니다.
세금 규정에 정통하지 않은 사람들에게는 그것이 큰 문제가 될 수 있다고 퍼듀 대학교 회계학 임상 조교수 J.T. Eagan은 말합니다.
"AI는 하늘이 초록색이라고 설득할 것입니다. 그것은 너무 설득력이 있습니다," 그는 Eagan이 학생들에게 주는 세금 문제 중 하나를 잘못 답한 챗봇의 시간을 인용하며 말합니다. "그것은 저에게 역학이 완벽하다는 응답을 주었지만 저는 한 걸음 물러서서 '글쎄, 당신은 틀렸어'라고 말해야 했습니다."
AI 챗봇들이 당신을 속이려고 하는 것은 아닙니다. 사실, 최근 몇 년 동안 많은 선도적인 모델들이 특정 프롬프트에 대한 완전한 답변이 없다거나 회색 지대에 들어서고 있다고 사용자에게 알리는 데 더 능숙해졌습니다, AI 전략 회사 Everyday AI의 설립자 Jordan Wilson이 말합니다.
실제로 제 대화 상단에서 ChatGPT는 "어떤 것이 매우 구체적이거나 고위험이 되면, CPA의 입력이 필요할 수 있는 곳을 표시할 것입니다"라고 저에게 말했습니다.
"하지만 기본적으로 대형 언어 모델은 유용한 조수로 훈련됩니다," Wilson이 말합니다. 그것은 그들이 종종 매우 자신감 있게 들릴 것이고 "종종 환각에 부딪힐 것"이라는 것을 의미합니다.
그리고 그것들은 놀라울 정도로 자신감 있게 전달될 수 있습니다. "이것은 하나의 주식 계획 주름이 있는 매우 간단한 신고입니다," ChatGPT가 저에게 말했습니다. "CPA가 필요하지 않습니다."
그것을 염두에 두고 전문가들은 세금 도움을 받기 위해 AI를 사용하기 전에 매우 조심스럽게 행동하는 것이 현명할 것이라고 말합니다.
"AI를 사용하여 세금을 신고할 때 실수를 하면 IRS와 문제가 될 수 있습니다," Wilson이 말합니다. "그리고 유효한 변명은 'AI가 그렇게 하라고 해서'가 아닙니다."
세금 시즌 동안 AI를 도구로 사용하려는 경우, 전문가들이 염두에 두라고 말하는 것이 있습니다.
어떤 모델을 사용하고 있는지 확인하세요
LLM은 정확히 동일하지 않으며, 좋아하는 AI 회사가 있더라도 해당 회사는 일반적으로 다양한 기능을 갖춘 다른 모델을 제공합니다, Wilson이 말합니다.
세금과 같이 복잡한 주제의 경우, "생각" 모델에 있기를 원할 것입니다, 그가 말합니다—어려운 주제를 단계별 솔루션을 생성하고 작업을 보여줌으로써 분해하는 모델입니다.
특정 챗봇의 무료 버전을 사용하지 않더라도 "이러한 회사들 중 다수는 기본적으로 그다지 똑똑하지 않은 더 빠른 모델에 당신을 고수할 것"이라고 Wilson이 말합니다.
Anthropic 및 OpenAI와 같은 AI 회사들은 다양한 강도의 AI 챗봇 버전에 대한 액세스를 제공하는 계층화된 가격 책정을 가지고 있습니다. 더 높은 등급에 있더라도 사용 중인 모델이 기본적으로 복잡한 주제에 맞게 조정되지 않을 수 있습니다. 저는 처음에 회사의 ChatGPT 유료 버전을 열었을 때 "일상적인 채팅"을 위해 "즉시" 모드로 기본 설정되어 있었습니다. 채팅 상단의 메뉴를 클릭하여 "생각" 모드로 전환해야 했습니다.
확인할 가치가 있는 또 다른 요소: AI 회사가 정보를 사용하여 모델을 훈련시키고 있는지 여부입니다. Wilson이 말하듯이 유료 버전을 사용할 때 일반적으로 모델 훈련을 끌 수 있지만 무료 버전 사용자는 개인 정보를 공유하기 전에 두 번 생각해야 합니다.
그는 정보가 공개적으로 게시되지는 않을 것이라고 말합니다, "하지만 무료 플랜에 있는 경우 회사는 모델을 훈련시키기 위해 모든 데이터를 사용할 수 있습니다. 그리고 그것은 아마도 은행 계좌 정보, 사회 보장 번호와 같은 민감한 정보와 관련하여 원하지 않는 것입니다."
AI의 한계와 당신의 한계를 이해하세요
전문가들이 말하듯이 AI가 올바른 프로세스를 따르더라도 잘못된 답변에 도달할 수 있습니다. 하나의 이유는 모델이 오래된 데이터에 의존할 수 있다는 것입니다, Wilson이 말합니다. 모델을 훈련시키는 데 사용되는 데이터는 어떤 경우에는 수개월 전의 것일 수 있으며, 그는 말합니다, 가장 최신의 세금 정보가 부족하게 하여, 그는 말합니다. 그것은 모델이 인터넷에서 현재 정보를 끌어오도록 강요할 수 있습니다.
"그것이 그 정보를 어디에서 확인할 것인가? 2024년, 2025년 또는 2026년의 기사를 찾을 것인가?" Wilson이 말합니다. "분명히 차이는 사용 목적의 결과와 정확성에 크게 영향을 미칠 수 있습니다."
어떤 경우에는 AI가 세금 질문에 완벽하게 답할 수 있습니다—하지만 그것이 당신에게 올바른 답변이 될 것이라는 의미는 아닙니다. 그것은 특정 세금 규칙이 귀하의 상황의 특정 미묘함에 따라 적용되거나 적용되지 않을 수 있기 때문입니다.
단순화된 예를 들어보면, 납세자가 개를 공제할 수 있는지 궁금해하는 경우를 고려해 보십시오. CPA에게 물어보면 그들은 "그것은 상황에 따라 다릅니다"라고 말할 것입니다, Eagan이 말합니다. 그것은 애완동물을 공제할 수 없지만 특정 상황에서 안내견 비용을 의료비로 공제할 수 있기 때문입니다.
AI 챗봇에게 질문을 던지면 "예"로 시작할 수 있습니다, Eagan이 말합니다. "당신이 직면한 과제는 원하는 답변을 받은 후 얼마나 많은 사람들이 읽기를 멈추는가 하는 것입니다."
세금 규정 전체에 걸쳐 확장하면 AI에 답변을 의존하여 정확한 신고에 도달하는 데 사용자들이 어려움을 겪을 수 있는 것은 어렵지 않습니다. AI가 질문에 올바르게 답하거나 정확한 계산을 수행하더라도 Wilson이 말하듯이 그것이 알고 있는 것에 의해 제한됩니다. 전체적인 접근 방식이 없으면 이러한 모델들을 실패하도록 설정하고 있는 것입니다, 그가 말합니다.
그것이 모델들이 세금 질문에 직면했을 때 자동으로 실패할 것이라는 의미는 아닙니다. 당신은 모델에 필요한 모든 관련 정보를 제공하고 모든 관련 후속 질문을 할 수 있는지 스스로에게 물어봐야 합니다. 대답이 아니고 많은 돈이 걸려 있다면 Wilson과 다른 전문가들이 말하듯이 전문가와 상담하는 것이 현명할 것입니다.
"그것은 대부분의 사람들이 저지르는 가장 큰 실수 중 하나라고 생각합니다, AI 사용에 비교적 익숙한 사람들조차도, 그들은 '좋아, 문서 중 일부를 입력하고 적절한 맥락을 제공하는 한, 출력에 좋은 일을 할 것'이라고 생각합니다," Wilson이 말합니다. "하지만 인간은 실제로 모델에 올바른 맥락을 제공하고 있는지 확인하기 위해 매우 직접적인 일을 해야 합니다."
자신감을 가지고 리드하고 팀의 최고를 이끌어내고 싶으십니까? CNBC의 새로운 온라인 코스인 How To Be A Standout Leader를 수강해 보십시오. 전문 강사들이 신뢰를 구축하고, 명확하게 의사소통하며, 다른 사람들이 최고의 업무를 하도록 동기를 부여하는 실용적인 전략을 공유합니다.