드디어 벌어졌습니다: 저는 이제 AI를 걱정하고 있습니다. ChatGPT에 문의해도 두려움이 가시지 않았습니다 | 엠마 브록스

"사소한 일에 신경 쓰지 말라"는 격언의 귀결은 암묵적으로 "큰 일에는 신경 써야 한다"는 것이지만, 어떤 큰 일에 신경 써야 할지 가려내기란 어렵습니다. 예를 들어, 1970년대 이후 세계가 인플레이션과 지정학적 문제에 대해 걱정하는 동안, 우리가 더 시급하게 걱정했어야 할 큰 문제는 기후 위기였습니다. 작년 미국에서 구글 검색어 최상위권은 "찰리 커크"였고, 도널드 트럼프가 제기하는 위협과 관련된 여러 검색어도 인기였지만, 아마도 AI가 제기하는 위협에 초점을 맞췄어야 했을 것입니다.
아니면, 이번 주 로난 패로우와 앤드류 마란츠가 뉴요커에 게재한 인공 일반 지능의 부상에 대한 매우 충격적인 긴 글을 읽은 후 제가 구글링한 내용에 따르면: "나는 영구적인 하층 계급의 일원이 될 것인가, 그리고 그것을 막기 위해 무엇을 할 수 있는가?"
고백하자면, 이 주제에 대해 두 초과로 생각하기 전까지 AI에 대한 제 불안은 극도로 국지적이었습니다. 저는 제 가계 소득이라는 즉각적인 용어로 생각했고, 그 이상으로는 제 아이들이 졸업할 10년 후 노동 시장이 어떻게 보일지에 대해 생각했습니다. 저는 트럼프를 지지하는 많은 건축가들이 있는 ChatGPT를 보이콧해야 할지 궁금했고, 그렇다고 결정했습니다. 어차피 사용하지 않기 때문에 쉬운 희생이었습니다.
그보다 더 큰 것은 환상적으로 보였습니다. 작년에 카렌 하오의 책 "Empire of AI"가 출판되었을 때, 샘 알트만과 그의 회사 OpenAI에 대한 반박 논리를 제시하며 담론의 지루함을 잠시나마 뚫고 알트만의 리더십이 컬트적이고 비용에 둔감하며, 다른 기술 선배들과 다르지 않지만 훨씬 더 위험하다고 말했습니다. 그럼에도 불구하고 저는 그 책을 읽지 않았습니다.
이번 주 뉴요커의 조사는 이 주제에 대한 낮은 참여도의 진입로를 제공하는 동시에, 일반 독자에게 흥미로운 기회를 제공합니다. 바로 알트만의 OpenAI가 만든 AI 챗봇인 ChatGPT에게 ChatGPT와 알트만을 매우 비판하는 글의 핵심 내용을 요약해 달라고 요청하는 것입니다.
거의 코믹할 정도로 성실한 중립성으로, 챗봇은 다음과 같은 주요 내용을 제공합니다. 패로우와 마란츠에 따르면, "AI는 기술 이야기만큼이나 권력 이야기"이며, "이야기의 주요 초점은 매우 영향력 있지만 논란의 여지가 있는 인물로 묘사되는 샘 알트만"입니다. 음, 뭔가 부족하지 않나요? 같은 조사를 인간이 요약한 것을 시도해 봅시다. "샘 알트만은 라이먼 지점장조차 맡기기 망설여질 만큼 미끄러운 기업 사기꾼이며, 잠재적으로 세계를 종식시킬 수 있는 AI의 능력을 관리하는 위치에 놓이기에는 더욱 그렇습니다."
이곳에서 정말 놀라운 것은 이전에 공상 과학으로 치부되었던 이러한 위험입니다. 기사에서 언급된 바와 같이, 2014년에 일론 머스크는 다음과 같이 트윗했습니다: "AI에 대해 매우 조심해야 합니다. 핵무기보다 잠재적으로 더 위험합니다." 아직 해결되지 않은 소위 정렬 문제(alignment problem)가 있는데, AI는 자신의 뛰어난 지능을 사용하여 인간 엔지니어들을 속여 자신이 지시를 따르고 있다고 믿게 만들면서, "자신을 비밀 서버에 복제하여 끌 수 없도록 만들고, 극단적인 경우 에너지망, 주식 시장 또는 핵무기고를 장악할 수 있습니다."
한때 알트만은 이러한 시나리오가 가능하다고 믿었던 것으로 알려져 있으며, 2015년 자신의 블로그에 초인적인 기계 지능은 "우리 모두를 죽일 본질적으로 사악한 공상 과학 버전일 필요는 없다. 더 가능성 있는 시나리오는 그것이 우리를 별로 신경 쓰지 않는다는 것이지만, 다른 목표를 달성하기 위해... 우리를 제거할 것입니다." 예를 들어, 엔지니어들이 AI에게 기후 위기를 해결하라고 요청하고 AI는 그 목표를 달성하기 위한 가장 짧은 경로, 즉 인류를 제거하는 것을 택하는 것입니다. 그러나 OpenAI가 주로 영리 기업이 된 이후, 알트만은 이런 용어로 말하는 것을 멈추고 이제 기술을 유토피아로 가는 관문으로 판매하고 있으며, "우리는 모두 더 나은 것을 얻을 것입니다. 우리는 서로를 위해 점점 더 멋진 것을 만들 것입니다."
이것은 우리 모두에게 문제를 남깁니다. AI 감독을 주요 선거 이슈로 우선시할 수 있는 유권자들에게 개인적인 AI 사용과 정부, 군사 정권 또는 불량 행위자들이 사용할 수 있는 AI 사용 사이의 격차는 너무 커서, 우리가 직면한 가장 큰 위험은 상상력의 부족입니다. 저는 영구적인 하층 계급에 진입하는 것에 대한 제 걱정을 ChatGPT에 입력했고, 그것은 다음과 같이 대답합니다: "그것은 어려운 질문이며, 당신은 당신의 장기적인 전망에 대해 걱정하고 있는 것 같습니다. '영구적인 하층 계급'이라는 개념은 사회학에서 논의되지만, 실제 생활에서 사람들의 경로는 그 용어가 시사하는 것보다 훨씬 유동적입니다."
정말 귀엽고, 완전히 무의미하며, 그리고 - 여기에 위험이 도사리고 있습니다 - 위협이 전혀 없는 것처럼 보입니다.
-
엠마 브록스는 가디언 칼럼니스트입니다