AI의 위험, 이미 현실로 다가왔다 | 그라나테 김, 모하메드 후세인

최근 몇 주 동안 AI에 대한 우려는 기술 및 정책 세계에서 예상치 못한 동맹을 형성했습니다. 샘 알트먼, 일론 머스크, 데미스 하사비스와 같은 기술 거물들은 다리오 아모데이, 사티아 나델라, 빌 게이츠와 함께 AI의 위험에 대한 경종을 울리고 수년간의 지배력 경쟁에도 불구하고 기술 개발 속도를 늦출 것을 촉구했습니다. 버니 샌더스 상원의원은 스티브 배넌과 협력하여 AI를 규제할 것을 의회에 촉구했으며, AI는 정치 스펙트럼 전반에 걸쳐 미국인들을 통합하는 몇 안 되는 문제 중 하나가 되었습니다.

최근의 움직임은 부분적으로 AI 연구원 제이콥 콕슨이 트위터/X에서 AI 회사들이 "우리의 삶을 가지고 도박"하고 있으며 이 기술이 "10년 말까지 우리 모두를 죽일 수 있다"고 믿는다는 경고에 의해 촉발되었습니다.

현실은 AI가 전례 없는 죽음과 파괴를 어떻게 가져올지 기다릴 필요가 없다는 것입니다. 왜냐하면 우리는 이미 그것이 풀려나는 것을 목격했기 때문입니다.

빌 게이츠가 8월 말에 AI와 인류에 대한 잠재적 피해에 대해 경고한 거의 6,000단어 분량의 에세이는 놀라운 일이 아닙니다. 우리 중 한 명은 거의 10년 동안 마이크로소프트 직원이면서 모든 위험이 실시간으로 펼쳐지는 것을 목격했습니다. 우리는 함께 지난 2년간 다른 마이크로소프트 직원 및 활동가들과 조직하여 팔레스타인인들의 가자 지구에서의 학살에 대한 회사의 역할을 밝혀냈습니다. 우리는 집단적으로 마이크로소프트에 이스라엘 군대와의 관계를 끊을 것을 촉구했습니다.

하지만 AI 기반 파괴에 관여하는 것은 마이크로소프트뿐만이 아닙니다.

이스라엘의 가자 지구에 대한 학살 전쟁은 전쟁에서 AI 사용의 시험장이었으며 그 결과는 매우 충격적이었습니다. 이스라엘 군대는 사람들을 식별하여 살해하는 데 AI를 사용했으며, 첫 달에만 12,000개의 표적이 생성되고 폭격되었습니다. 이는 오스카상을 수상한 이스라엘 언론인 유발 아브라함의 조사에서 문서화된 바와 같이, 거의 또는 전혀 의미 있는 인간의 감독 없이 이루어졌습니다. 그의 최신 영화 NAZA, 가디언이 제작한 영화에는 관련된 군인들의 소름 끼치는 증언이 포함되어 있습니다.

올해 초 이란에서는 미군이 AI 관련 공습을 감행하여 이란 미나브에 있는 샤자레 타이에베 초등학교를 타격하여 어린이, 교사 및 기타 민간인 156명을 사망시켰습니다. 전쟁에서 민간인 사상자 중 최악의 사건으로 거의 확실한 이 공격은 잘못된 데이터에 의존한 "표적 오류"의 결과였을 가능성이 높습니다.

AI로 인한 참상은 해외 사람들에게 국한되지 않습니다. 이미 미국 내 취약한 지역 사회에서 느껴지고 있습니다. 국토안보부는 마이크로소프트의 Azure를 포함한 AI 도구를 사용하여 이민자들을 대규모로 감시, 체포 및 추방하고 있습니다. 전국 법 집행 기관은 라틴계 및 흑인 미국인들의 부당한 체포 및 투옥으로 이어진 알고리즘 편견의 증거에도 불구하고 안면 인식 기술을 배치하고 있습니다. 뉴욕 경찰국은 또한 마이크로소프트와 협력하여 뉴욕 데일리 뉴스의 보도에 따르면 Azure를 사용하여 18,000개의 보안 카메라에 연결하는 도메인 인식 시스템을 구축했으며, 이는 브라질 및 싱가포르를 포함한 조지아 및 세계 다른 지역으로 확장된 대규모 감시 시스템을 만들었습니다. AI에 동력을 공급하는 데이터 센터는 미국 전역의 농촌 및 저소득 지역 사회에 건설되고 있으며, 이곳에서는 많은 사람들이 빈곤선 아래에서 살고 있으며 이제 이러한 시설로 인한 대기 오염으로 심각한 건강 위협에 직면해 있습니다.

이러한 피해 중 많은 부분이 수년에 걸쳐 문서화되었지만, 우익 정부 지도자들은 부정직하고 가혹한 조치를 통해 반대 의견을 계속해서 억압하고 있습니다. 도널드 트럼프는 AI 위험을 "사기"라고 불렀고 기술의 힘을 제한하려는 모든 시도는 "병든 음모"의 일부라고 말했습니다. 하원 공화당 의원들은 데이터 센터에 대한 대중의 반대에 중국 정부의 허위 정보 탓을 하며 AI에 대한 대중의 우려를 일축했습니다. 이스라엘 문화부 장관 미키 조하는 NAZA 영화 제작자 유발 아브라함과 레이첼 소르의 시민권을 박탈하겠다고 위협하며 그들을 "국가에 대한 반역" 혐의로 비난했습니다.

분명한 것은 게이츠, 아모데이 등이 우리에게 경고하고 있는 위험한 미래가 이미 여기에 있으며, 더 이상의 피해를 막기 위해 지금 행동해야 한다는 것입니다. 가자, 레바논, 이란, 그리고 ICE에 의해 테러당하는 미국 지역 사회에 가족이 있는 우리들은 이미 악몽을 겪고 있는 사람들을 알고 있습니다.

지난 몇 주 동안 우리는 AI 기술의 잠재적 피해를 줄이려는 미국 정책 입안자들의 유망한 노력을 보았습니다. 하원은 최근 기술 회사 내에 제3자 평가자를 배치하여 안전 평가를 수행하도록 하는 프론티어 법안을 제안했으며, 이달 초 샌더스와 그렉 카사르 의원은 인간이 통제할 수 없는 기술을 구축하고 개발하는 것을 막기 위해 인공 초지능 금지법을 도입했습니다.

이 법안들은 좋은 출발점입니다. 하지만 통과되기까지 수년이 걸릴 수 있으며 이미 발생하고 있는 파괴를 해결하지 못합니다. 프론티어 AI 회사와 정부는 군사 표적, 자율 무기 시스템 및 대규모 감시에서 AI 기술의 판매 및 사용을 금지하기 위해 지금 행동해야 합니다. 이것이 Anthropic, OpenAI 및 Google DeepMind의 직원들이 요구하는 것입니다.

우리는 AI가 가장 취약한 사람들에게 이미 야기한 피해에 대처하고 돌이킬 수 없게 되어 더 많은 지역 사회로 확산되기 전에 바로잡을 수 있는 귀중하고 덧없는 순간을 살고 있습니다. 우리는 지금 당장 명확한 가드레일을 설정하고 소수의 특권층뿐만 아니라 모두를 보호하는 AI의 미래를 만들어야 합니다.

- 모하메드 후세인은 마이크로소프트의 이스라엘 군대와의 관계 종료를 촉구하는 직원 주도 운동인 No Azure for Apartheid와 함께 활동하고 있습니다. 그는 또한 내부 직원 그룹인 Palestinians and Allies at Microsoft의 리더이기도 합니다. - 그라나테 김은 No Azure for Apartheid와 함께 활동하고 있으며, 인권을 옹호하기 위해 무슬림 공동체를 동원하는 조직인 MPower Change의 캠페인 디렉터입니다.