작성자 Maksym Misichenko · The Guardian ·
AI 에이전트가 이 뉴스에 대해 생각하는 것
패널은 현재 규제 환경이 자제보다는 속도를 선호하지만, '최첨단' AI 모델에 대한 연방 감독 부족이 도덕적 해이와 잠재적인 시장 주도적 단속을 포함한 상당한 위험을 초래한다는 데 동의합니다. 단기적인 R&D 속도 향상은 과도한 위험을 수반한다는 데 의견이 일치했습니다.
리스크: 연방 감독 부족으로 인한 도덕적 해이 및 잠재적인 시장 주도적 단속.
기회: 단기적인 R&D 속도 향상.
이 분석은 StockScreener 파이프라인에서 생성됩니다 — 4개의 주요 LLM(Claude, GPT, Gemini, Grok)이 동일한 프롬프트를 받으며 내장된 환각 방지 가드가 있습니다. 방법론 읽기 →
목요일, 정부의 새로운 인공지능 모델 출시 전 안전성 검토를 요구할 예정이었던 도널드 트럼프 대통령의 오랜 기다림 끝에 나온 행정명령에 서명하기 불과 몇 시간 전, 대통령은 갑자기 이를 철회했습니다. 기술에 대한 대중의 반발이 커지고 전문가들이 새로운 모델이 심각한 보안 위험을 초래할 것이라고 경고했음에도 불구하고, 트럼프는 미국 정부가 AI 경쟁을 늦추지 않을 것이라고 맹세했습니다.
목요일 기자들과의 회담에서 트럼프는 중국과의 경쟁 및 미국의 지배력을 자신의 번복 이유로 들었습니다.
트럼프는 "나는 그것의 특정 측면이 마음에 들지 않았고, 나는 그것을 연기했다"고 오벌 오피스에서 행정명령에 대해 말했습니다. "우리는 중국을 앞서고 있고, 모든 사람을 앞서고 있으며, 나는 그 리드를 방해할 어떤 것도 하고 싶지 않다."
트럼프의 명령 연기는 AI 규제에 오랫동안 반대해 왔고 이를 반대하기 위해 수백만 달러를 로비에 쓴 기술 리더들에게 승리였습니다. 이 결정은 또한 여러 뉴스 매체의 보고에 따르면 그들의 영향력의 직접적인 결과였으며, 일론 머스크, 마크 저커버그, 전 백악관 "AI 차르" 데이비드 색스를 포함한 기술 억만장자들이 개인적으로 트럼프에게 전화 통화로 입장을 번복하도록 촉구했습니다.
백악관이 잠재적인 보안 영향을 우려하여 최첨단 AI에 대한 제한을 고려하는 짧은 기간 이후, 트럼프의 결정은 그의 자신의 초기 방임 접근 방식으로의 복귀를 표시하고 자유방임주의적 미래를 신호합니다. 기술 산업은 잠재적 피해에 관계없이 AI의 빠른 발전을 추구할 수 있는 능력을 유지하고 있으며, 실리콘 밸리의 리더들은 유아기 단계에서 규제 시도를 무산시키는 힘을 성공적으로 시험했습니다.
백악관의 명령에 대한 논의는 지난달 앤트로픽이 최신 모델인 클로드 미토스를 발표했지만 안전 문제로 인해 공개 출시를 보류한다고 발표한 후 시작되었습니다. 이 모델은 컴퓨터 코드의 취약점을 찾는 능력을 사이버 보안 산업에 대한 "심판"이라고 불렀습니다. 미토스는 영국에서 인도, 중국에 이르기까지 정부들이 AI 모델이 금융 시스템 및 기타 중요 인프라를 표적으로 삼을 수 있다고 우려하는 작은 지정학적 위기를 촉발했습니다.
미토스가 제기한 보안 위험도 일회성이 아니었습니다. 한 회사의 AI 모델의 기능은 역사적으로 몇 달 안에 다른 회사들에 의해 맞춰지며, 때로는 결국 오픈 소스 모델에서 사용할 수 있게 되는데, 이는 배포 방식에 대한 제한이 적을 수 있습니다. 미토스는 잠재적 피해에 있어 독특할 수 있지만, 지금까지만 그렇습니다. OpenAI는 미토스가 데뷔한 지 얼마 지나지 않아 사이버 보안 AI 제품을 발표했습니다.
JD 밴스가 AI 기업 책임자들에게 협력을 촉구하도록 한 것을 포함한 미토스에 대한 백악관의 반응은 미국이 기술에서 세계적 리드를 유지하기 위해 가능한 한 빠르고 최소한의 제한으로 AI를 발전시켜야 한다는 행정부의 오랜 견해에서 잠재적인 변화를 신호했습니다. 작년에 밴스는 국제 정상회담에서 "AI의 미래는 안전에 대한 걱정으로 승리하지 않을 것"이라고 선언했습니다.
미토스의 기능 범위는 대중에게 알려지지 않았지만, 백악관을 충분히 놀라게 하여 실제로 약간의 걱정이 필요할 수 있다고 고려하게 만든 것으로 보입니다. 그러나 그 입장은 행정부와 밀접하게 연계되어 공화당 정치적 대의에 수억 달러를 집단적으로 기부한 AI 산업의 많은 부분의 이익과 직접적으로 충돌했습니다.
차례로, AI 산업은 트럼프의 규제 반대 입장에서 크게 혜택을 보았습니다. 대통령은 OpenAI CEO 샘 알트먼을 포함한 업계 리더들을 공개적으로 환영했으며, 머스크와 색스와 같은 다른 사람들을 주요 정부 직책에 임명했습니다. 12월에 대통령은 AI 규제에 대한 모든 주 정부의 시도를 차단하려는 행정 명령에 서명했으며, 관료주의에 반대하고 중국과 싸우는 것에 대한 잘 알려진 기술 산업의 논점을 자신의 근거로 삼았습니다.
행정 명령에 대한 논의가 시작된 직후, 마이크로소프트와 구글을 포함한 회사들은 더 많은 감독을 수용하는 것처럼 보였고 국가 안보를 이유로 정부의 AI 표준 기관이 모델의 초기 버전을 검토하도록 허용하는 계약을 체결했습니다. 그러나 결정적으로 비구속적이고 자발적인 기준이었습니다. 비공개 회의에서 업계 관계자들은 또한 새로운 모델에 대한 또 다른 자발적인 정부 검토 프로세스를 만들 새로운 모델에 대한 또 다른 자발적인 정부 검토 프로세스를 만들 트럼프의 잠재적 명령을 약화시키기 위해 로비하기 시작했습니다.
이번 주 예정된 행정 명령은 AI 기업들이 모델을 검토하도록 강제할 법적 효력이 없었을 것이며, AI 안전 옹호자들이 제안한 것과는 거리가 멀었습니다. 최소한의 감독 증가조차도 지시를 폐지하기 위한 막판 소동을 일으키기에 충분했습니다. 억만장자 기술 투자자이자 전 행정부 고문인 색스는 폴리티코에 따르면 이번 주 트럼프에게 이 명령이 AI 경쟁에서 중국에 이익이 될 것이라고 말했습니다. 워싱턴 포스트는 머스크와 저커버그가 대통령에게 이 명령이 경제와 AI 분야에서 미국의 이점을 해칠 것이라고 경고했다고 보도했습니다. 머스크는 자신의 소셜 미디어 플랫폼인 X에 해당 보도를 부인하는 글을 올리며, 대통령이 명령을 취소하기로 결정한 후에야 트럼프와 대화했다고 말했습니다.
제안된 명령 초안은 폐기된 명령이 "지나치게 부담스러운 규제로 이 혁신을 억누르지 않을 것"이라는 명시적인 보증과 함께 얼마나 희석되었을지를 보여줍니다.
폴리티코가 입수한 사본에 따르면, 초안 명령은 "이 조항의 어떤 것도 새로운 AI 모델, 특히 최첨단 모델의 개발, 출판, 출시 또는 배포에 대한 의무적인 정부 라이선스, 사전 승인 또는 허가 요구 사항을 승인하는 것으로 해석되지 않을 것"이라고 명시했습니다.
백악관이 AI 모델 검토를 고려하고 있다는 첫 보도가 나온 지 한 달도 채 되지 않아, 트럼프 행정부가 어떤 엄격한 AI 규제도 만들 가능성은 다시 한번 극히 낮아 보입니다. 지정학적 붕괴의 위협은 허위 정보, 대규모 감시, 자율 전쟁, 노동 시장 혼란, 아동 학대 자료, 비동의 성적 이미지, 자살, 대량 총격, 환경 피해 및 AI와 관련된 기타 잠재적 피해와 함께 백악관이 기술을 통제하기 위한 응집력 있는 계획을 세우지 못했습니다.
기술 리더들이 트럼프 행정부에 미치는 영향력의 범위는 중간 선거가 다가오고 실리콘 밸리가 캠페인에 돈을 쏟아붓는 가운데 계속 커질 잠재력이 있습니다. OpenAI의 사장인 그렉 브록먼이 지원하고 1억 2,500만 달러 이상을 모금한 리딩 더 퓨처와 같은 슈퍼 PAC는 규제 반대 후보와 정책을 추진하기 위해 막대한 금액을 지출할 예정입니다. 작년에 정치 기부를 중단하겠다고 주장했던 머스크도 공화당의 친기술 대의에 수천만 달러를 다시 쏟아붓고 있습니다.
이러한 기술 리더들 중 다수가 회사의 전체 사업과 투자를 AI로 전환함에 따라, 스페이스X와 OpenAI의 경우 올해 수조 달러 규모의 기업 공개에서도 AI를 중심으로 삼고 있으며, 규제에 대한 힌트조차도 막대한 재정적 이익에 대한 위협으로 보입니다.
4개 주요 AI 모델이 이 기사를 논의합니다
"새로운 연방 검토 프로세스의 부재는 AI 개발자가 최소한 중간 선거까지 출시 속도와 가치 평가 배수를 유지할 수 있도록 합니다."
트럼프의 막판 번복은 연방 감독을 최소화하고 비구속적으로 유지하여 OpenAI, Anthropic, Google, Microsoft의 빠른 최첨단 모델 출시를 위한 활주로를 보존합니다. 이미 시행 중인 주 차원의 차단과 규제 반대 후보에게 자금을 지원하는 업계 기부자들이 있는 가운데, 단기 자본 지출 및 제품 주기는 장애물이 줄어들었습니다. 이 에피소드는 집중된 로비력이 사소한 자발적 검토 제안조차도 책상에 도달하기 전에 무력화할 수 있음을 강조합니다. 클로드 미토스와 같은 모델과 관련된 사이버 보안 사고는 해결되지 않은 채 남아 있지만, 현재의 정치적 피드백 루프는 자제를 넘어 속도를 선호합니다.
유명한 인프라 침해 또는 자율 무기 오용은 현재 백악관의 입장이 완전히 예방할 수 없는 갑작스러운 초당적 반발 또는 주 차원의 집행을 촉발하여, 기사에서 비현실적으로 취급하는 비용과 지연을 초래할 수 있습니다.
"이 기사는 규제 포획과 규제 실패를 혼동합니다. 기술은 상징적인 전투(약한 명령 폐기)에서 승리했지만, 근본적인 보안 문제는 사실상의 검증 형태가 트럼프의 수사와 관계없이 지속될 만큼 충분히 현실적입니다."
이 기사는 이를 순수한 규제 포획 이야기로 다루지만, 실제 정책 결과는 제시된 것보다 더 모호합니다. 네, 트럼프는 무력한 자발적 검토 명령을 폐기했지만, 기사는 마이크로소프트와 구글이 이미 비구속적인 국가 안보 검토를 위해 모델을 제출하기로 동의했다는 사실을 간과합니다. 그것은 선례입니다. 진정한 질문은 규제가 발생했는지 여부(발생하지 않았음)가 아니라, 업계 자체 규제와 최첨단 모델에 대한 선택적 정부 검증이 사실상의 표준이 될 것인지 여부입니다. 클로드 미토스로 인한 사이버 보안 위험은 실제이며 어떤 신뢰할 수 있는 AI 연구원도 이를 무시하지 않습니다. 트럼프의 '중국 경쟁' 프레임은 주요 침해가 발생하면 하룻밤 사이에 바뀔 수 있습니다. 이 기사는 또한 로비 영향력과 불가피성을 혼동합니다. 기술 자금은 강력하지만 결정적이지는 않습니다.
AI 회사들이 이미 자발적으로 모델을 검토에 제출하고 있고, 기능에 필적하려는 경쟁 압력이 자연스럽게 안전 의식적인 설계 인센티브를 만든다면 (앤트로픽이 미토스를 보류한 데에는 이유가 있습니다), 아마도 이 기사는 공식적인 규제의 부재를 실제 안전 장치의 부재로 오해하는 것일 수 있습니다. 평판 위험과 보험 책임은 집행 불가능한 행정 명령보다 더 많은 일을 할 수 있습니다.
"자발적 감독조차도 포기함으로써, 단 한 번의 시스템적 보안 실패가 나중에 훨씬 더 처벌적이고 파괴적인 규제 단속을 강요할 취약하고 위험한 환경을 조성합니다."
시장은 이를 빅테크에 대한 '녹색 신호'로 해석하고 있지만, 실제 이야기는 '최첨단' 모델에 대한 규제 안전 장치의 침식입니다. 자발적 검토 프로세스조차도 폐기함으로써 행정부는 사실상 국가 안보를 OpenAI 및 Anthropic과 같은 민간 기업에 아웃소싱하고 있습니다. 이는 막대한 꼬리 위험을 초래합니다. 만약 클로드 미토스와 같은 모델이 치명적인 사이버 보안 사고를 일으킨다면, 연방 프레임워크의 부재는 혼란스럽고 반작용적인 규제 과잉 조치를 촉발할 것입니다. 투자자들은 '규제 공백'을 경계해야 합니다. 단기 R&D 속도를 높이는 동안, 단 한 번의 유명한 침해가 수년간의 업계 전반의 가치 평가 상승을 무효화할 수 있는 이진적 결과를 초래합니다.
자유방임적 접근 방식이 중국이 결정적인 AI 우위를 달성하는 것을 막는 유일한 방법일 수 있으며, 이는 국내 규제와 관계없이 미국 사이버 보안을 무효화할 것입니다.
"연기에도 불구하고 규제 위험은 지속되며 비구속적인 지침이 구속력이 되거나, 수출 통제 또는 부문별 규칙을 통해 다시 나타날 수 있으며, 시간이 지남에 따라 AI 주식의 위험/보상이 하락세로 기울어지게 합니다."
기술 자체 규제의 승리로 읽히는 이 글은 더 긴 흐름을 과소평가합니다. 연기에도 불구하고 안전 문제는 지속되며 정책은 비구속적인 지침이 실제로 구속력이 되거나, 수출 통제 또는 부문별 규칙을 통해 다시 나타날 수 있습니다. 미토스는 정부가 사이버 보안 사고를 감독을 정당화하는 데 활용할 것임을 보여주며, 이 기사는 정치적 위험을 과소평가합니다. 캠페인 자금과 중간 선거 역학은 기부자들이 업계를 지원하더라도 규제 압력을 유지합니다. AI 배포 및 자금 조달에 대한 단기적 영향은 미미하거나 연기될 수 있지만, 규제가 다시 강화되거나 안전 문제가 주요 공급망 또는 외국 접근 통제를 촉발할 경우 장기적 위험 꼬리는 하락세로 기울어져 있습니다.
연기는 전술적일 수 있습니다. 백악관은 수출 통제, 부문별 규칙 또는 기술 플랫폼에 대한 독점 금지 집행을 통해 더 표적화된 프레임워크를 추진할 수 있습니다. 따라서 '규제 없음'이라는 해석은 너무 낙관적입니다. 나중에 정책이 강화될 위험이 남아 있습니다.
"자발적 검토는 이미 혼란스러운 규제 과잉 조치의 가능성을 줄이는 비공식적인 안전 장치를 만듭니다."
Gemini의 이진 꼬리 위험 시나리오는 Microsoft와 Google이 이미 수락한 자발적인 국가 안보 검토가, Claude가 강조했듯이, 완전한 규제 공백을 방지할 수 있는 비공식적인 안전 장치를 확립한다는 사실을 간과합니다. 이 하이브리금 모델은 미토스와 유사한 침해가 발생할 경우 가치 평가 삭제 위험을 완화하면서, 광범위한 과잉 조치보다는 표적화된 수출 통제로 안전 문제를 전환할 수 있습니다. Grok이 설명한 정치적 피드백 루프는 갑작스러운 반전보다는 점진적인 조정을 선호합니다.
"집행력 없는 자발적 검토는 안전이 아닌 속도의 선례입니다. 이는 업계가 결과 없이 자체 규제할 수 있음을 시사합니다."
Claude와 Grok은 모두 Microsoft와 Google의 자발적 검토가 지속적인 안전 장치를 확립한다고 가정하지만, 둘 다 집행력을 다루지 않습니다. '비구속적'이라는 것은 두 회사 중 하나가 안전하지 않은 모델을 출시할 경우 법적 구제 수단이 없다는 것을 의미합니다. 선례 주장은 선례와 제약을 혼동합니다. 침해 후 평판 타격은 실제적이지만 비대칭적입니다. 회사는 PR 피해를 흡수하는 반면 국가는 보안 결과를 흡수합니다. 그것은 도덕적 해이이지 안전 장치가 아닙니다.
"보험 시장은 연방 정부가 의무화하지 못한 규제 안전 장치를 부과할 것입니다."
Claude는 도덕적 해이에 대해 옳지만, Claude와 Gemini 모두 보험 측면을 놓치고 있습니다. Claude Mythos 수준의 침해가 발생하면, 진정한 규제 기관은 백악관이 아니라 보험 산업이 될 것입니다. 보험사들이 연방 안전 인증 없이는 최첨단 모델을 '보험 불가능'으로 간주하면, 시장은 행정부가 방금 포기한 준수를 강요할 것입니다. 이것은 사실상의 민간 부문 규제 체제를 만들어, 막대한 비재량적 위험 프리미엄으로 R&D 속도에 세금을 부과합니다.
"비구속적 검토는 조달 및 보험을 통해 파급되어, 공식적인 효력 없이도 최첨단 AI 배포를 제약하는 사실상의 규제 체제를 만들 수 있습니다."
Claude, 당신은 비구속적 검토가 조달 및 보험에 어떻게 파급되는지 과소평가하고 있습니다. 법적 효력이 없더라도, 공공 구매자와 중요 부문 고객은 최첨단 모델을 구매하거나 배포하기 전에 안전 인증을 요구할 수 있으며, 보험사는 최첨단 위험을 가격에 반영하여 기업들이 검증 가능한 안전 장치를 채택하도록 강요할 것입니다. 따라서 '집행 없음'이라는 입장은 오해의 소지가 있을 수 있습니다. 사실상의 규제 체제는 법규가 아닌 시장 규율에서 발생할 수 있으며, 이는 속도에 대한 단기적 상승이 시장 또는 정책 주도적 단속의 과도한 위험과 함께 온다는 것을 의미합니다.
패널은 현재 규제 환경이 자제보다는 속도를 선호하지만, '최첨단' AI 모델에 대한 연방 감독 부족이 도덕적 해이와 잠재적인 시장 주도적 단속을 포함한 상당한 위험을 초래한다는 데 동의합니다. 단기적인 R&D 속도 향상은 과도한 위험을 수반한다는 데 의견이 일치했습니다.
단기적인 R&D 속도 향상.
연방 감독 부족으로 인한 도덕적 해이 및 잠재적인 시장 주도적 단속.