Mythos 관련 경고, 영국 은행들이 강력한 Anthropic AI 도구 사용 준비

영국 은행들은 다음 주에 공개를 위해 너무 위험하다고 여겨져 일반 대중에게 공개되지 않았던 강력한 AI 도구에 대한 액세스 권한을 받게 될 예정이며, 일련의 고위 금융 인사가 그 영향력에 대해 경고했습니다.

Anthropic은 지금까지 Amazon, Apple, Microsoft와 같은 소수의 주로 미국 기반 기업에만 새로운 모델의 릴리스를 제한해 왔지만, 향후 영국 금융 기관으로 확대할 것이라고 밝혔습니다.

“이는 매우 가까운 시일 내, 다음 주에 이루어질 것입니다.” Anthropic의 영국, 아일랜드 및 북유럽 운영 책임자인 Pip White는 Bloomberg TV 인터뷰에서 말했습니다. “예상하시겠지만, 지난주에 영국 CEO들과의 교류는 상당했습니다.”

Anthropic은 Claude AI 도구 제품군을 보유한 회사로서, 최신 모델인 Mythos가 IT 시스템의 결함을 노출하는 능력으로 인해 전례 없는 위험을 초래한다고 밝혔습니다.

“AI 모델은 코딩 능력이 인간의 가장 숙련된 전문가를 능가할 수 있는 수준에 도달했습니다. 이를 통해 소프트웨어 취약점을 찾고 악용할 수 있습니다.” Anthropic은 이달 초 블로그 게시물에서 말했습니다. “경제, 공공 안전 및 국가 안보에 대한 결과는 심각할 수 있습니다.”

금융 장관, 경영진 및 규제 기관은 이번 주 워싱턴에서 IMF 및 세계 은행 봄 회의에 참석하는 동안 잠재적인 위협에 대해 논의했으며, 또한 이란과의 미국-이스라엘 전쟁으로 인한 글로벌 여파에 대한 우려도 처리했습니다.

캐나다 금융장관 François-Philippe Champagne은 BBC에 다음과 같이 말했습니다. “분명히 모든 금융 장관의 관심을 끌 만한 심각한 문제입니다… 호르무즈 해협과의 차이점은 우리가 그 위치를 알고 그 크기를 알고 있다는 것입니다.

“우리가 Anthropic과 직면하고 있는 문제는 ‘알려지지 않은 미지수’라는 것입니다. 재정 시스템의 탄력성을 보장하기 위해 안전 장치를 마련하고 프로세스를 갖추어야 하는 많은 관심이 필요합니다.”

영국 중앙은행 총재이자 글로벌 규제 기관인 금융 안정 이사회를 의장하는 Andrew Bailey는 “이는 우리 모두에게 매우 심각한 과제입니다. AI 세계가 얼마나 빠르게 움직이는지 상기시켜 줍니다.”라고 말했습니다.

그러나 그는 정부가 AI의 경제적 이익을 얻으려고 노력하면서 이 기술에 대해 얼마나, 그리고 얼마나 엄격하게 단속해야 하는지 규제 기관이 고려해야 한다고 말했습니다. “규칙의 길을 제시하는 최적의 시점은 언제입니까?” Bailey는 질문했습니다. “너무 일찍 가면 a) 목표를 놓칠 위험이 있고 b) 진화를 왜곡할 위험이 있으며, 너무 늦으면 상황이 통제 불능 상태가 될 수 있습니다.”

유럽 중앙 은행 총재 Christine Lagarde는 “Anthropic 및 Mythos와 관련된 개발은 책임감 있는 회사가 갑자기 ‘아, 이것은 정말 좋을 수 있습니다.’라고 생각하는 좋은 예입니다. 그러나 잘못된 손에 들어가면 정말 나쁠 수 있습니다.”라고 말했습니다.

“모든 사람이 운영할 수 있는 프레임워크를 갖기를 열망하고 있습니다.” Lagarde는 Bloomberg TV에 말했습니다. 그러나 그녀는 “이러한 것들을 실제로 관리하기 위해 존재하는 거버넌스 프레임워크는 없습니다. 우리는 그것을 작업해야 합니다.”라고 덧붙였습니다.