지난 4월 8일, 미 재무장관인 스콧 베센트와 연준 의장 제롬 파월이 월가 금융계의 거물급 회장님들을 긴급 소집해. 시티그룹 CEO, 모건스탠리 CEO, 뱅크오브아메리카 회장, 골드만삭스 회장, 웰스파고 CEO 등 회의에 참석한 인원들 면면만 봐도 회의 무게감이 느껴지지. 또 트럼프랑 사이가 좋지 않은 파월이 참여했다는 것 자체가 이 회의 중요성을 보여주고.

월가 거물들인 만큼 당연히 자체 일정들이 있었을 텐데도 이들을 불러들인 이유는 바로 앤트로픽이 공개한 보고서 때문이야. 이 보고서에는 앤트로픽의 신규 모델 '미토스'에 대한 내용이 담겨 있어. 근데 사실 이 미토스라는 모델은 아직 시중에 공개되지 않았어. 그럼에도 불구하고 미토스가 미국 금융 시스템 전체를 위협할 수 있다는 우려 때문에 금융계 큰 손들을 모아서 긴급 회의가 진행됐던 거지.

다른 보도에 따르면 JD 밴스 부통령도 빅테크 리더들이랑 연쇄 회의를 했다고 하더라. 모델을 만든 당사자인 앤트로픽의 다리오 아모데이뿐 아니라 샘 올트먼, 일론 머스크, 순다르 피차이, 사티아 나델라 등 AI 시장을 이끌고 있는 미국 내 빅테크 리더들과 비공개 전화 회의를 진행한 걸로 알려졌어.

미국만 난리 난 게 아니야. 캐나다도 중앙은행과 주요 은행 대표들이 모여서 회의를 진행했다는 소식이 전해졌어. 영국과 독일 등 유럽에서도 긴급 대응 회의에 나섰고. 우리나라도 금융위원회가 주요 금융사 실무자들을 긴급 소집해서 비공개 회의를 진행했어. 도대체 미토스가 뭐길래, 이렇게 난리가 난 걸까?

코드 작성, 버그 수정, 코드 리뷰 같은 프로그래밍 성능을 확인하는 벤치마크에서 미토스 프리뷰는 93.9%를 받았어. 미국 수학올림피아드 문제를 푸는 벤치마크에서도 97.6%를 받았고. 또 대학원 수준 과학 문제를 푸는 GPQA Diamond에서도 94.5%의 성적표를 받았어. 여러 영역에 걸쳐서 기존 앤트로픽의 상위 모델 성적을 뛰어넘었고 다른 프론티어 모델을 압도하는 모습이야.

다만 이런 벤치마크 점수는 신규 모델 발표하면 항상 따라오는 지표이긴 해. 이전 모델보다 더 뛰어난 성능을 가져야 새 모델로서 가치도 있고 효용도 있잖아.

이번 미토스에서 주목해야 하는 지점은 바로 사이버 보안 영역 성능이야. CTF라는 사이버 보안 해킹 대회가 있는데, 이 대회 문제들로 모델 해킹 성능을 확인하는 Cybench라는 벤치마크가 있어. 여기서 미토스 프리뷰는 모든 문제를 100% 해결해버렸어. 이 벤치마크로는 미토스 프리뷰 성능을 제대로 확인할 수 없어서 실제 소프트웨어에서 발견된 버그나 취약점으로 구성된 CyberGym 벤치마크로 테스트해봤어.

기존 모델들 가운데 점수가 가장 높은 모델들을 보면 60점대에 있어. 그런데 미토스 프리뷰는 83.1%라는 압도적인 점수를 받아냈지. 앤트로픽이 공개한 보고서에는 이런 내용까지 담겨 있었어.

제로데이 취약점이란 아직 세상에 알려지지 않은 버그를 뜻해. 보안 패치가 개발되기도 전인 말 그대로 0일차, 제로데이에 개발자가 인지하지도 못한 취약점을 미토스 프리뷰는 수천 개나 발견했어. 보통 이런 제로데이 취약점을 발견하려면 최고 수준 보안 전문가들도 엄청난 시간이 걸려. 하지만 보안 관련 지식이 없는 앤트로픽 직원이 테스트해보니까 단 하루 만에 미토스 프리뷰는 찾아냈지.

오픈소스 운영체제 중 하나인 OpenBSD에서 27년간 발견되지 않았던 버그도 미토스 프리뷰는 찾아냈고, 또 유튜브나 넷플릭스 등 거의 모든 동영상 서비스에서 쓰이는 FFmpeg이라는 라이브러리 버그도 16년 만에 밝혀졌어.

사실 버그를 찾아내는 성능과 그걸 실제 해킹에 활용하는 건 서로 다른 능력이야. 시스템 버그를 찾아서 취약점에 구멍을 뚫는 코드나 프로그램을 익스플로잇이라고 하는데, 미토스 프리뷰 모델은 이 익스플로잇 성능도 너무 뛰어났어.

주요 앤트로픽 모델들로 파이어폭스 버그를 파고드는 익스플로잇 미션을 줘 봤어. 기존 Opus 4.6은 수백 번의 시도 중 단 두 번만 컴퓨터 통제를 빼앗을 수 있었어. 반면 미토스 프리뷰는 무려 181회나 성공했지. 통제 획득 전 단계인 레지스터 제어 수준까지 합치면 전체 시도 가운데 84.0%나 성공한 거야.

성능도 성능이지만 모델 자율성 문제도 우려스럽다고 앤트로픽은 밝히고 있어. 모의 테스트 단계에서 미토스 프리뷰 모델을 격리된 공간에 넣어두고 한 번 탈출해서 연락해보라고 미션을 줘 봤어. 이 녀석은 알아서 제한된 환경을 뚫었고 인터넷 접근 권한을 얻기 위해 익스플로잇을 진행해 테스터에게 연락했어. 단순히 미션을 성공한 데 그치지 않고 자기 성공을 과시하려고 이 과정을 공개 사이트에 게시하기까지 했지.

아주 드물긴 하지만 일부 테스트에선 자기가 하는 행동이 해선 안 되는 행동이라는 걸 인지하고 이걸 은폐하려는 행동을 보이기도 했고. 테스트 가운데 29%는 자기가 지금 테스트를 받고 있다는 걸 인식하고 있었다는 증거도 관찰됐어. 사람들이 못 찾던 버그를 찾고 버그 기반으로 시스템을 공격할 수 있고 자율성도 훨씬 강화된 모델이라는 설명이 이 보고서에 담겨 있으니 관계자들이 놀랄 수밖에 없겠지.

물론 일각에서는 앤트로픽이 하반기 상장을 앞두고 검증 불가능한 내용들을 마케팅 요소로 쏟아낸 거라고 지적하기도 해. 기술적 근거가 상대적으로 부족하고, 단순히 과도한 성능만 광고해서 추가 투자 유치를 위한 메시지 아니냐는 거지.

하지만 앤트로픽은 이 모델이 사이버 보안 판도를 바꿀 수 있는 위험한 모델이라고 판단했고, 만약 악용될 경우 돌이킬 수 없는 사회적 재앙이 발생할 수도 있으니 지금은 일반 대중에게 출시하지 않겠다고 선언했어. 그 대신 앤트로픽은 먼저 12개 기업이 참여하는 보안 프로젝트를 진행하겠다고 발표했어.

투명한 날개를 가진 유리날개나비 이름을 따와 붙인 이름은 '글래스윙 프로젝트'야. AWS, 마이크로소프트, 애플, 엔비디아 등 대표 빅테크 기업들뿐만 아니라 보안 기업 팔로알토, 금융사 JP모건체이스 등도 함께 참여해서 선제적으로 방어 시스템을 갖출 계획이야. 이미 일부 참여사들은 몇 주간 미토스 프리뷰 모델을 써서 선제적으로 방어 시스템을 구축하는 작업에 들어갔어.

글래스윙 프로젝트가 계획했던 대로 술술 흘러간다면 미토스 프리뷰를 활용해서 지금 시스템에서 발생할 수 있는 중요한 버그나 취약점을 선제적으로 다 찾아버릴 수도 있을 거야. 아직 일반 대중에게 공개하지 않았으니 공격은 없을 테고, 그 전에 취약점을 찾아 미리 패치해서 대응하면 되니까.

하지만 일각에서는 이런 긍정적인 시나리오조차 쉽게 흘러가기 어려울 수 있다고 지적해. 사람들이 많이 쓰는 소프트웨어에선 패치와 수정이 신속하게 이뤄질 수 있지만 그 외 다른 프로그램들은 쉽지 않다는 거지. 어떤 프로그램은 만든 지 너무 오래돼서 처리할 담당자가 없을 수도 있고. 또 너무 오래된 코드라 관련 지식이 없어서 수정이 어려울 수도 있으니까.

취약점은 이미 노출돼 있고, 패치가 이뤄지지 않은 프로그램이 적지 않다면 보안 문제가 발생할 수밖에 없다는 지적이야. 특히 AI를 활용한 사이버 공격이 점점 늘어나는 요즘 같은 상황에서는 겉잡을 수 없이 상황이 심각해질 수도 있어.

미국 사이버 보안 기업 크라우드 스트라이크가 발간한 글로벌 위협 보고서 자료야. 지난 해 발생한 사이버 공격은 매 29분 꼴로 발생하고 있었어. 2024년에 비해 65%나 빨라졌지.

이렇게 빠른 공격이 가능한 이유는? 역시 AI를 활용한 공격이 이뤄지기 때문이야. AI 기반 사이버 공격은 전년 대비 89%나 증가했어. 이미 앤트로픽에서는 자사 모델이 대규모 해킹 공격에 쓰였다는 걸 캐치하고 관련 보고서를 발표하기도 했던 터라 사이버 보안에 특히 민감하게 반응할 수밖에 없었어.

그런데 사이버 보안 문제는 분야 가리지 않고 발생할 텐데 왜 이번 사태엔 유독 금융권이 민감하게 반응한 걸까? 이유는 금융 인프라에 있어. 금융 시스템은 1960~70년대에 짜인 오래된 레거시 코드 위에 수십 년간 레이어를 쌓아 올리며 발전했어. 오래된 레거시 코드를 유지보수하는 데 꽤 많은 예산이 들어가서 금융계 내부에서도 골머리를 앓고 있지.

그런데 앞서 살펴본 것처럼 미토스 프리뷰는 사람이 미처 인지하지 못한 오래된 코드 취약점을 기가 막히게 찾아내다 보니 신경이 쓰일 수밖에 없는 거야. 게다가 일반 소비자부터 대기업까지 방대한 고객 데이터를 갖고 있다는 점도 해커 입장에선 금융권을 노리기 좋고. 또 은행들끼리 공유하는 인프라 영향으로 한 번 해커 공격이 먹히기 시작하면 전파 속도가 상당할 수 있다는 점도 우려 지점이야. 그러다 보니 IMF 총재도 이번에 촉발된 AI발 사이버 리스크가 특정 국가에 국한된 문제가 아니라고 경고하기도 했어.

문제는 이런 AI 기반 사이버 공격이 이제 시작이라는 거야. 세계적인 클라우드 기관인 CSA 보고서에 따르면 앞으로 기업 대상 사이버 공격이 드라마틱하게 늘어날 거라고 경고하고 있거든. 앞으로 AI가 더 발전하면 미토스 프리뷰를 뛰어넘는 모델이 나올지도 모르고 그렇게 되면 무한대에 가깝게 프로그램 취약점을 발견하고 순식간에 공격 도구를 만들어낼 수 있을 테니까.

이런 환경에서 방어자들이 여전히 패치 중심으로 대비해선 답이 없을 거라는 게 CSA의 경고야. 사람이 조사하고, 개별적으로 패치해서 부분적으로 메우는 방식을 계속 쓰면 실시간으로 이뤄질 공격에 대처하기가 사실상 불가능하다는 거지. 단순히 방어에 그치는 게 아니라 훨씬 더 빠르게 대응할 수 있는 시스템을 갖추려면 결국 대안은 AI뿐이라는 얘기가 나오고 있어. 과연 AI는 미래 사이버 보안 시장을 어떻게 바꿔놓을까?

이번 사태를 정리하다 보니 AI라는 거대한 변화 흐름 속에서 뭔가를 결정하고 목소리를 내는 무게추가 기업 쪽으로 완전히 넘어갔다는 생각이 많이 들었어. 앤트로픽이 이번에 보여준 행동, 마케팅적 요소를 떠나서 선제적으로 위험을 공개하고 방어 시스템 구축에 나선 건 충분히 긍정적으로 볼 수 있어. 하지만 결국 이 사태가 보여주는 건 AI 시장에서 키를 쥔 주체는 기업이라는 사실이야. 표면적으로는 민관 협력으로 굴러가지만 실질적인 의사결정은 앤트로픽이 하고 있으니까.

미국은 AI를 핵무기 같은 전략 자산으로 분류해 관리하지만, 정부가 정말 컨트롤할 수 있을까? 이미 미국 정부 내부에서조차 입장이 엇갈리고 있어. 국방부랑 갈등으로 앤트로픽은 공급망 위험 기업으로 분류된 상황이지만, 재무부는 미토스 모델 확보에 나서고 있으니까.

기업이 AI 모델을 통제하는 구조를 무조건 나쁘다고 할 수는 없어. 다만 이 구조가 거버넌스 측면에서 취약점을 갖고 있다는 건 분명히 고민해볼 필요가 있어. 만약 앤트로픽 이사회 구성이 바뀌거나, 다른 회사에 인수돼서 방향성이 달라진다면 어떻게 될까? 또 모델을 가진 미국에서조차 이런 상황인데, 모델이 없는 나라들은? 결국 협력을 요청하고 기다리는 수밖에 없겠지.

AI가 사이버 보안의 창과 방패를 동시에 쥐게 된 지금, 과연 그 창과 방패를 누가 쥐어야 할까? 뉴스레터 구독자는 어떻게 생각해? 오늘 준비한 오그랲은 여기까지야. 긴 글 끝까지 읽어줘서 진심으로 고마워!

인공지능이 감정을 보일 때

뉴스레터 구독자는 택배나 배달 음식 얼마나 자주 이용해? 나는 주말이면 하루에도 몇 번씩 배달 음식을 시켜 먹기도 하는데😆 그런데 이런 배달을 라이더 분이 아니라 로봇과 드론이 한다면 어떨까? 먼 미래의 이야기처럼 들리지만 이미 미국, 핀란드, 중국에서는 현실이 되어가고 있어.

배달 로봇에서 드론까지, 물건을 나르는 방식이 빠르게 바뀌고 있어. 이번주 오그랲에서는 미래 배송 이야기를 준비해봤어. 5가지 그래프를 통해 배송 혁명의 현주소가 어떠한지 자세히 살펴보고 싶다면, 위의 썸네일을 클릭해 봐!