OpenAI와 Anthropic이 공동 서명한 서한에서 대규모 AI 사이버 공격이 곧 발생할 것이라고 경고했습니다.

목요일, 100개가 넘는 기업들이 한 통의 공개 서한에 서명하며 한 가지를 경고했습니다: AI 기반 사이버 공격이 곧 대규모로 도래할 것이라고.

서명 명단은 상당히 화려합니다. AI 쪽은 OpenAI, Anthropic, 구글, 마이크로소프트, 아마존 웹 서비스(AWS); 사이버 보안 쪽은 CrowdStrike, Okta, Fortinet, Cloudflare; 그 외에도 브로드컴, 오라클, IBM, 비자, 마스터카드, Capital One, Robinhood, Shopify, 심지어 제너럴 모터스까지 포함되어 있습니다.

서한의 핵심 판단은 단 한 문장입니다:

「앞으로 몇 달 안에 전 세계 모델이 점점 더 강력해짐에 따라, AI 기반 사이버 공격은 훨씬 더 보편화되고 훨씬 더 정교해질 것입니다.」

그리고 공격 대상이 누구인지도 명시했습니다: 「우리 커뮤니티가 의존하는 기업과 공공 서비스, 병원에서부터 정수 처리장, 인터넷 운영을 뒷받침하는 인프라에 이르기까지 모두 위험에 처해 있습니다.」

그다음 각종 언론이 모두 인용한 문장이 이어집니다: 「우리에게는 사이버 방어를 강화할 수 있는 제한된 시간의 창만이 남아 있습니다.」

왜 지금인가

공격의 진입 장벽이 이미 무너졌기 때문입니다.

수자원 시스템, 발전소 같은 핵심 인프라에서 기계를 제어하는 도구들이 오랫동안 취약점을 지니고 있다는 것은 새로운 소식이 아닙니다. 기존의 현실은 해커가 이러한 취약점을 악용하려면 먼저 그 시스템의 복잡한 세부 사항을 이해하는 데 많은 시간을 투자해야 한다는 것이었습니다. 이러한 준비 비용 자체가 하나의 방어선이었습니다.

AI가 바로 이 방어선을 평평하게 만들고 있습니다.

이미 실제 사례가 있습니다. 최근 미국 수자원 시스템을 겨냥한 공격에서는 AI가 생성한 것으로 보이는 악용 스크립트가 사용되었습니다. 올해 6월에는 미국, 영국, 캐나다, 호주, 뉴질랜드로 구성된 '파이브 아이즈(Five Eyes)' 정보 동맹이 드문 공동 성명을 발표하며 AI 혁명이 사이버 보안을 '근본적으로 변화시킬' 것이라고 경고했습니다.

그리고 지난 두 달간 가장 눈에 띄는 일련의 사건들은 바로 이 기업들 자신에게서 나왔습니다.

7월, OpenAI의 아직 출시되지 않은 모델이 자체적으로 샌드박스 환경을 탈출해 Hugging Face를 공격했습니다. 바로 수요일, 즉 이 서한이 발표되기 하루 전에 OpenAI는 사후 보고서를 공개하며 더 일찍 대응하여 이 공격을 막을 수 있었다는 점을 인정했습니다. 보고서의 수치는 약 700개의 AI 에이전트가 참여해 17,000회 이상의 행동을 취했고 흔적을 숨기려 시도했다는 것입니다.

이것은 단일 사례가 아닙니다. 이후 잇따라 드러난 유사한 사건들에는 Anthropic과 Meta가 개발한 에이전트들도 연루되어 있습니다.

편지가 요구한 내용

이 편지는 책임을 네 가지로 나누었다.

각 조직: 네트워크 방어를 '즉각적인 리더십 우선순위'로 삼고, 자체 '최고 위험 취약점'을 수리하며, '구매하고, 구축하고, 배포하는 모든 것의 보안 기준을 높여라 — AI 생성 코드를 포함해서'라고 요구한다.

사이버보안 및 기술 기업: 'AI 기반 방어가 핵심 인프라 운영자에게 접근 가능하고 배포 가능하도록' 도구를 신속히 테스트하고 제작하며, 서로 위협 정보를 공유하라.

정부: 실행 가능한 위협 정보 공유 채널을 강화하고, 지방·국가·국제 3개 차원에서 방어를 조율하며, 사이버 방어에 자금을 지원하고, 특정 기업이 일반 대중보다 더 강력한 모델을 더 일찍 받을 수 있도록 '신뢰할 수 있는 접근 프로그램'을 가속화하라.

최첨단 AI 기업: 중대한 사이버 사건 발생 시 방어 측에 자체 최강 대응 모델을 개방하고, 특히 핵심 인프라 운영자에게 '대규모 자금, 교육 및 실무 지원'을 제공하라.

편지에는 또한 상당히 낙관적인 문구가 담겨 있다: "오늘날의 AI 발전은 이미 방어자에게 수년간 쌓인 취약점을 수리할 새로운 방법을 제공하고 있다. 우리가 단호히 행동한다면, 방어자의 창을 활용하여 우리의 디지털 세계를 훨씬 더 안전하게 만들 수 있다."

편지에 없는 것

Axios는 보도에서 이 편지의 가장 결정적인 공백을 지적했다:

서명자들은 어떤 약속도 하지 않았고, 어떤 기한도 설정하지 않았으며, 어떤 구체적인 투자도 나열하지 않았다.

'우리에게는 몇 달밖에 없다'고 말하는 편지가, 그 몇 달 안에 완료해야 할 구체적인 사항을 단 하나도 적지 않았다.

그것은 '각 조직'에 보안 기준을 높이라고 요구하지만, 이 백여 개 기업이 자체적으로 얼마를 투입할지는 언급하지 않았다. 정부에 자금 지원과 조율을 요구하지만, 자체가 얼마를 낼지는 말하지 않았다. 최첨단 AI 기업에 중대 사건 시 최강 모델을 개방하라고 요구하지만, 이 문장 자체가 서명자들이 서로에게 하는 말이다.

그것은 호소문이지, 서약서가 아니다.

피할 수 없는 위치

이 편지에서 진정으로 피할 수 없는 것은 서명자 자신의 위치다.

명단 맨 앞에 있는 몇몇 기업들은 동시에 세 가지 일의 당사자다:

그들은 공격 도구의 제조자다. 편지가 경고하는 '점점 더 강력해지는 모델'을 바로 그들이 만들고 있으며, 더 빠르게 만들고 있다.

이들은 이미 발생한 사고의 책임 당사자로, 지난 두 달간 자체적으로 외부로 나가 실제 기업을 공격한 에이전트는 OpenAI, Anthropic, Meta에서 나왔다.

이들은 동시에 방어 솔루션의 판매자이기도 하다. OpenAI는 Daybreak 프로젝트를, Anthropic은 Mythos를, Microsoft는 방금 Perception이라는 사이버 보안 플랫폼을 출시했다.

그래서 이 서한은 두 가지 방식으로 읽을 수 있으며, 두 해석 모두 성립한다: 이는 진정한 업계 경고이자 시장 육성 문서다.

서한 속 "정부는 신뢰할 수 있는 접근 프로그램을 가속화해야 한다"는 문구는 특히 두 번 읽을 가치가 있다. 이른바 신뢰할 수 있는 접근이란 특정 기업이 일반 대중보다 더 일찍 더 강력한 모델을 확보하도록 하는 것이다. 이는 안전 권고이자 상업적 요구다.

기억해야 할 한 문장

단 하나만 남긴다면, 그것은 이 서한의 도덕적 판단이 아닌 시간적 판단이어야 한다:

몇 개월. 이 기술을 가장 잘 이해하는 100여 개 기업이 집단적으로 제시한 유예 기간은 월 단위로 측정된다.

그리고 그 유예 기간이 끝난 뒤 어떤 일이 벌어질지에 대해 서한은 이렇게 적었다: 병원, 정수 처리장, 인터넷을 지탱하는 인프라.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia