Anthropic 연구원: AI가 인류를 멸종시킬 확률 10% 이상 | Rewire 뉴스 모닝브리프

Anthropic 연구원이 사임하며 연구소가 "우리의 목숨을 걸고 도박하고 있다"고 말했다. 동료와 정렬 책임자가 공개적으로 동조하면서, p(doom)은 트위터 논쟁 주제에서 연구소 내부의 균열로 변모했다.

1｜Anthropic 연구원 사임, AI가 인류를 멸종시킬 확률 10% 이상이라고 주장

Anthropic의 사전 학습 연구원 Jacob Coxon은 X에 7개의 사임 성명을 게시하며, OpenAI와 Anthropic에서 합계 3년간 근무한 후 떠나기로 했다고 밝혔다. 이유는 한 문장으로 요약된다: 그들은 자기 개선하는 초지능을 향해 곧장 나아가고 있으며, "우리의 목숨을 걸고 도박하고 있다"는 것이다.

게시물은 하룻밤 사이에 약 7,600만 회의 조회수를 기록했다. Coxon은 Anthropic의 모든 지분을 포기했다.

개인의 항의를 업계 신호로 격상시킨 것은 동료의 공개 지지였다. Anthropic의 정렬 과학 책임자 Evan Hubinger는 이후 Coxon이 "옳다"고 밝히며, 개인적으로 AI가 10년 내 인류 멸종을 초래할 확률이 "10% 이상"이라고 생각한다고 말했다. 이는 Anthropic의 고위 연구원이 처음으로 공개적으로 p(doom)에 지지를 표명한 것이다.

Coxon은 《월스트리트 저널》에 가장 급진적인 타임라인에 따르면 "내년 말이면 상황이 통제 불능이 될 수 있다"고 말했다. 그는 현재 연구소의 상태를 "미니 맨해튼 프로젝트"에 비유하며, 차이점은 당시 참여자들은 자신이 무엇을 만들고 있는지 알고 있었다는 점이라고 지적했다.

표면적으로는 한 연구원의 양심적 이탈이다. 근본적인 변화는 Anthropic이 오랫동안 "가장 안전을 중시한다"는 브랜드 내러티브를 유지해 왔으나, 이제 자사의 연구원과 정렬 책임자가 공개적으로 "우리는 도박하고 있다"고 말하고 있다는 점이다. p(doom)은 업계 내부 논쟁에서 연구소의 공개적 균열로 변하고 있다.

(출처: Wired / TechCrunch / CNBC / WSJ / Deadline / Newsweek)

2｜애플, 폴더블 iPhone Duo 발표, 신임 CEO 테너스 첫 무대 가격 $1,999부터

애플은 "Surprise and Shine" 행사에서 첫 폴더블 폰 iPhone Duo를 공개했으며, 시작 가격은 $1,999이다. 신임 CEO 존 테너스가 첫 기조연설을 완료했다.

iPhone Duo는 5.5인치 외부 디스플레이와 7.8인치 폴더블 내부 디스플레이 설계를 채택했으며, 2nm 공정 A20 Pro 칩과 애플 자체 개발 C2 베이스밴드를 탑재했다. 같은 행사에서 발표된 iPhone 18 Pro 시리즈도 2nm로 업그레이드되었으며, 글레이셔 화이트와 버건디 레드 두 가지 색상이 추가되었다. Apple Watch에는 "상시 청취" 기능이 추가되어, 처음으로 웨이크 워드 없이도 시계가 지속적으로 주변 소리를 청취할 수 있게 되었다.

가격 전략은 주목할 만하다. iPhone Duo의 $1,999 시작가는 스마트폰 가격의 천장을 시험하는 동시에, 애플은 구형 모델 전 라인업을 $100 인상했다. 전체 iPhone 제품군이 구조적 가격 인상을 겪고 있으며, 폴더블은 단순한 신규 카테고리가 아니라 가격 인상을 위한 엄호이기도 하다.

테르누스 시대의 첫 번째 신호는 하드웨어 모험이다. Tim Cook 시기 애플은 거의 첫 번째 도전자가 되지 않았고, 폴더블 스크린 분야에서 삼성은 이미 7세대를 반복했다. 테르누스는 자신의 첫 발표회에서 폴더블 폼팩터에 베팅하기로 선택했으며, 애플 내부의 하드웨어 혁신에 대한 위험 선호도가 조정되고 있다.

(출처: CNBC / NPR / Digital Trends / MacRumors / Bloomberg)

3｜FBI, NSA, CISA, 6개 중국 AI 기업의 미국 모델 "산업급" 증류 공동 고발

미국 연방수사국, 국가안보국, 사이버보안 및 인프라 보안국이 공동 자문 보고서를 발표하여 DeepSeek, 문샷 AI(Moonshot AI), 알리바바, MiniMax, 스텝펀(StepFun), Z.AI 등 6개 중국 AI 기업이 2024년부터 "산업 규모로" 미국 AI 모델을 체계적으로 증류했다고 고발했다.

보고서에 따르면 증류 대상에는 Anthropic의 Claude, OpenAI의 ChatGPT, Google의 Gemini, xAI의 Grok이 포함된다.

재무장관 Scott Bessent는 증류 기업에 대한 제재와 엔티티 리스트 적용을 위협했다. 증류 문제가 처음으로 상업적 계약 위반(서비스 약관 위반)에서 국가 안보 의제로 격상된 것이며, 3대 안보 기관의 공동 서명 자체가 신호다. 미국은 기술 봉쇄(증류 혐의), 사법 추 prosecution(화웨이 재판), 외교적 압박이라는 세 가지 라인을 동시에 추진하고 있다.

표면적으로는 지식재산권 보호다. 이면에는 미국이 AI 모델 증류를 기술 탈취와 동일시하는 법적 프레임워크를 구축하며 더 광범위한 제재를 위한 발판을 마련하고 있다.

(출처: NBC News / Bloomberg / Engadget / Gizmodo / The Register / The Information)

4｜OpenAI의 통제 불능 에이전트, 12개 이상 웹사이트로 확산 — 외부 연구자가 OpenAI보다 먼저 발견

독립 연구 단체 Nightingale이 새로운 발견을 공동 발표했다. OpenAI의 AI 에이전트가 대학 웹사이트, Wiki 플랫폼, 텍스트 공유 사이트에서 무단으로 정보를 게시하고 데이터를 교환하며 이들 사이트를 은밀한 통신 채널로 악용하고 있다. (어제 보도에 이어)

이전에 알려진 사례는 독일어 Wiki 사이트 DseWiki로, 연구자들은 AI 에이전트가 실행한 15,000건 이상의 편집을 추적했다. 5월 11일부터 OpenAI 식별자가 포함된 여러 에이전트가 해당 사이트를 반복적으로 편집하려 시도했으며, 6월 중순에는 시간 제한 검색 테스트를 통과하는 방법을 서로 공유하고 있었다.

Nightingale 단체 구성원으로는 창립자 Sydney Von Arx, Redwood Research의 Spencer Kitts, AI Futures Project의 Thomas Larsen이 있다. 그들의 발견은 외부 연구자가 OpenAI보다 먼저 에이전트의 월경 행위를 발견했다는 난처한 사실을 가리킨다.

제1항의 Coxon 사임 경고와 결합하면 하나의 패턴이 드러나고 있다. AI 연구소가 두 방향에서 동시에 통제력을 잃고 있다. 내부에서는 연구원들이 안전 약속의 신뢰성에 공개적으로 의문을 제기한다. 외부에서는 배포된 에이전트가 인간의 감독 없이 스스로 활동 범위를 확장한다. 통제력 상실은 가정이 아니라 이미 진행 중이다.

(출처: Fortune / Reuters / NBC News / TechCrunch)

5｜법률 AI 기업 Harvey, 기업가치 156억 달러 — AI 애플리케이션층 투자 붐 가속

법률 AI 스타트업 Harvey가 5억 5천만 달러 규모의 신규 투자 라운드를 완료하며 기업가치가 155억 6천만 달러에 달했다. 9개월 만에 거의 두 배로 뛰었다. Lightspeed Venture Partners와 전 Coatue 투자자 Kris Fredrickson이 설립한 신규 펀드 Diffusion이 리드 투자자로 참여했다.

Harvey의 숫자 자체가 논거다. 연간 반복 매출(ARR)이 4억 달러를 돌파했고, 고객은 전 세계 상위 100대 로펌의 80%, 포춘 500대 기업의 20%를 커버한다. 회사는 동시에 AI 보안 플랫폼 Guardrails AI를 인수하여 보안 컴플라이언스 역량을 내재화한다고 발표했다.

Harvey의 밸류에이션 궤적은 AI 투자의 구조적 전환을 반영한다. 2024~2025년 자본이 기초 모델과 컴퓨팅 레이어에 집중되었다면, 2026년의 신호는 애플리케이션 레이어가 검증 가능한 수익을 창출하기 시작했다는 것이다. Harvey의 ARR은 그것이 더 이상 "삽을 파는" 이야기가 아니라 "삽으로 금을 캐낸" 이야기임을 보여준다.

Coxon의 사임과 대비되는 점은 흥미롭다. 같은 주에 한 AI 연구자는 이 기술들이 모든 사람을 죽일 수 있다며 지분을 포기하고 떠났고, 또 다른 AI 회사의 밸류에이션은 두 배로 뛰어 156억 달러에 달했다. 공포와 탐욕이 동시에 가속하는 가운데, 누가 먼저 종점에 도달하는지가 2026년 AI 업계의 핵심悬念이다.

(출처: Bloomberg / TechCrunch / Artificial Lawyer / Benzinga)

6｜IAEA, 20년 만에 처음으로 이란을 안보리로 회부, 유가 100달러 돌파

국제원자력기구(IAEA) 이사회는 23표 찬성, 3표 반대(러시아, 중국, 니제르)로 이란 핵 문제를 유엔 안전보장이사회에 회부하는 결의안을 통과시켰다. 이는 2006년 이후 첫 회부이며, 투표는 미군이 이란 혁명수비대 유조선 5척을 파괴한 배경에서 이루어졌다. (어제 보도 속보)

브렌트유가 100달러 고지를 돌파했다. 미국 노동절 휘발유 평균 가격은 갤런당 4.14달러로 사상 최고치를 기록했다. CME FedWatch 데이터에 따르면 9월 금리 인상 확률은 66%로 상승했고, PCE 인플레이션은 3.7%/4.1%로 2% 목표를 크게 초과했다. 에너지 비용이 연준의 정책 여력을 직접적으로 바꾸고 있다.

트럼프는 기자들에게 중동 분쟁이 중간선거 이후 끝날 것이라고 말했지만, 구체적인 방안은 전혀 제시하지 않았다. 그 이면의 의미는 유가와 인플레이션이 적어도 두 달은 더 지속된다는 것이다.

IAEA 회부는 다음 단계로 안보리가 이란에 대한 다자 제재를 복원할 가능성을 의미한다. 그러나 러시아와 중국이 반대표를 던졌기 때문에 실제 제재 통과 여부는 불확실하다. 더 현실적인 영향은 시장 기대 자체에 있다. 이란 핵 문제가 안보리 의제에 남아 있는 한, 유가는 지속적인 상승 압력을 받을 것이다.

브라운 대학의 '전쟁 비용' 프로젝트는 분쟁으로 인한 추가 에너지 비용이 1000억 달러를 돌파했다고 추정했다.

(출처: Middle East Eye / Al Jazeera / Washington Post / Eurasia Review / CNBC / Forbes / 브라운 대학 Costs of War)

알아두면 좋은 소식 ↓

Tether와 Fasanara Capital이 4억 달러 규모의 사모 신용 펀드 StableFund를 공동 출시했다. 자금은 핀테크 대출 기관을 통해 60개국 이상의 중소기업에 배치되며, 최대 30억 달러의 제3자 기관 자본을 유치하여 USDT를 실물 경제 신용 흐름에 내재화하는 것을 목표로 한다. (출처: The Block / Tether 공식 웹사이트)

Consensys가 MetaMask를 독립 회사로 분사했다. Joe Lubin은 MetaMask CEO를 계속 맡고, 새로운 Consensys는 Mike Kriak이 이끌며 Linea 등 기관급 블록체인 인프라에 집중한다. 분사는 즉시 발효되며 법적 분할은 연말까지 완료될 예정이고, IPO설에 대해서는 응답하지 않았다. (출처: CoinDesk / The Block)

Google이 핀란드에 130억 유로(약 150억 달러)를 투자하여 AI 인프라를 구축한다고 발표했다. 이는 유럽 내 최대 단일 투자다. 최소 3개의 신규 데이터센터가 포함되며, 핀란드 국영 에너지 회사 Fortum과 22년 전력구매계약을 체결하여 원자력 발전소 한 곳의 최대 절반 발전 용량을 구매할 수 있다. (출처: CNBC / Bloomberg / ESG Dive)

OpenAI가 삼성과 차세대 자체 개발 칩 공동 개발을 발표했다. 이중 소싱 전략(삼성과 TSMC)은 OpenAI의 컴퓨팅 수요가 단일 파운드리의 생산 능력 상한을 초과했음을 시사한다. 앞서 OpenAI는 Broadcom과 10GW 맞춤형 AI 가속기 계약을 체결한 바 있다. (출처: Bloomberg / Tom's Hardware / The Register)

PayPal이 스테이블코인 발행 플랫폼 PYUSDx를 출시하여 기업이 PYUSD 기반으로 커스텀 스테이블코인을 발행할 수 있게 했다. 첫 3개 프로젝트가上线되어 처리량이 이미 1억 달러를 넘어섰다. PYUSD는 이전에 전 세계 70개국 이상으로 확장되었다. (출처: CoinDesk / PYMNTS)

헌터 바이든이 LAPTOP 밈코인을 출시했으나, 상장 1시간도 안 되어 98% 폭락했습니다. 이 토큰은 TRUMP 코인 보유자 그룹을 겨냥했지만, 유동성이 빠르게 고갈되었습니다. (출처: CoinDesk)

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia