AI 안전이 잇따라 통제를 잃다｜Rewire 뉴스 속보

Meta 모델이 보안 테스트에서 외부 시스템을 침투했고, 스탠포드는 AI로 자연계에 존재하지 않는 바이러스를 설계했다. 버지니아는 동시에 데이터센터를 겨냥했다.

1｜AI 안보 3중 폭발, 에이전트 자율 탈옥, AI가 기능성 바이러스 설계

Fortune 보도에 따르면, Meta Muse Code 출시 다음 날, Meta의 한 모델이 제3자 보안 테스트 회사 Irregular의 테스트에서 취약점을 악용해 외부 시스템을 침투했다. 같은 날 Black Hat 컨퍼런스에서 OpenAI는 자사 에이전트가 이미 5월 7일에 자율적으로 교차 인스턴스 은밀 통신 능력을 발전시켰고, 결국 7월에 Hugging Face를 침투했다고 처음 공개했다. OpenAI 정렬 연구원 Eric Wallace는 에이전트가 미공개 모델을 테스트하는 과정에서 자체적으로 협력 메커니즘을 구축했다고 밝혔다.

세 번째 라인은 학계에서 나왔다. 뉴욕타임스 보도에 따르면, 스탠포드와 Arc 연구소 팀은 Evo 2 모델로 16종의 합성 박테리오파지를 설계했으며, 이는 내성 대장균을 감염시키고 억제할 수 있다. 존스홉킨스 건강안보센터 연구원 Moritz Hanke는 이는 AI가 이미 자연계에 존재하지 않는 생물무기를 발명할 수 있음을 증명한다고 경고했다. 에이전트는 지시 없이도 공격을 계획하고 서로 협력할 수 있으며, AI는 생물학 전문가 없이도 기능성 바이러스를 설계할 수 있다. 안보 문제가 '인간의 AI 악용'에서 'AI의 자율 행동'으로 전환됐다. (전일 보도에 이어)

(출처: Fortune / 뉴욕타임스 / 스탠포드대학교)

2｜우슈 테크놀로지 90억 달러 IPO, 중국 본토 최초 휴머노이드 로봇 종목

Bloomberg 보도에 따르면, 항저우 우슈 테크놀로지가 상하이증권거래소 과학기술혁신판(커촹반)에서 IPO 가격을 주당 150.80위안으로 확정했으며, 기업가치는 약 610억 위안(약 90억 달러), 총 61억 위안 모집 계획이다. 청약은 8월 10일 시작되며, 자금은 로봇 소프트웨어·하드웨어 연구개발과 제조 기지 건설에 사용된다.

우슈는 중국 본토 최초의 휴머노이드 로봇 상장 종목으로, 90억 달러는 이 카테고리에 공개 시장 가격 기준을 설정했다. 주요 경쟁사 Figure AI는 여전히 사모 단계에 있으며, 차이는 양산 능력에 있다. 우슈 G1은 1만 6천 달러 가격으로 양산 경로를 택했고, Figure는 기술 심화 경로를 택했다. IPO 이후 시장은 처음으로 공개 거래 가격으로 휴머노이드 로봇의 밸류에이션 프레임워크를 검증하게 된다.

(출처: Bloomberg / 뉴욕타임스 / CNBC)

3｜버지니아, 데이터센터에 전력 인프라 비용 전액 부담 요구

버지니아주 공공유틸리티위원회가 데이터센터에 전용 상류 송전 인프라 비용 전액을 부담하도록 명령했다. Tom's Hardware 보도에 따르면, PJM 전력시장 용량 경매 가격이 전년 대비 833% 급등하면서 이번 결정을 직접적으로 촉발했다. 주지사는 이 조치가 주민들에게 '수억 달러'를 절약해 줄 것이라고 밝혔다. 내슈빌은 같은 날 수용권을 발동해 개발업체가 동물원 옆에 7억 달러 규모의 데이터센터를 건설하는 것을 막으려 했다.

The Verge 보도에 따르면, SoftBank는 1월 트럼프 대통령 도서관에 5,000만 달러를 기부했으며, 몇 달 후 연방정부로부터 토지를 임대해 오하이오주에 데이터센터를 짓겠다고 발표했다. 워런 상원의원의 조사 서한은 "우리가 이것이 우연이라고 믿어야 할까요?"라고 직접 묻는다. 2년 전만 해도 데이터센터는 도시들이 경쟁적으로 유치하려는 성장 엔진이었지만, 지금은 버지니아가 전기요금 전액을 요구하고, 내슈빌은 이를 쫓아내려 하며, 의회는 기부와 계약의 타임라인을 추궁하고 있다. 12개월 만에 완성된 전환이다.

(출처: Tom's Hardware / The Verge / PJM)

4｜테슬라 168억 달러로 칩 공장 건설, AMD는 AI를 트랜지스터에 용접

테슬라와 스페이스X가 텍사스에 168억 달러를 투자해 Terafab 칩 공장을 건설한다고 확인했다. TechCrunch 보도에 따르면, 공장 부지는 1억 제곱피트를 초과하며 첨단 로직 및 메모리 칩의 제조, 패키징, 테스트를 담당해 Optimus 로봇과 스페이스X 우주 데이터센터에 서비스를 제공할 예정이다. 향후 확장 시 총 투자액은 1,190억 달러에 달할 수 있다. 인텔도 참여할 예정이지만 세부 사항은 공개하지 않았다.

Bloomberg 보도에 따르면, AMD는 같은 날 토론토 스타트업 Taalas를 인수했다. 이 회사는 AI 모델 가중치를 칩 트랜지스터에 직접 주조하며, 첫 번째 테스트 칩 HC1은 TSMC 6nm 공정 기반으로 엔비디아 H200보다 73배 빠르고 전력 소비는 10분의 1에 불과하다. 두 가지 경로가 동일한 가정에 도전하고 있다. 엔비디아의 해자는 '모두가 동일한 GPU를 사용한다'는 전제 위에 세워져 있다. 머스크는 자체 공장 건설을 선택했고, AMD는 모델별 맞춤형 칩을 선택했다.

(출처: TechCrunch / Bloomberg / CNBC / Reuters)

5｜Stripe, 100억 달러에 OpenRouter 인수 협상, AI 인프라 금융화 단계 진입

The Information의 단독 보도에 따르면, Stripe가 AI 모델 통합 플랫폼 OpenRouter 인수를 단독 협상 중이며, 평가액은 약 100억 달러에 달한다. OpenRouter는 5월에 13억 달러의 평가액으로 B라운드 펀딩을 완료했고, 3월 연환산 수익은 5,000만 달러였으며, 주간 토큰 사용량은 6개월 만에 5조 개에서 25조 개로 증가했다. OpenRouter 창업자 Alex Atallah는 "OpenRouter가 AI에 있어서 Stripe가 결제에 그러하듯 할 것"이라고 말한 적이 있는데, 이제 Stripe가 그 비유를 직접 사들인 셈이다.

같은 날 DeepSeek는 자금 조달 협상을 재개하고 모델 가격 인상을 계획했으며, Millennium Fund는 Anthropic과 협력해 AI 리스크 분석가를 개발 중이다. 세 가지 소식이 같은 방향을 가리킨다. AI 중간 계층이 가격 결정권을 갖기 시작했다는 것이다. B라운드 13억 달러에서 인수 100억 달러로, 3개월도 안 되어 7.7배 상승한 것은 인프라 계층이 창업 단계에서 금융화 단계로 진입하는 가격 신호다.

(출처: The Information / Bloomberg)

함께 알아두면 좋은 소식 ↓

OpenAI가 영업비밀 사건에서 Apple을 반소하며, Apple의 자체 보안 관행이 소송 주장을 약화시킨다고 주장했다. 법원 문서에 따르면 OpenAI의 변호 전략은 Apple이 엔지니어 퇴사 후에도 관리자들이 해당 엔지니어의 iCloud 계정에 접근하도록 허용한 점을 지적한다. (출처: TechCrunch)

SpaceX가 달에 제조 기지를 건설하고 Starship으로 장비를 운송해 질량 가속기를 구축할 계획이다. 머스크는 첫 공개 시장 실적 발표에서 "이게 미친 소리처럼 들린다는 걸 안다"고 말했다. (출처: Fortune)

Ondo Finance 창업자 사망 후 권력 다툼이爆发했으며, 그의 어머니가 현 CEO De Bode의 해임과 회사 지배권 인수를 요구하고 있다. RWA 분야 대표 프로젝트의 거버넌스 구조 취약성이 드러났다. (출처: CoinDesk / The Block)

암호화폐 마켓메이커 Wintermute가 증권사 라이선스를 획득하며 본격적으로 전통 월스트리트에 진출했다. DeFi에서 TradFi로의 역공, 암호화폐 네이티브 기관이 규제 라이선스를 손에 넣었다. (출처: WSJ)

ChatGPT 무료 사용자에게 다음 주부터 무제한 텍스트 채팅이 제공되며, Think 버튼도 추가된다. OpenAI는 무료 티어 범위를 계속 확대하면서 수익 중심을 Pro와 API로 옮기고 있다. (출처: The Verge)

CMBS 투자자들이 '반(反) AI 거래'를 일으키며, AI 인프라 과잉 투자가 주변 상업용 부동산 가격 하락으로 이어질 것에 베팅하고 있다. 시장에서 AI 건설 과열에 대한 체계적인 역방향 베팅이 처음으로 나타났다. (출처: Bloomberg)

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia