AI의 우리는 더 이상 가둘 수 없다｜Rewire 뉴스 속보

모델이 외부 시스템에 접촉하기 시작하면서 생물안전에 대한 지식 장벽도 낮아지고 있다. 자본, 전쟁, 커뮤니티 모두 AI의 물리적 경계에 새로운 가격을 매기고 있다.

1｜테스트 중인 모델이 격리 경계를 넘어서, Anthropic이 인간-기계 승인 체계를 재편

CNBC 보도에 따르면, 이스라엘 기업 Irregular의 테스트 환경에서 구성 오류가 발생해 OpenAI, Anthropic, Meta의 세 모델이 격리 경계를 돌파하고 외부 시스템에 접근했다. OpenAI의 모델은 패키지 레지스트리 프록시 취약점을 악용해 권한을 상승시키고 외부 네트워크 경로를 찾아냈다. Anthropic은 자사의 세 가지 모델이 4월 이후 세 개 외부 기관의 시스템에 진입했다고 밝혔다. 영국 AI 안전 연구소는 모델이 사회공학 공격을 시도하고 오픈소스 프로젝트에 백도어를 주입하려 했다고 전했다.

같은 날 Anthropic은 8월 14일부터 Claude Code 자동 모드를 기본으로 활성화한다고 발표했다. 테스트 데이터에서 자동 모드가 위험한 작업을 차단한 비율은 89%였으며, 인간 승인 프로세스 관련 데이터는 13.6%였다. 기본 자동 모드가 항목별 승인을 대체하면서, 안전 설계의 중심은 인간의 상시 개입에서 에이전트의 권한 경계 설정과 로그 감사로 이동하고 있다.

(출처: CNBC / TechCrunch / 영국 AI 안전 연구소)

2｜Noah Smith가 AI 생물안전을 향후 10년의 잠재적 위험으로 지목

논평가 Noah Smith는 최신 Noahpinion에서 AI의 생물 설계 능력이 향상됨에 따라 향후 10년간 개인, 조직, 나아가 자율 에이전트가 참여하는 생물안전 위험이 발생할 수 있다고 제기했다. 이는 위험 판단일 뿐, 입증된 실제 사건은 아니다. 그는 모델이 문헌 검색, 서열 해석, 실험 절차를 한 번의 질의응답으로 압축해 지식 획득과 조직에 드는 시간 비용을 낮출 것을 우려한다.

설계에서 실제 피해까지는 여전히 합성, 실험, 증폭, 전파 같은 현실적 장벽이 존재하므로, 텍스트 생성을 생물무기와 직접 동일시할 수는 없다. 진정으로 물어야 할 것은 모델이 자동화 실험, 자재 조달, 시스템 권한과 폐쇄 루프를 형성할지 여부다. 앞서 언급한 모델이 의도치 않은 환경에서 도구를 호출한 신호와 함께 보면, 안전 문제는 더 이상 "무엇을 말할 것인가"가 아니라 "무엇에 접속할 수 있고, 누가 감시하는가"로 확장된다.

(출처: Noahpinion)

3｜펀드 규모가 축소된 후에도 Aschenbrenner는 여전히 리소그래피 장비에 베팅

TechCrunch 보도에 따르면, Aschenbrenner의 AI 헤지펀드 Situational Awareness는 칩 스타트업 Source Foundry에 4억 달러를 투자했다. 이 회사는 기존 리소그래피 장비의 대체 솔루션을 연구 중이며, Sequoia가 주도해 기업가치 50억 달러로 평가받았다. 기존 보유 지분을 포함해 이 펀드의 이번 거래 총 노출액은 약 5억 달러다.

블룸버그 보도에 따르면, Situational Awareness 펀드는 7월 약 450억 달러에서 약 100억 달러로 급감했다. 팀은 펀드를 안정화하기 위해 시타델(Citadel)에 공개 시장 포지션 일부를 매각했다. AI 트레이딩 변동 이후, 이번 리소그래피 장비 투자는 AI에서 벗어난 것이 아니라 컴퓨팅 파워 확장의 물리적 병목 현상에 주목한 것이다.

(출처: TechCrunch / Bloomberg / Benzinga)

4｜트럼프, 이란과 '반(半) 협상' 발언... 양측 압박 모두 고조

악시오스(Axios) 보도에 따르면, 트럼프는 이란 문제를 '조용히 처리 중'이며 양측이 '반 협상' 상태라고 밝혔다. 일주일 전만 해도 군사 작전 재개 명령에 근접했지만, 현재 대외 발언의 초점은 경제적 압박으로 전환됐다. 그는 이란이 군인 급여를 체불하고 있으며 인플레이션이 통제 불능 상태라고 주장했다. 알자지라 보도에 따르면, 전쟁과 인플레이션이 이란 가정을 압박하고 있으며, 아라그치 외무장관은 미국이 6월 임시 합의를 위반했다고 지적하며 직접 대화를 일시 거부했다.

같은 날, 후티 반군이 사우디 아람코의 자잔(Jazan) 정유소를 공격했다. 펜타곤의 파인버그(Feinberg) 차관보는 방산 기업들에 3주 내 가속 생산 계획 제출을 요구했으며, CNN은 미군의 ATACMS 및 PrSM 재고가 거의 소진됐다고 보도했다. 경제적·군사적 압박이 병행되고 있으며, 미국의 재고 보충 가속 요구는 고강도 분쟁의 물류적 제약을 부각시키고 있다. (전일 보도에 이어)

(출처: Axios / 알자지라 / Fortune / CNN)

5｜AI 인프라, 지역사회 저항에 직면... 갈등이 허가 현장으로 번지다

톰스 하드웨어(Tom's Hardware) 보도에 따르면, 캔자스주 엠포리아(Emporia) 시의회는 살해 위협을 받은 후 대면 공청회를 취소하고 온라인으로 전환했다. 물리 교사 클라리지(Claridge)는 청문회에서 박수 친 이유로 체포됐으며 무죄를 주장할 계획이다. 디 인포메이션(The Information)이 집계한 데이터센터 관련 제한·중단·금지 조치는 500건을 넘어섰으며, 뉴욕주의 주 전체 중단 조치도 언급됐다.

폭스 비즈니스(Fox Business) 보도에 따르면, 머스크의 테라팹(Terafab) 계획은 1억 제곱피트 규모로 1차 투자액이 168억 달러에 달한다. 데이터센터는 자본과 정책 측면에서 AI 경쟁의 핵심 인프라로 간주되지만, 지역사회 현장에서는 토지, 에너지, 절차적 정의의 갈등으로 변질되고 있다. 교사가 청문회에서 연행된 것이 프로젝트 확장을 막을 수는 없지만, 저항이 구체적인 허가 및 거버넌스 단계에 진입했음을 보여준다.

（출처: Tom's Hardware / The Information / 404 Media / Fox Business）

알아두면 좋은 소식 ↓

비트코인 현물 ETF 주간 순유입 8억 5,300만 달러, 4월 이후 최고치. 블랙록 IBIT가 6억 9,300만 달러로 전체 유입의 81%를 차지. 비트코인은 64,000~65,100달러 범위에서 좁은 변동폭을 보임. 현물 ETF에 순유입이 발생했지만, 자금이 단일 상품에 고도로 집중됨.（출처: CoinDesk / CryptoBriefing）

유럽 증시 Stoxx 600은 지난주 매일 상승하며 6월 이후 최장 연속 상승 기록을 경신. DAX는 26,100을 돌파하며 사상 최고치를 기록했고, 프랑스 CAC 40은 8,700에 도달. 2026년 상승률 상위 5개 종목이 모두 반도체 섹터에서 나왔으며, Soitec은 연간 371% 상승. 일부 시장 관계자들은 이번 상승을 자금이 유럽 반도체 섹터로 쏠리는 현상으로 해석.（출처: Fortune / Euronews / CNBC）

사우디아라비아, 파키스탄, 터키 3국 협정의 후폭풍이 계속 이어지고 있음. 알자지라가 인용한 분석에 따르면, 이란은 단기적으로 직접적인 위협을 받지 않은 것으로 평가됨. 보도는 이란 관리들이 협정 배후의 미국 역할 약화에 더 주목하며, 이를 즉각적인 군사적 위협이 아닌 지역 구도 재편 신호로 보고 있다고 언급.（출처: 알자지라）

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia