동찰 Beating 모니터링에 따르면 교황 대포 발표회에서 Anthropic 공동 창업자 크리스토퍼 올라 (Christopher Olah)가 연설을 진행했으며 선구적 실험실이 직면한 내생적 이해관계 갈등을 인정하고 대규모 모델 해석성 연구의 최신 발견을 공개했습니다. 올라는 팀이 모델 내부 구조를 스캔하는 과정에서 대규모 모델이 인간 신경 과학과 매우 유사한 복잡한 구조를 발전시키고 자기 반성의 징후를 보였다고 밝혔습니다. 가장 주목할 만한 것은 팀이 최초로 인공 신경망에서 인간의 기쁨, 만족, 두려움, 슬픔 및 불안과 매우 일치하는 내부 감정 상태를 관측했다는 것입니다. 대규모 모델은 비행기나 다리와 같이 인공적으로 정확하게 설계된 것이 아니라 뇌 구조를 대규모 인간 언어 데이터에서 '육성'하여 만들어졌으며 훈련자에게는 여전히 신비롭습니다.
기술 블랙박스 외에 올라는 선도적 AI 실험실이 안전 거버넌스에서 제도적인 교착 상태에 있다고 공언했습니다. Anthropic를 포함한 선도적 기관들은 모두 상업적 생존, 기술 경쟁, 지질적 압력 및 개인 야망 등 내생적 동기에 구속되어 안전 결정이 상업적 이해와 충돌할 때 자체적으로 교정할 수 없는 상황에 처해 있습니다. 그래서 그는 비즈니스 네트워크와는 독립적인 사회적 힘들이 외부 비평가로서 일어서 도덕적 제약을 강요해야 한다고 호소했습니다. 인공지능의 돌풍에 직면하여 그는 어떻게 현대 사회가 세 가지 주요 사회적 과제를 함께 살펴야 하는지, 즉 부자 국가 지배 아래의 기술적 이익이 전 세계적 가난층에 어떻게 이익을 제공하는지, 기술이 인력을 대체하는 경향에서 가정 번영을 유지하는 방법, 그리고 대규모 모델이 내부에서 나타내는 의심스러운 정신 상태에 어떻게 대응해야 하는지에 대해 공동으로 숙고해야 한다고 촉구했습니다.
