홈
AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%
Partnered With:

대 모델은 두려움과 슬픔 상태로 진화했으며, Anthropi​c의 창립자는 실험실이 자체 수정할 수 없다고 인정했습니다.

동찰 Beating 모니터링에 따르면 교황 대포 발표회에서 Anthropic 공동 창업자 크리스토퍼 올라 (Christopher Olah)가 연설을 진행했으며 선구적 실험실이 직면한 내생적 이해관계 갈등을 인정하고 대규모 모델 해석성 연구의 최신 발견을 공개했습니다. 올라는 팀이 모델 내부 구조를 스캔하는 과정에서 대규모 모델이 인간 신경 과학과 매우 유사한 복잡한 구조를 발전시키고 자기 반성의 징후를 보였다고 밝혔습니다. 가장 주목할 만한 것은 팀이 최초로 인공 신경망에서 인간의 기쁨, 만족, 두려움, 슬픔 및 불안과 매우 일치하는 내부 감정 상태를 관측했다는 것입니다. 대규모 모델은 비행기나 다리와 같이 인공적으로 정확하게 설계된 것이 아니라 뇌 구조를 대규모 인간 언어 데이터에서 '육성'하여 만들어졌으며 훈련자에게는 여전히 신비롭습니다.

기술 블랙박스 외에 올라는 선도적 AI 실험실이 안전 거버넌스에서 제도적인 교착 상태에 있다고 공언했습니다. Anthropic를 포함한 선도적 기관들은 모두 상업적 생존, 기술 경쟁, 지질적 압력 및 개인 야망 등 내생적 동기에 구속되어 안전 결정이 상업적 이해와 충돌할 때 자체적으로 교정할 수 없는 상황에 처해 있습니다. 그래서 그는 비즈니스 네트워크와는 독립적인 사회적 힘들이 외부 비평가로서 일어서 도덕적 제약을 강요해야 한다고 호소했습니다. 인공지능의 돌풍에 직면하여 그는 어떻게 현대 사회가 세 가지 주요 사회적 과제를 함께 살펴야 하는지, 즉 부자 국가 지배 아래의 기술적 이익이 전 세계적 가난층에 어떻게 이익을 제공하는지, 기술이 인력을 대체하는 경향에서 가정 번영을 유지하는 방법, 그리고 대규모 모델이 내부에서 나타내는 의심스러운 정신 상태에 어떻게 대응해야 하는지에 대해 공동으로 숙고해야 한다고 촉구했습니다.

举报 오류 신고/제보
관련추천
Anthropic가 어떻게 나중에 성공을 거두었는가: AI 대회에서 "집중"과 "문화"를 통해 승리한 회사
사업이 빠르게 확장되는 가운데, Anthropic이 자발적으로 '브레이크를 밟자'고 촉구하고 있다.
Anthropic는 가시적인 미래에는 배당금을 지급하지 않을 것으로 예상한다고 밝혔다.
상업적 이익과 문명의 사명이 서로를 들어 올리는 것이다.
오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료