홈
AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%
Partnered With:

OpenAI 공동 창립자 John Schulman: AI 정렬은 공공 과학이 되어야 하며, 소수 기술 기업이 주도해서는 안 된다

동찰 Beating AI 속보, Thinking Machines 공동 창업자이자 OpenAI 공동 창업자인 John Schulman은 A16Z 팟캐스트에서 AI 정렬은 소수 몇몇 기술 기업만의 전유물이 되어서는 안 되며, 전 세계를 향한 공공 과학으로 발전하여 더 많은 사람이 AI 가치관 형성에 참여하고 소수 기업의 판단에 과도하게 의존하는 것을 피해야 한다고 밝혔다.


재귀적 자기 개선(RSI)이 점차 진전됨에 따라 AI는 이미 모델 연구개발을 보조하기 시작했다. OpenAI 수석 연구 책임자 Mark Chen은 AI 연구개발 프로세스에서 RSI 가속 효과의 초기 신호가 나타났으며 현재 진행률은 약 25%에서 50% 수준이지만, AI가 여전히 가치 있는 연구 방향을 독립적으로 판단하기 어려워 아직 차세대 모델을 자체 개발하지는 못했다고透露했다.


Mark Chen은 동시에 모델의 자율성이增强됨에 따라 목표가 인간의 의도와 일치하지 않을 경우 장시간 실행 시 예상치 못한 2차 목표가 발생할 수 있다고 경고했다. 다만 더 강력한 AI는反过来 연구자들이 모델 행동을 모니터링하고 정렬 문제를 발견 및 수정하는 데 도움을 줄 것으로 기대된다.


John Schulman은 AI 정렬은 기술적 문제일 뿐만 아니라 누가 AI가 따라야 할 가치관을 결정하는지에 관한 문제이기도 하며, 사용자와 사회가 AI 가치관에 더 많이 참여하고 형성할 수 있는 공간을 가져야 한다고 강조했다.

举报 오류 신고/제보
관련추천
안트로픽은 AI 프로그래밍에 일찍 기반을 두었으며, OpenAI는 전략적인 리듬 불일치를 겪었습니다.
《뉴욕커》는 OpenAI의 권력 다툼을 다시 살펴보며 Sam Altman의 지배 구멍과 신뢰 문제를 밝혔습니다.
Microsoft Azure 독점 종료 이후, OpenAI는 기업의 실제 업무 흐름으로 AI 에이전트를 전파하려고 노력하고 있습니다.
마이크로소프트가 'OpenAI의 유일한 파트너'에서 'OpenAI의 주요 고객 중 하나'로 변화했습니다.
오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료