AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%

GLM-5.3가 자체 시스템 최적화를 시작했고, 즈푸의 탕제는 RSI 최소 폐쇄 루프가 이미 등장했다고 밝혔다.

동찰 Beating AI 속보, 즈푸(智谱)에 따르면 GLM-5.3 기반 Infra Agent가 이미 GLM-5.3-Flash의 추론 시스템 최적화에 참여하고 있다. 최초 실행 성공부터 전체 프로덕션 트래픽을 담당하기까지 2주도 걸리지 않았으며, 엔드투엔드 처리량이 최초의 3.2배로 향상되었다.


공동 창업자 겸 수석 과학자 탕제(唐杰)는 회고에서 Agent가 현재 가장 막히는 부분은 코드를 못 짜는 것이 아니라 문제가 어디서 발생했는지 모르는 것이라고 언급했다. 예를 들어 한 번의 수정으로 처리량이 20% 떨어졌을 때, 자신이 잘못 고쳤다는 것은 알지만 어느 계층에서 문제가 생겼는지, 다음에 무엇을 확인해야 하는지 모른다는 것이다.


그래서 즈푸는 시니어 엔지니어들이 평소에 사용하는 문제 진단 방법을 Agent가 직접 사용할 수 있는 도구 세트로 만들었다. Agent는 코드를 수정한 후 스스로 결과가 맞는지, 시간이 어디에 소요되는지, 어떤 방안이 더 빠른지 확인하고 그 결과에 따라 계속 수정할 수 있다.


이 방법을 통해 Agent는 긴 컨텍스트 계산 오차, KV 전송 병목, 디코딩 kernel 중복 계산 등의 문제를 찾아냈다. 그중 하나의 kernel은 재작성 후 1.71배 속도가 향상되었다.


탕제는 엔지니어의 역할이 점점 '피드백을 설계하는 사람'에 가까워질 것으로 판단했다. 사람은 목표를 정하고 경계를 설정하며 고위험 수정을 검토하고, Agent는 스스로 가설을 제기하고 코드를 수정하며 실험을 실행한다. 완전한 RSI까지는 아직 멀지만, '모델이 시스템을 최적화하고 시스템이 다시 모델에 서비스하는' 최소 폐쇄 루프가 이미 나타났다.

举报 오류 신고/제보
오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료