홈
AI AI
속보
심층
이벤트
Pro
더보기
자금 조달 정보
특집
온체인 생태계
용어
팟캐스트
데이터
OPRR
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
XRP
$2.25
2.07%
DOGE
$0.325
2.23%
USDC
$0.999
3.05%
Partnered With:

엔비디아 블랙웰, 최초의 에이전트 하드웨어 벤치마크 정상 등극: H200 대비 에너지 효율 20배, AMD 압도

동차 Beating 모니터링에 따르면, 평가 기관 Artificial Analysis가 업계 최초의 에이전트(Agent) 하드웨어 벤치마크인 AA-AgentPerf를 발표했습니다. 기존 평가는 단일 질의응답 '단거리 달리기'처럼 응답 속도만 보는 반면, 에이전트 작업은 '릴레이 경주'와 같아 AI가 목표를 스스로 분해하고 파일 읽기/쓰기, 코드 수정, 테스트 실행을 반복적으로 수행해야 합니다. 잦은 상호작용은 서버 메모리 용량과 스케줄링 효율성에 매우 높은 도전을 제기합니다. 이 벤치마크는 실제 프로그래밍 궤적을 재현하여 '메가와트당 지원 가능한 동시 에이전트 규모'를 핵심 에너지 효율 지표로 삼아 데이터센터의 전력 및 자금 병목 현상을 직접적으로 해결합니다.

첫 번째 테스트는 1.6조 파라미터 오픈소스 모델 DeepSeek V4 Pro를 실행했습니다. 결과에 따르면, 엔비디아 Blackwell 액체 냉각 랙 시스템 GB300 NVL72는 메가와트당 6만 1400개의 동시 에이전트를 처리할 수 있는 반면, 이전 세대 Hopper HGX H200은 2600개만 지원하여 에너지 효율이 20배 이상 향상되었습니다. 단일 GPU 동시 처리 용량도 41배 증가했습니다. 이로 인해 동일한 전력 예산 하에서 데이터센터는 20배 더 많은 동시 에이전트 규모를 처리할 수 있어 자동 프로그래밍 및 고객 서비스와 같은 애플리케이션의 도입 비용이 크게 낮아졌습니다.

첫 번째 결과에서 AMD Instinct MI355X는 일시적으로 뒤쳐졌습니다. 평가 기관은 AMD와 H200 구성 모두 범용 오픈소스 vLLM 프레임워크를 사용하여 구축되었으며, 심층 최적화가 이루어지지 않았다고 지적했습니다. 서비스 프레임워크와 코어 커널 어댑터가 개선됨에 따라 AMD의 성능은 여전히 향상 여지가 있습니다. 현재 Together AI와 같은 추론 제공업체는 이미 Blackwell에 DeepSeek V4 Pro를 배포하여 에이전트 프로그래밍 도구 Cursor에 실시간 추론 지원을 제공하고 있습니다.

举报 오류 신고/제보
오류 신고/제보
제출
새 문고 추가
자신만 보기
공개
저장
문고 선택
새 문고 추가
취소
완료