11월 20일, CertiK는 컬럼비아 대학 연구진과 공동으로 달성한 TensorLean 기술 성과를 발표하며 세계 최초로 프로덕션급 AI 연산자 형식 검증을 완료했습니다. 이번 돌파구는 수학적 증명을 복잡한 성능 최적화를 거친 실제 AI 연산 코드에 적용할 수 있게 함으로써, 대규모 모델 기업이 훈련 속도를 높이고 추론 비용을 절감할 때 더욱 엄격한 정확성 보장을 제공합니다.
대규모 모델의 훈련과 답변 생성은 AI 연산자 라이브러리의 저수준 계산 프로그램에 의존합니다. GPU에서 실행되는 이러한 프로그램을 GPU 커널이라고 합니다. 한 곳의 오류만으로도 시스템이 정상적으로 작동하는 것처럼 보이면서 조용히 잘못된 결과를 계산하여 후속 출력에 영향을 미치고, 심지어 훈련이 예상에서 벗어나게 할 수 있습니다. 시나리오 계산을 예로 들면, 1억 달러의 컴퓨팅 파워를 투입한 훈련에서 1%의 계산이 오류로 인해 재작업이 필요하다면, 이는 추가로 100만 달러의 비용이 발생함을 의미합니다.
형식 검증의 핵심 가치는 수학적 증명으로 오류와 취약점을 배제하는 것입니다. 일반적인 테스트는 구체적인 사례를 통해 문제를 찾습니다. 반면 형식 검증은 프로그램이 규정된 입력과 실행 조건에서 항상 요구사항을 충족하며, 검증 범위 내에 오류와 취약점이 존재하지 않음을 증명할 수 있습니다.
이 방법을 프로덕션급 AI 코드에 적용하는 어려움은 실제 성능 최적화를 처리하는 데 있습니다. GPU 프로그램은 데이터를 옮기면서 동시에 계산하고, 작업 크기에 따라 실행 일정을 조정하며, 더 낮은 정밀도의 연산을 사용합니다. TensorLean은 이러한 복잡한 조건들을 동시에 처리하여, 프로그램이 컴파일된 후 생성된 PTX 코드를 직접 검증하고, 계산이 규정된 조건과 오차 범위 내에서 요구사항을 충족함을 증명합니다. 모든 증명은 Lean에서 완료되며 기계로 검증할 수 있습니다.
TensorLean 연구팀 멤버인 치앙웨이와 양간샹은 "이러한 복잡한 최적화야말로 프로덕션급 AI 코드가 빠르게 실행되는 이유입니다. 우리의 과제는 이러한 실제 실행 조건을 무시하지 않으면서 증명을 완료하여, 엄격한 검증이 실제 사용되는 고성능 코드에 적용될 수 있도록 하는 것입니다"라고 밝혔습니다.
연구팀은 이미 컴파일된 149개의 GPU 커널 인스턴스를 평가하고, 형식 증명을 통해 그중 83개가 해당 Lean 사양을 충족함을 검증했습니다. 이번 연구는 서로 다른 세대의 GPU 아키텍처를 포괄하며, DeepSeek의 DeepGEMM과 널리 사용되는 FlashAttention 연산자 라이브러리를 포함했습니다. 팀은 총 6개 라이브러리에서 38개의 정확성 문제를 발견했으며, 그중 DeepGEMM에 2개, FlashAttention에 23개가 있었습니다.
CertiK 공동 창립자이자 컬럼비아 대학 컴퓨터과학과 교수인 구룽후이는 "취약점을 발견한 후에는 수정된 프로그램이 규정된 조건에서 요구사항을 충족함을 증명해야 합니다. 대규모 모델 기업에게 있어 매번의 속도 향상에는 신뢰할 수 있는 정확성 근거가 있어야 합니다. 우리는 이러한 엄격한 검증이 코드 반복 속도를 따라가도록 하여, 계산 오류의 위험을 대규모 훈련과 배포 전에 최대한 차단하고자 합니다"라고 말했습니다.
이 성과가 대형 모델 기업에 주는 실제 가치는 매 성능 최적화 라운드마다 나타난다. 코드 업데이트 후 연구개발팀은 속도 향상을 측정하는 것 외에도 검증을 다시 실행하여 최적화가 계산 오류를 초래했는지 확인하고, 요구 사항을 충족하는 프로그램에 대해 기계가 검증할 수 있는 증명을 제공할 수 있다. 이는 연산 낭비, 훈련 재작업, 오류 결과가 후속 계산으로 유입될 위험을 줄이는 데 도움이 된다.
동일한 유형의 계산은 기존 검증 요구 사항을 재사용할 수 있어 이 방법을 더 많은 커널에 적용할 수 있으며, 코드 업데이트에 따라 반복 실행되어 AI 계산 효율성을 지속적으로 향상시키는 더 신뢰할 수 있는 기반을 제공한다.
올해 10월, Anthropic도 Claude를 활용해 오픈소스 소프트웨어의 수학적 증명을 구성하는 연구를 발표했다. TensorLean은 AI 자체의 저수준 계산에 초점을 맞춰 자동화된 형식 검증이 프로덕션급 AI 코드에서 갖는 응용 가치를 보여준다.
BlockBeats 공식 커뮤니티에 참여하세요:
Telegram 구독 그룹:https://t.me/theblockbeats
Telegram 토론 그룹:https://t.me/BlockBeats_App
Twitter 공식 계정:https://twitter.com/BlockBeatsAsia