허깅페이스가 구버전 Qwen3로 DNA 모델을 훈련: 14B가 GPT-6.1에 근접한 점수 기록

동찰 Beating AI 속보, Hugging Face가 베이징 중관춘 아카데미, 이탈리아 연구기관과 공동으로 오픈소스 생물 모델 Carbon-X를 공개해 연구자들이 ChatGPT를 사용하듯 DNA를 분석할 수 있게 했다. 예를 들어 정상 DNA와 돌연변이 DNA 두 서열을 입력하고 "이 변화가 질병을 유발할까"라고 직접 물으면 모델이 예측과 설명을 제시한다. 또한 유전자 활동에 영향을 미치는 영역을 식별하고, DNA 출처를 판별하며, 유전자 서열을 보완할 수도 있다.

Carbon-X의 기반은 최신 모델이 아니라 2025년에 공개된 Qwen3-14B이다. 팀은 DNA를 전문적으로 인식하는 어휘표를 추가해 DNA 염기 6개마다 하나의 Token으로 인코딩하고, 약 3020억 Token 분량의 DNA, 생물학 텍스트 및 명령 데이터로 추가 학습시켜 모델이 유전자 서열을 이해하면서 자연어로 질문에 답할 수 있게 했다.

공식 발표된 5개 DNA 벤치마크 테스트에서 Carbon-X는 평균 66.7%를 기록해 GPT-6.1 Sol의 67.5%에 근접했으며, 참가한 모든 오픈소스 모델을 능가했다. 특히 단백질 코딩 영역의 돌연변이 판별과 DNA 서열 보완 테스트에서는 참가한 모든 모델을 앞섰다. 팀의 연산 비용 추정에 따르면 문제당 추론 비용은 GPT-6.1 Sol API의 약 1/1800 수준이다.

모델의 실제 파라미터는 약 148억 개이며, 가중치와 로컬 양자화 버전이 공개되어 연구자들이 자체 기기에서 민감한 유전자 데이터를 처리할 수 있다.