144M 파라미터만으로 Agent 의사결정이 가능하고, Julia-1은 안드로이드 태블릿에서도 실행된다

동찰 Beating AI 속보, AI 연구소 Supersonic Labs가 1억 4,430만 개의 파라미터만 가진 경량 의사결정 모델 Julia-1을 출시했다. 이 모델은 긴 텍스트를 생성하지 않고, 컨텍스트와 질문, 2~20개의 후보 답변을 입력받아 분류, 점수 매기기, 참/거짓 판단을 직접 수행하며, Agent의 도구 선택, 라우팅, 다음 행동 결정에 활용할 수 있다.

Julia-1은 다국어 인코딩 모델 mmBERT-small을 기반으로 개발되었으며, 모델 가중치는 약 550MB로 낮은 하드웨어 진입장벽을 강조한다. 공식적으로 Apple M4, Intel i5-1235U, 삼성 Android 태블릿에서 테스트를 완료했다. M4의 단일 의사결정 중위 지연 시간은 약 33ms이며, 삼성 태블릿은 CPU만으로 실행할 때 약 203ms, 프로세스 최대 메모리는 약 393MB이다.

공식 발표된 4개 Jev 비교 테스트에서 Julia-1은 3개에서 승리했다. Typed Decisions는 73.15%로 Jev 참고 성적 72.70%를 앞섰고, AG News는 94% 대 91%, 감정 분류는 86% 대 48%를 기록했다. 그러나 72개 카테고리를 포함한 Banking77에서는 Julia-1이 64%에 그쳐 Jev의 87%보다 현저히 낮았다. 공식 측은 후보 카테고리가 너무 많고 서로 유사할 때 현재의 그룹 필터링이 정답을 조기에 놓칠 수 있다고 밝혔다.

Julia-1의 클라우드 GPU 학습 및 실험 총비용은 약 104달러에 불과하다. 모델 가중치, 실행 코드, 전체 평가 및 출처 기록이 모두 공개되었으며 Apache 2.0 라이선스를 따른다. 공식은 API도 개발 중이며, 백만 입력 토큰당 0.025달러 과금을 계획하고 있다. 모델이 판단만 하고 긴 텍스트를 생성하지 않기 때문에 출력 토큰은 과금하지 않는다.