바이두, Unlimited-OCR 2 오픈소스 공개: 100페이지 문서 단일 단계 디코딩 5.6배 빨라져, 매 단계마다 전체 문서를 볼 필요 없어

동찰 Beating AI 속보, 바이두가 Unlimited-OCR 2를 발표하고 오픈소스화했다. 모델은 약 30억 개 파라미터이며, 추론 시 약 5억 개 파라미터만 활성화된다.

6월에 출시된 첫 번째 버전은 이미 약 40페이지 문서를 연속으로 분석할 수 있었지만, 페이지 수가 증가함에 따라 토큰을 하나 생성할 때마다 모든 페이지의 시각 정보에 주의를 기울여야 해서 디코딩이 점점 느려졌다.

두 번째 버전은 SR-SWA 희소 어텐션 메커니즘을 도입했다. 모델은 매번 모든 페이지의 시각 정보를 조회하지 않고, 현재 페이지에 중점을 두고 소량의 관련 시각 정보를 선별한 뒤 최근 생성된 텍스트와 결합해 계속 인식한다. 100페이지 테스트에서 단계별 디코딩은 기존 R-SWA 어텐션 방식보다 약 5.6배, 전통적인 전체 어텐션보다 약 7배 빨라졌다.

메모리 절약도 뚜렷하다. 100페이지 문서 테스트에서 청크 디코딩과 페이지 간 캐시 재사용을 통해 단일 추론의 최대 KV 캐시 메모리가 47GB에서 1.77GB로 감소했다. 또 다른 16개 동시 처리 테스트에서는 생성 처리량이 초당 360 토큰에서 1315 토큰으로 향상됐다.

바이두는 또한 103~300페이지 분량의 문서 100개를 포함한 MarathonDocBench를 구축해 모델의 장문서 분석 능력을 테스트했다. Unlimited-OCR 2는 77.06점을 획득했고, Gemini 3.8 Flash는 28.61점, Qwen3.8 Max는 22.93점을 기록했다. 위 성적은 바이두가 자체 구축한 벤치마크 테스트에서 나온 것이다.

실제로 초장문서를 처리할 때 시스템은 윈도우를 나누어 처리하고 이전 윈도우의 일부 캐시를 재사용해 메모리 오버헤드를 더욱 줄일 수 있다. 다만 윈도우가 너무 작으면 페이지 간 내용 연결에 영향을 미칠 수 있다. 논문에서도 새로운 메커니즘이 문서의 전역 정보를 완전히 보존할 수 없어 다단계 제목 등 전체 구조를 여전히 잘못 인식할 수 있음을 인정했다.