Cognition이 초당 1000 토큰을 처리하는 프로그래밍 대형 모델 SWE-1.7을 출시했습니다.

동차 Beating 모니터링에 따르면, Cognition이 새로운 AI 프로그래밍 대규모 모델 SWE-1.7을 출시했으며, 현재 Devin에서 사용 가능합니다. SWE-1.7은 월면암(月之暗面)의 Kimi K2.7 Code를 기반으로 개발되었습니다. 여러 에이전트 프로그래밍 테스트에서 GPT-5.5 및 Claude Opus 4.8 수준에 근접하면서도 생성 비용은 크게 낮췄습니다. Cerebras 추론 칩을 연결하여 SWE-1.7의 실행 속도는 초당 1000 Token에 도달합니다.

초장기 작업을 처리하기 위해, 모델은 컨텍스트 임계점에서 자동으로 현재 상태를 요약하고, 요약을 기반으로 계속 실행하는 방법을 학습했습니다. 이를 통해 단일 작업의 지속 시간이 최대 6시간에 이를 수 있습니다. 팀은 훈련 과정에서 교대 길이 패널티 메커니즘을 도입하여 특정 단계에서 중복 출력에 패널티를 부과함으로써, 모델이 간단한 작업에 대해 추론을 간소화하고 긴 추론은 어려운 문제에만 사용하도록 유도했습니다. 단일 클러스터의 연산 능력 제한을 극복하기 위해, 팀은 세 대륙에 걸친 다중 클러스터 분산 훈련 아키텍처를 구축했으며, 가중치 변화량만 동기화하여 수 분 내에 전 세계 노드의 파라미터 업데이트를 완료할 수 있습니다.