OpenAI의 최신 모델 Astra가 바이트 아키텍처를 도입했습니다: Transformer의 동일한 레이어를 반복적으로 계산합니다.

동차 Beating AI 속보, OpenAI가 곧 출시할 Astra는 recurrent depth라는 순환 추론 아키텍처, 일명 루프드 트랜스포머(looped transformer)를 사용한다. 일반 트랜스포머는 토큰을 생성할 때마다 고정적으로 여러 계층의 네트워크를 통과한다. Astra는 동일한 정보가 동일한 계층 세트를 반복적으로 통과하게 하여 여러 차례 계산한 후 출력할 수 있다.

이 경로는 바이트(ByteDance)가 작년에 이미 공개적으로 시도한 바 있다. Seed 팀이 발표한 Ouro는 일종의 루프드 언어 모델(Looped Language Model)로, 동일한 트랜스포머 계층 세트를 순환 실행하여 더 많은 계산을 모델 내부에 넣는다. 모델이 계속 더 긴 사고 사슬을 생성하지 않아도 추론 계산량을 늘릴 수 있다. 따라서 더 작은 모델이 더 많은 계산을 사용하여 더 큰 모델에 가까운 성능을 낼 수 있다.

이 아키텍처는 또한 보안 문제를 가져온다. 일부 추론이 내부 숨은 상태에서 발생하여 인간이 완전한 텍스트 기록을 볼 수 없고, 사고 사슬을 통해 모델이 규정을 위반했는지 확인하기가 더 어렵다. 이에 OpenAI는 Astra가 recurrent depth를 사용하는 정도를 제한하여 여전히 읽을 수 있는 사고 사슬을 유지하도록 하고, 추가적인 CoT 모니터링을 도입할 준비를 하고 있다.