동차 Beating AI 속보, AI 추론 스타트업 Gimlet Labs가 3억 달러 규모의 신규 투자 유치를 완료하며 기업 가치가 30억 달러에 도달했습니다. Andreessen Horowitz가 주도했고, Arm과 마이크로소프트 산하 M12가 새로 참여했습니다. Gimlet은 멀티칩 추론 클라우드를 구축하여 AI 추론을 분할하고, 각 단계를 더 적합한 칩에서 실행되도록 합니다.
이 회사의 투자 유치 속도는 매우 빠릅니다. 약 6개월 전, Gimlet은 8000만 달러 규모의 A 라운드를 막 완료했습니다. 그보다 1년도 채 안 되어 시드 라운드는 1200만 달러에 불과했습니다. 세 차례 라운드를 합산하면 총 3억 9200만 달러를 조달했습니다. CEO 자인 아스가르는 이번 라운드가 빠르게 성사되었다고 밝혔는데, 그 이유는 회사가 여러 투자자로부터 자발적으로 제안된 투자 의향서를 받았기 때문입니다.
Gimlet은 원래 주로 칩 스케줄링 소프트웨어를 제공했지만, 이제는 고객의 데이터 센터 구축을 돕기 시작했으며 자체 데이터 센터도 건설 중입니다. 서로 다른 칩은 냉각, 온도 및 서버 구성에 대한 요구 사항이 다르기 때문에 소프트웨어를 잘 작성하는 것만으로는 부족하며, 전체 서버실도 그에 맞춰 재설계해야 합니다.
예를 들어 AI 추론의 프리필과 디코딩 단계는 하나는 계산 능력을 더 많이 요구하고, 다른 하나는 메모리 대역폭에 더 의존합니다. Gimlet은 이를 서로 다른 제조사의 칩에 분배하여 처리할 수 있습니다. Arm은 이번에 자금을 투자하면서 협력도 진행하며, 양측은 Gimlet의 소프트웨어가 더 많은 Arm 칩에 적응하도록 할 것입니다.