동차 Beating 모니터링에 따르면, AI 메모리 스타트업 Engram이 9800만 달러 규모의 자금 조달을 완료했다고 발표했습니다. 이번 투자에는 Sequoia Capital, Kleiner Perkins, General Catalyst, 그리고 최근 Anthropic에 합류한 OpenAI 공동 창업자 Andrej Karpathy 등이 참여했습니다. Engram은 2025년 10월에 설립되었으며, 신경과학에서 '기억 흔적'을 의미하는 용어에서 이름을 따왔고 현재 직원은 13명에 불과합니다. 팀은 스스로를 대규모 언어 모델의 '학습된 기억(learned memory)' 계층이라고 칭하며, 모델 효율성을 높여 기업의 AI 개발 및 운영 비용을 절감하는 데 주력하고 있습니다.
긴 컨텍스트로 인해 Token 비용이 급증하는 문제를 해결하기 위해, Engram은 자사 모델이 특정 워크플로에서 최대 100배까지 Token 소비를 줄일 수 있다고 주장합니다(즉, 최첨단 모델 대비 최소 1%만 사용). 동시에 동등하거나 더 나은 성능을 구현할 수 있다고 설명합니다. 공동 창업자 겸 CEO인 Dan Biderman은 현재 대규모 언어 모델이 '천재 낯선 사람' 딜레마에 빠져 있다고 지적합니다. 즉, 모델 자체는 매우 뛰어나지만 기억력이 제한적이라는 것입니다. 초장기 컨텍스트는 더 많은 배경 정보를 담을 수 있지만, 호출할 때마다 재검색과 재읽기가 필요해 Token 비용이 통제 불능 상태가 됩니다.
비용을 절감하기 위해 Engram은 범용 대규모 모델 개발을 포기하고, 대신 일부 일반 능력을 희생해 전문적인 기억에 집중합니다. 기업 고유의 워크플로와 컨텍스트를 기록해 문제를 예측하고 비용이 낮은 응답을 제공하는 방식입니다. 현재 Microsoft, Notion, 그리고 법률 AI 스타트업 Harvey가 초기 고객이 되었습니다. 이번 자금 조달은 주로 컴퓨팅 파워 확보와 인재 채용에 사용될 예정입니다.