a16z, 로컬 AI 어시스턴트 Underdog에 베팅: 이메일과 캘린더 모두 자신의 컴퓨터에 보관

동찰 Beating AI 속보, Conway Research가 개인 AI 어시스턴트 Underdog를 출시했으며 a16z, Khosla Ventures 등의 기관 투자를 유치했습니다. 현재 Mac에서 직접 실행할 수 있으며, 사용자의 이메일과 캘린더에 연결하여 이메일 찾기, 일정 정리 및 일상 업무 처리를 도와줍니다. 모델이 로컬에서 실행되므로 개인 데이터를 더 이상 클라우드 AI에 넘길 필요가 없고, 오프라인에서도 계속 사용할 수 있습니다. a16z는 Conway Research의 첫 번째 라운드 투자를 리드했음을 확인했습니다.

Underdog가 일반 Mac에서 실행될 수 있는 이유는 한편으로 모델이 이미 충분히 작기 때문입니다. 현재 공개된 Woof는 4B 파라미터에 불과하며, 4-bit 가중치는 약 2.37GB입니다. 다른 한편으로 팀은 Woof와 Apple Silicon에 최적화된 Husky 추론 엔진을专门 개발했습니다. 공식적으로 M5 Max에서 테스트한 결과, 동일한 모델이 16개 작업에서 MLX보다 빨랐으며 최대 4.5배에 달했습니다.

창업자 Sigil Wen은 이메일 찾기, 파일 정리, 일정 처리 같은 일상 업무에 매번 데이터센터에서 가장 강력한 모델을 호출할 필요는 없다고 생각합니다. 소형 모델이 능력이 충분하고 속도가 빠르면 사용자 자신의 컴퓨터를 직접 활용하여 대량의 작업을 완료할 수 있습니다.

Underdog는 앞으로 iPhone, Windows, Linux, Android 및 NVIDIA 기기로도 진출할 계획입니다. Wen은 이 노선을 「Underdog's Law」라고 부릅니다: 오늘 데이터센터가 있어야 실행할 수 있는 프론티어 AI가 약 반년 후에는 개인 기기에 들어갈 기회가 생긴다는 것입니다.

팀은 또한 Agent가 사용자를 대신해 직접 쇼핑하는 등의 시나리오를 연구하고 있으며, 궁극적으로 로컬 AI를 장기적으로 개인 컨텍스트를 파악하고 사용자를 대신해 직접 일을 처리하는 개인 Agent로 만들고자 합니다.