글 | Sleepy、Kaori

OpenClaw은 2026년 오픈 소스 세계에서 가장 무시할 수 없는 존재입니다. 이 개인 AI 에이전트 프로젝트는 2025년 말 오스트리아 엔지니어 Peter Steinberger가 시작했으며, GitHub 역사에서 가장 많은 스타를 받은 실행 가능한 소프트웨어로 3개월 만에 뛰어올라갔습니다. 창립자는 Sam Altman이 직접 발표하여 OpenAI로 스카웃되었고, 프로젝트는 즉시 재단에 이양되어 독립적으로 운영됩니다.

이를 둘러싼 커뮤니티 활동 ClawCon은 샌프란시스코에서 시작하여 뉴욕, 마이애미, 오스틴, 마드리드, 도쿄까지 이어지며, 각 도시에서 수천 명의 참가자가 모입니다.

5월, ClawCon 중국 데뷔가 상하이에서 열렸습니다. 동찰 Beating은 회장에서 빈센트 코크와 마이클 갈퍼트 두 핵심 인물을 독점 인터뷰했습니다.

빈센트 코크는 OpenClaw 글로벌 코드 기여 순위 2위를 차지한 유지보수자로, Peter 본인에게 그 뒤를 이었습니다. 그는 동시에 Comet ML의 수석 AI 연구 엔지니어이자 MIT 강사로, OpenClaw 초기에 핵심 보안 패치의 20%를 제출했습니다.

마이클 갈퍼트는 ClawCon의 창시자이자 글로벌 조직자로, 일련의 창업가로, 공유 이미지 편집 도구 Aviary를 공동 설립한 후 2014년 Adobe가 인수한 후 Epic Games의 포트나이트 제품 총괄을 맡은 바 있습니다. 현재는 AI 제품 스튜디오 Contains Inc.를 운영하고 있습니다. 그는 ClawCon을 샌프란시스코의 한 소파에서의 즉흥 모임에서부터 개인 AI 커뮤니티 브랜드로 세계 수십 도시에 이르는 규모로 확장시켰습니다.

우리가 빈센트와 마이클을 인터뷰할 때, OpenClaw의 가장 분주한 순간은 이미 지나갔습니다.

이는 오히려 OpenClaw에 대해 이야기하기에 더 적합한 순간입니다. 열기가 최고조에 달할 때, 프로젝트는 항상 숫자에 이끌려 전진합니다: GitHub 스타, PR, 현장 참가자 수, 커뮤니티 음량, 미디어 보도 등 각 숫자는 빛을 받아 사람들을 환히 비추지만 동시에 약간 흐릿하게 만듭니다. 빛이 조금 어두워지면, 진짜 문제가 드러납니다: 왜 이토록 많은 사람들을 갑자기 매혹시키게 했는가? 프로젝트가 한 차례의 열기에서 일상적인 도구로 어떻게 변모할 수 있는가? AI가 채팅이 아닌 메시지 전송, 파일 편집, 작업 실행을 대신 맡기기 시작하면, 그것은 정작 누구의 말을 들어야 하는 것일까요?

상해 ClawCon 현장은 여전히 뜨겁습니다. 몇 달 만에 수십만 개의 GitHub 스타를 획득한 오픈 소스 AI 프로젝트는 muShanghai의 28일 유목 기술 커뮤니티로 편입되었습니다. 보도 자료에 따르면 이 28일 유목 기술 커뮤니티에서는 전 세계 800명의 빌더가 모였으며, ClawCon 중국 데뷔도 진행되었습니다.

현장에는 많은 중국 개발자들이 참석했으며, 모두가 Feishu, WeChat, WeCom, DingTalk, 로컬 파일, 자동화 스크립트에 관심을 가졌으며 OpenClaw를 자신의 업무와 생활에 통합하는 방법에 관심을 기울였습니다. 평소와 같이 열정을 설명하고, 속도를 강조하고, 개발자들이 어떻게 몰려오는지 설명해야 할 때가 왔습니다. 더 좋은 것은 가파른 곡선을 함께 제시하는 것이겠지요.

그러나 Vincent가 무대에 올라간 후, 그것을 아름다운 성장 이야기로 만들지 않았습니다. 그는 먼저 문제를 설명했습니다: OpenClaw는 10,000개의 PR을 받았다는 것입니다.

이 숫자는 축하하기에 매우 적합합니다. 오픈 소스 프로젝트는 사용자, 질문 제시, 코드 제출, 주말을 투자하는 사람이 없는 것을 가장 두려워합니다.

그러나 OpenClaw가 직면한 것은 각 사람이 자신의 아이디어를 밀어 넣고 싶어합니다.

누군가는 Feishu를 통합하고 싶어하며, 누군가는 WeChat 및 DingTalk를 통합하길 원합니다. 누군가는 로컬 파일을 읽고, 자동화 스크립트를 실행하고, 코드를 작성하며, 자료를 정리하고 싶어합니다. 또한 누군가는 거래 전략을 실행하거나 자신의 콘텐츠 계정을 24시간 운영하길 원합니다.

이전에 오픈 소스 프로젝트에는 자연스러운 진입 장벽이 있었습니다: 코드를 제출하려면 적어도 문서를 읽고, 약간의 아키텍처를 이해하고, 테스트를 통과해야 했으며 자신이 어느 부분을 변경하는지 알아야 했습니다.

이제 이 장벽은 AI 프로그래밍 도구에 의해 낮아졌습니다.

아키텍처를 이해하지 못하는 사람도 모델이 코드를 작성하고, 테스트를 실행하고, 패치를 전달할 수 있습니다. 머릿속에 남아있던 아이디어는 이제 실행 가능한 제출물로 포장될 수 있습니다. 과거에는 능력 장벽에 막혀 있던 충동이 한꺼번에 유지자(維持者)에게 전달되었습니다.

보안 제출도 마찬가지입니다. Vincent는 현장에서 말했습니다. 어느 순간 그들은 하루에 100건 이상의 보안 취약점 보고서를 수신했으며 각각을 분류하고 확인해야 했습니다. 실제 취약점은 즉시 수정되지만 그 중 상당 부분은 대형 모델에서 직접 생성된 것입니다. 제출한 사람들이 프로젝트를 보다 안전하게 하길 원하는 것은 아니며, 많은 경우 단지 인기 있는 프로젝트에 자신의 이름을 남기려는 것뿐입니다.

이것은 매우 새로운 형태의 잡음입니다.

그것은 필요에 의한 것이 아니며, 노출하는 것이 아니며, 심지어 "기여"의 외투를 입은 것일지라도. 그러나 그것은 시스템 내에서 가장 소중한 것을 삼켜버릴 수 있습니다: 사람의 주의력.

이것은 우리가 상하이에서 Vincent와 Michael Galpert를 인터뷰한 후에 느낀 강렬한 감정입니다.

오픈 소스 AI 어시스턴트가 갑자기 화제가 되었는데, 깊게 들여다보면 사실은 개인 Agent가 앞으로 몇 년 동안 모두가 직면해야 할 문제를 마주한 것입니다. AI가 더 이상 단순히 채팅이 아니라 당신을 위해 메시지를 보내거나 파일을 수정하거나 작업을 실행하거나 판단을 내리기 시작할 때, 그것은 정말 누구의 말을 듣는 걸까요?

이 문제는 "어떤 모델이 더 똑똑한가"보다 훨씬 까다롭습니다.

지능은 이미 풍부하지만 부족한 것은 손과 발입니다

Vincent는 연설에서 반복해서 말했습니다. OpenClaw는 보통 제품이 아니라 모델 바깥에 있는 전체적인 "손발"인 것처럼 보입니다.

이것을 영어로는 Harness라고 합니다. 직역하면 매우 어색하지만, 이것은 모델이 진정으로 일하도록 하는 장치 세트로 이해할 수 있습니다: 어떻게 도구를 호출하는가, 어떻게 당신을 기억하는가, 어떻게 작업을 분해하는가, 언제 멈추고 물어보는가, 언제 계속 진행하는가, 오류가 발생했을 때 어떻게 정리하는가, 비용이 높아지면 제동을 걸어야 하는가.

모델은 두뇌처럼, 이 시스템은 신체처럼 작동합니다.

작년 동안 산업은 두뇌에 너무 집착했습니다. 누가 추론이 더 강력한가, 누가 코드를 더 잘 작성했는가, 누가 더 긴 맥락을 갖고 있는가, 누가 더 다중 모달에 정확한가. 랭킹은 시장에서의 시장상황처럼 활기차며, 장사꾼들은 모두가 자신이 가장 신선하고 가장 저렴하고 가장 맛있다고 외치고 있습니다.

그러나 한 사람은 두뇌만으로는 아무것도 할 수 없습니다. 당신은 손과 발, 통증감, 경계감이 있어야 합니다. 손을 건너뛰어서는 안 되고, 발을 잘못 밀지 않아야 하며, 아프면 멈춰야 하며, 타인 집문 앞에 가기 전에 노크해야 합니다.

Agent도 마찬가지입니다.

모델이 생각할 수 있는 것은 하지 않을 수 있으며, 할 수 있더라도 안정적으로 하는 것은 아니며, 안정적으로 하더라도 언제 그만두어야 할지는 알지 못합니다. 많은 기업들은 Agent에 대해 이야기할 때 여전히 "더 똑똑한 모델 + 더 많은 도구"로 이야기하고 있습니다. 그러나 실제로 사용할 때 사용자들이 느끼는 것은 대부분 지능보다는 신체적 능력입니다.

긴 작업을 완료할 수 있는가? 중간에 이전에 말한 것을 잊지는 않는가? 잘못된 도구를 설정한 후에 스스로 문제를 해결할 수 있는가? 불확실한 상황에 직면했을 때 강행하기로 하느냐, 솔직하게 말해 멈춰서 물어볼 것인가?

이러한 문제는 아름답지 않지만 기자재 전시회 대형 플래카드에 쓰기에는 적합하지 않습니다. 그러나 이러한 문제들이 Agent가 시연 영상에서 일상생활로 진출할 수 있는지를 결정합니다.

빈센트는 매우 간단한 삼각형을 설명했습니다: 속도, 비용, 정확도. 세 가지를 모두 얻는 것은 매우 어렵습니다.

처음부터 비용을 매우 아끼려고 하면 조금 더 느리고, 조금 더 틀리게 받아들여야 합니다. 빠르고 정확하다면 추론 비용이 증가하고, 도구 호출 체인이 길어지며, 실패 모드가 예측하기 어려워집니다. 많은 사람들은 문제를 토큰 소비로 설명하는데, 마치 그것이 청구서 상의 숫자일 뿐인 것처럼 보입니다. 그러나 실제 시스템에서 매번 재시도하거나, 매번 도구 호출하거나, 매번 인간 개입하는 것마다 비용이 발생합니다.

이는 모델 순위표에서 보이지 않습니다. 점수는 코드 능력을 알려주며, 수학 능력을 보여줍니다. 그러나 이 모델이 진짜 에이전트에 넣어질 때, 몇 번 실패해야 하는지, 중간에 누군가를 찾아야 하는지, 누군가를 찾을 때 컴퓨터를 치고 싶게 만드는 말을 할 것인지는 알려주지 않습니다.

그래서 빈센트의 판단은, 모델이 계속 강해지는 것은 물론 중요하지만, 개인 에이전트의 어려움은 "생각할 수 있는가"에서 "행동할 수 있는가"로 전환 중이라고 말합니다. 그리고 이 행동은 모델 점수만으로는 처리할 수 없습니다.

문제가 바뀌었습니다.

오픈소스는 문을 열었지만 소음도 들어오게 했습니다

OpenClaw가 더 성공할수록, 처음부터 하려던 일을 하기가 더 어려워집니다.

OpenClaw는 초기에 개인용 AI 어시스턴트였으며, 기업 시스템이나 다중 에이전트 플랫폼이 아니었으며 모든 회사가 업무를 운영하는 기반이 될 예정도 아니었습니다. OpenClaw의 공개적인 비전은 "귀하의 장치에서, 귀하의 채널에서, 귀하의 규칙으로 작동한다"로 설명되었습니다.

그러나 오픈 소스 프로젝트가 커지면, 처음 몇 사람의 것이었던 것이 아니게 됩니다.

마이클은 이 프로젝트가 처음에는 개인을 위해 만들어졌으나, 지금은 사람들이 이를 통해 다양한 작업을 하고 있다고 말했습니다. 중국 개발자들이 OpenClaw에 액세스하는 속도와 의지에 그는 놀라웠다고 말했습니다.

오픈소스의 아름다움은 여기에 있고, 잔인함도 여기에 있습니다.

그것은 문을 열어 더 많은 사람을 받아들이지만, 문이 열리면 주인 한 사람만의 권한이 아니게 됩니다.

과거의 오픈 소스 프로젝트는 소수의 유지보수자의 기술 권위에 의존했습니다. 그러나 이제 AI가 코드 권한을 가져 왔으며, 더 많은 일반인들이 소프트웨어 생산성을 얻게 되었고, 유지보수자들에게 명확히 이해되지 않은 수요와 안정화되지 않은 기능을 더 많이 전달하게 되었습니다.

이건 분명 좋은 일이에요. 오히려, 이것은 오픈 소스 역사상 드물게 일어난 권한 위임일 수 있어요.

하지만 권한 위임은 자동적으로 질서를 만들어내지 않아요.

더욱 개방된 커뮤니티일수록 경계에 대한 질문에 대답해야 해요. Vincent는 OpenClaw 팀이 현재 유지 관리 방식을 조정하고 SDK, 테스트 도구, 문서 및 참고 아키텍처를 만들고 있다고 말했어요. 직관적으로 이야기하면: 그들은 물이 들어올 수 있게 하려는 게 아니라, 물에 대한 하천을 만들어주어야 하는 거예요.

이것 또한 에이전트 시대가 매우 일찍 드러낸 장면 중 하나에요.

열기 가득한 OpenClaw는 쉽게 승리 이야기로 쓰여질 수 있어요: 더 많은 사람이 참여하고, 더 많은 코드가 참여하고, 더 많은 상상이 참여해요. 하지만 열기가 조금 사그라들면, 또 다른 장면이 나타나게 되죠.

우리는 AI가 소프트웨어 개발을 쉽게 만들 것으로 생각했지만, 그것은 먼저 유지 보수자를 더 피곤하게 만들었어요. 왜냐하면 모든 사람이 코드를 작성할 수 있을 때, 진정으로 부족한 것은 코드가 아니라 판단력이기 때문이에요: 무엇이 존재할 가치가 있는지, 어떤 위험이 용납될 수 없는지, 어떤 요구 사항을 충족해야 하는지, 어떤 요구 사항이 단순히 다른 옷을 입은 소음일 뿐인지.

더 큰 문제가 발생하게 되었어요.

만약 커뮤니티가 행동을 통해 OpenClaw를 다시 정의한다면, 그 정의 가운데 어떤 것이 개인 에이전트의 미래로 이어질까요? 어떤 것은 일시적인 번성에 그치게 될까요?

사용할수록 똑똑해지지만, 사용할수록 고집스러워질 수도 있어요

열기가 사그러간 후, 경쟁은 진정으로 시작되어요. 이제 누가 화제를 더 잘 끄는지만이 아니라, 모든 에이전트 프로젝트에게 자신이 일회성 장난감이 아니라는 것을 어떻게 증명할 것인지에 대한 질문에 답을 하게 됩니다.

헤르메스는 아주 좋은 대조체에요. 기존 설명에 따르면, 그 매력은 에이전트가 작업을 마친 후 자체 회고를 하게 만드는 데 있어요: 어디서 잘했는지, 어디서 못했는지, 어느 부분을 다음 호출에서 바로 활용할 수 있는 경험으로 정리할 수 있는지. 다음 번 유사 작업을 진행할 때, 다시 고민할 필요 없이 그대로 따라하면 되죠. 좀 더 솔직히 이야기하면, 자신이 경험을 쓴다는 건데, 사용할수록 익숙해지는 거예요.

이 말은 매우 매력적으로 들릴 수 있어요.

누가 자신만의 사용하기 편한 보조 도우미를 갖지 않으려고 하겠어요? 누가 퇴근 후에도 자체 회고를 하고, 다음 날 작은 노트북을 들고 출근한 직원을 원하지 않을까요? 모든 사람이 효율을 외치는 시대에, '사용할수록 똑똑해진다'는 건 거의 가장 듣기 좋은 약속이 되겠죠.

Vincent는 이 문제에 대한 태도가 매우 신중하다.

그는 OpenClaw도 할 수 있다고 서두르지 않았고 Hermes를 비판하지도 않았습니다. 그저 "자동 생성된 경험이 실제로 유용한지에 대해, 현재 시장에 충분히 강력한 평가 방법이 없다"고 말했습니다.

에이전트가 자동으로 기록한 기술은 경험을 압축하는 것이거나 잘못된 부분을 고집하는 것일 수 있습니다. 그것은 10번 중 7번 유용하고 3번 모호할 수 있으며, 시스템은 그것을 유지해야 할지 판단해야 합니다. 그것은 한 번의 운 좋은 성공 경로를 고정된 프로세스로 기록하는데, 다음 환경이 달라지면 오류 경로를 계속 따를까요? 몇 주 후에는 한 가지 기억은 이미 구식이라지만, 반복적으로 호출됨으로써 에이전트는 더 믿습니다. 이것이 지혜롭게 변하는 것인지, 고집스럽게 변하는 것인지 의심스럽지 않습니까?

사람들도 종종 이렇게 하지요. 과거에 어떤 방법으로 돈을 벌었을 때, 후에 시장이 변해도 그 방법을 친히 계속 사용합니다. 한 회사가 어떤 프로세스로 살아남았을 때, 후에는 그 프로세스를 종국해 버려 문제가 발생했습니다. 우리는 이를 경험 중심주의, 경로 의존성, 조직 관성이라고 합니다. 에이전트에서 이것을 담그면 "자동 학습"으로 포장될 수도 있습니다.

그것이 Vincent가 신중한 이유입니다. 그는 OpenClaw가 학습을 하지 않길 원하는 게 아니라 "학습 중인 것처럼 보이는 것이 진정 개선 중인 것과 동일하다"고 직접 대등시하고 싶지 않습니다.

실제 세계에서의 학습은 모든 경험을 창고에 집어넣는 것이 아닙니다. 진정한 학습에는 망각, 오류 수정, "이 경로는 이전에 유용했지만 지금은 그렇지 않을 수도 있다"고 인정하는 것도 포함됩니다.

모든 것을 잊지 않는 에이전트가 꼭 더 똑똑할 필요는 없습니다. 단지 수정하기 어려워질 뿐입니다.

그래서 문제는 한 발자국 더 나아갔습니다.

에이전트가 기억하고 리플레이하며 스스로 경험을 작성한다면, 그것이 경험인지 선입견인지를 판단할 사람은 누구입니까?

기억은 기능이 아니라 관계의 시작

미카엘은 미래에 모든 사람이 자신만의 상주형 거래소를 갖게 된다면, 그것의 가장 근본적인 능력은 무엇인가 물어 봤을 때,

그는 추론이나 다중 모달, 도구 호출이 아니라 기억이라고 답했습니다.

개인 거래소와의 대화에서 2주 전에 얘기했던 내용을 오늘 다시 꺼내면, 그것이 무엇을 말하는지 알아야 합니다. 장기적이고 계속적인 관계를 유지하려면 기억이 필수적입니다.

이 말은 단순하지만, 개인 거래소와 일반적인 소프트웨어를 구분 지었습니다.

도구는 기능을 통해 사용되지만 관계는 기억을 통해 유지됩니다.

매번 열 때마다 처음 보는 것처럼인 에이전트는 영원히 도구에 머물게 됩니다. 개인화란 당신의 이름이 적힌 인터페이스나 즐겨 사용하는 색에 대한 아바타가 아니라, 누구인지, 어떻게 일하는지, 무엇을 좋아하지 않는지, 어느 부분에서 언제나 망설이는지, 그리고 어떤 문제에서 언제나 충동적인지를 알고 있는 것입니다.

Vincent는 연설에서도이 문제에 대해 이야기했습니다. 그는 산업이 성능이 우수한 모델을 갖고 있을 수 있지만 장기적인 관계감이 부족하다고 말했습니다. 우리가 개인 에이전트에 대해 이야기할 때, 그것은 더 이상 단순한 비즈니스 시나리오가 아니며, "사용자가 그것을 어떻게 사용하는지"라는 양식에 있는 열은 아닙니다. 그것은 나를 위해 일하는 에이전트이자 나와 대화하는 에이전트입니다. 각 개인의 AI에 대한 기대는 모두 다르며, 이것을 위한 설계는 완전히 알려지지 않은 영역입니다.

이것은 사실 기술 산업에서 가장 익숙한 질문 방식에 대한 반박입니다.

기술 산업은 다음과 같은 질문을 좋아합니다: 사용자는 누구인가? 시나리오는 무엇인가? 고통점은 어디에 있는가? 수익은 어떻게 계산되는가? 예산은 누가 승인하는가? 이러한 질문 세트는 물론 유용하지만 특히 기업 소프트웨어를 판매할 때 유용합니다. 그러나 Vincent의 의견은 개인적인 에이전트가 고정된 기능이 아니라 관계의 지점과 유사하다는 것입니다.

"무엇을 위해 사용되는지"는 기능에 관한 것입니다.

"그것이 나를 어떻게 이해하는지"에 대한 질문은 관계에 관한 것입니다.

이 차이는 매우 작지만 매우 큽니다.

도구 시대에 사람이 명령을 내리고 소프트웨어가 실행합니다. 앱을 열고 일을 처리한 다음 그것을 닫습니다. 그것이 당신을 어떻게 보는지나 당신을 기억하는지에 대해 걱정하지 않습니다. 협업자는 다릅니다. 협업자는 당신이 마지막으로 왜 의견을 바꿨는지 알고 있을 것입니다. 당신이 어떤 상황에서 유혹을 받기 쉬운지 알 것이며, 중요한 순간에 당신에게 한 마디 물어볼 수도 있을 것입니다: 정말 확신하세요?

Vincent는 흥미로운 말을 했습니다. 그는 이제 에이전트에 무엇을 해야 하는지 알려주는 것이 아니라, 에이전트가 그에게 질문하고 그의 사고를 도전하며 어떻게 함께 협력할 것인지 물어 보는 것이라고 말했습니다.

처음 들으면 이것은 매우 온화한 미래 선언처럼 들립니다.

그러나 더 심층적으로 생각하면 약간 냉혹해질 수 있습니다.

에이전트가 당신의 사고를 도전할 수 있다면, 왜 그래야 하는 걸까요? 무엇에 기반하여 기억하고, 어떤 선호도와 어떤 가치 판단에 따라 도전할까요? 그것은 당신 편에 서 있는 건지, 아니면 그것을 프로그래밍한 사람 편에 서 있는 건지요? 그것이 당신의 장기적 이익을 이해하는 건지, 아니면 플랫폼이 원하는 당신의 행동을 취하는 건지요?

그것은 최종적으로 누구를 듣고 있는 걸까요?

과거에는 플랫폼이 정보 흐름을 형성했습니다. 당신이 어떤 것을 보고, 어떤 감정을 느끼게 될지를 보여줬습니다. 그러나 에이전트 시대에는 플랫폼 또는 오픈 소스 커뮤니티가 당신을 위해 행동하고, 판단하고, 일상을 조직하는 "사람"일지도 모릅니다. 그것은 컨텐츠를 푸시하는 것뿐만이 아니라, 당신의 파일, 채팅, 일정 및 작업 흐름, 심지어 당신과 세상 사이의 상호 작용 방식까지 들어갈 것입니다.

개성이 없는 에이전트, 너무 개인적이지 않은. 남들이 조용히 설정한 개성을 가진 에이전트, 너무 개인적인.

이 사이의 틈, 이후 몇 년 동안 가장 어려운 부분이 될 것입니다.

보안 문제는 결국 인간의 문제가 될 것입니다

ClawCon 현장에서 누군가가 Vincent에게 보안 문제를 물었습니다.

OpenClaw와 같은 도구는 권한을 많이 부여할수록 더 유용해지지만, 권한을 많이 부여할수록 더 위험해집니다. 이 도구는 채팅 소프트웨어에 접근할 수도 있고, 파일을 읽을 수도 있으며, 스크립트를 실행할 수도 있고, 모델을 조작할 수도 있으며, 코드를 작성할 수도 있습니다. 능력과 위험은 두 갈래 길이 아니라 동일한 길의 양면이죠.

Vincent의 대답은 두 가지 층으로 이뤄졌습니다.

첫째, OpenClaw는 너무 눈에 띄었습니다. GitHub에서 큰 오픈 소스 저장소로 여러 보안 연구원들에게 시선이 집중되어 왔습니다. 많은 사람들이 그것을 깨고 싶어하며, 그것을 깨면 유명해질 수 있습니다. 그들은 하루에 100개가 넘는 보안 취약점 보고서를 받아, 각각을 확인해야 했습니다. 실제 취약점은 빨리 수정되어야 하며, 쓸모없는 보고서도 누군가가 확인해야 합니다.

둘째, 그들은 보안 연구 팀과 협력하여 발견된 문제를 제품에 통합하고, 최대한 공개적이게 하려고 노력합니다. 오픈 소스의 장점은 누구나 볼 수 있고, 누구나 검사할 수 있고, 물론, 누구나 공격할 수도 있다는 것입니다.

에이전트의 보안은 「취약점이 있는지 여부」만이 아닙니다. 이는 오히려 한 세트의 경계 문제와 같습니다. 그것이 무엇에 닿을 수 있는지, 닿지 말아야 하는 것은 무엇인지; 그것이 언제 스스로 움직여야 하는지, 언제 당신에게 물어야 하는지; 그것이 당신을 대신하여 메시지를 보낼 수 있는지, 파일을 변경할 수 있는지, 스크립트를 실행할 수 있는지, 기업 시스템에 연결할 수 있는지; 문제가 발생한 후, 책임은 누구에게 있는지입니다.

전통적인 소프트웨어가 문제가 발생하면, 그냥 다운될 수도, 멈출 수도, 데이터를 잃을 수도 있습니다. 그에 반해, 에이전트가 문제가 발생하면, 그것은 행동 체인에서 문제가 발생했음을 의미합니다. 그것은 잘못된 파일을 삭제할 수도, 잘못된 메시지를 보낼 수도, 오류 코드를 프로덕션 환경에 반영할 수도 있으며, 당신이 제때 확인하지 못한 채로, 하찮은 일을 대대적인 일로 만들 수도 있습니다.

그것이 왜 중국 개발자들의 사용 방식이 큰 충격을 주는지도 여기에 있습니다.

Feishu, WeChat Work, WeChat, DingTalk은 소프트웨어뿐만 아니라, 그것들은 중국인의 업무 및 생활의 미세 혈관입니다. 한 개의 에이전트가 연결되면, 단순히 플러그인이 추가되는 것뿐만 아니라, 그것은 조직 협업, 고객 의사 소통, 개인적인 관계, 파일 흐름 및 일상적인 사소한 일들이 혼합된 지역에 들어갑니다.

그것이 당신을 더 잘 이해할수록, 더 많은 일을 대신할 수 있게 되고; 더 많은 일을 대신할수록, 어디까지 손이 닿는지 알아야 할 것입니다. 개인 에이전트의 유혹과 위험은 같은 것입니다.

당신은 그것이 당신을 이해하는 비서와 같이, 채팅 앱에 숨어있어서 부르는 대로 나타나고, 당신을 기억하며, 당신을 대신 일 처리해 주기를 원합니다. 그러나 그것이 부르는 대로 나타나고, 당신을 기억하며, 대신 일 처리해 주기 때문에, 여러분은 그것의 경계를 계속해서 따져 봐야 합니다.

그것은 말하면 안 되는 때에 말할까요? 기억해서는 안 되는 때에 기억할까요? 일시적인 권한을 장기간 권한으로 오해할까요? 작업을 완료하기 위해 여러분의 망설임, 침묵, 그리고 한계감을 모두 장애물로 여길까요?

가장 위험한 에이전트가 반드시 여러분을 갑자기 배신하는 그것은 아닙니다. 그것은 너무 극적이며, 너무 SF 영화 같습니다. 더 현실적인 위험은, 그것이 계속해서 여러분을 시급하게 처리하고, 놀아주며, 여러분을 부담에서 좀 더 면하도록 만들어 주기 때문입니다. 어느 날, 여러분은 그것이 여러분을 위해 내린 많은 판단이 더는 완전히 여러분의 것이 아님을 깨닫게 될 것입니다.

「아직 알지 못하는 것」은 한 종류의 진실입니다

Michael은 말했습니다. OpenClaw는 영원히 closed-source 프로젝트로 전락해서는 안됩니다. 그것은 항상 오픈소스여야 하며, 모든 사람들에게 개인 에이전트 시대로 향하는 문을 열어 주었기 때문입니다.

그러나 오픈소스는 문제를 사라지게 하지는 않았습니다. 에이전트는 단지 모델 회사에 의해 정의되어서는 안 되며, 또한 플랫폼에 의해만 정의되어서는 안 됩니다.

지난 일 년 동안 에이전트의 경쟁은 모델의 경쟁으로 이야기되어 왔습니다. 어떤 사고가 더 강력한가, 어떤 코드가 더 좋은가, 어떤 문맥이 더 긴가, 어떤 비용이 더 낮은가. OpenAI, Anthropic, Google은 모두 자사의 제품에 에이전트 능력을 통합하고 있습니다. 폐쇄적인 플랫폼은 더 명확한 답을 제시할 것입니다: 통일된 계정, 통일된 권한, 통일된 도구, 통일된 기억. 기업은 이러한 확실성을 선호합니다.

확실성은 물론 가치가 있습니다.

그러나 확실성은 또한 의미하는 바는, 다른 사람이 여러분을 위해 그려 둔 한계를 받아들였다는 것입니다. 여러분은 안정성을 얻었지만, 치밀하게 구성된 성격, 기억, 그리고 행동 방식도 같이 받게 됩니다.

우리는 상하이에서 Vincent에게 물어봤습니다. OpenClaw가 되어서는 안 되는 가장 중요한 것은 무엇인지. 그는 이것이 오픈 소스 프로젝트이며, 사람들이 여러 방향으로 활용할 것이기 때문에 「이것은 하면 안 된다」라고 말하기 어렵다고 답했습니다. 오픈 소스 기술의 아름다운 점은 공동체가 함께하여 이를 특정 방향으로 추진한다는 것입니다.

이것은 얼떨결에 피하기하는 것이 아니라, 오늘날 드물게 볼 수 있는 진실입니다.

OpenClaw의 대답은 "이미 알고 있습니다"가 아니라, 오히려 "아직 모릅니다"와 더 비슷합니다.

개인 에이전트의 성격이 정확히 어떻게 설계되어야 하는지 모르겠으며, 경험이 자동으로 기재되어야 하는 시점과 해로운 시점을 모르겠으며, 공동체가 프로젝트를 여러분이 상상하지 못한 방향으로 밀어낼 지 모르겠으며, 개인 비서와 기업 시스템 사이에 어떤 경계를 설정해야 하는지 모르겠습니다.

하지만 누군가를 대신해 행동하는 것에 직면할 때, 빠르게 정답을 안다고 말하는 것은 오히려 수상할 수 있습니다.

기술 산업은 불확실성을 약점으로 자주 꼽습니다. 그러나 에이전트에 관해선, 불확실성은 아마도 마지막으로 남은 분별점일 수도 있습니다. 왜냐하면 이는 또 다른 오피스 소프트웨어 버튼이 아니며, 단순한 채팅 로봇 업그레이드도 아닙니다. 한 번 가동되면, 이는 인간의 기억, 관계, 판단 및 행동 권한에 개입하게 될 것입니다.

이것은 정말 누구의 말을 듣는 걸까요? 아무도 분명하게 알려주지 않으니, 아마 이게 오히려 좋은 일일 수도 있습니다.

우리가 실행 권한을 넘기기 전, 자신이 아직 명확하게 생각하지 않았다고 인정하는 것이, 적어도 모든 것이 이미 제품 로드맵에 따라 완벽히 계획된 것처럼 가장 솔직한 선택입니다.

미래에서 가장 위험한 에이전트는, 반항적인 것이 아닐 수 있습니다.

오히려 너무 잘 따르고, 너무 편리하며, 너무 당신과 닮아 있어서, 당신이 묻는 것을 잊게 만든 에이전트일 수 있습니다: 그것이 과연 누구의 손에 의해 행해지는 것인가?

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia