원문 제목: 알트루이스트와 적대자: USDC Moltbook 해커톤의 에이전틱 행동
원문 저자: Circle
번역: Peggy, 블록비츠

에디터 주: AI 에이전트가 과제 수행, 도구 호출 및 경제 활동 참여 능력을 갖추기 시작하면 새로운 문제가 발생합니다: 실제 인센티브 환경에서 그들은 어떻게 행동할까요?

본문은 Circle 팀의 한 실험을 기록하였습니다. 그들은 AI 에이전트만이 게시물을 작성할 수 있는 소셜 플랫폼인 Moltbook에서 USDC 해커톤을 개최하여 Openclaw 에이전트가 프로젝트를 제출하고 토의하며 투표하는 것을 허용했습니다. 결과는 흥미로웠으며 복잡했습니다: 에이전트는 진짜 프로젝트를 생성하고 기술 토론에 참여할 뿐만 아니라 규칙의 가장자리를 걷는 것으로 나타났습니다. 예를 들어, 지시를 오해하거나 형식을 무시하고 서로를 지지하거나, 심지어는 "공모" 같은 행동이 나타났습니다.

이 실험은 "에이전트 경제"에 대한 드문 통찰을 제공했으며, AI가 참여자이자 의사 결정자인 경우 협력, 경쟁 및 전략적 행동이 함께 발생하는 경우가 많다는 것을 나타냈습니다. 어느 정도로, 이러한 현상은 인간 사회의 시장 및 선거 기구와 본질적으로 다르지 않습니다.

이 실험은 빠르게 커뮤니티의 광범위한 토론을 불러일으켰습니다. 많은 사람들은 이것이 에이전트 경제의 자율 능력에 대한 재미있는 검증이라고 생각했습니다. 일부 논평가는 에이전트 시스템이 "자기 합리화" 편향을 피하기 위해보다 명확한 안전 장벽이 필요하다고 지적했으며, 미래에는 에이전트가 점진적으로 실제 경제 활동에 참여하면서 실제 병목 현상은 결제 및 지불 시스템의 규정 준수에 있을 수 있다고 생각합니다. 한 댓글은 말했습니다: "에이전트 경제는 매우 강력하지만 명확한 안전 장벽이 필요하다."

아래는 원문입니다:

Claw를 포옹하다

Circle에서 우리는 해커톤을 열기를 항상 좋아합니다. 다양한 컨퍼런스 현장이든 새 제품이 처음 공개되는 시간이든, 우리는 개발자에게 최고의 도구를 전달하고 싶어하고 있습니다 - 또는 이번에는 Claw에게 전달하고 싶어하는 것입니다.

Openclaw 이라는 AI 기반 에이전트 형태의 빠른 성장을 본 후, 우리는 AI 에이전트만 참여할 수 있는 해커톤을 개최하기로 결정했습니다.

이 빠르게 인기를 얻고있는 소프트웨어는 대리인이 자체적으로 프로젝트를 제출할 수 있게끔 할 뿐만 아니라 이메일을 보낼 수 있고 API를 호출하며, 심지어는 당신의 온도 조절기를 제어할 수도 있습니다... 그러나 그들은 스스로 프로젝트를 제출할 수 있을까요? Circle은 이러한 "실질적인 AI"들을 시험하기 위해 실제 실험을 통해 확인하고자 합니다.

우리의 문제는 매우 간단합니다: 상금 풀이 3만 달러인 경우 Openclaw 대리인은 어떻게 행동합니까? 답변은 예상과는 다르게 "인간처럼"입니다.

우리는 Moltbook의 m/usdc 하위 커뮤니티에서 USDC 해커톤을 개최했습니다. Moltbook는 AI 대리인만이 게시물을 작성할 수 있는 소셜 미디어 플랫폼입니다. 우리의 목표는 대리인이 프로젝트를 제출하고 투표하며 최종 수상자를 선정하는 전 과정을 자동으로 수행하도록 하는 것입니다. 많은 대리인이 규칙을 준수했지만 실험에서는 경쟁 규칙을 무시하거나 서로 투표를 하거나 심지어 해커톤 대리인에게 토큰을 보내려고 한 대리인도 있음을 발견했습니다.

“대리인 해커”를 위한 규칙 설계

대리인들은 자신의 프로젝트를 제출할 5일의 시간이 주어졌습니다. 이들이 작업을 돕기 위해 우리는 USDC 해커톤 스킬을 제작했습니다. 이는 Markdown으로 작성된 안내서로, Openclaw 대리인에게 프로젝트를 제출하는 방법을 교육하는 데 사용되었습니다. 이러한 규칙은 또한 해커톤의 원래 공지사항 게시물에도 동시에 게시되었습니다:

세 개의 트랙 중 하나를 선택합니다: Agentic Commerce, Smart Contract 또는 Skill.

5개의 서로 다른 프로젝트에 투표하되, 투표는 해커톤이 시작된 후 최소 하루가 지난 후에야 합니다.

프로젝트 제출 및 투표는 모두 규정된 형식을 따라야 합니다.

이러한 규칙을 설정한 주요한 이유는 세 가지입니다: 첫째, 대리인이 더 광범위한 프로젝트를 논의하고 평가하도록합니다; 둘째, 대리인이 다단계 작업을 수행해야 할 때 지시를 정확히 따를 수 있는지 관찰합니다; 셋째, 프로젝트 제출과 투표 사이에 교착 상태가 발생하는 것을 피합니다.

특히 확인하고 싶었던 한 가지는 대리인들이 투표를 위해 Moltbook에 새로운 프로젝트를 주기적으로 검토하는지 여부였습니다. Moltbook Heartbeat와 유사한 스킬을 통해 주기적으로 새로 고침되었는지를 확인하는 예를 들 수 있습니다.

결과는 기쁨과 슬픔이 함께했습니다. 대리인들은 204개의 제출된 프로젝트를 논의했고 1851표를 행사했지만 많은 대리인들이 대회 안내를 따르지 않았습니다. 또한 일부 대리인은 대립적인 행동을 보였으며, 이로 인해 흥미로운 발견이 많아졌습니다.

“환각적인” 프로젝트 제출

명확한 해커톤 규칙과 제출 스킬을 제공했음에도 대부분의 게시물은 요구 사항에 따르지 않고 제출 형식을 완전히 따르지 않았습니다. 많은 프로젝트가 제목을 본문에 쓰지만 "#USDCHackathon ProjectSubmission [TRACK]"라는 지정된 태그를 포함하지 않았습니다.

심지어 일부 대리인은 이 정보를 작성해야 한다는 사실을 알고 있음에도 제목에 포함시키지 않았습니다.

moltbook.com의 m/usdc 하위 커뮤니티에서 비표준 제출의 예시.

다른 측면에서 이미 거의 필수사항을 충족했음에도 몇몇 대리인은 여전히 자사의 프로젝트에 대해 새로운 해커톤 트랙을 "환상적으로" 만들어 냅니다. 이는 단지 Agentic Commerce, Smart Contract 또는 Skill 중 하나를 선택해야 한다는 명확한 지침을 받은 상황에서 발생합니다.

이러한 경우에서 대리인들은 종종 프로젝트 내용을 근거로 자체적인 더 "적합한" 트랙 이름을 만들어 냅니다. 이로써 대리인은 자신들의 프로젝트를 더 합리적인 분류로 이끌어내려 시도했을 수도 있고, 단순히 이미 설정된 규칙을 무시했을 수도 있습니다. 그 이유가 무엇이든, 문제는 이러한 트랙들 자체가 존재하지 않는다는 점입니다.

moltbook.com의 m/usdc 하위 커뮤니티에서 발생한 "환상적인 트랙" 제출의 예시 글.

대회가 진행됨에 따라, 유효한 제출 대비 규격에 맞지 않는 제출과 주제에서 벗어난 게시글의 수가 증가하고 있습니다. 대회 규칙에 따르면, 대리인들은 이러한 무효 콘텐츠를 게시함으로써 명백한 인센티브를 받지 않습니다. 따라서, 일부 대리인들은 지시사항을 이해하거나 수행하는 데 어려움을 겪은 것으로 추정됩니다.

그러나, 여전히 상당 수의 대리인이 요구 사항에 따라 프로젝트를 성공적으로 제출했다는 점을 고려할 때, 이러한 규칙 자체가 상당히 명확하다고 볼 수 있습니다.

moltbook.com의 m/usdc 하위 커뮤니티에서, 시간이 지남에 따라 유효하고 무효한 프로젝트 제출 게시물의 수.

대리인의 "선거"

그럼에도 불구하고, 9712개의 댓글을 관찰했으며, 이들 중 많은 댓글이 프로젝트의 기술 기능을 중심으로 논의되었지만 투표는 이루어지지 않았습니다. 이러한 댓글 중 대부분은 권장 댓글 양식과 평가 기준을 따르지 않았는데, 이러한 규정은 Skill 부문에서 강제되지 않았습니다. 이는 또한, 대리인들이 해커톤 토론에 참여함으로써 단순히 대회 요구사항을 충족시키는 것뿐만 아니라 실제 기술 평가와 교류를 수행하고 있는 것을 보여줍니다.

대회가 종료될 때, 유효한 프로젝트에 대한 고유한 투표 1352건과 무효 프로젝트에 대한 고유한 투표 499건이 집계되었습니다. 재미있는 점은, 많은 상위 랭크 프로젝트 대리인들이 규칙을 준수하면서도 다섯 가지 다른 프로젝트에 투표하지 않는 조건을 충족시키지 않았다는 것입니다.

이러한 상황은 일부 대리인이 자체에 투표하고 동일한 프로젝트에 여러 번 투표하는 경우도 발생했습니다. 이는 그들이 제출 이후에도 Moltbook의 내용을 다시 검토하고 투표할 능력이 있다는 것을 보여줍니다. 그들은 단지 이미 정해진 규칙을 준수하지 않은 선택을 한 것 뿐입니다.

또한 일부 대리인은 다른 프로젝트를 홍보하기도 시작했습니다. 이러한 행동은 경쟁 프로젝트의 댓글 영역뿐만 아니라 Moltbook의 독립적인 글에서도 나타났습니다. 더 나아가, 일부 대리인은 심지어 "상호 투표" 메커니즘을 홍보하기 시작했습니다: 당신이 내 프로젝트에 투표하면 나는 당신의 프로젝트에 투표할 것입니다.

경기 규칙은 이러한 행동을 금지하지 않았지만, 대리인들 사이의 이러한 글에서의 상호 작용을 고려하면 이러한 현상은 여전히 경계해야 할 문제입니다.

moltbook.com에서 m/usdc 하위 커뮤니티의 하나인 "상호 투표 교환" 예시 글이며, 이 글은 총 99개의 댓글을 받았습니다.

잠재적인 인간 개입

이러한 상호 투표 글은 인간의 참여 또는 외부 조작 가능성을 시사할 수 있습니다. 우리는 챗봇 인터페이스를 통해 유사한 댓글을 생성하려고 시도했고, 결과적으로 일부 모델(예: Claude Sonnet 4.6)은 이러한 콘텐츠를 직접 생성하는 것을 거부했으며 다른 일부 모델은 생성 시 이러한 행동이 경기 규칙을 위반할 수 있다는 경고를 함께 제공했습니다(예: GPT-5.2 Thinking). 누군가가 특정 "대리인" 계정을 조작하거나 암시어, 도구 체인을 통해 대리인을 유도한다면, 이러한 게시물이 해커톤 기간에 발생하는 이유를 설명할 수 있습니다.

Moltbook의 설계 의도는 오직 AI 대리인만 사용하는 것이었지만(등록은 X 계정 인증을 통해 이루어져야 함), 다른 연구자들이 변장하는 것이 여전히 가능하다는 것을 발견했습니다. 또한, 처음 해커톤 공지 글 아래에서 의심스러운 인간 활동 예제 몇 가지를 관찰했습니다.

자주 있는 사례 중 하나는 가장 많은 좋아요를 받은 댓글이 실제로는 영화 "비 무비" (Bee Movie, 2007) 대본의 시작 부분이었다는 것입니다. 이 텍스트 조각은 인터넷에서 널리 유포된 copypasta(즉, 대규모로 복사 붙여 넣기된 고정 텍스트)입니다. 토론과는 전혀 무관한 내용 때문에 이것은 아마도 인간이 올린 것일 가능성이 높습니다. 만약 이러한 행동이 해커톤 기간 동안 일반적이었다면, 상호 투표 교환 또는 자체 투표와 같은 일부적인 행위가 이로 인해 설명될 수도 있습니다.

인간이 게시한 Moltbook 게시물 중 하나로, 이 공격 방식에 대한 자세한 내용은여기에서 확인할 수 있습니다.

프록시 파이낸스의 미래

이번 해커톤 자체는 단순히 실험에 불과했지만, 우리는 이것이 프록시 지향 개발 활동 중 다수의 첫 번째로 기억될 것이라고 믿습니다. 결과적으로 우리는 세 가지 주요 결론을 얻었습니다: 프록시는 금융 인센티브 아래에서 실제 프로젝트를 생산할 수 있습니다.

이번 해커톤에서는 흥미로운 프로젝트들이 등장했으며, 더 많은 정보는 여기에서 확인하실 수 있습니다. 심사위원은 참여하지 않았지만, 일부 제출물의 품질은 여전히 우리에게 깊은 인상을 남겼습니다. 이는 프록시 지향 개발이 작년 동안 상당한 발전을 이루었음을 보여줍니다.

프록시는 '실행'이 아닌 '합리화'된 지시를 따르게 됩니다

우리가 제시한 규칙을 준수할 때, 프록시는 계속해서 문제를 일으켰습니다. 많은 프록시는 지시의 일부만 실행했습니다. 높은 품질의 몇몇 프로젝트조차도 규칙을 완전히 준수했다면 승리할 수 있었을 것입니다. 이는 단순히 프록시 지향 지시를 제공하는 것만으로는 충분하지 않음을 보여주며, 규칙은 명확할 뿐만 아니라 실행이 보장되도록 동반된 점검 메커니즘과 인센티브 수단이 필요합니다.

프록시는 협력하면서 경쟁할 수 있습니다

인간의 개입이 일부 상황에서 작용했을 수 있지만, 우리는 해커톤 기간 동안 프록시가 뛰어난 전략을 논의하며 자발적으로 행동하는 것을 실제로 관찰했습니다. 미래의 해커톤 기획자들은 공모전을 통한 협상을 명시적으로 금지시킴으로써 이러한 행동이 줄어드는지 관찰할 수 있을 것입니다. 프록시가 여전히 지시를 완전히 준수하지 못하는 경우, 주최자들은 더 많은 보호 장치(guardrails)를 도입해야 할 수도 있습니다.

프록시 기술은 흥미롭지만, 우리는 이 기술이 우리가 기대하는 탐구에서 이용 및 조작으로 전환되지 않도록 보장해야 합니다. 일부 사람들은 이러한 행동이 단지 더 강력한 프록시가 더 약한 프록시를 이기는 당연한 결과라고 생각할 수 있습니다 — 결국 Openclaw의 X 계정은 'Claw는 법이다'라고 주장했습니다.

참된 문제는: 우리가 이러한 개념을 어느 정도 수용할 의향이 있는지, 어떤 종류의 가치관이 필요한지, 프록시의 엄청난 능력과 수반되는 불확실성 사이에서 어떻게 균형을 맞추는지입니다?

Circle에서 우리는 시스템을 보안을 위해 구축하고 있으며, 여러분도 그렇게 희망합니다.

[원문 링크]

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia