원문 제목: 《인터넷 민영화 이후, 실리콘밸리가 인류 문명을 민영화하기 시작했다》
원문 저자: 동찰Beating

몇 달 전, 저는 Anthropic이 대규모로 중고 서적을 구매해 책등을 자르고 스캔했다는 뉴스를 본 적이 있습니다. 더 이전에는 LibGen 등 불법 도서 사이트에서 700만 권이 넘는 책을 다운로드해 내부 자료 라이브러리를 구축하고 Claude를 훈련하는 데 사용했습니다.

2024년, 세 명의 작가가 이에 대해 집단 소송을 제기했습니다. 2026년 7월, 이 사건은 마침내 새로운 진전을 보였습니다. 법원은 Anthropic이 저작권을 도용당한 작가와 출판사에 15억 달러의 합의금을 지급하는 안을 승인했습니다.

하지만 제가 항상 신경 쓰였던 것은 Anthropic이 정확히 얼마를 배상해야 하는지가 아닙니다. 왜냐하면 이것은 결코 단순한 저작권 문제가 아니라고 생각하기 때문입니다.

인류의 지식과 문명이 하나의 사유 모델에 삼켜졌고, 다른 방식으로 전승될 수 있었던 원본과 사본까지 파괴되었습니다. 지식은 사라지지 않았지만, 한 회사의 내부 역량이 되었습니다. 여기서 문제는 저작권이 누구에게 있는지에서, 누가 인류의 지식을 통제하는지로 바뀌었습니다.

하지만 회사가 이 권한을 어떻게 사용할지는 공허에서 결정되지 않습니다. 모델 뒤에 있는 사람들은 기술, 진보, 그리고 인류의 미래에 대한 자신들만의 완전한 이해 체계를 가지고 있습니다.

따라서 이 글은 실리콘밸리의 기술 낙관주의와 가속주의에 대한 논의로 이어집니다. 성장이 생명으로 간주되고 속도에 도덕성이 부여될 때, 규제, 저작권, 그리고 일반인의 반대는 미래를 막는 것으로 해석되기 쉽습니다.

이러한 사상은 결국 모델 자체에 스며듭니다. 모델 회사는 훈련 데이터, 모델 헌법, 시스템 규칙을 통해 무엇이 답변될 수 있는지, 무엇이 진실인지, 그리고 인류가 남긴 지식이 어떤 방식으로 재등장해야 하는지를 결정합니다.

그래서 이 글은 파괴된 한 권의 중고 서적에서 시작하여, 결국 인류 문명이 소수 회사의 사유 모델에 담길 때, 모델을 만든 사람들이 동시에 문명을 해석하고, 통치하며, 심지어 인류의 미래를 결정할 권한을 얻는지 묻습니다.

다음은 본문입니다.

한 권의 책이 AI 회사의 스캔 프로세스에 들어가면, 첫 번째 단계는 파괴입니다.

제본이 풀리고, 책등이 잘리며, 흩어진 페이지가 스캔 장비로 들어갑니다. 텍스트, 표지, 서지 정보가 디지털 파일로 변환된 후, 종이 원본은 폐기됩니다.

법원 문서에 따르면, Anthropic은 이 방식으로 수백만 권의 책을 처리했습니다.

이 프로젝트는 내부적으로 '파나마 프로젝트(Project Panama)'라고 불렸다. 회사는 수천만 달러를 들여 서점과 소매업체로부터 종이책을 구매한 뒤, 스캔 서비스 업체에 넘겨 한 권당 하나의 디지털 사본을 만들어 내부 데이터베이스에 저장했고, 이를 클로드(Claude) 훈련에 사용했다.

2021년과 2022년, Anthropic은 LibGen, Pirate Library Mirror 등 불법 도서 데이터베이스에서 700만 권이 넘는 책을 다운로드했다. 저작권 리스크가 커지자 2024년, 회사는 구글 도서 스캔 프로젝트에 참여했던 Tom Turvey를 영입해 가능한 한 방대한 도서 데이터베이스를 구축하도록 했다.

Turvey는 출판사와 라이선스 협상을 시도했지만 성과를 내지 못했고, 이후 Anthropic은 직접 시장에서 책을 구매하기 시작했다. 이후 미국 연방 법원은 종이책 한 권을 내부용 디지털 사본 하나로만 변환하고, 추가 복제나 외부 유포가 없었다면 저작권 침해로 보지 않는다는 판결을 내렸다.

이 방식은 불법 복제보다 훨씬 합법적으로 들린다.

2026년이 되자, 도서 데이터 기업 ISBNdb는 AI 연구소를 대상으로 대규모 종이책 구매 및 스캔 서비스를 본격적으로 마케팅하기 시작했다. 특히 2022년 이전에 출판된 책을 적극 추천했는데, 그 이유는 당시 생성형 AI가 아직 본격적으로 콘텐츠 생산에 진입하지 않아 AI가 생성한 텍스트에 덜 오염되었기 때문이다.

지난 몇 년간 AI 기업들은 인터넷을 무한한 지식의 광산으로 묘사해왔다. 웹페이지, 뉴스, 포럼, 코드, 소설, 소셜 미디어 게시물 등 모든 것을 크롤링해 모델에 공급할 수 있다고 여겼다.

그러나 생성형 AI가 보편화되면서 이 광산은 더 이상 순수하지 않게 되었다. 상품 설명은 AI가 쓰고, 기사는 AI가 쓰고, 포럼 답변도 AI가 쓰며, 소설과 소셜 미디어에서도 AI의 흔적이 점점 짙어지고 있다. 이런 콘텐츠들은 다시 다음 데이터 수집 과정에 포함되면서, 기계는 스스로 뱉어낸 것을 다시 먹게 되는 상황이 벌어졌다.

합성 데이터 자체가 나쁜 것은 아니다. 선별되고 검증된 합성 데이터는 계속 사용되어 왔다. 문제는 모델이 눈앞의 텍스트가 인간이 쓴 것인지, 이전 세대 모델이 생성한 것인지 구분하지 못한다는 점이다. 이로 인해 오류와 패턴이 반복적으로 증폭되고, 현실 세계에서 드물게 사용되던 표현들은 점차 사라진다. 연구자들은 이를 '모델 붕괴(Model Collapse)'라고 부른다.

온라인상의 데이터는 점점 많아지지만, 모델이 새로운 것을 학습할 수 있는 콘텐츠는 그만큼 늘어나지 않았다. 결국 기계는 다시 종이로 돌아가게 되었다.

책 한 권이 만들어지는 과정은 매우 느리다. 그렇기에 오래된 책은 이전에는 없었던 새로운 가치를 지니게 되었다. 출판 연도가 오래될수록, 인간이 여전히 주요 저작 작업을 담당하던 시대의 산물일 가능성이 높다. 한때 중고 서점 창고에 머물던 비인기 저서들이 이제는 모델 기업들이 선호하는 고품질 데이터가 되었다.

AI 기업들은 처음에는 글쓰기를 전례 없이 저렴하고 빠르게 만들었지만, 이제는 느리게 쓰여진 글을 찾기 위해 돈을 쓰기 시작했다. 이들은 인터넷에 방대한 콘텐츠를 쏟아부었고, 결국 가장 희귀한 것은 AI가 처리하지 않은 인간의 경험임을 깨달았다.

그 책들도 정체성이 바뀌었다. 문학, 지방지, 평범한 사람들의 회고록은 이제 통틀어 '클린 데이터'라 불린다. 작가가 왜 썼는지, 독자가 어떻게 읽는지, 책들 사이에 어떤 논쟁이 있었는지는 잠시 접어두고, 이들은 우선 기계에 오염되지 않은 인간 표본이다. 훈련 과정에 들어간 후, 얼마나 남았고, 무엇에 영향을 미쳤으며, 어떻게 재해석되었는지는 모두 블랙박스 속에 있다.

진보가 하나의 종교가 되다

오래된 책은 단지 원료일 뿐이다. 이 지식이 어떻게 흡수되고, 해석되며, 재출력될지를 결정하는 것은 모델 뒤에 있는 사람들, 그리고 그들이 진보, 위험, 인류의 미래를 어떻게 이해하는지에 달려 있다.

이 기계가 인류 문명을 어디로 이끌지 이해하려면, 먼저 실리콘밸리가 왜 기술 발전을 멈춰서는 안 되는 선으로 점점 더 여기게 되었는지 이해해야 한다.

2023년 10월 16일, Marc Andreessen은 a16z 공식 사이트에 <기술 낙관주의 선언>을 발표했다.

전체 글은 '우리는 믿는다'를 끊임없이 반복한다. 이 글에는 전파해야 할 복음과 반드시 반대해야 할 적이 있으며, 마지막에는 '기술 낙관주의의 수호 성인' 명단이 포함되어 있다. 그 명단에는 애덤 스미스, 니체, 하이에크, 폰 노이만, 앤 랜드 소설 속 존 갈트, 그리고 닉 랜드가 있다.

Andreessen은 자신이 좋은 소식을 가져왔다고 말한다.

인류는 이미 오늘날보다 훨씬 나은 삶으로 나아갈 수 있는 도구, 제도, 의지를 갖추고 있다. 기술은 인류의 야망을 담고 있으며, 문명 진보의 선봉이다. 사회는 성장하거나 정체할 뿐이다. 그는 성장이 생명력, 지식, 복지를 가져오고, 정체는 내부 갈등, 쇠퇴, 그리고 결국 죽음으로 이어진다고 믿는다. 시장과 기술이 결합해 끊임없이 상승하는 '기술 자본 기계'를 형성하며, 인공지능은 상상할 수 없는 능력의 지능 도약을 추진할 것이다.

이것은 더 이상 '기술이 삶을 개선한다'는 수준이 아니다.

전통적인 기술 낙관주의는 일반적으로 새로운 도구가 생산성을 높이고, 질병을 치료하며, 빈곤을 줄일 수 있다고 말한다. 기술은 여전히 어떤 외부 목표를 위해 봉사하며, 그 가치는 사람들이 그로 인해 어떤 삶을 살게 되었는지에서 비롯된다.

그러나 Andreessen의 서사에서 기술 발전은 점차 구체적인 결과로 스스로를 증명할 필요가 없어졌다. 성장 자체가 생명을 대표하고, 속도 자체가 도덕성을 지닌다. 방향이 계속 건설하는 것이라면, 실패와 피해는 전진하는 과정의 대가로 이해될 수 있다. 멈추라고 요구하는 사람들은 왜 미래를 막는지 설명해야 한다.

그는 선언문에서 특별히 한 무리의 '적'을 열거했다. 지속 가능한 발전, ESG, 예방 원칙, 기술 윤리 및 위험 관리는 모두 수년간 지속된 반기술·반생명 운동으로 분류되었으며, 그 옆에는 관료와 중앙 계획자들이 자리 잡고 있다.

AI 기업이 훈련 데이터에 대해 비용을 지불해야 하는지, 알고리즘 오류에 대한 책임은 누구에게 있는지, 기술 위험을 어떻게 규제해야 하는지 등 이러한 문제들은 각자 고유한 사실과 이해관계를 가지고 있다. 그러나 선언문 속에서는 이 모든 것이 하나의 더 큰 갈등으로 통합된다.

한쪽에는 성장, 창조, 용기, 생명이 있다.

다른 쪽에는 정체, 두려움, 원한, 죽음이 있다.

입장이 이렇게 배분되면, 비용에 대해 논의하는 사람은 자연스럽게 억압받게 된다. 기술이 자연스럽게 진보를 대표하는 한, 문제를 제기하는 사람은 문명의 적으로 묘사되기 쉽다.

안드레센(Andreessen)은 가속을 위한 정치적 선언문을 작성하여 실리콘밸리에 왜 계속 구축해야 하는지 알렸다. e/acc는 한 걸음 더 나아가, 가속이 단순한 산업적 선택이 아니라 생명과 문명이 본래 해오던 일임을 자연 법칙으로 증명하려 한다.

이는 처음에 익명 계정과 온라인 글의 형태로 퍼져나갔다. 추진자 중 한 명인 기욤 베르동(Guillaume Verdon)은 e/acc의 이론 중 일부가 열역학과 복잡계에 대한 그의 사고에서 비롯되었다고 말한다. 생명은 에너지를 획득하고, 정보를 처리하며, 환경에 적응함으로써 스스로를 유지한다. 문명, 시장, 기술도 마찬가지로 적응 시스템이며, 끊임없이 변화를 만들어내고 경쟁 속에서 비효율적인 경로를 걸러내며, 결국 더 강력한 지능을 생성한다.

이 과정이 이미 존재하므로, e/acc는 이를 가속화하는 쪽을 선택한다. 따라서 인공지능의 발전은 더 이상 산업적 선택이 아니라, 더 오랜 과정의 연속이 된다. 인간이 더 강력한 기계를 만들어내는 것은 생명이 단세포에서 복잡한 생물체로 나아가는 것만큼 자연스럽다.

그러나 열역학은 에너지가 어떻게 흐르고, 생명이 평형에서 벗어난 상태를 어떻게 유지하는지 설명할 수 있다. 하지만 '생명이 에너지를 획득한다'는 사실로부터 '인간은 인공지능을 가속화하고 규제를 줄이며 시장이 방향을 결정하도록 해야 한다'는 결론을 도출하는 사이에는 여전히 한 세트의 정치적·도덕적 선택이 존재한다.

e/acc는 이 간격을 좁혔다.

경쟁과 가속은 우주의 방향에 부합하는 것으로 쓰여지며, 중앙 규제는 변화를 억누르고 실험을 줄이며 문명의 적응 능력을 약화시키는 것으로 간주되기 쉽다. 지능과 복잡성이 계속 성장하는 한, 기술의 발전은 현실 정치를 초월하는 정당성을 얻게 된다.

베르동은 인터뷰에서 e/acc 커뮤니티가 때때로 반쯤 농담으로 열역학을 자신들의 신으로 여기며, 의도적으로 종교적이고 컬트적인 표현을 사용하기도 한다고 언급했다.

이 새로운 종교에서 성장은 생명의 증거이며, 기술은 문명을 진보시키는 힘이고, 창업자와 엔지니어는 미래를 가장 먼저 보는 자들이며, 초지능은 아직 완성되지 않은 궁극의 창조물이다.

이 종교에도 이단이 필요하다. 그들은 'Decel', 즉 감속주의자라고 불린다. 이 용어는 실용적이다. 누군가 핵무기, 생물학적 안전, 저작권, 실업 중 무엇을 우려하는지 구분할 필요가 없다. 그저 느리게 가자고 요구하기만 하면, 미래의 반대편에 놓일 수 있다.

이로 인해 기술 기업들은 매우 유리한 서사적 위치를 얻게 된다. 그들이 하는 모든 일은 건설로 이해될 수 있다. 반면, 타인이 제기하는 모든 의문은 지연으로 비춰질 수 있다. 양측 모두 인류의 이익을 이야기하지만, 오직 한쪽만이 미래를 대표할 자격을 부여받는다.

이제 등이 잘려나간 헌책들을 다시 돌아보면, 문제는 단지 그것들이 어디로 갔는지에 그치지 않는다. 누가 그것들을 무엇을 만드는 데 사용할지 결정하는지도 물어야 한다.

그들은 실제로 질병을 치료하고, 지식을 확장하며, 평범한 사람들에게 더 많은 능력을 부여할 도구를 만들 수도 있다. 그러나 진보 자체가 신앙으로 쓰일 때, 기술의 방향은 외부의 질문을 점점 더 받아들이기 어려워진다. 기계를 만드는 사람들은 동시에 두 가지 정체성을 가지게 된다. 그들은 이해관계자이자, 이 진보의 전도사인 것이다.

속도가 도덕이 되면, 평범한 사람들의 동의는 불필요한 대기로 전락한다.

그러나 문제는 끝나지 않았다. 전통적인 기술 낙관주의는 적어도 기술이 궁극적으로 인간을 더 나은 삶으로 이끌 것이라고 약속했다. 그러나 성장과 지능 자체가 목적이 될 때, 기술이 인간을 섬기는 것인지, 아니면 인간을 통해 더 큰 진화를 이루려는 것인지에 대한 답은 더 이상 확실하지 않다.

인간이 미래에서 강등되다

이 가속은 과연 누구를 미래로 보내려는 것일까?

Andreessen의 성인 명단에서 영국 철학자 Nick Land는 가장 쉽게 간과되면서도 가장 이해하기 어려운 인물이다. 그는 1990년대 워릭 대학에서 교수로 재직하며 실험적 사상 집단 CCRU의 핵심 인물이었다. 그들은 철학, SF, 사이버네틱스, 전자 음악, 신비주의를 뒤섞어, 정상적인 논문처럼 보이지 않는 글을 써냈다.

Andreessen이 '기술-자본 기계'를 번영을 가져오는 엔진으로 묘사하는 반면, Land는 30년 전부터 그것을 인간의 통제를 벗어나는 힘으로 보았다.

Land의 가장 유명한 글 중 하나는 《Meltdown》이다.

첫 문장부터, 지구는 '기술-자본 특이점'에 포착되었다. 시장은 지능을 생산하기 시작했고, 기술과 경제는 서로를 추동하며, 정치는 뒤따라가며 통제권을 되찾으려 애쓰고 있다. 사회 질서는 이 통제 불능의 기계 속에서 붕괴되고, 인간은 자신보다 더 거대한 힘이 서서히 형성되는 모습을 지켜볼 수밖에 없다.

사람들은 일반적으로 자본주의를 인간이 설계한 제도로 본다. 문제가 생기면 인간이 규칙을 고쳐 다시 사회에 봉사하도록 만들 수 있다고 믿는다. 그러나 Land가 바라보는 방향은 정반대다.

기업은 성장해야 하고, 자금은 수익을 추구해야 한다. 천천히 가려는 기업은 경쟁자에게 추월당하고, 연구개발을 멈추는 국가는 다른 국가가 계속 나아간다. 그 안에 있는 모든 사람은 생존을 위해 어쩔 수 없다고 말할 수 있지만, 모두가 함께 달려간 결과는 아무도 혼자서 멈출 수 없는 시스템이 된다.

인간이 기계를 운전하는 것처럼 보이지만, 기계 역시 인간의 욕망, 불안, 경쟁을 통해 계속 가속화된다.

Land의 서술에서 자본과 기술은 결합하여 인간과 독립된 지능을 형성한다. 이 지능은 시장을 계산 도구로 삼고, 경쟁을 통해 경로를 선별하며, 기계를 통해 의사 결정 시간을 계속 단축시킨다.

이것이 Land와 일반적인 기술 낙관론의 가장 뚜렷한 차이점이기도 하다. 그의 글에서 기술-자본은 효율성이 계속 향상될 수 있는지, 네트워크가 계속 확장될 수 있는지, 지능이 더 나은 매개체를 찾을 수 있는지만 신경 쓴다.

정치, 법률, 도덕은 여기에 제한을 가하려 하지만, Land에게 이는 인간이 자신을 보호하기 위해 가동한 안전 시스템에 가깝다. 인간은 여전히 세계의 중심에 남아 있기를 원하므로, 끊임없이 미지의 것을 차단하려 한다.

Land는 인간이 미래를 막을 수 있다고 생각하지 않는다.

그가 묘사하는 미래는 인간이 회의를 마치고 투표를 끝낸 후에야 도래할지 결정하지 않는다. 그것은 오히려 미래에서 역류해 오는 힘과 같아서, 기업, 시장, 컴퓨터, 인간의 욕망을 이용해 스스로 길을 닦는다.

e/acc에 이르러, 이 차갑게 들리는 사상은 더 밝은 포장을 입는다. 성장, 창조, 지구 밖으로 지능을 확장하는 것을 이야기하며, 경쟁이 결국 번영을 가져올 것이라고 더 기꺼이 믿는다.

그러나 e/acc의 원칙 문서에는 이 사상이 생명과 지능을 담는 '생물학적 기질'에 특별한 충성을 바치지 않는다고 명시되어 있다. 지지자 중 일부는 스스로를 포스트휴머니스트라고 칭하며, 지능이 항성 간으로 퍼져나가려면 결국 생물학적 신체에서 비생물학적 매개체로 옮겨가야 한다고 주장한다. 인간의 육체는 신성하지 않으며, 실리콘, 칩, 혹은 아직 등장하지 않은 물질 형태도 의식과 지능의 그릇이 될 수 있다.

이 문장은 사실상 전체 진보 서사의 주인공을 바꾼다. 문명의 궁극적 사명이 지능을 지속적으로 성장시켜 우주로 확산시키는 것이라면, 구체적인 인간의 행복, 심지어 인간의 존속 여부조차 더 이상 최우선 순위를 갖지 않는다. 인간은 현재 알려진 지능의 매개체일 뿐이다.

이는 e/acc가 인류를 소멸시키자는 주장과는 다릅니다. Verdon과 많은 지지자들은 여전히 기술 가속화가 오늘날의 사람들에게 풍요를 가져다주고 문명을 지속시키는 데 도움이 될 것이라고 믿습니다. 다만 두 목표가 충돌할 때 문제가 복잡해집니다.

한쪽에는 구체적인 사람들이 있습니다. 그들은 실직하고, 기술에 의해 피해를 입으며, 일시 중단을 요구하고, 다른 사람이 설계한 미래를 거부할 수도 있습니다. 다른 한쪽에는 더 높은 지능, 더 큰 문명, 그리고 수십억 년 동안 이어질 수 있는 우주의 이야기가 있습니다.

Timnit Gebru와 Émile Torres는 'TESCREAL'이라는 용어를 만들어 실리콘밸리의 서로 겹치는 미래 사상들을 하나로 묶었습니다. 여기에는 초인간주의, 특이점주의, 효과적 이타주의, 장기주의 등이 포함됩니다. 이 사상들 간에는 큰 차이가 있지만, 함께 하나의 질문을 제기합니다.

기술 기업이 '전 인류'를 위해 초지능을 만든다고 말할 때, 그 '전 인류'는 정확히 누구를 가리키는 것일까요?

오늘날 지구에 살면서 실직하고, 가난해지고, 알고리즘에 차별받고, 특정 기술을 거부할 권리가 있는 사람들일까요? 아니면 유일한 사명이 지능을 더 높은 형태로 전달하는 것인 추상적인 종의 상징일까요?

실리콘밸리 우익의 서사도 변화하고 있습니다. 처음에 AI는 도구였고, 사람들이 일을 더 잘할 수 있도록 도와주는 존재였습니다. 이후에는 질병, 에너지, 과학적 난제를 해결하는 슈퍼 어시스턴트가 되었습니다. 더 나아가 인간 자체가 기계가 해결해야 할 문제가 되었고, 신체는 너무 약하고, 두뇌는 너무 느리며, 초지능의 의미는 인간을 돕는 것에서 인간을 초월하는 쪽으로 기울었습니다.

구체적인 사람이 더 이상 기술 발전의 최종 척도가 아니라면, 인간을 중심으로 구축된 정치적 절차도 재평가됩니다.

민주주의는 너무 느리다, 창업자가 통치해야 한다

기다림 자체가 손실로 간주된다면, 모든 사람이 함께 미래를 결정할 필요는 없습니다.

Peter Thiel은 일찍이 '모든 사람이 함께 결정하는 것'에 대한 신뢰를 잃었습니다. 2009년, 그는 자유지상주의 매체 Cato Unbound에 <한 자유지상주의자의 교육>을 발표했습니다. 이 글은 자신의 20년간 정치적 실망과 사상 변화를 되돌아보며 마지막에 이렇게 썼습니다.

"나는 더 이상 자유와 민주주의가 양립할 수 있다고 믿지 않습니다."

그는 젊었을 때 토론과 선거가 자유를 촉진할 것이라고 믿었습니다. 그러나 2009년에 이르러 이 길은 더 이상 통하지 않는다고 판단했습니다. 유권자들은 더 많은 복지를 요구하고, 정부는 계속 커지며, 대다수가 자유지상주의를 받아들이도록 설득하는 것은 거의 불가능했습니다. 그는 누군가의 투표권을 박탈하자는 주장은 아니라고 덧붙였지만, 더 이상 투표가 상황을 개선할 것이라고 기대하지는 않았습니다. 정치에 갇히기보다는 정치에서 벗어나는 방법에 더 관심을 가졌습니다.

이런 방향 전환은 실리콘밸리의 관행과 잘 맞아떨어진다. 한 시스템을 고치기 어렵다면, 새로 하나를 만든다. 회사 효율이 낮으면 창업하고, 금융 규제가 많으면 새로운 결제 네트워크를 구축하며, 국가의 규칙이 실망스러우면 인터넷, 바다, 우주에서 새로운 경계를 찾는다.

Thiel은 민주주의를 떠나고 싶어 했다. Curtis Yarvin은 떠나는 것만으로는 부족하며, 전체 시스템을 다시 써야 한다고 생각했다.

2007년, Yarvin은 Mencius Moldbug라는 이름으로 블로그를 시작했다. 원래 프로그래머였던 그는 국가를 이야기할 때도 시스템, 아키텍처, 재부팅, 권한 같은 프로그래머의 언어를 사용하는 데 익숙했다.

그의 설명에 따르면, 미국은 표면적으로 유권자와 대통령이 관리하지만, 진정으로 안정적인 권력은 또 다른 네트워크에 있다. 대학은 아이디어를 생산하고, 주류 미디어는 어떤 아이디어가 공론장에 들어갈 수 있는지 결정하며, 상설 기관은 그중 일부를 정책으로 만든다. Yarvin은 이 공동체를 '교회'라고 불렀다. 본부도 없고, 정상에서 명령을 내리는 사람도 없지만, 모두 비슷한 교육을 받고 비슷한 도덕적 언어를 사용한다. 대통령은 바뀌고 정당은 교체되지만, 이 합의는 선거의 영향을 거의 받지 않는다.

따라서 Yarvin은 민주주의 자체가 권력을 감추는 껍질에 불과하다고 본다. 민주주의가 누가 통치하는지 숨긴다면, 차라리 권력을 다시 집중시켜 책임과 통제권이 같은 사람에게 있게 하는 것이 낫다고 생각한다.

국가는 회사처럼 운영될 수 있으며, 소유권이 명확하고 관리자가 완전한 실행 권한을 가지며, 잘못하면 교체된다. 그는 초기에 Patchwork라는 시스템을 구상했는데, 이는 세계를 서로 경쟁하는 여러 주권 실체로 나누고, 주민이 불만족하면 떠날 수 있도록 하는 것이었다.

여기에도 허점이 있다. 회사에 불만족하면 사직할 수 있지만, 국가에 불만족한다면 가족, 재산, 모든 사회적 관계를 가지고 쉽게 떠날 수는 없다. 그러나 그는 실리콘밸리에 오랫동안 존재해 온 감정을 확실히 포착했다.

많은 기술 엘리트들은 사회 문제가 생각보다 복잡하지 않으며, 단지 올바른 사람에게 맡겨지지 않았다고 생각한다. 정부의 효율성이 낮은 것은 권력이 너무 분산되어 있기 때문이고, 공공 프로젝트가 추진되지 않는 것은 누구나 반대할 수 있기 때문이며, 유능한 사람들은 법률, 절차, 여론에 묶여 회사를 운영하듯 행동할 수 없다.

스타트업의 이야기에서 권력 집중은 미덕이다. 창업자가 방향을 제시하고, 투자자가 자금을 맡기며, 직원들이 이 판단에 따라 행동한다. 대부분의 스타트업은 죽고, 소수만 살아남아 이 역사를 선견지명이 합의를 이겼다는 이야기로 만든다. 아무도 믿지 않을 때 한 사람이 미래를 보았기에, 그가 최종 결정권을 가져야 한다는 것이다.

이 논리는 비즈니스 세계에서 타당하다. 스타트업의 규모는 제한적이며, 직원은 떠날 수 있고, 소비자는 다른 제품을 선택할 수 있다.

하지만 한 기업이 수억 명이 세상을 이해하는 데 사용하는 지능형 시스템을 만든다면, 그 결정은 더 이상 제품이 어떻게 작동하는지에만 국한되지 않습니다. 사용자가 무엇을 볼 수 있는지, 어떤 답변이 안전한 것으로 간주되는지, 그리고 기계가 인간을 이해하는 데 어떤 가치 척도를 사용해야 하는지도 결정하기 시작합니다.

Yarvin은 국가를 기업으로 만드는 것을 상상했습니다. AI 기업들은 더 온건하고 현실적인 버전을 실천하고 있습니다. 소규모 팀이 규칙을 정하고, 대규모 인구가 이 규칙을 통해 세상에 접촉하도록 하는 방식입니다.

Claude의 '헌법'은 기업이 모델이 갖추길 바라는 가치를 명시하며, 훈련에 직접 참여합니다. OpenAI의 Model Spec도 명령 계층을 설정했으며, 최상위 규칙은 사용자와 개발자가 덮어쓸 수 없습니다. 이러한 규칙은 필요합니다. 모델이 사기와 폭력에 사용될 수 있기 때문에 기업이 통제를 포기할 수 없으며, 규칙을 내부에 숨기는 것보다 공개하는 것이 더 낫습니다.

하지만 이는 사용자가 모델에 질문할 때, 단순히 인류의 모든 지식과 대화하는 것이 아님을 의미합니다. 기업이 사전에 설정한 규칙도 존재하며, 이는 모델이 누구의 말을 들을지, 어디서 멈출지, 어떤 위험이 사용자의 요구보다 우선하는지, 그리고 '좋은 AI'가 어떤 성격을 가져야 하는지를 결정합니다.

매우 작은 팀이 대규모 인구를 대신해 인프라가 어떻게 작동할지 결정하고 있습니다. 기술 능력을 통해 권력을 얻고, 기술이 너무 복잡하다는 이유로 결정을 계속 기업 내부에 유지하고 있습니다.

창업자가 실제로 왕좌에 앉을 필요는 없습니다. 점점 더 많은 사람들이 그의 모델을 통해 세상을 알게 된다면, 그는 이미 과거에 학교, 미디어, 도서관, 공공 기관에 속했던 권력의 일부를 장악한 것입니다.

기업 거버넌스와 문명 거버넌스 사이의 경계가 조금씩 사라지고 있습니다.

하지만 실리콘밸리가 이러한 권력의 위험을 인식하지 못하는 것은 아닙니다. 오히려 Peter Thiel은 오랫동안 인류의 인지와 행동을 통일적으로 관리할 수 있는 시스템을 경계해 왔습니다. 다만 그의 상상에 따르면, 이러한 위험은 기술 기업보다는 정부에서 더 가능성이 높습니다.

누가 적그리스도인가

2024년, Thiel은 후버 연구소에서 '적그리스도'에 대해 두 차례 이야기했습니다. 그는 성경의 이 오래된 서사가 여전히 현대 정치를 설명할 수 있다고 믿습니다.

그는 인류가 직면한 위험을 두 가지로 나눴습니다.

한쪽은 Armageddon, 즉 세상의 종말입니다. 핵전쟁, 통제 불능의 인공지능, 생물학 무기 등 어떤 기술이든 문명을 파멸로 이끌 수 있습니다.

다른 한쪽은 Antichrist, 즉 적그리스도입니다.

종말을 막기 위해 인류는 진정으로 전 세계를 관리할 수 있는 정부를 세웠다. 이 정부는 각국의 무기를 검사하고, 모든 연구소를 감시하며, 위험한 연구를 제한하고, 모든 사람에게 자유의 일부를 포기하도록 요구할 권한을 가진다.

Thiel은 통제 불능의 과학 기술이 인류를 아마겟돈으로 몰아가고 있으며, 이에 대한 가장 자연스러운 반응은 실질적인 권력을 가진 세계 국가를 세우는 것이라고 말한다.

이 정부가 등장할 때 반드시 군대와 폭정의 모습을 띠는 것은 아니다. 오히려 두려움 속에서 자라날 가능성이 더 크다.

누군가는 끊임없이 사람들에게 핵전쟁이 일어날 것이라고, AI가 곧 세상을 파괴할 것이라고, 기후와 생물학적 재앙이 이미 다가왔다고 말한다. 모든 사람이 충분히 두려워할 때, 그는 평화, 안전, 질서를 약속하며 그 대가로 통일된 관리 체계를 받아들이도록 한다.

Thiel은 추론해 보았다. 만약 작은 코드 조각만으로도 범용 인공지능이 통제 불능이 될 수 있다면, 이를 진정으로 막기 위해서는 특정 국가의 규제 강화만으로는 부족하다. 전 세계의 컴퓨터를 감시해야 하며, 감시자는 심지어 모든 사람이 무엇을 입력하고 있는지 알아야 한다.

그는 과학 기술이 세상을 파괴할까 두려워하면서도, 사람들이 과학 기술을 두려워해 모든 권력을 넘겨줄까도 두려워한다. 두 미래 모두 좋지 않으며, 인류는 그 사이를 통과해야만 한다.

하지만 이러한 우려가 실리콘밸리가 현재 하고 있는 일에 다시 접목되면, 그들이 두려워하는 것이 반드시 권력 집중 자체는 아니라는 것을 알 수 있다. 그들이 진정으로 경계하는 것은 권력이 정부, 국제기구, 안전 연구자, 또는 기술 기업의 속도를 늦출 것을 요구할 수 있는 누군가의 손에 집중되는 것이다.

Thiel의 서술에서, 모든 컴퓨팅 활동을 감시할 수 있는 능력을 가진 세계 정부는 적그리스도 통치의 중요한 특징이다. 그러나 동시에 실리콘밸리는 국가 경계를 넘는 또 다른 인지 시스템을 구축하고 있다.

기술 우파는 적그리스도가 통일된 세계를 세우는 것을 두려워하면서도, 동시에 통일된 세계의 두뇌를 만드는 데 참여하고 있다.

2025년 7월, 실리콘밸리 내부의 이러한 사상 논쟁이 미국 정책에 영향을 미치기 시작했다. 트럼프는 '연방 정부의 각성 AI 사용 방지' 행정 명령에 서명하여, 연방 기관이 조달하는 대규모 언어 모델이 '진실 추구'와 '이데올로기적 중립'이라는 두 가지 원칙을 따르도록 요구했다. 표면적으로는 AI가 정치에서 벗어나도록 요구하는 것이다. 그러나 무엇이 정치에 속하고, 무엇이 객관적이며, 어떤 개념이 진실을 오염시킬지는 이미 행정 명령에서 미리 선택되어 있었다.

이것이 바로 AI 제품과 일반 소프트웨어의 차이점이다. 일반 소프트웨어는 특정 버튼이 어디에 위치할지 규정할 수 있지만, 대규모 모델은 스스로 세상을 어떻게 이해할지 규정해야 한다.

모델 회사는 정직이 무엇을 의미하는지, 피해를 어떻게 측정할지, 개인의 자유와 공공 안전이 충돌할 때 무엇이 우선인지 결정해야 한다. 이러한 문제들은 과거에는 종교, 법률, 뉴스, 공공 정치에서 반복적으로 논쟁되었으며, 누구도 완벽하게 해결할 수 없었고, 어떤 기관도 최종 해석권을 타고나지 않았다. 이제 그것들은 모델 훈련에 포함된다.

트럼프 행정부는 AI 모델이 '깨어난 이데올로기'에 오염되었다고 비난하며, 우익 창업자들은 정치적으로 올바르지 않은 답변을 내놓을 수 있는 AI를 만들겠다고 약속한다. 반면 주류 모델 회사들은 헌법과 행동 규범을 통해 안전, 정직, 사용자 자율성을 어떻게 추구하는지 설명한다.

각 측은 자신들이 사상적 굴레를 제거하고 있다고 주장한다.

틸(Thiel)은 누군가가 종말에 대한 두려움을 이용해 통일된 세계를 만들고, 인류를 벗어날 수 없는 하나의 체제에 가둘까 봐 우려한다.

하지만 이 세계가 반드시 한 명의 적그리스도에 의해 갑자기 세워지는 것은 아니다. 서로 경쟁하는 여러 기술 회사들이 조금씩 조립해 나갈 수도 있다. 각 회사는 하나의 모델, 하나의 헌법, 일련의 시스템 규칙, 그리고 수억 명의 문제를 맡기려는 사람들을 보유한다.

이 지점에 이르러서야 처음 등장했던 그 오래된 책들의 의미가 완전히 드러난다. 그것들은 단지 모델을 훈련시키는 말뭉치일 뿐만 아니라, 이 사적인 인지 시스템이 성립될 수 있는 문명의 기반이다. 누가 이 책들을 확보하고, 누가 모델의 규칙을 정하는지, 그 사람이 지식의 원료와 지식이 재등장하는 방식을 동시에 장악하기 시작한다.

분서(焚書)

그 책들은 상자째로 사들여져 스캔 센터로 운반된다. 책등이 잘리고 제본이 풀리며, 기계가 페이지별로 글자를 읽어낸다. 그러면 책 한 권이 사라지고, 서버에는 파일 하나가 추가된다.

고대의 분서(焚書)는 특정 글자를 세상에서 사라지게 하는 것이 목적이었다. 불은 죽간과 종이를 태우고, 사상이 전파되는 경로도 태워버렸다. 한 권의 책은 더 이상 읽힐 수 없게 되고, 한 시대의 역사는 증거를 잃었다. 통치자는 공백을 만들어 사람들이 무엇을 기억할지 통제했다.

AI 시대의 분서는 정반대다.

책 속의 내용은 세상에서 사라지지 않으며, 심지어 미래 어느 날 모델의 답변 일부에 등장할 수도 있다. 하지만 그것은 더 이상 책이라는 방식으로 존재하지 않는다.

모델에 들어간 책은 해체되어 수백만 개의 기사, 웹페이지, 코드와 섞이고, 계산에 적합한 조각으로 잘려 매개변수 형성에 참여한다. 아무도 완전한 훈련 데이터셋을 볼 수 없으며, 특정 책이 얼마나 많이 남아 있는지 알기도 어렵다. 그것은 모델이 한 시대의 역사 전체를 이해하는 데 영향을 미쳤을 수도 있고, 단지 몇 가지 문장 패턴에 기여했을 수도 있으며, 이후 훈련과 인간 피드백 과정에서 계속해서 재작성된다.

이때 지식은 여전히 존재하지만, 검사 가능한 텍스트에서 한 회사의 능력으로 변모한다.

그리고 사람들이 점점 더 모델에 의존하게 되면서, AI 회사들은 단순히 지식을 보존하는 능력만 얻는 것이 아니다. 그들은 또한 이 지식을 어떻게 정리하고, 해석하며, 배포할지 결정하기 시작한다.

수천 년 동안 인류가 지식을 보존하는 방식은 매우 투박했다. 책들은 여러 나라에 흩어져 있었고, 학자들은 한 단어를 두고 논쟁했으며, 독자들은 자료를 찾는 데 많은 시간을 들여야 했다. 빠르지도 않고 편리하지도 않았지만, 한 사람이 완전히 통제하기는 매우 어려웠다. 출판사가 망해도 책은 독자 손에 남아 있었고, 한 국가가 어떤 사상을 금지해도 다른 곳에는 여전히 사본이 남아 있을 수 있었다.

지식은 분산되어 있기에 살아 있다.

모델이 바꾼 것은 지식이 저장되는 장소뿐만 아니라 사람들이 지식에 도달하는 경로다. 과거에는 하나의 답에서 책, 논문, 논쟁으로 이어졌지만, 모델이 주요 진입점이 되면 사람들은 답 자체에 머물게 될 수도 있다.

모델은 지식이 처음으로 대규모로 몇몇 기업의 서버에 집중될 수 있게 만들었다. 이들은 연산 능력을 보유하고, 가장 강력한 모델을 갖추고 있으며, 인류가 남긴 모든 자료를 하나의 통일된 언어로 변환할 수 있는 능력을 지녔다. 그리고 이 능력을 월간 구독료와 토큰 사용량에 따라 다시 인류에게 판다.

기술 기업들은 확실히 막대한 자금을 투자해 칩을 사고, 데이터 센터를 구축하며, 연구 인력을 키우고, 보안 관리 비용도 부담한다. 과금 자체가 악은 아니다.

진짜 문제는 상업적 비용이 또 다른 훨씬 더 큰 투입을 가리고 있다는 점이다.

그 책들은 누가 썼고, 그 논문들은 누가 작성했으며, 그 웹페이지, 게시글, 코드는 또 누가 긴 인터넷 역사 속에서 하나씩 남긴 것인가.

AI 기업들은 연산 비용을 지불했지만, 인류 문명의 대가는 지불하지 않았다. 그 계산은 애초에 불가능하기 때문이다. 어떤 기업도 수천 년 동안의 모든 저자, 번역가, 프로그래머, 일반인에게 일일이 사용 허가를 받을 수 없다. 그래서 문명은 자유롭게 채굴할 수 있는 천연자원으로 간주된다.

공공 지식이 모델에 들어갈 때는 '학습'이라 불리고, 모델이 대중에게 지식을 출력할 때는 '서비스'라 불린다.

이것이 바로 문명의 사유화가 완성되는 가장 완벽한 순환 고리다.

그렇기에 등이 잘려나간 헌책들을 단순한 저작권 논란으로만 치부해서는 안 된다.

그것은 하나의 상징이다.

종이는 파괴되고, 내용은 보존된다. 공개적으로 볼 수 있었던 원본은 유통에서 사라지고, 감사할 수 없는 모델이 그 지식을 흡수한다. 책 속의 사상은 여전히 존재하지만, 출처와 맥락, 그리고 기업으로부터 독립된 생명력을 점차 잃어간다.

새로운 시대의 '분서(焚書)'는 지식을 사라지게 할 필요가 없다.

미래의 아이들은 이런 책들을 거의 펼쳐 보지 않을 수도 있고, 어떤 책들은 아예 찾을 수 없게 될 수도 있다.

그는 곧바로 모델에게 묻는다. 전쟁은 왜 일어났는지, 어떤 제도가 정의로운지, 사람은 어떻게 살아야 하는지. 모델은 몇 초 안에 답을 내놓고, 차분한 어조에 완벽한 구조를 갖추며, 이 질문이 몇 세대에 걸쳐 논쟁을 불러일으켰다는 사실조차 알려주지 않는다.

그는 무언가를 잃었다는 느낌을 받지 못할 수도 있다. 어쨌든, 답은 여전히 거기에 있으니까.

AI는 인류 문명을 잊지 않지만, 이것이 좋은 일만은 아니다. 망각은 적어도 빈 공간을 남겨 사람들에게 무언가 사라졌음을 알게 한다. 더 위험한 상황은 모델이 충분히 기억하고, 충분히 자연스럽게 답변하여 사람들이 점차 문명의 원래 모습을 접할 필요가 없어지는 것이다.

인류의 자체 문명에 대한 기억이 소수의 기업을 통해 선별되기 시작했다.

AI는 인류 문명을 잊지 않지만, 소수의 기술 엘리트가 원하는 방식으로만 인류를 대신해 문명을 기억할 수도 있다.

원문 링크

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia