AI 크래시 해결론: 왜 기관의 관성과 소프트웨어 황야가 우리를 구할 것이다

원문 제목: Contra Citrini7

원문 작자: John Loeber, 연구원

번역: Ismay, BlockBeats

편집자 주: Citrini7의 사이버펑크 컬러가 감도는 AI 최종권고문을 따르는 고글은 전 세계적인 논란을 빚었지만, 이 글은 이를 좀 더 실용적인 역경으로 풀어냅니다. Citrini가 디지털 쓰나미가 순식간에 문명을 삼켰다고 여기는 것과 대조되는 것으로, 이 글의 저자는 인간의 관료주의, 망가진 현재의 소프트웨어 생태계, 오랜 기간 무시되었던 대규모 산업의 완강한 저항을 본다. 이것은 실리콘밸리 상상과 현실의 불변 법칙이 충돌하는 것으로, 우리에게 지점이 올 수도 있지만, 그것은 절대 하루 아침 사이에 일어나지 않을 것임을 상기시킨다.

다음은 원문 내용입니다:

유명 시장 코멘테이터 Citrini7은 최근 흥미진진하고 광범위하게 퍼져나가는 AI 재앙 소설을 발표했습니다. 그는 몇 가지 장면의 발생 확률이 극히 낮다고 인정했지만, 나는 여러 차례 경제 붕괴를 예견해 온 사람으로 그의 견해에 의문을 제기하고 더 확실하면서도 더 낙관적인 미래를 제시하고자 합니다.

「기관적 관성」을 저평가하지 말라

2007년에는 "석유 정점"을 향해 미국의 지정학적 위치가 종결되었다고 여겼으며, 2008년에는 미 달러 시스템이 거의 붕괴할 것으로 여겼으며, 2014년에는 AMD와 NVIDIA가 이미 기력을 다한 것으로 여겼다. 그리고 그 후 ChatGPT가 등장했을 때, 사람들은 다시 구글이 망할 것이라고 생각했다...... 그러나 매번, 깊은 관성을 지닌 기존 기관들이 옆에서 지켜보는 이들이 상상하는 것보다 더 견고함을 증명했습니다.

Citrini가 기관의 교체와 노동력이 신속히 대체될 것에 대한 두려움에 대해 이야기할 때, 그는 다음과 같이 썼습니다: "우리가 대인 관계가 유지되고 있다고 여기는 분야조차 취약하게 보인다. 예를 들어 부동산 분야는 몇 10년간 소비자와 중개인 간의 정보의 불균형으로, 구매자들이 5~6%의 수수료를 참았습니다......"

여기까지 보고 나서 나는 묵묵히 웃었습니다. "부동산 중개인 소멸"을 외치는 것은 20년째인데요! 이건 정말 슈퍼 인텔리전스를 필요로하지 않아요, Zillow, Redfin 또는 Opendoor가 충분하다고요. 그러나 이 예는 Citrini와 반대 의견을 명백히 학인한다: 대부분의 사람들에게는 이미 낡았다고 여겨진 이러한 노동력이 시장의 관성과 규제포획 (Regulatory Capture) 덕분에 10년 전 누구의 예상보다 더 강인함을 유지하고 있다는 것입니다.

몇 달 전에 집 한 채를 샀어요. 거래 과정에서 우리에게 중개인을 고용하도록 강제되었는데, 이유는 신중했어요. 제 구매자 대리인은 이 거래로 약 5만 달러를 벌었고, 실제로 한 일 — 양식 작성과 다자 간 조정 — 은 합해봐도 10시간밖에 안 되었는데, 전 완전히 혼자 처리할 수 있었어요. 이 시장은 결국 효율성을 향해 나아가고, 노동에 합리적인 가격을 부여할 것이지만, 그건 오랜 프로세스가 필요해요.

나는 관성과 변혁 관리의 방법을 잘 알고 있어요: 한 회사를 창립하고 팔아서, 핵심 비즈니스는 보험 중개 회사를 ‘수동 서비스’에서 ‘소프트웨어 주도’로 변모시키는 데 기여했어요. 배운 교훈은: 현실 세계의 인간 사회는 매우 복잡하며, 어떤 것이든 달성되기까지 시간이 항상 여러분이 상상한 것보다 길다는 겁니다 — 이 규칙을 이미 고려했다고 해도요. 이건 세상이 변하지 않는다는 뜻이 아니라, 변화가 더 온화해지며, 우리가 대응하고 적응하는 데 시간을 남겨준다는 뜻이에요.

소프트웨어 산업은 ‘끝없는 수요’를 갖고 있어요

최근 소프트웨어 섹터는 약세를 나타냈는데, 투자자들은 Monday나 Salesforce, Asana 등 회사들의 백엔드 시스템이 요새 쉽게 복제될 수 있는 보호장벽이 부족해서 걱정하고 있어요. Citrini 등은 AI 프로그래밍이 SaaS 회사의 종말을 예고한다고 여기는데요: 제품이 동질화되고, 제로 마진이 된다는 것과 직무들이 사라진다는 것 두 가지 이유 때문에요.

하지만 모두가 한 가지를 놓친 건 있어요: 현재 이런 소프트웨어 제품들이 실망스러울 정도로 나쁘다는 거예요.

대단히 한 말씀 드릴 권리가 있어요, Salesforce와 Monday에 수십만 달러를 투자했거든요. 사실, AI로 경쟁사가 이 제품들을 복제할 수 있지만, 더 중요한 것은, AI가 경쟁사가 더 좋은 제품을 만들 수 있게 해준다는 거에요. 주가가 하락하는 건 이상한 게 아니에요: 긴급한 묶음, 경쟁력 부족, 열악한 옛날 제조업체로 가득 찬 산업과 같은 분야는, 드디어 경쟁을 다시 맞이할 준비를 하게 된 거예요.

더 광범위한 시각에서 보면, 거의 모든 기존 소프트웨어가 쓰레기라는 것은 논쟁의 여지가 없어요. 내가 돈을 주고 산 모든 도구는 버그로 가득 차 있어요; 어떤 소프트웨어의 경우 냉혹한 정도로 못 쓰다 보니 돈을 주고 쓰고 싶어도 못 주는 걸 격었어요 (지난 세 해간 시티은행의 인터넷 뱅킹 이체를 계속 사용 못 했어요); 대부분의 웹 앱들은 모바일과 데스크톱을 모두 지원하지 못 하고; 하나의 제품도 완벽하게 당신이 원하는 기능을 제공하지 못 해요. Stripe나 Linear 같은 실리콘밸리 인기주의자들이 대량의 지지를 받을 수 있던 이유는, 그들이 경쟁사들처럼 사용하기 어렵게 만들지 않았기 때문일 뿐이에요. 만약 여러분이 수석 엔지니어에게 “진정으로 완벽한 소프트웨어를 보여줘”라고 물으면, 받게 될 것은 오랜 침묵과 어리둥절한 시선 뿐이에요.

여기에는 한 가지 심오한 진실이 숨어 있어요: 비록 ‘소프트웨어 포인트’가 도래하더라도, 인간은 소프트웨어 노동력에 대한 수요가 거의 끝없다는 사실이에요. 유명한 완벽함에 도달하는 데는 주로 가장 많은 노력이 필요해요. 이 기준에 따르면, 거의 모든 소프트웨어 제품은 수요 포화에 이르기 전에도 복잡성과 기능이 최소 100배는 향상될 공간이 있어요.

소프트웨어 산업이 쇠퇴할 것이라고 주장하는 그 분들은 대부분 소프트웨어 개발에 대한 직관력이 부족한 것 같아요. 소프트웨어 산업은 이미 50년 동안 존재해왔고, 큰 발전을 이루었지만 여전히 끝없는 「부족함」 상태에 있습니다. 2020년 개발자로서 제 생산성은 1970년대 수백 명의 개발자에 버금가는데, 이러한 leverage는 굉장히 놀라운 것입니다. 하지만 결과적으로 아직도 큰 최적화 공간이 남아 있습니다. 사람들은 「제봉즈 역설」(Jevons Paradox)을 과소평가합니다: 효율성 향상은 종종 총 수요의 폭발적인 증가를 가져올 수 있습니다.

이는 소프트웨어 엔지니어링이 영원히 무너질 수 없는 철퇴라는 것을 의미하는 것은 아니지만, 이 산업이 노동력을 흡수하고 관성이 상상을 초월하는 능력을 가지고 있으며 포화 과정은 매우 느리기 때문에 우리는 여유롭게 대처할 수 있습니다.

「재산업화」의 구원

물론, 노동력 이동은 불가피하게 일어날 것이며, 운전 분야와 같은 분야가 그렇습니다. Citrini가 말했듯이, 많은 화이트칼라 직업들이 동요를 경험할 것입니다. 이미 실질적 가치를 잃고 관성에만 의지해 수입하는 부동산 중개인과 같은 직업에 대해선 인공지능이 최후의 일격이 될 수 있습니다.

그러나 우리의 구원을 찾을 수 있는 곳은 바로 여기입니다: 미국은 재산업화에 거의 무한한 잠재력과 수요를 지니고 있습니다. 당신은 「생산산업 회귀」에 대해 들어본 적이 있을지 모르지만, 이것이 그 한계가 아닙니다. 우리는 이미 현대 생활의 핵심 구성 요소를 제조하는 능력을 거의 상실해 버렸습니다: 전지, 전동기, 소형 반도체 등 — 전체 전력 산업 사슬은 외국에 거의 완전히 의존하고 있습니다. 군사적 충돌이 발생하면 어떻게 될까요? 더 나쁜 것은, 당신은 중국이 전세계의 90% 합성암모늄을 생산한다는 것을 알고 계셨나요? 공급이 차단된다면, 우리는 비료조차 만들 수 없어 기아에 시달릴 수밖에 없습니다.

물리적 세계를 향해 시선을 돌리면 끝없는 일자리 기회를 발견할 수 있습니다. 이들은 국가에 이익을 주고 일자리를 창출하는 기반 인프라 구축이며 정치적으로 다당파 지원을 받을 수 있습니다.

우리는 이미 경제적 및 정치적 방향이 이 방향으로 향하고 있음을 보았습니다 — 생산산업 회귀, 딥테크놀로지, 그리고 「미국 활력」에 대한 대화. 제 예측은, 인공지능이 화이트칼라층을 충격을 줄 때, 정치적 저항이 가장 작은 길은 대규모 재산업화를 후원하여 「취업 거대 사업」을 통해 노동력을 흡수하는 것일 것입니다. 다행히도, 물리적 세계에는 「특이점」이 존재하지 않습니다. 그것은 마찰의 영향을 받습니다.

우리는 교량과 도로를 다시 수리할 것입니다. 사람들은 실제 노동 성과를 보는 것이 디지털 추상 세계에서 돌아다니는 것보다 더 큰 성취감이 있다는 것을 발견할 것입니다. 18만불의 연봉을 잃은 Salesforce 고급 제품 관리자는 아마도「캘리포니아 해수淡화 공장」에서 새로운 직장을 찾게 되어 25년간 지속된 가뭄을 종식하게 될 것입니다. 이러한 시설은 건립뿐만 아니라 뛰어난 품질을 지향하며 장기적인 유지보수가 필요합니다. 우리가 원한다면, 「제봉즈 역설」은 물리적 세계에도 적용될 수 있습니다.

풍요의 길로

대규모 산업 공학의 최종 목표는 풍요입니다. 미국은 자급자족을 되찾고 대규모이며 저렴한 생산을 실현할 것입니다. 물질 부족을 벗어나는 것이 중요합니다. 장기적으로, 우리가 진정으로 AI로 많은 사무직 일자리를 잃게 된다면, 우리는 대중들의 고품질 생활을 유지할 능력이 있어야 합니다. 그리고 AI로 인해 이윤율이 제로가 되면 소비재는 매우 저렴해질 것이므로 이 목표는 자연스럽게 실현될 것입니다.

내 견해는, 경제의 다른 부문이 서로 다른 속도로 「이륙」할 것이며, 거의 모든 분야의 변화가 Citrini가 상상한 것보다 더 느리게 진행될 것이라는 것입니다. 분명히 말씀드리면, 저는 AI를 매우 높이 평가하며, 언젠가는 제 노동력도 시들어갈 것이라는 것을 예견하고 있습니다. 그러나 이에는 시간이 필요하며, 시간은 우리에게 올바른 대책을 마련할 기회를 줍니다.

이 단계에서, Citrini가 상상한 시장 붕괴를 막는 것은 사실 어렵지 않습니다. 미국 정부의 위기 대응 능력은 이를 증명하였습니다. 위기 발생 시 대규모 경기부양 정책이 신속히 가동될 것입니다. 효율성이 낮다는 점은 조금 불편하지만, 이것은 중요한 부분이 아닙니다. 중요한 것은 대중의 물질적 번영을 보장하는 것입니다. 이는 국가에 합법성을 부여하고 사회 계약을 유지하는 보편적 복지를 의미하며, 과거의 회계 지표나 경제 이론을 고집하는 것이 아닙니다.

우리가 이 느릿느릿하지만 확실한 기술적 변화 속에서 예민함과 대응력을 유지할 수 있다면, 우리는 결국 모두가 평안할 것입니다.

「원문 링크」

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia