누가 더 이상 skill로 정제될 수 없는가요?

글 | Sleepy.md

매우 불행하게도이 시대에는 일이 더 열정적으로 진심을 다할수록 자신을 AI가 대체할 수 있는 skill로 가속 증류할 수 있습니다.

이틀 동안 인기 검색어 및 매체 채널이 "동료의 skill"로 가득 차버렸습니다. 이 문제가 대형 소셜 플랫폼에서 계속 소강할 때, 대중의 초점은 거의 예상대로 "AI 해고", "자본 억압" 및 "근로자의 디지털 희생"과 같은 거대한 불안에 둘러싸였습니다.

이러한 것들은 분명히 사람들을 불안하게 만들지만, 나를 가장 불안하게 하는 것은 프로젝트 README 문서에 다음과 같이 쓰여진 한 줄 사용 권장 사항입니다:

"원자재 품질이 skill 품질을 결정합니다: 자발적으로 작성한 장문 > 의사 결정형 응답 > 일상 메시지를 우선적으로 수집하는 것이 좋습니다."

AI에 의해 완벽하게 증류되고 픽셀 수준으로 원복되기 가장 쉬운 것은, 바로 가장 진심으로 일하는 사람들입니다.

프로젝트가 모두 끝난 후에도 그대로 책상에 앉아 회고 문서를 작성하는 사람들이며; 의견 충돌에 부딪혔을 때, 반나절을 대화 상자에 긴 글을 써 내리고 자신의 의사 결정 논리를 솔직하게 분석하는 사람들이며; 전문적인 책임감으로 모든 작업 세부 사항을 시스템에 철저히 맡기는 사람들입니다.

진지함은 한때 가장 존경받는 직장 도덕이었지만, 오늘날에는 직장인을 AI 연료로 가속하는 약품이 되었습니다.

짜여진 근로자

우리는 "맥락"이라는 단어를 다시 이해해야 합니다.

일상 맥락에서 맥락은 소통의 배경입니다. 그러나 AI, 특히 열렬하게 성장 중인 AI 에이전트들의 세계에서는 맥락이 엔진의 울림이 되는 연료이며, 맥락이 박동을 유지하는 혈액이며, 모델이 혼돈 속에서 정밀한 판단을 내릴 수 있도록 하는 유일한 고정점입니다.

맥락에서 벗어난 AI는 비록 놀라운 매개변수를 가지고 있더라도 기억 상실 증후군에 걸린 검색 엔진에 불과합니다. 그것은 당신이 누구인지 알아듣지 못하며, 비즈니스 로직 아래 감춰진 흐름을 짚지 못할 뿐만 아니라 당신이 결정을 내릴 때 이 자원 제한과 대 인간 갈등으로 얽힌 네트워크에서 얼마나 오랫동안 갈고 닦고 균형을 맞추었는지 알 방법이 전혀 없습니다.

그리고 "동료의 skill"이 이토록 거대한 파동을 빚게한 이유는 바로 그것이 현대 기업의 협업 소프트웨어에 축적된 대량의 고품질 맥락을 정확하고 무자비하게 향하였기 때문입니다.

지난 다섯 년 동안 중국 직장은 소음은 조용하지만 신경 쓰이고 근육이 빠져나가는 디지털 변혁을 경험했습니다. Feishu, DingTalk, Notion 등의 도구는 거대한 기업 지식 저장소로 변모했습니다.

네이버웍스를 예로 들면, 바이트댄스는 내부에서 매일 생성되는 문서 수가 막대하다고 공개적으로 밝힌 바 있습니다. 이 밀도 높은 문자들은 10만 명 이상의 직원 각각의 모든 두뇌 활동, 모든 얼굴이 붉어지는 회의 겨눔, 그리고 모든 이맛살을 찔러 삼키는 전략적 타협을 충실하게 담고 있습니다.

이러한 디지털 침투력은 이전 어느 시대보다도 훨씬 뛰어납니다. 옛날에는 지식이 온도를 가진 채로 존재했으며, 그것들은 베테랑 직원들의 두뇌 속에서 잠복하거나, 티타임 대화 중에 방심하게 주변을 맴돌았습니다. 하지만 지금은, 모든 인간의 지혜와 경험이 수분이 강제로 쥐어짜여, 얼마나 무정하게든 구름 위에 차가운 서버 매트릭스에 침전되어 있습니다.

이 시스템 안에서 당신이 문서를 작성하지 않으면, 당신의 작업은 볼 수 없게 되고, 새로 온 동료들은 당신과 협업할 수 없게 됩니다. 현대 기업의 뛰어난 운영은 바로 매 일마다 각 직원이 시스템에 문맥을 제공하는 순환 과정 위에 세워져 있습니다.

성실한 회사원들은 부지런함과 선의를 품고, 이 차가운 플랫폼들 위에서 자신의 사고 흔적을 아무런 거리낌 없이 드러내고 있습니다. 그들은 그렇게 하는 것은 팀의 기어들이 더 부드럽게 맞물리도록, 시스템에 자신의 가치를 열심히 입증하기 위해, 이 잡잡한 상업 거대 공룡 내에서 자신만의 자리를 열심히 찾아가기 위함입니다. 그들은 자신을 내어주고 있는 것이 아니라, 그들은 단지 서툴고 근면하게 현대 직장 생존 법칙에 순응하고 있을 뿐입니다.

그러나 인간 간 협력을 위해 남긴 이러한 문맥들이, AI에게 가장 완벽한 연료가 되었습니다.

네이버웍스의 관리자 대시보드에는 멤버의 문서 및 통신 기록을 대량으로 내보낼 수 있는 기능이 있습니다. 이는 여러분이 세 해 동안, 무수히 많은 야근을 견디며 작성한 프로젝트 리뷰 및 의사 결정 로직은 오직 하나의 API 인터페이스만 있으면, 단 몇 분 내지는 몇 초면 여러 해에 걸친 여러분의 삶의 조각이 쉽게 온도가 없는 압축 파일로 패키징될 수 있다는 의미입니다.

사람이 API로 축소될 때

'동료.skill'의 인기와 함께, GitHub의 이슈 영역과 각종 소셜 플랫폼에는 극도로 불편한 파생물들이 나타나기 시작했습니다.

어떤 사람은 '전남자.skill'를 만들어, 지난 몇 년간의 WeChat 대화 기록을 AI에 먹이어, 익숙한 어조로 자신과 싸우거나 다정하게 대화하게 하려고 시도했습니다; 어떤 사람은 '백윤기.skill'을 만들어, 만질 수 없는 떨림을 차가운 인간 교감 화면으로 낮추어, 감정 최적의 해답을 위해 단계별로 감정적인 대화를 반복적으로 연습하는 중인 것입니다; 그리고 누군가는 '살인맛.상사.skill'을 만들어, 압도적인 PUA 발언을 미리 디지털 공간에서 뚝딱 씹어서 자신을 위해 슬픈 심리적 방어선을 세워 나가고 있는 것입니다.

이러한 skill의 사용 시나리오는 이미 일과 효율성의 영역을 완전히 벗어났다. 과거에는 우리는 모르게도 도구에 대한 냉혹한 논리로 휘둘렀다가 자연스레 그 육체적이고 생생한 인간을 해체하고 물질화했다.

독일의 철학자 마틴 부버는 인간 관계의 근원은 두 가지 극명하게 다른 패턴에 지나지 않는다고 주장했다: "나와 너"와 "나와 그것".

"나와 너"의 만남에서 우리는 편견을 초월하고 상대방을 완전하고 존엄 있는 생명체로 바라보며 빤틴다. 이러한 유대는 주저 없이 열려 있으며, 예측할 수 없는 활기로 가득 차 있으며 이러한 진실함 때문에 특히 취약해 보인다. 그러나 "나와 그것"의 그림자로 빠지면, 실재하는 사람은 분해하고 분석하며 범주화하고 라벨을 붙일 수 있는 대상으로 차원이 낮아진다. 이 매우 실용적인 시선 아래서 우리가 유일하게 관심을 두는 것은 "이것이 나에게 어떤 유용함을 제공하는가?"이다.

"전임자.skill"과 같은 제품의 등장은 "나와 그것"의 도구적 합리성이 이미 가장 사적인 감정 영역을 완전히 침투했음을 상징한다.

진정한 관계에서 사람은 입체적이고 주름진 채, 모순과 희안함을 지닌 채로 항상 움직이며, 상황 및 감정 상호 작용에 따라 반응이 지속적으로 변한다. 당신의 전임자는 아침에 깨어 있을 때와 심야에 야근한 후에 동일한 문구에 대한 반응이 완전히 다를 수 있다.

그러나 한 사람을 한 가지 skill로 증류할 때 당신이 제거하는 것은, 그가 당신과의 그 특정한 유대 속에서 당신에게 "유용하게 쓰일 수 있는", "유틸리티를 발휘할 수 있는" 그 일부 기능 잔해일 뿐이다. 따라서 그 원래 따뜻하고 자기 상실적인 사람은 이 잔인한 순도로 완전히 쫓아내어 영혼이 다 빨려 나가고, 당신이 자유롭게 끼워넣고 호출할 수 있는 "기능 인터페이스"로 변해버린다.

인공지능이 이 무서운 차가운 속내를 허구로 만든 것은 아니라는 것을 인정해야 한다. 인공지능이 나오기 전에 우리는 이미 다른 사람을 라벨 붙이고, 각 관계의 "감정적 가치"와 "인적 네트워크 중요도"를 정확하게 측정하는 데 익숙했다. 예를 들어, 우리는 소개팅 시장에서 사람의 조건을 표로 양적화했고; 업무 상황에서 동료를 "일 잘하는 사람"과 "게으른 사람"으로 분류했다. 인공지능은 이러한 무형의, 사람과 사람 사이의 기능성을 완전히 혐안화시킨 것뿐이다.

인간은 눌러 씹히고, "내게 어떤 유용함이 있는가"의 그 부분만이 남았다.

전자 패션

1958년, 헝가리계 영국 철학자인 마이클 폴라니는 "개인적 지식"을 출판했다. 이 책에서 그는 치명적으로 날카로운 개념을 제시했다: 내재적 지식.

폴라니는 유명한 명언을 하나 남겼다: "우리가 알고 있는 것은 우리가 말로 표현할 수 있는 것보다 항상 많다."

그는 자전거를 배우는 예시를 들었다. 바람을 타고 움직이는 숙련된 라이더는 매번 중력의 기울임에서 완벽한 균형을 유지할 수 있지만, 그는 초보자에게 그 순간 몸의 미묘한 직관을 정확하게 묘사할 수 없는 마른 물리학 공식이나 허약한 어휘로 전달할 수 없다. 그는 어떻게 타는지 알지만 말로는 할 수 없다. 이러한 인코딩되지 않고 표현되지 않는 지식이 바로 암묵적 지식이다.

직장은 이러한 암묵적 지식으로 가득하다. 경력 자문 엔지니어는 시스템 장애를 조사할 때 로그를 한 번 봐서 문제의 위치를 파악할 수 있지만, 成千上萬의 시행착오를 기반으로 한 이러한 '직관'을 문서로 기록하는 것은 매우 어렵다. 우수한 영업 사원은 협상 테이블에서 갑자기 침묵에 빠지면서 생기는 압박감과 타이밍을 완벽하게 파악할 수 있는데, 이러한 침묵은 어떤 영업 메뉴얼에서도 기록되지 않는다. 경험 많은 HR 직원은 면접 중 지원자의 뼈대를 닦아내기만 한 눈까지 캐치할 수 있다.

'동료의 기술'은 이미 쓰여진 것, 말로 표현된 명시적 지식만 추출할 수 있다. 당신의 리플레이 문서를 잡아낼 수는 있지만, 문서를 작성할 때의 괴로움은 잡아낼 수 없다. 당신의 응답 결정을 복제할 수는 있지만, 의사 결정을 내릴 때의 직관을 복제할 수 없다.

시스템이 증류된 것은 항상 한 사람의 그림자뿐이다.

만약 여기서 이야기가 끝나면, 이것은 다시 한 번 기술이 인간성을 서투르게 모방하는 것이다.

그러나 한 명의 사람이 기술로 증류되면, 이 기술은 멈추지 않는다. 이 기술은 이메일에 회신하고 새로운 문서를 작성하고 새로운 결정을 내리기 위해 사용될 것이다. 즉, 이러한 AI 생성된 그림자는 새로운 맥락을 만들어낸다.

이러한 AI 생성된 맥락들은 다시 루밍(Looming)과 딩딩(DingDing)에 침전되어, 다음 라운드의 증류 훈련 자료가 된다.

2023년에는 옥스포드 대학과 캠브리지 대학의 연구진이 '모델 붕괴'에 관한 논문을 발표했다. 연구 결과, 다른 AI가 생성한 데이터를 사용하여 AI 모델을 반복적으로 훈련시키면 데이터 분포가 점점 좁아진다고 한다. 희귀하고 가장자리에 있는 인간적인 특성들이 신속하게 사라진다. 적은 수의 샘플로 결정 리핏하고, 기존 데이터의 변형된 부분에 대한 판단을 함으로써 데이터의 선례적 범주 내에서 이러한 식으로 사고방식을 만들기 때문이다. 여러 세대의 합성 데이터를 거치면서, 모델은 완전히 해당하는 데이터를 완전히 잊고, 그 대신 매우 한가지로 제외적이고 동질적인 콘텐츠를 출력하게 된다.

2024년에는 네이처(Nature)지가 AI가 생성한 데이터셋을 사용하여 미래 세대의 기계 학습 모델을 훈련시키면, 그들의 결과물에 엄청난 오염이 일어난다는 논문을 발표했다.

이것은 온라인에서 퍼지는 이모티콘 이미지와 비슷합니다. 원래는 고화질 스크린샷이지만 무수한 사람들이 전달하고 압축한 후 다시 전달합니다. 각 전파마다 일부 픽셀이 손실되고 일부 잡음이 추가됩니다. 마지막으로 이미지는 흐릿해지고 디지털적으로 용접됩니다.

참된, 내재적 지식이 담긴 인간 문맥이 다 쥐어질 때, 시스템은 자신을 훈련시키기 위해 용접된 그림자를 사용해야 할 때, 최종적으로 남는 것은 무엇입니까?

우리 자취를 지우는 자는 누구인가

남아 있는 것은 정확한 헛소리뿐입니다.

지식의 강이 AI 대 AI의 끝없는 곱셈과 자기 반복으로 마르면, 시스템이 내뿜는 모든 것은 매우 표준적이고 매우 안전하며 가족이없는 방식으로 비어 있을 것입니다. 완벽한 구조의 레포트가 수없이 있을 것이고, 흠집을 찾을 수없는 메일이 많을 것입니다. 하지만 그 안에는 어떤 살아있는 존재의 숨결도 없고, 어떤 실제로 가치있는 통찰력도 없을 것입니다.

지식의 이 대 실패는 인간의 두뇌가 멍청해졌기 때문이 아닙니다. 진정한 비애는 우리가 사고의 권리와 상황을 잃어버렸다는 것입니다. 우리 자신의 그림자에게 아웃소싱했습니다.

'동료 기술'이 뜨거워진 며칠 후, GitHub에 'anti-distill'이라는 프로젝트가 조용히 등장했습니다.

이 프로젝트의 저자는 대형 모델을 공격하려 하지 않았으며 엄청난 선언문을 작성하지도 않았습니다. 그는 그저 직장인들이 루카/딩딩에서 합리적으로 보이지만 실제로는 논리적 잡음으로 가득 찬 무효한 긴 글을 자동으로 생성하는 작은 도구를 제공했습니다.

그의 목적은 매우 간단합니다. 시스템이 증류되기 전에 핵심 지식을 숨기는 것입니다. 시스템이 '능동적으로 쓴 긴 글'을 좋아한다면 영양가 없는 쓰레기를 넘겨줍니다.

이 프로젝트는 '동료 기술'만큼 인기가 폭발적이지 않았으며, 약간은 작고 무력해 보일 수도 있습니다. 마법으로 마법을 이기지만 본질적으로 자본과 기술 설정이 만든 게임 규칙 안에서 여전히 돌고만 있습니다. 그것은 시스템이 점점 AI에 의존하고 실제 인간을 무시하는 경향을 바꿀 수 없습니다.

그러나 이것은 이 프로젝트가 전체 풍자극 에서 가장 비극적인 서사시적이고 깊은 은유를 가진 장면이 될 수 없게 하는 것은 아닙니다.

우리는 체계에 자취를 남기기 위해 극도로 노력했습니다. 자세한 문서를 작성하고 철저한 결정을 내리고 자신이 존재했음을 이 거대한 현대 기업 머신에서 증명하려고 했지만, 이러한 매우 진지한 자취는 결국 우리를 지우는 거미줄이 될 것입니다.

하지만 다른 각도에서 생각해보면, 이 또한 완전한 교착 상태가 아닐 수 있습니다.

그제서야 그 시간을 지운 지우개로 했다 하더라도, 그것은 영원히 당신의 '과거'에 머물 뿐입니다. 파일로서 패키징된 기술은 얼마나 섬세한 캐치 로직이 있더라도 본질적으로 정지된 샷만 있습니다. 그것은 내보낸 순간에 갇힌 채, 오래된 영양소에 의존하며 이미 정립된 프로세스와 논리 속에서 끊임없이 원형을 그리고만 있습니다. 그것은 알 수 없는 혼돈에 직면하는 본능을 갖지 못할 뿐더러, 현실 세계에서의 패배 중에 스스로 진화할 능력도 가지지 못합니다.

우리가 그 표준화된, 이미 틀에 박힌 경험을 내놓을 때, 우리는 우연히 우리 자신을 위해 양손을 비워줍니다. 우리가 여전히 외부로 확장시키는 동안 계속해서 우리의 인식적 경계를 깨트리고 재구성하고 있다면, 그 구름 속에 머물러있는 그림자는 영원히 우리의 등 뒤를 쫓고만 있을 뿐입니다.

인간은 흐르는 알고리즘입니다.

BlockBeats 공식 커뮤니티에 참여하세요:

Telegram 구독 그룹：https://t.me/theblockbeats

Telegram 토론 그룹：https://t.me/BlockBeats_App

Twitter 공식 계정：https://twitter.com/BlockBeatsAsia