
글|Sleepy, Menmen
샤오위가 숏폼 플랫폼에서 자신의 목소리를 발견한 것은 평범한 어느 날 저녁이었다.
그는 이 목소리로 6년 동안 밥을 먹어왔다. 음색, 발음, 호흡을 바꿀 때 목이 살짝 움직이는 위치까지, 모두 자신이 내는 목소리와 똑같았다.
영상 속 목소리가 말했다. "이 인생, 정말 재미없네."
그는 화면을 멍하니 바라봤다. 이런 우울한 말은, 일을 받을 때 의도적으로 피해왔다. 그는 그렇게 말하지 않았고, 말하고 싶지도 않았다. 하지만 그 목소리는 당당하게 말하고 있었다.
샤오위가 더빙을 본업으로 삼은 것은 2020년 말이었다. 첫 의뢰는 친척에게서 왔다. 친척 회사에서 과학 교육 숏폼 영상 프로젝트에 더빙이 필요했고, 그가 항상 이 일을 좋아한다는 걸 알고 일을 맡겼다. 이후 그는 점차 업계에 발을 들였고, 주로 숏폼과 소셜 미디어 계정의 더빙을 맡아 한 달에 1만 위안 정도를 벌었다.
그는 이 사업의 마지막 물결을 탔다. 중국에서 숏폼 더빙은 이미 거대한 조립 라인으로 성장했고, 2022년 글로벌 더빙 시장 규모는 50억 달러가 넘었다. 하지만 수익은 체인을 따라 내려가면서 점점 줄어들었다. 발주처가 플랫폼에 제시하는 가격은 분당 약 30위안이지만, 더빙 작업자에게 돌아가는 몫은 종종 1.5위안에 불과했다.
샤오위는 체인의 끝자락에 서 있었다. 그는 대중에게 알려진 작품도 없고, 시청자들이 기억하는 캐릭터도 몇 개 없어, 제대로 된 '성우'라고 할 수 없었다. 스스로 말하길, 목소리로 벽돌을 나르는 사람이었다. 목소리는 재능도, 예술적 표현도 아닌, 밥벌이 수단이었다.
그는 이 수단을 철저히 지켰다. 오래 일을 하다 보면, 협력사에 자신의 연락처를 함부로 퍼뜨리지 말라고 일부러 당부했다. 목소리가 너무 많이, 너무 남용되어 식별력을 잃을까 봐 두려웠기 때문이다. 이름 없는 성우가 지킬 수 있는 자본은 많지 않았고, 희소성이 그중 하나였다.
2023년 11월, 친구가 메시지를 보내왔다. 그제야 그는 이미 온라인에서 누군가 자신의 목소리로 AI 더빙을 클론하여 무분별하게 사용하고 있다는 사실을 알게 되었다.
그는 목소리가 어디서 새어 나갔는지 추적하려 했지만, 거의 불가능했다. 몇 년 동안 너무 많은 의뢰를 받았고, 온라인에 올라간 어떤 영상이든 다운로드되어 소프트웨어로 목소리가 깔끔하게 추출될 수 있었다. 그는 어느 부분이, 누구에 의해, 언제 가져갔는지 알 수 없었다.
상황은 점점 더 나빠졌다.
협력사들은 곧 그의 AI 목소리를 이용해 가격을 흥정하는 법을 배웠다. 실제 성우를 고용하는 것은, 아무리 낮춰도 수십 위안이 든다. 반면, 모델을 직접 구축하는 비용은 거의 무료에 가깝다. 한 달에 수백 개의 콘텐츠를 업로드해야 하는 계정에게는 상당한 비용 절감 효과가 있었다.
샤오위는 상대방을 위해 생각해보기도 했다. 남이 목소리를 쓰지 못하게 막는 건, 어떤 의미에서는 돈을 벌지 못하게 하는 것이나 마찬가지였다. 하지만 그들이 돈을 벌 때는 자신의 행동이 샤오위의 생계를 끊고 있다는 사실을 전혀 고려하지 않았다.

더 큰 문제는 뒤에 있었다. 그의 복제된 목소리가 플랫폼에 점점 더 많이 퍼지면서, 검수 시스템과 알고리즘이 이 목소리를 곧바로 AI로 판단하기 시작했다. AI로 판정된 콘텐츠는 더 큰 트래픽 풀에 진입할 수 없었다. 그의 AI 목소리가 일정 수준 이상으로泛滥하자, 그의 진짜 목소리조차 AI로 간주되어 마찬가지로 진입이 차단되었다.
한 명의 실제 인간이 자신의 복제품에 의해 발목이 잡혔다. 그의 목소리는 노동 능력으로서 그에게서 분리되어 나갔고, 다시 돌아와 그의 생존 공간을 잠식했다.
공식 미디어 중 일부는 그의 AI 목소리를 사용한 영상을 공유했고, 나중에는 아예 자체적으로 몇 개를 제작하기도 했다. 큰 기관일수록 이런 식으로 사용할수록, 일반인들은 그 목소리가 원래 AI라고 더욱 믿게 되었다. 그는 권리 구제에 나섰지만, 상대가 클수록 오히려 자신이 거짓말을 하는 사람처럼 보였다. 분명히 그는 침해를 당했는데, 마치 그가 'AI 목소리'에서 한몫 챙기려는 것처럼 비춰졌다.
법도 그가 생각한 것처럼 만능은 아니었다. 2024년 4월, 베이징 인터넷 법원은 전국 최초의 AI 음성 침해 사건을 판결했다. 성우 인모 씨의 목소리가 한 회사에 의해 돈벌이에 사용되었고, 법원은 목소리가 인격의 일부이며, AI로 복제된 목소리가 누군지 식별 가능하다면 사용 전에 별도의 허가를 받아야 한다고 인정했다. 인모 씨가 승소했다.
하지만 인모 씨가 이길 수 있었던 것은 추적이 가능했기 때문이다. 그의 목소리는 몇 개의 앱에 집중적으로 나타났고, 피고는 구체적인 회사였다. 샤오위의 목소리는 수백 개의 자체 미디어 계정에 흩어져 있었고, 출처는 추적 불가능했으며, 피고도 찾을 수 없었다. 매번의 도용은 수십, 수백 위안의 소액 침해에 불과했다. 법은 '한 사람이 한 회사를 고소하는 경우'에 대한 답을 준비했지만, '한 사람이 인터넷 전체에 의해 도용당하는 경우'에 대한 답은 준비하지 않았다.
샤오위는 이런 관계에 이름을 붙였다. 기생충과 숙주. 목소리가 트래픽 풀에 진입하지 못할 정도로 사용되면, 사용자는 다음 목소리를 찾아 나선다.
"그들은 다음 숙주로 갈아탈 거예요," 그가 말했다. "다음 숙주가 나보다 더 오래 버틸 수 있을지 모르겠네요."
샤오위의 개인 계정 댓글란과 쪽지에는 끊임없이 사람들이 그의 목소리를 어떻게 만드는지 물어보러 왔다.
"이 목소리는 어떻게 사용하나요?"
"이 목소리 정말 좋은데, 어떻게 복제하나요?"
그들은 마치 앱 다운로드 방법을 묻는 것처럼 당당하게 물었다.
이런 모욕은 샤오위를 괴롭게 만든다. 그는 목소리가 단순히 사고팔 수 있는 것이라고 생각하지 않는다. 그가 보기에 얼굴과 목소리조차 완전히 사버릴 수 있다면, 인간의 일부는 다시 노예가 되는 셈이다.
하지만 복제된 그 목소리가 과연 '그의 목소리'인지 묻는 질문에, 그의 대답은 다소 꼬여 있었다. 그는 유사성만 놓고 보면 그것이 자신의 목소리임을 인정했다. 바로 자신과 관련이 있다고 생각했기에 권리를 지키고 목소리를 내기 위해 나선 것이다. 그러나 그는 그것이 '자기 자신'은 아니라고 말했다. 허락도 없이, 자신의 생각도 거치지 않았기 때문이다.
그는 비유를 들었다. "마치 상대방이 채찍으로 또 다른 나를 때리면서, 나로 하여금 어떤 말을 하게 하는 것 같아요."
우리는 그에게 물었다. 정말로 허락을 했다면, 그 AI 목소리가 과연 그 자신의 것이라고 할 수 있냐고. 그는 잠시 침묵했다.
"허락 없는 것보다는," 그가 말했다. "그게 더 나 자신의 것이에요."
빼앗기는 것과 사지는 것. 두 가지 모두 좋지 않지만, 그는 덜 나쁜 쪽을 골라야 했다.

그리고 허락이라는 길은 이미 누군가가 끝까지 가서 그를 위해 탐색해 주었다. 올해 6월, 《꼬마돼지 페파》의 제작사 해즈브로는 출연한 아동 성우들에게 새 계약서를 보내며, 회사가 그들의 목소리를 AI 복제 및 생성에 사용하는 것을 허용하도록 요구했다. 언론이 이 사실을 폭로하자, 영국의 청년 배우 에이전시들은 반대하는 공개 서한을 발표했다. 이유는 단 하나, 아이들은 그러한 허락의 장기적 결과를 이해할 능력이 전혀 없다는 것이었다. 천 명이 넘는 사람들이 그 서한에 서명했다.
아이가 이해하지 못하는 허락서에 서명하게 하는 것은 이득을 보려는 행위다. 하지만 어른이 계약서를 이해할 수 있다 해도, 서명한 후에 무슨 소용이 있을까. 단기적으로 돈을 받겠지만, 장기적으로 상대방이 그 목소리로 무슨 말을 하고 무슨 짓을 할지, 반드시 통제할 수 있는 것은 아니다.
게다가 AI 목소리가 완전히 성숙해지는 날이 오면, 시장은 더욱 정상(頂上)을 선호할 것이다. 정상급 성우의 목소리는 업계에서 일종의 영생을 얻고, 젊은 목소리는 더 이상 들어올 틈이 없게 된다. 업계에서 조사한 바에 따르면, 목소리가 대규모로 도용된 후, 중소 성우 종사자의 70% 이상이 수입이 절반 이상 줄었고, 정상급도 보통 30%가 줄었다. 중소 종사자에게 남은 가치는 모델의 훈련 샘플이 되는 것뿐이다.
"정말 그런 날이 온다면," 그가 말했다. "아마 성우 업계는 죽을 거예요."
샤오위를 괴롭히는 문제는 정확히 다른 사람들의 고민을 해결해 주고 있다.
Helen은 다큐멘터리 감독이자 광고도 찍는다. 그녀가 처음 AI 더빙을 사용한 것은 작년에 다큐멘터리 프로젝트의 데모를 편집할 때였다. 클라이언트에게 영상을 보여주려면 먼저 5분짜리 짧은 버전을 편집해야 했는데, 장편 영화의 생음(同期音)만으로는 완전한 짧은 이야기를 만들 수 없었다. 그래서 그녀는 어쩔 수 없이 새로운 대본을 쓰고 더빙으로 이야기를 엮어야 했다.
그녀는 먼저 더빙 업체를 찾았다. 예산이 빠듯해 분당 120위안 정도의 샘플 음성을 골랐다. 결과물을 받아 들어보니 안정성, 리듬, 감정 모두 부족했고, 그녀는 한동안 그게 진짜 사람이 녹음한 게 아닐까 의심했다.
나중에 편집자가 AI를 써보자고 제안했다. 어차피 내부용 데모일 뿐, 방송도 상업적 사용도 아니었다.
결과적으로 그 AI 음성은 저렴한 더빙 업체의 실제 사람 목소리보다 더 나았다.
이것이 Helen이 AI 더빙이 실제 작업에 쓸 수 있을 만큼 성숙해졌음을 처음으로 확실히 느낀 순간이었다. 하지만 그녀의 경계도 분명했다. 데모는 쓸 수 있지만, 정식 상업용은 안 되고, 다큐멘터리는 더더욱 안 된다. 촬영 대상의 동시 녹음 속에 담긴 것들, 즉 멈춤, 숨 고르기, 망설임, 말을 꺼내기 전의 주저함 자체가 서사의 일부다. AI는 소리를 더 깔끔하고 매끄럽게 처리할 수 있지만, 다큐멘터리가 원하는 것은 매끄러움이 아니다.
불완전함은 인간의 증거다. Helen이 돈을 주고 사는 것은 바로 이 불완전함이다. 알고리즘이 작은 물고기에게서 벗겨낸 것도 이 불완전함이다. 똑같은 것이 한쪽에서는 창작의 재료이고, 다른 쪽에서는 트래픽의 부채다.
AI는 가장 좋은 목소리부터 대체하지 않는다. 먼저 '그렇게까지 신경 쓸 필요 없는' 틈새로 들어간다. Helen의 데모도 그런 틈새였다. 내부용, 방송 안 함, 상업적 사용 안 함, 모두 합리적이었다. 모든 틈새가 합리적으로 열렸다. 하지만 이 틈새들이 이어지면 하나의 길이 된다.
이 길에서 자신을 가장 지키기 어려운 사람은 '거절'을 가장 말하기 어려운 사람이다.
Helen이 AI를 거절하는 대가는 예산과 작업 일정 사이에서 다시 선택을 하는 것이다. 작은 물고기가 거절하는 대가는 계속 권리를 주장하고, 시간과 돈을 계속 쓰고, 또 다른 계정의 냉담함과 차단을 계속 마주하는 것이다. 《꼬마돼지 페파》 더빙을 하던 아이들이 거절하는 대가는 아예 역할 하나를 잃는 것일 수도 있다.
그리고 목소리가 한 번 복제되면, 더빙만 하게 되는 것은 아니다.

2023년 4월, 푸저우에서 누군가 AI 얼굴 바꾸기와 음성 합성을 이용해 한 기업가의 친구를 사칭, 10분짜리 영상 통화로 430만 위안을 사기 쳤다. 2024년 초, 홍콩의 한 다국적 기업 직원이 다자간 화상 회의에 초대되었고, 화면에는 본사 CFO와 몇몇 동료들이 앉아 있었다. 그는 회의 지시에 따라 2억 홍콩 달러를 송금했다. 사후 조사 결과, 회의 전체에서 그 자신 외에는 단 한 명도 진짜 사람이 아니었다.
언젠가 작은 물고기의 복제된 목소리가 이런 전화를 하는 데 사용된다면 어떨까. 그의 나이 든 부모님이 '그'에게서 전화를 받아 "이 인생 정말 재미없어, 돈 좀 빌려줘"라는 말을 듣게 된다면 어떨까.
샤오위는 이제 작품 하나를 올릴 때마다 예전에는 없던 작업을 하나 더 해야 한다. 바로 말하는 사람이 정말 자신임을 증명하는 일이다.
진짜 사람이 자신의 계정에 자신의 녹음을 올리면서도, 먼저 심사자와 청중이 이번에는 본인이 말하는 것이라고 믿게 만들어야 한다. 이 과정은 어설프고, 불필요하며, 원래 존재해서는 안 되는 것이다.

이런 처지, 오청은 400여 년 전에 썼다.
《서유기》 제58회, 육이미후가 손오공으로 변신한다. 손오공을 '닮은' 것이 아니라, 털 한 올까지 똑같다. 요괴를 비추는 거울도 구별 못 하고, 관세음보살도 분간 못 한다.
지장보살의 좌대인 제청이 땅에 엎드려 진짜와 가짜를 알아냈다. 하지만 말하지 못했다. 가짜가 그 자리에서 난동을 부리면 막을 자가 없을까 두려워서였다.
이게 플랫폼과 얼마나 닮았는가. 구별을 못 하는 게 아니다. 구별하는 일이 그들에게 이익이 되지 않는다. 진짜 사람을 가려내려면 심사 비용이 들고, 오판에 따른 번거로움을 감수해야 한다. 차라리 모든 것을 AI로 만드는 것이 가장 편한 방법이다.
가장 절묘한 것은 당삼장이다. 진짜 오공은 줄곧 그를 호위했지만, 성격이 급하고 말대꾸를 잘하며, 쉽게 삐지고 일을 그만둔다. 가짜는 얌전하고, 말 잘 듣고, 부르면 바로 오고, 절대 화를 내지 않는다. 그래서 당삼장이 먼저 쫓아낸 것은 진짜였다.
AI 목소리로 가격을 후려치는 협력사들과 같다. 진짜 샤오위는 지치고, 가격을 올리며, 특정 원고를 거절할 수도 있다. AI 샤오위는 결코 지치지 않고, 원하는 톤을 원하는 대로 내며, 가격도 매우 낮다. 수요 측에 서 있다면, 누가 더 말 잘 듣는 쪽을 남겨두고 싶지 않겠는가.
오청은 결국 여래 한 명을 배치했다. 삼계 중 오직 그만이 진짜와 가짜를 구별할 수 있었고, 한마디로 판결을 내려 가짜는 본모습을 드러내고 진짜는 제자리로 돌아갔다.
샤오위의 문제는 그의 세상에 여래가 없다는 것이다.
또한, 민간에서는 《서유기》를 읽으며 한 가지 음모론을 읽어냈다. 뇌음사에서 내리친 그 방망이가 사실 진짜 오공을 죽인 것이라는 설이다. 그 이유는 그 이후의 오공이 다시는 화를 내지 않았기 때문이다. 이 이야기는 여러 해 동안 전해졌다. 읽는 사람들은 마음속으로 알고 있었기 때문이다. 진짜와 가짜를 권위의 한마디로만 구별할 수 있을 때, 그 방망이가 정말 잘못 맞히지 않았다고 누가 장담할 수 있겠는가?
샤오위가 모든 권리 보호 싸움에서 이긴다 해도, 몇 년 후 사람들이 기억하는 그 목소리가 반드시 그가 직접 말한 것이라고는 할 수 없다.
참고 자료
[1] 중국 최초 'AI 음성 침해 사건' 1심 선고, 베이징 인터넷 법원 / 중국 법원网
[2] China's first AI-generated voice infringement case and the protection of personality rights, China Justice Observer
[3] Hasbro Asks 『Peppa Pig』 Child Actors To Sign Over Voices To AI, Sparking Backlash, Deadline
[4] Hasbro reportedly forcing Peppa Pig actors to sign away AI voice rights, TheGamer / MSN
[5] Scammer uses AI to pose as businessman's friend, defrauds him of 4.3 million yuan, TechNode
[6] Finance worker pays out $25 million after video call with deepfake 『chief financial officer』, CNN
[7] Hong Kong company loses HK$200 million after worker fooled by deepfake video meeting, South China Morning Post
[8] Dubbing and Voice-over Market Size, Fortune Business Insights / market research summary
BlockBeats 공식 커뮤니티에 참여하세요:
Telegram 구독 그룹:https://t.me/theblockbeats
Telegram 토론 그룹:https://t.me/BlockBeats_App
Twitter 공식 계정:https://twitter.com/BlockBeatsAsia