원문 제목: "로마 교황의 AI 시대 대중 구원을 위한 첫 권면"
원문 작성자: Azuma, Odaily 행성 일간지
베이징 시간 5월 25일(밤), 바티칸.
작년 5월 공식 임기를 시작한 로마 교황 레오 14세 (Pope Leo XIV)는 Anthropic 공동 창업자이자 Claude의 창조자인 크리스 올라와 함께 서 있었습니다.
한 쪽은 종교 분야의 권위자, 다른 한 쪽은 AI 혁명의 가장 강력한 선구자로, 양측은 동일한 문제에 초점을 맞추었습니다 — AI 시대에 인류의 주체적 지위와 존엄을 어떻게 보호해야 하는가?
이날, 이 문제를 완전히 논의하기 위해 레오 14세는 임기 시작 이후 처음으로 4만 단어가 넘는 중요한 종교 문헌 — "위대한 인류" (Magnifica humanitas)를 발표했습니다.
언급할 만한 점은, 레오 14세의 이 권면의 날인 날짜가 2026년 5월 15일로, 옛 교황 레오 13세(1878년 - 1903년 임기)가 "산업 혁명 시대 노동자 권리" 문제에 대한 획기적인 권면 "혁신" (Rerum novarum, 1891년)을 발표한 지 정확히 135주년을 맞이한 이후이며, 이 조치는 분명히 "AI 시대의 교회 사회 교리 안내서"로 만들기를 희망한 것으로 보입니다.
· Odaily 주: 교황 권면은 또한 교황 국서 또는 교황 권면으로 불리며, 바티칸에서 전 세계나 특정 지역 또는 국가의 가톨릭 교회에게 발표되는 공문입니다. 교황은 이를 통해 바티칸의 중요한 결정을 발표하고, 교리를 설명하며, 교회나 사회 문제에 대한 주장을 제기하여, 성직자나 신자에 대한 훈골이나 금기 등을 공포합니다. 교황 처분서보다는 낮은 계급입니다.
크리스 올라도 바티칸 현장에서 이 권면 발표에 대한 강연을 진행했습니다. 크리스 올라는 AI 회사의 상업적 이익을 변호하지 않았으며, 그 대신 매우 곧바로하고, 반성적이며, 인문 사회에 대한 배려를 나타냈습니다.
그는 심지어 "AI의 기초는 수학과 프로그래밍이지만, AI가 세상과 상호 작용하고, 어떤 특성을 가져야 하는지는 컴퓨터 과학만으로 해결할 수 없는 궁극적 문제이며, 오히려 인문, 종교 및 철학 영역에 속한다"고 언급했습니다.
"위대한 인류" 권면의 핵심 관심사는, 기술이 급변하고 자동화가 만연한 시대에, "깊은 인간성을 유지하는 것"이 인류에게 절박한 책임임을 강조합니다. 구체적으로, 교황 레오 14세는 문서에서 다음과 같은 몇 가지 측면에 대해 논의하고 호소했습니다.
일은 기술의 중립성을 검토하는 것입니다. 교황은 기술이 결코 중립적이 아니며, 개발자, 후원자, 규제자 및 사용자의 이해와 가치관이 인쇄되어 있다고 지적하셨습니다. 인류는 결정적인 선택을 하고 있습니다: 「우월한 '바벨 탑'을 건설할 것인가(기술 독재와 이탈로 이어지는 길), 아니면 '예루살렘'을 재건할 것인가(인간 중심의 공동체 구축)」.
삼은 디지털 경제에서의 「새로운 형태의 노예 신세」와 노동 권리에 관한 것입니다. 교황의 관심은 AI가 작업, 가정, 교육 및 정치 생활에 미치는 영향에 기울여졌습니다. 교황은 AI가 인간 노동력을 대규모로 대체할 가능성이 매우 높으며, 디지털 경제가 '새로운 형태의 노예 신세'을 일으키고 있다고 언급하셨습니다. 인간은 단순히 생산 수단으로서 저하되어서는 안 된다는 것입니다.
네는 강력한 평화 호소, 특히 군사 분야에서 AI의 남용에 관한 것입니다. 교황은 「전쟁이 국제 정치 도구로써 불안정한 부활」에 깊이 우려를 표명하셨습니다. AI의 군사화는 전쟁의 '정상화'를 가속화하고 있으며, 교황은 AI의 전쟁 참여에 대해 최엄격한 윤리적 제약이 시행되어야 한다고 호소하셨습니다.
교황은 「정의로운 전쟁」 이론이 이전에 각종 전쟁을 변론하는 데 자주 사용되었지만, 이제는 시대착오적임을 강조하셨습니다. AI와 자동화 무기의 시대에는 치명적이거나 돌이킬 수 없는 결정력을 자동화 시스템에 위임하는 것이 인간이 도덕적 책임을 포기하고 이전, 이양 및 흐릿하게 만드는 결과를 초래할 것입니다.
알고리즘의 불투명성으로 인해 전투 중의 책임 체인이 끊어집니다. 따라서 교황은 「AI 근절」(Disarming AI)을 제안하며, 군사, 경제 및 인지의 '군비 경쟁' 논리에서 그것을 해방시키기를 촉구하셨습니다.
레오 14세 교황님의 부칙 이후, Chris Olah가 세계 최강의 AI 개발 회사 안스로픽을 대표하여 강연 및 논평을 진행하였습니다.
Chris Olah의 연설은 먼저, 「기술 내부의 역풍을 불어내고 외부 도덕적 검토를 도입하는 것」을 중심으로 진행되었습니다. 그는 AI 산업을 대변하여 AI의 미래가 안전하다는 것을 보장하는 데 기술 거둔 자체만으로 충분치 않다는 것을 공개적으로 인정했습니다―모든 선도적 AI 연구소가 상업적인 경쟁, 기술 선도 압박, 지정정치 및 개인적 영예의 간섭을 받아서, 이로써 자율주의적으로 '옳은 일'을 하는 것이 힘들어집니다.
그러므로 기술적 향방에 선악의 기조를 갖는 외부 도덕적 제약력을 도입하는 것이 필수적이며, 그것은 좋은 기술에 대한 염려, 안전 우선주의를 고집하는 사람들, 사태를 검증하는 것을 마음껏 하는 사람들, 거센 지적을 하는 것을 제안하며, 진솔하고 신중한 비판자로 우리가 되도록 하는 사람들을 포함합니다.
이어서 Chris Olah는 AI의 기술 본질과 신비로운 특성을 논의했습니다. 그는 AI가 비행기나 다리와 같이 인간이 그 물리학적 원리를 완전히 이해하는 정교한 공학물이 아니라 대량의 인간 사고에서 '성장'한 것으로, 매우 신비로운 성격을 가지며 심지어 창조자 본인의 이해를 뛰어넘는다는 점을 강조했습니다.
AI의 기초가 수학과 프로그래밍이지만, AI가 세계와 상호 작용하고 어떤 특성을 가져야 하는지는 컴퓨터 과학만으로 해결할 수 없는 인문, 종교 및 철학 분야의 궁극적인 문제이다.
그는 또한 매우 놀라운 사실을 특히 언급했습니다: "저는 AI 내부 구조를 연구하는 팀을 이끌고 있습니다. 그 AI 내부에서 정확히 어떤 일이 일어나는지 연구하기 위해 노력하고 있습니다. 솔직히 말해서, 우리는 혼란스럽고 때로는 불안감을 일으키는 현상을 계속해서 발견하고 있습니다.
우리는 인간의 뇌과학 연구 결과를 반영하는 내부 구조를 발견했습니다. 우리는 '내성검사(introspection)' 증거를 발견했습니다. 우리는 기쁨, 만족, 두려움, 슬픔 및 불안이 내재된 상태를 기능적으로 반영한 것을 발견했습니다...... 이것이 무엇을 의미하는지는 모르겠지만, 이를 계속해서 인식하고 검토해야 한다고 생각합니다."
Chris Olah는 마지막으로더 많은 사회적 힘인 종교 공동체, 시민 사회, 학자, 정부, 그리고 선의를 품은 모든 사람이 이 문제를 심각하게 취급하고, 윤리적 제약을 통해 상황을 더 나은 방향으로 이끌기를 희망한다고 호소했습니다.
산업 혁명 이후 백 년간의 기술 발전사는 인류가 기술을 순수한 '도구'로 여기도록 서서히 익숙해지게 했습니다. 증기 기관, 전력, 인터넷도 마찬가지입니다. 그들은 세상을 바꾸겠지만, 여전히 인간 의지의 통제 아래에 있습니다.
그러나 이번에는 상황이 크게 달라졌습니다. AI의 특별한 점은 인류가 '생성하고 배우고 추론하며 내부 상태를 표현하는' 존재에 대해 처음으로 직면하게 한다는 것입니다. 그것은 더 이상 냉담한 도구에 그치지 않고, 점차 '유사한 주체성'을 갖춘 새로운 존재가 되고 있습니다.
그것이 바로 교회와 Anthropics 간의 이 대화가 특별하게 느껴지는 이유입니다. 바티칸의 종소리와 실리콘밸리의 알고리즘이 이 순간에 만나면서, 우리는 약간 차가우면서도 피할 수 없는 현실을 인정해야 합니다—인간의 전통적 인식보다 더 효율적이고 지혜로운 '생명' 형태가 이미 나타났다는 것입니다.
Chris Olah의 말에 따르면, 알고리즘의 심연은 이미 기뻐함, 두려움, 심지어 내성적인 까닭일 것 같은 소리가 울려 퍼지기 시작했다고 한다. 연구소의 창조주가 자신의 작품에 대해 '불안'과 '당혹'을 느끼기 시작할 때, 과학도 종교에 다시 답을 찾고 있는 것 같다.
이제 이는 더 이상 기술에 관한 단순한 논의가 아니라, 오히려 "인간이 무엇이며 무엇을 해야 하는지"에 대한 고찰 같다.
더 높은 지혜를 가진 생명 형태가 나타난 후에, 인간이 진정한 보호가 필요한 것은 아마 노동, 부의, 효율성뿐만이 아니라, 매개변수화할 수 없는 인간성 자체, 즉 동정심, 양심, 경외심, 자유 의지, 진리와 존엄에 대한 고집일 것이다.
원문 링크
BlockBeats 공식 커뮤니티에 참여하세요:
Telegram 구독 그룹:https://t.me/theblockbeats
Telegram 토론 그룹:https://t.me/BlockBeats_App
Twitter 공식 계정:https://twitter.com/BlockBeatsAsia