교황 레오의 AI 경고는 바티칸에서 나온 짧은 주의가 아니라, 인공지능을 이해하려는 정부, 기업, 일반인을 모두 겨냥한 전면적인 교도 문서의 형태로 발표되었다. 영어 기준 약 42,300단어에 이르는 교황 회칙에서 레오 14세는 지도자들에게 AI의 가장 파괴적인 영향으로부터 인류를 보호할 것을 촉구했다.
이 형식을 택한 것에는 이유가 있었다. 교황 회칙은 가톨릭 교회의 가장 무게 있는 공적 가르침 형식 중 하나이며, 레오는 이를 통해 인공지능을 단순한 기술 문제가 아니라 도덕적·사회적 문제로 규정했다. 그의 메시지는 단순한 우려에 초점을 맞추고 있었다. 기술은 강력할 수 있지만, 인간의 존엄성과 주체성, 책임을 밀어내도록 허용되어서는 안 된다는 것이다.
그는 영적 세계와 AI 시대를 형성하는 데 기여하는 기업 중 하나의 인물이라는, 인상적인 조합으로 Anthropic 공동 창립자 크리스토퍼 올라와 함께 이 선언을 발표했다. 이 장면은 문서에 더 넓은 의미를 부여했다. 이는 단지 교회의 성명만이 아니었다. 동시에 비즈니스, 정치, 공적 삶에서 벌어지는 가장 큰 논쟁 중 하나에 직접 개입하려는 시도이기도 했다.
Summary
교황 레오의 AI 경고와 그 내용
교황 레오 14세는 인공지능의 위험에 대한 포괄적인 경고로서 이 회칙을 발표하며, 지도자들에게 AI의 가장 파괴적인 영향으로부터 인류를 보호하라고 말했다. Magnifica Humanitas라는 제목의 이 문서는 그의 교황직에서 중요한 교도 성명을 이루었으며, AI를 실리콘밸리를 훨씬 넘어서는 도전 과제로 자리매김했다.
교황 레오의 AI 경고는 범위 면에서 매우 광범위했다. 이 문서는 기술을 형성하고 또 그에 의해 형성될 기업 경영진, 정치인, 개인들에게 말을 걸었다. 레오는 AI를 자동적으로 인류의 적으로 보지 않고, 그 개발이 인간을 보호하는지에 따라 판단되어야 한다고 주장했다.
그는 또한 이 논쟁을 노동의 미래, 교육, 아동 안전, 전쟁과 연결시켰다. 이는 회칙에 실질적인 면모를 부여했다. 이 문서는 기계에 대한 추상적 성찰이 아니라, 이미 AI가 실제 삶을 바꾸고 있는 영역에서 안전장치를 요구하는 것이었다.
레오가 정부와 기업에 요구하는 것
이 회칙에서 가장 분명한 주장 중 하나는 공적 감독에 대한 요구였다. 레오는 AI 개발을 주도하는 민간 기업에 대한 정부 규제를 촉구하며, 책임을 엔지니어와 경영진뿐 아니라 정치 지도자들에게도 지웠다.
이는 문서가 AI를 시장 인센티브만으로 맡겨두기에는 사회적 결과가 너무 큰 힘으로 다루고 있기 때문에 중요하다. 레오의 관점에서 핵심 쟁점은 혁신 대 공포가 아니다. 사회가 상업적 압력이 인간의 판단을 앞지르도록 허용할 것인가의 문제다.
AI 규제, 노동자, 인간의 감독
레오는 인공지능으로 인해 일자리가 위협받는 노동자들을 위한 보호와 재교육을 요구했다. 그는 더 큰 이윤을 추구한다는 이유만으로 일자리를 체계적으로 희생시키는 결정을 정당화할 수 없다고 경고했다.
그는 논지를 더 밀어붙이며, 첨단 기술을 누리면서도 인구의 일부에게만 고용을 보장하는 사회는 많은 사람을 강제적 무활동 상태로 내몰 위험이 있다고 말했다. 그의 관점에서 이는 단순한 경제적 불균형을 넘어선다. 사회적 평화를 약화시킬 수 있는 더 깊은 인간적 문제라는 것이다.
이는 문서에서 가장 강력한 “왜 이것이 중요한가”에 대한 지점 중 하나다. AI 도입은 종종 속도, 생산성, 경쟁력의 관점에서 논의된다. 레오의 개입은 경제가 노동자를 버리지 않고도 현대화할 수 있는지로 초점을 옮긴다.
교황 레오의 AI 경고는 무기 문제에서도 특히 날카로웠다. 레오는 전쟁에서의 AI 사용을 규탄하며, 그것이 전쟁을 “정의로운” 것으로 만들기 더 어렵게 한다고 경고했고, 무기 사용에 관한 결정에서 AI가 아니라 인간이 책임을 지도록 보장하는 안전장치를 요구했다.
이 입장은 논쟁의 중심에 인간의 책임성을 둔다. 고도로 자동화된 시스템에서도, 레오의 입장은 도덕적 책임을 소프트웨어에 위임할 수 없다는 것이다.
그는 또한 AI가 자주 생성하는 폭력적이거나 과도하게 성적이거나 허위인 온라인 정보로부터 아동을 보호하기 위한 조치를 요구했다. 더불어 학생들이 기술을 단순히 흡수하는 것이 아니라 비판적으로 사고할 수 있도록 돕는 교육을 강조했다.
메시지가 규제를 넘어서는 이유
이 회칙의 더 넓은 목표는 기술이 직업적·사회적 역할에서 사람을 대체할 위협이 커지는 시기에 인간의 존엄성과 주체성을 수호하는 것이었다. 레오는 기술 자체를 적으로 묘사하지 않았다. 대신, 사회가 AI가 어떤 인간의 미래를 섬기게 할지 스스로 결정해야 한다고 주장했다.
이는 문서에 일반적인 규제 요구보다 더 넓은 영향력을 부여한다. 노동, 교육, 온라인 안전, 전쟁을 모두 하나의 근본 원칙과 연결한다. 기계가 더 유능해지더라도 사람은 기본적인 사회적 역할을 유지해야 한다는 것이다.
그런 의미에서 이 개입은 AI가 종종 마케팅되는 방식에 대한 도전이기도 하다. 인공지능을 둘러싼 지배적인 홍보는 효율성을 강조하는 경향이 있다. 레오의 메시지는 더 어려운 질문을 던진다. 누구에게 효율적인가, 그리고 인간의 책임, 노동, 도덕적 판단에는 어떤 대가를 치르게 되는가?
이 회칙에는 가톨릭 교회가 노예제를 정당화하는 데 기여한 역할에 대한 사과도 포함되어 있으며, 레오는 교회의 이름으로 용서를 구했다. 인간의 존엄성에 초점을 맞춘 문서의 맥락에서, 이 대목은 그가 구축하려 했던 더 큰 도덕적 틀을 부각시켰다.
Anthropic과의 연결, 그리고 AI에 대한 도덕적 논거
레오가 크리스토퍼 올라와 함께 모습을 드러내기로 한 결정은 분명한 신호를 보냈다. Anthropic의 공동 창립자 옆에 선 교황은 자신의 주장이 교회 내부에만 머물 의도가 아니라는 점을 분명히 했다. 이 메시지는 지금 공적 삶을 재구성하고 있는 시스템을 만드는 사람들을 향한 것이었다.
올라는 AI 기업들이 옳은 일을 하는 것과 충돌할 수 있는 인센티브와 제약 속에서 운영된다고 말하며 그 점을 강화했다. 그는 자신의 회사와 같은 기업들이 그러한 인센티브에 휘둘리지 않는 도덕적 지침을 필요로 한다고 말했다.
이는 바티칸에서의 등장을 단순한 상징 이상으로 만들었다. 적어도 여기서 제시된 수준에서는, 기술적 역량과 시장 압력이 자동으로 윤리적 자제를 낳지는 않는다는 점을 서로 인정했음을 보여주었다.
AI 업계에 이는 주목할 만한 메시지다. 교황 레오의 AI 경고는 미래의 논쟁이 안전 공학이나 비즈니스 경쟁에만 국한되지 않을 것임을 시사한다. 그것은 또한 권위, 책임, 그리고 자동화의 한계를 누가 정의할 것인가의 문제로 전개될 것이다. 그 대화가 확장된다면, 기업들은 도덕적 검증이 기술적 진보만큼이나 중요해질 수 있음을 깨닫게 될지도 모른다.
