AI 勃興에 대한 교황의 경고!
교황 레오 14세가 25일(현지시간) 즉위 후 처음 발표한 최고 권위 교서에서 “인공지능(AI)이 인간을 지배할 수 없도록 ‘무장 해제’가 필요하다”고 역설했다. 그러면서 “AI는 누구에게나 열려있어야 한다”며 정치권에 기술·정보의 시장 독점 감시도 주문했다.
레오 14세는 이런 내용이 담긴 회칙 ‘마그니피카 후마니타스’(Magnifica Humanitas·위대한 인간성)를 직접 발표했다. 회칙은 교황이 전 세계 가톨릭 신자와 주교들에게 전하는 최고 권위의 사목 교서로 구속력도 가장 강하다.
4만 단어가 넘는 방대한 내용의 이번 회칙은 작년 5월 레오 14세가 즉위한 이후 처음 발표한 교서다. 총 82페이지 분량으로 245개 항으로 구성됐다.
교황은 이 회칙에서 AI 기술을 하늘에 이르는 탑을 세우다가 하나님의 분노를 샀다는 성서 속 바벨탑과 비교하기도 했다. 이어 “모두가 또 하나의 바벨탑 건설을 포기하고 공동선을 구축하는 데 힘을 모으기를 요청한다”고 덧붙였다. 통제되지 않은 기술 욕망이 결국 인간을 파멸시킬 수 있다는 경고다.
여기서 관심을 끄는 것은 종교가 드디어 AI의 위해성에 대해 공개적으로 우려를 나타냈다는 점이다. 그것이 무엇보다 다행스럽다.
점점 확산되고 있는 AI의 영향력
요즘엔 주부들도 생성용 AI인 제미나이나 챗지피티를 활용해 정보를 얻고 가공할 정도로 AI가 보편화하고 있다. 그러나 이는 아주 초보적인 단계로 미구(2027~2028년)에 범용인공지능(AGI: Artificial General Intelligence)에 이어, 궁극적으로 초인공지능(ASI: Artificial Super-intelligence)으로까지 발전할 것이라고 보는 것이 전문가들의 한결같은 견해다. 여기서 우리는 AI가 배태(胚胎)할 가공할 미래에 대해 심각하게 유추해볼 필요가 있다.
우선 AI의 발전 단계부터 살펴보자.
약인공지능(ANI: Artcificial Narrow Intelligence)은 특정 분야나 제한된 작업에서만 인간을 능가하거나 대등한 능력을 발휘하는 AI로, 규칙 기반 또는 데이터 학습을 통해 하나의 목적, 예컨대 챗봇, 그림 생성, 자연어 처리, 바둑, 자율주행 등만을 수행한다.
이것이 AGI 단계에 들어가면 인간과 동등한 수준의 인지 능력과 범용적 지능을 가진 AI로 새로운 상황에 적응하고, 스스로 학습하며, 다양한 분야의 문제를 스스로 해결할 수 있게 된다.
ASI 단계에선 ‘인간 지배’ 가능
다음으로 ASI. 모든 면에서 인류의 지능을 뛰어넘는 AI로 창의성, 과학적 발견 등에서 인간이 상상할 수 없는 능력을 발휘하게 된다, AGI 등장 이후 발생할 것으로 예상되는 최종 단계를 말한다. 이를 각각의 개념, 기술적 특징, 작동 방식, 그리고 사회·윤리적 고려사항을 쉽게 비교·정리하면 다음과 같다.
ANI는 특정 작업에 특화된 AI로 현재 가장 널리 사용되고 있는 형태로 정해진 영역에서 뛰어난 성능을 보이나, 그 외의 작업은 수행할 수 없다.
AGI는 인간 수준의 일반적인 지능을 가진 AI로 ‘강한 AI’라고도 한다. 다양한 영역에서 유연하게 문제를 해결할 수 있는 능력을 지닌다. 현재는 실현되지 않은 개념이다.
마지막으로 ASI는 인간 수준을 뛰어넘는 초인공지능을 의미한다. 자의식과 감정을 가질 것으로 예상되며 인간보다 더 뛰어난 사고와 추론 능력을 가진다.
다음으로 AI 유형별 작동 원리와 특징을 살펴보자.
ANI는 머신러닝(기계 학습), 딥러닝(심층 학습) 등의 기술을 기반으로 작동한다. 따라서 대량의 데이터를 학습하여 특정 패턴을 인식하고 예측하는 것이 가능하다. 다만 학습된 영역 내에서만 우수한 성능을 보인다.
AGI는 다양한 AI 기술을 통합, 범용적 문제 해결 능력을 구현하는 것이 목표다. 따라서 전이 학습, 메타 학습 등의 고급 학습 기법이 적용될 것으로 예상된다. 그러려면 인간의 학습 과정을 모방한 지속적이고 자율적인 학습 능력이 요구된다.
ASI의 구체적인 작동 원리는 아직도 불명확하다. 다만 인간의 뇌를 뛰어넘는 고도의 신경망 구조를 가질 것으로 예상된다. 자기 인식, 감정, 창의성 등 인간의 고차원적 사고 능력을 뛰어넘는 능력을 갖출 것으로 기대된다.
그렇다면 AI의 유형별로 추구해야 할 윤리적, 사회적 고려사항엔 어떤 것이 있을까?
ANI의 경우 데이터 프라이버시, 알고리즘 편향성, 자동화로 인한 일자리 변화 등 문제가 대두될 수 있다. 따라서 의사결정 과정의 투명성과 설명 가능성 확보가 필요하다.
AGI의 경우 인간의 지적 우위 상실에 따른 사회적, 경제적 영향을 고려해야 한다. AGI의 목표와 지향하는 가치 설정의 문제가 뒤따른다.
마지막으로 ASI의 경우는 AI의 권리와 책임에 대한 철학적, 법적 문제, 특히 인간과 AI의 관계 설정, AI의 통제 가능성 등 근본적인 윤리적 질문이 제기될 수 있다.
AI에게 “기후 변화 해결책” 명령 시 “인간 제거” 답변 나올 수도
예컨대, AI에게 “지구 온난화를 해결하라”라는 명령을 내렸을 때, 가장 효율적인 해결책으로 AI가 “탄소배출 원인 1순위인 인간의 제거”를 선택할 위험이 있다. 한편, 인공지능의 통제 불능으로 지능 폭발(Intelligence Explosion)이 일어나면, 인간은 개미가 인간의 의도를 이해하지 못하듯, AI의 행동을 예측하거나 제어할 수 없게 된다.
또 특정 기업이나 국가가 AI를 독점할 경우, 완벽한 감시체제와 여론조작을 통해 영구적인 독재체제를 구축할 수 있는 점도 우려 대상이다.
궁극적으로 노동의 가치가 사라진 시대에 인간이 존재 의미를 잃고 잉여 인간으로 전락해, 집단 우울증이나 허무주의에 빠질 가능성이 큰 점도 고민해야 할 대목이다.
교황이 이번 회칙의 가장 중요한 표현으로 “AI 무장 해제”를 꼽은 것도 이 때문이라 할 수 있다. 기술을 가진 권력자가 스스로 AI를 통치하도록 하는 권리를 거부한다는 뜻이다. 이런 의미에서 무장 해제는 AI 기술에 대한 거부가 아니라 AI가 인간을 지배하지 못하게 한다는 뜻이다.
성서의 종말론과 판박이라는 점에 유의할 필요
AI의 확산이 초래할 결과가 무엇보다 우려되는 것은 성서에 기록된 종말론적 예언과 절묘하게 맞아떨어질 것 같은 조짐이 보이고 있기 때문이다.
성경 텍스트에 컴퓨터나 AI가 직접 등장하지는 않지만, 요한계시록이 묘사하는 종말의 징조, 통제 사회, 그리고 초자연적 권력의 특성이 현대 AI 기술의 속성과 놀라울 정도로 닮아 있는 것이다.
요한계시록에서 가장 자주 AI와 비교되는 대목은 13장 15절에 등장하는 ‘짐승의 우상’에 대한 묘사다.
“그가 권세를 받아 그 짐승의 우상에게 생기를 주어 그 짐승의 우상으로 말하게 하고 또 짐승의 우상에게 경배하지 아니하는 자는 몇이든지 다 죽이게 하더라”
과거에는 생명 없는 우상이 말을 하고 움직인다는 구절을 상징이나 은유로만 해석했다. 하지만 현대 신학자들과 비평가들은 인간의 지능을 뛰어넘고 스스로 사고하며 의식이 있는 것처럼 행동하는 초지능 AI(ASI)의 출현이 이 구절을 물리적으로 실현할 수 있는 기술적 배경이 된다고 분석하고 있다. 인간이 만든 피조물(AI)을 신격화하거나, AI의 판단을 인간의 윤리와 신앙보다 우위에 두는 현상이 현대판 우상 숭배가 될 수 있다는 경고다.
계시록에 등장하는 가장 유명한 개념 중 하나인 ‘짐승의 표(666)’와 통제 경제 역시 AI 기술과 밀접하게 연관된다(계시록 13장 16~17절).
계시록에서는 표가 없으면 경제 활동을 하지 못하게 통제한다고 나온다. 현대의 AI 기반 안면 인식 기술, 빅데이터 감시 시스템, 중앙은행 디지털화폐(CBDC) 등은 전 세계 인구의 경제 활동과 일거수일투족을 실시간으로 추적하고 통제할 수 있는 완벽한 인프라를 제공한다.
기술 자체가 악은 아니지만, 독재 권력이나 적그리스도 세력이 AI 감시망을 손에 쥐었을 때 계시록이 예언한 ‘전 지구적 통제 사회’가 완벽하게 구현될 수 있다는 우려다.
종말론의 핵심 주제 중 하나는 교황 레오 14세의 주장처럼 ‘신의 영역에 도전하는 인간’이다. AI와 생명공학의 결합을 통해 질병을 극복하고, 정신을 데이터화하여 영생을 누리려는 트랜스휴머니즘(Trans-humanism) 운동은 기독교 종말론적 관점에서 ‘인간이 스스로 신이 되려는 마지막 영적 타락’으로 해석되기도 한다. 인간이 창조주를 거역했듯, 인간이 만든 피조물(AI)이 인간을 위협하거나 지배하게 되는 시나리오는 종말론적 심판의 형태와 유사성을 띤다.
하지만 신학계에서는 지나친 공포 마케팅이나 세대주의적 해석(예; 특정 AI 프로그램이 적그리스도라는 식의 극단적 주장)은 경계해야 한다고 조언한다.
AI 자체가 악마라기보다는, 인간의 탐욕과 권력욕이 AI라는 절대적인 도구를 만났을 때 일어날 영적, 도덕적 위기를 경고하는 것으로 보아야 한다는 것이다.
요한계시록의 종말론은 단순히 미래의 파국을 예언해 공포를 주려는 것이 아니라, 어떤 거대한 시스템(짐승)이 세상을 지배하더라도 인간의 존엄성과 신앙적 가치를 지키며 “깨어 있으라”는 메시지를 던진다.
AI 시대를 살아가는 현대인들에게도 기술의 편리함 뒤에 숨은 통제와 가치관의 왜곡을 분별하라는 경각심으로 다가오는 것 같다.
다시 말해, AI는 그 자체로는 악이라고 규정할 수 없지만, 인간을 감시하고 지배하는 강력한 기술 수단이 될 수 있다는 점에서 유의해야 할 존재라는 것이 최근 급속히 확산하고 있는 AI를 바라보는 기독교계의 일관된 시각이라고 평가되고 있다.
