교황 레오 14세의 첫 교황 문서가 AI를 정면으로 겨냥했다. 문서 제목은 ‘마그니피카 후마니타스(Magnifica Humanitas)’ — 직역하면 ‘위대한 인류’. 단순한 기술 우려 성명이 아니다. AI가 야기할 수 있는 전쟁, 노동 시장 붕괴, 그리고 인간성 상실에 대한 교황청의 공식 입장이 처음으로 문서화된 것이다.
‘심오하게 인간적’이어야 한다는 말의 무게
이 문서가 내세우는 핵심 철학은 하나다. AI 개발과 활용이 ‘심오하게 인간적(profoundly human)’이어야 한다는 것. 쉽게 읽히지만 따져보면 상당히 까다로운 기준이다. 인간의 편의를 높이는 기술인가, 인간의 지위와 삶의 의미를 빼앗는 기술인가 — 그 경계를 누가 어떻게 그을 것인지에 대한 질문이기도 하다.
교황은 AI의 잠재력 자체를 부정하지 않는다. 다만 인간의 통제를 벗어난 기술 발전이 어떤 결과를 낳을지를 경계한다. 기술 진보의 속도가 윤리적·사회적 합의를 한참 앞지르고 있다는 현실 인식도 담겼다. IT 업계 종사자라면 다 아는 얘기다. 근데 아무도 속도를 늦추지 않는다는 게 문제지.
AI 무기와 사라지는 일자리 — 문서가 지목한 두 가지 위험
교황 문서가 구체적으로 지목한 위험은 크게 두 가지다.
첫째는 AI 기반 전쟁의 위험성. 자율적으로 표적을 선정하고 공격 판단까지 내리는 AI 무기가 현실화되면 윤리적 책임 소재가 완전히 흐릿해진다. 누가 명령한 건지, 누구 잘못인지 — 전쟁의 책임 구조 자체가 무너진다. 드론 무기 체계에 AI가 결합되기 시작한 지금, 이건 SF 시나리오가 아니다. 이미 진행 중인 현실이다.
둘째는 노동 시장에 대한 충격. AI와 자동화로 대체되는 일자리 문제는 콜센터, 회계, 번역, 콘텐츠 제작 등에서 이미 현실로 나타나고 있다. 교황은 이게 단순한 경제 문제가 아니라 인간의 존엄성과 삶의 의미에 관한 문제라고 봤다. 일이라는 행위 자체가 인간 정체성의 일부라는 시각이다. 이 부분은 좀 곱씹어볼 만하다.
속도전 속에서 윤리 나침반은 어디에
The Verge 보도에 따르면, 교황의 메시지는 ‘AI는 좋다/나쁘다’는 이분법에서 벗어나 있다. 기술이 ‘어떻게’ 작동하느냐보다 ‘무엇을 위해’ 작동하느냐를 묻는다. 이 질문은 AI 연구자와 개발자들이 직접 마주해야 할 질문이기도 하다.
글로벌 AI 기업들은 지금도 모델 성능 경쟁에 온 힘을 쏟고 있다. 어느 회사도 ‘잠깐 멈추고 윤리 점검 먼저 하겠습니다’라고 하지 않는다. 그 간극이 교황이 우려하는 지점일 것이다. AI 개발자와 연구자들이 기술적 혁신만큼이나 그 기술이 인류에게 끼칠 영향에 대한 책임감을 가져야 한다는 것 — 이건 불편하지만 외면하기 힘든 요구다.
한국 IT 업계가 이 메시지를 가볍게 넘기면 안 되는 이유
한국은 AI 반도체(삼성, SK하이닉스)에서 AI 서비스(네이버, 카카오)까지 전방위로 투자 중이다. 스타트업 씬도 AI 편중이 심해졌고, 정부도 ‘AI 강국’ 기치를 내걸고 있다. 이런 상황에서 교황의 문서는 종교적 성명 이상의 무게를 갖는다.
- 인간 중심 AI 설계: 효율 지표만 좇는 개발 문화에서 벗어나야 한다. 시스템이 어떤 사람에게 불이익을 주는지, 어떤 편향을 학습하는지를 설계 단계에서 따지는 ‘윤리적 설계’가 선택이 아닌 기본값이 돼야 한다. 기술 경쟁력과 사회적 책임은 트레이드오프가 아니다.
- AI 리터러시 교육과 사회 안전망: 전국민의 AI 리터러시를 높이는 것도 필요하지만, AI가 대체할 직군 종사자들을 위한 재교육 프로그램과 사회 안전망 구축이 더 시급하다. 교육이 따라가지 못하면 기술 격차가 곧 계층 격차가 된다.
- 글로벌 AI 거버넌스 논의 참여: AI는 국경이 없는 기술이다. OECD, G20, UN 차원에서 진행되는 AI 규범 논의에 한국이 실질적으로 기여할 공간은 충분하다. 빠른 추격자에서 규범 설계자로 역할을 전환할 때다.
교황 레오 14세가 첫 공식 문서로 AI를 선택했다는 사실 자체가 묵직하다. 기술의 주인은 누구인가. AI의 미래는 알고리즘 안에 있는 게 아니라, 그걸 어떻게 다룰 것인지를 결정하는 사람들 손에 달려 있다. 한국 IT 업계와 정책 입안자들이 이 질문에 진지하게 답해야 할 시점이 왔다.
출처: The Verge