AI 통제권은 누구에게 있는가: 바티칸 새 회칙과 앤스로픽의 이례적 고백

현지 시각 2026년 5월 25일, 바티칸은 인공지능 시대에 인간의 가치를 보호하기 위한 새 회칙 Magnifica Humanitas를 발표했습니다.

AI 기술의 긍정적 측면을 인정하면서도, 소수 거대 기업에 집중된 권력의 불투명성을 경고하며 법적 프레임워크와 독립적 감독의 필요성을 강조했습니다.

같은 날 바티칸 발표 행사에 초청된 최전선 AI 기업 앤스로픽(Anthropic)의 공동창업자 크리스 올라(Chris Olah)는, AI 기업 내부의 인센티브 구조만으로는 올바른 결정을 내리기 어렵다며 외부의 비판과 통제가 필수적이라고 공식 인정했습니다.

조직이나 개인이 AI를 도입할 때, 벤더가 제공하는 자체적인 안전 정책에만 의존해서는 안 되며, 돌이킬 수 없는 결정은 반드시 인간의 통제하에 두어야 함을 시사합니다.

현재 AI 인프라, 데이터, 컴퓨팅 파워에 대한 통제권은 국가가 아닌 소수의 거대 경제·기술 주체에게 집중되어 있으며, 이는 대중의 감독을 벗어나 불투명해지기 쉽다고 경고합니다.

최신 AI 시스템은 전통적인 소프트웨어처럼 정교하게 구축되는 것이 아니라, 방대한 데이터를 바탕으로 배양되는 것에 가깝습니다. 설계자조차 그 작동 방식을 완벽히 이해하지 못하는 블랙박스 현상을 꼬집은 것입니다.

살상 무기 운용이나 누군가의 삶에 돌이킬 수 없는 영향을 미치는 결정은 결코 AI 시스템에 위임되어서는 안 되며, 인간의 효과적이고 책임감 있는 통제 아래 머물러야 함을 강조했습니다.

앤스로픽을 포함한 프론티어 AI 연구소들은 상업적 이익, 기술적 야심, 지정학적 경쟁이라는 인센티브와 제약 속에 놓여 있습니다. 그는 이러한 구조가 종종 올바른 일을 하는 것과 충돌할 수 있다고 인정했습니다.

AI가 제기하는 문제는 단순한 컴퓨터 공학의 범주를 넘어섰습니다. 따라서 안전에 깊은 관심을 두고 쓴소리를 마다하지 않는 시민사회, 학계, 종교계, 정부 등 기업 외부의 비판자들이 개입해야 한다고 촉구했습니다.

거대 언어 모델은 단순히 다리를 놓거나 비행기를 만드는 것과 다릅니다. 인간의 방대한 생각과 언어라는 유산을 바탕으로 뇌의 구조를 모방해 성장하기 때문에, 그로 인한 이익 배분과 노동 대체 문제에 대해 사회적 합의가 필요하다는 것입니다.

바티칸은 AI를 철저한 기계적 통제를 벗어난 배양되는 기술로 보고, Olah는 작동 원리가 완전히 규명되지 않은 미지의 영역이 있다고 설명합니다.

바티칸은 소수의 강력한 주체가 도덕적 프레임워크를 독점해서는 안 된다고 말하고, Olah는 기업 내부 인센티브가 공익적 가치와 충돌할 수 있다고 말합니다.

바티칸은 독립적 감독 기구와 법적 프레임워크를 요구하고, Olah는 시민사회·학계·정부 등 외부 비판자의 적극적 개입을 촉구합니다.

바티칸은 치명적이거나 돌이킬 수 없는 결정은 반드시 인간이 맡아야 한다고 보고, Olah는 AI의 이익 배분과 인류 번영을 위한 사회적 상상력이 필요하다고 봅니다.

조직 내 AI 사용 범위를 명확히 규정하고, 데이터 소유권 및 접근 권한 구조를 재설계하기. AI 시스템의 결과물을 최종 판단하는 인간 검토 지점(Human-in-the-loop)을 제도화하기.

유럽연합(EU)의 AI Act를 비롯해, 이번 발표 이후 각국 정부와 국제기구가 내놓을 실질적인 AI 규제 법안의 세부 조항.

시스템이 출력하는 단호하고 객관적인 듯한 답변을 절대적 진실로 맹신하는 태도. 특히 채용, 인사 평가, 보안, 금융 심사 등 돌이킬 수 없는 결정을 자동화된 AI 에이전트에게 전적으로 위임하는 행위.

워크스페이스 안에서 AI 에이전트 권한과 승인 흐름을 어떻게 나눌지 함께 보면 좋습니다.

AI 기업이 말하는 안전과 정렬을 실제 테스트 맥락에서 읽는 기준으로 연결됩니다.

AI 답변을 그대로 믿기 전에 원문과 출처를 확인하는 실무 기준으로 이어집니다.