AI 전쟁의 시대, 민주주의는 가능한가

최근 미국과 이스라엘이 이란을 공습했다는 소식이 전해지며 지구의 공기가 얼어붙는 듯합니다. 러시아와 우크라이나의 전쟁은 여전히 이어지고 있고 이스라엘의 가자지구에 대한 공습과 포격도 혼란을 틈타 더욱 격화되고 있습니다. 차가운 긴장 속에서도 세계 곳곳에서는 전쟁의 불씨가 꺼지지 않은 채 또 다른 땔감을 지피고 있습니다.

우리의 마음과 현실도 이미 전쟁 안에 들어와 있습니다. 국제 유가와 금융시장, 글로벌 공급망을 통해 전쟁의 영향이 우리의 삶으로 연결되고 있기 때문입니다. 한숨 쉬며 바라보는 주유소 기름값에서, 주가 창의 파랗고 빨간 숫자들 속에서 이미 어떠한 이유로도 전쟁이 우리와 무관하지 않다는 사실을 체감하고 있습니다.

연민 없는 AI가 긋는 전선

이번 이란 공습은 역사상 첫 'AI 전쟁'으로 불리고 있습니다. 과거에는 몇 시간에서 며칠이 걸리던 정보 분석이 AI를 통해 몇 초만에 이루어질 수 있다는 이야기도 나옵니다. 다만, 최종 결정을 내리는 것은 아직까진 사람의 몫입니다.

지금까지의 전쟁은 사람이 상황을 살피고 고민한 끝에 결정을 내리는 과정이었습니다. 전쟁을 결정하기까지는 수많은 회의와 토론이 이어졌고 정치적 책임과 군사적 위험을 함께 고려해 왔습니다. 전쟁이라는 선택 앞에서는 누구나 두려움과 망설임을 느끼게 됩니다.

하지만 AI는 인간과 다릅니다. 체력이라는 개념이 없고 감정도 느끼지 않습니다. 두려움도, 연민도, 망설임도 없습니다. 잠도 휴식도 없이 24시간 내내 정보를 분석하고 작전을 지원할 수 있습니다. 동시에 드론과 같은 무인 체계가 전쟁에 널리 사용되면서 인간 병력이 직접 수행하던 역할의 일부를 대신하기 시작했습니다.

이런 변화들은 전쟁의 구조 자체를 바꾸고 있습니다. 기술이 의사결정의 과정을 더 빠르고 쉽게 만들수록 인간으로서 감당해야 했던 전쟁의 무게는 더 가벼워질 수 있습니다.

AI가 바꾸고 있는 것은 단지 의사결정만이 아니라,

전쟁이라는 비극 앞에 인간을 멈춰 서게 하던 '양심과 연민의 시간'일지도 모릅니다.

제네바에서 마주한 질문

어수선하고 따라가기 힘든 지금의 상황을 보며 몇 년 전 겨울, 한국 청년 대표로 참관했던 유엔 회의가 떠올랐습니다. 한국과 유엔의 군축·비확산 회의로 <군사 영역에서의 AI 거버넌스>를 논의하기 위해 마련된 자리였습니다.

당시 외교부와 함께 AI의 군사적 활용에 대한 한국 청년들의 인식 조사를 진행해 각국 외교관들에게 소개했습니다. 많은 청년들은 AI가 의료나 과학 분야에서는 긍정적인 역할을 할 수 있다고 보면서도 '군사' 분야에서의 활용에 대해서는 가장 큰 우려를 나타냈습니다. 특히 AI가 전쟁에 사용될 경우 인간의 통제력이 약화되고 판단의 속도가 지나치게 빨라질 수 있다는 점을 경계하는 의견이 많았습니다.

회의장 한편에서는 "핵전쟁 상황에서 인간의 명령과 AI의 판단이 서로 다른 결론을 내린다면 어느 쪽을 더 신뢰할 것인가"라는 작은 서베이를 진행했습니다. 회의에 참석한 외교관들은 질문을 읽고 잠시 생각한 뒤 선택한 답에 스티커를 붙였습니다. 몇몇 분들께 이유를 묻자 공통적으로 돌아온 답이 있었습니다. "전쟁은 어떤 방식으로든 일어나서는 안 된다"는 것이었습니다.

그때만 해도 AI 기술이 군사적으로 이렇게나 교묘하고 빠르게 활용될 것이라고는 예상하지 못했던 것 같습니다. 불과 몇 년 사이 기술을 둘러싼 환경은 훨씬 더 불확실해졌고, 그 불확실성이 기술을 더 빠르게 어딘가로 밀어붙이고 있는 것처럼 보입니다. AI 전쟁이 현실이 된 지금 회의장에서 들었던 그 말들은 여전히 마음 한편에 남아 있습니다.

AI를 둘러싼 경쟁 속에서 강대국의 힘의 논리가 기술의 방향을 결정하는 모습들도 점점 선명해지고 있습니다. AI는 국제 정치에서 힘의 균형을 바꾸는 도구로 사용되고 있으며, 최근 미국이 이스라엘과 함께 이란을 공습한 사건은 그 단적인 사례일지도 모릅니다.

국가의 전략적인 판단뿐 아니라, 기술을 보유한 기업들의 이해관계까지 얽히면서

AI의 군사적 활용을 둘러싼 결정은 점점 더 복잡한 '권력의 문제'로 확장되고 있습니다.

AI 시대의 권력은 누구의 것인가

AI 기술은 우리가 당연하게 여겨왔던 권력의 본질을 해체해 바라보게 만듭니다. 역사학자 유발 하라리는 AI를 역사상 처음 등장한 '인간이 아닌 행위자'라고 설명하며 정보와 권력의 구조 자체를 바꿀 수 있는 기술이라고 이야기합니다. 인쇄술이나 인터넷과 달리 AI는 스스로 정보를 생성하고 판단 과정에 개입할 수 있기 때문에 정치와 경제, 사회 전반의 권력 구조를 뒤흔들 수 있다는 것입니다.

이처럼 AI는 노동시장과 정보 환경, 정치 과정, 군사 기술 등 사회 전반을 손에 쥐고 있는 기술입니다. 기술의 방향이 곧 사회의 방향과 직결됩니다. 민주주의는 권력의 집중을 막기 위한 합의 속에서 발전해 왔습니다. 과거 몽테스키외는 권력이 한 곳에 집중될 경우 자유가 위협받게 된다고 보았고, 입법·행정·사법 권력이 서로를 견제하는 권력 분립의 원리를 제시했습니다.

하지만 AI 시대에는 또 다른 형태의 권력이 등장하고 있습니다. 데이터를 축적한 기업과 알고리즘을 설계하는 기술 집단, 이를 전략적으로 활용하는 국가 권력입니다. 이 권력은 데이터와 알고리즘이라는 형태로 마치 공기처럼 숨쉬듯 사회 곳곳에 스며들기 때문에 시민이 통제하거나 견제하기가 쉽지 않습니다.

또 하나의 중요한 맥락은 'AI 시대의 권력이 국경을 넘나들며 작용한다는 점'입니다. 지금까지 민주주의의 제도와 책임 구조는 대부분 '국가'라는 시스템 안에서 설계되어 왔지만 AI가 형성하는 권력은 국가의 경계를 넘어 작용합니다.

AI 시대에도 민주주의는 가능할까요?

기술 권력이 새로운 공화국을 만들려는 시대에

우리에겐 '그 너머를 상상할 용기'와 '담대한 비전'이 필요합니다

AI 시민의회라는 어떤 가능성

이러한 맥락에서 최근 주목하는 것은 추첨 민주주의 방식의 'AI 시민의회'와 같은 숙의 민주주의 실험입니다. 벨기에에서는 2024년 인공지능 정책을 주제로 한 시민 패널 프로그램이 진행되었습니다. 유럽연합(EU) 의장국을 맡은 벨기에가 AI 규제와 같은 중요한 기술 정책 논의에 시민의 목소리를 반영하기 위해 마련한 자리였습니다.

사회의 다양성을 반영하도록 신중히 설계되었으며, 전국에 약 1만 6천 통의 초청장이 발송되었고 1,000명 이상이 참여 의사를 밝혔습니다. 이 가운데 성별, 연령, 직업, 도시와 농촌 배경, 언어 구성 등 사회학적 기준을 고려해 60명의 시민이 최종적으로 선정되었습니다. 네덜란드어와 프랑스어 사용 비율까지 반영한 구성은 사회의 다양한 목소리를 담아내기 위한 시도였습니다. 말하자면 벨기에 사회의 작은 축소판을 만들려는 것이었습니다.

선발된 시민들은 전문가 강의를 듣고 정책 담당자들과 질의응답을 하며 AI 정책에 대한 의견과 우려를 나누었습니다. AI의 투명성과 개인정보 보호, 윤리, 교육, 인간의 삶의 질, 경제 발전 등 다양한 주제를 중심으로 토론이 이어졌습니다. 입법에 직접적인 영향을 주기 위한 절차라기보다는 AI라는 새로운 기술이 사회에 어떤 의미를 갖는지 시민들이 함께 생각하고 감각하는 과정에 가까웠습니다.

참여한 시민들의 배경 역시 다양했습니다. AI를 공부하는 젊은 학생도 있었고, 기술 변화에 익숙하지 않은 중장년 시민들도 함께했습니다. 서로 다른 세대와 경험을 가진 시민들이 같은 질문을 놓고 토론을 이어가자 예상과 달리 공통된 문제의식이 드러났습니다. AI 규제의 방향에 대해서는 생각보다 많은 시민들이 비슷한 우려와 기대를 공유하고 있었습니다.

또한 몇 가지 분명한 메시지들도 모아졌습니다. 인공지능의 중요한 결정에는 인간의 통제가 반드시 유지되어야 한다는 원칙, 딥페이크와 같은 기술이 민주주의에 미칠 위험에 대한 우려, 포용적이고 윤리적이며 환경을 존중하는 AI에 대한 요구였습니다. 시민들의 시각은 이후 벨기에 정부와 유럽연합 기관에도 공유되었으며, 복잡한 기술 정책 논의에 시민의 목소리를 반영하려는 새로운 민주주의 실험으로 평가받고 있습니다.

또한 영국에서는 시민사회 단체 Connected by Data가 2023년 AI 시민 패널 프로그램을 운영했습니다. AI 정책 논의가 정부와 기술 기업 중심으로만 이루어지는 현실을 비판하며 데이터 활용과 개인정보 보호, 알고리즘 투명성, 공공서비스에서의 AI 활용, 기술 기업의 책임 등을 주제로 시민들과 토론을 이어 왔습니다. 이들이 발표한 보고서는 AI가 일부 국가와 기업에 의해 개발되더라도 그 영향은 전 세계 시민의 삶에 미치기 때문에, AI 거버넌스 역시 시민을 포함한 방식으로 설계되어야 한다는 메시지를 담고 있습니다.

혼란과 역동의 시대에 시민의회와 같은 실험은

인류가 권력을 바라보던 '처음의 마음'을 다시 떠올리게 합니다.

새로운 시대를 위한 새로운 질문

AI 전쟁의 등장, 기술 권력을 둘러싼 국제 정치의 변화, 시민들이 기술의 방향을 함께 논의하려는 시민의회의 실험까지. 우리는 지금 기술이 사회의 구조와 권력의 방식을 바꾸고 있는 시대를 지나고 있습니다.

변화 앞에서 인류는 언제나 스스로에게 질문을 던지며 새로운 질서를 만들어 왔습니다. 역사학자 아놀드 토인비가 말한 '도전과 응전'처럼 문명은 위기를 마주할 때마다 그에 대한 응답을 통해 다음 시대를 열어 왔습니다.

제2차 세계대전 이후 국제사회 역시 그러한 응답의 한 형태였습니다. 국제사회는 전쟁의 참혹한 경험에 대한 반성과 성찰 속에서 유엔(UN)을 창설했습니다. 특히 핵무기가 실제 전쟁에 사용되며 인류가 감당해야 할 파괴의 깊이와 책임의 대가를 처음으로 마주한 후, 핵확산금지조약(NPT)과 같은 국제 규범을 통해 전쟁을 억제하고 통제하려 노력해 왔습니다. 인권 역시 수많은 전쟁의 역사 속에서 만인의 만인에 대한 투쟁을 넘어 어렵게 합의해 온 숭고한 가치입니다.

어쩌면 지금 우리는 AI라는 기술의 등장을 넘어 전쟁과 인권, 민주주의에 대해 인류가 오랫동안 쌓아 온 합의와 질서가 흔들리는 순간을 지나고 있는지도 모릅니다.

다시 한번 질문을 던집니다.

AI 시대에도 민주주의는 가능할까요.

기술은 이제 멈출 수 없을 것입니다. 우리가 찾아야 할 답은 민주주의 또 다른 형태일 수도 있고,
아직 이름 붙이지 못한 새로운 질서일지도 모릅니다.

마차의 규칙으로 철도를 다룰 수 없었던 것처럼

새로운 시대, 새로운 거버넌스와 새로운 공적 리더십을 상상해야 합니다. 🕊️