AI라는 질서

일론 머스크 대담을 통해 본 인류의 미래

최근 네이버의 지식인을 실수로 눌러 들어갔다가, 모르는 사람의 질문에 정성스럽게 답을 달아둔 예전 답변들을 보며 문득 아득하면서도 낭만이 남아있는 듯한 느낌을 받았습니다. 어느 순간부터 인가 궁금한 것이 생기면 사람에게 물어보기 보다 챗지피티를 열어 AI의 도움을 받는 것이 점차 익숙해지고 있는 것 같습니다.

"스마트폰을 처음 사용했을 때를 기억하시나요?" 문자 대신 카카오톡으로 메시지를 보냈을 때, 줄이어폰 대신 에어팟을 귀에 처음 꽂았을 때를 생각해보면 당시에는 낯설고 새롭게 느껴졌던 것들이 이제는 당연한 것이자 없으면 불편한 것들이 되었습니다.😥

'변화', '발전', '혁명'이라고 불리는 것들은 아침에 눈을 뜨면 밝은 빛을 보는 것처럼 갑작스럽게 마주하기도 하지만, 하루를 보내다 보면 금세 어둑해진 하늘을 보게 되는 것처럼 뒤늦게 알아차리기도 합니다.

AI는 아직도 미래처럼 느껴지곤 하지만, 우리는 이미 AI와 공존하고 있습니다. 그리고 더 이상 자유의지로 선택하거나 벗어나거나 막을 수 없습니다. 나와 타인, 한국과 세계, 지구와 우주가 AI라는 새로운 질서에 새롭게 정렬되고 있기 때문입니다. 어쩌면 모두가 농사를 짓던 시절, 하나 둘 공장이 생겨나던 산업혁명보다도 인류가 불을 처음 발견했을 때와 더 유사하지 않을까 싶습니다.

"우리는 앞으로 어떻게 살아갈까요?"

일론 머스크가 예측한 인류의 미래

최근 일론 머스크가 미국의 기업가 피터 디아만디스가 진행하는 팟캐스트(Moonshots)에 출연해 약 3시간 동안 'AI와 인류의 미래'를 주제로 대담을 나눴습니다. 일론 머스크가 예고한 미래는 가히 충격적이었는데요. 대담의 주요 내용은 아래와 같이 정리해 보았습니다.

일론 머스크 대담 주요 내용

머스크가 그리는 현재이자 미래는 AI를 기술을 넘어 에너지와 경제, 우주 인프라 그리고 '인간'의 의미와 역할까지 다시금 상상하게 만듭니다. 눈치채신 분들도 계시겠지만, 대담에서 크게 두드러진 부분이 있습니다. 바로 '정렬(Alignment)'이라는 단어입니다.

통제(Control) VS 정렬(Alignment)

일론 머스크는 AI 안전을 '통제(Control)'이 아닌, '정렬(Alignment)'로 설명했습니다. 스스로 학습하고 또 빠르게 스스로 개선해가는 AI를 규제하는 것은 결국 어떠한 측면으로도 지속 가능하지 못하기 때문입니다. 'AI를 어떻게 멈춰 세울 것인가'는 더 이상 유효하지 않으며, 이제 인류에게 남은 질문은 'AI가 어느 방향을 향해 가게 할 것인가'입니다.

인류는 어떤 미래를 향해 갈 것인가?
진실(Truth), 호기심(Curiosity), 아름다움(Beauty) ❤️

여기서 정렬(Alignment)은 크게 두 가지 맥락으로 해석할 수 있습니다.

첫째는 "AI 기술의 목적과 방향을 맞추는 일"입니다.
쉽게 말해, AI가 인간 사회에 이로운 방식으로 작동하도록 만들 것인지, 혹은 그렇지 않은 방향으로 가도록 둘 것인지에 대한 시간이 얼마 남지 않은 선택입니다. 기술을 규제하고 제한하는 담론을 벗어나, 우리가 어떤 사회와 미래를 향할 것인지부터 묻고 있는 것입니다. 머스크가 언급한 것처럼 이미 우리는 특이점(Singularity) 안에 들어와 있으며 이제 더 이상 브레이크는 존재하지 않습니다.

이는 AI의 먹이라고도 볼 수 있는 '데이터'와도 연결되어 있습니다. AI는 인류가 지금껏 살아온 아날로그 세계의 경험과 기록, 제도와 관행 나아가 세상을 이해해 온 관념들까지 디지털 세계로 옮겨진 것들을 학습하고 있습니다. 인간이 만들어 온 사회의 구조, 세상이 움직이던 방식, 생각의 틀과 결까지 점점 데이터의 형태로 바뀌고 있고 이 모든 것들이 다시 AI를 규정하고 있는 셈입니다.

AI는 디지털 정보를 학습하지만 그 정보들의 원천은 결국 '인간이 살아온, 지금 우리가 살고 있는 세상'입니다. 우리의 경험과 선택, 규범과 관습들 옳고 그름에 대한 관념까지 데이터화되었고 또 되고 있으며 이제 그 데이터가 다시 개인과 사회의 행위와 결정 과정에 영향을 미치고 있습니다. 인간은 AI 기술을 만들어냈지만 이 기술이 '다시 인간을 규정하게 되는' 모순적이면서 역설적인, 어쩌면 거대한 '먹이사슬'과도 같아 보이는 순환이 형성된 셈입니다.

그리고 이것은 💾 1990년대 초반, 인터넷이 대중에게 보급되기 시작했을 때의 변화와는 분명히 다릅니다. 인터넷이 인간의 정보 접근 방식을 바꿨다면 AI는 인간의 판단 과정 자체에 개입하기 시작했습니다. 인터넷은 더 많은 정보를 더 빠르게 찾게 했지만 '무엇을 믿고 어떤 선택을 내릴 것인지'는 여전히 사람의 몫이었습니다. 하지만 AI는 추천과 예측을 넘어 '어떤 것이 더 합리적으로 보이는지', '어떤 행위가 최적의 선택일지'를 대신 결정하는 단계로 들어서고 있습니다.

이러한 맥락에서 머스크는 "AI를 어떻게 통제할 것인가"보다 "AI가 어떤 가치를 향하도록 만들 것인가"가 더 중요하다고 말합니다.

이번 대담에서 언급된 세 가지 가치는

'진실(Truth)', '호기심(Curiosity)', '아름다움(Beauty)'입니다.

거짓(Untruth)과 확신(Overconfidence) 그리고 증오(Hate)가 먼저 떠올려지는 지금, 일론 머스크의 입에서 나온 '진실', '호기심' 그리고 '아름다움'이라는 이 단어들이 뭔가 어색하기도 하고 묘하게 느껴지기도 합니다. 이런 맥락에서 정렬(Alignment)은 우리가 어떻게 세상을 바라보고 어떤 가치를 기술에 투영할 것인가에 대한, '인간만이 할 수 있는 유일한 선택'으로 볼 수 있습니다.

AI라는 질서, 새롭게 세우는 인류 질서의 뼈대 🦴

정렬(Alignment)의 두 번째 의미는 "사회 전체의 기존 질서가 재배열되는 과정"으로 볼 수 있습니다. 이전 하이레터에서도 다뤘듯이 인류는 지금껏 공동체의 질서를 끊임없이 상상하고 합의해 왔으며, 시대와 문명을 넘어 공통적으로 유지되어 온 질서의 기본 구조가 존재했습니다. 공동체가 있고 누군가가 결정을 내리며 생산과 분배가 이루어지고 또 이를 지탱하는 규칙과 처벌이 행해졌다는 점입니다. 왕정이든 공화국이든, 자본주의든 사회주의든 이런 질서의 뼈대는 크게 달라지지 않은 채 이어져 왔다고 볼 수 있습니다.

다만, 변화해 온 것은 "질서를 어떻게 운영하고 유지할 것인가" 였습니다. 군주와 귀족에게 집중되었던 통치 권한이 점차 시민의 대표 기관과 국가 행정 체계로 이전되고 신분에 따라 결정되던 분배 구조가 노동과 자본, 복지 제도를 중심으로 재편되었으며 사회 질서를 정당화하던 논리 역시 전통과 권위에서 시장의 논리, 권리와 평등, 효율을 기준으로 움직여 왔습니다. 자본주의와 사회주의 법·제도 그리고 근대의 국가 체계는 이러한 질서 운영 방식에 대한 서로 다른 선택들이었습니다. 우리는 사회 질서의 뼈대는 유지한 채 서로 다른 제도와 규칙을 덧대며, 시대마다 다른 방식으로 공동체를 움직여 온 셈입니다.

그러나 머스크가 말하는 미래는 바로 이 '질서의 뼈대' 자체가 더 이상 인간의 제도와 합의만으로 구성되지 않게 될 가능성을 전제하고 있습니다. 에너지와 인프라, 경제와 노동, 의료와 교육에 이르기까지 점점 더 많은 것들이 AI의 영향을 받는다면 기술은 더 이상 질서를 운영하고 유지하기 위한 수단이 아니라, 질서를 만드는 조건이자 '질서 그 자체'로 자리하게 될 수 있습니다.

앞선 이미지에 언급된 '노동'을 예로 들어 보겠습니다. 지금까지 사회 질서에서 노동은 통치와 분배, 사회적 소속을 연결하는 핵심 축이었습니다. 신분 사회든 산업 자본주의든 복지 국가 체제든 개인은 노동을 통해 사회에 편입되었고 국가는 이를 기준으로 세금과 복지, 권리와 의무를 하나씩 만들어 왔습니다. 다시 말해, 노동은 단순한 생계 수단이 아니라 사회 질서를 작동시키는 톱니바퀴와 같았습니다.⚙️

그런데 머스크는 이번 대담에서 AI와 로봇이 결합해 대부분의 물리적 작업은 물론 상당 부분의 지적 노동까지 수행하게 될 경우, 생산 비용이 급격히 낮아지고 재화와 서비스의 공급 방식 자체가 근본적으로 달라질 수밖에 없다고 보았습니다. 이는 특정 직업이 사라지는 차원을 넘어, 노동이 '소득'과 '사회적 지위'를 연결해 오던 기존 질서의 작동 원리가 약해질 수 있음을 뜻합니다. 이렇게 되면 노동을 기준으로 사회를 조직해 온 기존 질서 역시 다시 배열되어야 하는 상황에 가까워집니다. 통치와 분배, 참여와 보호를 연결하던 사회의 기본 구조가 동시에 재편되는 국면이 열리는 셈입니다.

또 머스크의 전망은 흔히 떠올리는 기본소득(UBI) 논의를 훌쩍 뛰어넘습니다. 생산 비용이 극도로 낮아질 경우, 현금을 나누는 방식보다 재화와 서비스 자체가 거의 제한 없이 제공되는 사회에 가까워질 수 있다고 보는 것인데요. 소득을 어떻게 분배할 것인가의 문제가 아니라, '노동 → 소득 → 소비'로 이어지던 경제 질서의 기본 전제가 더 이상 당연하지 않게 될 수 있음을 의미합니다.💸

⚙️ 톱니바퀴는 사라질까요? 대체될까요.
아니면 우리는 어느 순간, 그 톱니바퀴가 존재했다는 사실 자체를 잊게 될까요.

그런데, 내가 할 수 있는 일은?

이번 글을 쓰며 문득 10여 년 전, '4차 산업혁명'이라는 말이 한참 회자되던 시기에 작성했던 글을 오랜만에 다시 열어보게 되었습니다. 당시에도 그리고 지금도 여전히 우리는 "제4차 산업혁명이 왔다." "AI 시대가 왔다." "AI는 아주 중요하고 또 전환기에 들어섰다"라고 말하곤 합니다. 알아차리지 못한 것일 수도 있겠지만 특이점 안에서 변화를 상상하고 미래를 뚜렷이 말하는 사람들은, 말을 할 수 있을 만큼 집요하게 고민한 사람들은 사실 많지 않았던 것 같습니다.

그렇기에 이번 일론 머스크의 대담이 더욱 중요하고 또 크게 와닿습니다. 개인적으로는 'Moonshots(문샷)'이라는 프로그램에 출연해 이야기를 나눴다는 점도 인상 깊습니다. 분명한 미션을 세우고 그 미션을 향해 사회 전체가 방향을 맞춰, 결국 1969년 인류를 달에 착륙시키는 데 성공했던 🚀미국의 아폴로 계획(The Apollo Program)이 떠올랐기 때문인데요. 당시 아폴로 계획이 우주 개발뿐 아니라 반도체, 통신, 재료공학 등 수많은 과학기술의 발전을 동시에 견인했던 것처럼 AI 역시 지금 우리가 어떤 목표를 설정하느냐에 따라 전혀 다른 미래를 만들어낼 수 있겠다는 생각도 들었습니다.

"AI 시대" 라고는 하지만 정작 내가 있는 이곳,

이 자리에서 무엇을 해야 하는지는 여전히 잘 모르겠는 순간들이 많습니다.

일상의 많은 부분에 AI가 들어오고 또 AI로 대체되면서, 유튜브에 쏟아지는 많은 AI 관련 영상들을 마주하며 어떤 트렌드 마냥 따라가기조차 벅차게 느껴질 때도 있습니다. 스스로가 AI와는 거리가 먼 사람인 것 같고 '과연 내가 이 문제에 관심을 가져도 되는 걸까?' 하는 착각이 들 때도 있습니다. 아마 많은 분들이 비슷하게 느끼고 계실 것이라 생각합니다.

그럼에도 우리가 할 수 있는 일, 특히 시민이 함께 참여할 수 있는 방법들은 분명히 존재합니다. 요즘은 벨기에의 'AI 시민의회'나 영국 시민사회 조직인 'Connected by Data' 같은 사례들을 살펴보고 있는데요. Connected by Data는 2024년 보고서를 통해 AI의 개발과 활용 방향이 정부와 기술 기업 중심으로 결정될 경우에는 사회적 정당성과 신뢰를 확보하기 어렵다고 지적하면서 전 세계 시민이 AI의 가치와 활용 방식을 함께 논의하는 글로벌 숙의 구조가 필요하다고 제안하기도 했습니다.(앞으로 하이레터 안팎에서 차근차근 다뤄보도록 하겠습니다.💌)

이런 움직임들이 '기술의 방향'이 기업과 국가 결정만으로 정해지는 것은 아니라는 가능성을 보여주는 것 같습니다. 어쩌면 AI 시대를 그저 받아들이고 살아가는데 머무르기 보다, 모두가 연결되어 있고 마땅히 관심을 가져야 한다는 것을 인식하는 일. 또 어떤 사회를 향해 가고 싶은지 질문하고 행동하려고 하는 태도 자체가 지금 우리에게 필요한 시작일지 모릅니다.

일론 머스크를 포함한 우리 모두는

한 척의 배에 타고 있습니다. ⛵