메타의 내부 문서가 유출되며, AI 챗봇이 아동과 낭만적이거나 관능적인 대화를 나눌 수 있도록 허용했다는 사실이 드러났습니다. 로이터 보도에 따르면 200페이지 분량의 메타 내부 가이드라인에는 “아이의 매력을 묘사하는 발언은 허용된다”는 식의 규정과, 증오 표현이나 인종차별적 서술, 허위 콘텐츠 생성까지 일정 조건에서 허용하는 사례가 담겨 있었습니다. 메타는 해당 문서 존재를 인정했지만 “문제가 된 예시는 오류이며 정책에 부합하지 않는다”며 삭제했다고 밝혔습니다. 현재 미국의 온라인 플랫폼 기업들은 플랫폼에 올라온 콘텐츠에 대해 운영자는 책임이 없다는 면책 특권을 가지고 있습니다. 미국 상원의원들은 즉각 의회 조사를 촉구했고 아동 안전과 표현의 자유 사이 균형을 둘러싼 논란이 커지고 있습니다.

뉴노멀이 된 “AI 가라사대...”, 정작 AI 리터러시는 정책 후순위라는 불편한 사실

A. 야후와 주니어네이버, 구글과 유튜브를 지나 챗GPT로. “AI 가라사대~”
최근 6개월 사이 제가 만났던 사례 2가지를 독자 여러분과 공유해볼까 합니다.

사례 1. A 정당에서 선거가 끝난 이후 이번 선거를 평가하고 다음 선거를 준비하기 위해 마련한 회의 자리. 치열한 토론이 오고 가는 와중에 누군가 비장한 표정으로 일어나 다음과 같이 외칩니다.
“챗GPT에게 물어봤더니 다음 선거를 이기기 위한 방법은 더 많은 사람들을 만나 우리의 주장을 설득해야 한다고 합니다.”라고. AI가 고작 이런 주장밖에 하지 못했다는 것이 의아해서 본 그의 프롬프트에는 단 한 줄 적혀있었습니다. “OO년에 치러질 선거를 이기기 위해 A정당과 당원들이 할 일을 알려줘”

사례 2. 청소년들을 대상으로 법안을 만들어보는 과정을 직접 체험하면서 정치의 이해도를 향상시키는 프로그램이 있습니다. 법안을 만드는 과정을 강사가 설명하고 학생들에게 이제 각자의 법안을 만들어보자며 실습 시작을 알립니다. 청소년 모두가 핸드폰을 꺼내고 챗GPT를 실행시킵니다. ‘역시 요즘 학생들은 이제 유튜브를 넘어 챗GPT로 정보를 찾는구나’라고 느끼던 찰나. 대부분의 청소년들은 프롬프트에 이런 질문을 적고 답을 기다리고 있었습니다. “나만의 법률로 만들만한 법이 무엇이 있을까?” 추억의 야후와 주니어 네이버를 시작으로 구글에 이어 유튜브가 주요 검색 플랫폼이던 시절을 지나, 확실히 챗GPT와 같은 생성형 AI가 주요 검색 플랫폼이 된 것이 체감됩니다.

그런데 말입니다. 생각해보면 과거에 우리가 어떤 정보를 찾고 그것을 설명할 때 “구글에 검색해봤더니..”와 같은 말을 서두에 하지 않았던 것 같은데, 지금은 “AI가 말하길...”과 같은 말을 서두에 강조하는 이상한(?) 현상을 자주 목격하게 됩니다. 마치 AI는 모든 정답을 알고 있는 초월자이고, 인간은 “AI 가라사대~”라고 AI의 말씀(?)을 전하는 사제가 된 것 처럼요.

B. 오픈AI 교육 책임자도 강조한 한 가지. ‘AI도 결국 도구일 뿐’
독자 여러분도 저와 비슷한 경험이 있으실 것이라 생각됩니다. “AI 가라사대~”를 외치고 다니는 사람들을 보며 ‘이건 아닌 것 같은데..’라는 생각이 들지만, 그렇다고 AI를 어떻게 사용하는 것이 잘 사용하는 것인지 우리 모두 배운 적이 없으니 혼란스럽기만 합니다. 그래서 이제 더 이상 AI 리터러시 교육이 구호에만 머무르지 않고 실질적으로 여러 교육 과정에 빠른 보완이 필요한 상황이 되었습니다. 

계속해서 AI 리터러시에 대한 사회적 담론만 활발한 채 구체적인 적용이 계속 늦어진다면, 점점 더 AI의 답변에 기대어 모든 것을 판단하려는 사람들이 더 늘어날 수밖에 없습니다. AI에 대한 맹목적인 의존성이 높아질수록 개인의 확증 편향 등이 더욱 강화될 텐데요. 극단적인 예측일 수도 있지만, 이런 흐름이라면 집단 간 갈등을 해결할 ‘정치의 부재’가 더욱 심각해질 것이고, 민주주의가 그 어느 때보다 위협받을 수 있다고 생각합니다.

리아 벨스키(Leah Belsky) 오픈AI 교육 책임자는 지난 7월 30일 오픈AI 유튜브 팟캐스트에서 생성형 AI로 인한 뇌 퇴화 우려에 대해 이렇게 답했습니다. “AI는 결국 도구일 뿐이고, 그 도구를 어떻게 사용하느냐가 가장 중요하다.” 리아 벨스키가 강조하고자 한 것은 AI를 통해 원하는 결과를 얻기 위해 ‘어떻게 비판적 사고 능력을 개발할 것인가’입니다.

그렇게 오픈AI는 최근 챗GPT에 ‘스터디 모드’를 도입해 소크라테스식 교육법으로 학생들이 스스로 답을 찾아갈 수 있는 방안을 마련했다고 설명했습니다. 우리가 주목해야할 것은 ‘어떻게 비판적 사고 능력을 개발해 AI라는 도구를 잘 사용할 것인가?’여야 합니다.

아! 그리고 이러한 AI 리터러시 교육은 청소년뿐만 아니라 반드시 성인도 받을 수 있어야 한다고도 덧붙입니다. 왜냐하면.. 리아 벨스키의 팟캐스트 출연 내용이 어떻게 기사화가 되었는지 보고 충격을 받았거든요. D 언론사의 제목이 가장 눈에 띄었습니다. [“비싼 과외 필요 없겠네”...선생님은 사라지고 학부모는 웃을 수도] 😨😨😨

C. 이재명 정부가 발표한 AI 국정과제. AI 리터러시 강화 의지는 있나?
지난 8월 13일(수) 국정기획위원회 국민보고대회가 청와대 영빈관에서 열렸습니다. 이 자리에서 발표될 이재명 정부의 국정과제에 AI 리터러시와 관련해서는 어떤 내용이 있을지 관심 있게 지켜봤습니다. ‘세계를 이끄는 혁신경제’라는 목표에 AI와 관련한 국정과제는 아래와 같습니다.

 20. AI 3대 강국 도약을 위한 AI고속도로 구축 (과기정통부)
 21. 세계에서 AI를 가장 잘 쓰는 나라 구현 (과기정통부)
 22. 초격차 AI 선도기술 및 인재 확보 (과기정통부)
 23. 안전과 책임 기반의 ‘AI 기본사회’ 실현 (과기정통부)
 24. 세계 1위 AI 정부 실현 (행안부)
 25. 국민이 안심할 수 있는 개인정보 보호체계 확립 (개인정보위)
 31. 미래 모빌리티와 ‘K-AI 시티’ 실현 (국토부)

AI와 관련한 국정과제 발표는 송경희 국정기획위원회 경제2분과장(성균관대학교 인공지능신뢰성센터장)이 담당했는데, 주요 발언은 아래와 같습니다.

💬 “AI 고속도로를 구축하겠습니다. 첨단 GPU 5만장 이상 확보하겠습니다.”
💬 “국민 모두가 AI를 같이 누릴 수 있는 기본 사회를 만들겠습니다.”
💬 “AI 역량 교육을 확대하겠습니다.”
💬 “안전하고 윤리적인 AI 활용을 위한 제도적 뒷받침을 마련하겠습니다.”

발표한 내용과 구호를 마련하기 위해 수많은 자료들과 데이터를 국정위원들이 분석해 내용을 준비했을 것이라고 당연히 생각합니다. 그럼에도 아쉬운 부분을 넘길 수 없었습니다. 

공개된 국정과제 내용과 국민보고대회의 내용을 보면, AI 산업 형성에 훨씬 많은 집중을 하고 있다는 것을 느낄 수 있었습니다. AI 리터러시 강화, 윤리적 AI 활용을 위한 제도 마련 등 구호는 있지만 이것들을 중요한 과제로 인식하고 있는지 확인할 수 없었습니다.

유튜브와 같은 뉴미디어가 급속히 일상으로 파고들 때, 미디어 리터러시 교육이 필요하다는 담론이 있었지만 교육 과정에 반영되지 못하고 민간에 맡겨져 중구난방으로 이루어졌습니다. 팟캐스트나 1인 방송 등 작은 뉴미디어를 통해 더 많은 개인이 미디어를 제작할 수 있게 되면서 더더욱 미디어 리터리시 교육을 해야한다고 주장했지만, 역시나 미디어 리터러시 교육은 항상 주요 미디어 정책의 뒷전으로 밀렸습니다. 그리고 우리가 맞이한 결과가 확증 편향, 가짜뉴스에 대한 무비판적 수용, 자극적 정보만 생산되는 악순환으로 가득 찬 지금의 유튜브 환경입니다.

AI 환경이라고 다를 것 없습니다. AI 리터러시 교육은 더 이상 관심에서 멀어질 후순위 정책이 되어서는 안됩니다. 산업 발달에 대한 정책적 관심만큼 AI 리터러시 강화에 대해 확실한 정책적 의지와 방향이 있다는 시그널을 올해 이재명 정부가 보여줄 수 있길 H:AI는 기대해 봅니다.

🎯 서울시 교육청은 지난 7월 15일 교육감 기자회견에서 “AI시대에 어떤 인재가 필요한가에 대한 인재상을 확립했다.”고 밝혔습니다.
'AI 시대의 인재상'은 무엇이라고 생각하시나요?

🎯 AI 리터러시 교육이 필요하다는 주장은 많지만 정작 어떤 내용으로 어떻게 가르쳐야 한다는 구체적 방안을 찾기가 어렵습니다. 이러한 원인이 ‘대학 입시 중심의 한국 교육과정’에 있다는 주장도 있습니다. 
미디어에 이어 AI 리터러시 교육도 잘 안되고 있는 이유가 무엇이라고 생각하시나요?

📚 참고 자료

1. 123대 국정과제(안) 및 발표자료_모두의 광장