하이레터 구독자 여러분, 안녕하세요. 인간:지능연구소(H:AI)입니다.
이번 뉴스레터는 제21대 대통령선거 이후 처음으로 전해드리는 소식입니다 :)
오늘 뉴스레터에서는 "AI 시대의 선거, 우리는 어디까지 허용할 수 있을까?"
라는 질문을 함께 나누고자 합니다.
지난 대선 개표방송에서는 AI 기술이 본격적으로 활용되어 흥미롭고 세련된 시각 콘텐츠들이 등장했습니다. 하지만 정작 선거운동에서는 AI 기술, 특히 딥페이크의 활용이 법적으로 금지되어 있었습니다.
이번 뉴스레터에서는 AI 기술이 민주주의 과정 속에서 어떻게 활용될 수 있을지, 또 현재의 법과 제도가 어떤 가능성을 제한하고 있는지를 살펴보려고 합니다.
AI 시대의 정치는 어떤 모습이어야 할지 함께 고민해 보면 좋겠습니다.
|
|
|
📍'AI 정책수석' 신설 - 민간 주도 생태계 조성 및 인프라 확대
신정부는 AI 세계 3강(미국, 중국, 한국)으로 도약하기 위해 인프라 확대와 전 국민 AI 도입을 핵심 조건으로 내세우며 '모두의 AI' 프로젝트를 통해 민간 주도의 생태계 조성, 연구자 중심의 혁신 체계를 구축해 글로벌 AI 경쟁력을 확보할 계획입니다. 또한 AI 정책수석 신설과 함께 민간 투자를 유치하고 국민펀드를 조성해 세제 혜택을 부여하는 등 적극적인 인프라 확충을 추진할 예정입니다.
|
|
|
📍'AI 교과서 퇴출' 수순 – 교육자료로 격하, 발행사 소송 'AI 디지털 교과서'가 교과서 지위를 잃고 '교육자료'로만 활용될 전망입니다. AI 교과서는 도입과정에서 디지털 과몰입 우려와 학부모·교원들의 반발로 논란을 빚었으며 AI 교과서 발행사들은 막대한 비용을 투자한 상황에서 최근 교육부를 상대로 소송을 제기했습니다. 신정부는 AI 교과서의 지위를 교육자료로 격하하고 학교별 자율 선택권을 보장하는 방향으로 정책을 추진할 계획입니다.
|
|
|
📍AI, 허위 추천 도서로 논란 – '존재하지 않는 책' 추천
미국 시카고 선타임스와 필라델피아 인콰이어러가 최근 발표한 여름특집 추천도서 대부분이 허위로 밝혀졌습니다. 시카고 선타임스는 15권의 추천도서 중 10권이 AI가 생성한 가짜 책이었다고 시인하며 논란을 일으켰습니다. AI가 사실과 다른 답변을 하는 할루시네이션 문제는 언론뿐만 아니라 정보검색에도 부정확한 결과를 야기하고 있으며 최근 연구에 따르면 언론기사에서도 60% 이상 잘못된 정보가 발견됐습니다.
|
|
|
📍비밀 AI 만드는 기업들 – '프라이빗 AI' 시대가 온다
AI 보안 우려로 인해 기업들은 ‘퍼블릭 AI’ 대신 내부 데이터를 안전하게 활용할 수 있는 ‘프라이빗 AI’ 개발에 나서고 있으며 삼성·LG·더존비즈온 등은 이를 활용한 기업용 솔루션을 구축하고 있습니다. 프라이빗 AI는 내부망에서 작동하고 기업 맞춤형 모델을 적용할 수 있어 정보 유출 위험이 낮고 최근에는 경량화된 소형 언어 모델(sLLM)을 기반으로 효율성과 비용 절감을 동시에 추구합니다.
|
|
|
📍AI 일자리 대체보다 위험한 것은 '통제력 상실' – AI의 악용 가능성 경고
구글 딥마인드 CEO 데미스 허사비스는 AI가 일자리를 대체하는 것보다 AI의 통제를 잃는 것이 더 큰 위험이라고 경고했습니다. AI 기술이 악용될 가능성에 대한 우려를 표하며 이를 통제할 안전장치의 부재가 더욱 심각한 문제라고 강조했으며 AI를 인터넷과 비교하며 "큰 변화가 있을 것이다. 대체되는 일자리보다 새롭고 더 나은 일자리가 생기는 게 보통인데 이번에는 어떻게 될지 봐야 할 것"이라고 덧붙였습니다.
|
|
|
개표방송에 더해진 AI, 선거의 벽에는 막힌 AI 🗳️ |
|
|
✨ 매번 진화하는 개표방송의 재미, 이번 개표방송부터 더해진 AI기술 제21대 대통령 선거가 종료되었습니다. 이번 대통령 선거는 윤석열의 비상계엄 촉발을 시작으로 본투표가 종료되는 순간까지 모두가 긴장을 풀지 못한 채, 장장 6개월 동안 민주주의와 새로운 사회에 대한 희망을 폭발시키느라 체력적·정신적으로 지치는 선거이기도 했습니다. 만약 이런 상황에서 개표과정을 중계하는 방송 콘텐츠들이 평상시의 뉴스와 같이 만들어졌다면? 개표방송까지 긴장을 유지한 우리는 어느 누구도 다음 날 출근할 수 없었을 것 같습니다.
개표방송에서 “어떤 그래픽, 어떤 기술이 사용되었나?”라는 질문과 답이 시민들의 관심 주제가 되었던 것은 2017년 5월 치러졌던 제19대 대통령 선거의 SBS 개표방송부터 였습니다. 이 당시 SBS는 화제의 미드 ‘왕좌의 게임’을 패러디한 영화같은 그래픽을 선보였고, 시민들의 SNS를 타고 각종 영상과 짤이 퍼지며 ‘개표방송의 재미’가 본격적으로 언급되었습니다. '개표방송의 재미'에 대한 논의가 의미 있는 이유는 그동안 정치보다 더 재밌는 것을 찾던 사람들이 선거를 가지고 놀아볼 수 있는 판이 열리며 정치에 참여하고 있다는 의미가 있기 때문입니다.
여러분은 이번 대선에서 어떤 방송사의 개표방송을 보셨나요? 이번 대선 개표방송의 시청률 1위는 MBC가 차지했습니다.📺 MBC의 개표방송을 실시간으로 보지 않으신 분들도 SNS를 통해 이미 만나보셨을 것입니다. 이번 대선 개표방송에서 MBC와 KBS는 AI를 이용한 콘텐츠를 통해 시청자들의 눈을 사로잡았습니다. 특히, MBC가 ‘그날, 함께 지금’이란 제목으로 만든 출구조사 카운트다운 영상은 단순 재미를 넘어 “과거와 연결된 현재”라는 메시지까지 담아내며, 개표 방송이 종료된 이후에도 회자되고 있습니다. 이번 MBC의 개표방송 사례는 ‘AI를 이용한 방송 콘텐츠의 긍정적 사례’로 기록될 것 같습니다. 동시에 선거 토론 방송도 각 캠프별 AI를 이용한 콘텐츠와 시각 자료들이 있었다면, 더 많은 유권자가 관심을 가지고 후보자들을 마주했을 것이라는 아쉬움이 생깁니다.🤔 |
|
|
🗂️ 무늬만 요란했던 AI 의제, 여전한 고딕체의 딱딱한 선거 과정 12월 3일 내란 이후, 광장에서 새로운 사회에 대한 열망을 이야기할 때 “AI시대에 걸맞는 사회를 만들자!”, “다가오는 AI시대를 대처하자!”는 주장이 꽤 자주 등장했었습니다. 특히 계엄 이후 2025년 1월, 이른바 ‘딥시크 쇼크’가 발생하면서 AI에 대한 시민들의 관심이 급속히 높아지기도 했습니다. 이에 AI 산업 성장에 대한 대선후보들과 국회의원들의 메세지가 여럿 나오는 것 같았으나, 결국 실제 대통령 선거 기간 AI에 대한 관심은 다른 의제들에 완전히 밀리며 사라졌습니다.🫥 (공약집에 AI 관련 공약이 쏟아졌다고 해도 대부분의 관심에서 밀린 것은 사실이니까요.) 그럼에도 제 눈을 사로잡은 대선 기간 AI와 관련한 보도는 이것이었습니다.
<[단독]공식 선거운동 시작도 전에 딥페이크 삭제 요청 800건 육박(서울신문 25.5.12)> <학교도 선거판도 발칵…'딥페이크 시대'에 경찰도 골머리(뉴스1 25.5.6)>
보도된 내용을 보면 마치 AI와 딥페이크 기술이 민주주의와 선거에 악영향을 미치는 ‘악마’의 기술처럼 보여집니다.😈 사실 현재의 공직선거법에서도 선거 기간 AI와 딥페이크 기술의 사용을 원천적으로 막고 있긴 합니다. 공직선거법 제82조의8(딥페이크영상등을 이용한 선거운동) 1항을 보면, "누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(이하 "딥페이크영상등"이라 한다)을 제작ㆍ편집ㆍ유포ㆍ상영 또는 게시하는 행위를 하여서는 아니 된다."고 규정하고 있습니다.
덕분에 선거 과정 자체가 정치인들에겐 축제이자 빅이벤트였겠지만, 시민들에겐 여전히 딱딱한 ‘고딕체’이자 ‘아날로그’ 투성이었습니다. 대선후보들의 유튜브 콘텐츠는 넘쳐났지만 늘 하던 얘기라 신선함은 없었고, 짧게 소비되는 지금의 콘텐츠 특성 상 구체적으로 논의되어야 하는 의제들이나 후보들의 공약에 대해 다루고 있는 콘텐츠를 찾기란 ‘하늘의 별따기’였습니다. 선거가 종료된 지금 많은 사람들의 기억에 남은 것은 이준석 발언 하나인 것 같습니다. 더구나 대선 후보의 공보물조차 정당의 규모에 따라 만날 수 있는 후보의 정보는 제한적이었습니다.
한정된 선거 기간 후보들이 자신의 정책을 본인의 입을 통해 구체적으로 설명하고 이어서 하나의 의제를 두고 상대 후보와 집중적인 토론을 벌이는 모습을 유권자는 원하겠지만, 물리적인 시간의 부족을 어떻게 할 수 없다고 이해할 수 있습니다. 대신 그렇다면 후보자의 몸을 2-3개로 만들어낼 수 있는 AI와 딥페이크 기술을 선거에서 사용할 수 있도록 한다면, 후보자가 유권자와 물리적으로 직접 만나는 도중에 AI 후보자가 특정 유권자에 적합한 공약들을 홍보하는 것이 가능해지는 등 유권자 편익에 긍정적인 효과가 발생할 수도 있지 않을까요?😉 |
|
|
📣 선거법에 AI를 허락하라! 물론 AI와 딥페이크 기술이 유권자의 합리적 결정을 방해할 수 있는 가능성은 낮지 않습니다. 하지만 유권자의 합리적 결정을 방해하는 것이 AI와 딥페이크 기술만일까요? 최근 국회 비서관들이나 정당 당직자들 사이에서 유튜브 쇼츠로 고통받는 모습을 체감하고 있었는데, 이번 대선이 끝나자마자 정치부 기자들의 자조섞인 반응이 보도됐습니다.
“숏폼, '저널리즘적 재앙'에 가까운 장르”.
AI와 딥페이크 기술이 아니라도 유권자의 합리적 결정을 방해하는 요소는 여럿 있습니다. 유튜브를 포함 다양한 기술을 이용하는 개발자와 유저 모두의 윤리 향상이 필요하면서도, 기술 사용의 원천 금지에 대해서 반드시 고민해봐야 하는 문제가 여기 있습니다.
유튜브 숏츠 환경이 대한민국을 포함한 세계 정치에 악영향을 지속적으로 미치고 있지만, 유튜브 자체를 선거에서 이용하지 못하도록 제한하고 있지는 않습니다. 유튜브를 잘 이용할 수 있도록 미디어 리터러시가 필요하다고 하지만, 아예 유튜브를 사용하지 말자고 이야기하지는 않습니다. 그렇다면 AI 기술에 대해서는 왜 선거에서 원천적으로 사용하지 못하게 할까요?
이번 선거에서도 후보자의 정책이나 국가 운영에 대한 비전들을 유권자들이 확인할 수 있는 방법은 거의 없었습니다. 최소한 유권자가 본인이 원하는 정책을 어느 후보가 준비하고 있는지, 해당 정책에 대한 정당들의 입장은 어떠한지에 대해 손쉽게 확인할 수 있어야 더 나은 민주주의 사회를 만들 수 있다고 강조합니다. 각 정당과 후보자들도 자신의 정책을 더 홍보하고 싶어하지만 홍보 영상을 촬영할 시간도 부족해 하지 못하는 것이라 믿어 의심치 않습니다. 그렇다면 국회의원 및 정당 관계자 여러분! AI와 본인의 딥페이크 영상을 이용해 선거 운동에 이용해 보시도록 선거법을 바꾸는 것은 어떠실까요? 내년 지방선거에는 다양한 후보들의 개성 넘치는 영상 홍보물을 만나볼 수 있었으면 좋겠습니다.
|
|
|
|
🎯 AI기술로 더욱 화려해진 개표방송! 선관위 주관 공식 토론이나 찬조 연설자 방송콘텐츠에서도 적용해 더 많은 사람들이 관심을 갖도록 할 수 없을까요?
🎯 선거에 AI 기술을 사전 차단해서 얻을 사회적 이익 vs AI 기술을 사후 규제해서 얻을 사회적 이익! 어느 사회적 이익이 더 크다고 생각하세요?
🎯 '저널리즘적 재앙이 된 유튜브 숏폼'! AI를 이용한 콘텐츠가 저널리즘과 정치에 도움이 될 수 있도록 하려면 어떤 문제를 예상해 대비해야 할까요?
|
|
|
인간:지능연구소(H:AI)
humanaiinstitute.newsletter@gmail.com
|
|
|
|
|