<2025 국정감사에서 만난 AI: 내맘대로 하이라이트>

지난 10월 13일(월)부터 시작된 2025 국정감사가 종료되었습니다. 많은 사람들이 예상했듯 AI는 25일간의 국정감사 기간을 뜨겁게 만든 여러 키워드 중 하나였습니다. 과학기술정보방송통신위원회에서만 AI가 보였던 것이 아니라 여러 상임위에서 AI라는 키워드를 찾을 수 있었습니다. 모든 질문과 답변들을 분석하고 싶지만, 하이레터에서는 ‘하이라이트’만 모아서 보겠습니다.
(세세한 이야기는 H:AI와 TBS가 함께 만드는 <언박싱AI>를 통해 만나요~!)

A. 2025 국정감사가 던진 첫 번째 질문: AI데이터센터 환경, 필요한 에너지는 충분히 준비되었나?

26만 장의 GPU가 한국에 온다는 소식에 시민들의 데이터센터에 대한 관심이 높습니다. 환경 단체들도 데이터센터에 관심이 높아졌는데, 이 AI 데이터센터에는 엄청난 양의 전력이 필요하고, 향후 AI 환경을 위한 전력 수급 계획과 대응이 필요한 사항이기 때문입니다. 이 문제에 대한 고민은 과방위 국정감사에서 나왔습니다. 배경훈 부총리 겸 과학기술정보통신부 장관은 "현재 한국 내 GPU(그래픽처리장치) 사용량 예측을 해봤을 때, 전력수급계획에 따르면 AI를 개발하는 데 2030년까지는 전력 문제 지원이 가능한 것으로 판단된다"면서도, "상용 원전 1기가 2036년, 소형모듈원전(SMR)이 2035년을 목표로 하고 있어서 2030~2035년에 공백이 있다"고 설명했습니다. 답변대로라면, 여야를 떠나 5년이라는 시간은 결코 짧은 시간이 아니기에 AI 데이터센터에 대한 안정적인 전력 수급 계획의 확실한 대책이 필요하다고 생각되는 지점입니다.

전력 및 에너지와 관련한 문제는 오픈AI·SK 인공지능 전용 데이터센터가 전남에 유치된 데 이어, 최근 국가AI데이터센터의 후보지로 광주가 아닌 해남 솔라시도가 선정된 것으로 연결되는데요. 이것도 결국 대용량 전력 공급 등 전력망과 친환경 에너지, 용수를 안정적으로 확보할 수 있는 곳으로 광주는 적절치 않다는 분석이 나오고 있습니다. 하지만 이러한 결정도 내년 6월 지방선거를 앞두고 있기 때문인지 정치적 유불리에 대한 판단으로 보이는 장면이 있었습니다. 김현 민주당 의원이 과방위 국정감사에서 이재명 대통령의 공약과 다르게 국가AI컴퓨팅센터가 광주가 아닌 전남 해남 솔라시도에 입지하는 것을 지적하는 장면이었는데요. “대통령의 공약과 다른 결정으로 AI 3대 강국으로 가는 데 혼선이 발생했다”는 근거를 들었습니다. 일전에 강기정 광주시장은 국가AI컴퓨팅센터 후보지 발표 후 긴급 기자 브리핑을 열어 광주에 반드시 설립이 필요하다고 눈물로 호소한 바 있는데요. 공약대로 이행하자는 정치적 주장이나 눈물 호소가 아니라, 광주가 도시지만 전력과 용수 등 안정적인 수급 환경을 만들 수 있다는 계획을 제시했다면 어땠을까하는 아쉬움이 남습니다.

B. 2025 국정감사가 던진 두 번째 질문: ‘한국판 빅브라더’를 만들고 있었다고?

AI와 에너지에 대한 문제도 중요했지만, 이번 국감 전체를 보았을 때 제가 가장 놀라웠던 장면은 군중 감시 AI의 개발과 관련한 쟁점이었습니다. 지난 24일 과학기술정보방송통신위원회 국정감사에서 나온 쟁점인데요. 윤석열 정부 때 총 240억원을 투입해 추진 중인 ‘AI 기반 전영역 경비안전 기술개발’ 사업이 문제였습니다. 한국연구재단이 시행하는 이 사업은, 원거리 영상으로 시민의 얼굴색, 표정, 행동을 분석해 긴장도를 추정하여 ‘위험인물’을 판별하는 기술을 개발하는 사업입니다. SF영화에서나 볼 수 있을 것 같았던 기능이 시민들이 개발 정보를 쉽게 알 수 없었던 사이에 개발되고 있었던 것이죠.

시민의 생체정보와 정서 데이터를 국가가 감시·관리 목적으로 활용할 가능성이 있기 때문에 당연하게도 이에 대한 우려가 제기됐는데요. 이훈기 민주당 의원은 이 사업이 “기관생명윤리위원회(IRB) 심의도 없었고, 한국연구재단 연구윤리 사전검토도 없었다”는 점을 지적했습니다. 더 나아가 “연구개발 이력이 전혀 없는, 경호처 출신이 대표인 경비보안업체가 240억원짜리 사업을 수주했다”며, 특혜 계약 논란도 강조했는데요. 이해민 조국혁신당 의원은 이 사업이 “지난해 4월 총선이 치러진 지 불과 3주 뒤에 추진됐다”며, “혹시 계엄까지 연결되는 것이 아닌지 수사가 필요하고, 해당 연구는 중단돼야 한다”고 밝히기도 했습니다.

결국 해당 연구비 지급은 일단 중단 결정이 내려졌습니다. 그런데 이 기술을 개발중인 과학기술정보통신부 산하 기관은 이에 반발하고 있어 충격입니다. 이훈기 더불어민주당 의원이 공개한 자료에 따르면, 한국전자통신연구원(ETRI)은 연구비 중단 조치를 받아들이지 않겠다는 입장을 밝혔는데요. 이 기술이 지금처럼 깜깜이 개발이 되지 않도록 지속적인 관심이 필요해 보입니다. 특히, 반발과 별개로 해당 연구는 올해 국회에서 통과되어 내년 1월부터 시행될 ‘AI 기본법’(‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’)에 따라 규제 대상이 될 수도 있는 상황인데요. AI와 관련한 개인과 기업의 윤리적 책임 의식도 중요하지만 우리 사회에 분명한 법적 가이드라인이 필요한 이유가 바로 여기에 있다고 볼 수 있습니다. 앞으로 AI 기본법의 후속 입법이나 군중AI 연구가 추가로 진행되는 것은 없는지 계속 지켜봐야할 것입니다.

C. 2025 국정감사가 던진 세 번째 질문: 가짜와의 전쟁은 어떻게?

AI기본법의 후속 입법도 중요하지만, 그와 함께 현재 규제 사각지대에 있는 AI 기반 산업들을 점검하는 것도 중요한데요. 이번 국정감사에서는 딥페이크, AI 생성물 등에 대한 질의가 돋보였습니다. 이른바 ‘가짜와의 전쟁’ 질의입니다.

AI기본법의 핵심 중 하나는 ‘AI 결과물 표시 의무제’입니다. AI가 만든 모든 콘텐츠에는 ‘AI가 만들었다’는 워터마크를 남겨야 한다는 것인데요. 다만 사람들이 바로 확인할 수 없게 콘텐츠 파일 내부에 표식을 남기는 비가시적 워터마크도 허용되는데, 이 부분에 문제가 있다는 지적이 있어왔습니다. 그런데 이번 국감이 남긴 이슈 장면 중 정확하게 이 부분을 보여주는 장면이 있었죠. 국회 과학기술정보방송통신위원회 국정감사 첫날인 13일, 국민의힘 김장겸 의원이 AI로 제작한 딥페이크 영상을 재생했다가 여당 의원들의 거센 항의에 회의가 파행을 빚은 장면입니다. 해당 영상에는 배경훈 부총리와 이춘석 전 국회 법제사법위원장이 비밀 회동을 했다는 점을 암시하는 대화가 담겼는데요. 분명 김장겸 의원이 "AI 악용과 부작용 사례는 차고 넘친다. 경각심을 일으키는 차원에서 딥페이크 영상을 준비했다"며 영상 공개 전 AI 영상임을 언급했음에도, 순식간에 의원들이 느끼기에도 딥페이크 영상이 위협으로 느껴졌음을 보여주는 장면이었습니다.

그래서일까요? 과학기술정보통신부가 이번 국감에서 인공지능(AI) 생성물에 적용하기로 했던 ‘비가시적 워터마크’ 허용 방침을 재검토하겠다고 밝혔습니다. 하지만 저는 AI 결과물 표시 의무제로 AI 생성물, 딥페이크에 대한 위험이 충분히 안내되는 것인가 의문이 남습니다. 이미 국회 과방위 파행 장면을 보더라도, AI가 제작했다는 사실을 표시하는 것만으로 규제가 충분하지 않다는 것을 보여줬기 때문이지요. AI 제작 콘텐츠에 명확한 워터마크가 붙어야 하는 것은 분명합니다. 그러나 그것이 끝이 아니라 후속 입법을 통해 다양한 편법으로 만들어지고 있는 AI 제작 콘텐츠를 어떻게 규제해야할 지 지속적인 관심과 제도 개선이 필요합니다.

글을 쓰다보니 여당 의원들의 이름이 많이 거론되었지만, ‘가짜와의 전쟁’과 관련해서 돋보인 야당 의원도 있었습니다. 한지아 국민의힘 의원은 국회 보건복지위원회 국정감사에서 AI로 만든 가짜 의료 전문가가 등장하는 허위 광고 문제를 집중 질의했는데요. AI가 생성한 의사나 약사 등 전문가는 현행 규제 대상에 포함되지 않는다는 제도적 공백을 날카롭게 지적했다는 평가가 나왔습니다. 의사 출신인 한지아 의원은 "AI 생성 광고를 허위·과대 광고로만 분류해 기존 방식으로 대응하는 것은 안일한 태도"라며, "식품의약품안전처는 이를 따로 분류해 집계하고 확산 속도나 구매 사실 등을 확인해야 한다"고 강조해 정부의 제도 보완 답변을 받아냈습니다.

D. 국정감사에 가려진 소식 : ‘허위정보’를 규제한다? ‘허위정보’가 어디까지죠?

10월은 모든 정치 뉴스가 국정감사로 채워지는 시기라 자칫 놓칠 수 있는 정보들이 있는 시기이기도 한데요. 이번에 놓칠 뻔한 소식 하나를 구독자 여러분께 전달드리고자 합니다.

10월 23일. 최민희 더불어민주당 의원의 대표 발의로 “정보통신망 이용척진 및 정보보호 등에 관한 법률 일부개정법률안”이 발의되었습니다. 이 개정안의 목적은 확산되는 불법정보와 허위정보의 폐해로 피해자가 늘어나고 민주주의를 위협받고 있으니, 이러한 불법정보와 허위정보를 유통하는 대상에게 높은 배상 책임을 지우겠다는 것입니다. 그런데 이 개정법률안에서 ‘허위정보’가 무엇인지에 대한 규정이 참 모호합니다. 허위정보를 규제하겠다는 목적은 동의합니다. 또한 이 개정안에 혐오차별과 증오폭력을 선동하는 정보를 불법정보로 규정한 것은 긍정적으로 보입니다. 그런데 규제할 대상인 ‘허위정보’를 제대로 규정하지 못하면, 모든 AI 제작 콘텐츠는 실제 존재하지 않는 것을 가상으로 만든 콘텐츠이니 ‘허위정보’의 범주에 포함될 수 있습니다. 그렇게 되면 AI 기술이 원천적으로 미디어와 언론계에서 사용되기 어려워질 가능성이 높아지지 않을까요?

사실 이 법안에 대한 논의는 참 길었던 것으로 알고 있는데, 정작 법안 발의는 졸속으로 진행된 것이 아닌지 의심되고 있습니다. 이 개정법은 현재 언론계에서 법의 처리를 지켜보고 있는 사안입니다. 그러나 미디어와 언론이 앞으로 AI와 함께 작업하는 경험이 늘어날 것이기에, AI에 관심이 있는 누구라도 지켜봐야할 법안이 아닐까 합니다. 정보통신망법 개정안이 너무 성급하게 통과되지 않도록 지켜보겠습니다.

🎯 AI 개발을 위한 데이터 공개가 확장될수록 저작권과 개인 정보에 대한 우려도 높아질 수 밖에 없습니다.
AI를 선도하는 환경을 만들면서도, 개인 정보를 안전하게 보호할 수 있는 절충 방안은 무엇일까요?

🎯 AI 제작 콘텐츠에 워터마크를 강제하더라도, 제작자들은 워터마크를 아주 작게 표시하는 등 규제를 피하기 위해 노력할 것으로 예상됩니다.
딥페이크, AI제작 콘텐츠가 가진 위험성을 경고하기 위한 다른 조치는 무엇이 있을까요?