정부가 지운 문장, 

시민사회가 다시 채워 넣다

과학기술정보통신부와 정보통신정책연구원은 지난해 말부터 준비한 AI 윤리 원칙 1차 초안을 5월 29일 공개했습니다. 성별과 연령, 장애 등을 이유로 한 차별과 배제 금지라는 구체적 조항이 있었는데, 8월 2차 안에서는 '개인이나 집단에 대한 차별'이라는 포괄적 표현으로 축소되고 개발자 책임 규정도 약해졌습니다.

이 문장은 어쩌다 이렇게 흐려졌을까요. 그 빈자리는 누가, 어떻게 채워 왔을까요. 그리고 정부가 말하는 'AI 시대의 미래' 안에는 정작 누가 서 있을까요. 이번 주 언박싱AI 'AI라운지'에서 한국여성민우회 성평등미디어반차별팀 온다 활동가와 함께 이 질문들을 짚어봤습니다.

I. 후퇴한 정부안, 그 자리를 채운 시민사회

한국여성단체연합은 8월 14일 성명으로 ‘정부의 AI 윤리 원칙에서의 차별 정의 축소’를 명백한 후퇴로 규정하며 차별 금지 항목의 복원과 책임 주체의 명확화를 요구했습니다. 하지만 정부는 8월 21일 심의 의결로 '대한민국 인공지능 윤리원칙'을 확정하고 24일 공표하며 이 논쟁을 매듭지었습니다.

정부 안에서 구체성을 잃은 그 차별 금지 조항의 빈자리를, 한국여성민우회는 정반대 방향으로 채워 넣었습니다. 한국여성민우회는 이번 개정판에서 다양성을 성별과 성별 정체성, 성적 지향, 나이, 계급, 장애 여부, 국적, 인종 등 구체적 특성으로 촘촘히 나열했고, 이 특성들이 배제되거나 과소 재현되지 않아야 한다고 못박았습니다. 정부가 '개인이나 집단에 대한 차별'이라는 말로 뭉뚱그린 바로 그 빈자리를, 시민사회가 만든 가이드라인이 구체적인 언어로 되짚어 채운 셈입니다.

II. 개정판, 무엇을 담았나

'페미니스트가 함께 만든 AI 가이드라인'은 한국여성민우회가 2021년 처음 펴낸 자료입니다. AI 스피커의 성차별 사례와 챗봇 이루다 사태를 계기로 시민들과 함께 문안을 만들었고, 이번에는 생성형 AI 상용화와 AI 채용 등 달라진 노동 현장을 반영해 9개 키워드 45개 항목으로 다시 정리했습니다. '성평등' 키워드를 새로 만들어 배치한 것도 이번 개정의 특징입니다.

온다 활동가는 이번 개정에 AI를 쓰지 않았다고 밝혔습니다. 없는 내용을 지어내고, 성평등 관점에서 무엇이 중요한지 판단하는 일은 아직 AI가 하기 어려운 작업이라는 이유였습니다. 대신 교육과 노동, 돌봄과 창작 현장의 이용자부터 페미니스트 연구자, 민우회 내 활동가까지 다양한 사람이 참여해 손으로 직접 의견을 모으고 편집했습니다.

III. 가려진 가치, 지워지지 않는 편향

다양한 시민들에 의해 만들어졌기 때문일까요? 여러 지점에서 눈길을 끄는 대목이 있었습니다. 개정판 기본 원칙 5번은 'AI를 통해 얻은 이익은 사회에 환원되어야 한다'고 적었습니다. 온다 활동가는 이 원칙이 데이터와 전기, 용수 등 AI에 들어가는 자원이 공공의 것이므로 이익도 공공의 몫이라는 논리라고 설명했습니다. 최근 반도체 호황에 따른 초과 세수를 '미래 대응 기금'으로 인재 양성과 AI 개발에 재투자하겠다는 정책에 대해서는, 그것이 정말 미래 대응인지 되물으며 AI로 타격을 받는 노동자와 지역민에게 재원이 쓰여야 한다고 지적하고 디지털세와 환경세, 로봇세 같은 논의를 함께 시작해야 한다고 제안했습니다.

성평등 키워드 7번은 AI 개발 운영 주체와 의사결정 기구의 여성 대표성을 높이는 장치를 요구합니다. 남성 중심적인 업계 구조에서 채용과 승진 차별, 고용 단절이 이어지는 데다, 그렇게 편향된 환경에서 만들어진 AI가 다시 편향을 재생산하기 때문입니다. 여자냐 남자냐는 질문에 여자라서 자동차를 잘 모른다고 답한 AI 스피커 사례, 육아 상담에서 여성에게는 육아 전념을 남성에게는 경력 유지를 권한 생성형 AI의 답변 차이가 그 근거로 제시됐습니다.

온다 활동가는 이런 문제에 대응하려면 먼저 AI 기술에 대한 '젠더 관점의 영향평가'가 이뤄져야 한다고 말했습니다. 딥페이크 성범죄나 이른바 'AI 안경'처럼 악용 위험이 큰 기술은 고위험 AI로 규정해 통제하는 방안도 검토했지만, 무엇을 규제 대상으로 볼 것인지와 '동의' 개념을 어떻게 볼 것인지는 사회적 논의가 먼저 필요하다고 짚었습니다. 정부 정책 자료집의 삽화에서 '모든 국민이 행복한'이라는 문구 아래 작업복 입은 남성, 치마 교복을 입은 여성, 아이를 안고 있는 여성 등 인물들이 전형적인 모습으로만 채워져 있었다는 사례를 들며, 다양성을 고려한다는 것이 무엇인지부터 우리 사회는 되물어야 한다고 강조했습니다.

AI 시대, 시민의 자리는 어디? 

온다 활동가는 방송 말미에서 "AI의 영향이 편향과 불평등을 강화할 수 있다는 것을 생각하며 문제를 확장해서 바라볼 수 있었으면 좋겠다"고 말했습니다. 정부가 뭉뚱그린 차별 금지 조항의 빈자리를 결국 시민사회가 구체적인 언어로 다시 채워 넣은 이번 사례는, 왜 AI 정책에 시민 참여가 필요한지를 그대로 보여줍니다. 정부는 이미 8월 21일 '대한민국 인공지능 윤리원칙'을 확정하고 24일 공표했고, 가까운 시일 내에 새로운 안이 다시 나올 가능성은 크지 않습니다. 그렇다면 남은 과제는 정작 확정된 그 원칙 안에 시민의 목소리가 들어갈 자리를 앞으로 어떻게 넓혀 갈 것인가 입니다. 페미니스트가 함께 만든 AI 가이드라인이 시민의 손으로 다시 쓰였듯, 정부의 원칙에도 시민이 상시적으로 참여할 수 있는 통로가 필요하지 않을까요?

※ 자료 출처: H:AI x TBS 언박싱AI 'AI라운지' 2026.09.11 방영분 녹취록.