AI 감지 시스템의 오작동으로 AI를 사용하지 않고 과제를 한 학생들마저 부정행위 의심을 받는 사례가 늘고 있습니다. 휴스턴-다운타운 대학교의 한 학생은 과제를 직접 작성했음에도 AI 사용으로 간주돼 0점을 받았고, 본인의 결백을 증명하기 위해 편집 기록과 화면 녹화 영상을 제출해야 했습니다. 메릴랜드대 연구에 따르면 AI 감지기의 평균 오류율은 6.8%에 달하며 영어를 모국어로 쓰지 않는 학생일수록 오류 가능성이 더 높습니다. OpenAI가 개발한 AI 감지 도구도 약 9%의 오류율을 보여 신뢰성 문제로 6개월 만에 중단되었습니다. 불안한 학생들은 자발적으로 작성 과정을 녹화하거나 문서 이력을 제출하고 있으며, 일부 대학은 AI 감지 시스템의 한계를 이유로 해당 기능의 사용을 중단했습니다. AI 부정행위 방지 기술이 오히려 정직한 학생을 위협하고 있다는 지적이 커지고 있습니다.

미 법무부의 반독점 소송 과정에서 공개된 내부 문서에 따르면 구글은 AI 검색 기능에 뉴스·웹사이트 콘텐츠를 활용하면서도 퍼블리셔에게 별도 동의나 선택권을 주지 않기로 방침을 정한 것으로 드러났습니다. 구글은 기술적 복잡성을 이유로 콘텐츠 제공자가 자신의 자료를 AI 학습에 사용하지 말라고 요청할 수 있는 이른바 ‘옵트아웃(opt-out)’ 기능조차 제공하지 않았고 별다른 공지 없이 AI 모델 훈련에 해당 데이터를 사용해 왔습니다. 퍼블리셔는 검색 노출을 포기하지 않는 이상 콘텐츠 활용을 막을 방법이 없어 AI로 인해 유입과 수익이 줄어드는 피해를 감수하고 있다는 비판이 이어지고 있습니다. 전문가들은 이는 구글이 검색 시장에서의 지배력을 AI 시대에도 그대로 이어가며 콘텐츠에 대한 통제력을 더욱 강화하려는 전략이라고 분석합니다.

로이터 통신에 따르면 일론 머스크가 주도하는 DOGE 팀이 미국 연방정부 내 민감한 데이터 분석에 AI 챗봇 Grok을 활용하고 있으며 국토안보부 등 주요 부처에 사용을 권장한 사실이 드러났습니다. 이 과정에서 사전 승인 없이 기술을 도입하거나 특정 정치 성향을 감시하도록 AI를 훈련시키는 시도가 포함돼 정부 데이터의 민간 유출 및 이해충돌 의혹이 제기되고 있습니다. 전문가들은 이러한 시도를 통해 xAI에 연방 정부의 비공개 계약 정보에 대한 독점적 접근 권한을 부여하고 해당 정보가 Grok의 학습 데이터로 활용될 가능성까지 열어줄 수 있다고 경고했습니다.

국제노동기구(ILO)의 2025년 보고서에 따르면 전 세계 노동자의 25%가 생성형 AI에 일정 부분 노출된 직업군에 종사하고 있으며 이 가운데 여성(4.7%)은 남성(2.4%)보다 자동화 고위험 직군에 더 많이 분포해 더 큰 영향을 받을 것으로 예측하였습니다. 이러한 성별 격차는 직업별 성별 분포 차이에서 기인하며 특히 고소득국일수록 격차가 커져 여성의 9.6%, 남성의 3.5%가 최고 수준의 자동화 노출 등급에 속했습니다. 보고서는 이러한 구조적 불균형을 해소하기 위해 성별 특성을 반영한 재교육 프로그램과 직무 전환 정책의 필요성을 강조하고 있습니다.