'AI 기술의 남용을 정리하고 바로잡는 특별 조치'는 중앙인터넷정보판공실(CNIO)이 전국적으로 전개하는 특별 조치입니다.
2025년 4월, 중앙인터넷정보판공실은 3개월간 전국적으로 특별 작전인 'AI 기술 남용 근절'을 실시한다는 통지를 발표했습니다.
특별 작전은 AI 기술 거버넌스와 불법 콘텐츠 수정을 중심으로 두 단계로 나뉘어 진행됩니다:
1단계: AI 기술 소스 거버넌스 강화
다음 6가지 카테고리에 중점을 두고 있습니다:
불법 AI 제품: 미신고, 불법 기능 제공(예: '원클릭 옷 벗기'), 타인의 프라이버시 침해(예: 음성 및 얼굴 복제).
위반되는 튜토리얼 및 도구 판매: 얼굴 및 음성 변경을 위한 튜토리얼 유포, 음성 합성기, 얼굴 변경 도구 판매 등.
훈련 말뭉치의 불규칙성: 저작권을 침해하거나 불법적인 출처의 데이터 사용, 관리 메커니즘을 구축하지 않은 경우.
취약한 보안 조치: 규정을 준수하지 않는 계정에 대한 감사 메커니즘 및 관리가 부족하고 플랫폼의 API 액세스 서비스에 대한 감독이 효과적이지 않습니다.
합성 콘텐츠 식별 실패: 심층적인 합성 콘텐츠에 라벨을 표시하지 않아 대중이 정보의 진위를 잘못 판단하도록 유도하는 경우.
주요 영역의 위험: 의료 및 금융과 같은 민감한 영역의 AI는 전문적인 보안 감사가 이루어지지 않아 서비스를 오도할 수 있습니다.
2단계: 불법적이고 바람직하지 않은 정보의 AI 생산 및 유포 문제 해결
다음 7가지 카테고리에 중점을 두고 있습니다:
AI 루머 조작: 시사 문제, 사회적 이슈, 재난 사건 등에 대한 루머를 조작하여 공식 발표를 가장하여 유포하는 행위입니다.
부정확한 정보 게시: 허위 콘텐츠 편집 및 짜깁기, 오래된 뉴스 재인용, 사이비 과학 유포.
음란물 및 저속한 콘텐츠 생성: AI 스트리핑, 부드러운 포르노 이미지, 공포 이미지, 작은 노란색 텍스트 등을 생성합니다.
타인 사칭: 사기를 목적으로 공인을 사칭하는 AI 얼굴 바꾸기, 음성 복제, 고인을 사칭하는 행위.
네트워크 물 무장 활동 참여: AI 일괄 계정 운영, 교통 통제 댓글 작성, 허위 열기 생성.
규정을 준수하지 않는 AI 앱 및 서비스: 가짜 웹사이트, 저속한 채팅, 규정을 준수하지 않는 증폭 도구 등.
미성년자의 권익 침해: 방종 유도, 미성년자 모드의 바람직하지 않은 콘텐츠 유포.
목표: 이번 특별 조치를 통해 AI 기술 및 콘텐츠의 거버넌스를 종합적으로 개선하고 불법 사용을 단속하며 국민의 정당한 권익을 보호할 것입니다.
