AI 악용한 아동 성 착취물: 현실과 법적 대응

인공지능(AI) 기술의 발전은 우리 사회에 혁신적인 변화를 가져다주었지만, 동시에 심각한 윤리적 문제와 범죄 악용 가능성을 높이고 있습니다. 특히 AI를 이용한 아동 성 착취물 제작 및 유포는 사회적으로 용납할 수 없는 심각한 범죄 행위입니다. 본 글에서는 AI 기술이 어떻게 아동 성 착취에 악용되고 있는지, 이러한 문제에 대한 법적 대응은 어떻게 이루어지고 있는지, 그리고 우리 사회가 함께 해결해야 할 과제는 무엇인지 심층적으로 분석하고자 합니다.

AI, 딥페이크 기술을 이용한 아동 성 착취물 제작

최근 인공지능(AI) 기술, 특히 딥페이크 기술을 악용한 아동 성 착취물 제작 및 유포가 심각한 사회 문제로 떠오르고 있습니다. 딥페이크 기술은 특정 인물의 얼굴이나 신체를 다른 영상에 합성하는 기술로, 이를 악용하여 아동·청소년이 등장하는 가짜 음란물을 제작하는 사례가 늘고 있습니다.

유명 여성 연예인이나 아역 배우의 얼굴을 아동 성 착취물에 합성하여 유포하는 것은 물론, 일반인의 사진을 무단으로 도용하여 딥페이크 음란물을 제작하는 경우도 발생하고 있어 심각성을 더하고 있습니다.

이러한 AI 악용 아동 성 착취물은 단순히 음란물 시청 욕구를 충족시키는 것을 넘어, 피해 아동·청소년에게 씻을 수 없는 상처를 남기고, 디지털 성범죄의 심각성을 더욱 부각시킨다는 점에서 사회적 경각심을 높여야 합니다. 특히, 딥페이크 기술은 누구나 쉽게 접근할 수 있으며, 짧은 시간 안에 고품질의 가짜 영상을 제작할 수 있다는 점에서 문제의 심각성을 더합니다. 또한, AI 기술을 이용한 음란물 제작은 기존의 아동·청소년 성 착취물과는 달리, 피해자의 실제 촬영 없이도 가상의 이미지를 만들어낼 수 있다는 점에서 법적 제재의 사각지대를 발생시킬 우려가 있습니다.

AI 악용 아동 성 착취물은 온라인 플랫폼을 통해 빠르게 확산되고, 익명성을 보장하는 텔레그램, 다크웹 등에서 은밀하게 거래되기도 합니다. 이러한 유통 경로는 추적이 어렵고, 삭제가 쉽지 않아 피해 확산을 막는 데 어려움을 겪고 있습니다. 또한, AI 기술은 아동·청소년의 얼굴을 식별하고, 개인 정보를 수집하여 맞춤형 음란물을 제작하는 데에도 악용될 수 있어 더욱 심각한 문제를 야기합니다.

인터넷 감시 재단(IWF)의 AI 악용 아동 성 착취물 감시 활동

인터넷 감시 재단(IWF)은 아동 성 학대 이미지, 아동 성 착취물(CSEA), 그리고 딥페이크를 포함한 불법 콘텐츠를 온라인에서 제거하기 위해 노력하는 단체입니다. IWF는 AI 기술을 악용한 아동 성 착취물 제작 및 유포 행위를 근절하기 위해 다양한 활동을 펼치고 있습니다.

• AI 기반 이미지 분석 기술 개발: IWF는 AI 기술을 활용하여 아동 성 학대 이미지를 자동으로 식별하고, 유포 경로를 추적하는 시스템을 개발하고 있습니다. 이러한 시스템은 기존의 수동 감시 방식으로는 탐지하기 어려웠던 새로운 유형의 아동 성 착취물을 신속하게 찾아내고, 삭제하는 데 기여하고 있습니다.
• 온라인 플랫폼과의 협력 강화: IWF는 주요 온라인 플랫폼 사업자들과 협력하여 아동 성 착취물 유포 방지를 위한 기술적, 정책적 노력을 강화하고 있습니다. IWF는 플랫폼 사업자들에게 아동 성 착취물 신고 채널을 마련하고, AI 기반 감시 시스템을 도입하도록 권고하고 있습니다.
• 아동 성 착취물 데이터베이스 구축: IWF는 아동 성 착취물 데이터베이스를 구축하여 수사 기관과 공유하고 있습니다. 이 데이터베이스는 아동 성 착취물 제작 및 유포 사범을 검거하고, 피해 아동을 보호하는 데 중요한 역할을 합니다.
• 국제 공조 강화: IWF는 국제적인 협력을 통해 아동 성 착취물 근절을 위한 노력을 강화하고 있습니다. IWF는 각국 정부, 수사 기관, 시민 단체 등과 협력하여 아동 성 착취물 제작 및 유포 정보를 공유하고, 합동 수사를 진행하고 있습니다.

하지만, IWF의 노력에도 불구하고, AI 기술의 빠른 발전 속도를 따라잡기에는 역부족이라는 지적도 있습니다. 특히, 딥페이크 기술은 IWF의 감시망을 피하기 위해 더욱 교묘하게 진화하고 있으며, 새로운 온라인 플랫폼을 통해 빠르게 확산되고 있어 더욱 심각한 문제를 야기합니다.

홈 오피스 장관, AI 악용 아동 성 착취물 증가에 대한 우려 표명

스웰라 브레이버먼 영국 내무부 장관은 AI 기술을 이용한 아동 성 착취물 제작 및 유포가 급증하는 것에 대해 심각한 우려를 표명하며, 정부 차원의 강력한 대응을 약속했습니다. 브레이버먼 장관은 AI 기술이 아동 성 착취 범죄에 악용되는 것을 막기 위해 관련 법규를 강화하고, 기술 개발 및 국제 공조를 확대할 계획이라고 밝혔습니다.

브레이버먼 장관은 또한, 온라인 플랫폼 사업자들에게 아동 성 착취물 유포 방지를 위한 책임을 강조하며, 플랫폼 내 감시 시스템을 강화하고, 신속한 삭제 조치를 취할 것을 촉구했습니다. 브레이버먼 장관의 이러한 발언은 AI 악용 아동 성 착취물 문제가 더 이상 간과할 수 없는 심각한 수준에 이르렀음을 보여주는 것으로, 정부, 기업, 시민 사회가 함께 협력하여 해결해야 할 시급한 과제임을 강조합니다.

법적 대응 강화: AI 악용한 범죄 엄중 처벌

AI 기술을 이용한 아동 성 착취물 제작 및 유포는 기존의 아동·청소년 성 보호에 관한 법률에 따라 처벌할 수 있습니다. 하지만, AI 기술의 특성을 고려하여 법적 처벌을 강화하고, 새로운 유형의 범죄에 대한 처벌 근거를 마련해야 한다는 주장이 제기되고 있습니다.

• 처벌 수위 강화: AI 기술을 이용한 아동 성 착취물 제작 및 유포에 대한 처벌 수위를 높여 범죄 예방 효과를 높여야 합니다. 특히, 영리 목적으로 아동 성 착취물을 제작하거나, 유포하는 경우에는 더욱 엄중한 처벌을 내려야 합니다.
• 불법 수익 환수: 아동 성 착취물 제작 및 유포를 통해 얻은 불법 수익을 철저히 환수하여 범죄의 유인을 차단해야 합니다. 또한, 불법 수익을 은닉하거나, 세탁하는 행위에 대한 처벌도 강화해야 합니다.
• 해외 도피 방지: 아동 성 착취물 제작 및 유포 사범의 해외 도피를 방지하기 위해 국제 공조를 강화하고, 범죄인 인도 조약을 적극 활용해야 합니다.
• 디지털 증거 확보: AI 기술을 이용한 범죄는 디지털 증거 확보가 매우 중요합니다. 수사 기관은 디지털 포렌식 기술을 강화하고, AI 기반 증거 분석 시스템을 도입하여 신속하고 정확한 수사를 진행해야 합니다.

기술적 대응 강화: AI 악용 방지 기술 개발

AI 기술을 이용한 아동 성 착취물 제작 및 유포를 근본적으로 막기 위해서는 AI 악용 방지 기술 개발에 적극 투자해야 합니다.

• AI 기반 필터링 기술 개발: AI 기술을 이용하여 아동 성 학대 이미지, 딥페이크 음란물 등을 자동으로 필터링하는 기술을 개발해야 합니다. 이러한 기술은 온라인 플랫폼, 검색 엔진 등에 적용하여 아동 성 착취물 유포를 차단하는 데 기여할 수 있습니다.
• 딥페이크 탐지 기술 개발: 딥페이크 기술의 악용을 막기 위해 딥페이크 영상 및 이미지를 자동으로 탐지하는 기술을 개발해야 합니다. 이러한 기술은 가짜 정보 확산 방지에도 활용될 수 있습니다.
• AI 기반 추적 기술 개발: 아동 성 착취물 제작 및 유포 사범을 추적하는 AI 기반 시스템을 개발해야 합니다. 이러한 시스템은 온라인 활동 패턴, IP 주소 등을 분석하여 범죄자의 신원을 파악하는 데 도움을 줄 수 있습니다.
• 블록체인 기술 활용: 아동 성 착취물 유포 경로를 추적하고, 삭제하는 데 블록체인 기술을 활용할 수 있습니다. 블록체인 기술은 데이터의 무결성을 보장하고, 추적 가능성을 높여 범죄 예방에 기여할 수 있습니다.

사회적 인식 개선: 아동 성 착취 근절 캠페인

아동 성 착취 문제에 대한 사회적 인식을 개선하고, 예방 교육을 강화하는 것이 중요합니다.

• 아동·청소년 대상 성폭력 예방 교육 강화: 아동·청소년에게 성폭력 피해 상황에 대처하는 방법, 신고 요령 등을 교육하여 스스로를 보호할 수 있도록 해야 합니다.
• 온라인 플랫폼 사업자 대상 교육 강화: 온라인 플랫폼 사업자에게 아동 성 착취물 유포 방지 책임에 대한 교육을 강화하고, 관련 법규 및 정책을 준수하도록 해야 합니다.
• 시민 사회 캠페인 전개: 아동 성 착취 문제의 심각성을 알리고, 사회적 공감대를 형성하기 위한 시민 사회 캠페인을 전개해야 합니다. 이러한 캠페인은 아동 성 착취물 근절을 위한 사회적 분위기를 조성하고, 신고 활성화를 유도하는 데 기여할 수 있습니다.
• 미디어의 책임 강화: 미디어는 아동 성 착취 문제를 선정적으로 보도하는 것을 지양하고, 피해 아동의 인권을 보호하는 데 힘써야 합니다. 또한, 아동 성 착취 근절을 위한 사회적 분위기를 조성하는 데 적극적으로 참여해야 합니다.

아동 성 착취물 발견 시 신고 절차

온라인에서 아동 성 착취물을 발견했을 경우, 즉시 다음 기관에 신고해야 합니다.

1. 경찰청 사이버수사국: 경찰청 사이버수사국은 온라인 상의 불법 콘텐츠 유통 및 사이버 범죄에 대한 수사를 담당합니다. 아동 성 착취물 발견 시, 경찰청 사이버수사국에 신고하여 수사를 의뢰할 수 있습니다.
2. 방송통신심의위원회: 방송통신심의위원회는 정보통신망을 통해 유통되는 불법 정보를 심의하고, 삭제 또는 접속 차단 등의 조치를 취합니다. 아동 성 착취물 발견 시, 방송통신심의위원회에 신고하여 해당 콘텐츠의 삭제 및 접속 차단을 요청할 수 있습니다.
3. 인터넷 감시 재단(IWF): 인터넷 감시 재단(IWF)은 아동 성 학대 이미지, 아동 성 착취물(CSEA), 그리고 딥페이크를 포함한 불법 콘텐츠를 온라인에서 제거하기 위해 노력하는 단체입니다. IWF에 신고하면 해당 콘텐츠의 유포 경로를 추적하고, 온라인 플랫폼에 삭제를 요청하는 등의 조치를 취합니다.

신고 시에는 다음과 같은 정보를 제공해야 합니다.

• 신고자의 인적 사항: 신고자의 이름, 연락처, 이메일 주소 등
• 신고 대상 콘텐츠의 정보: 해당 콘텐츠의 URL, 파일명, 게시일시 등
• 신고 사유: 아동 성 착취물에 해당한다는 구체적인 이유

신고 시에는 해당 콘텐츠를 캡처하거나, 다운로드하여 증거 자료로 제출하는 것이 좋습니다.

아동 성 착취물 신고 시 유의 사항

아동 성 착취물을 신고할 때는 다음과 같은 사항에 유의해야 합니다.

• 신고자의 익명성 보장: 신고자의 개인 정보는 철저히 보호되어야 하며, 신고로 인해 불이익을 받지 않도록 해야 합니다.
• 허위 신고 방지: 허위 사실을 신고하거나, 악의적인 목적으로 타인을 신고하는 행위는 법적으로 처벌받을 수 있습니다.
• 신고 후 진행 상황 확인: 신고 후에는 수사 기관 또는 관련 기관에 연락하여 진행 상황을 확인하고, 필요한 정보를 제공해야 합니다.
• 피해 아동 보호: 아동 성 착취물 피해 아동을 발견했을 경우, 즉시 아동보호전문기관에 연락하여 보호 조치를 받아야 합니다.

정부 지원 및 민간 투자 확대

AI 악용 방지 기술 개발에는 막대한 자금이 소요됩니다. 정부는 AI 악용 방지 기술 개발을 위한 연구 개발(R&D) 예산을 확대하고, 민간 기업의 투자 유치를 위한 세제 혜택 등을 제공해야 합니다. 또한, AI 기술 개발자와 윤리학자, 법률 전문가 등이 참여하는 협의체를 구성하여 기술 개발 방향을 설정하고, 윤리적 가이드라인을 마련해야 합니다.

이미지 분석 및 딥페이크 탐지 기술

AI 기반 이미지 분석 기술은 아동 성 학대 이미지를 자동으로 식별하고, 딥페이크 탐지 기술은 가짜 영상 및 이미지를 자동으로 탐지합니다. 이러한 기술은 아동 성 착취물 유포를 차단하고, 가짜 정보 확산을 방지하는 데 중요한 역할을 합니다.

온라인 활동 패턴 분석 및 추적 기술

AI 기반 추적 기술은 아동 성 착취물 제작 및 유포 사범의 온라인 활동 패턴, IP 주소 등을 분석하여 범죄자의 신원을 파악하는 데 도움을 줍니다. 이러한 기술은 수사 기관의 수사 효율성을 높이고, 범죄 예방에 기여할 수 있습니다.

온라인 플랫폼의 아동 성 착취물 필터링 시스템

주요 온라인 플랫폼 사업자들은 AI 기반 필터링 시스템을 도입하여 아동 성 착취물 유포를 차단하고 있습니다. 이러한 시스템은 사용자가 업로드하는 이미지 및 영상을 분석하여 아동 성 학대 이미지, 딥페이크 음란물 등을 자동으로 탐지하고, 삭제합니다.

수사 기관의 디지털 포렌식 수사 지원

수사 기관은 AI 기반 디지털 포렌식 기술을 활용하여 아동 성 착취물 제작 및 유포 사범의 범죄 행위를 입증하는 데 필요한 증거를 확보하고 있습니다. 이러한 기술은 삭제된 파일 복구, 암호 해독, 사용자 활동 분석 등 다양한 기능을 제공합니다.