AI가 딥페이크 먼저 찾아낸다…정부, 성범죄 영상물 공동 대응

드디어 안심! 딥페이크 성범죄, AI가 먼저 찾아내고 지워준대요!

혹시라도 딥페이크 성범죄 영상물 때문에 걱정하셨던 분들 계실까요? 혹은 주변에 그런 힘든 일을 겪는 분들이 있으실까 봐 마음 졸이셨나요? 이제는 정부가 인공지능(AI)을 활용해서 이런 영상물을 빠르게 찾아내고 지워주는 것은 물론, 피해자 보호까지 한 번에 도와주는 새로운 시스템을 가동한다고 해요!

누가, 어떤 도움을 받을 수 있을까요?

이 시스템은 딥페이크 성범죄 영상물로 피해를 입었거나 피해가 우려되는 모든 분들을 위한 것이랍니다. 특히 피해 영상물이 온라인에 빠르게 퍼지거나 변형되어 재유포될까 봐 불안해하시는 분들에게 실질적인 도움이 될 거예요.

• AI가 똑똑하게 찾아줘요: 행정안전부와 국립과학수사연구원이 개발한 AI 딥페이크 탐지·분석 모델이 영상을 먼저 판별해낸대요.
• 신속하게 삭제하고 차단해줘요: 성평등가족부에서는 이 AI 모델과 기존 민간 모델을 함께 사용해서 의심 콘텐츠를 정밀하게 분석하고 삭제를 지원합니다. 방송미디어통신위원회는 플랫폼 사업자와 협력해서 온라인 유통을 막고, 재유포나 변형된 영상까지 신속하게 대응할 예정이라고 해요.
• 2차 피해 걱정 줄여줘요: 피해자의 개인정보와 인권을 최우선으로 보호하고, 불필요한 영상 복제나 보관을 제한하는 등 보안 관리 기준을 강화해서 2차 피해를 꼼꼼하게 막아줄 계획이랍니다.

이 모든 과정은 AI 탐지부터 삭제, 그리고 가장 중요한 피해자 지원까지 이어지는 통합적인 대응 체계로 운영될 거예요.

한눈에 보는 딥페이크 성범죄 대응 시스템

꿀팁: 혹시 모를 상황에 대비해서 성평등가족부 디지털성범죄방지과 연락처는 꼭 저장해 두시는 게 좋겠어요. 가족이나 친구가 힘들어할 때 큰 도움이 될 수 있답니다!

정부의 새로운 AI 기반 대응 체계로 우리 모두 더욱 안심하고 생활할 수 있기를 바라요.

출처: 대한민국 정책브리핑