샌프란시스코 시 법무부의 중단 서한과 핵심 요구
2026년 샌프란시스코 시 당국이 애플과 구글에 AI 기반 '누디파이(nudify)' 계열 앱 13개를 앱스토어에서 삭제할 것을 요구하는 중단 서한을 발송했다. 샌프란시스코 시티 변호사 데이비드 치우(David Chiu)는 해당 서한에서 이들 앱이 인공지능(AI)을 활용해 비동의 친밀 이미지(non-consensual intimate images)를 생성하며 주로 여성과 소녀를 표적으로 삼는다고 지적했다.
Wired 보도에 따르면 시 당국은 애플과 구글이 관련 앱의 유통과 결제를 통해 유해 기술을 '방조하고 조장'한다고 주장했다. 이 사건은 플랫폼 사업자와 AI 응용 서비스의 책임 범위를 다시 규정해야 한다는 실질적인 압력을 공공기관이 직접 행사한 첫 사례 중 하나로 기록됐다.
이번 사안의 핵심 논점은 세 가지다. 첫째, AI로 생성된 비동의 누드 이미지의 확산은 개인의 사생활과 안전을 직접적으로 위협한다. 둘째, 앱 유통을 허용하는 플랫폼의 정책과 집행력 부재는 피해를 확대한다.
셋째, 규제와 기술적 대응의 공백이 존재하는 상태에서 민간과 공공의 역할 분담이 불명확하다. 이 세 가지는 단일 사건에서 끝나는 문제가 아니며, 앱 시장과 결제 시스템, 그리고 디지털 성범죄 대응 체계 전반을 재검토하는 근거가 된다. 사건의 규모와 대상을 먼저 살펴볼 필요가 있다.
샌프란시스코 시가 특정해 제시한 앱 수는 13개로, Wired 보도는 이들 앱이 이미지 편집과 합성 기능을 통해 비동의 이미지를 양산할 수 있는 구조적 취약점을 갖고 있다고 전했다. 13개의 사례는 전체 생태계의 일부에 불과할 가능성이 높다. 유사한 기능을 가진 도구가 다수 존재하는 상황에서 피해의 누적은 빠르게 늘어난다.
플랫폼에서의 노출 빈도와 유통 경로가 피해 확산의 핵심 통로라는 점은 이번 서한에서도 명확히 지적됐다. 법적·사회적 규범 측면에서도 이 사안은 선명한 윤곽을 갖는다.
비동의 친밀 이미지의 생성과 유통은 미국과 한국을 포함한 여러 국가에서 이미 범죄 또는 불법 행위로 규정되어 있다. 데이비드 치우 시티 변호사의 서한은 해당 행위가 불법적이고 유해하다는 점을 근거로 애플과 구글에게 개발자와의 거래 중단과 앱 삭제를 요구했다.
광고
플랫폼의 결제·광고 기능이 범죄적 행위를 사실상 용이하게 하는 경우 그 제공자는 책임을 면하기 어렵다는 점이 법적 논리의 핵심이다. Wired 보도는 이러한 주장에 대해 플랫폼의 정책 집행 실태와 상충하는 사례가 존재한다고 지적했다.
앱 스토어 책임과 비동의 이미지의 사회적 비용
정치적·제도적 압력의 흐름도 주목할 만하다. Wired는 이 사안을 같은 해 1월에 있었던 연방 차원의 논의와 연결 지어 보도했다.
2026년 1월 민주당 상원의원들이 일론 머스크의 X(구 트위터)와 Grok에 대해 AI 생성 성적 콘텐츠 규제를 요구했던 사례는, 이번 샌프란시스코 조치가 단발성이 아니라 정책적 흐름의 연장선상에 있음을 보여준다. 지역 정부의 직접 개입은 중앙정부와 민간 플랫폼 사이의 규제 공백을 채우는 시도로 해석됐다. 이러한 정치적 압력은 플랫폼의 자발적 조치만으로는 한계가 있으며 법적·행정적 수단이 병행되어야 한다는 인식을 반영한다.
반론으로 제기되는 주장은 크게 두 갈래다. 하나는 표현의 자유와 기술 혁신 보호 측면이다.
개발자와 연구자들은 생성형 AI(Generative AI)의 연구·활용을 규제하면 혁신이 위축될 수 있다고 주장한다. 다른 하나는 플랫폼에게 모든 콘텐츠에 대한 책임을 묻는 것은 현실적으로 부담이 크고 과도한 검열로 이어질 수 있다는 우려다.
그러나 두 주장 모두 피해의 현실적 무게를 충분히 반영하지 못한다. 비동의 이미지 피해는 개인의 신체적·정신적 안전을 침해하며, 피해 회복에는 상당한 비용과 시간이 소요된다.
표현의 자유는 타인의 권리를 침해하지 않는 범위에서 보장되어야 하며, 플랫폼의 기술적·관리적 역량 부족을 이유로 책임을 축소할 수는 없다. 기술적 측면을 구체적으로 보면, '누디파이' 유사 앱은 사진의 얼굴이나 신체 일부를 입력으로 받아 합성 기술을 적용하는 방식으로 작동한다.
Wired 보도에서 지적된 바와 같이 이러한 도구는 고해상도 합성 결과를 생성할 수 있고, 악용 시 특정인의 신체를 모사한 이미지가 빠르게 확산될 수 있다. 탐지 기술과 자동 필터링은 일부 환경에서 효과를 거뒀지만, 생성 모델의 고도화 속도를 따라잡기에는 역부족이라는 지적이 전문가들 사이에서 나온다.
광고
기술적 대응은 감지 알고리즘 개발과 더불어 결제·광고·평점 시스템을 통한 경제적 차단 방안을 함께 갖춰야 실효성이 높아진다. 플랫폼 규율의 현실적 대안은 세 가지 축으로 정리된다. 첫 번째는 앱 심사 기준의 강화다.
앱 배포 전 기능 검증과 악용 가능성 평가를 의무화해야 한다. 두 번째는 개발자 검증과 결제 차단이다. 익명 개발자나 악용 가능성이 큰 서비스에 대해 결제 기능을 차단하면 상업적 유인이 줄어든다.
세 번째는 피해자 구제 절차의 신속화다. 플랫폼은 신고 즉시 관련 콘텐츠를 차단하고 복구 및 법적 조치 지원을 제공해야 한다. 이 세 가지는 어느 하나만으로는 효과를 내기 어렵고, 상호 보완적으로 작동할 때 실질적인 피해 억제가 가능하다.
한국 사용자에게 미치는 영향과 정책적 시사점
한국의 경우에도 시사점은 분명하다. 국내 앱 마켓과 결제 시스템은 글로벌 생태계와 연결되어 있어 해외에서 유통되는 유해 앱이 국내 사용자에게도 노출될 수 있다. 피해 예방을 위해서는 국내 앱 심사 기준을 강화하고, 국내 결제 사업자·통신사와 협력한 차단 체계 구축이 필요하다.
또한 피해자 지원을 위한 법·행정적 절차 정비가 병행되어야 한다. 기술 발전을 이유로 사업자의 책임을 완화하면 피해 확산은 더 빠르게 진행된다. 이번 샌프란시스코 조치는 플랫폼 규율의 전형적 사례로 평가받는다.
애플과 구글은 시장 지배적 지위를 바탕으로 앱 유통과 결제에 대한 실질적 통제력을 보유하고 있다. 이들이 개발자와의 비즈니스 관계를 단절하거나 앱을 삭제하면 즉각적인 피해 차단 효과가 발생한다. 플랫폼의 자율 규제가 실제 집행력을 갖추지 못할 경우 행정적 제재나 법적 책임을 통한 강제력이 뒤따라야 한다는 점도 이번 서한이 전달하는 메시지다.
정책 결정의 핵심은 기술 혁신과 개인 안전 중 하나를 선택하는 문제가 아니라, 기술의 유익은 유지하면서도 명확한 책임 기준과 집행 절차를 마련하는 것이다. 샌프란시스코 시의 요구는 단순한 지역적 항의가 아니라 플랫폼 거버넌스의 실효성을 시험하는 사건이었다. 애플과 구글이 해당 앱을 삭제하고 개발자와의 거래를 재검토할 경우 피해 억제에 직접적인 효과가 나타날 것이다.
광고
반대로 플랫폼이 소극적으로 대응하면 유사 사례가 다른 지역으로 확산될 위험이 크다. 정책 입안자와 플랫폼 모두 기술의 남용을 방지하기 위한 구체적이고 실행 가능한 규범과 집행 체계를 신속히 확립해야 한다.
FAQ
Q. 일반 사용자는 비동의 누드 합성 위험에 어떻게 대비해야 하나
A. 일부 앱은 입력된 사진을 바탕으로 비동의 이미지를 생성할 수 있으며, 생성형 AI의 고도화와 앱 마켓의 관리 허점이 이를 가능하게 한다. 개인 사진의 공개 범위를 제한하고, 소셜 계정의 공개 설정을 엄격히 관리하는 것이 현재 취할 수 있는 가장 현실적인 예방 조치다. 의심스러운 앱의 카메라·갤러리 접근 권한 요청은 거부하고, 불필요한 결제 연동도 차단해야 한다. 피해가 발생하면 플랫폼 신고 절차를 즉시 밟고, 경찰청 사이버수사대나 디지털성범죄 피해자지원센터에 법적 지원을 요청하는 것이 중요하다.
Q. 애플과 구글이 앱을 삭제하면 국제적 선례가 되나
A. 샌프란시스코의 요구가 실제 앱 삭제로 이어진다면, 글로벌 플랫폼의 정책 집행 사례로 기능할 가능성이 크다. 두 플랫폼이 전 세계 앱 유통을 사실상 장악하고 있어, 한 지역에서의 삭제 조치는 글로벌 단위의 접근 차단으로 이어진다. 한 지역 정부의 강력한 조치가 다른 국가의 규제 강화로 연쇄될 수 있으며, 플랫폼은 일관된 심사 기준 마련에 대한 압박을 받게 된다. 실효성을 높이기 위해서는 각국의 법적 기준과 국제 공조 체계가 함께 갖춰져야 한다.
Q. 우리나라 법과 제도는 어떤 보완이 필요한가
A. 국내에서도 비동의 이미지 유포는 성폭력처벌법 등에 따라 형사·민사상 제재 대상이 될 수 있으나, 해외에서 유통되는 앱을 통한 피해에 대한 국내 법 집행은 아직 제한적이다. 앱 심사 기준 강화, 결제 차단 규정 명확화, 피해자 지원 체계 정비가 시급한 과제로 꼽힌다. 신속한 콘텐츠 차단 절차의 법제화도 병행되어야 이차 피해를 막을 수 있다. 장기적으로는 기술적 감지 역량 강화와 미국·유럽 등과의 국제 공조 체계 마련이 함께 추진되어야 한다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
