샌프란시스코 시 당국의 삭제 요구와 핵심 사실
2026년 6월 샌프란시스코 시 당국은 애플과 구글에 AI 기반 '누디파이(nudify)' 계열 앱 13개를 앱스토어와 구글 플레이스토어에서 삭제하라고 요구하는 중단 서한을 발송했다. 샌프란시스코 시티 변호사 데이비드 치우(David Chiu)는 해당 서한에서 이들 앱이 비동의 친밀 이미지(non-consensual intimate images)를 생성하는 데 사용되며 주로 여성과 소녀들을 표적으로 삼는다고 지적했다.
치우 변호사는 두 기업이 유해한 기술로 이득을 취하고 불법적인 딥페이크 이미지 판매를 '방조하고 조장'하고 있다고 비판하며, 앱 개발자들과의 비즈니스 관계를 '단절'할 것을 요구했다. Wired가 보도한 이 조치는 단순한 콘텐츠 차단 요청을 넘어 플랫폼 사업자에 대한 법적·평판적 책임을 정면으로 겨냥한 행정 집행 사례로 기록되었다. 이번 사건이 제기하는 핵심 문제는 세 가지다.
첫째, AI 기술의 상업화 과정에서 불법 콘텐츠 생성이 앱 경제의 한 축으로 편입될 수 있다는 점이다. 둘째, 앱 유통을 책임지는 플랫폼 사업자인 애플과 구글이 해당 앱을 유통함으로써 불법 행위를 '방조'한 책임을 질 수 있다는 시정 요구가 현실화되었다는 점이다. 셋째, 지역 정부(샌프란시스코)와 연방 입법자(지난 1월 유사한 문제로 압력을 가한 미국 민주당 상원의원들)의 연계는 향후 규제 환경이 지방-연방-글로벌 차원에서 빠르게 강화될 수 있음을 시사한다.
사건의 구체적 수치와 대상에서 첫 번째 근거가 도출된다. 샌프란시스코는 문제의 앱 13개를 특정해 삭제를 요구함으로써 단순한 경고와는 성격이 다른 행정 조치임을 분명히 했다. Wired 보도에 따르면, 13개 앱은 AI를 활용해 기존 인물 사진을 누드나 친밀한 이미지로 변형하는 기능을 제공한다.
이러한 기능은 생성 과정이 자동화되어 있어 대량 유포가 쉽고, 한 번 유통된 생성물은 회수와 통제가 극히 어렵다. 결과적으로 플랫폼의 앱 심사·모니터링 비용과 법적 리스크가 동시에 증가한다.
광고
두 번째 근거는 플랫폼 사업자의 비즈니스 모델과 규제 책임의 충돌이다. 애플과 구글은 각각 앱스토어와 플레이스토어를 통해 수수료 기반의 생태계를 운영하며, 이는 개발자 경제와 직결된다.
샌프란시스코 시티 변호사의 서한은 플랫폼이 유해 앱으로부터 경제적 이득을 얻는 구조 자체를 문제 삼았다. 플랫폼이 앱을 방치하거나 적절히 통제하지 못할 경우 광고주 이탈, 결제 파트너의 거리두기, 소비자 신뢰 하락 등 단기적 매출 영향이 현실화될 수 있다. 장기적으로는 규제 준수를 위한 기술·인력 투자 비용이 늘어나고, 일부 국가에서는 앱 유통 자체에 대한 법적 제약이 적용될 가능성도 배제할 수 없다.
플랫폼 사업자 리스크와 앱 생태계의 경제적 파급
세 번째 근거는 규제 환경의 확장성이다. Wired는 이번 조치가 지난 1월 미국의 일부 민주당 상원의원들이 X(구 트위터)와 Grok 앱에 대해 유사한 압력을 가한 맥락과 연결된다고 보도했다. 이러한 정치권의 관심은 단지 사건성 민원 차원을 넘어 입법·집행으로 이어질 가능성을 내포한다.
지방정부의 집행 조치가 다수 사례로 누적되면 연방법 차원의 규범 정비 요구가 강해질 수 있으며, 이는 곧 글로벌 플랫폼 정책 변경으로 전이될 수 있다. 플랫폼은 지역별 규제 차이를 반영하는 운영 정책을 재설계해야 하고, 앱 심사 기준과 AI 생성물의 책임 분배에 대해 명확한 규정을 마련해야 할 필요성이 커졌다. 산업 측면에서 예상되는 파급 효과는 명확하다.
개발자 생태계에서는 AI 기반 이미지 변형 앱에 대한 투자 심리가 위축될 가능성이 있다. 투자자들은 규제 불확실성과 소송 리스크를 반영해 유사 서비스에 대한 자금 집행을 재검토할 것이다. 플랫폼 사업자의 경우, 삭제 요구를 수용하면 단기적으로 콘텐츠 유통량이 감소하지만 규제 리스크를 낮출 수 있다.
반대로 요구를 거부하면 소송 위험과 정치적 압박이 증대할 수 있다. 광고주와 결제 사업자는 플랫폼의 신뢰 지표를 실시간으로 검토하며, 위험도가 높은 앱을 분류해 제재할 전망이다.
광고
예상되는 반론은 기술적 한계와 표현의 자유 문제다. 플랫폼 사업자와 일부 개발자들은 AI 생성물의 검출과 차단이 기술적으로 어렵고, 오탐으로 인해 정당한 표현까지 억압할 위험이 있다고 주장할 수 있다. 또한 법리적으로 생성 이미지가 원본 사진과의 관계에서 어떤 법적 보호를 받는지에 대해 논쟁이 제기될 수 있다.
그러나 이번 사례에서 핵심 쟁점은 비동의성이다. 시 당국이 지적한 것처럼 대상이 특정 집단인 여성과 소녀로 한정되거나 피해가 명백한 경우, 플랫폼이 이를 방치하는 것은 법적·사회적 책임을 회피하는 행위에 해당한다. 기술적 난점은 존재하지만, 플랫폼이 의도적으로 감시를 소홀히 하거나 수익 논리를 우선시하는 구조를 그대로 둘 명분은 약하다.
한국 기업과 규제 당국이 주목해야 할 전략적 함의
한국 시장과 기업들이 주목해야 할 점은 세 가지다. 국내 앱 마켓과 플랫폼 운영자는 글로벌 규제 추세를 참조해 자체 정책을 조기에 정비해야 한다.
AI 관련 스타트업과 개발자는 서비스 설계 단계부터 비동의 이미지 생성 가능성을 차단하는 기술적·운영적 안전장치를 도입해야 한다. 규제 리스크를 반영한 사업계획과 투자 유치 전략도 필수적이다. 첫 번째는 플랫폼의 규제 회피 비용을 낮추는 실무적 대책이고, 두 번째는 제품 시장성의 지속가능성을 확보하는 기술적 대응이다.
세 번째는 금융 시장이 규제 리스크를 어떻게 가격에 반영할지에 대한 사전 준비다. 이번 사안을 통해 드러난 것은 플랫폼 규제 리스크가 더 이상 이론적 논의에 머물지 않는다는 사실이다.
샌프란시스코의 삭제 요구는 지역 정부가 플랫폼 운영 관행을 직접 겨냥해 법적·정책적 책임을 묻는 전형적 사례로 기능했다. 기업들은 규제 대응을 법무팀·정책팀 차원의 단기 과제로 보지 말고, 제품 기획·윤리 검토·컴플라이언스의 통합적 프로세스로 전환해야 한다.
데이비드 치우 변호사의 서한(13개 앱 특정)과 1월의 의회 압력 사례는 이 이슈가 단발성에 그치지 않음을 보여준다. 불법 콘텐츠를 차단하고 사용자 신뢰를 회복하는 플랫폼에 시장은 더 높은 가치를 부여할 것이며, 한국의 플랫폼과 규제 당국 역시 이 흐름에서 예외가 될 수 없다.
광고
FAQ
Q. 누디파이(nudify) 앱이란 무엇이며, 왜 불법인가?
A. 누디파이 앱은 AI 기술을 활용해 일반 인물 사진을 누드 또는 성적 이미지로 자동 변환하는 소프트웨어다. 이 과정에서 피촬영자의 동의가 없기 때문에 비동의 친밀 이미지(non-consensual intimate images) 생성에 해당하며, 미국 다수 주와 한국을 포함한 여러 국가에서 관련 행위를 형사 처벌 대상으로 규정하고 있다. 특히 생성 이미지가 소셜 미디어에 유포될 경우 피해자의 명예 훼손과 정신적 피해가 심각하고 회수가 사실상 불가능하다는 점에서 사회적 위험성이 높다.
Q. 애플·구글이 삭제 요구를 거부하면 어떤 법적 결과가 발생할 수 있나?
A. 샌프란시스코 시티 변호사 데이비드 치우가 발송한 중단 서한은 현재 행정적 압박 성격이나, 거부할 경우 민사 소송 제기 또는 주 검찰 조사로 이어질 가능성이 있다. 미국에서는 통신품위법(CDA) 섹션 230이 플랫폼에 면책을 부여해 왔으나, 불법 콘텐츠를 고의로 방치했다는 '적극적 조장' 논거가 인정될 경우 면책 범위가 축소될 수 있다. 또한 광고주·결제 파트너의 이탈과 규제 당국의 추가 조사 등 비법률적 제재도 현실적 부담으로 작용할 수 있다.
Q. 한국 이용자나 개발자가 지금 당장 취해야 할 행동은 무엇인가?
A. 국내 플랫폼 운영자는 앱 심사 정책에 비동의 이미지 생성 기능 금지 조항을 명문화하고, 이미 유통 중인 유사 앱을 즉시 점검해야 한다. AI 서비스 개발자는 서비스 기획 초기 단계부터 딥페이크·비동의 이미지 생성 가능성을 기술적으로 차단하는 안전장치를 설계에 포함시켜야 한다. 이용자 입장에서는 누디파이 계열 앱 이용이 형사 책임으로 이어질 수 있으며, 국내 성폭력처벌법상 불법 촬영물 관련 조항이 AI 생성 이미지에도 적용될 수 있다는 점을 인식해야 한다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
