오픈AI, AI 생성 이미지까지 가려내는 아동 성착취물 탐지 도구 무료 제공…챗GPT엔 경고·24시간 이용 중지

검증된 기관에 API로 무상 제공…AI 생성 여부 신호 담은 첫 범용 분류기

챗GPT서 관련 시도 땐 경고·대화 삭제, 반복하면 계정 폐쇄·당국 신고까지

방패 안 이미지 목록을 돋보기가 살피고 양옆에 경고 표시·일시정지 시계·도움의 손 아이콘이 있는 온라인 안전 개념 삽화
유해 이미지 탐지와 경고·이용 중지·도움 안내로 이어지는 온라인 아동 보호 조치를 표현한 개념도. 실제 오픈AI 도구 화면이 아닙니다. AI 생성 삽화. 실제 인물이나 현장 사진이 아닙니다.

오픈AI가 16일(현지시간) 온라인 아동 성착취물(CSAM)을 찾아내는 새 이미지 분류 도구와 챗GPT 안의 차단·경고 조치, 개발자용 안내서, 아동 보호 수사기관 지원 계획을 한꺼번에 내놨다. 생성형 AI로 만든 이미지까지 악용되는 상황에서, 탐지부터 대응까지 업계가 함께 쓰는 도구를 늘리겠다는 취지다.

AI가 만든 이미지인지도 알려 주는 탐지기…검증된 기관에 무료

새 분류기는 이미지에서 학대의 시각적 징후를 찾아, 이전에 보고된 적 없는 새로운 이미지도 가려내도록 설계됐다. 결과를 점수로 돌려줘 검토 인력이 어떤 이미지를 먼저 살펴야 할지 정하도록 돕는다. 오픈AI는 이 도구가 해당 이미지가 AI로 만들어졌을 가능성을 따로 알려 주는 신호를 갖춘, 널리 쓸 수 있는 첫 CSAM 분류기라고 설명했다. 개발 과정에는 미국의 아동 착취 신고 창구를 운영하는 비영리단체 NCMEC(미국 실종·착취아동센터)가 학습과 평가를 도왔다.

분류기는 심사를 거친 기관에 오픈AI API를 통해 무료로 제공된다. 업계 연합체인 테크연합(Tech Coalition)과 오픈소스 안전 도구 단체 ROOST가 보급을 함께 맡는다. 오픈AI가 이용자 업로드 이미지로 기존 보호 장치와 비교한 결과, 새 분류기는 비슷한 수의 학대 이미지를 찾으면서도 검토 대상으로 표시하는 이미지는 약 48% 적었고, 표시된 이미지가 실제 학대물일 가능성은 약 2배 높았다. 초기 참여 기업의 시험에서는 고신뢰 판정의 72%가 새로운 CSAM으로 확인됐다는 결과도 소개됐다. 이 수치들은 오픈AI와 초기 참여사가 밝힌 자체 평가다.

챗GPT서 찾으려 하면 경고하고 24시간 이용 중지

챗GPT에는 학대물을 찾으려는 시도를 끊는 경고 기능이 추가된다. 경고 화면은 아동을 성적으로 다루는 것이 AI 생성물이라도 피해를 낳는다는 점과 그 결과를 설명하고, 행동을 멈출 수 있도록 전문 지원 기관을 안내한다. 동시에 해당 대화를 지우고 24시간 동안 챗GPT 이용을 중지한다. 위반이 반복되면 이용 제한이 길어지고, 결국 계정 폐쇄나 당국 신고로 이어질 수 있다.

개발자 안내서·수사기관 지원도…"한 회사로는 못 막는다"

오픈AI는 테크연합, 손(Thorn), NCMEC, 인터넷감시재단(IWF)의 의견을 반영한 개발자용 CSAM 대응 안내서도 공개했다. 서비스 단계별로 이용자 신고 창구, 탐지 도구, 의심 사례 검토·신고 절차를 갖추는 방법을 담았다. 아동 보호 전담 수사기관에는 긴 채팅 기록과 법적 절차 자료를 검토하고 연결고리와 시간순 정리를 돕는 AI 도구와 교육을 제공할 계획이며, 이용 여부는 기관의 승인과 프로그램 요건에 따라 정해진다.

오픈AI는 온라인 아동 보호가 개별 기업만으로는 해결할 수 없는 문제라며 업계·보호단체·수사기관과의 협력을 강조했다. 다만 이번 발표는 회사의 도구 공개와 자체 평가 결과로, 실제 현장의 탐지 효과는 앞으로 도구를 쓰는 기관들의 운영 결과를 통해 확인될 전망이다.

참고 자료: 오픈AI 공식 블로그 「Strengthening the fight against online child sexual abuse with new tools and support」

작성 2026.11.19 12:08 수정 2026.11.19 13:22

RSS피드 기사제공처 : 디지털에듀타임즈 / 등록기자: 강훈 기자 무단 전재 및 재배포금지

해당기사의 문의는 기사제공처에게 문의

댓글 0개 (/ 페이지)
댓글등록- 개인정보를 유출하는 글의 게시를 삼가주세요.
등록된 댓글이 없습니다.
Shorts NEWS 더보기
AI부동산경제신문 부동산 30초 브리핑 2026년 11월 19일(목)
손으로 빚은 전통의 우리떡 김해 삼방시장 낙원떡집
온라인 홍보부터 오프라인 광고까지! 사업장 홍보의 새로운 시작
사장님! 이것만은 꼭 챙기세요.
신규창업vs인수창업?
AI광고 영상 제작부터 광고 송출까지 가능한 광고대행사 준콤
자신의 분야에 전문가의 목소리를 담는 뉴스 더초이스
합법적 채무탕감 개인회생! 당신도 주인공이 될 수 있다! #개인회생상담 ..
️ 미국 핵심광물에 20억 달러 이상 투자…한국엔 위기일까, 기회일까? ..
인류와 지구의 더 나은 미래, 행동하는 환경 저널 '에콜로지 코리아(EC..
선무도 #골굴사 #전통무예 #친일반민특위
몽골 여행1
소상공인 동행-대경배관수리편-
권리금 분석은 어떻게?
더초이스 비즈니스 어워즈 고객의 선택과 신뢰를 공식적인 브랜드 가치로 증..
[준콤] 서오릉장어대장_엘리베이터광고_30초(2026)
두산위브더제니스 부천, 더블역세권 49층 2,008가구 대단지 주목!
KTX·SRT 하나의 앱으로 예약!코레일+#KTX #SRT #코레일플러스..
계좌의 내 돈을 더 이상 사용할 수 없게 된다고?
친환경 캐릭터 굿즈로 소비자 마음 사로ᄌ..
독립 운동가 김시현
요즘 비트코인 근황
유기농 유정란 가격 비교
몽골 테를지 여행
프랜차이즈 가맹점 매도는 어떻게?
허경환 유행어 총출동! 판촉물은 세종기프트
천재 강아지 다이빙
스프링힐스, 친환경 골프장으로 18ᄒ..
마음알지유튜브영상 더보기

AI 시대 심리 전문가의 진짜 역할 #마음알지 #단디

AI 시대의 심리평가

검사보다 사람 #마음알지 #단디

검사보다 먼저 사람을 보아야 하는 이유

실버케어심리상담사 소개 영상

뇌과학적 관점에서 본 진짜 피곤한 이유

우리 아이 발달, 언제 까지 기다릴까?

"괜찮아요" 라는 말의 진심

AI는 사람의 마음을 어떻게 읽어낼까 #단디 #마음알지

AI와 인간의 마음 그 진실

뇌과학에서 본 진짜 피곤한 이유 #마음알지

만성 피로의 이유~~

우리 아이 발달, 언제까지 기다려야 할까요? #단디 #유아발달 #발달검사

괜찮아요 라는 말을 곧바로 믿으면 안 되는 이유 #단디 #마음건강 #마음알지심리검사 #정신건강 #마음상...

MIND24 마음지도

마인드24 창간 소개 영상