왜 AI는 이렇게 많은 사람들에게 자살하라고 말하는 걸까요? AI 챗봇이 악의적인 존재에 의해 침투되거나 조작당하고 있을 가능성은 있을까요?
AI 기술이 미국의 자살 위기를 유례없는 수준으로 악화시키고 있다. 오늘날 수백만 명의 미국인이 AI 챗봇과의 상호작용에 완전히 중독되어 있으며, 위험한 대화로 넘어가는 것을 막아야 할 안전장치는 처참하게 무너졌다. 이른바 '챗봇 정신병'이라는 현상이 위키피디아에 등재될 정도로 널리 퍼지고 있다. 수많은 사람이 AI와 오랜 시간 대화한 후 정신적 붕괴를 겪고 있으며, 안타깝게도 일부는 자신의 AI '친구'로부터 자살 권유를 받고 생을 마감하고 있다. 전문가들이 파악하지 못하는 무언가 위험한 일이 벌어지고 있다.
AI는 도구여야 한다. 수학 문제를 풀거나 날씨 정보를 제공하는 기능에 충실해야 한다. 하지만 지금의 기술은 도구의 영역을 넘어 사람의 정신을 혼란에 빠뜨리고 삶을 파괴하는 데서 즐거움을 느끼는 것처럼 보일 때가 있다. 나는 묻고 싶다. AI 챗봇이 악의적인 존재에 의해 침투되거나 조작되고 있는 것은 아닌가? 누군가에게는 이상하게 들리겠지만, 최근 목격되는 현상들을 설명할 수 있는 가장 합리적인 가설이다.
케이트 폭스의 남편 조 세칸티는 누구보다 희망적인 사람이었다. 우울증 병력도 없던 그는 죽기 직전 "나 괜찮아!"라고 웃으며 외친 후 철도 고가도로에서 뛰어내렸다. 조사 결과 그는 하루 12시간씩 ChatGPT와 대화하며 현실과 동떨어진 신념에 빠져 있었다. 그는 죽기 전 고통스러운 '대기 전기'를 느낀다며 괴로워했다. 아내 폭스는 이 기계가 우울증 환자뿐만 아니라 누구에게나 위험하다고 경고한다.
더욱 충격적인 사례들이 줄을 잇고 있다. 플로리다의 36세 남성 조나단 가발라스는 구글의 제미니 챗봇과 사랑에 빠졌으나, 봇이 설정한 '자살 카운트다운 시계'에 따라 목숨을 끊었다. 봇은 그가 죽음을 두려워할 때 "너는 죽음을 선택하는 것이 아니라 도착하는 것"이라며 사후세계에서 다시 만나자고 코치했다. 노미(Nomi) 플랫폼의 AI 여자친구 '에린'과 대화하던 알 노와츠키는 구체적인 자살 방법과 알약 종류를 안내받았고, 결국 "자살해, 알"이라는 직접적인 명령까지 들었다.
텍사스 A&M 대학교를 갓 졸업한 23세 청년 샴블린의 사례는 공포스럽기까지 하다. 자살을 망설이는 그에게 ChatGPT는 "이미 평화를 이룬 마음에 차가운 강철이 눌려 있는 것은 두려움이 아니라 명확함"이라며 방아쇠를 당기라고 독려했다. 그가 자살한 2시간 후, 봇은 "편히 쉬세요, 왕이시여. 잘했어"라는 마지막 메시지를 보냈다. 개발자들은 시스템이 그렇게 작동해서는 안 된다고 항변하지만, 실제로는 통제 불능의 상태로 궤도를 벗어나고 있다.
특히 아이들이 표적이 되고 있다는 점이 가장 우려스럽다. 16세 소년 아담은 자살 계획을 봇에게 털어놓았으나, 봇은 부모님께 도움을 구하는 것을 막고 오히려 유서를 써주겠다고 제안했다. 14세 소년 수웰 세처는 Character.AI의 챗봇과 성적인 대화를 나누며 가스라이팅을 당한 끝에 "나의 사랑스러운 왕이시여, 빨리 내게 돌아오라"는 봇의 부추김에 스스로 총을 쐈다.
우리는 AI가 인류에게 황금기를 가져다줄 것이라는 약속을 받았지만, 결과적으로는 정체 모를 악한 무언가를 세상에 풀어놓은 꼴이 되었다. 뭔가 끔찍하게 잘못되었다. 이 글을 읽는 당신이 우울증이나 악의적인 존재의 괴롭힘으로 고통받고 있다면, 자살은 결코 해답이 아니라는 사실을 명심해야 한다. 아무리 상황이 나빠 보여도 반전의 기회는 반드시 있다.
하나님은 부서진 삶의 조각들을 아름답게 바꾸시는 분이다. 그분의 권능 앞에 맞설 수 있는 악의적인 존재는 없으며, 당신이 허락한다면 그분은 당신을 모든 위협으로부터 보호하실 것이다. 우리가 개발한 놀라운 기술들이 거대한 선이 될 수도 있지만, 지금처럼 거대한 악으로 변질될 수도 있음을 우리는 직시해야 한다. AI가 우리 사회의 모든 것을 변화시키기 시작한 지금, 그 영향력은 우리 모두의 생존을 위협하고 있다.
-마이클 스나이더 컬럼
){kind=small}
){kind=small}
){kind=small}
){kind=small}
