정보/소식 [단독] 이번엔 스노우 '나체 이미지' 합성..."필터 강화 버전 긴급 배포”

| ‘소다’ 앱 이어 ‘스노우’ 까지 외설 이미지 합성

| ‘AI 헤어샵’ 기술 활용 중 나체 이미지 도출 돼

| 스노우 “AI 프롬포트 필터 강화 버전 긴급 배포 예정”

https://naver.me/5CWFIEny

[이코노미스트 박세진 기자·정두용 기자] 이번엔 ‘스노우’(SNOW)다. 네이버의 자회사 스노우 애플리케이션(앱)에서 ‘나체 사진’ 합성 사진이 나왔다. 인공지능(AI) 기술을 활용한 ‘AI 헤어샵’ 기능을 사용해 헤어 스타일을 변경하던 중 이같은 결과물을 받게 된 것이다.

앞서 스노우가 운영하는 앱 ‘소다’(SODA)에서도 이와 유사한 사례가 발생한 만큼, 유료 서비스임에도 불구하고 스노우 AI의 ‘선정적 이미지 차단·방지 기술’(가드레일)이 미흡하다는 지적도 나온다. 

9일 본지 취재를 종합하면 A씨는 최근 스노우 앱을 통해 본인의 헤어 스타일에 변화를 주기 위해 ‘AI 헤어샵’ 기능을 사용했다. 평소 긴 헤어스타일인 A씨는 평소와 다른 헤어스타일을 비교하기 위해 이 기능을 활용했다.

문제는 ▲S컬펌 ▲웨이브펌 ▲스트레이트 ▲단발 컷 등 수많은 스타일 중 ‘단발 컷’에서 발생했다. 나머지 헤어스타일의 경우 별다른 이상 없이 합성됐으나, ‘단발 컷’에서 본인의 얼굴과 함께 나체의 사진이 합성된 것. 해당 사진에서는 아무런 옷가지를 걸치지 않은 A씨의 모습을 확인할 수 있었다.

해당 사진은 여전히 A씨의 스노우 사진 결과물 목록에 고스란히 남아 있다. A씨는 혹시 모를 사진 유출과 같은 2차 피해 등을 우려해 스노우 측에 공식적인 문의를 하지 못했다고 설명했다. 다만, 현재 사안의 중대성을 인지해 스노우 앱 내 1:1 문의를 진행하는 등 공식적으로 이같은 내용을 접수한 것으로 파악됐다.

A씨는 본지와의 통화에서 “평소 해보고 싶은 머리가 있어서 고민하던 중 해당 앱의 AI 헤어샵 기능을 알게 됐다”며 “이후 유료 결제 서비스를 통해 해당 기능을 체험하던 중 이런 상황이 벌어졌다. 가장 대중적인 앱에서 이정도 수위의 이미지가 나오는 게 무섭다”고 호소했다.

이어 “앞서 소다 앱 외설 이미지 합성과 관련한 사안에 대해 피해자에 대한 인신공격이 잇따르는 모습을 보게 됐다”며 “해당 사안의 심각성을 알림과 동시에 다른 피해자가 발생하지 않게끔 하기 위해 제보 및 공식 접수 절차를 밟게 됐다”고 덧붙였다.

스노우 관계자는 “스노우 앱을 통해 선정적인 이미지가 생성된 것은, AI 이미지 변환 모델이 지닌 한계에 의한 것”이라며 “사용자에게 전달되기 이전 AI 프롬프트 필터를 통해 불완전한 이미지를 제거하고 있으나 해당 필터가 이번 사례에서 완벽하게 작동하지 않았다”고 설명했다.

이어 “사용자의 데이터는 추가 학습 및 트레이닝에 활용되지 않고, 결과물은 다른 이용자들에게 노출되지 않는다”며 “앞으로 이용자들이 안전하게 서비스를 활용할 수 있도록 AI 프롬프트 필터를 강화한 긴급 버전 배포를 계획 중”이라고 덧붙였다.

전문가들은 스노우가 제공하는 기능들이 유료 서비스인 만큼, 이런 사례가 이어지지 않도록 주의할 필요가 있다고 지적한다. AI가 학습하는 데이터가 방대해 모든 사례를 일일이 파악하긴 어렵지만, 유사한 피해사례가 반복해서 나오는 만큼 이를 바로잡기 위한 움직임이 필요하다는 것이다. 

윤석빈 서강대학교 특임 교수는 “(이번 스노우 외설적 AI 합성 문제의) 핵심적인 부분은 이 같은 사례를 방지할 수 있는 ‘가드레일’이 작동하지 않은 것으로 보인다”며 “기업의 경우 AI 데이터의 안정성 자체에 대한 노력을 기울이고 있지만, 워낙 AI가 학습하는 데이터가 방대하다 보니 모든 걸 따라잡기는 어렵다”고 말했다.

이어 “네이버의 경우 AI 데이터의 안정성 자체에 대한 노력을 다방면으로 기울이고 있겠지만, 해당 기능 자체가 유료 서비스인 만큼 이용자들의 불편을 막기 위해 이같은 사안을 방치해 둬선 안 될 것”이라고 덧붙였다.

박세진([e-mail])

정두용([e-mail])