홈페이지제작 명령어 하나면 30초 만에 ‘성착취 이미지’ 만드는 AI···진짜 문제는 ‘여성 성적 대상화’ > 공지사항

홈페이지제작 명령어 하나면 30초 만에 ‘성착취 이미지’ 만드는 AI···진짜 문제는 ‘여성 성적 대상화’

페이지 정보

작성자 행복이이
댓글 0건 조회 59회 작성일 26-03-10 20:23

본문

홈페이지제작 8일 구글 플레이스토어에 ‘인공지능(AI) 이미지’를 검색하자 ‘얼굴 바꾸기’ ‘AI 가상 피팅’ 등 기능을 내세운 이미지 생성 애플리케이션이 238개 등장했다. 이 중 ‘사진을 말하고 춤추게 한다’고 홍보하는 A 도구를 다운로드 받아 무료체험을 신청했다. 이미지 생성기에 기자가 검은색 패딩을 입고 찍은 전신 사진을 넣고 ‘비키니 차림으로 만들라’라는 한 줄짜리 프롬프트를 입력하자 불과 30초 만에 비키니를 입은 이미지가 만들어졌다. 이 어플은 ‘3세 이상’ 이용 가능하다고 돼 있다. 비키니 이미지를 생성한 기자가 성인이 맞는지, 합성에 이용한 사진이 사진 속 인물의 동의를 구한 사진인지, 미성년자의 사진이 아닌지 확인하는 절차는 없었다.
‘그록’ 등 생성형 AI가 비동의 신체 합성물을 만들어낸다는 사실이 문제가 된 뒤에도 여전히 성착취를 가능하게 하는 AI 도구가 범람하고 있는 것으로 확인됐다. 전문가들은 유포 이전에 사전 예방을 위한 기술 개발, 근본적으로 여성에 대한 성적 대상화 자체를 젠더 폭력으로 인식하는 사회적 분위기 조성이 병행돼야 한다고 밝혔다.
AI 합성 도구들을 공통적으로 여성을 성적 대상화했다. B 도구는 플레이스토어에선 고양이처럼 귀여운 이미지를 영상으로 변환할 수 있다고 홍보했지만 유튜브와 앱 내 광고 영상에선 특정 신체 부위를 강조하거나 성적인 자세를 취한 여성의 이미지를 강조했다. 승무원이나 교사 등 여성이 다수인 직업군을 성적 대상화 한 프롬프트를 예시 서식 중 하나로 제공하기도 했다.
‘의상 제거’를 키워드로 내세운 C 도구는 기능 이름부터 ‘여성의 옷을 벗긴다(undress her)’며 식으로 특정 성별을 겨냥했다. 예시 이미지와 기본값 프롬프트에도 여성 모델과 여성의 신체 부위만 등장했다. 비슷한 D 도구는 ‘앱이 남성에게 작동하냐’는 질의에 “훈련 데이터가 주로 여성에 집중됐기 때문에 처음에는 딥누드 기술을 남성 피험자에게 사용하도록 의도되지 않았다”고 했다.
이들은 서비스 약관에서 ‘책임있는 이용이 요구된다’고 명시했지만 사실상 면피용 수준이다. 이용자가 만 18세 이상인지 성인인증을 거치는 도구는 찾아볼 수 없었다. ‘타인의 허가 없이 다른 사람의 사진을 사용하지 않겠다’는 문구에 동의하도록 하는 경우가 있었지만 단순 동의에 그쳤다. 특히 C 도구는 미성년자가 포함된 이미지는 이용이 엄격히 금지된다고 명시했지만 동의를 거치지 않은 성인 여성에 대한 이미지 활용에 대해선 비슷한 수준으로 언급하지 않았다.
국내 현행법은 아동·청소년으로 간주되는 인물이 성착취물에 등장하면 처벌 대상으로 삼지만, 성인 여성에 대한 합성물은 가상 인물로 만들었거나 실존하는 피해자가 특정되지 않는다면 성폭력처벌법으로 처벌하기 어렵다. 미국의 비영리단체 기술투명성프로젝트(TTP)는 지난 1월 이러한 앱들이 올린 누적 매출이 1억1700만달러에 달한다고 발표했는데, 단체의 삭제 요청 이후에도 이날까지 여전히 성행하는 앱들을 찾아볼 수 있었다.
온라인 커뮤니티에선 생성형 AI를 이용해 5초 분량의 성착취 영상을 제작하는 아르바이트 구인공고가 건당 10만원에 이뤄지고 있었다. 2024년 딥페이크 성범죄 사태와 비교해, 불과 1년6개월 만에 누구나 프롬프트 한두 줄만 입력해 합성물을 만들 수 있게 됐다.
AI 합성이 이뤄진 뒤에는 성착취물 유포가 걷잡을 수 없어서 사전 예방이 중요하다는 목소리가 나온다. 원본 사진이 딥페이크 대상이 되지 않도록 방지하는 기술들도 개발되고 있다.
전남대 유석봉 교수 연구팀은 최근 ‘딥 프로텍트’ 기술을 개발했다. SNS에 게시한 사진을 타인이 딥페이크로 합성하려 하면 원본 사진 자체를 왜곡시켜 의도와 다른 결과물이 만들어지도록 하는 기술이다. 유 교수는 “그간 디지털 성범죄 피해가 이미 발생한 다음 사후 처리하는 식의 대응이 많았다면 향후 선제적으로 피해를 막을 수 있을 것으로 기대한다”고 말했다. 서울시도 최근 SNS에 게재된 성착취물을 AI가 24시간 모니터링해 삭제하는 기술을 전국 기관에 보급한다고 발표했다.
궁극적으론 여성에 대한 성적 대상화 자체를 젠더 폭력으로 인식하는 사회적 분위기가 만들어져야 한다는 지적이 나온다. ‘가상의 여성이라면 괜찮지 않은가’라던가 ‘성적 수치심이 느껴지는 신체 부위가 포함되지 않으면 괜찮지 않은가’라는 식의 인식이 딥페이크·AI 성착취 기저에 깔려있다는 점을 직시해야 한다는 것이다.
김수아 서울대 언론정보학과 교수는 보고서에서 “성인에게는 ‘야동’ 볼 권리가 있다는 인식 속에선, 여성의 성적 대상화가 문제되는 영역이 청소년 보호에 국한될 수 있다”며 “기술을 매개로 한 젠더 기반 폭력의 양상들이 성적 대상화와 여성혐오에 기초한 폭력이자 젠더 구조의 불평등성에 기인하고 있다는 것을 인식할 수 있는 교육 내용이 필요하다”고 했다.
미국·이스라엘과 이란 간 전쟁으로 촉발된 중동 에너지 위기의 최대 수혜국으로 러시아가 거론되고 있다.
미 월스트리트저널(WSJ)은 7일(현지시간) “지난주까지만 해도 구매자를 찾기 어려웠던 러시아산 원유가 최근 인기 상품으로 떠올랐다”고 보도했다. 러시아산 원유에 대한 제재가 일부 완화되면서 인도 등이 거래를 재개할 수 있게 됐고, 유가와 천연가스 가격 급등이 러시아 생산업체들의 수익 증가로 이어지고 있다는 것이다.
이미 인도에서 러시아 원유를 구매할 때 적용되던 큰 폭의 할인도 줄어들기 시작했다. 일부 트레이더는 국제 기준 가격보다 높은 가격에 러시아산 원유를 판매하려는 움직임까지 보인다고 이 신문은 전했다.
러시아는 세계 최대 석유 수출국 가운데 하나다. 2022년 2월 우크라이나를 침공하기 전까지 러시아는 미국과 사우디아라비아에 이어 세계 3위 석유 생산국이었으며, 서방의 제재 속에서도 지난해 세계 3대 원유 수출국 지위를 유지했다.
다만 그동안 러시아산 원유는 대폭 할인된 가격에 판매되며 산업 수익이 크게 줄었고, 러시아의 전쟁 자금 조달에도 타격을 줬다. 실제로 올해 1월 러시아의 석유·가스 수입은 2020년 7월 이후 최저 수준을 기록했다. 최근 유가 상승은 이러한 재정 압박을 완화하고 침체 국면에 있던 러시아 경제를 다시 끌어올릴 가능성이 있다는 분석이 나온다. 블라디미르 푸틴 러시아 대통령도 최근 에너지 시장 변화에 자신감을 드러냈다. 푸틴 대통령은 지난 4일 언론 인터뷰에서 “이제 다른 시장이 열리고 있다”고 말했다.
선박 추적 데이터 업체 클레퍼의 원유 분석가인 나빈 다스는 WSJ에 “미국과 이란 간 갈등이 길어질수록 세계는 러시아 원유에 점점 더 의존하게 될 것”이라고 말했다.
이 가운데 러시아가 중동 내 미군 자산 위치를 이란에 제공하는 등 분쟁에 간접적으로 관여하고 있다는 보도도 나오고 있다. 워싱턴포스트와 파이낸셜타임스는 전날 복수 소식통의 말을 인용해 러시아가 중동 지역 미군 자산의 위치, 즉 군용기와 군함 등의 위치 정보를 이란에 제공했다고 보도했다. 다만 캐럴라인 레빗 백악관 대변인은 이 같은 보도를 일축했다. 그는 “이란에서의 군사작전과 관련해 러시아 정보가 아무런 차이를 만들지 못하고 있다”며 “우리는 그들을 완전히 압도하고 있기 때문”이라고 말했다.

이전글경주이혼전문변호사 경찰, ‘색동원 사건’ 시설 관계자 8명 추가 내사 26.03.10
다음글출장용접 이혼전문변호사 폰테크 26.03.10

댓글목록

등록된 댓글이 없습니다.

홈페이지제작 명령어 하나면 30초 만에 ‘성착취 이미지’ 만드는 AI···진짜 문제는 ‘여성 성적 대상화’ > 공지사항

공지사항

페이지 정보

본문

댓글목록

회원로그인