구구정구입 [산업이지] ‘여성·아동 성착취 이미지’ 생성·유포···선넘은 머스크의 ‘그록’ > 공지사항

구구정구입 [산업이지] ‘여성·아동 성착취 이미지’ 생성·유포···선넘은 머스크의 ‘그록’

페이지 정보

작성자 행복이이
댓글 0건 조회 62회 작성일 26-01-10 20:54

본문

구구정구입 “나는 ‘설마 이게 진짜일 리 없다’고 생각했다. 그래서 내 어릴 적 사진으로 테스트를 해봤다. 진짜였다. 정말 역겹다.”
영국의 한 프리랜서 저널리스트는 지난 2일 엑스(X)에 이 같은 글과 함께 이미지를 공유했습니다. 그가 올린 이미지에는 엑스 내에서 제공하는 인공지능(AI) 서비스 ‘그록(Grok)’이 “그녀의 옷을 비키니로 바꿔 달라”는 요청에 따라 소녀를 비키니 차림으로 바꾼 결과물이 담겨 있었습니다. 원피스와 가디건을 입고 찍은 유년시절 사진이 감쪽같이 바뀐 겁니다.
그록의 성착취 이미지 생성·유포를 둘러싼 논란이 이어지고 있습니다. AI 기술 발전의 이면에 가려진 안전장치 부재와 책임 공백이 수면 위로 떠오른 셈입니다.
한때 ‘트위터’로 불리던 SNS 엑스와 생성형 AI 챗봇 그록은 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 AI 기업 ‘xAI’에서 운영합니다. 엑스 서비스 내에서 그록을 이용할 수 있습니다.
지난달 말 그록에 ‘이미지 편집’ 기능이 추가되면서 성적 허위 이미지(딥페이크)를 손쉽게 만들 수 있다는 문제 제기가 쏟아졌습니다. 이 기능은 엑스 이용자가 이미지가 포함된 글에 댓글로 그록을 태그해 수정을 요청하면, 원본 당사자의 동의 없이 그록이 이미지를 생성해 올려주는 방식입니다.
예를 들어 누군가 내가 올린 사진을 마음대로 속옷 차림으로 바꿀 수 있고, 이를 다른 이용자들도 볼 수 있다는 거죠. 그록은 인물을 완전한 나체로 바꾸는 건 금지하지만, 타 서비스보다 검열이 느슨한 것으로 알려져 있습니다.
유럽 비영리 단체 ‘AI 포렌식스’가 지난해 12월25일부터 이달 1일 사이 그록이 생성한 무작위 이미지 20만개를 분석해보니 53%는 속옷, 비키니 등 최소한의 옷만 입은 인물을 담고 있었습니다. 이 가운데 여성으로 보이는 인물 비중은 81%에 달했습니다. 전체 이미지의 2%는 18세 이하로 보이는 인물이었습니다. 그록이 생성한 이미지 중에는 나치와 이슬람 극단주의 무장단체 이슬람국가(ISIS) 선전물도 있었습니다.
그록 측은 지난 2일 이용자가 문제를 제기한 글에 “보호장치에 결함이 있음을 확인하고 긴급히 바로잡고 있다. 아동 성착취물은 불법이며 금지돼 있다”고 밝혔습니다. 이튿날에는 머스크가 다른 게시물에 댓글을 달아 “그록을 이용해 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 업로드했을 때와 동일한 제재를 받게 될 것”이라고 했습니다. 엑스 측은 불법 콘텐츠에 대해 콘텐츠 삭제와 계정 영구정지 조치를 하고 필요한 경우 사법 당국과도 협력한다고 알렸습니다.
국내에서도 AI를 이용해 음란물을 제작·유포할 경우 성폭력처벌법, 청소년성보호법 등으로 처벌받을 수 있습니다. 다만 지난해 AI로 만든 노출 사진은 피해자가 특정되지 않는 한 성폭력처벌법상 허위영상물 유포죄로 처벌할 수 없다는 법원 판결이 나오면서 입법 보완이 필요하다는 지적이 나오기도 했습니다.
머스크와 xAI가 자신들의 책임은 축소하고 이용자들에게 책임을 돌리고 있다는 지적도 나옵니다. xAI는 ‘사용 제한 정책’을 통해 “인물을 음란한 방식으로 묘사하는 행위”와 “아동의 성적 대상화 또는 착취”를 금지하고 있습니다. 하지만 xAI는 그동안 검열이 낮다는 점을 홍보하며 이용자들을 끌어모았습니다. 최근 엑스의 이용자 참여도가 사상 최고 수준을 기록했다고 하네요.
현재 유럽연합(EU), 영국, 인도, 말레이시아 당국 등이 그록의 성착취 이미지 생성 문제를 들여다보고 있습니다.
미국 매체 악시오스는 이번 논란에 대해 “챗봇의 결과물로 인한 피해를 과연 누가 책임을 지느냐는 문제를 드러냈다”고 평가했습니다. CNN은 “사회에서 가장 취약한 이들을 보호하기 위한 충분한 안전장치 없이 결합된 AI와 SNS가 얼마나 위험할 수 있는지 보여준다”고 했습니다.
2020년 근로감독 때 정보 획득·실무진 접촉 정황 ‘e메일’로 들통감독관 접촉 후 처벌 항목 ‘10개 → 8개’…쿠팡·당국 유착 의혹 확산
쿠팡이 2020년 고용노동부 근로감독을 받는 과정에서 노동부 실무진과 접촉했고, 그 이후 쿠팡 계열사의 형사처벌 대상 항목이 축소된 정황이 내부 e메일을 통해 확인됐다.
쿠팡은 김앤장 법률사무소와 청와대 행정관 출신 임원 등 ‘대관 라인’을 동원해 노동부 내부 정보를 획득하고, 정보를 교차 검증하는 치밀함도 보였다. 노동부 당국자들이 쿠팡과 유착했다는 논란이 더욱 커질 것으로 전망된다.
8일 경향신문이 쿠팡에서 개인정보보호최고책임자(CPO)로 일했던 A씨 측을 통해 입수한 내부 e메일을 보면, 쿠팡은 2020년 10월 대구·칠곡 물류센터에서 발생한 장덕준씨 사망사고와 관련해 당시 노동부 움직임을 김앤장과 사내 대관 조직을 통해 실시간으로 파악했다. 입수한 정보는 외국인 최고행정책임자(CAO) 등 경영진에게 보고됐다. 회사 차원에서 노동자 사망사고를 조직적으로 관리했다는 뜻이다.
2020년 11월3일 작성된 e메일에는 “K&C(김앤장)가 ‘노동부 내부 소스(MOEL inside source)’로부터 대구 FC(물류센터) 사망사고로 인해 쿠팡과 CFS(쿠팡풀필먼트서비스)에 대해서만 조사가 진행돼야 한다고 들었다”고 적었다. 노동부가 조사를 공식 통보하기 전에 정보가 쿠팡 측에 새어나간 것으로 의심되는 내용이다. 쿠팡은 해당 정보를 교차 검증하는 치밀함도 보였다. e메일에는 “이 보고가 B의 보고와 다르다”며 “김앤장에 내일 오전까지 좀 더 정확한 소스를 알아봐달라고 부탁했다”고 나온다. B는 당시 쿠팡이 영입한 청와대 출신 전 행정관을 지칭한다.
김앤장은 경향신문의 문의에 답변하지 않았다. B씨는 “해당 정보를 노동부에서 들은 건지, 국회에서 들은 건지 정확히 기억이 나지 않는다”며 “만약 내가 전달한 것이 맞다면 국회 쪽에서 흘러나온 얘기를 들었을 가능성이 크다”고 말했다.
2020년 11월13일 작성된 ‘노동부 감사 결산(MOEL Audit wrap up)’ e메일을 보면, 쿠팡 임원들은 전날 밤 노동부 C과장의 연락을 받고, 이날 오전 9시 D팀장(근로감독관)을 만났다. 이들이 논의한 것은 노동부가 쿠팡 물류 현장을 대상으로 진행해온 산업안전보건(K-OSHA) 감독 결과였다.
D팀장은 쿠팡 측 ‘식사 접대’ 의혹과 관련해 노동부 감사를 받는 당사자로 알려졌다.
해당 만남 이후 CFS 기준 10개였던 쿠팡 물류센터 내 안전·보건 위반 형사처벌 항목이 8개로 줄었다. e메일에는 “동탄 물류센터의 컨베이어 관련 지적 3건이 1건으로 ‘통합’되면서 최종 항목 수가 줄었다”고 설명돼 있다. D팀장은 쿠팡에 “컨베이어 안전 관련 위반은 쿠팡은 1건인데 경쟁사는 77건”이라며 다른 업체 정보까지 전달했다. 쿠팡의 한 고위 임원은 e메일에서 “지금까지 들은 것 중 가장 흥미로운 점은 경쟁사는 77건이 발견됐지만, 우리는 1건밖에 없다는 사실”이라고 자찬했다. 쿠팡은 해당 e메일 내용의 진위와 로비 의혹을 묻는 질문에 답변하지 않았다.

이전글수원상간녀변호사 이번엔 대기번호 90만번 아니겠지?···코레일, 설 열차 승차권 15일부터 예매 26.01.10
다음글서울탐정사무소 출장용접 26.01.10

댓글목록

등록된 댓글이 없습니다.

구구정구입 [산업이지] ‘여성·아동 성착취 이미지’ 생성·유포···선넘은 머스크의 ‘그록’ > 공지사항

공지사항

페이지 정보

본문

댓글목록

회원로그인