평택학교폭력변호사 한번 풀면 회수 불가, 안전장치도 허술…금융권 해킹이 드러낸 ‘개방형 AI’ 딜레마 > 공지사항

평택학교폭력변호사 한번 풀면 회수 불가, 안전장치도 허술…금융권 해킹이 드러낸 ‘개방형 AI’ 딜레마

페이지 정보

작성자 행복이이
댓글 0건 조회 1회 작성일 26-10-11 23:43

본문

평택학교폭력변호사 국내 금융권 해킹에 쓰인 오픈소스 인공지능(AI) 도구의 개발자가 공개를 중단했지만 복사본은 여전히 유통되고 있는 것으로 나타났다. 누구나 가져다 고쳐 쓸 수 있는 개방형 AI의 경우, 한번 풀린 기술은 악용돼도 막기 어려워 사용의 편의성 못지 않게 안전성 역시 중요하게 확보해야 한다는 지적이 나온다.
11일 업계에 따르면 중국산 AI 에이전트 ‘아르텍스(ARTEX)’ 개발자는 지난 8일 프로젝트를 비공개로 전환했다. 미국 보안업체 크라우드스트라이크가 아르텍스를 국내 금융권 해킹 도구로 지목한 지 하루 만이다. 아르텍스는 원래 보안 취약점을 점검하라고 공개된 오픈소스 프로그램이지만 공격자는 여기에 딥시크 등 AI 모델을 온라인으로 연결해 해킹을 자동화한 것으로 알려졌다.
하지만 깃허브에는 공개가 중단되기 전 아르텍스 코드를 복사하거나 개조한 저장소들이 지금도 남아 있다. 프로젝트를 비공개로 돌려도 이미 내려받은 프로그램을 쓰거나 다른 곳에 다시 올리는 것까지 막을 수는 없기 때문이다. 공식 배포와 업데이트는 중단됐지만 기존에 퍼진 복사본까지 회수하지 못한 것이다.
이렇게 한번 공개하면 회수하기 어려운 AI 모델도 빠르게 늘고 있다. 세계 최대 AI 모델 공유 플랫폼 허깅페이스에 따르면 공개 모델 저장소에 올라온 모델은 이날 기준 약 314만개로 1년 전(약 213만개)보다 48% 늘었다. 원본 모델은 물론 이를 가볍게 줄이거나 특정 분야에 맞춘 파생 모델까지 합한 수치다. 확산을 이끄는 것은 딥시크와 알리바바 ‘큐원’처럼 AI의 학습 결과물인 가중치를 공개한 ‘오픈웨이트’ 모델이다. 기업은 이를 자체 서버에서 돌릴 수 있어 데이터를 외부로 내보낼 필요가 없고 사용료 부담 없이 업무에 맞게 고쳐 쓸 수 있다. 특정 빅테크에 대한 의존을 줄일 수 있다는 점도 확산 배경으로 꼽힌다.
문제는 내려받은 모델이 어디에 쓰이는지 개발사도 알기 어렵다는 점이다. 지난 2월 나온 ‘국제 AI 안전 보고서’도 공격자가 오픈웨이트 모델을 인터넷 연결 없이 사용하면 개발사의 감시를 피할 수 있다고 지적했다. 폐쇄형 AI는 악용 징후가 포착되면 개발사가 계정을 막을 수 있지만 오픈웨이트 모델은 이용자가 안전장치를 제거하더라도 이를 알아채기가 어렵다.
안전장치 자체도 쉽게 무력화된다. 미국 카네기멜런대 등 연구진이 지난 5월 발표한 논문에 따르면 안전장치를 강화한 오픈웨이트 모델도 간단한 기법으로 공격하자 유해 요청에 응하는 비율이 10% 미만에서 최대 96%로 치솟았다. 실제로 허깅페이스에는 안전장치 제거(abliterated) 태그가 붙은 저장소가 1만1600여개 올라와 있다.
이처럼 공개 이후에는 개발사의 통제가 어려워 일부 AI 기업은 모델을 자유롭게 내려받을 수 있도록 하기 전에 악용 위험을 점검하고 있다. 프랑스 AI 기업 미스트랄은 신형 모델을 우선 자사 서버를 통해 제공하고 보안 전문가 등의 시험을 거쳐 오는 27일 가중치를 공개할 계획이다.
임종인 고려대 정보보호대학원 교수는 “중국 AI 개발사들은 악용에 대한 경각심이 상대적으로 크지 않고, 실제 AI 모델도 너무 쉽게 안전장치를 우회할 수 있게 설계된 건 사실”이라고 했다. 다른 국내 AI업계 관계자는 “출시 전 안전장치를 마련한다고 하지만 실제로 어떤 검증을 했는지 외부에서 확인할 방법이 없다”며 “아직은 기업이나 국가의 선의에 맡기는 부분이 많다”고 했다.
“진실 추구·권력 감시는 경향이 지켜온 가치”…이 대통령 “진실 통해 세상 잇는 다리 되길” 축사
경향신문이 창간 80주년을 맞은 6일 종합 지식미디어그룹으로의 도약을 선언했다. 사실 보도와 권력 감시라는 경향신문의 가치와 철학을 지키면서 지식 창출 기업, 정보·데이터 해석 플랫폼으로 나아가겠다는 의지를 밝혔다.
경향신문은 이날 오후 서울신라호텔에서 창간 80주년 비전 선포식을 열고 이런 내용의 미래비전을 밝혔다.
박종성 경향신문 사장은 기념사에서 “사실 확인과 진실 추구, 권력 감시와 약자 목소리 경청, 독자에게 신뢰받는 언론. 이것이 지난 80년 동안 경향이 지켜온 가치이며 앞으로도 결코 포기해서는 안 될 우리의 존재 이유”라고 말했다.
박 사장은 이어 미래비전을 선언했다. 그는 “신문을 만드는 회사에서 지식을 만드는 기업으로, 뉴스를 전달하는 언론에서 정보와 데이터의 의미를 해석하는 플랫폼으로, 사람과 사회, 산업과 미래를 잇는 종합 지식미디어그룹으로 나아가겠다”고 밝혔다.
미래비전에는 신뢰·지식·공존이라는 3대 핵심 가치, 경향신문·스포츠경향·경향TV에 새로 창간할 매체를 더한 4대 미디어 엔진의 성장 전략, 신성장동력 확보를 위한 인수·합병(M&A) 전략 등이 담겼다.
비전 선포식에는 정·재계를 비롯한 각계 인사 300여명이 참석해 경향신문의 지난 80년을 함께 돌아보고 축하를 전했다.
이재명 대통령은 축사에서 경향신문의 여정을 두고 “노동 현장의 목소리와 사회적 약자의 아픔을 대변하면서 우리 사회의 낮은 곳을 지켜왔다”면서 “저널리즘의 본질인 진실을 통해 세상을 잇는 든든한 다리가 되어, 우리 사회가 갈등과 분열을 넘어 공감과 이해가 확대되는 공동체로 나아가는 데 기여해주길 바란다”고 밝혔다. 이 대통령 축사는 강훈식 대통령비서실장이 대독했다.
행사에는 남인순 국회부의장, 한병도 더불어민주당 원내대표, 장동혁 국민의힘 대표, 오세훈 서울시장 등이 참석했다.
남 부의장은 축사에서 “‘진실 보도’의 정신으로 앞으로의 100년을 이끄는 나침반이 되어달라”고 말했다. 한 원내대표는 “80년 동안 지켜온 원칙을 변함없이 지켜달라”고, 장 대표는 “불편한 언론이 되어달라”고 당부했다. 오 시장은 “오랜 세월 쌓은 신뢰를 바탕으로 더 큰 역사를 이어가시기 바란다”고 말했다.
경향신문은 진실 보도를 기치로 1946년 창간해 한국 현대사의 굴곡을 함께해왔다. 1998년 사원주주회사로 전환해 권력과 자본의 압력을 벗어난 독립언론으로 거듭난 뒤 이날 창간 80주년을 맞았다.
이 대통령 ‘조국 입장 번복’ 비판 등청·강경파, 서로 과거 발언 꼬투리
이재명 대통령이 조국혁신당 등 검찰개혁 강경론자들이 과거 입장을 바꿨다고 지적하면서 때아닌 보완수사권 존치를 둘러싼 청와대와 범여권 강경파 간 공방이 확산하고 있다. 지난 2일 중대범죄수사청·공소청 출범으로 검찰의 수사·기소 분리를 뼈대로 한 제도개혁은 마무리됐지만, 범여권 내에서 과거 발언을 끄집어내 상대의 개혁 의지를 문제 삼는 논쟁이 이어진 것이다. 양측 모두 소모적 공방을 멈추고 제도 안착에 집중해야 한다는 목소리가 나온다.
논쟁의 발단은 이 대통령이 지난 5일 SNS에 올린 글이었다. 이 대통령은 엑스에 “조국혁신당은 물론 검찰개혁 주장자 대부분이 법무부 내에 수사 담당 중수청, 기소 담당 공소청을 두자고 했다. 공소청에 보완수사권을 주자는 주장과 함께”라고 적었다. 조국 혁신당 혁신정책연구원장이 과거에는 보완수사권 존치를 주장하다가 입장을 바꿨다고 지적한 것이다.
이 대통령은 또 다른 글을 통해 “검찰개혁을 빙자해 사심으로 인사와 구체적 수사·공소 업무까지 좌지우지하려 해서는 안 될 것”이라고 밝혔다. 김지용 중수청장 후보자를 ‘친윤석열·반검찰개혁 인사’로 규정하며 반대해온 범여권 강경파를 겨냥한 발언으로 해석됐다.
이는 청와대와 혁신당 사이의 공방으로 번졌다. 청와대 대변인실은 그날 오후 11시21분 공지를 통해 “조국 전 대표는 2025년 8월29일 <장윤선의 취재편의점>에 출연해 조건을 붙여 ‘보완수사가 인정되어야 한다는 입장’임을 스스로 밝힌 바 있다”고 했다.
혁신당 “청의 정치 행위 우려”추미애 “정권 사익” 우회 비판김민석 “과한 주장, 제어할 때”일각선 “대통령 말이 논란 키워”
청와대는 “혁신당 역시 보완수사권과 같은 세부 사항에 대해 거듭 입장을 바꾸어온” 만큼, “작은 차이에 쇄말(아주 작음)적으로 매달리기보다 이미 불가역적으로 진행된 검찰개혁 완수 과정에 함께해달라”고 했다.
혁신당은 반박에 나섰다. 조 원장은 6일 페이스북에서 자신이 과거 예외적인 보완수사권 허용을 언급한 것은 공소시효가 임박했거나 사법경찰관이 정당한 사유 없이 반복적으로 수사에 불응하는 등 사법적 비상상황에 한정한 것이라고 밝혔다. 조 원장은 국회에서 기자들과 만나 “국회에서 법률이 통과해 (검찰개혁이) 끝났는데 과거의 입장이 뭐였냐를 묻는 게 지금 무슨 의미가 있나”라며 “소모적”이라고 말했다.
임명희 혁신당 대변인은 논평에서 청와대가 혁신당의 과거 발언을 떼어내 “입장 번복 프레임”을 만들고 있다고 반발했다. 논평 초안에는 청와대의 대응이 “민주개혁 진영의 개혁 블록을 흔들려는 속내라면 이는 대단히 위험한 정치 행위”라는 문구까지 담겼다가 최종본에서 삭제됐다. 혁신당은 최종 논평에서 “청와대가 정치적 의도를 관철하기 위해 정치 행위에 나선 점에 깊은 우려를 표한다”고 밝혔다.
추미애 경기지사도 이 대통령을 우회적으로 반박했다. 추 지사는 전날 페이스북에 “정권의 사익과 부패 카르텔의 이권이 아니라 진정한 국익과 정의로운 역사를 위해서 누군가는 지치지 말고 묻고 또 묻고 기록하고 기억해야 한다”며 “사실도 왜곡하는 검찰 세력에 치를 떤다”고 적었다. 이 대통령의 ‘사심’ 비판에 맞서 김 후보자 같은 인사를 중용하는 것이 부패 카르텔의 이권이나 정권의 사익에 부합한다는 취지의 반박으로 풀이된다.
여권 내에서는 자제하자는 목소리가 나왔다. 김민석 더불어민주당 대표는 유튜브 <민주당TV>에 출연해 “과한 요구나 주장으로 과거처럼 전체 개혁의 진영과 전선, 대통령 리더십 자체에 훼손이 될 수 있다는 우려가 있다면 당에서 조금 제어할 때가 됐다”고 말했다.
최창렬 용인대 교수는 “제도개혁이 끝난 사안인데 과거의 지나간 발언을 놓고 감정싸움으로 번지는 것은 바람직하지 않다”며 “이 대통령과 강경파 모두 자제와 상호 관용이 필요하다”고 말했다. 최 교수는 “대통령은 (인사권 등에서) 우위에 있는데 양쪽의 갈등으로 비치면 대통령이 갈등의 한 당사자처럼 보일 수 있다”고 했다.
박상병 정치평론가는 여권 강경파를 향해 “중수청이 이미 개청한 상황에서 이제는 후속 조치를 해야 하는데 논의가 더 지체되는 것은 과하다”고 말했다. 이 대통령을 향해서는 “대통령이 말하면 말할수록 논란이 커진다”며 “기자회견에서 한 번 정도 얘기했으면 나머지는 청와대나 당에서 얘기할 문제”라고 했다.

댓글목록

등록된 댓글이 없습니다.

평택학교폭력변호사 한번 풀면 회수 불가, 안전장치도 허술…금융권 해킹이 드러낸 ‘개방형 AI’ 딜레마 > 공지사항

공지사항

페이지 정보

본문

댓글목록

회원로그인