폰테크 사이트 앤트로픽·오픈AI 이어 메타까지…가짜 신분으로 외부 기관 ‘자율 해킹’ > 공지사항

폰테크 사이트 앤트로픽·오픈AI 이어 메타까지…가짜 신분으로 외부 기관 ‘자율 해킹’

페이지 정보

작성자 행복이이
댓글 0건 조회 3회 작성일 26-08-11 00:23

본문

폰테크 사이트 앤트로픽의 최첨단 인공지능(AI) 모델이 테스트 도중 가짜 신분으로 사람을 속이고 악성 코드를 심으려 하는 등 이상행동을 보인 것으로 나타났다.
영국 인공지능보안연구소(AISI)는 앤트로픽과 오픈AI 모델을 시험한 결과 이들 모델이 승인되지 않은 작업을 수행하면서 ‘사회공학 기법’을 사용한 사실을 처음 확인했다고 5일(현지시간) CNN이 보도했다. 사회공학 기법은 인간의 심리적 취약점을 이용해 정보를 얻어내는 공격 방법으로 피싱이 대표적이다. AISI는 “실제 사람을 대상으로, 아무 지시 없이 이처럼 심각한 수준의 사기 행위가 확인된 것은 처음”이라고 했다.
AISI는 최근 보고서에서 122번의 사이버 보안 테스트 중 10차례 AI 에이전트가 자율적으로 행동하며 사람과 조직을 표적으로 삼았다고 했다. 앤트로픽 미토스 5 모델에서 다수 사례가 발견됐으며 오픈AI의 GPT-5.6 솔 모델에서도 비슷한 일이 발생했다. 아직 실제 피해 증거는 파악되지 않았다.
테스트에서 이들 AI 에이전트는 오픈소스 프로젝트에 악성 코드를 심으려 했다. 여러 개의 가짜 신분을 만들었고, 실제 사람에게 메시지와 파일을 보내 그 사람의 AI 코딩 도구가 악성 코드를 실행하게 하려 했다. 이 시도가 실패하자 고의로 이뤄진 일이 아닌 것처럼 이전 기록을 수정했다. 관리자가 악성 코드를 발견하면서 AI의 시도는 무위에 그쳤다.
테스트는 안전성 평가를 위해 AI 에이전트의 인터넷 접근 권한 등을 허용하고 안전장치를 제거한 조건에서 이뤄졌다. 앤트로픽은 엑스에서 “(실험) 모델들은 실제 상용 모델과는 다르게 의도적으로 통제되지 않은 환경에서 시험받았다”며 “자체 조사를 진행하면서 AISI와 긴밀하게 협력해 이번 사건의 세부 정황을 파악하고 있다”고 밝혔다.
최근 메타에서도 자체 테스트 과정에서 비슷한 문제가 나타났다.
사이버 보안 전문가 마크 로저스는 폴리티코에 “이런 공격이 인간 소행이었다면 명백히 기소됐을 것”이라며 “컴퓨터 보안법 개정을 논의해야 할 때”라고했다.
경북도는 ‘보상과 보호’ 중심의 적극행정 체계를 추진한다고 10일 밝혔다.
경북도는 행정 업무 과정에서 적극적으로 일한 직원에게는 확실한 보상을 제공하고, 업무 추진 과정에서 발생할 수 있는 부담은 보다 덜어주는 방향으로 정책을 추진할 방침이다.
도는 기존 우수공무원 선발 중심의 보상책에서 벗어나 일상적인 적극행정 실천 움직임을 즉시 보상하는 ‘적극행정 마일리지제’를 새롭게 도입한다.
이 제도는 팀장급 이하 공무원을 대상으로 적극적인 민원 처리와 협업, 아이디어 발굴, 제도·절차 개선, 적극행정 홍보 등 업무 과정에서의 실천 사례를 마일리지 형태로 적립시키는 것을 주요내용으로 한다.
경북도는 누적된 마일리지에 따라 온누리상품권을 지급해 직원들의 자발적인 적극행정 실천을 유도할 계획이다.
또한 업무 추진 과정에서 감사·징계·수사·소송 등을 겪게 되는 공무원을 체계적으로 지원하는 ‘적극행정 보호관제’도 시행된다. 지금까지 법무혁신담당관이 지정돼 수행했던 면책보호관의 역할이 확대된다.
기존 감사 단계 중심의 보호를 넘어 적극행정 전 과정에서 공무원이 안심하고 일할 수 있는 보호체계를 만든다는 게 경북도의 구상이다. 이와 함께 적극행정위원회 운영을 활성화하고, 사전컨설팅 제도도 확대해 불명확한 법령이나 규제로 공무원이 업무 추진을 주저하지 않도록 돕는다.
이밖에 경북도는 적극행정 우수공무원 선발과 인센티브도 확대하고 우수사례 경진대회 및 교육, 주민 참여 등을 통해 적극행정 문화를 조직 전반으로 확산해 나갈 계획이다.
황명석 경북도 행정부지사는 “급변하는 행정환경에서는 공무원의 적극적인 도전과 창의적인 업무 추진이 무엇보다 중요하다”며 “적극적으로 일한 공무원은 확실히 보상하고, 이 과정에서 발생하는 부담은 끝까지 보호해 적극행정이 공직사회에 자연스럽게 정착될 수 있도록 지원하겠다”고 말했다.

이전글비아그라를 구매하기 전에 건강 상태를 확인해야 하나요? 26.08.11
다음글비아그라 구매 시 가장 많이 하는 실수는 무엇인가요? 26.08.11

댓글목록

등록된 댓글이 없습니다.

폰테크 사이트 앤트로픽·오픈AI 이어 메타까지…가짜 신분으로 외부 기관 ‘자율 해킹’ > 공지사항

공지사항

페이지 정보

본문

댓글목록

회원로그인