용인강간변호사 MS “기업 내부 AI 에이전트도 믿어선 안돼” AI가 AI 감시 플랫폼 확장 > 공지사항

용인강간변호사 MS “기업 내부 AI 에이전트도 믿어선 안돼” AI가 AI 감시 플랫폼 확장

페이지 정보

작성자 행복이이
댓글 0건 조회 0회 작성일 26-10-25 06:45

본문

용인강간변호사 마이크로소프트(MS)가 기업 외부의 인공지능(AI) 공격 뿐 아니라 기업 내부에서 사용하는 AI 위험까지 막을 수 있도록 보안 플랫폼을 확장했다.
MS는 20일 기업 외부의 AI 기반 공격에 대응하는 기존의 에이전트 기반 보안 플랫폼 ‘프로젝트 퍼셉션’의 기능을 확장해 기업 내부에서 활동하는 AI 에이전트를 감시, 통제할 수 있도록 했다고 밝혔다.
프로젝트 퍼셉션은 기업 내 전 영역에서 AI 에이전트를 탐지해 관리 체계에 편입하고, 에이전트가 시도하는 행동과 관련된 위험을 산정하며 지속적으로 감독한다. 가디언 에이전트 팀은 에이전트의 모든 행동을 24시간 감시하고 위험 수준이 높아지면 실시간으로 정밀 대응한다. 에이전트의 행동을 감독한 뒤 위험이 나타난 원인을 확인할 수 있는 추적 정보도 제공한다.
기존의 AI 보안문제는 외부 해커가 AI 모델을 활용해 공격하는 기업 외부 위험에 주로 초점이 맞춰졌다. 기업 내부에서 사용되는 AI 에이전트는 자체적으로 배포해 사용한다는 이유로 별도의 검증 없이 신뢰하는 경우가 많았다. 하지만 기업 내부에서 사용하는 AI 에이전트도 무조건 신뢰해선 안되고 감시가 필요하다는 게 MS의 시각이다.
하예테 갈로트 MS 시큐리티 총괄 수석 부사장은 이날 공식 블로그에 올린 글을 통해 “에이전트가 기업 환경에 대규모로 도입됐고, 데이터와 시스템에 접근할 수 있으며 핵심 단계에서 결정까지 내릴 수 있는 기업 활동의 능동적 참여자이자 기업 내부자”라며 “이들에 대한 모니터링과 보안이 필요하다”고 했다.
MS는 AI 모델을 통제하는 제어장치는 모델 외부에 있어야 한다는 입장이다. 사티아 나델라 MS 최고경영자(CEO)는 지난 11일(현지시간) “정보의 제공과 정보에 대한 통제권을 분리해야 한다”며 모델 외부의 제어장치 필요성을 설파했다. 모델 스스로 보안 기관 역할을 하도록 해선 안 되고, 별도 감시 시스템을 가동해야 한다는 것이다. MS는 그런 점에서 앤트로픽이 AI가 지켜야 할 행동기준을 담은 ‘클로드 헌법’ 등을 내놓는 데 비판적이다.
강력사건과 관계성 범죄가 사회에 큰 파장을 일으킬 때마다 ‘전수조사 후 대책마련’ 형태의 경찰 대응이 반복되고 있다. 이미 사건이 벌어진 뒤 땜질식 점검에 나설 것이 아니라 치안 관리 역량을 근본적으로 높여야 한다는 지적이 나온다.
20일 경찰에 따르면 현재 전국에서 발생한 스토킹·가정폭력·교제 폭력 사건 등 관계성 범죄 4만3712건에 대한 전수점검을 벌이고 있다. 관계성범죄로 살인사건이 잇따르자 내놓은 조치다.
경찰이 특정 범행관련 전수조사에 나선 것은 올들어서만 여러차례다. 지난 5월 광주에서 여고생을 살해한 장윤기 사건을 계기로 경찰관 가족 사건에 대한 수사 공정성 문제가 불거지자 경찰은 전수조사를 실시하고, 상피제와 순환인사제 등 대책을 마련했다. 지난 8월 제주 실종사건 허위 종결 논란이 불거졌을 때도 경찰은 최근 3년간 종결된 실종사건 약 31만건을 대상으로 전국 단위 전수점검에 나섰다. 실종사건 종결 시 관리자의 승인을 받도록 하는 등 사건 종결 절차와 관리·감독을 강화하는 방안도 내놨다.
매번 사건이 발생할 때마다 유사 사건을 전수조사하고 급하게 대책을 마련하는 방식이 되풀이되고 있다. 전수점검을 통해 기존 업무 과정에서 놓친 문제를 찾아내겠다는 취지지만, 사건이 터지고 나서야 이뤄지는 사후 점검만으로는 근본적인 해결이 어렵다는 지적이 나온다.
임준태 동국대 경찰행정학과 교수는 “계속 사건이 생길 때마다 이것저것 만들고 점검하고 하는데, 이렇게 ‘땜질’식으로 돌아가선 안 된다”며 “경찰의 일반적인 업무 매뉴얼에 포함돼 있었어야 할 일”이라고 말했다. 그는 “부서별로 업무 프로세스에 따라 업무 진행 경과와 성과를 과장들이 챙겨서 상시적으로 점검하는 체계를 갖춰야 한다”며 “공석 상태인 경찰청장의 장기적인 비전과 전략 하에 경찰들이 기본 매뉴얼을 잘 숙지하고, 업무 역량을 향상시키는 게 중요하다”고 했다.
이웅혁 건국대 경찰학과 교수는 “현장에서 가뜩이나 경찰의 업무 부담이 많은데, 전수조사는 부담만 가중시킬 뿐”이라며 “그런 건 평소에 미리 다 분석을 해놨어야 하는 일이고, 전수조사를 통해 근본적인 문제를 찾아 대통령이나 재정경제부에 공식적으로 지원 요청을 하거나 시민이 체감하는 큰 변화를 만들어내지 않는 이상 효과성에 의문”이라고 말했다. 그러면서 “며칠에 한명꼴로 여성들이 죽어가고 있다. 개별 범죄 문제로 대응할 게 아니라 범정부 차원에서 ‘인간 안보’ 문제로 패러다임을 바꿔야 한다”고 강조했다.
곽대경 동국대 경찰행정학과 교수는 전수조사가 경찰의 강력한 대응 의지를 보여주고, 국민들의 불안을 줄여줄 수 있다는 면에서는 긍정적이라고 봤다. 그러면서도 “사전에 미리 시스템을 갖추고 즉시 대응할 수 있는 체제를 갖추지 못했다는 비판을 받을 수 있다”고 했다. 그는 “기본 원칙이나 절차가 현장에서 제대로 지켜지도록 하고, 업무 성과에 따라 잘하면 보상을 하고 잘 못하면 처벌하는 시스템이 엄격하게 이뤄져야 한다”며 “근본적으로는 자질이 있는 경찰을 잘 뽑아서 교육과 훈련을 제대로 시키고, 업무 역량과 전문성을 향상시킬 수 있도록 해야 한다”고 했다.
▼ 최서은 기자 cielo@khan.kr
세계 최대 배터리 기업인 중국 CATL과 중국 최대 통신장비 기업 화웨이가 함께 전기차 배터리 교환 서비스 고도화에 나선다. 차량이 스스로 교환소에 진입하고 배터리를 자동 교체하는 시스템을 구축하는 것이 골자다.
화웨이의 자율주행 계열사인 ‘인왕‘은 20일 중국 배터리기업인 CATL 등과 ‘지능형 전기 충전 생태 전략을 위한 협약’을 체결했다고 밝혔다. 화웨이의 자율주행 시스템을 CATL의 배터리 교환망과 연계하는 것이 골자다.
화웨이의 주행보조 시스템인 ‘첸쿤’과 CATL의 배터리 교환망인 ‘초콜릿 배터리 교환 서비스’를 연결해 차량과 배터리 교환소, 클라우드 간 데이터를 통합한다. 이를 통해 차량이 스스로 에너지 충전의 필요성을 판단하고, 교환소 탐색부터 진입·배터리 교환·출차까지 마칠 수 있게 한다는 구상이다. 화웨이는 배터리 교환 단계에 드는 시간은 99초라고 설명했다.
화웨이는 “자율주행 시대를 겨냥해 이용자가 따로 신경 쓰지 않아도 되는 전력 충전 경험을 구현해 더 다양하고 편리한 교환 서비스를 제공하려는 것”이라고 이번 협약의 취지를 밝혔다. 다만 적용 차종과 서비스 출시 일정 등은 공개하지 않았다.
CATL은 자율주행 시대를 맞아 배터리 경쟁의 전선을 배터리 성능과 충전 속도를 높이는 것을 넘어 ‘이용자가 충전을 신경 쓰지 않아도 되는 차’로 확대하는 것으로 보인다. 미국 전기차 전문매체 일렉트렉 등에 따르면, CATL은 중국 내 약 200개 도시에 2520개 이상의 배터리 교환소를 보유하고 있다. 향후 3만개 이상의 교환소를 세우는 것을 목표로 하고 있다.
전고체 배터리의 상용화가 더뎌지고 있는 점도 이런 판단에 영향을 미친 것으로 보인다. 교환망이 충분히 갖춰지면 배터리 혁신이 없이도 충전 대기 시간과 장거리 이동 부담을 덜 수 있기 때문이다. 쩡위췬 CATL 회장은 올해 6월 열린 하계 다보스포럼에서 “전고체 배터리 기술 성숙도를 1~9단계로 보면 현재는 4단계로, 9단계는 돼야 대량 생산할 수 있다”고 말한 바 있다.
소비자가 기존 충전 방식보다 얼마나 큰 편익을 느끼느냐가 서비스의 성패를 가를 관건이 될 것으로 보인다. 테슬라는 2014년 이미 배터리 자동 교환 모델에 대한 시범사업을 진행했지만, 이후 사업을 중단했다. 당시 일론 머스크 테슬라 최고경영자는 자사 고객 200명에게 이 서비스를 이용할 것을 제안했지만, 관심을 보인 이들은 4~5명 정도에 불과했다고 밝혔다. 차를 타면 중간에 다리도 펴고 화장실도 가고 커피도 마시고 싶은데, 그런 여유를 제공하는 것이 ‘배터리 충전 시간’이라는 취지다.

댓글목록

등록된 댓글이 없습니다.

용인강간변호사 MS “기업 내부 AI 에이전트도 믿어선 안돼” AI가 AI 감시 플랫폼 확장 > 공지사항

공지사항

페이지 정보

본문

댓글목록

회원로그인