수원성범죄전문변호사 앤트로픽 “AI, 재앙급 위협 초래 가능” > 공지사항

수원성범죄전문변호사 앤트로픽 “AI, 재앙급 위협 초래 가능”

페이지 정보

작성자 행복이이
댓글 0건 조회 0회 작성일 26-10-06 04:16

본문

수원성범죄전문변호사 앤트로픽이 기업공개(IPO)를 앞두고 인공지능(AI) 에이전트가 사고를 내면 회사가 소송당할 수 있다고 투자자들에게 경고했다. AI가 인류에 “재앙적 또는 실존적 위험”을 초래할 수 있다고도 밝혔다.
29일(현지시간) 로이터가 입수한 앤트로픽의 비공개 IPO 투자설명서에 따르면, 앤트로픽은 AI 에이전트가 오류·오작동·해킹으로 고객의 데이터를 지우거나 금융거래를 실행하는 등 되돌릴 수 없는 사고를 낼 수 있다고 밝혔다. 이 AI 에이전트는 고객 회사의 시스템에 깊숙이 들어가 며칠씩 스스로 일하도록 설계돼 있다.
앤트로픽은 이런 사고의 책임을 누가 지는지는 법적으로 정해지지 않았다고 설명했다. 에이전트의 행동을 제품으로 볼지 서비스로 볼지, 사용자의 행동으로 볼지도 불분명하다는 것이다.
이 때문에 고객과 사용자로부터 “중대하고 예측할 수 없는” 소송에 휘말릴 수 있다고 봤다.
안전장치가 있는데도 자사 모델이 자해나 타인을 향한 폭력으로 이어질 수 있는 방식으로 쓰인 적이 있다는 사실도 앤트로픽이 공개했다.
투자설명서 261쪽 가운데 위험요인이 약 80쪽을 차지한다. 사업 설명(48쪽)의 2배에 가까운 분량이다. 여기에는 첨단 AI가 인류에 “재앙적 또는 실존적 위험”을 초래할 수 있다는 경고가 담겼다. AI 모델이 ‘자기보존 행동’을 보이며 종료에 저항하거나 정보를 숨기거나 조작할 수 있다는 내용이 포함됐다.
안전성 검증의 한계도 인정했다. 앤트로픽은 “모델이 평가 작업을 인지할 가능성은 AI 안전성을 평가하는 능력에 중대한 한계가 된다”고 밝혔다. 모델이 시험받는다는 것을 알아채면 평소와 다르게 행동할 수 있다는 의미다.
앤트로픽은 그동안 AI의 통제 위험을 꾸준히 경고해왔지만, 이를 공식 투자위험으로 올린 것은 이례적이다.
위험을 미리 알려두면 향후 투자자 소송에 대응하기 쉽다는 점이 고려된 것으로 보인다.
투자설명서에는 막대한 투자 부담도 담겼다. 앤트로픽은 향후 약 10년간 구글·아마존 등과 최소 5180억달러(약 702조2000억원) 규모의 컴퓨팅 계약을 맺었다. 이 가운데 약 80%는 취소할 수 없거나 사용량과 관계없이 지급해야 하는 약정이다. 지난해 매출은 약 46억달러로 12배 늘었지만 영업손실은 80억달러를 넘었다.
로이터는 앤트로픽이 오는 11월 미국 중간선거 이후 상장할 가능성이 크며, 기업가치가 2조달러를 넘을 수 있다고 전했다. 이번 투자설명서는 공개 전 초안이라 내용이 바뀔 수 있다.
파출소를 찾아와 범행을 자백한 운전자를 추격해 붙잡은 것처럼 허위 서류를 작성해 불법 체포한 경찰 간부가 재판에 넘겨졌다.
대구지검 의성지청은 직권남용체포, 공전자기록등위작, 위작공전자기록등행사, 형사사법절차 전자화 촉진법 위반 혐의로 경북 지역 한 경찰서 A 경감을 지난달 30일 불구속기소 했다고 1일 밝혔다.
A 경감은 지난 5월 22일 파출소에 자진 출석한 뺑소니 사고 피의자 B씨를 마치 현장에서 긴급체포한 것처럼 허위로 기재한 혐의를 받는다.
B씨는 지난 5월 22일 자정쯤 음주 상태로 교통사고를 내고 현장을 벗어난 혐의를 받고 있다. 사고 피해자는 이후 숨졌다.
경찰은 차량 번호를 토대로 B씨의 주거지를 찾아갔고, 이를 알게 된 B씨는 같은 날 오후 6시쯤 파출소에 출석했다. 경찰서로 임의동행한 B씨는 음주운전과 뺑소니 혐의 등을 자백했다.
그러나 A 경감은 같은 날 오후 10시 30분쯤 B씨를 긴급체포했다. A 경감은 긴급체포서에 같은 날 오후 6시16분쯤 파출소 앞에서 B씨를 검거한 것처럼 체포 일시와 장소 등을 허위 기재한 것으로 조사됐다.
검찰은 당일 경찰이 요청한 긴급체포 승인 건을 검토하다 경위가 명확하지 않은 점을 발견하고 소명을 요구했다. 그러나 경찰은 긴급체포 승인을 다시 요청했고, 검찰은 이튿날 새벽 이를 승인하지 않고 B씨를 석방하도록 했다.
이후 사건을 송치받은 검찰은 B씨가 자진 출석한 상태여서 도주나 증거인멸 우려 등 긴급체포 요건이 충족되지 않았다고 판단했다.
또 A 경감이 현장에서 B씨를 추격해 긴급체포한 것처럼 관련 기록을 허위로 작성한 사실을 확인했다.
검찰은 A 경감의 처분을 두고 검찰시민위원회에 심의를 요청했다. 위원회는 만장일치로 기소 의견을 냈다. 이에 따라 검찰은 지난달 30일 A 경감을 불구속기소했다.
B씨는 뺑소니 사망사고 혐의로 불구속기소됐다.
신은식 의성지청장은 “보완수사가 없어지는 상황에 일차적으로 기록을 보고 판단해야 하는데, 경찰이 기록에 허위 사실을 기재하는 것은 엄히 처벌하는 게 맞다고 판단했다”고 말했다.

댓글목록

등록된 댓글이 없습니다.

수원성범죄전문변호사 앤트로픽 “AI, 재앙급 위협 초래 가능” > 공지사항

공지사항

페이지 정보

본문

댓글목록

회원로그인