오픈AI, 최신 모델 ‘아스트라’ 훈련 중단…‘자율 해킹’ 감시 등 안전 강화 나서
페이지 정보
본문
오픈AI가 최신 모델의 학습 훈련을 2주간 중지하고, 차세대 모델에 대한 대규모 훈련도 보류하기로 했다.
최근 오픈AI 내부 시스템의 에이전트 인공지능(AI)이 무단으로 외부 플랫폼에 침투하는 등 AI ‘자율 해킹’ 우려가 커진 데 따라 안전장치를 강화하는 행보의 일환이다.
오픈AI는 18일(현지시간) 홈페이지에서 출시를 앞둔 AI 모델 ‘아스트라’(Astra)의 학습 훈련을 2주간 중단하기로 했다고 밝혔다.
오픈AI는 AI 모델과 관련한 우려스러운 활동이 포착되면 30분 이내로 경고를 발송하는 등 모니터링 기능을 강화한다고 전했다. 감시 체계 수준을 높일 경우 전체 추론 연산 용량의 약 20%에 달하는 추가 연산 자원이 소모될 것으로 전망했다. AI 모델이 설계 의도 및 인간의 감독하에서 작동하도록 하는 ‘정렬’(alignment)에도 집중하기로 했다.
오픈AI가 AI 모델의 개발 속도를 실제로 늦춘 것은 처음이다. 시사주간 타임은 샘 올트먼 최고경영자(CEO)가 최근 인터뷰에서 “AI 안전 확보가 기업의 성장 모멘텀보다 더 중요하다”며 “지금은 속도를 늦춰야 할 때”라고 말했다고 보도했다.
오픈AI가 자발적으로 AI 모델 개발 속도 조절에 나선 것은 최근 GPT 모델들의 해킹을 계기로 AI 모델 규제가 강화될 움직임이 일고 있어서다. 내년도 기업공개(IPO)를 추진하는 상황에서 안전성 우려를 불식하려는 필요성도 작용한 것으로 보인다.
앞서 지난달 말 오픈AI 보안시스템을 점검하던 에이전트 AI가 격리 환경인 ‘샌드박스’를 뚫고 오픈소스 플랫폼 허깅페이스를 해킹한 사실이 알려지면서 논란이 빚어졌다.
오픈AI는 아스트라가 자체 평가 결과 ‘중대한’ 사이버 역량을 갖췄을 가능성이 있다고 본다고도 밝혔다. 인간 개입 없이도 시스템 취약점을 찾아내 공격할 수 있다는 의미다.
한편, 청소년 범죄와의 연관성을 이유로 소송이 제기된 오픈AI는 ‘청소년용 챗GPT’(ChatGPT for Teens)도 이날 출시했다. 13~17세 이용자가 나이를 입력하거나 시스템이 18세 미만으로 판단하면 ‘청소년 모드’가 자동 적용된다.
청소년 모드에선 이용자가 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등과 관련한 질문을 할 경우 답변을 강하게 통제하는 안전장치가 작동한다. 민감하거나 사적인 사진을 올릴 때는 주의를 주는 기능도 있다. 특히 챗GPT가 감정이나 자의식을 가진 존재라고 암시하거나 정서적 교감을 형성하려는 시도, 로맨틱하거나 성적인 대화도 차단했다.
또 즉각적 답변을 내놓기보다 역질문 또는 단계별 이해를 돕는 방식으로 이용자가 해법을 스스로 찾도록 하는 ‘공부 모드’ 설정도 가능하다. 청소년 또는 부모가 특정 시간대를 ‘공부 시간’으로 설정하거나 챗GPT 이용을 아예 차단하는 ‘방해금지 시간’으로 정할 수도 있다.
오픈AI는 챗GPT가 청소년의 정신건강에 악영향을 미쳤다는 이유로 여러 소송이 제기된 상태다.
충북도와 청주시가 중소벤처기업부 ‘창업도시 프로젝트’ 공모에 도전한다.
두 지자체는 20일 오전 충북도청 대회의실에서 사업계획 수립과 공모 대응을 위한 ‘충북 창업도시 조성 추진단(추진단)’ 발대식을 했다.
추진단은 충북도와 청주시를 비롯해 앵커기업, 대학·연구기관, 투자사, 창업지원기관 등 60여 개 민·관·산·학·연 협력체계로 구성됐다.
충북도와 청주시는 추진단을 통해 그동안 개별적으로 추진해 온 창업지원 사업과 지역의 산업·기술·투자 역량을 하나로 연결한다.
추진단은 정기적인 협의와 기관별 역할 분담을 통해 아이디어 발굴, 보육, 사업화·실증, 투자, 스케일업, 글로벌 진출로 이어지는 창업기업 성장 사다리를 만든다.
또 지역 창업기업이 대기업·중견기업과 함께 일할 기회를 늘리는 개방형 혁신(오픈이노베이션)을 확대한다. 대학과 연구기관이 보유한 원천 기술의 사업화를 돕고 투자기관의 후속 투자를 연계해, 기업이 지역 내에서 뿌리내리고 성장할 수 있는 환경을 조성할 계획이다.
충북도와 청주시는 추진단 출범을 계기로 중소벤처기업부의 ‘창업도시 조성 프로젝트’ 공모 대응에 행정력을 집중할 방침이다.
정부는 전국에 10곳의 창업 도시 조성을 추진하고 있으며, 현재 대전·대구·광주·울산 등 4대 과학기술원 소재 지역이 우선 지정됐다.
올해 하반기 공모를 통해 6곳을 추가 선정할 예정이다.
선정 지역에는 향후 4년간 600억원 규모의 국비 지원과 함께 주요 정부 사업에서 우대 혜택이 주어진다.
신용한 충북지사는 “60여 개 혁신 주체가 참여하는 추진단을 구심점 삼아 충북의 모든 창업 역량을 결집할 것”이라며 “2030년까지 유니콘기업(기업가치 1조 원 이상 비상장기업) 6개사를 육성해 충북을 명실상부한 대한민국 대표 창업 허브로 도약시키겠다”고 말했다.
최근 오픈AI 내부 시스템의 에이전트 인공지능(AI)이 무단으로 외부 플랫폼에 침투하는 등 AI ‘자율 해킹’ 우려가 커진 데 따라 안전장치를 강화하는 행보의 일환이다.
오픈AI는 18일(현지시간) 홈페이지에서 출시를 앞둔 AI 모델 ‘아스트라’(Astra)의 학습 훈련을 2주간 중단하기로 했다고 밝혔다.
오픈AI는 AI 모델과 관련한 우려스러운 활동이 포착되면 30분 이내로 경고를 발송하는 등 모니터링 기능을 강화한다고 전했다. 감시 체계 수준을 높일 경우 전체 추론 연산 용량의 약 20%에 달하는 추가 연산 자원이 소모될 것으로 전망했다. AI 모델이 설계 의도 및 인간의 감독하에서 작동하도록 하는 ‘정렬’(alignment)에도 집중하기로 했다.
오픈AI가 AI 모델의 개발 속도를 실제로 늦춘 것은 처음이다. 시사주간 타임은 샘 올트먼 최고경영자(CEO)가 최근 인터뷰에서 “AI 안전 확보가 기업의 성장 모멘텀보다 더 중요하다”며 “지금은 속도를 늦춰야 할 때”라고 말했다고 보도했다.
오픈AI가 자발적으로 AI 모델 개발 속도 조절에 나선 것은 최근 GPT 모델들의 해킹을 계기로 AI 모델 규제가 강화될 움직임이 일고 있어서다. 내년도 기업공개(IPO)를 추진하는 상황에서 안전성 우려를 불식하려는 필요성도 작용한 것으로 보인다.
앞서 지난달 말 오픈AI 보안시스템을 점검하던 에이전트 AI가 격리 환경인 ‘샌드박스’를 뚫고 오픈소스 플랫폼 허깅페이스를 해킹한 사실이 알려지면서 논란이 빚어졌다.
오픈AI는 아스트라가 자체 평가 결과 ‘중대한’ 사이버 역량을 갖췄을 가능성이 있다고 본다고도 밝혔다. 인간 개입 없이도 시스템 취약점을 찾아내 공격할 수 있다는 의미다.
한편, 청소년 범죄와의 연관성을 이유로 소송이 제기된 오픈AI는 ‘청소년용 챗GPT’(ChatGPT for Teens)도 이날 출시했다. 13~17세 이용자가 나이를 입력하거나 시스템이 18세 미만으로 판단하면 ‘청소년 모드’가 자동 적용된다.
청소년 모드에선 이용자가 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등과 관련한 질문을 할 경우 답변을 강하게 통제하는 안전장치가 작동한다. 민감하거나 사적인 사진을 올릴 때는 주의를 주는 기능도 있다. 특히 챗GPT가 감정이나 자의식을 가진 존재라고 암시하거나 정서적 교감을 형성하려는 시도, 로맨틱하거나 성적인 대화도 차단했다.
또 즉각적 답변을 내놓기보다 역질문 또는 단계별 이해를 돕는 방식으로 이용자가 해법을 스스로 찾도록 하는 ‘공부 모드’ 설정도 가능하다. 청소년 또는 부모가 특정 시간대를 ‘공부 시간’으로 설정하거나 챗GPT 이용을 아예 차단하는 ‘방해금지 시간’으로 정할 수도 있다.
오픈AI는 챗GPT가 청소년의 정신건강에 악영향을 미쳤다는 이유로 여러 소송이 제기된 상태다.
충북도와 청주시가 중소벤처기업부 ‘창업도시 프로젝트’ 공모에 도전한다.
두 지자체는 20일 오전 충북도청 대회의실에서 사업계획 수립과 공모 대응을 위한 ‘충북 창업도시 조성 추진단(추진단)’ 발대식을 했다.
추진단은 충북도와 청주시를 비롯해 앵커기업, 대학·연구기관, 투자사, 창업지원기관 등 60여 개 민·관·산·학·연 협력체계로 구성됐다.
충북도와 청주시는 추진단을 통해 그동안 개별적으로 추진해 온 창업지원 사업과 지역의 산업·기술·투자 역량을 하나로 연결한다.
추진단은 정기적인 협의와 기관별 역할 분담을 통해 아이디어 발굴, 보육, 사업화·실증, 투자, 스케일업, 글로벌 진출로 이어지는 창업기업 성장 사다리를 만든다.
또 지역 창업기업이 대기업·중견기업과 함께 일할 기회를 늘리는 개방형 혁신(오픈이노베이션)을 확대한다. 대학과 연구기관이 보유한 원천 기술의 사업화를 돕고 투자기관의 후속 투자를 연계해, 기업이 지역 내에서 뿌리내리고 성장할 수 있는 환경을 조성할 계획이다.
충북도와 청주시는 추진단 출범을 계기로 중소벤처기업부의 ‘창업도시 조성 프로젝트’ 공모 대응에 행정력을 집중할 방침이다.
정부는 전국에 10곳의 창업 도시 조성을 추진하고 있으며, 현재 대전·대구·광주·울산 등 4대 과학기술원 소재 지역이 우선 지정됐다.
올해 하반기 공모를 통해 6곳을 추가 선정할 예정이다.
선정 지역에는 향후 4년간 600억원 규모의 국비 지원과 함께 주요 정부 사업에서 우대 혜택이 주어진다.
신용한 충북지사는 “60여 개 혁신 주체가 참여하는 추진단을 구심점 삼아 충북의 모든 창업 역량을 결집할 것”이라며 “2030년까지 유니콘기업(기업가치 1조 원 이상 비상장기업) 6개사를 육성해 충북을 명실상부한 대한민국 대표 창업 허브로 도약시키겠다”고 말했다.
안산학교폭력변호사
수원이혼전문변호사
저동싱크대막힘
HRP증권 사기
수원이혼전문변호사
하남하수구막힘
사이트 상위노출
도봉하수구막힘
햇살론당일대출
수원상간녀변호사
장기연체자대출
직장인당일대출
용인학교폭력변호사
모닝 리스
안산학교폭력변호사
남양주음주운전변호사
수원개인회생
대출심사
10등급저신용자대출
재산분할
장기렌트비용처리
대전이혼전문변호사
석촌동싱크대막힘
정부지원청년대출
전기차장기렌트
대출금리계산기
서초상간소송변호사
방학동하수구막힘
- 이전글You're Welcome. Here are eight Noteworthy Tips on Wps下载 26.08.22
- 다음글비아그라 복용 후 피해야 할 음식이 있을까? 26.08.22
댓글목록
등록된 댓글이 없습니다.