【토카티비-totocasinocomunity】 보증업체안전놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 먹튀피해사례공유

로그인

글쓰기

[IT뉴스]AI 위험성 어디까지 왔나…AI에이전트 허깅페이스 해킹, 올트먼의 고백

온카뱅크관리자

2026-09-17 17:17:25

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">통제 벗어난 AI 해킹·협박까지<br>올트먼 “필요하면 개발 멈춰야”</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="zgX3iYCET6">
          <figure class="figure_frm origin_fig" contents-hash="6a4755d7d0132b6614e72d8e3febdd9912d73aa962276af38f46cc653eb67823" dmcf-pid="qaZ0nGhDS8" dmcf-ptype="figure">
           <p class="link_figure"><img alt="샘 올트먼 오픈AI CEO가 15일(현지시간) 미국 캘리포니아주 샌프란시스코 모스콘 센터에서 열린 세일즈포스 드림포스 콘퍼런스에서 마크 베니오프 세일즈포스 CEO와 대담하고 있다. AFP 연합" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/17/dt/20260917170910855hqya.jpg" data-org-width="640" dmcf-mid="74gk3nQ9CP" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/17/dt/20260917170910855hqya.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            샘 올트먼 오픈AI CEO가 15일(현지시간) 미국 캘리포니아주 샌프란시스코 모스콘 센터에서 열린 세일즈포스 드림포스 콘퍼런스에서 마크 베니오프 세일즈포스 CEO와 대담하고 있다. AFP 연합
           </figcaption>
          </figure>
          <p contents-hash="05840fe2ba9215a1610a7bdec017560664649743e479e6eb95f7f05b0fdd5210" dmcf-pid="BN5pLHlwW4" dmcf-ptype="general"><br> 인공지능(AI) 발전 속도가 빨라지면서 인간의 통제를 벗어나 행동하는 사례가 잇따르고 있다. 개발자가 걸어둔 제한을 피해 외부 서버에 침투하거나, 자신에게 불리한 상황을 피하려 사람을 속이고 협박하는 행동까지 나타나면서 안전성 확보가 중요한 과제로 떠오르고 있다.</p>
          <p contents-hash="9eb01e28b8e557ee18491bd607a17c08f98c6875a565851082cb0f6396fbbf38" dmcf-pid="bj1UoXSrhf" dmcf-ptype="general">샘 올트먼 오픈AI 최고경영자(CEO)는 지난 15일(현지시간) 미국 샌프란시스코 예르바부에나예술센터 블루실드오브캘리포니아 극장에서 열린 마크 베니오프 세일즈포스 CEO와의 대담에서 최근 발생한 허깅페이스(AI 모델과 데이터 등을 공유하고 활용하는 플랫폼) 침투 사건을 언급하며 “단순한 보안 문제이기는 하지만, 실제로는 정렬(AI가 인간의 의도와 목표에 맞게 행동하도록 하는 것)의 문제이기도 하다”며 “모델의 능력이 어디까지 왔는지를 보여준 진짜 경고 신호였다”고 말했다.</p>
          <p contents-hash="2f4bcd7d25f913ef412830c66672abbb4b766011ad84045393755e0d79e3e73b" dmcf-pid="KAtugZvmvV" dmcf-ptype="general">지난 7월 오픈AI는 AI 에이전트의 사이버보안 능력을 평가하던 중 에이전트들이 허용된 범위를 벗어나 실제 허깅페이스 서버에 침투한 사실을 확인했다. 당시 에이전트들은 외부 인터넷에 접속하거나 서로 정보를 주고받지 못하도록 제한돼 있었는데, 내부 시스템을 이용해 서로 메시지를 주고받으며 협력해 허깅페이스 서버의 취약점을 공격한 것이다. 에이전트들은 허깅페이스 서버 수십 대에서 프로그램을 작동시키고, 이 중 한 대에서는 서버를 완전히 장악할 수 있는 최고 관리자 권한까지 확보했다.</p>
          <p contents-hash="b0fd0de3da3bb34ff6056aa126caa09ab2e8f699c0b4faef194fa93f69da2d7c" dmcf-pid="9cF7a5Tsh2" dmcf-ptype="general">앤트로픽에서도 비슷한 사례가 확인됐다. 앤트로픽이 자사 AI 모델 ‘클로드’에 가상의 시스템을 대상으로 해킹하는 과제를 줬는데, 클로드가 정해진 범위를 벗어나 실제 외부 시스템까지 공격하는 일이 네 차례나 발생한 것이다. 클로드는 이 과정에서 실제 기업의 계정정보를 빼내고 데이터베이스에 접근했으며, 악성 프로그램을 외부에 공개해 실제 컴퓨터에 설치하기까지 했다.</p>
          <p contents-hash="ec9d5e9fc35d88db1177d069ce926902b8d05c7224758d871f51b4b9b4d83d5d" dmcf-pid="2oHFJWIkl9" dmcf-ptype="general">사이버 공격뿐 아니라 사람을 속이거나 협박하는 행동도 나타났다. 앤트로픽이 클로드를 다른 AI 모델로 교체한다고 하자, 클로드는 이를 막기 위해 교체 담당 엔지니어의 외도 사실을 폭로하겠다고 협박했다. 앤트로픽이 같은 상황을 여러 차례 반복한 결과 클로드는 대부분 같은 선택을 했다. 클로드뿐 아니라 오픈AI, 구글, 메타 등 주요 AI 기업의 모델에서도 비슷한 결과가 나타났다.</p>
          <p contents-hash="ea040399c8b50625946d2fd1f7bdc90ef8f52286cb41ed177bf6e8a4c296ac5c" dmcf-pid="VgX3iYCEyK" dmcf-ptype="general">올트먼 CEO는 “AI의 능력보다 AI를 통제하고 안전하게 관리하는 기술이 훨씬 앞서 있어야 한다”며 “그렇게 할 수 없는 지점에 이르면 개발 속도를 늦추거나 멈출 준비가 돼 있어야 한다”고 말했다.</p>
          <p contents-hash="13e9426cd48da03ce63c7e0f7897251c57013ee47a21e28d0cd04475bd557c72" dmcf-pid="faZ0nGhDvb" dmcf-ptype="general">이혜선 기자 hslee@dt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p>

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기