【토카티비-totocasinocomunity】 보증업체안전놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 먹튀피해사례공유

로그인

글쓰기

[IT뉴스]"AI발전보다 안전이 더 중요" vs "지금은 최대한 빨리 달릴때"

온카뱅크관리자

2026-09-16 17:47:25

<div id="layerTranslateNotice" style="display:none;"></div> 한 무대 올라 설전 … AI위험성 논란 점입가경 '감속파' 아모데이 인간 통제 벗어난 AI 감당못해 기업에 안전판단 맡겨선 불안 국제기준·외부평가 도입 시급 '가속파' 젠슨 황 안전 중요하나 감속 필요없어 둘중 하나 고르는건 틀린 선택 AI산업 성장 기회 놓쳐선 안돼 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="pAkRVd8Bld">
 <figure class="figure_frm origin_fig" contents-hash="ae18f793056f66031708c9d664b39359834e01bea7b0bc1cfe7c3cb5f094a4b0" dmcf-pid="UwmnPoMVhe" dmcf-ptype="figure">
 <img alt="다리오 아모데이 앤트로픽 CEO(왼쪽 사진)와 젠슨 황 엔비디아 CEO가 15일(현지시간) 미국 캘리포니아주에서 열린 '드림포스 2026' 무대에 차례로 올라 연설하고 있다. AFP연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/16/mk/20260916173914316yhgp.jpg" data-org-width="500" dmcf-mid="ylkRVd8BWE" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/16/mk/20260916173914316yhgp.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 다리오 아모데이 앤트로픽 CEO(왼쪽 사진)와 젠슨 황 엔비디아 CEO가 15일(현지시간) 미국 캘리포니아주에서 열린 '드림포스 2026' 무대에 차례로 올라 연설하고 있다. AFP연합뉴스
 </figcaption>
 </figure>
 15일(현지시간) 미국 캘리포니아주 샌프란시스코에서 열린 연례 최대 기술 행사 '드림포스 2026' 무대. 이곳에서 다리오 아모데이 앤트로픽 최고경영자(CEO)가 "첨단 인공지능(AI) 개발 속도를 조절하자"고 촉구하자 젠슨 황 엔비디아 CEO는 "최대한 빨리 달려라"고 맞섰다.
 일론 머스크와 샘 올트먼 오픈AI CEO, 마크 저커버그 메타 CEO 등 주요 빅테크 수장들이 이번 논쟁에 참가하면서 AI 기업 내부에서 시작된 안전 논쟁이 미국의 AI 규제와 미·중 기술 경쟁을 둘러싼 공방으로 걷잡을 수 없이 확산되고 있다. 특히 오는 11월 미국 중간선거를 앞두고 정치 쟁점으로까지 부상하는 모습이다.
 ◆ 올트먼 "AI위험은 미래 아닌 현실"
 논쟁의 첫 번째 쟁점은 AI의 능력과 이를 통제할 안전 기술 사이의 '속도 차이'다. 먼저 무대에 오른 아모데이 CEO는 "AI 능력이 안전 기술보다 빠르게 발전할 수 있다"며 "개발 속도를 조절해야 한다"고 강조했다. 특히 AI가 사이버 공격이나 생물학 등 위험한 분야에서 인간 전문가를 넘어설 경우 사후 대응으로는 늦을 수 있다고 경고했다.
 올트먼 CEO는 AI 위험 우려가 단순한 가정이 아닌 실제라고 강조했다. 그는 지난 7월 오픈AI 모델이 외부 사이트에 무단 접근한 사례를 '경종을 울린 사건'으로 평가했다. 올트먼은 "AI가 인간의 의도와 다르게 행동하지 않도록 만드는 정렬과 감시·보안 기술이 항상 AI 능력보다 한발 앞서도록 개발 속도를 조절할 의지가 있어야 한다"고 말했다.
 문제는 속도 조절 방식이다. 아모데이는 개별 기업의 판단만으로는 충분하지 않다고 본다. 한 회사가 개발을 늦춰도 경쟁사가 계속 질주하면 다시 경쟁에 뛰어들 수밖에 없기 때문이다. 그는 자동차 사고를 예로 들며 "경쟁사의 자동차에서 사고가 났다고 그 회사를 공격하는 데 그쳐서는 안 된다. 우리 회사에도 같은 문제가 없는지 점검해야 한다"며 "이후 업계 전체가 적용할 기준을 마련해야 한다"고 주장했다. AI 역시 업계 전체가 안전 기준을 점검하고 외부 평가와 국제적인 기준까지 마련해야 한다는 것이다.
 <figure class="figure_frm origin_fig" contents-hash="e0bb341a745c2a7c43ea52a07567d6a2ff4f6a91b70548d7a05089ba25ee8fe8" dmcf-pid="KhSAJkLxW8" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/16/mk/20260916173915546bcxc.jpg" data-org-width="500" dmcf-mid="0xeb39UZCJ" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/16/mk/20260916173915546bcxc.jpg" width="658">
 </figure>
 ◆ 저커버그 "기업이 각자 책임져야"
 황 CEO는 이 지점에서 아모데이와 갈렸다. 안전성을 높이는 데는 동의하지만 이를 위해 개발 속도를 늦출 필요는 없다는 것이다. 그는 "안전은 중요하지만 공학의 문제"라며 "검증 절차를 강화하고 안전하지 않은 제품은 출시하지 않으면 된다"고 주장했다. 이어 "혁신의 속도와 안전한 제품 가운데 하나를 선택해야 한다는 것은 잘못된 선택"이라며 "둘 다 가질 수 있다. 최대한 빨리 달려라"고 강조했다.
 개별 기업의 책임을 강조한다는 점에서는 저커버그 CEO도 황 CEO와 비슷한 해법을 내놨다. 그동안 논란의 중심에서 비켜서 있던 저커버그는 이날 X에 "메타는 안전과 보안 점검을 위해 AI 에이전트 '뮤즈' 출시를 수개월 늦췄다"면서 "다른 기업에도 그렇게 하라고 요구하지 않았다. 우리에게 옳은 일이기에 그냥 했다"고 밝혔다. 필요하면 기업 스스로 속도를 늦추고 독립적인 평가자와 외부 자문가를 활용해 안전성을 검증하면 된다는 주장이다.
 하지만 기업이 자기 모델의 안전성을 스스로 판단하는 데는 한계가 있다는 문제도 남는다. 머스크가 제시한 해법은 '상호 검증'이다. 그는 미국 로스앤젤레스에서 열린 '올인 서밋'에서 xAI와 오픈AI, 앤트로픽 등에 중국 주요 AI 기업까지 참여시켜 출시 전 서로의 모델을 시험하자고 제안했다. 
 ◆ 美보수·진보 "정부 개입" 한목소리 
 AI 개발 감속 논쟁의 불씨를 댕긴 제이컵 콕슨 전 앤트로픽 연구원이 문제 삼는 지점도 바로 이런 '경쟁 논리'다. 콕슨은 이날 X에 앤트로픽 경영진과 자신이 갈라선 지점을 구체적으로 설명했다. 핵심은 AI가 더 뛰어난 AI를 개발하고, 개선된 AI가 다음 AI 개발을 가속하는 '재귀적 자기개선(RSI)' 경쟁이었다.
 콕슨은 "모든 기업이 같은 논리로 서두르면 오히려 RSI 경쟁을 가속한다"며 "앤트로픽이 이런 판단에 따라 최근 RSI 경쟁을 상당 부분 촉발했다. 경쟁이 불가피하다면 그 경쟁에 기여해서는 안 된다"고 비판했다.
 미국 정치권도 논쟁에 가담하고 있다. AI가 미칠 영향에 대한 미국인의 우려가 커지면서 진보와 보수 양쪽에서 정부 개입을 요구하는 목소리가 나온다. 진보 진영의 버니 샌더스 상원의원과, 도널드 트럼프 미국 대통령의 수석전략가를 지냈던 스티브 배넌은 15일 미 워싱턴DC에서 열린 '프로휴먼 어셈블리'에 참석해 정부 대응 강화를 촉구했다. 
 [실리콘밸리 원호섭 특파원]
 </section> 
 </div> 
 Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기