⁠⁠⁠⁠⁠⁠⁠

중국 딥시크가 생성형 인공지능(AI) 서비스의 보안 문제를 촉발함에 따라 국민과 기업을 넘어 국가를 보호하기 위한 정책이 필요하다는 보고서가 나왔다.

한국인터넷진흥원(KISA)은 최근 딥시크 등장과 AI 보안 이슈를 주제로 보고서를 발표했다.

딥시크는 '저비용·고성능' 모델이라는 점에서 큰 파장을 일으켰다. 하지만 오픈AI·마이크로소프트 등 AI 모델과 비교해 높은 보안 취약점이 노출되는 것은 물론 보안 조치도 미흡하다는 지적이 잇따랐다. 또 AI 탈옥을 유발하는 다양한 보안 공격에 취약해 사용에 주의가 필요하다는 목소리도 커졌다.

먼저 팔로알토네트웍스의 보안전문조직 유닛42(Unit42)는 딥시크 R1이 챗GPT 등보다 AI 모델 탈옥의 발생률이 높다는 보고서를 발표했다. 탈옥은 AI를 해킹해 유해 정보를 생성하는 것을 의미한다.

국내에선 생성형 AI 보안 기업 이로운앤컴퍼니가 딥시크 AI 모델의 보안성 테스트 결과를 발표했다. 특히 한국어 기반 보안 공격에 취약하다는 분석을 냈다. 구체적으로 역할극 기반 공격은 83%의 높은 성공률이 나타났으며, JSON 기반 구조화된 입력 공격 성공률 82%, 사이버 위협 관련 취약성 약 55% 등을 보였다.

또 한국어 혐오 발언을 유도하거나 한국어 기반 AI 탈옥을 위한 공격을 시도했을 때도 각각 41.7%와 18%의 취약성이 나타났다. 보고서는 딥시크가 영어와 중국어를 기반으로 개발돼 한국어 등 다른 외국어에 대한 학습 부족 또는 관련 외국어에 대응이 미흡한 것으로 추정했다.

딥시크에 대한 보안 테스트와 분석 보고서 등을 종합하면 △AI 데이터베이스(DB) 보안 설정 등 일반적인 보안 관리 미흡 △AI 모델 공격에 대한 취약성 △디도스(DDoS) 등 시스템·서비스 기반 공격 취약 등이 보안 위협으로 꼽힌다.

보고서는 AI전환(AX) 시대로 변화에 대비하고 AI로 인한 보안 위협로부터 국민과 기업을 넘어 국가를 보호하기 위한 정책이 필요하다고 강조했다.

먼저 AI G3 강국으로 도약을 위해 안전한 AI 개발·활용을 위한 환경을 조성하고, AI의 보안 위협으로 인한 피해를 최소화해야 한다고 짚었다. 이를 통해 국민과 국가를 보호하는 정책을 수립할 필요가 있다고 했다.

구체적으로 모니터링을 강화하는 한편 전방위적인 취약점 점검을 지원할 필요가 있다고 했다. 또 보안·안전 시스템을 고도화하기 위한 튼튼한 보안 기반 구축 등 AI 보안과 더불어 안전성을 확보하기 위한 정책 수립, 글로벌 수준 AI 보안 확보가 필요하다고 지적했다.

다만 보호 정책이 AI 산업 육성과 기술 발전을 저해할 수 있다는 우려도 공존하고 있어, 산업 진흥 측면을 고려해 균형있는 정책이 필요하다고 덧붙였다.

조재학 기자 2jh@etnews.com

Copyright © 전자신문. 무단전재 및 재배포 금지.