가짜 판치는 SNS·포털
머스크 "AI 봇 근절" 선언했지만
게시글 생성하는 챗봇 '우후죽순'
신종 마케팅 기법으로 자리 잡아
네이버도 가짜 블로그와 '전쟁'

‘유령 인공지능(AI)이 진짜 생성형 AI를 바보로 만들고 있다.’

일론 머스크 테슬라 최고경영자(CEO)가 인수한 X(옛 트위터)를 비롯해 SNS가 ‘유령 계정’으로 몸살을 앓고 있다. 사람과 AI 챗봇을 구분하기 위한 CAPTCHA(자동화된 공개 튜링 테스트)까지 통과한 AI 챗봇들이 이미 X를 점령하고 있다는 말이 나올 정도다. AI에 의해 운영되는 이들 유령 계정을 활용한 신종 마케팅 기법도 우후죽순처럼 생겨나고 있다. 국내에선 AI로 생성한 가짜 블로그를 통해 검색 광고 시장에서 돈을 벌려는 ‘유령 사업자’와 이를 막으려는 네이버 등 포털 업체 간 보이지 않는 전쟁이 치열하게 벌어지고 있다.

 ◇ 인기 트윗에 기생하는 AI

머스크 CEO는 2023년 10월 트위터를 인수할 당시 “AI 봇을 완벽하게 없애겠다”고 선언했다. 하지만 SNS 전문가들은 “인수 이전보다 AI 챗봇 문제가 더욱 심각해졌다”며 “자신 있던 머스크의 선언은 모두 무용지물”이라는 평가를 내놓고 있다. X의 검색 체계가 AI 봇에 점령당해 사실상 ‘회복 불능’ 상태라는 주장마저 나온다.

머스크가 지난해 X에 부분 유료화를 도입한 것이 화근이 됐다. 게시글 조회수에 따라 수익을 받는 방침을 도입했기 때문이다. 조회수가 돈벌이가 되자 수익 창출을 원하는 이용자가 여러 유령 계정을 활용하기 시작했다. AI 특성상 무한히 게시글을 올릴 수 있기 때문에 갈수록 의미 없는 게시물이 X를 뒤덮고 있다.

전문가들이 우려하는 가장 큰 문제는 유령 AI가 챗GPT와 제미나이 등 생성 AI의 답변 생성 체계를 방해할 수 있다는 점이다. 생성 AI는 웹에 흩어진 정보들을 기반으로 답변을 생성하기 때문에 AI 봇이 만드는 가짜 트윗과 정보성 게시글에 영향을 받을 수 있다. AI 봇들이 자기들끼리 생성하는 ‘깡통 대화’도 문제로 꼽힌다.

 ◇ AI 활용 마케팅 갈수록 치열

보안업계 전문가들은 유령 AI를 100% 제거하는 것은 불가능하다고 지적했다. 이미 ‘시장 논리’가 강하게 작동하고 있는 것이 가장 큰 걸림돌이다. 중동, 인도를 중심으로 ‘트윗 봇’을 전문으로 판매하는 업자가 계속 늘어나는 추세다. 파키스탄을 기반으로 활동하는 컴퓨터공학자 아와이스 유사프는 자신의 홈페이지를 통해 ‘챗GPT 트위터 봇’을 판매하고 있다. 얼마나 복잡한 게시글을 생성하는지에 따라 최소 30달러에서 최대 500달러까지 가격을 책정했다.

지난해부터 X는 AI 봇의 트윗 생성을 막기 위해 일부 국가에서 봇이 아님을 증명하는 프로그램을 운영하기 시작했지만 무용지물이라는 의견이 지배적이다. 최근 호주 퀸즐랜드대 연구팀은 인증 마크를 받은 계정 중 50%가 AI 봇임을 입증했다.

X를 활용해 마케팅을 펼치는 국내 브랜드들은 이 같은 상황에 불만을 토로했다. 유통업계 한 관계자는 “젊은 여성 잠재 고객이 많이 모인 X 특성상 홍보 창구로서 버릴 수 없는 존재”라며 “AI 봇이 게시글에 너무 많이 붙어 실제 고객의 반응을 살필 수 없다”고 말했다. AI업계 관계자는 “유령 챗봇 대부분이 챗GPT를 사용하고 있다”며 “이론상 유령을 모두 없애려면 xAI가 챗GPT 성능을 압도적으로 뛰어넘어야 하는데 요즘과 같은 오픈소스 시대에 하나의 생성 AI만이 성능 우위를 점하는 것은 사실상 불가능하다”고 말했다.

최지희 기자 mymasaki@hankyung.com

Copyright © 한국경제. 무단전재 및 재배포 금지.