【토카티비-totocasinocomunity】 보증업체안전놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 먹튀피해사례공유

로그인

글쓰기

[IT뉴스]튜닙, 한국어 최적화 생성형 AI 안전장치 만든다 [서울AI허브 2027]

온카뱅크관리자

2026-09-23 08:07:25

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="WxtU6pXSew">
 <div contents-hash="6ab3868066aaca5d3cf787ef07434ce7344c992c84ecf2294c972594fa5278c9" dmcf-pid="YMFuPUZviD" dmcf-ptype="general">
 '서울 AI 허브 2027' 기획시리즈는 서울 AI 허브에 입주한 스타트업들의 인공지능(AI) 기술과 서비스, 사업화 현황 및 차별점을 살펴봅니다. 산업 현장에서의 적용 가능성과 성장 가능성을 짚어보고, 대한민국 AI 생태계의 한 축을 이루는 이들의 기술과 서비스를 소개합니다. [편집자주]
 </div>
 <figure class="figure_frm origin_fig" contents-hash="ec2149b880cd69691458c233e2f5825b9a509e5a5c0c981ae728a13889c64371" data-idxno="453049" data-type="photo" dmcf-pid="GR37Qu5TdE" dmcf-ptype="figure">
 <img alt="튜닙 CI / 튜닙" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/23/552810-SDi8XcZ/20260923080003810hagk.jpg" data-org-width="412" dmcf-mid="ykWZbXSrLr" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/23/552810-SDi8XcZ/20260923080003810hagk.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 튜닙 CI / 튜닙
 </figcaption>
 </figure>
 튜닙은 자연어처리(NLP)와 대규모언어모델(LLM), AI 에이전트 기술을 바탕으로 한국어 문맥 이해와 AI 가드레일을 결합해 금융과 대기업, 공공기관 등 실제 산업 현장에서 생성형 AI를 안전하게 운영할 수 있도록 지원하고 있다. 기 업 명대표자명설립연도투자단계주요제품사업분야기술분야주요성과협업유형도입단계타깃시장 
 홈페이지 ※ 기업 현황은 2026년 9월 기준입니다 
 입력부터 출력·실행까지 지키는 AI 가드레일
 튜닙의 AI 가드레일 솔루션은 사용자 입력과 AI가 생성한 응답을 실시간으로 분석해 생성형 AI 서비스에서 발생할 수 있는 위험을 탐지하고 제어한다. 단순한 금칙어 필터링을 넘어 개인정보 유출과 유해 표현, 프롬프트 공격, 내부 규정 위반 등을 문맥 단위로 판별하는 데 초점을 맞췄다.
 튜닙은 위험 유형에 따라 다양한 모듈을 제공한다. '패트릭(Patrick)'은 혐오·차별 표현과 개인정보 유출을 탐지하고 '엔젤(Angel)'은 프롬프트 공격 등 AI 시스템을 겨냥한 위협을 분석한다. '가디언(Guardian)'은 컴플라이언스와 기업 내부 규정 위반 여부를 확인하며 '스파무라이(Spamurai)'는 스팸 콘텐츠를 탐지·분류한다.
 AI 에이전트의 안전성을 점검하는 '조커 앤 루시(Joker &amp; Lucy)'도 제공한다. 공격자 관점에서 AI 에이전트를 대상으로 다양한 공격과 우회 시도를 수행해 방어 모델이 실제 상황에서 얼마나 안정적으로 대응하는지 확인하는 방식이다.
 핵심은 자연어처리(NLP)와 대규모언어모델(LLM)을 활용해 문장 전체의 의미와 맥락을 분석한다는 점이다. 직접적인 표현뿐 아니라 우회하거나 변형한 표현까지 판별하고 고객별 정책에 맞춰 탐지 항목과 강도도 조정할 수 있다. 도입 방식도 API 형태뿐 아니라 기업 내부 시스템에 직접 구축하는 온프레미스 방식까지 지원해 금융과 공공, 대기업처럼 외부 데이터 반출에 민감한 환경에서도 활용할 수 있다.
 최근에는 보호 범위를 AI 에이전트의 실행 단계까지 넓히고 있다. 개인정보 유출과 악성 프롬프트 탐지를 넘어 권한 오남용이나 부적절한 도구 실행, 프롬프트 인젝션 등 에이전트가 실제 업무를 수행하는 과정에서 발생할 수 있는 위험까지 통제하는 방향이다.
 튜닙은 자체 서비스 '디어메이트(DearMate)'를 운영하며 멀티페르소나와 장기 기억, 에이전트 간 상호작용 기술도 축적해왔다. 여기서 확보한 기술을 기업용 AI 에이전트와 가드레일 사업에 적용하며 안전성과 활용성을 함께 높이고 있다.
 텍스트 넘어 멀티모달·에이전트 안전 플랫폼으로 확장
 튜닙은 2024년 카카오뱅크에 금융 서비스 환경에 맞춘 AI 안전 가드레일 패트릭과 엔젤을 구축·공급했다. 2026년에는 추가 계약을 체결해 기능을 고도화하고 있다. 삼성전자와는 2024년부터 2025년까지 자연어처리와 기업 특화 AI 모델 개발·공급 사업을 수행했다. 2026년에는 국립국어원의 '한국언어문화 멀티모달 말뭉치 구축' 사업을 컨소시엄 형태로 공동 수주하며 멀티모달 데이터 분야까지 사업 범위를 넓혔다.
 기술개발도 이어지고 있다. 튜닙은 2025년 중소벤처기업부 스케일업 팁스(TIPS)에 선정돼 AI 에이전트 안전성 확보를 위한 한국어 특화 멀티모달 가드레일 시스템을 개발하고 있다. 앞서 2024년에는 정보통신정책연구원의 '제2회 인공지능 신뢰성 대상' 우수상을 받았고 삼성전자 C-랩(Lab) 아웃사이드(Outside) 6기와 마이크로소프트(Microsoft) ISV에도 선정됐다.
 연구 측면에서는 2023년 한국어 혐오표현 탐지 데이터셋 'K-HATERS' 연구를 EMNLP 파인딩(Findings)에 발표했다. 비윤리적 한국어 발언 탐지와 윤리적 대화 생성 관련 연구도 수행하면서 한국어 AI 안전성을 꾸준히 다뤄왔다.
 투자 측면에서는 2021년 PAC와 DSC, 네이버 등으로부터 31억원 규모의 시드 투자를 유치했다. 이를 바탕으로 금융과 공공, 대기업 시장에서 AI 안전 솔루션 적용 범위를 넓히고 있다. 해외 진출도 병행한다. 영어 등 다국어 AI 안전성 탐지 기술을 고도화하고 있으며 인도 AEON과 업무협약을 맺어 현지 PoC와 공동 사업 기회를 발굴하고 있다. 
 튜닙은 향후 텍스트 중심의 가드레일을 이미지와 음성까지 포함하는 멀티모달 영역으로 확대하고, 사용자 입력과 AI 출력, 에이전트의 실제 실행 단계까지 하나의 안전 체계로 관리할 계획이다. 기업 특화 언어모델과 RAG 기반 AI 에이전트까지 연결해 AI 운영 전반을 관리하는 안전 플랫폼으로 사업 영역을 확장한다는 방침이다.
 권용만 기자 yongman.kwon@chosunbiz.com
 </section> 
 </div> 
 Copyright © IT조선. 무단전재 및 재배포 금지.

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기