[뉴스투데이=임성지 기자] 인공지능(AI) 기반 사이버 위협 인텔리전스(CTI) 전문 기업 샌즈랩이 '생성형 AI 역기능 억제'를 위한 국민 체감형 플랫폼과 사이버 보안 특화 '검색증강생성(RAG) 기반 sLLM(소형언어모델) 개발' 소식이  최근 이슈가 되는 딥페이크 성범죄 해법사로 나선다.

생성형 AI 역기능은 AI 기술이 허위 정보 및 가짜 뉴스 생성, 저작권 침해, 딥페이크 생성, 사이버 범죄 약용 등 부정적이거나 예상치 못한 방식으로 악용되는 것을 뜻한다. 

과학기술정보통신부와 정보통신기획평가원(IITP)은 AI 역기능 억제를 위한 사이버 보안 특화 RAG 기반 sLLM 모델 개발과 국민 체감형 플랫폼 구축을 과제로 총 100억원 규모 ‘정보보호 핵심 원천기술 개발사업’을 발주했다. 이에 따라 샌즈랩은 지난 4월 이 사업을 수주해 LGU+, 포티투마루, 로그프레소, 한국과학기술원(KAIST)와 함께 공동 연구개발 중이다.

샌즈랩은 연구개발(R&D) 과제 중 하나인 '생성형 AI 역기능 탐지 대응 기술'이 적용된  국민 체감형 플랫폼을 통해 최근 사회적 문제로 등장한 △피싱 공격 △가짜 뉴스 생성 △악성코드 대량 생산 △음성 합성 △딥페이크 이미지 △영상 제작과 같은 AI를 악용한 신종 디지털 범죄를 탐지해 대응할 수 있다고 밝혔다. 

샌즈랩이 개발중인 국민 체감형 플랫폼은 각종 탐지 기술은 물론 결과 설명을 위한 RAG, 암호화 해제 등 다양한 AI 관련 기술, 스미싱 및 보이스피싱 탐지 및 차단을 위한 모바일 앱(애플리케이션) 등이다.

샌즈랩 관계자는 "샌즈랩은  AI 모델을 학습시킬 수 있는 데이터셋을 페타바이트(Petabyte) 규모로 보유해 사이버 보안 특화 AI 모델과 sLLM의 자체 개발이 가능하며 이 데이터셋은 AI 모델 개발사에 공급할 수 있어 향후 글로벌 빅데이터 시장에서 데이터셋 판매도 기대된다"고 말했다.