Contents
Case Study
고객사례
Case Study
클라우드 관리 서비스
LLM 기반 사이버 보안 특화 AhnLab Savvy Assistant 구현
운영환경
AWS(Amazon Web Services)
안랩클라우드메이트
고객의 AI 성숙도에 맞는 LLM, SLM 기반 AI 어시스턴트나 AI 에이전트 구현 방안을 제시하기 위해 생성형 AI 서비스 구현의 개념 검증(Proof of Concept) 프로젝트를 추진하였습니다.
Company Overview
안랩클라우드메이트는 안랩의 ‘보안’역량과 클라우드메이트의 ‘클라우드 네이티브’ 전문성을 하나로 모아 클라우드를 안전하고 클라우드답게 사용할 수 있도록 지원합니다.
Challenge
- LLM, sLM 기반 AI 어시스턴트, AI 에이전트 구현을 원하는 고객 증가
- 고객마다 인력, 인프라, 플랫폼 등 AI 프로젝트 추진을 위한 성숙도 천차만별
- 고객의 AI 성숙도에 맞는 프로젝트 전략 제안을 위한 일환으로 PoC 추진 결정
생성형 AI(Generative AI)는 오픈 소스 기반의 LLM(Large Language Model)과 SLM(Small Language Model)의 빠른 발전을 바탕으로 금융, 의료, 제조 등 다양한 산업에서 최우선 투자 대상으로 부상했습니다. 관련해 안랩클라우드메이트는 고객의 AI 성숙도에 맞는 LLM, SLM 기반 AI 어시스턴트나 AI 에이전트 구현 방안을 제시하기 위해 생성형 AI 서비스 구현의 개념 검증(Proof of Concept) 프로젝트를 추진하였습니다.
Solution
- 사이버 보안에 특화된 LLM 기반 생성형 AI 서비스의 부재
- 클라우드 서비스를 활용해 특정 업무, 산업 특화 생성형 AI 서비스 구현 PoC 진행
- 안랩의 사이버 보안 트렌드 보고서를 활용한 보안 특화 AhnLab Savvy Assistant 구현
안랩클라우드메이트는 클라우드 환경에서 기업이 보유한 데이터 자산을 활용해 LLM, sLM을 훈련 또는 미세조정하는 과정을 MLOps 파이프라인에 맞춰 진행하는 PoC를 추진하였습니다.
프로젝트 목표는 LLM, Vector DB, RAG를 활용한 사이버 보안 특화 챗봇인 ‘AhnLab Savvy Assistant’ 개발이었습니다.
안랩클라우드메이트는 사이버 보안 관련 위협 인텔리전스를 담고 있는 보안 리포트 문서를 데이터 세트로 활용해 LLM 미세 조정과 RAG 통합 작업을 하였습니다.
Benefit
- 짧은 시간과 리소스 투입으로 특정 작업에 특화된 AI 에이전트 구현에 성공
- 프롬프트 인젝션 방어율 90% 이상을 보장하는 AhnLab Savvy Assistant 개발
- 생성형 AI 프로젝트 추진을 준비 중인 고객을 위해 LLM/sLM 기반 프로젝트 추진 안내 문서 및 사전 체크리스트 제공
이번 PoC 프로젝트의 결과물은 프롬프트 인젝션 방어율 90% 이상을 보장하는 사이버 보안 특화 AI 챗봇인 AhnLab Savvy Assistant입니다. 안랩클라우드메이트는 생성형 AI 프로젝트를 추진 중인 고객이 사전 평가를 위해 참고할 수 있도록 이 서비스를 공개하였습니다. 또한, 구현 과정을 문서화하여 LLM/sLM, Vector DB, RAG 기술을 효과적으로 활용하여 특정 산업이나 작업에 특화된 AI 어시스턴트나 AI 에이전트를 구축하는 방법을 안내하고 있습니다. 더불어, 보안과 규제를 고려해야 하는 기업 고객을 위한 사전 체크리스트도 함께 제공하고 있습니다.