국내 독자 LLM 기반 행정 서비스 실증 배경
글로벌 빅테크의 거대언어모델(LLM)에 대한 의존이 심화되는 가운데, 국내 공공 데이터의 국외 유출 우려와 서비스 종속 문제를 타개하기 위해 SK텔레콤, KT, 카카오가 연합 컨소시엄을 구성했습니다. 이번 클로즈 베타 서비스는 공공 행정 문서 요약, 민원 자동 분류, 법령 질의응답 등 보안이 필수적인 12개 핵심 행정 업무를 대상으로 진행됩니다.
엄격한 온프레미스 연계 및 폐쇄망 클라우드 환경에서 운영되는 이 시스템은 한국어 맥락 이해도 98% 이상을 목표로 설계되었으며, 공공 행정의 처리 속도를 획기적으로 개선할 것으로 기대를 모으고 있습니다.
클로즈 베타 핵심 실증 지표 요약
| 평가 부문 | 목표 기준 및 인프라 사양 | 진행 현황 |
|---|---|---|
| 한국형 행정 특화 모델 | 3사 공동 파운데이션 모델 파인튜닝 | 배포 완료 |
| 데이터 격리 및 보안망 | 행정망 전용 분리형 보안 클라우드 | 검증 중 |
| 문서 처리 응답 속도 | 단일 복합 서류 2.5초 이내 요약 | 목표 달성 |
현장 실무 중심의 워크플로우 최적화 및 당면 과제 해결
공공 부문 워크플로우에서 가장 큰 병목은 비정형 민원 문서와 복합 행정 지침을 신속하게 대조하고 결재 라인에 전달하는 과정에서 발생합니다. 기존 외산 인공지능 솔루션은 국내 행정 용어 및 관련 법규의 뉘앙스를 정확하게 해석하지 못해 현장 공무원들의 추가 검증 부담을 초래했습니다. 이번 한국형 공공 AI는 공공 용어집과 10만 건 이상의 실제 행정 서식을 사전 학습하여 환각 현상(Hallucination)을 전년 대비 65% 이상 감소시켰습니다.
또한 참여 기관들의 업무 분장 체계와 권한 관리를 지능형 태그 시스템으로 동기화하여, 부서 간 협업 시 발생하던 데이터 사일로 현상을 원천 차단했습니다. 실증 참여 부서의 초기 피드백에 따르면 단순 반복 행정 서류 작성에 소요되던 시간이 하루 평균 1.8시간 단축되는 실질적 성과를 거두었습니다.
외국 모델에 종속되지 않는 국가 인공지능 인프라는 단순한 기술 자립을 넘어, 공공 행정의 연속성과 시민 데이터 주권을 지키는 가장 견고한 방파제입니다.— 컨소시엄 기술협력 분과위원회
공공 실무 적용을 위한 주요 시사점
엄격한 권한 분리형 데이터 파이프라인 구축
행정 급수별 열람 권한을 인공지능 컨텍스트 레벨에서 강제 적용하여 내부 보안 규정 위반 가능성을 제로화했습니다.
지속 가능한 모델 경량화 및 온프레미스 효율성
대규모 GPU 인프라 부담을 덜기 위해 지자체 단위 소형 서버에서도 원활히 구동 가능한 소형 맞춤형 언어모델(sLLM) 아키텍처를 검증했습니다.
이현우
수석 테크 에널리스트국내 통신 및 IT 생태계의 프로젝트 관리 방법론과 디지털 혁신 전략을 연구합니다. 공공 IT 인프라 고도화와 소버린 클라우드 거버넌스 분야의 실무 인사이트를 전달합니다.
기관 맞춤형 AI 업무 자동화 로드맵이 필요하십니까?
복잡한 조직 체계에 적합한 프로젝트 관리와 워크플로우 최적화 컨설팅으로 업무 생산성을 극대화해 드립니다.
의견 및 댓글 0
댓글 작성하기