TECH2030
Insights
기술 동향 · 3 min readAI 활용

LG유플러스 AI 코딩 비용 약 90% 절감…2027년 사업화

LG유플러스가 코딩 영역 AI 운영 비용을 약 90% 줄이는 기술을 공개하고 2027년 기업용 사업화에 나섭니다.

LG유플러스 AI 코딩 비용 약 90% 절감…2027년 사업화

핵심 요약

  • 코딩 AI 운영 비용 약 90% 절감 검증
  • 목표는 토큰 단가 아닌 업무당 전체 비용
  • 모든 요청을 고성능 모델 하나로 보내는가
  • 이번 주, 사내 AI 요청을 난이도별로 세어 보기

LG유플러스는 2026년 11월 12일 기자 스터디에서 코딩 영역에 자체 AI 모델을 쓰면 통상적으로 사용하는 모델 대비 운영 비용을 약 90% 줄일 수 있다는 자체 검증 결과를 공개했습니다. 같은 자리에서 2027년부터 협력사 제휴와 자체 인프라 구축을 통해 기업용 AI 비용 절감 사업을 추진하겠다는 계획도 밝혔습니다. 목표는 토큰당 가격을 낮추는 데 그치지 않고 AI가 하나의 업무를 완료하는 데 드는 전체 비용을 줄이는 것입니다.

LG유플러스는 AI 비용을 어떻게 줄였나

LG유플러스가 'AI 토큰 최적화 스터디'에서 공개한 기술은 네 갈래입니다.

  • 모델 라우팅: 여러 AI 모델 중 작업에 적합한 모델을 고르는 기술입니다. 복잡한 작업에는 고성능 모델을, 간단한 작업에는 상대적으로 가벼운 모델을 씁니다. LG유플러스 내부 테스트에서 일반적인 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 절감했습니다.
  • 연산 처리 방식 개선: 동일한 인프라에서 처리 효율을 최대 4배 높였습니다.
  • 모델 경량화: 자체 온디바이스 AI 모델 크기를 기존 2.4~3GB에서 약 800MB로 줄이면서 비교 대상 클라우드 모델 대비 95% 이상의 성능을 확보했습니다. 작은 모델이 답변을 생성하고 큰 모델이 검증하는 기술로 토큰 생성 속도를 2배 이상 높였고, 관련 논문 2편이 뉴립스(NeurIPS)에 채택됐습니다.
  • AI 반도체 다변화: 엔비디아와 AMD의 GPU뿐 아니라 퓨리오사AI의 NPU를 활용하는 방안을 검증하고 있습니다. 작업 특성에 따라 서로 다른 반도체에 연산을 분산해 인프라 비용을 낮추려는 목적입니다.

이 최적화 기술은 AI 통화 에이전트 '익시오', AI 컨택센터(AICC), 사내 업무 자동화에 적용되고 있습니다. 익시오는 초기에 LG AI연구원의 온디바이스 모델과 구글 제미나이를 병행했고, 이후 자체 모델과 엑사원 등의 활용 비중을 조정해 비용 효율을 높였습니다. LG유플러스는 카카오와 연말 상용화를 추진하는 협력 서비스 '모두의 AI'에서도 AI 모델 운영을 맡습니다.

“AI 시장의 패권은 누가 더 큰 모델을 만드느냐를 넘어 고객이 원하는 비즈니스 결과를 얼마나 정교하고 경제적으로 완수하느냐로 이동했다” — 이상엽 LG유플러스 CTO

한국 기업 AX 시사점

이상엽 CTO는 AI 에이전트가 확산될수록 모델 단가가 저렴해도 불필요한 검색과 분석을 반복하면 전체 비용이 불어난다고 설명했습니다. AI 도입 비용을 검토한다면 토큰 단가표를 비교하기 전에 업무 한 건을 끝내는 데 모델 호출이 몇 번, 어느 모델로 일어나는지부터 따져 보는 편이 순서입니다. 25%와 30%라는 라우팅 효과는 LG유플러스 내부 테스트 수치이므로, 자기 조직에 적용할 때는 같은 방식으로 직접 측정해야 합니다.

이번 주에는 사내에서 쓰는 AI 요청을 복잡한 작업과 간단한 작업으로 나눠 각각 몇 건인지 세어 보십시오. 간단한 작업까지 모두 고성능 모델 하나로 처리하고 있다면 그 부분이 모델 라우팅을 검토할 첫 대상입니다.

출처: LG유플러스 "AI 코딩 비용 90% 절감"…내년 토큰 사업 추진

이 글이 도움이 되었다면 공유해주세요.
관련 서비스AX 전환
기업 AX 전환
이 주제를 자사 상황에 대입해 보고 싶으신가요?
AX 전환 상담 요청