AI 도입 단위는 기능이 아닌 워크플로우 — 사람·AI 역할을 세 층으로 나누는 제약 AX

8월 25일 게재된 ‘제약 AI 대전환’ 연재 5편은 AI 도입의 기준 단위를 개별 기능이 아니라 전체 ‘업무 워크플로우’로 잡아야 한다고 짚었습니다. AI 적용 업무를 골랐다고 해서 기존 업무에 AI 기능 하나를 덧붙이는 것으로 전환이 이뤄지지는 않는다는 것입니다.

사람과 AI의 역할을 세 층으로 나눈다

연재가 제시한 재설계의 뼈대는 사람과 AI의 역할을 세 수준으로 분리하는 것입니다.

• AI 주도 — 문서 검색, 데이터 비교, 반복 처리, 보고서 초안 작성. AI가 전적으로 맡아 리드타임을 줄이는 영역입니다.
• Human+AI(인간·AI 협업) — 심층적인 원인 분석, 대안 검토, 규제 변경에 따른 영향 평가, 예외 처리. 사람의 직관과 AI의 추론이 상호 작용하는 영역입니다.
• 인간 주도 — 품질 판단, 규제 적합성 검토, 책임 소재 확인, 최종 승인 절차. 반드시 사람이 통제하고 주도하는 영역으로 남깁니다.

기사는 이 원칙이 맥킨지, 보스턴컨설팅그룹(BCG), 마이크로소프트, 미국 식품의약국(FDA), 유럽 의약품청(EMA)의 전략에서 공통으로 확인된다고 썼습니다. 이들은 ‘무엇을 AI에게 맡길 것인가’만이 아니라 ‘어디에서 사람이 반드시 개입해야 하는가(Human-in-the-loop)’를 처음부터 함께 설계합니다. 마이크로소프트는 되돌리기 어렵거나 규제 영향을 주는 행동에는 반드시 사람의 승인을 요구하도록 권고하고, FDA와 EMA는 ‘2026 Good AI Practice’ 원칙에서 사람 중심 설계와 ‘Human-AI Interaction’ 평가를 핵심으로 내세웁니다.

기술이 아니라 업무 문제에서 출발한다

기업용 AI 설계 전문기업 베이글은 이 과정을 ‘업무 재설계’ 관점에서 접근해야 한다고 강조했습니다. 베이글 관계자는 “대다수 기업이 AI를 도입할 때 '어떤 최신 기술을 어느 업무에 적용할까'라는 기술 중심의 접근부터 하는 실수를 범한다”며 “우리는 현업의 비즈니스 문제를 먼저 살피고, 업무 설계를 거친 뒤 기술을 접목하는 역순의 접근법을 지향한다”고 말했습니다. 현업의 지연·누락·오류 같은 고충을 먼저 재정의한 뒤 AI와 사람의 역할을 나누고, 그다음에 가장 적합한 기술을 매칭하는 순서입니다.

실행 플랫폼, 그리고 데이터라는 전제

설계된 워크플로우를 현장에서 구동할 실행 체계로 기사는 아이티센클로잇의 멀티 에이전트 플랫폼 ‘AgentGo(에이전트고)’를 소개했습니다. AI가 일관된 기준이 적용된 시스템에 접근해 데이터를 수집하고 초안을 도출하면, 최종 승인 권한을 가진 실무자가 핵심 지점에서 검토하고 승인하는 Human-in-the-loop 구조를 플랫폼 안에 구현했다고 기사는 설명했습니다. 아이티센클로잇 관계자는 “글로벌 선도 제약사들이 주목하는 AI 전환의 본질은 도구의 도입이 아니라, 현업 실무자가 AI와 안전하게 협업하는 방식을 시스템화하는 것”이라고 말했습니다.

다만 기사는 에이전트 플랫폼이 제 역할을 하려면 전제 조건이 먼저 풀려야 한다고 짚었습니다. 에이전트가 사내의 어떤 데이터를 믿고 결론을 내릴 것인가의 문제입니다. 기사는 제약사의 데이터가 ERP, MES, LIMS, EDMS 등 여러 시스템에 흩어져 있고, 동일한 핵심성과지표(KPI)조차 부서마다 정의나 계산 기준이 다른 경우가 허다하다고 썼습니다. 여기에 유럽 의약품청(EMA), 한국 식품의약품안전처(MFDS), FDA의 가이드라인은 데이터의 출처와 처리 과정, 분석적 결정이 투명하게 추적 가능하고 검증되어야 한다고 규정합니다. 결과만 맞으면 되는 것이 아니라 근거와 과정까지 추적돼야 하는 산업입니다.

이 데이터 신뢰성 문제의 해법으로 기사는 아이디케이스퀘어드(IDK2, 하트카운트)의 ‘Decision Agent’를 들었습니다. 복잡한 수치 연산과 통계 검증은 분석 엔진이 맡고, 대화형 AI(LLM)는 검증된 결과에 비즈니스 맥락을 더해 자연어로 설명만 하도록 역할을 분리한 하이브리드 구조입니다. 지표 정의와 업무 규칙을 표준화하는 ‘시맨틱 레이어(의미론적 연결 계층)’를 두어 실무자가 일상 언어로 질문해도 일관된 기준으로 답하고, 민감한 데이터를 외부 서버로 내보내지 않고 사용자의 웹 브라우저 안에서 연산해 폐쇄망이나 온프레미스 환경에서도 쓸 수 있게 했습니다.

기사가 정리한 흐름은 다음 순서입니다.

1. 현장의 업무 문제 발견
2. 사람과 AI가 일하는 방식을 다시 그리는 업무 설계
3. Human+AI 역할 설계
4. Agent 실행 플랫폼 가동
5. 신뢰 가능한 Data 파이프라인 구축

이 순서가 갖춰질 때 비로소 실무진이 사람의 최종 의사결정에 집중할 수 있다는 것이 연재의 결론입니다.

한국 기업 AX 시사점

이 연재는 제약 산업을 다뤘지만, 제약이 아닌 업종에서 AI 도입을 검토하고 있더라도 세 층 분류는 그대로 가져다 쓸 수 있습니다. AI 적용 후보 업무를 골랐다면 그 안의 단계를 ‘AI가 전적으로 맡는 일’, ‘AI가 초안을 내고 사람이 판단하는 일’, ‘사람만 하는 일’로 먼저 나눠 보는 것이 순서입니다. 마이크로소프트의 권고처럼 되돌리기 어렵거나 규제 영향을 주는 행동이 어느 단계에 있는지 표시하면, 승인 지점을 어디에 둘지가 드러납니다.

베이글이 말한 ‘역순’ 접근도 같은 맥락입니다. 도입할 기술을 먼저 정해 두고 적용할 업무를 찾고 있다면, 지연·누락·오류가 실제로 어디에서 나는지부터 적어 보는 편이 순서입니다. 병목을 특정하지 않은 채 기술을 고르면, 베이글 관계자가 지적한 ‘기술에 업무를 억지로 맞추는’ 순서가 됩니다.

데이터 쪽 전제는 더 구체적입니다. 에이전트에게 판단을 맡길 업무에서 쓰는 지표가 부서마다 다른 정의로 계산되고 있다면, 플랫폼 도입보다 지표 정의를 하나로 맞추는 일이 먼저입니다. 감사나 규제 대응이 걸린 업무라면 결과값만이 아니라 어떤 데이터를 어떤 과정으로 처리해 그 결론에 이르렀는지가 추적되는지도 함께 확인해야 합니다. 폐쇄망이나 온프레미스가 조건이라면 데이터를 외부로 내보내지 않고 처리하는 구조가 가능한지가 선택 기준에 들어갑니다.

이번 주 확인해 볼 것은 하나입니다. AI 적용 후보로 올라와 있는 업무 하나를 골라 단계별로 세 층 중 어디에 속하는지 적어 보십시오. 그 표에서 ‘최종 승인을 누가 하는가’가 비어 있는 단계가 있다면, 그 업무의 재설계는 아직 끝나지 않은 것입니다.

출처: [제약 AI 대전환 ⑤] AI 도입, '기능' 아닌 '업무 재설계’… 사람과 AI ...