デモを超えて本格活用へ: 自動化 CoE がエージェント AI に求めているもの

지금까지 여러 차례 AI 데모를 접해보셨을 것입니다. 진정한 성과와 혁신을 확인하셨나요? 네. 자율적인 의사결정이 가능하다고 과감히 주장할 수 있나요? 물론입니다.

그렇다면 무엇 때문에 망설이고 있나요? 힘들게 얻은 투자수익을 불확실성에 내던질 순 없겠죠. 에이전트 기반 혁신을 추진하기 전에 다음 질문에 대해 답해볼 필요가 있습니다.

• 기존 자동화 투자에는 어떤 일이 발생하나요?
• 에이전트 기반 CoE로의 전환은 어떻게 이루어지나요?
• (데모 성공과는 다른) 기업의 성공을 결정하는 플랫폼 역량은 무엇인가요?
• 어떻게 하면 효과적으로 작동되고 있음을 알 수 있나요?

첫 번째 질문에 대한 답은 바로 기반입니다. 기존의 자동화 투자는 쓸모없어지는 것이 아니라, 오히려 더 가치를 갖게 됩니다. 그 이유는 다음과 같습니다.

에이전트 자동화가 기존 투자의 가치를 증대하는 방법

CoE가 구축한 자동화는 송장 처리, 공급업체 데이터 관리, 주문 입력, 보고서 생성 등 각각의 특정 유스케이스를 해결합니다. 이를 위해서는 개발자가 시간을 내고, 테스트를 하며, 기록하고, 거버넌스 승인을 받아야 했습니다. 이는 선형 방정식과 같았습니다. 즉, 유스케이스가 많아질수록 개발 시간이 그에 비례해서 증가했습니다.

에이전트 자동화는 이러한 한계를 극복합니다. 개발자가 새로운 워크플로를 하나씩 코딩하기보다는 에이전트가 자동화 구성 요소를 오케스트레이션하고 비즈니스 상황에 따라 이를 재조합하여 무한에 가까운 워크플로를 생성할 수 있습니다.

즉, 자동화 라이브러리가 에이전트 자동화의 매우 소중한 핵심 구성 요소인 것입니다. 오늘날 자동화를 시작하는 기업은 에이전트가 활용할 수 있는 구성 요소가 충분하지 않기 때문에 한 번에 앞서 나갈 수 없습니다.

자동화 범위의 확장 및 가치 실현 시간의 단축

일반적으로 자동화 프로그램은 처음 몇 년 동안은 높은 투자 수익률(ROI)을 제공합니다. 그러나 이미 손쉬운 과제들은 대부분 해결된 것을 체감하셨을 것입니다. 남아 있는 기회들은 더 복잡하고, 변동성이 크며, 기존 RPA 경제성으로 정당화하기 어려워지고 있습니다.

에이전트 자동화는 지금까지 너무 복잡하다고 판단해 자동화에서 제외했던 프로세스까지도 자동화 범위를 확장할 수 있도록 해줍니다. 이는 예외 처리, 판단이 필요한 업무, 비정형 데이터 처리에 최적화된 솔루션입니다. 초기에 도입했던 기업들은 비용을 늘리지 않고도 상당한 수준으로 범위를 확장하고 있으며, 전통적인 RPA로는 처리할 수 없었던 특수 사례와 판단이 필요한 업무까지 해결하고 있습니다.

CoE 기반이 마련되어 있다면 AI 에이전트가 바로 작동할 수 있습니다. 진정한 ROI 위험은 귀하의 자동화 역량이 정체되는 동안 경쟁사들이 앞서 나가는 상황에 있습니다.

초기화되지 않고 축적되는 전문성

RPA 프로그램을 구축한 팀은 기업 자동화가 실제 운영 환경에서 어떻게 작동하는지 잘 이해하고 있습니다. 이들은 어떤 통합이 중단되는지, 예외가 어떻게 나타나는지, 거버넌스가 실제로 무엇을 요구하는지, 그리고 데모에서는 간단해 보이는 프로세스가 왜 여러분의 환경에서는 실패하는지 알고 있습니다.

이 모든 프로세스 이해, 통합 지식, 그리고 거버넌스 역량은 에이전트가 워크플로를 생성할 때 더욱 가치가 높아지며, 줄어들지 않습니다. 에이전트 지침 설계, 검증 프로토콜, 위험 기반 감독 등 새로운 요소는 수년간 쌓아온 팀의 전문성에 더해집니다.

에이전트 자동화는 이러한 전문성을 단순히 코딩에서 벗어나, 더 고차원적인 오케스트레이션 패턴을 설계하고 에이전트가 생성하는 결과를 검증하는 일에 활용합니다. 업무의 초점이 '특정 자동화 구축'에서 벗어나 '에이전트가 작동할 프레임워크 구축'으로 전환됩니다.

CoE가 경험할 변화

유용한 자동화를 구축하기 위해 계속해서 늘어나는 목록에 한정된 개발자 자원을 분배하는 대신, CoE는 에이전트가 오케스트레이션하는 툴킷을 선별하고 전반적인 감독과 검증을 수행하는 역할로 전환합니다. 에이전트는 이미 구축하고 검증한 구성 요소를 활용하여 새로운 워크플로를 생성합니다.

Cargill의 글로벌 지능형 자동화 CoE는 5년 동안 236건의 자동화를 구축하여 1,900만 달러의 비용 절감 효과를 달성했습니다. 각 자동화는 공급업체 비활성화, 주문 입력, 송장 처리 등 특정 문제를 해결했습니다. Cargill에서 구축한 CoE 거버넌스와 구조는 지금까지 다루지 못했던 새로운 유스케이스 전반에 걸쳐 가치를 확장할 수 있는 기반을 마련해줍니다.

Sumitomo Rubber의 에이전트 자동화는 데이터를 수집하고, 컨테이너 적재 효율을 최적화하며, 주문 전반에 걸쳐 규칙을 적용합니다. 수동으로 배정하는 시간이 98% 줄어들었고, 20일이 걸리던 일을 반나절 만에 처리할 수 있게 되었습니다.

이러한 결과는 에이전트가 실제 기업 환경에서 기존 자동화 라이브러리를 활용할 때 그 가치가 어떻게 배가되는지를 보여줍니다. 하지만 마지막 부분인 '실제 기업 환경'에서야말로 에이전트 AI와 관련한 주장이 진정으로 검증됩니다.

데모에 대한 환상과 기업 현실을 구분하기

송장을 처리해야 하는 상황을 생각해 봅니다. AI 에이전트는 PDF에서 데이터를 추출하고, ERP 시스템에서 공급업체를 검증한 다음, 조달 플랫폼에서 구매 주문을 확인하며, 워크플로 시스템을 통해 승인 절차를 진행하고, 재무 애플리케이션에서 결제를 자동으로 실행해야 합니다.

이 모든 과정은 다섯 개의 서로 다른 시스템에서 이루어집니다. ERP는 규정 준수 문제로 온프레미스 환경에서 실행됩니다. 조달 플랫폼은 레거시 시스템으로 API 접근이 제한적입니다. 워크플로 도구는 클라우드 기반 SaaS이며 금융 애플리케이션에는 특정 보안 프로토콜이 필요합니다.

포인트 솔루션은 모든 데이터가 하나의 통제된 시스템에 있기 때문에 데모에서 성능이 뛰어납니다. 하지만 하이브리드 인프라, 레거시 시스템, 금융 데이터에 대한 보안 경계, 데이터 이동 위치를 규정하는 준수 요구사항을 탐색하는 데에는 대체로 미흡한 경향이 있습니다.

ServiceNow, Salesforce 같은 플랫폼은 기업 수준의 거버넌스와 보안 기능을 제공하지만, 이들의 에이전트 기능은 해당 생태계 내에서만 작동하도록 설계되어 있습니다. 즉, 에이전트가 ServiceNow 모듈이나 Salesforce 클라우드 전반에서 효과적으로 오케스트레이션할 수 있지만, 송장 데이터가 SAP에 있고, 공급업체 마스터가 Oracle에 있으며, 승인 프로세스가 맞춤형 애플리케이션을 통해 진행되는 경우에는 이러한 시스템 간의 간극을 메우지 못합니다.

이들 플랫폼의 가치는 분명하지만, 특정 도메인에 한정되어 있어, 해당 플랫폼 외부에 투자한 자동화 자산을 효과적으로 활용하지 못하게 됩니다.

기업 오케스트레이션에 실제로 요구되는 요소

에이전트는 워크플로를 오케스트레이션할 때 서로 분리된 시스템 전반에 걸쳐 실행을 순차적으로 관리하고 통제합니다. 에이전트는 처리 경로를 결정하고, 각 자동화를 순차적으로 실행하며(예: 송장 처리의 경우 OCR 추출, 공급업체 검증, PO 검색, 승인 라우팅, 결제 처리 실행), 다양한 보안 모델, 배포 환경, 접근 방식 전반에 걸쳐 효율적으로 조정 및 연계합니다.

귀사의 개발자들이 이러한 개별 자동화를 구축했습니다. 이제는 다양한 시스템 아키텍처와 요구사항을 아우르며 이 자동화들을 유기적으로 조율할 수 있는 에이전트가 필요합니다.

기업 가치를 실현하기 위해서는 에이전트 플랫폼이 실제 엔터프라이즈 환경에 최적화되어야 합니다.

• 에이전트-자동화 오케스트레이션: 에이전트는 실행 위치와 상관없이 현재 자동화 라이브러리를 실행 가능한 도구로 호출하고 조정해야 합니다.
• 기업 연결성: 핵심 시스템용 사전 구축 커넥터와 최신 API가 없는 레거시 애플리케이션(온프레미스 시스템 포함)의 통합 기능
• 프로덕션 거버넌스: 여러 시스템에 걸친 모든 에이전트 활동에 대한 감사 추적 기능과 데이터 접근 및 의사결정 이력 관리를 위한 통제 기능
• 배포 유연성: 보안 및 규정 준수 요구 사항에 따라 실제로 시스템이 위치한 곳(클라우드, 온프레미스 또는 하이브리드)에서 작동할 수 있는 능력
• 보안 아키텍처: 서로 다른 보안 요구 사항과 무단 접근 방지 대책이 있는 시스템 간의 자격 증명 관리

대부분의 공급업체는 이러한 요구 사항을 충족한다고 주장합니다. 그럴 경우 단순한 데모 환경이 아닌, 귀사가 사용하는 시스템, 보안 모델 및 규정 준수 요건을 통해 해당 사실을 입증할 것을 공급업체에 요구해야 합니다.

에이전트가 실제 기업 환경 전반에 걸쳐 기존 자동화 프로세스를 효과적으로 오케스트레이션할 수 있나요? 거버넌스가 모든 시스템 전반에서 에이전트의 활동을 추적하나요? 보안 요건이 필요한 곳에 배포할 수 있나요?

CoE가 이미 구축한 평가 체계, 즉 섀도우 자동화를 방지하고 운영 신뢰성을 보장하는 프레임워크는 실제 에이전트 역량과 AI 과대 주장을 구분해주며, 혁신으로 포장된 기술 부채가 쌓이지 않도록 조직을 보호합니다.

에이전트 기반 CoE로의 전환 모습

CoE를 효과적으로 만드는 역량, 즉 프로세스 준수, 거버넌스 프레임워크, 통합 아키텍처, 이해관계자 관계는 여전히 기반이 됩니다. 변화하는 것은 업무 처리 방식, 그리고 팀이 시간을 쓰는 곳입니다.

기존 자동화 구성 요소를 사용하는 워크플로의 경우, 팀은 코딩에서 검증으로 전환합니다. 하지만 구성 요소가 아직 존재하지 않는 곳에서도 자동화를 구축하게 됩니다. 즉, 자동화를 구축하고 검증하는 과정 사이를 오가야 하므로 적응이 필요합니다.

또 다른 변화는 프롬프트 엔지니어링이며, 이는 창의성보다는 구조적인 접근이 요구됩니다. 에이전트는 일관된 행동을 이끌어내는 체계적인 지침 프레임워크가 필요합니다. 개발자는 프로세스 논리를 이해하지만, 이를 에이전트가 신뢰성 있게 실행할 수 있는 지침으로 전환하는 일은 또 다른 일입니다.

진화하는 역할

경험이 풍부한 에이전트 자동화 전문가들로 구성된 팀을 만드는 일은 기존 팀을 발전시키는 과정에 주로 달려 있습니다.

귀사의 에이전트 오케스트레이션 리드는 아마도 가장 숙련된 자동화 아키텍트이거나 비즈니스 프로세스에 대한 이해도가 높은 개발자일 것입니다. 이 담당자는 지침 프레임워크를 설계하고, 오케스트레이션 패턴을 구축하며, 에이전트의 동작이 의도와 일치하지 않을 때 문제를 신속하게 해결합니다. 기술적 전문성, 비즈니스 전문 지식, 그리고 절차적 코드가 아닌 에이전트 지침 관점에서 사고하는 역량을 모두 갖춘 보기 드문 인재들입니다.

AI 워크플로 검증자는 기존 QA 또는 선임 개발자 풀에서 선발됩니다. 이들은 에이전트가 생성한 워크플로가 운영 기준을 충족하는지 검증하며, 여기에는 기술적 검토와 비즈니스 로직 검증이 모두 포함됩니다. 핵심적인 변화는 개발자가 작성한 코드가 아니라, 자신이 작성하지 않은 워크플로와 에이전트가 생성한 논리를 평가하는 것입니다.

에이전트 워크플로 전문가들은 더 높은 수준에서 활동할 준비가 된 RPA 개발자들로, 오케스트레이션 패턴을 설계하고, 에이전트의 결과를 검증하며, 필요에 따라 구성 요소를 구축합니다. 이는 단순한 기술 전환이 아니라, 지시 및 검증과 개발 간에는 본질적인 차이가 있음을 의미합니다.

나머지 팀원들 또한 함께 발전합니다. 프로세스 분석가, 거버넌스 팀, 그리고 지원 직원들은 자신이 맡은 핵심 업무는 유지하면서도 새로운 환경에 적응하게 됩니다. 분석가들은 기회를 식별할 뿐만 아니라, 이제는 개발자에게 단순히 사양을 전달하는 대신 오케스트레이션 리드와 함께 지시문을 설계합니다. 거버넌스 부문에서는 에이전트가 생성한 워크플로와 개발자가 작성한 코드를 동시에 검토합니다. 지원 부문의 역할 역시 '왜 오류가 발생했는가'에서 '에이전트가 왜 이와 같은 판단을 했는가'로 확장되고 있습니다.

새로운 거버넌스 요구 사항

에이전트의 의사결정을 모니터링하는 일은 기존 자동화를 모니터링하는 일보다 더 어렵습니다. 에이전트가 송장을 처리하고 난 뒤 사람이 검토해야 할 필요가 있다고 표시할 경우, 거버넌스 프레임워크에서는 해당 사유를 반드시 기록해야 합니다. 임계값을 초과했는지, 공급업체 데이터에 이상이 있는지, 신뢰도 점수가 낮은지, 그 외 다른 문제가 있는지 등을 기록합니다.

이러한 경우 아마도 현재 가지고 있지 않은 계측 장비가 필요합니다. 현재 RPA 자동화 모니터링은 성공/실패, 실행 시간, 오류 로그를 추적합니다. 반면 에이전트 모니터링은 의사결정 수준의 투명성이 필수적입니다. 즉, 에이전트가 어떤 경로를 선택했는지, 신뢰 수준은 어떠했는지, 어떤 데이터가 해당 결정을 뒷받침했는지, 오케스트레이션 내에서 사람이 검토해야 할 필요가 있다고 판단한 지점은 어디였는지 등을 명확하게 파악할 수 있어야 합니다.

모니터링 인프라는 선택한 플랫폼의 일부가 되겠지만, 무엇을 모니터링할지는 거버넌스 결정 사항입니다. 귀사의 CoE는 다음 질문에 답해야 합니다. 에이전트의 어떤 의사결정을 기록 및 검토할 것인가? 어떤 신뢰도 임계값에서 에스컬레이션할 것인가? 에이전트의 추론을 검토할 수 있는 권한이 있는 사람은 누구인가? 에이전트가 생성한 워크플로와 에스컬레이션 프레임워크의 검증 프로토콜에는 동일한 거버넌스 결정이 필요합니다.

이는 플랫폼이 대신 답변해 주는 질문이 아닙니다. 조직의 위험 감수 성향, 준수 요구 사항 및 조직 문화를 고려하여 직접 결정해야 합니다.

이해관계자 간에 조율하는 일은 일반적으로 기술을 구현하는 것보다 더 오래 걸리므로, 파일럿 단계에서 이러한 프로토콜을 미리 수립하여 확장에 필요한 기반을 마련하는 것이 중요합니다.

에이전트 영향 측정 방법

시간 절약과 비용 절감도 여전히 중요하지만, 그것만으로는 변화가 제대로 이루어지고 있는지 알 수 없습니다. 에이전트가 CoE의 역량을 효과적으로 확장하고 있는지 보여주는 지표를 추적해야 합니다.

• 에이전트가 생성한 워크플로 품질: 워크플로가 첫 번째 검토에서 유효성 검사를 통과하는 비율을 추적합니다. 통과율이 낮다면 지침 프레임워크에 개선이 필요하거나, 에이전트가 처리하는 워크플로가 현재 보유한 역량에 비해 지나치게 복잡하다는 뜻입니다.
• 기회에서 생산까지 걸리는 시간: 기존 자동화 구성 요소를 활용하는 워크플로의 경우 일정 단축이 있는지 확인합니다(예: 몇 주가 걸리던 작업이 며칠 내에 완료됨). 이러한 현상이 나타나지 않는다면, 에이전트가 효과적으로 오케스트레이션하지 못하고 있거나, 검증 과정에 병목현상이 있거나, 잘못된 유스케이스에 에이전트 오케스트레이션을 적용하고 있을 가능성이 있습니다.
• 오케스트레이션의 복잡성: 복잡한 다중 시스템, 다단계 워크플로로 범위를 확장하고 있나요, 아니면 자동화를 조금 더 쉽게 만들어줄 뿐인가요? 에이전트가 단지 2~3단계의 워크플로만 성공적으로 오케스트레이션하고 있다면 충분한 가치를 얻고 있지 않은 것입니다.
• 개발자 시간 배분: 이는 팀이 구축에서 검증으로 전환하고 있는지 평가하는 데 도움이 됩니다. 기존의 개발 소요 시간이 감소하고 오케스트레이션 설계 및 검증에 투입되는 시간이 증가하는 추세를 확인해야 합니다. 세 가지 모두 높다면, 이는 변화가 정체되어 있고 단지 업무량만 늘리고 있다는 신호일 수 있습니다.

핵심은 에이전트 자동화로 전환하는 것이 완전히 처음부터 다시 시작하는 것은 아니지만 결코 단순한 변화도 아니라는 점입니다. 에이전트 AI로 성공을 거두고 있는 CoE들은 기존의 기반을 혁신의 도약대로 적극적으로 활용하고 있습니다.

CoE 전환의 시작

귀사의 자동화 CoE는 지금보다 훨씬 더 큰 비즈니스 가치를 창출할 준비가 되어 있습니다. 이제 관건은 타이밍입니다.

기존 투자, 팀 전문성, 그리고 성과 기록은 이미 구축해 온 확고한 자산입니다. 앞으로 90일 동안 어떤 행동을 하느냐에 따라 혁신의 방향을 직접 선택할지, 아니면 경쟁 압력 속에서 어쩔 수 없는 변화를 맞이할 것인지가 결정됩니다.

CoE 혁신 여정에 대해 지금 바로 문의하거나, 이미 구축한 자동화 라이브러리를 에이전트가 손쉽게 오케스트레이션할 수 있도록 지원하는 플랫폼을 확인해 보세요.