AI 에이전트의 점진적인 기업 소프트웨어 잠식

인터넷에는 소프트웨어 시대가 끝났다는 말들이 넘쳐나고 있습니다. 그런 말이 나오게 된 이유는 무엇일까요? 당연히 AI 때문입니다.

많은 사람들이 소프트웨어의 시대는 이미 막을 내렸으며, AI 에이전트를 개발하는 소규모의 AI 활용이 가능한 엔지니어 팀이 전통적인 엔터프라이즈 소프트웨어 솔루션을 완전히 대체할 것이라고 말합니다. 이는 방향성 측면에서는 맞지만, 소프트웨어가 실제 기업에서 활용되는 방식, 소프트웨어 개발을 위한 AI의 현재 상태, 그리고 기존 AI 접근 방식의 한계를 간과한 주장입니다.

결국, AI는 다양한 시나리오에 맞춰 광범위한 기능을 제공하고 적응력이 뛰어나기 때문에 거의 모든 소프트웨어 제품에서 핵심 요소가 될 것입니다. 그러나 그 수준에 도달하려면 상당한 발전이 있어야 합니다. 그 이유는 다음과 같습니다.

오늘날 AI 에이전트가 강점을 발휘하는 분야

AI 에이전트는 이미 다양한 단순 작업을 혼자서 효율적으로 처리하고 있으며, 사람과 협력 시 더 복잡한 작업을 처리할 수도 있습니다. 하지만 구조화된 규칙과 워크플로를 활용해 의사 결정 과정을 안내하고 AI 행동을 제한하여 신뢰성과 일관성을 보장하는 광범위하고 결정론적인 논리 구조의 지원 없이는 복잡한 엔드투엔드 프로세스를 안정적으로 실행할 수 없습니다.

모델이 개선되고 새로운 훈련 방법이 제공되며 아키텍처가 더 발전함에 따라 이러한 상황은 바뀔 것입니다. 그렇게 되면 AI 에이전트는 매우 복잡한 프로세스를 실행함에 있어 주도적인 역할을 맡게 될 것입니다.

예를 들면, 오늘날 AI 에이전트는 연구와 관련된 보조 작업에 뛰어난 역량을 발휘합니다. 주요 오케스트레이션 엔진 역할을 하며, 검색, 데이터 수집, 분석 및 작성 전반의 작업을 조율하여 보고서(심층 연구)를 출력합니다. 여기서는 오류가 어느 정도 용인되는데, 그 이유는 출력물을 사람이 검토하고 판단한 다음에야 의미있는 조치가 이루어지기 때문입니다.

AI 에이전트는 또한 시스템에서 데이터 검색, 정보 분석, 특정 작업 실행 등 사람과 협력하여 여러 상호 관련 작업을 완료하는 좀 더 일반화된 보조 인터페이스로도 사용할 수 있습니다. 여기서도 사람은 처리 과정에 관여하며, 사람과 AI 에이전트가 궁극적인 목표를 향해 협력하는 과정에서 프로세스를 주도하고 검토합니다.

다른 경우에, 작업이 좁은 범위로 한정되고 이를 완료하는 데 필요한 조치가 제한적이라면 AI 에이전트가 완전히 자율적으로 행동하여 작업을 완료할 수도 있습니다. 예를 들면 송장 수집 AI 에이전트가 있습니다. 이 에이전트는 송장 데이터에 기반하여 구조화된 공급업체 정보를 검색하고, 그 정보를 검증한 후 결제 처리를 위한 경로 지정이나 검토를 위한 상향 조정과 같은 다음 단계를 결정합니다.

복잡성에 따른 AI의 현재 결정론적 논리의 필요성

현재 AI가 지닌 한계로 인해, 프로세스 전반에서 너무 많은 자유도를 가진 AI 에이전트에 의존하면 결과가 불안정해집니다. 따라서 복잡한 애플리케이션일수록 AI 에이전트가 명확하게 정의된 목표와 올바른 작업 수행에 필요한 맥락을 바탕으로 작동할 수 있도록 안내하는 논리 구조가 필요합니다.

그 이유는 다음과 같습니다. 100%의 정확도가 보장되지 않는 상황에서 여러 작업이 복잡하게 얽히면 성공 확률이 크게 줄어듭니다. 통계적으로 에이전트가 수행하는 각 단계의 정확도가 98%인 경우, 20단계를 거치면 전체 성공률은 70% 미만으로 떨어집니다.

실제 수많은 기업 AI 애플리케이션은 기본적으로 결정론적 논리를 기반으로 설계되며, 애플리케이션의 특정 영역을 강화하기 위해 AI를 추가합니다. 결정론적 논리는 수행해야 할 작업이 명확한 곳에 사용되며, 범위가 정해진 작업에서 적응력이 필요한 경우에는 AI 에이전트가 추가됩니다. 기업의 경우, AI 에이전트를 단일 시스템에서 오케스트레이션 및 자동화와 결합하여 비용이 많이 드는 오류를 방지하고 중요한 비즈니스 프로세스의 신뢰성을 보장할 수 있습니다.

기업 소프트웨어에서 진화하는 AI의 역할

그렇다면 현재는 어떤 상황일까요? 비즈니스 애플리케이션에서 AI 에이전트의 기능은 아직 제한적입니다. 하지만 모델은 빠르게 발전하고 있으며, 복잡한 작업을 수행하는 데 있어 AI의 한계를 보완하는 새로운 시스템이 개발되고 있습니다.

저희의 프로세스 추론 엔진과 같은 기술은 이미 기업 프로세스 영역에서 이 분야를 발전시키고 있습니다. 프로세스 추론 엔진은 기업 워크플로에 대한 폭넓은 지식을 모델에 적용하고, 각 조직의 고객 맥락을 추가하며, 에이전트가 작업을 실행할 때마다 지속적으로 학습합니다. 전체 프로세스에서 여전히 많은 결정론적 오케스트레이션을 필요로 하지만, 해당 엔진을 통해 고객 AI 에이전트는 더 복잡한 작업을 더욱 안정적이고 자율적으로 수행할 수 있습니다.

에이전트의 미래 엿보기

AI 에이전트가 소프트웨어에 내재된 논리를 얼마나 빠르게, 어느 정도까지 흡수할 수 있을지는 오늘날 기술 분야에서 가장 흥미로운 질문 중 하나입니다. 이미 AI가 자연어를 통해 모든 상호작용의 주요 인터페이스 역할을 하는, LLM 기반 운영 체제라는 야심 찬 비전이 제시되고 있습니다. 혁신의 속도와 업계의 집중도를 고려하면 이러한 미래는 머지않아 도래할 것입니다.

기업 환경에서 AI 에이전트가 몇 년 안에 복잡한 오케스트레이션 엔진으로 완전히 진화할지는 지켜봐야 할 일입니다. 하지만 한 가지는 분명합니다. 미래에는 AI 에이전트가 더욱 중심적인 역할을 하게 될 것이므로 기업들이 지금부터 기초를 다져야 한다는 것입니다. 결정론적 자동화와 적응형 AI 에이전트가 균형을 찾아 가는 과정에서 두 요소를 융합하는 방법을 아는 리더는 선두에 서게 될 것입니다.

전략을 어떻게 바꾸든 AI는 소프트웨어 환경을 재편할 것이며, 그 과정은 결코 지루하지 않을 것입니다!

고객 사례 살펴보기를 통해 이미 자율 기업의 기반을 구축하고 있는 조직들의 사례를 확인해 보세요.