Open NVIDIA Nemotron 3 Super를 통해 완전한 온프레미스 엔터프라이즈 AI 자동화 플랫폼 제공

엔터프라이즈급 AI 에이전트는 강력하지만 규제가 심한 많은 산업의 경우 실제로 배포하기가 어렵습니다.

대부분의 에이전트 프레임워크는 클라우드에 호스팅된 모델에 의존하므로 민감한 엔터프라이즈 데이터를 외부 API로 전송해야 합니다. 금융 서비스, 의료, 보험 및 정부 환경에서는 그러한 아키텍처가 제약이 될 수 있습니다.

Automation Anywhere에서는 고급 오픈 웨이트 모델을 당사의 자동화 플랫폼에서 실행하는 새로운 접근 방식을 평가해 왔으며, 여기서는 범용 오케스트레이션을 통해 모델, 엔터프라이즈 시스템 및 거버넌스가 적용된 워크플로를 연결합니다.

당사는 최근에 NVIDIA의 최신 릴리스인 Nemotron-3-Super-120B를 벤치마킹하여 완전한 온프레미스 환경에서 엔터프라이즈급 에이전트 자동화를 지원하는 기능을 평가했습니다.

그 결과는 매우 흥미로웠습니다.

온프레미스 환경에서 제공되는 엔터프라이즈급 성능

Nemotron-3-Super-120B는 150개 이상의 엔터프라이즈 에이전트 시나리오의 복잡한 다단계 워크플로에서 뛰어난 성능을 입증했습니다. 시나리오는 보험 청구, 금융 운영, 의료 규정 준수, 공급망, 조달 및 고객 유지에 이르기까지 다양했습니다.

당사의 엔터프라이즈 벤치마크는 다음과 같은 결론을 도출했습니다.

• 선도적인 클라우드 기반 모델에 견줄 만한 작업 완료 성능을 보였습니다.
• 당사에서 평가한 거의 모든 대규모 비공개 모델보다 더 뛰어난 성능을 보였습니다.
• 당사 벤치마크에서 평가한 동일 크기 모델 중 가장 좋은 성능을 보인 오픈소스 모델입니다.

이러한 결과는 이제 오픈 웨이트 모델이 엔터프라이즈 인프라 내에서 완전히 실행될 때 외부 API에 의존하지 않고도 본격적인 에이전트 워크로드에 요구되는 성능 기준을 충족할 수 있음을 나타냅니다.

보안 범위 내 거버넌스가 적용된 에이전트 추론

당사는 Nemotron-3-Super-120B를 사용하여 오케스트레이션된 워크플로에서 에이전트의 추론, 계획 수립 및 구조화된 도구 사용을 테스트했습니다.

당사는 제약 없이 자율적으로 동작하는 에이전트를 배포하는 대신 Mozart Orchestrator를 통해 오케스트레이션되는 거버넌스가 적용된 프로세스에 AI 에이전트를 적용합니다.

이를 통해 다음 작업을 수행할 수 있습니다.

• 구조화된 도구 호출
• 결정론적 워크플로 스캐폴딩
• 사람이 개입하는 HITL 체크포인트
• 엔터프라이즈급 제어 기능 및 가시성

또한 당사의 실행 모델은 Automation Anywhere의 PRE(프로세스 추론 엔진)를 통해 엔터프라이즈 프로세스 전문성에 기반하여 AI를 실행하며, 이는 엔터프라이즈 워크플로에서 구조화된 추론을 제공합니다.

이 스택을 완전한 온프레미스 환경에서 실행하는 조직은 규정 준수, 데이터 레지던시 및 운영 통제력을 유지하면서 에이전트 자동화를 배포할 수 있습니다.

비전 기반 자동화 확장(온프레미스 포함)

엔터프라이즈 환경에는 종종 선택기 기반 자동화가 실패할 수 있는 팻 클라이언트 애플리케이션, 레거시 시스템 및 가상화된 데스크톱이 포함되어 있습니다.

당사는 추론을 위한 Nemotron Super 외에도 비전 기반 UI 자동화를 지원하는 NVIDIA 비전-언어 모델을 평가하고 있습니다. 이러한 자동화는 결정론적 방법이 실패할 때 시스템이 시각적으로 애플리케이션 제어를 식별하고 상호 작용할 수 있도록 합니다.

이렇게 하면 클라우드 종속성을 도입하지 않고도 복잡한 엔터프라이즈 시스템 전반에 걸쳐 자동화 범위를 확장할 수 있습니다.

통합 온프레미스 아키텍처

단일 NVIDIA GPU는 다음을 지원할 수 있습니다.

• 추론을 위한 Nemotron-3-Super-120B
• UI 이해를 위한 비전-언어 모델
• Automation Anywhere의 오케스트레이션 및 거버넌스 계층

외부 API 호출이 필요하지 않습니다.

데이터가 해당 건물 내에서 처리됩니다.

규제 대상 엔터프라이즈의 경우 이는 클라우드 기반 모델이 적합하지 않은 환경에서도 AI 기반 자동화를 실현할 수 있게 해줍니다.

중요한 이유

AI 에이전트 관련 논의는 모델의 역량에 초점을 맞추는 경우가 많습니다. 엔터프라이즈에 있어 배포 아키텍처는 그만큼 중요합니다.

NVIDIA의 최신 Nemotron Super 릴리스를 평가한 결과, 고성능 오픈 웨이트 모델이 이제 완전한 온프레미스 환경에서 엔터프라이즈급 에이전트 워크플로를 지원할 수 있게 되었음을 확인했습니다.

성능과 제어, 단순성을 함께 활용하면 AI 기반 자동화가 가장 필요한 산업에서 그러한 자동화를 실현할 수 있습니다.

자세히 알아보기

Automation Anywhere의 APA 시스템이 금융 서비스, 의료, 보험, 공공 부문 등 규제 대상 산업의 핵심 업무 프로세스 전반에 걸쳐 에이전트 자동화를 어떻게 실현하는지 알아보세요.