AI 에이전트. 2025년 지금 가장 주목받고 있는 키워드입니다. OpenAI, 마이크로소프트, 구글, 세일즈포스, 앤트로픽 등 글로벌 빅테크 기업들은 각기 다른 이름을 가진 AI 에이전트를 선보일 채비를 하고 있는데요. 덕분에 새로운 기술이 바꿔줄 우리의 새로운 일상에 대한 기대도 높아지고 있습니다.

전반적인 AI 에이전트의 기대와 가능성은 Vertical AI Agents(산업 특화 AI 에이전트)로 집중되고 있습니다. 세계적인 스타트업 액셀러레이터 기업 Ycombinator는 ‘Vertical AI 에이전트가 기존 SaaS보다 10배 더 커질 시장’이라고 전망했습니다. 딜로이트는 보고서를 통해 ‘2025년에는 생성형 AI를 사용하는 기업의 25%가 AI 에이전트의 파일럿 프로젝트나 개념 증명을 시작할 것’으로 예측했습니다.

AI 에이전트에 대한 이해도 마치기 전에 조명받고 있는 Vertical AI 에이전트은 무엇일까요? 실제 산업 현장에서는 AI 에이전트가 어떻게 활용될 수 있을까요? 그리고 AI 에이전트를 원활히 작동시키는 시스템은 어떤 구조로 작동할까요? 세 가지 질문에 대한 궁금증을 풀어보겠습니다.

AI Agents: 알아서 판단하고 행동하는 인공지능

AI 에이전트는 워크플로우가 유동적인 작업을 스스로 판단해 처리하는 지능형 시스템입니다. 기업의 특정 업무를 대행해 주는 회사를 에이전시라고 하잖아요. 이처럼 특정 업무를 대행해 주는 시스템을 AI 에이전트라고 말할 수 있습니다. AI 에이전트는 데이터를 통해 학습하고, 스스로 판단하며, 자율적으로 작업을 수행하는 특징을 가지고 있습니다. 핵심은 사람이 개입하지 않아도 자율적으로 목표를 설정하고 행동을 실행할 수 있는 능력을 갖추고 있다는 점입니다.

AI Agent 작동 원리 및 기반 기술

‘올해 남은 연차를 활용해 해외로 하이킹을 가고 싶은데 적합한 일정과 장소를 알려줘’라는 테스크를 AI 에이전트에게 줬을 때 어떤 순서로 작동하는지 살펴볼게요. 가장 먼저 요구사항을 이해합니다. 일정 제안과 여행지 추천이라는 요구사항을 식별한 후 정보를 수집합니다. 올해 남은 연차는 몇 개인지, 그 일자에 적합한 해외 장소는 어디인지, 그 시기 날씨와 항공편은 어떤지 알아봅니다. 그다음 그 정보를 바탕으로 조건에 맞는 날짜와 장소를 필터링해요. 그렇게 가장 적합한 장소와 일정을 추천하고, 사용자 피드백을 받죠. 이때 피드백이 만족스럽지 않으면 이 과정을 반복적으로 수행하고 개선해 사용자 맞춤형 최적화 여행 계획을 제안하고 항공권, 숙박 등을 예약할 수 있습니다.

Vertical AI Agents: 산업을 이해하는 맞춤형 AI 에이전트

AI 에이전트 단순히 컨텍스트 이해를 넘어서 추론 능력을 기반으로 필요한 워크플로우들을 스스로 만듭니다. 일련의 활동이 가능하게 된 이유는 지속해서 발전하고 있는 생성형 AI 기술들과 고도화된 소프트웨어 엔지니어링 기술이 결합됐기 때문인데요. 생성형 AI와 LLM 기술을 바탕으로 새로운 생산성 향상을 도모하고 있는 기업들에도 AI 에이전트는 새로운 가능성을 열어줄 것입니다. 앞서 언급한 빅테크들이 오피스의 업무 보조 역할을 하는 범용 AI 에이전트를 발전시키고 있다면, 기업의 본질적인 가치를 창출하는 핵심 비즈니스에 적합한 Vertical AI 에이전트는 또 다른 가능성을 열어 줄 것으로 보입니다.

Vertical AI 에이전트는 제조, 유통, 의료, 법률, 금융 등 특정 도메인에 깊이 있는 전문 지식을 이해하고 행동하는 AI입니다. 특정 산업이나 도메인에 특화된 AI 에이전트죠. 일반적인 AI 에이전트와 달리 도메인에 특화된 지식을 학습하거나 깊이 있는 이해가 가능한 시스템 설계 덕분에 해당 산업 혹은 기업의 워크프로우를 이해하고 있습니다. 그렇기에 고유의 데이터를 분석해 예측할 수 없는 상황이나 작업의 유동성을 고려해 자율적으로 판단하고 대응하며 더 정교한 맞춤형 해결책을 제공합니다. 기업은 우리 회사가 하는 일을 이해하고 있는 Vertical AI 에이전트를 통해 우리 회사가 직면한 문제보다 효과적으로 해결할 수 있을 것입니다.

Vertical AI Agents 활용 시나리오

산업 현장에서 Vertical AI 에이전트는 어떻게 행동할까요? 산업에 특화된 AI 에이전트는 LLM 기술을 바탕으로 보다 구체적인 작업을 수행합니다. 마키나락스가 직접 부딪친 현장을 기반으로 작성한 시나리오를 소개합니다.

Vertical AI 에이전트 활용 시나리오

산업 특화 AI 에이전트를 활용해 산업 현장의 설비 관리를 자동화한다고 가정해 보겠습니다. 먼저 이상탐지 AI 모델이 장비의 이상을 사전에 탐지합니다. 그러면 바로 검색 에이전트가 적합한 사례와 데이터를 검색해 원인을 알려줍니다. 원인을 알았으니 해결책을 찾아야겠죠. 분석 에이전트가 설비에서 수집된 데이터, 로봇의 조치 기록, 매뉴얼 데이터 등 에 접근해서 원인 분석 결과를 제공합니다. 이러한 데이터들을 통합적으로 분석하는 작업은 기존 AI 기술로는 어려웠던 영역입니다. 하지만 LLM을 결합하면 이러한 데이터를 하나의 통합된 인터페이스에서 손쉽게 확인할 수 있게 됩니다.

분석 결과를 바탕으로 제어 에이전트가 문제를 해결할 수 있는 코드를 생성하고 장비를 제어합니다. LLM이 Vertical AI 에이전트 형태로 발전하면서 특정 테스크를 이해하고 이를 수행하는 워크플로우를 생성하거나 코드를 작성하여 설비를 제어할 수 있게 됩니다. 작업자가 직접 수행하던 특정 수준 이상의 알람이 발생하면 설비를 멈추거나 가동 속도를 조정하는 작업을 Vertical AI 에이전트를 통해 자동으로 처리할 수 있게 됩니다.

시나리오에서는 특정 상황을 가정했지만, 궁극적으로 산업 현장에서는 Vertical AI 에이전트가 데이터 기반으로 상황을 인지하고 자율적으로 판단해 문제를 처리하는 자율화를 목표로 하고 있습니다. 

Compound AI System: AI Agents가 원활하게 작동하는 시스템

Compound AI System은 여러 개의 AI 모델, Agent, 리트리버, 데이터베이스, 외부 도구 등 다양한 구성 요소를 통합해 AI 작업을 효과적으로 처리하는 시스템입니다.

산업 현장은 ERP, MES, SCM 등 다양한 시스템에서 생성되는 로우 데이터와 수많은 센서 및 설비에서 출력되는 데이터를 포함해 방대한 양의 정보를 생성합니다. Compound AI System은 이런 환경에서 여러 에이전트가 협력하여 문제의 원인을 분석하고, 해결 방법을 제시해 줄 모델을 호출하고 해결할 수 있도록 데이터를 불러오거나 판단을 수행해 주어진 문제를 해결할 수 있게 해주는 기반이 됩니다.

연관 콘텐츠

Compound AI System 아래에서는 수많은 Vector DB, API, AI 모델, AI 에이전트, Agentic System이 서로 상호작용하며 문제를 풀게 됩니다. 특히 AI 에이전트는 서로 유기적으로 각 역할을 수행하면서 좋은 답변 혹은 사용자가 원하는 액션을 취할 수 있게 됩니다. 이러한 작동 체계를 Agentic System이라고 합니다. 하나의 에이전트가 전체 문제를 해결하는 방식이 아니라 문제를 쪼개서 여러 에이전트가 각각의 문제를 담당해 큰 문제를 풀게 되는 거죠. 또 여러 에이전트의 작업 순서와 실행을 지시하고 시스템 전체를 모니터링하는 에이전트 Orchestration도 주목 받는 키워드 중 하나입니다.

AI 에이전트 그리고 Compound AI System이 효과적으로 작동하려면, 모든 AI 모델과 생성형 기술이 단일 운영 체제(OS) 또는 마키나락스의 Runway와 같은 AI 플랫폼 위에서 동작해야 합니다. AI 플랫폼을 통해 다양한 데이터를 통합적으로 활용하고, AI 에이전트 구성을 쉽게 할 수 있을 때 AI의 잠재력을 더욱 극대화할 수 있습니다. 앞으로 이러한 플랫폼 기반의 AI 에이전트가 다양한 도메인에 적용되어 자동화를 넘어 자율화 그리고 초 생산성(super-productivity)의 시대를 열 것으로 기대합니다.

지금까지 AI 에이전트와 Vertical AI 에이전트의 정의와 작동하는 시스템을 훑어봤습니다. 다음 포스팅에서는 Agentic System을 구현하는 방법론들을 살펴봅니다.