AI 에이전트는 대단하다고 소문난 AI 기술력과 실제 사용자가 경험한 낮은 만족도 사이의 간극을 해결하기 위해 등장했습니다. 이제 ChatGPT로 대표되는 생성형 AI는 일상생활은 물론 일할 때도 대체 불가능한 효율성을 발휘하고 있습니다. 하지만 해결하고 싶은 문제가 구체적이고 전문적일수록 원하는 답변을 한 번에 받지 못한 경험을 한 번쯤 해보셨을 겁니다.
서비스 기획을 생성형 AI와 함께한다고 가정해 볼게요. 사용자는 원하는 답변을 얻기 위해 보통 두 가지 방식으로 AI와 상호작용을 합니다. 첫 번째는 원하는 수준의 답변이 나올 때까지 끊임없이 세부 사항을 질문하는 방식입니다. 기간 산정 방법, 고려해야 할 비용 항목, 구체적인 수치 등을 하나하나 물어보는 과정이 오히려 직접 작성하는 것보다 더 많은 시간과 노력이 들 수 있습니다. 두 번째는 동일한 질문을 반복해서 던지며 원하는 답변이 나오기를 기대하는 방식입니다. 하지만 매번 다른 답변을 보며 AI의 능력에 실망하게 됩니다.
흥미로운 점은 이러한 시행착오적인 접근 방식이 AI 에이전트의 작동 원리와 유사하다는 것입니다. 다만 AI 에이전트는 사람이 수동으로 처리하던 과정을 다수의 AI 에이전트가 협력하는 Agentic Sysyem을 기반으로 자동화합니다. AI 에이전트는 Agentic Sysyem 아래서 LLM(Large Language Models)을 활용해 사용자의 의도를 정확히 파악하고 필요한 정보를 단계적으로 수집하여 구체적인 해결책을 제시해요.
관련 콘텐츠
Agentic System의 핵심은 여러 AI 에이전트가 독립적으로 작동하면서도, 전체 시스템이 하나의 목적을 위해 협력하도록 만드는 데 있습니다. 마치 숙련된 전문가가 체계적으로 문제를 해결해 나가는 과정과 유사한데요. 문제마다 해결 접근 방식이 다르듯 Agentic System 설계 방법도 여러 가지가 있습니다. 그중 Agentic System을 구현하기 위한 대표적인 방법론 5가지를 정리했습니다.
1. Chaining
Chaining은 작업을 작은 단계로 나누어 순차적으로 처리하며, 각 단계는 이전 단계의 결과를 바탕으로 진행합니다.
Chaining은 복잡한 작업을 작은 단위로 분해하여 순차적으로 처리하는 AI 에이전트의 핵심 기법입니다. 이는 앞서 설명한 세부 질문을 반복하는 방식과 유사해 보이지만, 더욱 체계적이고 효율적인 접근 방식을 제공합니다. 이러한 Chaining 기법을 제조 산업에 특화하여 Vertical AI 에이전트 시스템으로 구성한다면 Manufacturing-Specific Chaining 시스템으로 구성할 수 있는데요. 공정의 복잡한 작업을 체계적으로 분리하여 처리할 수 있습니다. 이를테면, 제조 공정에서의 품질 관리 과정에서는 여러 가지 작업이 순차적으로 이루어져야 합니다. 품질 검사를 위해 다음과 같은 단계별 처리가 가능해집니다.
- 검사할 품목의 규격과 품질 기준 정의
- 규격에 맞는 검사 방법론 수립
- 검사 결과 기반 품질 이상 탐지
- 문제 시, 원인 분석 및 개선 조치 방안 제시
이처럼 각 단계가 체계적으로 분리되면 공정 중 발생할 수 있는 오류를 미리 예방하고, 각 단계에서의 정확한 분석을 통해 더 나은 결정을 내릴 수 있습니다. 또한, 앞선 단계에서 도출된 데이터나 결론이 후속 단계에 중요한 입력으로 작용하여 전체적인 품질 관리 시스템의 효율성을 높일 수 있습니다. 복잡한 품질 관리 과정을 체계적으로 분리하고 처리함으로써 실수를 줄이고 보다 신뢰성 있는 결과를 얻을 수 있을 것입니다.
2. Routing
Routing은 작업을 적절한 경로로 분배하고, 각 작업이 최적의 리소스를 활용할 수 있도록 합니다.
Routing은 주어진 작업을 가장 전문성 있게 처리할 수 있는 에이전트에 할당하는 방식입니다. 기업에서 각 분야의 전문가들에게 적절한 업무를 배분하는 것과 유사합니다. 일반적인 LLM이 모든 질문에 대해 범용적인 답변을 제공하는 것과 달리, 특정 분야에 특화된 에이전트는 해당 영역에 대한 깊이 있는 지식과 경험을 보유하고 있습니다. 이러한 전문 AI 에이전트는 특정 도메인의 데이터로 사전 학습되어 있으며, 관련 업무 처리를 위한 최적화된 가이드와 템플릿을 갖추고 있습니다.
반도체 생산 라인의 Vertical AI Agent Routing 시스템 구성 시나리오
가상 시나리오로 반도체 생산 라인에서 Vertical AI Agent Routing 시스템을 구축해 보겠습니다. 먼저 중앙에 Task Manager를 구성하고 공정 단계, 문제 유형, 긴급 상황 등 여러 기준을 수립하여 task 처리의 전문 에이전트를 선택할 수 있도록 합니다. 이후 🔼식각 공정 전문 에이전트 🔼중착 공정 전문 에이전트 🔼검사 공정 전문 에이전트 등의 전문 에이전트를 구성합니다. ‘식각의 깊이 편차가 크게 발생한 상황’이 발생한다면, Task manager는 먼저 문제 유형을 분석합니다. Task manager의 분석 결과로 ‘식각 공정 품질’에 대한 분석이 필요하여 ‘플라즈마 식각 공정’에 전문성 확보가 필요한 것으로 판단하면 식각 공정 전문 에이전트에게 routing합니다.
그러면 식각 공정 전문 Agent는 1)플라즈마 상태 분석 2)공정 파라미터 최적화 3)개선안 수립 및 실행 순서로 작업을 수행하게됩니다. 라우팅 시스템은 가장 적합한 단일 전문 에이전트에게 처리를 명령하고 해당 에이전트가 독립적으로 문제를 해결합니다. 다만 후에 설명할 Parallelization이나 Orchestration과 달리 다른 에이전트와 협업을 진행하지 않기 때문에 통합적인 결과를 도출하여 문제를 해결하지는 않습니다.
3. Parallelization
Parallelization은 여러 작업을 동시에 처리하여 전체 시스템의 효율성을 극대화합니다.
Parallelization은 여러 AI 에이전트가 동시에 작업을 처리하여 효율성과 정확성을 높이는 방식입니다. 크게 'Sectioning'과 'Voting' 두 가지 접근 방식으로 구현됩니다.
Sectioning은 하나의 큰 작업을 독립적인 하위 작업으로 나누어 여러 AI 에이전트가 동시에 처리하는 방식입니다. 예를 들어, 대규모 코드 리뷰 작업을 수행할 때 어떤 AI 에이전트는 코드의 보안 취약점을 검사하고, 다른 AI 에이전트는 성능 최적화 관점에서 검토하며 또 다른 AI 에이전트는 코드 스타일과 가독성을 평가할 수 있습니다. 이렇게 각자의 전문 영역에 집중하여 동시에 작업을 수행함으로써 더 빠르고 정확한 결과를 얻을 수 있습니다.
반면 Voting은 동일한 작업을 여러 AI 에이전트가 독립적으로 수행한 후 그 결과들을 종합하여 최적의 답을 도출하는 방식입니다. 예를 들어 콘텐츠 모더레이션 시스템에서 특정 콘텐츠의 적절성을 평가할 때 여러 AI 에이전트가 각각 판단을 내리고, 그 결과를 종합하여 최종 결정을 내립니다.
자동차 변속기 생산 라인의 Vertical AI Agent Parallelization 시스템 적용 시나리오
자동차 변속기 생산 라인에 Vertical AI Agent Parallelization을 적용해 봅시다. 여기서는 Sectioning 방법을 활용해 보겠습니다. 품질 분석 에이전트가 실시간 감지 중에 특정 시간에 기어 치수 편차 증가를 감지했다고 가정해 보겠습니다. 품질 분석 에이전트가 감지한 문제를 곧바로 Task Manager에게 전달하여 Task Manager가 초기 대응으로 작업 우선순위를 평가하고 문제에 연관된 에이전트들이 작업할 수 있도록 착수하여 각 에이전트에게 자동으로 할당합니다. 할당을 받은 각 에이전트들은 전문 분야에 맞춰서 품질 분석 에이전트는 상세 품질 데이터 분석, 공정 최적화 에이전트는 공정 파라미터 점검, 설비 상태 관리 에이전트는 설비 진단을 수행하여 통합적으로 분석한 뒤 조치 계획을 수립하여 실행까지 완료합니다.
이렇게 자동으로 수행하게끔 구성한 Agentic System을 통해 정량적 성과로는 품질 불량률 감소, 예방 정비율 증가, 생산성 향상 등을 기대해 볼 수 있습니다. 정성적 성과로는 통합적인 품질 관리 체계를 구축하고 품질 관리의 역량이 강화되며 설비 신뢰성 향상, 작업 의사결정 지원 강화 등을 기대해 볼 수 있겠죠. Task Manager 기반의 Vertical AI Agent Parallelization 시스템의 구축을 기반으로 중앙 제어 시스템의 구성, 전문 에이전트 설계와 협업 체계 구현, 확장이 용이한 시스템 아키텍처를 구성할 수 있습니다.
4. Orchestrator-workers
Orchestrator-workers는 중앙의 Orchestrator가 작업을 관리하고, 각 Worker에게 작업을 동적으로 할당하여 효율적인 작업 분배를 구현합니다.
Orchestrator-Worker 방식은 중앙의 관리자 역할을 하는 AI(Orchestrator)가 작업을 분석하고 세부 작업자 AI(Worker)들에게 동적으로 작업을 할당하는 구조입니다. 이 방법은 Parallelization과 비슷해 보이지만, 작업 할당의 유연성과 동적인 관리 방식에서 큰 차이가 있습니다. Orchestrator는 전체 작업의 복잡도 분석, 필요한 세부 작업의 동적 정의, 작업 우선순위 결정, Worker AI들의 진행 상황 모니터링, 최종 결과물 통합 및 검증과 같은 업무를 처리합니다.
Orchestrator-Worker 시스템을 스마트 공장 운영에 적용한 예시로 설명해 보겠습니다. Orchestrator는 스마트 공장에서 전체적인 생산 흐름을 관리하는 역할을 합니다. 예를 들어, 생산 라인의 각 공정에서 필요한 작업을 분석하고, 어떤 작업이 먼저 이루어져야 하는지, 각 작업의 우선순위는 어떻게 되는지를 결정합니다. Orchestrator는 모든 작업의 복잡도를 분석하고, 공정 간의 의존성을 확인하여 작업을 효율적으로 배분하는 계획을 수립합니다. 그 후 Orchestrator는 여러 Worker AI들에게 구체적인 작업을 할당합니다.
Worker A는 제품 조립을 담당하고, Worker B는 품질 검사를 진행하며, Worker C는 포장 작업을 할당받습니다. Worker AI들은 자신에게 주어진 작업을 독립적으로 수행하고 결과를 Orchestrator에 보고합니다. Orchestrator는 실시간으로 이들의 작업 진행 상황을 모니터링합니다. 만약 어떤 작업이 지연되거나 문제가 생기면, 우선순위를 재조정하거나 추가 Worker를 할당하여 문제를 해결합니다.
품질 검사에서 문제가 발생하면 Orchestrator는 해당 작업을 우선 처리하도록 Worker AI의 순서를 조정하거나, 추가적인 검사 작업을 할당할 수 있습니다. 생산 라인의 흐름을 원활하게 유지하기 위해 각 작업 간의 의존성을 고려하여 최적의 작업 배치를 실시간으로 조정하는 거죠. Orchestrator-Worker 방식의 핵심 장점은 작업의 동적 관리가 가능하다는 점입니다. 미리 정해진 작업 분배 방식을 따르는 Parallelization과 달리, 실제 상황에 따라 유연하게 작업을 재구성하고 할당할 수 있습니다.
5. Evaluator-optimizer
Evaluator-optimizer는 평가자가 성능을 측정하고, 최적화기가 그 정보를 바탕으로 시스템을 개선하는 반복적인 최적화 과정을 제공합니다.
Evaluator-Optimizer 방식은 Optimizer AI가 결과를 생성하고 Evaluator AI가 이를 평가하여 개선점을 제시하는 반복적인 구조입니다. 특히, 복잡한 변수들이 얽혀 있는 공정이나 반복적인 조정이 필요한 공정에 적합합니다.
예를 들어 품질 관리 프로세스 자동화에 적용해 보겠습니다. Evaluator는 각 제품의 품질을 검사하여 불량률을 평가하고, Optimizer는 품질 기준을 개선할 수 있는 변수(온도, 압력, 속도 등)를 조정합니다. 품질 검사 결과에 따라 최적의 생산 조건을 찾아갑니다. 이 과정을 반복해 최상의 품질을 유지할 수 있겠죠. 제조 설비나 기계의 효율성을 개선하는 데에도 유용합니다. Evaluator는 설비의 가동률, 고장 빈도, 에너지 소비 등의 데이터를 평가하고, Optimizer는 가동 조건이나 점검 주기, 유지보수 시점을 최적화해 공정 효율성을 높입니다. Evaluator-Optimizer 시스템은 품질 보증과 지속적 개선이라는 특장점이 있지만 명확한 평가 기준 수립, 충분한 반복 개선 시간 확보, Evaluator의 전문성 및 객관성을 확보해야 한다는 점을 고려 해야 합니다.
AI 에이전트의 가장 큰 특징은 복잡한 작업을 스스로 또 자동으로 처리할 수 있다는 점입니다. 자율성을 구현하는 방식도 생각보다 단순합니다. 기본적으로 LLM이 환경으로부터 받은 피드백을 바탕으로 적절한 도구를 선택하여 반복적으로 작업을 수행하는 구조인데요. Agentic System은 작업 단계를 예측하기 어려운 경우나, 단순한 규칙으로 해결할 수 없는 복잡한 문제를 다뤄야 할 때 유용합니다. 또한 여러 번의 의사결정이 필요한 작업이나 자동화가 확장 가능한 환경에서도 효과적으로 사용될 수 있습니다.
지금까지 Agentic System을 구현하기 위한 대표적인 방법론을 살펴보았습니다. 여기까지 포스팅을 살펴보신 분 중에는 ‘그래서 이 중에 어떤 방법론이 가장 좋다는 거야?’라는 의문이 생길 수도 있습니다. 특히 Vertical AI 에이전트를 통해 기업이 직면한 문제를 해결하려는 관계자라면 빨리 해답을 찾고 싶을 텐데요. 무엇보다 실질적으로 문제 해결이 가능한 구성을 찾는 것이 중요합니다. 이를 위해서는 도메인 특화 AI와 기업의 워크플로우에 대한 깊은 이해가 필요한데요. 기업 내에 AI 전문가가 없다면, AI를 잘 모르는 현장 전문가와 외부 AI 전문가 조직이 긴밀이 협력해 목표에 맞춘 커스터마이징 AI 에이전트 솔루션을 만드는 것도 방법입니다.
다음 편에서는 마키나락스가 구현한 Vertical Agentic System 상세 사례를 소개하겠습니다. 그 전에 산업 특화 AI에 대해 궁금하신 점이 있다면 아래 배너를 통해 문의를 남겨주세요!
