초기 AI 시장에서는 하나의 AI 모델이 end-to-end로 해결책을 제시해 줄 수 있다고 기대했습니다. 디지털 환경에 적용되는 범용 AI는 1개의 모델로 수천만에 이르는 사용자를 서빙하고 있기도 하죠. 하지만 마키나락스가 산업 현장을 직접 부딪쳐 보니 예상과는 달랐습니다. 다루는 데이터와 수행하는 기능별로 AI 모델을 나눠 개발하고, 여러 AI 모델과 다양한 요소들이 서로 상호작용하면서 문제를 해결하는 Compound AI System으로 접근했을 때 문제를 제대로 이해하고 해결 방안을 체계화할 수 있었습니다.

🔗 산업의 어렵고 복잡한 문제를 해결하는 Compound AI System

지금 Compound AI System은 LLM을 중심으로 논의되고 있습니다. 기업들은 ChatGPT가 보여준 파급력을 비즈니스 임팩트로 연결할 방법을 고민했고, 도메인 특화 LLM을 활용해 AI 애플리케이션을 만들기 시작했는데요. 이때 Compound AI System이 작동합니다. LLM은 AI 엔지니어들에게 학습 없이 작동하는 AI 모델을 경험하게 해줬고 AI 엔지니어들은 이종의 데이터, 다양한 로직, Fine-tuning, RAG, Prompt Chain 등 다양한 접근을 통해 Compound AI System을 구성하고 단일 LLM 모델이 낼 수 있는 성능을 능가하는 결과들을 만들고 있습니다.

그렇다면 Compound AI System은 산업 현장의 문제를 어떻게 해결하고 있을까요? 또 그 안에서 LLM은 어떤 파급력을 가져올까요? 마키나락스가 실제 산업 현장에서 적용한 Compound AI System 사례들을 소개합니다.

산업 현장을 이해하는 Industrial LLM

산업 특화 LLM은 산업 현장의 다양한 업무를 LLM을 통해 효율화하고 혁신합니다. 

산업 특화 LLM(Industrial LLM)은 한층 더 복합적인 Compound AI System을 필요로합니다. 마키나락스가 제공하는 Industrial LLM의 예를 들어볼게요. 산업 현장에서는 무수한 데이터가 발생하고 기록됩니다. ERP, MES, SCM 등 기존 시스템에서 생성된 로우 데이터와 수많은 센서와 설비에서 출력되는 뉴메릭 형태의 데이터도 존재합니다. 마키나락스는 독자 기술을 활용해 이 데이터들을 LLM이 학습할 수 있는 메타데이터로 변환합니다. 그리고 최적화, 예측분석, 예지보전 등 산업 현장의 문제를 해결하는 AI 모델을 결합한 형태의 에이전트를 구성합니다.

산업 현장의 문제를 해결하려면, 이를 위해 설계된 AI 모델을 활용할 수 있는 구조여야 합니다. Compound AI System은 다양한 AI 모델과 LLM을 결합해 종합적인 인사이트를 제공합니다. 수많은 Vector DB, API, AI 모델, AI 에이전트가 서로 상호작용하며 문제를 풀게 됩니다. Compound AI System 아래에서 AI 에이전트들은 서로 유기적으로 각 역할을 수행하면서 좋은 답변 혹은 사용자가 원하는 액션을 취할 수 있게 됩니다. 하나의 에이전트가 전체 문제를 해결하는 방식이 아니라 문제를 쪼개서 여러 에이전트가 각각의 문제를 담당해 큰 문제를 풀게 되는 거죠.

실제 산업 현장을 상상해 볼게요. 먼저 AI 모델이 장비의 이상을 사전에 탐지합니다. 작업자는 원인을 챗봇에 질문해요. 그러면 검색 에이전트가 적합한 사례와 데이터를 검색해 원인을 알려줍니다. 원인을 알았으니 원인을 분석해야겠죠. 작업자 요청으로 분석 에이전트가 ERP, MES 등 기업의 레거시 시스템 DB에 접근해서 데이터 및 정보를 이용해 원인 분석 결과를 제공합니다. 이를 바탕으로 작업자가 설비 제어를 요청하면 제어 에이전트가 문제를 해결할 수 있는 코드를 생성하고 장비를 제어합니다. 산업 현장에서 작동하는 Compound AI System은 여러 에이전트가 협력하여 문제의 원인을 분석하고, 해결 방법을 제시해 줄 모델을 호출하고 해결할 수 있도록 데이터를 불러오거나 판단을 수행해 주어진 문제를 해결합니다. 이를 통해 복잡한 작업이 자동화되고 효율성이 높아집니다.

끊임없이 확장하는 로봇팔 AI 시스템

Compound AI System은 AI를 적용할 범위가 넓어지고 요구되는 조건이 많아지면서 복잡해진 문제를 해결하는 방법으로 주목받고 있습니다. AI 도입 영역이 확장되면서 자연스럽게 Compound AI System을 구축한 사례를 소개합니다. 마키나락스는 2022년부터 현대자동차와 함께 로봇 예지 보전 시스템(RPMS, Robot Predictive Management System)을 개발하고 있습니다. 협업 첫해에는 오코인코더 기반의 이상탐지 AI 모델을 개발해 2대의 로봇에 적용해 보는 작업을 진행했습니다. 이후 로봇 동작에 대한 파라미터를 연동해서 세밀한 분석을 진행하는 로봇 동작 품질 분석 AI 모델을 추가 개발했습니다.

AI 모델 성능이 입증되면서 이를 적용할 로봇이 순차적으로 200대 이상까지 늘어났습니다. 이때 다수 로봇에게 적용되는 수많은 AI 모델을 자동으로 관리해 줄 시스템이 필요했고, 🔗마키나락스의 AI 플랫폼 Runway에서 시스템을 구현했습니다. Runway의 MLOps에서 동작하는 시스템은 AI 모델의 학습과 추론 그리고 재학습 과정을 자동화했습니다. 추가로 AI가 적용될 로봇팔 브랜드도 더 다양해집니다. 로봇팔 브랜드마다 수집되는 데이터 양식이 다르다는 사실 알고 계셨나요? 기존 데이터 양식과 동일하게 데이터 전처리 표준화 모듈을 시스템에 추가해 일관된 데이터를 수집하게 됩니다. RPMS Compound AI System 아래에서는 이상탐지 모델과 로봇 동작 품질 분석 모델을 상호 보완적으로 작동하게 되는데요. 이를 통해 로봇이 고장 나기 전 최소 5일 전에 알려줘 고장에 미리 대비하고 다운타임을 획기적으로 줄여 생산성을 높입니다.

자, 여기서 끝이 아닙니다. RPMS Compound AI System에 LLM을 추가할 수도 있습니다. 매주 발행되는 보고서는 룰베이스로 생성 로직을 설정해 발행 되는데요. 시스템에 LLM을 추가하고 RAG 작업을 거쳐 챗봇 형태로 구현할 수 있습니다. 기존에는 전체 보고서를 보고 파악해야 했던 내용을 이제는 챗봇에 궁금한 점을 검색해 빠르게 찾을 수 있게 되는 거죠. 이 역시 마키나락스의 Runway 위에서 운영할 수 있는데요. 🔗Runway의 LLMOps는 다수의 LLM 모델을 쉽고 안정적으로 배포하고 운영할 수 있도록 LLM 모델 특화 런타임,서빙 인프라 자원 최적화를 지원합니다.

Compound AI System은 확장되고 있는 AI 기술의 핵심 역할을 하고 있습니다. 특히 산업 특화 LLM을 결합하면 시스템의 유연성과 실시간으로 다양한 데이터를 분석해 더욱 효율적으로 문제를 해결할 수 있는 역량을 갖추됩니다. 마키나락스는 현재 제품 디자인 생성, PLC 코드 변환 자동화 등 Compound AI System으로 풀고 있는 문제들이 더 많지만 모두 공개할 수 없어 너무 아쉬운 마음입니다. 하지만 다른 기업의 AI 성공 사례보다 중요한 건 우리 기업이 풀려고 하는 문제와 이를 실현해 주는 맞춤형 Compound AI System 구성과 운영 체계입니다. 어떻게 해결할 수 있을지 궁금하다면 아래 배너를 통해 문의를 남겨주세요. 마키나락스가 함께 고민하겠습니다.