초기 AI 시장에서는 하나의 AI 모델이 end-to-end로 해결책을 제시해 줄 수 있다고 기대했습니다. 디지털 환경에 적용되는 범용 AI는 1개의 모델로 수천만에 이르는 사용자를 서빙하고 있기도 하죠. 하지만 마키나락스가 산업 현장을 직접 부딪쳐 보니 예상과는 달랐습니다. 다루는 데이터와 수행하는 기능별로 AI 모델을 나눠 개발하고, 여러 AI 모델과 다양한 요소들이 서로 상호작용하면서 문제를 해결하는 Compound AI System으로 접근했을 때 문제를 제대로 이해하고 해결 방안을 체계화할 수 있었습니다.
🔗 산업의 어렵고 복잡한 문제를 해결하는 Compound AI System
지금 Compound AI System은 LLM을 중심으로 논의되고 있습니다. 기업들은 ChatGPT가 보여준 파급력을 비즈니스 임팩트로 연결할 방법을 고민했고, 도메인 특화 LLM을 활용해 AI 애플리케이션을 만들기 시작했는데요. 이때 Compound AI System이 작동합니다. LLM은 AI 엔지니어들에게 학습 없이 작동하는 AI 모델을 경험하게 해줬고 AI 엔지니어들은 이종의 데이터, 다양한 로직, Fine-tuning, RAG, Prompt Chain 등 다양한 접근을 통해 Compound AI System을 구성하고 단일 LLM 모델이 낼 수 있는 성능을 능가하는 결과들을 만들고 있습니다.
그렇다면 Compound AI System은 산업 현장의 문제를 어떻게 해결하고 있을까요? 또 그 안에서 LLM은 어떤 파급력을 가져올까요? 마키나락스가 실제 산업 현장에서 적용한 Compound AI System 사례들을 소개합니다.
산업 현장을 이해하는 Industrial LLM
![산업 특화 LLM은 산업 현장의 다양한 업무를 LLM을 통해 효율화하고 혁신하는 AI 서비스입니다.](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/09/Industrial-LLM-1024x576.jpg)
산업 특화 LLM은 산업 현장의 다양한 업무를 LLM을 통해 효율화하고 혁신합니다.
산업 특화 LLM(Industrial LLM)은 한층 더 복합적인 Compound AI System을 필요로합니다. 마키나락스가 제공하는 Industrial LLM의 예를 들어볼게요. 산업 현장에서는 무수한 데이터가 발생하고 기록됩니다. ERP, MES, SCM 등 기존 시스템에서 생성된 로우 데이터와 수많은 센서와 설비에서 출력되는 뉴메릭 형태의 데이터도 존재합니다. 마키나락스는 독자 기술을 활용해 이 데이터들을 LLM이 학습할 수 있는 메타데이터로 변환합니다. 그리고 최적화, 예측분석, 예지보전 등 산업 현장의 문제를 해결하는 AI 모델을 결합한 형태의 에이전트를 구성합니다.
산업 현장의 문제를 해결하려면, 이를 위해 설계된 AI 모델을 활용할 수 있는 구조여야 합니다. Compound AI System은 다양한 AI 모델과 LLM을 결합해 종합적인 인사이트를 제공합니다. 수많은 Vector DB, API, AI 모델, AI 에이전트가 서로 상호작용하며 문제를 풀게 됩니다. Compound AI System 아래에서 AI 에이전트들은 서로 유기적으로 각 역할을 수행하면서 좋은 답변 혹은 사용자가 원하는 액션을 취할 수 있게 됩니다. 하나의 에이전트가 전체 문제를 해결하는 방식이 아니라 문제를 쪼개서 여러 에이전트가 각각의 문제를 담당해 큰 문제를 풀게 되는 거죠.
실제 산업 현장을 상상해 볼게요. 먼저 AI 모델이 장비의 이상을 사전에 탐지합니다. 작업자는 원인을 챗봇에 질문해요. 그러면 검색 에이전트가 적합한 사례와 데이터를 검색해 원인을 알려줍니다. 원인을 알았으니 원인을 분석해야겠죠. 작업자 요청으로 분석 에이전트가 ERP, MES 등 기업의 레거시 시스템 DB에 접근해서 데이터 및 정보를 이용해 원인 분석 결과를 제공합니다. 이를 바탕으로 작업자가 설비 제어를 요청하면 제어 에이전트가 문제를 해결할 수 있는 코드를 생성하고 장비를 제어합니다. 산업 현장에서 작동하는 Compound AI System은 여러 에이전트가 협력하여 문제의 원인을 분석하고, 해결 방법을 제시해 줄 모델을 호출하고 해결할 수 있도록 데이터를 불러오거나 판단을 수행해 주어진 문제를 해결합니다. 이를 통해 복잡한 작업이 자동화되고 효율성이 높아집니다.
끊임없이 확장하는 로봇팔 AI 시스템
Compound AI System은 AI를 적용할 범위가 넓어지고 요구되는 조건이 많아지면서 복잡해진 문제를 해결하는 방법으로 주목받고 있습니다. AI 도입 영역이 확장되면서 자연스럽게 Compound AI System을 구축한 사례를 소개합니다. 마키나락스는 2022년부터 현대자동차와 함께 로봇 예지 보전 시스템(RPMS, Robot Predictive Management System)을 개발하고 있습니다. 협업 첫해에는 오코인코더 기반의 이상탐지 AI 모델을 개발해 2대의 로봇에 적용해 보는 작업을 진행했습니다. 이후 로봇 동작에 대한 파라미터를 연동해서 세밀한 분석을 진행하는 로봇 동작 품질 분석 AI 모델을 추가 개발했습니다.
AI 모델 성능이 입증되면서 이를 적용할 로봇이 순차적으로 200대 이상까지 늘어났습니다. 이때 다수 로봇에게 적용되는 수많은 AI 모델을 자동으로 관리해 줄 시스템이 필요했고, 🔗마키나락스의 AI 플랫폼 Runway에서 시스템을 구현했습니다. Runway의 MLOps에서 동작하는 시스템은 AI 모델의 학습과 추론 그리고 재학습 과정을 자동화했습니다. 추가로 AI가 적용될 로봇팔 브랜드도 더 다양해집니다. 로봇팔 브랜드마다 수집되는 데이터 양식이 다르다는 사실 알고 계셨나요? 기존 데이터 양식과 동일하게 데이터 전처리 표준화 모듈을 시스템에 추가해 일관된 데이터를 수집하게 됩니다. RPMS Compound AI System 아래에서는 이상탐지 모델과 로봇 동작 품질 분석 모델을 상호 보완적으로 작동하게 되는데요. 이를 통해 로봇이 고장 나기 전 최소 5일 전에 알려줘 고장에 미리 대비하고 다운타임을 획기적으로 줄여 생산성을 높입니다.
자, 여기서 끝이 아닙니다. RPMS Compound AI System에 LLM을 추가할 수도 있습니다. 매주 발행되는 보고서는 룰베이스로 생성 로직을 설정해 발행 되는데요. 시스템에 LLM을 추가하고 RAG 작업을 거쳐 챗봇 형태로 구현할 수 있습니다. 기존에는 전체 보고서를 보고 파악해야 했던 내용을 이제는 챗봇에 궁금한 점을 검색해 빠르게 찾을 수 있게 되는 거죠. 이 역시 마키나락스의 Runway 위에서 운영할 수 있는데요. 🔗Runway의 LLMOps는 다수의 LLM 모델을 쉽고 안정적으로 배포하고 운영할 수 있도록 LLM 모델 특화 런타임,서빙 인프라 자원 최적화를 지원합니다.
Compound AI System은 확장되고 있는 AI 기술의 핵심 역할을 하고 있습니다. 특히 산업 특화 LLM을 결합하면 시스템의 유연성과 실시간으로 다양한 데이터를 분석해 더욱 효율적으로 문제를 해결할 수 있는 역량을 갖추됩니다. 마키나락스는 현재 제품 디자인 생성, PLC 코드 변환 자동화 등 Compound AI System으로 풀고 있는 문제들이 더 많지만 모두 공개할 수 없어 너무 아쉬운 마음입니다. 하지만 다른 기업의 AI 성공 사례보다 중요한 건 우리 기업이 풀려고 하는 문제와 이를 실현해 주는 맞춤형 Compound AI System 구성과 운영 체계입니다. 어떻게 해결할 수 있을지 궁금하다면 아래 배너를 통해 문의를 남겨주세요. 마키나락스가 함께 고민하겠습니다.
산업 전반에 AI 도입이 가속화되면서 Compound AI System이 주목받고 있습니다. Compound AI System은 여러 개의 AI 모델, 리트리버, 데이터베이스, 외부 도구 등 다양한 구성 요소를 통합해 AI 작업을 효과적으로 처리하는 시스템을 말하는데요. 버클리 인공지능 연구소(BAIR)에서 발표한 논문 '모델에서 복합 AI 시스템으로의 전환'에서 제안된 접근법입니다.
사실 마키나락스에게 Compound AI System은 낯선 개념은 아닙니다. Real World에서 AI를 통해 복잡한 문제를 해결하고, 다양한 데이터와 시스템을 통합해 최적의 성과를 도출하는 데 있어 필수적인 접근 방식이기 때문입니다. 산업 현장은 끊임없이 변화하고 있습니다. 더불어 해결해야 하는 문제들도 복잡해지면서 갈수록 고도화된 Compound AI System이 요구되고 있습니다. 마키나락스가 산업 현장에 AI를 적용하면서 경험하고 바라본 Compound AI System을 변화의 흐름 관점에서 살펴보겠습니다.
Compound AI System이 필요한 이유
산업 현장에서 AI를 막 도입하기 시작했을 때만 해도 단일 AI 모델이 혁신 솔루션을 제공할 것이라는 믿음이 있었습니다. 마키나락스도 창업 초기 처음 프로젝트를 시작할 때는 단순히 AI 모델만 개발해 전달하는 경우도 있었는데요. 하지만 AI 모델만으로는 산업 현장의 문제를 명확하게 해결할 수 없다는 사실을 직면하게 되었습니다.
AI 모델이 잘 동작한다고 해도 훈련되지 않은 데이터에 적용했을 때 예기치 않은 결과를 초래할 수 있습니다. 예를 들어 공조 장치의 온도를 10도에서 30도 사이로 조절해야 하지만, AI 모델이 갑자기 100도로 설정하라는 결과를 내놓는 거죠. 이런 결과는 데이터와의 첫 만남을 어려워하는 머신러닝 뉴럴 네트워크 모델의 본질적인 한계라고 볼 수 있습니다.
![](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/09/What-is-Compound-AI-System-1024x578.png)
Compound AI System은 여러 개의 AI 모델, 리트리버, 데이터베이스, 외부 도구 등 다양한 구성 요소를 통합해 AI 작업을 효과적으로 처리하는 시스템입니다.
한계를 뛰어넘을 때, 그곳은 또 다른 출발점이 됩니다. 덕분에 마키나락스는 Compound AI System의 필요성과 중요성을 일찌감치 인식하게 되었습니다. Compound AI System을 기반으로 문제를 바라보기 시작한 거죠. 결과물을 컨트롤하기 힘든 단일 AI 모델과 달리 Compound AI System에서는 포스트 프로세싱, 결과물 필터링 등 엔지니어의 시각에 따라 여러 가지 컨트롤 요소들을 추가할 수 있습니다. 이를 통해 AI 모델의 성능뿐만 아니라 실질적인 문제 해결이 가능한 구성을 중심으로 시스템을 설계하고 최적화할 수 있습니다. 이는 마키나락스가 풀고 있는 Real World의 문제가 어렵기 때문이기도 합니다.
Real-World AI는 원래 어렵고 복잡한 문제를 해결합니다
![마키나락스는 산업 특화 AI로 복잡하고 예측할 수 없는 산업 현장의 새로운 지평을 엽니다.](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/09/Real-World-AI-1024x578.jpg)
마키나락스는 산업 특화 AI로 복잡하고 예측할 수 없는 산업 현장의 새로운 지평을 엽니다.
Real-World AI는 산업 현장의 문제를 데이터 기반으로 정의하고 해결하며 의사 결정을 가능하게 하는 기술입니다. 사람이 생각하지 못하는 무수한 방식을 고려해 사람이 따라갈 수 없는 속도로 해결해요. 사람이 할 수 있는 영역을 대체하는 기술이 아닌 사람이 못하는 영역을 사람이 생각하지 못하는 방식으로 해내고 있습니다.
산업 현장은 이미 완성도 높은 자동화 프로세스가 구축되어 있습니다. 이런 환경에서 AI의 역할은 보다 어려운 문제를 해결하는 데 집중되어 있습니다. 마키나락스가 실제 산업 현장에서 해결한 문제들을 살펴볼게요. 사람이 하면 6주가 걸리는 백만 가지의 변수를 빠르게 연산해 3일 만에 최적 제어 로직을 도출하고, 장비 이상 발생률을 0.5%에서 0.1%로 줄여 수율을 높입니다. 작업자별로 편차가 있는 에너지 제어의 편차를 줄여 에너지 사용량을 3% 줄이고, 수천 개의 부품 조립 순서를 가장 짧은 거리와 빠른 시간 내로 완성할 방법을 도출하며, 대형 마트 신선식품 가격을 최적화해 점포별 이익을 3% 증가한 사례 등이 있습니다.
AI의 진가는 복잡한 문제를 해결할 때 발휘됩니다. AI가 수많은 변수와 방대한 데이터를 동시에 처리해 사람이 접근하기 어려운 문제를 해결할 수 있기 때문입니다. 또한, AI는 다양한 시나리오를 시뮬레이션해 최적의 결정을 내리고, 반복적이고 복잡한 작업을 자동화함으로써 문제 해결 속도와 정확성을 높입니다. 복잡한 문제일수록 더 강력한 해결 능력을 보여주는 거죠.
더 어려워지는 문제를 해결하는 Compound AI System
AI로 해결하려는 문제가 점점 더 복잡하고 어려워지고 있습니다. Compound AI System이 주목받고 있는 이유이기도 합니다. 왜 복잡해지고 있을까요? AI 기술이 발전하고 레퍼런스 삼을 수 있는 성공 사례가 많아지면서 해결할 수 있는 문제가 넓고 깊어졌습니다. 가능성을 인정받게 되면서 AI를 적용하는 공정과 장비 그리고 시스템도 늘어나고 있습니다. 동시에 해결하고 싶은 문제도 구체화되면서 더 다양한 데이터를 기반으로 여러 AI 모델을 다룰 수 있는 Compound AI System의 필요성이 더욱 커지고 있습니다.
연구실을 넘어 산업 현장에 AI가 적용되는 단계가 다가올수록 변수가 늘어나고 요구 사항도 구체화됩니다. 처리해야 할 데이터의 양과 다양성도 늘어나고요. 앞서 마키나락스 창업 초기에는 단일 AI 모델만 전달한 적도 있다고 말씀드렸는데요. 산업 현장의 AI에 대한 이해도가 높아지면서 AI 모델과 더불어 시스템이나 애플리케이션, 데이터 시각화가 포함된 대시보드까지 요구되는 경우가 많아지고 있습니다.
산업 현장은 다양한 변수가 얽힌 매우 복잡한 환경입니다. 여러 공정이 동시에 진행되고, 다양한 장비와 시스템이 상호작용하고 있는데요. 따라서 문제에 대한 정의는 물론 해결하는 방법도 세분화되고 정교해지면서 어렵고 복잡해집니다. 이러한 상황에서는 다양한 데이터와 다수의 AI 모델 그리고 여러 시스템이 유기적으로 상호작용하며 작동하는 Compound AI System이 핵심적인 역할을 하게 됩니다. 그리고 AI 에이전트는 이러한 요소들을 통합하여 복잡한 로직을 제어하며 실시간으로 최적의 결정을 내리고 행동을 자동으로 수행합니다.
이 포스팅을 읽고 있는 마키나락스 구성원들은 Compound AI System이 생소하지 않을 것입니다. 우리는 그동안 Real-World AI를 실현하기 위해 산업 현장의 문제를 빠르고 효율적으로 해결하기 위한 구성을 고민하고 시스템화하고 있었기 때문인데요. 이제 여기에 Compound AI System이라는 이름을 붙이고 산업 AI의 표준을 만들어 갈 것입니다. 지금 마키나락스가 진행하고 있는 🔗Compound AI System 사례들은 링크를 통해 확인할 수 있어요.
우리가 그리는 Real-World AI. 누구나 도전할 수 있지만 아무나 실현하지는 못할 것입니다. 글로벌 제조 기업의 AI 관련 목표 달성 성공률은 16% 수준에 불과합니다. 그만큼 Real World에 AI를 적용하고 비즈니스 임팩트로 연결하기까지는 수많은 어려움을 뛰어넘어야 합니다. 구체적으로 어떤 난관들이 있을까요? Real-World AI가 어려운 이유를 정리했습니다.
Real World는 복잡하다: 10의 170제곱의 경우의 수를 가진 바둑보다 훨씬 더!
바둑에서 나올 수 있는 모든 경우의 수는 10의 170제곱이라고 합니다. 알파고는 바둑판이라는 통제된 환경만을 고려하고, 또 세계적인 바둑 기사들의 공개된 대국을 학습해, 무한히 대국을 반복하면서 성능을 고도화한 AI입니다. 알파고의 성능은 바둑판이라는 제한된 공간에서 1명의 상대와 진행하는 대국 상황에서 보장될 수 있습니다. 하지만 Real World에는 더 무수한 변수가 존재하고, 모든 고품질의 데이터에 접근하는 일 또한 역시 불가능합니다.
제조 현장을 떠올려 보세요. 너무나도 복잡합니다. 온도, 습도, 소음 등 여러 환경 변수가 존재합니다. 이에 따라 설비와 장비의 부품이 마모되는 정도가 달라 교체 주기도 달라질 수 있고, 가장 효율적으로 제품을 생산하기 위한 스케줄링도 고려해야 합니다. 여기에 작업자 숙련도에 따른 결과물의 차이, 변동에 따른 구매 시점 예측 등 간접적인 요인도 존재합니다. 알파고가 제조 현장에서는 인간의 능력을 넘는 AI가 될 수 없는 이유입니다. 알파고가 아닌 다른 AI라면 얘기가 달라집니다. 단순한 바둑판과 달리 복잡한 산업 현장을 그대로 모사한 환경에서 다양한 변수와 데이터를 학습한 AI라면 어떨까요?
🔗 Real-World AI: 산업 현장을 실시간 연결하는 AI Digital Twin
Real World는 통제되지 않는다: AI, 새로운 데이터와의 첫 만남은 어려워!
자율주행은 Real World AI의 대표적인 기술입니다. 십여 년간 수십조의 투자가 이루어진 분야인데요. 하지만 level 5에 해당하는 완전 자동화, 즉 차량이 모든 조건에서 모든 주행 작업을 수행하고 운전자의 개입이 전혀 필요하지 않은 기술은 여전히 상용화에 어려움이 있습니다. AI가 새로운 데이터와의 첫 만남을 어려워하기 때문입니다. 학습하지 않은 예상치 못한 상황, 즉 처음 보는 데이터를 만났을 때 곧바로 성능을 내지 못하는 것은 AI가 여전히 극복해야 할 한계로 꼽힙니다.
연구소에서 성능이 뛰어난 AI 모델을 만들어도 생산 환경에서 새로운 데이터를 만나면 모델의 성능은 떨어지기 마련입니다. AI의 높은 성능을 유지하기 위해서는 초기 학습 이후에도 지속적으로 새로운 데이터를 업데이트하고 성능을 유지하며 개선해 가는 과정인 ‘지속적 학습(CT, continuous training)’을 수행해야 합니다. 또 이 과정을 매번 사람이 수행할 수는 없기에 지속적 학습을 자동화할 수 있는 프로세스가 필요합니다.
🔗 Real-World AI: 자동화된 운영 환경을 지원하는 AI 플랫폼 Runway
Real World 데이터는 공개되지 않는다: ChatGPT VS 20년 차 숙련공, 울산 공장을 누가 더 잘 알까?
![ChatGPT VS 20년 차 숙련공, 울산 공장을 누가 더 잘 알까?](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/08/스탠포드-vs-울산공장-1024x576.png)
ChatGPT VS 20년 차 숙련공, 울산 공장을 누가 더 잘 알까요?
산업 현장에서 ChatGPT는 스탠포드 4학년 학생에 비유할 수 있습니다. 이 똑똑한 학생이 울산 공장에서 일을 한다고 가정해 봅시다. 바로 일을 잘할 수 있을까요? 아마 무엇을 해야 할지 갈피를 잡는 것부터 어려울 것입니다. 현장에서 사용되는 장비와 설비의 이름, 이를 최적으로 제어할 수 있는 다양한 변수와 조합, 담당자가 누군지 파악하고 도움을 요청하기까지 꽤 오랜 시간이 걸릴 겁니다. 하지만 울산 공장에서 20년을 일한 숙련공은 스탠포드 학생이 좌충우돌하며 몇 시간에 걸쳐 하는 일을 단 몇 분 만에 해낼 수 있을 것입니다. 오랜 시간 쌓아온 현장의 노하우와 도메인 전문 지식을 기반으로 전화 한 통, 경험의 한 조각을 꺼내 빠르게 문제를 해결할 수 있는 것이죠.
ChatGPT가 인간 수준의 문장, 그림, 코드를 생성할 수 있더라도 산업의 데이터를 학습하지 못했다면 이를 산업 현장에서 활용하기는 불가능합니다. 더불어 산업 데이터는 손쉽게 구할 수 없으며, 기업에서도 외부에 공개하지 않기에 ChatGPT는 산업 현장에서 우리가 기대하는 만큼의 성능을 낼 수 없습니다. 그렇기에 산업 데이터 경험이 중요합니다. 산업의 복잡성과 고유한 요구사항, 다양한 장비와 설비에서 수집하는 데이터에 대한 이해가 높을수록 다양한 각도에서 LLM을 발전시킬 수 있습니다.
🔗 Real-World AI: LLM이 바꿀 산업 현장의 NEXT는?
Real World는 100%가 필요하다: 참고가 아닌 문제를 해결하는 AI
디지털 세계에서 범용 AI는 글, 이미지, 동영상과 같은 콘텐츠를 생성하거나 개인화된 추천 시스템을 제공하며 혁신을 보여주고 있습니다. 사용자가 기대한 결과물과 100% 일치하지 않더라도 일부만 참고하고 응용할 수 있기 때문에 고도의 정확성이 요구되지 않습니다. 그러나 Real-World AI는 훨씬 전문적이면서 복잡하고 어려운 문제를 해결하고 100%에 가까운 정확도가 필요합니다.
제품 품질을 검수하는 AI가 결함을 감지하지 못하면 불량 제품이 생산되어 고객 불만과 대규모 리콜 사태로 이어져 기업의 신뢰도와 수익에 큰 영향을 미치며, 생산 라인의 오류로 대규모 재작업이 필요할 수 있어 막대한 손실을 초래합니다. Real World에서는 환경 변화에 즉각적으로 대응해야 합니다. AI가 실시간으로 데이터를 분석해 기계의 온도나 압력을 조절하지 않으면, 공정이 중단되거나 제품 퀄리티에 영향을 줄 수 있기 때문에 높은 정확도가 필수적입니다.
🔗 Real-World AI: 산업 현장의 문제를 해결하는 AI Use Case
Real World는 복잡하고, 통제할 수 없고, 예측할 수 없으며, 데이터를 쉽게 확보할 수도 없습니다. 요구되는 정확도도 높고요. 그럼에도 마키나락스는 Real-World AI를 구현하기 위해 Compound AI System을 기반으로 산업 현장의 복잡한 문제들을 해결하고 있습니다. 실제 마키나락스는 글로벌 시장의 AI 도입 성공률 대비 4배 이상의 성공률을 실현하고 있습니다. '우리도 AI로 뭐 좀 해봐야 하나?' 고민만 하고 계신가요? 아래 배너를 클릭해 현재 고민을 나눠주세요. 마키나락스가 함께 Real-World AI를 구현할 방법을 찾겠습니다.
AI가 인간을 이길 수 있을까요? 누구도 장담하지 못했습니다. 알파고가 이세돌 9단을 이긴 2016년 전까지는요. 알파고는 딥러닝과 강화학습 알고리즘을 활용해 개발한 AI 바둑 프로그램입니다. 2016년 3월, 한국의 프로 바둑 기사 이세돌과의 대국에서 4승 1패로 승리했고 자신의 강력한 AI 능력을 세상에 알렸습니다.
바둑보다 복잡한 Real World
바둑에서 나올 수 있는 모든 경우의 수는 10의 170제곱이라고 합니다. 이러한 연산이 가능한 알파고는 바둑알 한 알이 놓이는 순간순간의 바둑판을 학습하고, 대국을 수행하며 더욱 좋은 성능을 내게 됩니다. 인간이 10의 170제곱이라는 우주 전체의 원자 수보다 많은 연산을 처리할 수 없기에 어찌 보면 알파고가 인간을 이긴 것은 당연한 결과일지도 모릅니다.
알파고는 바둑판이라는 통제된 환경만을 고려하고, 또 세계적인 바둑 기사들의 공개된 대국을 학습해, 무한히 대국을 반복하면서 성능을 고도화한 AI입니다. 알파고의 성능은 바둑판이라는 제한된 공간에서 1명의 상대와 진행하는 대국 상황에서 보장될 수 있습니다. 하지만 Real World에는 더 무수한 변수가 존재하고, 모든 고품질의 데이터에 접근하는 일 또한 역시 불가능합니다.
제조 현장을 떠올려 보세요. 너무나도 복잡합니다. 온도, 습도, 소음 등 여러 환경 변수가 존재합니다. 이에 따라 설비와 장비의 부품이 마모되는 정도가 달라 교체 주기도 달라질 수 있고, 가장 효율적으로 제품을 생산하기 위한 스케줄링도 고려해야 합니다. 여기에 작업자 숙련도에 따른 결과물의 차이, 변동에 따른 구매 시점 예측 등 간접적인 요인도 존재합니다. 알파고가 제조 현장에서는 인간의 능력을 넘는 AI가 될 수 없는 이유입니다.
복잡한 Real World를 모사하는 AI 기반 Digital Twin
알파고가 아닌 다른 AI라면 얘기가 달라집니다. 단순한 바둑판과 달리 복잡한 산업 현장을 그대로 모사한 환경에서 다양한 변수와 데이터를 학습한 AI라면 어떨까요? 산업의 영원한 숙제는 효율성과 생산성의 극대화입니다. 현재 잘 운영되고 있는 공정일지라도 끊임없이 더 나은 생산성을 목표로 다양한 시도를 하는 이유입니다. 하지만 현재 원활하게 운영되고 있는 공정에 바로 AI를 적용하기에는 리스크가 너무 많습니다.
산업 현장은 복잡한 시스템으로 구성되어 있고 다양한 변수들이 상호작용하고 있습니다. AI 모델이 실제 공정 환경에서 충분히 검증되지 않으면 예상치 못한 상황에서 오류가 발생해 공정 중단이나 품질 저하로 이어질 수 있습니다. 그렇기에 AI와 같은 새로운 기술을 도입할 때 신중한 접근이 필요합니다. AI의 성능을 실제 산업 현장에서 실험할 수는 없으니까요.
마키나락스는 독자적인 기술력으로 자체 개발한 Multi-Step 시뮬레이션 Dynamics 모델을 통해 Real World의 공정, 설비, 제품, 상태 등 산업 현장을 AI 기반으로 모사한 디지털 트윈을 구현합니다. 우리가 말하는 디지털 트윈 개념은 3D에 국한되지 않습니다. Dynamics 모델을 바탕으로 AI 디지털 트윈을 빠르게 만들며 예측, 최적화, 예지보전과 같은 AI 모델을 효율적으로 검증하고 최적화합니다. AI를 산업 현장에 적용하기 위해 AI로 시뮬레이션 환경인 디지털 트윈을 구현하는 거죠.
Digital Twin에서 구현하는 최적화, 예측, 예지보전
![마키나락스가 구현하는 AI 기반 디지털트윈](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/08/Digital-Twin-1-1024x576.png)
마키나락스가 구현하는 AI 기반 디지털 트윈
산업 현장에서 디지털 트윈은 AI와 결합해 생산성을 높이고 운영 효율성을 극대화하며 리스크를 최소화합니다. 장비나 설비에서도 자체적인 시뮬레이터를 제공하지만, 공정이 운영되면서 바뀌는 상태 값을 실시간으로 반영해 특정 결과를 이끌어 내기에는 한계가 있습니다. 마키나락스가 제공하는 디지털 트윈은 현재 공정과 설비 상태의 실시간 모니터링은 물론 외부 조건과 작업자의 운전 패턴을 파악해 현실과 가장 유사한 시뮬레이션을 구현합니다.
실제 공정을 정밀하게 모사한 디지털 트윈 환경에서 다음 상태(Single Step)의 예측이 아닌 중장기(Multi-Step) 상태 변화를 예측합니다. 산업 현장 데이터로 대표되는 관측 변수, 내외부 조건 변수, 제어 변수를 반영하여 미래를 예측하고 다양한 제어 시나리오를 테스트할 수 있습니다. 또 다양한 AI 모델과 결합해 중대 고장 방지, 최적 제어, 생산 스케쥴 최적화 등 특수한 산업 내 문제를 해결합니다.
산업 현장에서 작동하는 Digital Twin
산업 현장에서는 디지털 트윈이 어떻게 적용되고 있을까요? 🔗전기자동차 공조 시스템의 에너지 효율화 사례를 살펴보겠습니다. 현 상태와 목표 온도, 목표 에너지 효율을 탐색기에 제공하면 강화 학습 에이전트는 목표 온도 달성을 위한 액추에이터의 제어 값을 산출하고 이를 AI 시뮬레이터인 디지털 트윈에 인풋해 예상 결과 온도와 에너지 효율을 예측하게 됩니다. 그리고 이를 목표와 비교하여 달성 정도에 따라 보상을 계산하고 탐색기에 피드백을 제공하는 과정을 반복하며 강화학습 에이전트가 궁극적으로 목표 온도와 목표 에너지 효율을 달성할 수 있는 제어 값을 찾도록 유도합니다.
마키나락스는 이와 같은 방법론이 전기자동차 공조 시스템 이외에도 🔗산업용 머신 파라미터 튜닝, 🔗철강 퍼니스 장비 최적 온도 제어, 폐기물 소각로 운전 자동화 등 다양한 도메인에 실제 적용이 가능한 방법론임을 확인할 수 있었습니다. 더불어 마키나락스가 산업 현장에 배포한 5천 개 이상의 모델들은 이러한 AI 기반 디지털 트윈에서 검증하고 적용이 되고 있으며, 현실을 반영해 높은 정확도로 인공지능 기반 인사이트를 제공하고 있습니다. 복잡하고 예측할 수 없는 Real World에서 실질적인 비즈니스 임팩트를 낼 AI 구현 방법을 고민하고 계신가요? 아래 배너를 통해 언제든 편하게 문의해 주세요. 마키나락스가 함께 고민하겠습니다.
마키나락스는 창업 초기부터 제조 현장의 문제를 AI로 해결해 왔습니다. 지금은 에너지, 유통, 공공, 국방 등으로 영역을 넓혔고, AI 플랫폼 런웨이 출시와 산업 특화 LLM과 같은 새로운 AI를 시장에 선보이며 산업을 지능화하고 있습니다. 그리고 여기 끊임없이 도전하며 산업 AI의 새로운 영역을 넓히는 동시에 혁신하는 사람들이 있습니다. 마키나락스의 AI Project part4팀입니다.
끊임없이 새로운 도전을 이어가고 있는 part4는 무슨 일을 하는 팀인가요?
![part4 팀리더 병선님](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/08/part4-병선님-1024x576.jpg)
part4 팀리더 병선님
산업 AI 분야에서 레퍼런스가 거의 없는 성격의 문제들을 주로 해결하고 있습니다. 대표적으로 산업 현장 데이터를 바탕으로 산업 특화 LLM(Large Language Models)을 구축해 자연어를 기반으로 실제 공정과 장비를 제어하고 스스로 행동할 수 있는 AI를 개발합니다. 또 다양한 예측 문제를 데이터 관점에서 접근하여 해결하고 있습니다. 조성비에 따른 물성, 최적 가격, 최적 생산량 등 산업현장에서 필요로 하는 값들을 예측하는 AI를 만듭니다. 화학 분야에서도 제품의 물성을 예측하는 AI 모델을 개발했고요. 프로젝트를 수행하기 위해 필요한 다양한 MLOps 기능들은 Runway를 활용하고 있습니다. Runway를 이용해 데이터에 따른 재학습, 모델 및 데이터의 형상 관리, 실험 관리, 예측 결과의 지속적인 추론 서비스 제공 등을 수행하고 있습니다. 이를 통해 제품 개발 고도화에도 참여하고 있습니다.
어떤 분들이 함께 협업하고 있는지 궁금해요.
다양한 연차와 역량을 가진 7명의 AI 엔지니어가 함께 일하고 있습니다. 새로운 시도와 도전을 좋아하는 사람들이 모였어요. 다들 호기심도 많고요. 새롭게 시작하는 일에 주저함이 없습니다. 그래서 part4는 데이터 구축부터 배포까지 경험할 수 있는 풀스택 엔지니어를 지향하고 있습니다. 여러 가지 관심이 많아서 처음부터 끝까지 다 해봐야 직성이 풀리는 성향이 반영된 것 같아요. 어떤 AI 엔지니어들이 모였는지 서로 생각하는 팀원들의 역할과 장점을 정리해 봤어요.
![part4 구성원 영재님, 종하님, 석기님](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/08/영재-종하-석기님-1024x536.jpg)
part4 구성원 영재님, 종하님, 석기님
구성원들의 리소스를 고려해 R&R을 배분하고 코드 레벨까지 섬세한 피드백을 해주시는 리더 병선님, 명확한 커뮤니케이션과 깔끔하고 가독성 높은 코드를 구현하시는 영재님, 새로운 것에 대한 관심만큼 강한 책임감을 바탕으로 큰 흐름 속에서 방향을 잡아주시는 드민이 아빠 종하님, 인프라 환경과 소프트웨어와 관련한 풍부한 지식으로 업무 효율성을 올려주는 석기님.
🔗AI 회사에서 LLM을 업무에 활용하는 방법(feat.드민이)
![part4 구성원 유진님, 환수님, 대현님](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/08/유진-환수-대현님-1024x536.jpg)
part4 구성원 유진님, 환수님, 대현님
유연한 문제 대응력과 빠른 흡수력을 보여주시는 마키나락스 커피 소모임 막희네다방 주인장 유진님, 좋은 아이디어를 내고 방법을 구체화해 빠르게 실현하시는 환수님, 가장 최근 합류해 원활한 커뮤니케이션을 바탕으로 새로운 에너지를 불어넣어 주신 대현님 이렇게 7명으로 구성된 팀입니다. 그리고 함께 새로운 도전을 이어 나갈 LLM 분야의 전문가를 기다리고 있어요.
팀 문화로 넘어가 볼게요, 코드 리뷰에 철학이 있다고 들었어요.
코드를 통해 생각을 교환합니다. 코드 리뷰는 AI 엔지니어 업무의 기본이라고 생각해요. 코드 리뷰를 통해 누구나 쉽게 읽고 이해할 수 있는 코드를 만들려고 노력하고 있습니다. 그래서 코드 리뷰는 조금 좀 더 깐깐하게 하려고 하는 편이고요. 생각의 교환은 글이나 토론으로 할 수 있지만 코드로도 가능하다고 생각해요. 그래서 part4는 가급적이면 서로의 코드를 보고 서로의 생각을 이해하고 교류하고 있어요. “이 코드는 이렇게 바꾸면 더 효율적일 것 같아요”라며 제안을 해주기도 하고, “이 코드는 왜 이렇게 짜셨나요?”와 같이 단순한 궁금증을 물어보기도 해요.(시비 아님) 그러다 보니 자연스럽게 대화도 많이 하게 되는 것 같아요. 정기적인 티타임뿐만 아니라 슬랙으로도 대화를 많이 하고, 특별한 주제가 없더라도 오고가며 대화를 많이 하려고 해요.
코드 말고 자연어(?)로는 어떤 방식으로 커뮤니케이션하세요?
![자연어로 소통하고 있는 part4 구성원들.](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/08/part4-1024x576.jpg)
자연어로 소통하고 있는 part4 구성원들.
저희팀만이 아니라 마키나락스 전반의 커뮤니케이션 방식이라고 생각하는데요. 마키나락스 구성원 누구나 자신의 의견을 자유롭게 표현합니다. 본인의 의견을 이야기하는 데 있어서 누군가가 방해한다거나 막는 경우를 못 본 것 같아요. 어떠한 이야기라도 들을 자세가 되어있고 상대방에 대한 존중을 바탕으로 커뮤니케이션합니다. 불가능해 보이는 프로젝트도 어떻게든 답을 찾아가는 과정이 인상 깊었습니다. 처음에 생각한 결과는 아니더라도 많은 고민과 노력을 통해 의미 있고 유효한 답을 찾는 과정을 보고 배울 점이 많다고 생각했어요. 함께 토론하는 문화가 있어서 다양한 생각들이 나오는 것 같습니다. 개인이 풀기 어려운 문제를 집단 지성으로 해결하는 집단 지성의 힘을 발휘하는 경우를 많이 본 것 같습니다.
마키나락스 AI 엔지니어로 일한다는 것, 어떤 장점과 보람이 있을까요?
실제 산업 현장에서 쓰이는 AI를 만들고 다른 AI 엔지니어들이 해보지 못하는 경험을 할 수 있어요. 저희는 산업 현장이 필요로 하는 것들에 집중해서 풀어야 하는 문제들을 해결한다고 생각해요. 그래서 실제 산업 현장에 맞춰서 문제를 셋팅하고 풀어냅니다. 그 경험들이 쌓여서 다른 문제를 해결하는 데 도움이 되고 노하우가 쌓여가는 거죠. 특히 카테고리를 넓힌다는 관점에서 보면, 저희가 만든 레퍼런스가 다른 프로젝트로 확장될 때 가장 큰 보람을 느낍니다.
장점이 명확한 만큼 수반되는 힘든점도 있을 것 같아요.
레퍼런스가 부족해요. 거의 없다고 볼 수 있습니다. 그렇기에 내부에서 고민을 치열하게 해야 하고 그 답을 찾는 과정이 고통스러울 때도 있어요. 하지만 결국 해냈을 때 얻는 가치가 더 큰 것 같습니다. 저희 팀원들이 그런 고단한 과정들을 즐기는 사람들이기도 하고요. 또 마키나락스는 휴가가 무제한입니다. 재택도 자유로워서 몰입할 때는 몰입하고, 쉴 때는 쉼에 집중할 수 있어요.
앞으로 팀에 합류할 AI 엔지니어는 어떤 분이길 바라세요?
함께 즐겁게 일할 수 있는 분이면 좋겠어요. 단순히 연구실에서 AI 성능을 높이기 위해서 일하는 게 아니라, 실제 산업 현장에서 쓰일 AI를 만들면서 느끼는 보람과 가치를 함께 하고 싶은 분이라면 누구나 환영합니다. 또 머신러닝 분야는 변화가 빠른 분야로 항상 새로운 상황에 맞닥뜨리는 것 같습니다. 이를 두려워하지 않고 적극적으로 맞서서 함께 발전하는 분을 기다리고 있습니다.
part4의 계획과 목표를 묻고 인터뷰 마무리할게요.
이제는 MLOps를 넘어서 LLMOps가 필요한 시기가 되었다고 생각합니다. LLMOps에 필요한 기능들을 시험하고 나아가야 할 방향을 제시할 계획입니다. 또 수행한 작업에 대한 노하우가 팀과 회사의 자산이 될 수 있도록 체계화하는 작업도 계속해서 진행할 예정이에요. 산업 현장마다 전부 다른 데이터와 문제들을 해결해야 하지만 그 안에서 자산화할 수 있는 부분들이 있거든요. 대표적인 예로 여러 작업을 수행하면서 실험 관리를 체계화했는데요. 자세한 내용은 🔗체계적인 실험 관리 #1. AI 모델의 성능을 높이는 첫걸음 포스팅에서 확인할 수 있습니다.
지금까지 Part4 인터뷰였습니다. 콜럼버스가 오로지 바람과 파도에 의지해 신대륙을 발견한 것처럼 part4도 아무도 가보지 않은 길을 항해하고 있습니다. 그간 쌓인 노하우와 함께 할 동료가 있기 때문에 거침없으면서도 유연한 혁신을 이어 나가고 있어요. part4와 한 배를 타고 함께 항해를 이어갈 팀원을 모집하고 있습니다. 산업을 제대로 이해하고 실제로 쓰이는 AI를 만들고 싶다면, 지금 바로 🔗채용 공고를 확인해 보세요. 함께 새로운 길을 개척해 봐요!
What is Real-World AI?
우리는 AI가 더 나은 세상을 만든다고 믿습니다. AI가 만들 혁신은 오피스 생산성과 디지털 환경에만 한정되지 않을 것이라고 확신합니다. 단언컨대, AI는 우리가 숨을 쉬고, 움직이고, 만질 수 있는 Real World에서 전례 없는 혁신을 만들어 낼 것입니다.
광활한 Real World에서 우리는 AI로 산업 현장을 지능화합니다. 무수한 설비에서 나오는 무한한 산업의 데이터를 바탕으로 난제를 해결하고 실질적인 비즈니스 임팩트로 연결합니다. 산업 현장은 끊임없이 변화하고 있으며 도전 과제들도 어려워지고 있습니다. 우리는 산업 특화 AI로 복잡하고 예측할 수 없는 산업 현장의 새로운 지평을 엽니다.
우리가 Real-World AI에 집중하는 이유
Real-World AI가 펼쳐낼 새로운 지평에는 무엇이 기다리고 있을까요? AI가 실현할 가치 끝에는 사람이 있습니다. AI도 결국 사람을 위한 기술입니다. AI는 산업 현장에서 기존에 겪고 있던 실제 문제를 빠르고 정확하게 해결할 뿐만 아니라 사람이 생각하지 못했던 새로운 방법을 모색하고 제안합니다. Real-World AI는 사람과 기술이 연결되어 더 나은 세상을 만들어가는 데 핵심적인 역할을 합니다. 그래서 우리는 산업 현장의 지능화를 통해 사람이 본연의 일에만 집중할 수 있는 미래를 만들어 가고 있습니다. 이유가 너무 추상적인가요?
Real-World AI: 더 큰 시장, 더 큰 가치
ChatGPT와 같은 범용 AI는 디지털 환경에서 번역, 문서 작성, 코딩 등을 수행하며 오피스 생산성을 높이고 있습니다. 패션 이커머스 플랫폼과 콘텐츠 플랫폼에서는 개인화된 추천 시스템을 제공하기도 하고요. 이제 AI가 없는 디지털 세상에서 살기란 불가능에 가깝습니다. 경제적인 측면은 어떨까요? 세계은행은 디지털 경제가 세계 국내총생산(GDP)의 15% 이상 기여하고 있다고 발표했습니다. 디지털 경제의 성장 속도는 빠르지만, 여전히 Real World가 차지하는 절대적인 경제 규모는 전체의 대부분을 차지하고 있으며 AI는 규모가 거대한 시장에 적용되었을 때 그 효용성과 파급력도 더욱 크다고 예상합니다. 자동차, 로봇, 반도체, 배터리, 에너지, 물류 등 AI를 적용할 수 있는 산업도 더 많고 다양합니다.
Real World에 속한 산업에 AI의 가치가 실현되었을 때 불러올 파급효과 또한 큽니다. 예를 들어 제조업에 AI를 적용해 수요 예측이 정확해지면, 물류 산업에서는 재고 관리와 배송 계획을 최적화할 수 있습니다. 이를 통해 배송 시간을 단축하고 물류 비용을 절감합니다. 소매 업체 또한 AI가 예측한 제조 수요 데이터를 기반으로 재고를 최적화하고 판매 촉진 활동을 계획할 수 있습니다. 제조업에서 AI 적용 사례가 늘어나면 IT 기업들은 이를 지원하기 위한 새로운 솔루션과 서비스를 개발하겠죠. 이는 곧 IT 서비스 산업에서 더 많은 연구개발 투자를 유도하고, 신기술 개발 촉진으로 이어집니다.
Real-World AI: 더 큰 잠재력, 더 큰 임팩트
빙산의 일각. Real-World AI가 가진 잠재력과 임팩트를 함축하고 있는 문장입니다. AI와 데이터는 상호 의존적인 관계입니다. AI를 시작하기 위해서는 데이터가 필요하고 데이터는 AI의 성능을 결정짓는 핵심 요소입니다. Digital World에서는 대량의 온라인 데이터를 쉽게 수집하고 분석할 수 있습니다. 물리적 인프라와 관련된 비용도 비교적 적고요. Real World는 어떤가요?
지금 주위를 둘러보세요. 우리는 일상에서 수많은 데이터를 생성하고 있습니다. 가전제품, 차량, 심지어 우리가 걷는 길과 사용하는 물건들까지 모든 것이 데이터를 만들어 내고 있습니다. 집에서 사용하는 가전제품의 사용 패턴, 우리가 걷는 거리의 환경 변화, 도로 위의 차량 흐름 등은 모두 AI와 만나면 더 나은 세상을 만들 데이터입니다. Real World에서 발생하는 무한한 데이터를 기반으로 AI는 우리의 삶을 더욱 편리하고 효율적으로 바꾸고 예측 불가능한 문제들을 해결하며 혁신적인 솔루션을 통해 새로운 가능성을 열어갈 것입니다.
산업 현장은 어떨까요? 공장의 기계들은 매일 쉬지 않고 가동되며 이 과정에서 진동, 온도, 소리 등의 다양한 데이터가 발생합니다. 이 데이터를 잘 수집하고 정제해 만든 AI는 Real World의 물리적 법칙과 데이터 맥락을 이해합니다. 산업 현장의 상황을 실시간으로 인지하고 장비, 설비, 로봇 등 물리적인 요소들이 행동하게 합니다. 사람이 룰을 정해주고 기계가 반복적으로 수행하는 자동화 패러다임을 AI가 지능화 패러다임으로 완전히 새롭게 정의하게 되는 거죠. 하지만 여전히 충분한 양의 고품질 데이터를 확보하고 일관성 있게 유지하는 일은 큰 도전 과제 중 하나입니다. Real World에서는 아직 수집 및 활용되지 않은 데이터가 무수히 많으며, 이 데이터를 활용하면 AI의 잠재력을 최대한으로 끌어낼 수 있습니다.
더 큰 시장, 더 큰 잠재력을 가진 Real-World AI가 펼쳐낼 새로운 지평이 궁금하신가요? 자동차, 반도체, 배터리, 화학, 국방, 유통, 공공 등 광범위한 산업의 엔터프라이즈 고객과 함께 Real-World AI를 실현하고 있는 마키나락스의 기술력은 곧 이어지는 포스팅에서 만날 수 있습니다. 그전에 우리 회사에 적합한 Real-World AI와 관련한 논의가 필요하시면 아래 배너를 통해 언제든 편하게 문의해 주세요. 마키나락스가 함께 고민하겠습니다.
'우리도 AI로 뭐 좀 해봐야 하나?' 모든 기업이 하고 있는 고민이죠. 제조 기업이라고 예외일 수는 없습니다. AI 도입을 고민하는 이유는 분명합니다. 생산 라인 자동화, 장비 예지 보전, 품질 관리 고도화 등 AI는 새로운 가능성을 열어줍니다. 하지만 어디서부터 시작해야 할지, 어떤 접근이 우리에게 맞는지, 비용은 얼마나 드는지 등의 질문이 끊이지 않습니다.
특히 중소 규모의 제조 기업에게는 AI가 여전히 낯설고 복잡하게 느껴집니다. 데이터 인프라, AI 전문 인력, 초기 투자 비용 등 기술과 재정적 장벽이 높습니다. 특히 사업장이 지방에 자리잡고 있다면 AI 관련 최신 기술 트렌드에 대한 접근성도 상대적으로 떨어진다고 느낄 수 있습니다. 산업 특화 AI를 개발하고 기업의 AI 역량 내재화를 지원하는 마키나락스는 이런 고민을 하고 있는 제조 기업들을 적극적으로 돕고 있습니다.
이 포스팅을 읽어보시고 우리 회사에도 같은 해결책이 필요하다고 생각하시면 편하게 연락해 주세요. 마키나락스가 여러 산업 현장에서 얻은 실질적인 AI 성공 사례와 경험을 바탕으로 함께 고민하고 방법을 제안해 드리겠습니다.
서울에서 하는 AI 세미나, 우리 회사에서도 가능할까요?
AI 기술은 급격하게 발전하고 있고 비즈니스 임팩트로 연결되는 사례도 빠르게 늘어나고 있습니다. 마키나락스도 시장 속도에 발맞춰 AI 기술 트렌드를 발표하고 실제 산업 현장에 적용되어 효용성을 입증한 성공 사례를 공유하는 세미나를 진행하고 있는데요. 세미나 이후 네트워킹을 통해 현장의 목소리를 들을 수 있고 새로운 비즈니스 기회로 연결되기도 합니다. 지난 3월에도 서울 코엑스에서 ‘AX 시대, 제조 생산성 혁신을 위한 AI 도입 전략’을 메인 주제로 다양한 AI 기술 트렌드와 실제 AI 도입 성공 사례 발표로 구성된 세미나를 진행했는데요. 세미나 주제를 보신 현대포리텍 교육 담당자님께서 자사 임원을 대상으로 한 방문 특강을 문의해 주셨습니다. 서울에서 하는 세미나, 우리 회사에서도 가능할까요? 가능하죠! 그렇게 마키나락스 구성원들은 충북 음성으로 향했습니다.
현대포리텍은 자동차부품 제조기업으로 합성수지 사출품과 고무 부품류를 주력으로 생산하고 있으며 최근에는 전장부품 제조까지 영역을 확장하고 있습니다. 1975년 설립 이래로 중국, 멕시코, 미국, 인도 등지에 해외법인을 두고 글로벌 시장에서도 활동하고 있습니다. 진출 시장과 사업 영역을 계속해서 확대하고 있는 만큼 AI 시작과 운영에 대한 고민도 많았습니다. 이런 상황을 함께 고민하고자 마키나락스에서 다양한 AI 프로젝트를 성공으로 이끈 안승용 이사가 ‘산업 AI, 연구를 넘어 비즈니스로’를 주제로 강연을 진행했습니다.
AI를 적용하기 위한 기본 조건 3가지
세계적으로 제조업에서 AI의 목표 달성률은 16% 수준입니다. 그만큼 제조 현장에 AI를 적용하고 비즈니스 임팩트로 연결하기까지는 많은 준비와 노력이 필요합니다. 마키나락스는 70% 수준의 성공률을 기록하고 있습니다. 성공률이 높은 마키나락스는 제조업에 AI를 성공적으로 적용하기 위해 필요한 3가지 기본 조건을 다음과 같이 제시합니다.
![AI를 적용하기 위한 기본 조건 3가지](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/07/AI를-적용하기-위한-기본-조건-3가지-1024x576.jpeg)
AI를 적용하기 위한 기본 조건 3가지
첫 번째, 데이터 인프라가 필요합니다. AI를 잘 활용하기 위해서는 고품질의 많은 데이터가 필요하기 때문인데요. 수많은 데이터로 반복적인 실험을 통해서 우리 공정에 적합한 AI 모델을 개발합니다. 따라서 제조 현장에서 실시간으로 데이터를 생성하고 수집하는 OT 인프라와 데이터의 수집, 저장, 처리 및 분석을 지원하는 IT 인프라가 갖춰져야 합니다.
두 번째는 도메인 특수성을 반영한 ‘Customized AI’입니다. 기업마다 발생하는 데이터와 해결해야 하는 문제가 다르기 때문에 학습을 진행하는 데이터와 접근 방식도 달라야 합니다. 자동차, 반도체 등 각 분야에 대한 이해도 필요하고요. 따라서 도메인과 현장 특성을 반영한 커스터마이즈 AI가 필요합니다. 이를 통해 AI 성능을 높임과 동시에 학습 비용 등을 낮춰 효율을 최적화하는 것이 가능합니다.
세 번째는 원활한 AI 운영을 위한 머신러닝 기반 인프라(MLOps)입니다. 생산 현장에서 나오는 신규 데이터를 실시간으로 AI 모델과 연결하고 자동으로 재학습시켜서 성능을 끌어올리고 결과물을 제대로 활용할 수 있는 플랫폼이 필요합니다. AI 모델 운영 지원의 속도에 따라 제품 생산 속도나 완성품의 품질에도 많은 영향을 미칠 수 있습니다.
제조 현장에 AI를 가장 빠르게 적용하는 방법
우리 회사는 데이터가 충분하지 않으니, 데이터 먼저 수집하고 그다음에 AI를 시작하면 될까요? 한 1년? 2년? 아니 3년은 지나야 충분한 데이터가 쌓일 것 같습니다. 하지만 마키나락스가 직접 산업 현장에 AI를 적용해 본 결과 데이터 수집과 AI 적용을 동시에 진행하면 제조 현장에 AI를 가장 빠르게 고도화할 수 있었습니다. 수년간 모은 데이터가 우리가 해결하려는 문제를 풀 수 있는 AI를 만드는 데 적합할지 장담할 수 없고, 휴먼 에러가 발생하고 있지는 않은지 점검이 필요하기 때문입니다. 결국 AI는 데이터를 잘 모으고 잘 관리하고 다듬는 일부터 시작해야 잘 만들 수 있습니다. 일단 데이터를 모으면서 AI를 시작하게 되면 어떤 식으로든지 우리 공장을 개선하고 혁신할 수 있는 인사이트와 아이디어들을 찾아낼 수 있습니다. 이는 마키나락스가 여러 기업과 협업하면서 찾은 진리입니다.
기술적인 측면을 넘어 AI 적용 속도를 결정짓는 가장 중요한 요소는 경영진의 결정입니다. 미래 기술에 대해 선도적으로 투자하고 빠르게 추진하는 일은 미래를 준비하는 해안과 지혜가 반영된 결과라고 생각합니다. 마키나락스와 같은 산업 AI 전문 기업과 긴밀한 협업을 통해서 현장의 전문 지식이 AI 모델에 반영되어야 한다는 점도 성공적인 AI 도입을 위해 주목해야 합니다.
"좋은 데이터를 잘 수집하기 위한 템플릿이 있나요?", "플라스틱 사출 조건을 머신러닝 기술로 표준화하고 싶습니다", "오늘 발표를 통해 궁금한 점이 많이 해결됐습니다." 강연이 끝나고 난 후 AI와 관련한 질문이 이어졌고, 이후 구체적인 데이터와 문제 해결 방식을 논의하는 미팅도 진행되었습니다. 산업 AI 전문가와 함께 AI의 실질적인 활용 가능성을 체감하고 AI 도입 전략을 함께 구체화했는데요. 손에 잡히지 않을 것 같았던 AI를 이해하고 실질적인 적용 논의까지 진행해 볼 수 있는 시간이었습니다. 보다 자세한 내용은 🔗AI 도입을 시작하는 기업을 위한 산업 지능화 추진 가이드 포스팅에서 확인할 수 있어요.
마키나락스는 풍부한 제조 데이터 경험과 완성도 높은 AI 플랫폼을 기반으로 산업 현장을 지능화하고 기업의 AI 역량 내재화를 지원합니다. 온라인을 통해서 산업 현장에서 얻은 AI 인사이트 전달하는 다양한 활동도 함께 하고 있는데요. 📝 산업 AI 기술과 트렌드 이야기를 만날 수 있는 블로그, 📹 AI 성공 사례와 보다 자세한 기술을 설명하는 웨비나, 📩 다양한 인사이트를 매달 보내드리는 뉴스레터 등이 있습니다. 이외에 우리 회사에 적합한 AI와 관련한 논의가 필요하시면 아래 배너를 통해 언제든 편하게 문의해 주세요. 마키나락스가 함께 고민하겠습니다.
월드컵 2차 예선 경기가 있던 2024년 6월 11일. MLOps Community Seoul의 네 번째 오프라인 밋업 행사가 열렸습니다. 이번 밋업의 주제는 <"LLM.. 하긴 해야 되는데.." 하고 있는 당신을 위한 MLOps>입니다. 국가대표 축구 경기도 뒤로할 정도로 AI에 진심인 100여 명이 모인 그날의 열기를 전합니다.
MLOps Community?
![네 번째 MLOps Community Seoul 오프라인 밋업 현장.](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/07/MLOps-커뮤니티-현장2-1024x576.jpg)
네 번째 MLOps Community Seoul 오프라인 밋업 현장.
MLOps Community는 전 세계 40개 도시에서 15,000명이 활동하고 있는 Global Community입니다. 뉴욕, 런던, 베를린, 파리는 물론 서울에서도 열리고 있는데요. MLOps Community Seoul 오프라인 밋업은 2023년부터 마키나락스가 주최하고 있습니다. ‘MLOps’라는 공통 관심사를 가진 사람들이 모인 MLOps Community Seoul 오프라인 밋업에는 다양한 교류가 활발하게 이뤄집니다. 먼저 머신러닝 엔지니어, 데이터 사이언티스트, CTO, AI 비즈니스 리더 등을 연사로 초청한 전문적인 강연이 진행됩니다. 이를 통해 최신 기술 트렌드를 파악할 수 있고, 실무 적용 사례를 통해 구체적인 인사이트를 얻을 수 있습니다. 강연 후에는 자유로운 네트워킹의 장이 마련되는데요. 업계 최고의 MLOps 전문가들과 교류하며 다양한 인사이트, 채용 정보, 비즈니스 기회를 공유합니다.
MLOps에 진심인 회사 그리고 사람들
MLOps에 관심이 있으신 분들은 ‘MLOps for all(모두를 위한 MLOps)’를 한 번쯤 보셨을 겁니다. MLOps와 관련해 가장 많이 인용되는 기술 문서이기도 한데요. 모두를 위한 MLOps를 집필한 메인 저자 대다수가 마키나락스 소속 개발자라는 사실 알고 계셨나요?
MLOps에 대한 정의는 다양하지만, 마키나락스는 생산성을 시스템적으로 향상시키기 위한 AI 개발, 배포, 운영을 위한 도구 또는 일련의 활동이라고 정의하고 있습니다. 또 효율적인 MLOps는 특정 인프라에 종속적이지 않아야 하고, 단일 플랫폼 하나로 운영해야 하며 외부 시스템과의 연동이 자유로워야 한다고 생각해요.
마키나락스는 국내에서 가장 빠르게 MLOps를 Stand Alone 제품으로 선보인 기업이기도 합니다. 우리가 생각하는 MLOps 철학은 마키나락스 엔터프라이즈 AI 플랫폼 ‘Runway’에 그대로 녹여져 있습니다. 마키나락스 11층 사무실에서 일하는 소프트웨어 엔지니어들이 Runway의 새로운 기능을 배포하면 12층의 Data Scientist, ML Engineer 등 AI를 개발하는 엔지니어들이 바로 사용자가 되어 제품 개발에 참여하기 때문에 가능한 일이었어요. 특히 현장은 잘 알지만 머신러닝과 친숙하지 않은 실무자부터 숙련된 AI 개발자까지 폭넓은 사용자가 쉽게 사용할 수 있다는 점이 Runway의 강점입니다. 너무 자랑만 했나요? 다시 MLOps Community Seoul 오프라인 밋업 현장으로 넘어가겠습니다.
"LLM.. 하긴 해야 되는데.." 하고 있는 당신을 위한 MLOps
![](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/07/MLOps-커뮤니티1-1024x576.jpg)
'산업 분야 엔터프라이즈 MLOps 플랫폼 전문가가 바라본 LLM'를 발표해주신 심상우님
이번 MLOps Community Seoul 오프라인 밋업에서는 ‘LLM’을 핵심 키워드로 잡았습니다. 첫 강연은 ‘산업 분야 엔터프라이즈 MLOps 플랫폼 전문가가 바라본 LLM’ 주제로 마키나락스 심상우 CTO가 진행했습니다. 산업 현장에 LLM을 적용하기 위해 했던 시도들과 결과를 공유하고, 질의응답 시간을 통해 RAG, LLMOps 등에 대해서도 논의했습니다. 실제 사례를 통해 어떻게 LLM을 실무에 적용할 수 있는지 구체적으로 이해할 수 있는 시간이었어요.
![‘GraphRAG와 LLMOps’를 발표해주신 정이태님](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/07/MLOps-커뮤니티2-1024x576.jpg)
‘GraphRAG와 LLMOps’를 발표해주신 정이태님
두 번째 강연을 맡아주신 정이태님은 ‘GraphRAG와 LLMOps’에 대해서 발표했습니다. 앞서 진행된 발표에서도 나왔던 키워드들이라 기술 트렌드를 엿볼 수 있었어요. GraphRAG는 그래프 기반의 Retrieval-Augmented Generation의 약자로, 데이터를 그래프 형태로 구조화하여 보다 더 정확하고 일관된 응답을 생성하는 것을 목표로 하는데요. 이태님이 GraphRAG 작업을 위해 고군분투했던 과정들을 현장감 있게 전달해 주셨습니다.
![‘AI 프로필 서비스 1/3 가격으로 운영하기’를 발표해주신 류원탁님](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/07/MLOps-커뮤니티3-1024x576.jpg)
‘AI 프로필 서비스 1/3 가격으로 운영하기’를 발표해주신 류원탁님
마지막 강연은 류원탁님이 맡아주셨습니다. ‘AI 프로필 서비스 1/3 가격으로 운영하기’를 주제로 진행된 강연에서는 AI 기반 프로필 서비스를 더 저렴하게 운영할 수 있는 전략과 기술을 소개해 주셨습니다. 실제 사례를 통해 비용 절감 효과를 확인할 수 있었고, AI 모델의 성능을 유지하면서도 운영 비용을 크게 줄일 실질적인 방안을 얻을 수 있었습니다.
연극 아니 발표가 끝나고 난 뒤 모두가 객석에 남아
![](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/07/MLOps-커뮤니티-현장5-1024x576.jpg)
MLOps Community Seoul 오프라인 밋업 네트워킹 시간.
세 분의 발표가 끝난 후에는 자유롭게 MLOps 관련 고민이나 인사이트를 공유하는 네트워크 시간이 있었습니다. 마키나락스가 준비한 피자와 음료를 즐기면서 이야기를 나눴는데요. 자리를 옮겨 다니며 나누는 대화뿐만 아니라 마이크를 잡고 크게 알리고 싶은 내용들을 전하기도 했습니다. IT 전문 출판사 프리렉에서는 함께 책을 출판할 저자를 모집하셨고, MLOps 관련 논문을 함께 스터디하는 모임의 팀원을 모집하는 분도 계셨어요. 저도 마키나락스의 뉴스레터와 웨비나를 홍보했답니다. 지금 한번 더 홍보할게요. 🔗마키나락스 뉴스레터를 구독해 주세요! 매월 마키나락스가 산업 현장에서 얻은 인사이트를 쏙 넣어드립니다.
![](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/07/MLOps-커뮤니티-인호-훈철님-1024x576.jpg)
MLOps Community Seoul 오프라인 밋업 오거나이저 인호님과 훈철님
오후 10시. 아쉽게도 네트워킹 시간이 끝나 자리를 마무리해야 했는데요. 오프라인 행사 끝난 아쉬운 마음은 오픈카톡방에 올려주신 후기로 달래야 했습니다. 이번 포스팅에서는 MLOps Community Seoul 오프라인 행사 현장을 간략하게 돌아보았는데요. 이번 행사를 오거나이즈 해주신 마키나락스 김인호님과 신훈철님이 개발자 시선에서 본 MLOps Community Seoul에 대한 포스팅은 아래 링크에서 보실 수 있어요.
🔗 MLOps Community 오프라인 밋업을 준비하는 개발자의 기쁨과 슬픔
MLOps의 진심인 마키나락스가 만든 Enterprise MLOps Platform Runway를 활용해 보고 싶다거나 고민이 있으신 분들은 마키나락스와 상의해 주세요. 마키나락스가 여러 산업 현장에서 얻은 실질적인 AI 성공 사례와 경험을 바탕으로 함께 고민하고 방법을 제안해 드리겠습니다.
패션쇼 Runway 위에서는 모델이 의상의 가치를 높이죠. 마키나락스의 엔터프라이즈 AI 플랫폼 Runway 위에서는 AI 모델이 기업 데이터의 가치를 높입니다. 그리고 Runway의 가치를 극대화해 고객에게 전달하는 팀이 있습니다. 바로 인터뷰 주인공인 Runway Delta팀인데요. Runway Delta팀은 고객과 직접 만나 소통하며 그 어느팀보다도 Runway의 가치를 최전선에서 전하고 있습니다. Runway 구축과 맞춤화에 기여해 고객의 비즈니스 문제를 해결하고 AI 역량 내재화를 돕고 있는데요. 다양한 직군의 구성원들이 협업하고 있는 Runway Delta팀은 어떻게 Runway의 가치를 전달하고 있을까요?
Runway Delta팀이 하는 일을 자세하게 소개해 주세요.
![Runway Delta팀 리더 대성님.](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/06/Delta-대성님-1024x576.jpg)
Runway Delta팀 리더 대성님.
우리팀이 하는 일은 크게 세 가지로 요약할 수 있습니다. 첫째, Runway 제품 딜리버리로 AI 플랫폼인 Runway를 배포하고 맞춤화해 고객의 비즈니스 문제를 해결합니다. 둘째, 고객의 요구사항 정의를 위해 고객과 적극적으로 커뮤니케이션하며 피드백을 청취하고, 짧은 시간 내에 영향력 있는 해결책을 제시합니다. 마지막으로 제품 설치 및 사용 교육을 통해 Runway를 사용할 수 있는 환경을 구축하고, 고객이 제품에 익숙해질 수 있도록 교육을 진행해 기술 중심의 가치를 창출합니다. 고객사마다 해결하고자 하는 문제와 준비된 환경이 모두 다른데요. 고객이 AI로 풀고자 하는 문제를 Runway 위에서 해결하고 AI 역량을 내재화할 수 있도록 지원합니다. Runway Delta팀은 주어진 환경을 막론하고 임무를 완료하는 것을 목표로 하고 있어요. 현장의 목소리를 내부에 공유해 Runway 제품 고도화에도 기여합니다.
업무 영역이 넓은 만큼 다양한 직무의 구성원이 협업하고 있죠? 어떤 분들이 모여 있나요?
![Runway Delta팀 멤버들. 오른쪽부터 시계 방향으로 규선님, 원님, 재혁님, 효동님, 준영님, 동환님.](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/06/Delta-멤버들-1024x456.jpg)
Runway Delta팀 구성원들. 오른쪽부터 시계 방향으로 규선님, 원님, 재혁님, 효동님, 준영님, 동환님.
Runway Delta팀은 현재 총 7명이고 Product Manager, Solution Engineer, 제품 교육 담당자로 구성되어 있습니다. 각 직무별로 어떤 역할을 하고 있고 어떤 역량이 중요한지 설명할게요.
Runway Delta팀의 Product Manager(PM)는 Runway를 안정적으로 배포하고 고객의 요구사항을 청취해 Runway의 기능 고도화에 기여하는 역할을 해요. 제품 자체에 대한 기획뿐 아니라 고객과 소통하며 요구사항을 분석하고 문제를 해결하는 솔루션을 제시하는 것까지 수행하는데요. 이 과정에서 고객을 직접 대하는 포지션이다 보니 커뮤니케이션 능력도 중요한 역량이에요. 프로젝트를 처음부터 끝까지 주도적으로 이끌어야 하기 때문에 프로젝트 리딩 스킬도 중요합니다.
Solution Engineer(SE)는 Runway가 고객사에서 안정적으로 운영될 수 있도록 설치 및 검증을 담당해요. 인프라 관련 기술과 제품 설치에 필요한 쿠버네티스, OS 등 DevOps에 대한 전반적인 기술 이해가 필요하고, 고객을 직접 대하는 포지션이다 보니 고객의 목소리에 귀 기울이고 쉽게 기능을 전달하는 역량이 필요합니다.
제품 교육 담당자는 고객들이 Runway 제품의 기능과 사용법을 쉽게 이해할 수 있도록 교육 콘텐츠를 기획하고 운영해요. 직접 만든 콘텐츠를 바탕으로 교육을 진행하고, 고객들의 소중한 의견을 들어 제품을 더 좋게 만드는 데 기여하고 있답니다. 회사 안팎의 다양한 사람들과 소통하며 직접 교육을 진행하는 만큼 기획력, 꼼꼼함, 그리고 적극성이 정말 중요해요.
직무별 역량을 넘어 팀 구성원으로서 필요한 역량은 무엇이 있을까요?
가장 먼저 고객과 일하는 것을 즐겨야 해요. Runway Delta팀의 특성상 고객을 직접 만나 하는 일이 많아요. 사람이 하는 일이다 보니 고객과의 라포 형성이 무엇보다 중요해요. 첫 만남부터 시작해 고객이 마키나락스의 제품을 만족하며 사용하는 좋은 결과를 만들어낼 때까지, 서로 간의 공감대를 형성하고 관계를 발전시켜 나가는 걸 즐기는 분이라면 더 즐겁게 일할 수 있을 거라 생각해요.
고객과 눈높이를 맞추고 고객의 요구사항을 명확하게 파악하는 역량도 중요해요. 고객이 이해하는 것과 회사가 이해하는 것은 다를 수 있는데, 그걸 맞춰가는 게 Runway Delta팀에서 하는 일이에요. 전 과정에서 고객의 요구사항에 대해 확인하고, 우리의 제품이 이러한 요구사항들을 어떻게 반영할 수 있을지 시나리오를 만들고 확인하는 세심한 작업이 필요해요.
특별함을 일반화할 수 있는 역량도 필요합니다. 고객의 요구사항은 모두 달라요. 하지만 고객들의 그런 특별한 요구사항을 잘 모으고 잘 분류해서 일반화할 수 있다면, 더 많은 고객들에게 빠르게 해결책을 제시할 수 있게 되겠죠. 문제를 정의하는 능력이라고 볼 수도 있을 것 같아요. 또 말보다는 문서를 통해, 고객을 설득하고 그러한 과정들을 남기는 것을 지향해요. 그렇기 때문에 문서 작성 역량도 중요합니다. 특히 프로젝트 종료 시에는 산출물을 문서화함으로써 고객과 Delta팀 모두에게 의미 있는 자산으로 남게 되겠죠.
이런 역량들이 실제 업무할 때 어떻게 발휘되나요? 가장 기억에 남는 프로젝트도 궁금해요.
최근에 보험개발원과 프로젝트를 진행했는데요. Runway를 활용해 자동차 사고 사진 정보를 식별하고 관리할 수 있는 AI 시스템을 구축한 프로젝트입니다. 기존에 고객이 사용하고 있었던 AI 플랫폼을 대체하고 커스터마이징하는 작업이 추가 됐는데요. 프로젝트가 마무리되는 시점에 담당자분이 Runway 기능에 대한 칭찬과 더불어 프로젝트를 리딩한 규선님의 PM 역량을 언급하면서 감사 인사를 전달해 주셨어요. 이런 피드백을 전사에 공유하면서 Runway Delta팀뿐만 아니라 마키나락스 구성원들이 뿌듯해했던 기억이 있습니다.
Runway Delta팀 자리에서 가끔 큰 웃음소리가 들릴 때 있어요. 팀의 업무 문화도 소개해 주세요.
![대성님 혼자 말하는 것 같지만, 자유롭게 의견을 공유하는 Runway Delta팀 회의 시간.](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/06/Delta-3-1024x576.jpg)
대성님 혼자 말하는 것 같지만, 자유롭게 의견을 공유하는 Runway Delta팀 회의 시간.
개인의 자율성, 동시에 책임감을 중요시합니다
Runway Delta팀은 팀원 각자에게 많은 부분의 자율성을 부여하며 그만큼의 책임감도 요구해요. 스스로 의사 결정하기가 어려운 경우에는 빠르게 팀원들에게 도움을 요청하여 함께 문제를 해결하고, 리소스를 효율적으로 사용해요.
팀 성과가 곧 팀원의 성과!
개인의 성과도 중요하지만, 팀과 팀원의 성과를 함께 달성하여 팀 전체의 성과를 극대화하는 것을 추구해요. 프로젝트 진행 중 어려운 점이 있다면 팀원들에게 도움을 요청하고, 서로 도와 빠르게 문제를 해결하는 방향을 지향해요. 또한 재사용할 수 있는 문서 템플릿 생성 등을 통해 다른 프로젝트 수행 시에 활용하거나, 다른 팀원들도 활용할 수 있도록 하는 것도 팀 전체의 생산성과 효율성을 높이기 위해 추구하는 방향 중의 하나랍니다.
의견은 자유롭게 제안하고 수평적으로 논의해요
매주 위클리를 진행해 각자 담당 프로젝트의 이슈나 현황을 공유하고, 문제가 있으면 함께 논의해요. 같이 하고 싶은 것을 제안하기도 해요.
모든 정보는 다 함께 공유해요
정보 공유는 슬랙 채널이나 이메일을 통해 진행함으로써 팀원 간 정보가 소외되는 일이 없도록 하고 있어요. 개인 간 DM보다는 공개 채널을 활용하는 건 마키나락스에서 지향하는 방향이기도 하고요. Fact 기반으로 심플하게 공유하자! 가 Delta팀에서 추구하는 방향입니다.
Runway Delta팀의 장점을 꼽자면요? 너무 많겠지만 3가지만 알려주세요.
Delta팀은 팀원 각자의 다양성과 장단점이 잘 조화를 이루어 시너지를 내는 팀이라고 생각해요. 각자의 성격, MBTI, 나이, 경력, 백그라운드 모두 다른 사람들이 만나 언제나 화기애애한 분위기를 만들어 내거든요. 얼마 전에는 꽃을 좋아하는 팀원이 있어서 티타임을 하고 함께 꽃을 사러 간 적도 있고요. 참고로 저희 팀은 현재 남자가 6명, 여자가 1명이에요 (웃음). 팀원의 핸드폰이 고장 나서 직접 서비스센터 예약을 해서 함께 간 적도 있어요. 때론 멘토로, 때론 삼촌으로, 때론 친구로, Delta팀의 매력이라고 생각해요. 장점이 정말 많은데 요청해 주신 대로 3가지만 뽑아봤어요.
- AI기술을 통해 제조 및 산업 현장의 문제를 해결하는데 직/간접적으로 관여해 프로젝트를 경험해 볼 수 있어요.
- AI기술의 지속적인 성장을 위한 필수조건이 되어가고 있는 MLOps 플랫폼 구축에 대한 일련의 경험들을 해볼 수 있어요.
- 자율성과 책임감을 기반으로 문제를 해결하기 위해 주도적, 적극적으로 일하는 능력 있는 구성원들이 많아요. 따뜻한 성품도 함께 겸비한 멋진 팀원들과 함께하면 (때론) 일하는 것이 즐겁답니다.
반대로 Runway Delta팀에서 일하면서 어려운 점은 어떤 게 있을까요? 이건 1개만 알려주세요.
고객과 많이 만나고 소통하는 팀의 특성상 출장이 꽤 있는 편이에요. 고객사가 다양한 지역에 있다 보니, 생각보다 거리가 멀 수도 있고, 새로운 장소에서 새로운 고객들을 만나야 하는 것이 어려운 점이 될 수 있어요. 그런데 저희 팀은 이걸 스트레스도 받아들이기 보다는 긍정적으로 바꾸어 기쁜 마음으로 업무하고 있는데요. 바로 ‘맛집 탐방’입니다. 힘들고 어렵다는 생각보다는 그 지역의 맛집을 꼭 다녀오자! 는 생각을 하면 여행 갈 때처럼 마음이 들썩인답니다. Delta팀 맛집 채널이 있어서 지역별 맛집과 생생한 사진과 리얼 후기를 공유하고 있어요. 다음주에는 마키나락스의 고객사인 경북하이브리드부품연구원이 있는 경상북도 영천으로 출장을 가는데 오일장 분식집이 유명하다고 해서 한껏 기대 중이랍니다. (하하) 아, 뭉티기도 정말 기대하고 있어요!
오늘도 최전선에서 Runway의 가치를 전파하고 있는 Runway Delta팀의 향후 계획과 목표가 궁금합니다.
고객사가 많아질수록 Delta팀에서 직접 핸들링하는 것이 어려워질 수 있습니다. 한정된 인원으로 운영되다 보니까요. 이럴 때 우리의 역할을 해줄 수 있는 써드파티 등의 협력체를 구축하고, 동일한 품질의 결과를 만들어내기 위해서는 재사용할 수 있는 템플릿을 구축하는 일이 필요해요. 또한 설치 검증을 자동화하는 작업도 중요한 목표 중에 하나인데요. 최근 Runway 설치검증 자동화를 통해 기존에 24시간이 소요되던 과정을 0.5시간으로 줄여 팀 업무 효율에 큰 향상이 있었는데요. 이와 같은 업무 효율화는 항상 현재 진행형이랍니다.
고객들이 각자의 환경에서 Runway의 기능들을 더욱 잘 활용하고, 이를 통해 최고의 시너지를 만들어낼 수 있도록 도와주는 것이 Delta팀의 역할인데요. 특히 마지막 단계에서 Runway 교육담당자는 사용자의 눈높이에서 제품을 더욱 잘 이해하고 활용할 수 있는 콘텐츠를 제작하고, 적합한 교육을 통해서 사용자 경험을 향상하는 역할을 해요.
Delta팀에서 하는 일련의 과정, 즉 고객과 소통하여 요구사항을 파악하여 솔루션을 고안하고, 이를 바탕으로 만들어진 제품을 잘 설치하고, 제품을 잘 사용할 수 있도록 교육하는 것까지, Delta팀의 PM, SE, 교육담당자가 최고의 시너지를 발휘해 사용자 경험을 극대화하는 것이 우리 팀이 하는 일이자 목표입니다.
Runway Delta팀은 계속해서 규모가 커지고 있는데요, 팀 합류에 관심 있는 분들께 마지막으로 한마디 부탁드립니다.
![아쉽게 메인 사진으로 선정되지 못한 B컷. Runway Delta팀의 평소 분위기를 느낄 수 있어요.](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/06/Delta-B컷-1024x330.jpg)
아쉽게 메인 사진으로 선정되지 못한 B컷. Runway Delta팀의 평소 분위기를 느낄 수 있어요.
진짜 고객의 찐 목소리를 들어볼 수 있는 경험을 원한다면, Runway Delta팀으로 오세요! AI를 통해 문제를 풀고 싶은 고객의 목소리를 직접 듣고, 함께 고민하며 문제를 해결하는 경험은 정말 소중한 경험이에요. 또 마키나락스에는 다양한 소모임이 있는데요. 함께 캠핑이나 축구를 하실 분 환영합니다! 독서나 영화도 좋고요. 다 맞춰드립니다 (하하하). 훌륭한 인성과 뛰어난 능력이 있는 구성원과 함께하기에 기대하셔도 좋아요!
“어디선가 누군가에 무슨 일이 생기면 틀림없이 나타난다 델타 델타~” 추억의 애니메이션 짱가의 주제곡이 저절로 떠오르는 Runway Delta팀의 인터뷰, 잘 보셨나요? 인터뷰를 진행하면서 Runway Delta팀의 Runway를 향한 애정을 곁들인 열정과 무한한 긍정 마인드셋을 느낄 수 있었습니다. 특히 실제 산업 현장에 AI를 적용하는 고객사와 그런 고객을 위한 AI 플랫폼을 제공하는 마키나락스의 연결고리 역할을 하는 직업인으로서의 진중한 태도가 인상 깊었습니다. AI 역량 내재화를 시작하는 기업이 많아질수록 Runway Delta팀의 역할과 크기도 계속해서 확대되고 있는데요. Runway Delta팀과 함께 AI가 만들어낼 혁신을 경험하고 싶다면 🔗 마키나락스 채용공고를 확인해 주세요. 마키나락스는 여러분의 지원을 항상 환영합니다.
대규모 언어 모델(LLM, Large Language Models)은 이상탐지, 예지보전, 최적화, 예측분석 등 산업 현장의 특정 과제를 수행하는 AI는 아닙니다. LLM은 인간과 기계 간 소통 장벽을 줄이는 Gateway 역할을 하며, 현장 작업자가 공정 및 장비와 ‘대화’할 수 있는 환경을 제공합니다. LLM을 통해 산업 현장 상황을 실시간으로 파악하고 필요시 명령을 통해 제어나 최적화도 수행할 것으로 기대하고 있는데요. LLM이 산업 문제를 직접 풀지는 않지만 이 모든 작업을 자연어로 가능하게 한다는 점에 큰 의의가 있습니다.
🔗AI 시대, 제조 특화 LLM이 중요한 이유 포스팅에서 제조 현장에서 LLM이 하게 될 역할과 도메인 특화 LLM의 중요성을 알아봤습니다. 이번 포스팅에서는 도메인 특화 LLM의 정의와 성능을 높이기 위해 주목받고 있는 기술 트렌드를 정리했습니다. 또 실제 산업 현장에서 LLM이 가치를 만들기 위해 왜 산업 현장 데이터 경험이 중요한지 살펴보겠습니다.
제조 현장에서 바로 ChatGPT를 사용하지 못하는 이유
![ChatGPT4o에 제조 현장의 문제를 질문했을 때](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/06/LLM-TREND2-1024x576.jpg)
ChatGPT4o에 제조 현장의 문제를 질문했을 때
우리가 쉽게 사용해 볼 수 있는 ChatGPT와 같은 범용 LLM의 학습 데이터는 세상의 모든 지식과 정보를 담고 있지만, 보안이 엄격하게 준수되어야 하는 기업 내부 데이터는 배우지 못했습니다. 산업 현장의 특수한 데이터를 학습하지 못한 LLM 모델은 도메인 특수성 또한 반영하지 못합니다. 세상만사에 통달한 것 같아 보이는 ChatGPT에게 아무리 현장 문제점의 해결법을 물어봐도 일반적인 해결 방법을 얘기하다 결국에는 ‘기술지원팀에 문의하라’는 답변만 돌아올 뿐입니다.
산업 현장에서 발생하는 데이터는 숙련된 현장 엔지니어가 봐도 바로 해석할 수 없는 형태가 대부분입니다. 제조 현장 예를 들면 온도, 압력, 진동, 생산 속도, 고장 기록 등 다양한 형태의 데이터가 수집됩니다. 현재 LLM 기술 수준에서 LLM 모델은 텍스트로 1차 가공된 데이터만 학습할 수 있습니다. 그렇기 때문에 산업 현장에서 수집한 raw 데이터를 모아둔 DB를 Corpus(대규모 텍스트 데이터베이스)로 변환하는 작업이 필요합니다. 약관 등 많은 데이터가 텍스트화되어 있는 금융 산업과 비교해 제조 현장의 LLM 도입 속도가 더딘 이유가 여기에 있습니다.
그래서 등장한 도메인 특화 LLM
데이터는 기업의 자산입니다. 기업은 데이터 반출에 민감한 경우가 많을 수밖에 없죠. OpenAI가 제공하는 LLM 모델의 성능이 보장되었다고 해도 보안이 중요한 우리 기업의 데이터를 제공하기는 어렵습니다. 민감한 데이터와 프라이버시를 보호하기 위해 조직 내부에서만 사용되는 ‘프라이빗 LLM(Private LLM)’, 특정 도메인이나 용도에 맞게 조정된 ‘커스텀 LLM(Custom LLM)’으로 대표되는 ‘도메인 특화 LLM(Domain-Specific LLM)’가 등장한 이유입니다.
도메인 특화 LLM은 제조, 유통, 의료, 법률, 금융 등 특정 도메인에 깊이 있는 전문 지식을 이해하고 있는 AI입니다. 보통 사전학습된 오픈소스 LLM 모델에 도메인 특화 데이터를 Fine-tuning을 해서 높은 전문성과 정확성을 제공합니다.
어렵게 정제한 데이터로 Fine-Tuning을 진행한 LLM 모델은 원하는 답변을 잘 할 수 있을까요? 사전학습 데이터보다 상대적으로 적은 수의 데이터는 오히려 LLM 전반의 추론능력을 하락 시킬수도 있으며 여전히 할루시네이션(Hallucination)이 빈번히 발생합니다. 도메인 특화 LLM을 제대로 활용하기 위해서는 우리 기업 데이터에 맞게 성능을 끌어올리는 추가 작업이 필요한 이유입니다. 추가 작업 시 주목받으며 활발한 연구가 진행되고 있는 기술이 RAG와 Prompt Chain인데요. 두 기술이 어떤 방식으로 작동하는지 살펴보겠습니다.
도메인 특화 LLM 기술 트렌드1: RAG
가장 대표적인 방법은 RAG(Retrieval-Augmented Generation)입니다. RAG는 정보 검색과 언어 생성 모델을 결합한 방법입니다. 기존 LLM 모델보다 더 정확하고 관련성 높은 응답 생성을 목표로 해요. RAG는 세 단계로 작동합니다. “가장 최근에 고장이 발생한 기계는 뭐야?”라는 질문을 했다고 가정해 볼게요.
- 문서 검색(Retrieval): 검색 모듈이 제조업 도메인에 특화된 데이터베이스에서 관련 문서를 검색합니다. 데이터베이스에는 기계 매뉴얼, 유지보수 기록, 품질 관리 보고서, 생산 데이터 등이 포함될 수 있겠죠. 예를 들어서 다음과 같이 3개의 정보가 검색이 되었습니다.
705-5R 의 로봇팔 고장 시점 : 2024-06-05
502-1R 의 로봇팔 고장 시점 : 2024-06-03
705-4L 의 로봇팔 고장 시점 : 2024-06-04
- 쿼리 증강(Augmented): 사용자가 입력한 질문에 앞서 검색한 정보를 추가로 줍니다
705-5R 의 로봇팔 고장 시점 : 2024-06-05
502-1R 의 로봇팔 고장 시점 : 2024-06-03
705-4L 의 로봇팔 고장 시점 : 2024-06-04
위 정보를 참조해서 아래 질문에 대답해줘: 가장 최근에 고장이 발생한 기계는 뭐야?
- 텍스트 생성(Generation): "최근에 고장이 발생한 기계는 705-5R 로봇팔로 2024년 06월 05일에 발생했습니다.” 검색된 문서를 기반으로 대형 언어 모델이 최종 답변을 생성합니다.
RAG는 질문에 정확한 답을 할 수 있는 도메인 특화 데이터를 미리 가지고 있다고 볼 수 있습니다. 사용자에게 질문을 받았을 때, 연관성이 높은 대규모 데이터베이스나 문서 집합을 잘 훈련된 LLM에 제공해서 자연스럽고 일관된 텍스트를 생성하는 거죠.
또 RAG는 Fine tuning과 비교해 더 적은 계산 리소스와 시간을 들여서 빠르게 feasibility(실현 가능성)를 검증할 수 있습니다. LLM 모델이 목표 성능에 도달하기까지 소요된 시간을 사전에 예측하기 비교적 쉽기 때문입니다. RAG는 실제 관련 문서를 기반으로 응답을 생성함으로써 정확성과 관련성이 크게 높아집니다. 검색 모듈이 먼저 관련 문서를 좁혀주기 때문에, 생성 모듈은 더욱 작은 범위의 정보를 바탕으로 응답을 생성하여 계산 자원을 효율적으로 사용합니다. 관련된 문서를 함께 제공할 수 있기 때문에 신뢰도도 올라갈 수 있습니다.
도메인 특화 LLM 기술 트렌드2: Prompt Chain
Prompt Chain은 복잡한 질문이나 작업을 수행하기 위해 여러 단계의 프롬프트를 연결하는 방법입니다. 더 정확하고 풍부한 답변을 위해 관련된 질문을 연속적으로 하여 논리적인 사고를 하게 하는 방식입니다. 각 단계는 이전 단계의 출력을 입력으로 사용하며, 점진적으로 문제를 해결해 나갑니다. 이는 복잡한 논리적 추론이나 여러 단계의 정보 처리가 필요한 경우에 유용합니다. 제조 현장 예를 들어, “어떤 로봇을 가장 먼저 점검해야 할까? 그 로봇의 조치기록과 담당자를 알려줘” 질문을 해결하기 위해서는 아래 단계를 거쳐 답변을 도출합니다.
- 첫 번째 프롬프트: ”가장 많은 경고 알람을 울린 로봇을 알려줘”
- 두 번째 프롬프트: ”그 알람에 대한 부품과 그에 따른 조치 기록을 알려줘”
- 세 번째 프롬프트: ”해당 로봇 생산 라인의 담당자를 알려줘”
다양한 유형의 데이터와 정보가 존재하는 제조 환경에서 Prompt Chain을 사용하면 정보를 단계별로 처리하고 통합할 수 있습니다. 복잡한 작업을 더 작은 하위 작업으로 분해하고, 각 작업을 단계별로 처리하는 접근이 가능해지는 거죠. 긴 시간에 걸친 문제 해결 과정이나 연속적인 작업이 많은 제조 현장에서 Prompt Chain은 컨텍스트 유지와 추적이 가능하게 합니다. 설비 유지보수, 품질 관리, 생산 공정 최적화, 프로젝트 관리, 데이터 분석 등 복잡하고 단계별로 진행되며, 지속적인 모니터링과 조정이 필요한 작업에 적용될 수 있습니다.
이 밖에도 Chain-Of-Thought(COT), Few shot learning, 관련 파이프라인 검색, Meta Filtering, 등 더 정확하고 풍부한 답변을 하도록 하는 기술이 있습니다. 마키나락스에서는 이런 기술들을 모두 LLM 서비스의 두뇌를 담당하는 agent에 탑재하고 질문에 맞는 작업들을 수행하게 해 보다 전문적이고 관련된 풍부한 답변을 도출합니다.
Industrial LLM for the Real World
지금까지 도메인 특화 LLM의 성능을 높여주는 최신 기술 트렌드를 알아봤습니다. 산업 특화 LLM의 핵심은 산업 현장의 실질적인 문제를 해결하는 역량입니다. LLM 모델 개발도 데이터가 중요한데요. 어떤 데이터를 기반으로 도메인 특화 LLM을 학습시킬지 결정하는 일은 LLM을 적용할 공정, 문제 등을 정의하는 과정과 동일합니다. 이미 자동화가 많이 이뤄진 산업 현장이라면 단순 질의 응답을 위해 도메인 특화 LLM 모델을 만들기에는 ROI(Return on Investment, 투자수익률)가 안 나온다고 판단할 수 있습니다.
그렇기에 산업 데이터 경험이 중요합니다. 산업의 복잡성과 고유한 요구사항, 다양한 장비와 설비에서 수집하는 데이터에 대한 이해가 높을수록 다양한 각도에서 LLM을 발전시킬 수 있습니다. 오늘 자세히 살펴본 RAG와 Prompt Chain 외에도 텍스트를 작은 단위로 분할하는 ‘토크나이징(Tokenizing)’, 모델 평가 방법을 만들기 위한 ‘다운스트림(Downstream)’ 등 작업 설계 시 산업 현장 데이터 경험이 바탕이 되기 때문입니다. 데이터를 직접 들여다봐야 토크나이징을 잘할 수 있고 산업 데이터를 바탕으로 문제정의를 해본 경험이 있어야 다운스트림 태스크를 설계하기 수월합니다.
마키나락스는 데이터를 유의미하게 만들어 산업 현장을 지능화하는 일을 하고 있습니다. 산업 현장의 정확한 상황을 판단하기 위해서는 AI 결과뿐만 아니라 다양한 데이터들을 참조해 종합적인 판단을 내려야 하는데요. 그간의 경험을 바탕으로 범용 LLM이 활동하는 온라인 세계(Virtual world)를 넘어 산업 특화 LLM을 통해 로봇, 공정, 설비, 장비 등 물리적 세계(Real world)에서도 혁신을 만들어 나갈 계획입니다. 마키나락스와 함께 Real world에서 Industrial LLM가 만들 혁신을 경험해 보고 싶다면 언제든 아래 배너를 통해 연락해 주세요. 마키나락스가 여러 산업 현장에서 얻은 실질적인 AI 성공 경험을 바탕으로 함께 고민하고 방법을 제안해 드리겠습니다.
회사에 병가를 신청할 때 진료확인서와 진단서 중 어떤 서류를 제출해야 하는지 알고 있나요? ChatGPT에 물어본다고 해도 명확한 답을 알 수는 없습니다. 회사마다 규정이 다르고 ChatGPT는 우리 회사 규정을 학습하지 않았기 때문입니다. 담당자나 병가 신청 경험이 있는 동료에게 물어보면 가장 빨리 알 수 있을 텐데요. 하지만 지금이 오전 6시이고 병원 창구 앞이라면 누구한테 물어봐야 할까요? 이런 상황을 직접 겪은 마키나락스 AI 엔지니어 장종하님은 회사에 복귀해 곧바로 ‘드민이’를 개발했습니다. 이른 아침, 야근, 주말 등 담당자가 일하고 있지 않은 상황에도 24시간 답변해 줄 AI 챗봇이 탄생한 계기입니다. AI 회사에서는 대규모 언어 모델(LLM, Large Language Models)을 업무에 어떻게 활용하고 있을까요? 최신 AI 기술을 적용해 만든 챗봇 개발 과정과 구성원들의 사용 후기를 소개합니다.
똑똑하고 귀여운 우리 회사 맞춤 AI 드민이
![빠르고 다정하게 답변해주는 드민이](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/06/makinarocks-slack1-1024x576.jpg)
빠르고 다정하게 답변해주는 드민이
드민이는 회사의 행정업무를 뜻하는 ‘Administration’에 인격을 부여해서 지은 이름입니다. 미니언즈를 닮은 귀여운 외모에 항상 마키나락스 내부 데이터를 공부하고 있습니다. 귀엽죠? 드민이는 마키나락스 구성원들이 Slack(슬랙) ‘ask-admin’ 채널에 회사 생활 관련 문의를 하면, 바로 스레드로 답변을 달아줍니다. 담당자나 해결 방법을 알려줘요. 또 슬랙에 @드민이를 검색한 후 DM을 보내도 빠르게 답변을 해주고요. 업무 관련 내용뿐만 아니라 같이 잡담도 나눌 수 있습니다. “배고프다”고 말을 걸면 간식을 챙겨먹으라고 다정하게 답해주고 간식을 신청하는 슬랙 ‘snack’ 채널에 지금 먹고 싶은 간식을 신청하라고 안내해 줍니다. 회사 관련 퀴즈도 만들어 주고요. 똑똑하죠?
드민이는 어떤 방법으로 개발된 LLM인가요?
드민이는 ▲잘 만들어진 LLM ▲우리 회사 데이터에 특화된 답변을 할 수 있게 정보를 주는 RAG(Retrieval-Augmented Generation) ▲사용 편의성을 위한 Slack-Bolt. 세 가지를 결합해서 만들었습니다. 종하님이 그린 전체적인 스키마는 아래와 같습니다.
![드민이 스키마 구조](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/06/dmin3-1024x576.jpg)
드민이 스키마 구조
드민이는 마키나락스 근무 규칙, 취업 규칙, 퇴직연금DC규약, 노사협의회 정책, 슬랙 채널 ‘ask-admin’ 내용, 전문연구요원 관련 문서 등 다양한 운영 관련 데이트를 참고해서 답변합니다. 이때 슬랙 채널 데이터를 제외하면 모두 PDF 방식의 데이터이고 PDF 데이터도 모두 텍스트로 변환했습니다. 또한, 잘못된 정보를 제공하는 할루시네이션(Hallucination)은 줄이고 명확한 문장을 전달하기 위해 Prompt Engineering을 통해 모르는 내용은 모른다고 하고 최대한 담당자를 추론할 수 있게 유도했습니다.
![드민이 작동 방식](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/06/dmin2-1-1024x576.jpg)
드민이 작동 방식
‘회사 전화번호가 뭔가요?’ 라는 질문을 받았을 때, 이 문장을 모델이 잘 이해할 수 있도록 숫자로 임베딩(embedding)하는 과정을 수행합니다. 이후 리트리브(Retrieve)를 수행해 이 문장과 관련된 문장 여러 개를 추출하는 과정을 거치게 됩니다. RAG를 간단히 설명하면 질문에 답을 할 수 있는 데이터를 미리 가지고 있고 그 데이터를 잘 훈련된 LLM이 이해하기 쉽게 답변을 생성해 주는 방식입니다. 드민이를 만든 기술에 대한 자세한 내용은 🔗도메인 특화 LLM 성능을 높이는 AI 기술 트렌드 포스팅을 참고해 주세요.
사내 챗봇을 Slack에 연동하는 방법
드민이의 초기 기획 단계에서는 ChatGPT처럼 별도의 웹페이지에서 답변하는 방향을 생각했습니다. 하지만 드민이 오픈 전 관련 구성원들에게 테스트를 진행했는데, 생각보다 사용률이 높지 않았다고 해요. 그래서 종하님은 ‘ask-admin 데이터를 주로 참고했으니 회사에서 가장 많이 사용하는 슬랙과 연동하면 접근성이 좋아지지 않을까?’라는 생각을 하고 실행에 옮겼습니다.
지금부터 Slack-Bolt를 사용해 슬랙과 드민이를 연동한 방법을 단계별로 설명해 드릴게요.
- Slack 앱 생성: 먼저 Slack 앱을 생성하고 해당 앱의 설정에서 기본적인 구성을 완료해야 합니다. Slack 앱의 설정에서는 OAuth 토큰, 슬랙 봇 토큰 등을 얻을 수 있습니다.
- Bolt 설치: 선택한 언어(Node.js, Python, Java)에 따라 Bolt를 설치합니다. 이를 위해 해당 언어의 패키지 관리자를 사용하여 Slack-Bolt 패키지를 설치합니다.
- 앱 설정 및 이벤트 구독: Slack 앱의 설정에서 이벤트 구독을 활성화하고, 앱이 반응할 이벤트 유형을 선택합니다. 예를 들어, 메시지가 채널에 게시되거나 멘션 되었을 때 앱이 반응하도록 설정할 수 있습니다.
- 액션 설정: Slack 앱이 수행할 작업 또는 응답을 정의합니다. 이를 위해 Bolt의 API를 사용하여 각 이벤트에 대한 콜백 함수를 작성합니다. 예를 들어, 사용자가 특정 메시지를 보낼 때 앱이 특정 작업을 수행하도록 콜백 함수를 작성할 수 있습니다.
아래 예제 코드와 같이 수행한다면 스레드 달기, 답변, 이모지 달기 등의 작업을 할 수 있습니다.
from slack_bolt import App
app = App()
### 스레드 달기
@app.message("특정 메시지")
def thread_message(message, say):
say(text="스레드에 달릴 메시지입니다.", thread_ts=message["ts"])
### 답변하기
@app.message("특정 메시지")
def reply_message(message, say):
say(text="특정 메시지에 대한 답변입니다.", thread_ts=message["ts"])
### 이모지 달기
@app.message("특정 메시지")
def add_reaction(body, client, ack):
ack()
client.reactions_add(
channel=body["channel"],
name="이모지 이름", # 이모지의 이름을 지정합니다.
timestamp=body["ts"] # 메시지의 timestamp를 지정하여 해당 메시지에 이모지를 답니다.
)
if __name__ == "__main__":
app.start()
드민이랑 일해보니 어떤가요?
![계속해서 소환되는 현주님](http://makinarocks.shoplic.cloud/wp-content/uploads/2024/06/makinarocks-slack2-1024x576.jpg)
계속해서 소환되는 현주님
드민이는 실제 마키나락스 구성원들의 효율성을 높여주고 있습니다. 회사의 살림을 책임지고 있는 ask-admin 채널에는 정말 다양한 질문들이 생기고 있는데요. 자연스럽게 반복적인 질문들이 생기는데, 이때 드민이의 존재가 빛을 발하고 있습니다. 또 여러 가지 업무를 진행하고 있는 담당자들이 실시간으로 슬랙 채널을 확인하는 일은 쉽지 않은데요. 이때도 드민이가 가장 먼저 답을 해주고, 담당자를 알려주기 때문에 하루 종일 채널을 모니터링해야 하는 수고로움을 덜었습니다. 덕분에 다른 업무에 더 집중할 수 있다고 해요.
“드민이는 그동안 채널 안에서 나눴던 모든 질문과 답변을 학습해서 빠르게 답변을 해주고 있는데요. 바쁜 admin실의 귀여운 인턴 역할을 톡톡히 하고 있어요. 앞으로 더욱 똑똑해진 드민이를 기대합니다. 드민이 파이팅!” 드민이에게 담당자로 가장 많이 소환되는 용현주님은 드민이에게 칭찬을 아끼지 않았습니다. 다른 구성원들도 드민이 덕분에 슬랙이 더 활발해지고, 사내 분위기도 더 좋아졌다고 입을 모아 말했답니다. 드민이를 만든 종하님은 드민이가 ‘똑똑하다’는 말을 들을 때 가장 보람을 느낀다고 해요. 이런 게 아버지의 마음일까요? 마키나락스 구성원 여러분 앞으로 드민이에게 똑똑하다고 칭찬 많이 해 주세요!
LLM TF팀과 드민이의 상관관계
드민이는 마키나락스 구성원들의 효율적인 회사 생활을 지원해 주고 있는 동시에 산업 특화 LLM 개발을 위해 중요한 역할을 하고 있습니다. 다양한 시도와 연구를 진행 중인 마키나락스 LLM TF팀의 테스트 베드로 활약하고 있는 것인데요. 최근에는 CSV 파일을 기반으로 차트 그려주는 기능 테스트를 수행하고 있고, Runway 위에서 동작하고 있는 덕분에 Vector DB 와 챗봇을 쉽게 연결하는 기획도 이루어지고 있습니다. 또 마키나락스가 진행한 RAG 기반의 로봇 예지정비 특화 LLM 에이전트 아키텍처를 구현하는 작업에도 드민이 개발 경험이 녹아있습니다. 이 외에도 LLM을 실제 산업 현장에 적용할 수 있는 무궁무진한 테스크를 검증하는 데 핵심적인 역할을 해줄 것으로 기대하고 있어요.
마키나락스는 제조, 유통, 배터리, 반도체, 국방, 물류 등 다양한 산업 현장을 AI로 지능화하고 있습니다. AI를 실제 물리적인 환경과 연결하고 있는데요. 산업 현장 데이터에 대한 깊은 이해를 바탕으로 기업 고유의 시스템과 LLM 을 결합해 탁월한 성능으로 도메인에 특화된 LLM 서비스를 제공합니다. 우리 회사에 적합한 AI와 관련한 논의가 필요하시면 아래 배너를 통해 언제든 편하게 문의해 주세요. 마키나락스가 함께 고민하겠습니다.