월드컵 2차 예선 경기가 있던 2024년 6월 11일. MLOps Community Seoul의 네 번째 오프라인 밋업 행사가 열렸습니다. 이번 밋업의 주제는 <"LLM.. 하긴 해야 되는데.." 하고 있는 당신을 위한 MLOps>입니다. 국가대표 축구 경기도 뒤로할 정도로 AI에 진심인 100여 명이 모인 그날의 열기를 전합니다.

MLOps Community?

네 번째 MLOps Community Seoul 오프라인 밋업 현장.

MLOps Community는 전 세계 40개 도시에서 15,000명이 활동하고 있는 Global Community입니다. 뉴욕, 런던, 베를린, 파리는 물론 서울에서도 열리고 있는데요. MLOps Community Seoul 오프라인 밋업은 2023년부터 마키나락스가 주최하고 있습니다. ‘MLOps’라는 공통 관심사를 가진 사람들이 모인 MLOps Community Seoul 오프라인 밋업에는 다양한 교류가 활발하게 이뤄집니다. 먼저 머신러닝 엔지니어, 데이터 사이언티스트, CTO, AI 비즈니스 리더 등을 연사로 초청한 전문적인 강연이 진행됩니다. 이를 통해 최신 기술 트렌드를 파악할 수 있고, 실무 적용 사례를 통해 구체적인 인사이트를 얻을 수 있습니다. 강연 후에는 자유로운 네트워킹의 장이 마련되는데요. 업계 최고의 MLOps 전문가들과 교류하며 다양한 인사이트, 채용 정보, 비즈니스 기회를 공유합니다.

MLOps에 진심인 회사 그리고 사람들

모두를 위한 MLOps

MLOps에 관심이 있으신 분들은 ‘MLOps for all(모두를 위한 MLOps)’를 한 번쯤 보셨을 겁니다. MLOps와 관련해 가장 많이 인용되는 기술 문서이기도 한데요. 모두를 위한 MLOps를 집필한 메인 저자 대다수가 마키나락스 소속 개발자라는 사실 알고 계셨나요?

MLOps에 대한 정의는 다양하지만, 마키나락스는 생산성을 시스템적으로 향상시키기 위한 AI 개발, 배포, 운영을 위한 도구 또는 일련의 활동이라고 정의하고 있습니다. 또 효율적인 MLOps는 특정 인프라에 종속적이지 않아야 하고, 단일 플랫폼 하나로 운영해야 하며 외부 시스템과의 연동이 자유로워야 한다고 생각해요.

마키나락스는 국내에서 가장 빠르게 MLOps를 Stand Alone 제품으로 선보인 기업이기도 합니다. 우리가 생각하는 MLOps 철학은 마키나락스 엔터프라이즈 AI 플랫폼 ‘Runway’에 그대로 녹여져 있습니다. 마키나락스 11층 사무실에서 일하는 소프트웨어 엔지니어들이 Runway의 새로운 기능을 배포하면 12층의 Data Scientist, ML Engineer 등 AI를 개발하는 엔지니어들이 바로 사용자가 되어 제품 개발에 참여하기 때문에 가능한 일이었어요. 특히 현장은 잘 알지만 머신러닝과 친숙하지 않은 실무자부터 숙련된 AI 개발자까지 폭넓은 사용자가 쉽게 사용할 수 있다는 점이 Runway의 강점입니다. 너무 자랑만 했나요? 다시 MLOps Community Seoul 오프라인 밋업 현장으로 넘어가겠습니다.

"LLM.. 하긴 해야 되는데.." 하고 있는 당신을 위한 MLOps

'산업 분야 엔터프라이즈 MLOps 플랫폼 전문가가 바라본 LLM'를 발표해주신 심상우님

이번 MLOps Community Seoul 오프라인 밋업에서는 ‘LLM’을 핵심 키워드로 잡았습니다. 첫 강연은 ‘산업 분야 엔터프라이즈 MLOps 플랫폼 전문가가 바라본 LLM’ 주제로 마키나락스 심상우 CTO가 진행했습니다. 산업 현장에 LLM을 적용하기 위해 했던 시도들과 결과를 공유하고, 질의응답 시간을 통해 RAG, LLMOps 등에 대해서도 논의했습니다. 실제 사례를 통해 어떻게 LLM을 실무에 적용할 수 있는지 구체적으로 이해할 수 있는 시간이었어요.

‘GraphRAG와 LLMOps’를 발표해주신 정이태님

두 번째 강연을 맡아주신 정이태님은 ‘GraphRAG와 LLMOps’에 대해서 발표했습니다. 앞서 진행된 발표에서도 나왔던 키워드들이라 기술 트렌드를 엿볼 수 있었어요. GraphRAG는 그래프 기반의 Retrieval-Augmented Generation의 약자로, 데이터를 그래프 형태로 구조화하여 보다 더 정확하고 일관된 응답을 생성하는 것을 목표로 하는데요. 이태님이 GraphRAG 작업을 위해 고군분투했던 과정들을 현장감 있게 전달해 주셨습니다.

‘AI 프로필 서비스 1/3 가격으로 운영하기’를 발표해주신 류원탁님

마지막 강연은 류원탁님이 맡아주셨습니다. ‘AI 프로필 서비스 1/3 가격으로 운영하기’를 주제로 진행된 강연에서는 AI 기반 프로필 서비스를 더 저렴하게 운영할 수 있는 전략과 기술을 소개해 주셨습니다. 실제 사례를 통해 비용 절감 효과를 확인할 수 있었고, AI 모델의 성능을 유지하면서도 운영 비용을 크게 줄일 실질적인 방안을 얻을 수 있었습니다.

연극 아니 발표가 끝나고 난 뒤 모두가 객석에 남아

MLOps Community Seoul 오프라인 밋업 네트워킹 시간.

세 분의 발표가 끝난 후에는 자유롭게 MLOps 관련 고민이나 인사이트를 공유하는 네트워크 시간이 있었습니다. 마키나락스가 준비한 피자와 음료를 즐기면서 이야기를 나눴는데요. 자리를 옮겨 다니며 나누는 대화뿐만 아니라 마이크를 잡고 크게 알리고 싶은 내용들을 전하기도 했습니다. IT 전문 출판사 프리렉에서는 함께 책을 출판할 저자를 모집하셨고, MLOps 관련 논문을 함께 스터디하는 모임의 팀원을 모집하는 분도 계셨어요. 저도 마키나락스의 뉴스레터와 웨비나를 홍보했답니다. 지금 한번 더 홍보할게요. 🔗마키나락스 뉴스레터를 구독해 주세요! 매월 마키나락스가 산업 현장에서 얻은 인사이트를 쏙 넣어드립니다.

MLOps Community Seoul 오프라인 밋업 오거나이저 인호님과 훈철님

오후 10시. 아쉽게도 네트워킹 시간이 끝나 자리를 마무리해야 했는데요. 오프라인 행사 끝난 아쉬운 마음은 오픈카톡방에 올려주신 후기로 달래야 했습니다. 이번 포스팅에서는 MLOps Community Seoul 오프라인 행사 현장을 간략하게 돌아보았는데요. 이번 행사를 오거나이즈 해주신 마키나락스 김인호님과 신훈철님이 개발자 시선에서 본 MLOps Community Seoul에 대한 포스팅은 아래 링크에서 보실 수 있어요. 

🔗 MLOps Community 오프라인 밋업을 준비하는 개발자의 기쁨과 슬픔 

MLOps의 진심인 마키나락스가 만든 Enterprise MLOps Platform Runway를 활용해 보고 싶다거나 고민이 있으신 분들은 마키나락스와 상의해 주세요. 마키나락스가 여러 산업 현장에서 얻은 실질적인 AI 성공 사례와 경험을 바탕으로 함께 고민하고 방법을 제안해 드리겠습니다.