안녕하세요. 마키나락스 소프트웨어 엔지니어 김인호입니다. 저는 AI 플랫폼 Runway 개발팀의 백엔드 파트에서 MLOps(Machine Learning Operations)를 위한 좋은 소프트웨어를 만드는 데 힘쓰고 있습니다. 또 MLOps Community Seoul 오프라인 밋업의 신입 organizer이기도 한데요. 지난 6월에 열린 4번째 오프라인 행사를 준비하면서 느낀 생각과 경험을 회고했습니다.

개발자 중심의 MLOps Community Seoul

MLOps Community Seoul 오프라인 밋업 현장

MLOps Community는 전 세계 12개 국가에서 MLOps 분야를 중심으로 활동하는 4만명의 AI개발자와 AI 소프트웨어 개발자를 연결해 주는 글로벌 커뮤니티입니다. 이 커뮤니티는 최신 기술과 노하우를 공유하고, 서로의 경험을 나누며 성장할 수 있는 플랫폼을 제공합니다. 그중 MLOps Community Seoul은 한국 지부이며, 주로 오프라인 밋업을 통해 전문성을 갖춘 연사들을 초청해 강연을 진행하고 네트워킹 행사를 마련하고 있습니다.

행사를 개최하려면 장소 섭외, 참가자 모집, 연사 초청, 다과 등의 준비를 위해 시간, 인력, 비용 등 많은 리소스가 필요해 지난해까지는 마키나락스의 기업 차원에서 TF로 인원이 투입되어 행사를 운영해왔어요. 작년까지 총 3회의 오프라인 행사를 진행했으며, 매회 약 100명 정도의 개발자분들이 참여해 주셨습니다. 올해부터는 제가 마키나락스 소프트웨어 엔지니어 신훈철 님과 organizer 역할을 맡아 4번째 오프라인 행사를 진행했는데요. 개발자 중심으로 보다 기술적이고 실용적인 내용을 다루자는 취지를 반영해 이번 행사를 준비했습니다. 자세한 현장 분위기는 🔗AI에 진심인 사람들이 모인 MLOps Community 오프라인 밋업 현장 포스팅에서 확인할 수 있어요.

지금 가장 중요한 키워드는 LLM!

"LLM.. 하긴 해야 되는데.." 하고 있는 당신을 위한 MLOps를 주제로 진행된 밋업

이번 오프라인 밋업의 주제는 <"LLM.. 하긴 해야 되는데.." 하고 있는 당신을 위한 MLOps>로 잡았는데요. 마키나락스에서도 최근 LLM TF를 구성하는 등 LLM에 많은 관심을 보이고 있습니다. 저도 짧게 LLM TF에 참여하면서 개인뿐만 아니라 기업들도 실제 비즈니스 관점에서 LLM을 진지하게 바라보고 있다는 인식을 강하게 받게 되었습니다. 이번 행사를 통해 다른 개발자들과 전문가들의 관점도 함께 공유할 수 있는 자리가 되면 좋겠다고 생각해서 지금 가장 중요한 키워드인 LLM을 주제로 행사를 준비했습니다.

LLM을 제대로 활용하는 가장 핵심적인 방법은 질문을 잘하는 것입니다. 그런데, 질문을 잘 하기 위해서는 다양한 기술과 지식들이 필요합니다. 요즘 LLM에 대한 관심이 워낙 크다 보니 관련 오픈소스들도 많이 나오고, 일반 사람들도 마음만 먹으면 간단한 RAG 정도는 구성할 수 있지만, 실제로 서비스 가능한 수준까지 구축해 보려면 생각보다 고려해야 할 점도 많고 알아야 할 것도 많습니다. 이럴 때 MLOps처럼 out-of-the-box로 다양한 구성 요소들을 체계화해 주는 도구들이 효율성을 증대시키는 데 큰 도움이 될 수 있다고 생각합니다. 전통적인 MLOps는 모델 개발, 배포, 운영 전반에 걸쳐 일관된 워크플로우와 관리 체계를 제공해 줍니다. 이에 더해 RAG처럼 model에 제공할 input 데이터의 전처리 부분을 강화하는 등 LLM에 특화된 구성 요소들을 추가해 나간다면, LLM의 성능과 활용도를 극대화할 수 있습니다.

MLOps Community organizer가 된 이유

MLOps Community organizer 김인호(왼쪽), 신훈철(오른쪽)

지금까지 다른 훌륭한 개발자들의 블로그, 책, 강의를 통해 새로운 지식을 습득하는 데 많은 시간을 할애해 왔습니다. 그런데, 문득 연차가 조금씩 차다 보니 제가 거꾸로 다른 사람들에게 가르침을 주거나 배움의 기회를 제공한 적이 있었나 하는 아쉬움이 들었습니다. 사회로부터 받아온 만큼 사회에 조금이나마 기여할 수 있다면 큰 의미가 있을 것 같다는 생각이 들었습니다.

개인적으로 다른 커뮤니티 행사나 컨퍼런스에 다수 참여해 보았지만, 대부분 회사 홍보물로 가득 찬 강연만 듣고 나오는 경우가 많았습니다. 이러한 행사는 온라인 강의를 듣는 것과 큰 차이를 느끼지 못했습니다. 다른 개발자들과 적극적으로 소통해 보고 싶었으나 주최 측에서 밍글링을 해주거나 자리를 마련해주는 경우가 별로 없어서 기회를 포착하기 어려웠습니다. 그래서 저는 ‘커뮤니티’라는 이름에 걸맞는 모임을 주최해 보고 싶다고 생각하게 되었습니다. 그런데 좀처럼 행동을 이어지기가 어렵더라고요.

마키나락스에서는 서로 다른 팀 멤버들과 티타임을 많이 하는데요. 마케팅팀과 티타임을 하면서 커뮤니티를 운영해 보는 일을 올해 시작해 보고 싶다고 사담처럼 나눴는데, 마침 MLOps 커뮤니티를 참여자 시각으로 운영할 방법을 고민하고 계시더라고요. 바로 organizer 역할을 제안해 주셨고, 저도 감사하게 꿈을 현실로 만들 기회를 얻게 되었습니다. MLOps 커뮤니티 주최를 해보는 경험을 통해 많은 개발자들에게 뜻깊은 시간을 제공할 수 있었습니다. 꿈을 이룬 기분입니다.

개발자에게 커뮤니티는 중요합니다

개발자에게 커뮤니티는 최신 기술을 빠르게 배우고 문제 해결 능력을 키우는 장입니다.

피드백은 개발자에게 있어 매우 중요한 요소입니다. 혼자만의 세계에 빠져 무언가를 열심히 하다 보면 자칫 잘못된 길로 빠지거나 비효율의 늪에 빠질 수 있습니다. 최고의 운동선수들에게 최고의 코치들이 있는 것처럼, 개발자에게도 피드백은 올바른 길로 빠르게 나아가기 위한 필수적인 지침입니다.

개발자들은 업무 특성상 사람보다는 컴퓨터와 대화를 더 많이 합니다. 동료와 인터랙티브하게 피드백을 교환하기보다는 정적인 콘텐츠를 소비하는 경우가 많습니다. 특히 AI, MLOps 등의 최신 기술은 정적인 콘텐츠의 양이 상대적으로 적고, 내용이 빠르게 변화하기 때문에 배움에 어려움이 있습니다. 최신 기술을 배우고 트렌드를 따라잡기 위해서는 업계 사람들을 직접 만나 대화하는 것이 최고의 방법입니다.

MLOps 커뮤니티에 참여하면 같은 분야에서 일하며 비슷한 처지에 있는 다양한 개발자들의 이야기를 직접 들어보고, 서로 배우고 상황을 공유하면서 서로의 ‘코치’가 될 수 있습니다. 이러한 네트워킹 기회는 최신 기술 트렌드를 빠르게 습득하고, 실질적인 문제 해결 능력을 키우는 데 큰 도움이 됩니다.

MLOps Community organizer의 기쁨과 슬픔

예상보다 많은 분들이 참여해 주신 네트워킹 시간

이번 행사를 준비하면서 처음으로 개발자 커뮤니티를 주최해보는 것이라 많은 걱정이 있었습니다. 신청자들의 참여율이 저조하지는 않을까, 미흡한 준비로 사람들의 불만이 폭발하지는 않을까 등등의 고민이 많았습니다. 특히 장소 섭외와 연사분들의 스케줄을 조정하는 데 우여곡절이 많았습니다. 모든 연사분들의 스케줄이 맞는 날에는 마땅한 장소가 없고, 날짜를 변경하면 일부 연사분들이 참여하지 못하게 되어 실제로 원래 행사 날짜보다 약 한 달 정도 늦춰졌습니다. 다양한 연사분들께 죄송하다는 메일을 수도 없이 보냈습니다.

자기 어필 코너, 뒤에 긴장한 모습이 역력하네요

다행히 이런 과정 끝에 계획한 대로 행사를 진행할 수 있었습니다. 고생한 만큼, 행사 당일 네트워킹 행사를 어떻게든 의미있게 만들어보겠다며 기존에는 없던 ‘자기 어필’ 미니 코너를 강행했습니다. 사실 함께 준비해주시던 분들께 자신있게 해보겠다며 나섰지만, 속으로는 누구보다 걱정을 많이하고 있었어요. 그런데 걱정과는 달리 개발자 분들이 적극적으로 참여해주시고 반응도 좋았습니다. 진짜 다행이라고 생각했어요. 행사 당일 참가자들이 해주신 따뜻한 말들도 너무 좋았고, 설문조사 결과에서도 대부분 좋았다는 말씀을 많이 해주셔서 몸둘 바를 모르겠더라고요. MakinaRocks의 마케팅팀 멤버들이 늦은 시간까지 적극적으로 도와주셔서 성공적인 행사가 될 수 있었다고 생각합니다.

이번 행사는 처음으로 organizer로서 진행한 행사였기에 미흡한 점이 많았지만, 이제 경험자로 거듭나서 조금 더 풍부한 행사를 만들어나갈 수 있을 것이라는 자신감이 생겼습니다. 앞으로는 점점 규모를 키워서 강연뿐만 아니라 다양한 프로젝트를 참가자들과 함께 진행할 수 있도록 노력할 예정입니다. 우선 당분간은 다시 본업에 집중하고, 다음 행사는 연말 즈음에 더욱 풍부한 콘텐츠와 함께 주최할 계획입니다. 커뮤니티 관련 소통은 🔗MLOps 커뮤니티 오픈 카톡방에서 진행하고 있어요. MLOps에 관심 있는 분들은 언제나 환영합니다!