MAKE 이슈: AI 에이전트 도입 핵심 체크포인트
에이전트형 AI 도입을 준비하는 기업이라면 반드시 알아야 할 4가지 단계
AI는 강력합니다. 하지만 세심하게 계획하고 신중히 적용할 때 가장 큰 힘을 발휘하죠.
Make의 시장 전략 부사장인 Darin Patterson이 에이전트형 AI를 중심으로 비즈니스를 구축할 때 꼭 기억해야 할 네 가지 중요한 포인트를 이야기합니다.
얼마 전 저는 Hard Skill Exchange 에이전트형 AI 서밋에서 패널로 참여할 기회를 얻었습니다.
이번 세션에서는 성공하는 에이전트형 AI 전략을 어떻게 수립해야 하는지 다양한 전문가들과 깊이 이야기 나눴는데요.
AI 산업에서 중대한 시점에 맞춰 각 분야 리더들과의 대화였던 만큼, 매우 흥미롭고 인상 깊은 이야기들이 나왔습니다.
저를 포함한 패널 참가자들은 회사가 에이전트 자동화 방식을 절차적으로, 안전하고 합리적이며 효과적으로 도입하기 위해 필요한 현실적인 단계들을 꼼꼼히 함께 고민해봤습니다.
제가 얻었던 핵심적인 내용을 여기서 공유해볼게요.
AI 에이전트 도입 1단계
올바른 기반 구조를 계획하는 것이 가장 중요합니다.
지난 100년간 인간과 자동화 기술은 함께 발전해왔습니다.
덕분에 기업에서 사람의 업무 수행 능력을 어떻게 평가하는지 잘 정립돼 있어요.
하지만 최근 AI 중심 기업들이 빠르게 등장하고 기존 기업들도 경쟁력을 유지하려면 AI를 꼭 도입해야 하는 환경 속에서, 새로운 고민이 생겨났습니다.
바로 "에이전트형 시스템 시대에 업무 평가를 어떻게 해야 하지?"라는 문제죠.
AI가 적용된 업무 프로세스의 성능을 어떻게 점검하고 평가할 것인지에 대해 지금은 물론 앞으로도 명확한 기준과 체계가 필요하게 될 겁니다.
- 조직들은 모든 단계에서 AI 에이전트가 구체적으로 어떤 역할을 맡을지
- 정확히 어떤 데이터를 줘야 일을 잘할 수 있을지
- 또 지금 당장은 잘 작동하는 AI라 해도 나중에 성능이 떨어지거나 예상 밖의 문제가 생겼을 때 이를 어떻게 찾아내고 바로잡을 수 있을지
반드시 생각해야 합니다.
이 부분을 패널의 진행자였던 Amalgam Insights의 CEO이자 수석 분석가인 Hyoun Park는 다음과 같이 깔끔하게 정리해 주셨어요.
"데이터 접근, 그 위에 얹을 AI 모델, 우리가 원하는 대로 설정한 에이전트 인터페이스, 그리고 결과물을 관리하는 방식을 정하는 일까지, 이 모든 것이 결국 샌드위치처럼 함께 쌓이는 하나의 'AI 스택'을 이루게 됩니다."
일반적인 기술 기반 환경에서처럼, AI 스택의 각 구성 요소가 무엇인지 신중히 생각하고 잘 다룬다면 결국 여러분의 업무 효율성, 확장 가능성, 최종적인 프로젝트 성공에 큰 영향을 줄 것입니다.
AI 에이전트 도입 2단계
그 어느 때보다 중요해지지만 다루기는 더 쉬워지는 양질의 데이터
모든 안정적인 시스템이 그러하듯이, 에이전트형 AI 역시 입력 데이터의 품질이 매우 중요합니다.
데이터가 좋으면 시스템의 품질도 좋아지지만 나쁜 데이터를 넣으면 결과를 예측하기 어렵죠.
그동안 데이터 품질이 중요하다는 사실은 누구나 동의했지만, 현실적으로 꾸준히 관리하기는 어려웠습니다.
세일즈 직원들에게 CRM 시스템(예: Salesforce)에 꾸준히 데이터를 입력하라고 부탁하는 일이 얼마나 힘들었는지 아시죠?
데이터를 꾸준히 넣는 것 자체가 여러 회사에서 오랜 문제가 되어왔습니다.
그러다 보니 결국 부족한 데이터로 처리하려다 보니 만족스럽지 않은 결과가 나오는 일이 반복되었어요.
하지만 제 생각엔, 바로 이 부분이 AI가 가져다주는 가장 큰 기회 중 하나예요. 전통적인 방식에서는 모든 데이터를 정확히 같은 형식으로 완벽히 수집해야 했습니다.
하지만 AI는 영업 통화 내용을 듣고, 통화 메모를 작성하고, 중요한 포인트를 알아서 찾아내고, 이를 좀 더 자연스러운 형태로 활용하는 데 아주 뛰어난 능력을 발휘합니다.
따라서 앞으로는 데이터를 완벽한 형태로 수집하는 노력이 과거보다 줄어들고 쉽게 개선될 수 있습니다.
AI를 이용하면 상대적으로 섬세하고 풍부한 형태로 데이터를 수집하고 녹음해서 활용할 수 있으니까요.
AI 에이전트 도입 3단계
윤리적 이슈, 관리 문제, 접근 권한 설정에 대한 고찰
하지만 동시에, 여러분이 필요한 데이터를 얻기 위해 누가 어디까지 시스템에 접근할 수 있고, 얼마나 투명하게 운영해야 하는지에 대해서도 꼭 고민해봐야 합니다.
특히 제가 자주 생각하는 부분 중 하나는 "AI가 스스로를 AI라고 명확하게 밝혀야 하는가?"입니다.
예를 들어, 영업이나 마케팅 메시지를 보내는 AI라면 앞으로 점점 더 규제가 늘어날 가능성이 높습니다.
미국의 경우 FCC(연방통신위원회)에서도 지금 이 문제를 다루고 있죠.
앞으로 AI가 자신을 꼭 AI라고 알려야 할지, 고객이 AI와의 커뮤니케이션에 동의해야 하는지에 대한 명확한 기준은 현재로선 없지만, 모든 기업들이 반드시 지켜보고 대응해야 하는 문제입니다.
기업 내부에서도 비슷한 고민이 필요합니다.
몇 년 뒤에는 새로운 회사에 입사해서 Zoom 미팅에서 동료 몇 명과 이야기를 나눈 후, 그 중 한 명이 실제 사람이 아니라 AI였음을 나중에 알게 될지도 모릅니다.
지금은 상상이지만 이것도 곧 기업에서 명확히 해야 할 이슈죠.
어떤 업무를 맡기든, AI가 구체적으로 어떤 시스템이나 데이터에 접근해도 되는지 반드시 신중히 접근해야 합니다.
아무리 AI가 뛰어나다 해도, 예를 들어 여러분 회사의 전체 CRM 데이터를 전부 아무 제한 없이 접근하게 해버리면 신뢰도 떨어지고, 법적으로도 문제가 될 수 있고, 또 생각지도 못했던 심각한 문제를 만날 수도 있습니다.
따라서 AI 에이전트가 활용할 수 있는 시스템과 데이터를 명확하게 제한하고 관리하는 접근법이 꼭 필요합니다.
에이전트형 AI는 정말 많은 가능성을 가져다 줄 수 있는 도구입니다. 다만, 무조건 도입만 한다고 끝이 아니고 현실적인 네 가지 단계를 신중히 밟아야 합니다.
올바른 기반 구조를 마련하고, AI가 활용할 데이터를 꼼꼼히 관리하고, 윤리적 문제나 접근 권한 같은 이슈까지 잘 고려한다면, 여러분의 기업에서도 AI를 효율적이고 성공적으로 활용할 수 있게 될 겁니다.중요합니다.
AI 에이전트 도입 4단계
AI 모델, 업무 이해, 그리고 에이전트 인터페이스 구축
당연한 이야기지만, 이런 접근 방식을 세우는 데 가장 중요한 건 여러분 회사의 업무 프로세스를 제대로 이해하는 거예요.
자동화를 성공적으로 적용하려면 업무 방식이 어떻게 돌아가는지 정확히 알아야 해요.
인공지능(AI)을 도입하려 할 때는 특히 더 꼼꼼히 파악해야 하고요.
그런데 아무리 내가 우리 회사 업무를 속속들이 안다고 하더라도, 실제로 어디에 인공지능을 써야 가장 효과가 클지 정확히 알 수 없는 경우가 많아요.
결국 직접 실험을 통해 찾아내야 해요. 이런 실험을 잘 하려면 먼저 밑바탕을 잘 깔아야 하는데요.
다시 말해, 지금 쓸 수 있는 자원이 무엇이고 그걸 어떻게 잘 활용할지 생각하는 데 도움을 주는 ‘모델 틀’ 같은 게 필요해요.
첫 번째로 다져야 할 기초는 사실 그렇게 어려운 일은 아니지만 꾸준히 해나가야 하는 일이에요.
바로 다양한 인공지능 모델들이 가진 장점과 단점을 잘 아는 것이죠.
지금 시장에 있는 AI 중에는 뭐든 잘하는 완벽한 슈퍼모델은 없어요.
앞으로 한동안 나오기도 힘들고요. 결국 여러분이 꾸준히 최신 정보를 따라가며 배우는 게 중요할 수밖에 없어요.
두 번째로는, 여러분의 비즈니스 모델 자체가 작은 시도와 테스트, 그리고 반복적으로 발전할 수 있게끔 만들어져야 해요.
직원 한 명 한 명이 새로운 시도를 하고 자주 실패하면서 조금씩 더 좋은 가치를 만들어가는 방식을 익히는 거죠.
실제로 이런 방식이 요즘 빠르게 성장하는 '초경량 팀'들이 연 매출 1억 달러(약 1,300억원)에 도달할 수 있었던 비결 중 하나예요.
무엇보다도 중요한 건, 팀원들이 이런 작은 시도와 반복을 직접 쉽게 실행에 옮길 수 있도록 적절한 도구를 주는 것이에요.
다루기 쉽고 유연성이 뛰어나서 어떤 AI 모델을 붙였다가 다시 떼어내기도 쉬운 환경을 만들어줘야 해요.
그래서 코딩을 잘하든 못하든 누구나 업무 자동화의 장점을 충분히 누릴 수 있어야 하고요.
쉽게 말하면, 회사의 지식 기반과 조직 문화, 그리고 AI 기술 도구들을 '누구나 쉽게 이것저것 시도해보고 조금씩 나아질 수 있는' 원칙에 맞추어서 구성하는 게 앞으로의 변화하는 시대에 잘 적응하고 더 나은 성과를 내는 방법이라는 거죠.
관리는 누구나 쉽게 볼 수 있어야 하고 시각적이어야 해요.
이렇게 되면 지금까지 전통적인 직무나 역할이었던 업무에도 새롭게 필요한 기술이 생기게 돼요.
직원들도 본인의 업무 흐름 속에서 AI가 어떻게 돌아가는지 잘 이해하고, 또 업무 설계 및 관리를 직접 해야 할 일이 많아질 거예요.
결국 도구와 인공지능 에이전트들이 어떤 입력값과 출력값으로 연결되어 일하는지 이해하는 게 중요해져요.
다시 처음 얘기로 돌아가자면, 성능과 결과를 우리가 쉽게 보고 평가하려면 어떻게 해야 할까요?
저는 가능한 많은 부분을 시각화해서 눈으로 바로 보는 게 가장 쉽고 효율적이라고 생각해요.
제가 '메이크(Make)'라는 서비스의 방식에 관심을 끌게 된 이유 중 하나도 그 때문이에요.
저는 지난 몇 년간 기존의 업무 흐름과 프로세스 속에서 자동화를 어떻게 시각적으로 보여줄지에 계속 관심을 가져왔거든요.
데이터가 어떻게 흘러가는지 눈으로 바로 확인할 수 있으면, 업무 흐름을 쉽게 파악할 수 있고, 문제점이 어디 있는지도 빨리 찾아내 훨씬 간편하게 해결 방법을 마련할 수 있어요.
하지만 이제 점점 더 많은 인공지능 에이전트가 등장하면서 한 단계 더 복잡한 상황을 어떻게 시각화할지 생각하고 있어요.
기존의 자동화가 잘 해내고 있는 부분은 어딘지, 어디에 인공지능이 들어가야 좀 더 강력해질지, AI가 사용할 새로운 도구가 필요하거나 도구가 만드는 결과물을 더 다듬어야 하는 건 아닌지 등을 쉽게 시각화 해야 해요.
또 업무에 특화된 수많은 에이전트들이 서로 협력하면서 일할 때, 에이전트 간의 상호작용까지 어떻게 쉽게 보고 관리할지도 고민해야 하고요.
결국 일이 복잡해질수록 여러 가지 요소들이 하나로 잘 어우러져 작동하도록 관리해야 하겠죠.
결국 앞으로 AI를 업무 속에 더 깊숙이 넣게 될수록 핵심 키워드는 '조정하고 관리하기'가 될 거예요. 앞으로는 다양한 기술 수준을 가진 더 많은 사람들이 인공지능이 활용되는 업무를 관리하게 될 텐데요.
이 사람들이 시각적으로 눈으로 직접 보면서 관리할 수 있도록 해줘야 해요. 물론 실제 작동은 보이지 않는 곳에서 이루어질 수 있겠죠.
하지만 이것을 보는 사람 입장에서는 쉽게 한눈에 확인할 수 있어야 합니다. 이렇게 시각적으로 관리할 수 있는 방식이 앞으로는 꼭 필요할 거예요.
그래야 여러분 회사가 사용하는 AI 도구들이 전사적으로 가장 효과적인 성과를 빠르고 안정적으로 만들어낼 수 있으니까요.
AI 중심 '기술 스택' 구축하기
저는 서밋 진행자였던 현 박(Hyoun Park)님의 의견에 공감해요. 인공지능을 성공적으로 적용하는 데는 AI 기술 스택(AI stack)이란 개념을 정리하는 게 매우 중요할 거예요.
현 박님의 이야기를 제 나름대로 조금 다시 표현하자면, 데이터, 접근성, 인터페이스, 그리고 조정과 관리라는 네 가지 요소가 앞으로 회사가 AI를 갖춰 나갈 때 꼭 필요한 핵심 요소예요.
앞으로 에이전트 시스템이 늘어나고 비즈니스 방식까지 빠르게 변화하는 환경에서, 모든 회사가 이 네 가지를 기본 틀로 삼고 나아가는 게 중요할 거예요.
임패커스 블로그 | Make 커스텀 함수 활용법! 보러가기
출처: Darin Patterson, Make, "4 steps every business must consider when building your agentic AI stack", https://www.make.com/en/blog/building-an-agentic-ai-stack, (2025.06.03)