AX는 한 조직에 AI로 일하는 방식을 전이하는 과정입니다. 저희 팀은 이미 인력 수보다 자동화된 에이전트의 수가 훨씬 많은 상황에서 일하고 있습니다. 큰 방향이 맞는지에 대한 의심은 없습니다. 다만 그 가능성을 조직의 일상으로 구현하고 계속 개선하는 과정은 여전히 어렵습니다.
어쩌면 쉬운 일은 모두 에이전트에게 맡기고, 어려운 일만 사람이 붙들고 있기 때문일지도 모릅니다. 특히 어려운 질문은 이것입니다. 기업의 AI 에이전트 플랫폼은 Claude Code나 Codex 같은 개인용 코딩 에이전트와 어떻게 달라야 할까요?
놀라운 첫 경험 뒤에
기업의 문제가 시작됩니다
여러 기업의 전사 규모 해커톤을 함께해보면 첫날과 둘째 날에 놀라운 일이 일어납니다. 평소라면 오래 걸렸을 아이디어들이 한자리에서 빠르게 구현됩니다. 사방에서 탄성과 전에 없던 몰입이 이어집니다. 어떤 외주 AX 프로젝트보다 강렬한 체험일 수 있습니다.
코딩 에이전트는 개인의 컴퓨터를 작은 서버처럼 바꾸고, AI가 그 환경에서 파일을 읽고 코드를 만들고 도구를 실행하게 합니다. 중요 자료가 없는 실험용 서버와 수많은 오픈소스, 어느 정도 위험을 감수할 수 있는 속도감이 만나면 예전에는 몇 달이 걸리던 개발의 상당 부분이 하루 안에도 진행됩니다.
그러나 개인에게 가능한 이 방식을 기업이 그대로 선택할 수 없는 이유는 너무 많습니다.
개인의 자유와
조직의 책임은 다릅니다
AI가 잘못 연결된 결제 수단을 사용하거나 필요 이상의 서버·API 자원을 소비할 수 있습니다. 규정이 너무 엄격하면 아무것도 실험할 수 없고, 너무 느슨하면 곳곳에서 실수가 발생합니다. 개인의 돈과 장비에 관한 선택과 회사의 자원에 관한 선택은 책임 구조가 다릅니다.
민감한 데이터의 접근을 제한하고 외부 침입을 차단해야 합니다. 개인 컴퓨터에서 잠시 띄운 개발 서버와 실제 직원이나 고객에게 전달되는 프로그램은 전혀 다른 수준의 보안·네트워크·운영 기준을 요구합니다.
아이디어가 생길 때마다 개발자가 완성도를 다듬고 개별적으로 배포해야 한다면, 개발팀은 아이디어가 쏟아지는 속도를 따라가기 어렵습니다. 사내외 배포 정책이 없고 오픈소스 위험이나 보안 오류를 통제할 수 없다면 담당자는 결국 보수적으로 변합니다. 실무자는 AX를 멈추고, 개발자는 정책과 기반 인프라부터 마련하자고 요구하게 됩니다.
개인의 컴퓨터에서 태어난 지식이
회사에 남아야 합니다
한 컴퓨터에서 만들어진 코드와 AI 대화, 시행착오가 다른 사람과 다른 컴퓨터로 이어질 방법도 필요합니다. 그렇지 않으면 대부분은 개인 폴더 안에서 잠시 생성되었다 사라지는 코드가 되고, AI와 나눈 대화도 맥락 없는 기록으로 남습니다.
따라서 실행 환경과 권한 기준, 누가 무엇을 실행했는지에 대한 기록, 서버와 비용 정책, 여러 사람과 여러 AI의 협업 방식이 필요합니다. 아직 완벽한 베스트 프랙티스가 존재하는 영역은 아니지만, 모든 조직이 결국 마주하게 될 사내 AI 운영체제의 핵심 부품입니다.
강력한 개인용 AI 도구를 직원 모두에게 전달한다고 해서 조직의 활용으로 곧바로 이어지지도 않습니다. 사용 방법이 어렵고 가능성이 무한하다는 사실 자체가 지나치게 큰 자유도가 되기 때문입니다. 무엇에 쓰는 도구인지조차 인식하기 어렵습니다.
그래서 기업에는
공통 플랫폼이 필요합니다
에이전트 하나를 빠르게 만들고 안전하고 유연하며 투명한 환경에 배포한 뒤, 그 에이전트가 회사 전체의 자산으로 성장한다면 어떨까요? 기업마다 이 기반을 처음부터 직접 만들 수도 있습니다. 미래형 ERP의 중추가 될 수 있다는 점에서는 이상적입니다. 하지만 팀과 정책, 인프라를 구성하는 길은 길고 험난합니다.
제가 내린 결론은 기업에서 공통으로 사용하는 플랫폼입니다. 보안과 권한, 협업과 공유, 실행 환경과 기록을 먼저 갖추고 복잡한 도구들을 매번 새로 연결하지 않게 하는 것입니다. 향후 기존 ERP를 연결하거나 새로운 업무 시스템을 개발할 수 있는 기반까지 포함해야 합니다.
공통 플랫폼이 마련되면 업무 skill의 집적, 기억의 공유, AI 모델의 교체, 사내 지식 구조의 축적이 원활해집니다. 기업 AX의 첫 단추는 특정 에이전트 하나가 아니라, 에이전트가 계속 만들어지고 실제 업무로 이어질 수 있는 공통 기반입니다.
팀 단위 에이전트 플랫폼을 만들며
중요하다고 느낀 것들
1. 대화와 결과를 함께 볼 수 있어야 합니다
동료가 AI와 어떻게 일해 산출물을 만들었는지는 결론만 봐서는 알기 어렵습니다. 대화와 판단 과정을 공유하면 고수는 초보의 업무를 돕고, 팀은 좋은 사용법을 훨씬 빠르게 학습합니다.
2. 결과물을 즉시 안전하게 배포할 수 있어야 합니다
개인 컴퓨터에서 끝나는 결과가 아니라 조직과 고객이 실제로 읽고 사용할 수 있는 형태로 출판되어야 합니다.
3. 비용과 자원 사용을 중앙에서 볼 수 있어야 합니다
개인별 한도를 조정하고 토큰, 서버, API 사용을 모니터링해야 실험의 자유와 조직의 책임을 함께 유지할 수 있습니다.
4. 프로젝트보다 에이전트라는 개념이 이해하기 쉽습니다
일반 팀원에게 폴더와 런타임을 설명하기보다 역할, 자료, 권한을 가진 에이전트를 채용하는 공간이라고 설명했을 때 업무를 훨씬 정확하게 맡겼습니다.
5. 자격증명은 개인 컴퓨터에서 굴러다니면 안 됩니다
공용 비밀번호와 API key를 안전하게 공유하고 사용 범위를 모니터링할 중앙 환경이 필요합니다.
6. 모든 에이전트에는 통제된 실행 환경이 필요합니다
어려운 업무에는 CPU와 RAM을 가진 런타임이 필요합니다. 필요한 순간에 환경을 배분하고 사용 후 자원을 줄이는 구조가 있어야 합니다.
7. 오류와 모델 교체를 중앙에서 관리해야 합니다
에이전트에서 발생한 오류를 복기하고 더 좋은 모델이 등장했을 때 짧은 시간 안에 조직 전체의 구성을 바꿀 수 있어야 합니다.
이런 기반이 생기면 AI는 소수 전문가의 개인 도구에서 조직이 함께 쓰고 개선하는 업무 시스템으로 바뀝니다. 회사가 쌓아야 할 것은 매번 새로운 운영체제를 만드는 능력이 아니라, 우리 일을 아는 에이전트와 우리만의 업무 지식입니다.