같은 AI 모델을 쓴다고 같은 회사가 되지는 않는다.
오늘 가장 뛰어난 AI 모델은 돈을 내면 누구나 사용할 수 있다. 성능 차이는 계속 생기겠지만, 그 차이는 오래 독점되지 않는다. 더 좋은 모델이 나오면 경쟁사도 곧 연결한다. 모델을 도입했다는 사실만으로는 지속적인 경쟁우위를 만들기 어렵다.
그런데도 회사마다 AI가 만드는 결과는 크게 다르다. 어떤 회사에서는 문서 요약과 이메일 초안에 머물고, 어떤 회사에서는 고객 대응과 영업 준비, 리서치와 운영 업무의 상당 부분을 AI Agent가 맡는다.
차이는 모델이 아니라 모델 주변에 축적된 업무의 구조에서 생긴다.
AI의 성능은 모델에서 시작하지만, 회사의 AI 경쟁력은 업무를 맡기고 축적하는 방식에 남는다.
모두가 같은 모델을 쓰게 되면 무엇이 남을까
범용 AI 모델은 매우 중요한 기반 기술이다. 더 좋은 모델은 더 복잡한 지시를 이해하고, 더 긴 맥락을 다루며, 더 적은 오류로 도구를 사용한다. 모델 선택을 가볍게 볼 이유는 없다.
하지만 기업의 입장에서 모델은 점점 전기나 클라우드에 가까워질 가능성이 크다. 없어서는 안 되지만, 그것을 사용한다는 사실 자체가 차별점은 아니다.
회사가 실제로 얻는 결과는 모델 성능 외의 질문에 의해 결정된다.
- AI에게 어떤 업무를 맡기는가
- 어떤 자료와 시스템을 연결하는가
- 회사의 용어와 판단 기준을 어떻게 가르치는가
- 어디까지 실행할 권한을 주는가
- 어떤 순간에 사람의 승인을 받는가
- 결과가 좋은지 무엇으로 검증하는가
- 한 사람의 성공을 다른 사람이 어떻게 재사용하는가
같은 모델을 사용해도 이 구조가 다르면 전혀 다른 결과가 나온다.
프롬프트보다 판단 기준이 오래 남는다
초기의 AI 활용은 좋은 프롬프트를 찾는 일에 가까웠다. 질문을 잘 쓰는 사람이 더 좋은 답을 얻었다.
그러나 실제 업무는 한 번의 질문으로 끝나지 않는다. 고객을 조사하고, 내부 자료와 비교하고, 초안을 만들고, 사실을 검증하고, 승인받은 뒤 외부 시스템에 반영해야 한다. 이 과정에는 도구와 순서, 예외 처리와 품질 기준이 필요하다.
예를 들어 “좋은 고객 제안서를 만들어라”는 프롬프트는 회사의 자산이 되기 어렵다. 반면 다음이 함께 정리되어 있다면 이야기가 달라진다.
- 어떤 고객 정보를 먼저 확인하는가
- 확인되지 않은 사실은 어떻게 표시하는가
- 어떤 사례를 어떤 조건에서 사용하는가
- 가격과 범위는 누가 승인하는가
- 제출 전 무엇을 검증하는가
- 결과물을 어느 위치에 어떤 형식으로 남기는가
이것은 프롬프트가 아니라 업무의 구조다. 모델이 바뀌어도 남고, 새로운 직원과 Agent가 다시 사용할 수 있다.
회사의 암묵지가 실행 가능한 형태로 바뀌어야 한다
좋은 회사에는 문서에 없는 판단이 많다.
경험 많은 직원은 어떤 고객이 위험한지, 어느 숫자를 의심해야 하는지, 어떤 요청에서 반드시 한 번 더 확인해야 하는지를 안다. 규정만으로 설명되지 않는 예외와 신호를 읽는다.
이 암묵지를 AI에 연결하는 일은 문서를 모두 업로드하는 것과 다르다. 판단의 근거와 예외, 실패 신호와 검증 방법을 업무 속에서 추출해야 한다. 그리고 Agent가 사용할 수 있는 skill과 지식, 승인 규칙으로 바꿔야 한다.
이 과정이 반복되면 회사에는 다음과 같은 자산이 쌓인다.
- 역할별 Agent와 업무 skill
- 회사 고유의 용어와 ontology
- 검증된 도구 연결과 workflow
- 권한과 승인 구조
- 성공과 실패의 실제 기록
- 결과를 평가하는 기준과 사례
이 자산은 범용 모델 회사가 대신 만들어줄 수 없다. 경쟁사가 같은 모델을 구매해도 곧바로 복제하기 어렵다.
AI Agent의 오류도 조직의 지식이 되어야 한다
업무의 구조는 성공 사례만으로 만들어지지 않는다.
Agent가 오래된 문서를 참고했거나, 고객의 이름을 혼동했거나, 승인받지 않은 행동을 시도했다면 그 오류를 개인의 실수로 끝내지 않아야 한다. 어떤 지식이 부족했는지, 어떤 권한이 넓었는지, 어느 검증 단계가 빠졌는지를 찾아 공통 구조를 고쳐야 한다.
좋은 harness는 한 번의 결과를 만드는 데서 끝나지 않는다. 실행 기록을 남기고, 오류를 복기하고, 수정된 지식과 skill을 다음 실행에 반영한다.
그때부터 AI 활용은 개인의 요령이 아니라 회사의 학습 시스템이 된다.
데이터만 많다고 해자가 되지는 않는다
“우리 회사에는 데이터가 많으니 AI 시대에 유리하다”는 말도 절반만 맞다.
오래된 파일과 중복된 문서, 출처를 알 수 없는 숫자가 많다고 경쟁력이 생기지는 않는다. 중요한 것은 데이터의 양보다 그 데이터가 어떤 의미를 가지며, 어떤 판단에 사용되고, 현재도 신뢰할 수 있는지를 아는 것이다.
원문 데이터는 필요하다. 그러나 함께 필요한 것이 있다.
- 무엇이 권위 있는 자료인가
- 어느 시점까지 유효한가
- 서로 충돌할 때 무엇을 따르는가
- 어떤 업무에서 사용할 수 있는가
- 어떤 정보는 외부에 내보내면 안 되는가
데이터가 업무의 의미와 연결될 때 비로소 Agent가 사용할 수 있는 회사의 지식이 된다.
모델을 직접 만드는 회사만 해자를 갖는 것은 아니다
이 글의 결론이 모든 기업이 모델 개발을 포기해야 한다는 뜻은 아니다.
독점 데이터와 연구 역량을 갖고 특정 영역의 모델을 직접 개선하는 회사에는 모델 자체가 강력한 경쟁우위가 될 수 있다. 지연 시간이나 비용, 정확도가 사업의 핵심인 경우도 마찬가지다.
그러나 대부분의 기업은 기반 모델 회사와 같은 경쟁을 할 필요가 없다. 더 현실적인 기회는 빠르게 좋아지는 모델을 교체해 쓰면서도, 회사 고유의 업무 구조와 지식은 계속 축적하는 데 있다.
판단 기준은 단순하다.
모델이 바뀌었을 때 사라지는 것은 사용료이고, 남는 것은 회사의 자산이어야 한다.
회사의 AI 경쟁력은 위임하는 능력에서 생긴다
AI 시대의 해자는 가장 좋은 모델을 먼저 구독한 회사에 생기지 않는다.
무엇을 맡길지 알고, 필요한 맥락과 도구를 연결하고, 적절한 권한과 검증 기준을 설계하며, 그 경험을 조직 전체가 다시 사용할 수 있게 만드는 회사에 생긴다.
모델은 계속 좋아질 것이다. 그렇기 때문에 업무 구조의 차이는 오히려 더 크게 드러난다. 좋은 모델은 잘 설계된 조직의 역량을 증폭하지만, 혼란스러운 업무를 스스로 정리해주지는 않는다.
모두가 같은 AI를 쓰게 된 뒤에도 남는 것은 우리 회사가 일을 이해하고 위임하고 학습하는 방식이다.
그것이 회사가 쌓아야 할 AI 시대의 진짜 moat다.