📖 서론: SaaS는 고객의 노하우를 먹고 자랐다, AI는 다를까 지난 20년, 퍼블릭 IT 서비스는 한 가지 방식으로 성장했습니다. 수 많은 고객이 서비스를 쓰면서 남긴 사용 경험과 업무 노하우를 제품 안에 차곡차곡 쌓아, 그 데이터로 다음 버전을 더 똑똑하게 만드는 방식입니다. 고객 입장에서는 편리해졌지만, 동시에 자신들이 오래 쌓아온 업무 방식이 공급자의 제품 속으로 흡수되는 과정이기도 했습니다. 지금 기업들이 앞다퉈 도입하는 퍼블릭 AI도 같은 길을 걷고 있는 건 아닐까요. 이번 호에서는 우리가 AI를 쓸 때 실제로 무엇이 밖으로 나가는지, 그리고 그것을 막으려면 무엇이 달라야 하는지를 짚어봅니다.
오늘의 세가지 중요 포인트 ① API 호출 한 번마다 함께 나가는 네 가지 ② API를 만들어 내보내는 조직 vs 안에서 끝내는 조직 ③ 모델은 바뀌어도, 남아야 하는 것은 따로 있다
📌 사례 1: API 호출 한 번마다, 네 가지가 함께 나간다 퍼블릭 AI를 업무에 연결할 때 조직이 실제로 내보내는 것은 데이터 파일 몇 개가 아닙니다. 훨씬 더 구체적인 "일하는 방식"입니다. 첫째, 업무를 어떤 기준으로 마무리 짓는지(종결처리)가 나갑니다. 둘째, 여러 번 시행착오 끝에 찾아낸 "잘 통하는 프롬프트"가 나갑니다. 셋째, 업무 순서와 판단 기준을 담은 에이전트 설계가 나갑니다. 넷째, 여러 단계를 엮은 워크플로우 전체가 나갑니다. 이 네 가지는 하나같이 그 조직이 오래 실무를 돌리며 쌓은 결과물입니다. 문제는 이것이 한 번 나가고 끝나는 게 아니라, API를 부를 때마다 반복해서 흘러 나간다는 점입니다.
🎯 시사점: "이 AI가 똑똑한가"만 따지면 놓치는 게 있습니다. 매번 호출마다 우리 조직의 노하우도 같이 내보내고 있다는 사실입니다. 무엇을 내보내고 있는지 먼저 목록으로 적어보는 것이 첫걸음입니다.
📌 사례 2: API를 만들어 내보내는 조직, 안에서 끝내는 조직 퍼블릭 AI를 쓰려면 기업은 자사 업무를 엔터프라이즈 기준의 API로 다시 만들어야 합니다. 사내 시스템과 외부 모델을 잇는 이 작업 자체가, 업무 방식을 외부가 이해할 수 있는 형태로 정리해 내보내는 과정입니다. 반면 폐쇄망 안에서 AI를 운영하면 애초에 내보낼 API를 새로 만들 필요가 없습니다. 데이터도, 그 데이터를 다루는 프롬프트·에이전트·워크플로우도 네트워크 경계를 넘지 않기 때문입니다. 두 방식의 차이는 보안 등급의 문제가 아니라, 우리가 쌓은 지식 자산이 최종적으로 어디에 남는가의 문제입니다.
🎯 시사점: 퍼블릭이냐 폐쇄망이냐를 "느리다/빠르다"로만 고르지 마십시오. 문서·보고·판단처럼 지식을 새로 만들어내는 업무일수록, 그 결과물이 남는 위치부터 먼저 정하는 편이 순서에 맞습니다.
📌 사례 3: 모델은 바뀐다, 그런데 무엇이 남아야 하는가 AI 모델은 몇 달에 한 번씩 새 버전으로 바뀝니다. 이 속도 자체는 막을 수도, 막을 필요도 없습니다. 문제는 모델이 바뀔 때마다 조직이 쌓아온 프롬프트, 지식, 에이전트, 워크플로우까지 함께 새로 짜야 하는 상황입니다. 이는 자산이 모델 공급자 쪽에 묶여 있다는 뜻입니다. 반대로 이 네 가지를 모델과 분리해 조직 안에 보관해두면, 모델이 바뀌어도 자산은 그대로 남고 연결 설정만 바뀝니다. 결국 관건은 "어떤 모델을 쓰는가"가 아니라 "모델이 바뀔 때 무엇이 살아남는가"입니다.
🎯 시사점: 다음 모델 도입을 검토할 때 성능표만 보지 말고, 지금 쓰는 프롬프트·지식·에이전트·워크플로우를 모델 없이도 그대로 옮길 수 있는지 먼저 확인해 보십시오.
🧭 오늘 점검해볼 세 가지 질문 우리가 AI에 매번 새로 만들어 보내는 것은 무엇이며, 그중 조직 고유의 노하우는 얼마나 되는가?
같은 업무를 퍼블릭 API로 처리할 때와 폐쇄망 안에서 처리할 때, 우리 노하우는 각각 어디에 남는가?
지금 쓰는 모델이 다음 버전으로 바뀐다면, 우리 프롬프트·에이전트·워크플로우는 그대로 살아남는가?
🎯 결론 및 제언 이 세가지 중요 포인트가 가리키는 결론은 하나입니다. 다음 경쟁은 더 좋은 모델을 쓰느냐가 아니라, 그 모델을 쓰면서도 우리 노하우를 우리 안에 남길 수 있느냐에서 갈립니다. 실제로 모델 연결과 조직의 지식·프롬프트·에이전트 자산을 처음부터 분리해 두는 플랫폼들도 이미 나오고 있습니다. 화려한 모델 발표보다, 위 세 가지 질문에 대한 솔직한 답이 다음 분기 전략의 더 나은 출발점이 될 것입니다.
센트릭웨이브는 언제라도 여러분들의 고민을 듣고 조언해드릴 준비가 되어 있습니다. 복잡한 AI의 홍수 속에서 고객의 바른 판단을 돕고 가치를 전달하는 것이 우리의 사명이고 우리의 생존과 연결된다고 생각합니다. 같은 생각을 하시는 여러분들께 저희가 작은 도움이 되고자 하니 언제라도 연락 부탁 드리겠습니다. 감사합니다. 최성 배상 | 
댓글 없음:
댓글 쓰기