지난달 캠페인 성과 보고서를 AI에게 맡깁니다. 사람들이 항상 이야기하는 '온톨로지' 를 위해 이벤트 택소노미도 꼼꼼하게 학습시켜놨고, 매번 제작되는 리포트도 AI는 항상 알고 있습니다. 그럼에도 불구하고, 아직까지 이 AI는 결국 사람에게 맡겨야하는 판단이 필요합니다. 특히 AI가 경험하지 않았던 돌발적인 상황인 경우에 말이죠.
요즘 AI 업계에서 '암묵지'(Tacit Knowing)의 중요성에 대해 언급되어지고 있습니다. 암묵지는 '아직 문서화 되지 않은 노하우'라는 뜻입니다. AI 시대에서는 사람 머릿속에만 있는 판단을 암묵지라고 의미하고, AI가 그러한 판단을 읽을 수 있게 옮긴 것을 AI 암묵지라고 합니다. AI 암묵지는 정확히 무엇인지, AI 암묵지가 없으면 왜 AI 도입이 막히는지, 어떤 노하우부터 어떻게 옮길지를 이번 아티클에서 차례로 짚습니다.
1. 암묵지란? 형식지와 무엇이 다른가
암묵지는 경험으로 몸에 배어 말이나 문서로 옮기기 어려운 판단과 노하우입니다. 철학자 마이클 폴라니는 이를 "우리는 말할 수 있는 것보다 더 많이 안다"는 문장으로 설명했습니다. 반대로 매뉴얼, 택소노미, 보고서처럼 글과 숫자로 정리된 정형화된 지식은 형식지라고 부릅니다.
| 구분 | 형식지 | 암묵지 |
|---|---|---|
| 형태 | 문서, 숫자, 규칙 | 경험, 감, 판단 습관 |
| 예시 | 지표 정의서, 운영 매뉴얼 | "이 정도 하락은 일시적이다"라는 직감적 판단 |
| 전달 방법 | 문서 공유 | 옆에서 함께 일하며 배우기 |
| AI가 다루는 방식 | 넣으면 바로 읽음 | 말로 꺼내 기록해야 읽음 |
경영학자 노나카 이쿠지로는 조직의 지식이 암묵지와 형식지 사이를 오가며 자란다고 봤습니다. 이를 정리한 SECI 모델(지식이 공동화, 표출화, 연결화, 내면화를 거치며 순환한다는 이론)에서 암묵지를 말과 글로 꺼내는 단계를 표출화라고 부릅니다.
그리고 AI 암묵지는 조직의 판단 기준과 노하우를 AI가 참고할 수 있는 형태로 옮긴 지식입니다. 표출화의 결과물을 받을 주체가 사람이 아닌 AI로 바뀌는 것입니다. 형식지만 달달 외운 신입이 실무에 투입될 수 없듯이, 마찬가지로 형식지만 받은 AI는 매뉴얼을 다 외운 조금 똑똑한 신입 사원과 같습니다. 규칙은 알지만, 우리 비즈니스가 내린 수많은 판단은 모릅니다.
2. AI 도입이 암묵지에서 막히는 이유
AI의 답이 어긋나는 이유는 지식이 모자라서가 아니라 우리 회사의 맥락을 몰라서입니다. 생성형 AI에 투자한 조직의 95%는 손익에서 측정 가능한 효과를 보지 못했다라는 유명한 보고서에서 조직들이 생각한 AI 도입의 실패 원인은 모델 성능이 아니었습니다. 대부분의 시스템이 피드백을 기억하지 못하고, 맥락에 적응하지 못하며, 시간이 지나도 나아지지 않기 때문이라는 진단입니다.
현장에서는 이렇게 드러납니다. 같은 "활성 고객"을 마케팅팀은 30일 안에 방문한 고객으로, 운영팀은 7일 안에 결제한 고객으로 정의합니다. 이런 사일로는 한 두가지의 AI는 정의서대로 답하고, 담당자는 그 답을 다시 고칩니다.
"그럼 문서를 더 많이 넣으면 되지 않을까요?" 문서에는 결과만 남고 이유는 남지 않습니다. 지난 분기 리포트에 "프로모션 중단"이라고 적혀 있어도, 왜 그때 멈췄는지는 적혀 있지 않습니다.
암묵지가 빠진 AI의 답은 매번 사람이 손봐야 하고, 고치는 시간이 쌓이면 도입 효과가 사라집니다. 같은 보고서에서 기업 맞춤형 AI 도구 가운데 실제 운영까지 간 것은 5%뿐이었습니다.
3. 어떤 암묵지부터 AI에 옮겨야 할까: 의사결정자를 위한 우선순위
모든 노하우를 옮길 필요는 없습니다. 아래 세 가지 기준 중에 겹치거나 팀에서 중요하다고 느낀 경우에 우선순위로 삼을 수 있습니다.
첫째, 자주 반복되는 판단인가. 주간 리포트 해석, 광고 소재 교체, 이탈 징후 감지처럼 매주 같은 질문에 답하는 일입니다. 한 번 옮겨 두면 매주 시간을 돌려받습니다.
둘째, 틀렸을 때 비용이 큰가. 쿠폰 예산 배분이나 할인 폭 결정은 판단 하나가 매출과 비용을 바로 움직입니다. 기준이 사람마다 다르면 결과도 사람마다 달라집니다.
셋째, 한두 사람에게만 있는가. "그건 OO님께 물어봐야 해요"라는 말이 나오는 판단은 그 사람이 떠나는 순간 함께 사라집니다. 제조업에서는 이미 정책 과제가 됐습니다. 산업통상부는 숙련공의 고령화와 은퇴로 제조 암묵지가 소실될 위기라고 보고, 올해 추경 480억 원을 들여 30개 공정의 노하우를 AI로 옮기는 사업을 시작했습니다. 사무 조직의 판단도 사정은 같습니다.
반대로 옮기지 않을 판단도 정해 둡니다. 브랜드 방향이나 사람 평가처럼 가치가 섞인 결정은 AI가 근거를 모으고 사람이 정합니다. 노하우를 꺼내 줄 사람의 협조도 필요합니다. 이 사업을 다룬 정부 행사에서 국가품질명장인 기아 김동선 책임엔지니어는 현장 노동자에게 맞는 보상 체계와, 데이터 수집 절차와 범위에 대한 사전 협의가 필요하다고 짚었습니다. 무엇을 옮기고 누가 보상받는지 정하는 일은 실무자가 아니라 의사결정자의 몫입니다.
4. 암묵지를 AI 에이전트가 쓰는 비즈니스 맥락으로 바꾸는 3단계
해외에서는 이미 AI 에이전트가 암묵지를 근거로 일합니다. 도요타는 베테랑 엔지니어가 손으로 쓴 문서까지 근거로 삼는 AI 에이전트 시스템을 만들었습니다. 2024년 1월부터 파워트레인 엔지니어 약 800명이 이 시스템에 접근해 사용하고 있습니다. 담당자는 은퇴하면 엔지니어의 지식도 사라지기 때문에 도요타는 빠르게 이러한 AI 암묵지 시스템 도입을 결정했습니다.
이 흐름을 사무 조직에 맞게 나누면 세 단계입니다.
판단 기준을 말로 꺼내기
담당자에게 "이 숫자를 보고 무엇을 결정하나요? 왜요?"라고 묻습니다. 기록할 것은 결과보다 이유입니다. 도요타 또한 정한 용접 조건뿐 아니라 그 결정을 내린 이유까지 AI에 학습시켰습니다.
지표 정의, 규칙, 예외 사례로 쌓기
꺼낸 판단은 AI가 찾아 쓸 수 있는 형태로 정리합니다. 지표 정의("활성 고객은 상황별로 이렇게 나눈다"), 판단 규칙("행사 직후 이틀은 비교에서 뺀다"), 예외 사례("작년 이 시기엔 이런 이유로 달랐다")를 한곳에 모으면 비즈니스 맥락이 됩니다. 회사 고유의 정의를 쌓아야 AI의 답이 흔들리지 않는 이유는 LLM 위키란? 글에서 더 자세히 다뤘습니다.
실행 결과를 다시 기록하기
AI 에이전트가 맥락을 근거로 판단하고 실행했다면, 그 판단이 맞았는지 결과를 다시 남깁니다. MIT 보고서가 지적한 "기억하지 못하고 나아지지 않는" 문제를 푸는 단계입니다. 결과가 쌓일수록 맥락은 사람 한 명의 경험을 넘어섭니다. 실행과 학습이 이어지는 구조는 에이전틱 그로스란? 글에서 이어서 볼 수 있습니다.
세 단계를 거치면 담당자가 바뀌어도 판단은 조직에 남습니다.
5. 정리: 암묵지는 사라지는 자산이 아니라 쌓이는 맥락입니다
AI 암묵지는 새 기술 이름이 아니라, 원래 조직에 있던 판단을 AI가 읽을 수 있게 옮기는 일입니다. 우리 팀에서 "그건 OO님께 물어봐야 해요"라는 말이 자주 나온다면, 그 판단부터 살펴보십시오. 자주 반복되거나, 틀리면 비용이 크거나, 한 사람에게만 있다면 첫 후보입니다. 세 가지에 모두 해당한다면 지금 옮기지 않은 만큼 위험이 커지고 있습니다.
ThinkingAI는 이런 비즈니스 맥락을 한곳에 모아 AI 에이전트가 판단 근거로 쓰도록 돕습니다. 기업이 범용 AI를 우리 회사에 맞게 쓰는 방법은 엔터프라이즈 AI 에이전트 글에서 이어서 읽어 보세요.




