왜 중요한가

조직이 계획에 따라 AI를 도입하는 경우는 드뭅니다. 한 팀은 도구를 사고, 다른 팀은 프로토타입을 만들고, 벤더는 기능을 켭니다. 각 결정은 국지적으로는 이치에 맞습니다. 함께 놓으면 아무도 설계하지 않은 자산 집합이 됩니다. 중복된 도구, 일관성 없는 통제, 불분명한 오너십, 청구서에서야 드러나는 비용입니다. 무언가 잘못되면 아무도 누가 책임지는지 모릅니다. 무언가 잘되어도 아무도 그것을 되풀이할 수 없습니다.

운영 모델은 "조직으로서 AI와 어떻게 일하는가?"라는 질문에 대한 답입니다. 역할과 책임, 결정이 내려지는 방식, 일에 재원이 조달되는 방식, 시스템이 만들어지거나 구매되어 계속 운영되는 방식, 사람들이 배우는 방식을 설명합니다. 클 필요는 없습니다. 작은 조직의 모델은 한 쪽에 들어갈 수 있습니다. 중요한 것은 질문에 답이 있다는 것입니다.

AI 시스템은 변하기 때문에, 이 필요는 다른 많은 기술보다 AI에서 더 날카롭습니다. 모델은 벤더가 업데이트하고, 데이터는 이동하고, 행동은 드리프트합니다. 지속적인 보살핌이 필요하며, 이는 출시로 끝나는 프로젝트가 아니라 제품 팀이 제공하는 것입니다. 이 주제는 AI 운영 모델의 주요 요소와 거기에 따르는 스킬을 설명합니다. 제품 오너십(주제 2.8 — 제품과 서비스 오너십), AI 거버넌스(주제 5.6 — AI 거버넌스, 위험, 규정 준수), 재무 관리(주제 4.5 — 재무 관리와 FinOps) 위에 서 있으며, 조직 변화(주제 8.3 — 조직 변화와 도입)와 연결됩니다.

핵심 개념

운영 모델. 조직이 가치를 전달하는 방식, 즉 구조, 프로세스, 사람, 기술, 거버넌스의 설명입니다. Wikipedia가 운영 모델을 설명합니다. AI 운영 모델은 AI가 어떻게 선택되고, 재원이 조달되고, 만들어지거나 구매되고, 운영되고, 거버넌스되고, 개선되는지를 다루는 부분입니다.

제품으로서의 AI. AI 시스템에는 사용자, 목적, 백로그, 비용, 수명주기가 있습니다. 주제 2.8 — 제품과 서비스 오너십에서 설명한 대로 오너가 있는 제품으로 다루세요. 오너는 성과, 데이터, 품질, 위험에 책임지며, 언제 개선하거나 폐기할지 결정합니다.

수명주기. 단계에는 기회 식별, 가치와 위험 평가, 구축 또는 구매, 시험, 배포, 운영과 모니터링, 개선, 폐기가 있습니다. Wikipedia가 설명하는 머신러닝 운영(MLOps)은 모델의 수명주기에 엔지니어링 규율을 적용합니다. 버전 관리, 배포, 모니터링, 재훈련입니다. 벤더 모델에는 같은 단계가 적용되지만, 기술적 부분은 적고 계약과 모니터링이 더 많습니다.

역할. 전형적인 역할로는 경영진 후원자, 시스템마다의 AI 제품 오너, 시스템을 만들고 운영하는 엔지니어, 시스템이 쓰는 데이터의 데이터 오너, 보안 및 개인정보 보호 파트너, 법률 자문가, 시스템을 쓰고 영향을 받는 사람들이 있습니다. 작은 팀은 역할을 겸합니다. 이름을 붙이고 누가 결정하는지 분명히 하세요.

지원 팀 또는 우수 센터. 다른 팀이 AI를 잘 쓰도록 돕는 작은 그룹으로, 지침, 템플릿, 승인된 도구, 교육, 더 위험한 사용에 대한 검토를 제공합니다. Wikipedia가 우수 센터를 설명합니다. 위험은 병목이나 관문이 되는 것입니다. 좋은 센터는 안전한 길을 쉬운 길로 만들고, 팀을 위해서가 아니라 팀과 함께 일합니다.

중앙, 연합, 내장 모델. 중앙 모델에서는 한 팀이 모두를 위해 AI를 만들고 운영합니다. 내장 모델에서는 각 제품 팀이 자기 것을 합니다. 연합 모델은 공유 플랫폼 및 표준과 지역 오너십을 결합합니다. 대부분의 조직은 연합 혼합 모델에 이릅니다. 사용의 규모, 가용 스킬, 위험으로 고르세요.

구축, 구매, 구성. 각 AI 사용은 사내에서 만들거나, 제품으로 사거나, 모델과 자체 데이터로 조립할 수 있습니다. Wikipedia는 구축-구매 결정을 비용-편익 분석의 한 형태로 설명합니다. 총비용, 벤더 의존 위험, 데이터 통제, 속도, 필요한 스킬을 고려하세요. 주제 3.14 — 공급자 관리를 참조하세요.

재원 조달. 중요한 AI 시스템은 일회성 프로젝트가 아니라 지속적인 팀이 있는 제품으로 재원을 대세요. 사용료, 호스팅, 모니터링, 지원 같은 운영 비용을 포함하세요. 유스 케이스별, 성과별 비용을 추적하세요. 주제 4.5 — 재무 관리와 FinOps를 참조하세요.

플랫폼과 공유 서비스. 승인된 모델 게이트웨이, 프롬프트 및 스킬 라이브러리, 평가 도구, 데이터 카탈로그, 로깅 같은 공유 구성 요소는 중복 노력을 줄이고 통제를 쉽게 합니다. 주제 5.7 — AI 스킬과 프롬프트를 참조하세요.

데이터 기반. AI는 정확하고, 접근 가능하며, 거버넌스되는 데이터에 의존합니다. 많은 AI 이니셔티브가 모델이 아니라 데이터에서 멈춥니다. 주제 7.2 — 데이터 기반과 데이터 거버넌스를 참조하세요.

스킬과 역량. 사람들에게는 폭넓은 스킬이 필요합니다. AI가 할 수 있는 것과 없는 것을 이해하기(흔히 Wikipedia가 설명하는 디지털 리터러시의 한 형태인 AI 리터러시라고 부릅니다), 분명한 프롬프트를 쓰고 결과를 확인하기, 위험 평가하기, 시스템을 만들고 시험하기, 데이터 관리하기입니다. 역할마다 필요한 깊이가 다릅니다. Wikipedia가 스킬을 쌓는 접근으로 업스킬링과 재교육을 설명합니다.

하면서 배우기. 스킬은 피드백이 있는 실제 업무에서의 실천으로 가장 많이 자라며, 짧은 교육과 예시가 뒷받침합니다. Wikipedia가 설명하는 실천 공동체는 사람들이 통하는 것을 공유하도록 돕습니다. 숙련 사용자와 신규 사용자를 짝지으세요. 주제 8.5 — 학습 경로와 자격증을 참조하세요.

사람과 역할에 미치는 영향. AI는 업무를 바꾸고, 일부 역할에서는 필요한 인원 수도 바꿉니다. Wikipedia는 오래 논쟁되어 온 우려로 기술적 실업을 설명합니다. 의도에 대해 직원에게 솔직하고, 설계에 그들을 참여시키고, 재배치와 재교육을 계획하세요. 주제 8.3 — 조직 변화와 도입을 참조하세요.

가치와 성과. 각 AI 시스템이 개선해야 할 성과, 예컨대 해결 시간, 품질, 사용자 만족을 기준선과 측정 방법과 함께 정의하세요. Wikipedia가 투자 수익률과 그 한계를 설명합니다. 시간을 "절약"했다고 세지만 재배치되지 않는 절감 추정치를 경계하세요.

표준과 보증. ISO/IEC 42001과 NIST AI 위험 관리 프레임워크 같은 프레임워크는 운영 모델이 다뤄야 할 관리 시스템 요소를 설명합니다. 주제 5.6 — AI 거버넌스, 위험, 규정 준수를 참조하세요.

시범 운영과 확장. 개념 증명은 저렴하고 흔히 인상적입니다. 확장에서 문제가 나타납니다. 데이터 품질, 통합, 보안, 비용, 지원입니다. Wikipedia가 개념 증명을 설명합니다. 누가 운영할지를 포함해, 처음부터 시범 운영에서 운영 환경으로의 이행을 계획하세요.

렌즈는 어떻게 맞물리는가. 운영 모델은 AI 렌즈를 조직화합니다. 애자일 프랙티스는 지속적인 제품 팀과 짧은 시험을 제안합니다. 자동화와 분석은 이웃입니다. 자동화는 AI의 출력에 따라 행동하고, 분석은 데이터와 척도를 제공합니다.

모범 사례

  1. 중요한 AI 시스템마다 제품으로 다룹니다. 오너, 팀, 백로그, 예산, 폐기를 포함한 수명주기를 지정하세요. 각 시스템의 가치와 위험을 정기적으로 검토하세요.
  2. 역할과 결정권을 적어 둡니다. 누가 후원하고, 누가 각 시스템을 소유하고, 누가 더 위험한 사용을 승인하고, 누가 멈출 수 있는지 말하세요. 한 쪽으로 유지하세요.
  3. 작은 지원 팀을 세웁니다. 지침, 도구, 교육, 검토를 제공할 권한을 주고, 얼마나 많은 관문을 운영하느냐가 아니라 팀을 얼마나 돕느냐로 평가하세요.
  4. 구축, 구매, 구성을 증거로 고릅니다. 사례마다 총비용, 위험, 데이터 통제, 속도, 스킬을 비교하세요. 결정을 기록하고 상황이 바뀌면 다시 보세요.
  5. 처음부터 운영 비용에 재원을 댑니다. 구축만이 아니라 사용료, 모니터링, 지원, 개선을 예산에 넣으세요. 유스 케이스별, 성과별 비용을 추적하세요.
  6. 공유 플랫폼을 제공합니다. 접근, 로깅, 평가, 프롬프트와 스킬을 위한 승인된 도구와 공통 서비스를 제공하세요. 승인된 경로가 우회로보다 빠르게 만드세요.
  7. 데이터에 투자합니다. 데이터 오너를 지정하고, 유스 케이스를 막는 품질 문제를 고치고, 출처를 문서화하세요. 첫 유스 케이스에 필요한 데이터부터 시작하세요.
  8. 역할별로 스킬을 쌓습니다. 모두에게 짧고 실용적인 교육을, 만드는 사람과 오너에게 더 깊은 교육을, 실제 업무로 연습할 시간을 제공하세요. 통하는 것을 공유할 자리를 만드세요.
  9. 사람에 대해 솔직합니다. 역할과 인원에 대해 의도하는 바를 말하고, 새로운 업무 방식의 설계에 직원을 참여시키고, 업무가 바뀌는 이들을 지원하세요.
  10. 시범 운영에서 운영 환경으로 가는 경로를 계획합니다. 시범 운영 전에 성공이 무엇인지, 누가 운영할지, 어떤 통제가 필요한지, 규모에서 얼마나 들지 정하세요. 그 시험을 충족할 수 없는 시범 운영은 중단하세요.

팀과 논의할 질문

우리가 쓰는 각 AI 시스템은 누가 소유하며, 언제 바꾸거나 멈출지 누가 결정합니까? 재고를 쓰세요. 공백이 예상됩니다. 더 깊이 들어가려면, 가장 중요한 세 시스템에 오너를 지정하고 결정권을 기록하세요.

중앙 AI 그룹이 우리를 위해 무엇을 해 주기를 원하며, 무엇이 각 팀에 남아야 합니까? 도움 대 통제를 논의하세요. 표준을 원하는 쪽과 속도를 원하는 쪽 사이에 서로 다른 견해가 예상됩니다. 더 깊이 들어가려면, 그룹이 제공해야 할 서비스 세 가지를 나열하세요.

우리의 마지막 AI 구매나 구축에서 선택지를 비교했으며, 오늘이라면 무엇을 결정하겠습니까? 결정 기록을 보세요. 거의 없을 것으로 예상됩니다. 더 깊이 들어가려면, 구축, 구매, 구성 결정을 위한 짧은 템플릿에 합의하세요.

우리 AI 사용의 지속적인 비용은 얼마이며, 누가 지불합니까? 숫자를 요청하세요. 특히 사용료에서 알려지지 않은 것이 예상됩니다. 더 깊이 들어가려면, 유스 케이스 하나를 골라 비용 추정을 만드세요.

사람들이 업무에서 AI를 잘 쓰려면 어떤 스킬이 필요하며, 어떻게 얻습니까? 역할별로 물으세요. 확인하기와 한계 이해하기에서 공백이 예상됩니다. 더 깊이 들어가려면, 실제 업무로 하는 연습 세션을 계획하세요.

AI가 업무를 어떻게 바꿀지 직원에게 무엇을 말했으며, 그들은 믿습니까? 직원에게 직접 물으세요. 불안이 예상됩니다. 더 깊이 들어가려면, 리더가 솔직하게 말할 수 있는 것과 사람들을 지원하기 위해 할 일에 합의하세요.

실제 적용: 서비스 관리 사례

한 국립 환경 보호 기관은 여러 부서에 걸쳐 30개의 AI 사용이 있습니다. 채팅 어시스턴트, 비정상 센서 값을 표시하는 모델, 의견 수렴 응답을 요약하는 도구, 연구 그룹이 운영하는 여러 시범 사업입니다. 새로 온 최고 디지털 책임자는 세 부서가 비슷한 전사 서비스에 비용을 내고 있고, 두 시범 사업이 결정 없이 1년 넘게 돌아가고 있으며, 기관이 AI에 얼마를 쓰는지 아무도 말하지 못한다는 것을 발견합니다.

그녀는 IT, 데이터, 보안, 법무에서 뽑은 네 명의 작은 지원 팀을 꾸립니다. 첫 임무는 한 달 안에 마친 재고입니다. 두 번째는 한 쪽짜리 운영 모델입니다. 각 AI 사용에는 현업의 이름 있는 오너가 있고, 지원 팀은 로깅이 있는 승인된 모델 게이트웨이, 검토된 프롬프트와 스킬의 라이브러리, 중간 및 높은 위험 사용에 대한 영업일 10일 안의 위험 검토를 제공하며, 분기별 포트폴리오 회의가 어떤 시범 사업을 확장하고, 바꾸고, 중단할지 결정합니다.

포트폴리오 회의는 오너나 척도가 없는 시범 사업 다섯 개를 중단하고, 세 개의 전사 계약을 하나로 통합합니다. 오염 경보에 대한 결정을 지원하는 센서 이상 모델에 대해서는 오너가 데이터 품질 검토를 의뢰하고 드리프트 모니터링을 마련합니다. 가장 가치 있는 두 시스템의 재원은 프로젝트 예산에서 사용료를 포함한 연간 팀 예산으로 옮겨집니다.

스킬에 관해서는, 팀이 모든 직원을 위한 AI 안전 사용 두 시간짜리 실습 세션과 시스템을 만들거나 소유하는 40명을 위한 더 긴 과정을 제공합니다. 실천 공동체는 매달 모입니다. 직원을 대표하는 노조가 AI가 일자리에 무엇을 의미하는지 묻자, 최고 디지털 책임자는 프로그램이 2년 안에 직위를 줄이는 데 쓰이지 않을 것이며 절약된 시간은 밀린 점검 업무로 갈 것이라고 서면으로 약속합니다.

달라진 점은 기관에 하나의 재고, 분명한 오너, 도움을 청할 단일한 자리가 있다는 것입니다. 여전히 어려운 점은 일부 연구 그룹이 검토 경로를 제동 장치로 보고 여전히 비공식 도구를 운영한다는 것, 두 시스템의 사용 비용이 추정보다 높은데 예산이 조정되지 않았다는 것, 일자리에 대한 약속이 재무가 열어 두고 싶어 하는 선택지를 제한한다는 것입니다. 최고 디지털 책임자는 경로의 속도와 예산을 분기마다 검토합니다.

네 가지 관점

제품 및 전달 팀

AI 시스템을 제품으로 소유하세요. 백로그, 모니터링, 비용, 폐기입니다. 공유 플랫폼과 승인된 라이브러리를 쓰세요. 지원 팀에 일찍 도움을 청하세요.

서비스 및 운영 팀

AI 시스템의 운영에 참여하고 보이는 것을 보고하세요. 출력을 확인하는 방법을 배우고, 드리프트와 오류를 오너에게 알리세요. 공유 도구를 쓰세요.

리더십과 거버넌스

모델을 후원하고, 오너를 지정하고, 지속적인 팀과 운영 비용에 재원을 대세요. 가치와 위험이 있는 포트폴리오 관점을 요청하세요. 역할에 미치는 영향에 대해 직원에게 솔직하세요.

고객과 사용자

여러분에게 영향을 주는 AI 시스템에 누가 책임지는지, 우려를 어떻게 제기하는지 알아야 합니다. 여러분의 피드백이 오너에게 어떻게 닿는지 물으세요.

애자일, AI, 자동화, 분석

애자일

지속적인 팀, 짧은 주기, 사용자 및 이해관계자와의 정기적 검토로 AI 제품을 운영하세요. 운영 모델 자체도 작은 단계로 개선할 대상으로 다루세요. 주의: 고정된 계획으로 큰 AI 프로그램을 시작하지 마세요. 몇 가지 유스 케이스로 시작해 배우세요.

AI

이 주제는 AI 자체를 관리하는 것입니다. 오너, 수명주기, 재원 조달, 스킬입니다. AI는 포트폴리오 분석과 문서화를 검토 아래 도울 수 있습니다. 주의: 모든 것을 승인하거나 아무것도 승인하지 않는 지원 팀은 신뢰를 잃으므로, 검토를 위험에 맞춰 조정하세요. 주제 5.6 — AI 거버넌스, 위험, 규정 준수를 참조하세요.

자동화

공유 플랫폼에서 재고 피드, 비용 보고, 로깅, 정책 점검을 자동화해 안전한 길이 쉬운 길도 되게 하세요. 주의: 승인된 대안 없이 사용을 막는 자동화는 사람들을 섀도 도구로 몰아갑니다. 주제 6.1 — 자동화 전략을 참조하세요.

분석

포트폴리오를 추적하세요. 사용의 수, 오너, 유스 케이스별 비용, 가치 척도, 인시던트, 검토 시간, 스킬 범위입니다. 주의: AI 프로젝트나 교육받은 직원의 수는 성과가 아니라 활동에 보상하므로, 가치와 품질의 척도와 짝지으세요. 주제 7.3 — 측정과 보고와 서비스 관리 지표(Service Management Metrics) 책을 참조하세요.

흔한 실패 유형

  • 난립하는 도구. 각 팀이 자기 것을 삽니다. 재고를 유지하고 통합하세요.
  • 오너 없는 시스템. 아무도 유지하거나 멈추지 않습니다. 오너를 지정하고 포트폴리오를 검토하세요.
  • 제품이 아니라 프로젝트. 팀이 출시 후 해체됩니다. 중요한 시스템에는 지속적인 팀에 재원을 대세요.
  • 관문을 지키는 센터. 지원 팀이 일을 막습니다. 응답 목표가 있는 서비스로 만드세요.
  • 무시된 운영 비용. 사용료가 예산을 놀라게 합니다. 처음부터 포함하세요.
  • 실천 없는 교육. 과정에는 참석하지만 습관은 그대로입니다. 실제 업무로 연습하세요.
  • 일자리에 대한 침묵. 두려움이 퍼집니다. 의도를 말하고 직원을 참여시키세요.

성숙도 모델

영역 시작 발전 표준화 관리 오케스트레이션
오너십과 역할 불분명하다 챔피언 시스템마다 이름 있는 오너와 결정권 결과와 함께 역할을 검토한다 전사와 파트너 전반에서 역할을 조율한다
재원 조달과 수명주기 프로젝트 자금 일부 운영 자금 핵심 시스템에 지속적 재원, 정의된 수명주기 비용과 가치를 정기적으로 검토한다 가치와 위험에 따라 포트폴리오에 재원을 대고 재조정한다
플랫폼과 지원 개인 도구 공유된 지침 승인된 플랫폼, 라이브러리, 검토 서비스 사용과 만족을 측정한다 플랫폼이 거버넌스 및 자동화와 통합된다
스킬 임시방편 인식 교육 실천이 있는 역할 기반 학습 필요에 대해 스킬을 추적한다 변화 지원과 함께 전체 인력에 걸쳐 스킬을 계획한다

체크리스트

  • 중요한 AI 시스템마다 이름 있는 제품 오너가 있다.
  • 역할과 결정권이 한 쪽에 적혀 있다.
  • 작은 지원 팀이 도구, 지침, 검토를 제공한다.
  • 구축, 구매, 구성 결정을 기록한다.
  • 운영 비용을 예산에 반영하고 유스 케이스별로 추적한다.
  • 공유 플랫폼 서비스가 승인된 경로를 쉽게 만든다.
  • 교육이 역할 기반이며 실제 업무에서의 연습을 포함한다.
  • AI가 업무에 어떤 영향을 줄지 직원에게 솔직하게 말했다.

AI 프롬프트

구축, 구매, 구성을 비교합니다.

Our use case: [describe]. Our constraints: [data sensitivity, skills, budget, timeline]. Options: [list].
Draft a comparison table with criteria (total cost over three years, data control, speed, risk of dependency, skills needed, ability to change) and for each option what we know and what we do not know from my description. Do not choose an option or invent costs.
List what you are unsure of.

논의를 위한 한 쪽짜리 운영 모델의 초안을 작성합니다.

Our organization: [type, size]. Our AI uses today: [list]. Our governance bodies: [list].
Draft a one-page operating model with roles, decision rights, funding approach, how AI is built or bought, how risk review works, and how skills are built. Mark every assumption and leave [blank] where my description gives no basis.
List what you are unsure of.

역할별 스킬을 계획합니다.

Roles in our team: [list with what each does]. AI uses planned: [list].
For each role, list the skills needed (use of AI, checking outputs, risk, building, data), one practice activity on real work, and one way to see that the skill has grown. Do not name courses or vendors.
List what you are unsure of.

AI 스킬

  • portfolio-management: AI 포트폴리오의 가치와 위험을 검토할 때 사용합니다.
  • mlops: 수명주기 전반에 걸쳐 모델을 관리할 때 사용합니다.
  • training-needs-analysis: 각 역할에 필요한 스킬을 정의할 때 사용합니다.
  • raci-matrix: 역할과 결정권을 명확히 할 때 사용합니다.
  • roi-analysis: AI 사용의 비용과 편익을 저울질할 때 사용합니다.

주요 출처

  • NIST, AI Risk Management Framework: 거버넌스와 조직의 역할을 포함하는 구조.
  • ISO/IEC 42001 (the standard itself): AI를 위한 관리 시스템 요구 사항으로, 최신 판은 발행처에서 읽으세요.
  • Marty Cagan, Empowered (2020): 제품 팀과 조직이 그들을 어떻게 지원하는지에 대해.
  • Wikipedia, "MLOps" and "Operating model": 수명주기와 개념의 개관.

참고 문헌

  1. Operating model — Wikipedia — https://en.wikipedia.org/wiki/Operating_model
  2. MLOps — Wikipedia — https://en.wikipedia.org/wiki/MLOps
  3. Center of excellence — Wikipedia — https://en.wikipedia.org/wiki/Center_of_excellence
  4. Product management — Wikipedia — https://en.wikipedia.org/wiki/Product_management
  5. Cost–benefit analysis — Wikipedia — https://en.wikipedia.org/wiki/Cost%E2%80%93benefit_analysis
  6. Digital literacy — Wikipedia — https://en.wikipedia.org/wiki/Digital_literacy
  7. Community of practice — Wikipedia — https://en.wikipedia.org/wiki/Community_of_practice
  8. Technological unemployment — Wikipedia — https://en.wikipedia.org/wiki/Technological_unemployment
  9. Return on investment — Wikipedia — https://en.wikipedia.org/wiki/Return_on_investment
  10. Proof of concept — Wikipedia — https://en.wikipedia.org/wiki/Proof_of_concept
  11. AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework