AI 거버넌스, 위험, 규정 준수
AI 거버넌스는 조직이 쓰는 모든 AI 시스템에 이름이 있는 오너, 데이터와 결정에 대한 분명한 규칙, 해악에 비례하는 위험 평가, 시험, 기록을 갖추게 합니다. ISO/IEC 42001, NIST AI 위험 관리 프레임워크, EU AI법 같은 프레임워크는 어휘와 구조를 제공할 뿐 법률 자문이 아닙니다.
왜 중요한가
AI는 여러 문으로 한꺼번에 조직에 들어옵니다. 벤더는 이미 비용을 내고 있는 도구에 AI 기능을 더합니다. 팀은 어시스턴트를 만듭니다. 개인은 업무에 공개 채팅 도구를 씁니다. 각 사용에는 조직이 아직 묻지 않았을 수 있는 질문이 따릅니다. 어떤 데이터가 들어가는가, 누가 보는가, 얼마나 정확한가, 그 결정으로 누가 영향을 받는가, 틀렸을 때 누가 답하는가.
거버넌스가 없으면 이 질문들은 사용마다 하나씩, 일관성 없이, 또는 전혀 답해지지 않습니다. 결과는 난처한 것에서 심각한 것까지 이릅니다. 공개 도구에 붙여 넣어진 기밀 문서, 어떤 집단을 더 나쁘게 대하는 선별 시스템, 고객에게 틀린 조언을 하는 어시스턴트, 통제의 증거를 요구하는데 아무것도 찾지 못하는 규제 기관.
거버넌스가 답이며, 무거울 필요는 없습니다. 핵심은 소수의 습관입니다. 어떤 AI를 쓰는지 알고, 각 사용에 오너를 두고, 잘못될 수 있는 것에 비례해 위험을 평가하고, 시험하고 모니터링하고, 데이터와 사람의 감독에 대한 규칙을 정하고, 기록을 남기는 것입니다. 법과 표준은 빠르게 발전하고 있습니다. Wikipedia가 설명하는 유럽 연합의 인공지능법은 위험 범주별로 의무를 정하며, 다른 많은 관할권에도 규칙이나 제안이 있습니다. 이 주제는 구조와 어휘를 설명하고 AI 거버넌스를 이미 갖고 있는 거버넌스에 맞추는 방법을 보여 줍니다. 법률 자문은 하지 않습니다. 법적 질문은 자격 있는 자문가에게 물으세요.
최신 ITIL 버전에 대한 소유자의 설명은 AI를 서비스 관리가 다뤄야 할 환경 안에 놓습니다(주제 1.3 — ITIL 5 참조). 이 주제는 AI의 일반적인 관점(주제 5.1 — 서비스 관리에서의 AI), 에이전트(주제 5.5 — 에이전트형 AI와 사람의 감독), 운영 모델(주제 5.8 — AI 운영 모델과 역량), 전사 거버넌스(주제 8.1 — 거버넌스, 리스크, 컴플라이언스)와 연결됩니다.
핵심 개념
거버넌스, 위험, 규정 준수(GRC). 거버넌스는 조직이 지시받고 통제되는 방식이고, 위험 관리는 목표에 대한 위협을 식별하고 처리하는 것이며, 규정 준수는 법, 계약, 정책의 의무를 충족하는 것입니다. Wikipedia는 GRC를 셋에 대한 통합된 접근으로 설명합니다. AI 거버넌스는 같은 논리를 AI에 적용합니다.
AI 재고. 사용 중이거나 개발 중인 모든 AI 시스템의 목록입니다. 목적, 오너, 벤더나 모델, 사용하는 데이터, 사용자와 영향받는 사람, 위험 수준, 상태입니다. 볼 수 없는 것은 거버넌스할 수 없습니다. 내장된 벤더 기능과 업무에 쓰는 개인 도구를 포함하세요.
위험 기반 접근. 통제의 수준은 잠재적 해악의 수준에 맞아야 합니다. 회의록을 요약하는 일과 입사 지원자의 순위를 매기는 일은 위험이 다릅니다. EU 인공지능법도 최소에서 용인 불가까지의 범주로 비슷한 접근을 취하며, Wikipedia가 그 범주를 설명합니다. 현재의 본문과 여러분 자신의 상황을 법률 자문가와 확인하세요.
AI를 위한 위험 평가. 각 사용에 대해 이렇게 물으세요. 누가 어떻게 해를 입을 수 있는가, 가능성과 심각도는 어떠한가, 시스템의 한계는 무엇인가, 틀렸을 때 어떤 일이 일어나는가, 대안은 무엇인가. Wikipedia가 위험 관리를 일반적으로 설명합니다. 평가와 오너의 결정을 기록하세요. Wikipedia가 설명하는 개인정보 영향 평가는 개인 데이터와 관련된 도구입니다.
표준과 프레임워크. 2023년에 발행된 ISO/IEC 42001은 다른 ISO 관리 시스템 표준과 구조가 비슷한 인공지능 관리 시스템의 요구 사항을 규정합니다. 미국 국립표준기술연구소(NIST)는 거버넌스(govern), 매핑(map), 측정(measure), 관리(manage)의 네 기능으로 구성된 AI 위험 관리 프레임워크를 발행합니다. 둘 다 구조와 공통 어휘를 위한 자발적 도구입니다. 현재의 본문은 발행처에서 읽으세요. 주제 1.8 — 서비스 관리 프레임워크와 표준을 참조하세요.
법과 규제. AI는 데이터 보호, 소비자 보호, 차별, 고용, 지식 재산법 같은 기존 법과 새로운 AI 전용 규칙의 적용을 받습니다. Wikipedia가 관할권 전반의 인공지능 규제를 설명하며, 이는 빠르게 바뀌고 있습니다. 의무는 어디에서 운영하고 무엇을 하느냐에 달려 있습니다. 이 가이드는 무엇이 적용되는지 알려 줄 수 없습니다.
데이터 보호와 프라이버시. AI 시스템은 흔히 개인 데이터를 처리합니다. 유럽 연합의 일반 개인정보 보호법(GDPR) 같은 법은 적법한 근거, 목적, 최소화, 개인의 권리, 경우에 따라 자동화된 결정에 대한 제한에 관한 규칙을 정합니다. Wikipedia가 GDPR과 프라이버시를 설명합니다. 개인정보 보호 책임자나 법률 자문가를 참여시키고, 데이터가 어디로 가는지, 얼마나 오래 보관되는지, 모델을 훈련시키는지를 기록하세요.
편향과 공정성. 과거 데이터로 훈련된 AI는 불공정한 패턴을 재현해 일부 사람이 더 나쁜 결과를 받게 할 수 있습니다. Wikipedia가 알고리즘 편향과 머신러닝의 공정성을 설명합니다. 사용과 관련된 집단 사이의 결과 차이를 시험하고, 평균 성능만이 아니라 누가 영향을 받는지 검토하세요. 출시 전에 무엇이 받아들여질 수 있는지 정하세요.
투명성과 설명 가능성. AI 시스템의 영향을 받는 사람은 그것이 쓰이고 있음을 알아야 하고, 중대한 결정에는 설명과 이의를 제기할 경로를 얻을 수 있어야 합니다. Wikipedia가 알고리즘 투명성과 설명 가능한 AI를 설명합니다. 알맞은 수준은 걸린 것에 달려 있습니다.
사람의 감독. 시스템을 이해하고, 의문을 제기하고, 무효화할 수 있는 사람이, 그럴 시간과 정보를 갖고 있는 것입니다. 주제 5.5 — 에이전트형 AI와 사람의 감독을 참조하세요. 서류상으로만 존재하는 감독은 흔한 지적 사항입니다.
안전과 보안. AI 시스템은 공격받을 수 있고(예컨대 프롬프트 인젝션), 데이터를 유출할 수 있고, 예기치 않게 행동할 수 있습니다. Wikipedia가 설명하는 레드팀은 적을 모의해 시스템을 시험하는 프랙티스입니다. 주제 3.13 — 정보 보안 관리를 참조하세요.
지식 재산. 모델을 훈련하는 데 쓰인 자료, 출력의 소유권, 모델 자체의 라이선스에 대해 질문이 생깁니다. Wikipedia가 지식 재산과 저작권을 설명합니다. 주제 4.2 — 소프트웨어 자산 관리를 참조하세요. 이것이 여러분에게 어떤 영향을 주는지 자문을 구하세요.
책임과 역할. 거버넌스에는 분명한 역할이 필요합니다. 경영진 후원자, 정책을 정하고 더 위험한 사용을 검토하는 기구, 각 시스템의 오너, 보안, 프라이버시, 법무의 전문가입니다. Wikipedia가 책임성을 설명합니다. 모든 것을 승인하고 일을 막는 위원회는 피하고, 검토는 더 위험한 사용에 남겨 두세요.
수명주기 통제. 통제는 시스템의 수명 전반에 적용됩니다. 설계(목적, 데이터, 위험), 구축 또는 구매(실사, 계약, 시험), 배포(승인, 모니터링), 운영(성능, 드리프트, 인시던트), 폐기입니다. 주제 3.14 — 공급자 관리를 참조하세요.
기록. 증거를 보관하세요. 재고, 위험 평가, 시험 결과, 승인, 인시던트 기록, 사용 로그입니다. 기록은 감사, 학습, 영향받는 사람들의 이의 제기를 뒷받침합니다.
렌즈는 어떻게 맞물리는가. 거버넌스는 AI 렌즈를 둘러싼 통제 계층입니다. 애자일 프랙티스는 팀이 기다리지 않고 쓸 수 있는 가드레일과 함께 비례적이고 빠른 검토를 제안합니다. 자동화는 민감한 데이터가 승인되지 않은 도구로 가는 것을 막는 것 같은 규칙을 강제할 수 있습니다. 분석은 모니터링 증거를 제공합니다.
모범 사례
- 먼저 재고를 만듭니다. 팀에 묻고, 벤더 설정을 확인하고, 네트워크와 경비 데이터를 검토하세요. 각 AI 시스템을 오너와 목적과 함께 기록하세요.
- 위험으로 분류합니다. 낮음(내부 텍스트 초안), 중간(고객 대면 답변), 높음(사람의 권리나 안전에 영향을 주는 결정) 같은 예시가 있는 몇 가지 위험 수준을 정의하세요. 검토의 수준을 위험의 수준에 연결하세요.
- 각 사용에 오너를 지정합니다. 시스템마다 책임지는 사람 한 명이 위험 평가에 서명하고 성능과 인시던트에 답합니다.
- 짧고 분명한 정책을 만듭니다. 어떤 데이터가 어떤 도구로 가도 되는지, 어떤 사용에 승인이 필요한지, 절대 해서는 안 되는 것이 무엇인지, 누구에게 물을지 적으세요. 몇 쪽으로 유지하고 예시를 게시하세요.
- 승인된 도구와 경로를 제공합니다. 직원에게 AI를 쓸 승인된 방법이 없으면 승인되지 않은 것을 쓸 것입니다. 알맞은 약관의 도구와 빠른 승인 경로를 제공하세요.
- 전에 평가하고 후에 시험합니다. 사용이 시작되기 전에 비례적인 위험 평가를 하고, 편향과 오용 점검을 포함해 현실적인 사례로 시험하세요. 중대한 변경 뒤에 반복하세요.
- 벤더와 약관을 점검합니다. 벤더에게 여러분의 데이터를 어떻게 쓰는지, 어떻게 시험하는지, 모델 변경을 어떻게 알리는지, 종료 시 데이터가 어떻게 되는지 물으세요. 답을 기록하세요. 주제 3.14 — 공급자 관리를 참조하세요.
- 실무에서 사람의 감독을 정의합니다. 사용마다 누가 무엇을 어떤 정보로 얼마나 자주 검토하는지 말하고, 검토를 표본 추출하세요.
- 모니터링하고 인시던트를 처리합니다. 오류, 불만, 드리프트, 보안 이벤트를 추적하세요. AI 인시던트를 다른 인시던트처럼 다루고 배우세요. 주제 3.2 — 인시던트 관리를 참조하세요.
- 정기적으로 검토하고 기록을 유지합니다. 최소 매년, 그리고 법이나 시스템이 바뀔 때 재고와 위험 수준을 다시 보세요. 증거를 한곳에 보관하세요.
팀과 논의할 질문
오늘 우리는 어디에 AI를 쓰고, 누가 각 사용을 소유하며, 무엇이 잘못될 수 있습니까? 첫 재고를 만드세요. 특히 벤더 기능과 개인 도구에서 공백이 예상됩니다. 더 깊이 들어가려면, 가장 위험한 세 가지를 골라 오너를 배정하세요.
우리의 사용 중 어느 것이 사람의 접근, 돈, 건강, 고용에 영향을 주며, 어떤 검토를 받습니까? 더 위험한 사용을 찾아보세요. 무엇이 해당되는지에 대한 불확실함이 예상됩니다. 더 깊이 들어가려면, 분류에 법률 및 개인정보 보호 자문가를 참여시키세요.
직원은 AI 도구에 어떤 데이터를 넣으며, 규칙을 알고 있습니까? 필요하면 익명으로 물으세요. 놀라움이 예상됩니다. 더 깊이 들어가려면, 예시가 있는 분명한 규칙에 합의하고 승인된 대안을 제공하세요.
규제 기관이나 고객이 우리가 AI를 어떻게 통제하는지 묻는다면 무엇을 보여 주겠습니까? 있는 것을 모아 보세요. 빈약한 파일이 예상됩니다. 더 깊이 들어가려면, 재고, 정책, 위험 평가 하나라는 세 문서를 만들기로 하세요.
불공정한 결과를 어떻게 시험하며, 어떤 집단을 살펴봐야 합니까? 각 사용으로 영향받는 사람들을 생각해 보세요. 아무도 시험하지 않았을 것으로 예상됩니다. 더 깊이 들어가려면, 사용 하나를 골라 자문을 받으며 집단 간의 단순한 비교를 설계하세요.
누가 AI 사용에 안 된다고 말할 수 있으며, 그러면 어떻게 됩니까? 멈출 힘이 없는 거버넌스는 장식입니다. 불분명한 답이 예상됩니다. 더 깊이 들어가려면, 더 위험한 사용의 결정권자와 검토의 서비스 수준을 정하세요.
실제 적용: 서비스 관리 사례
한 국립 사회보장 기관은 여러 곳에서 AI를 씁니다. 공개 웹사이트의 벤더 가상 에이전트, 담당자를 위해 사례 메모를 요약하는 도구, IT 직원이 쓰는 개발자 어시스턴트, 급여 청구의 오류 가능성을 검토용으로 표시하는 시범 사업입니다. 중앙 기록은 없으며, 장관실이 기관에 AI를 어떻게 통제하는지 물었습니다.
최고 정보 책임자는 서비스 관리 사무소에 6주 안에 재고를 만들라고 요청합니다. 사무소는 열한 가지 사용을 찾아내는데, IT 부서의 누구도 몰랐던 두 가지가 포함됩니다. 벤더가 사례 관리 시스템에서 켠 텍스트 요약 기능과, 한 지역 사무소가 개인 계정으로 쓰는 전사 도구입니다. 팀은 개인정보 보호 책임자 및 법무 부서와 함께 사용을 위험으로 분류합니다. 청구 표시 시범 사업은 출력이 한 사람에 대한 조치로 이어질 수 있으므로 높은 위험으로 분류되고, 사례 메모 요약은 중간이며, 개발자 어시스턴트는 라이선스 질문이 있지만 낮음입니다.
각 사용에 오너를 지정합니다. 청구 시범 사업의 오너는 집단 간 표시율 비교와, 도구의 출력만으로 누구도 급여를 거부당하지 않는다는 규칙을 포함한 위험 평가를 의뢰합니다. 전사 도구는 승인된 대안을 찾을 때까지 중단되고, 지역 사무소에는 데이터 보호 조항이 있는 계약의 벤더 승인 도구가 제공됩니다. 네 쪽짜리 정책이 데이터와 승인에 대한 규칙을 정하고, 중간 위험 사용에는 영업일 10일 안의 짧은 검토 경로가 약속됩니다.
달라진 점은 기관이 재고, 정책, 가장 위험한 사용의 위험 평가로 장관실에 답할 수 있다는 것입니다. 여전히 어려운 점은 기본으로 켜진 벤더 기능이 계속 나타나는데 기관에 그것을 발견할 자동 방법이 없다는 것, 집단 간 비교가 기관이 합법적으로 보유하지 못할 수 있는 데이터에 제한된다는 것, 검토 경로의 10일 약속이 작은 팀에 부담이라는 것입니다. 사무소는 분기별 벤더 기능 검토와 시험에 대한 법률 지침 요청을 계획합니다.
네 가지 관점
제품 및 전달 팀
AI 사용을 등록하고, 위험을 일찍 평가하고, 현실적이고 적대적인 사례로 시험하고, 시스템이 해도 되는 일을 기록하세요. 사람들이 결과에 이의를 제기하고 여러분이 시스템을 끌 수 있는 경로를 내장하세요.
서비스 및 운영 팀
운영 중인 AI 시스템을 모니터링하고, 인시던트를 처리하고, 오류와 불만을 보고하세요. 데이터 규칙을 따르고, 도구에 나타나는 새 AI 기능을 오너에게 알리세요.
리더십과 거버넌스
프로그램을 후원하고, 결정권을 지정하고, 작업에 재원을 대세요. 재고, 위험 수준, 시험의 증거를 요청하세요. 책임을 벤더나 위원회에 외주하지 마세요.
고객과 사용자
여러분에게 중요한 방식으로 AI가 쓰일 때 알림을 받아야 하고, 사람에게 닿아 결정에 이의를 제기할 수 있어야 합니다. 데이터가 어떻게 쓰이는지 물으세요. 틀리거나 불공정해 보이는 결과를 신고하세요.
애자일, AI, 자동화, 분석
애자일
승인된 도구와 위험이 낮은 사용을 위한 짧은 점검표처럼 팀이 따를 수 있는 가드레일과 함께 빠르고 비례적인 검토를 제공하세요. 팀과 함께 정책을 반복 개선하세요. 주의: 느리고 무거운 검토는 팀이 우회하게 만들므로, 위험이 낮은 경로는 빠르게 유지하세요.
AI
AI는 정책 초안 작성, 벤더 약관 읽기, 위험 평가 준비를 법률 및 사람의 검토 아래 도울 수 있습니다. 그 사용에도 오너를 지정하세요. 주의: 법이나 계약에 대한 AI의 요약은 틀릴 수 있으므로, 규정 준수 결정의 근거로 절대 쓰지 마세요. 주제 5.1 — 서비스 관리에서의 AI를 참조하세요.
자동화
재고 피드, 데이터 유출 방지 규칙, 위험이 낮은 사용의 승인, 로깅을 자동화하고 예외를 검토하세요. 주의: 자동 차단은 업무를 개인 장치로 몰 수 있으므로, 승인된 대안과 짝지으세요. 주제 6.1 — 자동화 전략을 참조하세요.
분석
오너와 평가가 있는 AI 사용의 비중, 인시던트, 불만, 시험 결과, 검토 시간을 추적하세요. 주의: 완료된 평가의 수를 세면 서류 작업에 보상이 가므로, 표본의 품질과 통제가 작동하는지 확인하세요. 서비스 관리 지표(Service Management Metrics) 책과 주제 7.3 — 측정과 보고를 참조하세요.
흔한 실패 유형
- 재고 없음. 사용이 보이지 않게 늘어납니다. 재고를 만들고 갱신하세요.
- 획일적인 검토. 모든 것이 막히거나 아무것도 검토되지 않습니다. 검토를 위험에 맞춰 조정하세요.
- 아무도 따를 수 없는 정책. 직원이 무시합니다. 예시가 있는 짧은 규칙을 쓰고 승인된 도구를 제공하세요.
- 서류 작업으로서의 거버넌스. 문서는 있는데 통제는 없습니다. 통제가 작동하는지 시험하세요.
- 벤더의 주장을 믿기. 약관과 행동이 점검되지 않습니다. 묻고, 시험하고, 기록하세요.
- 영향받는 사람 무시. 편향과 해악이 보이지 않습니다. 집단 전반의 결과를 시험하고 이의 제기 방법을 제공하세요.
- AI가 법률 자문을 제공할 수 있다고 여기기. 틀린 요약이 결정을 이끕니다. 자격 있는 자문가를 쓰세요.
성숙도 모델
| 영역 | 시작 | 발전 | 표준화 | 관리 | 오케스트레이션 |
|---|---|---|---|---|---|
| 재고와 오너십 | 사용을 모른다 | 주요 사용을 나열한다 | 오너와 위험 수준이 있는 재고 | 탐색으로 재고를 검토하고 검증한다 | 재고가 카탈로그, 조달, 통제와 통합된다 |
| 위험과 시험 | 임시방편 | 일부 평가 | 출시 전 비례적 평가와 시험 | 결과를 모니터링하고 그에 따라 행동한다 | 시스템과 공급자 전반에서 지속적 보증 |
| 정책과 데이터 | 없음 | 지침 초안 | 분명한 정책, 승인된 도구, 데이터 규칙 | 규정 준수를 모니터링하고 감사한다 | 도구로 규칙을 강제하고 변화에 맞춰 조정한다 |
| 감독과 책임 | 불분명하다 | 이름이 있는 후원자 | 정의된 역할, 검토 경로, 사람의 감독 | 감독의 품질을 표본 추출한다 | 전사와 파트너 전반에서 거버넌스를 조율한다 |
체크리스트
- 오너와 목적이 있는 AI 재고를 유지한다.
- 각 사용에 위험 수준이 있고, 그에 비례하는 검토가 있다.
- 짧은 정책이 데이터, 승인, 금지된 사용을 다룬다.
- 승인된 도구와 빠른 검토 경로가 있다.
- 더 위험한 사용에는 편향 점검을 포함한 기록된 위험 평가와 시험이 있다.
- 데이터, 시험, 모델 변경에 대한 벤더 약관을 기록한다.
- 사람의 감독을 정의하고 표본 추출한다.
- 우리의 의무에 대해 법률 및 개인정보 보호 자문가에게 물었다.
AI 프롬프트
메모로 재고 항목의 초안을 작성합니다.
Here are notes on an AI use: [paste].
Draft an inventory entry with: purpose, owner (only if stated), vendor or model (only if stated), data used, people affected, decisions it influences, and proposed risk level with the reasons. Mark each item not in the notes as [missing]. Do not state legal obligations.
List what you are unsure of.
벤더에게 할 질문을 준비합니다.
We are considering an AI product from a vendor for [use]. What we know of it: [paste].
Write 20 questions for the vendor about data use and retention, training on our data, testing for accuracy and bias, security, model changes, incident notification, and exit. Do not assume answers.
List what you are unsure of.
검토를 위한 위험 평가를 구조화합니다.
AI use: [describe]. People affected: [list]. Decisions influenced: [list]. Current controls: [list].
Draft a risk assessment table with: harm, who is affected, likelihood and severity (marked as my estimate to be confirmed), existing controls, further controls to consider, and questions for the owner. Do not give legal conclusions.
List what you are unsure of.
AI 스킬
- risk-register: AI 위험, 오너, 결정을 기록할 때 사용합니다.
- machine-learning-model-card: 모델의 목적, 데이터, 성능, 한계를 문서화할 때 사용합니다.
- legal-data-privacy-compliance: 법률 자문가에게 보낼 프라이버시 질문을 구성할 때 사용합니다.
- legal-compliance-audit: 감사를 위한 증거와 질문을 준비할 때 사용합니다.
- data-governance: AI가 쓰는 데이터의 오너십과 규칙을 정할 때 사용합니다.
주요 출처
- NIST, AI Risk Management Framework: AI 위험을 관리하기 위해 널리 쓰이는 자발적 프레임워크.
- ISO/IEC 42001 (the standard itself): AI 관리 시스템의 요구 사항으로, 최신 판은 발행처에서 읽으세요.
- The text of the European Union Artificial Intelligence Act and guidance from your own regulators: 법적 의무에 대한 권위 있는 출처.
- Wikipedia, "Regulation of artificial intelligence" and "Ethics of artificial intelligence": 지형의 개관.
참고 문헌
- Regulation of artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Regulation_of_artificial_intelligence
- Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
- Ethics of artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence
- Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
- Fairness (machine learning) — Wikipedia — https://en.wikipedia.org/wiki/Fairness_(machine_learning)
- General Data Protection Regulation — Wikipedia — https://en.wikipedia.org/wiki/General_Data_Protection_Regulation
- Privacy impact assessment — Wikipedia — https://en.wikipedia.org/wiki/Privacy_impact_assessment
- Governance, risk, and compliance — Wikipedia — https://en.wikipedia.org/wiki/Governance,_risk,_and_compliance
- Risk management — Wikipedia — https://en.wikipedia.org/wiki/Risk_management
- Red team — Wikipedia — https://en.wikipedia.org/wiki/Red_team
- Explainable artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Explainable_artificial_intelligence
- AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework