Llywodraethu, Risg a Chydymffurfio AI
Mae llywodraethu AI yn rhoi i sefydliad berchnogion a enwyd, rheolau clir ar ddata a phenderfyniadau, asesiad risg cymesur â niwed, profi, a chofnodion ar gyfer pob system AI y mae'n ei defnyddio; mae fframweithiau fel ISO/IEC 42001, Fframwaith Rheoli Risg AI NIST, a Deddf AI yr UE yn cyflenwi geirfa a strwythur, nid cyngor cyfreithiol.
Pam mae hyn yn bwysig
Mae AI yn cyrraedd sefydliad o lawer o ddrysau ar unwaith. Mae gwerthwyr yn ychwanegu nodweddion AI at yr offer rydych eisoes yn talu amdanynt. Mae timau'n adeiladu cynorthwywyr. Mae unigolion yn defnyddio offer sgwrs cyhoeddus ar gyfer eu gwaith. Mae pob defnydd yn cario cwestiynau efallai nad yw'r sefydliad wedi'u gofyn: pa ddata sy'n mynd i mewn, pwy sy'n ei weld, pa mor gywir ydyw, pwy sy'n cael ei effeithio gan ei benderfyniadau, a phwy sy'n ateb pan fo'n anghywir.
Heb lywodraethu, caiff y cwestiynau hynny eu hateb un defnydd ar y tro, yn anghyson, neu ddim o gwbl. Mae'r canlyniadau'n amrywio o'r chwithig i'r difrifol: dogfen gyfrinachol wedi'i gludo i offeryn cyhoeddus, system sgrinio sy'n trin rhai grwpiau'n waeth nag eraill, cynorthwyydd sy'n rhoi cyngor anghywir i gwsmer, rheoleiddiwr sy'n gofyn am dystiolaeth o reolaeth ac nad yw'n dod o hyd i ddim.
Llywodraethu yw'r ateb, ac nid oes angen iddo fod yn drwm. Yn ei graidd mae'n set fach o arferion: gwybod pa AI rydych yn ei ddefnyddio, rhoi perchennog i bob defnydd, asesu'r risg yn gymesur â'r hyn a allai fynd o'i le, profi a monitro, gosod rheolau am ddata a goruchwyliaeth ddynol, a chadw cofnodion. Mae cyfreithiau a safonau'n datblygu'n gyflym: mae Deddf Deallusrwydd Artiffisial yr Undeb Ewropeaidd, a ddisgrifir ar Wikipedia, yn gosod rhwymedigaethau yn ôl categori risg, ac mae gan lawer o awdurdodaethau eraill reolau neu gynigion. Mae'r pwnc hwn yn esbonio'r strwythur a'r eirfa ac yn dangos sut i ffitio llywodraethu AI i'r llywodraethu sydd gennych eisoes. Nid yw'n rhoi cyngor cyfreithiol; ar gyfer unrhyw gwestiwn cyfreithiol, gofynnwch i gynghorydd cymwys.
Mae disgrifiad y perchennog o'r fersiwn ddiweddaraf o ITIL yn gosod AI o fewn yr amgylchedd y mae'n rhaid i reoli gwasanaethau fynd i'r afael ag ef (gweler Pwnc 1.3 — ITIL 5). Mae'r pwnc hwn yn cysylltu â'r golwg gyffredinol ar AI (Pwnc 5.1 — AI mewn Rheoli Gwasanaethau), asiantiaid (Pwnc 5.5 — AI Asiantaidd a Goruchwyliaeth Ddynol), y model gweithredu (Pwnc 5.8 — Model Gweithredu a Sgiliau AI), a llywodraethu menter (Pwnc 8.1 — Llywodraethu, Risg a Chydymffurfio).
Cysyniadau craidd
Llywodraethu, risg a chydymffurfio (GRC). Llywodraethu yw sut mae sefydliad yn cael ei gyfarwyddo a'i reoli; mae rheoli risg yn nodi ac yn trin bygythiadau i amcanion; cydymffurfio yw bodloni rhwymedigaethau o gyfreithiau, contractau a pholisïau. Mae Wikipedia yn disgrifio GRC fel dull integredig o'r tri. Mae llywodraethu AI yn cymhwyso'r un rhesymeg i AI.
Rhestr AI. Rhestr o'r holl systemau AI sydd ar waith neu mewn datblygiad: diben, perchennog, gwerthwr neu fodel, data a ddefnyddir, defnyddwyr a phobl yr effeithir arnynt, lefel risg, a statws. Ni allwch lywodraethu'r hyn na allwch ei weld. Cynhwyswch nodweddion gwerthwyr wedi'u mewnosod ac offer personol a ddefnyddir ar gyfer gwaith.
Dull ar sail risg. Dylai lefel y rheolaeth gyd-fynd â lefel y niwed posibl. Mae crynhoi nodiadau cyfarfod yn cario risg wahanol i raddio ymgeiswyr am swyddi. Mae Deddf AI yr UE yn cymryd dull tebyg, gyda chategorïau'n rhedeg o risg isel iawn i risg annerbyniol; mae Wikipedia yn disgrifio'r categorïau. Gwiriwch y testun cyfredol a'ch sefyllfa eich hun gyda chynghorydd cyfreithiol.
Asesu risg ar gyfer AI. Ar gyfer pob defnydd, gofynnwch: pwy allai gael ei niweidio, a sut; pa mor debygol a pha mor ddifrifol; beth yw terfynau'r system; beth sy'n digwydd pan fo'n anghywir; a beth yw'r dewisiadau amgen. Mae Wikipedia yn disgrifio rheoli risg yn gyffredinol. Cofnodwch yr asesiad a phenderfyniad y perchennog. Mae asesiadau effaith preifatrwydd, a ddisgrifir ar Wikipedia, yn offeryn cysylltiedig ar gyfer data personol.
Safonau a fframweithiau. Mae ISO/IEC 42001, a gyhoeddwyd yn 2023, yn pennu gofynion ar gyfer system rheoli deallusrwydd artiffisial, yn debyg o ran strwythur i safonau system reoli ISO eraill. Mae'r National Institute of Standards and Technology (NIST) yn yr Unol Daleithiau yn cyhoeddi'r Fframwaith Rheoli Risg AI, wedi'i drefnu o gwmpas pedair swyddogaeth: llywodraethu, mapio, mesur a rheoli. Offer gwirfoddol ar gyfer strwythur ac eirfa a rennir yw'r ddau. Darllenwch y testunau cyfredol gan y cyhoeddwyr. Gweler Pwnc 1.8 — Fframweithiau a Safonau Rheoli Gwasanaethau.
Y gyfraith a rheoleiddio. Mae AI yn ddarostyngedig i gyfreithiau presennol, fel cyfraith diogelu data, diogelu defnyddwyr, gwahaniaethu, cyflogaeth ac eiddo deallusol, yn ogystal â rheolau newydd sy'n benodol i AI. Mae Wikipedia yn disgrifio rheoleiddio deallusrwydd artiffisial ar draws awdurdodaethau, sy'n newid yn gyflym. Mae rhwymedigaethau'n dibynnu ar ble rydych yn gweithredu a beth rydych yn ei wneud. Ni all y canllaw hwn ddweud wrthych beth sy'n berthnasol.
Diogelu data a phreifatrwydd. Mae systemau AI yn aml yn prosesu data personol. Mae cyfreithiau fel y Rheoliad Diogelu Data Cyffredinol (GDPR) yn yr Undeb Ewropeaidd yn gosod rheolau ar sail gyfreithlon, diben, lleihau, hawliau unigolion, ac mewn rhai achosion derfynau ar benderfyniadau awtomataidd. Mae Wikipedia yn disgrifio'r GDPR a phreifatrwydd. Cynhwyswch eich swyddog preifatrwydd neu gynghorydd cyfreithiol, a chofnodwch ble mae data'n mynd, am ba mor hir y caiff ei gadw, ac a yw'n hyfforddi unrhyw fodel.
Tuedd a thegwch. Gall AI a hyfforddwyd ar ddata'r gorffennol atgynhyrchu patrymau annheg, fel bod rhai pobl yn cael canlyniadau gwaeth. Mae Wikipedia yn disgrifio tuedd algorithmig a thegwch mewn dysgu peirianyddol. Profwch am wahaniaethau mewn canlyniadau ar draws grwpiau sy'n berthnasol i'r defnydd, ac adolygwch pwy sy'n cael ei effeithio, nid dim ond perfformiad cyfartalog. Penderfynwch beth sy'n dderbyniol cyn lansio.
Tryloywder ac eglurhad. Dylai pobl yr effeithir arnynt gan system AI wybod ei bod yn cael ei defnyddio, ac ar gyfer penderfyniadau arwyddocaol dylent allu cael esboniad a llwybr i herio. Mae Wikipedia yn disgrifio tryloywder algorithmig ac AI eglurhaol. Mae'r lefel gywir yn dibynnu ar y polion.
Goruchwyliaeth ddynol. Unigolyn a all ddeall, cwestiynu a diystyru'r system, gyda'r amser a'r wybodaeth i wneud hynny. Gweler Pwnc 5.5 — AI Asiantaidd a Goruchwyliaeth Ddynol. Mae goruchwyliaeth sy'n bodoli ar bapur yn unig yn ganfyddiad cyffredin.
Diogelwch. Gall systemau AI gael eu hymosod arnynt (er enghraifft trwy chwistrellu anogwr), gallant ollwng data, a gallant ymddwyn yn annisgwyl. Tîm coch (red-teaming), a ddisgrifir ar Wikipedia, yw'r arfer o brofi system trwy efelychu gwrthwynebwr. Gweler Pwnc 3.13 — Rheoli Diogelwch Gwybodaeth.
Eiddo deallusol. Mae cwestiynau'n codi am y deunydd a ddefnyddir i hyfforddi modelau, perchnogaeth allbynnau, a thrwyddedau'r modelau eu hunain. Mae Wikipedia yn disgrifio eiddo deallusol a hawlfraint. Gweler Pwnc 4.2 — Rheoli Asedau Meddalwedd. Cymerwch gyngor ar sut mae'r rhain yn effeithio arnoch.
Atebolrwydd a rolau. Mae llywodraethu angen rolau clir: noddwr gweithredol, corff sy'n gosod polisi ac yn adolygu defnyddiau risg uwch, perchnogion ar gyfer pob system, ac arbenigwyr mewn materion diogelwch, preifatrwydd a chyfreithiol. Mae Wikipedia yn disgrifio atebolrwydd. Osgowch bwyllgor sy'n cymeradwyo popeth ac yn rhwystro gwaith; neilltuwch adolygiad ar gyfer defnyddiau risg uwch.
Rheolaethau cylch bywyd. Mae rheolaethau'n berthnasol ar draws oes system: dylunio (diben, data, risg), adeiladu neu brynu (diwydrwydd dyladwy, contractau, profi), defnyddio (cymeradwyo, monitro), gweithredu (perfformiad, drifft, digwyddiadau), ac ymddeol. Gweler Pwnc 3.14 — Rheoli Cyflenwyr.
Cofnodion. Cadwch dystiolaeth: y rhestr, asesiadau risg, canlyniadau profion, cymeradwyaethau, cofnodion digwyddiadau, a logiau defnydd. Mae cofnodion yn cefnogi archwiliadau, dysgu, a heriau gan y bobl yr effeithir arnynt.
Sut mae'r lensys yn ffitio. Llywodraethu yw'r haen reoli o amgylch y lens AI. Mae arfer ystwyth yn awgrymu adolygiad cymesur, cyflym, gyda chanllawiau diogelu y gall timau eu defnyddio heb aros. Gall awtomeiddio orfodi rheolau, fel rhwystro data sensitif rhag mynd i offer anghymeradwy. Mae dadansoddeg yn darparu'r dystiolaeth fonitro.
Arferion gorau
- Adeiladwch y rhestr yn gyntaf. Gofynnwch i dimau, gwiriwch osodiadau gwerthwyr, ac adolygwch ddata rhwydwaith a threuliau. Cofnodwch bob system AI gyda pherchennog a diben.
- Dosbarthwch yn ôl risg. Diffiniwch ychydig o lefelau risg gydag enghreifftiau, fel isel (drafftio testun mewnol), canolig (atebion sy'n wynebu cwsmeriaid), ac uchel (penderfyniadau sy'n effeithio ar hawliau neu ddiogelwch pobl). Clymwch lefel yr adolygiad wrth lefel y risg.
- Enwch berchennog ar gyfer pob defnydd. Un unigolyn atebol i bob system, sy'n llofnodi'r asesiad risg ac yn ateb am berfformiad a digwyddiadau.
- Gwnewch bolisi byr, clir. Nodwch pa ddata gaiff fynd i ba offer, pa ddefnyddiau sydd angen cymeradwyaeth, beth na ddylid ei wneud byth, a phwy i ofyn. Cadwch ef i ychydig dudalennau, a chyhoeddwch enghreifftiau.
- Darparwch offer a llwybrau cymeradwy. Os nad oes gan staff ffordd gymeradwy o ddefnyddio AI, byddant yn defnyddio rhai anghymeradwy. Cynigiwch offer gyda'r telerau cywir a llwybr cyflym i gymeradwyaeth.
- Aseswch cyn a phrofwch wedyn. Gwnewch asesiad risg cymesur cyn i ddefnydd fynd yn fyw, a phrofwch gydag achosion realistig, gan gynnwys gwiriadau am dueddiad a chamddefnydd. Ailadroddwch ar ôl newidiadau sylweddol.
- Gwiriwch werthwyr a thelerau. Gofynnwch i werthwyr sut maent yn defnyddio eich data, sut maent yn profi, sut maent yn dweud wrthych am newidiadau model, a beth sy'n digwydd i ddata ar y diwedd. Cofnodwch atebion. Gweler Pwnc 3.14 — Rheoli Cyflenwyr.
- Diffiniwch oruchwyliaeth ddynol yn ymarferol. Ar gyfer pob defnydd, dywedwch pwy sy'n adolygu beth, gyda pha wybodaeth, a pha mor aml, a samplwch yr adolygiadau.
- Monitrwch a thrinwch ddigwyddiadau. Tracwch wallau, cwynion, drifft a digwyddiadau diogelwch. Trinwch ddigwyddiadau AI fel digwyddiadau eraill, a dysgwch ohonynt. Gweler Pwnc 3.2 — Rheoli Digwyddiadau.
- Adolygwch yn rheolaidd a chadwch gofnodion. Ailedrychwch ar y rhestr a lefelau risg o leiaf yn flynyddol a phan fydd cyfreithiau neu systemau'n newid. Cadwch y dystiolaeth mewn un lle.
Cwestiynau i'w trafod gyda'ch tîm
Ymhle rydym yn defnyddio AI heddiw, pwy sy'n berchen ar bob defnydd, a beth allai fynd o'i le? Adeiladwch restr gyntaf. Disgwyliwch fylchau, yn enwedig nodweddion gwerthwyr ac offer personol. Dilynwch trwy ddewis y tri mwyaf peryglus a neilltuo perchnogion.
Pa rai o'n defnyddiau sy'n effeithio ar fynediad, arian, iechyd neu gyflogaeth pobl, a pha adolygiad y maent yn ei gael? Chwiliwch am ddefnyddiau risg uwch. Disgwyliwch ansicrwydd ynghylch beth sy'n cyfrif. Dilynwch trwy gynnwys cynghorwyr cyfreithiol a phreifatrwydd yn y dosbarthu.
Pa ddata mae staff yn ei roi i offer AI, ac a ydynt yn gwybod y rheolau? Gofynnwch yn ddienw os oes angen. Disgwyliwch bethau annisgwyl. Dilynwch trwy gytuno ar reol glir gydag enghreifftiau a thrwy ddarparu dewis amgen cymeradwy.
Beth fydden ni'n ei ddangos i reoleiddiwr neu gwsmer a ofynnodd sut rydym yn rheoli ein AI? Casglwch yr hyn sy'n bodoli. Disgwyliwch ffeil denau. Dilynwch trwy ddewis tair dogfen i'w cynhyrchu: rhestr, polisi, ac un asesiad risg.
Sut rydym yn profi am ganlyniadau annheg, ac ar ba grwpiau y dylem edrych? Meddyliwch am y bobl yr effeithir arnynt gan bob defnydd. Disgwyliwch nad oes neb wedi profi. Dilynwch trwy ddewis un defnydd a dylunio cymhariaeth syml ar draws grwpiau, gyda chyngor.
Pwy all ddweud na i ddefnydd AI, a beth sy'n digwydd pan fyddant yn gwneud hynny? Mae llywodraethu heb y pŵer i stopio yn addurniadol. Disgwyliwch atebion aneglur. Dilynwch trwy enwi'r gwneuthurwr penderfyniadau ar gyfer defnyddiau risg uwch a lefel gwasanaeth ar gyfer adolygiadau.
Yn ymarferol: enghraifft o reoli gwasanaethau
Mae asiantaeth nawdd cymdeithasol genedlaethol yn defnyddio AI mewn sawl man: asiant rhithwir gwerthwr ar ei gwefan gyhoeddus, offeryn sy'n crynhoi nodiadau achosion i weithwyr achosion, cynorthwyydd datblygwr a ddefnyddir gan ei staff TG, a threial sy'n nodi gwallau posibl mewn hawliadau budd-dal i'w hadolygu. Nid oes cofnod canolog yn bodoli, ac mae swyddfa gweinidog wedi gofyn i'r asiantaeth sut mae'n rheoli AI.
Mae'r prif swyddog gwybodaeth yn gofyn i'r swyddfa rheoli gwasanaethau adeiladu rhestr mewn chwe wythnos. Mae'n canfod un defnydd ar ddeg, gan gynnwys dau nad oedd neb yn yr adran TG yn gwybod amdanynt: nodwedd crynhoi testun a droes gwerthwr ymlaen yn y system rheoli achosion, ac offeryn trawsgrifio a ddefnyddir gan un swyddfa ranbarthol ar gyfrifon personol. Mae'r tîm yn dosbarthu defnyddiau yn ôl risg gyda'r swyddog preifatrwydd a'r adran gyfreithiol. Dosberthir y treial nodi hawliadau fel risg uchel, gan y gallai ei allbwn arwain at gamau yn erbyn unigolyn; mae crynodeb nodiadau achosion yn ganolig; mae cynorthwyydd y datblygwr yn isel, er ei fod yn cario cwestiynau trwyddedu.
Ar gyfer pob defnydd, enwir perchennog. Ar gyfer y treial hawliadau, mae'r perchennog yn comisiynu asesiad risg, gan gynnwys cymhariaeth o gyfraddau nodi ar draws grwpiau a rheol na wrthodir budd-dal i neb byth ar allbwn yr offeryn yn unig. Caiff yr offeryn trawsgrifio ei stopio nes dod o hyd i ddewis amgen cymeradwy; cynigir offeryn a gymeradwywyd gan y gwerthwr i'r swyddfa ranbarthol dan gontract gyda thelerau diogelu data. Mae polisi pedair tudalen yn gosod rheolau ar ddata a chymeradwyaethau, ac addewir llwybr adolygu byr o fewn deg diwrnod gwaith ar gyfer defnyddiau risg ganolig.
Beth sy'n newid: gall yr asiantaeth ateb y weinidogaeth gyda rhestr, polisi ac asesiad risg ar gyfer ei defnydd risg uchaf. Beth sy'n parhau'n anodd: mae nodweddion gwerthwyr a droir ymlaen yn ddiofyn yn dal i ymddangos, ac nid oes gan yr asiantaeth ffordd awtomatig o'u darganfod; mae'r gymhariaeth ar draws grwpiau wedi'i chyfyngu gan ddata na chaiff yr asiantaeth ei ddal yn gyfreithlon o bosibl; ac mae addewid y llwybr adolygu o ddeg diwrnod yn straenio tîm bach. Mae'r swyddfa'n cynllunio adolygiad chwarterol o nodweddion gwerthwyr a chais am arweiniad cyfreithiol ar brofi.
Pedwar persbectif
Timau cynnyrch a chyflawni
Cofrestrwch eich defnyddiau AI, aseswch risg yn gynnar, profwch gydag achosion realistig a gwrthwynebus, a chofnodwch beth gaiff y system ei wneud. Adeiladwch lwybr i bobl herio canlyniadau ac i chi ei ddiffodd.
Timau gwasanaeth a gweithrediadau
Monitrwch systemau AI mewn cynhyrchu, triniwch ddigwyddiadau, ac adroddwch wallau a chwynion. Dilynwch y rheolau data, a dywedwch wrth berchnogion am nodweddion AI newydd sy'n ymddangos yn eich offer.
Arweinyddiaeth a llywodraethu
Noddwch y rhaglen, enwch hawliau penderfynu, ac ariennwch y gwaith. Gofynnwch am y rhestr, y lefelau risg, a thystiolaeth o brofi. Peidiwch ag allanoli atebolrwydd i werthwyr na phwyllgorau.
Cwsmeriaid a defnyddwyr
Dylid dweud wrthych pan fydd AI yn cael ei ddefnyddio mewn ffyrdd sy'n bwysig i chi, a gallu cyrraedd unigolyn a herio penderfyniadau. Gofynnwch sut y defnyddir eich data, ac adroddwch ganlyniadau sy'n ymddangos yn anghywir neu'n annheg.
Ystwyth, AI, awtomeiddio a dadansoddeg
Ystwyth
Darparwch adolygiad cyflym, cymesur gyda chanllawiau diogelu y gall timau eu dilyn, fel offer cymeradwy a rhestr wirio fer ar gyfer defnyddiau risg isel. Iteriwch ar y polisi gyda thimau. Rhybudd: mae adolygiad araf, trwm yn gwthio timau i'w osgoi; cadwch y llwybr risg isel yn gyflym.
AI
Gall AI helpu i ddrafftio polisïau, darllen telerau gwerthwyr, a pharatoi asesiadau risg, gydag adolygiad cyfreithiol a dynol. Enwch berchennog ar gyfer y defnydd hwnnw hefyd. Rhybudd: gall crynodeb AI o gyfraith neu gontract fod yn anghywir; peidiwch byth â'i ddefnyddio fel sail penderfyniad cydymffurfio. Gweler Pwnc 5.1 — AI mewn Rheoli Gwasanaethau.
Awtomeiddio
Awtomeiddiwch borthiannau'r rhestr, rheolau atal colli data, cymeradwyaethau ar gyfer defnyddiau risg isel, a logio, gydag eithriadau'n cael eu hadolygu. Rhybudd: gall rhwystro awtomatig yrru gwaith i ddyfeisiau personol; pârwch ef â dewisiadau amgen cymeradwy. Gweler Pwnc 6.1 — Strategaeth Awtomeiddio.
Dadansoddeg
Tracwch gyfran defnyddiau AI â pherchnogion ac asesiadau, digwyddiadau, cwynion, canlyniadau profion, ac amser i adolygu. Rhybudd: gall cyfrif asesiadau a gwblhawyd wobrwyo gwaith papur; gwiriwch sampl am ansawdd ac a yw rheolaethau'n gweithio. Gweler y llyfr Service Management Metrics a Phwnc 7.3 — Mesur ac Adrodd.
Dulliau methu cyffredin
- Dim rhestr. Mae defnyddiau'n lluosi heb eu gweld. Adeiladwch ac adnewyddwch y rhestr.
- Adolygiad un maint i bawb. Mae popeth yn cael ei rwystro neu ni adolygir dim. Graddiwch adolygiad i risg.
- Polisi na all neb ei ddilyn. Mae staff yn ei anwybyddu. Ysgrifennwch reolau byr gydag enghreifftiau a darparwch offer cymeradwy.
- Llywodraethu fel gwaith papur. Mae dogfennau'n bodoli ac nid yw rheolaethau. Profwch fod rheolaethau'n gweithio.
- Ymddiried mewn honiadau gwerthwyr. Nid yw telerau ac ymddygiad yn cael eu gwirio. Gofynnwch, profwch a chofnodwch.
- Anwybyddu pobl yr effeithir arnynt. Mae tuedd a niwed yn mynd heb eu gweld. Profwch ganlyniadau ar draws grwpiau a chynigiwch ffordd i herio.
- Trin cyngor cyfreithiol fel rhywbeth y gall AI ei gyflenwi. Mae crynodebau anghywir yn gyrru penderfyniadau. Defnyddiwch gynghorwyr cymwys.
Model aeddfedrwydd
| Dimensiwn | Cychwyn | Datblygu | Safoni | Rheoli | Cydlynu |
|---|---|---|---|---|---|
| Rhestr a pherchnogaeth | Defnyddiau anhysbys | Prif ddefnyddiau wedi'u rhestru | Rhestr gyda pherchnogion a lefelau risg | Rhestr yn cael ei hadolygu a'i gwirio trwy ddarganfod | Rhestr wedi'i hintegreiddio â'r catalog, caffael a rheolaethau |
| Risg a phrofi | Ad hoc | Rhai asesiadau | Asesu a phrofi cymesur cyn lansio | Canlyniadau'n cael eu monitro a gweithredu arnynt | Sicrwydd parhaus ar draws systemau a chyflenwyr |
| Polisi a data | Dim | Arweiniad drafft | Polisi clir, offer cymeradwy a rheolau data | Cydymffurfiaeth yn cael ei monitro a'i harchwilio | Rheolau'n cael eu gorfodi gan offer ac yn addasu i newid |
| Goruchwyliaeth ac atebolrwydd | Aneglur | Noddwr a enwyd | Rolau, llwybr adolygu a goruchwyliaeth ddynol wedi'u diffinio | Ansawdd goruchwyliaeth yn cael ei samplu | Llywodraethu wedi'i gydlynu ar draws y fenter a phartneriaid |
Rhestr wirio
- Rydym yn cadw rhestr AI gyda pherchnogion a dibenion.
- Mae gan bob defnydd lefel risg, gydag adolygiad cymesur â hi.
- Mae polisi byr yn cwmpasu data, cymeradwyaethau a defnyddiau gwaharddedig.
- Mae offer cymeradwy a llwybr adolygu cyflym yn bodoli.
- Mae gan ddefnyddiau risg uwch asesiad risg wedi'i gofnodi a phrofion, gan gynnwys am dueddiad.
- Cofnodir telerau gwerthwyr ar ddata, profi a newidiadau model.
- Mae goruchwyliaeth ddynol wedi'i diffinio ac yn cael ei samplu.
- Rydym wedi gofyn i gynghorwyr cyfreithiol a phreifatrwydd am ein rhwymedigaethau.
Anogwyr AI
Drafftio cofnod rhestr o nodiadau.
Dyma nodiadau ar ddefnydd AI: [gludwch].
Drafftiwch gofnod rhestr gyda: diben, perchennog (os nodir yn unig), gwerthwr neu fodel (os nodir yn unig), data a ddefnyddir, pobl yr effeithir arnynt, penderfyniadau y mae'n dylanwadu arnynt, a lefel risg arfaethedig gyda'r rhesymau. Nodwch bob eitem nad yw yn y nodiadau fel [ar goll]. Peidiwch â datgan rhwymedigaethau cyfreithiol.
Rhestrwch y pethau rydych yn ansicr ohonynt.
Paratoi cwestiynau i werthwr.
Rydym yn ystyried cynnyrch AI gan werthwr ar gyfer [defnydd]. Yr hyn a wyddom amdano: [gludwch].
Ysgrifennwch 20 cwestiwn i'r gwerthwr am ddefnyddio a chadw data, hyfforddi ar ein data, profi am gywirdeb a thuedd, diogelwch, newidiadau model, hysbysu am ddigwyddiadau, ac ymadael. Peidiwch â thybio atebion.
Rhestrwch y pethau rydych yn ansicr ohonynt.
Strwythuro asesiad risg i'w adolygu.
Defnydd AI: [disgrifiwch]. Pobl yr effeithir arnynt: [rhestrwch]. Penderfyniadau a ddylanwadir: [rhestrwch]. Rheolaethau cyfredol: [rhestrwch].
Drafftiwch dabl asesu risg gyda: niwed, pwy sy'n cael ei effeithio, tebygolrwydd a difrifoldeb (wedi'u nodi fel fy amcangyfrif i'w gadarnhau), rheolaethau presennol, rheolaethau pellach i'w hystyried, a chwestiynau i'r perchennog. Peidiwch â rhoi casgliadau cyfreithiol.
Rhestrwch y pethau rydych yn ansicr ohonynt.
Sgiliau AI
- risk-register: defnyddiwch i gofnodi risgiau AI, perchnogion a phenderfyniadau.
- machine-learning-model-card: defnyddiwch i ddogfennu diben, data, perfformiad a therfynau model.
- legal-data-privacy-compliance: defnyddiwch i fframio cwestiynau preifatrwydd ar gyfer eich cynghorydd cyfreithiol.
- legal-compliance-audit: defnyddiwch i baratoi tystiolaeth a chwestiynau ar gyfer archwiliad.
- data-governance: defnyddiwch i osod perchnogaeth a rheolau ar gyfer y data y mae AI yn ei ddefnyddio.
Prif ffynonellau
- NIST, AI Risk Management Framework: fframwaith gwirfoddol a ddefnyddir yn eang ar gyfer rheoli risgiau AI.
- ISO/IEC 42001 (y safon ei hun): gofynion ar gyfer system rheoli AI; darllenwch yr argraffiad cyfredol gan y cyhoeddwr.
- Testun Deddf Deallusrwydd Artiffisial yr Undeb Ewropeaidd ac arweiniad gan eich rheoleiddwyr eich hun: ffynonellau awdurdodol ar rwymedigaethau cyfreithiol.
- Wikipedia, "Regulation of artificial intelligence" a "Ethics of artificial intelligence": trosolygon o'r tirlun.
Cyfeiriadau
- Regulation of artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Regulation_of_artificial_intelligence
- Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
- Ethics of artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence
- Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
- Fairness (machine learning) — Wikipedia — https://en.wikipedia.org/wiki/Fairness_(machine_learning)
- General Data Protection Regulation — Wikipedia — https://en.wikipedia.org/wiki/General_Data_Protection_Regulation
- Privacy impact assessment — Wikipedia — https://en.wikipedia.org/wiki/Privacy_impact_assessment
- Governance, risk, and compliance — Wikipedia — https://en.wikipedia.org/wiki/Governance,_risk,_and_compliance
- Risk management — Wikipedia — https://en.wikipedia.org/wiki/Risk_management
- Red team — Wikipedia — https://en.wikipedia.org/wiki/Red_team
- Explainable artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Explainable_artificial_intelligence
- AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework