Diweddariad ar ein dull o reoleiddio deallusrwydd artiffisial

Y Comisiwn Cydraddoldeb a Hawliau Dynol yw'r rheoleiddiwr cydraddoldeb annibynnol ar gyfer Cymru, Lloegr a'r Alban a Sefydliad Hawliau Dynol Cenedlaethol statws 'A' a gydnabyddir gan y Cenhedloedd Unedig. Mae gennym fandad statudol i gynghori’r llywodraeth a Senedd y DU ar faterion yn ymwneud â chydraddoldeb a hawliau dynol, ac i hyrwyddo ac amddiffyn cydraddoldeb a hawliau dynol ledled Prydain.

Mae deallusrwydd artiffisial (AI) wedi bod yn flaenoriaeth i ni ers 2022. Cydnabyddir yn eang, er bod gan AI botensial mawr i fod o fudd i gymdeithas, ei fod hefyd yn dod ag ystod eang o risgiau, gan gynnwys risgiau o ragfarn a gwahaniaethu yn ogystal â risgiau i hawliau dynol. Felly mae gennym rôl bwysig i'w chwarae o ran cefnogi arloesedd cyfrifol a theg a'r defnydd o AI.

Mae sgandal system gyfrifiadurol Swyddfa'r Post Horizon a arweiniodd at erlyn postfeistri diniwed yn dangos yn glir y risgiau o orddibyniaeth ar allbynnau systemau cyfrifiadurol. Mae systemau AI heddiw lawer gwaith yn fwy pwerus a chymhleth na system Horizon. Felly mae rheoleiddio AI cryf, effeithiol gyda digon o adnoddau yn hanfodol i liniaru'r risgiau a meithrin ymddiriedaeth mewn systemau AI.

Fodd bynnag, rheoleiddiwr strategol bach ydym. Mae ein cyllideb wedi aros yn sefydlog ar £17.1miliwn ers 2016, sy’n gyfystyr â thoriad o fwy na 30% dros yr amser hwnnw. Mae ein gallu i gynyddu ac ymateb i'r risgiau i gydraddoldeb a hawliau dynol a gyflwynir gan AI yn gyfyngedig felly. Er bod gennym rôl bwysig wrth reoleiddio AI, mae'n rhaid i ni flaenoriaethu ein gwaith. Mae ein dull o reoleiddio AI a nodir yma yn adlewyrchu'r cyfyngiadau hyn.

Mae'r Comisiwn Cydraddoldeb a Hawliau Dynol yn rheoleiddiwr strategol bach o'i gymharu â llawer o'r rheoleiddwyr presennol eraill y gelwir arnynt i chwarae rhan mewn rheoleiddio AI. Mae ein cylch gwaith yn eang. Ers i ni gael ein sefydlu, ein hymagwedd ehangach fel rheoleiddiwr Deddf Cydraddoldeb 2010 fu cymryd agwedd strategol â ffocws tuag at gymryd camau rheoleiddio, gan flaenoriaethu nifer fach o faterion pwysig a strategol yn hytrach na cheisio mynd i’r afael â phob achos o dorri amodau y gyfraith.

Mae ein maint a’n cyfyngiadau o ran adnoddau wedi golygu ein bod wedi mabwysiadu ymagwedd debyg at ein gwaith sy’n datblygu i reoleiddio AI, gan roi blaenoriaeth i ddechrau i ddeall y defnydd o’n hysgogiadau rheoleiddio mwy unigryw fel Dyletswydd Cydraddoldeb y Sector Cyhoeddus.

Rydym yn cydnabod y manteision posibl i gymdeithas a gynrychiolir gan ddyfodiad a defnydd AI. Er enghraifft, mae eisoes yn dangos difidendau enfawr mewn iechyd wrth gefnogi diagnosis canser. Ond mae AI hefyd yn dod â risgiau, o ran yr allbynnau y mae'n eu cynhyrchu, yn ogystal â defnydd anghyfrifol. Dyna pam y gwnaethom gyflwyno ffocws penodol ar AI yn ein cynllun strategol presennol ar gyfer 2022–25.

Rydym wedi dysgu llawer iawn yn ystod dwy flynedd gyntaf ein ffocws ar AI, ar yr un pryd â bod yn dyst i ffrwydrad mewn arloesedd AI.

Rydym wedi ceisio gweithio'n adeiladol gyda'r llywodraeth a rheoleiddwyr eraill i nodi a sefydlu fframwaith cadarn a chydlynol ar gyfer rheoleiddio AI. Yn ein hymateb i Bapur Gwyn y llywodraeth 'Dull gweithredu o blaid arloesi i reoleiddio AI', fe wnaethom nodi ein huchelgais i fod yn rheoleiddiwr AI effeithiol, gan gefnogi arloesedd cyfrifol a theg a'r defnydd o AI. Ond roeddem hefyd yn glir bod yn rhaid i’r uchelgais hwn, a disgwyliadau’r llywodraeth, gael eu cyfatebu gan gyllid ychwanegol i’n galluogi i ehangu ein gwaith a chwrdd â’r her.

Mae gennym gylch gwaith sydd â'r potensial i dorri ar draws pob sector, gan arwain at feysydd cyfrifoldeb rheoleiddio lle ni yw'r unig reoleiddiwr ac eraill lle mae ein cylch gwaith rheoleiddio yn rhyngweithio â rheoleiddwyr eraill. Bydd achosion, hyd yn oed pan nad ni yw unig reoleiddiwr deiliad dyletswydd, efallai y bydd gennym yr offer rheoleiddio mwyaf priodol i gymryd camau i fynd i'r afael â mater. Mae yna rôl arweiniol a chynnull i ni mewn perthynas â’r egwyddor tegwch a nodir ym Mhapur Gwyn y llywodraeth, lle mae aliniad cryf amlwg rhwng ein cylch gwaith ac uchelgeisiau’r Papur Gwyn.

Mae gan y defnydd o AI y potensial i arwain at dorri Deddf Cydraddoldeb 2010 a Deddf Hawliau Dynol 1998 mewn sawl ffordd. Ers i ni nodi AI fel un o’n blaenoriaethau strategol yn 2022, rydym wedi datblygu’n sylweddol ein dealltwriaeth o’r risgiau posibl y mae AI yn eu cyflwyno yn ein cylch gwaith rheoleiddio penodol. Fodd bynnag, o anghenraid, mae’r ddealltwriaeth hon wedi’i seilio’n bennaf ar ddull a arweinir gan egwyddorion, yn hytrach nag archwiliad manwl o’r risgiau penodol ar draws pob sector.

Rydym wedi datblygu perthnasoedd cryf gyda rheoleiddwyr eraill yn y maes hwn yn unigol a thrwy Fforwm Cydweithredu Rheoleiddwyr Digidol (DRCF). Mae rôl unigryw i ni ei chwarae wrth ddarparu arbenigedd ar gydraddoldeb a hawliau dynol, cefnogi rheolyddion eraill i ddeall a lliniaru’r risgiau cydraddoldeb a hawliau dynol a achosir gan AI a chwarae rhan arweiniol fel cynullydd yr egwyddor tegwch, fel y manylir ym Mhapur Gwyn y Llywodraeth. Mae gennym hefyd rôl arbennig i’w chwarae wrth gefnogi, arwain a gorfodi cydymffurfiaeth â Dyletswydd Cydraddoldeb y Sector Cyhoeddus, yn ogystal â meysydd eraill lle ni yw’r unig reoleiddiwr neu lle mae ein hoffer rheoleiddio yn cael yr effaith fwyaf er mwyn sicrhau cydymffurfiaeth.

Ym mis Chwefror 2023, llofnodwyd memorandwm cyd-ddealltwriaeth gyda Swyddfa'r Comisiwn Gwybodaeth (ICO) yn benodol i hwyluso cydweithrediad agosach ar ein gwaith AI priodol. Rydym yn ymgysylltu’n rheolaidd i roi cyngor a chymorth ar ganllawiau a deunyddiau eraill, er enghraifft, ein gwaith gyda’n gilydd ar yr Her Arloesi Tegwch a arweinir gan yr Adran Gwyddoniaeth, Arloesedd a Thechnoleg.

Ers blaenoriaethu AI yn ein cynllun strategol ar gyfer 2022–25, rydym wedi canolbwyntio ar ddatblygu ein dealltwriaeth o’r materion allweddol sy’n berthnasol i’n cylch gwaith eang, gan sefydlu perthnasoedd gwaith gyda chyrff allweddol a nodi cyfleoedd i ni weithredu ar draws ein cylch gwaith rheoleiddio.

Rydym wedi cyhoeddi canllawiau ar AI a Dyletswydd Cydraddoldeb y Sector Cyhoeddus ac wedi cynnal ymarfer monitro cydymffurfiad manwl gydag Awdurdodau Lleol a chyrff cyhoeddus dethol eraill. Rydym yn bwriadu adeiladu ar y canllawiau hyn drwy ddiweddaru ein Dyletswydd Cydraddoldeb Sector Cyhoeddus a chanllawiau diogelu data, yn ogystal â deunyddiau atodol eraill, megis astudiaethau achos arfer da.

Rydym hefyd wedi ymgysylltu’n helaeth â llywodraeth y DU wrth iddi ddatblygu ei chynigion i greu fframwaith rheoleiddio ar gyfer AI. Arweiniodd hyn at fwy o werthfawrogiad o gydraddoldeb a hawliau dynol yn y Papur Gwyn a’r egwyddor tegwch. Rydym yn parhau i ymgysylltu’n adeiladol â’r swyddogaethau canolog sydd i’w gweithredu gan y llywodraeth, wrth i’r dull ehangach o reoleiddio AI ddatblygu.

Rydym wedi gwneud gwaith â mwy o ffocws ar nifer cyfyngedig o faterion penodol, gan archwilio sut y gellir defnyddio ein hoffer rheoleiddio penodol. Mae hyn yn cynnwys:

• ymgysylltu â heddluoedd a chyrff goruchwylio ar wella eu cydymffurfiaeth â’r defnydd o Dechnoleg Cydnabod Wyneb (FRT)
• gweithio gyda’r Coleg Plismona i ddatblygu canllawiau newydd (Arfer Proffesiynol Cymeradwy) ar gyfer pob technoleg newydd a yrrir gan ddata
• archwilio’r gwahaniaethu posibl o ganlyniad i recriwtio ar-lein drwy lwyfannau cyfryngau cymdeithasol
• cefnogi ymgyfreitha i herio'r defnydd gwahaniaethol posibl o FRT yn y gweithle
• bwrw ymlaen â’n gwaith gyda’r Gymdeithas Llywodraeth Leol, yr ICO, yr Uned Mabwysiadu Technoleg Gyfrifol (RTAU) ac eraill i gefnogi awdurdodau lleol (ac yn fwy cyffredinol y sector cyhoeddus) i roi ystyriaeth well i ystyriaethau cydraddoldeb wrth gaffael technolegau seiliedig ar AI
• cyhoeddi canllawiau, megis 'Deallusrwydd artiffisial: cwrdd â Dyletswydd Cydraddoldeb y Sector Cyhoeddus'

Yn olaf, rydym yn partneru â’r Uned Mabwysiadu Technoleg Gyfrifol (y Ganolfan Moeseg Data ac Arloesedd gynt, sy’n rhan o’r Adran Gwyddoniaeth, Arloesedd a Thechnoleg), Innovate UK, a’r ICO i lywio’r gwaith o ddatblygu atebion cymdeithasol-dechnegol newydd i fynd i’r afael â rhagfarn a gwahaniaethu mewn systemau AI.

Rydym wedi edrych yn fewnol i ystyried ble a sut y gallem ddefnyddio AI, naill ai nawr neu yn y dyfodol. Fe wnaethom ddatblygu polisi mewnol i arwain ein hymchwiliad a chreu fframwaith ar gyfer defnydd cyfrifol o AI, gan ymgorffori'r egwyddorion a nodir ym Mhapur Gwyn y llywodraeth.

Rydym yn rheoleiddiwr bach gyda chylch gwaith mawr ac eang. O'r herwydd, rhaid i'n dull rheoleiddio fod yn dynn ac wedi ei ffocysu. Mae ein cynllun strategol presennol yn nodi chwe blaenoriaeth strategol sy'n sail i'n rhaglenni gwaith allweddol. Mae gennym dîm rhaglen bychan o wyth aelod o staff llawn amser yn gweithio ar faterion yn ymwneud â deallusrwydd artiffisial, gyda thua deg aelod arall o staff yn gweithio ar brosiectau sy'n ymwneud â deallusrwydd artiffisial ar unrhyw adeg. Dylid nodi mai arbenigwyr cydraddoldeb a hawliau dynol yw'r staff hyn ac nid arbenigwyr technoleg. O ystyried ein hadnoddau presennol ni allwn gynyddu ein gallu i reoleiddio AI na chyflwyno'r rolau technegol y dymunwn. Er ein bod yn credu bod cyfleoedd sylweddol i ni gael effaith trwy ddefnyddio ein hoffer rheoleiddio yn y maes hwn ar draws ystod o faterion, rhaid i ni gyfyngu ein hymdrechion i nifer fach o faterion y credwn sy’n cyflwyno’r risgiau mwyaf i gydraddoldeb a hawliau dynol.

Er bod gennym arbenigedd eang ar gydraddoldeb a hawliau dynol, nid oes gennym yr arbenigedd technegol ar AI sydd gan reoleiddwyr eraill. Er bod cynigion gan y llywodraeth wedi nodi adnoddau a rennir i reoleiddwyr eu defnyddio i lenwi'r bwlch hwn, mae hyn yn annhebygol o gau'r bwlch gallu sy'n ein hwynebu ar hyn o bryd yn y tymor byr neu'r tymor canolig. Yn ogystal, rydym yn wynebu heriau sylweddol o ran adnoddau wrth geisio defnyddio ein pwerau rheoleiddio yn erbyn cwmnïau technoleg rhyngwladol mawr y gallwn geisio eu dwyn i gyfrif.

Dros y 12 mis nesaf, byddwn yn parhau i weithio ar y prosiectau y manylir arnynt yn ein cynllun busnes ar gyfer 2024–25, sydd wedi’u tynnu o’r blaenoriaethau a bennwyd yn ein cynllun strategol ar gyfer 2022–25. Rydym yn y broses o ddatblygu ein cynllun strategol ar gyfer 2025–28, ac fel rhan o’r broses hon, byddwn yn parhau i ddatblygu ein dull strategol o reoleiddio AI. Er mwyn rheoleiddio AI yn effeithiol yn unol â’r dyletswyddau a osodir arnom gan y llywodraeth, mae angen adnoddau ychwanegol arnom yn y tymor byr a chanolig i’n cynorthwyo i ddeall ein hanghenion adnoddau hirdymor yn well er mwyn cyflawni ein rôl fel rheoleiddiwr effeithiol yn y maes hwn. Rydym wedi gwneud hyn yn glir yn ein hymgysylltiad ar y Papur Gwyn ac mewn gohebiaeth â’r llywodraeth.

Mae Papur Gwyn y llywodraeth, 'Ymagwedd Rhag Arloesol at Reoliad AI' yn nodi y dylai rheoleiddwyr ystyried pum egwyddor wrth reoleiddio AI. Yr egwyddorion yw:

• diogelwch, sicrwydd, cadernid
• tryloywder ac eglurdeb priodol
• tegwch
• atebolrwydd a llywodraethu
• cystadleuaeth ac unioni

Nododd y Llywodraeth hefyd ddisgwyliadau y dylai rheolyddion ddatblygu neu ddiweddaru canllawiau i ystyried yr egwyddorion hyn a rhoi eglurder i fusnes.

Yn ein hymateb i’r ymgynghoriad ar y Papur Gwyn, gwnaethom gynnig cefnogaeth eang i’r dull gweithredu sy’n seiliedig ar egwyddorion, er gwaethaf ein barn ein hunain nad oedd digon o bwyslais ar gydraddoldeb a hawliau dynol yn yr egwyddorion. Gwnaethom yn glir hefyd fod y disgwyliad i roi’r egwyddorion ar waith yn ychwanegol at ein hymrwymiadau datganedig ein hunain yn ein cynllun strategol. Rhaid i'r disgwyliadau ychwanegol hyn gan y llywodraeth gael eu cyfatebu gan adnoddau ychwanegol i'n galluogi i ehangu ein gwaith. Hyd yn hyn, nid yw'r llywodraeth wedi darparu unrhyw adnoddau ychwanegol.

Er bod pob egwyddor yn berthnasol i’r fframweithiau cydraddoldeb a hawliau dynol, mae gennym rôl glir ac unigryw o ran cefnogi’r egwyddor tegwch, gyda chyrff a reoleiddir ac ar draws y gymuned reoleiddiol. Er bod diffiniadau eraill o degwch yn y gyfraith, mae tegwch yn egwyddor graidd sy’n sail i gydraddoldeb a hawliau dynol ac sy’n llywio ein gwaith.

Rydym yn benderfynol o sicrhau bod cydraddoldeb a hawliau dynol yn ganolog i ddatblygu a defnyddio AI. Dyna pam rydym yn cymryd rhan yn yr Her Arloesi Tegwch, ochr yn ochr â'r ICO a'r RTAU. Rydym hefyd wedi cymryd rhan mewn gweithdy gyda'r DRCF i archwilio tegwch ar draws cylchoedd gwaith rheoleiddio. Byddwn hefyd yn ymgorffori’r egwyddorion yn ein gwaith cydymffurfio a gorfodi arfaethedig ac o fewn ein rôl o gynghori llywodraethau a seneddau.

Fodd bynnag, byddai mynd y tu hwnt i hyn yn gofyn am ailddyraniad sylweddol o'n hadnoddau. Nid yw hyn yn bosibl o fewn ein hymrwymiadau strategol presennol a'r gyllideb bresennol. Felly nid oes gennym unrhyw gynlluniau ar gyfer gweddill ein cynllun strategol presennol i ddatblygu canllawiau penodol ar egwyddorion y Papur Gwyn.

Bydd ein cynllun strategol ar gyfer 2025–28 yn nodi ein blaenoriaethau ar gyfer y tymor hwy, gan gynnwys ein dull o reoleiddio AI. Bydd hwn yn nodi sut rydym yn bwriadu cydbwyso ein hadnoddau cyfyngedig a blaenoriaethu'r gwaith a wnawn. Byddwn yn ymgynghori’n gyhoeddus ar ddrafft yn ystod haf 2024.

Mae deallusrwydd artiffisial yn dechnoleg sy'n datblygu'n gyflym. Er bod cyfleoedd mawr, mae risgiau sylweddol o wahaniaethu hefyd. Mae'r Llywodraeth ac eraill yn edrych yn gynyddol atom am gymorth ac rydym yn datblygu ein hymagwedd tuag at reoleiddio goblygiadau cydraddoldeb a hawliau dynol  gyda lledaeniad technoleg. Mae papur gwyn y Rheoliad AI yn gosod disgwyliadau sylweddol ar reoleiddwyr. Byddwn yn parhau i ddatblygu ein hymagwedd at reoleiddio yn y maes hwn, gan wella ein dealltwriaeth, ymgysylltu â rheoleiddwyr eraill a gwneud defnydd o'n pwerau.

Yn 2024–25 byddwn yn canolbwyntio’n bennaf ar ein rôl o ran lleihau ac atal allgáu digidol, yn enwedig ar gyfer pobl hŷn ac anabl wrth gael mynediad at wasanaethau lleol, defnyddio AI mewn Arferion Recriwtio, datblygu atebion i fynd i’r afael â rhagfarn a gwahaniaethu mewn systemau AI, a defnydd yr heddlu o dechnoleg adnabod wynebau (FRT). Rydym yn pryderu y bydd y defnydd o FRT yn dod yn gynhenid ac yn normaleiddio mewn ffordd na fydd yn bosibl symud oddi wrthi unwaith y bydd wedi’i sefydlu, ym maes plismona ac mewn mannau eraill. Byddwn hefyd yn gweithio mewn partneriaeth â’r Ganolfan Moeseg Data ac Arloesedd (CDEI) ar yr her arloesi tegwch i ddatblygu offer ar gyfer mynd i’r afael â rhagfarn a gwahaniaethu algorithmig.