Die gebruik van kunsmatige intelligensie in die EU sal gereguleer word deur die KI-wet, die wêreld se eerste omvattende KI-wet. Vind uit hoe dit jou sal beskerm.
As deel van sy digitale strategie, wil die EU kunsmatige intelligensie (KI) reguleer om beter toestande vir die ontwikkeling en gebruik van hierdie innoverende tegnologie te verseker. KI kan baie voordele skep, soos beter gesondheidsorg; veiliger en skoner vervoer; meer doeltreffende vervaardiging; en goedkoper en meer volhoubare energie.
In April 2021 het die Europese Kommissie die eerste voorgestel EU regulatoriese raamwerk vir KI. Dit sê dat KI-stelsels wat in verskillende toepassings gebruik kan word, ontleed en geklassifiseer word volgens die risiko wat dit vir gebruikers inhou. Die verskillende risikovlakke sal min of meer regulering beteken. Sodra dit goedgekeur is, sal dit die wêreld se eerste reëls oor KI wees.
Wat die Parlement in KI-wetgewing wil hê
Parlement se prioriteit is om seker te maak dat KI-stelsels wat in die EU gebruik word, veilig, deursigtig, naspeurbaar, nie-diskriminerend en omgewingsvriendelik is. KI-stelsels moet deur mense toesig gehou word, eerder as deur outomatisering, om skadelike uitkomste te voorkom.
Die Parlement wil ook 'n tegnologie-neutrale, eenvormige definisie vir KI daarstel wat op toekomstige KI-stelsels toegepas kan word.
Hier is meer oor Parlement se werk oor KI en sy visie vir KI se toekoms
KI-wet: verskillende reëls vir verskillende risikovlakke
Die nuwe reëls vestig verpligtinge vir verskaffers en gebruikers, afhangende van die vlak van risiko van kunsmatige intelligensie. Alhoewel baie KI-stelsels minimale risiko inhou, moet hulle beoordeel word.
Onaanvaarbare risiko
Onaanvaarbare risiko-KI-stelsels word as 'n bedreiging vir mense beskou en sal verbied word. Hulle sluit in:
- Kognitiewe gedragsmanipulasie van mense of spesifieke kwesbare groepe: byvoorbeeld stemgeaktiveerde speelgoed wat gevaarlike gedrag by kinders aanmoedig
- Sosiale puntetelling: klassifikasie van mense op grond van gedrag, sosio-ekonomiese status of persoonlike eienskappe
- Intydse en afgeleë biometriese identifikasiestelsels, soos gesigsherkenning
Sommige uitsonderings kan toegelaat word: Byvoorbeeld, "pos" afgeleë biometriese identifikasiestelsels waar identifikasie plaasvind na 'n aansienlike vertraging, sal toegelaat word om ernstige misdade te vervolg, maar slegs na goedkeuring deur die hof.
Hoë risiko
KI-stelsels wat veiligheid of fundamentele regte negatief beïnvloed, sal as hoë risiko beskou word en sal in twee kategorieë verdeel word:
1) KI-stelsels wat gebruik word in produkte wat onder die EU se produkveiligheidswetgewing. Dit sluit speelgoed, lugvaart, motors, mediese toestelle en hysbakke in.
2) KI-stelsels wat in agt spesifieke areas val wat geregistreer sal moet word in 'n EU databasis:
- Biometriese identifikasie en kategorisering van natuurlike persone
- Bestuur en bedryf van kritieke infrastruktuur
- Onderwys en beroepsopleiding
- Indiensneming, werkersbestuur en toegang tot selfindiensneming
- Toegang tot en genot van noodsaaklike private dienste en openbare dienste en voordele
- Wetstoepassing
- Migrasie-, asiel- en grensbeheerbestuur
- Hulp by wetsuitleg en toepassing van die wet.
Alle hoërisiko-KI-stelsels sal beoordeel word voordat dit op die mark geplaas word en ook deur hul lewensiklus.
Generatiewe AI
Generatiewe KI, soos ChatGPT, sal aan deursigtigheidsvereistes moet voldoen:
- Onthul dat die inhoud deur KI gegenereer is
- Ontwerp die model om te verhoed dat dit onwettige inhoud genereer
- Publiseer opsommings van kopieregdata wat vir opleiding gebruik word
Beperkte risiko
Beperkte risiko KI-stelsels moet voldoen aan minimale deursigtigheidsvereistes wat gebruikers in staat sal stel om ingeligte besluite te neem. Na interaksie met die toepassings, kan die gebruiker besluit of hulle dit wil voortgaan om dit te gebruik. Gebruikers moet bewus gemaak word wanneer hulle met KI interaksie het. Dit sluit KI-stelsels in wat beeld-, oudio- of video-inhoud genereer of manipuleer, byvoorbeeld deepfakes.
Volgende stappe
Die parlement sal sy onderhandelingsposisie in Junie 2023 ooreenkom, waarna samesprekings met EU-lande in die Raad oor die finale vorm van die wet sal begin.
Die doel is om teen einde vanjaar ’n ooreenkoms te bereik.
