Gesigherkenning en ander hoërisiko-kunsmatige intelligensie-toepassings sal streng beperkings ondervind onder nuwe reëls wat deur die Europese Unie wat stewige boetes dreig vir maatskappye wat nie daaraan voldoen nie.
Die Europese Kommissie, die blok se uitvoerende liggaam, het Woensdag maatreëls voorgestel wat sekere KI-toepassings in die EU sal verbied, insluitend dié wat kwesbare groepe uitbuit, subliminale tegnieke ontplooi of mense se sosiale gedrag beoordeel.
Die gebruik van gesig erkenning en ander intydse afgeleë biometriese identifikasiestelsels deur wetstoepassing sal ook verbied word, tensy dit gebruik word om 'n terreuraanval te voorkom, vermiste kinders te vind of ander openbare veiligheidsnoodgevalle aan te pak.
Gesigherkenning is 'n besonder omstrede vorm van KI. Burgerlike vryhede-groepe waarsku teen die gevare van diskriminasie of verkeerde identiteite wanneer wetstoepassers die tegnologie gebruik, wat vroue en mense met donkerder velkleure soms verkeerd identifiseer.
Digitale regte-groep EDRI het gewaarsku teen skuiwergate vir uitsonderings vir openbare veiligheid gebruik van die tegnologie.
Ander hoërisiko-aansoeke wat mense se veiligheid of wettige status in gevaar kan stel—soos selfrymotors, indiensneming of asielbesluite – sal hul stelsels moet ondergaan voordat hulle ontplooi word en ander streng verpligtinge in die gesig staar.
Die maatreëls is die jongste poging van die blok om die krag van sy uitgestrekte, ontwikkelde mark te benut om globale standaarde te stel wat maatskappye regoor die wêreld gedwing word om te volg, net soos met sy Algemene Databeskermingsregulasie.
Die VSA en China is die tuiste van die grootste kommersiële KI-maatskappye - Google en Microsoft Corp., Beijing-gebaseerde Baidu, en Shenzhen-gebaseerde Tencent - maar as hulle aan Europa se verbruikers of besighede wil verkoop, kan hulle gedwing word om bedrywighede op te knap.
Belangrike punte:
- Boetes van 6% van inkomste word voorsien vir maatskappye wat nie aan verbods- of datavereistes voldoen nie
- Kleiner boetes word voorsien vir maatskappye wat nie voldoen aan ander vereistes wat in die nuwe reëls uitgespel word nie
- Wetgewing is van toepassing op beide ontwikkelaars en gebruikers van hoërisiko-KI-stelsels
- Verskaffers van riskante KI moet dit aan 'n ooreenstemmingsbeoordeling onderwerp voordat dit ontplooi word
- Ander verpligtinge vir hoërisiko-KI sluit in die gebruik van datastelle van hoë gehalte, die versekering van naspeurbaarheid van resultate, en menslike toesig om risiko te verminder
- Die kriteria vir 'hoërisiko'-toepassings sluit in beoogde doel, die aantal potensieel geaffekteerde mense en die onomkeerbaarheid van skade.
- KI-toepassings met minimale risiko soos KI-geaktiveerde videospeletjies of strooiposfilters is nie onderhewig aan die nuwe reëls nie
- Nasionale marktoesigowerhede sal die nuwe reëls afdwing
- EU om Europese raad van reguleerders in te stel om geharmoniseerde afdwinging van regulering oor die algemeen te verseker Europa
- Reëls sal steeds deur die Europese Parlement en die lidlande van die blok goedgekeur moet word voordat dit wet word, 'n proses wat jare kan neem
Liewe Leser,
Business Standard het nog altyd hard daarna gestreef om aktuele inligting en kommentaar te lewer oor ontwikkelings wat vir u van belang is en wyer politieke en ekonomiese implikasies vir die land en die wêreld het. U aanmoediging en voortdurende terugvoer oor hoe ons ons aanbod kan verbeter, het ons vasberadenheid en toewyding tot hierdie ideale net sterker gemaak. Selfs gedurende hierdie moeilike tye wat voortspruit uit Covid-19, bly ons steeds daartoe verbind om u op hoogte te hou en op die hoogte te hou van geloofwaardige nuus, gesaghebbende sienings en indringende kommentaar op aktuele kwessies wat relevant is.
Ons het egter 'n versoek.
Aangesien ons die ekonomiese impak van die pandemie teëkom, het u u ondersteuning nog nodig, sodat ons aanhou om meer gehalte-inhoud aan u te bied. Ons intekenaarmodel het 'n bemoedigende reaksie gesien van baie van u, wat ingeteken het op ons aanlyn-inhoud. Meer inskrywing op ons aanlyn-inhoud kan ons net help om die doelwitte te bereik om u nog beter en meer relevante inhoud te bied. Ons glo in vrye, regverdige en geloofwaardige joernalistiek. U ondersteuning deur meer intekeninge kan ons help om die joernalistiek waaraan ons verbind is, te beoefen.
Ondersteun gehaltejoernalistiek en teken in op Business Standard.
Digitale redakteur
