ביום רביעי אישר הפרלמנט את חוק הבינה המלאכותית המבטיח בטיחות ועמידה בזכויות היסוד, תוך חיזוק החדשנות.
הרגולציה, סוכם במשא ומתן עם המדינות החברות בדצמבר שנת 2023, אושרה על ידי חברי הפרלמנט עם 523 קולות בעד, 46 נגד ו-49 נמנעים.
מטרתו להגן על זכויות יסוד, דמוקרטיה, שלטון החוק וקיימות סביבתית מפני AI בסיכון גבוה, תוך חיזוק החדשנות וביסוס אירופה כמובילה בתחום. הרגולציה קובעת חובות עבור AI בהתבסס על הסיכונים הפוטנציאליים ורמת ההשפעה שלו.
אפליקציות אסורות
הכללים החדשים אוסרים על יישומי בינה מלאכותית שמאיימים על זכויות האזרח, כולל מערכות סיווג ביומטריות המבוססות על מאפיינים רגישים וגרידה לא ממוקדת של תמונות פנים מהאינטרנט או קטעי טלוויזיה במעגל סגור כדי ליצור מסדי נתונים של זיהוי פנים. ייאסרו גם זיהוי רגשות במקום העבודה ובבתי הספר, ניקוד חברתי, שיטור חזוי (כאשר הוא מבוסס רק על פרופיל אדם או הערכת מאפייניו), ובינה מלאכותית שמתמרנת התנהגות אנושית או מנצלת את הפגיעות של אנשים.
פטורים של אכיפת החוק
השימוש במערכות זיהוי ביומטריות (RBI) על ידי גורמי אכיפת החוק אסור באופן עקרוני, למעט במצבים המפורטים באופן ממצה ומוגדר צר. ניתן לפרוס RBI "זמן אמת" רק אם מתקיימים אמצעי הגנה קפדניים, למשל השימוש בו מוגבל בזמן ובהיקף גיאוגרפי וכפוף לאישור שיפוטי או מנהלי ספציפי מראש. שימושים כאלה עשויים לכלול, למשל, חיפוש ממוקד של נעדר או מניעת פיגוע טרור. שימוש במערכות כאלה לאחר מעשה ("RBI לאחר מרוחק") נחשב למקרה שימוש בסיכון גבוה, הדורש אישור שיפוטי הקשור לעבירה פלילית.
חובות למערכות בסיכון גבוה
מחויבויות ברורות צפויות גם למערכות AI אחרות בסיכון גבוה (בשל הפגיעה הפוטנציאלית המשמעותית שלהן בבריאות, בטיחות, זכויות יסוד, סביבה, דמוקרטיה ושלטון החוק). דוגמאות לשימושי בינה מלאכותית בסיכון גבוה כוללות תשתית קריטית, חינוך והכשרה מקצועית, תעסוקה, שירותים פרטיים וציבוריים חיוניים (למשל שירותי בריאות, בנקאות), מערכות מסוימות באכיפת חוק, הגירה וניהול גבולות, משפט ותהליכים דמוקרטיים (למשל השפעה על בחירות) . מערכות כאלה חייבות להעריך ולצמצם סיכונים, לנהל יומני שימוש, להיות שקופות ומדויקות ולהבטיח פיקוח אנושי. לאזרחים תהיה זכות להגיש תלונות על מערכות בינה מלאכותיות ולקבל הסברים על החלטות המבוססות על מערכות בינה מלאכותית בסיכון גבוה המשפיעות על זכויותיהם.
דרישות שקיפות
מערכות בינה מלאכותית (GPAI) למטרות כלליות, והמודלים של GPAI שהן מבוססות עליהן, חייבות לעמוד בדרישות שקיפות מסוימות, כולל עמידה בחוק זכויות היוצרים של האיחוד האירופי ופרסום סיכומים מפורטים של התוכן המשמש להדרכה. המודלים החזקים יותר של GPAI שיכולים להוות סיכונים מערכתיים יעמדו בפני דרישות נוספות, כולל ביצוע הערכות מודלים, הערכה והפחתה של סיכונים מערכתיים ודיווח על תקריות.
בנוסף, תמונות מלאכותיות או מניפולציות, תוכן אודיו או וידאו ("זיופים עמוקים") צריכים להיות מסומנים בבירור ככאלה.
אמצעים לתמיכה בחדשנות ובחברות קטנות ובינוניות
יהיה צורך להקים ארגזי חול רגולטוריים ובדיקות בעולם האמיתי ברמה הלאומית, ולהנגיש אותם לחברות קטנות ובינוניות ולחברות סטארט-אפ, כדי לפתח ולהכשיר בינה מלאכותית חדשנית לפני יציאתה לשוק.
ציטוטים
במהלך הדיון במליאה ביום שלישי, שותפה לוועדת השוק הפנימי ברנדו בניפיי (S&D, איטליה) אמר: "סוף סוף יש לנו את החוק המחייב הראשון בעולם בנושא בינה מלאכותית, כדי להפחית סיכונים, ליצור הזדמנויות, להילחם באפליה ולהביא לשקיפות. הודות לפרלמנט, שיטות AI בלתי מקובלות ייאסרו באירופה וזכויות העובדים והאזרחים יוגנו. משרד AI יוקם כעת כדי לתמוך בחברות להתחיל לציית לכללים לפני כניסתם לתוקף. הבטחנו שבני אדם וערכי אירופה נמצאים במרכז הפיתוח של הבינה המלאכותית".
שותפה לוועדת זכויות האזרח Dragos Tudorache (Renew, רומניה) אמר: "האיחוד האירופי סיפק. קישרנו את מושג הבינה המלאכותית לערכי היסוד המהווים את הבסיס של החברות שלנו. עם זאת, לפנינו עבודה רבה שחורגת מחוק ה-AI עצמו. בינה מלאכותית תדחוף אותנו לחשוב מחדש על האמנה החברתית שבלב הדמוקרטיות שלנו, מודלים החינוך שלנו, שוקי העבודה והדרך בה אנו מנהלים לוחמה. חוק ה-AI הוא נקודת מוצא למודל חדש של ממשל שנבנה סביב טכנולוגיה. כעת עלינו להתמקד ביישום החוק הזה הלכה למעשה".
השלבים הבא
התקנה עדיין נתונה לבדיקה סופית של עורך דין-בלשן וצפויה להיות מאומצת סופית לפני תום בית המחוקקים (באמצעות מה שנקרא תיקון תהליך). החוק גם צריך לקבל אישור רשמי על ידי המועצה.
הוא ייכנס לתוקף עשרים יום לאחר פרסומו בכתב העת הרשמי, ויחול במלואו 24 חודשים לאחר כניסתו לתוקף, למעט: איסורים על פעולות אסורות, שיחולו שישה חודשים לאחר תאריך כניסתו לתוקף; קודים נוהגים (תשעה חודשים לאחר כניסתו לתוקף); כללי AI למטרות כלליות כולל ממשל (12 חודשים לאחר כניסתו לתוקף); והתחייבויות למערכות בסיכון גבוה (36 חודשים).
רקע
חוק הבינה המלאכותית מגיב ישירות להצעות האזרחים מהוועידה לעתיד אירופה (COFE), באופן קונקרטי ביותר הצעה 12(10) על שיפור התחרותיות של האיחוד האירופי במגזרים אסטרטגיים, הצעה 33(5) על חברה בטוחה ומהימנה, כולל התמודדות עם דיסאינפורמציה והבטחה שבסופו של דבר שולטים בני אדם, הצעה 35 על קידום חדשנות דיגיטלית, (3) תוך הבטחת פיקוח אנושי ו (8) שימוש אמין ואחראי ב-AI, הגדרת אמצעי הגנה והבטחת שקיפות, וכן הצעה 37 (3) על שימוש בבינה מלאכותית ובכלים דיגיטליים כדי לשפר את הגישה של אזרחים למידע, כולל אנשים עם מוגבלות.
