وافق البرلمان يوم الأربعاء على قانون الذكاء الاصطناعي الذي يضمن السلامة والامتثال للحقوق الأساسية، مع تعزيز الابتكار.
القوانين، المتفق عليها في المفاوضات مع الدول الأعضاء في ديسمبر ووافق أعضاء البرلمان الأوروبي على مشروع قانون 2023 بأغلبية 523 صوتًا مقابل 46 صوتًا وامتناع 49 عن التصويت.
ويهدف إلى حماية الحقوق الأساسية، والديمقراطية، وسيادة القانون والاستدامة البيئية من الذكاء الاصطناعي عالي المخاطر، مع تعزيز الابتكار وترسيخ أوروبا كدولة رائدة في هذا المجال. تحدد اللائحة التزامات الذكاء الاصطناعي بناءً على مخاطره المحتملة ومستوى تأثيره.
التطبيقات المحظورة
تحظر القواعد الجديدة بعض تطبيقات الذكاء الاصطناعي التي تهدد حقوق المواطنين، بما في ذلك أنظمة التصنيف البيومترية بناءً على الخصائص الحساسة والتقطيع غير المستهدف لصور الوجه من الإنترنت أو لقطات الدوائر التلفزيونية المغلقة لإنشاء قواعد بيانات للتعرف على الوجه. كما سيتم حظر التعرف على المشاعر في مكان العمل والمدارس، والتسجيل الاجتماعي، والشرطة التنبؤية (عندما تعتمد فقط على تصنيف شخص ما أو تقييم خصائصه)، والذكاء الاصطناعي الذي يتلاعب بالسلوك البشري أو يستغل نقاط ضعف الناس.
إعفاءات إنفاذ القانون
يُحظر استخدام أنظمة تحديد الهوية البيومترية (RBI) من قبل جهات إنفاذ القانون من حيث المبدأ، إلا في الحالات المدرجة بشكل شامل والمحددة بشكل ضيق. لا يمكن نشر RBI "في الوقت الفعلي" إلا في حالة استيفاء ضمانات صارمة، على سبيل المثال، أن يكون استخدامه محدودًا في الوقت والنطاق الجغرافي ويخضع لترخيص قضائي أو إداري مسبق محدد. وقد تشمل هذه الاستخدامات، على سبيل المثال، البحث المستهدف لشخص مفقود أو منع وقوع هجوم إرهابي. ويعتبر استخدام مثل هذه الأنظمة بأثر رجعي ("RBI بعد البعيد") حالة استخدام عالية الخطورة، وتتطلب الحصول على إذن قضائي مرتبط بجريمة جنائية.
التزامات الأنظمة عالية المخاطر
ومن المتوقع أيضًا وجود التزامات واضحة لأنظمة الذكاء الاصطناعي الأخرى عالية المخاطر (بسبب ضررها الكبير المحتمل على الصحة والسلامة والحقوق الأساسية والبيئة والديمقراطية وسيادة القانون). تشمل أمثلة استخدامات الذكاء الاصطناعي عالية المخاطر البنية التحتية الحيوية، والتعليم والتدريب المهني، والتوظيف، والخدمات الخاصة والعامة الأساسية (مثل الرعاية الصحية، والخدمات المصرفية)، وأنظمة معينة في مجال إنفاذ القانون، والهجرة وإدارة الحدود، والعدالة والعمليات الديمقراطية (مثل التأثير على الانتخابات). . ويجب أن تقوم هذه الأنظمة بتقييم المخاطر والحد منها، والاحتفاظ بسجلات الاستخدام، وأن تكون شفافة ودقيقة، وتضمن الإشراف البشري. سيكون للمواطنين الحق في تقديم شكاوى حول أنظمة الذكاء الاصطناعي وتلقي توضيحات حول القرارات المبنية على أنظمة الذكاء الاصطناعي عالية المخاطر والتي تؤثر على حقوقهم.
متطلبات الشفافية
يجب أن تستوفي أنظمة الذكاء الاصطناعي للأغراض العامة (GPAI)، ونماذج GPAI التي تعتمد عليها، بعض متطلبات الشفافية، بما في ذلك الامتثال لقانون حقوق الطبع والنشر في الاتحاد الأوروبي ونشر ملخصات مفصلة للمحتوى المستخدم للتدريب. ستواجه نماذج GPAI الأكثر قوة والتي يمكن أن تشكل مخاطر نظامية متطلبات إضافية، بما في ذلك إجراء تقييمات النماذج، وتقييم المخاطر النظامية والتخفيف منها، والإبلاغ عن الحوادث.
بالإضافة إلى ذلك، يجب تصنيف الصور أو محتوى الصوت أو الفيديو الاصطناعي أو المُتلاعب به ("التزييف العميق") بوضوح على هذا النحو.
تدابير لدعم الابتكار والشركات الصغيرة والمتوسطة
ولا بد من إنشاء بيئات اختبار تنظيمية واختبارات في العالم الحقيقي على المستوى الوطني، وإتاحتها للشركات الصغيرة والمتوسطة والشركات الناشئة، لتطوير وتدريب الذكاء الاصطناعي المبتكر قبل طرحه في السوق.
العروض
وخلال المناقشة العامة يوم الثلاثاء، شارك مقرر لجنة السوق الداخلية براندو بينيفي (S&D ، إيطاليا) وقال: "لدينا أخيراً أول قانون ملزم في العالم بشأن الذكاء الاصطناعي، للحد من المخاطر، وخلق الفرص، ومكافحة التمييز، وتحقيق الشفافية. بفضل البرلمان، سيتم حظر ممارسات الذكاء الاصطناعي غير المقبولة في أوروبا وسيتم حماية حقوق العمال والمواطنين. سيتم الآن إنشاء مكتب الذكاء الاصطناعي لدعم الشركات لبدء الامتثال للقواعد قبل دخولها حيز التنفيذ. لقد حرصنا على أن يكون البشر والقيم الأوروبية في قلب تطور الذكاء الاصطناعي.
مقرر مشارك للجنة الحريات المدنية دراغوس تودوراتشي (رينو، رومانيا) قال: “لقد قدم الاتحاد الأوروبي. لقد ربطنا مفهوم الذكاء الاصطناعي بالقيم الأساسية التي تشكل أساس مجتمعاتنا. ومع ذلك، لا يزال أمامنا الكثير من العمل الذي يتجاوز قانون الذكاء الاصطناعي نفسه. سوف يدفعنا الذكاء الاصطناعي إلى إعادة التفكير في العقد الاجتماعي الكامن في قلب ديمقراطياتنا، ونماذجنا التعليمية، وأسواق العمل، والطريقة التي ندير بها الحروب. يعد قانون الذكاء الاصطناعي نقطة انطلاق لنموذج جديد للحوكمة مبني على التكنولوجيا. وعلينا الآن أن نركز على وضع هذا القانون موضع التنفيذ”.
الخطوات التالية
ولا تزال اللائحة خاضعة لفحص قانوني نهائي ومن المتوقع أن يتم اعتمادها نهائياً قبل نهاية الفصل التشريعي (من خلال ما يسمى تصويب إجراء). ويحتاج القانون أيضًا إلى موافقة المجلس رسميًا.
وسيدخل حيز التنفيذ بعد عشرين يومًا من نشره في الجريدة الرسمية، ويكون قابلاً للتطبيق بالكامل بعد 24 شهرًا من دخوله حيز التنفيذ، باستثناء: حظر الممارسات المحظورة، والذي سيطبق بعد ستة أشهر من تاريخ دخوله حيز التنفيذ؛ مدونات الممارسات (تسعة أشهر بعد دخولها حيز التنفيذ)؛ قواعد الذكاء الاصطناعي للأغراض العامة بما في ذلك الحوكمة (بعد 12 شهرًا من دخولها حيز التنفيذ)؛ والالتزامات المتعلقة بالأنظمة عالية المخاطر (36 شهرًا).
خلفيّة
يستجيب قانون الذكاء الاصطناعي بشكل مباشر لمقترحات المواطنين الصادرة عن مؤتمر مستقبل أوروبا (COFE)، وبشكل ملموس الاقتراح 12(10) بشأن تعزيز القدرة التنافسية للاتحاد الأوروبي في القطاعات الاستراتيجية، الاقتراح 33(5) على مجتمع آمن وجدير بالثقة، بما في ذلك مكافحة المعلومات المضللة وضمان سيطرة البشر في نهاية المطاف، اقتراح 35 بشأن تعزيز الابتكار الرقمي، (3) مع ضمان الإشراف البشري و 8 الاستخدام الجدير بالثقة والمسؤول للذكاء الاصطناعي، ووضع الضمانات وضمان الشفافية الاقتراح 37 (3) بشأن استخدام الذكاء الاصطناعي والأدوات الرقمية لتحسين وصول المواطنين إلى المعلومات، بما في ذلك الأشخاص ذوي الإعاقة.
