Pada hari Rabu, Parlimen meluluskan Akta Kepintaran Buatan yang memastikan keselamatan dan pematuhan hak asasi, sambil meningkatkan inovasi.
peraturan itu, bersetuju dalam rundingan dengan negara anggota pada bulan Disember 2023, telah disahkan oleh MEP dengan 523 undi menyokong, 46 menentang dan 49 berkecuali.
Ia bertujuan untuk melindungi hak asasi, demokrasi, kedaulatan undang-undang dan kelestarian alam sekitar daripada AI berisiko tinggi, sambil meningkatkan inovasi dan menjadikan Eropah sebagai peneraju dalam bidang itu. Peraturan ini menetapkan kewajipan untuk AI berdasarkan potensi risiko dan tahap impaknya.
Aplikasi yang diharamkan
Peraturan baharu itu melarang aplikasi AI tertentu yang mengancam hak rakyat, termasuk sistem pengkategorian biometrik berdasarkan ciri sensitif dan pengikisan imej muka yang tidak disasarkan daripada internet atau rakaman CCTV untuk mencipta pangkalan data pengecaman muka. Pengiktirafan emosi di tempat kerja dan sekolah, pemarkahan sosial, kepolisan ramalan (apabila ia hanya berdasarkan profil seseorang atau menilai ciri mereka), dan AI yang memanipulasi tingkah laku manusia atau mengeksploitasi kelemahan orang juga akan dilarang.
Pengecualian penguatkuasaan undang-undang
Penggunaan sistem pengenalan biometrik (RBI) oleh penguatkuasa undang-undang adalah dilarang pada dasarnya, kecuali dalam situasi yang disenaraikan secara menyeluruh dan ditakrifkan secara sempit. RBI "masa nyata" hanya boleh digunakan jika perlindungan yang ketat dipenuhi, contohnya penggunaannya terhad dalam masa dan skop geografi dan tertakluk kepada kebenaran kehakiman atau pentadbiran tertentu. Penggunaan sedemikian mungkin termasuk, sebagai contoh, pencarian yang disasarkan terhadap orang yang hilang atau menghalang serangan pengganas. Menggunakan sistem post-facto ("post-remote RBI") dianggap sebagai kes penggunaan berisiko tinggi, yang memerlukan kebenaran kehakiman dikaitkan dengan kesalahan jenayah.
Kewajipan untuk sistem berisiko tinggi
Kewajipan yang jelas juga diramalkan untuk sistem AI berisiko tinggi yang lain (disebabkan oleh potensi bahaya yang besar kepada kesihatan, keselamatan, hak asasi, alam sekitar, demokrasi dan kedaulatan undang-undang). Contoh penggunaan AI berisiko tinggi termasuk infrastruktur kritikal, pendidikan dan latihan vokasional, pekerjaan, perkhidmatan swasta dan awam yang penting (cth penjagaan kesihatan, perbankan), sistem tertentu dalam penguatkuasaan undang-undang, migrasi dan pengurusan sempadan, keadilan dan proses demokrasi (cth mempengaruhi pilihan raya) . Sistem sedemikian mesti menilai dan mengurangkan risiko, mengekalkan log penggunaan, telus dan tepat, dan memastikan pengawasan manusia. Rakyat akan mempunyai hak untuk mengemukakan aduan tentang sistem AI dan menerima penjelasan tentang keputusan berdasarkan sistem AI berisiko tinggi yang menjejaskan hak mereka.
Keperluan ketelusan
Sistem AI (GPAI) tujuan am, dan model GPAI berdasarkannya, mesti memenuhi keperluan ketelusan tertentu, termasuk pematuhan undang-undang hak cipta EU dan menerbitkan ringkasan terperinci kandungan yang digunakan untuk latihan. Model GPAI yang lebih berkuasa yang boleh menimbulkan risiko sistemik akan menghadapi keperluan tambahan, termasuk melaksanakan penilaian model, menilai dan mengurangkan risiko sistemik, dan melaporkan insiden.
Selain itu, imej tiruan atau dimanipulasi, kandungan audio atau video (“deepfakes”) perlu dilabel dengan jelas sedemikian.
Langkah untuk menyokong inovasi dan PKS
Kotak pasir kawal selia dan ujian dunia sebenar perlu diwujudkan di peringkat kebangsaan, dan boleh diakses oleh PKS dan syarikat baharu, untuk membangunkan dan melatih AI inovatif sebelum penempatannya di pasaran.
Petikan
Semasa perbahasan pleno pada hari Selasa, Jawatankuasa Pasaran Dalaman pelapor bersama Brando Benifei (S&D, Itali) berkata: “Kami akhirnya mempunyai undang-undang mengikat pertama di dunia mengenai kecerdasan buatan, untuk mengurangkan risiko, mencipta peluang, memerangi diskriminasi dan membawa ketelusan. Terima kasih kepada Parlimen, amalan AI yang tidak boleh diterima akan diharamkan di Eropah dan hak pekerja dan rakyat akan dilindungi. Pejabat AI kini akan ditubuhkan untuk menyokong syarikat untuk mula mematuhi peraturan sebelum mereka mula berkuat kuasa. Kami memastikan bahawa manusia dan nilai Eropah berada di tengah-tengah pembangunan AI”.
Pelapor bersama Jawatankuasa Kebebasan Awam Dragos Tudorache (Perbaharui, Romania) berkata: “EU telah menyampaikan. Kami telah mengaitkan konsep kecerdasan buatan dengan nilai asas yang menjadi asas kepada masyarakat kita. Walau bagaimanapun, banyak kerja menanti yang melangkaui Akta AI itu sendiri. AI akan mendorong kita untuk memikirkan semula kontrak sosial di tengah-tengah negara demokrasi kita, model pendidikan kita, pasaran buruh dan cara kita menjalankan peperangan. Akta AI ialah titik permulaan untuk model tadbir urus baharu yang dibina berdasarkan teknologi. Kini kita mesti menumpukan perhatian untuk melaksanakan undang-undang ini”.
Langkah seterusnya
Peraturan itu masih tertakluk kepada semakan terakhir peguam-bahasa dan dijangka akhirnya diterima pakai sebelum berakhirnya badan perundangan (melalui apa yang dipanggil corrigendum prosedur). Undang-undang juga perlu disahkan secara rasmi oleh Majlis.
Ia akan berkuat kuasa dua puluh hari selepas penerbitannya dalam Jurnal rasmi, dan terpakai sepenuhnya 24 bulan selepas ia mula berkuat kuasa, kecuali untuk: larangan ke atas amalan yang dilarang, yang akan terpakai enam bulan selepas tarikh mula berkuat kuasa; kod amalan (sembilan bulan selepas mula berkuat kuasa); peraturan AI tujuan umum termasuk tadbir urus (12 bulan selepas mula berkuat kuasa); dan kewajipan untuk sistem berisiko tinggi (36 bulan).
Latar Belakang
Akta Kepintaran Buatan bertindak balas secara langsung kepada cadangan rakyat daripada Persidangan Masa Depan Eropah (COFE), paling konkrit kepada cadangan 12(10) untuk meningkatkan daya saing EU dalam sektor strategik, cadangan 33(5) terhadap masyarakat yang selamat dan boleh dipercayai, termasuk menentang maklumat yang salah dan memastikan manusia berada dalam kawalan akhirnya, cadangan 35 pada mempromosikan inovasi digital, (3) sambil memastikan pengawasan manusia dan (8) penggunaan AI yang boleh dipercayai dan bertanggungjawab, menetapkan perlindungan dan memastikan ketelusan, dan cadangan 37 (3) menggunakan AI dan alat digital untuk meningkatkan akses rakyat kepada maklumat, termasuk orang kurang upaya.
