Pada hari Rabu, Parlemen menyetujui Undang-Undang Kecerdasan Buatan yang menjamin keselamatan dan kepatuhan terhadap hak-hak dasar, sekaligus meningkatkan inovasi.
Peraturan tersebut, disepakati dalam negosiasi dengan negara-negara anggota pada bulan Desember 2023, didukung oleh anggota parlemen dengan 523 suara mendukung, 46 menentang, dan 49 abstain.
Hal ini bertujuan untuk melindungi hak-hak dasar, demokrasi, supremasi hukum, dan kelestarian lingkungan dari AI yang berisiko tinggi, sekaligus meningkatkan inovasi dan menjadikan Eropa sebagai pemimpin di bidang tersebut. Peraturan tersebut menetapkan kewajiban AI berdasarkan potensi risiko dan tingkat dampaknya.
Aplikasi yang dilarang
Aturan baru ini melarang aplikasi AI tertentu yang mengancam hak-hak warga negara, termasuk sistem kategorisasi biometrik berdasarkan karakteristik sensitif dan pengambilan gambar wajah yang tidak ditargetkan dari internet atau rekaman CCTV untuk membuat database pengenalan wajah. Pengenalan emosi di tempat kerja dan sekolah, penilaian sosial, kebijakan prediktif (jika hanya didasarkan pada pembuatan profil seseorang atau penilaian karakteristik mereka), dan AI yang memanipulasi perilaku manusia atau mengeksploitasi kerentanan manusia juga akan dilarang.
Pengecualian penegakan hukum
Penggunaan sistem identifikasi biometrik (RBI) oleh penegak hukum pada prinsipnya dilarang, kecuali dalam situasi yang disebutkan secara mendalam dan didefinisikan secara sempit. RBI “real-time” hanya dapat diterapkan jika pengamanan yang ketat dipenuhi, misalnya penggunaannya dibatasi dalam waktu dan cakupan geografis dan tunduk pada izin hukum atau administratif tertentu sebelumnya. Penggunaan tersebut dapat mencakup, misalnya, pencarian orang hilang yang ditargetkan atau mencegah serangan teroris. Penggunaan sistem post-facto (“RBI pasca-jarak jauh”) dianggap sebagai kasus penggunaan berisiko tinggi, yang memerlukan izin yudisial untuk dikaitkan dengan tindak pidana.
Kewajiban untuk sistem berisiko tinggi
Kewajiban yang jelas juga diperkirakan akan diterapkan pada sistem AI lainnya yang berisiko tinggi (karena potensi bahayanya yang signifikan terhadap kesehatan, keselamatan, hak-hak dasar, lingkungan hidup, demokrasi, dan supremasi hukum). Contoh penggunaan AI yang berisiko tinggi mencakup infrastruktur penting, pendidikan dan pelatihan kejuruan, ketenagakerjaan, layanan penting swasta dan publik (misalnya layanan kesehatan, perbankan), sistem tertentu dalam penegakan hukum, migrasi dan pengelolaan perbatasan, proses peradilan dan demokrasi (misalnya mempengaruhi pemilu) . Sistem tersebut harus menilai dan mengurangi risiko, memelihara catatan penggunaan, transparan dan akurat, dan memastikan pengawasan manusia. Warga negara mempunyai hak untuk menyampaikan keluhan tentang sistem AI dan menerima penjelasan tentang keputusan berdasarkan sistem AI berisiko tinggi yang mempengaruhi hak-hak mereka.
Persyaratan transparansi
Sistem AI Tujuan Umum (GPAI), dan model GPAI yang menjadi dasarnya, harus memenuhi persyaratan transparansi tertentu, termasuk kepatuhan terhadap undang-undang hak cipta UE dan menerbitkan ringkasan rinci tentang konten yang digunakan untuk pelatihan. Model GPAI yang lebih kuat dan dapat menimbulkan risiko sistemik akan menghadapi persyaratan tambahan, termasuk melakukan evaluasi model, menilai dan memitigasi risiko sistemik, dan melaporkan insiden.
Selain itu, konten gambar, audio, atau video yang dibuat-buat atau dimanipulasi (“deepfakes”) harus diberi label yang jelas.
Langkah-langkah untuk mendukung inovasi dan UKM
Ruang lingkup peraturan dan pengujian di dunia nyata harus ditetapkan di tingkat nasional, dan dapat diakses oleh UKM dan perusahaan rintisan, untuk mengembangkan dan melatih AI yang inovatif sebelum diluncurkan ke pasar.
Tanda kutip
Selama debat pleno pada hari Selasa, rekan pelapor Komite Pasar Internal Brando Benifei (S&D, Italia) mengatakan: “Kami akhirnya memiliki undang-undang mengikat pertama di dunia mengenai kecerdasan buatan, untuk mengurangi risiko, menciptakan peluang, memerangi diskriminasi, dan mewujudkan transparansi. Berkat Parlemen, praktik AI yang tidak dapat diterima akan dilarang di Eropa dan hak-hak pekerja serta warga negara akan dilindungi. Kantor AI kini akan dibentuk untuk mendukung perusahaan agar mulai mematuhi peraturan sebelum diberlakukan. Kami memastikan bahwa kemanusiaan dan nilai-nilai Eropa adalah inti dari pengembangan AI”.
Pelapor Komite Kebebasan Sipil Dragos Tudorache (Renew, Rumania) mengatakan: “UE telah mewujudkannya. Kami telah menghubungkan konsep kecerdasan buatan dengan nilai-nilai fundamental yang menjadi dasar masyarakat kita. Namun, masih banyak pekerjaan yang harus dilakukan selain UU AI itu sendiri. AI akan mendorong kita untuk memikirkan kembali kontrak sosial yang menjadi inti negara demokrasi, model pendidikan, pasar tenaga kerja, dan cara kita berperang. UU AI adalah titik awal model tata kelola baru yang dibangun berdasarkan teknologi. Kita sekarang harus fokus untuk menerapkan undang-undang ini”.
Langkah berikutnya
Peraturan ini masih harus melalui pemeriksaan akhir ahli bahasa-pengacara dan diharapkan dapat disahkan sebelum berakhirnya masa badan legislatif (melalui apa yang disebut dengan kesalahan dlm tulisan yg diperbaiki prosedur). Undang-undang tersebut juga perlu disahkan secara resmi oleh Dewan.
Peraturan ini akan mulai berlaku dua puluh hari setelah dipublikasikan di Jurnal resmi, dan berlaku sepenuhnya 24 bulan setelah mulai berlaku, kecuali untuk: larangan terhadap praktik terlarang, yang akan berlaku enam bulan setelah tanggal berlakunya; kode etik (sembilan bulan setelah diberlakukan); peraturan AI untuk tujuan umum termasuk tata kelola (12 bulan setelah diberlakukan); dan kewajiban untuk sistem berisiko tinggi (36 bulan).
Latar Belakang
Undang-Undang Kecerdasan Buatan menanggapi secara langsung usulan masyarakat dari Konferensi Masa Depan Eropa (COFE), yang paling konkrit adalah usulan 12(10) pada peningkatan daya saing UE di sektor-sektor strategis, usulan 33(5) pada masyarakat yang aman dan dapat dipercaya, termasuk melawan disinformasi dan memastikan manusia memegang kendali, usulan 35 dalam mempromosikan inovasi digital, (3) sambil memastikan pengawasan manusia dan (8) penggunaan AI yang dapat dipercaya dan bertanggung jawab, menetapkan perlindungan dan memastikan transparansi, dan usulan 37 (3) tentang penggunaan AI dan alat digital untuk meningkatkan akses masyarakat terhadap informasi, termasuk penyandang disabilitas.
