В заявлении, сделанном в пятницу, эксперты заявили, что новые технологии, в том числе системы биометрического наблюдения на основе искусственного интеллекта, все чаще используются «в деликатных контекстах». без ведома или согласия отдельных лиц
Необходимо провести «срочные красные линии»
«Необходимы срочные и строгие нормативные ограничения для технологий, которые претендуют на распознавание эмоций или пола», — заявили эксперты, среди которых Фионнуала Ни Аолейн, специальный докладчик по вопросу о поощрении и защите прав человека в условиях борьбы с терроризмом.
Цена на Совет по правам человека-назначенные эксперты осудили и без того «вызывающее тревогу» использование и влияние шпионских программ и технологий наблюдения на работу правозащитников и журналистов, «часто под прикрытием мер национальной безопасности и борьбы с терроризмом».
Они также призвали к регулированию молниеносной разработки генеративного ИИ, позволяющего массово производить поддельный онлайн-контент, который распространяет дезинформацию и разжигает ненависть.
Последствия реального мира
Эксперты подчеркнули необходимость обеспечения того, чтобы эти системы не подвергали людей и общины дальнейшему права человека нарушения, в том числе путем расширения и злоупотребления инвазивными методами наблюдения, которые нарушают право на неприкосновенность частной жизни, способствуют совершению грубых нарушений прав человека, включая насильственные исчезновения и дискриминацию.
Они также выразили озабоченность по поводу соблюдения свободы слова, мысли, мирный протест, и для доступа к основным экономическим, социальным и культурным правам и гуманитарным услугам.
«Следует полностью избегать конкретных технологий и приложений, если урегулирование жалоб на нарушение прав человека невозможно", - заявили эксперты.
Эксперты также выразили обеспокоенность тем, что разработка генеративного ИИ осуществляется небольшой группой влиятельных субъектов, включая предприятия и инвесторов, без надлежащих требований для проведения должной осмотрительности в области прав человека или консультаций с пострадавшими лицами и сообществами.
А важнейшую работу по внутреннему регулированию посредством модерации контента часто выполняют лица в ситуациях трудовой эксплуатации, отмечают независимые эксперты.
Больше прозрачности
«Срочно необходимо регулирование, чтобы обеспечить прозрачность, предупредить людей, когда они сталкиваются с синтетическими носителями, и информировать общественность об используемых обучающих данных и моделях», — заявили эксперты.
Эксперты вновь призвали к осторожности об использовании цифровых технологий в контексте гуманитарных кризисов, от крупномасштабного сбора данных, включая сбор высокочувствительных биометрических данных, до использования передовых технологий целевого наблюдения.
«Мы призываем к сдержанности в использовании таких мер до тех пор, пока не будут полностью поняты более широкие последствия для прав человека и не будут приняты надежные меры защиты данных», — заявили они.
Шифрование, конфиденциальность превыше всего
Они подчеркнули необходимость обеспечения технических решений, в том числе надежное сквозное шифрование и неограниченный доступ к виртуальным частным сетям – а также обеспечивать безопасность и защиту цифровых коммуникаций.
"И то и другое промышленность и государства должны нести ответственность, в том числе за их воздействие на экономику, социальную среду, окружающую среду и права человека», — заявили они. «Следующее поколение технологий не должны воспроизводить или укреплять системы исключения, дискриминация и модели угнетения».
Специальные докладчики и другие эксперты по правам человека назначаются Советом ООН по правам человека, уполномочены отслеживать и сообщать по конкретным тематическим вопросам или ситуации в стране, не являются сотрудниками ООН и не получают зарплату за свою работу.
