«Мы пытаемся ограничить использование искусственного интеллекта в тех областях, где мы видим в нем серьезную проблему для основных прав и свобод граждан.
Оценки такого типа приложений часто ненадежны и создают риск дискриминации. Мы не хотим останавливать технический прогресс, но хотим ограничить его использование таким образом, чтобы гарантировать основные права человека », - сказал лидер болгарских социалистов в ЕП Петр Витанов на пресс-конференции с журналистами.
Причина - его отчет о применении искусственного интеллекта в правоохранительных органах, по которому сегодня голосовал Европарламент. Тема искусственного интеллекта давно стала предметом серьезных дискуссий на пленарных заседаниях. Основная дискуссия заключается в том, где проходит грань между его использованием во имя безопасности и риском злоупотреблений и дискриминации.
Использование искусственного интеллекта в различных общественных сферах растет беспрецедентными темпами. Предсказание преступлений и выявление возможных будущих преступников сейчас происходит не только в кино. Искусственный интеллект распознает лица, голоса, походки.
Умные системы обрабатывают огромные объемы данных, на основе которых они классифицируют людей и предсказывают их будущее поведение. Однако интеллектуальные приложения ни в коем случае не являются безошибочными, и ряд НПО уже осознают риск искаженных результатов и дискриминации в отношении уязвимых групп.
В докладе Витанова поднимается вопрос, насколько объективна оценка компьютеров и где мы должны установить предел, чтобы не жить в истории Оруэлла. Он призывает к ограничению и контролю со стороны человека над использованием искусственного интеллекта в правоохранительных органах, а также к запрету распознавания лиц в общественных местах.
«У нас уже есть ряд случаев, когда с людьми обращаются несправедливо из-за искусственного интеллекта - им отказывают в социальных пособиях из-за ошибок инструментов, основанных на искусственном интеллекте, или их арестовывают в результате ненадежного распознавания лиц. Я не удивлен, что жертвами всегда становятся бедняки, иммигранты, цветные люди, восточноевропейцы », - сказал Витанов ранее в зале пленарных заседаний Европарламента.
«Личное признание в общественных местах нарушает неприкосновенность частной жизни, право на мнение и выражение, право общаться с другими и оставаться анонимным», - заявил депутат Европарламента в интервью авторитетной газете Politico. Это может привести к тому, что люди никогда не будут принимать участие в мирных демонстрациях или протестах. С другой стороны, из метода обеспечения безопасности распознавание лиц легко может стать средством массового наблюдения.
«Я не хочу выступать против безопасности и свободы, но технический прогресс не должен идти в ущерб права человека. Искусственный интеллект может быть опасен, независимо от того, используется ли он демократическими или авторитарными правительствами, потому что он часто делает ошибки и искажает результаты. Мы должны быть осторожны - благие намерения не всегда оправдывают средства. Как законодатели, мы несем огромную ответственность перед гражданами Европы », - добавил Витанов.
