Addressing o Cumio sobre Seguridade da Intelixencia Artificial convocado polo Reino Unido, na famosa finca de Bletchley Park -onde os descifradores de códigos aliados fixeron unha enorme contribución ao esforzo bélico para descifrar os códigos nazis-, o xefe da ONU fixo fincapé na necesidade dunha "conversación sostida e estruturada" arredor dos seus riscos, retos e oportunidades.
"As Nacións Unidas, unha plataforma inclusiva, equitativa e universal para a coordinación da gobernanza da IA, están agora plenamente comprometidas nesa conversación", dixo.
Tres áreas clave
O secretario xeral describiu tres áreas clave para unha acción inmediata.
En primeiro lugar, pediu abordar as ameazas existentes relacionadas co lanzamento de poderosos modelos de IA que actualmente carecen de gardas e supervisión suficientes.
En segundo lugar, o Sr. Guterres expresou a súa preocupación polas consecuencias negativas a longo prazo da IA, incluíndo o seu impacto nos postos de traballo; a erosión da erosión da diversidade cultural debido a algoritmos sesgados e o avivamento das tensións xeopolíticas derivadas da concentración de corporacións de intelixencia artificial en só un puñado de países.
A terceira preocupación foi que, en ausencia de accións inmediatas, a IA agravará as desigualdades que xa se están facendo máis amplas.
“Isto non é un risco; é unha realidade”, advertiu.
Principios éticos
Para abordar estas preocupacións, Guterres mencionou o desenvolvemento de máis de 100 conxuntos diferentes de principios éticos a miúdo superpostos para a IA.
Aínda que hai un amplo acordo sobre principios como a fiabilidade, a transparencia, a responsabilidade e a capacidade de pechar as aplicacións de IA, é necesaria unha supervisión global para evitar incoherencias e lagoas, instou.
O xefe da ONU destacou o lanzamento do seu novo Órgano Consultivo en IA, que está formado por expertos do goberno, empresas, comunidade tecnolóxica, sociedade civil e academia.
"É verdadeiramente universal, con representación de todas as partes do mundo, para fomentar as solucións en rede, inclusivas e baseadas en evidencias que se necesitan", dixo.
Asociacións para o futuro
O Órgano Consultivo traballará en conxunto con outras iniciativas globais creadas a través da UE e do G7, por exemplo, e ofrecerá recomendacións preliminares a finais de ano sobre a creación de consenso científico e para que a IA funcione para toda a humanidade.
Estas recomendacións incorporaranse ao Pacto Dixital Mundial, proposto para a súa adopción na ONU Cumio do Futuro o próximo mes de setembro.
"Noutras palabras: o seu traballo incorporará a gobernanza da IA nos procesos intergobernamentais e nun cumio global establecido", dixo Guterres.