Adresse toppmötet om artificiell intelligenssäkerhet sammankallat av Storbritannien, på den berömda Bletchley Park-godset – där allierade kodbrytare gjorde ett enormt bidrag till krigsinsatsen med att knäcka nazistiska koder – betonade FN-chefen behovet av "uthållig och strukturerad konversation" kring dess risker, utmaningar och möjligheter.
"FN - en inkluderande, rättvis och universell plattform för samordning av AI-styrning - är nu fullt engagerad i det samtalet", sa han.
Tre nyckelområden
Generalsekreteraren beskrev tre nyckelområden för omedelbara åtgärder.
Först efterlyste han att man skulle ta itu med befintliga hot relaterade till lanseringen av kraftfulla AI-modeller som för närvarande saknar tillräckligt med skyddsräcken och tillsyn.
För det andra uttryckte Guterres oro över de långsiktiga negativa konsekvenserna av AI, inklusive dess inverkan på jobben; urholkningen av erosion av kulturell mångfald på grund av partiska algoritmer och uppvärmningen av geopolitiska spänningar som uppstår från koncentrationen av AI-företag i bara en handfull länder.
Den tredje oro var att i avsaknad av omedelbara åtgärder kommer AI att förvärra ojämlikheter som redan växer sig större.
”Detta är ingen risk; det är verklighet”, varnade han.
Etiska principer
För att ta itu med dessa problem nämnde Guterres utvecklingen av över 100 olika uppsättningar av ofta överlappande etiska principer för AI.
Även om det finns bred enighet om principer som tillförlitlighet, transparens, ansvarsskyldighet och förmågan att stänga av AI-applikationer, behövs global tillsyn för att förhindra inkoherens och luckor, uppmanade han.
FN-chefen lyfte fram lanseringen av sin nya Rådgivande organ för AI, som består av experter från myndigheter, näringsliv, tekniksamhället, civilsamhället och akademin.
"Det är verkligen universellt, med representation från alla delar av världen, för att främja de nätverksanslutna, inkluderande, evidensbaserade lösningarna som behövs", sa han.
Partnerskap för framtiden
Det rådgivande organet kommer att arbeta tillsammans med andra globala initiativ inrättade genom EU och G7, till exempel, och kommer att ge preliminära rekommendationer i slutet av året om att bygga vetenskaplig konsensus och få AI att fungera för hela mänskligheten.
Dessa rekommendationer kommer att ingå i Global Digital Compact, som föreslås för antagande av FN Framtidens toppmöte nästa september.
"Med andra ord - dess arbete kommer att integrera AI-styrning i mellanstatliga processer och ett etablerat globalt toppmöte," sa Guterres.
