OpenAI, l'organizzazione dietro ChatGPT, ha annunciato martedì il lancio di a nuovo strumento in grado di rilevare le immagini create dal suo generatore di testo in immagine, DALL E 3.
La decisione di sviluppare e rilasciare questo software arriva in un contesto di crescenti preoccupazioni sul ruolo dei contenuti generati dall’intelligenza artificiale nelle elezioni globali di quest’anno, compreso l’uso prominente di tali contenuti per diffondere disinformazione.
Lo strumento, supportato da Microsoft, ha dimostrato nei test interni di identificare correttamente le immagini create da DALL·E 3 circa il 98% delle volte ed è in grado di resistere alle comuni alterazioni delle immagini come compressione, ritaglio e cambiamenti di saturazione.
Inoltre, OpenAI sta implementando una filigrana resistente alle manomissioni per aiutare ad autenticare i contenuti digitali come foto e audio, rendendo queste filigrane difficili da rimuovere. Nel tentativo di stabilire standard più solidi per la provenienza dei media, OpenAI si è unita a una coalizione industriale che include giganti della tecnologia come Google, Microsoft e Adobe.
Per affrontare ulteriormente le sfide globali esistenti, OpenAI, in collaborazione con Microsoft, sta avviando un fondo di “resilienza sociale” da 2 milioni di dollari volto a rafforzare l’educazione e la consapevolezza dell’IA. Questa iniziativa riflette un crescente riconoscimento della necessità di dotare le società delle conoscenze necessarie per affrontare le complessità introdotte dalle tecnologie avanzate di intelligenza artificiale.
Scritto da Alius Noreika