Funzionari governativi e dirigenti dell'industria dell'IA hanno concordato martedì di applicare misure di sicurezza elementari nel settore in rapida evoluzione e stabilire una rete internazionale di ricerca sulla sicurezza.
Quasi sei mesi dopo il primo summit globale sulla sicurezza dell'IA a Bletchley Park in Inghilterra, Gran Bretagna e Corea del Sud ospitano questa settimana il summit sulla sicurezza dell'IA a Seoul. L'incontro sottolinea le nuove sfide e opportunità che il mondo affronta con l'avvento della tecnologia AI.
Il governo britannico ha annunciato martedì un nuovo accordo tra 10 paesi e l'Unione europea per stabilire una rete internazionale simile all'AI Safety Institute del Regno Unito, il primo organizzazione al mondo a sostegno pubblico, per accelerare l'avanzamento della scienza della sicurezza dell'IA. La rete promuoverà una comprensione comune della sicurezza dell'IA e allineerà il suo lavoro con la ricerca, gli standard e i test. Australia, Canada, UE, Francia, Germania, Italia, Giappone, Singapore, Corea del Sud, Regno Unito e Stati Uniti hanno firmato l'accordo.
Il primo giorno del Summit sull'IA a Seoul, leader globali e principali aziende di intelligenza artificiale si sono riuniti per una riunione virtuale presieduta dal primo ministro del Regno Unito Rishi Sunak e dal presidente della Corea del Sud Yoon Suk Yeol per discutere di sicurezza, innovazione e inclusione dell'IA.
Durante le discussioni, i leader hanno concordato la più ampia Dichiarazione di Seoul, sottolineando un aumento della collaborazione internazionale nella costruzione dell'IA per affrontare le principali questioni globali, difendere i diritti umani e colmare i divari digitali in tutto il mondo, pur dando priorità al essere "centrati sull'essere umano, affidabili e responsabili".
"L'IA è una tecnologia estremamente eccitante - e il Regno Unito ha guidato gli sforzi globali per affrontare il suo potenziale, ospitando lo scorso anno il primo summit sulla sicurezza dell'IA", ha dichiarato Sunak in una dichiarazione del governo britannico. "Ma per ottenere i benefici, dobbiamo garantire che sia sicura. Ecco perché sono lieto che oggi abbiamo ottenuto un accordo per una rete di AI Safety Institutes."
Appena il mese scorso, Regno Unito e Stati Uniti hanno siglato un memorandum d'intesa per collaborare alla ricerca, alla valutazione della sicurezza e all'orientamento sulla sicurezza dell'IA.
L'accordo annunciato oggi segue i primi impegni sulla sicurezza dell'IA del mondo da parte di 16 aziende coinvolte nell'IA, tra cui Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, Open AI, Samsung Electronics, Technology Innovation Institute, xAi e Zhipu.ai. (Zhipu.ai è un'azienda cinese supportata da Alibaba, Ant e Tencent).
Le aziende di IA, comprese quelle degli Stati Uniti, della Cina e degli Emirati Arabi Uniti (EAU), hanno accettato gli impegni sulla sicurezza per "non sviluppare o implementare un modello o sistema affatto se le mitigazioni non possono mantenere i rischi al di sotto delle soglie", secondo la dichiarazione del governo britannico.
"È una novità mondiale avere così tante aziende leader di AI provenienti da così tante parti del globo che concordano tutti sugli stessi impegni sulla sicurezza dell'AI", ha detto Sunak. "Questi impegni garantiscono che le principali aziende di AI del mondo forniranno trasparenza e responsabilità sui loro piani per sviluppare un'IA sicura".
A Bletchley, Rishi Sunak conferma l'AI Safety Institute ma ritarda i regolamenti per un altro giorno
I politici si impegnano a collaborare per affrontare la sicurezza dell'IA, gli Stati Uniti lanciano un istituto di sicurezza
