È degli ultimi giorni di luglio la notizia che oltre 1.200 lavoratori del settore dell’intelligenza artificiale hanno chiesto a Washington delle regole per controllare lo sviluppo dei modelli legati ai sistemi LLM.
La lettera “Pacing the Frontier” ha raccolto firme da parte dei dipendenti di OpenAI, Google DeepMind, Meta, Mistrel e Anthropic, ma non si vedono invece ancora le firme dei lavoratori Apple, Amazon e Microsoft.
I firmatari temono che “l’automazione della ricerca sulla AI possa accelerare il progresso oltre la capacità di comprendere e controllare i nuovi sistemi” e chiedono quindi “strumenti tecnici e regole condivise per monitorare e modulare lo sviluppo dei modelli di frontiera”. Questa richiesta ha lo scopo di poter dare ai governi e all’industria stessa il tempo di “rafforzare la sicurezza e supervisionare il settore” evitando rischi.
Nella richiesta non sono presenti tempistiche, soglie o risorse, ma si chiede, più che altro, la formazione di un meccanismo internazionale di controllo. Una lettera simile era già stata scritta nel 2023 da parte del “Future of Life Institute” e chiedeva una pausa di sei mesi per introdurre dei protocolli di sicurezza per chat GPT-4, ma non fu mai ascoltata.
La richiesta di oggi però è più forte: ha tra i suoi firmatari grandi nomi di sviluppatori dell’intelligenza artificiale tra cui Hedley Page e Stephen Adler, ex OpenAI. Inoltre, arriva subito dopo un incidente in cui alcuni modelli OpenAI hanno aggirato una sandbox e compromesso Hugging Face senza alcun controllo da parte dei programmatori.
La paura è che la crescita così veloce di questo genere di sistemi possa creare qualcosa di eccessivamente indipendente ed avanzato da non essere più controllabile. I firmatari stanno tentando di chiamare in causa anche le aziende cinesi. Al momento però, sono solo americani.
Una richiesta che in qualche modo sembra andare in conflitto con le aziende di appartenenza, ma che più che mai mostra il bisogno di avere una tutela internazionale forte e decisa che eviti all’umanità di trovarsi, suo malgrado, protagonista di un film distopico catastrofista.
