La prospettiva che l’intelligenza artificiale possa migliorare se stessa e progettare versioni successive ha superato i confini della fantascienza, entrando nel campo della ricerca accademica. Gli specialisti in Cina stanno esaminando le condizioni necessarie per il miglioramento ricorsivo, o RSI, un processo in cui un sistema di IA potrebbe valutare i propri limiti, modificare i propri metodi di addestramento e utilizzare i risultati per costruire modelli sempre più capaci.
La proposta affronta anche una delle principali difficoltà dell’industria tecnologica: l’aumento dei costi finanziari e computazionali legati allo sviluppo di sistemi più sofisticati. Se l’IA potesse assumere gradualmente alcune attività di ricerca e ottimizzazione, lo sviluppo di nuove generazioni di modelli potrebbe diventare più rapido e meno dipendente dai team umani.
Lo studio è stato pubblicato come preprint su arXiv il 10 settembre e non è ancora stato sottoposto a revisione accademica tra pari. Presenta cinque livelli di autonomia, iniziando da sistemi il cui sviluppo rimane in gran parte guidato dalle persone e procedendo verso modelli capaci di identificare le proprie debolezze, scegliere come correggerle e modificare le procedure utilizzate per il proprio miglioramento.
Ai livelli più elevati, un’IA potrebbe produrre quelli che i ricercatori descrivono come «meta-miglioramenti». Invece di modificare singoli compiti o parametri interni, il sistema perfezionerebbe i meccanismi che utilizza per apprendere e svilupparsi.
I primi esperimenti hanno mostrato soltanto progressi parziali. Un test ha utilizzato un metodo chiamato A-Evolve-Training per ottimizzare un modello linguistico con 30 miliardi di parametri. Nel corso di quattro fasi, il sistema ha applicato diverse strategie di addestramento e ha utilizzato i dati risultanti per orientare le decisioni successive, ottenendo miglioramenti moderati nei test delle prestazioni.
Questi risultati non dimostrano che un’IA possa creare autonomamente una generazione di modelli più intelligente. Peter Bentley, professore di Biologia digitale presso l’University College London, ha dichiarato a Live Science di non considerare tali esperimenti una strada credibile verso il miglioramento ricorsivo. Ha osservato che software progettati per ottimizzare il proprio funzionamento esistono da decenni, anche attraverso il calcolo evolutivo e l’apprendimento per rinforzo, ma ha sostenuto che la difficoltà centrale consiste nel consentire a una macchina di dirigere la ricerca necessaria per un progresso autentico.
Bentley ha inoltre affermato che un miglioramento duraturo richiederebbe più di semplici modifiche al software. Un sistema dovrebbe migliorare il proprio addestramento, ampliare le risorse disponibili attraverso l’hardware fisico e superare test impegnativi in condizioni reali. La necessità di potenza di calcolo e di infrastrutture tecniche rimane quindi una limitazione decisiva.
Kayla Blomquist, ricercatrice dell’Università di Oxford e cofondatrice dell’Oxford China Policy Lab, ha affermato che il documento è utile per individuare le difficoltà tecniche e di controllo associate a sistemi più indipendenti, ma non offre una via pratica immediata all’implementazione. Ha inoltre messo in dubbio che esisterà mai un punto chiaramente definito in cui l’IA smetterà di dipendere dalle persone, descrivendo il processo come un trasferimento graduale di funzioni piuttosto che come una singola svolta.
Fonti: elDiario.es.