Nature ha parlato con Jakub Pachotsky, capo scienziato di OpenAI , della capacità dell’IA di generare ricerche originali, delle prospettive dell’intelligenza artificiale generale (AGI) e dei prossimi modelli open source dell’azienda.
Oggi, quando si interagisce con un modello, è più simile a un assistente che necessita di una guida costante. Mi aspetto che questo cambi significativamente.
Abbiamo visto soluzioni come Deep Research diOpenAI uno strumento che integra molte informazioni, che può funzionare per 10-20 minuti senza supervisione e produrre risultati utili. Ma le risorse computazionali necessarie per risolvere questi problemi sono relativamente ridotte.
Se si ha un problema di ricerca aperto, vale la pena investire più risorse computazionali. Mi aspetto che avremo un’IA in grado di condurre ricerche originali. Ad esempio, ci saranno molti progressi in settori come l’ingegneria del software automatizzata e la progettazione autonoma di componenti hardware, e applicazioni simili emergeranno in altre discipline. La versione iniziale di ChatGPT include una fase di pre-addestramento non supervisionata, in cui il modello costruisce un “modello globale” acquisendo una grande quantità di dati. Successivamente, lo perfezioniamo in un assistente utile attraverso un processo di apprendimento per rinforzo con feedback umano.
I più recenti progressi nei modelli di inferenza possono essere visti come una maggiore enfasi sulla fase di apprendimento per rinforzo, in cui non ci limitiamo a estrarre informazioni, ma permettiamo al modello di trovare il proprio modo di pensare.
Una domanda è se dovremmo continuare a considerare queste fasi di apprendimento separatamente. I modelli di inferenza non imparano a pensare da zero, ma si basano su modelli pre-addestrati. Uno degli obiettivi del mio lavoro è studiare questa fase e fondere diversi approcci per comprenderne le interazioni. Qual è la tua definizione di AGI? Quando pensi che ci arriveremo?
La mia cronologia e la mia definizione sono cambiate molto. Quando ho iniziato la specializzazione, ho visto una pietra miliare importante per l’AGI: Go, che pensavo fosse lontano decenni. A quanto pare, Go è stato risolto nel 2016, e quello è stato un momento sconvolgente.
Quando sono entrato in OpenAI nel 2017, ero uno dei più scettici dell’azienda, ma i traguardi sono stati raggiunti più velocemente del previsto. Abbiamo fatto progressi significativi nel test di Turing. La domanda successiva è: che dire della matematica e del problem solving? Abbiamo fatto grandi progressi anche in questo campo e mi aspetto che i benchmark più impegnativi saranno presto superati.
Quindi, il prossimo grande traguardo su cui mi sto concentrando è se l’IA possa avere un impatto reale e quantificabile sull’economia, e soprattutto se possa produrre risultati scientifici originali. Per me, questo è vicino alla mia precedente definizione emotiva di IA. Ora ci stiamo concentrando in questa direzione e mi aspetto che entro la fine di questo decennio avremo compiuto progressi molto significativi. Anche quest’anno, mi aspetto che l’IA sia in grado di generare software di valore in modo quasi autonomo, sebbene potrebbe non risolvere importanti problemi scientifici.