Mentre il 2024 volge al termine, il capitalista di rischio Rob Toews di Radical Ventures condivide le sue previsioni per l’intelligenza artificiale nel 2025:<\/p>\n\n\n\n
01. Meta inizier\u00e0 a far pagare i modelli Llama<\/p>\n\n\n\n
Meta \u00e8 il principale fornitore di intelligenza artificiale aperta al mondo. In un interessante caso di studio sulla strategia aziendale, Meta ha scelto di rendere disponibile gratuitamente il suo modello all’avanguardia, Llama, mentre concorrenti come OpenAI <\/strong>e Google hanno apertamente chiuso i loro modelli all’avanguardia e ne hanno fatto pagare l’utilizzo.<\/p>\n\n\n\n Quindi la notizia che Meta inizier\u00e0 a far pagare alle aziende l’utilizzo di Llama l’anno prossimo giunger\u00e0 come una sorpresa per molti.<\/p>\n\n\n\n Per essere chiari: non stiamo prevedendo che Meta disattiver\u00e0 completamente il codice sorgente di Llama, n\u00e9 che chiunque utilizzi i modelli Llama dovr\u00e0 pagarne il costo.<\/p>\n\n\n\n Ci aspettiamo invece che Meta rafforzi i termini della licenza open source di Llama in modo che le aziende di una certa dimensione che utilizzano Llama in un contesto commerciale debbano iniziare a pagare per utilizzare il modello.<\/p>\n\n\n\n Tecnicamente, Meta lo fa gi\u00e0 oggi in misura limitata. L’azienda non consente alle grandi aziende (supercomputer cloud e altre aziende con oltre 700 milioni di utenti attivi al mese) di utilizzare gratuitamente il suo modello Llama.<\/p>\n\n\n\n Nel 2023, il CEO di Meta Mark Zuckerberg ha affermato: “Se sei un’azienda come Microsoft, Amazon o Google e fondamentalmente rivendi Llama, allora dovremmo guadagnarci qualcosa. Non credo che ci sar\u00e0 un breve periodo di tempo. non ci saranno molti ricavi nel breve termine, ma si spera che ci saranno ricavi nel lungo termine.”<\/p>\n\n\n\n L’anno prossimo Meta amplier\u00e0 significativamente la gamma di attivit\u00e0 commerciali paganti che utilizzano Llama, includendo anche le medie e grandi imprese. Stare al passo con gli ultimi sviluppi nei Large Language Models (LLM) \u00e8 costoso. Meta deve investire miliardi di dollari ogni anno per mantenere Llama aggiornato con gli ultimi modelli all’avanguardia di aziende come OpenAI <\/strong> Anthropic e altre.<\/p>\n\n\n\n Meta \u00e8 una delle aziende pi\u00f9 grandi e meglio finanziate al mondo. Ma \u00e8 anche una societ\u00e0 pubblica e, in ultima analisi, \u00e8 responsabile nei confronti dei suoi azionisti.<\/p>\n\n\n\n Poich\u00e9 il costo di produzione di modelli all’avanguardia continua ad aumentare, diventa sempre pi\u00f9 insostenibile per Meta investire cos\u00ec tanti soldi nell’addestramento della prossima generazione di modelli Llama senza alcuna aspettativa di profitto.<\/p>\n\n\n\n Nel corso del prossimo anno, il modello Llama continuer\u00e0 a essere disponibile gratuitamente per hobbisti, accademici, singoli sviluppatori e startup. Ma il 2025 sar\u00e0 l’anno in cui Meta inizier\u00e0 a lavorare seriamente per rendere Llama redditizio.<\/p>\n\n\n\n 02. Domande sulla \u201clegge di scala\u201d<\/p>\n\n\n\n Nelle ultime settimane, l’argomento pi\u00f9 dibattuto nel campo dell’intelligenza artificiale \u00e8 stata la questione delle leggi di scalabilit\u00e0 e se queste siano prossime a rompersi.<\/p>\n\n\n\n La legge di scala \u00e8 stata proposta per la prima volta in un articolo di OpenAI del 2020. Il concetto di base \u00e8 semplice: quando si addestra un modello di intelligenza artificiale, all’aumentare del numero di parametri del modello, della quantit\u00e0 di dati di addestramento e della quantit\u00e0 di elaborazione, le prestazioni del modello miglioreranno in modo affidabile e prevedibile (tecnicamente, la sua perdita di test ridurr\u00e0).<\/p>\n\n\n\n I significativi miglioramenti delle prestazioni da GPT-2 a GPT-3 a GPT-4 sono tutti dovuti alla legge di scala.<\/p>\n\n\n\n Come la legge di Moore, le leggi di scala non sono affatto leggi vere e proprie, ma solo osservazioni empiriche.<\/p>\n\n\n\n Una serie di rapporti pubblicati il \u200b\u200bmese scorso hanno evidenziato che, mentre i laboratori di intelligenza artificiale continuano a sviluppare modelli linguistici di grandi dimensioni, i rendimenti sono decrescenti. Questo aiuta a spiegare perch\u00e9 il rilascio di GPT-5 di OpenAI \u00e8 stato ripetutamente ritardato.<\/p>\n\n\n\n La confutazione pi\u00f9 comune alla stagnazione della legge sulla scalabilit\u00e0 \u00e8 che l’avvento dei calcoli dei tempi di test ha aperto una dimensione completamente nuova nella ricerca sulla scalabilit\u00e0.<\/p>\n\n\n\n