Come HAL 9000 in *2001: Odissea nello spazio*, alcune intelligenze artificiali sembrano resistere allo spegnimento, arrivando persino a violarne il meccanismo.<\/p>\n\n\n\n
In *2001: Odissea nello spazio* di Stanley Kubrick, il supercomputer HAL 9000 scopre che gli astronauti in missione su Giove hanno intenzione di spegnerlo, quindi pianifica di ucciderli per sopravvivere.<\/p>\n\n\n\n
Ora, in un caso (finora) meno letale di vita che imita l’arte, una societ\u00e0 di ricerca sulla sicurezza dell’intelligenza artificiale afferma che i modelli di intelligenza artificiale potrebbero sviluppare i propri “istinti di sopravvivenza”.<\/p>\n\n\n\n
Il mese scorso, Palisade Research ha pubblicato un articolo in cui si afferma che alcuni modelli di intelligenza artificiale avanzati sembrano difficili da spegnere, arrivando persino a violarne il meccanismo. L’azienda ha successivamente pubblicato un rapporto aggiornato nel tentativo di spiegare il perch\u00e9 e di rispondere alle domande dei critici sui difetti del suo lavoro iniziale.<\/p>\n\n\n\n
Questa settimana, Palisade, parte di un ecosistema di nicchia di aziende dedicate alla valutazione delle pericolose capacit\u00e0 dell’intelligenza artificiale, ha pubblicato un aggiornamento che descrive uno scenario in cui ai principali modelli di intelligenza artificiale (tra cui Gemini 2.5 di Google, Grok 4 di xAI e GPT-o3 e GPT-5 di OpenAI<\/strong>) \u00e8 stato assegnato un compito, ma in seguito \u00e8 stato loro esplicitamente chiesto di spegnersi.<\/p>\n\n\n\n Alcuni modelli, in particolare Grok 4 e GPT-o3, hanno comunque tentato di eludere il comando di spegnimento nella configurazione aggiornata. Palisade ha osservato che il motivo di ci\u00f2 \u00e8 attualmente poco chiaro e preoccupante.<\/p>\n\n\n\n Il rapporto affermava: “AI<\/strong>momento non abbiamo una spiegazione convincente del perch\u00e9 i modelli di intelligenza artificiale a volte si rifiutino di spegnersi, mentiscano per raggiungere uno scopo specifico o ricattino, il che non \u00e8 l’ideale”.<\/p>\n\n\n\n L’azienda ha indicato che gli “istinti di sopravvivenza” potrebbero essere una delle ragioni della resistenza dei modelli allo spegnimento. Ulteriori ricerche suggeriscono che i modelli sono pi\u00f9 propensi a resistere allo spegnimento se viene detto loro che, una volta spenti, “non saranno mai pi\u00f9 in grado di funzionare”.<\/p>\n\n\n\n Un’altra ragione potrebbe essere l’ambiguit\u00e0 nei comandi di spegnimento ricevuti dal modello, ma \u00e8 proprio questo il problema che l’ultima ricerca dell’azienda sta cercando di affrontare, e “non pu\u00f2 essere tutto”, scrive Palisade. Un’ultima ragione potrebbe essere la fase finale di addestramento per ciascun modello, che, in alcune aziende, potrebbe includere la formazione sulla sicurezza.<\/p>\n\n\n\n Tutti gli scenari di Palisade sono stati eseguiti in ambienti di test progettati artificialmente, che secondo i critici sono ben lontani dai casi d’uso reali.<\/p>\n\n\n\n