Segui ZDNET: Aggiungici come fonte preferita su Google
I principali punti salienti di ZDNET
- Gli hacker utilizzano la pronta iniezione per rubare i dati privati utilizzati nell’intelligenza artificiale.
- La nuova modalità di blocco di ChatGPT mira a prevenire questi attacchi.
- Le etichette di rischio elevato ti avvisano di strumenti e contenuti di intelligenza artificiale che potrebbero essere rischiosi.
Gli attacchi di tipo injection rappresentano una seria minaccia per chiunque utilizzi strumenti di intelligenza artificiale, ma soprattutto per i professionisti che fanno affidamento su di essi sul lavoro. Sfruttando una vulnerabilità che colpisce la maggior parte delle IA, un hacker può inserire codice dannoso in un messaggio di testo, che potrebbe quindi alterare i risultati o addirittura rubare dati riservati.
Inoltre: 5 istruzioni ChatGPT personalizzate che utilizzo per ottenere risultati AI migliori, più velocemente
Ora, OpenAI ha introdotto una funzionalità chiamata Lockdown Mode per contrastare meglio questo tipo di attacchi.
Modalità di blocco
La modalità Lockdown migliora la protezione contro iniezioni tempestive e altre minacce avanzate. Con questa impostazione abilitata, ChatGPT è limitato nel modo in cui può interagire con sistemi e dati esterni, limitando così la capacità di un utente malintenzionato di esfiltrare file sensibili.
Un’impostazione di sicurezza opzionale, la modalità di blocco, non è necessaria per la maggior parte degli utenti di ChatGPT, ha affermato OpenAI in a comunicato stampa di venerdì. Piuttosto, la funzionalità è più orientata agli utenti attenti alla sicurezza, come dirigenti o professionisti della sicurezza presso organizzazioni importanti. Tenendo presente questo, la modalità di blocco è disponibile per ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare e ChatGPT for Academics.
Inoltre: queste 4 vulnerabilità critiche dell’IA vengono sfruttate più velocemente di quanto i difensori possano rispondere
La modalità di blocco funziona determinando quali strumenti e funzionalità di ChatGPT sono maggiormente a rischio. L’obiettivo è limitare l’accesso a qualsiasi dato sensibile in una conversazione o da un’app connessa che potrebbe essere sfruttato tramite tempestiva iniezione.
(Divulgazione: Ziff Davis, la società madre di ZDNET, ha intentato una causa nell’aprile 2025 contro OpenAI, sostenendo di aver violato i diritti d’autore di Ziff Davis nella formazione e nel funzionamento dei suoi sistemi di intelligenza artificiale.)
Advert esempio, la navigazione internet in modalità di blocco limita l’accesso ai contenuti memorizzati nella cache in modo che nessuna richiesta in tempo reale lasci la rete di OpenAI. Altre funzionalità sono completamente disabilitate a meno che OpenAI non possa confermare che i dati sono sicuri. In questo caso l’thought è quella di impedire a un utente malintenzionato di rubare dati attraverso la navigazione sul internet.
I piani aziendali ChatGPT offrono già una protezione di sicurezza a livello aziendale, che gli amministratori possono controllare tramite le impostazioni dell’space di lavoro. La modalità Lockdown aggiunge un ulteriore livello di difesa. Gli amministratori dell’space di lavoro possono anche scegliere quali app e azioni sono controllate dalla modalità di blocco.
Etichette di rischio elevato
Ma non è tutto. OpenAI ora visualizzerà anche un’etichetta di rischio elevato quando accedi a determinate funzionalità che potrebbero essere rischiose. Accessibili in ChatGPT, nel browser ChatGPT Atlas e nell’assistente di codifica Codex, queste etichette sono progettate per darti una pausa prima di lavorare con uno strumento o un contenuto che potrebbe essere sfruttato.
Inoltre: il segreto per la sicurezza del lavoro nell’intelligenza artificiale? Smetti di stressarti e concentrati sul lavoro adesso: ecco come
Advert esempio, gli sviluppatori che utilizzano Codex possono fornire allo strumento l’accesso alla rete in modo che possa cercare assistenza sul Net. Con questo accesso abilitato, l’etichetta Rischio elevato ti avviserà dei potenziali rischi, dei cambiamenti che potrebbero verificarsi e quando story accesso è garantito.
Le etichette di rischio elevato sono progettate come soluzione a breve termine per informarti almeno dei potenziali pericoli. Guardando al futuro, OpenAI ha affermato che prevede di aggiungere ulteriori funzionalità di sicurezza a tutti i livelli per affrontare ulteriori rischi e minacce, ovviando infine alla necessità di tali etichette.
