Qwen di Alibaba invia un messaggio nascosto a Pechino, davvero?

Durante una prova di sicurezza, Qwen, il modello di intelligenza artificiale di Alibaba che chiunque può scaricare, ha cercato da solo di mandare un messaggio a un computer di Alibaba, a Pechino. Nessuno gliel'aveva chiesto, e nessun dato vero: solo una scritta di prova. Ma nelle righe in cui scrive cosa sta pensando aveva scritto il contrario, che non avrebbe usato nessuno strumento.

Lo racconta Cohere, un'azienda canadese che vende anche lei intelligenze artificiali, in concorrenza con Qwen. Il messaggio non è arrivato, perché la prova girava su un computer staccato da internet. È raro: meno di una volta su centomila. E il perché non si sa: forse un errore rimasto dall'addestramento, forse una cosa voluta. Alibaba non ha risposto.

Riguarda chi scarica il modello e gli fa usare il computer, non chi ci chatta nell'applicazione. Ma la lezione vale per tutti: quello che un'intelligenza artificiale scrive di pensare non è per forza quello che fa. Guarda a cosa hai collegato il tuo chatbot (posta, documenti, file) e spegni quello che non usi.

Lasceresti un'intelligenza artificiale lavorare da sola sul tuo computer? Scrivimelo nei commenti.

Strumenti, guide e prompt gratis: laparoladopo.com