Il CEO di Microsoft propone di trattare i modelli di frontiera come potenziali rischi interni alle organizzazioni. Non perché siano necessariamente ostili, ma perché possono sbagliare, essere compromessi e agire su sistemi critici. Una riflessione che sposta il problema della sicurezza dall’affidabilità dei modelli all’architettura del controllo. E apre una domanda anche per Microsoft: chi controlla davvero l’intelligenza artificiale quando il fornitore gestisce l’intero ecosistema tecnologico?
Tag: Ai Safety
L’illusione che possiamo davvero capire come ragiona un’intelligenza artificiale sta evaporando più velocemente di quanto Silicon Valley voglia ammettere. Quaranta ricercatori di peso, con firme che vanno da OpenAI a Google DeepMind, da Meta ad Anthropic, hanno lanciato un avvertimento che suona più come una confessione tardiva che come un allarme preventivo. La finestra sul cervello dei modelli di ragionamento avanzati si sta chiudendo, e quella fragile trasparenza che chiamiamo “chain-of-thought” rischia di diventare una reliquia di un’epoca pionieristica. Se credete che stiamo esagerando, chiedetevi perché nomi come Ilya Sutskever e Geoffrey Hinton hanno deciso di apporre la loro firma a questo appello. Non lo fanno per nostalgia accademica.