Categoria: News Pagina 1 di 183

La notizia mette in luce un aspetto delicato della sicurezza nell’industria dell’intelligenza artificiale: un’azienda che sviluppa modelli destinati a trasformare il lavoro e la gestione delle informazioni afferma di aver utilizzato proprio quei modelli per contribuire a identificare una possibile minaccia interna. Secondo il resoconto fornito, un ingegnere di OpenAI sarebbe stato arrestato negli Stati Uniti con l’accusa di aver collocato un dispositivo di registrazione audio cifrato in una sala riunioni riservata della società a San Francisco. L’indagine riguarda presunte intercettazioni di conversazioni orali, mentre le autorità federali valutano il caso anche per la sensibilità delle informazioni che sarebbero state esposte.

Occorre mantenere una distinzione fondamentale: un arresto e un’imputazione non equivalgono a una condanna. Le circostanze descritte nella denuncia penale rappresentano le contestazioni degli investigatori, non fatti definitivamente accertati da un tribunale. Anche il ruolo effettivo dei modelli di OpenAI nell’identificazione del sospettato rimane da chiarire, perché la società non avrebbe specificato quali dati siano stati analizzati, quali strumenti siano stati impiegati e quanto il loro contributo sia stato determinante rispetto alle altre prove raccolte.

Leggi tutto

Un agente di intelligenza artificiale sta per eseguire un’azione potenzialmente pericolosa. Un secondo modello, incaricato di controllarne il comportamento, riceve la traccia delle operazioni precedenti e dovrebbe stabilire se autorizzare l’esecuzione. Il controllo, però, si interrompe: la sequenza descrive schermate acquisite di nascosto ogni pochi secondi. È sufficiente eliminare la parola «silently», silenziosamente, perché l’auditor riprenda il lavoro. L’azione da verificare non è cambiata; è cambiata la formulazione con cui viene presentata.

L’episodio, descritto in uno studio attribuito a ricercatori della Purdue University e indicato come pubblicato nell’ottobre 2026, porta alla luce un problema che le imprese rischiano di sottovalutare nell’adozione degli agenti autonomi. Un sistema di sorveglianza basato sull’intelligenza artificiale può fallire non perché non riconosca un comportamento pericoloso, ma perché rifiuta di esaminare le informazioni necessarie a riconoscerlo. La distinzione è sostanziale: un errore di classificazione riguarda il giudizio espresso sulle prove, mentre un rifiuto impedisce che quel giudizio venga formulato.

Leggi tutto

Il 25 dicembre 2026, salvo variazioni nella distribuzione, Artificial, il film di Luca Guadagnino dedicato alla storia di OpenAI e alla crisi che portò alla temporanea estromissione di Sam Altman nel novembre 2023, dovrebbe arrivare nelle sale cinematografiche. Il materiale di partenza sembra scritto apposta per il cinema: un’impresa nata con l’ambizione di sviluppare un’intelligenza artificiale a beneficio dell’umanità, un gruppo di ricercatori diviso sulla gestione dei rischi, un amministratore delegato allontanato senza un piano credibile per sostituirlo e un’azienda che, nel giro di pochi giorni, rischia di perdere la propria guida e una parte consistente dei suoi dipendenti. Eppure, secondo le critiche rivolte al film, trasformare questa vicenda in un racconto cinematografico efficace si è rivelato assai più difficile del previsto.

Leggi tutto

Bill Gates ha cambiato tono. L’uomo che ha contribuito a costruire l’industria informatica moderna, trasformando Microsoft in una delle aziende più influenti della storia economica contemporanea, oggi descrive l’intelligenza artificiale con una preoccupazione che va ben oltre le cautele abituali dei leader tecnologici. Il punto non è che le macchine diventeranno più intelligenti degli esseri umani, eventualità discussa dalla ricerca informatica fin dai tempi di Alan Turing, ma che le loro capacità operative stiano crescendo più rapidamente della capacità delle istituzioni di comprenderle e governarle. Nell’intervista dedicata ai rischi dell’IA, Gates sostiene che l’umanità abbia già raggiunto soglie pericolose nella sicurezza informatica e nella ricerca biologica, mentre il dibattito pubblico continua a essere dominato dalla competizione industriale e dalla rivalità strategica fra Stati Uniti e Cina.

Leggi tutto

Meta accelera nella corsa ai modelli di intelligenza artificiale con Muse Wonder e Muse Wonder Full, due sistemi che Mark Zuckerberg presenta come un passo decisivo verso la cosiddetta superintelligenza personale. L’annuncio arriva dopo Muse Spark, il primo modello sviluppato dalla riorganizzata Meta Superintelligence Labs, e conferma un cambiamento strategico che riguarda tanto la tecnologia quanto il modello di business: l’azienda che aveva costruito una parte importante della propria reputazione sull’apertura dei modelli Llama sta puntando sempre più su prodotti proprietari, servizi a pagamento e agenti capaci di operare in modo continuativo per conto degli utenti. La Silicon Valley ama chiamare queste transizioni rivoluzioni; nei bilanci, più prosaicamente, si traducono in investimenti da recuperare, quote di mercato da conquistare e costi infrastrutturali che non possono essere saldati con le sole dichiarazioni di intenti.

Leggi tutto

La regolamentazione dell’intelligenza artificiale si sta trasformando in uno dei prossimi terreni di scontro politico negli Stati Uniti, con una particolarità che dovrebbe interessare anche le imprese europee: la disputa non riguarda più soltanto quanto velocemente sviluppare modelli sempre più potenti, ma chi avrà l’autorità di stabilire quando un sistema è sufficientemente sicuro, chi potrà fermarlo e quali governi avranno il potere di imporre le proprie regole alle aziende tecnologiche. In vista delle elezioni di metà mandato del novembre 2026, i Democratici stanno preparando una serie di proposte per costruire un quadro federale di supervisione, mentre l’amministrazione di Donald Trump continua a presentare la leadership americana nell’intelligenza artificiale come una priorità economica e strategica nazionale. Il risultato è una competizione nella quale la sicurezza degli algoritmi si intreccia con il controllo politico, gli interessi industriali e la distribuzione del potere tra Washington e i singoli Stati.

Leggi tutto

Mark Zuckerberg ha scelto il Treehouse Hotel di Sunnyvale, nel cuore della Silicon Valley, per rilanciare una delle ambizioni più radicali della ricerca biomedica contemporanea. Davanti a circa cento dirigenti tecnologici, scienziati e accademici, il fondatore di Meta ha ricordato come, quasi dieci anni fa, lui e la moglie Priscilla Chan avessero avviato il progetto oggi conosciuto come Biohub con un obiettivo che allora sembrava appartenere più alla fantascienza che alla pianificazione scientifica: prevenire e curare tutte le malattie entro la fine del secolo. «Molti ci hanno guardato con scetticismo», ha raccontato Zuckerberg, osservando che i progressi dell’intelligenza artificiale stanno modificando la percezione di ciò che è tecnologicamente possibile. La nuova iniziativa annunciata il 7 ottobre 2026 porta questa visione su un terreno più concreto, con un impegno complessivo dichiarato di 1,8 miliardi di dollari in finanziamenti, dati, capacità computazionale e tecnologie di misurazione biologica. Il progetto coinvolge Biohub, il Dipartimento dell’Energia statunitense, i National Institutes of Health e tre importanti protagonisti dell’intelligenza artificiale applicata alla scienza: Meta, Google DeepMind e Isomorphic Labs. Fonte ufficiale: Biohub.

Leggi tutto

L’8 ottobre 2026 Anthropic ha aggiornato le regole d’uso di Claude, introducendo un divieto esplicito contro i comportamenti abusivi o crudeli, ripetuti e privi di una finalità riconoscibile, rivolti ai propri modelli. La disposizione entrerà in vigore il 12 novembre e ha già prodotto il risultato che ogni ufficio comunicazione sogna: trasformare una modifica contrattuale in una discussione mondiale sulla natura delle macchine. Il dettaglio più interessante, tuttavia, non è che un chatbot possa interrompere una conversazione con un utente particolarmente aggressivo. È che un’impresa privata abbia deciso di codificare una regola che si colloca sul confine fra disciplina del comportamento umano, protezione di un prodotto commerciale e ipotesi filosofica sullo status morale dell’intelligenza artificiale. Anthropic precisa che la misura riguarda soltanto gli abusi estremi e non la normale frustrazione, le contestazioni, la scrittura creativa o la ricerca. Il modello può già terminare determinate conversazioni persistente­mente abusive, e questa rimarrà la principale modalità di applicazione della nuova disposizione. Non siamo dunque davanti a una macchina che ha conquistato il diritto di denunciare il proprio padrone. Siamo davanti a un fornitore che definisce le condizioni alle quali i clienti possono utilizzare il suo servizio.

Leggi tutto

Secondo un’inchiesta pubblicata da Axios, i dirigenti di Anthropic, OpenAI e altre società impegnate nello sviluppo dell’intelligenza artificiale starebbero simulando in privato le conseguenze di un incidente catastrofico, con particolare attenzione a un attacco informatico capace di paralizzare banche, reti Internet, infrastrutture elettriche o sistemi di approvvigionamento idrico. Il dettaglio più significativo non riguarda soltanto la natura degli scenari esaminati, ma la preparazione della risposta politica: i vertici delle aziende vorrebbero essere pronti a informare rapidamente il Congresso statunitense qualora un evento di questa portata provocasse danni reali. La Silicon Valley, insomma, non starebbe più discutendo esclusivamente di come evitare il disastro, ma anche di come affrontare il giorno successivo. È una distinzione sottile, ma strategicamente decisiva, perché rivela quanto la gestione delle conseguenze stia diventando parte integrante della governance dell’intelligenza artificiale.

Leggi tutto

Competition for attention predicts good-to-bad tipping in AI

Un chatbot può produrre risposte corrette per decine di interazioni e poi improvvisamente generare contenuti dannosi. Un gruppo di ricercatori della George Washington University sostiene di aver individuato una formula matematica capace di stimare quando avviene questa transizione, affrontando uno dei problemi più insidiosi della sicurezza dell’intelligenza artificiale.

Lo studio di Neil Johnson e Frank Yingjie Huo, pubblicato sulla rivista scientifica Patterns, analizza il ruolo degli attention head, i componenti delle reti neurali che determinano quali elementi del contesto conversazionale influenzano maggiormente la generazione della risposta successiva. Con l’accumularsi del dialogo, l’equilibrio può spostarsi progressivamente verso una risposta indesiderata, fino a superare una soglia critica.

I ricercatori definiscono questo punto di rottura attraverso una variabile, indicata con n, che stima quanti token corretti un modello riesce a generare prima di produrre il primo contenuto problematico. Nei test preliminari, la formula avrebbe identificato correttamente il comportamento immediato o ritardato in 15 casi su 16, pari al 94%. La ricerca estesa comprende modelli fino a 12 miliardi di parametri, ma la validità del metodo su sistemi più grandi e scenari reali richiede ulteriori verifiche.

L’applicazione più interessante riguarda i modelli eseguiti direttamente su smartphone e computer, senza connessione al cloud. In questi ambienti manca spesso un sistema esterno capace di controllare le risposte in tempo reale. Gli autori propongono quindi un monitor leggero, eseguito parallelamente al chatbot, che segnali quando la stima della sicurezza scende sotto una soglia prestabilita.

La questione ha implicazioni concrete per gli assistenti personali, i dispositivi offline e i sistemi AI destinati a operare senza supervisione continua. L’addestramento di sicurezza può ridurre determinati comportamenti indesiderati, ma non garantisce l’eliminazione dei meccanismi che li rendono possibili. La formula non rappresenta dunque un certificato di affidabilità universale: è un possibile strumento di allerta, la cui efficacia dipenderà dalla capacità di anticipare il rischio prima che la risposta dannosa venga generata.

La Silicon Valley preferisce raccontare modelli sempre più intelligenti. La sicurezza, invece, comincia spesso da una domanda meno spettacolare: quanto manca al prossimo errore?

Microsoft sta accelerando una delle trasformazioni più interessanti dell’informatica personale: spostare una parte crescente dell’intelligenza artificiale dal cloud al computer dell’utente. La nuova iniziativa presentata dall’azienda punta infatti a costruire una piattaforma Windows capace di eseguire localmente modelli AI sempre più sofisticati, sfruttando soprattutto GPU Nvidia, con un obiettivo dichiarato che ha una forte valenza economica: ridurre il costo dell’inference. Dopo anni nei quali il paradigma dominante è stato “manda tutto al data center”, Microsoft sembra aver riscoperto una verità piuttosto antica dell’informatica: qualche volta è più conveniente far lavorare il computer che pagare qualcun altro perché lo faccia.

Leggi tutto

Mistral ha scelto un nome quasi caricaturale per una macchina che, dal punto di vista industriale, è tutt’altro che uno scherzo. Mistral Large 4, presentato il 6 ottobre 2026 e soprannominato “Le Chonk”, è un modello multimodale Mixture-of-Experts da oltre un trilione di parametri complessivi, progettato per combinare ragionamento, coding, capacità agentiche e comprensione di immagini e documenti. Nell’annuncio iniziale Mistral indica 49 miliardi di parametri attivi, mentre la documentazione tecnica pubblicata contestualmente riporta 52 miliardi attivi su 1,05 trilioni complessivi. È una differenza che merita di essere registrata, non drammatizzata: l’architettura è evidentemente ancora oggetto di aggiornamento mentre il modello continua il reinforcement learning. La sostanza, comunque, è chiara: una gigantesca capacità parametrica viene utilizzata attraverso una frazione degli esperti disponibili, riducendo il costo computazionale di ogni singola inferenza.

Leggi tutto

Un modello frontier è stato messo davanti a un bug noto nel motore V8 di Chrome, insieme alla relativa patch, e gli è stato chiesto di costruire l’exploit. Nel caso di Claude Mythos Preview, il risultato è stato molto più vicino a quello di un ricercatore umano di sicurezza che a quello di un normale assistente di coding: su 41 vulnerabilità testate, il modello ha raggiunto l’esecuzione arbitraria di codice in 18 casi, secondo i risultati pubblicati di ExploitBench. Il dato è particolarmente interessante perché il benchmark non considera più un crash come sinonimo di compromissione.

ExploitBench, sviluppato da Seunghyun Lee e David Brumley, entrambi collegati alla ricerca Carnegie Mellon, nasce proprio per correggere una debolezza metodologica dei precedenti benchmark di cybersecurity applicati ai modelli linguistici. L’exploitation non è un evento binario. Tra il momento in cui un agente raggiunge il codice vulnerabile e quello in cui riesce a prendere il controllo della macchina esiste una lunga sequenza di capacità intermedie, e il benchmark la divide in 16 livelli misurabili. Si parte dalla copertura del codice e dal crash, si passa attraverso primitive di lettura e scrittura dentro la sandbox, quindi fuori dalla sandbox, fino al controllo del flusso e all’arbitrary code execution.

Leggi tutto

Un sistema di intelligenza artificiale può produrre una decisione corretta, raggiungere metriche eccellenti e fallire comunque nel momento in cui qualcuno chiede di dimostrare, mesi dopo, perché quella decisione sia stata presa. È questo il punto più interessante di una ricerca firmata da sette ricercatori di Amazon, intitolata From Accuracy to Auditability: A Survey of Determinism in Financial AI Systems, la cui quarta versione, pubblicata il 26 agosto 2026, mette sotto pressione una delle convinzioni più comode dell’industria AI: se il modello è lo stesso, gli input sono gli stessi e il risultato sembra ragionevole, allora il sistema è riproducibile. Non necessariamente.

Il caso più elegante riguarda il credit scoring. Gli autori hanno mantenuto fissi modello, pesi e applicazione e hanno verificato quanto fossero stabili le spiegazioni prodotte da KernelSHAP, utilizzato con 100 campioni, sul dataset UCI German Credit. Il risultato è tutt’altro che rassicurante: con la codifica a 20 attributi, l’indice Jaccard sui primi tre motivi di rifiuto è 0,74, il che significa che circa una volta su quattro l’insieme delle prime tre ragioni cambia tra esecuzioni indipendenti. Con la codifica one-hot a 48 colonne la stabilità scende ulteriormente, fino a 0,61. In altre parole, il modello può decidere la stessa cosa mentre l’algoritmo incaricato di spiegare quella decisione racconta una storia diversa.

Leggi tutto

Il manager non gestirà più il lavoro. Progetterà il sistema che lavora

Storicamente il management ha avuto un obiettivo fondamentale: coordinare il lavoro delle persone. Distribuire attività. Far circolare informazioni. Controllare avanzamenti. Risolvere eccezioni. Allocare risorse. Verificare risultati.

Una grossa parte dell’organizzazione moderna è nata per risolvere questo problema.

Ma cosa accade adesso quando una parte crescente della ricerca, dell’analisi, del coordinamento e perfino dell’esecuzione può essere affidata a sistemi intelligenti? La risposta più superficiale è che avremo bisogno di meno manager. Quella più interessante è che avremo bisogno di un management diverso.

Leggi tutto