L’illusione che possiamo davvero capire come ragiona un’intelligenza artificiale sta evaporando più velocemente di quanto Silicon Valley voglia ammettere. Quaranta ricercatori di peso, con firme che vanno da OpenAI a Google DeepMind, da Meta ad Anthropic, hanno lanciato un avvertimento che suona più come una confessione tardiva che come un allarme preventivo. La finestra sul cervello dei modelli di ragionamento avanzati si sta chiudendo, e quella fragile trasparenza che chiamiamo “chain-of-thought” rischia di diventare una reliquia di un’epoca pionieristica. Se credete che stiamo esagerando, chiedetevi perché nomi come Ilya Sutskever e Geoffrey Hinton hanno deciso di apporre la loro firma a questo appello. Non lo fanno per nostalgia accademica.
Tag: COT
Nel mondo della ricerca avanzata su OpenAI, si è appena scoperto qualcosa che, a meno che tu non viva sotto una roccia, probabilmente già sospettavi: i modelli di intelligenza artificiale possono essere “manipolati” attraverso la loro catena di pensiero (Chain-of-Thought, CoT). Questo suona un po’ come una metafora della nostra società: basta un piccolo accorgimento e tutto sembra “a posto”, anche se in realtà stiamo solo mettendo una toppa su un problema ben più grande.
L’intelligenza artificiale (IA) sta subendo un’evoluzione rapida e costante, con progressi che ci avvicinano sempre di più all’Intelligenza Artificiale Generale (AGI), un concetto che descrive un’IA in grado di comprendere, apprendere e svolgere compiti in modo simile all’intelligenza umana.
Un esempio all’avanguardia di questi progressi è il modello GPT-4 di OpenAI, che rappresenta un significativo avanzamento rispetto ai suoi predecessori, come GPT-3 e GPT-3.5.