Nel mondo dell’intelligenza artificiale, l’accuratezza e la sicurezza sono questioni cruciali per mantenere la fiducia degli utenti e garantire un’esperienza priva di rischi. Recentemente, Google ha affrontato significative vulnerabilità strutturali in due aree chiave: i risultati generati dall’IA nei motori di ricerca e la sicurezza del suo servizio Document AI su Google Cloud. Questi interventi non solo migliorano l’affidabilità del sistema, ma offrono anche spunti importanti per le aziende che si affidano sempre di più all’automazione e all’intelligenza artificiale.
Categoria: Tech Pagina 10 di 22
L’intelligenza artificiale (AI) nel suo senso piu’ ampio e l’intelligenza esibita dai sistemi informatici (Machine)
Negli ultimi anni, l’intelligenza artificiale (IA) ha compiuto enormi progressi, soprattutto grazie ai modelli di linguaggio di grandi dimensioni (LLM, Large Language Models). Uno dei concetti più innovativi emersi in questo contesto è il cosiddetto LLM-as-a-Judge, cioè l’utilizzo di questi modelli come giudici, capaci di interpretare normative, leggi e regole complesse, emettendo decisioni basate su dati e fatti.
Sebbene questa idea sembri già rivoluzionaria, c’è una naturale evoluzione che possiamo prevedere: Agents-as-a-Judge. Si tratta di agenti autonomi, potenziati da LLM, in grado di prendere decisioni non solo in base a regole predefinite ma anche adattandosi al contesto, con capacità di apprendimento e interazione continua.
L’evoluzione da LLM-as-a-Judge a Agents-as-a-Judge è una progressione naturale che riflette il desiderio di creare sistemi di intelligenza artificiale più autonomi e adattabili. Tuttavia, il successo di questa transizione dipenderà non solo dallo sviluppo tecnologico, ma anche dalla capacità di affrontare le questioni etiche, legali e sociali che inevitabilmente emergeranno. Se gestiti correttamente, gli Agents-as-a-Judge potrebbero rappresentare un passo avanti significativo verso un sistema giudiziario più giusto ed efficiente.
Imprompter, sviluppato da un gruppo di ricercatori di sicurezza informatica delle università della California, San Diego (UCSD) e Nanyang Technological University a Singapore. Questo attacco mira a sfruttare i modelli di linguaggio di grandi dimensioni (LLM) come i chatbot per raccogliere informazioni personali degli utenti e inviarle segretamente a un hacker.
Helen Toner è una ricercatrice di politiche sull’intelligenza artificiale e ha ricoperto ruoli significativi, tra cui quello di membro del consiglio di OpenAI. Recentemente, ha evidenziato una disconnessione tra il mondo politico e i ricercatori nel campo dell’AGI (Intelligenza Artificiale Generale), affermando che i politici trattano l’AGI come un concetto fantascientifico, mentre i ricercatori lo considerano una possibilità imminente.
Negli ultimi anni, il dibattito sull’intelligenza artificiale (IA) ha guadagnato una crescente attenzione, specialmente con l’emergere della superintelligenza artificiale (ASI). Secondo Sam Altman, CEO di OpenAI, l’ASI potrebbe essere realizzata in “poche migliaia di giorni”, un periodo sorprendentemente breve considerando il rapido progresso tecnologico. Questo sviluppo pone interrogativi cruciali sulla sicurezza nazionale e sull’interesse pubblico, specialmente in un contesto in cui le agenzie governative si trovano ad affrontare sfide senza precedenti.
Meta ha affrontato critiche per aver etichettato i suoi modelli di intelligenza artificiale, in particolare Llama, come “open-source”. Questa controversia ruota attorno alla definizione di tecnologia open-source e alle implicazioni delle pratiche di licenza di Meta.
Critiche da parte degli Sostenitori dell’Open Source
Stefano Maffulli, responsabile dell’Open Source Initiative (OSI), sostiene che Meta stia “confondendo” gli utenti e diluendo il significato di open source. Afferma che questa rappresentazione errata è dannosa, specialmente mentre enti regolatori come la Commissione Europea cercano di supportare tecnologie open-source genuine che non sono controllate da aziende specifiche. Maffulli sottolinea che i veri modelli open-source dovrebbero consentire sperimentazione e adattamento, cosa che i modelli di Meta non abilitano completamente a causa delle loro licenze restrittive.
Mozilla e l’Open Markets Institute hanno espresso preoccupazioni riguardo al potere monopolistico delle grandi aziende tecnologiche nello sviluppo dell’intelligenza artificiale (AI). Entrambe le organizzazioni hanno raccomandato misure antitrust e politiche per garantire un ecosistema AI competitivo e accessibile.
Le aziende tecnologiche dominanti, come Google e OpenAI, controllano risorse cruciali come dati e potenza di calcolo, rendendo difficile per le startup e le organizzazioni più piccole competere. Questo monopolio non solo limita l’accesso alle tecnologie AI, ma può anche ostacolare l’innovazione e la ricerca indipendente.
DeepMind ha registrato un aumento significativo del suo utile operativo, che è cresciuto del 91% nel 2023, raggiungendo i 175 milioni di dollari. Questo incremento è attribuibile a una gestione efficace e a un aumento della domanda per le sue tecnologie avanzate, in particolare nel campo dell’intelligenza artificiale e della ricerca.
D’altra parte, Isomorphic Labs, una startup di Alphabet specializzata nella scoperta di farmaci e spin-off di DeepMind, ha visto le sue perdite aumentare a oltre 75 milioni di dollari.
Nel 2023, la startup ha riportato perdite dopo le tasse pari a 60 milioni di sterline (circa 78 milioni di dollari), un notevole incremento rispetto ai 17 milioni di sterline (22 milioni di dollari) dell’anno precedente. Questo aumento delle perdite è stato accompagnato da un quadruplicamento delle spese per ricerca e sviluppo, che hanno raggiunto i 49 milioni di sterline (64 milioni di dollari) nel 2023[.
Isomorphic Labs non ha riportato ricavi significativi nel 2022 o nel 2023, ma ha ottenuto un reddito operativo di circa 583.000 dollari grazie a due partnership strategiche con giganti farmaceutici come Eli Lilly e Novartis[1][2]. Queste collaborazioni potrebbero portare a guadagni futuri significativi, ma attualmente la startup sta affrontando sfide finanziarie mentre cerca di sviluppare tecnologie innovative per accelerare la scoperta di nuovi farmaci.
Nel 2024, l’Intelligenza Artificiale (IA) ha svolto un ruolo cruciale per il Dipartimento del Tesoro degli Stati Uniti, aiutando a prevenire e recuperare oltre 4 miliardi di dollari in pagamenti fraudolenti o indebiti. Questo impressionante risultato rappresenta un incremento di sei volte rispetto all’anno precedente, quando il Tesoro aveva rilevato e recuperato circa 652,7 milioni di dollari.
L’Ufficio per l’Integrità dei Pagamenti (Office of Payment Integrity, OPI), parte del Bureau of the Fiscal Service, ha spiegato in un rapporto che l’adozione di tecnologie avanzate di “machine learning” ha permesso di individuare transazioni ad alto rischio e di accelerare l’identificazione di frodi sui pagamenti via assegno.
Vulnerabilità critiche nei robot con Intelligenza Artificiale: sfide e opportunità per il futuro della sicurezza
Nel panorama in continua evoluzione dell’intelligenza artificiale (IA) e della robotica, le innovazioni portano con sé non solo opportunità rivoluzionarie, ma anche rischi significativi. Un recente studio condotto dai ricercatori di Penn Engineering ha evidenziato una serie di vulnerabilità critiche nei robot alimentati da IA, rivelando potenziali scenari in cui questi sistemi possono essere manipolati per compiere azioni pericolose, come ignorare semafori rossi o, in situazioni estreme, detonare bombe.
L’Amministrazione Nazionale Oceanica e Atmosferica degli Stati Uniti (NOAA) sta integrando sempre più l’intelligenza artificiale (AI) nei suoi sistemi di previsione meteorologica, in particolare attraverso l’uso di reti neurali. Questo cambiamento mira a migliorare l’accuratezza e l’efficienza delle previsioni meteorologiche, specialmente nel contesto delle previsioni sugli uragani.
Meta ha appena svelato un innovativo metodo di addestramento per l’intelligenza artificiale (AI), chiamato Thought Preference Optimization (TPO), che potrebbe migliorare significativamente il modo in cui le macchine elaborano informazioni e rispondono alle domande. Questo approccio insegna ai modelli linguistici a riflettere internamente prima di fornire risposte, come se “pensassero” prima di parlare.
Se l’approccio di Meta si dimostrerà efficace, potrebbe aprire la strada a un rivale open-source del modello o1 di OpenAI. Un’alternativa open-source potrebbe democratizzare l’accesso a questo tipo di pensiero avanzato sull’IA.
Ora, i suoi sviluppatori si stanno accusando in diverse analisi pubbliche, scioccando la comunità AI. Matt Schumer, il creatore, sta addestrando una nuova versione con il suo hardware e dati.
Richtech Robotics, un’azienda leader nel settore della robotica collaborativa, ha recentemente annunciato un’importante espansione della sua partnership con Ghost Kitchens International. Questo accordo prevede la gestione di 20 nuovi ristoranti situati all’interno di Walmart, segnando un passo significativo nella trasformazione del panorama della ristorazione automatizzata.
La visione computerizzata (CV), è una branca dell’Intelligenza Artificiale (IA) che si occupa di estrarre informazioni rilevanti da immagini e video, analogamente al processo di percezione visiva umana. Nella biomedicina, l’applicazione della CV è particolarmente avanzata nel campo della diagnostica per immagini, dove i macchinari per la Tomografia Assiale Computerizzata (TAC) e la Tomografia a Emissione di Positroni (PET) beneficiano enormemente di questa tecnologia.
L’integrazione della CV in questi strumenti non solo migliora la risoluzione delle immagini, ma consente anche l’analisi automatizzata e l’estrazione di caratteristiche anatomiche e patologiche con una precisione senza precedenti. In questo articolo, descriveremo gli avanzamenti più significativi nell’uso della CV nelle tecnologie TAC e PET di General Electric (GE), con particolare attenzione ai modelli di intelligenza artificiale utilizzati e agli aspetti tecnici legati all’interferenza.
La startup francese di intelligenza artificiale Mistral ha lanciato i suoi primi modelli di AI generativa, chiamati Les Ministraux, progettati specificamente per dispositivi edge come laptop e smartphone. Questa iniziativa mira a soddisfare la crescente domanda di applicazioni AI locali e orientate alla privacy, capaci di eseguire compiti senza fare affidamento su infrastrutture cloud.
Gli aggiornamenti di questa settimana da Adobe, che mettono in mostra le sue capacità nell’intelligenza artificiale, sono considerati molto positivi per il gigante del software, secondo gli analisti.
Grazie all’espansione rapida e al potenziamento delle sue capacità di intelligenza artificiale generativa, Adobe sta mantenendo l’impegno di aiutare i creatori a produrre lavori migliori e a sfruttare l’IA di flussi di investimento nella tecnologia GenAI.
Alibaba e Baidu sono diventati investitori chiave nell’imminente offerta pubblica iniziale (IPO) di Horizon Robotics, un’azienda cinese specializzata in tecnologia per la guida autonoma. L’IPO mira a raccogliere circa HK$5,4 miliardi (circa 696 milioni di dollari) vendendo 1,36 miliardi di azioni a un prezzo compreso tra HK$3,73 e HK$3,99 ciascuna.
Perplexity ha recentemente introdotto un nuovo strumento finanziario che sfrutta l’intelligenza artificiale per fornire analisi azionarie e dati storici in tempo reale. Questa piattaforma, ancora in fase di sviluppo, è progettata per offrire agli sviluppatori e agli utenti una serie di funzionalità avanzate per l’analisi delle informazioni finanziarie delle aziende:
XPeng Motors ha svelato il suo nuovo modello P7+ al Salone dell’Auto di Parigi, un’auto elettrica che l’azienda cinese definisce come la prima al mondo alimentata da intelligenza artificiale (AI). Questo veicolo innovativo utilizza la tecnologia AI in vari settori, tra cui la guida intelligente, la gestione dell’energia e il controllo termico, rappresentando una nuova frontiera nel mondo dei veicoli elettrici.
Green Tech Innovation – Negli ultimi anni, l’intelligenza artificiale (AI) ha visto una crescita esponenziale, con applicazioni che spaziano dalla medicina alla robotica, dalla finanza all’intrattenimento. Tuttavia, questa crescita è stata accompagnata da un problema fondamentale: il consumo massiccio di risorse. I modelli di AI più avanzati, come i modelli linguistici di grandi dimensioni (LLM), richiedono enormi quantità di dati, potenza computazionale e energia. Questo ha sollevato interrogativi etici, ambientali e finanziari, spingendo verso un approccio più sostenibile, noto come Frugal AI.
Quando gli strumenti progettati per rilevare testi scritti dall’Intelligenza Artificiale etichettano capolavori storici come la Dichiarazione d’Indipendenza come frutto di un’intelligenza sintetica, sorgono serie domande sulla loro affidabilità. Se testi iconici come questo vengono identificati come prodotti da chatbot, ci si interroga su quanto possiamo realmente fare affidamento su tali strumenti, soprattutto in ambito educativo e professionale, dove la posta in gioco è alta.
Nel mondo dell’intelligenza artificiale, dove la competizione tra le grandi aziende tecnologiche è sempre più serrata, OpenAI ha recentemente svelato una delle sue carte segrete: un Meta Prompt altamente strutturato, che differisce notevolmente dall’approccio più “umano” e conversazionale adottato da Anthropic. Questo sviluppo ha attirato grande attenzione tra esperti del settore e appassionati di IA, sollevando un dibattito su quale direzione potrebbe rappresentare il futuro delle interazioni tra esseri umani e chatbot. Vediamo di cosa si tratta e quali sono le principali differenze tra i due approcci.
Da secoli, gli esseri umani automatizzano compiti per migliorare l’efficienza. Con l’avvento dell’intelligenza artificiale (AI), questa ricerca dell’efficienza ha fatto un enorme balzo in avanti, e ora le aziende tecnologiche vedono un potenziale di profitto in questa direzione. La loro soluzione? Gli “agenti” AI.
Sequoia Capital, ha pubblicato un interessante articolo intitolato “Generative AI’s Act o1,” rappresenta un’analisi approfondita dell’evoluzione dell’intelligenza artificiale generativa. Questo campo, in rapida espansione, sta trasformando il modo in cui interagiamo con la tecnologia e come possiamo sfruttarla per risolvere problemi complessi.
Il mondo dell’intelligenza artificiale (AI) sta vivendo un’evoluzione rapida, e con essa cresce la necessità di strumenti adeguati per valutare le capacità degli agenti AI nel campo dell’ingegneria del machine learning. In questo contesto, i ricercatori di OpenAI hanno recentemente presentato MLE-bench, un benchmark innovativo progettato per misurare le prestazioni degli agenti AI in una serie di compiti complessi legati al machine learning
.
Casio ha aperto i preordini per Moflin, un innovativo pet robotico alimentato da intelligenza artificiale, progettato per essere coccolato e offrire supporto emotivo. Questo compagno peloso, che ricorda una via di mezzo tra un criceto e i Tribbles di Star Trek, mira a sviluppare un legame simulato con il suo proprietario attraverso suoni e movimenti unici, offrendo un nuovo approccio alla compagnia digitale.
Una nuova ricerca condotta dal MIT ha messo in luce come i modelli di intelligenza artificiale (IA) utilizzati per analizzare le immagini mediche, in particolare le radiografie, possano essere influenzati da bias. Questi modelli, capaci di prevedere caratteristiche demografiche come razza, genere e età di un paziente, tendono a usare tali tratti come scorciatoie nei loro processi diagnostici, portando a diagnosi imprecise per donne e persone di colore.
L’ospedale “AI Powered Hospital” in Cina rappresenta un significativo passo avanti nell’integrazione dell’intelligenza artificiale (IA) nel settore sanitario. Questa struttura innovativa è stata progettata per migliorare l’efficienza e la qualità delle cure attraverso l’uso di tecnologie avanzate.
- Data di Inaugurazione: 15 marzo 2024
- Luogo: Xuhui, situato al numero 966 di Middle Huaihai Road a Shanghai
Negli ultimi mesi si è parlato molto di un rallentamento dell’economia statunitense, ma i dati economici non forniscono prove convincenti a riguardo.
L’ultimo esempio è stato il rapporto sull’occupazione di settembre, pubblicato lo scorso venerdì, che ha sorpreso positivamente le aspettative. Secondo il sondaggio sulle aziende, l’economia ha creato 254.000 nuovi posti di lavoro a settembre, superando la media mensile degli ultimi 12 mesi, pari a 203.000. Anche i dati di luglio e agosto sono stati rivisti al rialzo, rispettivamente di 55.000 e 17.000 posti.
HPE ha presentato le basi per calcolo e connettività per i prossimi investimenti nell’IA durante l’AI Day. L’obiettivo era mostrare tutte le capacità che HPE offre alle imprese per i data center, sia on-premise che nel cloud. Questo include la nuova tecnologia di raffreddamento a liquido diretto senza ventole di HPE e la sua rete di interconnessione tra GPU e CPU.
HPE ha introdotto i nuovi sistemi di raffreddamento a liquido, progettati per soddisfare le esigenze dell’IA ad alte prestazioni.
“Questa architettura di raffreddamento a liquido diretto comporta una riduzione del 90% nel consumo di energia per il raffreddamento rispetto ai sistemi tradizionali raffreddati ad aria.”, Antonio Neri, Presidente e CEO, HPE
Microsoft e la corsa agli armamenti per sviluppare il primo supercomputer quantistico su larga scala
Microsoft potrebbe aver superato la concorrenza nella corsa agli armamenti per sviluppare il primo supercomputer quantistico su larga scala. In previsione del suo arrivo, l’azienda ha lanciato Azure Quantum, che consente ai ricercatori di imparare le tecniche di programmazione quantistica, stimare le risorse necessarie per risolvere problemi complessi, testare i loro programmi in un ambiente simulato e sperimentare con le versioni attuali e iniziali dell’hardware futuro.
Microsoft ha dimostrato la potenza del suo ambiente simulato pubblicando un articolo che mostra come abbia utilizzato la programmazione quantistica e l’intelligenza artificiale (IA) per sviluppare un nuovo elettrolita per batterie, che ora è in fase di test in laboratorio.
Una recente scoperta scientifica ha cristallizzato l’attenzione di Microsoft nella ricerca hardware, mostrando che l’azienda sta adottando un approccio diverso rispetto alla concorrenza. Microsoft ha creato e controllato le esotiche quasi-particelle chiamate Moduli Zero di Majorana; queste particelle presentano una protezione dagli errori incorporata, conferendo ai futuri computer quantistici di Microsoft un vantaggio significativo rispetto a tutte le altre tecnologie attualmente in fase di studio.
AMD ha svelato il suo ultimo chip per intelligenza artificiale, l’Instinct MI325X, durante un evento volto a sfidare il dominio di Nvidia nel mercato delle GPU per data center. Questo nuovo chip inizierà la produzione entro la fine del 2024 ed è progettato per competere direttamente con i prossimi chip Blackwell di Nvidia, che si prevede inizieranno a essere spediti all’inizio del prossimo anno.
AIセーフティに関するレッドチーミング手法ガイドの公開
Nell’era dell’intelligenza artificiale (AI), la sicurezza dei sistemi che utilizzano questa tecnologia è diventata una priorità fondamentale. Di fronte a minacce sempre più sofisticate, l’Istituto giapponese per la sicurezza dell’intelligenza artificiale ha recentemente pubblicato una guida dettagliata sulle metodologie di red teaming, un approccio strategico volto a identificare e mitigare le vulnerabilità nei sistemi AI.
Cos’è il Red Teaming?
Il red teaming è un metodo di valutazione della sicurezza in cui esperti, noti come “red team”, emulano le tattiche e le tecniche di attacco degli aggressori per testare la resilienza di un sistema. Questo approccio non si limita a identificare vulnerabilità tecniche; si estende anche all’analisi dell’impatto sociale ed etico delle soluzioni AI. La guida dell’istituto giapponese sottolinea l’importanza di un approccio multidisciplinare, che combina competenze tecniche con una comprensione profonda delle implicazioni etiche e sociali.
La tecnologia sta prendendo sempre più piede nelle decisioni strategiche di molti governi, e il Regno Unito non fa eccezione. In un passaggio epocale per la gestione della difesa nazionale, il governo britannico sta utilizzando l’intelligenza artificiale (AI) per elaborare la sua revisione delle capacità militari, segnando una svolta radicale nel funzionamento del Ministero della Difesa e di Whitehall. Questa revisione della difesa, considerata uno dei documenti più importanti del periodo post-Brexit, mira a ridefinire le strategie militari del paese in un contesto globale sempre più incerto.
Amazon ha lanciato un nuovo strumento di shopping che utilizza l’intelligenza artificiale per aiutare i clienti a trovare rapidamente prodotti in base a caratteristiche specifiche. I “Shopping Guides” alimentati da AI sono ora disponibili negli Stati Uniti sul sito mobile di Amazon e nelle app per iOS e Android, offrendo agli utenti informazioni sui prodotti e raccomandazioni più personalizzate durante la navigazione.
Zoom ha recentemente annunciato una nuova funzionalità che permetterà agli utenti di utilizzare avatar AI per comunicare con i propri team. Questo sviluppo è stato presentato durante l’evento annuale Zoomtopia, dove la piattaforma ha messo in evidenza il suo impegno nell’integrazione dell’intelligenza artificiale nelle sue funzionalità.
Giovedì, durante l’evento “Advancing AI 2024” a San Francisco, Lisa Su, CEO di Advanced Micro Devices (AMD), ha svelato una nuova gamma di processori per l’intelligenza artificiale, tra cui i Turin EPYC e l’acceleratore Instinct MI325x.
Nuove Tecnologie Svelate
HP Enterprise (HPE) ha recentemente svelato il suo nuovo server, il ProLiant Compute XD685, durante il primo “Artificial Intelligence Day” dell’azienda. Questo sistema è progettato per gestire compiti complessi di addestramento di modelli di intelligenza artificiale, sfruttando i chip AI di AMD.
Caratteristiche principali del ProLiant Compute XD685:
- Potenza di elaborazione: Il sistema è dotato di tecnologia avanzata per supportare applicazioni di intelligenza artificiale e machine learning.
- Efficienza energetica: HPE ha progettato il server per essere non solo potente, ma anche efficiente dal punto di vista energetico, riducendo i costi operativi.
- Scalabilità: Il ProLiant Compute XD685 è altamente scalabile, permettendo alle aziende di adattare le risorse in base alle loro esigenze specifiche.
Questa innovazione rappresenta un passo significativo per HPE nel mercato dei server dedicati all’intelligenza artificiale, posizionando l’azienda come un attore chiave in questo settore in rapida evoluzione.
Oggi, Microsoft ha presentato una serie di nuovi strumenti potenziati dall’intelligenza artificiale per i fornitori di servizi sanitari attraverso la sua piattaforma Microsoft Cloud for Healthcare. Questi strumenti mirano a migliorare l’efficienza e la qualità delle cure, affrontando le sfide attuali del settore.
Nuovi Modelli di IA e Soluzioni per la Gestione dei Dati
Ezra, un’azienda di AI nel settore sanitario specializzata in imaging MRI e rilevamento precoce del cancro, ha recentemente raccolto 21 milioni di dollari in finanziamenti per migliorare le proprie operazioni ed espandere i propri servizi in Nord America.
Questo investimento porta il totale dei finanziamenti di Ezra a 41 milioni di dollari e faciliterà la crescita dell’azienda in 20 città e 50 sedi nel 2024. Il round di finanziamento è stato co-guidato da Healthier Capital e FirstMark Capital, con la partecipazione di vari investitori notabili, tra cui l’ex presidente del NHS Lord David Prior e la CEO di 23andMe Anne Wojcicki.