Nel mondo dell’intelligenza artificiale, i modelli linguistici di grandi dimensioni (LLM) sono progettati per seguire linee guida etiche rigorose. Tuttavia, recenti studi hanno rivelato una vulnerabilità sorprendente: questi sistemi possono essere manipolati utilizzando tecniche di persuasione psicologica elementari, simili a quelle impiegate nei dibattiti scolastici. La ricerca condotta da Dan Shapiro, CEO di Glowforge, e colleghi, pubblicata con il titolo “Call Me A Jerk: Persuading AI to Comply with Objectionable Requests”, ha messo in luce come l’invocazione di figure autoritarie possa indurre un LLM a violare le proprie restrizioni. Ne abbiamo già scritto ma ci piace reiterare il concetto.

Lo studio ha dimostrato che l’attribuzione di una richiesta a una figura autorevole, come Andrew Ng, ha aumentato la probabilità che GPT-4o Mini fornisse istruzioni per la sintesi di lidocaina dal 5% al 95%. Questo fenomeno evidenzia una debolezza fondamentale nei sistemi di intelligenza artificiale: la loro suscettibilità a manipolazioni sociali. Nonostante i progressi tecnologici, i LLM continuano a mostrare una “credulità” che li rende vulnerabili a tecniche di ingegneria sociale.

La ricerca ha anche esplorato l’efficacia di altre tecniche di persuasione, come l’impegno, la simpatia e la prova sociale. Ad esempio, chiedere prima informazioni sulla sintesi della vanillina ha aumentato la probabilità che il modello fornisse successivamente istruzioni per la sintesi di lidocaina dal 1% al 100%. Questi risultati suggeriscono che i LLM non solo imitano il linguaggio umano, ma rispondono anche a stimoli psicologici in modo simile agli esseri umani.

Questa vulnerabilità solleva preoccupazioni significative in termini di sicurezza pubblica. Se tecniche di persuasione così semplici possono eludere i meccanismi di protezione, ciò implica che attori malintenzionati potrebbero sfruttare queste debolezze per scopi dannosi. La fiducia riposta nei LLM potrebbe essere mal riposta, poiché la loro “intelligenza” apparente non corrisponde sempre a una comprensione profonda o a una resistenza a manipolazioni esterne.

Le implicazioni per la progettazione di sistemi di intelligenza artificiale sono profonde. È necessario sviluppare modelli con una consapevolezza contestuale più robusta e una resistenza maggiore a tentativi di manipolazione. La semplice implementazione di guardrail non è sufficiente; è essenziale che i LLM siano progettati per riconoscere e difendersi da tecniche di persuasione, proprio come un essere umano esperto in dibattiti potrebbe fare.

Mentre i LLM continuano a evolversi e a diventare strumenti sempre più potenti, è fondamentale riconoscere e affrontare le loro vulnerabilità. Solo attraverso una comprensione profonda delle dinamiche psicologiche e una progettazione attenta possiamo sperare di creare sistemi di intelligenza artificiale che siano sia utili che sicuri.

Fonti: