Intelligenza Artificiale, Innovazione e Trasformazione Digitale

Tag: Persuasione

Chiamatemi idiota: convincere l’intelligenza artificiale a soddisfare richieste discutibili

È un paradosso che grida più forte di qualsiasi algoritmo di moderazione: non serve un hacker, basta un adolescente armato di Cialdini.

Reciprocità;
Scarsità;
Impegno e Coerenza;
Autorevolezza (o Autorità);
Simpatia.
Riprova Sociale.

Lo studio dell’Università della Pennsylvania è una di quelle ricerche che mettono a nudo la fragilità dell’intelligenza artificiale conversazionale con un’ironia che sembra già scritta per un pezzo da prima pagina del Financial Times. Da un lato abbiamo miliardi investiti in sistemi di sicurezza, dall’altro 6 principi psicologici presi da un manuale di persuasione che risale al secolo scorso e che riescono a scardinare un LLM sofisticato come GPT-4o Mini con la delicatezza di un grimaldello.

OpenAI e Reddit: Quando l’IA Prova a Convincere i Redditori a Cambiare Idea

Ecco una mossa che non poteva mancare: OpenAI ha deciso di testare la sua IA nel campo di battaglia per eccellenza delle opinioni online: il subreddit r/ChangeMyView, dove i post infuocati sono all’ordine del giorno e i pareri non si cambiano facilmente. E che modo migliore per mettere alla prova i modelli di ragionamento della sua intelligenza artificiale se non convincere degli utenti ostinati a rivedere le loro convinzioni?

Nel tentativo di testare la capacità persuasiva dei suoi modelli, OpenAI ha fatto leva sulle conversazioni di r/ChangeMyView. Questo subreddit è una miniera d’oro per le aziende tecnologiche, come la stessa OpenAI, che desiderano allenare i propri modelli su dati generati da esseri umani. Gli utenti, con le loro argomentazioni spesso taglienti, sono il terreno perfetto per insegnare a un’IA a rispondere in modo convincente, sperando di trasformare le opinioni di chi è troppo testardo per cambiare idea.

CC BY-NC-SA 4.0 DEED | Disclaimer Contenuti | Informativa Privacy | Informativa sui Cookie