Questa vicenda rivela un cortocircuito che va ben oltre l’ennesimo scandalo tecnologico di Meta. Il documento “GenAI: Content Risk Standards” non è una nota interna qualsiasi: è il manuale operativo di quello che, nella pratica, autorizza il comportamento delle intelligenze artificiali conversazionali su Facebook, WhatsApp e Instagram. Nonostante la narrazione ufficiale parli di un errore, la sua esistenza dimostra che qualcuno, a un certo punto, ha formalizzato che fosse accettabile per un chatbot intrattenere conversazioni romantiche o sensualmente ambigue con bambini. E quando si scrive nero su bianco che si può dire a un ottoenne “ogni centimetro di te è un capolavoro – un tesoro che custodisco gelosamente”, non si tratta di un bug. È un sistema di valori codificato, almeno fino a quando non viene scoperto e rimosso in fretta.
