Gli scenari di rischio legati all’intelligenza artificiale di solito dipingono un futuro in cui, da un giorno all’altro, perdiamo il controllo, superati da macchine astute e insaziabili che ci sorpassano nei giochi di potere. Un salto improvviso nelle loro capacità, un tradimento orchestrato in segreto, e in un attimo ci ritroviamo spettatori inermi della nostra stessa disfatta. Ma il vero pericolo potrebbe essere molto meno spettacolare e molto più inevitabile: non un colpo di stato improvviso, ma una lenta erosione della nostra rilevanza, un processo graduale e, soprattutto, autoalimentato.
Abbiamo trovato interessante un allegato che trovate alla fine dell’articolo, Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development
La disumanizzazione del potere non richiede che un’IA si ribelli con mire di dominio. Basta che sia più efficiente di noi in quasi ogni ambito: lavoro, politica, cultura, perfino relazioni umane. Ciò che tiene in piedi le nostre società non è una qualche nobile vocazione al benessere collettivo, ma la semplice utilità degli esseri umani: finché serviamo a qualcosa, ci garantiamo un posto al tavolo. Il problema nasce quando smettiamo di essere il miglior strumento disponibile per far funzionare il sistema. Se una macchina può fare il nostro lavoro meglio e a costo minore, se può prendere decisioni più velocemente, se può produrre arte più convincente o persino offrire una compagnia più gratificante, allora la logica economica e sociale non avrà alcuna pietà.
Leggi tutto
