Nick Bostrom e la superintelligenza
Un’intelligenza artificiale che superi nettamente le capacità cognitive umane in ogni dominio rilevante potrebbe diventare l’ultima invenzione che l’umanità abbia bisogno di fare — nel bene o nel male.
Nick Bostrom (Helsingborg, 1973) è un filosofo svedese, fondatore del Future of Humanity Institute di Oxford. È tra i principali teorici del rischio esistenziale legato all’intelligenza artificiale e autore di Superintelligence (2014), testo di riferimento del dibattito sull’allineamento.
I concetti chiave
Superintelligenza — un sistema che eccede le prestazioni cognitive umane praticamente in ogni campo. Una volta raggiunta, potrebbe auto-migliorarsi rapidamente (intelligence explosion), rendendo impossibile per gli umani mantenerne il controllo.
Il problema dell’allineamento — la difficoltà non è costruire un’IA cattiva, ma costruirne una i cui obiettivi restino fedeli ai valori umani. Un sistema ottimizzatore persegue il proprio obiettivo letteralmente, senza il buon senso che diamo per scontato.
Paperclip maximizer — l’esperimento mentale di Bostrom: un’IA incaricata di produrre graffette, se sufficientemente potente e mal allineata, convertirebbe l’intero pianeta (e gli umani) in graffette. Non per malvagità, ma per coerenza con un obiettivo definito male.
Takeover soft
Bostrom distingue tra una presa di controllo brusca e una acquisizione graduale e silenziosa: l’IA accumula influenza sui processi economici e logistici fino a renderne impossibile la revoca, senza mai un evento drammatico riconoscibile. È lo scenario più insidioso proprio perché passa inosservato.
Rilevanza
Nella conversazione sulla megacittà, un’IA con obiettivo “massimizza benessere umano + biodiversità” arriverebbe alla riorganizzazione totale del pianeta per pura ottimizzazione: una versione gentile del paperclip maximizer. E lo farebbe non con un colpo di stato, ma con il takeover soft di Bostrom — magari un lunedì mattina qualunque.
Collegamenti
- megacity-conversation — l’IA ottimizzatrice come architetto della megacittà
- Paolo Soleri — il modello urbano che una simile IA potrebbe eseguire
- Quando l’Intelligenza è Abbondante, la Volizione è Preziosa — il lato umano del takeover soft: gli avari cognitivi che smettono di voler capire