Joseph Norman
0 
1159
31
È Elon Musk al suo Elon Musk-iest: secondo le notizie, l'imprenditore di auto spaziali ed elettriche ha incontrato la sua attuale ragazza scherzando sull'intelligenza artificiale infida.
Musk e il musicista Grimes, il cui vero nome è Claire Boucher, sono andati al Met Gala in coppia lunedì (7 maggio). Secondo la pubblicazione di gossip Page Six, i due si sono incontrati tramite Twitter, quando Musk pensò di fare un gioco di parole su "Rococo's Basilisk", un mashup dell'esperimento mentale "Roko's Basilisk" e lo stile elaboratamente ornamentale visto nella Francia del XVIII secolo..
Musk ha presto appreso che Grimes aveva fatto lo stesso gioco di parole in un video musicale nel 2015, e il resto è storia romantica. Il Basilisco di Roko, d'altra parte, è una visione terrificante del futuro e il centro di un vortice di sottocultura online che dura da anni.
L'inizio
Il tutto è iniziato nel 2010, quando una persona di Roko ha pubblicato un esperimento mentale sul sito LessWrong, un forum in cui le persone discutono di tutto, dalla filosofia all'intelligenza artificiale (AI) alle scienze cognitive. Il post è stato eliminato, ma RationalWiki ne ha conservata una copia. L'idea di Roko era che se, in futuro, dovesse nascere un'IA super intelligente progettata per massimizzare il bene comune, potrebbe punire tutti coloro che non hanno contribuito alla sua esistenza. [Macchine super intelligenti: 7 futuri robotici]
"Naturalmente, questo sarebbe ingiusto, ma è il genere di cosa ingiusta che è davvero utilitaristica", ha ragionato Roko.
Questo ipotetico avverrebbe dopo la singolarità, il punto in cui l'intelligenza artificiale diventa indistinguibile dalla vita stessa - anzi, meglio della vita stessa, perché può fare cose come caricarsi indefinitamente, ottenendo una sorta di immortalità di silicio. Se questo potere divino scopre che non hai contribuito a crearlo, beh, sheesh. Potrebbe semplicemente decidere che la tua giusta ricompensa è il tormento eterno. [Una breve storia dell'intelligenza artificiale]
Il nome "basilisco" deriva da una leggenda medievale su un serpente che poteva uccidere con uno sguardo.
Ecco la trappola, però: se non sapevi della possibilità del Basilisco di Roko, sei chiaro: è probabile che l'IA venga solo dopo coloro che hanno predetto la sua esistenza ma hanno scelto di non, per esempio, donare tutto il loro usa e getta reddito per contribuire a realizzarlo. Solo leggendo della possibilità del Basilisco di Roko, ti sei condannato. (Scusate.)
Questo avvertimento, in poche parole, è dove è iniziato il vortice online. Il fondatore di LessWrong, Eliezer Yudkowsky, ha criticato il post definendolo "STUPIDO" e "veramente pericoloso". Solo pensando in grande dettaglio a come un'intelligenza artificiale potrebbe ricattarti, Roko si era preparato per essere ricattato, oltre a impostare tutti gli altri che avrebbero potuto leggere il post.
"Sto bandendo questo post in modo che (a) non dia alle persone orribili incubi e (b) offra alle superintelligenze lontane un motivo per perseguire il ricatto contro persone così stupide da pensarci in modo sufficientemente dettagliato", ha scritto Yudkowsky.
Da Roko al romanticismo
Il divieto della discussione sul Basilisco di Roko su LessWrong è durato fino al 2015. Yudkowsky in seguito scrisse su Reddit che si rammaricava della sua reazione, il che faceva sembrare che pensasse che Roko avesse ragione; in realtà crede che nessuna intelligenza artificiale progettata pensando ai migliori interessi dell'umanità finirebbe per torturare le persone. Invece, ha scritto, ha cancellato il post perché l'idea non aveva alcun vantaggio potenziale per nessuno.
Musk potrebbe essere particolarmente affezionato alle battute sul Basilisco di Roko perché il post originale lo menzionava. Roko scrive che qualcuno come Musk, che sta "cambiando da solo i volti delle industrie ad alto impatto", sarebbe nelle grazie della teorica intelligenza artificiale sovrumana. Musk ha anche parlato dei potenziali pericoli dell'IA, chiedendo regolamentazione e avvertendo proprio il mese scorso che l'IA potrebbe diventare un "dittatore immortale".
"Se l'intelligenza artificiale ha un obiettivo e l'umanità si trova nel mezzo, distruggerà l'umanità come una cosa ovvia senza nemmeno pensarci. Nessun rancore", ha detto Musk in un documentario intitolato "Do You Trust This Computer ?, "che è stato rilasciato ad aprile. "È come, se stiamo costruendo una strada e un formicaio si trova sulla strada. Non odiamo le formiche, stiamo solo costruendo una strada. Quindi, arrivederci, formicaio."
Grimes, da parte sua, è una musicista e artista visiva canadese che ha inventato il gioco di parole "Rococo Basilisk" per il suo video musicale "Flesh Without Blood". Il video presenta un personaggio che indossa parrucche in stile rococò e abiti voluminosi e finisce pugnalato allo stomaco e coperto di sangue su un campo da tennis.
"È destinata ad essere eternamente torturata da un'intelligenza artificiale, ma è anche un po 'come Maria Antonietta", ha detto Grimes a FuseTV.
Articolo originale su .