Una nuova utopIA

Mai termine fu più discusso… dalla sua creazione il termine “ideologia” ha subito numerose definizioni e rivalutazioni, da accezione negativa a positiva e poi di nuovo a negativa. Non c’è vero consenso. Inoltre, a seconda del contesto può assumere significati ben diversi tra loro…

Dunque di che cosa sto parlando? Parlo dell’ideologia come un oggetto cognitivo che offre un quadro, un framework di riferimento, su cui mappare agevolmente gli eventi della quotidianità, arricchendoli dei valori, dei significati delle finalità fondanti di una specifica parte politica, intesa non solo come partito politico, ma anche come un qualunque movimento che abbia tra i propri fini il raggiungimento di una nuova visione, o condizione, o organizzazione sociale “a tendere”, mai raggiungibile. Una ideologia è sempre associata ad una utopia.

Una ideologia (stavo inavvertitamente scrivendo IDOLOGIA, chissà come mai…) ha più strati livelli di consapevolezza. Quello più esterno, pubblico, rappresenta la dottrina essoterica dell’ideologia. Si adatta, nei termini e nei toni, alla dialettica corrente e socialmente accettabile. Certamente una parte del pubblico accoglierà tali aspetti pubblici di una ideologia, considererà legittimo (come lo è realmente!) sostenerli, associarvisi, diffonderli.

Nell’economia di una ideologia però, ogni cosa diventa fattibile, l’impossibile diviene imperativo etico che potrebbe richiedere anche dei sacrifici, che tendenzialmente saranno ben poca cosa nella futura società del nuovo benessere, tipicamente una forma di utopia non raggiungibile, poiché il suo raggiungimento renderebbe vano lo sfozo, azzererebbe l’ideologia in blocco.

Per fare un esempio: ho parlato, in passato, di longtermismo (https://77nn.it/2023/05/19/IA-Opportunita-rischio.html nelle note) e di come sia una ideologia estremamente pericolosa perché giustifica ogni vita non salvata oggi (equivalente a 10^-9 dell’umanità) come irrilevante se avvenuta in una prospettiva di benessere dell’umanità futura. Una umanità ipotetica che avrà conquistato e colonizzato lo spazio e che conterà membri nell’ordine di 10⁴⁰ o più individui.

Si nota la pericolosità, giusto?

Ma come fa ad attecchire qualcosa del genere? Chi abbraccia una cosa così non può essere una persona fatta e rifinita.

In verità abbracciano questa ideologia moltissimi super-ricchi in tutto il mondo. Devono aderire a questa ideologia, necessariamente. Vi immaginate, altrimenti, cosa deve fare un supermiliardario per darsi una motivazione a diventare ancora più ricco? Non può farlo per qualcosa che può già acquistare, deve farlo per qualcosa che NON può ancora permettersi, per una utopia che stimoli il suo senso di sfida e la sua fame di immortalità.

Ora… il longtermismo, nello specifico, è facile che sia un costrutto artificioso di qualcuno che l’ha pensata molto bene per irretire, stimolare, ma soprattutto grattare le briciole proprio dei supermiliardari, ma il problema è che questi ci stanno credendo, e stanno facendo le cose più assurde, tipo costruire basi segrete¹ su isole o aree remote che potrebbero essere meno colpite da eventi naturali catastrofici.

Di fianco, però, alle ideologie prefabbricate per ricchi “abbocconi” (che più sono ricchi e meno sono umani e collegati alla realtà… e probabilmente non sarei troppo lontano dalla verità se dicessi che appartengono ad un’altra specie), ci sono delle ideologie che spontaneamente emergono, o così pare. E qui parlo proprio dell’AI, l’intelligenza artificiale generativa…

che intelligenza, ripetiamolo che non fai mai male, non è.

Ma cosa c’entra una tecnologia con una ideologia? Non possono essere la stessa cosa!

Giusto?

Una tecnologia è uno strumento, come può… diventare… un “oggetto cognitivo”… che ci aiuta a… spiegare? …collocare eventi in un contesto? …attribuire valori?

Che c’è? Non è proprio questo che fanno per noi gli LLM? Non gli abbiamo giusto mezz’ora fa delegato la scrittura di una mail o una relazione tecnica? Non gli abbiamo chiesto che cosa significava il ban di TikTok?

Certo, ma segue le mie direttive, non attribuisce valore, anzi si conforma… esattamente… al senso comune?

Sì, e appiattisce il risultato della generazione su set di posizioni predefinite. Rende il tuo prompt identico a mille altri, e fornisce lo stesso esito. Perché ci sono infiniti modi di scrivere un prompt e infiniti modi per rispondere con lo stesso contenuto. E il continuo appoggiarsi a questi modelli, senza aggiungere novità di pensiero, senza mettere in discussione, senza criticare, cambierà anche la nostra società.

Quindi l’intelligenza artificiale, ad oggi, appare, opera e conduce ad una visione della società futura che emerge dai set di addestramento. La speranza è che non lo faccia in modo pilotato, ma emergente… perché se ci arrivo io, sarà che non ci sono già arrivati prima di me i longtermisti, o chi per essi, forti dei loro miliardi, a voler avvelenrare questi modelli in modo sottile, accettabile, strisciante, per indurci lentamente ad abbracciare i loro valori, i loro fini? Magari in due generazioni o tre…

Sto rasentando il complottismo, me ne rendo conto e ti chiedo scusa… non c’è alcuna prova che possa anche solo ipoteticamente essere così. Ma “avvelenare” gli LLM è certamente possibile, soprattuto in assenza di norme regolatorie.

Resta il punto, valido secondo me, che IA sia divenuta vera e propria ideologia, ne condivide ogni caratteristica e aspetto. Basta solamente sostituire l’IDEA, il “disegno della mente” con la TEKNÉ (“arte, abilità, artificio” o persino “inganno”) ed ecco che una qualunque tecnologia, non solo l’AI, può diventare una ideologia… e questo avviene quando spiega, attribuisce valore e promette un futuro diverso, mentre conduce, in secondo piano, alla forma degenerata di governo che chiamiamo tecnocrazia.

Note