TiTiNoNero dice cose_

Novità!!! Visita la sezione Garden! Buona lettura & buon ascolto!

Abbracciamo le IA generative!

“[…] what we know for certain is that at some point in the early twenty-first century all of mankind was united in celebration. We marveled at our own magnificence as we gave birth to AI.” (Morpheus, The Matrix, 1999)

In effetti, con i dovuti distinguo, possiamo guardare a chatGPT e Dall-E e ritrovarli nella profetica battuta di Morpheus. Ma le similitudini semantiche finiscono esattamente qui. In ogni caso, le cosiddette AI generative, sono l’ultimo grido della tecnologia.

Qualche giorno fa in ufficio ci siamo soffermati a valutare (no! non “cazzeggiare”, “valutare”!) le risposte che la chat associata al modello di linguaggio forniva alle nostre domande più disparate, dalle risposte ai quiz alle richieste di commentare per noi degli script Powershell presi a caso. Ed effettivamente le risposte erano tutte, magicamente, corrette. Non solo corrette, anche esaustive, perfettamente calibrate nel contesto della domanda, con spunti di approfondimento. Non sono un docente, anche se nella mia vita ho fatto anche quello, ma quelle sono le risposte che vorrei sentirmi dare alle interrogazioni… o quelle che, magari, solamente somigliano a risposte corrette ed esaustive.

Ho letto un po’ di documentazione a riguardo e ho capito che si tratta di un modello di linguaggio che predice un pattern di risposta “plausibile”. Inoltre è un modello che non è in grado di evolvere autonomamente all’aumentare del numero di interazioni, o di trovare da solo le sue nuove fonti e confutare le sue stesse fondazioni, ma è basato su un preciso dataset di training (sorvolo sul nome che non ho voglia di andare a cercare, tanto non aggiunge nulla al discorso) di 500GB tra documenti, siti web, riviste, studi accademici, e via discorrendo, che può essere periodicamente aggiornato.

Questo significa che un certo numero di esseri umani ha compilato più o meno manualmente la lista di queste “fonti”, a loro volta generate da altri esseri umani con intelligenze “tradizionali”, e le ha date in pasto alla rete neurale. Questa ha, in modo eccezionalmente efficace, ingerito tutte queste informazioni (l’equivalente , un tanto al chilo, di 200.000 libri… un nonnulla, comunque, rispetto agli oltre 160 milioni di opere della Biblioteca del Congresso degli Stati Uniti, per dire), le ha analizzate, scomposte, rivoltate, ricomposte e organizzate per accedervi in maniera rapida e incredibilmente accurata.

Ma è tutto qui.

In tutta questa magnificenza, l’IA non è in grado di generare nessun concetto nuovo o estraneo. Non è in grado di stabilire connessioni non già scritte se non con il trucco della generazione procedurale pseudocasuale, non può formulare ipotesi, se non con artifici esterni introdotti consapevolmente o meno dall’umano che vi interagisce, non può immaginare esiti, implicazioni o prospettive. E soprattutto può dare risultati inaspettati, non corretti o affetti da pregiudizio.

Ho letto qua e preoccupazione tra le persone. Quelle che sono immotivatamente preoccupate per l’avvento del T800 e Skynet, quelle che sono inopportunamente preoccupate per la prospettiva di “furto” di professioni diciamo “intellettuali”, e quelle che a buon vedere sono spaventate dall’idea che una macchina possa esprimersi e comprendere le domande in modo molto più naturale di loro stesse.

Mi sento di rassicurare le prime due categorie. Skynet era molto più fantasiosa di Dall-E, e, nelle professioni “intellettuali”, l’aspetto fondamentale non è la capacità di ricercare o sintetizzare informazioni, bensì quella di generare opportunità da un’insieme efficientemente organizzato di informazioni. E io vedo questa opportunità: ovvero smettere di perdere tempo a fare ricerche su Google, o sui libri, o sui manuali e iniziare a farsi le domande giuste. Perché tutto questo non è altro che un altro raffinatissimo motore di ricerca, dove tutto il superfluo è stato filtrato e sono rimasti i dati grezzi. A chi nega questa eventualità, ricordo che anche i motori di ricerca a indici tradizionali possono restituire risultati non rilevanti o contenuti errati alla sorgente. La cosa su cui concordiamo tutti, però, è che non si può essere 100% sicuri che le risposte siano quelle corrette; la differenza con un essere umano è che questi è 100% accountable per le sue dichiarazioni. ChatGPT no. Un altro rischio che corriamo in questo primo momento è quello di prendere tutto per “buono”, grazie alla infamemente superficiale copertura mediatica che le è stata riservata dai media generalisti.

Ma se pensiamo ad un futuro dove l’accuratezza e la correttezza vengano in qualche modo irrobustite, dove venga indicata la fonte di ciascuna informazione (come una Wikipedia automaticamente aggiornata con ogni fonte ingerita dall’algoritmo), potrebbe essere la svolta, la liberazione dallo studio e dalla lettura spesso infruttuosa, per poterci concentrare sulla sostanza delle nostre passioni e professioni.

Tuttavia… tuttavia c’è un ma enorme. E questo è rappresentato dal modo in cui altri esseri umani hanno creato le informazioni originali, date in pasto alla macchina. Senza esseri umani che generino informazioni nuove, le macchine non potranno che continuare a riproporre “permutazioni” sulle stesse informazioni all’infinito. Se non diamo la possibilità all’umanità di crescere altre persone in grado di creare sempre più informazioni, giungeremo presto alla staganzione, all’appiattimento culturale, alla smussatura di ogni differenza, alla stasi. E questo, indipendentemente da qualunque IA.

Il nostro insegnante dovrà quindi continuare a pretendere dagli studenti lo stesso che ci aspettiamo da chatGPT, perché anche nostra mente deve essere addestrata da libri, riviste, ricerche per poter sviluppare le capacità creative di base.

Quindi che differenza c’è?

C’è che noi da piccoli, e i nostri ragazzi oggi, non abbiamo trascurato mai il gioco. Le risate e i giochi, fondazione della creatività, ci salveranno!

Commenti

Puoi inviare un commento su questa pagina compilando il modulo seguente. Il commento verrà pubblicato una volta approvato.

You have WEI running