L'Intelligenza Artificiale e i suoi problemi, secondo HARARI e secondo NOI - con ENKK

La conversazione inizia con una discussione sul nome per un progetto comune, esprimendo il desiderio che emerga naturalmente. Gli interlocutori si identificano con il 'dirigibile' come metafora per la loro identità e il loro approccio innovativo. Cercano di combinare dialoghi interessanti e di instaurare una rubrica periodica. La discussione pone enfasi sull'importanza del dialogo e dell'interazione personale.

L'argomentazione si sposta sull'intelligenza artificiale, con riferimenti al libro 'Nexus' di Yuval Noah Harari, che posiziona l'IA come una tecnologia capace di trasformare la società. Harari sostiene che l'IA è unica perché agisce come agente autonomo. Gli interlocutori discutono dell'idea che l'IA potrebbe minacciare l'autonomia umana e portare a un controllo totalitario se non gestita correttamente, evocando sensazioni miste di fascino e trepidazione.

Si approfondisce il concetto di 'agente' nell'IA, argomentando sul fatto che spesso l'opacità di tali sistemi genera percezioni di autonomia non del tutto giustificate. Gli interlocutori confrontano i sistemi di raccomandazione e la loro influenza sulle decisioni umane, identificando un pericolo più reale: il potere dei creatori di IA di guidare decisioni e processi tramite algoritmi, piuttosto che una completa autonomia dei sistemi stessi.

Viene esaminata l'idea che l'IA si comporti come agente per via della sua profonda complessità, spesso sfuggente anche agli esperti. La discussione si concentra sul modello dei sistemi intelligenti che vengono progettati per certe funzioni predittive, come gli LLM (Large Language Models), e su come tali modelli possano sviluppare capacità apparentemente emergenti, andando oltre il controllo consapevole di chi li crea.

Gli interlocutori discutono l'impatto sociale dell'IA, sottolineando che spesso l'informazione non viene filtrata o interpretata adeguatamente, portando a una percezione distorta della realtà. Viene espressa la preoccupazione che l'aumento di contenuti sintetici possa amplificare il rumore informativo, complicando ulteriormente la distinzione tra reale e artificiale. Si parla di una generale perdita di fiducia nei sistemi di mediazione della realtà.

La conversazione esamina come la complessità e l'opacità delle IA possa riflettere, in maniera problematica, le nostre stesse opacità umane. Discutono sull'importanza di acquisire consapevolezza delle differenze individuali nella percezione della realtà, considerando che sia gli umani che le IA operano spesso come scatole nere. Gli interlocutori discutono il valore del cercare connessioni più genuine e chiare tra le persone.

Gli interlocutori identificano un parallelismo tra l'opacità dell'IA e le questioni interumane di fiducia e comunicazione. Sottolineano che l'accumulo massivo di informazioni può oscurare invece che chiarire, e sottolineano la necessità di impegnarsi attivamente per comprendere ed esplorare profondità individuali. Si discute di come il fenomeno della disinformazione e della superficialità delle interazioni possa derivare dal nostro assecondare dinamiche di consumo superficiali.