E’ lo stato permanente di guerra, quello destinato ad accompagnare noi e la nostra discendenza. E’ il conflitto globale che vola radente, che prende quota ad ogni occasione…che controlla di essere in onda, che verifica l’Auditel. Sono informazione, disinformazione, controinformazioni che si mescolano nelle arterie del villaggio globale, nel più magmatico campo di battaglia, all’alba del disordine irreversibile, ai margini dell’ incredibile e dell’ impensabile.
Le Nuove Guerre Umberto Rapetto – Roberto de Nunzio (pag5)
******************
Esperti avvertono: sciami di AI dirottano la democrazia con cittadini finti
“Questi sistemi sono capaci di coordinarsi autonomamente, infiltrarsi nelle comunità e fabbricare consenso in modo efficiente.”
L’IA non è solo chatbot e generatori di meme. Secondo uno studio recente pubblicato sulla rivista Science, può anche fungere da fonte di disinformazione — e basta che qualcuno apra il rubinetto.
La nuova ricerca esamina la scala a cui l’IA, in particolare i large language model (LLM) e gli agenti autonomi, può essere usata per manipolare le opinioni su un livello “a livello di popolazione”. I ricercatori indicano una minaccia specifica sotto forma di sciami di IA: enormi assembramenti di strumenti IA autonomi che possono imitare umani reali in massa via internet e social media.
Secondo i ricercatori, le prove disponibili indicano che “la manipolazione organizzata dei social media si è espansa da 28 paesi nel 2017 a 70 paesi” oggi, in nazioni che vanno dalle Filippine agli Stati Uniti, e molti posti nel mezzo. Incidenti di disinformazione guidata dall’IA nelle elezioni brasiliane e irlandesi, per esempio, rendono chiaro che le istituzioni democratiche sono già sotto attacco da queste minacce, che i ricercatori dicono stiano crescendo in sofisticazione.
“Fondendo il ragionamento degli LLM con architetture multiagente, questi sistemi sono capaci di coordinarsi autonomamente, infiltrarsi nelle comunità e fabbricare consenso in modo efficiente”, avverte l’abstract del paper.
Legiferare contro questo tipo di interferenza solleva questioni spinose, come se le botnet di propaganda contino come libertà di espressione. Infatti, alcune di queste reti di bot IA operano apertamente come startup for-profit, corteggiando milioni da venture capitalist.
Anche prima dell’IA, l’emergere di poche piattaforme social non accountability aveva creato le condizioni necessarie per far fiorire campagne di disinformazione su larga scala. Anche prima dell’IA, queste campagne hanno avuto conseguenze devastanti nel mondo reale, come il genocidio dei Rohingya facilitato da Facebook in Myanmar.
Stiamo già vedendo anteprime di come appaiono in pratica le campagne di disinformazione abilitate dall’IA, spesso sotto forma di attori di destra che fomentano furia contro ricevitori di welfare o immigrati.
Qualunque cosa derivi dalla disinformazione IA, è chiaro che il cammino è stato tracciato anni fa — e c’è un’allarmante scarsità di volontà politica per invertire la rotta ora.
Approfondimenti sull’etica dell’IA: Le aziende tech usano tattiche insidiose per costruire data center su terre indigene, dicono gli attivisti
Articolo originale https://futurism.com/artificial-intelligence/ai-swarm-democracy-security
COMMENTO
L’articolo di Futurism descrive uno scenario inquietante: quello degli “sciami di IA” capaci di manipolare il discorso pubblico su larga scala. Eppure, vedo in tutto questo non tanto una novità assoluta, quanto l’ultimo e potentissimo amplificatore di dinamiche umane e sociali vecchissime. Basti pensare a Edward Bernays, che già 100 ANNI FA insegnò come manipolare le masse agendo sull’inconscio e sui desideri più profondi. L’IA non fa altro che automatizzare e scalare quel processo, grazie alle immense conoscenze accumulate sulla psicologia umana e sui nostri dati.
L’IA è uno strumento, un moltiplicatore di intenti. Il vero problema resta ciò che l’essere umano decide di farne.L’articolo mette in luce tre “lati oscuri” che l’IA sta semplicemente portando alla luce con forza maggiore:
La sete di controllo di élite politiche o economiche che vogliono dirigere il pensiero delle masse senza che queste se ne accorgano;
La pigrizia cognitiva umana, la nostra tendenza ad accettare ciò che conferma i nostri pregiudizi, rendendoci vulnerabili a sciami che imitano artificialmente il consenso;
La oggettivazione dell’uomo nella rete (IOP) ovvero trattare le persone come semplici nodi di questa rete da controllare e in questo caso “hackerare”.
Quello che stiamo vedendo è l’ultima incarnazione dell’ingegneria del consenso. E forse proprio il concetto stesso di “consenso” andrebbe indagato più a fondo.Se negli anni ’20 Bernays usava la psicoanalisi per vendere sigarette o favorire colpi di stato, oggi i Large Language Models permettono di generare migliaia di “persone sintetiche” che discutono con te sui social, logorando progressivamente la tua resistenza psicologica. La radice rimane la stessa: la convinzione che la democrazia sia un meccanismo troppo caotico e pericoloso per essere lasciato al libero arbitrio dei cittadini.
«L’ingegneria del consenso è l’essenza stessa del processo democratico, la libertà di persuadere e suggerire.»
— Edward Bernays
L’IA sta rendendo questa ingegneria enormemente più pericolosa. La via d’uscita? È la più difficile: il lavoro dell’uomo su se stesso. Richiede il coraggio di riconoscere le proprie fragilità cognitive ed emotive, e la fatica quotidiana di informarsi davvero, di pensare con la propria testa. Occorre impegnarsi affinché la tecnologia sia uno strumento utilizzato in modo consapevole ed etico. E ciò richiede, prima di tutto, una maggiore consapevolezza di sé e la riscoperta dell’etica.
Se volete essere aggiornati sulle ultime novità, iscrivetevi al CANALE TELEGRAM https://t.me/NogeoingegneriaNews
CONOSCI EDWARD BERNAYS, COLUI CHE CONDIZIONA LA MENTE DELLA GENTE ?
LA PREDIZIONE SUGLI PSICOPERSUASORI DI VANCE PACKARD NEL 1957
LA PERSUASIONE NELLA PROPAGANDA E NELLA PUBBLICITÀ – DAL NAZISMO AL COVIDISMO
IMPORTANTE!: Il materiale presente in questo sito (ove non ci siano avvisi particolari) può essere copiato e redistribuito, purché venga citata la fonte. NoGeoingegneria non si assume alcuna responsabilità per gli articoli e il materiale ripubblicato.Questo blog non rappresenta una testata giornalistica in quanto viene aggiornato senza alcuna periodicità. Non può pertanto considerarsi un prodotto editoriale ai sensi della legge n. 62 del 7.03.2001.
