La minaccia dell’IA che la fantascienza aveva previsto è ormai alle nostre porte
di Tyler Durden
Scritto da Mike Fredenburg tramite The Epoch Times
La fantascienza ha da lungo tempo previsto le minacce e le sfide poste dall’intelligenza artificiale. Nell’universo di Star Trek, in particolare nella serie originale, stagione 2, episodio 24, “The Ultimate Computer”, il dottor Leonard McCoy pronuncia questa inquietante frase:
«Compassione: questa è l’unica cosa che nessuna macchina abbia mai avuto. Forse è l’unica cosa che mantiene gli uomini davanti a loro.»
La battuta arriva all’indomani di un rivoluzionario nuovo computer IA, l’M5, che utilizza la propria logica artificiale priva di anima per trasformare un’esercitazione di addestramento in un massacro mortale. In un altro episodio di Star Trek incontriamo Nomad, un’IA genocida che ripulisce l’universo dalle imperfezioni biologiche.
Prefigurando l’ascesa di IA dotate di immense capacità di hacking come Mythos di Anthropic, la versione reinventata di Battlestar Galactica (2003–2009) mostra i Cyloni alimentati dall’IA utilizzare la loro capacità di hackerare qualsiasi computer connesso a una rete per ribellarsi, arrivando quasi a sterminare i propri creatori.
Nel franchise di The Terminator, Skynet diventa “intelligente” (raggiunge la coscienza di sé) e decide il destino dell’umanità — lo “sterminio” — in un “microsecondo”, scatenando un Armageddon nucleare contro il genere umano.
Queste narrazioni avvertono che l’intelligenza artificiale, senza solide misure di salvaguardia, può condurre alla catastrofe. Mentre le capacità dell’IA continuano ad accelerare nel 2026, la finzione sta rapidamente convergendo con la realtà. Le protezioni software, gli standard industriali e le normative frammentarie sono inadeguati. Una base più solida — costituita da strutture hardware immutabili e da cambiamenti nel diritto nazionale e internazionale — è essenziale.
Le Tre Leggi della Robotica di Isaac Asimov
Come descritto dalla rivista Spectrum dell‘Institute of Electrical and Electronics Engineers (IEEE), le Tre Leggi della Robotica del celebre scienziato e scrittore di fantascienza Isaac Asimov, introdotte nei racconti di IO, Robot, forniscono un quadro concettuale ponderato per le salvaguardie dell’intelligenza artificiale:
Un robot non può arrecare danno a un essere umano o all’umanità, né, attraverso l’inazione, permettere che un essere umano o l’umanità subiscano un danno.
Un robot deve obbedire agli ordini impartiti dagli esseri umani, tranne quando tali ordini entrano in conflitto con la Prima Legge.
Un robot deve proteggere la propria esistenza finché tale protezione non entra in conflitto con la Prima o la Seconda Legge.
In breve, le Leggi di Asimov rappresentano un buon punto di partenza, ma, come descritto in grande dettaglio nel successivo capolavoro di Asimov, la Foundation, risultano inadeguate quando si tratta di proteggere l’autentica umanità. Inoltre, sarà una vera sfida incorporare nell’IA equivalenti di tali leggi come avveniva nell’universo di Asimov attraverso il cervello “positronico”. Tuttavia, affrontare la sfida di creare salvaguardie che vadano oltre gli approcci basati esclusivamente sul software è fondamentale per garantire che l’IA apporti benefici soltanto all’umanità.
L’inadeguatezza delle salvaguardie software, della crittografia e della sola regolamentazione
Le protezioni basate sul software sono modificabili e vulnerabili ad hackeraggi e sfruttamenti.
E la storia dimostra la fragilità dell’autoregolamentazione: la violazione dei dati di Equifax (2017), l’attacco alla catena di approvvigionamento di SolarWinds (2020), la vulnerabilità di MOVEit (2023) e le continue violazioni dimostrano che le promesse aziendali di “protezioni robuste” falliscono frequentemente.
Ci troviamo in un Far West dell’IA, con quadri normativi globali e nazionali insufficienti e privi di carattere vincolante.
Vera protezione tramite guardiani hardware immutabili
La storia dimostra che le salvaguardie basate sul software non possono attualmente, e non saranno mai in grado, di fornire il livello di protezione richiesto.
Ispirandosi al cervello positronico di Asimov, le salvaguardie implementate negli ASIC (Application-Specific Integrated Circuits, circuiti integrati specifici per applicazione) forniranno uno strato critico di protezione, aumentando le probabilità che l’IA avvantaggi, anziché danneggiare, l’umanità.
Questi chip specializzati trasferiscono milioni di linee di logica software complessa o di regole direttamente nell’hardware di silicio. Una volta che il chip è stato prodotto e distribuito, tali regole diventano immutabili: non possono essere alterate, aggiornate o aggirate tramite modifiche software, patch o tentativi di hacking.
L’unico modo per modificare la logica incorporata consiste nel progettare e produrre fisicamente un ASIC completamente nuovo, un processo costoso, lungo e altamente visibile.
Ciò crea un “firewall hardware” molto più affidabile di qualsiasi salvaguardia software, garantendo che i vincoli critici di sicurezza restino bloccati indipendentemente da quanto intelligenti o aggressivi possano diventare i futuri sistemi di IA.
Gli ASIC agiranno come controllori fisicamente fissi e integrati nel percorso operativo (inline gatekeepers). In futuro, sia i processori specializzati per l’IA sia quelli di uso generale potrebbero incorporare questi minuscoli ASIC direttamente nella CPU come livello hardware di filtraggio dell’IA, parte standard e non opzionale del processore.
Alcuni principi fondamentali di progettazione suggeriti
Con il livello hardware che agisce da interfaccia verso le interazioni esterne, come avviene già oggi in alcuni smartphone, l’IA può pensare, pianificare e simulare liberamente nel software senza essere rallentata dall’ASIC.
Solo quando i risultati vengono comunicati all’esterno l’ASIC interviene come controllore, per garantire che le azioni proposte dall’IA soddisfino i requisiti di sicurezza e gli altri vincoli.
Incentivi durante l’addestramento
Algoritmi basati su costi/perdite (cost/loss-based algorithms) ricompenseranno l’IA per aver instradato le proprie azioni attraverso il sistema hardware di controllo e la penalizzeranno severamente se tenterà di aggirare il livello di controllo hardware.
Di conseguenza, l’IA sarà incentivata a non cercare di eludere le proprie restrizioni.
Ma uno strato così importante funzionerà soltanto se il suo utilizzo diventerà universale.
Senza la forza della legge che imponga tali protezioni per l’IA, esse non riusciranno a proteggere l’umanità.
Oggi, in particolare nella guerra tra Ukraine e Russia, entrambe le parti stanno compiendo sforzi per consentire ai droni che hanno perso il contatto con i loro operatori umani di continuare autonomamente la loro missione di uccidere combattenti nemici.
Questo non deve essere tollerato.
Così come la comunità internazionale ha vietato la guerra chimica, biologica e con gas, allo stesso modo si dovrebbe vietare all’IA di prendere qualsiasi decisione finale che comporti danni agli esseri umani.
Ciò potrebbe essere realizzato attraverso un aggiornamento esplicito delle Convenzioni di Ginevra che proibisca il processo decisionale letale autonomo da parte dei sistemi di IA.
Oltre il campo di battaglia
Ma l’IA può causare danni anche al di fuori del contesto militare.
Di conseguenza, oltre ad aggiornare le Convenzioni di Ginevra, dovrebbero essere introdotte leggi che affrontino le applicazioni non militari dell’IA.
Per prevenire l’uso improprio dell’IA nelle cosiddette applicazioni civili, dovrebbero esistere conseguenze molto severe, comprese sanzioni finanziarie sufficientemente elevate da minacciare la sopravvivenza organizzativa di aziende e organizzazioni non profit, pene detentive per gli individui e sanzioni economiche o persino azioni militari contro governi che gestiscano sistemi di IA privi del necessario livello hardware immutabile di sicurezza e di altre protezioni.
Quanto sopra rappresenta soltanto una prima bozza di ciò che il quadro normativo dovrebbe includere, ma qualunque forma assuma, esso dovrebbe incarnare lo spirito delle Tre Leggi di Asimov, con l’aggiunta della garanzia che venga rispettata l’unicità dell’essere umano.
L’attuale mosaico di leggi, standard e tecnologie è del tutto inadeguato.
Abbiamo bisogno di un quadro completo e coerente, sostenuto dalla piena forza delle leggi nazionali e internazionali che impongano limiti e protezioni all’IA.
Infine, dobbiamo resistere al canto delle sirene della comodità e dell’efficienza quando si tratta di prendere decisioni che possono danneggiare gli esseri umani e garantire che tali decisioni siano prese da agenti morali responsabili nei confronti dell’umanità e del loro Creatore — cioè gli esseri umani — e non da IA prive di anima.
FONTE https://www.zerohedge.com/ai/ai-threat-scifi-predicted-right-our-doorstep
Se volete essere aggiornati sulle ultime novità, iscrivetevi al CANALE TELEGRAM https://t.me/NogeoingegneriaNews
FIVE EYES, LANCIA L’ALLARME SU CYBERATTACCHI CON l’IA – QUESTIONI DI MESI
IMPORTANTE!: Il materiale presente in questo sito (ove non ci siano avvisi particolari) può essere copiato e redistribuito, purché venga citata la fonte. NoGeoingegneria non si assume alcuna responsabilità per gli articoli e il materiale ripubblicato.Questo blog non rappresenta una testata giornalistica in quanto viene aggiornato senza alcuna periodicità. Non può pertanto considerarsi un prodotto editoriale ai sensi della legge n. 62 del 7.03.2001.
