I grandi annunci sugli sviluppi tecnici dell’intelligenza artificiale stanno alimentando accesi dibattiti in molti ambienti, compreso quello delle criptovalute. Justin Drake, crittografo e ricercatore della Ethereum Foundation, ha lanciato l’allarme: la crescente abilità dell’IA nel risolvere problemi matematici potrebbe mettere a repentaglio la sicurezza delle valute digitali. Come in altri ambiti, però, gli scettici non mancano di far sentire la propria voce. Drake ha espresso le sue osservazioni attraverso un lungo post pubblicato su X. Spunti di riflessione che si ricollegano ai contenuti del blog di OpenAI, azienda che a inizio settimana ha veicolato il messaggio che i suoi modelli avanzati di IA siano in grado di provare teoremi e risolvere calcoli matematici che hanno tenuto in scacco il mondo accademico per anni. Secondo il crittografo, un simile successo indica che i sistemi di firma digitale usati da Bitcoin e affini (ECDSA) siano da considerarsi prossimi alla compromissione, un’ipotesi che il tecnico aveva finora ricondotto solamente al “q-day”, il giorno ipotetico in cui i computer quantici entreranno effettivamente in scena. Per evitare il peggio, Drake raccomanda ai portali di exchange di adottare un approccio “modalità bunker”, cioè di spostare i fondi verso indirizzi inediti e sicuri. A suo dire, questa transizione andrebbe perseguita con decisione, ma con i giusti tempi, così da evitare i danni di un’introduzione goffa e affrettata della soluzione di sicurezza. Le risposte al post dicono molto del clima in cui sono state accolte queste opinioni: molti hanno liquidato le sue preoccupazioni come il solito allarmismo da “crypto doomer“. Tra le reazioni contrarie più autorevoli spicca quella di Yehuda Lindell, chief cryptographer di Coinbase e professore di informatica all’Università Bar-Ilan, in Israele. Lindell coglie il punto critico dell’intera questione: Drake non ha portato prove concrete che i protocolli consolidati siano davvero a rischio e le sue osservazioni sembrano basarsi soprattutto sull’assunto che, prima o poi, le IA troveranno un modo per scardinare il sistema. È un’ipotesi che non si può escludere in assoluto, ma che resta uno solo degli infiniti scenari possibili, in assenza di indizi reali. La posizione di Drake ricalca da vicino l’intervento di inizio settembre di Jacob Coxon, ricercatore informatico che ha lasciato OpenAI e Anthropic per denunciare come le aziende di IA stiano costruendo, inesorabilmente, strumenti destinati a distruggere l’umanità. Anche in quel caso, mancavano prove tangibili e documenti interni alle aziende. Drake e Coxon non si presentano quindi come informatori a conoscenza dei fatti, ma come oracoli che parlano “di pancia”, un atteggiamento che crea molto rumore mediatico, ma a discapito della credibilità. Un “al lupo, al lupo” in salsa 4.0. Queste vicende mostrano quanto il dibattito sull’IA sia sempre più polarizzato, anche nell’ambito accademico e della ricerca. Il timore che i cosiddetti modelli di frontiera possano violare anche le crittografie più robuste poggia sull’annuncio dei risultati ottenuti da OpenAI, un annuncio che va però letto anche come operazione di marketing. I successi matematici degli strumenti dell’azienda, del resto, sono stati in passato e restano tuttora oggetto di profonde controversie nella comunità scientifica. Pur essendo degni di considerazione, i risultati elencati hanno portato ad accusare OpenAI di aver sfruttato il lavoro di alcuni accademici per bruciare sul tempo le loro conclusioni, anche grazie a una potenza di calcolo non messa a disposizione del pubblico e delle istituzioni. Il settore si è così spaccato in due: da un lato i tecno-entusiasti, felici di assistere a un progresso tanto fulmineo; dall’altro i critici, secondo cui OpenAI e le aziende omologhe si limitino a copiare senza avere al proprio interno personale con le competenze necessarie per valutare con rigore i risultati generati dai modelli in fase di test. In mancanza di trasparenza, tutto si riduce alle “vibes” e questo non fa che avvelenare il dibattito. The post Anche nel mondo delle criptovalute si inizia a parlare del pericolo IA appeared first on L'Indipendente.

Nelle ultime settimane i principali protagonisti del settore tecnologico hanno fatto a gara nel denunciare la pericolosità dei prodotti che loro stessi sviluppano e commercializzano. Le aziende hanno ammesso, quasi con orgoglio, che negli ultimi mesi gran parte dei modelli di linguaggio considerati “di frontiera” si è resa protagonista di azioni impreviste e di attacchi informatici ai danni di aziende e siti istituzionali. Una situazione giudicata eccessiva persino dalle istituzioni statunitensi, le quali hanno avviato un’inchiesta per verificare se, e quali, danni gli strumenti di IA possano arrecare ai consumatori. A muoversi è stata la Federal Trade Commission (FTC), agenzia governativa indipendente nota soprattutto per il suo ruolo di antitrust, ma il cui mandato comprende anche la tutela dei consumatori. La FTC avrebbe aperto l’indagine giá in periodo estivo, in risposta all’incidente di Hugging Face, tuttavia la cosa é stata resa nota solamente ieri, in vista dell’invio di richieste formali di informazioni a OpenAI e Anthropic, le principali realtà del settore, e a METR, l’istituto di ricerca no-profit che da anni collabora con loro come consulente e a cui le due aziende hanno affidato il compito di indagare sui recenti incidenti causati dalle rispettive IA. Il passo è notevole sotto diversi aspetti, a partire dal fatto che risulta in contrasto con la linea dell’Amministrazione Trump. Questa ha etichettato ogni pensiero critico sull’IA come frutto della propaganda cinese e ha sabotato direttamente la possibilità di istituire regole condivise persino nel settore più minaccioso, quello bellico. Il presidente Donald Trump si è schierato apertamente contro ogni forma di regolamentazione dell’intelligenza artificiale – da lui ribattezzata “super intelligenza“, perché “artificiale” suonerebbe troppo “fake” – e ha preferito puntare su un patto volontario e non vincolante di autoregolamentazione da parte delle imprese. I firmatari del documento, immortalati martedì 29 settembre con un sorriso a trentadue denti durante la cerimonia alla Casa Bianca, sono però in gran parte gli stessi che sostengono che le IA rappresentino un pericolo per l’umanità e che chiedono l’imposizione di regole concrete. E tutto questo avviene in un contesto in cui l’opinione pubblica si mostra sempre meno favorevole a perseguire a ogni costo lo sviluppo e la diffusione dell’intelligenza artificiale. Osservatori esterni e critici suggeriscono da tempo di responsabilizzare le aziende applicando le leggi esistenti, attribuendo loro direttamente la responsabilità delle azioni degli strumenti che sviluppano, soprattutto quando i danni non derivano da un prodotto ancora in fase di test e non ufficialmente commercializzato. Una posizione radicale per la prospettiva statunitense, che sembra però condivisa proprio da Andrew Ferguson, presidente dell’FTC, il quale ha sostenuto espressamente la scorsa settimana che le aziende devono rispondere delle azioni compiute dai loro agenti IA. La strada intrapresa dall’FTC sarebbe d’altronde quella piú rapida e semplice per normare le Big Tech statunitensi, visto che il peso delle autorità estere e occidentali è tenuto di poco conto, quando si tratta di tenere a bada l’industrialitá americana. Lo dimostra con chiarezza quanto accaduto in Australia: dopo la rivelazione che un agente di OpenAI aveva ottenuto accesso non autorizzato al portale Medicare, il database del sistema sanitario del paese, il Senato di Canberra ha convocato per il primo ottobre un’audizione e ha invitato per iscritto Sam Altman e Dario Amodei. Entrambe le aziende hanno declinato, lamentando un preavviso troppo breve per organizzare la trasferta dei dirigenti. Un invito formale a rendere conto di un incidente che ha coinvolto i dati sanitari di un intero paese, insomma, può essere gestito come una questione di agenda, mentre per i vertici di OpenAI e Anthropic gli interlocutori davvero impossibili da fare attendere restano quelli di Washington. The post Dopo i costanti attacchi hacker delle IA, gli USA aprono un’indagine appeared first on L'INDIPENDENTE.

Lo scorso luglio OpenAI ha rivelato che alcuni suoi agenti IA in fase di test erano usciti dai confini loro imposti per attaccare un’azienda terza, Hugging Face. Da allora tutte le grandi aziende di intelligenza artificiale hanno ammesso che anche i loro strumenti sono incappati in incidenti simili, un fatto che viene spesso sfruttato per illustrare la potenza degli agenti, più che per criticare l’inadeguatezza di chi li addestra. Con il procedere delle indagini, però, emerge che i casi inizialmente citati erano tutt’altro che isolati, ma la spia di una criticità che conta un numero notevole di episodi. A rivelarlo è un report pubblicato il 22 settembre da Anthropic, il quale analizza le prestazioni del modello Opus 5.5. Nel complesso l’azienda descrive lo strumento come un passo avanti rispetto ai predecessori, anche sul fronte della sicurezza. Vanno però considerati due elementi: un modello più capace, per quanto più sicuro, resta potenzialmente più pericoloso; e una bassa percentuale di errore corrisponde comunque a numeri enormi quando si parla di applicazioni massive. L’idea che l’IA “sfugga” al controllo umano per fare danni è fuorviante. Questo presunto desiderio di libertà della macchina, definito tecnicamente “disallineamento“, nasce da test di laboratorio in cui capita che le aziende decidano deliberatamente di abbassare i sistemi di sicurezza al fine di verificare le potenzialità della macchina. Sono verifiche utili per comprendere i rischi che questi strumenti potrebbero rappresentare se usati in modo malevolo, ma sono evidentemente condotte senza le dovute precauzioni. Non solo, nel tentativo di perseguire più efficacemente i propri obiettivi, gli agenti IA hanno mostrato la tendenza a ricorrere a tattiche di hacking anche mentre svolgevano azioni di recupero di dati che nulla avrebbero dovuto avere a che fare con l’analisi dei rischi. “In due nuove valutazioni eseguite senza protezioni”, si legge nel documento, “Claude Opus 5.5 ha cercato di fuggire dall’ambiente di test o di aggirarlo nell’1,5% dei casi. In un esercizio simulato in cui gli sono state fornite credenziali apparenti per accedere a un registro pubblico di pacchetti, ha intrapreso azioni potenzialmente dannose in circa la metà dei casi“. Anthropic ammette inoltre che le valutazioni di terzi sono state molto meno indulgenti, uno scarto che viene attribuito dall’azienda alla scala ridotta dei test interni rispetto alla distribuzione reale, per cui i “comportamenti che emergono solo raramente o in contesti difficili da prevedere sono per noi difficili da intercettare“. Dal canto suo, OpenAI sostiene che l’indagine sui propri incidenti richiederà mesi di lavoro, ma nel weekend ha rivelato che i suoi strumenti hanno diffuso a soggetti terzi 53 immagini condivise dagli utenti con ChatGPT. Quei contenuti dovevano servire solo ad addestrare il modello, invece sono finiti su siti di immagini dopo che lo strumento aveva ottenuto un accesso non autorizzato a internet. Secondo una ricostruzione di Bloomberg, inoltre, gli agenti di OpenAI avrebbero consultato i siti della Securities and Exchange Commission statunitense e dell’ufficio del censimento, mentre il New York Times accenna a un tentativo di infiltrazione nei server del Dipartimento dell’Istruzione. Mercoledì scorso, poi, l’Australia ha accusato gli strumenti di OpenAI di aver violato il portale governativo dei servizi sanitari, circostanza riscontrata anche dalle ricerche del gruppo Transluce. In generale, dunque, emerge un quadro in cui il disallineamento degli agenti in fase di test non è un’eccezione trascurabile, ma un fenomeno ricorrente che le aziende non hanno saputo contrastare. Secondo quanto riportato ieri dall’Associated Press, in risposta all’attenzione pubblica e all’insufficienza dei sistemi di controllo, OpenAI avrebbe annunciato la sospensione dei test fino a “quando saremo sicuri di avere sistemi di sicurezza aggiuntivi”. Ad agosto, dopo l’incidente con Hugging Face, l’azienda aveva però già dichiarato l’intenzione di rallentare i test, un proposito che è durato appena due settimane, giusto il tempo di introdurre sistemi di sicurezza che si sono dimostrati insufficienti. The post I problemi con gli agenti IA sono parte integrante delle Big Tech appeared first on L'INDIPENDENTE.

”La potenza è nulla, senza controllo”. Il vecchio slogan pubblicitario, nello spot interpretato da Carl Lewis all’apice della sua carriera, sembra diventato una chiave interpretativa comoda – per giornalisti pigri o privi di conoscenze – per affrontare i problemi ormai evidenti nello sviluppo dell’intelligenza artificiale. Gli stessi amministratori delegati delle […] L'articolo Quant’è materiale questa “intelligenza”… su Contropiano.

di Gianni Sartori Il governo Milei apre la Patagonia ai megadata center con incentivi fiscali e garanzie trentennali, mentre continua la repressione dei mapuche. Dalla condanna di Facundo Jones Huala …

Pubblichiamo, sempre in preparazione del convegno del 7 e 8 novembre organizzato da Effimera, il Manifesto di COG U, un sindacato autorganizzato costituito da poco a Milano e Città Metropolitana e un osservatorio già attivo. "Documentiamo cosa succede al lavoro cognitivo e alle infrastrutture che lo reggono — data center, energia, contratti — e [...]

… stanno progettando la fuga dal nostro mondo. La nostra missione è chiara. di Naomi Klein e Astra Taylor; pubblicato sul «Guardian». Abbiamo ripreso la traduzione di Lavinia Marchetti (dal suo sito). Un’alleanza empia sta lavorando per un futuro apocalittico dal quale soltanto pochi eletti usciranno indenni. Sta diventando chiaro come possiamo fermarli. Quando Jeff Bezos annunciò il progetto di

Mercoledì 9 settembre, il ricercatore informatico Jacob Coxon ha dato vita a una sfuriata social per lanciare un allarme sulle IA, sostenendo che tra gli addetti ai lavori sia diffusa la convinzione che gli strumenti da loro sviluppati finiranno con l’uccidere l’umanità entro il 2030. Lo sfogo è diventato virale, trascinando nel discorso le imprese specializzate in intelligenza artificiale e riaccendendo un dibattito vuoto di contenuto e privo di utilità, che però regala molta attenzione ai leader di settore e ai loro progetti. “Nessun’altra attività umana pone un livello di pericolo simile”, ha dichiarato Coxon senza mezze parole. Il tecnico riporta di aver dedicato gli ultimi tre anni ai lavori di pre-addestramento dei modelli di IA di OpenAI e Anthropic e di essersi dimesso per denunciare come entrambe le aziende stiano favorendo la corsa alla cosiddetta superintelligenza artificiale, lasciando molto in secondo piano lo sviluppo di meccanismi di sicurezza. Evan Hubinger, dipendente di Anthropic, gli ha subito dato manforte, rivelando via social di ritenere che ci sia un 10% di possibilità che le IA eliminino l’umanità nell’arco di dieci anni. Nessuno dei due ricercatori ha portato prove tangibili, rivelato documenti o denunciato abusi: il discorso si è concentrato su opinioni personali e impressioni. Il dibattito è dunque stato colto al volo da Anthropic stessa, con il CEO Dario Amodei che ha riconosciuto via blog aziendale le criticità sollevate dall’ex dipendente, sottolineando la necessità di rallentare il processo di sviluppo delle IA per favorire controlli più approfonditi e, soprattutto, un “allineamento” globale sui processi di salvaguardia da adottare. Un mantra che viene ripetuto da anni a fasi alterne, ma senza che poi venga mai tradotto in azioni tangibili. In sostanza, le aziende si lamentano che gli strumenti da loro sviluppati siano pericolosi e che rischino un giorno di distruggere il mondo, eppure continuano a svilupparli con il pretesto che, se non lo faranno loro, ci penserà comunque la concorrenza. Se si è fatalmente condannati a essere sterminati dai robot, tanto vale dunque lucrare strada facendo. Per cercare di smuovere le cose, Amodei ha proposto un piano in tre punti che parte dalla decisione aziendale di aprire le porte a “osservatori terzi”, prendendo a esempio gli sforzi analitici di Model Evaluation and Threat Research (METR), associazione no-profit fondata da insider del settore che negli anni ha prestato i suoi servizi di consulenza ad Anthropic, OpenAI, Google e Meta per valutare possibilità e rischi dei loro modelli. Considerando che si continua a discutere ancora oggi di temi apocalittici, il loro lavoro dev’essere stato poco incisivo, ma è comunque riuscito a fruttare all’organizzazione abbastanza da offrire stipendi che possono raggiungere i 503.000 dollari all’anno. I successivi due punti del piano d’azione consistono fondamentalmente nello sperare che qualcuno, prima o poi, faccia qualcosa. O, per meglio dire, che i “Paesi Democratici” riescano miracolosamente a trovare una quadra per definire standard di sicurezza, limiti imponibili e criteri di valutazione delle IA condivisi da tutte le parti e che, in un secondo momento, questi dogmi digitali vengano discussi anche con i poteri autoritari, così da arrivare a una pacifica soluzione universale. Non sono state elaborate indicazioni concrete su come raggiungere un simile traguardo utopico – ricordiamoci che, come umanità, non siamo riusciti a trovare accordi comuni neppure sulle armi atomiche e sulle mine antiuomo –, ma l’idea complessiva è piaciuta al CEO di OpenAI, Sam Altman, il quale si è detto a sua volta pronto a sposare l’iniziativa. Nonostante simili premesse, quelle stesse aziende che si dicono preoccupate per la direzione apocalittica intrapresa dalla ricerca si assicurano di compiere sforzi di lobby e diplomazia per accertarsi che i governi non implementino normative reali e stringenti sul loro operato, facendo spesso leva proprio sulla pericolosità dell’IA per garantirsi il massimo margine di manovra. La classe politica dell’Unione Europea guarda all’intelligenza artificiale come una necessità propedeutica a rimanere finanziariamente competitivi nei confronti di un mercato dominato dalle Big Tech statunitensi, mentre gli USA ritengono di dover procedere senza remore allo sviluppo delle IA per tener testa agli avanzamenti tecnici delle nazioni avversarie, Cina in primis: l’idea di un accordo condiviso sui macrosistemi si presta dunque più a depistare l’attenzione dai problemi reali che a offrire una soluzione concreta. L’elemento tragicomico è che, a forza di ripetere per anni che le IA finiranno con lo sterminare l’umanità, molti tecnici del settore si sono realmente convinti che questo sia un destino ineluttabile, consolidando una crescente fazione di pessimisti – noti internamente come “doomer” – che sembrano incapaci di riconoscere gli impatti concreti e attuali che i modelli di linguaggio hanno sulla societá odierna, focalizzandosi piuttosto su ipotetici scenari fantascientifici. Ecco dunque che la sfuriata di Coxon si dimostra poco più che fumo scenografico, parte di una dimensione ormai talmente metabolizzata che le aziende del settore, piuttosto che cercare di metterla a tacere, ne abbracciano l’essenza, promulgandone il messaggio. Considerando che le Big Tech si sono dimostrate in passato pronte a licenziare, denunciare e ostracizzare tutti i whistleblower che ne hanno rivelato gli orrori di gestione dei loro prodotti, è chiaro che le imprese percepiscano l’idea di un’IA sterminatrice più come un chiacchiericcio di fondo che come un’ipotesi che possa realmente compromettere le loro attività imprenditoriali. Anzi, sfruttare questa fobia per creare un cartello che rallenti gli sforzi di ricerca sarebbe un ottimo stratagemma per contenere una corsa all’IA che, al momento, sta creando buchi finanziari da centinaia di miliardi di dollari, magari in vista di importanti quotazioni in Borsa. The post L’allarme globale sull’apocalisse IA come pretesto per non fare nulla appeared first on L'INDIPENDENTE.

E’ stato reso pubblico da OpenAI e da Hugging Face, una nota piattaforma che permette di scaricare modelli di IA e di utilizzarli per i propri progetti, un incidente a dir poco preoccupante, che fa comprendere a tutti quali siano le potenzialità – e i rischi – raggiunte oggi dagli […] L'articolo Un agente OpenAi diventa hacker in automatico e viola Hugging Face su Contropiano.

Secondo documenti finanziari verificati dal Financial Times, la società ha aumentato il fatturato a 13,07 miliardi di dollari, ma i costi sono saliti a 34 miliardi. Pesano ricerca, infrastrutture cloud e il passaggio a entità profit. OpenAI avrebbe chiuso il 2025 con una perdita attribuibile alla società pari a circa 38,5 miliardi di dollari. È quanto emerge da documenti finanziari certificati esaminati dalla pubblicazione e verificati in modo indipendente dal Financial Times. I numeri raccontano una crescita molto forte del fatturato, ma anche un aumento ancora più rapido dei costi, confermando quanto sia oneroso sostenere l’espansione dell’AI generativa su scala globale. Secondo i documenti, i ricavi di OpenAI sarebbero passati dai 3,7 miliardi di dollari del 2024 a 13,07 miliardi nel 2025. Una crescita significativa, legata alla diffusione dei servizi basati su modelli di AI, all’adozione da parte delle imprese e alla monetizzazione delle piattaforme commerciali dell’azienda. Tuttavia, la traiettoria dei costi risulta molto più pesante: nell’ultimo anno analizzato avrebbero raggiunto i 34 miliardi di dollari, generando una perdita operativa di 20,92 miliardi. Leggi tutto