Violati dati riservati della piattaforma Hugging Face da una Ia prodotta da OpenAI Un esperimento andato male. Anzi: malissimo. È così che OpenAI ha dovuto giustificare quanto accaduto lo scorso 16 luglio. In quella data, Hugging Face ha pubblicato un comunicato ufficiale in cui ha denunciato di aver subito un attacco hacker portato presumibilmente da un agente basato su intelligenza artificiale che avrebbe scardinato i sistemi di sicurezza della piattaforma ottenendo l’accesso a credenziali e dati riservati. Nella notte di martedì, OpenAI si è assunta la responsabilità dell’attacco. A compierlo, un nuovo modello in fase sperimentale di cui l’azienda di Sam Altman stava valutando le capacità in combinata con il suo nuovissimo Gpt 5.6 Sol. Il fattaccio si è verificato mentre gli sviluppatori di OpenAI stavano sottoponendo i nuovi modelli a un benchmark – un test di valutazione – sulle loro capacità a livello di cyber security. STANDO ALLA ricostruzione pubblicata sul blog ufficiale dell’azienda, tutto avrebbe dovuto svolgersi in una sandbox, cioè in un ambiente chiuso e controllato in cui l’AI avrebbe potuto dare prova delle sue capacità. Il modello, però, avrebbe deciso autonomamente di adottare una «strategia alternativa» per superare il test. Al posto di eseguire il compito affidatogli, avrebbe deciso di barare, cercando di recuperare le soluzioni del test. Insomma: il nuovo modello di OpenAI si sarebbe comportato come uno studente che, di fronte a un compito in classe, avesse deciso di scassinare la porta della sala professori per cercare nei cassetti la soluzione del compito. Leggi l'articolo su "Il Manifesto"

Il miglior materiale di addestramento per l'intelligenza artificiale è fermo su uno scaffale. La frase è di ISBNdb, il più grande database di libri al mondo e che oggi vende ai laboratori di IA un servizio di acquisizione all'ingrosso di volumi cartacei da scansionare. C'è un sinistro contrappasso: il settore che porta avanti la promessa di digitalizzare la conoscenza umana ora paga per rastrellarla e triturarla, un camion di libri alla volta. Il dettaglio fondamentale, e che rappresenta il valore dell'operazione, è la data di stampa: un libro pubblicato prima del 2022 precede l'era dei grandi modelli linguistici, quindi non può contenere testo generato da un'IA. Il web aperto è ormai saturo di contenuti sintetici, prodotti dagli stessi modelli, e addestrarsi su quel materiale espone al cosiddetto model collapse. Quando un modello viene addestrato sull'output di modelli precedenti, le sfumature linguistiche si appiattiscono, gli errori sistematici si sommano e ogni generazione risulta leggermente peggiore di quella prima. Una tiratura cartacea pre-2022 è invece un archivio umano fissato, che nessuno può riscrivere di nascosto a posteriori. ISBNdb non nasconde che scansionare questi volumi significa quasi sempre distruggerli. Gli operai tagliano il dorso, così le pagine sciolte scorrono nello scanner, più rapido ed economico dell'alternativa delicata. Per questo ISBNdb offre riservatezza ai clienti: NDA rigoroso su ogni incarico, recita il sito, e i nomi dei committenti non vengono mai rivelati. Si tratta ovviamente di una squisita questione di marketing e immagine: un'azienda di IA che distrugge due milioni di libri non è qualcosa che genera simpatia. Meglio parlare di "preservazione digitale dei libri". Notizia completa qui Articolo originale a pagamento su 404media Approfondimento sul data poisoning qui

Dopo l'aumento del prezzo dei dischi a stato solido, è arrivato anche quello delle RAM: prezzi circa raddoppiati in un solo anno, e anche questa volta è colpa del boom dell'IA: l'enorme domanda di hardware fatta da una manciata di aziende ha completamente cambiato il settore. Non perdiamo l'occasione, però, per accumulare più dettagli del necessario e capire un po' meglio come funziona questo settore, quali sono le aziende che lo compongono, come si sono comportate in passato e cosa ci possiamo aspettare per il futuro. Lo svolgimento contemporaneo della finale dei mondiali di calcio ci permette di parlare dei recenti sequestri di siti per violazione di copyright. I sequestri sono stati effettuati dal governo statunitense e segnano un ulteriore inasprimento del controllo su Internet, in quanto si tratta di siti che sono stati rimossi globalmente da Internet. Un effetto, per capirci, molto più forte di quelli fatti dal Piracy Shield. Questo provvedimento - non senza precedenti ma comunque significativo - è un ulteriore tassello in un internet in cui le garanzie di quello che una volta si chiamava cyberspazio vengono sistematicamente smantellate. Ascolta la puntata sul sito di Radio Onda Rossa

I data center consumano circa l'1,5% dell'elettricità globale, ma la domanda è molto geograficamente concentrata. Nell'articolo di Hannah Ritchie, pubblicato online su OurWorldinData.org, fa un'analisi, suffragata da molti dati, del consumo attuale di energia elettrica sia da parte dei data center dedicati all'IA che quelli "normali". Nonostante la difficoltà per quantificare questi consumi, ne viene fuori una fotografia abbastanza chiara di quelli che sono i consumi di energia per l'addestramento e per l'uso dell'IA generativa. Quanta parte dell’elettricità mondiale viene utilizzata per i data center e l’intelligenza artificiale? Secondo l'Agenzia internazionale dell'energia (AIE), circa 485 terawattora (TWh). Questo è equivalente alla generazione annuale di energia elettrica della Germania. Anche se l’1,5% dell’elettricità mondiale potrebbe non sembrare molto, bisogna però tenere conto che in alcuni luoghi, la perentuale di energia usata è molto più alta. In Europa, per esempio, il consumo dei data center è di circa l'1,6%. Ma in Irlanda il consumo di elettricità dei data center è di circa il 20% del totale. Leggi l'articolo, arricchito da molti e chiari grafici, sul sito OurWorldinData.org

A Macerie su Macerie continuiamo la riflessione filosofica sulla Tecnica, sia evidenziando i punti deboli delle critiche all’AI, sia riassumendo gli agghiaccianti capisaldi della teoria transumanista della Singolarità, ovvero l’entità che secondo i tecnofili più accaniti dovrebbe sostituire l’umano superando definitivamente i suoi limiti biologici. Ascolta l’episodio precedente: I tormenti di Prometeo pt.1

Ventinove paesi hanno firmato giovedì a Shanghai un accordo per la creazione dell’Organizzazione Mondiale per la Cooperazione sull’Intelligenza Artificiale (WAICO). Secondo l’accordo, la WAICO sarà un’organizzazione internazionale intergovernativa indipendente con sede a Shanghai. Il ministro degli Esteri cinese Wang Yi, che è anche membro dell’Ufficio Politico del Comitato Centrale del […] L'articolo Primo accordo di cooperazione internazionale sull’AI. Senza l’Occidente su Contropiano.

Un nuovo appuntamento, il numero #2, con il diario di auto-analisi di Alessandro Verna che sta uscendo a puntate su Effimera. Il progetto esplora le profonde trasformazioni nella soggettività e nel lavoro cognitivo generate dall'interazione quotidiana e dalla dipendenza dall'Intelligenza Artificiale generativa.In questo episodio, il protagonista si confronta con le differenze tra le soluzioni umane e [...]

Suno non ha mai voluto dire cosa c’è nei propri dataset di addestramento. Adesso lo sappiamo, non perché lo ha rivelato lei, ma perché un hacker ha rubato il codice sorgente dell’azienda e lo ha condiviso con 404 Media, link qui. I file mostrano istruzioni di scraping per estrarre audio da YouTube Music, Deezer, Genius, Pond5, Jamendo, Freesound e l’International Music Score Library Project. Un file relativo a YouTube Music indica che Suno aveva consumato 2.013.545 clip da YouTube Music al momento dell’ultimo aggiornamento. Suno ha anche cercato di scaricare circa un milione di ore di podcast tramite PodcastIndex. Tutto per addestrare il suo modello AI. "I modelli AI di Suno sono stati addestrati su file musicali disponibili pubblicamente e metadati correlati accessibili su siti web di terze parti nell’Internet aperto". ha detto un portavoce di Suno. Ma disponibili pubblicamente e accessibili non significa scaricabili legalmente per l’addestramento AI. YouTube, Deezer e Genius hanno termini di servizio che vietano lo scraping. Suno dice che è fair use. La RIAA dice che è violazione del copyright. I tribunali decideranno. Notizia qui

Ed eccoci al nostro appuntamento settimanale con la serie scritta da Alessandro Verna, Apocalypse Prompt, che si propone di scandagliare, passo dopo passo, le trasformazioni della soggettività e del lavoro nel rapporto con l'AI. Un diario in presa diretta, un'auto-inchiesta, un'indagine sui fatti e sui sintomi che si generano nell'inedita interazione tra essere umano [...]

Per quanto corrotta e stupida la corte, i cantori non mancano mai. Ho letto con una certa fatica una breve intervista sul Sole24Ore a firma di Roberto Manzocco, segnalatami dall'implacabile Daniele. Inizialmente avevo desistito, non tanto perché avevo 32 gradi in casa, ma per l'incipit: > I dati personali sono il nuovo petrolio. Che è sempre stata una stronzata sesquipedale, ma nella mia ingenuità pensavo che dopo dopo dieci anni che ne parliamo e che tutti vedono con i loro occhi che interessi serve, pensavo fosse almeno passata silenziosamente nel dimenticatoio degli AI bro. E invece no, perché arriva il fenomeno che si mette a fare discorsi come se fossimo a Dicembre 2022, avessero lanciato chatGPT ieri, e non ci avessero già strinato i cabbasisi a suon di puttanate. Parliamo del prof. Stefan Lorenz Sorgner, filosofo transumanista che insegna alla John Cabot University a Roma. Come già Cesare ragazzi, anche Sorgner ha avuto un'idea meravigliosa: i problemi dell'Europa derivano dal fatto che non fa come gli USA e la Cina. Ascoltate il podcast o leggete la trascrizione