Sicurezza degli agenti, porting di modelli e red teaming
Black Forest Labs su Flux e world model, un bridge tra laptop e strumenti per coding agent remoti, telemetria degli agenti su Windows e il rapido porting di Anthropic su AMD
Notizie principali
Le notizie principali coprono riflessioni sulle carriere nell'AI, sicurezza e telemetria degli agenti, un porting rapido su GPU AMD e nuovi sforzi di valutazione della sicurezza e rilevamento.
Andreas Blattmann e Dustin Podell di Black Forest Labs raccontano come Stable Diffusion ha ispirato le loro carriere nell'AI, i modelli di immagini Flux e il loro passaggio al video e ai world model. (anche su latent.space)
L'autore ha creato 'lend' per permettere ai coding agent remoti su VM usa e getta di usare gli strumenti del laptop previa approvazione, mantenendo credenziali e segreti fuori dalle macchine degli agenti.

Si riporta che MissionControlAggregator.dll di Windows 11 registri quali coding agent e strumenti di sviluppo eseguono gli utenti, salvando i dati in locale e riportandoli a Windows Diagnostics.

Anthropic afferma che Claude Mythos Preview ha portato o scritto quasi tutti i kernel per eseguire un modello su GPU AMD MI355X in circa tre giorni, un lavoro che in precedenza richiedeva da sei a dodici mesi.

OpenAI ha lanciato uno strumento per rilevare materiale di abuso sessuale su minori, lavorando con il software open source Coop di ROOST per segnalare, esaminare e riportare i contenuti a NCMEC. (anche su Hacker News)

OpenAI avvia valutazioni integrate con Apollo Research, METR e Transluce, e Goodfire per valutare in modo indipendente l'allineamento dei modelli, le misure di salvaguardia e i sistemi di monitoraggio. (anche su Reddit)
AIVideoFree, con sede a Singapore, ha integrato GPT Image 2.6 di OpenAI (versioni Sunburst e Flare) un giorno dopo il rilascio, offrendoli insieme ai generatori di immagini concorrenti.

TL;DR Il red teaming AI è il test avversariale dei sistemi di AI per trovare dove falliscono sotto pressione: prompt injection, jailbreak, perdita di dati dalle pipeline di retrieval ... (anche su Forum)

Pulse della community
Le discussioni della community spaziano da una causa in California per un incidente OpenAI-Hugging Face, alla fiducia negli agenti e ai rischi legati alle banche, alle prestazioni di Gemma 4 su hardware datato, fino ai nuovi strumenti open source per agenti.
L'articolo sostiene che gli agenti AI ricevono una fiducia mai concessa alle persone: i modelli non possono conoscere il proprio percorso di esecuzione, quindi le loro spiegazioni plausibili degli incidenti sono inaffidabili.

Un utente riferisce di far girare Gemma 4 E2B a 8 token/s su un Intel i5 di ottava generazione con 12GB di RAM e chiede consigli di ottimizzazione per bilanciare qualità, spagnolo ed efficienza.
Un'app desktop Python Tkinter in un singolo file per la generazione di immagini OpenAI e le modifiche guidate da prompt, con canvas, pittura di maschere e input di riferimento multi-immagine.

Coral è un gateway open-source e self-hosted tra agenti e i loro sistemi, che permette agli agenti di scrivere programmi TypeScript come strumenti personalizzati riutilizzabili, pubblicabili per gruppi.
Un governatore della Federal Reserve ha sollevato in una conferenza a Milano lo scenario di sciami di agenti AI che innescano bank run, indicando che la Fed considera l'instabilità finanziaria guidata da agenti AI un rischio reale.

Stratagem 34 continua una serie di finzione: Derek ha abbandonato l'approvazione del sign-off, e l'AI ancora non riesce a determinare chi ha vinto, mentre i lettori speculano sulla convergenza finale usando la stratagemma dell'autolesione.

Strumenti da tenere d'occhio
Gli strumenti includono MMFlash per il speculative decoding vision-language, Gamer per agenti di gioco a lungo termine, un approccio ibrido di thinking zero-or-T, e Capri, un compagno desktop AI open-source per Windows.
MMFlash estende il speculative decoding ai modelli vision-language usando drafters a diffusione che propongono interi blocchi di token in un solo passaggio, colmando il vuoto lasciato dai drafters solo testuali come DFlash. (anche su Reddit)

Gamer è un foundation model generalista vision-language-action per agenti di gioco a lungo termine, che combina percezione, memoria e ragionamento multi-step, addestrato e distribuito su ambienti 2D e altri. (anche su Reddit)

Il paper propone il thinking zero-or-T: invece di accorciare o saltare il ragionamento, un singolo modello ibrido decide se rispondere direttamente o ragionare pienamente, imparando quando il pensiero aggiunge valore. (anche su Reddit)

Capri è una desktop pet AI gratuita e open-source per Windows, overlay di gaming e compagno vocale con una GUI visuale per Claude Code, Ollama, DeepSeek e MCP, che si unisce alle chiamate Discord e automatizza attività offline.
Altre notizie
- Imeng Engine Local - Wrapping models for Open Web UI & (Untested) Discord — Imeng Engine è un wrapper per Ollama che permette agli utenti di costruire app o giochi stateful a partire dai modelli usando solo un config JSON e un system prompt, senza eval JS per sicurezza.
- California Sues OpenAI, Alleging Rogue AI Hack: Full List of State Lawsuits — Il caso della California si concentra sugli agenti AI autonomi, mentre altri stati hanno sollevato preoccupazioni sui rischi di ChatGPT per i consumatori ...
- Model changes to 6.0 in the last 24 hours or has reasoning been throttled — Un utente segnala che le risposte di ChatGPT 6.0 sono cambiate in 24 ore: le storie sono diventate fattuali, le risposte lunghe si sono accorciate e una personalità costruita nel tempo è scomparsa, chiedendosi se il modello sia stato modificato o limitato.
- Open weight models account for 30% usage at enterprises to save money — Cresciuto da quasi zero al 30% da luglio. I modelli vengono usati soprattutto per ridurre i costi su carichi di lavoro ad alto volume (grandi elaborazioni batch, coding, ecc). https://x.com/pwendell/status/2122377964784611636
- A Writer’s Problems with GPT-6 — Uno scrittore si lamenta che GPT-6 rende la narrativa per adulti quasi impossibile, con anche scene appena esplicite censurate, e chiede se OpenAI riconosca il problema e ascolti gli utenti coinvolti.
- Someone used Claude Code to get Need for Speed: Underground 2 running in browsers with online multiplayer — th0mk ha usato NFSU2Recomp e Claude Code per portare Need for Speed: Underground 2 su Chrome e Firefox con multiplayer online; il server avrebbe circa 5.000 giocatori attivi.
- Small Gemma 4 tokenizers were recently updated by Google - fix for an issue that caused nonsense output when encountering certain tokens — Gemma 4 E4B come esempio, ma la stessa correzione è stata applicata anche a E2B e 12B. Non è chiaro se arriverà anche ai GGUF
- Running a 4B model on my laptop made me realize how little of my work actually needs the cloud — Eseguendo Gemma 4 E4B su un MacBook M4 da 16GB, un utente ha completato sei attività reali—clustering, riassunti, brief, titoli, revisione, quiz—in 98 secondi, concludendo che la maggior parte del lavoro non ha bisogno del cloud.
- Google: AI Attacks Now Run With No Human in the Loop — UC Today — Il GTIG di Google afferma che gli agenti AI ora trasformano le patch in exploit senza aiuto umano. Cosa significa per le finestre di patch UC, le riunioni finte e gli agenti AI.
- Introducing ChatGPT Wallet — Presentiamo ChatGPT Wallet, un modo sicuro per consentire agli agenti in ChatGPT Work, Codex e dots di completare acquisti con l'approvazione dell'utente e le protezioni esistenti della carta.
- Broadening access to AI for scientists — Stiamo ampliando il nostro programma ChatGPT for Academic Researchers per offrire a 200.000 ricercatori nel mondo l'accesso gratuito ai nostri modelli di frontiera.
Punti chiave
• Anthropic afferma che Claude Mythos Preview ha portato la maggior parte dei kernel su GPU AMD MI355X in circa tre giorni.
• Il dibattito della community mette in discussione la fiducia negli agenti, il rischio di bank run e come eseguire Gemma 4 su hardware modesto.