Space X,Y,Z...4!
Parliamo di regolamentazione e privacy che dite?
Oggi parliamo di Favo(b)le tinte di raggiri.
SpaceX si è quotata in borsa venerdì 12 alle 15:30 ora italiana, e ha raccolto quanto previsto. Elion Musk ha quindi un patrimonio potenziale di mille miliardi di dollari, che in inglese si può dire “1 trillion”. Quasi la metà del PIL Italiano insomma.
Ma la notizia della settimana è una favola oscura.
Fable
Il modello “troppo potente per essere messo sul mercato” alla fine… è stato messo sul mercato, castrato. Si chiama Fable, e Anthropic ha provato ha fare la furba, mettendo un “guardrail” segreto di sicurezza, per evitare che venisse usato per sviluppare altri LLM (o armi biologiche, le due cose molto vicine nel loro modo di pensare). Ovviamente i Clienti se ne sono accorti:
Anthropic has apologized for stealthily throttling its new AI model, Claude Fable 5, with hidden guardrails that undermine both researchers and rivals using it to develop competing systems. The company says it is reversing course and will be more transparent about when the restrictions kick in, even if that means Fable refuses more queries. […]
The change follows intense backlash from the AI research community over Anthropic’s decision to silently limit users suspected of trying to distill Fable into competing models
Per cui un utente paga un servizio, che poi viene limitato di nascosto. Un concetto un pò bislacco di Software as a Service (SaaS) non trovate?
E’ interessante come si chieda a gran voce de-regulation nel campo delle AI, senza rendersi conto che per quanto spiacevole delle regole chiare su questi servizi eviterebbero situazioni di questo tipo. E ricordiamoci che Anthropic si presenta come la società “etica” e “rispettosa”, quella che “ehi ragazzi noi abbiamo la testa sulle spalle, siamo quelli buoni e corretti, mica come GLI ALTRI…”.
Dove gli altri sono praticamente tutti, ma soprattutto i cinesi di DeepSeek, Z.AI ecc che potrebbero anche dimostrare che il mercato Americano della AI è un pò sopravvalutato, tra stipendi da star del cinema e enormi richieste di finanziamenti in borsa.
Finisco di scrivere queste note venerdì 12 pomeriggio, e arriva la notizia che il governo americano ha imposto di sospendere l’accesso a Fable & Mythos, con un tempismo perfetto riguardo le mie lamentele sulla deregulation (Trump, mi leggi nel pensiero! Che caro!…).
Sabato la newsletter sull’America di Francesco Costa azzarda questa ipotesi sulle AI:
Proprio per la colossale importanza strategica di questa tecnologia e la dimensione dei suoi rischi, però, i maggiori esperti dell’industria sostengono da tempo che il punto di arrivo […] sarà la nazionalizzazione. O comunque una forma molto stretta di controllo e supervisione pubblica.
Ma non cita fonti ha sostegno: staremo a vedere. Questo scenario mi ricorda un pò l’evoluzione delle tecnologie crittografiche: considerate armi militari, alla fine non sono state nazionalizzate, è stato sì imposto un controllo di “esportazione” su alcuni algoritmi per un certo tempo, l’NSA ha provato a imporre i suoi algoritmi opportunamente indeboliti ma di fatto ora criptiamo tutte le pagine web senza problemi, anche se ci sono voluti 20 anni per rendere “open” questo aspetto.
Come vi dicevo il genio è già uscito dalla lampada, Trump ha messo fedeli incapaci in tutti i punti dell’amministrazione…mantenere una forte presa su questa tecnologia così liquida la vedo dura. Per cui al momento non abbiamo nessun controllo dei “trucchetti” di queste grandi aziende, ma abbiamo il rischio di censure normative ex abrupto (“di punto in bianco”) dall’alto.
Peraltro c’è il sospetto che questa richiesta di sospendere Fable sia stata innescata da una chiacchierata del CEO di AWS con il governo, il che darebbe alla vicenda tutto un altro sapore:
The Trump administration’s decision to halt all foreign use of Anthropic’s most-capable AI models was prompted by conversations between Amazon.com AMZN -1.23%decrease; down pointing triangle Chief Executive Andy Jassy and U.S. officials including Treasury Secretary Scott Bessent, people familiar with the matter said.
La stella nana di AntireZ
Quale miglior momento per illustrare un progetto agentico che gira in locale?
Salvatore Sanfilippo, già creatore di Redis e una personalità che scrive cose apprezzabili e notevoli sull’uso dell’intelligenza artificiale per il coding, ha iniziato un progetto chiamato DwarfStar (stella nana):
DwarfStar is a small native inference engine optimized first for DeepSeek V4 Flash, with support for DeepSeek V4 PRO on very high-memory machines. It is intentionally narrow: not a generic GGUF runner, not a wrapper around another runtime: it is completely self-contained.
Che detto così sembra come il Condensatore di flusso (Flux Capacitor) di “Ritorno al Futuro”, vediamo di capirci qualche cosa.
Un GGUF runner è un sistema per far girare dei file GGUF cioé modelli generici (sta per GPT-Generated Unified Format).
In pratica DwarfStar è una specie di LLM runner specifico per DeepSeekV4, e il suo caso d’uso principale è far girare un modello in locale per il coding, poiché è compatibile con le API di OpenAI e Anthropic.
Ha bisogno di almeno 128Gb di RAM (!) al momento una quantità di RAM improponibile (la versione da 96GB di MacStudio viene quasi 4500 €)
DeepSeek è un modello che può gestire un contesto molto grande (1M di token) ideale per analisi del codice, almeno in linea teorica.