Elfi impauriti, Cina agguerrita
Siamo a Meta(') del guado della bolla AI?
Partiamo da una notizia piccola
Qualche giorno fa Meta ha annunciato che inizierà ad affittare la sua capacità computazionale AI (AI Compute Capacity), qui trovate dei commenti su Reddit. Fermo restando che Facebook di idee ne ha frantumate a mucchi (tra cui Libra coin morta nel 2022 o la promessa di portarci tutti nel Metaverso social con gli Oculus Rift) questo evento potrebbe avviare un trend; è da un pò che rifletto sul rischio che l’eccesso di capacità produttiva dei data center potrebbe portare ad un crollo dei costi dei cloud provider.
Ci sono però altre tre notizie interessanti:
Open Router riporta che le aziende americane stanno tornando usare quasi il 45% di modelli cinesi sul totale.
Microsoft sta pianificando di usare modelli propri per le chat di MSOffice
In generale, la situazione si sta espandendosi in molte direzioni. Ecco alcuni scenari possibili:
Società come Microsoft sfruttano i modelli open weigth per abbassare i costi, erodendo il mercato potenziale dei big 2 (OpenAI e Anthropic) che hanno già disperato bisogno di incrementare il fatturato.
Società cinesi sviluppano sia modelli open weight che modelli closed, ma a prezzi estremamente aggressivi, costringendo o ad una guerra dei prezzo o ad un costoso incremento di qualità
L’accusa di Karp potrebbe nascondere una paura inconscia di Karp stesso, in questo senso: forse un giorno le AI Generative potranno competere sulle capacità di analytics di Palantir & co ?
Le AI sono già in grado di funzionare come correttori ortografici, traduttori e motori di ricerca integrati: tutte cose che prima erano separate.
Già adesso i modelli di frontiera contengono tutto lo scibile, e quindi sono dei sistemi super potenziati a cui manca il razionale per decidere quando fermarsi o che direzione prendere (software steering). Possono diventare concorrenti temibili peri big data (e gli amanti de ‘Il Signore degli Anelli’ :) o banalmente per chi deve solo costruire un business plan.
DeepSeek Pro: fast update
Il modello pro costa all’incirca 4 volte di più per quello che posso capire dalla documentazione di DeepSeek.
Questa settimana abbiamo anche provato DeepSeeek con ClaudeCode: quest’ultimo tool ha un sistema di sicurezza più forte di Pi.dev, ma se alla fine la sicurezza si riduce a chiedermi sempre se procedere o meno, ritorniamo alla barzelletta di cui parlavamo 2 numeri fa:
In generale però l’accoppiata Claude CLI + DeepSeek sembra interessante per attività di “contorno”, per es dove si ha la semplice necessità di aggiungere una piccola feature: il costo di deep seek è ridicolo, e quindi il rapporto prezzo/prestazioni è molto buono.
Può avere un senso tenere un abbonamento a consumo sui modelli più potenti (anziché mensile) e farli entrare in azione solo per fare code review delle attività fatte con i modelli più deboli.