DeepSeek rilascia il modello V3: è utilizzabile gratis su hardware consumer

L'azienda cinese di AI DeepSeek ha recentemente rilasciato il suo nuovo modello linguistico di grandi dimensioni, DeepSeek-V3-0324. Il modello da 641 gigabyte è stato reso disponibile sulla piattaforma AI Hugging Face con un pre-annuncio minimo, in linea con la prassi aziendale di lanci di prodotti in maniera discreta.

La particolarità di questo modello risiede nella sua licenza MIT, che ne consente l'uso commerciale gratuito. I primi benchmark indicano che DeepSeek-V3-0324 è in grado di funzionare su hardware di livello consumer, come l'Apple Mac Studio con chip M3 Ultra. Il ricercatore AI, Awni Hannun, ha riportato di aver raggiunto una velocità di elaborazione di oltre 20 token al secondo utilizzando questa configurazione. Questa capacità di eseguire un modello linguistico di grandi dimensioni su hardware locale standard si pone in netto contrasto con il modo convenzionale di utilizzare enormi infrastrutture di data center per supportare modelli AI di fascia alta.