Mac Studio con M3 Ultra campione AI: esegue in locale DeepSeek R1

Non proprio "quello vero", come dire, ma potente abbastanza per erogare tra i 17 e i 18 token al secondo. E consumando appena 200 W!

Mar 18, 2025 - 09:17
 0
Mac Studio con M3 Ultra campione AI: esegue in locale DeepSeek R1

Negli scorsi giorni Apple ha lanciato una nuova versione del suo potentissimo Mac Studio, l’anello di congiunzione della sua proposta di computer desktop tra il Mac Mini e il Mac Pro, con tanto di chip M3 Ultra, che a quanto pare, è in grado di fare cose estremamente interessanti anche in ambito intelligenza artificiale. Lo YouTuber Dave Lee, anche noto come Dave2D, ha dimostrato che il dispositivo è addirittura in grado di eseguire completamente in locale una versione enorme di DeepSeek R1.

Il modello si basa su qualcosa come 671 miliardi di parametri, e secondo la fonte è necessario che il Mac Studio sia configurato con il massimo possibile di memoria, 512 GB. Richiede fino a 404 GB di archiviazione ed è necessario riservargli manualmente 448 GB di VRAM tramite il terminale. Anche in questo modo, non si tratta esattamente dello stesso DeepSeek R1 che gira sui server remoti dedicati: è una variante quantizzata a 4 bit, un po’ meno precisa ma in grado di erogare tra i 17 e i 18 token al secondo, più che sufficienti per diverse applicazioni.


CLICCA QUI PER CONTINUARE A LEGGERE