In Breve
- Che cos'è RAMDeck?
- RAMDeck è un hub in crowdfunding che aggrega la RAM di più dispositivi per eseguire modelli di intelligenza artificiale.
- Come funziona RAMDeck?
- RAMDeck distribuisce i pesi di un modello tra vari dispositivi, mantenendo porzioni di memoria locale e trasferendo solo risultati intermedi.
- Quali sono i rischi del crowdfunding per RAMDeck?
- I rischi includono ritardi, cambiamenti nel progetto o mancata consegna dell'hub.
RAMDeck è un hub innovativo attualmente in crowdfunding su Indiegogo, disponibile con un’offerta early-bird a 109 dollari. La campagna, che ha un obiettivo di finanziamento di 10.000 dollari, si chiuderà l’8 novembre 2026. Questo dispositivo è progettato per aggregare la memoria RAM di vari dispositivi, tra cui PC Windows, Mac, Linux e telefoni Android, consentendo l’esecuzione di modelli di intelligenza artificiale che richiedono più risorse di quelle disponibili su un singolo dispositivo.
Il progetto nasce in un contesto di forte aumento dei prezzi della memoria DDR5, che ha visto i costi quintuplicarsi rispetto a metà 2025. A differenza di altre soluzioni, RAMDeck non combina la memoria a livello hardware; piuttosto, i pesi di un modello vengono distribuiti tra i vari dispositivi, ognuno dei quali mantiene la propria porzione di memoria locale e trasferisce solo i risultati intermedi attraverso la rete durante la generazione dei token.
L’infrastruttura software di RAMDeck si basa sull’RPC di llama.cpp, dove un agente nodo avvia un server ggml RPC su ogni dispositivo partecipante. Il coordinamento avviene tramite il protocollo standard di llama.cpp. Un elemento chiave del sistema TradeMAV è l’orchestrazione attorno a questo motore, che include la scoperta automatica dei nodi, il posizionamento dei layer per privilegiare GPU veloci rispetto alla RAM di sistema più lenta, la gestione dei guasti, e un’API compatibile con OpenAI.
Le specifiche hardware del hub non sono state rese pubbliche, quindi dettagli come processore, memoria, porte e consumo rimangono sconosciuti. Tuttavia, la documentazione suggerisce che gli utenti esperti possono seguire una soluzione fai-da-te (DIY) gratuita. Esistono già alternative software per il pooling e l’orchestrazione su dispositivi eterogenei, e sul mercato sono disponibili soluzioni commerciali di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.
TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità. Per chi cerca prestazioni elevate, è consigliabile acquistare GPU con maggiore VRAM. Nei benchmark pubblicati, le configurazioni più veloci utilizzano un mini PC con RTX 3060 e modelli mixture-of-experts, raggiungendo circa 39 token al secondo per Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4. Un modello 7B ha raggiunto 43 token al secondo utilizzando esclusivamente la 3060. Tuttavia, i modelli densi mostrano prestazioni significativamente inferiori, con un 27B denso che ha reso solo 1,92 token al secondo su quattro dispositivi.
In sintesi, il motore sottostante di RAMDeck è un software gratuito già disponibile, mentre l’hub si propone di semplificare l’orchestrazione multi-dispositivo. Tuttavia, la mancanza di dettagli hardware e i limiti di prestazioni per modelli densi sono aspetti da considerare. Per chi desidera sperimentare, è possibile provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, i 109 dollari garantiscono l’hub in preorder, ma è importante tenere presente i rischi tipici delle campagne di crowdfunding, come ritardi o cambiamenti nei progetti.
