Skip to content

Riferimenti, crediti e come contribuire

Siamo arrivati alla fine di questa guida. In questo capitolo riepiloghiamo le risorse principali, ringraziamo le persone e i progetti che hanno reso possibile ds4, e ti spieghiamo come puoi contribuire – sia al motore stesso che a questa documentazione.

  • Repository GitHub: github.com/antirez/ds4 – codice sorgente, issue, discussioni
  • File GGUF su Hugging Face: huggingface.co/antirez/deepseek-v4-gguf – modelli quantizzati pronti per ds4
  • Documentazione interna (nel repo):
    • CONTRIBUTING.md – linee guida per contribuire
    • gguf-tools/README.md – rigenerazione dei GGUF e imatrix
    • gguf-tools/imatrix/README.md – come viene raccolta e usata l’imatrix per MoE routed
    • gguf-tools/imatrix/dataset/README.md – generazione del corpus di prompt per calibrazione
    • gguf-tools/quality-testing/README.md – scoring dei GGUF locali contro le continuation ufficiali
    • dir-steering/README.md – directional steering: dati, generazione vettori e utilizzo
    • speed-bench/README.md – benchmark dettagliati, comandi, grafici
    • tests/test-vectors/README.md – vettori di test ufficiali per regression check
    • QA_BEFORE_RELEASES.md – checklist di validazione pre-rilascio
    • STRIXHALO.md – note specifiche per ROCm su Strix Halo
    • AGENT.md – documentazione dell’agente nativo
    • MODEL_CARD.md – scheda del modello DeepSeek V4

Ideatore e sviluppatore principale di ds4. Conosciuto per aver creato Redis, antirez ha portato la sua filosofia di software minimale ma completo anche nel mondo dell’inferenza locale. La sua scelta di sviluppare un motore volutamente ristretto (un modello alla volta) è una scommessa controcorrente che ha dato risultati sorprendenti.

Georgi Gerganov e il progetto llama.cpp / GGML

Section titled “Georgi Gerganov e il progetto llama.cpp / GGML”

ds4 non linka contro llama.cpp, ma esiste grazie al percorso aperto da Georgi Gerganov. I formati di quantizzazione GGUF, le tabelle di quantizzazione, molti kernel e l’intero ecosistema degli strumenti sono stati un riferimento essenziale. Alcuni pezzi di codice (quant layout, tabelle, logica CPU quant/dot) sono stati adattati da llama.cpp sotto licenza MIT.

Il LICENSE di ds4 include il copyright di llama.cpp per questa ragione.

“We are thankful and indebted to llama.cpp and its contributors. Their implementation, kernels, tests, and design choices were an essential reference while building this DeepSeek V4 specific inference path.” – antirez

Il repository GitHub elenca 28 contributor (al momento della scrittura). Tutti coloro che hanno aperto issue, inviato pull request o partecipato alle discussioni. Un ringraziamento speciale a chi ha testato su hardware raro (DGX Spark, Strix Halo) e ha aiutato a debuggare i backend Metal e CUDA.

antirez ha dichiarato apertamente che questo software è sviluppato con forte assistenza da GPT-5.5, con umani che guidano le idee, i test e il debugging. Questa trasparenza è rara e va riconosciuta. Se sei infastidito dal codice sviluppato con AI, ds4 non è per te.

ds4 è rilasciato sotto licenza MIT, con una clausola che preserva il copyright di llama.cpp per le parti adattate.

MIT License

Copyright (c) 2026 Salvatore Sanfilippo and contributors Portions copyright (c) 2023-2025 Georgi Gerganov and llama.cpp contributors

Permission is hereby granted…

La licenza completa è nel file LICENSE del repository. Puoi usare, modificare e distribuire ds4 liberamente, purché mantieni l’avviso di copyright.

Se trovi un bug o hai un suggerimento:

  1. Assicurati di usare l’ultima versione (git pull).
  2. Raccogli un trace (./ds4-server --trace /tmp/trace.txt o ./ds4 --dump-logprobs /tmp/debug.json).
  3. Apri una issue su GitHub, descrivendo il problema e allegando i file di trace.

Importante: Verifica che il problema non sia già stato segnalato. Usa la funzione di ricerca.

Prima di inviare una PR, leggi CONTRIBUTING.md. Le regole principali:

  • Non modificare i logits attesi senza aggiornare i test vector.
  • Assicurati che make test passi.
  • Mantieni lo stile di codice (C99, indentazione con spazi, nomi chiari).
  • Per cambiamenti grandi, apri prima una issue di discussione.

Secondo il README, queste sono le aree più aperte a contributi:

  • Supporto ROCm (Strix Halo) – migliorare stabilità e prestazioni.
  • MTP/speculative decoding – attualmente dà poco guadagno, servono ottimizzazioni.
  • Distribuzione su reti lente – ridurre l’impatto della latenza.
  • Agente nativo (ds4-agent) – è ancora alpha, servono miglioramenti all’interfaccia e alla gestione dei tool call.

Anche questa documentazione è open source. Se trovi errori, parti oscure o vuoi aggiungere esempi:

  1. Il repository della guida è su [GitHub link – se lo rendi pubblico, altrimenti ometti].
  2. Puoi aprire una issue o inviare una pull request con le modifiche.
  3. I file sono in formato MDX (Markdown + componenti Astro). Assicurati di mantenere lo stile e i box (div con classi).

Suggerimenti per migliorare la guida:

  • Aggiungere più esempi concreti (script shell, configurazioni per agenti).
  • Tradurre in altre lingue (la guida è in italiano, ma una versione inglese potrebbe essere utile).
  • Aggiungere diagrammi Mermaid per visualizzare i concetti (flusso dei token, architettura distribuita).
  • Apple Metal team – per il framework e i compilatori, anche se con qualche bug (kernel panic in CPU mode).
  • NVIDIA DGX Spark – per aver reso disponibile un hardware potente per l’inferenza locale.
  • Community di Hugging Face – per l’hosting dei file GGUF e degli strumenti.
  • Tutti gli early adopter – che hanno testato ds4 nei primi giorni di vita, scoprendo bug e suggerendo miglioramenti.

ds4 è un progetto ambizioso che porta l’inferenza di modelli quasi-frontier sui computer personali. Non è perfetto (è ancora beta), ma è già usabile e utile per chat, coding agent e tool calling.

Questa guida ha cercato di spiegare non solo i comandi, ma i concetti dietro: la quantizzazione asimmetrica, lo streaming su SSD, la cache KV su disco, l’inferenza distribuita. Speriamo che ti sia utile per padroneggiare ds4 e magari per contribuirvi.

Ora che hai tutti gli strumenti, buon divertimento con DeepSeek V4 in locale! 🚀


💡 L’ultimo consiglio

Tieni d’occhio il repository GitHub: ds4 evolve rapidamente. Le funzionalità “alpha” di oggi (agente, MTP, ROCm) potrebbero diventare stabili domani. Fai spesso git pull && make clean && make per restare aggiornato.

📘 Filosofia di antirez in una frase

“Local inference should be a set of three things working well together: inference engine with HTTP API + specially crafted GGUF + testing with coding agents.” – Questa guida ha cercato di coprire tutti e tre gli aspetti.