Sponsored by
APIMart
Mattimax / DACMini-IT_Q8_0
Model's Last Updated: October 18 2025
Introduction of DACMini-IT_Q8_0
Model Details of DACMini-IT_Q8_0
Mattimax/DACMini-IT-Q8_0
- Autore: Mattimax
- Organizzazione: M.INC
- Licenza: MIT
- Modello base: Mattimax/DACMini-IT
Descrizione
DACMini-IT-Q8_0
è la
versione quantizzata in Q8_0
del modello
Mattimax/DACMini-IT
, ottimizzata per l’esecuzione
più efficiente e leggera
su CPU e GPU con supporto limitato alla memoria.
Questa versione mantiene la qualità linguistica e conversazionale del modello originale, riducendo drasticamente il peso e il consumo di RAM grazie alla
quantizzazione a 8 bit (Q8_0)
.
La quantizzazione è stata realizzata per l’uso con llama.cpp , text-generation-webui , e altri framework compatibili con il formato GGUF .
Caratteristiche tecniche
| Proprietà | Valore |
|---|---|
| Base model | Mattimax/DACMini-IT |
| Architettura | GPT-2 Small (italian adaptation) |
| Parametri effettivi | ~109M |
| Formato | GGUF |
| Quantizzazione | Q8_0 |
| Precisione numerica | 8-bit |
| Contesto massimo | 512 token |
| Dimensione del file | ~420 MB |
| Vocabolario | ~50.000 token |
Cos’è la quantizzazione Q8_0
Il formato
Q8_0
(int8 a precisione fissa) rappresenta un compromesso ideale tra
efficienza computazionale e qualità del modello
.
Riduce le dimensioni del file e l’uso di memoria
senza una perdita significativa di performance
nel dialogo e nella comprensione linguistica.
- Ogni parametro è compresso in 8 bit.
- Mantiene una precisione quasi identica al modello FP16.
- Ideale per inferenza su CPU (Intel, AMD) o GPU di fascia media (es. GTX, RTX, Tesla).
Obiettivi
- Esecuzione offline o embedded di chatbot in lingua italiana.
- Supporto per applicazioni su macchine a risorse limitate .
- Esperimenti NLP e inferenza rapida in ambiente desktop o server.
Uso consigliato
1. Inference con
llama.cpp
./main -m DACMini-IT-Q8_0.gguf -p "Ciao, come stai oggi?" -n 150
2. Inference con
text-generation-webui
-
Copia il file
.ggufnella cartellamodels/. - Seleziona il modello da interfaccia grafica.
- Imposta temperatura, top_p e lunghezza di output a piacere.
- Avvia la chat.
Prestazioni stimate
| Dispositivo | RAM richiesta | Tempo di risposta medio (token/s) |
|---|---|---|
| CPU Intel i7-3770 | ~1.5 GB | ~20 token/s |
| GPU GTX 970 | ~1.2 GB VRAM | ~40 token/s |
| CPU moderni (Ryzen 5 5600) | ~1.0 GB | ~60 token/s |
(valori indicativi, possono variare in base al contesto e al sistema operativo)
Limitazioni
- Alcune lievi imprecisioni nelle risposte rispetto alla versione FP16.
- Non adatto a compiti di reasoning o traduzione complessa.
- Ottimizzato per dialoghi e generazione di testo naturale in italiano.
Riferimenti
- Modello originale: Mattimax/DACMini-IT
- Dataset di addestramento: Mattimax/DATA-AI_Conversation_ITA
- Organizzazione: M.INC
- Collezione: Little_DAC Collection
Citazione
Se utilizzi Mattimax/DACMini-IT-Q8_0 in un progetto o pubblicazione, cita il modello originale:
@misc{mattimax2025dacminiitq8,
title = {{Mattimax/DACMini-IT-Q8_0}: versione quantizzata del modello DACMini-IT},
author = {Mattimax},
howpublished = {\url{https://huggingface.co/Mattimax/DACMini-IT-Q8_0}},
year = {2025},
note = {Versione quantizzata (Q8_0) basata su Mattimax/DACMini-IT. Licenza MIT.}
}
© 2025 Mattimax / M.INC Labs — Modello open source rilasciato sotto licenza MIT . Ottimizzato per un’intelligenza artificiale accessibile, leggera e tutta italiana.
Runs of Mattimax DACMini-IT_Q8_0 on huggingface.co
13
Total runs
0
24-hour runs
2
3-day runs
5
7-day runs
3
30-day runs
More Information About DACMini-IT_Q8_0 huggingface.co Model
Url of DACMini-IT_Q8_0
DACMini-IT_Q8_0 huggingface.co Url
Provider of DACMini-IT_Q8_0 huggingface.co
Other API from Mattimax
Total runs:
86
Run Growth:
86
Growth Rate:
100.00%
Total runs:
63
Run Growth:
-182
Growth Rate:
-303.33%
Total runs:
29
Run Growth:
0
Growth Rate:
0.00%
Total runs:
25
Run Growth:
5
Growth Rate:
20.00%
Total runs:
20
Run Growth:
4
Growth Rate:
20.00%
Total runs:
20
Run Growth:
-3
Growth Rate:
-15.79%
Total runs:
18
Run Growth:
-30
Growth Rate:
-166.67%
Total runs:
17
Run Growth:
-6
Growth Rate:
-35.29%
Total runs:
16
Run Growth:
-8
Growth Rate:
-53.33%
Total runs:
13
Run Growth:
-2
Growth Rate:
-15.38%
Total runs:
13
Run Growth:
-5
Growth Rate:
-33.33%
Total runs:
13
Run Growth:
-12
Growth Rate:
-92.31%
Total runs:
12
Run Growth:
-7
Growth Rate:
-53.85%
Total runs:
10
Run Growth:
2
Growth Rate:
18.18%
Total runs:
10
Run Growth:
0
Growth Rate:
0.00%
Total runs:
10
Run Growth:
-8
Growth Rate:
-88.89%
Total runs:
10
Run Growth:
6
Growth Rate:
60.00%
Total runs:
10
Run Growth:
-5
Growth Rate:
-62.50%
Total runs:
9
Run Growth:
-29
Growth Rate:
-322.22%
Total runs:
8
Run Growth:
3
Growth Rate:
37.50%
Total runs:
8
Run Growth:
-13
Growth Rate:
-162.50%
Total runs:
8
Run Growth:
1
Growth Rate:
11.11%
Total runs:
7
Run Growth:
-13
Growth Rate:
-162.50%
Total runs:
7
Run Growth:
-7
Growth Rate:
-100.00%
Total runs:
7
Run Growth:
-11
Growth Rate:
-157.14%
Total runs:
6
Run Growth:
6
Growth Rate:
100.00%
Total runs:
6
Run Growth:
-43
Growth Rate:
-716.67%
Total runs:
6
Run Growth:
0
Growth Rate:
0.00%
Total runs:
6
Run Growth:
-11
Growth Rate:
-183.33%
Total runs:
6
Run Growth:
-6
Growth Rate:
-100.00%
Total runs:
5
Run Growth:
2
Growth Rate:
40.00%
Total runs:
4
Run Growth:
0
Growth Rate:
0.00%
Total runs:
2
Run Growth:
-1
Growth Rate:
-50.00%
Total runs:
2
Run Growth:
1
Growth Rate:
50.00%
Total runs:
2
Run Growth:
1
Growth Rate:
50.00%
Total runs:
1
Run Growth:
1
Growth Rate:
100.00%
Total runs:
0
Run Growth:
0
Growth Rate:
0.00%
Total runs:
0
Run Growth:
0
Growth Rate:
0.00%
Total runs:
0
Run Growth:
0
Growth Rate:
0.00%
Total runs:
0
Run Growth:
-3
Growth Rate:
0.00%
Total runs:
0
Run Growth:
0
Growth Rate:
0.00%
Total runs:
0
Run Growth:
0
Growth Rate:
0.00%