AQI AIAQI · Osservatorio IA
⌕

AQI AI / MODELS

Catalogo e confronto modelli

Gli strumenti eseguono e collegano; i modelli generano. Confrontarli separatamente.

Catalogo locale per chat, codice, ricerca, riordino e voce. Include più generazioni, senza coprire tutto il mercato o ogni novità. Qualità e velocità non misurate in modo uniforme.

Embedding testuali · Riordino dei risultati · Trascrizione vocale

Gli embedding producono vettori, i reranker valutano i brani candidati e i modelli vocali trascrivono audio. La qualità della chat non è un criterio comune. Memoria di batch, attivazioni e audio non modellata: capacità da verificare senza la formula della cache conversazionale.

Confrontare a parità di impostazioni; la dimensione usa elementi dei tensori pubblici e può differire dal nome. Leggere licenze, modello base e condizioni.

DeepSeek-R1-Distill-Qwen-1.5B

Famiglia
DeepSeek R1 Distill
Base della dimensione dei pesi
1.78 B
Limite di contesto documentato/configurato
131.072
Identificatore licenza (vedere fonte)
mit + Apache-2.0 base
Uso
Chat testuale · Ragionamento

Solo stima di capacità; nessun download o collegamento automatico al computer.

Fonti degli autori e data di verifica ↗

DeepSeek-R1-Distill-Qwen-7B

Famiglia
DeepSeek R1 Distill
Base della dimensione dei pesi
7.62 B
Limite di contesto documentato/configurato
131.072
Identificatore licenza (vedere fonte)
mit + Apache-2.0 base
Uso
Chat testuale · Ragionamento

Solo stima di capacità; nessun download o collegamento automatico al computer.

Fonti degli autori e data di verifica ↗

Scenario di capacità, non benchmark

Dimensioni e hash dalle liste dell’autore, senza scaricare pesi. La dimensione del file non è la memoria totale. Un file verificato di precisione corrispondente sostituisce la stima generica, prima di cache e margini.

Scenario di capacità, non benchmark: elementi dei pesi × bit ÷ 8 più margine 20 %; KV F16 da livelli, teste e contesto, più 1,5 GiB di esecuzione. Riservare almeno 4 GiB o 25 % di RAM e 2 GiB di VRAM. Un modello, una sequenza testuale; non è dimensione GGUF misurata né garanzia.

Architetture ibride, formati speciali o configurazioni mancanti richiedono verifica manuale. Immagini/audio esclusi. MoE: pesi totali, non parametri attivi. Gli scenari 4/8 bit non provano disponibilità o compatibilità.

Sfoglia il catalogo · 46

46

Gemma 3

gemma-3-4b-it

Base della dimensione dei pesi: 4.30 B

Identificatore licenza (vedere fonte): gemma

Uso: Chat testuale · Visione / multimodale

Sconosciuto

Stima pesi GiB: 2.4 · 4-bit / 4096

Architettura/formato da verificare

Gemma 3

gemma-3-12b-it

Base della dimensione dei pesi: 12.19 B

Identificatore licenza (vedere fonte): gemma

Uso: Chat testuale · Visione / multimodale

Sconosciuto

Stima pesi GiB: 6.8 · 4-bit / 4096

Architettura/formato da verificare

Gemma 3

gemma-3-27b-it

Base della dimensione dei pesi: 27.43 B

Identificatore licenza (vedere fonte): gemma

Uso: Chat testuale · Visione / multimodale

Sconosciuto

Stima pesi GiB: 15.3 · 4-bit / 4096

Architettura/formato da verificare

Gemma 4

gemma-4-12B

Base della dimensione dei pesi: 11.96 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale · Visione / multimodale

Limite di contesto documentato/configurato: 262.144

Stima pesi GiB: 6.7 · 4-bit / 4096

Architettura/formato da verificare

gpt-oss

gpt-oss-20b

Base della dimensione dei pesi: 20.91 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale · Ragionamento

Limite di contesto documentato/configurato: 131.072

Stima pesi GiB: 11.7 · 4-bit / 4096

Architettura/formato da verificare

gpt-oss

gpt-oss-120b

Base della dimensione dei pesi: 116.83 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale · Ragionamento

Limite di contesto documentato/configurato: 131.072

Stima pesi GiB: 65.3 · 4-bit / 4096

Architettura/formato da verificare

Phi-4

phi-4

Base della dimensione dei pesi: 14.66 B

Identificatore licenza (vedere fonte): mit

Uso: Chat testuale

Limite di contesto documentato/configurato: 16.384

Stima pesi GiB: 8.2 · 4-bit / 4096

Qwen3

Qwen3-0.6B

Base della dimensione dei pesi: 0.75 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale

Limite di contesto documentato/configurato: 32.768

Stima pesi GiB: 0.4 · 4-bit / 4096

Qwen3

Qwen3-1.7B

Base della dimensione dei pesi: 2.03 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale

Limite di contesto documentato/configurato: 32.768

Stima pesi GiB: 1.1 · 4-bit / 4096

Qwen3

Qwen3-14B

Base della dimensione dei pesi: 14.77 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale

Limite di contesto documentato/configurato: 32.768

Stima pesi GiB: 8.3 · 4-bit / 4096

Qwen3

Qwen3-32B

Base della dimensione dei pesi: 32.76 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale

Limite di contesto documentato/configurato: 32.768

Stima pesi GiB: 18.3 · 4-bit / 4096

Qwen3 Embedding

Qwen3-Embedding-0.6B

Base della dimensione dei pesi: 0.60 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Embedding testuali

Limite di contesto documentato/configurato: 32.768

Stima pesi GiB: 0.3 · 4-bit / 4096

Architettura/formato da verificare

Qwen3 Embedding

Qwen3-Embedding-4B

Base della dimensione dei pesi: 4.02 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Embedding testuali

Limite di contesto documentato/configurato: 32.768

Stima pesi GiB: 2.2 · 4-bit / 4096

Architettura/formato da verificare

Qwen3 Embedding

Qwen3-Embedding-8B

Base della dimensione dei pesi: 7.57 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Embedding testuali

Limite di contesto documentato/configurato: 32.768

Stima pesi GiB: 4.2 · 4-bit / 4096

Architettura/formato da verificare

Qwen3 Reranker

Qwen3-Reranker-0.6B

Base della dimensione dei pesi: 0.60 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Riordino dei risultati

Limite di contesto documentato/configurato: 32.768

Stima pesi GiB: 0.3 · 4-bit / 4096

Architettura/formato da verificare

Qwen3 Reranker

Qwen3-Reranker-4B

Base della dimensione dei pesi: 4.02 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Riordino dei risultati

Limite di contesto documentato/configurato: 32.768

Stima pesi GiB: 2.2 · 4-bit / 4096

Architettura/formato da verificare

Qwen3 Reranker

Qwen3-Reranker-8B

Base della dimensione dei pesi: 8.19 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Riordino dei risultati

Limite di contesto documentato/configurato: 32.768

Stima pesi GiB: 4.6 · 4-bit / 4096

Architettura/formato da verificare

Qwen3.5

Qwen3.5-4B

Base della dimensione dei pesi: 4.66 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale · Visione / multimodale

Limite di contesto documentato/configurato: 262.144

Stima pesi GiB: 2.6 · 4-bit / 4096

Architettura/formato da verificare

Qwen3.5

Qwen3.5-9B

Base della dimensione dei pesi: 9.65 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale · Visione / multimodale

Limite di contesto documentato/configurato: 262.144

Stima pesi GiB: 5.4 · 4-bit / 4096

Architettura/formato da verificare

Qwen3.5

Qwen3.5-27B

Base della dimensione dei pesi: 27.78 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale · Visione / multimodale

Limite di contesto documentato/configurato: 262.144

Stima pesi GiB: 15.5 · 4-bit / 4096

Architettura/formato da verificare

Qwen3.8

Qwen3.8-27B

Base della dimensione dei pesi: 27.78 B

Identificatore licenza (vedere fonte): apache-2.0

Uso: Chat testuale · Visione / multimodale

Limite di contesto documentato/configurato: 262.144

Stima pesi GiB: 15.5 · 4-bit / 4096

Architettura/formato da verificare