Rocinante-12B-v1.1
Architettura: MistralForCausalLM; dettaglio tecnico della fonte: 1.024.000 token; dettaglio tecnico della fonte: TheDrummer/Rocinante-12B-v1.1; dettaglio tecnico della fonte: other; dettaglio tecnico della fonte: TheDrummer/Rocinante-12B-v1.1; Tipo di modello: mistral; Numero di parametri: 12,25 miliardi; Limiti dichiarati dal pubblicante: ; Scheda verificata per i limiti dichiarati: Sì; Precisione dei pesi: bfloat16; Dimensione del vocabolario: 131,072; dettaglio tecnico della fonte: public_download → Architettura: MistralForCausalLM; dettaglio tecnico della fonte: 1.024.000 token; Parametri contati nei file del modello: 12,25 miliardi; dettaglio tecnico della fonte: TheDrummer/Rocinante-12B-v1.1; dettaglio tecnico della fonte: other; dettaglio tecnico della fonte: TheDrummer/Rocinante-12B-v1.1; Struttura della versione compressa: llama; Peso della versione compressa: 7,5 GB; Dimensione delle chiavi di attenzione: 128; Teste di attenzione per la memoria: 8; Strati del modello: 40; Livello di compressione: Q4_K_M; Versione compressa per computer: bartowski/Rocinante-12B-v1.1-GGUF; Dimensione dei valori di attenzione: 128; Peso dei file ufficiali: 24,5 GB; Tipo di modello: mistral; Numero di parametri: 12,25 miliardi; Limiti dichiarati dal pubblicante: ; Scheda verificata per i limiti dichiarati: Sì; Precisione dei pesi: bfloat16; Dimensione del vocabolario: 131,072; dettaglio tecnico della fonte: public_download
Fonte: Versioni per computer su Hugging Face