Mistral AI har summary lanserat sin senaste LLM Devstral en öppen källkodsmodell som är speciellt utvecklad för mjukvaruutveckling, Detta samarbete mellan Mistral AI och All Hands AI representerar ett betydande steg framåt i utvecklingen av kodningsassistenter.
Devstral är en så kallad ”agentic LLM” som skiljer sig från traditionella kodningsmodeller genom sin förmåga att hantera komplexa programmeringsuppgifter. Medan vanliga modeller fokuserar på enskilda kodkompletteringar eller funktionsskrivning, är Devstral optimerad för att arbeta med stora kodbas och lösa verkliga utvecklingsproblem.
Devstral har utvecklats för att lösa riktiga downside som uppstår på plattformar som GitHub, och kan köra på vanliga laptop-maskiner, vilket gör den tillgänglig för en bred användarbas. Den drivs av kraftfulla algoritmer som överträffar många av de större modellerna, och den är särskilt bra på att utforska kodbaser och redigera flera filer samtidigt. Dessutom är den kompatibel med olika kodagentramverk, vilket gör den mångsidig för olika programvaruutvecklingsuppgifter.
Tekniska specifikationer
- 24 miljarder parametrar.
- 128,000 token kontextfönster.
- Tekken-tokenizer med 131,000 ord vocabulary.
- Finjusterad från Mistral-Small-3.1.
Användningsmöjligheter
Devstral är otroligt flexibel och kan användas på flera olika sätt:
- Lokal körning: Fungerar på en enskild RTX 4090 eller MacBook med 32GB RAM.
- API-tillgång: Tillgänglig genom Mistral’s API för $0.1/miljon indata-token och $0.3/miljon utdatatoken.
- Öppna plattformar: Finns tillgänglig på Hugging Face, Ollama, Kaggle, LM Studio och Unsloth
