- Google släpper Gemma 3 270M, en ny modell som körs lokalt med bara 0,5 GB RAM.
- Tränad på 6T token den körs snabbt på telefoner och hanterar chatt, kod och matematikuppgifter.
- Modellen kan köras helt på enheten vilket säkerställer användarnas integritet och datasäkerhet.
Google har släppt sin minsta AI-modell hittills och den kan få stora konsekvenser för hur vi använder artificiell intelligens på vardagliga enheter. Gemma 3 270M är inte bara liten, den är designad för att köra direkt på din smartphone utan att tömma batteriet.
Modellen tar bara upp omkring 0,5 GB RAM-minne, vilket betyder att den kan köra smidigt på de flesta moderna smartphones. Och eftersom den kan arbeta offline behöver du inte oroa dig för dålig internetanslutning eller integritetsproblem.
Framtiden för lokal AI
Vad gör Gemma 3 270M så speciell? Medan många AI-modeller kräver kraftfulla servrar och gigabyte med minne, klarar sig Gemma 3 270M med mindre än hälften av det minne som de flesta appar på din telefon använder.
Modellen är bara 529 MB stor i sin komprimerade form och kan köra upp till 2585 tokens per sekund på mobila enheter. Det betyder att du får snabba svar utan att behöva vänta på att data ska skickas fram och tillbaka till molnet.
Hur kommer du igång?
Det finns flera sätt att börja använda Gemma 3 270M beroende på vad du vill göra med den. Det enklaste sättet är att ladda ner modellen från Hugging Face och köra den genom olika verktyg.
För Android-utvecklare finns det en färdig APK som heter Google AI Edge Gallery som du kan ladda ner från GitHub. Den låter dig importera Gemma 3-modellen direkt och börja experimentera med funktioner som bildanalys och textgenerering.
Om du föredrar att arbeta med kod kan du använda verktyg som Ollama eller llama.cpp för att köra modellen lokalt på din dator eller mobil. Du behöver bara ladda ner GGUF-filerna från Hugging Face och köra några enkla kommandon.
