TurboLLM: Offline AI Chat

TurboLLM kör riktiga stora språkmodeller direkt på din Android-telefons CPU – inget moln, inget konto, ingen prenumeration och ingen internetanslutning krävs när en modell har laddats ner.

VARFÖR LOKAL AI

De flesta "AI-chatt"-appar är ett tunt hölje runt någon annans moln-API: dina uppmaningar lämnar din telefon, dina konversationer ligger på en server du inte kontrollerar, och appen slutar fungera i det ögonblick du förlorar signalen. TurboLLM är annorlunda. Modellen körs i en riktig inferensmotor på enheten (llama.cpp, kompilerad för Android), och din konversation behöver aldrig lämna din telefon.

VAD DU KAN GÖRA

- Chatta med lokala LLM:er med öppen vikt – Llama, Qwen, Gemma och alla andra GGUF-modeller – helt offline, även i flygplansläge.
- Upptäck och ladda ner modeller direkt från Hugging Face, direkt i appen, med ett tryck.
- Inferensmotorn installeras automatiskt första gången du behöver den – ingen manuell installation, ingen kompilering, ingen terminal.
- Skapa anpassade AI-agenter med egen systemprompt och åtkomst till färdigheter/verktyg, för olika uppgifter – kodningshjälp, skrivande, forskning eller ett helt tomt blad utan injicerade instruktioner.
- Spåra din egen användning över tid: sessioner, meddelanden, totalt antal genererade tokens, streck och din mest använda modell – allt beräknat lokalt från din egen historik.
- Finjustera generering med kontroller per chatt: budget, sampling och resonemangsansträngning, för modeller som stöder dem.
- Samma gränssnitt som TurboLLMs skrivbordsapp (Windows, Mac, Linux) – om du har använt TurboLLM på en dator fungerar din telefon på exakt samma sätt.

INTEGRITET GENOM DESIGN

- Inget konto, ingen inloggning, ingen molnbaserad backend för dina konversationer.
- Ingen telemetri, ingen analys, inget SDK för kraschrapportering som ringer hem i den här versionen.
- Chattar och nedladdade modeller finns endast i den här apps privata lagring på din enhet.
- Dina prompter, filer och modellvikter skickas aldrig till oss eller någon annan. De enda nätverksförfrågningar som den här appen gör är sådana du själv utlöst: nedladdning av en modell du valt, hämtning av binärfilen för inferensmotorn första gången den behövs, eller ett verktygsanrop som du uttryckligen godkänt.

VÄRT ATT VETA

Inferens körs på din telefons processor, så hastigheten beror på ditt chipset och den modellstorlek du väljer – mindre modeller (1-4B-parametrar) känns mest responsiva på de flesta telefoner, och större finns tillgängliga om din hårdvara klarar dem. Aktiv generering är riktigt beräkningsarbete, så förvänta dig normal batteri- och termisk belastning, precis som alla AI-uppgifter på enheten.

VILKA DET ÄR FÖR

Integritetsmedvetna användare, lokala AI-entusiaster, utvecklare som redan kör TurboLLM eller llama.cpp på en dator, och alla som är nyfikna på hur en genuint offline LLM-chatt känns på en telefon – under din kontroll, på din hårdvara, utan att något lämnar enheten.