TurboLLM: Offline AI Chat

Nagpapatakbo ang TurboLLM ng malalaking modelo ng wika nang direkta sa CPU ng iyong Android phone — walang cloud, walang account, walang subscription, at walang kinakailangang koneksyon sa internet kapag na-download na ang isang modelo.

BAKIT LOKAL NA AI

Karamihan sa mga "AI chat" app ay parang manipis na pambalot sa cloud API ng ibang tao: ang iyong mga prompt ay umaalis sa iyong telepono, ang iyong mga pag-uusap ay nasa isang server na hindi mo kontrolado, at ang app ay hihinto sa paggana sa sandaling mawalan ka ng signal. Iba ang TurboLLM. Ang modelo ay tumatakbo sa isang tunay na on-device inference engine (llama.cpp, na-compile para sa Android), at ang iyong pag-uusap ay hindi na kailangang umalis sa iyong telepono.

ANG MAAARI MONG GAWIN

- Makipag-chat sa mga open-weight na lokal na LLM — Llama, Qwen, Gemma, at anumang iba pang modelo ng GGUF — ganap na offline, kahit na nasa airplane mode.
- Tuklasin at i-download ang mga modelo nang direkta mula sa Hugging Face, sa loob mismo ng app, sa isang tap.
- Awtomatikong ini-install ng inference engine ang sarili nito sa unang pagkakataon na kailangan mo ito — walang manu-manong pag-setup, walang pag-compile, walang terminal.
- Gumawa ng mga custom na AI agent gamit ang sarili nilang system prompt at skill/tool ​​access, para sa iba't ibang gawain — tulong sa coding, pagsusulat, pananaliksik, o isang ganap na blangkong slate na walang iniksyon na mga tagubilin.
- Subaybayan ang sarili mong paggamit sa paglipas ng panahon: mga session, mensahe, kabuuang token na nabuo, mga streak, at ang iyong pinakaginagamit na modelo — lahat ay kinukwenta nang lokal mula sa iyong sariling history.
- Pinuhin ang pagbuo gamit ang mga kontrol sa bawat chat: badyet sa pag-iisip, sampling, at pagsisikap sa pangangatwiran, para sa mga modelong sumusuporta sa mga ito.
- Ang parehong interface ng desktop app ng TurboLLM (Windows, Mac, Linux) — kung ginamit mo na ang TurboLLM sa isang computer, gumagana ang iyong telepono nang eksakto sa parehong paraan.

PRIVACY BY DESIGN

- Walang account, walang login, walang cloud backend para sa iyong mga pag-uusap.
- Walang telemetry, walang analytics, walang SDK na nag-uulat ng pag-crash na tumatawag sa bahay sa build na ito.
- Ang mga chat at na-download na modelo ay nakatira lamang sa pribadong storage ng app na ito sa iyong device.
- Ang iyong mga prompt, file, at bigat ng modelo ay hindi kailanman ipinapadala sa amin o sa sinumang iba pa. Ang tanging mga kahilingan sa network na ginagawa ng app na ito ay ang mga na-trigger mo mismo: pag-download ng modelong pinili mo, pagkuha ng inference engine binary sa unang pagkakataon na kailanganin ito, o isang tool call na tahasang inaprubahan mo.

MGA MAHALAGANG MALAMAN

Ang inference ay tumatakbo sa CPU ng iyong telepono, kaya ang bilis ay nakadepende sa iyong chipset at laki ng modelong pipiliin mo — ang mas maliliit na modelo (1-4B parameters) ang pinakamabilis na tumutugon sa karamihan ng mga telepono, at ang mas malalaki ay naroon kung kaya ng iyong hardware. Ang aktibong pagbuo ay totoong trabaho sa pag-compute, kaya asahan ang normal na baterya at thermal load, katulad ng anumang gawain sa AI sa device.

PARA KUNG SINO ITO

Mga user na may kamalayan sa privacy, mga mahilig sa local-AI, mga developer na nagpapatakbo na ng TurboLLM o llama.cpp sa isang computer, at sinumang interesado kung ano ang pakiramdam ng isang tunay na offline na LLM chat sa isang telepono — sa ilalim ng iyong kontrol, sa iyong hardware, nang walang anumang lumalabas sa device.