TinyAI安卓版这款软件是手机上的一个本地ai助手软件,最打动我的是它完全不需要联网,所有对话都在手机本地跑,模型下载一次之后,就算开飞行模式也能正常聊天,数据不会上传到任何服务器,也没有API调用次数的限制,装好之后从Hugging Face下载一个模型就能用了,非常适合想使用ai,也非常在意隐私的人进行使用。
1、TinyAI安卓版中所有推理运算都在本地CPU或GPU上完成,对话内容不会离开你的手机。
2、支持MediaPipe GenAI和LiteRT-LM两种推理引擎。
3、可以在应用里直接浏览和下载Hugging Face上的兼容模型。

1、支持多轮对话、多会话管理、Markdown和LaTeX渲染,视觉模型还能识别图片。
2、支持CPU和GPU后端切换,每个模型可以单独保存设置,小内存设备也能跑得动。
3、推理模型支持思考过程展示,像DeepSeek-R1这种会输出块的。
TinyAI安卓版中的对话记录和附带的图片都存在本地数据库里,有自己的媒体相册可以统一管理,之前用云端AI总觉得对话内容被存下来了,这个完全离线,问什么都不怕。下载模型之后开飞行模式照样能用,通勤路上没信号的时候特别实用。推理速度在手机上算不错的,小模型响应挺快,大模型会慢一些但也能接受。功能上比我想象的多,多会话管理、图片识别都有,虽然不像云端那么强大,但胜在隐私有保障。