雨晴LLM官网下载最新版这款软件是一款在安卓手机上的本地离线大语言模型推理服务器，让Gemma系列模型在手机端直接跑起来，全程不需要连接云端，在本地启动一个兼容OpenAI接口格式的API服务，各类第三方聊天客户端和自动化脚本填写本地地址就能接入调用，CPU与GPU两种推理后端可以按设备性能自由切换，低配手机走CPU保障基本运行，旗舰机型开GPU加速把生成速度拉上去。
1、雨晴LLM官网下载最新版本地API服务兼容OpenAI对话接口格式。
2、原有云端AI程序几乎不用改代码就能迁移到手机本地运行。
3、多轮对话上下文和温度等参数都可以自己调。
1、推理后端在CPU与GPU之间自由切换，老旧设备选CPU保稳定。
2、高性能机型开GPU加速提升token生成速度。
3、不同配置的安卓手机都能找到适合自己硬件的运行方式。
雨晴LLM官网下载最新版中悬浮窗和持久后台服务把操控入口从主界面解放了出来，切到其他应用时推理任务不会中断，点开悬浮窗就能看进度、换模型或关服务，模型文件采用独立下载机制，按需导入Gemma量化权重，不强制捆绑内置模型，存储空间紧张的人可以先跑小规格版本，想要更强能力再换大文件，局域网内其他设备可以同时接入本地API，手机变成一台家庭离线AI中枢，平板和电脑上的客户端都能调用同一套模型能力。
