MNN Chat

MNN Chat，全面支持armv7与arm64架构，内嵌Mini编辑模式，功能全面，一定程度上可以提高使用效率。专为大语言模型打造的多功能推理框架，致力于优化其在移动设备和本地PC上的部署效率。支持动态变化的数据输入，并完美兼容含有复杂控制逻辑的模型。

MNN Chat官方入口地址

https://www.mnn.zone/m/0.3/

MNN Chat手机大模型怎么用

1、需要在游戏观察下载安装MNN Chat，打开软件，任意挑选一个想要部署的ai模型

2、注意，这个本地部署至少要保留10GB以上的手机内存

3、下载完成以后，就可以通过此软件与AI进行对话与聊天了

4、支持多个语言，无限制词聊天，本地部署无需联网即可使用

详细使用攻略可看文档：https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html

MNNchat下载的大模型在哪个文件夹？

在安卓手机中，MNN Chat 默认会将/用户手动拷贝的大模型存放在以下路径：/sdcard/MNN/chat/

软件功能

1、通用性 - 支持TensorFlow、Caffe、ONNX等主流模型格式，支持CNN、RNN、GAN等常用网络。

2、高性能 - 极致优化算子性能，全面支持CPU、GPU、NPU，充分发挥设备算力。

3、易用性 - 转换、可视化、调试工具齐全，能方便地部署到移动设备和各种嵌入式设备中。

软件优势

1、了解行业内外端智能的最新发展，获取最强、最劲爆的机器学习模型。

2、通过数据加密、分布式计算、边缘计算、机器学习等多种技术的结合来保护数据安全。

3、可以直接在手机端独立运行各种大型模型，比如DeepSeek、Qwen、Gemma、Llama、ReaderLM等。

软件点评

具备多输入多输出能力，可处理任意维度的输入输出数据，支持动态输入（即输入大小不固定），同时兼容含有控制流的模型。