MNN Chat简体中文汉化版

软件介绍

MNN Chat简体中文汉化版是一款由淘宝（中国）软件有限公司所推出的功能类似于Google AI Edge Gallery的手机多模态端侧AI软件，这款软件最大的优势就是能够自动部署相应的本地AI大模型，这样一来就能够很好的脱离网络环境，实现了离线效果。相关用户在这里可以轻轻松松进行一系列AI操作，能够很好的提升了相关用户的工作、学习效率。

MNN Chat简体中文汉化版不仅能够充分调用手机CPU/GPU性能，而且更是支持多种领先的模型，包括了：Qwen、Gemma、Llama（涵盖TinyLlama与MobileLLM）、Baichuan、Yi、DeepSeek、InternLM、Phi、ReaderLM和Smolm等待，相关用户在这里可以随心所欲的进行ai聊天、ai生成图文、ai视频制作、ai写代码等操作。

功能特色

【多模态支持】

提供多种任务功能，包括文本生成文本、图像生成文本、音频转文本及文本生成图像（基于扩散模型）。

【CPU推理优化】

在安卓平台上，MNN-LLM展现了卓越的CPU性能，预填充速度相较于llama.cpp提高了8.6倍，相较于fastllm提升了20.5倍，解码速度分别快了2.3倍和8.9倍。下图为 llama.cpp 与 MNN-LLM 的比较。

【广泛的模型兼容性】

支持多种领先的模型提供商，包括Qwen、Gemma、Llama（涵盖TinyLlama与MobileLLM）、Baichuan、Yi、DeepSeek、InternLM、Phi、ReaderLM和Smolm。

【本地运行】

完全在设备本地运行，确保数据隐私，无需将信息上传至外部服务器。

MNN Chat app使用简介

1、本站免费下载安装应用后，您可以在模型市场界面中浏览所有支持的模型。

2、然后选择你需要的ai大模型下载。

3、下载好后就可以直接在应用内与模型交互。

4、此外，您可以通过侧边栏访问聊天历史，轻松查看和管理之前的对话记录。

应用场景

1、全能创作官：

它不只是陪你聊天，更是你的全职文案加程序员。无论是写复杂的学术论文、策划活动方案，还是直接在手机上帮你写出一段能运行的代码，它都能手到擒来。

2、随身多媒体工作室：

它是你的全能绘图师与视频帮手。你可以一句话让它生成精美的画作，或者让它看懂一段视频并帮你总结核心内容、提取文案，甚至辅助你完成视频剪辑思路，实现从文字到图文、再到视频的跨维度创作。

3、真正的“智慧大脑”：

相比其他单一功能的 App，它更像是一个超级枢纽。它能同时理解图片、声音和视频，你可以拍一张复杂的流程图让它转化成代码，或者录一段会议音频让它直接生成带配图的PPT大纲。

4、不插线的“工作站”：

最关键的是，这些高强度的创作任务（画图、分析视频、写程序）全是在你手机本地完成的。这意味着你拥有了一个不费流量、不收月费、响应极快的高性能 AI 工作站，随时随地开启生产力。

更新日志

v0.8.2.2版本

1、更新亮点：

刷新内置 MNN runtime，带入最新的 CPU LinearAttention 与 Arm82 fp16 优化路径。

提升思考模式提示词和数组拼接场景下的 tokenizer 与模板渲染兼容性。

为 OpenCL 和 Metal 执行路径补充 TopKV2 后端支持。

2、问题修复：

修复 Android 点击 Add Local Model 时的崩溃问题。

避免模型加载时因 mmap 权重部分初始化而导致的死锁问题。

对同模型启动 API 服务时复用已加载 runtime session，避免额外重载导致的卡死或崩溃。