综合介绍
On-Device AI 是一款完全离线运行的AI应用,专为苹果设备设计,支持iOS、macOS和visionOS。它提供本地大型语言模型(LLM)运行、实时语音转录、文档分析等功能,无需联网即可使用,确保数据隐私。用户可通过语音转文字、AI聊天、网页搜索和自定义AI角色完成多种任务。应用支持Llama、Gemini、DeepSeek等模型,深度整合苹果生态,运行效率高。On-Device AI 适合注重隐私保护的用户,提供安全、便捷的AI体验。
功能列表
- 语音转录:实时将语音转为文字,支持多语言,生成摘要或翻译。
- AI聊天:与本地AI模型交互,回答问题或生成内容。
- 文档分析:从PDF、图像或网页提取信息,生成摘要或回答问题。
- 离线运行:无需联网,数据本地处理,保护隐私。
- 苹果生态整合:支持iPhone、iPad、Mac、Vision Pro,优化Apple Silicon性能。
- 网页搜索:本地处理搜索结果,生成简洁摘要。
- 自定义AI角色:创建个性化AI角色,适配特定任务如编程或写作。
- 远程连接Mac:通过Mac增强iOS设备处理能力,运行更大模型。
- 智能上下文整合:导入文件或网页,构建AI知识库,提供精准回答。
使用帮助
安装流程
On-Device AI 通过苹果应用商店(App Store)分发,支持iOS、macOS和visionOS设备。以下是详细安装步骤:
- 打开App Store:在iPhone、iPad、Mac或Vision Pro上启动App Store。
- 搜索应用:输入“On-Device AI”或点击官网链接(https://apps.apple.com/us/app/on-device-ai/id6497060890)。
- 下载安装:点击“获取”,验证Apple ID后自动下载。安装完成后,应用出现在主屏幕或应用程序文件夹。
- 初次设置:
- 打开应用,同意《使用条款》(https://ondevice-ai.app/pages/terms-of-use.html)和《隐私政策》(https://ondevice-ai.app/pages/privacy-policy.html)。
- 选择AI模型(如Llama、Gemini、DeepSeek、Mistral)。根据设备性能选择模型大小,例如4B适合低配设备,8B适合高配设备。
- 授予麦克风、相机和存储权限,支持语音转录、图像分析和文件导入。
- 可选连接Mac:通过加密Wi-Fi连接iOS或Vision Pro设备到Mac,增强处理能力。
- 检查存储空间:AI模型占用1-10GB,建议预留足够空间。
功能操作指南
1. 语音转录
语音转录功能适合会议记录、讲座笔记或语音备忘录,支持多语言和实时处理。操作步骤:
- 启动转录:打开应用,点击“语音笔记”或“转录”按钮,界面显示麦克风图标。
- 开始录音:点击麦克风图标,语音实时转为文字。支持英语、中文、西班牙语等多种语言。
- 导航与编辑:转录文本支持单词级精确导航,点击任意单词可跳转到对应音频位置,便于编辑。
- 生成摘要或翻译:录音完成后,点击“总结”生成关键点摘要,或选择“翻译”将内容转为其他语言。
- 导出结果:保存为TXT、PDF或通过iCloud分享。文件存储在设备本地,不上传云端。
注意:转录效果受环境噪音影响,建议在安静场所使用。Apple Silicon设备(如M1、M2)转录速度更快。
2. AI聊天
AI聊天功能支持与本地AI模型交互,适用于问答、内容生成或任务协助。操作方法:
- 选择模型:在“AI设置”中选择模型(如DeepSeek擅长技术问题,Mistral适合创意写作)。模型可随时切换。
- 输入问题:在聊天界面输入文字或通过语音提问。语音输入需点击麦克风图标。
- 获取回答:AI在几秒内生成答案,基于本地模型,无需联网。
- 自定义AI角色:创建个性化角色,设置名称、专长和偏好模型。例如,创建“编程助手”优化代码解答,或“写作教练”改进文稿。
- 保存对话:点击“保存”将对话存储为本地文件,支持TXT或PDF格式。
提示:问题越具体,回答越精准。复杂任务可分步提问。
3. 文档分析与智能上下文整合
文档分析功能可处理PDF、图像或网页内容,生成摘要或回答问题。操作流程:
- 导入内容:点击“导入”,选择PDF、图像或输入网页URL。支持OCR技术提取图像文字。
- 分析选项:选择“总结”生成简短摘要,或“提取信息”获取关键数据。AI可基于内容回答具体问题。
- 构建知识库:将多个文件或网页导入“上下文整合”模块,创建个性化知识库。例如,导入论文集后询问研究趋势。
- 导出结果:分析结果可保存为TXT、PDF或复制到剪贴板。
- 隐私保障:所有处理在设备本地完成,数据不上传云端。
示例:导入30页PDF报告,点击“总结”,AI生成500字摘要,包含核心数据和结论。
4. 网页搜索(本地处理)
网页搜索功能支持本地处理在线内容,生成结构化摘要。操作方式:
- 输入查询:在搜索栏输入问题,如“2025年AI趋势”。
- 处理结果:应用抓取网页内容,在设备上分析并生成简洁摘要。数据不上传云端。
- 查看来源:摘要附带网页来源链接,确保透明性。
- 离线缓存:可将搜索结果缓存到知识库,供离线使用。
注意:搜索需短暂联网,但分析过程完全本地化。
5. 远程连接Mac
远程连接功能增强iOS或Vision Pro设备性能。操作步骤:
- 连接Mac:确保iOS设备和Mac在同一Wi-Fi网络下,打开应用并选择“远程连接”。
- 加密配对:扫描Mac屏幕上的二维码完成加密连接。
- 运行大模型:通过Mac处理大型模型(如16B),提升响应速度和上下文窗口。
- 断开连接:任务完成后点击“断开”,数据仍保留在本地。
提示:Mac需运行On-Device AI桌面版,建议使用M1或更高芯片。
6. 自定义AI角色
用户可创建个性化AI角色,优化特定任务。操作方法:
- 创建角色:在“AI角色”模块点击“新增”,输入角色名称(如“法律顾问”)、专长和偏好模型。
- 切换角色:在聊天界面选择角色,AI根据设定调整回答风格。
- 管理角色:可编辑或删除角色,适配不同场景。
示例:创建“学术助手”角色,导入论文后询问文献综述,回答更专业。
7. 苹果生态整合
On-Device AI 深度整合苹果生态,提供流畅体验:
- 跨设备同步:通过iCloud同步文件、设置和知识库,支持iPhone、iPad、Mac、Vision Pro。
- Siri快捷方式:设置Siri命令,如“开始转录”直接启动录音。
- 硬件加速:Apple Silicon芯片(M1、M2、M3)优化模型运行,速度提升2-3倍。
- Vision Pro支持:在visionOS上提供沉浸式AI交互,如语音控制和手势操作。
注意事项
- 设备要求:建议使用6GB以上内存设备运行大型模型。iPhone 12或MacBook Air(M1)可流畅运行4B模型。
- 存储空间:模型和知识库占用1-10GB,安装前检查容量。
- 更新频率:定期检查App Store更新,获取新模型或功能优化。
- 权限管理:可随时在“设置”中调整麦克风、相机等权限。
应用场景
- 会议记录
商务人士使用语音转录记录会议,AI自动生成行动清单和摘要。例如,销售团队记录客户需求,快速生成跟进计划。 - 学术研究
学生或研究人员导入论文PDF,提取关键结论或生成综述。知识库功能管理文献,支持复杂问题解答。 - 离线旅行
在无网络地区,旅行者使用离线AI翻译当地语言,或记录行程笔记,数据安全存储在设备上。 - 隐私敏感行业
医疗或法律从业者处理敏感数据,如转录患者病史或分析合同,数据本地化避免泄露风险。 - 内容创作
作家或博主使用自定义AI角色生成草稿,或通过文档分析整理灵感素材,提高创作效率。
QA
- On-Device AI是否完全离线?
核心功能(如语音转录、AI聊天、文档分析)完全离线。网页搜索需短暂联网,但数据处理在本地完成。 - 支持哪些设备和系统?
支持iPhone、iPad、Mac和Vision Pro,最替換為:Apple Silicon设备(M1、M2、M3)性能最佳,最低要求为iOS 16、macOS Ventura或visionOS 1.0。 - 如何选择合适的AI模型?
应用提供Llama、Gemini、DeepSeek、Mistral等模型。4B模型适合低配设备,8B或16B需高性能设备(如Mac M1)。设置界面推荐适合模型。 - 网页搜索如何保护隐私?
搜索数据在设备本地处理,抓取内容不上传云端。用户可查看来源链接,透明度高。 - 免费版有限制吗?
免费版包含所有核心功能,部分高级模型或大模型需订阅。详情请访问官网(https://ondevice-ai.app)。