综合介绍
ModelBest 是一家专注于开发轻量高性能大模型的公司，致力于将先进的 AI 技术应用于日常生活中的主流消费电子和各类终端设备。其 MiniCPM 系列端侧模型以极致的算力和内存使用效率著称，具有参数量小、推理速度快、性能优越、部署灵活等特点。ModelBest 的大模型在多模态理解、OCR、视频理解等方面表现出色，全面对标并超越了 GPT-4V 等先进模型。
功能列表
- 轻量高性能大模型：提供高效的算力和内存使用，适用于各种终端设备。
- MiniCPM 系列：包括 MiniCPM-V 2.6、MiniCPM-Llama3-V 2.5 等，具备强大的多模态理解和 OCR 能力。
- 多模态理解：支持实时视频理解、多图联合理解和视觉类比。
- 高效对齐技术：采用自研 RLAIF-V 技术，减少幻觉，提高多模态行为的可信度。
- 端侧友好：量化后内存仅 6 GB，推理速度高达 18 tokens/s。
- 开源与合作：与清华大学、长城汽车等多方合作，推动大模型技术的应用和发展。
使用帮助
安装与部署
- 下载模型：访问 ModelBest 官方网站（github入口），选择所需的 MiniCPM 模型版本进行下载。
- 环境配置：确保设备具备必要的硬件条件（如 8G 显存的 GPU），并安装相关依赖库。
- 模型加载：使用提供的 API 或 SDK，将模型加载到应用程序中。
- 测试与优化：运行测试用例，确保模型正常工作，并根据需要进行优化配置。
快速本地部署：Ollama：本地一键部署开源大语言模型
功能操作指南
- 多模态理解：
- 实时视频理解：将视频数据输入模型，获取实时分析结果。
- 多图联合理解：输入多张图片，模型将进行联合分析，提供综合结果。
- 视觉类比：通过输入图像，模型进行视觉类比，输出相似图像或相关信息。
- OCR 功能：
- 文本识别：上传图片，模型自动识别并提取图片中的文字信息。
- 场景文字理解：针对复杂场景中的文字，模型进行精准识别和理解。
- 模型优化：
- 参数调整：根据具体应用场景，调整模型参数以提高性能。
- 数据增强：通过增加训练数据的多样性，提升模型的泛化能力。
使用示例
- 智能设备：在智能手机、平板电脑等设备上部署 MiniCPM 模型，实现高效的多模态理解和 OCR 功能。
- 自动驾驶：结合长城汽车的 AI 技术，应用于自动驾驶系统中，提升车辆的环境感知和决策能力。
- 智能机器人：在具身机器人中集成 MiniCPM 模型，实现人机交互和环境理解。
