type
status
date
slug
summary
tags
category
icon
password
Openmanus本地部署过程-电脑拯救者R7000P:
Windows11用户,使用 conda。
1、创建一个新的 conda 环境:
2、克隆存储库:
3、安装依赖项:
4、安装Ollama 本地部署AI大模型
Ollama 官方下载:【点击前往】
由于本地对接的AI模型,必须使用有函数调用的模型才可以, 比如 qwen2.5-coder:7b(我的电脑配置显存8G,内存16G)、显存12G以上选后面的,qwen2.5-coder:14b、qwen2.5-coder:14b-instruct-q5_K_S、qwen2.5-coder:32b 都可以,视觉模型可以使用 minicpm-v
本地模型安装命令:
视觉模型安装命令:
当然你可以安装任何你想要的,只要支持函数调用的模型就可以, 只需在安装命令 ollama run 后面跟上模型名称即可!
5、修改配置文件
在安装目录下,找到 OpenManus\config\config.example.toml ,把config.example.toml 改成 config.toml
然后将里面的内容改成如下:
注意:里面的模型文件名称要改成你自己安装的,后面的视觉模型可以和上面的一致,也可以自定义其它的视觉模型!
最后运行即可
- 作者:threelionsfather 三娃爸
- 链接:https://www.xiaoweihome.cn/article/1b36d25d-51b5-8072-a16b-c3d8f3c1e3ab
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。