🗒️Openmanus本地部署,AI通用助手!
type
status
date
slug
summary
tags
category
icon
password
Openmanus本地部署过程-电脑拯救者R7000P:
Windows11用户,使用 conda。
1、创建一个新的 conda 环境:
2、克隆存储库:
3、安装依赖项:
4、安装Ollama 本地部署AI大模型
Ollama 官方下载:【点击前往】
由于本地对接的AI模型,必须使用有函数调用的模型才可以, 比如 qwen2.5-coder:7b(我的电脑配置显存8G,内存16G)、显存12G以上选后面的,qwen2.5-coder:14b、qwen2.5-coder:14b-instruct-q5_K_S、qwen2.5-coder:32b 都可以,视觉模型可以使用 minicpm-v
本地模型安装命令:
视觉模型安装命令:
当然你可以安装任何你想要的,只要支持函数调用的模型就可以, 只需在安装命令 ollama run 后面跟上模型名称即可!
5、修改配置文件
在安装目录下,找到 OpenManus\config\config.example.toml ,把config.example.toml 改成 config.toml
然后将里面的内容改成如下:
注意:里面的模型文件名称要改成你自己安装的,后面的视觉模型可以和上面的一致,也可以自定义其它的视觉模型!
最后运行即可
上一篇
取缔警税合成作战中心?这怎么行?
下一篇
截止去年底,个人养老金账户开户数超4900万,但空转率约7成
Loading...