琢磨了一天,把DeepSeek的本地部署彻底完成了,并测试了一下午基本完美运行了。当然AI环境你们必须要先安装好。然后下载这个这个本地部署压缩,解压即可完美运行。
AI环境下载
https://pan.baidu.com/s/1mFKx5fQYmohjZLS_PtWiVQ?pwd=2727
我的4070ti spuer 运行32b已经是极限了,所以我也只能把模型下载到32b了,如果你们有更牛的显卡,可以继续下载模型。
这是我运行14b的截图 你们看看显卡占用
默认的管理员账号是jian27@126.com 和123@123.com 密码1234 进去后 自行修改
其他参数不熟悉的话 最好是不要乱动。等熟悉后再折腾
暂命名为DeepSeek-tool 。如果有更好的建议 留言下啊
关于版本的说明
mini版 去掉了所有的模型文件,需要自行下载
傻木优化版 模型已替换为 Q2量化版,模型只保留了14b和32b,显存占用大幅降低 更新地址 http://gpcb.net/4429.html
我在视频里面忘记说了。一定要运行一次.bat这个文件放到你解压的目录中,双击运行一次。必须要运行一次,以后就不用了,否则会出错。
20250217 更新记录
1 更新启动代码逻辑,启动速度提升
2 把上次忘记放的那个一定要运行一次.bat 放进压缩包了
20250221 更新记录
1 升级了open-webui 版本
2 升级了ollama 版本
3 优化启动逻辑
4 优化部分参数设置
20250226 更新记录
1 升级了升级了ollama 版本
使用录音和呼叫会报错
[ERROR: 400: [ERROR: Cannot find an appropriate cached snapshot folder for the specified revision on the local disk and outgoing traffic has been disabled. To enable repo look-ups and downloads online, pass 'local_files_only=False' as input.]]
没有设置缓存文件夹
amd文件下载解压要密码
那个未完善,半成品 不能使用 所以加了密码 以后等心血来潮再完善
A卡用户能用吗
应该不能,你可以试试
good
剑哥~AI环境挂了0.0
换了百度网盘链接了
求百度盘,夸克没会员
求眼睛睁大一点
夸克盘里没有东西啊
感谢分享