DeepSeek 本地部署一键运行 DeepSeek-tool v4.0,解压即可使用 支持1.5b 7b 8b 14b 32b,最低支持2G显卡

开源 13 3843

琢磨了一天,把DeepSeek的本地部署彻底完成了,并测试了一下午基本完美运行了。当然AI环境你们必须要先安装好。然后下载这个这个本地部署压缩,解压即可完美运行。

AI环境下载

https://pan.baidu.com/s/1mFKx5fQYmohjZLS_PtWiVQ?pwd=2727

我的4070ti spuer 运行32b已经是极限了,所以我也只能把模型下载到32b了,如果你们有更牛的显卡,可以继续下载模型。

这是我运行14b的截图 你们看看显卡占用

2025-02-11_15-26-20.png

默认的管理员账号是jian27@126.com 和123@123.com 密码1234 进去后 自行修改

2025-02-11_15-28-34.png

其他参数不熟悉的话 最好是不要乱动。等熟悉后再折腾

暂命名为DeepSeek-tool 。如果有更好的建议 留言下啊

关于版本的说明

mini版 去掉了所有的模型文件,需要自行下载

傻木优化版 模型已替换为 Q2量化版,模型只保留了14b和32b,显存占用大幅降低 更新地址 http://gpcb.net/4429.html

我在视频里面忘记说了。一定要运行一次.bat这个文件放到你解压的目录中,双击运行一次。必须要运行一次,以后就不用了,否则会出错。

20250217 更新记录

1 更新启动代码逻辑,启动速度提升

2 把上次忘记放的那个一定要运行一次.bat 放进压缩包了

20250221 更新记录

1 升级了open-webui 版本

2 升级了ollama 版本

3 优化启动逻辑

4 优化部分参数设置

20250226 更新记录

1 升级了升级了ollama 版本

下载有疑问看下这里

相关推荐:

我要评论:

◎欢迎参与讨论,请自觉遵守国家法律法规。

已有 13 条评论

  1. 星星傲娇 星星傲娇

    使用录音和呼叫会报错
    [ERROR: 400: [ERROR: Cannot find an appropriate cached snapshot folder for the specified revision on the local disk and outgoing traffic has been disabled. To enable repo look-ups and downloads online, pass 'local_files_only=False' as input.]]

    1. 剑心 剑心

      没有设置缓存文件夹

  2. 铃铛动听 铃铛动听

    amd文件下载解压要密码

    1. 剑心 剑心

      那个未完善,半成品 不能使用 所以加了密码 以后等心血来潮再完善

  3. 落寞给毛衣 落寞给毛衣

    A卡用户能用吗

    1. 剑心 剑心

      应该不能,你可以试试

  4. 含糊电源 含糊电源

    good

  5. 彪壮有发夹 彪壮有发夹

    剑哥~AI环境挂了0.0

    1. 剑心 剑心

      换了百度网盘链接了

  6. 求百度网盘 求百度网盘

    求百度盘,夸克没会员

    1. 剑心 剑心

      求眼睛睁大一点

  7. 自信打小虾米 自信打小虾米

    夸克盘里没有东西啊

  8. 超帅迎音响 超帅迎音响

    感谢分享