本地化部署deepseek

技术 · 02-02

我电脑的配置是2025-02-02T10:05:16.png
满足deepseek的最低要求,所以在电脑上本地部署一下。

  1. 下载ollama
    ollama官网
  2. 安装到mac上
    2025-02-02T10:06:21.png
  3. 下载deepseek-r1:7b模型(4.7G,70亿参数,适合16G内存)

    ollama run deepseek-r1:7b

  4. 安装成功之后,就可以在控制台直接聊天对话了
  5. 然后可以使用TensorFlow或者其他数据加载器清洗自己的知识库,训练模型
  6. 或者使用ollama(默认监听8080端口),通过api,设置好prompt和温度,就可以接口调用了
ai
Theme Jasmine by Kent Liao