关于AI模型自部署问题

通过年初 DeepSeek 的深度思考模型的爆火发酵,最近很多普通人开始感兴趣。这里记录下简单的使用方法

个人使用

关键步骤

1、安装 ollama,来安装、调用模型并启动模型服务端口

2、客户端(太多了,这里列举几个)

电脑端:Cherry Studio、LLMStudio

浏览器插件推荐:Page Assist

手机APP:chatbox

未经审查版本请搜索模型+关键词:abliterated

企业应用部署

方向 dify + API + 各种客户端

贴一个 硅基流动的邀请:https://cloud.siliconflow.cn/i/vwOisAo1

Author: thinkwei

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注