使用deepseek
深度求索人工智能基础技术研究有限公司(简称“深度求索”或“DeepSeek”),成立于2023年,是一家专注于实现AGI的中国公司。主要价格也挺便宜,开源。官网地址:https://www.deepseek.com/
深度求索人工智能基础技术研究有限公司(简称“深度求索”或“DeepSeek”),成立于2023年,是一家专注于实现AGI的中国公司。主要价格也挺便宜,开源。
官网地址:https://www.deepseek.com/
1、网页版AI
地址:https://chat.deepseek.com/
没有啥可说的了,直接在网页上访问和使用,速度感觉挺快的。
2、VS接入API
api地址:https://platform.deepseek.com/usage
新注册用户,送500万tokens
2.1、创建API keys
地址:https://platform.deepseek.com/api_keys
创建API key,起个名称,并复制key,后面要使用。
2.2、VS下载Cline(prev.Claude Dev)

设置cline可参考链接:https://api-docs.deepseek.com/zh-cn/
设置完了之后,点击Done,就可以开始使用。
当然API Provider也可以直接选择DeepSeek
2.3、写一个简易的计算器python代码

运行这个生成的python程序,就可以进行简单的加减乘除了。
vs和cursor差不多,只不过cursor更侧重AI增强版。如果感兴趣,也可以下载玩玩。
官网下载链接:https://cursor.so/
3、本地部署V3
github部署链接:https://github.com/deepseek-ai/DeepSeek-V3
linux:CentOS Linux release 8.5.2111
# 安装python和pip
sudo yum install python39 python3-pip
python3 --version && pip3 --version
pip3 install --upgrade pip
# 克隆:
git clone https://github.com/deepseek-ai/DeepSeek-V3.git
# 安装依赖:
cd DeepSeek-V3/inference
pip3 install -r requirements.txt # 会提示找不到安装包
python3.9 -m pip install -r requirements.txt # 直接指定python版本安装依赖
python3.9 -m pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
# 手动从 Hugging Face 网站下载模型:
官网:https://huggingface.co/deepseek-ai/DeepSeek-V3/tree/main
# 必须下载的文件
config.json:模型的配置文件,包含模型的结构和超参数。
model-xxxxx-of-xxxxx.safetensors:模型权重文件,分片存储。你需要下载所有分片文件
# 分词器文件:如果列表中有分词器文件(如 tokenizer.json、vocab.txt 等),也需要下载。
# 把这些文件放在/path/to/DeepSeek-V3下
# 运行:
torchrun --nnodes 2 --nproc-per-node 8 generate.py --node-rank $RANK --master-addr $ADDR --ckpt-path /path/to/DeepSeek-V3 --config configs/config_671B.json --interactive --temperature 0.7 --max-new-tokens 200
因为所需空间太大(1T硬盘),暂时不做了。
4、对接chatbox
下载chatbox:https://chatboxai.app/zh?c=download-windows
下载完了,进行安装,然后对其设置:

API路径是默认的,不用修改。填写API域名、密钥和模型。
测试截图:感觉速度有点慢

更多推荐



所有评论(0)