华为云云主机+DeepSeek|如何一键式华为云云主机部署Open WebUI AI应用方案

一、前言:

在华为云云主机上搭建Open WebUI环境,接入DeepSeek模型并实现文本生成,适用对象涵盖企业团队、AI爱好者和高校师生,华为开发者空间的免费云主机,居然能一键解锁DeepSeek模型的本地部署!这意味着无论技术背景如何,所有工具和环境都是免费的,包括Ollama模型服务、Open WebUI镜像和云主机资源。

1.1 华为开发者空间介绍:

华为开发者空间是为全球开发者打造的专属创新平台,提供云主机、开发工具链和云存储服务,汇聚昇腾、鸿蒙、鲲鹏等核心技术的开发资源,配套完整案例教程,助力开发者快速掌握从编码到部署的全流程开发,这种零成本的实践机会,在如今的AI开发领域实属难得,尤其适合学生党和初创团队试水大模型应用。

1.2 技术亮点:

云主机配置:基于4 vCPUs 8 GB Ubuntu 24.04 Server 定制版
大模型部署:通过Ollama实现模型一键部署
可视化交互:Open WebUI提供交互界面

本案例演示如何在华为开发者空间云主机上,一步步完成 Open WebUI 环境搭建及 DeepSeek 模型接入,帮忙用户提升效率。

1.3 完成实名信息:

在使用云上产品时,都需要进行个人实名认证一下,直接使用微信来认证,几分钟就可以完成实名认证。

在这里插入图片描述


Ollama 是一个致力于推动本地人工智能模型开发和应用的工具和平台,允许用户在本地运行、管理和调用各种 AI 模型。它的核心理念是提供一种无需依赖云计算环境的方式,让开发者和企业能够高效地使用 AI 模型,同时确保数据隐私和安全。

1.4 打开云主机并安装安装 Ollama 脚本:

Ollama 是一个开源项目,它提供了一个简单的界面来运行大型语言模型(LLMs),如 GPT-4、LLaMA、Falcon 等。要在 Ubuntu 20.04 上部署 Ollama,可以遵循以下步骤,可以使用 Docker 来运行 Ollama,因为 Ollama 主要是作为一个 Docker 容器运行的。

在这里插入图片描述

官方脚本安装(推荐):

curl -fsSL https://dtse-mirrors.obs.cn-north 4.myhuaweicloud.com/case/0035/install.sh | sudo bash

在这里插入图片描述


1.5 设置并启动 Ollama 服务:

sudo systemctl enable ollama
sudo systemctl start ollama

在这里插入图片描述


1.6 安装Docker:

确保你的系统上安装了 Docker,可以通过以下命令来安装 Docker,安装必要的依赖:

sudo apt install apt-transport-https ca-certificates curl software-properties-common

在这里插入图片描述

添加Docker的官方GPG密钥:

sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

在这里插入图片描述

更新APT包索引:

sudo apt update

在这里插入图片描述

sudo apt install docker-ce

在这里插入图片描述

验证Docker是否安装成功:

sudo systemctl status docker

在这里插入图片描述

应该能够在 Ubuntu 20.04 上成功部署并运行 Ollama,如果遇到任何问题,检查 Docker 容器的日志可能会提供有用的信息。


1.7 安装 Open WebUI:

要在Ubuntu 20.04上部署Open WebUI,首先确保你的系统已经安装了基本的开发工具和依赖,Open WebUI通常用于访问和管理OpenAI的API,例如DALL-E模型或其他相关服务。以下是部署Open WebUI的步骤

sudo docker pull ghcr.io/open-webui/open-webui:main

在这里插入图片描述

打开你的浏览器,访问 http://localhost:3000 来查看Open WebUI的Web界面,确保你的防火墙设置允许外部访问(如果需要的话)。可以使用ufw来管理Ubuntu的防火墙。

在这里插入图片描述

安装完成后,在Docker Desktop中可以看到Open WebUI的web界面地址为:https://localhost:8080,或者内网IP+端口,这样局域网的其它人也可以访问到。

在这里插入图片描述

点击上方选择一个模型旁边的加号+可以增加大模型,点击下拉按钮可以选择当前使用哪一个已安装的模型,接下来就可以愉快的跟ai聊天了!

在这里插入图片描述

整体操作非常丝滑,如果网络好的话,30分钟左右就可以把全部环境配置好。
另外,如果deepseek不够用,ollama可以安装很多大模型,只要云主机空间足够;帮忙我们提高工作效率。

在这里插入图片描述

在Open WebUI中会新增一个llama2:latest 7B:

在这里插入图片描述

Logo

华为开发者空间,是为全球开发者打造的专属开发空间,汇聚了华为优质开发资源及工具,致力于让每一位开发者拥有一台云主机,基于华为根生态开发、创新。

更多推荐