分享
阿里云PAI机器平台免费部署ChatGLM2-6B开源大模型
输入“/”快速插入内容
阿里云
PAI
机器平台免费部署ChatGLM2-6B开源
大模型
飞书用户6848
2023年9月27日修改
https://pai.console.aliyun.com/?regionId=cn-shanghai&spm=5176.12818093_-128809398.top-nav.19.225d16d0wvDl1i&workspaceId=342672#/notebook
写在前面
本人也只是一个计算机小白,写这篇文章的目的主要是记录自己折腾的过程。若是这篇文章能帮助到其他人部署的话我会非常开心。 作者:早夜初雪
https://www.bilibili.com/read/cv24026315/
出处:bilibili
关于ChatGLM-6B
ChatGLM-6B是一个基于GLM-130B模型的人工智能助手,通过
GLM
模型对语言进行处理,从而生成相应的回复。项目的主要特点是智能化回复和语言理解能力,能够对用户提出的问题和输入的文本内容进行理解和回答,可以理解为本地部署版的,资料更少的
ChatGPT
。 作者:早夜初雪
https://www.bilibili.com/read/cv24026315/
出处:bilibili
关于
显卡
首先,确定一下我们是什么
显卡
。
AMD
显卡很难使用,我没有AMD显卡,所以我也不知道要如何使用AMD显卡进行部署。即使是NVIDIA显卡,如果
显存
小于6G也是不能使用的。
作者:早夜初雪
https://www.bilibili.com/read/cv24026315/
出处:bilibili
系统环境
Ubuntu 20.04.6
LTS
2.2.
申请服务器
点击试用,完成注册、实名、领取产品后进入如下页面。
创建工作空间并授权