阿里云PAI机器平台免费部署ChatGLM2-6B开源大模型
输入“/”快速插入内容
阿里云PAI机器平台免费部署ChatGLM2-6B开源大模型
阿里云PAI机器平台免费部署ChatGLM2-6B开源大模型
飞书用户68482023年9月27日修改
https://pai.console.aliyun.com/?regionId=cn-shanghai&spm=5176.12818093_-128809398.top-nav.19.225d16d0wvDl1i&workspaceId=342672#/notebook
写在前面
本人也只是一个计算机小白，写这篇文章的目的主要是记录自己折腾的过程。若是这篇文章能帮助到其他人部署的话我会非常开心。 作者：早夜初雪 https://www.bilibili.com/read/cv24026315/ 出处：bilibili
关于ChatGLM-6B
ChatGLM-6B是一个基于GLM-130B模型的人工智能助手,通过GLM模型对语言进行处理,从而生成相应的回复。项目的主要特点是智能化回复和语言理解能力,能够对用户提出的问题和输入的文本内容进行理解和回答,可以理解为本地部署版的，资料更少的ChatGPT。 作者：早夜初雪 https://www.bilibili.com/read/cv24026315/ 出处：bilibili
关于显卡
首先，确定一下我们是什么显卡。AMD显卡很难使用，我没有AMD显卡，所以我也不知道要如何使用AMD显卡进行部署。即使是NVIDIA显卡，如果显存小于6G也是不能使用的。
系统环境
Ubuntu 20.04.6 LTS
2.2. 申请服务器
点击试用，完成注册、实名、领取产品后进入如下页面。
创建工作空间并授权