一、注册社区并启动实例
- 注册ModelScope账号,领取免费时长。
- 按下图方式选择并启动实例(注意一定要选GPU平台)
- 等待几分钟,让实例开起来,然后进入实例
二、搭建并启动Demo
打开终端并克隆仓库
git lfs install git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git
安装streamlit依赖
pip install streamlit==1.24.0
下载模型并启动Demo
streamlit run AICamp_yuan_baseline/Task\ 1:零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006
此时,终端上应该会显示一个 http://127.0.0.1:6006 。点击这个链接就可以访问Demo网页了。网页右上角会显示一个奔跑的小人:Running。
原先的终端后台应该在下载并加载模型:注意!如果你此处遇到了问题,请跳转到 四、Debug
三、测试
在上面打开的Demo页面输入任何你想问的问题!不过这个模型好像有点人工智障的意思...可能因为只有2B参数吧
四、Debug
在模型搭建的过程中,我在步骤2.3时遇到了FileNotFoundError报错:
检查报错信息,并在开启了显示隐藏文件之后找到报错目录下,发现报错实际上是因为模型仓库下载失败。
那就简单了,直接手动补齐缺失文件即可。
我的解决方法是从Huggingface镜像站手动用git clone或者curl指令下载所有文件到/mnt/workspace/._____temp/IEITYuan/Yuan2-2B-Mars-hf,随后再运行步骤2.3指令,即可成功开启Demo网页。
后来,群内助教也分享了自己的解决方法:
pip install modelscope==1.14.0
git clone https://www.modelscope.cn/IEITYuan/Yuan2-2B-Mars-hf.git
也就是降级modelscope到1.14.0版本,并重新拉取仓库走流程。
另外,组内另一队友使用了如下方法解决问题(以下引用他的博客原文):
分析一下,当我去huggingface的源大模型2.0-2B官网去查看Files的时候,对比发现,我其实不止缺少LICENSE,还缺少诸多文件,没能下载到至DSW实例上。推测是最初配置DSW的问题,重新按照说明再创建了一个DSW,发现一切都正常了。
参考链接:
Datawhale官方教程
Baseline测试和大模式入门知识学习笔记——2024Datawhale AI夏令营 Task1
评论 (0)