​白嫖高端算力!使用潞晨云轻松驱动Open

文章正文
发布时间:2024-04-19 04:41

ChatGPT和Sora等AI大模型应用,将AI大模型和算力需求的热度不断带上新的台阶。

如何获得廉价算力,进行AI视频生成等模型开发和应用呢

前不久,潞晨科技全面开源全球首个类 Sora 架构视频生成模型「Open-Sora 1.0」,根据用户输入的文字生成即可生成想要的视频demo,GitHub上全面开放了整个训练流程,包括数据处理、所有训练细节和模型权重。该项目一经推出,立刻受到了广泛关注,不少小伙伴们都在用户群内秀出了自己的作品。

用户使用Open-Sora生成的视频Demo

备注:受内容发布平台对插入文件大小限制,我们对生成视频进行了压缩处理。

然而,由于硬件算力的稀缺,许多关注者还未能亲自体验这个模型。

没有卡怎么玩Open-Sora?

潞晨云为您提供了一个便捷且高效的创作空间,让视频生成变得触手可及。通过简单地点击鼠标完成在平台上的注册,您将能够免费且轻松地玩转Open-Sora

不仅好用还便宜的潞晨云

想跑起来Open-Sora等AI任务,还需要有GPU等算力支持。目前主流的AI云主机有AWS、AutoDL、阿里云等。但GPU资源不仅昂贵稀缺,供应商普遍还要求使用者必须预先进行高额投入,按年或提前数个月预付定金。

潞晨云不仅提供了便捷易用的AI解决方案,还为力求为广大AI开发者和其他提供了随开随用的廉价算力:

价格信息统计于2024年4月16日,普通账号可按需按量开启的价格及可用性,大型云厂商一般仅支持老旧型号算力(Nvdia V100/P100等)按需按量使用,美元-人民币汇率换算为1:7.2368

对于使用较稳定的长期需求,在潞晨云还可以按月、按年租用,获得进一步折扣。

潞晨云还为新用户准备了多种形式的优惠代金券活动,注册即可白嫖H800A8004090910B等高端算力,构建属于自己的AI大模型!

使用潞晨云部署Open-Sora

1.注册潞晨云并创建云主机

1)注册

进入潞晨云网站注册账号。

2)创建云主机

新注册用户自动获得代金券额度!

打开算力市场,按照计费方式、地区、显卡型号筛选可供租用的机器。

图片14.png

可以看到如图所示的控制台页面,右边是两台可用的服务器,每台上有8块可租用的GPU,我们选择一个,在这里我们点击“8卡可租”按钮,进入算力市场界面。

图片1.png

在租用配置选择界面,为自己的云主机取一个名字并选择任务所需数量的显卡,Open-Sora推理可以在单卡H800上完成),因此,此处选择1卡H800。

接下来,主要看硬盘容量是否够用,以及选择正确的镜像。

●对于通用任务,可以选择 "Colossal-AI" 镜像。

●潞晨云内置了Open-Sora镜像,免去您繁琐的环境配置和安装过程,只需准备好您的prompt,即可轻松生成符合您想象的精彩视频内容。选择"OpenSora (1.0)"可以免去手动配置Open-Sora环境,开箱即用。

图片2.png

最后,点击“创建”,即可完成潞晨云云主机的创建。

2WebUI运行环境配置

1)运行JupyterLab

JupyterLab是一个十分便捷的数据科学生产工具,可以便捷地执行Linux命令及查看执行结果。点击实例右侧的JupyterLab即可进入相应界面。

图片3.png

可选:配置本地ssh免密登录

ssh公钥一般在本地.ssh文件夹中后缀为.pub的文件中;如果您的电脑还不具有这样的公钥,可以参考网络教程生成一个。

在用户管理界面中,您可以设置您的公钥。点击 SSH 公钥 栏中的配置按钮,选择添加新SSH公钥,自定义您的公钥名并复制您刚刚生成的公钥。

图片4.png

图片5.png

添加密钥后您在潞晨云上启动的云主机,便可通过复制ssh登录指令实现在本地终端中免密登录。

图片6.png

图片7.png

3、运行OpenSora推理

进入JupyterLab后,然后点击terminal新建一个终端

图片8.png

也可以配置ssh,在本地终端或者vscode中登录。

潞晨云Open-Sora镜像中内置了运行环境,同时预置了Open-Sora权重,可以给到您开箱即用的体验。您可以通过如下指令启动Open-Sora的环境并从公有数据中拷贝Open-Sora权重。

Bash

source .bashrc

conda activate opensora

mkdir -p /root/.cache/huggingface/hub

ln -s /root/notebook/common_data/OpenSora-1.0/models--stabilityai--sd-vae-ft-ema /root/.cache/huggingface/hub/models--stabilityai--sd-vae-ft-ema

ln -s /root/notebook/common_data/OpenSora-1.0/models--DeepFloyd--t5-v1_1-xxl /root/.cache/huggingface/hub/models--DeepFloyd--t5-v1_1-xxl

现在进入Open-Sora目录下,运行以下指令,即可在命令行中运行OpenSora的推理!

Bash

cd Open-Sora/

python -m torch.distributed.run --standalone --nproc_per_node 1 scripts/inference.py configs/opensora/inference/16x512x512.py --ckpt-path /root/notebook/common_data/OpenSora-1.0/OpenSora-v1-HQ-16x512x512.pth --prompt-path ./assets/texts/t2v_samples.txt

图片9.png

可选:运行Open-Sora gradio WebUI

运行下面的指令

Bash

pip install spaces

ln -s /root/notebook/common_data/OpenSora-1.0/models--hpcai-tech--OpenSora-STDiT-v1-HQ-16x256x256 /root/.cache/huggingface/hub/models--hpcai-tech--OpenSora-STDiT-v1-HQ-16x256x256

cp /root/notebook/common_data/OpenSora-1.0/frpc_linux_amd64_v0.2 /root/.local/lib/python3.10/site-packages/gradio/frpc_linux_amd64_v0.2

cd /root/.local/lib/python3.10/site-packages/gradio/

chmod +x frpc_linux_amd64_v0.2

cd /root/Open-Sora

python gradio/app.py --share

等待片刻即可

复制分享链接,在浏览器打开,可以直接在网页上输入prompt生成视频。

4、查看推理结果

等待推理完成,我们打开output文件夹,可以看到产生的视频

微信图片_20240417161014.png

未命名.jpg

格式原因仅展示图片,实际效果为视频