妙鸭相机算力需求暴涨数百倍 阿里云紧急扩容

来源:亿邦动力   2023-08-10 08:45:19


【资料图】

【亿邦原创】8 月 9 日消息,AI 应用 " 妙鸭相机 " 已连续多日火爆出圈,上线不到一个月,算力需求暴涨数百倍。为此阿里云紧急扩容,因用户暴增导致的排队情况也有所缓解,排队时长已大幅减少。

据资深 IT 人介绍," 妙鸭相机 " 的相片生成需要庞大的 GPU 算力进行计算,高峰期的量级至少需要几千台 GPU 服务器才能满足,线下部署不切实际,云上部署能为创业公司节省大量成本和时间,但目前仅有少数云计算大厂具备这样的算力储备。

GPT 类的模型训练动辄需要上万张显卡,随着 Llama2 等开源大模型的流行,大模型应用推理端的算力需求更值得关注,当 AIGC 进入生产力时代,推理算力需求可能远高于训练算力。

自 7 月 17 日正式上线以来," 妙鸭相机 " 就以 9 块 9 价格和高质量 " 写真 " 照获得了大量关注,成千上万的用户涌进应用中,高峰期一度有 4000-5000 人排队,需要等待 10 多个小时才能出片。据相关负责人透露," 妙鸭相机 " 已在阿里云上进行紧急扩容,应对暴涨数百倍的算力需求。虽然算力一边加,但另一边用户也在涨,但高峰期排队现象已经有了缓解。

目前妙鸭相机也在苹果应用商店上线了 App 版本。

随着各个行业的 AIGC 开发逐步完成,对业务开展阶段使用的推理算力需求开始大幅增长,未来几个月推理的算力需求总量可能远高于训练算力。阿里云提供最大十万卡 GPU 规模集群的扩展性,同时可承载多个万亿参数大模型同时在线训练和推理。此外,阿里云还提供了 AI 加速套件 AIACC,大幅提升计算效率,大模型 Finetune 的训练效率可提升 60%,推理效率可提升 100% 以上。

最近更新