发挥本身高带广大容量优势:英特尔Gaudi 2D加快器为DeepSeek Janus加快

时间: 2025-04-11 05:33:05 |   作者: 升降柱

  近来,DeepSeek推出Janus Pro模型,以其杰出功用和高精度在业界引起轰动。英特尔Gaudi 2D AI加快器已对该模型来优化,大幅度降低了AI开发者布置和优化杂乱使命的本钱,满意了职业对推理算力的需求,为AI使用的广泛落地和规划化开展供给了坚实支撑。

  作为一款立异性的AIGC模型,DeepSeek Janus模型集成了多模态了解和生成功用。该模型初次选用一致的Transformer架构,突破了传统AIGC模型依靠多路径视觉编码的约束,完成了了解与生成使命的一体化支撑。Janus Pro经过优化练习战略和扩展模型规划,显着提高了文生图等功用的功用与稳定性,并供给了10亿参数和70亿参数两个版别,在功用与精度上展示了较强的竞争力。

  在Janus Pro一致的Transformer架构下,文生图模型的吞吐量凹凸现已从依靠加快器的高算力向充沛的使用HBM内存高带宽和大容量转化。英特尔Gaudi 2D凭仗2.45TB/s的高带宽和96GB HBM的大容量内存,为Janus Pro模型供给了强壮的核算支撑,使其在生图批处理使命中,跟着批量巨细的添加,吞吐功用得到十分显着提高,大幅度缩短使命处理时刻。

  与此一起,结合英特尔Optimum-Habana结构的优化,英特尔Gaudi 2D显着提高了文生图使命的吞吐功用和推理功率,仅需约10秒即可生成16张高质量的图片,功用体现杰出。并且,开发者仅需调整数行代码,就可以完成这一成果,极大降低了开发门槛和搬迁本钱,为AI使用的高效布置供给便当。 一起,DeepSeek的蒸馏模型在至强和Gaudi渠道上得到支撑,为客户发明了更优的整体具有本钱,推动了AI技能的遍及。

  特别声明:以上内容(如有图片或视频亦包含在内)为自媒体渠道“网易号”用户上传并发布,本渠道仅供给信息存储服务。

  某省体系内职工:出差吃饭财政体系记账,小数点后两位清清楚楚!领导也得走流程

  “推延90天传言”的商场影响:美股瞬间暴升2.5万亿美元,但只继续了七分钟

  字节跳动职工吐槽:好多人以为本身年薪60万,均匀每个月五万块薪酬......实际上底子不是这么回事儿

  浙江3人20+大胜青岛追到总分1-1 余嘉豪25+7完胜杨瀚森2分6犯规

  vivo T4 5G 手机曝光:骁龙 7s Gen 3、5000 尼特亮度