我国人工智能公司深度求索(DeepSeek)被传出正在开发自研AI芯片,企图在算力供给日益严重的环境下,削减对外部芯片的依靠。
据路透社7日征引三名知情人士的说法称,DeepSeek自研芯片项目仍处于前期阶段,方针芯片大多数都用在AI推理,而不是练习新模型。
推理是大模型完结练习后,面向用户生成答复、代码、查找出来的成果或智能体操作的核算环节。上述知情的人说,DeepSeek的芯片项目早在一年前就已发动,公司正在触摸外部合作伙伴,并与芯片规划、晶圆代工和存储公司做评论。
另一方面,DeepSeek近几个月还加大了芯片规划工程师招聘力度,但相关招聘首要以非揭露方法来进行,并未出现在揭露招聘平台上。
自上一年起,DeepSeek因发布高功率、低本钱的大模型而遭到全球重视。DeepSeek曾表明,其R1推理模型背面的根底模型首要运用英伟达H800练习。而H800是英伟达为我国市场规划的芯片,但由于美国在2023年末收紧出口约束后,该芯片对华供给遭到约束。尔后,DeepSeek 对华为昇腾芯片的运用添加。
对DeepSeek而言,跟着AI使用的遍及,企业面对的算力压力正从一次性的模型练习,转向持续性的模型运转。比较通用GPU,专用推理芯片假如环绕固定模型和高频使用场景优化,理论上可以更好的下降单位调用本钱和能耗。
早在本年6月,美国人工智能巨子OpenAI与博通发布名为Jalapeño的推理芯片,称其环绕大言语模型推理需求规划,方针是提高功能、功率和可扩展性。一起,Meta也在推动自研MTIA芯片道路,并称后续类型将更偏重生成式AI推理。
现在,无论是路透社,仍是国内媒体,均已就此事向DeepSeek问询,但都未得到回应。
沪ICP备10213822号-2互联网新闻信息服务许可证: 网登网视备(沪)-1号 互联网宗教信息服务许可证:沪(2024)0000009 播送电视节目制造运营许可证:(沪)字第03952号
增值电信业务运营许可证:沪B2-20210968 违法及不良信息举报电话
吉祥体育网页版
电话:0755-82256630
传真:0755-82256640
邮箱:info@dwscm.com
地址:深圳市龙岗区坂田街道岗头社区天安云谷2期11栋2410室