把大模子“装”进小盒子

交流
夜叉罗刹 2024-5-14 14:26:44 1099 0 来自 中国
  ● 本报记者 齐金钊
  从“云每天书”大模子,到深度学习推理盘算芯片,再到千元级别的大模子硬件产物……比年来,在人工智能赛道上,云天励飞笃志奔驰,不停迭代技能和产物办理方案。
  云天励飞董事长陈宁担当中国证券报记者专访时表现,云天励飞将本身界说为一家拥有“算法芯片化”本领的AI公司,在行业内率先提出打造“1+1+N”自进化都会智能体实践框架,现在公司正在积极构建自学习、自进化的数字都会智能协同发展体系,以期推动人工智能财产快速发展。
  推出千元级大模子产物
  2022年11月,OpenAI发布ChatGPT,天生式大规模预练习模子(GPT)显现了从量变到质变的本领。自此,不停有新的公司发布新的模子与应用。本年3月,云天励飞公布推出千元级别的大模子硬件产物——“深目”AI模盒,受到市场关注。
  “将来将有更多企业利用大模子。但是,要练习专属大模子,平凡的企业难以负担高昂的研发本钱。”对于研发该产物的初志,陈宁表现,大模子毫无疑问是当前AI发展的主流方向之一,可以预见将来各行业都将被大模子赋能和改造。但大模子的研发本钱非常高,对人才的需求也非常大。
  “云天励飞推出‘深目’AI模盒,就是盼望把大模子技能,以及云天励飞10年的算法芯片化技能和行业知识,沉淀到一款尺度化的产物中,快速为各类场景赋能。”陈宁先容,这款产物搭载了云天励飞的自研大模子边沿训推芯片DeepEdge10 Max以及自研多模态大模子“云每天书”,让用户可以根据自身场景需求,使用大模子本领,练习出可实战应用的算法。
  据先容,“深目”AI模盒可实现算法场景覆盖凌驾90%、算法精度凌驾90%,利用本钱低落90%,让用户可以或许根据自身场景需求,练习出可实战应用的算法。
  “可以或许实现上述三个90%数据的提拔,离不开云天励飞的焦点本领——算法芯片化。”陈宁先容,“深目”AI模盒的算力底子,泉源于客岁云天励飞推出的大模子训推芯片。该芯片支持大模子练习推理摆设,已适配并可承载10亿级SAM、百亿级Llama2等大模子运算,可广泛应用于AIoT边沿视频、移动呆板人等场景。别的,为了共同探索更多大模子低本钱、高服从落地应用路径,云天励飞与鹏城实行室、之江实行室、上海交通大学都会管理研究院等多家单元共同建立“深目2.0”生态同盟,共同探索更多大模子落地应用路径。
  构建“软硬联合”焦点竞争力
  陈诉表现,2023年云天励飞研发投入合计2.95亿元,占业务收入58.27%。停止2024年3月,云天励飞已授权专利700余项(含境外专利30项),此中发明专利500余项,已登记的软件著作权180余项。
  连续高强度的研发投入,为云天励飞构建了“软硬联合”的焦点竞争力。陈宁先容,公司拥有算法和芯片两大焦点技能平台,依附“算法芯片化”的焦点本领和“端云协同”的技能门路,在数字都会、人居生存等范畴乐成落地一系列标杆式办理方案,为各行业带来安全、聪明、便捷的AI体验。
  据悉,在算法层面,颠末多年的技能研发与积聚,云天励飞构建了人工智能算法平台,拥有大模子研发本领,并推出了“云每天书”大模子,打造服务于多场景的行业大模子,而且与华为昇腾互助推出了搭载“云每天书”大模子的“天舟”大模子训推一体机。在芯片层面,公司基于对人工智能算法技能特点及行业场景盘算需求的明白,通过自界说指令集、处置惩罚器架构及工具链的协同计划,实现算法技能芯片化,构建了神经网络处置惩罚器平台。
  推动AI贸易化落地
  在陈宁看来,AI贸易化将履历AI方案化、AI运营化、AI产物化三个阶段,而云天励飞的业务结构也对应了AI贸易化的三个阶段,涵盖了AI方案、AI运营和AI产物三大板块。
  在AI方案层面,云天励飞已经形成了成熟的都会级行业办理方案,包罗安防、交通、都会管理和人居生存等范畴,并在AI教诲和低空经济等新兴范畴取得了突破。AI运营层面,云天励飞正致力于智能算力运营、数据运营和新能源运营,以推动其业务的多元化发展。而在AI产物层面,尺度化智能硬件产物是云天励飞的战略重点。现在,云天励飞正在通过端、边、云三个差别的盘算节点和产物形态,推动AI从方案化走向运营化,终极实现智能硬件产物尺度化。
  除了内生式研发创新外,随着贸易化落地需求的到来,云天励飞还在同步探索外延式并购发展。本年3月22日,云天励飞公布收购智能穿着方案计划头部公司岍丞技能,探索“大模子+智能可穿着”深度融合。据悉,除了收购岍丞技能外,云天励飞还投资了聪明互通、臻识科技、神州云海等在动态停车、静态停车、全息路口及干净呆板人等方向的龙头企业,并作为首创股东成员之一参股深圳国创具身智能呆板人有限公司,提供AI芯片、大模子范畴的技能支持。
  “我们将继承依托算法芯片化,围绕多模态大模子和AI芯片技能,通过贸易创新、市场所作、投资并购等方式渐渐构建各项业务生态,推动人工智能技能在千行百业的现实落地。”陈宁表现。
您需要登录后才可以回帖 登录 | 立即注册

Powered by CangBaoKu v1.0 小黑屋藏宝库It社区( 冀ICP备14008649号 )

GMT+8, 2024-12-23 15:10, Processed in 0.164639 second(s), 33 queries.© 2003-2025 cbk Team.

快速回复 返回顶部 返回列表