把大模子“装”进小盒子

夜叉罗刹 · 2024-5-14 14:26:44

　　● 本报记者齐金钊
　　从“云每天书”大模子，到深度学习推理盘算芯片，再到千元级别的大模子硬件产物……比年来，在人工智能赛道上，云天励飞笃志奔驰，不停迭代技能和产物办理方案。
　　云天励飞董事长陈宁担当中国证券报记者专访时表现，云天励飞将本身界说为一家拥有“算法芯片化”本领的AI公司，在行业内率先提出打造“1+1+N”自进化都会智能体实践框架，现在公司正在积极构建自学习、自进化的数字都会智能协同发展体系，以期推动人工智能财产快速发展。
　　推出千元级大模子产物
　　2022年11月，OpenAI发布ChatGPT，天生式大规模预练习模子（GPT）显现了从量变到质变的本领。自此，不停有新的公司发布新的模子与应用。本年3月，云天励飞公布推出千元级别的大模子硬件产物——“深目”AI模盒，受到市场关注。
　　“将来将有更多企业利用大模子。但是，要练习专属大模子，平凡的企业难以负担高昂的研发本钱。”对于研发该产物的初志，陈宁表现，大模子毫无疑问是当前AI发展的主流方向之一，可以预见将来各行业都将被大模子赋能和改造。但大模子的研发本钱非常高，对人才的需求也非常大。
　　“云天励飞推出‘深目’AI模盒，就是盼望把大模子技能，以及云天励飞10年的算法芯片化技能和行业知识，沉淀到一款尺度化的产物中，快速为各类场景赋能。”陈宁先容，这款产物搭载了云天励飞的自研大模子边沿训推芯片DeepEdge10 Max以及自研多模态大模子“云每天书”，让用户可以根据自身场景需求，使用大模子本领，练习出可实战应用的算法。
　　据先容，“深目”AI模盒可实现算法场景覆盖凌驾90%、算法精度凌驾90%，利用本钱低落90%，让用户可以或许根据自身场景需求，练习出可实战应用的算法。
　　“可以或许实现上述三个90%数据的提拔，离不开云天励飞的焦点本领——算法芯片化。”陈宁先容，“深目”AI模盒的算力底子，泉源于客岁云天励飞推出的大模子训推芯片。该芯片支持大模子练习推理摆设，已适配并可承载10亿级SAM、百亿级Llama2等大模子运算，可广泛应用于AIoT边沿视频、移动呆板人等场景。别的，为了共同探索更多大模子低本钱、高服从落地应用路径，云天励飞与鹏城实行室、之江实行室、上海交通大学都会管理研究院等多家单元共同建立“深目2.0”生态同盟，共同探索更多大模子落地应用路径。
　　构建“软硬联合”焦点竞争力
　　陈诉表现，2023年云天励飞研发投入合计2.95亿元，占业务收入58.27%。停止2024年3月，云天励飞已授权专利700余项（含境外专利30项），此中发明专利500余项，已登记的软件著作权180余项。
　　连续高强度的研发投入，为云天励飞构建了“软硬联合”的焦点竞争力。陈宁先容，公司拥有算法和芯片两大焦点技能平台，依附“算法芯片化”的焦点本领和“端云协同”的技能门路，在数字都会、人居生存等范畴乐成落地一系列标杆式办理方案，为各行业带来安全、聪明、便捷的AI体验。
　　据悉，在算法层面，颠末多年的技能研发与积聚，云天励飞构建了人工智能算法平台，拥有大模子研发本领，并推出了“云每天书”大模子，打造服务于多场景的行业大模子，而且与华为昇腾互助推出了搭载“云每天书”大模子的“天舟”大模子训推一体机。在芯片层面，公司基于对人工智能算法技能特点及行业场景盘算需求的明白，通过自界说指令集、处置惩罚器架构及工具链的协同计划，实现算法技能芯片化，构建了神经网络处置惩罚器平台。
　　推动AI贸易化落地
　　在陈宁看来，AI贸易化将履历AI方案化、AI运营化、AI产物化三个阶段，而云天励飞的业务结构也对应了AI贸易化的三个阶段，涵盖了AI方案、AI运营和AI产物三大板块。
　　在AI方案层面，云天励飞已经形成了成熟的都会级行业办理方案，包罗安防、交通、都会管理和人居生存等范畴，并在AI教诲和低空经济等新兴范畴取得了突破。AI运营层面，云天励飞正致力于智能算力运营、数据运营和新能源运营，以推动其业务的多元化发展。而在AI产物层面，尺度化智能硬件产物是云天励飞的战略重点。现在，云天励飞正在通过端、边、云三个差别的盘算节点和产物形态，推动AI从方案化走向运营化，终极实现智能硬件产物尺度化。
　　除了内生式研发创新外，随着贸易化落地需求的到来，云天励飞还在同步探索外延式并购发展。本年3月22日，云天励飞公布收购智能穿着方案计划头部公司岍丞技能，探索“大模子+智能可穿着”深度融合。据悉，除了收购岍丞技能外，云天励飞还投资了聪明互通、臻识科技、神州云海等在动态停车、静态停车、全息路口及干净呆板人等方向的龙头企业，并作为首创股东成员之一参股深圳国创具身智能呆板人有限公司，提供AI芯片、大模子范畴的技能支持。
　　“我们将继承依托算法芯片化，围绕多模态大模子和AI芯片技能，通过贸易创新、市场所作、投资并购等方式渐渐构建各项业务生态，推动人工智能技能在千行百业的现实落地。”陈宁表现。

把大模子“装”进小盒子

所属分类: 问答交流

新帖推荐: 30日

推荐作品