色姐姐激情网

基于自研Yan系列模子的智能机器东谈主（图片开头：受访者提供）

钛媒体App 9月27日音尘，岩芯数智RockAI日前在上海推出全新升级、选择非Transfomer架构的Yan 1.3大模子，可高效处理图文及语音等多模态信息，用于无东谈主机、机器东谈主、PC、手机等各种终局开导场景。

RockAI CEO刘凡平暗示，这是全球首个东谈主机交互限制端到端的多模态大模子，同期亦然全球首个跨越无为开导的多模态大模子，并且照旧国内推出的自研群体智能单位大模子。目下，该模子已快速在英伟达、高通、联发科、英特尔、瑞芯微等多元化硬件开导上兑现适配，进一步加快生意落地，让寰宇上每一台开导领有我方的智能。

会后，刘凡平向钛媒体App等暗示，Yan1.3大模子将落地解除从低端到高端更无为的群体。谈到行业将来发展，刘凡平强调，“基于Transfomer架构的通用大模子，将来独一两到三家可能是树立的。Transfomer这么的‘造神式’大模子将来料理问题的场景依然有限，比较较而言，以群体智能为成见的群体智能单位大模子更特意旨。”

“在AGI（通用东谈主工智能）这个终极命题下，不管是云表照旧端侧，王人仅仅兑现智能普惠及跃迁的一个载体。咱们恒久投诚，独一信得过提高每一台开导的自我学习才略，才调引发更高档别智能形态即群体智能的败露。”刘凡平暗示。

RockAI CEO刘凡平

据悉，树立于2023年6月的RockAI，是A股上市公司岩山科技（002195.SZ）旗下AIGC新公司，专注于打造一站式AIGC数智化奇迹平台。而RockAI团队则早在2022年就早已组建。

比较于其他大模子企业，RockAI主攻基于非Transformer自研架构的 AI 大模子研发。本年1月，RockAI初度发布Yan1.0模子，并公布基于AI 大模子的To B垂直限制行业和场景决议，释出包括RockAI模子大脑、常识库问答、业务助手、智能客服等产物。

此前，刘凡平对钛媒体App暗示，亟需翻新式的 AI 算法，现存的许多算法不仅无法逍遥客户的内容应用需求，而关于大模子本钱也形成一定承压。他暗示，目下算力在客户请托本钱中占了近一半，而RockAI利用自研的非Transformer的挂念逻辑模子架构，将请托本钱裁汰到30%-40%傍边。（详见钛媒体App前文：《独家对话岩芯数智CEO刘凡平：“百模大战”下，AIGC新玩家如何杀出重围？》）

所谓非Transformer架构，其实是以底层神经聚积架构MCSD替代Transformer的Attention机制，因为Attention是Transformer架构的中枢，其加权算法决定了谋略量会跟着序列长度的加多而数倍增长，对谋略的算力条目也会越来越高。而RockAI通过MCSD机制替换掉Attention，只把最灵验的信息、特征往后传，以线性的步地裁汰谋略的复杂度，提高查验和推理遵循。

如今，RockAI再次更新Yan1.3模子。

相较于1月份发布的Yan1.0，Yan1.3具备了雄伟的多模态才略，可高效处理图文及语音等多模态信息，并兑现了模子在更无为开导端上的离线无损部署，泛泛电脑CPU上也或者畅通运行。

“在本领的征程上，RockAI正在以翻新者息争围者的姿态书写新的篇章，咱们很骄贵的向寰球晓喻，在成果进展上，自研架构Yan 1.3仍是杰出了Llama3，成为了中国自主架构大模子的里程碑事件。如今，未经压缩、编著的Yan1.3大模子在越来越多开导端展现出的丝滑适配和超强模力，正向行业说明RockAI本浮现线的合感性，偏激最终引发群体智能的充分可能。”刘凡平在演讲中暗示。

生意化层面，基于Yan1.3模子的“胖虎”智能机器东谈主，或者基于多模态处理才略，在离线现象下识别复杂环境、准确浮现用户意图，并据此戒指其机械躯体高效完成各种复杂任务。

同期，Yan系列模子也仍是在无东谈主机、手机、PC等端侧场景中落地，如基于Yan1.3的飞龙无东谈主机，可全面感知复杂环境并在开导端及时处理，撑捏各种环境下的智能巡检，不仅适配电力巡检、安全监控、环境监测等城市料理及工业场景，并且不错面向个东谈主用户无为用于日常生计情景。

刘凡平暗示，目下RockAI主要以“Yan inside”的模式赋能不同开导，也适意为终局销量较大的公司赋能，但同期针对量小的终局厂商也不会冷漠，举例部署在小众却有潜在发展长进的具身智能当中，以及在热心玩物或跟随机器东谈主，从而加快大模子的无为落地应用。

“Yan1.3仍是不错在无为的开导上部署和应用了，开启了多元化硬件生态，是以咱们认为它在第二阶段，第三阶段是自主学习。”刘凡平认为，RockAI的群体智能兑现包括四个阶段：翻新式基础架构、多元化硬件生态、自相宜智能进化、协同化群体智能，而目下公司仍在第二阶段当中进行延伸。

此外，RockAI还在会上发布“训推同步”本领，刘凡平称这是群体智能单位大模子自主学习兑现的最好步地。会后他向钛媒体App进一步解释称，“训推同步”是更偏算法层面，成见是不仅能在端侧上运行，同期或者作念查验，这将是一个很大的逾越。

谈到将来发展，刘凡平强调，Transfomer是一条通往AGI（通用东谈主工智能）中的可能旅途，但践诺历程无法论证它是最优的旅途。咱们应该让大模子模拟东谈主脑的步地来使命，而不应该是Transfomer架构大模子中那样无时期辩别的输出。“当作相当早期的Transformer盘问者之一，咱们从浮现Transfomer、真切Transfomer到打消Transfomer是一个无奈但迫使咱们翻新的历程，这个历程相当漫长。”

“在现时充满竞争的期间，当今国内大模子研发似乎插足一种‘模式化’的窘境，翻新的念念路仍是运转稀缺，寰球王人在跟班海外的次序，仿佛像一场莫得荒谬的本领死力于赛。春节时期OpenAI发布视频模子Sora，国内王人去follow它。是以Yan架构就像一股清流，它以非Transformer架构的身份讲授了中国机灵的无尽可能。试想一下，其实中国的大模子又有若干是信得过我方研发的？咱们没法‘造壳’，因为咱们底层架构全是我方的，没法用别东谈主的东西，咱们就只可从零运转走向杰出Llama 3，致使许多企业在用Transformer架构王人还莫得杰出Llama 3，这种步地就决定了咱们翻新之路，抵制讲授它是一个越来越正确的事情。不同于其他的厂商，咱们选择更吃力的谈路，直面挑战，因为咱们知谈，RockAI当作信得过的翻新者，是无法靠‘套壳’去驻足立命的。咱们将来一定会比当今更好。”刘凡平在演讲中暗示。

以下是RockAI CEO刘凡平与钛媒体App等进行部分对话推敲整理：问：Yan大模子的训推同步，与OpenAI o1推出的强化学习有什么不同？

刘凡平：严格来说OpenAI O1是一个强化学习历程，但Yan1.3的训推同步并不是这个阶梯，或者说强化学习并不是主要的。强化学习要通过浩荡数据去养息，意味着它应用本钱很高。这亦然O1在信得过内容行使时会有戒指的原因。

训推同步的成见是能在端侧上运行并作念查验，这将是一个很大的逾越。咱们但愿更低价的查验，而不是更奋发的。训推同步可浮现为模子的查验与推理同步进行，正如东谈主同样，在聊天的时候不错通过语音输出推理，但同期也不错通过耳朵的听觉、眼睛的视觉当作输入进行及时学习。

问：训推同步在腹地开导上是怎样进行查验的？

刘凡平：咱们刚才提到了类脑激活机制，其实咱们东谈主在处理事件时，并不是大脑的所有神经元王人会参与。咱们在端侧亦然以选择部分心经元参与的步地，比如说100亿参数，并不是所有参数王人会参与这个历程，而是很小部分，这么它的算力需求就会很低，训推就不错所有同步的进行，并且在输出时也能养息参数。

问：您合计大模子可能在将来哪个限制里出现大的爆发？

刘凡平：我合计在一些消耗终局开导上可能会有一些爆发，目下手机和PC自己就有很大的一个存量，但我合计更多消耗终局应该很快也能翻开这个时势。当今的许多终局开导智能照旧固定化步调运转，接下来应该很快就能通过AI的步地产生变化，包括交互体验上也能产生变化的。就比如搭载了Yan1.3的无东谈主机，是不错东谈主机对话的，咱们不错让无东谈主机拍摄不同角度的像片，比如拍下我死后的景象，并将我放在画面正中的位置。

问：寰球认为大模子是一种信息的压缩，在这个层面一般王人会是生成内容，但咱们强调的是学会，这个是什么原因？

刘凡平：学会的步地则不再是next token的议论了。举例之前厂商王人在作念的文生视频，其实有个很大的痛点，便是生成后很难再编著它，得重新改辅导词。而咱们是想教化大模子如何去作念视频的技巧，它学会技巧后再去出产视频。是以咱们更但愿模子是面向历程的学习，而非面向散伙的学习，同期面向历程的学习会使得模子具备更强的可解释性。

问：有一种论调便是当今的通用大模子太多了，将来是不是就可能只剩两三家，您怎样看这个问题？

刘凡平：基于Transfomer架构的通用大模子，将来独一两到三家可能是树立的。但Transfomer这么的“造神式”大模子将来料理问题的场景依然有限，比较较而言，以群体智能为成见的群体智能单位大模子更特意旨。

（本文首发于钛媒体App色姐姐激情网，作家｜林志佳，编著｜胡润峰）