怎么样才能让vivo成为电脑(vivo发布蓝心大模型,可在手机上运行,并且开源?)
阅读此文之前,麻烦您点击一下“关注”,既方便您进行讨论和分享,又能给您带来不一样的参与感,感谢您的支持!
机器心报告披露自主研发系统
编辑:泽南
对于大语言模型,vivo也取得了多个“领域第一”。
国内领先手机厂商近期重点发布大型通用机型和自研操作系统,而vivo则将两者强强结合。
11月1日,在2023开发者大会上,vivo在全平台正式发布了自主研发的AI大模型“蓝心BlueLM”和自主研发的操作系统“蓝河BlueOS”。与此同时,最新一代手机系统OriginOS4也正式亮相。
“经过多年的准备,vivo今天发布了自研的大模型矩阵,其中还包括手机行业首个开源的大模型。”vivo高级副总裁兼首席技术官施玉坚表示。“我们自主研发的大模型可以给每一个用户带来全新的用户体验,它可以做你想做的各种事情。”
昨天,vivo正式发布了自主研发的蓝心模型BlueLM,该模型历经六年研究,涵盖亿级、百亿级、千亿级三个参数级别,全面覆盖当前应用的基本场景。
其中,10亿级模型是主要针对端场景设计的专业文本模型。手机端推理速度可达64字/秒,并具备本地化文本摘要、摘要等能力。70亿模型是专为手机设计的双用设备云模型,具有出色的语言理解和文本生成能力。
同时,上述两层型号均支持高通和联发科(MTK)最新旗舰产品,即骁龙8Gen3和天玑9300的端到端实现。它们还提高了令牌输出速度和响应时间,同时确保数据安全。、内存占用等方面也都非常不错。
除了高端机型之外,vivo在尺寸较大的机型上也取得了更好的成绩。蓝心大模型70B是云服务的主力模型,用于角色扮演游戏、知识问答等任务。综合能力在C-Eval、CMMLU、SuperCLUE(10月)等国内主流机型中名列前茅。梯队。此外,vivo提供的1300亿、1750亿参数的大模型,在逻辑推理、任务编排等更复杂的场景下,为用户提供更专业的体验。
哪位大牌能够在如今的“百模之战”中脱颖而出?vivo副总裁、OS产品副总裁和vivoAI全球研究院院长周周认为,真正伟大的大模型需要具备五个品质:
首先,模型必须足够大并支持所有模式,让AI拥有许多类似人类的能力。其次,算法具有鲁棒性。必须不断在核心算法上取得突破,并引领评分榜。
三是安全。必须保证大模型的价值观和道德符合要求,同时保证数据和隐私的安全。此外,还需要不断提高模型训练的数据安全性,提高抗攻击能力。
四是自我发展能力。大型模型必须不断更新数据以提高能力并适应用户需求。
最后,它是开源的。vivo希望降低该模式的实施门槛和成本,促进整个行业的共同发展。
据介绍,vivo打造了一支由数千名人工智能专家组成的团队来构建其大规模模型系统。AI图谱研究院自2018年成立以来,已采集多模态数据1.3万吨、高质量中文文本数据2800吨。。其工程师不断丰富训练数据,强化多维算法。同时,利用信息技术应用创新解决算力问题,不断提升技术安全??能力。
发布会上,vivo还声称刚刚实现了13B参数的移动SoC大型号的全面开发。可以预见,随着移动计算能力的提升和模型的不断优化,我们很快就会拥有更强大的移动版通用AI。
基于开源大模型和API工具,vivo推出了蓝心大模型开发套件Bluekit。中小型开发者真正了解大模型的使用开箱即用,可以直接调用大模型的端到端推理。另一方面,对于想要微调的开发者来说,vivo提供了快速的模型参数交换机制,通过系统级的计算调度来结合开发者的模型进行推理,帮助创建高自由度的定制模型。
蓝心的模型在vivo生态系统中已经有两个应用。第一个是名为“蓝心千寻”的自然语言聊天应用程序,它与ChatGPT应用程序类似:
和我们现在看到的很多大型模型应用一样,蓝心千寻不仅可以与你自然对话、搜索和整合知识,还可以创作文学、生成图像甚至编写程序。
活动现场,vivo重点展示了其代码生成能力。“即使是复杂的任务,比如写一个量化框架,用蓝心千寻来写,你只需要提供需求,一个大模型30秒就能完成。”周说。“它还可以用来写Python接口、写算法、写表格和处理数据库。从现在起,你不用用手写代码,只需说话。”
vivo表示,蓝心千寻将登录应用市场,该APP可以在vivo品牌以外的手机上使用。
还有全球首个集成到OriginOS4系统中的智能助手蓝心小V。大模加持,这位智能助手拥有行业领先的智慧。它可以通过语音、文本、文件拖动等方式接收信息进行处理。如果你有简单的问题,小V会用文字或者图片来解答。对于复杂的问题,它还可以以SWOT模型或思维导图的形式输出答案。
例如,如果你刚刚在手机上收到一篇英文论文,想要人工智能为你写一篇摘要,你所要做的就是在小V对话框中输入:总结你刚刚收到的文件内容并保存到原子。笔记。
只需几秒钟,你就可以快速理解论文的主要内容。
蓝心小V还可以帮助你整理复杂的内容逻辑、制定计划、制定日程等等。当然,它还具有生成图像、基于知识的问答等能力,这些都是目前生成式AI的主要关注点。
拥有比以往更强的AI算法的vivo新一代系统会是什么样子?OriginOS4在开发者大会上正式亮相,新一代系统在设计、场景应用、AI能力、系统底层等方面都进行了诸多创新。
针对一些用户痛点场景,OriginOS4带来了全链路解决方案。例如,专门针对地下停车场的定位进行了优化,并增加了停车辅助等功能,让用户在停车、找车、出库时有更好的体验。
针对办公场景,OriginOS4内置了功能齐全的会议助手,可以在在线会议时实时转录会议内容,并自动添加您拍摄的图像。任何安装了vivo办公套件的电脑都可以自动连接到手机,互相共享文件以及从手机中搜索内容。
此外,OriginOS4还加入了超级省电、AI离线翻译等实用功能。
在系统性能优化方面,OriginOS4的改进包括通过“虚拟显卡”实现更快的应用程序响应。它将应用程序打开和关闭时间减少了36%,并将帧速率稳定性提高了70%。多任务算力的分配也得到进一步优化。操作系统优先考虑CPU和GPU资源来处理屏幕上的任务并避免“不必要的计算”。
近期,国内领先厂商竞相开发自主研发系统。昨天,vivo自主研发的全新智能操作系统蓝河操作系统也闪亮登场。
蓝河OS从底层引入蓝心人工智能大模型的能力,支持复杂的意图检测和交互方式,不仅为用户提供声音、图像、手势等自由的交互方式,还为开发者提供与应用程序开发。比如自动代码编写。一个新的范式。
“BlueOS了解你的需求,自动生成代码,生成专属于你的桌面主题、壁纸和小部件。得益于大型模型能力的提升,我们都可以在其中进行创作,每个人都可以成为软件工程师,用户界面工程师......”解释道。
Vivo表示,BlueRiver操作系统没有Android虚拟机层。作为标准操作系统,它兼容各种硬件架构。通过内核抽象层实现与不同内核的兼容。BlueRiver是一款符合Posix标准、支持Linux内核和RTOS内核的操作系统。它将先进的人工智能与大模型从系统、应用到工具链的全新设计相结合,并与蓝心大模型的多模态能力相结合。
BlueRiver不仅是一个针对手机的系统,它还可以工作在处理器频率为200MHz、内存为32MB的可穿戴设备上。第一款配备该系统的智能手表是将于本月推出的vivoWatch3。
由于Linux/RTOS是底层专有架构,BlueOS与Android应用程序不兼容。目前,支付宝、百度地图、喜马拉雅等应用均已为蓝河开发了定制版本的应用。BlueRiver生态系统为开发者提供BlueRiver开发套件,包括BlueRiverSDK和BlueRiverStudio,为开发者提供开发套件支持。
另外有趣的是,蓝河操作系统是业界第一个拥有Rust语言编写的系统框架的操作系统,基本解决了内存使用不当带来的安全漏洞问题。
得益于大机型、自研操作系统和新一代硬件等人工智能技术,vivo在大机型时代的移动通信领域迈出了重要一步,实现了“1+2+N”的智能系统体验。
其中:1指vivo开发的通用大模型矩阵——蓝心大模型BlueLM;2指系统推出的全球智能辅助应用“蓝心小V”及自然语言对话机器人“蓝心谦”作为公众版APP“问询”推出;N是指开发者依托vivo70亿蓝心大模型及其微调框架,以及大模型开发套件BlueKit打造的高效、低成本、专属大模型。
正如主题演讲提到的,现在如果我们要在设备端推出大机型,我们需要使用最新一代旗舰芯片的手机。在昨天的开发者大会展位上,iQOO12实机提前展示。这款手机搭载了骁龙8Gen3、16+16G内存以及自研游戏芯片Q1。
我们期待看到大型模型在新一代移动设备上的表现如何。
免责声明:以上内容资料均来源于网络,本文作者无意针对,影射任何现实国家,政体,组织,种族,个人。相关数据,理论考证于网络资料,以上内容并不代表本文作者赞同文章中的律法,规则,观点,行为以及对相关资料的真实性负责。本文作者就以上或相关所产生的任何问题概不负责,亦不承担任何直接与间接的法律责任。