网站首页

产品中心

智能终端处理器 智能云服务器 软件开发环境

新闻中心

关于江南体育

公司概况 核心优势 核心团队 发展历程

联系江南体育

官方微信 官方微博
主页 > 新闻中心

江南体育AI如何赋能更多行业?联想集团杨元庆:混合式人工智能是必然路径

发布时间:2024-04-22 09:03浏览次数: 来源于:网络

  董事长兼CEO杨元庆在近日举行的第十届联想创新科技大会Tech World上分享说,公共大模型是AI普及的催化剂和加速器,但在网络速度、云端效率、成本考量、数据隐私等方面存在局限性。而在混合式框架中,个人大模型和企业大模型,以及在其基础上开发出的个人智能体和企业智能体,将与公有大模型共存互补,提供更加个性化的服务并满足隐私保护需求。

  杨元庆认为,个人智能体,将通过大模型压缩技术,在个人智能终端或边缘设备上运行,以自然交互的方式接收指令,通过个人的旅行纪录、购物偏好这些存储于设备上的信息,更好地进行推理,做出行动,它甚至可以根据你的思维模式和行为频率去预测下一个任务,并主动提出建议,自主寻找解决方案。

  企业也将受益于企业智能体。它分散在企业的多个终端设备和基础设施中,将能够对大量的本企业数据进行学习推理,在保障信息安全的同时,支持企业运营决策,提升管理效率,提高生产力 。

  2022年11月底,ChatGPT横空出世,掀起了大模型的热潮。从百亿参数,到千亿参数,再到万亿参数,大模型能力越来越强大;从语言模型,到视频模型,再到最近的音乐模型,江南体育大模型的表现越来越出色;AI历史上,无论是统治语音识别30年的隐马尔可夫模型,还是称霸整个90年代的支持向量机,从来没有任何一个技术,能够像今天的大模型这样强大。

  不过,高级副总裁、首席技术官芮勇认为,大模型一方面能力很强,另一方面有局限性,所以要“扬长补短”,扬长,是要持续发扬并增强大模型的强大能力;补短,则是要打造基于大模型的智能体技术,真正解决应用场景的问题。“不能再单纯地用大数据+大算力+大网络来堆砌大模型,而是要超越大模型,探索更接近人类的思维和行为方式。”芮勇说,“联想倡导混合人工智能框架,是公有大模型和私有大模型的混合。从技术角度看,还有几个重要维度的混合。”

  首先,小模型不会消失。今后一定是基于大模型和小模型混合的“意图理解”技术。大家知道信息论里面的熵 entropy 是度量信息量的。越有序,熵越小,越无序,熵越大。联想使用交叉熵 cross entropy 损失最小化原则,将意图理解任务最优地分配给大模型和小模型,从而兼顾精准度和复杂性。

  第二,基于CPU、GPU、NPU混合调度的“异构计算”技术。今天,在大模型的训练和推理过程中,瓶颈往往不在于芯片算力,而在于数据传输。这个方程式是说,我们来同时优化计算负载和数据传输,使总体执行时间最短。

  第三,基于模型微调 (SFT) 与检索增强 (RAG) 混合的“智能问答”技术。相信很多人都听过RAG和模型微调。这两种技术哪个更好呢?其实,这两种技术各有长短。

  第四,基于硬件加密与全栈可信架构的混合“隐私安全”技术。光用硬件是不够的,光用软件也是不够的。在前量子时代,我们是通过把一个非常大的整数进行质数分解进行加密。但在后量子时代,就需要通过在一个高维实数空间里进行因式分解来进行加密。

  清华大学智能产业研究院(AIR)院长、中国工程院院士张亚勤也认为,模型表现出一些局限性,我们可以应用混合式的理念来提升它的能力,权衡算法精度、算力需求、内存容量、通讯带宽、隐私安全等因素。例如,公有模型和私有模型的结合,大模型和小模型的结合,传统机器学习和现代深度学习的结合,云侧、边侧、和本地设备部署的结合,CPU/GPU/NPU异构算力的结合,通用知识、领域知识、和个人知识的结合。

  目前,清华大学智能产业研究院已经与联想在进行产学研合作,未来期待双方能够携手发展人工智能智能技术,加速产业落地,共同推动智能化时代的转型。

  董事长兼CEO杨元庆认为,人工智能的下半场,一定是从技术突破进入到落地应用的阶段,需要我们在实际应用中积累用户反馈,不断完善,继续创新。而此时此刻的关键词就是“落地”。落地的途径,就是涵盖智能设备、智能基础设施、智能解决方案和服务的三大支柱。

  联想集团执行副总裁、方案服务业务集团(SSG)总裁黄建恒认为,混合人工智能对于方案服务领域带来的巨大机遇!在史诗级的机遇面前,联想SSG如何抓住机遇全面重构AI原生的方案服务,主要是三个方面:

  第一、联想软、硬、服一体化的方案能力。联想通过方案设计与交付方面的经验,打磨和沉淀了很多优秀的水平解决方案。这些通用的模块加上行业AI的应用和联想强大的服务能力,可以为客户提供便捷的一站式交付。

  第二、联想在长期为客户的端-边-云混合基础设施服务的过程中,积累了丰富的设计、部署、管理与维护经验,为客户建设了很多高效、平衡和安全的IT基础设施环境。联想在IDC统计的中国非运营商IT服务市场中,已经是排名第二的IT服务商。

  第三、作为全球领先规模的科技企业,联想自身已经完成了从传统IT到新IT的升级,并且沉淀了一套智能化转型的方法论和体系。这些经验将通过SSG传递给同样需要智能化转型的客户,帮助他们更快速地完成变革。

  据了解,联想与很多客户和合作伙伴深度合作、共同创新。阿里巴巴就是其中的一个重要代表,当天联想创新科技大会Tech World现场,集团首席执行官、阿里云智能董事长兼首席执行官、淘天集团董事长兼首席执行官吴泳铭也出现在现场,并向大家打了个招呼。在AI PC和面向行业和企业的智能体解决方案方面,联想与有着广泛和广阔的合作。

下一篇:江南体育聚焦AI教育技术成果 松鼠Ai教育大模型通过生成式人工智能服务备案
上一篇:重磅!《人工智能示范法20(专家建议稿)》发布提出负面管理清单等江南体育多项创新措施 新闻麻辣烫

咨询我们

输入您的疑问及需求发送邮箱给我们