手机版

海若讲堂第九期丨浪潮云姚超:DeepSeek爆火的思考与行动

时间:2025-04-01 12:54:46作者:马慧思来源:互联网

2025年春节,DeepSeek凭借高性能、低成本的优势,迅速在全球范围内引发关注。DeepSeek的爆火,不仅推动了AI技术的普惠化,还对全球AI产业格局产生了深远影响。

2月17日,由浪潮云主办的「海若讲堂」第九场直播特别邀请到浪潮海若大模型首席架构师姚超,与我们深度聚焦热门案例,以爆火的DeepSeek为讨论对象,详细剖析其发展历程、创新技术、应用场景,让听众深入了解这一热门AI案例,紧跟行业前沿趋势。

Q : 为什么DeepSeek会突然爆火?

姚超:这一成绩的取得并非偶然,背后有着多方面的关键因素。

模型性能好:DeepSeek-V3在多项评测中超越一众开源模型和闭源模型。尤其DeepSeek-R1 在数学、代码、自然语言推理等任务上,具备显著优势。

模型开源开放:DeepSeek通过开放模型权重文件,允许商业机构免费使用、修改和二次分发。这一举措不仅推动了人工智能技术的开源生态发展,也让更多开发者和企业能够基于DeepSeek的模型进行创新,降低了技术门槛,加速了AI技术在各个领域的应用和普及。

使用成本低:DeepSeek-V3的完整训练成本仅为557.6万美元,远低于业界平均水平。此外,DeepSeek的网页和APP免费使用,注册流程简便,无需复杂验证,用户能够即时注册并使用。

Q : 在行业应用DeepSeek落地的过程中碰到了哪些问题?

姚超:在使用DeepSeek进行行业应用落地时,也碰到了一些挑战:

模型与数据安全:政府的应用场景对安全性要求极高,开源模型漏洞若未及时修补,可能会被攻击者利用,政务数据上传至政务网以外也存在安全风险。

运营与运维问题:开源模型下载完并不能直接使用,需要考虑模型部署和运维人员投入,包括联网等功能需要另外开发,可参考“谁建设谁运维”的模式,由云厂商来承担相关工作。

软件与硬件适配:DeepSeek在英伟达GPU上完成了训练,在国产GPU上需要进行适配,以满足国产化需求。

模型幻觉问题:DeepSeek虽然在大部分任务中表现优异,但由于其开源性质和广泛的适用性,它可能没有针对某些特定领域(如政务领域)进行深度学习。R1目前提供的上下文长度为64K token,在对话时可以通过检索增强(RAG)的方式读取部分文档内容来增强回答,以弥补模型幻觉问题。

Q : 浪潮云积极拥抱DeepSeek做了哪些工作?

姚超:浪潮云以“云上MaaS+一体机+行业智能体”为抓手,软硬结合。推出基于DeepSeek的MaaS服务、海若一体机及智能体应用,叠加端到端模型安全服务保障,为政府用户提供基于DeepSeek大模型智能应用落地的一体化解决方案。

基于DeepSeek的Maas服务

云上MaaS:依托政务云上线DeepSeek R1等模型,提供模型微调、推理等服务。

专享MaaS:基于DeepSeek的智能体创新平台,提供预装DeepSeek大模型和海若智能体平台的一站式交付服务。

预装DeepSeek的海若一体机

基于DeepSeek的海若一体机主要包括硬件、模型、海若智能体操作系统 AgentOS和智能体应用4个部分。

硬件适配了海若睿智610、海若灵智310、晟腾910B、L20、H20等10余款GPU芯片,满足不同算力需求;预装AgentOS(智能体操作系统),帮助用户快速创建智能体,并且可以接入海若大模型和DeepSeek等主流模型,可依据需求灵活选配行业应用。

针对组织用户的多样场景需求,海若一体机面向DeepSeek模型推出四种规格,预装14B、32B,70B,671B四种参数的DeepSeek大模型,用户可根据业务场景灵活选型,实现精度与效率的最佳平衡。

智能体应用增强:

智能体创新应用:基于DeepSeek的模型能力,结合硬件终端,打造新型智能体终端。

智能体应用增强:借助 DeepSeek 先进的推理机制,优化智能体的推理算法,提高响应速度;对智能体的对话策略进行重新训练,提升智能体服务质量。

Q : 浪潮海若大模型有哪些技术服务可以让组织用户更好地使用DeepSeek

姚超:通过预装DeepSeek大模型,为用户提供海若智能体操作系统 (AgentOS)来帮助其生成和管理智能体。同时,还为用户提供通用智能体应用和行业智能体应用。

海若智能体操作系统 (AgentOS

海若智能体操作系统 AgentOS是定位为智能体生产、管理的操作系统级产品,能提升智能体开发效率,异构兼容且允许多模型接入,内置模型池适配多种算力架构。开放易用,支持零代码/低代码构建,内置多种典型行业智能体。提供40余种工具,支持自定义工具接入。在安全可靠方面,有知识库细粒度权限管控,提供私有化部署方案。

海若智能体

海若智能体是为用户交付切实可用且具备高价值的智能化应用。

通用智能体应用:主要面向多样化的办公场景,提供综合性的办公工具。不仅具备联网搜索、知识问答、文档处理等基础且实用的办公能力,还支持Web、H5、APP 等多种不同终端的用户访问,极大地提升用户使用的便捷性。此外,能够无缝集成主流办公平台,实现办公生态的深度融合。

行业智能体应用:这是专门针对垂直领域专有场景而设计的智能化应用。涵盖了政务、水利、应急等多个关键领域场景,为各行业的智能化升级提供强大的驱动力。

在行业智能体的开发过程中,我们首先基于具体的行业场景,精准选择合适的模型(基于场景选模型),确保模型与场景的高度适配;其次,基于 AgentOS 对相应的工作流进行合理编排,以此构建出功能完备、性能卓越的智能体;最后,将构建好的智能体集成到系统之中,或者作为独立应用向用户提供服务,为用户带来更优质、更智能的体验。

Q : 浪潮海若大模型的产品有哪些?

姚超:浪潮海若大模型的产品包括海若大模型工厂、模型层、海若智能体。

海若大模型工厂:从明确需求、数据汇集、数据清洗、模型训练、模型调优、模型评测,最终成为大模型产品并提供推理服务。

模型层:支持多种大模型,包括海若大模型,DeepSeek等开源大模型以及第三方商业大模型。

海若智能体:包括智能体操作系统(AgentOS)和基于AgentOS开发出来的智能体应用。AgentOS 具备模型接入管理、工作流编排、知识库、工具调用、技能融合等多方面能力,其涵盖智能体开发的全流程关键功能模块。AgentOS支撑起众多智能体应用,像通用领域的知识问答、智能创作,行业领域的应急指挥调度、景区智能导览,还有不同终端的应用,如智能会议终端、应急智能终端等。

Q : 浪潮海若大模型的整体业务架构是什么?

姚超:浪潮海若大模型的整体业务是构建“1 + N”智能引擎生态,通过融入DeepSeek等多种大模型能力,为用户提供MaaS服务 +云资源服务、行业智能应用和本地可运营智能体云服务。基于海若智能体来实现边端协同管理,提供行业级智能体终端产品、通用智能体终端和智能体一体机等解决方案,涵盖政务、应急、水利、农业等多个领域等,为组织用户的智能化发展提供支持。

推荐阅读

  • 浪潮承建 | 天津城投集团电子采购平台正式落成!

    近日,基于浪潮海岳采购云搭建的天津城投电子采购平台正式落成。作为推动天津城投集团数字化转型的重要举措,平台落成揭牌标志着集团招采数字化转型跨入新征程、“阳光国企”建设取得新突破,将有效规范采购管理、……

    时间:2023-07-11 14:29:37
  • 2023中国机电一体化技术应用协会年会在北京隆重召开

    踔厉奋发新征程,笃行不怠向未来。为全面回顾和总结过去一年的工作,加速推进新型工业化进程,促进新一代信息技术与制造业深度融合,以融合带创新、以创新促转型、以转型助发展,中国机电一体化技术应用协会于12……

    时间:2023-12-27 10:52:17
  • 浪潮卓数大数据“数据资产服务平台”入选山东省首批优秀工业领域大模型服务平台

    近日,山东省工业和信息化厅公布了首批优秀工业领域大模型(MaaS)服务平台暨“产业大脑”解决方案名单,浪潮卓数大数据申报的数据资产服务平台成功入选首批优秀工业领域大模型场景类(业务型)服务平台。 ……

    时间:2025-02-11 16:32:34
  • mophie带你了解「如何让旅拍续航无忧」

    各季节都不缺 「临时起意去旅行的人」 旅行在外是人们放松身心的最佳方式 而手机、平板等设备是必不可少的随身携带物品 以作为「记录或感受新鲜事物」的其一途径 旅途中拍照、录像、导航等方……

    时间:2024-01-05 09:47:56
  • 奔向醴酒发展新征程,华润啤酒释放传统酿造精髓

    什么是文化传承,什么是匠心独运?当你看到《中国酿造》的那一刻,都将找到答案。这部《中国酿造》大型美食人文纪录片是由央视总台倾心打造。一经播出就反响如潮,与当代人对美食的喜爱深度契合。这部纪录片是以……

    时间:2024-04-15 17:23:45
  • 浪潮云斩获中国电子学会科学技术奖

    近日,中国电子学会公布“2023年度中国电子学会科学技术奖”获奖名单,浪潮云算力平台ICP“全栈算力云资源管理系统关键技术及应用”荣获科技进步三等奖。 中国电子学会科学技术奖由国家科学技术奖励工作办公室批……

    时间:2024-05-11 14:02:31
  • 浪潮数字企业受邀出席2025春季资本市场论坛

    3月19日,以“聚焦新赛道”为主题的中信证券2025春季资本市场论坛在济南成功举办,现场1700余人参会。活动设置了“中国加速度,全球AI+繁荣”论坛,汇聚行业领袖、科技先锋,共同探讨AI赋能下的产业机遇。浪潮数字企……

    时间:2025-03-24 09:55:37
  • 庆祝中马建交50周年,桂马互动共谋合作——马来西亚投资推介会成功举办

    【△桂马互动共谋合作—马来西亚投资推介会活动现场 广西贸促会 摄】 3月19日,广西贸促会与马来西亚驻南宁总领事馆、马来西亚投资发展局驻广州办事处合作举办的马来西亚投资推介会在南宁成功举办。本次活……

    时间:2024-03-20 14:52:32
  • “生态密云,幸福骑迹”2024首届密云环湖国际公路自行车赛新闻发布会在密云举办

    9月27日上午,2024首届密云环湖国际公路自行车赛新闻发布会在密云邑仕庄园隆重举行。本次赛事由中国自行车运动协会、北京市体育局、北京市密云区人民政府共同主办,北京市密云区体育局、北京市密云区体育总会承……

    时间:2024-09-29 08:54:24
  • 人工智能+,浪潮海岳以软件新质生产力点燃高质量发展新引擎

    “大力推进现代化产业体系建设,加快发展新质生产力”,今年,“新质生产力”被写进政府工作报告,成为两会热词。何为“新质生产力”?“新质生产力”由技术革命性突破、生产要素创新性配置、产业深度转型升级而催生,特……

    时间:2024-03-07 11:50:48
随机推荐