百度智能云千帆，如何成为最懂企业的大模型平台？

图源：摄图网

作者|关注AI的 来源|奇偶派(ID：jioupai)

8月31日凌晨，百度文心一言成首批获批全面开放的大模型应用产品，用户可在应用商店下载使用，首日即顶多家应用商店热榜，还回答网友超3342万个问题。

文心一言的正式开放，更重要的意义是，商业化靴子的正式落地，大模型能力可以进入于B端企业的生产场景之中。如政务、互联网、能源电力、汽车等行业的企业，正在基于百度智能云千帆大模型平台引入大模型能力，探索让大模型生根发芽。实际上，百度文心大模型已拥有中国最大的产业落地规模。

那么，从Chat走向Work的道路上，企业的痛点、难点究竟在哪里？百度做出了哪些思考与努力？又行至何处了呢？

1

大模型落地

企业多、杂需求成最大阻力

大模型能力成功落地的前提，是对不同企业需求与痛点的完全洞悉，而不同企业的需求，如果想要用两个字来概括，那便是“多”与“杂”。

需求多的特征，主要体现在不同体量的公司身上，小型企业与大型企业的需求几乎完全不同。

对于小型企业来说，无论从业务规模、运营成本还是保有数据量来说，想要独占一类大模型无异于天方夜谭，这类企业客户应用大模型的最好方法则是在基础大模型与行业大模型之上开发相关AI应用，使用较小的成本，达到尽可能好的效果。

而这类企业需求则主要有三点：首先是模型能力足够，应用后效果较好，能保证业务的质量；次之，便是大模型能力的迭代速度需要跟随业务发展情况，适应企业发展节奏；最后也是最重要的，小型企业具体业务方向有千千万万，在大模型的落地应用中需要一定的“自由度”，而这，便要求大模型企业提供齐全的工具链，满足拓展需求。

其中，比较典型的一类企业便是电商直播公司，其应用大模型能力可以替代直播完成网络直播，而在具体应用中，则需要自由替换、改变模特的性别、体型与服饰。

这类公司的最大痛点在于大模型企业不可能为它们“量身定做”，所以如何能在大模型基础良好的情况下，开发一套平台化、模块化、可供企业自行搭建的工具箱，成为小型企业与大模型厂商共同需要思考的地方。

而对于大型企业来说，则与前者完全不同。这些组织架构复杂、员工众多、打法风格明显，同时有着行业内既定的玩法与海量专业数据的大型企业，从底座开始构建基础打模型，则是最好的选择。

但是，作为大模型能力的“门外汉”，训练大模型的成本和技术壁垒都非常高，既需要长期在大模型领域深耕的经验，还需要充足的算力储备、数据储备、高端AI人才储备，也注定了 他们必须寻求业内玩家合作，使用相应的技术与能力。

同时，很多大型企业想要的也不仅仅是一个大模型，而是希望获得一种能力，最终拥有一个“只属于自己的大模型”，这个大模型知道它的前世今生，储存有客户所有的数据，能够孵化各种企业应用。

而对于那些AI应用不够用，基础大模型“用不完”的特定行业企业，用基础大模型精调出更贴合实际场景的行业大模型则是首选。

这类企业一般都是在业内有一定实力，了解行业know-how，同时还想在行业内有进一步发展的企业。但对于他们来说，自建行业大模型面临着数据成本、算力成本、试错成本高，模型效果难以保证，算法训练工程师需求多的难点。如何在保证数据安全的情况下，完成对基础大模型的“借用”，则是这类企业接入大模型的关键要点。

而在需求多的特征之外，不同行业的企业，还表现出需求杂、跨度大的特征。

以大模型落地前沿的金融行业为例，作为人工智能应用场景密集的行业，是大模型技术落地的重要领域之一，有望重塑现有业务流程，改变产业格局。

但在具体的应用过程中，如何高效植入现有业务场景，让一个团队既要懂业务场景，又要理解大模型的使用方法，还需要具备比较强的工程能力成为难题。同时，作为合规性要求几乎是最高的行业，对产生的安全合规和隐私保护问题也要完成

比如，以更具体的企业实际需求为例，在以国家电网、南方电网为代表的能源电力行业中，如何通过大模型提升电力调度智能化，保障电网安全是“双碳”时代下的全新需求；长安汽车为代表的制造行业中，如何加大智能化“色彩”，是大模型过去未曾接触过的场景......

像这样的复杂的生产场景，还有许多许多，在不同行业企业生产场景不同与不同体量企业需求不同的共同交织下，大模型的落地显得愈发困难，也对百度等大模型企业提出了更高的要求，该怎样去梳理企业需求？又怎样去满足行业需求呢？

2

忧企业所忧，百度智能云千帆如此进化

如前文所述，面对千行百业的亿万需求，只单一提供通用大模型服务或者应用产品服务的企业，是无法将这块“蛋糕”完整地吃下去的。最好的做法便是通过提供全套的平台服务与AI原生思维的方法，助力行业完成进化。

而百度智能云则更进一步，根据不同体量企业的需求不同，提供了不同的功能，对应着企业们应用大模型的不同路径。

比如，针对小型企业需求庞杂的情况，百度智能云千帆将众多能力开放给了企业端，提供模型再训练的全套工具链，支持多种形式模型调优，包括SFT（全量参数微调、Prompt Tuning、Lora）及强化学习（奖励模型学习、强化学习训练）等。目标是帮助企业和开发者快速基于基础大模型再训练，升级或者打造适合自己需求的智能应用，而不用花费巨大成本去“卷”自己的大模型。

百度智能云千帆还提供了国内最全的预置Prompt模板。因为有百度工程师发现，相当一部分企业不会写Prompt，感叹使用门槛高。

目前，千帆大模型平台预置了103款Prompt模板，包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个场景。其中既有基于百度智能云在产业实践中积累的Prompt模板，也有来源于文心一言高频用户的Prompt模板。

这些模版均可直接输出给大模型，让大模型快速理解企业的需求，大大提高模型的交互效率、输出质量。

而且，百度智能云也没有紧守着城门不开，为其他大模型打开大门——即通过千帆大模型提供33个严格优选、进行性能与安全双重增强后的第三方大模型，共同完成服务。企业充分享受“模型自由”

企业和开发者只需要登陆千帆大模型平台操作台，在【模型仓库】中进行部署、调用，便能轻松享受到优质大模型带来的业务效果提升。

正如百度所说，他们希望的大模型发展是百花齐放，百家争鸣地状态，将会引入更多的开源模型，最终落实到真正的生产力场景之中。

对于大型企业基础大模型的构建需求，百度还充当了注重AI原生思维，帮助客户构建自身智能化能力的导师角色。

百度智能云一位工程师表示，在大模型推出后，很多客户的目标不仅是买一个大模型，而是希望获得一种能力，最终拥有一个“只属于自己的大模型”。

一些大型央国企客户的诉求也很明确，他们向百度提出，不需要百度帮忙写代码，“百度更多是一个教练的角色，给我好的工具，教会我应该怎么用，长期来讲我的能力也能够不断提升”。

而在这样一个为大型企业构建基础大模型的过程中，文心千帆大模型平台与其上包含的数据管理、模型训练、评估优化、预测服务部署以及插件服务，帮助企业搭建出专属大模型。

丰富的产品能力、更加自由的大模型工具部署、多样化的服务方式、更懂产业的AI落地路径，共同让百度智能云千帆拥有了极强的场景落地能力，也有望成功从企业对大模型需求侧完成切入，进而渗透各行各业。

9月1日，国家网信办发布境内深度合成服务算法备案信息公告显示，百度文心大模型算法、百度数字人驱动算法、语音合成算法等完成备案。百度成为“双料王”，即同时获批向公众开放服务备案和深度合成服务算法备案。此举意味着，继文心大模型之后，百度数字人、语音合成等也正式完成合规备案。

3

从互联网到生产车间

听懂企业成为千帆“绝杀秘技”

在充分洞悉企业痛点，百度智能云还基于文心大模型的AI能力，升级了行业解决方案和通用AI应用，进入越来越多的核心场景。

在电商直播中，百度智能云曦灵数字人直播平台利用大模型能力，完成了大幅降本增效。

该平台通过百度自研的语音、视觉等技术，上传一段真人视频，不到30分钟即可一比一复刻数字人主播。而结合百度文心大模型及电商行业专属知识库，形成了更适用直播场景的“营销大模型”，输入几个关键词，即可自动生成商品介绍、催单、场控等专业话术，并驱动数字人一键开播。

针对用户弹幕互动，也可通过大模型生成智能问答直接回复，覆盖诸如退换货规定、发货时间、优惠力度等众多常见问题。相比真人直播间每月约5万元的成本，数字人直播间成本将大幅下降。

在办公与教育领域里，金山办公与好未来，是文心大模型落地的模范标杆。

金山办公通过千帆接入了文心一言，快速推出了 “WPS AI ”，成为中国协同办公赛道首个ChatGPT类型的应用。金山办公助理总裁田然表示，百度作为中国最优秀的大模型提供方之一，正在推动大模型在办公领域的应用和快速落地。

而好未来则借用千帆的能力，完成了第三方大模型的SFT微调，显著提升了开源大模型的效果，而百度也成为了好未来快速推进大模型应用落地的重要合作伙伴。

安全生产是企业的生命线，百度智能云与深圳燃气联合发布“深燃-百度·文心大模型”。 这也是在燃气行业首次探索引入视觉大模型。针对燃气场站、营业厅里的新场景、新任务，企业基于大模型只需要进行微调，就可以形成针对性的行业模型能力，完成多个应用场景的任务。

这些从企业核心场景中成长起来的经验，也可以通过大模型沉淀为知识，在企业内部传承下来。

在过去，每个企业的专业知识是有限的，老工人在退休时会把相关知识全部带走，即使通过师傅带徒弟的方法，也会存在知识残缺、片面的情况出现。而在文心大模型被引入后，每位员工的能力都将成为企业的数字资产留存下来，成为员工AI知识库中的一部分，既可以为新员工提供培训服务，也可以打造智能助手，让每一个工人身边都有一个专家级的“助理”。

综上可以看出，百度智能云能如此快速地将大模型落地与生产场景中，或许也说明了新环境使大模型竞争变成了一场综合能力试炼：致胜因素将不再只是一家公司训练大模型的技术实力，还有它洞察市场需求、开发与之匹配的应用和做好运营的能力。

4

写在最后

伴随着大模型的发展，各行各业智能化的广度和深度将迎来突破。

对于企业来说，伴随着大模型改革的深化，同业竞争者纷纷选择AI发展路径已经成为了倒逼他们快步向前的最好推动力，而在这个过程中，不同的需求与巨大的市场同时出现。

而对于大模型企业来说，环境的改变也让大模型竞争成为了一场综合能力试炼：致胜因素将不再只是一家公司训练大模型的技术实力，还有它洞察市场需求、开发与之匹配的应用和做好运营的能力。

据消息透露，百度智能云还要进一步全方面强化服务企业的能力，在即将到来的9月5日2023百度云智大会上，百度智能云将宣布四大举措，全面升级“千帆大模型平台”，覆盖算力基础设施、大模型工具链、高质量数据集等等，推基于文心大模型重构的四大行业解决方案，发布覆盖10款企业级的AI原生应用产品。大模型相关的生态政策也将同步披露。

编者按：本文转载自微信公众号：奇偶派(ID：jioupai)，作者：关注AI的