2024 年被很多人称为大模型应用的元年,毫无疑问,大模型已经成为共识,下一步更急迫的问题也摆在了大家的面前——大模型到底能够用在哪?有哪些场景能落地?怎么做才能创造真正的价值?
在刚刚过去的 AICon 全球人工智能开发与应用大会上,InfoQ 采访了在大模型应用领域的领跑企业数势科技创始人兼 CEO 黎科峰博士,交流大模型商业化落地的可行性路径,为行业提供启发。
1 大模型在 ToB 领域蕴藏巨大机遇,企业出海或将成为落地加速器
当前,许多传统企业对于如何将大模型技术整合到现有业务中感到迷茫。大模型应用产品提供企业难以找到合适的变现方式。大模型应用企业究竟该如何突破商业化之困?ToB 和 ToC,呈现出两种不同的路径。
ToC 市场似乎拥有一种天然的魔力,在中国的互联网领域中,它催生了一批又一批的杀手级应用,并不断吸引着更多企业加入这个生态系统。ToC 市场如火如荼,ToB 市场发展因为投资回报率、数据安全性等问题导致相对发展缓慢。但纵观中国科技发展史, ToB 市场经历了 20 多年的从信息化到数字化再到智能化等多个技术阶段的演变与发展,每一次技术革命都经历了探索和融合期,最终帮助企业更好地为用户提供个性化产品、满足特定需求。
因此黎科峰认为,大模型在 ToB 市场同样蕴藏着更大的机遇。从用户的角度来看,广大用户,包括企业管理者、技术人员和业务人员,已经开始熟悉并运用大模型进行日常的数据处理、知识获取等,当企业公民使用率提升后,将反向推动 To B 软件的发展,真正实现软件产品“从管到用”的进化。从市场选择来看,企业出海也许将加速大模型商业化落地。一方面,由于海外企业用户更倾向选择公有云部署,能够为大模型商业化提供更加全面的场景数据积累,不断丰富和优化场景应用;另一方面,SaaS 付费模式在海外接受程度高于国内市场,有利于大模型应用企业更轻量、高效地实现商业化落地。
2 大模型 Agent,将在企业经营分析领域落地
大模型具备知识、智商、学习能力和推理能力,能够总结和生成新的见解,叠加 Agent,让企业应用具备了记忆、反思和学习能力,能够调用企业内部工具并不断迭代反思,真正实现业务价值的落地。据行业调研表明,数据分析和决策被视为这一结合最重要的应用方向。
在企业考虑引入数据分析 Agent 产品时,成本、数据安全以及实际落地价值将是关注重点。部署千亿级别参数的大模型成本高昂,目前或许只有头部企业才能承担。同时,数据安全问题也不容忽视,特别是在受严格监管的金融等行业。再者,企业也需要确保大模型投入后能对业务产生实质性的帮助。
黎科峰表示,为解决这些问题,数势科技为企业提供了规模适中、符合企业经营分析场景的 Agent 产品,来降低企业成本和使用门槛。同时,通过云端私有化的专属数据空间以及支持私有化和本地化部署的方式,确保数据安全。
3 SwiftAgent 2.0 发布,实现企业数据分析与决策的范式变革
自大模型技术发布之初,数势科技便迅速拥抱这一变革,并在此基础上推出了 SwiftAgent 的新一代产品。黎科峰在采访中介绍,SwiftAgent 2.0 版本与 1.0 相比,主要新增了五大亮点功能,包括增加了指标和标签语义层、多模态和多源异构数据链接、用户可干预、可持续性学习和数据加速引擎,这些亮点体现了产品如何针对企业数据分析的现有问题提供解决办法。
“统一语义层的构建”,SwiftAgent 2.0 通过添加指标和标签语义层,解决了大模型对底层业务语义理解的难题,并统一了企业各部门的数据口径,从而避免了数据的混乱。
“多模态和多源异构数据链接”使得结构化数据和非结构化数据能够结合,提供更丰富的分析结论。
“用户可干预机制”允许用户参与到数据分析过程中,通过反馈和确认来训练和优化 Agent。
“数据加速引擎”则确保了实时数据处理的能力,实现了秒级数据查询,真正达到了实时人机交互的水平。底层选用了性能优异的数据分析引擎,如 StarRocks、Doris,并结合对数据加工和使用场景的优化,提供了基于视图的预计算能力和基于预计算结果的查询优化能力。
此外,数据虚拟化技术的应用,使得数据定义与物理数据解耦,实现了指标 / 标签的灵活加工使用,无需排期开发,进一步提高了数据处理的效率。
4 大模型应用商业化落地的关键:找到产品的业务价值
在商业化方面,大模型仍然属于新兴事物。为了让更多行业看到大模型在真实业务场景中的应用价值,数势科技也在致力于创造实际的落地标杆。“只有通过口口相传和业务价值的真实感知,才能让有价值的产品被更多人接受和使用。”黎科峰认为。
目前,SwiftAgent 已经与行业头部客户签订了合同,并实现了真正的付费使用。这标志着数势科技在大模型领域的领先地位,其产品已经在金融、零售、消费和高端制造等多个行业中得到了应用,帮助企业解决实际的业务问题。
以一家头部茶饮连锁企业为例,黎科峰介绍说明,SwiftAgent 通过在集团层面部署语义层和数据分析框架,并将 Agent 提供给每位店长,使得他们能够通过对话式查询快速获取数据和分析结果,从而提升门店运营效率。这种数字化工具的应用,为企业提供了一个经营闭环,改变了过去门店靠经验经营的困境,极大地促进了业务发展。
数势科技 SwiftAgent 2.0 实现了大模型技术在企业经营场景下的价值验证,也提升了产品的智能化程度,正在颠覆企业企业数据分析与决策范式。黎科峰表示,数势科技的愿景便是以科技创新实现数据价值的普惠化,让每一个企业、每一位员工都能体会到数据带来的价值。
未来,我们期待看到更多像数势科技这样的企业,通过创新的技术和产品,推动大模型商业化进程,为各行各业带来价值提升。