近两年,chatgpt如燎原之势迅速席卷而来。在过去的半年里,众多企业倾心生成式ai并展开探索与应用,其所带来的影响也越来越深入。
如何调整企业的ai战略,使大模型的能力真正为企业所用?如何选择适合行业企业的大模型?如何根据企业自身情况部署大模型?这些都是cio关注的重要课题。
生成式ai正在颠覆传统业务
生成式ai正在改变产品的研发方式、优化用户体验、提升员工的工作效率,甚至在颠覆传统业务。
制造型企业的研发人员使用autodesk的dreamcatcher平台,可以根据目标和约束条件直接生成cad设计,连接3d打印机就能进行实体交付,大幅提升了研发和测试的效率。
在体育界,ibm为美国2023年高尔夫锦标赛大师赛提供生成式ai评论的数字新体验,其人工智能生成式评论凯发k8国际首页登录的解决方案在比赛过程中为20,000多个视频片段制作了详细且专业的高尔夫比赛解说,精彩的比赛片段 专业的比赛解说为用户提供了优质的体验。
amazon的实时ai编程助手(codewhisperer)可以运用自然语言帮助开发团队生成代码、执行代码并进行代码优化。埃森哲的velocity团队基于codewhisperer将开发工作减少了30%。
chatgpt的问世给教育服务提供商的股价带来巨大影响,美国课外辅导在线教育公司chegg的股价受gpt的影响足足下跌了50%。人工智能“反噬”科技行业的征兆已经出现,就业市场也将受到影响。
今年4月gartner在针对2000多家企业的调研中发现:45%的企业看好生成式ai技术,并将增加对ai的投资。
今年年初gartner在调研了300多家中国企业后发现:ai能力相对成熟的企业更倾向于采用“ai first”的战略,大部分中国企业侧重ai运营和ai工程化,以决策为中心,通过ai技术辅助业务,使业务运营可扩展且更有韧性。一部分ai领先企业已开始探索将ai技术用于企业业务的各个领域,甚至是核心业务场景。
生成式ai战略先行
gartner提到了ai原生企业的概念,它指企业的核心流程如果离开ai将无法正常运转。包括自适应、生成式、原生学习在内的生成式ai正在将ai原生企业这一理想变为现实,越来越多的企业将ai战略纳入企业数字化转型的核心战略。
gartner高级研究总监方琦(mike fang)强调:所有的ai战略,如果脱离了企业自身的业务,将毫无价值可言。
因此对cio而言,规划ai战略的第一步是与业务战略对齐,而非单纯从技术角度进行创新;其次要结合整体业务模式确定ai技术的优先发力点;第三步要从投资与回报的角度明确ai能否大幅优化业务;同时还要了解企业通过ai能力能获得偏向防御型的能力,还是利用自身数据创造差异化的竞争力。
大部分中国企业进行了大量ai投入,有了比较清晰的ai战略。在生成式ai大潮兴起后,大多数企业重新规划并更新了自身的ai战略,生成式ai无疑增强了员工的工作能力。
cio在规划ai战略时,应着重思考以下三个问题:
1、该如何培养企业的ai战略师?
2、该如何重新培训员工,使其在短期内熟练应用生成式ai工具?
3、未来什么样的组织架构能让员工乐于共享,甚至更民主化?
gartner列举了生成式ai在企业中的三类主要应用场景:
1、将算法集成到现有凯发k8国际首页登录的解决方案。在保证前期对ai的投资能继续发挥作用的基础上,将生成式al的算法集成到现有的智能化凯发k8国际首页登录的解决方案中,解决原有方案不能识别的意图,通过能力的更新和完善提升用户体验,使产品更具竞争力。
2、改进业务或工艺瓶颈。梳理业务的端到端流程,找到流程中的瓶颈,探索如何通过生成式ai的应用工具突破现有瓶颈,从而提升整体能力。
3、重塑人与机器的关系。当整个行业的供需关系发生变化,企业需要重塑人与机器的关系,找到新的平衡点。
gartner在调研中发现:在全球,70%的企业部署了20个以上的ai用例,企业平均部署ai用例的数量是41个,ai用例的平均使用寿命为3.5年;而在中国,86%的企业部署了5个以上的ai用例,企业平均部署的ai用例数量是24个,ai用例的平均使用寿命是2.8年。
管控生成式ai的相关风险同样重要,包括违反中国法律法规的风险、供应商的风险、数据的隐私及保密风险、侵犯知识产权的风险、“幻觉”和有偏见的答案、网络安全风险、员工应用范围的风险等等,gartner建议cio在运用生成式ai技术时要充分与业务团队进行风险的沟通,从而使技术能够更好地落地应用。如果法务专家能够参与ai用例的前期构思,将使ai的成熟度提升3.8倍。
在人才方面,全球超过70%的企业表示ai人才并不是难点。但是大多数中国企业表示人才或服务提供商短缺是ai技术被企业采用的最大障碍,53%的中国企业表示很难找到既擅长业务又懂ai技术的人才。对于中国企业而言,如何通过专业化的分工团队,使ai技术更易落地,是企业需要从战略角度思考的重要方向。值得注意的是,采用分布在企业内部的ai特别小组这类与业务混合的团队,与中心化的ai团队相比,前者的ai成熟度会更高。
当生成式ai能力出现后,企业需要更多跨部门的角色和技能,如需要开发人员能基于api进行处理,需要ai产品经理等角色,这些是企业未来ai人才储备需要关注的重要课题。
如何选择合适的大模型?
面对五花八门的大模型,如何选择合适的大模型是多数企业关注的话题。
gartner建议企业在选择大模型时要关注以下几个方面:
1、基本的语言能力。如多向对话的能力,生成文本的质量,知识的范围等。
2、额外的语言能力。如哪些模型能写代码?哪些模型的逻辑和推理能力更强?是否支持多种语言?是否具备数据分析能力等。
3、提示词工程。如模型的思维链如何?(是否与提示词工程紧密结合?)是否具备情境学习的能力?是否拥有很好的操控性?(是否遵循指示?)
4、微调的难度。如果想对模型进行优化或微调,是否支持将企业的知识注入模型中?
5、非功能性因素。如推理速度、成本,是否支持本地部署等。此外,如果模型后续进行迭代优化,现有的应用是否能二次优化?据悉,2024年gpt-4.0底座模型将对外开放,如果企业的应用产品是基于gpt-3.0版本开发的,后续是否要做二次优化,是企业要考量的因素之一。
6、生态系统。当前很多厂商在做基于应用场景的ai插件,也有如microsoft copilot的打包软件。企业在选择模型时,还应考虑模型的生态系统是否友好,与工具/系统、插件的集成是否便捷,能否长期合作等。
企业部署生成式ai的五种方式
gartner高级总监(研究顾问)张桐梳理了企业部署大模型的5种主要方式:
1、直接购买嵌入应用程序的生成式ai。例如gpt或salesforce推出的xgen等开源的ai大模型。
2、直接调用生成式ai的api接口。企业的应用系统可以直接调用开源大模型的api,从而进行数据检索与提示词工程的探索。
3、企业内部知识与生成式ai模型相结合。也就是将企业的数据内容准备好,包括形成企业的知识图谱,只利用大模型的语言能力进行知识输出。
4、在生成式ai模型的基础上微调。在提示词工程的基础上,或直接在大模型的基础模型之上,将行业的领域知识和企业的数据内容给到模型,让模型理解、学习行业知识和企业知识,真正为企业所用。
5、从零开始自建模型。通过预训练、监督学习以及增强学习等方式,从0到1去打造一个专属于行业企业的模型,需要进行大量的算力投入、资金投入以及人才投入。
训练大模型的门槛很高,需要充足的预算、计算资源以及数据。此外,数据安全问题也是企业部署生成式ai必须考量的因素,自建模型的数据安全系数更高,调用api的方式存在一定的数据风险。以上5种方式由易到难且各有利弊,企业可以综合考量适合自身的应用场景、投入力度以及数据安全需求,选择适合的部署方式。
企业应用大模型的核心是将企业的内部知识与外部知识进行融合,只有内外部知识被融会贯通才能充分发挥大模型的价值。
以大模型应用中最常见的知识管理场景为例,企业需要建立与智能搜索相关的知识图谱,尝试在内部知识中将每个问题的答案找到,并将问题和答案一起发给大模型,通过大模型的自然语言能力 知识图谱的知识结构能力,实现更好的人机交互体验,从而得到准确答案。
展望未来
当前多数大模型的底座很难持续更新,以chatgpt为例其训练数据截止于2021年9月,并不能很快更新为企业提供实时的数据支持。伴随业务的快速变化,企业需要通过混合的模式,通过知识图谱或一些规则,将企业的内部知识注入生成式ai。
gartner预测:下一代ai技术将向自适应ai的方向演进,也就是在不断变化的复杂环境中,能够基于数据自主、实时地进行模型的更新,以多个代理人的ai模拟或ai强化学习的方式,具备更快感知环境变化的能力,输出更符合业务需求的结果。
关于企业网d1net(www.d1net.com):
国内主流的to b it门户,同时在运营国内最大的甲方cio专家库和智力输出及社交平台-信众智(www.cioall.com)。同时运营19个it行业公众号(微信搜索d1net即可关注)