当前，，，，企业普遍认同智能化是构建其核心竞争力的重要支柱。。AI技术未来将深刻融入企业业务的方方面面
，，，为营销、
、研发、、生产、、服务等环节都带来革命性的效率提升和用户体验优化
，，，以及商业模式上的创新。。。那些能够将智能化融入企业基因，
，，，拥抱智能化的企业，，将在未来的竞争中抢得先机，，引领行业发展
。。

企业AI建设工作开展的前提

智能化转型不能成为一句空谈，，必须切实转化为行动，，，通过高层共识、
、
、愿景定义、
、、战略对齐，，，三个方面的动作，，实现将AI纳入到企业的智能化转型战略。。

第一，
，
，高层领导要达成共识，
，，
，明确AI的战略意义
，，，，是智能化成功的基础。
。
。只有建立了这种共识，
，，，才能帮助团队理解AI将如何支持企业的业务增长、、
、、运营优化和业务创新
，
，，从而在资源分配和项目推进中获得支持。。通过在高层战略会议中讨论，
，应明确把AI建设纳入到企业战略级项目中，，并且给予更高的优先级。。。。

第二，
，企业一把手的推进至关重要，，一把手要牵头，，各个业务负责人参与，，，，设定长期目标和关键业务领域的AI应用，，这样才能有助于为企业的AI战略提供更加清晰的方向
。。

第三
，，AI落地绝非一个部门所能独立完成的，
，，它需要多个部门协同推进
，，，要确保AI建设与企业整体战略保持一致，
，
，，同时需要设定相关绩效指标并跟踪进展。。。。

企业AI建设的路线图

这张图展示了企业AI建设的整体路线图
，，，，通过8个关键步骤，
，帮助企业实现AI项目的全面落地与持续运营
。。。。

确定目标

明确的目标是项目成功的基础
。。设定目标有助于指导后续的所有工作，，，并确保团队在同一方向上努力。。目标应与企业的战略紧密相连，，，
，确保AI的建设为实现整体战略目标服务。。
。。企业在建设AI时，，经营目标、、运营目标和部署目标相互依存
，，，，形成了一个完整的目标体系
。。经营目标提供了方向
，，，，运营目标确保了效率，，，部署目标实现了技术落地。。企业应当在制定和实施AI建设计划时
，，
，充分考虑这三者之间的关系
，，，，以实现技术与业务的深度融合，，从而推动企业的持续发展和竞争力提升。。。

企业在部署大模型时需要清晰地识别其适用场景与局限，，，，不能一刀切
，，，而应制定合理和差异化的目标。。。过高的期望目标，，，
，可能会导致整个过程受挫。。因此，，，，了解何时适合采用AI、、何时应避免使用AI，，以及针对特定场景选择何种AI技术至关重要。
。。在此，，，，我们主要聚焦大语言模型的建设
。。

大语言模型，
，主要是做语言理解和生成的，
，，但是对于一些传统AI已经展现出出色表现的场景，，，大模型其实并不具备明显的优势。。例如，，，在一些应用CV/OCR等技术的场景，
，已经有非常成熟的技术和产品，，是没有必要应用生成式AI去重构的。。。同样，，，，在一些高度定制化的场景中，，，生成式AI也并不适用，
，，如下述高度定制化服务场景所示。。。。

在中间这几类，，，，都是生成式AI的典型应用领域
，
，
，例如，，内容生产、、、、个性化服务、、
、、写代码等，，在很多场合效果已经非常好，，可以替代大量人力工作。。而在一些场合，
，，，如流程自动化、、、数据分析方面，，，，可以对原有系统提供更好的补充和辅助作用。。。。

评估现状

在明确了目标之后，，，，我们需要了解企业自身所处的阶段，，，，发现薄弱环节，，，，并为下一步的建设方向提供指导
。。我们主要从4个方面来评估企业的现状。。

首先是战略与场景
，，
，，要确保已经在企业内部达成了目标的对齐，，这个也是我们一开始所强调，，，需要重视的
；在场景上，，企业需要优先选择符合战略目标
，，，，并且具备可行性的场景进行实施。。。

第二，，，
，要评估的是企业的数据就绪度。。。。AI项目的成功，，，一定是数据驱动的。。高质量的数据是AI模型项目的基础，，，这对于传统AI还是生成式AI都是一样。。但是生成式AI更重要的一点就是，，，，数据的规模和多样性。。我们所熟知的GPT系列的模型能力强，，，，一方面原因是算法创新，，像自注意力、、、强化学习等，，
，，更重要的一点是数据质量高，，
，，场景覆盖广。。。。另外，，，，企业想要长久保持AI模型的高质量服务
，，还需要不断采集数据、
、、反馈数据，，，对模型进行迭代更新。。

第三，，AI项目的落地实施，，离不开团队，，，，需要具备理解业务并转化为项目的核心架构，，以及一些工程化的角色，，如数据标注、、清洗、、、、模型训练和调参
、
、、工程优化等角色
。。。

第四
，，资源就绪度，，指的是AI算力，
，，，包括计算存储、、、、网络等，，，，以及为了实施项目所需要的一些基础框架、、、开发工具等，，目的是提供对AI全生命周期的支撑。。。

选择场景

接下来我们要面对的是如何选择企业的AI应用场景，，，我们所面临的几乎所有的企业应用场景，，
，
，归根结底都是围绕降本增效、
、、、提升体验和模式创新三个方面来展开的
，，，这也是企业智能化转型的终极目标
。。
。。

首先需要从战略匹配度
，，，看是否符合这三个方面的目标
，，，其次在技术支撑方面，，，，重点考虑是否是生成式AI的应用场景
，，以及我们通过哪些技术路径来支持场景落地。
。
。另外就是数据和AI基础设施。。。。数据层面
，
，
，，需要具备精标注数据、、、、反馈数据，
，，，以及垂类语料（无标注数据）条件；算力方面提供AI计算支撑；基础大模型方面，
，这个是企业应用AI的最基础条件，，企业需要考虑大模型的开源/闭源路线。。。。目前开源生态比较强大，，进步也很快，，是一种更高性价比的选择。。。。

初步评估可行性

选定了场景之后，，我们需要对某个特定场景有个初步可行性判断
，
，，，这个判断需要结合业务
、
、技术和工程角色，，共同参与评估
。。。
。

业务如何判断呢
？？？？业务方就是实际的使用部门，，比如业务方是合同审核部门
，，，，场景是审核合同里边的关键内容是否缺失（乙方名称、、、付款条件
、、付款方式等）。。。那么输入就是一段合同文本，，输出就是几个关键字段和它的值；目标就是提取这些信息，，并且内容没有丢失。。。只有这些还不够，，，
，业务部门可以尝试直接调用一些大模型（在确保数据安全前提下），，，
，看看效果怎么样
，，
，
，这是没有任何技术和工程参与优化的结果。。这个工作业务团队的是完全可以胜任的，，
，，如果让技术部门来判断，，可能会存在业务知识的缺少，
，，无法准确判断业务场景的可行性。。。

从技术部门角度，，，，重点是关注基础模型本身的能力，，
，也就是大模型在预训练阶段已经基本定型的，，，主要包括它在预训练阶段用的知识、、、、采用了哪些语言、、、有没有用一些带有逻辑推理的语料。。这些我们做了判断之后，
，也可能没有找到一些能够激发它本身知识的好方法，，，
，这里就需要用一些专业性强的问题去测试，
，，，看看他能不能突破这个上限。。

第三，，
，，就是工程角度
，，，，门槛最低的就是Prompt（提示词）优化
，，，这是一个非常实用并且简单的工程优化方法，
，，我们还可以结合few shot（示例），
，，，以及思维链等方式，，，，来激发大模型本身的能力。
。。如果是企业内部限定的文档，，，要去用RAG（检索增强）生成这种方式。。。
。如果是因为大模型对指令的遵循能力差等问题，，则需要考虑用SFT（supervised fine tuning）微调。。。如果尝试了以上方式都不行，，需要再看下
，，，我们要解决的是不是术语专业领域的问题
，
，那可能需要准备大量的专业领域语料，，去做二次预训练。
。。这种方式不推荐
，，，它所消耗的资源，，，，对团队的要求都是极高的。。。他们的具体差别对比如下：

准备所需资源

在确定初步可行之后
，，即可开始准备大模型落地所需要的资源。。主要从4个方面准备
：与建设场景相匹配的数据、、、算力
、、、开发工具和团队。。
。

1.准备数据

根据选择场景的不同，，需要准备的数据也会有很大不同：

• RAG场景下
  ，，主要的数据准备工作包括：

文档预处理（如文档格式转换等）、、、、文档解析（PDF识别，
，版式识别）、、OCR（图像转文字）、、、文档切分（切分为小的片段）、
、、数据增强（提取QA
、、
、
、生成摘要）。。。

• 大模型微调场景，，，
  ，主要的数据准备工作包括：

精标注QA数据（问答对形式）、、
、准备指令数据（如人设遵循
、
、、输出格式要求等）。
。。。需要确保数据准确性（例如做过滤低质量，，去掉重复数据等）、、、、数据多样性（要能够覆盖各种真实应用场景）、、、数据一致性（数据不冲突）、、数据增强（生成QA
、、、摘要）等。
。。。

• 二次预训练场景，，，，主要的数据准备工作包括
  ：

专业领域的语料（如金融、、、医疗、、、、法律专业术语
，，在这些领域使用语境等）。。
。
。需要确保数据多样性（如覆盖场景种类要足够多）
、、、数据规模要足够大（一般要达到数十亿级token以上）、、
、
、一定的配比数据（增加通用领域数据一起做二次预训练，，，，如1:1配置）
、、、、数据处理（去除重复数据、、去除低质量数据、、、去除隐私数据
、、、去除不合规数据等）。。

2.准备算力

在企业的大模型建设中，，，，算力的多少决定了训练速度、、效率和模型表现，
，，是推动模型快速高效落地的关键资源。。
。
。那么企业要准备多大的算力才能满足实际应用需求呢
？？？？这里有一些经验，，可以用于快速进行算力数量估算（此处仅考虑GPU算力）
。。。。

对于训练场景，，全参微调所需的总显存一般为模型参数量（以B-十亿为单位）的20倍
，，例如70亿（7B）参数大模型，
，至少需要140G显存
，
，，
，按照单卡80G显存，
，
，，则对应的GPU卡至少需要2张
。
。。而130亿（13B）参数大模型，，，至少需要260G显存，，
，按照单卡80G显存，，，则对应的GPU卡至少需要4张。。。
。

另外，，企业也要在算力投入和训练时间上进行权衡，，，训练时间可参照如下公式进行估算：

以Qwen2-72B为例
，，，在24张80GB显存的A100上，，，，在3B tokens的数据上训练72B参数量的Qwen2。。
。80GB显存A100的峰值性能为312 TFLOPS，，，设GPU利用率为0.45，，，则所需要的训练时间为5.9天
。。

而在推理场景，，
，总显存计算公式为
：

其中n_layer为解码器/注意力层数
，
，n_heads为每个注意力层的注意力头数，，d_head为注意力层的隐藏维度，，，
，p_a为精度，，
，batch_size为批处理大小，，
，max_length为模型最大序列长度，，
，KV Cache为模型推理过程中的KV缓存。。。
。

以常见的参数量模型为例，
，计算推理所需要的算力资源。。。

以  Yi1.5-34B 为例，，，n_layer（解码器/注意力层数）为60，，n_heads（每层注意力头数）为56，，d_head（注意力层隐藏维度）为128，，
，p_a（精度）为2，，，batch_size（批处理大小）为1，
，，max_length（模型最大序列长度）为4096
。
。

模型参数量需要的显存为68GB（34*2=68GB），，另外需要预留模型推理过程中的KV缓存，，约为7GB（2*1*4096*60*56*128*2)*1024-3=7GB）。。。。总共需要的显存至少需要75GB
。。
。

3.准备工具

这里分为三个方面：

首先是基础大模型的选择，，
，这个往往决定了企业应用效果的基线。。。。例如目前效果比较好的开源大模型 Qwen系、、、Llama系，，，，由于开源大模型的能力越来越强，，性价比更高，，
，这些都可以作为企业的首要选择。
。。除此之外，，，还需要考虑模型与任务的匹配度、、、、参数规模和预训练数据量、、、、算力资源、
、语言支持等方面
。。。。

其次，，企业是为了解决特定场景下的应用目标问题，，，
，则需要AI应用开发，，
，例如开发一个RAG应用、
、、、Agent智能体应用等。。。首先要评估的还是这个应用开发工具对场景效果的支撑。
。开发工具必须能够针对企业的具体业务场景（如流程自动化、、、、知识检索
、、智能推荐等）提供符合业务预期效果的模型输出，，，保证大模型在实际应用中的可落地性；要能够支撑企业用户从概念到快速构建应用
、、应用效果提升的操作自闭环，，让企业能够自主进行效果评估、
、自助优化，，，从而可以不过度依赖大量昂贵的外部人力调优服务
；工具的使用门槛应低，，，，既能够让专业的AI工程师快速上手，
，
，也允许业务人员参与配置和使用
。。
。。理想的工具应该有良好的用户界面、
、
、、代码示例、、API文档等支持，，以减少开发复杂度和时间。
。。

第三，，
，，在模型微调和部署工具选择上，，，，基于长远考虑，，
，关注对资源的利用率和整体的性价比
，，其次是工具的完整性、、兼容性、、易用性、、、、可靠性、
、以及安全性。。。
。例如，，，，在性价比方面，，在相同的基础大模型条件下，，，，平台对于算力资源消耗和模型服务性能，，，，能否做到更好的提升；在用户使用时，，，学习门槛是否足够低，，，操作是否足够简便
，，过程是否自动化等。
。。。

4.搭建团队

大模型项目团队与传统应用系统团队在技能
、
、、角色和需求上有显著的差异
。。

大模型项目更依赖于数据驱动的效果调优、、、模型微调和二次预训练等技术，，
，，而传统系统更关注业务流程的实现与系统的长期稳定性
。。。企业在推动大模型项目落地时，，，应根据首先落地的场景
，，，来做差异化的团队配置。。。例如
，，，，企业初期只选择了内部流程自动化场景，
，只需要做prompt优化和系统对接就可以，，，所以在AI团队上重点配置的就是提示词优化工程师、、工程开发工程师；而在RAG应用场景，，，就需要文档数据预处理、、检索优化等工程师。。

分阶段实施

推荐企业分阶段实施，
，避免一开始目标过大过难，，，从而造成建设过程受挫。。。

阶段一
：场景为王&运营提效

场景为王，，指的是选择最简单、、、
、最容易做出效果的场景去建设。。这个也是符合绝大多数企业的现状，，比如，
，，优先选择企业内部的知识问答、、流程自动化、、代码辅助编写等
。
。投入小、、、、见效快。。。。在这个阶段做出了成果，
，，，就能进一步扩大，，小步快跑。。。

例如，，，将传统表单流程改造为自然语言交互的的智能化流程，，，主要利用Prompt优化技术。。

也可以选择基于RAG的企业知识问答机器人，，整合企业内部文档，，提高知识检索的效率和检索效果。
。。

这两类场景，，，都能够快速进行落地
，，，并且进行效果调优之后上线，，
，迅速在企业内部推广使用。。
。。在上线后
，
，需要同步进行运营提效工作，，
，，持续收集场景反馈数据，，对落地场景效果持续优化
，，真正在初始落地阶段产生明显价值。
。。
。

阶段二：场景扩展

基于第一阶段的成功，，企业要深入到核心业务场景去，，，，解决一些复杂的场景问题，，发挥AI的价值。。。从辅助性角色，，，变成核心角色，，
，例如企业的销售机器人、、、、个性化服务机器人、、、、运维机器人等。。。这个阶段的特点就是复杂度会更高，，往往不是单靠大模型能完成的
，
，往往需要借助小模型、、、智能体等来协作完成
。。。。

阶段三：持续优化

为什么要做这个事情呢？
？因为不管是什么样的AI模型，，，只要部署了以后，，，它的固有知识就相对不会变化
。。。而业务场景不是一成不变的，，如果不持续优化模型
，，，
，它的效果一定会持续衰减。
。。。另外
，，企业落地的场景越来越多，，并发量越来越大
，，它所消耗的资源也成倍增加，，
，，如果我们不对它的底层资源进行优化，，，，那对企业来说将是一笔非常大的成本支出。
。

综上，，，
，在效果方面，，，
，我们通过不断采集、、反馈
、、优化，，，形成数据闭环，，
，来持续对场景做提效。。。。构建数据反馈闭环是确保企业大模型适应业务变化的基础，
，，，优化后的模型重新部署到业务场景中
，
，，，继续收集新的数据，，，形成持续反馈的闭环。。。这不仅让模型适应业务的变化，，，还能不断提高其在核心场景中的应用效果。。

根据实际的不同，，，，可能需要选择进行SFT或者二次预训练的方式
，，，
，提升模型的能力。。
。二者的区别在于
，，SFT微调更注重任务和场景的定制化表现，
，，
，而二次预训练更适用于提高模型在特定领域的专业能力。
。。。

在资源利用方面
，，
，，企业可以选择通过模型压缩
、、国产算力替代等方式
，
，实现资源的优化配置。
。。。

阶段四：赋能核心业务

这是AI落地的终极目标
，，AI大量融入到关键业务链条中
，，，，深入到企业核心业务
，，比如制造企业的研产供销服等环节。。未来，，企业的AI建设不断深入，，，，将不再是覆盖单一领域
，，而是会覆盖到企业的全部链条
，
，例如以上这些。。。
。在每一个环节，，，，都可以发挥AI的作用。
。。有了前三个阶段的经验积累，，
，，在这个阶段一定会走得更稳
、
、、更深入。。。。例如，，，
，在研发板块，
，，可以充分利用大模型的理解以及调用外部工具、、
、生成代码的能力，，辅助进行产品工艺设计和参数选择；在生产板块，，，，可以通过语音自然语言交互
，
，对机器人进行操作；在销售板块，
，，大模型结合数字人
，，，
，能够为用户提供更好的体验和服务响应；在设备运维方面，，
，，能够及时给出设备故障的维修方案
；在运营方面，
，
，，通过大模型提供个性化的数据分析和运营报告。。

评估

企业对大模型项目建设评估不仅仅是对一次项目执行结果的评估，，，更是对阶段性工作的评估，，，，包括但不仅限于项目业务价值、、、、用户体验
、、、、成本效益、、、
、模型性能与合规性、、、、安全性等多个维度的综合评估
。。
。。通过建立持续的监控与反馈机制，，，，优化运营成本，，
，
，分析模型的扩展潜力，，并结合未来发展战略，，企业能够在评估阶段进一步确保大模型项目的成功和长期价值。。。。

持续运营

只有坚持长期在数据和场景方面的运营深耕
，，
，才有助于构建企业的持续竞争优势
。。。在持续运营
，，，重点关注数据飞轮持续化和场景运营精细化。
。。

数据飞轮持续化：

• 整合多源数据（销售、
  、、、客服、、、供应链……），
  ，统一数据质量标准，
  ，，设置专门的数据治理团队；
• 设置模型效果评估标准（基于标准测试集和基于业务反馈结果）；
• 收集线上/线下反馈数据
  ；
• 关键指标监控（性能指标、、业务指标
  ，，，如转化率、、复购率）；
• 明确实施微调优化的准入标准
  ；
• 通过持续的数据积累、、数据反馈闭环
  ，，，推动模型的不断优化和迭代。。。

场景运营精细化:

• 一把手牵头，
  ，，发动各个业务部门梳理业务场景，
  ，细化到最小粒度场景；
• 对全量场景做价值度评估，，排优先级；
• 建立业务部门和AI团队的场景对接机制
  ，，，明确场景提出-评估-立项/关闭-建设-评估-运营的整个闭环
  ；
• 建立效果评估机制，
  ，对用户反馈做闭环跟踪；
• 挖掘新场景，，，
  ，鼓励内部做业务场景与AI结合的创新。
  。

以上就是一个完整的企业落地AI的路径方法论，，不同AI能力基础的企业可以选择不同的建设起点开始启动。
。。。

下期预告：在企业实施AI落地的整个过程中，，有哪些误区需要提前了解，，从而避免“掉坑”呢？
？？
？我们在下一期详细说一说，，，，企业在AI建设过程汇总的八大误区。
。