假如企业使用AI有段位，你在哪个段位？

（本文系紫金财经原创稿件，转载请注明来源）

刚刚过去的2023年，被誉为科技史上的奇迹年。其重要性堪比牛顿发现力学、爱因斯坦提出相对论，对后世影响具有深远意义。

这一年，大洋彼岸的大模型风潮传来，国内几乎所有具备AI技术积累的企业纷纷入局，一同共赴这场技术比拼的盛宴。霎时间，各种类型、各种参数的大模型悉数亮相，大厂们正在用AI技术颠覆千行百业。

诚然，大模型是未来发展的主要旋律之一，人工智能技术加速创新，一场范式革命已经拉开帷幕。然而，相比个人而言，对于大模型的重要使用者企业来说，当千亿乃至万亿参数大模型轮番上阵，上演大模型算力比拼的“表演”时，追求现实应用的企业，真正能在这场演出中收获几何？

大模型日新月异，能够赋能企业的共识已经达成，但大模型究竟该如何增效、甚至颠覆企业工作场景，什么类型的大模型，才能让企业真正吃到人工智能红利，借助技术东风更上一层楼？

“使用私有化大模型，让经营数据内循环生长，才能让企业具备持久竞争力。”猎豹移动董事长兼CEO、猎户星空董事长傅盛在2024年开年AI大课暨猎户星空大模型发布会上如是说。在他看来，企业的私有数据是优质数据资产，只有将私有数据和大模型技术结合，为企业配备专属的私有化大模型，才能真正落地应用场景，释放大模型的效能，提升企业效率。

猎户星空的大模型就是为了企业应用而生。据傅盛介绍，凭借着“全家桶”级的微调能力，在专业场景里实现媲美千亿级模型的效果。私有化大模型不仅能真正完成数字员工，还能基于企业过往数据实现AI辅助决策，充当团队虚拟智能锦囊的角色。

正如乔布斯所说，技术不是为工程师而生，而是为应用而生。在这波大模型的浪潮中，企业想要真正搭上新技术的快班车，重心应该落在如何将技术和场景结合，而非是一味追求更大参数规模的算力上。

将私有数据和大模型技术融合，才是抓住企业真实需求，抢滩大模型赛道的破局之道。

不是所有企业都需要“爱因斯坦”

自从Chat GPT 3.5问世，展现出惊人的生成式AI技术至今，不过短短一年有余。虽然诞生时间较短，但在Chat GPT的数据中，已经涵盖了过往几百年来的人类智慧结晶。所有在互联网上记录的文字内容，都已被Chat GPT掌握甚至融会贯通。

同理，虽然国内各家大模型还未喝上“周年酒”，但其数据的来源已经贯穿古今，成为一个堪比爱因斯坦般智慧的存在。

虽然大模型已经具备最广泛的知识，但是具体到解决具体工作的能力和知识并不多。举个例子，当家里的电线短路时，你会寻求一个拥有所有学科博士水平的专家帮助，还是给楼下从事电路维修二十年的电工师傅打电话？

答案显然是后者。

让更专业的人做更专业的事，是解决方案中的最优解。这般朴素的逻辑同样适合大模型在企业的实际应用中。一家企业需要的大模型，只需要更懂自家企业运行、自身行业发展，而非掌握所有知识的大模型。

这也是目前大模型难以推进落地场景的重要原因之一，使用者清楚的知道大模型技术的出神入化，但却不知道如何使用。所以，目前C端使用者对于大模型还只停留在尝鲜、猎奇的阶段，尝试文生图、一问一答的简单使用。B端使用者在工作时，也只是借助大模型的生成技术，完成一篇颇有GPT味道的工作汇报，难以真正地在更有价值、更有挑战性的工作场景中，释放大模型的技术魅力。

如此一来，不仅浪费了大模型在训练时的巨额投入，更是局限了大模型落地的无限可能性。

综上所述，企业需要的不只是一个会说正确但无用的“爱因斯坦”大模型，而是更清楚员工工作、企业业务、行业环境，更能解决实实在在痛点的私有化大模型。

除了更垂直的专业外，私有化大模型也能降低企业使用成本。在工作场景中百亿参数基座+数据和应用，其带来的能力基本上等同于市面上通用的千亿参数大模型。猎户星空的客户案例中，已经证实了这种可行性。通过百亿参数+应用大模型，其回答专业问题的准确率高达97%，而GPT4仅能达到60%。

简而言之，不是“爱因斯坦”用不起，关键的一点是：不是每个企业都需要。

对于企业而言，部署私有化大模型，可以深入企业在会议纪要、规章制度、图表数据、文案打磨、创意脑暴等多个工作场景。真正让企业做到自上而下、由内到外的大模型技术升级。抓住这次技术东风，成为第一批用上且用好大模型技术的玩家，持续构建所在行业的核心竞争力。

企业“暗知识”才是核心竞争力

大模型时代，数据是非常重要的生产要素，数据质量直接影响模型效果。无论是对于大模型厂商还是使用者而言，手握优质数据都意味着掌握绝对优势。

通用大模型的确具备海量的公有数据、公有知识，但是对于企业而言，这些数据训练后的答案，大概率会是正确但无用的。企业想要真正有用的大模型，需要更精准的数据。这部分数据来源，并不在互联网上，而是企业经过多年运营沉淀的数据，这也是企业最大的竞争优势。

傅盛曾说过，“通用大模型无法解决城市和企业的实际或特色问题。互联网上出现的人类知识只是冰山一角，水面之下大量的私有知识还无法体现。”

例如每家企业开会时的数据，从开会前期的需求收集、中间的讨论、形成决策、实践并复盘，这些都是通用大模型没有的数据。“一个公司真正的效率就是它的流程决策，从做出决定到付诸实践，这其中的一点一滴都是每一家公司的核心，这是通用大模型无法做到的。”傅盛认为。

傅盛将企业使用AI的方式，总结为三个段位。最低级的段位“青铜”，就是企业使用公有数据的大模型。在这个段位中，大模型只能帮助企业完成最简单的文案包装等营销工作，并不能实现全链条的提效。

相比之下，“黄金”段位的企业，已经在大模型中加入专岗私有数据。通过专岗私有数据，加上检索的方法配合大模型进行任务处理（RAG检索增强生成），进而可以实现使用企业数据的知识问答。

通过一个案例便可知晓私有数据的重要性。例如当员工想要知道自己的年假时长时，通用大模型给出的只是基于法律法规亦或是当地特色数据生产出的答案，而私有化大模型，经过企业私有数据训练后，能给员工一个真正符合该企业员工休假标准的答案。后者才是真正解决员工问题的大模型。

此外，当专岗私有数据叠加Agent套件后，可以让大模型像人一样自主完成工作，具备拆解任务目标、制定任务规划、使用外部工具、查询知识库、调用记忆与企业系统打通的能力。

私有数据训练出的私有化大模型，能真正将员工工作落到实处，向数据员工方向靠拢，同时具备降本增效的效果。

最高端的段位，就是企业经营数据+大模型+强应用结合的“王者”段位。通过更宝贵的经营数据，让大模型分析经营环境的风险，充当辅助决策的工具，利用AI技术规避经营风险。

“黄金”、“王者”段位，就是猎户星空大模型所追求的实际落地效果。为此，傅盛率领猎户星空团队，拿出了七年磨一剑的技术。

1月21日，猎户星空发布的大模型，在百亿参数大模型基座能力行业领先。Orion-14B在MMLU、C-Eval、CMMLU、GAOKAO、BBH等第三方测试集上，均为同级别模型SOTA。实现长文本中，最长可支持 320K token 超长文本，可以一次性读入一本小说。在三十万文字中任意位置随机隐藏关键信息，对模型进行提问，结果全部正确。猎户星空大模型在Agent应用所需的五种能力上，几乎追平了GPT-4——相比之下，一般的百亿参数大模型表现不超过70%。

为了更贴切企业实际应用需求，猎户星空大模型通过AWQ Q4量化技术，模型大小减少70%，推理速度提升30%，性能几乎无损(损失小于1%)，可在千元级显卡上流畅运行。在NVIDIA RTX 3060显卡实测，推理速度可达31 token/s (约每秒50汉字)。在私有化部署方面，猎户星空大模型可置于企业内网，所有数据不连公网。

猎户星空的大模型底座更抗打，也更适合企业使用，叠加企业的私有数据后，即使是百亿参数，也可与千亿参数模型媲美。由此可见，部署私有化大模型，更适合企业追赶新技术浪潮。大模型时代下，企业的私有数据才是决胜秘籍。

所有企业，都需要一个“数字老板”

从使用价值来看，具有战略视野的老板们掌握新技术，更能释放技术价值。从整个流程，开始进行AI重构。此外，基于AI加持，企业高层能以最快的链条听到一线员工的心声，从最前端把握企业经营发展细节，消除和员工之间的“信息差”。

最近两天，英伟达CEO黄仁勋最热的消息是，在公司年会上，身穿“东北大花衣”扭秧歌。而实际上，在前不久，黄仁勋每周看完2000份周报的消息，更能震惊创业圈和业界。在感慨黄仁勋亲力亲为的精神时，不禁产生疑问，黄仁勋是如何做到的？

他的法宝是AI。

同样的，猎户星空也想帮助所有的企业管理者，实现同样惊人的壮举，并将其变成日常，其发布的AI辅助决策交钥匙解决方案是“聚言”。“聚言”的人力助手可以将收到的数千份周报汇总，并提炼出主要的业务进展和潜在的风险。

企业老板还可以进行针对性提问，例如询问某项业务具体风险的应对方案，AI会完全依据周报的内容，给出回答。

此外，当AI完全掌握了公司的私有数据时，还能预测出员工的潜力。根据业务特点，创建出得分系统，进行数据分析后给出结果，并同时附上非常直观的图表。通过“数字老板”的方式，让企业高层全面掌握经营细节。

除了人力助手之外，“聚言”还具备云资产助手的应用场景。云资产一直是科技企业的主要成本之一，但真正能懂云资产成本的高层较少，进而使得企业出现云资产浪费的情况。

猎户星空的云资产助手，来自不同领域云治理专家的经验，进而训练出的专业领域大模型。对企业的云上资源和成本账单数据进行多维度分析，从而进一步剖析运营成本痛点。

经过猎户星空实测，云资产助手可以为企业节省30%的成本。

更具有想象空间的是聚言创意助手，由多个Agent组成，让各个领域的专家直接为你出谋策划。在聚言创意助手中，勾选参与战略规划的角色，输入话题，它们便会从不同角度提供方案。

“聚言”是结合场景数据的大模型深度应用，通过全链条的AI大模型咨询定制，为客户提供AI辅助决策交钥匙解决方案。从实际应用来看，“聚言”完全是从场景出发，以目标为导向的开发产品。这类逻辑诞生的产品，往往更具有实用性，也更能在实操中挖掘出意料之外的惊喜。

“数字老板”的出现，等同于为企业高层配备一个专属智囊团。短时间内可以实时跟进员工业务进度、减少不必要的成本损耗，长时间内可以有一份更科学的战略辅助决策建议，为未来发展提供助力。

所有企业，或许都需要一个“数字老板”，未来打败企业的也许不是同行，而是会用AI的同行。

总结：

没有落地场景的技术，只是空中楼阁，没有实际使用价值的AI，只是一场技术的狂欢！

私有化大模型基于应用场景而生，为大模型技术落地实践了一条新路。新技术的出现，固然需要奋起直追，但是这并不是一场盲目的赛跑。仔细思索新技术的用武之地，才是弯道超车的关键。