T-EDGE双峰会洞察实证：顺网科技在GenAI领域的探索与实践

量子位的朋友们 2023-12-12 10:40:28 来源：量子位

“我们在看待生成式AI创业时，不仅仅局限于大模型，而是更关注场景应用，以及为场景应用提供支撑的中间层，这些领域仍然蕴藏着巨大的机会。”

在12月初召开的2023中国上市公司投资价值峰会暨中国投资基金峰会（以下简称“双峰会”），顺网科技CEO樊星博士在探讨《GenAI 时代的商业化挑战与机遇》时如此指出，这一前瞻性的观点引起了广泛关注和讨论。

如果说GenAI的第一步是通用于各行各业，那么第二步飞跃便是在垂类场景中稳健落地，其具备两种落地范式：

第一种路径是直接在大型模型上进行应用开发，或者进行简单的商业化封装。这种方式反应迅速，能快速吸引用户，但其在国内可能面临合规性问题。而进一步的，由于门槛不高，这种方式容易被大模型逐渐取代。

第二种路径则是结合大模型和中间层框架的方法。这种方法考虑到了大模型自身的局限性，补充提示工程、答案工程，注入行业垂直模型，提高了模型的应用效果。在这种模式下，企业所拥有的丰富行业数据，可通过中间层安全地提供给大模型。

在这样的认知下，顺网科技构建了模型层-中间层-应用层的场景落地路径。

模型层方面，顺网科技采取了一种独特而高效的策略：构建一个全面的模型池，而不是自行开发单一的大模型。这个模型池聚集了来自不同来源的多样化模型，涵盖了广泛的功能和特性，使得顺网科技能够针对各种应用需求灵活选择和组合适当的模型。此外，为确保解决方案的实用性和针对性，顺网还在在模型池中重点融入了专门针对游戏和泛娱乐领域的行业垂直模型。这些模型基于对以游戏为代表的泛娱乐领域的深入理解和数据分析而构建，能够精准地满足陪伴虚拟人开发、游戏体验优化、个性化角色聊天等特定需求。这些小型模型专注于特定的任务或流程，例如游戏角色的自然语言处理、情感分析，或者是游戏场景中的复杂决策支持。它们虽小，但功能精准，能够在其专长领域内提供极高的效率和准确度。

中间层方面，顺网科技选择建立SPICE引擎解决大模型落地的最后一公里，提供语料的实时采集、数据清洗、过滤和嵌入，这些功能确保了数据的实时性和准确性，为大模型提供了高质量的输入。

SPICE引擎的一个显著优势是它为上层陪伴应用提供了一个通道，使它们能够访问和利用大模型池与知识库。这一过程涉及到大模型与知识库的有效融合，以及应用的部署和执行。这种融合不仅使得顺网能够充分利用已有的知识资产，还能借助大模型强大的表达和推理能力，实现二者的完美结合。

SPICE引擎还令AI应用具备了长期记忆的能力。由于Token的限制，大模型本身只能拥有短暂的记忆能力。通过SPICE，顺网能够帮助陪伴AI应用构建长期记忆，这一点在处理复杂和长期的任务时显得尤为重要。此外，SPICE还整合了深度学习、自然语言等多项AI技术，创造了一个能够进行复杂思考、自主行动和精准感知的框架。通过这一引擎，AI可以更好地理解用户的意图，预测用户的需求，甚至与用户进行自然且富有情感的交流。

应用层方面，顺网科技推出了“顺网灵悉”，这是一个针对陪伴场景设计的个性化虚拟游乐场。灵悉的世界提供了一个独特的平台，其中用户可以与各种AI虚拟角色互动，这些角色不仅有着多样的形象和个性，还具备丰富的知识和能力。

在游戏陪伴功能中，灵悉将其设计成为了一个可选择的“技能”选项。用户可以选择不同AI角色加载“技能”一起游戏，体验不同类型的游戏场景。它们不仅是玩家的助手，还能成为指导者或伙伴，增强游戏的沉浸感和趣味性；而在角色定制方面，灵悉的世界允许用户创造和定制自己的AI角色。用户可以选择角色的外观、性格特征、技能等，创造一个完全符合个人偏好的虚拟伙伴。这种定制化的体验使得每个角色都具有独特性，为用户提供了一个充满想象力和创造力的空间；在设想中，灵悉将构建一个“世界”生态，让用户之间可以交流经验、分享角色故事和游戏挑战。在灵悉世界中，用户可以展示自己创建的角色，与其他用户的角色互动，甚至可以组织或参与虚拟活动和挑战，增强用户间的互动和参与感，构建一个活跃且开放的AI陪伴生态世界。

在模型层、中间层、和应用层之外，顺网科技在其18年的业务历程中积累了丰富的数据维度和广泛的应用场景，尤其在泛娱乐领域。这些高质量的数据成为了AI持续迭代和智能化调优的坚实基础。每一份数据的获得和处理，都是对模型智能的进一步增强，确保了AI技术在精准性和适应性上的持续提升；在算力方面，顺网科技凭借其在电竞和游戏娱乐领域的深厚积累，构建了一个高效的多层次算力网络和资源池。

这个网络特别针对电竞和游戏领域的需求，提供了极低时延的渲染算力，通常达到毫秒级，满足了这些应用对速度的严格要求。同时，顺网也充分考虑到了其他非时间敏感场景的算力需求，展现出其算力网络的灵活性和适应性；未来，顺网将通过提供英伟达GPU算力解决方案，进一步支持AIGC、模型推理和XR/MR等应用场景。随着大模型终端化适配，以及半导体终端侧 AI 能力的提升，对 AI 场景的支持将从推理向更多场景延展。

随着顺网科技在AI领域的深入探索，顺网科技已经成功地集齐了AI商业化的五大关键要素：场景、中间层、模型、算力和数据。樊星博士在其演讲中总结道：“在GenAI商业化的征程中，这五个要素是不可或缺的。场景不仅是触达用户群体的关键，也是商业闭环形成的核心。中间层的作用在于加速试错过程，帮助我们更快地识别并满足用户的具体需求。模型是生成式AI这一轮最核心的能力部分，算力是基础支撑，而数据则是细分领域表现出色的根本。”