数据成为企业落地大模型的核心挑战

“目前，数据问题已成为企业落地大模型的核心挑战之一。”近日，在接受记者采访时，北京灵奥科技CEO厉启鹏表示，在生成式AI时代，大模型的应用落地与数据的情况紧密相关。

从企业需求来看，企业业务数据随着企业运营实时变化，模型需不断学习不同来源的、持续变化的业务信息。然而数据的类型繁多、格式杂乱且来源无法统一。

同时，数据隐私和大模型使用的安全合规是企业业务不能触碰的红线。企业既要让模型理解好数据，又需要做到安全合规。不同大语言模型由于训练数据来源不同，侧重点有差异，导致模型会存在偏见。企业需要评估不同模型的能力以及为不同业务场景选择合适的模型。

北京灵奥科技CEO厉启鹏

厉启鹏认为：“大模型中间件介于大模型和应用之间，帮助企业解决数据问题，打通大模型企业端落地‘最后一公里’，是企业构建AI应用的必备组件。”

公开信息显示，北京灵奥科技是一家快速成长的初创企业，致力于推动生成式AI技术的普及，从而加速企业的商业成功。公司先后推出了Vanus Connect、Vanus AI和VanChat三款SaaS产品，累计服务全球30,000+用户。目前已经获得靖亚资本、PNP等机构的多轮融资。

为帮助企业解决这些问题，北京灵奥科技（Vanus）将大模型优势和业务数据无缝结合，提供多模型选择，实现商品数据自动同步，包括商品数据自动更新、Shopify数据自动接入等。还可与网站、钉钉、飞书、企业微信等第三方应用无缝集成，助力企业灵活定制机器人，自定义聊天风格、欢迎词、外感颜色等。

目前，北京灵奥科技（Vanus）通过亚马逊云科技的基础云服务、大语言模型、数据存储三类云服务，为企业构建AI Agent平台。

例如，VanChat为南美州某服饰类电商企业提供服务。据介绍，该电商企业拥有两个Shopify电商独立站，商品品类超过10000 。客户每天有大量产品、退换货、物流等问题咨询，需要很多客服人员，管理成本高。而且客服人员下班后仍然有很多客户询问，延时回复不仅导致客户满意度下降，还因此错失了很多商机。

Vanus通过基于Amazon Bedrock、Amazon S3等云服务为Shopify电商客户构建客服类Agent VanChat，为网站购物者提供7*24小时即时问题回复，为企业节省大量人力资源，提高客户满意度。此外，通过VanChat提供的用户意图识别、产品推荐等功能加速用户产品购买，提升网站的销售额。VanChat为该客户带来快速的营收增长，仅上线首月ROI高达611%；同时，了解用户主要关注的产品以及最近常被提及的问题，提供客户洞察。

在厉启鹏看来，数据的理解和使用是关键，企业需要高效管理新数据，确保数据与大模型结合，创造差异化价值。

未来，北京灵奥科技期望在模型训练、数据处理方面与亚马逊云科技加深合作，探索更多AI应用，如持续预训练，以数据基座支撑生成式AI时代的企业成功。