赋能AIGC走向业务场景，新华三百业灵犀以“五星原则+四域支撑”-aigc导航|ai导航
由南京市人民政府、中国信息通信研究院联合主办的2023南京人工智能产业发展大会盛大开幕。此次大会以“AI新趋势智能新时代”为主题,汇聚中外人工智能领域产业领袖、学术专家和行业代表,共谋人工智能产业发展新图景。紫光股份旗下新华三集团数字中国研究院常务副院长李飞受邀出席并发表主题演讲,从行业用户的使用角度出发,分享了新华三对大模型在行业私域部署落地的挑战和问题,以新华三自身探索和应用私域大模型百业灵犀(LinSeer)的经验,提出以“五星原则”和“四域支撑”来助推AIGC走向业务场景。
新华三集团数字中国研究院常务副院长李飞
五星原则设身处地为行业定制
当前AIGC技术正在加速融入百行百业,行业客户在积极拥抱AIGC的同时, AIGC的应用效果和使用成本已经成为CEO/CTO最关心的问题,然而不断增长的大模型参数量、硬件资源需求以及持续激增的能耗压力,导致其在行业落地时面临困境。李飞指出,以合适的切入场景、合理的模型大小、高效的数据治理、合规的内容安全、合用的落地工具为核心的“五星原则”,将有利于促进AIGC与产业的深度融合。
●合适的切入场景:通过区分AIGC业务应用场景可加速推动人工智能产业的落地应用,目前,百业灵犀(LinSeer)可为各行业引入丰富的AIGC细分场景。
●合理的模型大小:AI大模型的大小需要平衡算力和能耗的开支,应选择适合行业特点和业务特点的大模型进行私域部署。新华三集团自主研发动态混合专家(Dynamic Mixture of Experts)模型技术,能够将多个专家模型的预测结果进行加权组合,实现最优部署。
●高效的数据治理:数据是私域大模型发展的核心要素之一,新华三以绿洲平台为基础,通过构建私域数据湖进一步沉淀行业数据,帮助客户训练自己的知识模型,形成宝贵的行业数据资产。
●合规的内容安全:客户业务与AIGC的结合可能会带来商业机密或个人隐私的泄露、违反法律法规等内容安全问题,通过建立内容输入防护、模型本身防护和内容输出防护为一体的内容安全体系可有效规避安全问题。
●合用的落地工具:有效规避大模型与应用的场景割裂,利用大模型使能平台帮助行业客户打通大模型到具体业务场景需求通道,通过连接应用与大模型,提升大模型的行动力和记忆力,实现应用场景的拓展和衍生。
四域支撑助推“四专”价值实现
AIGC生产新范式带来生产力的变化,将重塑各行各业的生产关系。作为数字化解决方案领导者,新华三集团与时俱进,全面拥抱AIGC时代。在今年推出的私域大模型百业灵犀(LinSeer),具备行业专注、区域专属、数据专有、价值专享的特点,可为垂直行业和专属地域的客户提供安全、订制、独享、生长的智能化服务。
目前,百业灵犀(LinSeer)已形成以绿洲平台为核心的数据域、以大模型使能平台 (LinSeer Hub)为基础的大模型域、以数据安全审查为重点的安全隔离域、以AI助手及AI服务组成的用户域的“四域支撑”,可为行业用户提供端到端的私域部署服务,勾勒出百业灵犀(LinSeer)价值实现的全景图。
新华三百业灵犀(LinSeer)价值实现全景图
更简单:以完备的AI工具链降低大模型应用过程中的使用成本,通过会话调试可灵活测试、评估大模型领域能力,帮助客户持续优化提示词,调配模型参数,在降低大模型运营成本的同时提高推理效果;
更通用:可兼容不同推理平台及各类大模型,用户可灵活对应用进行授权,会话、知识检索、指令调用等功能均可通过大模型使能平台 (LinSeer Hub)统一管理和推理部署;
更安全:内置安全限制提示词和出入内容过滤拦截功能,可对所有场景下大模型生成内容进行安全性限制,为用户信息和数据安全保驾护航;
更智能:通过提示词管理、编排和使用,可明确大模型对应用场景的目标、策略和约束,并通过向量存储和检索让大模型具备记忆力,最大化提升大模型的行动力。
面向未来,新华三集团将不断深化“云智原生”战略,秉持“精耕务实,为时代赋智慧”的理念,把握AIGC时代脉搏,精研云智原生前沿技术,深耕客户应用场景,以AI之力全面赋能百行百业数智创新。
