Balakrishna DR说:“如果您想要准确性和可靠性,请去混合动力。”

随着企业希望从其AI投资中提取真实的可扩展价值,一定程度的所有模型的局限性越来越明显。公司正在从单建模AI部署到混合,多范式架构(也称为Poly AI),而这种演变为代理AI奠定了基础。 Infosys推出了200多个企业AI代理,旨在改变企业流程。在这次访谈中,Infosys全球服务主管Balakrishna DR,全球服务主管,Infosys全球服务负责人,与Sudhir Chowdhary有关市场过渡以及Poly AI架构如何使代理AI的兴起与Sudhir Chowdhary进行了交谈。摘录:

混合AI模型从策略上结合了多种AI方法(传统机器学习(ML),大语言模型(LLM),小语言模型(SLM),蒸馏模型和特定领域的微型微型模型 – 比任何单一解决方案都更有效地解决复杂的业务问题。这种方法就像组建一个专业团队一样,而不是依靠一个人来完成一切。

对于企业挑战,这种方法尤其有效,因为企业同时处理不同的数据类型和需求。混合动力系统可能利用传统的ML进行结构化财务数据分析,用于复杂推理任务的LLM,用于成本效益的边缘处理的SLM,更快的版本的蒸馏模型以及专门用于行业特定术语和工作流程的微型模型(例如,医疗保健诊断或法律文档分析)。与仅使用大型模型相比,这种组合可提供卓越的准确性,降低成本,并通过在云或云中的灵活部署选项来确保数据隐私。

Infosys采用了全面的混合AI策略,将专有的小语言模型与已建立的大语言模型和传统ML技术相结合。我们的方法可以平衡可靠性,成本和数据符合性与“模型服务”产品,以帮助客户创建自定义模型。

Infosys开发了针对银行,ITOP和网络安全等领域的行业特定小语言模型。他们为客户使用本地部署模型,更喜欢本地数据处理,同时使用大型语言模型进行推理任务。传统的ML模型对于许多涉及交易数据的业务流程仍然是核心。

对能够独立计划,执行和适应的代理AI系统的过渡需要可靠的,相互连接的AI组件的基础。 Hybrid AI通过创建可以处理多步推理和多样化数据处理自主代理需求的强大系统来为这一基础提供。

代理系统通过创建执行计划并使用专业工具与企业系统进行交互来运行。这是混合AI变得至关重要的地方。每种工具交互可能需要不同的AI功能:针对精确解释的域特异性微调模型,用于快速决策的蒸馏模型以及可作为质量检查以减轻代理错误的验证模型。

例如,当代理系统处理复杂的财务交易时,它可能会使用微调的银行模型来进行监管要求,用于快速文档分类的蒸馏模型,加固学习模型(RL)模型来优化验证步骤和验证模型来确保合规性。这种混合方法可以保证对处理关键业务流程的自主系统必不可少的准确性和可靠性。

代理AI已经部署在各个行业和垂直领域,尤其是在业务,IT和运营中。对于一个主要的消费技术组织,开发了深入的研究代理,以帮助团队有效研究复杂的技术问题。这导致了生产力和客户体验的实质性和一致的提高。同样,对于技术提供商,已经部署了代理商来改变财务会计流程,直接影响业务成果和员工的生产力。在Infosys的客户群中,采用代理AI参与正在稳步增加。