谁负责代理AI?

对于许多在技术方向上引起的建议,Gartner的最高战略技术趋势是一个路标。毫不奇怪,他们在2025年谈论的第一个趋势是代理人人工智能(AI)。用他们的话说,“代理AI有可能通过提供派生事件的见解来表现高度称职的队友。

为了详细说明,随着生成AI的普遍使用,第一级是单数查询,其中自然语言处理(NLP)用于答复。现在,我们看到了向一个新的层面的转变 – 自动解决更复杂的问题。这就是又名代理AI,涉及深层的迭代推理和多个步骤。

例如,一家主要的印度银行宣布打算将代理AI用于客户服务自动化。该系统超越直接的问题回答,可能会检查未偿还的余额,并建议根据客户的响应完成哪些帐户,然后完成交易。或者它可能与自主欺诈检测有关,该检测是由异常登录或非典型行为触发的,导致即时客户警报或快速补救,例如冻结帐户。这可能涉及行为生物识别技术和利用金融犯罪数据库的预测预测。

物流中的代理AI可能涉及跟踪库存,预测库存水平并自动化补充,从而排除了过度或不足的库存。成熟的,它可以包括优化的路由,识别潜在的中断,主动解决方案,智能仓储和即时客户更新。

在医疗保健中,代理AI可能与患者的需求相匹配,并与医疗专家的可用性相匹配,智能安排,以最大程度地减少等待时间,检索和分析报告,监测诸如心率或糖水平之类的生命力,提醒医疗保健提供者防止灾难以及索赔处理。医生可以使用代理AI分析大量医学和患者有关的数据,审查关键信息,捕获临床笔记,并制定定制治疗计划,从而大大提高效率。

基础过程涉及从各种来源(包括传感器,Internet或数据库)收集相关数据。然后,利用大型语言模型来获取专业模型来生成内容或建议,然后执行,通过API(应用程序编程接口)使用外部工具。并在预定义的护栏内行动,同时通过反馈循环不断学习。

代理AI的基础元素是携带过去票证的代理商,从各种来源汇总数据的代理,工作流代理以正确的顺序以正确的API进行跨应用程序执行,以确保完美的满足感以及有助于帮助的代理。系统的优势是这些多样化的虚拟代理的编排,必要时无缝地融合外部剂,从而实现创新和极好的成果。

不久前,超级自动化趋势。它涉及机器人流程自动化和工作流程自动化之类的过程,这些过程非常适合重复,合规性,基于规则的任务,但要与上下文依赖于上下文,非结构化,不断发展的场景挣扎。这正是代理AI发挥作用的位置,这是超级自动化之上的变革层,使自适应决策发挥了作用。

对这种解决方案的需求伴随着对专业人员的需求。领先的咨询公司表示,目前的代理AI专业人员目前少于100,000名,而到2026年的需求是该数字的两倍。这包括代理AI开发人员,AI框架架构师,解决方案工程师和系统性能测试人员,而不是说新的标题来满足新兴需求。

尽管AI自治为效率和最佳成果创造了巨大的机会,但围绕控制和问责制的风险不容忽视。

当您查看AI问责制,尤其是代理类型时,用户的角色显然以提示结束。 AI开发人员必须嵌入保障措施和道德原则,并提供审计监督。但是,部署可能被视为最终负责的组织必须设定明确的边界条件,巧妙地监视并智能干预。

法律法规通常无法跟上技术的发展以及它带来的微妙变化。印度有许多法律,例如2000年的《信息技术法》和2023年《数字个人数据保护法》,最终将导致特定的AI特定立法 – 必须直接解决偏见,歧视,隐私,错误信息,问责制和责任问题。只有这样,它才能推动成长和进步,并防止在无边界世界中武器的武器化。显然,随着人工智能变得更聪明,更加自治,人类必须保持其力量的管家。

如果AI被公认为具有其自身权利和责任的法人实体,它将有望变得更加有趣。

作者是创始人,thinkstreet。