在印度人工智能（AI）采取的第一项措施之一中，印度证券和交易委员会（SEBI）发表了一份咨询文件，要求对其在证券市场中使用AI/机器学习（ML）的建议进行反馈。
正如咨询文件所定义的那样，AI是指允许机器“模仿人类决策来解决问题”的技术。 ML是AI的子集，是指自动学习规则以通过分析相关数据来执行任务。
目前，SEBI要求市场基础设施中介机构，例如证券交易所，清算公司，存款人类等，以及诸如共同资金之类的中介机构来报告其使用的AI/ML系统，从而使监管机构对其用例有所了解。
用例和治理原则
SEBI缩进了AI/ML用于各种目的。例如，证券交易所利用AI进行了复杂的监视和模式识别，经纪人正在将其部署为产品建议和算法订单执行。 AI还用于客户支持。
根据谁创建AI/ML系统，可以将它们分为两类 – 内部建造或从第三方来源。在这种情况下，还必须记住，可以将AI/ML系统彼此集成以及当前系统。此外，AI的功能正在迅速扩展，模型在金融和产生模型投资组合的近乎准确的预测中，从现在起就不会太久，为基金经理提供资金。
在一种前瞻性方法中，SEBI的咨询论文提出了指南，以五个核心原则（模型治理框架，投资者保护，测试机制，公平和偏见以及数据/网络安全性）构建指南。
重要的是，SEBI建议将第三方服务视为由有关的中介机构提供，因此对任何违反证券法的行为负责。此外，它还扩展了投资者申诉机制在AI/ML系统方面的适用性。
走向更安全，更聪明的框架
SEBI提出了一个“监管Lite框架”，试图在对客户和内部业务运营的AI/ML系统之间进行分离。此外，即使系统被外包，中介机构也会承担责任。中介机构的真正挑战在于建立复杂的内部团队，强大的审计步道以及管理此类系统的技术能力。在这种情况下，值得考虑的是SEBI是否应该重新审视这种方法并从其自己的剧本中借出叶子。
2月，监管机构引入了修订的框架，以使散户投资者更安全地参与算法交易。鉴于几个实体为客户提供算法策略以及随之而来的风险，Sebi决定引入一类新的受监管实体，即。算法提供商。尽管他们不受IT的直接监管，但算法提供商必须成为股票经纪人的代理商，并注册并与证券交易所授予。
可以在AI/ML系统和一个新的人（AI提供者）中评估类似的方法。尽管SEBI不必直接监管此类人，但它可能会更好地监督和了解AI行业不断发展的性质及其联系以及对证券市场的影响。此外，如果AI/ML系统出错，尤其是如果中介在违规中没有作用时，可以对实际责任的人员或实体固定责任。级联诉讼的另一种结果，因为投资者将起诉中介机构，这反过来又寻求从第三方供应商（AI提供商）中收回损失。虽然提议将投资者的申诉机制扩展到AI/ML系统，但在证券市场中引入新的半监管参与者可能会更好地以透明，负责任的方式促进增长，并进行适当的监督。
SEBI的建议包括在开始和持续的测试要求，以确保AI/ML系统按预期工作。在这里，一项可以推动其增长的主要改革是允许玩家访问监管沙盒框架来测试其产品和系统。这将导致对此类系统的审查，并允许SEBI与AI行业的新兴参与者合作。这还将提供关键数据点，以帮助整个最佳实践不断发展。这样的框架将有助于它成为一个积极主动的监管机构，而不是对技术发展做出反应。这将是将SEBI转变为监管机构的第一步，其监管框架为更多的创新和进步奠定了基础。这种方法将使SEBI成为推动者，而不是对新技术施加障碍。
本文也强调了AI的潜在危险。监管机构明确标志着通过深层效果和错误信息用于市场操纵的生成AI的威胁，如果该行业过于倾向于一些主导的AI提供者，则系统的集中风险。识别集中风险尤其显着，因为不受管制的技术提供商成为该行业的系统性障碍的危险。此外，由于只有少数基础模型，因此在每个人使用相同的AI模型（在相同数据上训练）的合成数据循环的风险可能会导致辅助行为和放牧的风险。
SEBI提出的基于原则的监管LITE框架的提议反映了其反映其未来将影响金融市场的技术创新的意图，这一建议值得称赞。同时，不仅可以采取一些步骤来调节，还可以设计一个领先于曲线并支持增长和创新的监管框架。
与Finsec Law Advisors助理的高级助理Parker Karia和Varun Matlani合着。
作者是执行合伙人Finsec法律顾问。
