在正式制定识别、标记和监管深度伪造品和其他合成内容的规则后，电子和信息技术部 (MeitY) 将很快推出一项关于人工智能的全面立法。
官方消息人士告诉富裕，一旦规则草案的公众咨询于11月6日结束，政府将最终确定。然而，为了避免可能的法律挑战，将遵循 2000 年《信息技术 (IT) 法案》制定全面的人工智能法。
这意味着议会将提出一项法案来解决与深度伪造和合成内容相关的问题。
目前，拟议规则是根据 2021 年 IT（中介指南和数字媒体道德准则）规则制定的，该规则的权力源自 IT 法案。法律专家指出，由于该法案并未专门涉及人工智能，因此任何此类规则都可能在法庭上受到质疑。
网络法专家 Pavan Duggal 向 FE 表示：“需要制定一项法律来遏制深度造假或人工智能的任何方面，因为 MeitY 目前提出的规则可能会受到挑战，因为它们的范围超出了主要立法。” “规则本质上是次要的，不能超出母法的范围，”他补充道。
官员们表示，一旦人工智能法案到位，随着技术的发展，它可以通过额外的规则进行扩展，就像信息技术法案框架允许的那样。
新规定标志着人工智能创建或修改的数字内容的监管方式发生了重大转变。政府的担忧源于深度伪造视频、图像和音频等工具的迅速崛起，这些工具越来越多地被用于欺骗和虚假信息。
根据拟议的规则 3(1)，任何允许用户创建、修改或共享合成内容的中介机构都必须确保此类材料带有可见标签或嵌入式元数据，明确标识其为人工材料。标签必须是永久性的、不可移除的且显眼地显示，至少覆盖视觉内容屏幕的 10%，或在音频剪辑的前 10% 中以声音方式说明。
对于被归类为拥有超过 500 万用户的重要社交媒体中介 (SSMI) 的主要社交媒体平台，还需承担额外义务。他们必须在上传时寻求用户声明内容是否由人工智能生成，并部署相应的技术工具来验证此类声明。如果发现是合成的，则必须清楚地标记该内容或带有明显的通知。
根据用户投诉或通过内部机制删除或限制访问有害合成内容的平台将继续享有 IT 法第 79(2) 条规定的安全港保护，从而使它们免于对用户生成的材料承担责任。
为了防止过度扩张，MeitY 明确表示新义务仅适用于公开共享的内容，不适用于私人或未发布的材料。
IT 规则中信息的定义也得到了扩展，包括综合生成的数据，确保人工智能创建的错误信息、诽谤性内容或冒充行为在法律下得到与现实世界同等信息同等的待遇。
