电子和信息技术部 (MeitY) 周三制定了一个明确的框架来识别、标记和监管深度伪造品和其他综合生成的信息。同样，我们还对 2021 年《信息技术（中介指南和数字媒体道德准则）规则》提出了一套新的修正案。
该提案标志着信息技术法首次对综合生成的信息进行了法律定义，标志着人工智能创建或修改数字内容的处理方式发生了重大转变。
政府的理由很简单。使用生成式人工智能创建的 Deepfake 音频、视频和图像已迅速发展成为强大的欺骗工具。
电子和信息技术部长 Ashwini Vaishnaw 在接受媒体采访时表示：“该草案旨在帮助用户区分合成内容和真实内容，同时让社交媒体平台承担责任。” “利用名人面孔制作深度伪造品的威胁日益严重。我们采取的措施确保用户知道某些东西是合成的还是真实的。这种区别将通过强制标签和元数据来实现，”Vaishnaw 补充道。
这些提案概述了一个清晰的操作系统。任何使用户能够创建、修改或分发综合生成的内容的中介机构（例如社交媒体平台或应用程序）现在都有义务确保此类内容带有可见标签或嵌入式元数据，以识别其为人工内容。根据新提议的规则 3(1)，该标签必须是永久性的、不可移除的且显眼地展示。对于视觉内容，它应至少覆盖屏幕表面积的 10%；对于音频，必须在剪辑持续时间的前 10% 内播放声音。换句话说，用户滚动浏览视频源或收听剪辑将立即知道他们所消费的内容是真实的还是合成生成的。
对于仅托管用户生成内容的平台，例如 Facebook、Instagram、YouTube 或 X，义务甚至更进一步。根据 IT 规则，这些平台被归类为重要社交媒体中介机构 (SSMI)，在该国拥有超过 500 万注册用户，它们必须在上传时获得用户声明，询问内容是否是合成生成的。他们还需要部署合理且相称的技术工具来验证这些说法。如果内容是人工智能生成的，平台必须确保其有清晰的标签或附有明显的通知。
基于用户申诉或内部检测而删除或限制访问有害合成材料的平台将继续享受 IT 法第 79(2) 条规定的安全港保护。这种保护确保平台不会因负责任地遏制有害或误导性内容而受到不公平的惩罚。
为了避免过度扩张，Meity 澄清这些义务仅适用于在社交媒体平台上公开共享或发布的内容，不适用于私人或未发布的材料。
该规则还明确指出，IT 规则中的信息定义现在明确包括综合生成的数据，因此人工智能创建的错误信息、诽谤性内容或欺诈性冒充将与法律下的现实世界中的对应信息相同。
该部已将该草案公开征求意见，邀请利益相关者、行业参与者和公民提供反馈意见，直至 11 月 6 日为止。
现在只有高级官员可以下令删除内容
电子和信息技术部 (Meity) 修订了 2021 年信息技术规则，为下令删除在线内容的流程引入更多责任和结构。从 11 月 15 日起，只有联合秘书或以上级别的高级政府官员，或者执法机构的警察副监察长 (DIG) 或以上级别的高级政府官员，才有权根据《信息技术法》第 79(3)(b) 条向社交媒体平台发出删除通知。
这与目前的做法是一个重大转变，目前的做法是相对初级的官员，包括州警察部门的副督察和助理副督察，可以指示平台删除内容。通过对 2021 年 IT 规则第 3(1)(d) 条修正案插入的新规则明确将该权力限制在高级职位。如果没有任命联合秘书，则主管级官员或同等人员可以担任授权签字人。
梅蒂表示，这样做的目的是确保在做出删除在线内容的决定时具有更高程度的责任感和审查力。电子和信息技术部长 Ashwini Vaishnaw 表示：“我们提高了政府的问责水平。”他补充说，改革平衡了监管权力与正当程序。
该修正案还正式规定了程序保障措施。现在，每份删除通知都必须详细说明所引用的准确法律条款、描述所指控的非法行为的性质，并确定相关内容的确切 URL 或在线位置。不遵守此类通知仍可能导致中介机构失去第 79 条规定的安全港保护，该条规定平台无需对用户生成的内容承担责任。
至关重要的是，Meity 还引入了定期审查机制。根据该条款发布的命令将由一个由不低于秘书级别的官员（例如州信息技术大臣或内政大臣）担任主席的委员会进行审查，以评估这些命令是否必要和相称。
此举是在 X 提出法律挑战的背景下进行的，该挑战促使卡纳塔克邦高等法院质疑政府要求删除内容的广泛权力。然而，法院判决该公司败诉。
