英国呼吁在人工智能聊天机器人与未成年人互动时立即对其进行监管，从而开辟了数字监管的新战线。技术部长利兹·肯德尔 (Liz Kendall) 呼吁 Ofcom 立即利用《在线安全法》赋予的权力，施加与已经适用于社交媒体的义务相当的义务。这一原则上的变化标志着一种突破，对话系统不再被视为简单的工具，而是被视为给儿童带来系统性风险的交互式环境。
随着生成式人工智能服务通过学校、游戏、个人帮助或社交成为年轻用户日常生活的一部分，这一发展随之而来。对于英国政府来说，这个问题超出了传统的温和措施的范畴。聊天机器人可以生成不可预测的内容、模拟同理心、模糊情感线索并使未成年人面临危险行为。遵循的逻辑是一致性：如果交互类似于社交平台的交互，则义务必须是对等的。
该高管目前正在研究如何将自动对话整合到《在线安全法案》的法律框架中，尽管该文本并不是为生成人工智能而设计的。短期内，可能会要求公司进行针对未成年人的风险评估，实施强大的年龄检测系统，并记录其模型如何防止非法或有害内容的生成。受到政治支持的 Ofcom 正准备发布指导并对不合规行为者采取执法行动。
政府还计划召开一次全国峰会，专门讨论人工智能面临的儿童安全问题，汇聚专家、非政府组织、平台和监管机构，旨在定义“儿童安全人工智能设计”的原则。与此同时，刑事立法已经出台，将使用人工智能制作儿童色情内容定为犯罪，这加大了开发商在设计上整合技术保障措施的压力。
通过这一举措，英国将自己定位为第一个将聊天机器人视为受到严格控制的社交空间的监管机构。如果这一方向得到确认，它可能会成为一项国际标准，并为其他寻求监管未成年人日益增长的人工智能使用的司法管辖区开创先例。
