英国通信管理局（Ofcom）发布了一封关于生成式人工智能和聊天机器人的公开信，就即将出台的《网络安全法》（online safety Act）下科技公司的新安全责任向它们发出警告。
网络安全监管机构表示，在最近几周和几个月发生了一些涉及该技术的“令人痛苦的事件”的报道后，它正在发布这封信，以提醒公司如何根据新规则监管生成人工智能和聊天机器人。
Ofcom强调了美国的一个案例，一名青少年在与一个基于《权力的游戏》角色的聊天机器人发展关系后死亡。《每日电讯报》首先报道了一个案例，一个生成式人工智能聊天机器人平台的用户创造了机器人，作为真人和死去的孩子的虚拟克隆体，其中包括莫莉·罗素和布里安娜·格伊。
Molly Russell（家庭讲义/PA）PA Media
英国通信管理局在信中表示，它想提醒企业，任何允许人们与他人分享聊天机器人生成的内容的用户对用户网站或应用程序，以及允许用户创建自己的聊天机器人并将其提供给他人的网站，都将受到《在线安全法》的管辖。
新的网络安全规定将于明年开始全面生效，它将要求社交媒体和其他承载用户创建内容的平台保护用户，尤其是儿童，免受非法和其他有害内容的侵害。
这些规定将要求最大的平台建立主动删除非法和其他潜在有害材料的系统，同时向用户提供明确的报告工具，并进行风险评估，以及其他新职责。
那些不遵守新规定的网站可能面临数十亿英镑的罚款。
自2022年11月ChatGPT推出以来，生成式人工智能和人工智能驱动的聊天机器人受到了广泛欢迎，许多竞争对手的聊天机器人和其他工具现在都可以在网上找到。
在关于生成人工智能和聊天机器人技术的信函中，Ofcom表示，在用户对用户服务上共享的任何人工智能生成的文本、音频、图像或视频都被视为“用户生成内容”，因此属于新的在线安全规则的范围。
该监管机构还指出，“能够搜索多个网站和/或数据库”的生成式人工智能工具被视为搜索服务，因此在该法案下属于Ofcom的管辖范围。
信中写道：“如果上述情况适用于你的服务，我们强烈建议你现在就做好准备，履行相关职责。”
“对于用户对用户服务和搜索服务的提供商来说，这意味着除其他要求外，还要进行风险评估，以了解用户遇到有害内容的风险；采取适当措施减轻和管理这些风险；并使用户能够轻松举报对儿童有害的非法帖子和材料。
“该法案规定的义务是强制性的。如果公司未能满足这些要求，Ofcom准备采取执法行动，其中可能包括罚款。”
从12月开始，网络服务必须开始对非法网络危害进行风险评估，目前预计将于明年3月生效，这是《网络安全法》实施的第一阶段。
