(路透社)-周二，包括微软支持的OpenAI和Alphabet旗下的谷歌DeepMind在内的一些人工智能公司的现任和前任员工对这项新兴技术带来的风险表示担忧。
OpenAI的11名现任和前任员工以及谷歌DeepMind的一名现任和另一名前任员工在一封公开信中表示，人工智能公司的财务动机阻碍了有效监管。
信中还表示:“我们认为，定制的公司治理结构不足以改变这种状况。”
它进一步警告了不受监管的人工智能带来的风险，从错误信息的传播到独立人工智能系统的丧失，以及现有不平等的加深，这可能导致“人类灭绝”。
研究人员发现，OpenAI和微软(Microsoft)等公司的图像生成器制作了含有与投票有关的虚假信息的照片，尽管政策禁止此类内容。
信中说，人工智能公司在与政府分享其系统的能力和局限性方面的“义务很弱”，并补充说，不能指望这些公司自愿分享这些信息。
这封公开信是对生成式人工智能技术提出安全担忧的最新举措，该技术可以快速、廉价地生成类似人类的文本、图像和音频。
该组织敦促人工智能公司促进一个流程，让现任和前任员工提出与风险相关的担忧，而不是执行禁止批评的保密协议。
另外，这家由山姆·奥特曼(Sam altman)领导的公司周四表示，它挫败了5次秘密影响行动，这些行动试图利用其人工智能模型在互联网上进行“欺骗活动”。
(Jaspreet Singh在班加罗尔报道;编辑:Tasim Zahid)
×
