参议院民主党人要求行政管理和预算局制定更多法规,支持减轻算法偏见
2025-04-13 04:52

参议院民主党人要求行政管理和预算局制定更多法规,支持减轻算法偏见

  

  

  两名民主党参议员要求拜登政府领导层采取更多措施,以减轻人工智能算法做出有偏见决定的风险。

  马萨诸塞州民主党参议员爱德华·马基参议院多数党领袖、纽约州民主党人查克·舒默(Chuck Schumer)。他在周一的一封信中告诉管理和预算办公室主任沙兰达·杨,联邦机构需要建立更多的保障措施来防止算法歧视。

  信中写道:“如果没有新的保护措施,今天强大的人工智能算法可能会加强和放大边缘化社区由于训练有素和经过测试的算法而已经经历的歧视。”“在实体使用算法做出‘重大决策’的情况下,风险和危害尤其大,比如个人申请工作、在医院接受治疗、进入教育机构或获得抵押贷款的资格。”

  参议员们希望联邦机构在其业务中使用人工智能技术,以制定保障措施,并建立围绕人工智能的民权保护能力。算法歧视以前就引起过联邦政府的关注,尤其是今年5月,住房和城市发展部(Department of Housing and Urban Development)发出警告,提醒人们注意人工智能辅助应用软件可能会错误地歧视申请人。

  马基和舒默指出,拜登政府还采取了“重大步骤”来减少算法歧视的空间,主要是通过乔·拜登总统的人工智能行政命令授权的指导。

  他们指出,特别是OMB已经率先提出了这些任务,以及该机构最新的人工智能政策和指导,特别是围绕“影响权利的人工智能”。

  参议员建议OMB为机构首席人工智能官员提供足够的资源和专业知识,以减轻人工智能算法对公民自由的威胁,并在目前不存在的机构中建立和资助正在使用人工智能进行决策的民权办公室。

  议员们写道:“这些新办公室——以及现有的民权办公室——应该配备算法歧视方面的技术专家和专家,他们的工作职责包括减轻算法偏见和歧视,并促进积极主动地向民权利益相关者和受影响人群伸出援助之手。”

  除了增加指导和人力以减轻基于算法的伤害外,参议员们还要求OMB提供证据,证明联邦政府服务的客户可以选择不使用人工智能算法,这是生物识别技术中人工智能算法的选择。

本内容为作者翻译自英文材料或转自网络,不代表本站立场,未经允许不得转载
如对本稿件有异议或投诉,请联系本站
想要了解世界的人,都在 世腾网

相关推荐