监管需要阻止人工智能被用于“坏事”——杰弗里·辛顿
2025-04-22 10:44

监管需要阻止人工智能被用于“坏事”——杰弗里·辛顿

  Artificial Intelligence futuristic light sign

  诺贝尔奖得主Hinton教授曾被称为人工智能的“教父”。

  英裔加拿大计算机科学家杰弗里·辛顿说,我们需要对人工智能的发展“非常小心”和“非常深思熟虑”,他说人工智能是一种“潜在的非常危险的技术”。

  今年获得诺贝尔物理学奖的辛顿教授表示,人工智能领域的变化速度比他预期的“快得多”,没有足够的时间来完成他认为必要的研究。

  虽然他的工作为机器学习(一种允许计算机模仿人类智能的技术)奠定了基础,但他最近的努力主要集中在倡导更安全的人工智能上。

  去年,他辞去b谷歌的工作后成为头条新闻,理由是担心“坏人”会利用这项技术伤害他人。

  辛顿教授在接受BBC广播4频道的《今日》节目采访时,回顾了他最初开始这项工作时对人工智能发展的预期:“我没想到会是我们现在的样子。我以为在未来的某个时候我们会走到这一步。

  “因为我们现在所处的情况是,该领域的大多数专家认为,在未来20年内,我们将开发出比人类更聪明的人工智能。

  “这是一个非常可怕的想法。”

  他补充说:“我喜欢把它想象成,想象你和一个三岁的孩子——我们是三岁的孩子,他们是大人。”

  辛顿教授表示,他认为人工智能对世界的影响将类似于工业革命。

  “在工业革命中,人类的力量不再那么重要,因为机器更强大,如果你想挖一条沟,你就用机器挖。

  “我们现在拥有的东西正在取代人类的智能,而普通的人类智能将不再处于最前沿。它将是机器,”他说。

  当被问及他认为10年或20年后的生活会是什么样子时,辛顿教授说:“这将在很大程度上取决于我们的政治体系如何利用这项技术。

  “所以我目前最大的担忧是,我们现在所处的情况是,我们需要非常小心,非常周到地开发一种潜在的非常危险的技术。

  “它将在医疗保健领域产生许多奇妙的影响,几乎在每个行业都将使事情变得更有效率,但我们需要非常小心它的发展。”

  “我们需要监管来阻止人们利用它做坏事,而我们目前似乎没有这样的政治制度。”

  辛顿教授表示,他担心,如果很多人失去工作,所有的好处都流向富人,人工智能将对社会有害。

  他说:“如果贫富差距很大,这对社会是非常不利的。”

  “这些东西比我们更聪明。因此,在工业革命中,机器不可能仅仅因为更强大而取代人类。我们仍然控制着局面,因为我们有情报。

  “现在的威胁是,这些东西可能会控制局面。所以这是一个很大的不同。”

本内容为作者翻译自英文材料或转自网络,不代表本站立场,未经允许不得转载
如对本稿件有异议或投诉,请联系本站
想要了解世界的人,都在 世腾网

相关推荐