AI治理:我们如何控制智能

• 作者: 斯图尔特·罗素 张羿
• 来源期刊: 教师博览
• 年，卷（期）: 2021,（9）
• 所属期刊栏目: 科技
• 页码范围: 77-79
• 页数: 3页
• 语种: 中文
• DOI: 10.3969/j.issn.1008-5009.2021.09.033

摘要

如果我们成功地创造了可证明有益的人工智能系统,那么我们将消除超级智能机器失控的风险.人类可以继续发展,并获得几乎无法想象的好处,这些好处来自运用更强大的智能来推进我们文明的能力. 也许未来并非如此."邦德式"的恶棍可能会绕过我们的保护措施,释放出无法控制的超级智能,而人类对此毫无防御能力.如果幸存下来,那么,我们可能会发现,随着我们越来越多地将知识和技能托付给机器,我们会逐渐变得衰弱.