AI 可能导致全球极权主义

人工智能
WinterIsComing (31822)发表于 2020年11月17日 14时28分 星期二
来自部门
牛津大学人类未来研究所高级研究员 Toby Ord 认为,本世纪发生自然灾害的几率不到两千分之一,然而如果考虑人为灾难,这种可能性会增加到惊人的六分之一。其中一种可能的情况是 AI 创造的全球极权主义。未来研究所主任 Nick Bostrom 在他的《单例假说》中解释了如何利用 AI 或其他强大技术形成一个全球政府,以及它可能无法被推翻的原因。如果单一决策是极权主义的,人类文明将是暗淡的。曾经即使是在制度最严格的国家,新闻也可以从其他国家流入,人们也可以选择流亡。全球性的极权主义统治会彻底消灭这些希望。在过去,监视需要数十万人参与,例如东德每 100 个公民中就有一个人是线人。但现在这可以通过技术实现。