solidot新版网站常见问题,请点击这里查看。

马斯克等呼吁暂停开发更强大的 AI 系统

人工智能
Wilson (42865)发表于 2023年03月30日 13时28分 星期四

来自拥王者的女儿
包括马斯克(Elon Musk)和图灵奖得主 Yoshua Bengio 在内的科技行业高管和顶级 AI 研究人员正呼吁暂停对强大的新 AI 工具的快速开发。主张暂停的这些人士表示,六个月或更长时间的暂停,将使该行业有时间制定 AI 设计方面的安全标准,从而防止风险最高的一些 AI 技术的潜在危害。《暂停巨型 AI 实验:一封公开信》并非呼吁暂停所有 AI 开发,但敦促各公司暂时停止训练比 GPT-4 更强大的系统。OpenAI 的管理人员说他们还没有开始训练 GPT-5。OpenAI 首席执行官 Sam Altman 在接受采访时表示,公司长期以来在开发时将安全作为重点,并在 GPT-4 发布前花了六个多月的时间对其进行安全测试。


https://futureoflife.org/open-letter/pause-giant-ai-experiments/
https://cn.wsj.com/articles/%E9%A9%AC%E6%96%AF%E5%85%8B%E5%B8%A6%E5%A4%B4%E5%91%BC%E5%90%81%E6%9A%82%E5%81%9C%E5%B7%A8%E5%9E%8Bai%E5%AE%9E%E9%AA%8C-fe4b4fa8