solidot新版网站常见问题,请点击这里查看。

OpenAI CTO 表态 AI 必须被监管

人工智能
wanwan (42055)发表于 2023年05月01日 22时34分 星期一

来自安德的首秀
OpenAI 的 CTO Mira Murati 接受采访时表示 AGI(通用人工智能)必须被监管。她表示该公司正与政府、监管机构和其它组织展开持续的讨论,制定某种程度的标准。Murati 称,我们距离一个安全、可靠和一致的 AGI 系统还比较遥远。在实验室的真空环境中是不足以构建 AGI 的,需要与现实接触,与现实世界接触,发现薄弱点,寻找突破点,以可控和低风险的方式去尝试,尽可能获得反馈。OpenAI 会在 AI 训练的每个阶段尝试干预,在模型训练的初始数据集中删掉某些数据,在 ChatGPT 的训练中使用人类的反馈强化学习。OpenAI 会致力于放大被认为好的行为,遏制坏的行为。 OpenAI 的 ChatGPT 是第一种进入主流市场的 AI 聊天机器人,它受益于对 AI 的不受监管,加强监管能对新来者和潜在竞争对手竖起一道屏障。


https://www.securityweek.com/insider-qa-openai-cto-mira-murati-on-shepherding-chatgpt/