AI巨头“自控”条例出台,承诺确保产品安全,拜登放话必须警惕AI威胁

包括亚马逊、谷歌、微软、Meta、OpenAI在内的七家公司共同承诺,发布AI系统前进行内外部测试,向全行业和政府及社会分享AI风险的信息,用水印等机制帮助识别AI生成内容,鼓励第三方发现安全漏洞,报告不当使用和偏见等社会风险,优先研究AI的社会风险,用先进的AI系统解决严重的社会问题。拜登称,承诺只是第一步,将采取行政行动,并同国会合作出台针对AI的法规。

在白宫“指示”下,美国人工智能(AI)巨头 “自我管控”的条例浮出水面,他们承诺要尽量降低AI技术带来的风险。

美东时间7 月21日周五,白宫公布,拜登政府得到了亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家公司自愿的承诺,管控AI带来的风险。他们承诺,将帮助推动AI技术安全且透明地发展。

白宫称,政府目前在指定一项总统行政令,寻求两党达成立法议案,帮助引导国内开展负责任的创新活动。

上述七家公司公布的具体承诺内容如下:

  • 在对公众发布产品前,先确保产品安全。

企业承诺,在发布AI系统前,先进行内部和外部的安全测试;全行业共享有关管理AI风险的信息,也对政府、民间的社会和学术界分享这些信息。

  • 打造AI系统时,将安全放在第一位。

企业承诺,投资针对网络安全和内部人士威胁的防护措施,保护专有的和未发布的模型权重;推动第三方发现及报告企业AI系统的漏洞。

  • 赢得公众的信任。

企业承诺,推出强大的技术机制,确保用户知道内容何时由AI生成,例如水印系统;公开报告企业AI系统的功能、局限性、适当和不当使用的领域,包括将覆盖安全风险和社会风险,例如在公平和偏见方面的影响。

企业承诺,优先研究AI系统可能带来的社会风险,包括避免有害的偏见和歧视,以及保护隐私;开发及部署先进的AI系统,帮助解决最严重的社会问题。

上述承诺内容和华尔街见闻周四提到的媒体披露草案内容大体一致。

发布承诺后,拜登周五表示,这些承诺是切实的,将帮助AI行业履行对国人的基本义务,开发安全、可靠和值得信赖的技术,造福社会。

拜登说,这些企业的承诺将立即实行,体现了安全、保障和信任这三个基本原则,但他们的承诺只是第一步,“我们必须对(AI的)威胁保持清醒和警惕。”

拜登承诺,要采取行政行动,同时与国会合作,出台针对AI的法规。他说,新兴的技术需要一些新的法律、监管法规和监督。

白宫的幕僚长Jeff Zients同日称,这是一个不断变化的目标。不但必须执行和落实这些企业的承诺,还必须随着技术的变革,厘清下一轮的承诺。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。