美国总统拜登美东时间10月30日公布行政令,计划对人工智能行业(AI)进行规范和管控,这是白宫首次发布此类行政令。
此前,包括特斯拉CEO马斯克在内的多家科技公司掌门人,都呼吁建立AI监管框架,防范其对人类文明可能造成的风险。
行政令涵盖面广泛,包括建立AI安全和安保新标准,保护美国人的隐私、推动平等和民权、保护消费者和工人、促进创新和竞争,确保美国在全球AI竞赛中处于领先位置。
此前一位不具名的白宫官员说,AI影响的面向十分广泛,因此监管也必须面面俱到。这位官员表示,“制定AI政策就像参加十项全能比赛,要面对很多不同问题。我们不能只关注安全或者平等、隐私,所有的事情都要做到位。”
这项行政令还援引《国防生产法》(Defense Production Act),要求科技公司研发任何可能危及美国国家安全、经济安全、公共卫生安全的AI系统时,必须知会美国政府。白宫副幕僚长Bruce Reed说,这项行政令在应对AI安全、安保和信任方面,比全球任何政府出台的监管都更加有力。
拜登此前就曾多次表达AI监管的必要性,并召集科技业人士、民权领袖和工会讨论,在不会遏制竞争的情况下应对快速发展的AI技术。目前在美国AI领域,OpenAI、谷歌、微软、Facebook母公司Meta、英伟达等处于领先地位。
拜登上月曾表示,“我对AI有着极大兴趣,也召集了关键专家讨论如何对AI的力量扬长避短,同时保护民众不会受到AI可能导致的负面风险伤害。”
行政令共包含以下方面内容:
-
AI安全与安保措施:AI开发者必须与联邦政府分享安全测试结果、所有危害美国国家安全、经济安全、公卫安全的AI研发必须在研发期间就知会白宫、美国国家标准与技术研究院(National Institute of Standards and Technology)将制定严格的AI安全标准、国土安全部将成立AI安全与安保委员会、应对重大基础设施和网络安全风险。
-
降低AI的生物性危害(Biological Risks)及欺诈保护:建立针对AI生物工程合成物研发的监管标准、建立针对AI生成内容的监管及官方内容认证标准。
-
推进网络安全项目:研发AI工具识别和修补关键软件系统的漏洞。
-
建立AI国家安全备忘录:白宫将针对AI对军事和情报方面的应用下达更多指示。
-
隐私保护:加速隐私保护技术的研发、增加对隐私保护技术研究的支持、评估政府单位对商业信息的应用、制定评估AI隐私保护技术的指导原则。
-
平等与民权:制定防止AI算法加剧歧视行为的指导原则、解决AI算法在违反民权方面的歧视问题、研究AI在刑事司法系统中如何更好地利用AI。
-
消费者、患者及学生保护:负责任地在健保和教育领域使用AI、建立汇报AI在健保方面造成伤害的机制。
-
支持工人:设立旨在降低AI对工人的伤害并最大程度惠及工人的原则、汇报AI对劳工市场造成的潜在影响。
-
促进创新与竞争:加速AI研究并为小公司提供更多资源、鼓励美国联邦贸易委员会(FTC)行使职权促进竞争性AI生态环境的建立、为关键领域的技术移民加速签证审批。
-
确保美国在AI领域领先:促进在AI安全和标准方面的国际合作、推动负责任的全球AI研发。
-
政府使用AI要负责任:下发各政府部门使用AI的指导原则,包括权利保护与安全标准,加速雇用AI专业人才,并在政府内相关领域提供AI培训。
AI行业几大科技公司30日美股盘中上涨。其中,微软涨1.66%、报335.29美元,谷歌涨1.77%、报125.58美元,Meta涨1.86%、报302.25美元,英伟达涨0.75%、报408.02美元。