拜登计划通过新的“压力测试”加强政府对人工智能的监管
分享到:


拜登总统周一宣布了全面的行政行动,试图建立对快速发展的人工智能领域的监督,为人工智能产品的安全测试制定新的标准,以及为主要系统建立联邦测试系统。经过数月的酝酿,这项行政命令反映了白宫的担忧,即如果不加以控制,这项技术可能会对国家安全、经济、公共卫生和隐私构成重大风险。这一消息是在哈里斯副总统将出席的伦敦人工智能全球峰会前几天宣布的。拜登在at IΙ的讲话中说:“我们将在未来10年,也许是未来5年看到比过去50年更多的技术变革。拜登总统周一宣布了全面的行政行动,试图建立对快速发展的人工智能领域的监督,为人工智能产品的安全测试制定新的标准,以及为主要系统建立联邦测试系统。经过数月的酝酿,这项行政命令反映了白宫的担忧,即如果不加以控制,这项技术可能会对国家安全、经济、公共卫生和隐私构成重大风险。这一消息是在哈里斯副总统将出席的伦敦人工智能全球峰会前几天宣布的。拜登在白宫发表讲话时说:“在未来10年,也许是未来5年,我们将看到比过去50年更多的技术变革。”拜登说:“我们这个时代最重要的技术——人工智能——正在加速这种变化。”该命令要求各公司共享主要人工智能系统的测试结果科技公司目前对产品进行自己的“红队”——对产品进行测试,以发现潜在的问题,比如虚假信息或种族主义。

白宫已经与主要的开发人员就一系列自愿承诺进行了合作,在发布之前由第三方对他们的系统进行红队。但拜登的行政命令要求政府为红队制定新的标准、工具和测试,并要求公司在发布系统之前通知政府并分享可能构成重大风险的产品的红队结果。要求公司这样做的权力来自《国防生产法》(Defense Production Act),这是一部朝鲜战争时期的法律,扩大了总统的权力,尤其是在涉及国家安全问题时。“我们需要管理这项技术。在我看来,没有别的办法。它必须得到治理。”在接受美国国家公共电台(NPR)采访时,白宫幕僚长杰夫·齐恩茨(Jeff Zients)表示,该行政命令在人工智能开发过程中加入了“压力测试”。“归根结底,这些公司无法在这里给自己的作业打分,”齐恩茨说。“因此,我们已经就如何与私营部门在人工智能领域合作制定了新标准,我们将确保私营公司遵守这些标准。”而国防生产法案允许白宫拥有一些尽管美国政府对企业新产品的授权有所限制,但总体上仍缺乏执法权力——白宫官员表示,这将取决于国会的立法。拜登宣布,由参议院多数党领袖查克·舒默(Chuck Schumer)领导的一个两党参议员小组将于周二在白宫与他会面,讨论国会在制定人工智能新法律方面可以采取的进一步行动。白宫看到了人工智能的机遇,但也警告了风险拜登说,他看到了人工智能在帮助开发新药和治疗癌症方面的潜力。

但白宫也表达了对其缺点的担忧,比如“老年人被语音克隆技术欺骗”,Zients说。“人工智能可以利用数据——你自己的个人数据——让社交媒体对你或你的孩子更加上瘾。这不是一件好事。人工智能系统可以利用你的数据来歧视想要买房的有色人种。这是不可接受的。”新命令要求各机构研究制定标准,以确定各部门如何以积极的方式实施人工智能——比如开发新药,在课堂上协助教师——但也要求各部门制定标准,以确保人工智能不会加剧住房或贷款审批方面的歧视性做法。但埃默里大学(Emory University)的Ifeoma Ajunwa等一些专家表示,人工智能带来的这些日常风险在行政命令中没有得到足够的关注。“目前真正的危险不是人工智能变得过于智能。更多的是,人类使用人工智能的方式违背了我们关于平等机会和平等保护的民主信念,”阿琼瓦告诉美国国家公共电台。她补充说:“为了确保不存在歧视,它没有任何关于人工智能招聘执法行动的具体授权。”她指出,在招聘中使用人工智能已经是一种标准做法。白宫官员表示,在《国防生产法》之外,还有一些行政权力范围内的进一步执行机制,但他们也强调,监管必须来自国会立法。招募配备人工智能的政府工作人员该命令的扩张性意味着联邦政府的工作人员也必须为所有与人工智能相关的变化做好准备。一位白宫高级官员告诉记者,许多机构已经有了被指定为人工智能负责人的人员。这些人员参与了制定行政命令的过程。但包括齐恩茨在内的白宫官员表示,他们仍然需要招募更多的专业人才。“人工智能的计算能力每六个月左右就会翻一番。因此,我们需要加倍努力,以确保我们在技术上保持领先地位,而不是追赶技术。”该命令要求简化签证程序,以便在人工智能方面有技能的移民可以来美国学习和从事人工智能开发工作。

正大国际金融控股有限公司(ZHENG DA INTERNATIONAL FINANCIAL HOLDING LIMITED)为香港证监会辖下之持牌法团(证监会中央编号:BOP620), 从事第2类及第5类受规管活动即期货合约交易及就期货合约提供意见,主要从事商品期货经纪、金融期货经纪业务。正大国际致力于为客户提供安全、先进和高效的交易平台。交易员24小时值班,客户可通过电话、微信、QQ 、邮件第一时间联系到我们的交易员团队。