拜登总统就人工智能安全措施采取行动

本文最后更新于 1 11 月, 2023

美国“最强大的人工智能系统”的制造商被要求与政府分享安全测试和其他“关键信息”。这从美国总统拜登今天发布的总统令中可以看出。

拜登的法令是美国政府试图加强对人工智能（AI）控制的一系列措施的一部分。这特别涉及开发对美国安全构成“严重风险”的人工智能系统的公司。没有描述这涉及什么样的风险。此外，也没有说明由谁来决定何时存在这种风险。

总统令不是法律。为此，总统需要国会。因此，拜登呼吁议员们制定立法。

下一代人工智能

一位匿名政府官员向英国《金融时报》强调，该法令将主要适用于下一代人工智能系统，而不是例如最新版本的高级文本生成器 ChatGPT 背后的引擎 GPT4。

尽管事态发展很快，但问题是企业何时必须在实践中应对这些规则，这表明美国不想用这些新规则对本国企业过于严厉。

白宫和科技巨头讨论人工智能已经有一段时间了。 7 月，主要人工智能参与者签署了非约束性协议。这还包括承诺他们将共享有关其系统的安全性和可靠性的信息。随着拜登的决定，这种缺乏义务的现象消失了。

除了对大型科技公司的要求外，它还涉及开发水印，以便清楚地表明工作何时由人工智能生成。这里有一个限制：这只会由联邦政府使用，但公司不必采用它。尽管白宫希望成为世界各地企业和政府的榜样。

它还包括保护美国人隐私、促进平等、保护消费者、患者、学生以及员工权利等的措施。该命令还确保美国政府本身以负责任和有效的方式使用人工智能。

据路透社昨天报道，拜登政府的举措与七国集团国家和欧盟发起的人工智能自愿行为准则同一天出台。这阐述了在担心隐私和安全的背景下，主要国家希望如何应对人工智能。

为期两天的人工智能会议将于周三在英国召开，其安全性将是中心议题。副总统哈里斯代表美国出席。委员会主席冯德莱恩将代表欧盟，国务秘书范赫费伦将代表荷兰。预计还有来自中国的代表团。

人工智能安全措施

和朋友分享