OpenAI CEO警告AI可能造成重大伤害-快讯

(资料图)

当地时间5月16日，OpenAI首席执行官山姆·阿尔特曼（Sam Altman）在美国参议院就人工智能技术的潜在危险作证，敦促立法者对开发GPT-4等先进人工智能系统的组织实施许可要求和其他法规。

出庭作证的还有IBM的首席隐私和信任官克里斯蒂娜·蒙哥马利（Christina Montgomery）和著名AI专家加里·马库斯（Gary Marcus）。马库斯指出，美国政府可能需要一个拥有技术专长的“内阁级组织”专门监督人工智能。

近年来，以科技高管为主题的国会听证会的基调一般会用“敌对”来形容，Facebook创始人马克·扎克伯格、亚马逊创始人杰夫·贝索斯等科技名人都曾在国会上被对其公司不满的立法者训斥。但阿尔特曼在听证会上受到了议员的表扬。

在听证会上，阿尔特曼向议员们解释了ChatGPT的工作原理，承认了此类AI产品的风险，比如损害未来选举的公正性、操纵民众个人的意见、限制访问某些信息，以及侵犯版权。

虽然阿尔特曼强调人工智能的好处，但他在听证会上表示，他担心人工智能行业会“对世界造成重大伤害”。“我认为，如果这项技术出了问题，它可能会大错特错，我们希望对此直言不讳。”他表示，OpenAI希望与政府合作，以防止上述情况发生。

阿尔特曼特别指出，他非常担心AI对选举产生的影响。“鉴于我们明年将面临选举，而这些模型正在变得更好，我认为这是一个值得关注的重要领域……我确实认为在这个话题上进行一些监管是非常明智的。”他说。

阿尔特曼呼吁国会对AI系统采取安全标准。他建议国会成立一个新机构，为“超过一定规模的能力”的人工智能技术颁发许可证，在向公众发布AI系统之前，应该由可以判断该模型是否符合这些规定的专家进行独立审计。

他认为，美国政府可以为开发功能最强大的AI系统的公司实行持牌制度。如果有公司要开发和发布超出能力阀值的AI模型，政府可以将发放牌照和测试的要求结合起来，对他们予以监管。

除此以外，阿尔特曼表示，AI可能导致一些失业，但会创造更多新工作机会，他对AI未来改变就业的前景感到乐观。他还透露，目前公司并没有训练GPT-5，未来六个月也没有这方面的计划。

关键词：