文章详情

（原标题：阻止AI毁灭人类，OpenAI、微软等公司共同成立“自治组织”）

美国时间7月26日，OpenAI、微软、谷歌和Anthropic等四家AI领域巨头宣布成立行业组织“前沿模型论坛”（Frontier Model Forum），核心目标包括如下四点：1）推动人工智能安全研究，促进前沿模型负责任的发展，最大限度降低风险，实现对AI能力与安全的独立、标准化评估；2）确定负责任前沿模型开发和部署的最佳做法，向公众普及AI技术的性质、能力、限制与影响；3）与政策制定者、学者、民间社会和公司合作，并分享有关AI信任和安全风险的知识；4）针对解决当前社会最大挑战，如气候变化减缓和适应、早期癌症检测和预防，以及网络威胁应对，支持开发相关应用。这些目标与四家公司上周五在白宫作出的自愿承诺基本一致，当时共同作出承诺的公司还有Meta、亚马逊和Inflection。

在接下来的数月内，该论坛将首先建立起一个顾问委员会，以帮助指导论坛的战略和优先事项。声明称，该委员会将“代表不同的背景和观点”。在未来几周内，还将与民间社会和各国政府，就论坛的设计与合作方式展开磋商。未来一年，前沿模型论坛将重点关注确定最佳做法、推动AI安全研究、促进企业与政府间信息共享等三个关键领域，并欢迎其他前沿AI模型开发者加入论坛。