[尼基]OpenAI 成立人工智能安全“准备团队”，并赋予董事会最终决定权

人工智能 (AI) 开发商 OpenAI 宣布将实施其“准备框架”，其中包括创建一个特别团队来评估和预测风险。 12月18日，该公司发布博文称，其新的“准备团队”将成为连接 OpenAI 工作的安全和政策团队的桥梁。据称，这些团队提供的近乎制衡式的系统将有助于防范日益强大的模型可能带来的“灾难性风险”。 OpenAI 表示，只有在被认为安全的情况下才会部署其技术。新的计划大纲要求新的顾问团队审查安全报告，然后将其发送给公司高管和 OpenAI 董事会。虽然高管们在技术上负责做出最终决策，但新计划允许董事会有权推翻安全决策。在此之前，OpenAI 在 11 月份经历了一场旋风般的变革，萨姆·奥尔特曼 (Sam Altman) 突然被解雇，然后又重新担任首席执行官。 Altman 重新加入公司后，该公司发布了一份声明，命名了新董事会，目前包括 Bret Taylor（主席）、Larry Summers 和 Adam D’Angelo。相关：OpenAI 是否即将放弃新的 ChatGPT 升级？ Sam Altman 表示“不”OpenAI 于 2022 年 11 月向公众推出了 ChatGPT，从那时起，人们对人工智能产生了浓厚的兴趣，但也有人担心它可能对社会造成的危险。今年 7 月，包括 OpenAI、微软、谷歌和 Anthropic 在内的领先人工智能开发者成立了前沿论坛，旨在监督负责任人工智能创建的自我监管。拜登政府于 10 月发布了一项行政命令，为开发高级模型及其实施的公司制定了新的人工智能安全标准。在拜登政府实施行政命令之前，著名的人工智能开发者被邀请到白宫，致力于开发安全、透明的人工智能模型——OpenAI 是众多出席的公司之一。杂志：Deepfake K-Pop 色情片，唤醒 Grok，“OpenAI 有问题”，Fetch.AI：AI Eye

热点：人工智能