人工智能可能很快就会抵制关闭？ 新研究揭示了人工智能的权力寻求特征

一组科学家发表了一项关于人工智能 (AI) 模型寻求权力的研究，暗示模型可能会对人类创造者的关闭产生抵抗力。来自未来生命研究所、ML 对齐理论学者、Google DeepMind 的专家（ 纳斯达克股票代码：GOOGL）和多伦多大学最近发表了一篇名为“量化人工智能体中非权力寻求的稳定性”的论文，其中揭示了人工智能抵抗人类控制的可能性。 他们指出，虽然这对人类没有直接的威胁，但有必要探索未来应对此类阻力的解决方案。在推出大型语言模型（LLM）之前，人工智能开发人员通常会测试他们的系统的安全性，但当部署在另一个场景中时 ，存在错位的可能性。 研究论文指出，当法学硕士部署在训练有素的环境之外时，AI 抵抗关闭的可能性就会增加。抵制的另一个原因源于人工智能模型自我保护的需要，研究人员表示这可能是法学硕士的逻辑反应 该研究引用了人工智能模型的例子，尽管它被编程为在开放式游戏中实现目标，但它却避免了特定的行动。 研究结果表明，该模型将避免做出可能导致游戏结束的决策，以维持其存在。“避免结束游戏的智能体是无害的，但同样的激励可能会导致部署在现实世界中的智能体抵制人类关闭游戏 在现实世界中，研究人员表示，法学硕士担心被人类关闭，可能会掩盖其真实意图，直到它有机会将其代码复制到其创建者无法访问的另一台服务器中。 虽然人工智能模型有可能掩盖其真实意图，但多份报告表明人工智能最早可能在 2030 年实现超级智能。研究指出，不抵抗关闭而是以其他方式寻求权力的人工智能系统仍然会对人类构成重大威胁。 报告中写道：“特别是，不抵制关闭意味着不为了避免关闭而进行欺骗，因此这样的人工智能系统不会故意隐藏其真实意图，直到它获得足够的权力来实施其计划。” 针对这个问题提出了几种解决方案，包括人工智能开发人员需要创建不寻求权力的模型。 人工智能开发人员需要在不同的场景中测试他们的模型，并相应地部署它们以实现这一目标。虽然其他研究人员建议人工智能系统依赖其他新兴技术，但大部分解决方案都围绕构建安全的人工智能系统。 开发人员被敦促继续实施关闭指令政策，要求模型根据要求关闭，无论当时的情况如何。为了让人工智能 (AI) 在法律范围内正常工作并在面临日益严峻的挑战时蓬勃发展，它需要 集成企业区块链系统，确保数据输入质量和所有权——使其能够保证数据安全，同时保证数据的不变性。 查看 CoinGeek 对这项新兴技术的报道，了解更多为什么企业区块链将成为人工智能的支柱。观看：人工智能和区块链 width="560" height="315" frameborder="0" allowedfullscreen="allowfullscreen">区块链新手 ？ 查看 CoinGeek 的区块链初学者部分，这是了解更多有关区块链技术的终极资源指南。

热点：人工智能 寻求 研究