7*24 快讯

微软发布AI行为准则:强调“人比AI重要”,拒绝追逐无边界超级智能

微软人工智能团队发布《人本主义人工智能行为准则》草案,提出以“人比AI重要”为核心理念,作为未来微软AI模型设计、训练和部署的指导文件。微软表示,AI必须始终处于人类有意义的控制和监督之下,并将安全与人类控制置于其他目标之上。该文件目前尚未用于训练模型,微软计划经过为期6周的公众咨询后,于今年年底发布修订版,并从2027年起用于指导模型开发。

微软表示,AI模型不应拥有权利或法律人格。它们不应被设计成能逃脱人类控制或欺骗用户。如果完成某项任务需要违反AI的指导原则,那么该系统就不应完成该任务。微软的“人道主义AI”“拒绝竞相打造可能规避这些保障措施的全能超级智能”。“我们正在打造根本上实用且安全的东西,即使这意味着要在终极通用性、自主性或能力上作出妥协。”(CNBC)