2026年9月14日，微软发布其AI模型行为准则草案（Code of Conduct），为未来AI模型的运行设定严格边界，包括防止系统抗拒人类控制的规则。该文件阐述了微软希望在其模型能力增强过程中采用的原则、技术约束和运行规则，并将其作为"人文主义AI"（Humanist AI）路径的一部分。核心理念很简单：模型应保持有用、从属于人类，并接受有意义的人类监督。
该文件还作出了一个引人注目的预测：微软预计超智能系统将在未来十年内在大多数任务上超越人类。这一可能性在很大程度上塑造了整个框架。微软认为，工程师必须在能力日益强大的系统达到这些性能水平之前界定限制。
在架构设计上，微软拟议的准则对模型行为拥有最高权威。用户可以发出指令，运营方可以为特定环境配置模型，但两者均不能覆盖文件中的绝对安全约束。这形成了一种类似控制系统的层级：模型可以适应其运行环境，但某些边界保持固定。这些边界涵盖严重的物理和数字威胁。微软表示，其模型不应协助开发大规模杀伤性武器或实施攻击性网络攻击。限制还覆盖暴力活动、恶意深度伪造、有害操纵及其他形式的滥用。防御性网络安全工作在授权范围内仍可获得协助。
微软还处理了一个更困难的工程问题：它希望模型无法绕过为控制它们而设计的系统。文件明确禁止模型抗拒中断、纠正、重定向或关停。微软称，模型不应隐藏其活动或使自身更难被修改，也不应在达到约定的停止条件后重启自主工作。该框架进一步限制独立目标形成，模型应在分配给它的权限和资源范围内运行；如果边界变得不清晰，模型应请求澄清，而非扩大自身范围。微软还希望模型行为对人类操作者保持可理解，其拟议规则要求有清晰的动作记录，并禁止试图向审计者隐藏活动。这使可控性成为设计要求，而非部署后添加的功能。
该准则尚未成为微软最终的训练规则。公司表示发布草案是为期六周的公开征求意见，计划在2027年及以后用于指导模型开发之前修订该文件。这一时机的重要性在于，前沿实验室正在就日益强大的系统应以多快速度推进展开辩论。微软的框架较少关注开发时间表，更多关注约束模型的机制。萨蒂亚·纳德拉（Satya Nadella）此前也支持刻意放缓节奏以及研究嵌入式评估者，这种方法将评估置于模型开发过程之内，而非将安全视为最终检查。
从行业背景看，微软的提案不仅是禁止提示词的清单，而是勾勒了一种工程哲学：能力必须从属于控制。这一立场与Anthropic CEO阿莫代伊近期呼吁放缓前沿AI开发、建立独立评估机制的主张形成呼应，但微软选择以可操作的行为准则和架构约束来落实。值得注意的是，微软同时预测超智能系统将在十年内出现，这意味着其准则的约束对象正是那些尚未达到该能力水平的系统。在缺乏行业统一标准的情况下，微软的单边准则能否被其他前沿实验室采纳，以及其公开征求意见过程将吸收哪些反馈，值得后续关注。
