量智信息中心_量科网

大型语言模型智能体能够编写并执行实验控制代码，从而使得实验室工作可以自主进行。然而，这种自主性也带来了先前工作中未能解决的安全问题。未经验证的代码可能损坏实验设备，并且在人类授权/监督与智能体决策之间，缺乏一个正式的、按操作划分的边界。该团队提出了一种控制系统，该系统将一个大型语言模型智能体置于离子阱实验的闭环中，并强制执行上述边界。该智能体通过一个模型上下文协议（MCP）服务器提供的工具，来控制现有的先进量子物理实时基础设施（ARTIQ）软件栈。除非工具调用携带了与其确切内容绑定的授权令牌，否则任何调用都无法到达硬件。令牌通过两种方式之一签发：自动方式，即在一个隔离的硬件模拟器（dax.sim）中运行智能体提出的脚本，并根据预设的每设备边界检查每一项操作；或者手动方式，即由操作员为敏感操作签发令牌。在此边界内，智能体能够自主开发实验，而非仅仅调用预构建的例程。该团队在共俘获的 \(^{40}{\text{Ca}}^{+}/^{40}{\text{CaOH}}^{+}\) 晶体上部署了该系统，智能体在此自主构建了完整的校准堆栈，并在有针对性的操作员指导下，闭合了一个跨仪器的磁场稳定环路。在一个独立的 \(^{171}{\text{Yb}}^{+}\) 平台上，该团队确认了接口级别的可移植性。该团队使用试图绕过令牌授权机制的对抗性脚本对其进行了系统性测试，精确描绘了其保护范围的边界，并确定了下一步优先加强的环节。通过分析智能体仍需要人类指导的领域，研究发现其局限性在于元认知控制，即识别何时需要重新界定问题框架的能力，而非领域知识的不足。