人工智能公司 PBC 正在向科技企业开放一款功能更强、尚未公开发布的人工智能模型，以便为该先进 AI 系统未来可能大范围推广所引发的网络攻击风险提前做好防范。
周二宣布，将与、、、及其他机构共同发起一项名为 “丛雀计划”（ ） 的专项行动。参与企业将可使用 全新的 模型，查找自身产品中的安全漏洞，并与行业同行共享检测结果。
这家 AI 初创公司表示，目前暂无向公众发布 的计划，并将根据丛雀计划反馈的信息，为该技术制定安全防护准则。
这一安排反映出科技企业日益加剧的担忧：更先进的 AI 模型可能被犯罪分子及国家背景的黑客滥用，用于查找源代码漏洞、绕过网络防御系统。AI 技术已被用于辅助实施网络攻击。曾有黑客利用 AI 工具协助发动入侵，影响到墨西哥政府相关系统。
的竞争对手 此前也强调其模型的网络安全能力不断提升，并推出试点项目，力求让防御方 “优先使用” 其工具。
前沿红队网络安全负责人牛顿・程表示：“我们认为这不仅是 一家的问题，而是全行业面临的挑战，私营企业与各国政府都需要共同应对。我们希望通过丛雀计划，让网络防御方抢占先机。”
称已就 与安全相关的能力与美国官员进行过沟通，但拒绝透露具体涉及哪些机构。程先生提到，公司此前已与美国网络安全和基础设施安全局（CISA）、美国国家标准与技术研究院（NIST）开展合作。
表示， 是一款通用型 AI 模型，并非专门为网络安全场景开发。不过程先生称， 已发现多个安全隐患，包括一个存在于关键互联网软件中、已有 27 年历史的漏洞。该 AI 系统还在一款热门视频软件的代码中找到一个存在 16 年的缺陷，而自动化检测工具此前已对其扫描过 500 万次，却始终未能发现。
研究产品管理主管黛安・佩恩表示，公司已设置防护措施，确保丛雀计划参与方对 模型的访问受到严格管控，但出于安全考虑，拒绝透露更多细节。
