编译：谢红杰 / 审校：郭施
. 据美国“防务一号”网站2024年6月24日消息，美国国土安全部（Department of Homeland Security，DHS）发布该部门首个人工智能路线图，其表示人工智能既有可能被恶意行为者运用于开发核武器、化学武器、生物武器等，也能够为防御人员善加利用，阻截这些事件的发生。
. 报告内容：
. 为确保负责任地使用人工智能，美国国土安全部与其他部门密切协调和高度协作，共同监管人工智能。其中，美国国土安全部反大规模杀伤性武器办公室（Countering Weapons of Mass Destruction Office，CWMD）在报告中发表了几项内容。
. 一是人工智能的使用风险，当前美国的生物和化学安全法规在应对人工智能使用方面存在一定局限性，这一问题将导致研究成果存在潜在风险，甚至对公共健康、经济安全或国家安全构成风险。随着公开可获取的人工智能工具数量的激增，恶意行为者可能会利用这些技术学习制造和传递化学和生物武器。尽管进入实验室设施仍然存在障碍，但报告强调了云实验室的潜在危险，可能导致武器部件的秘密开发。
. 二是人工智能的指导方针，虽然人工智能在加强国土安全部的任务方面存在巨大的机遇，但人工智能也带来了新的挑战和风险。美国国土安全部表示，未来将制定具体的联邦指导方针以规范生物设计工具及生物、化学特定基础模型的使用方式。该指导方针最好包括源代码的“精细发布实践”，以及用于构建相关语言模型的权重计算规范。更广泛地说，该报告建议美国政府监管机构就管理人工智能和机器学习技术达成共识，尤其是当这些技术与化学和生物研究相结合时。此外，美国国土安全部反大规模杀伤性武器办公室建议美国制定指导方针，以覆盖如何在大型语言模型的公共培训材料中“战术性地排除和/或保护敏感的化学和生物数据”，并强化对远程控制实验室设施访问的监督。
. 三是人工智能的评估工作，未来美国国土安全部将把安全港漏洞报告实践纳入机构作业流程、开展内部评估和红队演练、促进生物科学专家社区的责任文化普及，以及在生物、化学和核领域中，负责地研究人工智能和机器学习的潜在应用。
. 四是人工智能的监测应用，该报告还设想通过威胁检测和响应，利用人工智能减轻现有的化学、生物、放射和核（Chemical，Biological，Radiological and Nuclear，CBRN）风险，包括疾病监测、诊断及国家安全和公共卫生领域尚未确定的多种其他应用。
. 主要意义：
. 尽管本报告的调查结果并非强制性指令，但国土安全部表示，这些结果将为反大规模杀伤性武器办公室的政策和目标制定提供帮助。虽然不具有法律约束力，但这些发现将被视为可靠的决策辅助信息，指导国土安全部在大规模杀伤性武器防范领域的战略规划与行动。
联系我们
购置资料 杨老师：13165589228（微信同）
检索/翻译 梁老师：13011583019（微信同）
定制报告 蔡老师：13068796075（微信同）
北京分公司联系人 刘老师：18610862096（微信同）
