新華社洛杉磯10月30日電(記者譚晶晶)美國總統拜登10月30日簽署一項行政命令,為人工智能安全制定了新標準。美國媒體稱,這是拜登政府對人工智能技術采取的第一項具有約束力的重大行動。

白宮在一份聲明中說,這項行政令“具有里程碑意義”,將保護美國公民隱私,促進公平和公民權利,維護消費者和工作者權益,促進創新和競爭等。

這一行政令要求,美國最強人工智能系統的研發人員需與政府分享其安全測試結果及其他關鍵信息;完善相關標準和測試工具,確保人工智能系統安全、可靠;制定嚴密的合成生物檢查新標準,防范使用人工智能設計危險生物材料的風險;建立檢測人工智能生成內容和驗證官方內容的標準和最佳實踐,以幫助民眾防范人工智能驅動的欺詐;建立先進的網絡安全計劃,開發人工智能工具查找和修補關鍵軟件漏洞;研發制定“國家安全備忘錄”,指導人工智能和安全方面的進一步行動。

據介紹,美國國家標準與技術研究所將制定嚴格的人工智能“紅隊”標準。美國國土安全部將把這些標準應用于核心基礎設施項目,并成立人工智能安全委員會。美國能源部和國土安全部將具體應對人工智能系統對關鍵基礎設施的威脅,及其帶來的化學、生物、放射性材料、核及網絡安全風險。

人工智能“紅隊”測試是網絡安全中的一項關鍵實踐,由專家團隊模擬真實世界的對手及其策略,以測試和增強系統的安全性。