NIST發布降低合成內容風險的新指南

2024年4月29日，美國國家標準技術研究所（NIST）發布了降低合成內容風險（Reducing Risks Posed by Synthetic Content）草案《NIST AI 100-4》，聚焦於檢測、驗證和標記合成內容的策略。該指南強調，人工智慧生成的合成內容在支持錯誤信息和虛假信息、生成合成兒童性虐待材料和未經同意的親密圖像，以及欺詐和金融計劃方面，可能會造成嚴重傷害。

該文件將數位內容透明度機制分為三大策略：

• 來源資料跟蹤（provenance data tracking）：包括元數據記錄和數位浮水印。
• 合成成分檢測（synthetic content detection）：涵蓋來源檢測、基於內容的自動檢測和人工輔助檢測。
• 規範性、教育性、監管性和基於市場的方法（normative, education, regulatory and market-based approaches）：雖然市場導向的方法不在該文件範圍內，但其餘部分均被詳細探討。

文件權衡了這些策略的優點、可能的功效以及潛在風險，為管理合成內容提供了全面的指導。

資料來源：NIST delivers draft AI guidance, generative AI pilot program - Nextgov/FCW