聊天機器人、深度造假和語音克隆：用於銷售的 AI 詐欺

美國聯邦貿易委員會（FTC）發布一篇部落格文章，建議企業於使用人工智慧（AI）工具生成合成媒體時，應注意潛在欺騙或不公平使用。FTC稱使用AI創建或傳播欺騙為“AI假問題”（AI fake problem），且此問題日益嚴重。 FTC指出，詐欺者利用生成性AI和合成媒體大規模低成本地生成和傳播虛假敘述。FTC警告說，AI聊天機器人可用於創建網路釣魚電子郵件、假網站和假個人資料，並幫助生成惡意軟體、勒索軟體和提示侵入攻擊。企業應該考慮製造或銷售它們的風險和責任，在製作、銷售或使用AI之前考量，包括「你甚至應該製造或銷售它嗎？」「您是否有效地降低了風險？」「您是否過度依賴發布後檢測？」以及「您是否在誤導人們所看到、聽到或閱讀的內容？」等四個問題。

新聞來源：Chatbots, deepfakes, and voice clones: AI deception for sale