生成式人工智慧生命週期中的目的限制

英國資訊專員辦公室（Information Commissioner's Office, ICO）自 2024 年 1 月開始展開一系列關於生成式人工智慧與資料保護間的新技術與新問題的公眾諮詢，第二個問題即是《Purpose limitation in the generative AI lifecycle》（生成式人工智慧生命週期中的目的限制）。

依據 UK GDPR 規定，組織在開始處理個人資料之前必須有一個明確的目的，並且該目的必須合法、具體且明確。

而生成式 AI 模型生命週期涉及多個階段。每個階段可能涉及處理不同類型的個人資料並出於不同的目的，而組織可以透過這些不同的目的，以幫助劃定目的的邊界。由於訓練資料可能很昂貴且難以整理，因此開發人員可能希望可以重複地使用訓練資料集，此時就必須釐清相關當事方個別不同的目的，而要考慮的當事方則包括：開發模型的組織；其資料用於訓練的人員；在部署期間使用其資料的人員；及ICO，亦即上開人等於使用資料於生成式人工智慧生命週期中的目的均應考慮。

由於生成式 AI 模型的強大功能部分歸功於它們的廣泛使用方式，因此開發人員需要仔細考慮資料保護的目的限制要求，以確保在開始處理之前，他們可以：

• 為生命週期的每個不同階段制定足夠具體、明確和明確的目的；和
• 解釋在每個階段處理哪些個人資料，以及為什麼需要這些資料來滿足所述目的。

如果組織仔細考慮開發生成式人工智慧模型與基於生成式人工智慧開發應用程式之間的區別，並清楚使用哪些類型的資料以及如何在每種情況下使用，他們將能夠更好地遵守資料保護法並維護公眾信任。