經濟合作暨發展組織理事會《人工智慧建議書》之整理

經濟合作暨發展組織理事會《人工智慧建議書》之整理

國立中山大學教育研究所

邱文彬鄭雯施慶麟

經濟合作暨發展組織（Organisation for Economic Co-operation and Development, OECD）的人工智慧（artificial intelligence, AI）建議書（以下簡稱本建議書）是2019年5月22日在部長級OECD理事會會議通過，也是第一個關於AI的政府間標準，旨在透過推動可信賴AI的負責任管理來培育AI創新和信任，同時確保尊重人權和民主價值。OECD理事會於2023年11月8日修訂本建議書，並更新「AI系統」的定義，以確保本建議書繼續保持技術準確性並反映技術發展，包括生成式AI方面的發展。

OECD在人工智慧領域的工作

人工智慧(AI)是一種通用技術，具有改善人民福祉和幸福感，促進積極可持續的全球經濟活動、增加創新和生產力、協助應對關鍵全球挑戰之潛力，被應用在生產、教育、金融、醫療保健等領域。除了帶來益處外，AI也為我們的社會和經濟帶來挑戰，尤其是關於經濟轉變和不平等、競爭、勞動市場轉型以及對民主和人權的影響。

OECD自2016年起開展了支持政策辯論的AI實證和政策活動，從當年的AI技術前瞻論壇開始，隨後還進行分析和測量工作，概述AI技術及其應用的經濟和社會影響，並描述政府和其他利害關係人在國家層面的AI倡議。在此背景下，OECD理事會通過本建議書，以促進以人為本的可信賴AI方法，該方法促進研究，保留創新的經濟激勵，並適用於所有利害關係人。

制定建議書的包容性和參與性過程

2018年5月，OECD的數位政策委員會（DPC）成立一個專家小組，以確定培養AI信任和採用的原則範圍，並成立非正式AI專家小組，由來自不同學科和不同部門（政府、產業界、公民社會、工會、技術社群和學術界）的50多位專家組成，於2018年9月至2019年2月期間舉行4次會議，其最終輸出文件協助OECD制定本建議書草案，OECD理事會在2019年5月22-23日的部長級會議上通過本建議書。

建議書的範圍

在現有OECD標準（如隱私和資料保護、數位安全風險管理和負責任商業行為等）以外，本建議書專注於AI特定的政策問題，並設定一個可實施且靈活性足以在快速發展的領域經受時間考驗的標準。該建議書包含五項高層次的價值導向原則和五項關於國家政策和國際合作的建議。

具體而言，該建議書包括以下兩個實質性的部分：

可信賴AI的管理原則：設定適用於所有利害關係人的五項互補原則，包含（1）包容性增長、永續發展和福祉；（2）尊重法治、人權和民主價值；（3）透明度和可解釋性；（4）穩健性與安全性；（5）問責制。
可信賴AI的國家政策：共有五項在其國家政策和國際合作中實施的建議，包含（1）投資AI研究和發展；（2）培育包容性AI賦能生態系統；（3）形塑有利且互操作的AI治理和政策環境；（4）建立人力能力並為勞動市場轉型做準備；（5）可信賴AI的國際合作。

建議書的修訂

建議書在2024年部長級理事會會議上進一步修訂，以保持其持續相關性並促進其在通過五年後的實施。具體更新旨在：

 在生成式AI背景下保護資訊完整性，分辨錯誤資訊和虛假資訊；

 處理對於AI超出預期目的的使用、故意濫用或無意濫用；

 明確AI行動者應提供之AI系統資訊，以確保透明度和負責任的揭露；

 若AI系統有造成傷害的風險或表現出不良行為，可以透過人類互動進行覆寫、修復及安全停用；

 強調在整個AI系統生命週期中的負責任商業行為；

 強調各司法管轄區需要共同合作，促進AI的互操作治理和政策環境；

 引入對環境永續性的明確參考。

實施

建議書指示DPC在其通過五年後及此後定期向理事會報告其實施、傳播和持續相關性。

支持實施建議書的進一步工作

為了提供一個具包容性的論壇以交流AI政策和活動資訊，並促進多方利害關係人和跨學科對話，OECD於2020年2月啟動了AI政策觀測站（OECD.AI）以及非正式OECD人工智慧專家網絡（ONE AI）。

OECD.AI是一個關於AI公共政策的包容性中心，旨在幫助各國鼓勵、培育和監測可信賴人工智慧系統的負責任發展，以造福社會。它結合了OECD的資源和來自所有利害關係人群體的合作夥伴的資源，提供關於AI的多學科、基於證據的政策分析。該觀測站包含一個即時更新的AI策略、政策和倡議數據庫，各國和其他利害關係人可以共享和更新，使其關鍵要素能以互動方式進行比較。它不斷更新AI指標、測量、政策和良好做法，從而進一步更新實施的實用指導。

AI專家網絡（ONE AI）是一個由來自政府、企業、學術界和公民社會的AI專家組成的非正式小組，為OECD提供AI特定的政策專業知識和建議。該網絡為國際AI社群提供了一個空間，可以深入討論共同的AI政策機會和挑戰。

2022年，鑑於其AI工作的重要性和範圍不斷擴大，DPC創建一個專門的工作小組—AI治理工作小組(AIGO)。該工作小組支持OECD人工智慧建議書的實施，制定實施的實用指導，通過OECD.AI政策觀測站提供交流AI政策和活動資訊的論壇和在線中心，並通過ONE AI專家網絡的專家小組促進多方利害關係人和跨學科對話。

建議書修訂版關於人工智慧之建議

I. 就本建議書而言，AI相關術語應理解如下：

 AI系統：AI系統是一種基於機器的系統，基於明確或隱含的目標，從其接收的輸入中推斷如何生成輸出，如預測、內容、建議或決策，這些輸出可能影響實體或虛擬環境。

 AI系統生命週期：通常包含幾個階段：規劃和設計；收集和處理數據；建立模型和/或將現有模型調整至特定任務；測試、評估、驗證和確認；提供使用/部署；操作和監控；以及退役/停用。這些階段通常以迭代方式進行，不一定按順序執行。在操作和監控階段的任何時間點都可能做出讓AI系統退役的決定。

 AI參與者：AI參與者是在AI系統生命週期中扮演積極角色的人，包括部署或操作AI的組織和個人。

 AI知識：AI知識指理解和參與AI系統生命週期所需的技能和資源，如數據、程式碼、演算法、模型、研究、專業知識、培訓計畫、治理、流程和最佳實踐，包括風險管理。

 利害關係人：利害關係人包括直接或間接參與或受AI系統影響的所有組織和個人。AI參與者是利害關係人的一個子集。

第1節：可信賴AI的負責任管理原則

1.1.包容性成長、永續發展和福祉

利害關係人應積極參與可信賴AI的負責任管理，以追求對人類和地球有益的成果，例如增強人類能力並提升創造力、減少經濟、社會、性別和其他不平等，以及保護自然環境，從而促進永續發展和環境永續性。

1.2.尊重法治、人權和民主價值，包括公平和隱私

AI參與者應在AI系統生命週期的各個階段尊重法治、人權、民主和以人為本的價值。這些包括非歧視和平等、隱私和資料保護、多樣性、公平、社會正義，以及國際認可的勞工權利。也包括解決由AI放大的錯誤資訊和虛假資訊問題，同時尊重言論自由和適用國際法保護的其他權利和自由。

1.3. 透明度和可解釋性

AI參與者應致力於AI系統的透明度和負責任的資訊揭露。為此，他們應提供適合情境且符合技術現狀的有意義資訊：

促進對AI系統的普遍理解
使利害關係人了解他們與AI系統的互動
在可行且有用的情況下，提供關於資料/輸入來源、因素、流程的簡明易懂資訊，使受AI系統影響的人能夠理解其輸出
提供資訊，使受到AI系統負面影響的人能夠對其輸出提出質疑。

1.4. 穩健性、安全性和安保性

AI系統在其整個生命週期內應具備穩健性、安全性和安保性，使其在正常使用、可預見的使用或濫用，或其他不利條件下，能夠適當運作，不會構成不合理的安全和/或安保風險。
應視情況建立適當機制，確保若AI系統有造成不當傷害的風險或表現出不良行為時，可以根據需要被覆寫、修復和/或安全停用。
在技術可行的情況下，還應建立機制以增強資訊完整性，同時確保尊重言論自由。

1.5. 問責制

AI參與者應根據其角色、情境及符合技術現狀，對AI系統的正常運作及對上述原則的尊重負責。
為此，AI參與者應確保可追溯性，包括與資料集、流程及AI系統生命週期中所做決策相關的追溯，以便能夠分析AI系統的輸出並回應查詢，且應適合情境並符合技術現狀。

第2節：可信賴AI的國家政策和國際合作

2.1. 投資AI研究和發展

政府應考慮長期公共投資，並鼓勵私人投資於研究和發展以及開放科學，包括跨學科努力，以促進專注於具挑戰性技術問題以及AI相關社會、法律和倫理影響及政策議題的可信賴AI創新。
政府還應考慮公共投資並鼓勵私人投資於開源工具和具代表性且尊重隱私和資料保護的開放資料集，以支持無有害偏見的AI研究和發展環境，並改善互操作性和標準的使用。

2.2. 培育包容性AI賦能生態系統

政府應培育發展並提供可信賴AI的包容性、動態、永續和互操作的數位生態系統。這樣的生態系統包括但不限於資料、AI技術、計算和連接基礎設施，以及適當的AI知識共享機制。

2.3. 形塑有利且互操作的AI治理和政策環境

政府應促進靈活的政策環境，支持可信賴AI系統從研究和發展階段過渡到部署和運營階段。
政府應審查並適當調整其適用於AI系統的政策和監管框架以及評估機制，以鼓勵可信賴AI的創新和競爭。

2.4. 建立人力能力並為勞動市場轉型做準備

政府應與利害關係人密切合作，賦予人們有效使用並與各種應用領域的AI系統互動的能力，為工作世界和社會的轉型做準備。
政府應採取措施，包括通過社會對話，確保在AI部署時工作者能公平轉型，例如通過職業生涯培訓計畫、支援受到就業替代影響的人員（包括通過社會保障），以及提供勞動市場新機會的管道。
政府還應與利害關係人密切合作，促進工作場所AI的負責任使用，提高工作者安全、工作品質和公共服務品質，促進創業精神和生產力，並致力確保AI帶來的利益能廣泛且公平地分享。

心得

OECD的AI建議書主要強調 AI 相關知識包含資料、演算法、治理、風險管理等，顯示未來教育不僅教工具操作，更要教 AI 理解、負責任使用與批判思維。進一步言之，可分為下列幾個面向：

對學生而言，未來可能需要具備AI 概念理解、生成式工具應用、資料倫理、偏誤判讀能力以及數據分析等能力或素養。

對教師而言，未來可能需要適應AI輔助教學，透過認知診斷建立個別化學習路徑，可驅動個人化學習，進而提升學生學習成效。

對學校而言，應該建立AI系統的審查制度、學習數據的使用規範、數據安全及隱私保護政策、以及建置AI工具的教學規範與評量指引等。由於OECD特別重視公平性以及預防歧視的發生，因此在教育測驗上，對於AI導入後的命題及評分的系統性偏誤、AI-based測驗公平性（如城鄉、文化等），都是需要關注的議題。

本計畫綜合OECD及UNESCO兩份AI建議書之後，後續將基於前述關注議題（含公平性、預防歧視、AI導入教學與評量等）下，建構AI素養測驗並進行施測，除評估該測驗的信效度與測驗公平性之外，並可藉此瞭解我國學生現有的AI素養及使用現況。其後將在考量前述議題的情形下，針對AI協作認知診斷與適性學習之議題進行深究，建立個人化學習路徑的心理計量理論模型並進行驗證。相關發現除可提供教育部做為政策參考外，相關成果亦將透過研討會及期刊論文發表，與學術界分享相關發現。

參考文獻：

OECD, Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449