跳到主要內容區
Top

聯合國教育、科學及文化組織之《人工智慧倫理建議書》對教育領域之啟發

聯合國教育、科學及文化組織之《人工智慧倫理建議書》對教育領域之啟發

國立中山大學教育研究所

邱文彬         鄭雯      施慶麟

前言

隨著人工智慧（artificial intelligence, AI）的相關技術與平台問世，對於AI的相關應用與討論亦蓬勃發展，隨著體驗AI所帶來的便利的同時，思考AI如何對於各領域帶來更大的益處也是需要進一步思考與評估的問題。本計畫希冀透過文獻探討，建立對於AI技術使用相關的教育及倫理議題之基礎認知，並在思考AI技術對前述領域帶來益處的同時，也正視並預防對環境和生態系統潛在的危害和負面影響。例如AI可能嵌入社會文化的脈絡而加劇部分偏見（bias）的發生，衍生性別歧視、城鄉差異、數位鴻溝等議題；亦可能衍生性別平等、社會、科學實踐、環境和生態系統等方面的潛在影響；AI的發展也應該關注忽視偏鄉知識與價值體系，造成偏鄉學童對於公眾參與AI相關議題能力的數位與公民素養缺失等。諸此種種議題，都是本計畫希望在AI擴大應用到教育領域之前，需要有所準備或回應的議題。

正由於AI透過新的方式影響人類的思考、互動以及決策，衝擊人類生活的諸多面向（包含正面與負面），關於AI使用的倫理應該有更全面且深遠的規範。為此，聯合國教育、科學及文化組織（UNESCO）於2021年11月9日至24日在巴黎舉行的第41屆會議中，提出《人工智慧倫理建議書》（Recommendation on the ethics of artificial intelligence），希望透過全球方法制定標準設定文書的方式，基於國際法並著重於人性尊嚴和人權，引導AI技術朝負責任的方向發展。

為此，本計畫針對《人工智慧倫理建議書》（以下簡稱本建議書）精鍊出下列與本計畫有關之論述，做為後續推動時的參考依據。

  1. AI的議題範疇

AI是以類似智能行為的方式處理數據和資訊的系統，除了技術層面的模型和演算法外，AI的倫理問題涉及AI系統生命週期的任一階段的所有行為者（如：研究人員、程式設計師、工程師、數據科學家、終端用戶、企業、大學和公私實體等），且新型倫理問題包括但不限於其對於決策、教育、資訊獲取、數位鴻溝、個人數據保護的影響。其中，教育部分論及生活在數位化社會中，學生需要新的教育實踐、倫理反思、批判性思考、負責任的設計實踐和新技能。此外，由於AI技術在資訊處理部分扮演著越來越重要的角色，對於錯誤或虛假資訊的判斷能力，亦應提升。

  1. 建議書的宗旨與目標

建議書的主要目標則是提供一個普遍的價值觀、原則和行動框架，做為制定與AI相關的立法與政策之參考；並指導個人、團體、社區、機構和私營部門企業的行動，確保在AI系統生命週期的所有階段嵌入倫理考量。

  1. 建議書的價值觀與原則

人們相信AI系統能夠帶來個人和共同利益，可信度的一個基本要求是，在整個生命週期中，AI系統受到相關利害關係者的適當監督。

建議書的核心價值觀包含以下幾項：

  1. 尊重、保護和促進人權、基本自由和人性尊嚴

在AI系統生命週期的任何階段，任何人或人類社群都不應在身體、經濟、社會、政治、文化或心理上受到傷害或被置於從屬地位。

  1. 環境和生態系統的繁榮

參與AI系統生命週期的所有行為者必須遵守為環境和生態系統保護及永續發展而設計的預防原則，應減少AI系統對環境的影響，包括但不限於其碳足跡，以確保最大限度地減少氣候變化和環境風險因素。

建議書的原則包含以下幾項：

  1. 比例原則與不傷害原則：對於AI方法的選擇與使用，應適當且與實現給定的合法目標成比例，且不可侵犯本建議書中闡述的基本價值觀，特別是不得違反或濫用人權；AI方法應適合情境，並基於嚴謹的科學基礎。不應將AI系統用於社會評分（social scoring）或大規模監控（mass surveillance）目的。
  2. 安全性與保安性：在AI系統的整個生命週期中，應預防和消除不必要的傷害（安全風險）以及受攻擊的漏洞（保安風險），以確保人類、環境和生態系統的安全與保安。
  3. 公平與非歧視：AI行為者應促進社會正義，並保障符合國際法的公平與非歧視原則。
  4. 永續性：對AI技術的人類、社會、文化、經濟和環境影響的持續評估，應充分認識到AI技術對永續性的影響。
  5. 隱私權和資料保護：AI系統的資料收集、使用、共享、存檔和刪除方式應符合國際法，並與本建議書中規定的價值觀和原則一致。
  6. 人類監督與決定：人類可以在決策和行動中求助於AI系統，但AI系統永遠不能取代人類的最終責任和問責。
  7. 透明度（transparency）與可解釋性（explainability）：當相關決策是基於AI演算法做出或受其影響時，特別是當它影響人們的安全或人權時，人們應被充分告知，並在這些情況下有機會向相關AI行為者或公共部門機構請求解釋性資訊。透明度旨在向相應的受眾提供適當的資訊，使他們能夠理解並培養信任。可解釋性是指使AI系統的結果可理解並提供洞察力，也指輸入、輸出和每個演算法構建模塊的功能的可理解性，以及它如何貢獻於系統的結果。
  8. 責任與問責：以任何方式基於AI系統的決策和行動的倫理責任和法律責任，最終應始終歸屬於與其在AI系統生命週期中的角色相對應的AI行為者。
  9. 意識與素養：促進公眾對AI技術和資料價值的認識和理解，同時考慮現有的語言、社會和文化多樣性，以確保有效的公眾參與，使社會所有成員能夠就其使用AI系統做出明智的決定，並免受不當影響。
  1. 政策領域

(1) 倫理影響評估：政府應採用一個監管框架，為公共機構等制定程序，對AI系統進行倫理影響評估，以預測後果、降低風險、避免有害後果、促進公民參與並解決社會挑戰。評估還應建立適當的監督機制，包括可審計性(auditability,)、可追溯性(traceability)和可解釋性(explainability)。

(2) 倫理治理與管理：政府應確保調查和補救由AI系統造成的傷害，通過制定強有力的執法機制和補救行動，確保人權和基本自由以及法治在數位世界和實體世界中得到尊重。這些機制和行動應包括由私營和公共部門企業提供的補救機制。

(3) 資料政策：政府應致力於制定資料治理策略，確保持續評估AI系統訓練資料的品質，包括資料收集和選擇過程的適當性、適當的資料安全和保護措施；並應根據國際法建立適當的保障措施來保護隱私權，包括解決監控等問題。

(4) 環境與生態系統：政府和企業應評估AI系統生命週期中的直接和間接環境影響，包括但不限於其碳足跡、能源消耗以及支持AI技術製造的原材料開採對環境的影響，並減少AI系統和資料基礎設施對環境的影響。

(5) 性別：政府應確保充分發揮數位科技和AI在實現性別平等方面的潛力，並且必須確保女孩和婦女的人權和基本自由、安全和完整性在AI系統生命週期的任何階段都不受侵犯。

(6) 文化：鼓勵政府在適當情況下，將AI系統納入有形、文獻和無形文化遺產的保存、豐富、理解、推廣、管理和可及性中，包括瀕危語言以及原住民語言和知識，例如在適當情況下，引入或更新與AI系統應用相關的教育計劃，並確保採取參與式方法，針對機構和公眾。

(7) 教育與研究：政府應在各個層面向公眾提供適當的AI素養教育，以增強人民能力並減少因廣泛採用AI系統而產生的數位鴻溝和數位獲取不平等現象。此外，亦應促進AI教育「先決技能」的獲取，如基本讀寫能力、計算能力、編碼和數位技能，以及媒體和資訊素養，還有批判性和創造性思維、團隊合作、溝通、社會情緒和AI倫理技能，特別是在這些技能教育存在明顯差距的區域內。

政府應鼓勵有關AI技術在教學、教師培訓和電子學習等領域負責任使用的研究倡議，以減輕該領域涉及的挑戰和風險，而這些倡議應伴隨著對於使用AI技術的教育品質、對學生和教師之影響的適當評估。政府應確保AI研究人員接受研究倫理培訓，並要求他們在設計、產品和出版物中納入倫理考量。

在學習者與AI系統互動期間為獲取知識而提交的數據不得被濫用、盜用或用於犯罪利用，包括商業目的；AI系統在監控、評估能力或預測學習者行為方面應遵循嚴格要求，不減少認知能力，也不提取敏感資訊，並符合相關個人資料保護標準。為確保對AI研究進行批判性評估，並適當監控潛在的濫用或不良影響，政府應確保AI技術的任何發展都應基於嚴謹和獨立的科學研究，並透過納入科學、技術、工程和數學（STEM）以外的學科，如教育、倫理、社會學和心理學，促進跨學科的AI研究。

  1. 監測與評估：為促進與AI倫理相關的最佳政策和實踐，應開發適當的工具和指標，以評估其對照既定標準、優先事項和目標的有效性和效率，包括針對屬於弱勢、邊緣化群體和弱勢人士或處於弱勢情況的人的具體目標，以及AI系統對個人和社會層面的影響。對AI系統及相關AI倫理政策和實踐影響的監測和評估應持續進行，以與相關風險成比例的系統方式進行。

心得

UNESCO的AI建議書主張在AI的使用過程中可能會擴大性別歧視、城鄉差距、文化偏誤、知識單一化、數位殖民等情形，因此教育工作者應該避免加劇結構性不平等。為此，有幾項議題值得關注，包含：AI 技術導入教育之益處與風險並存、AI時代的公平性與弱勢族群議題、資料治理與個資保護，以及AI評估、監測與倫理指標的建構等。

本計畫綜合OECD及UNESCO兩份AI建議書之後，後續將基於前述關注議題（含公平性、預防歧視、AI導入教學與評量等）下，建構AI素養測驗並進行施測，除評估該測驗的信效度與測驗公平性之外，並可藉此瞭解我國學生現有的AI素養及使用現況。其後將在考量前述議題的情形下，針對AI協作認知診斷與適性學習之議題進行深究，建立個人化學習路徑的心理計量理論模型並進行驗證。相關發現除可提供教育部做為政策參考外，相關成果亦將透過研討會及期刊論文發表，與學術界分享相關發現。

參考文獻：

United Nations Educational, Scientific and Cultural Organization. (2021, November 23). Recommendation on the ethics of artificial intelligence (SHS/BIO/REC-AIETHICS/2021). UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000380455

瀏覽數: