人工智能倫理

進階

AI 倫理四關:偏見(訓練資料失衡令 AI 歧視)、私隱(人面聲音都是個人資料,受 PDPO 管束)、深偽(合成聲影像用於詐騙,要多渠道核實)、負責任使用(AI 助學可以,代寫功課不可,用了要註明)。

適合:中三資訊及通訊科技 · 單元:人工智能入門 · 建議學習路徑第 12/13 課

學完呢課,你會識:
  • 資料有偏,AI 就偏:審查資料分佈、補足各群體、持續監察輸出。
  • 人面、聲音、行蹤都是個人資料,受 PDPO 保護;用他人資料要先徵同意。
  • 深偽可以假樣貌假聲音:回撥核實、家人暗號、數手指查口型。
文體:時事議題課有聲朗讀

文體小知識:時事議題課結合新聞案例和實用建議,學完可以即刻應用在日常生活,保護自己。

資訊及通訊科技Information & Communication Technology

§課文原文 Passage

1AI 從資料中學習,所以資料裡的偏見會變成 AI 的偏見。真實案例:某跨國公司的招聘系統用過去十年的履歷訓練,因為過往獲聘者男性居多,系統學出「男性履歷較佳」的規律,自動壓低女性求職者的評分。這種演算法偏見不是 AI「有惡意」,而是訓練資料缺乏代表性 — 對策是審查資料分佈、補充不同群體的例子、持續監察輸出結果。

2AI 需要大量資料餵養,而人面、聲音、行蹤、消費習慣全部屬於個人資料。香港《個人資料(私隱)條例》(PDPO)規定:收集要說明用途、不可超額收集、使用不可偏離原定目的、當事人有權查閱和改正。安裝 App 時要求通訊錄、定位權限,就要問一句:這個功能真的需要嗎?把同學的相片隨便上載去 AI 工具,同樣可能侵犯他人私隱。

3深偽技術(Deepfake)用 AI 生成以假亂真的影像和聲音:換臉影片、模仿聲線的電話。詐騙集團已經用「子女聲線」的合成語音打電話給長者騙財。防範方法:接獲求助電話先用其他渠道回撥本人核實、與家人約定只有自己人知道的暗號、留意影片瑕疵(手指數目、眼鏡反光、口型與聲音不同步)。

4作為學生,負責任使用 AI 有清楚界線:可以用 AI 解釋概念、提供建議、幫助腦震盪,但把 AI 生成的答案直接當自己的功課交出,既學不到東西,也違反學術誠信。正確做法:自己先思考、AI 用來核對和啟發、成果由自己核實、有使用 AI 就如實註明。AI 是學習的助手,不是代筆的槍手。

1重點摘要 Summary

AI 倫理四關:偏見(訓練資料失衡令 AI 歧視)、私隱(人面聲音都是個人資料,受 PDPO 管束)、深偽(合成聲影像用於詐騙,要多渠道核實)、負責任使用(AI 助學可以,代寫功課不可,用了要註明)。

2生字卡 Vocabulary

A
Algorithmic bias演算法偏見

AI 因訓練資料失衡而對某些群體不公平的系統性偏差。

P
Personal data個人資料

可識別個人身份的資料,例如姓名、人面影像、聲音、地址、電話。

P
PDPO個人資料(私隱)條例

香港規管個人資料收集和使用的法例:說明用途、不超額收集、有權查閱改正。

D
Deepfake深度偽造

用 AI 生成或篡改的以假亂真影像、聲音,例如換臉影片、模仿他人聲線。

M
Misinformation虛假資訊

與事實不符的內容;AI 幻覺和深偽都會製造虛假資訊。

A
Academic honesty學術誠信

如實表明作品來源、不把他人(或 AI)的成果當自己作品的原則。

C
Consent同意

當事人清楚知道用途後自願容許收集或使用其資料;未經同意上載他人相片即屬侵權。

T
Transparency透明度

AI 系統的資料來源、運作方式和局限應該向用戶講清楚。

A
Accountability問責

AI 造成損害時,必須有明確的人或機構承擔責任,不能推說「是 AI 做的」。

3逐步講解 Steps

  1. 偏見是怎樣學出來的演算法偏見指 AI 因訓練資料失衡而對某些群體作出系統性不公平判斷。例子:某招聘系統的訓練資料中,900 份成功獲聘的履歷有 800 份屬男性,模型便學到「男性特徵與獲聘相關」的規律,結果女性求職者被系統性壓低評分。關鍵理解:偏見並非程式員故意寫入,而是 AI 從有偏差的歷史資料中自行歸納出來,所以「AI 沒有感情」並不保證判斷公平。
  2. 審查與修正訓練資料對應偏見的方法是在訓練前後加入人為審查。訓練前:檢查資料集的分佈,例如性別比例、年齡層、各族裔各佔多少,發現某群體樣本過少,便補充該群體的例子,使每個群體都有足夠代表性。訓練後:分別測試系統對各群體的準確率,例如核對男性與女性履歷的評分是否接近;若偏差仍然明顯,就要重新調整資料再訓練。
  3. 私隱三問個人資料指足以辨認個人身份的資料,例如姓名、地址、電話、人面影像和聲音,在香港受《個人資料(私隱)條例》規管。判斷一個應用程式是否值得信任,可問三條問題:第一,它收集什麼資料?第二,它說明的用途是否與功能合理相關?第三,可不可以拒絕提供?例子:一個手電筒 App 要求讀取通訊錄,三條問題的答案全部不合理,就應該改用另一個 App。
  4. 深偽鑑證四招深度偽造(Deepfake)用 AI 合成以假亂真的樣貌和聲線。收到可疑影片時可以用四招檢查:一、數手指,AI 生成人像的手指數目和形狀經常出錯;二、看反光,眼鏡片和金屬面的倒影是否與場景一致合理;三、對口型,嘴形與聲音是否同步;四、求證,向官方渠道確認事件是否真實。例子:「校長宣布停課」的影片,應先向學校官方網站或老師查證,才決定是否轉發。
  5. 語音詐騙演練騙徒只需幾秒聲音樣本,就能用 AI 合成近似親人的聲線。演練情境:「兒子」來電哭訴急需轉賬。正確處理:第一,保持冷靜並掛線,不要按來電顯示的號碼回撥;第二,用通訊錄儲存的號碼親自聯絡本人核實;第三,家人之間事先約定只有自己人才知道的暗號,對方答不出即判斷為詐騙。原則:任何要求轉賬的來電,一律用第二渠道確認。
  6. AI 功課的可用界線AI 在功課上的角色是輔助而非代寫。可以用:要求 AI「用中三程度解釋牛頓第三定律」、「檢查這段文字的文法」、「對報告大綱提供意見」,這些用法幫助理解和修改,學習過程仍然由自己完成。不可以用:叫 AI「寫整篇讀書報告」然後直接當自己的作品提交,這屬於代寫,違反學術誠信。判斷準則:核心思考與分析必須出自自己,AI 只擔當檢查和建議的角色。
  7. 註明使用與核實事實負責任地使用 AI 還包括兩項義務。第一是註明:功課若曾用 AI 協助,例如整理大綱或潤飾文字,應在結尾如實寫明「本報告大綱曾使用 AI 工具協助整理」,讓老師了解創作過程。第二是核實:AI 會出現「幻覺」,憑空編造看似專業的數據、書名和事件,所以它提供的每項事實和數字,都必須逐項對照教科書、圖書館目錄或官方網站查證後,才可以寫入報告。

4圖解 Diagrams

AI 倫理:四個要諗嘅問題 AI ethics偏見 bias訓練數據有偏見,AI 決策就歧視某些群體私隱 privacyAI 要大量數據學習——你嘅資料被用咗去邊?冒充與造假deepfake 假新聞假相——信任危機責任誰屬AI 出錯(例如自動駕駛意外)邊個負責?原則:AI 係工具——用嘅係人,負責嘅都係人用 AI 做功課的界線:可以攞靈感查資料,直接抄就係學術不誠實
圖 1:AI 倫理四議題

5例題示範 Example

例題:四位同學做小組報告時對 AI 的四種用法,判斷哪種負責任,並說明理由。A 直接把 AI 生成的報告印出交功課;B 先自己寫初稿,再用 AI 檢查錯處、提供改進建議,最後自行核實修改;C 用 AI 生成虛構的「實地相片」插入報告;D 叫 AI 寫完整份報告,自己完全沒看內容便提交。

  1. A:AI 代寫、當自己作品 — 違反學術誠信,且完全沒有學習過程 → 不負責任。
  2. B:自己先思考寫稿,AI 只用於檢查和建議,最後自己核實修改 — AI 是助手,學習由自己完成 → 負責任。
  3. C:用 AI 生成假相當真實證據 — 製造假資料,比抄功課更嚴重 → 不負責任。
  4. D:連看都沒看就交 — 除了代寫問題,更無法對內容的真偽負責(AI 可能出幻覺)→ 不負責任。
  5. 答案:只有 B 負責任。原則:AI 可以輔助思考和檢查,但思考、核實、負責必須由人完成;AI 生成的內容不可當自己的作品,更不可造假。

6常見錯誤 Mistakes

✗ 「AI 沒有感情,所以判斷一定客觀公平。」
✓ AI 的公平取決於訓練資料:資料有偏,AI 就系統性歧視而不自知;偏見要靠人審查資料和結果來捉。
✗ 「同學的相不是我的資料,上載去 AI 工具沒問題。」
✓ 人面屬於他人的個人資料;未經同意收集和使用同樣違反私隱原則,上載前必須徵得當事人同意。
✗ 「影片裡連聲音都是家人,一定是真的。」
✓ 深偽技術可以合成聲線和樣貌;求助或借錢要求必須用第二渠道(回撥、暗號)核實。
✗ 「AI 寫的功課我改幾個字就算我自己的。」
✓ AI 生成的核心內容不改本質,改幾個字仍然是代寫;要自己思考撰寫,AI 只作輔助並註明。
✗ 「AI 給的數據好專業,直接寫入報告。」
✓ AI 會出幻覺,數字和事實可能憑空編造;任何引用必須查證教科書、官方網站等可靠來源。

75 題快測 Quick check

Q1招聘 AI 系統性壓低女性求職者評分,根本原因是什麼?

Q2香港哪條法例規管個人資料的收集和使用?寫出其中兩項要求。

Q3收到「親友」語音來電要求轉賬,正確的處理方法是什麼?

Q4以下哪種用法屬於負責任地使用 AI 做功課?A. 叫 AI 寫整份報告直接交 B. 自己寫初稿,用 AI 檢查建議,自行核實後修改

Q5寫出兩項辨別深偽影片的方法。

8重點回顧 Recap

  • 資料有偏,AI 就偏:審查資料分佈、補足各群體、持續監察輸出。
  • 人面、聲音、行蹤都是個人資料,受 PDPO 保護;用他人資料要先徵同意。
  • 深偽可以假樣貌假聲音:回撥核實、家人暗號、數手指查口型。
  • AI 功課界線:解釋、建議、腦震盪可以;代寫交功課違反學術誠信。
  • 用 AI 要註明,AI 給的事實要查證;最終責任永遠在人。

同級其他科

同一科其他級別