座談 Panel #4

提案單位：台灣人權促進會

所屬子題：
人工智慧革命的可能衝擊與虛假訊息 (Potential Impacts of AI Revolution & Disinformation)

開發一項AI或演算法，需要經過蒐集資料、訓練模型、部署系統三大階段。除了應用產生的衝擊，如何從開發的不同階段預見人權風險，強化研究倫理與法治環境，是在各國逐漸加入管制行列下，打造AI的關鍵。

    國際上，美國企業Clearview AI未經個人同意蒐集社群網站照片，開發人臉辨識工具販售給執法部分，遭英法等國開罰。政府方面，丹麥等國家用來偵測濫用社會福利的預測性演算法，也被WIRED與Lighthouse Reports的聯合調查報導，指出此類演算法的歧視問題，以及串聯過多政府資料庫，形成侵害隱私的監控系統。回到台灣，憲法法庭已於去年的健保資料庫案判決確認，個人具有要求資料控制者「停止利用其個資」的控制權。

判決中更進一步表示，現行缺乏明確立法、逕行將人民健康資料從事目的外利用的作法違憲。當歐盟議會已通過AI法案的表決，確立禁止部分產品，並依風險分級管制（儘管仍受諮詢意見批評，管制仰賴標準制定機構及企業自我評估、缺乏有效執法措施、限制項目無法反映基本權侵害情形等等），台灣如何填補資料治理的落差，營造以人為本的AI發展環境？