Sub-Project 2 : Trust-worthy AI for Data Process and Model Theory

 

此子計畫的主要目標是發展在數學、資料管理、以及訊號處理方面的關鍵基礎技術,以支持總計畫發展「普惠科技」的目標。普惠科技包含了三項目標:1) 發展以人為本的智慧科技:促進新興科技普及應用,已持續發展增進人類福祉的幸福科技、2) 強化新興科技的治理與應用:強化科技的治理與應用,弭平科技發展與社會價值觀之間的落差、3) 完善新科技運用所需基礎環境與驗證場域:透過提供具解決實際問題需求之新科技試驗場域,以驗證其數據安全、隱私權保護與商業化的能力。

 

此子計畫以預計發展三大基礎技術:1) 用於類神經網路的高斯過程模型 (GP modeling of NNs)、2) 大規模AI4DB或DB4AI技術 (Large-scaled, AI4DB/DB4AI Technologies)、3) 訊號處理技術 (Signal-processing technique)。這些基礎技術不但可以增進AI發展與研究之外,也能夠進一步協助後續的應用發展。這些應用包括但不限於:1) 自動化資料蒐集與分享 (Autonomous Data Collection/Sharing)、2) 隱私權保護 (Privacy Protection)、3) 更強健的模型 (Better Model Robustness)、4) 提升模型解釋性 (Better Model Explainability)、5) 高效率資料治理 (High Performance Data Governance)。這些應用都可以幫助我們提升AI的透明性,並且保護資料擁有者的自主權、保護民眾隱私、保護民眾免於AI攻擊之危害、與保障民眾「知」的權利。這些都包含在普惠科技的「發展以人為本的智慧科技」與「強化新興科技的治理與應用」兩大目標中。

除此之外,此子計畫也預計建立一個用於驗證各項技術的驗證場域。在目前的規劃中,我們預計建立一個驗證碼 (CAPTCHA) 平台,利用使用者驗證自己是否為機器人的過程中,同時顯示AI技術產出的結果。例如我們可以透過此平台可以驗證一個透過對圖片加入一些細微的變化,避免AI學習此圖片的技術。如此一來就可以得知保護隱私權技術的成效如何。這項驗證技術將可以促進普惠科技中「完善新科技運用所需基礎環境與驗證場域」的目標。