美科學家聯名反對政府用AI“把守國門”計劃

美科學家聯名反對政府用AI“把守國門”計劃

稱人工智能審查移民既不合適也不可行

科技日報華盛頓11月16日電(記者劉海英)從事機器學習、數據挖掘以及其他自動化決策技術研究的54位科學家16日致信美國國土安全部,敦促該部門放棄“極端審查計劃”,稱利用人工智能對申請進入美國的人員進行審查評估,“既不合適也不可行”。

“極端審查計劃”是美國土安全部下屬機構移民和海關執法局在今年6月份提出的一項計劃,希望以自動化程序代替目前的人力審查手段,利用人工智能技術預測申請進入美國人員的犯罪風險,對其是否會對美國社會做出積極貢獻進行評估,以更好地執行特朗普的移民政策。用先進技術解決現實難題,應該是科學家們最愿意看到之事,但此次,移民和海關執法局的計劃卻遭到科學家們的強烈反對。

54位科學家在信中指出,“極端審查計劃”尋求通過自動化技術判定一個人是否會對社會做出積極貢獻、為國家利益做出貢獻,這是不可能的。目前無論是聯邦政府還是任何個人,都沒有對一個人是否會對社會做出貢獻、為國家利益做出貢獻進行定義和量化,這種情況下,不可能有任何計算方法能對此提供可靠或客觀的評估,移民和海關執法局擬議的系統將是不準確的、存在偏見的,很容易對某個移民群體貼上標簽。

信中還指出,移民和海關執法局希望能利用數據挖掘技術評估申請人進入美國之后實施犯罪或恐怖行為的可能性,而大量文獻表明,即使是最好的自主決策模型,在預測罕見事件時也會出現許多錯誤。移民中犯罪或進行恐怖襲擊者畢竟屬于少數,所以即使使用最精確的模型,也會出現大量謬斷,讓許多無辜的人蒙冤。

科學家們稱,數據挖掘是一個強大的工具,適當地利用這一工具會有很大的好處,造福社會。他們理解政府需要執行移民法律,維護國家安全,但移民和海關執法局擬議的方法“既不合適也不可行”,因此強烈要求國土安全部放棄這一計劃。

加載更多>>
責任編輯:左瑾
專題 更多>>
杀一肖公式规律