大流行時期負(fù)責(zé)任的人工智能

最近幾天，我收到了幾個關(guān)于人工智能(AI)對當(dāng)前狀況的分析可能做出的貢獻(xiàn)以及幫助理解所實施的不同政策(例如本地或本地)可能產(chǎn)生的影響的問題。國家停業(yè)，檢疫或社會隔離。最具體地說，是如何負(fù)責(zé)任地進(jìn)行AI。

首先，我想強(qiáng)調(diào)一點，人工智能確實可以幫助理解當(dāng)前的狀況，因此，對于人工智能研究人員和專業(yè)人員而言，此時此刻要做的負(fù)責(zé)任的事情是利用我們的專業(yè)知識來分析和理解人工智能的傳播。，政策可能產(chǎn)生的影響，對社會和經(jīng)濟(jì)的長期影響以及其他此類問題。但是，為了負(fù)責(zé)任地做到這一點，重要的是要公開并明確AI可以做什么和不能做什么。正如我經(jīng)常強(qiáng)調(diào)的那樣，人工智能不是魔術(shù)，也不是我們所有問題的解決方案。負(fù)責(zé)任地開發(fā)和使用AI的一些主要要求包括健壯性，透明性以及對人權(quán)和原則的尊重。

首先，系統(tǒng)必須堅固。我們需要仔細(xì)研究所使用的技術(shù)和方法。特別地，使用數(shù)據(jù)驅(qū)動的方法來預(yù)測的傳播可能存在問題。這些方法通過關(guān)聯(lián)過去的數(shù)據(jù)來“學(xué)習(xí)”，目前我們還沒有足夠的關(guān)于類似情況的數(shù)據(jù)[1]。過去的結(jié)果并不能保證未來，尤其是當(dāng)未來看起來與我們從過去所知的一切截然不同的時候。而且，可用的少量數(shù)據(jù)是不完整且有偏差的。例如，可以肯定的是，已經(jīng)確認(rèn)的感染者多得多，并且還沒有對已恢復(fù)者的完整統(tǒng)計。將現(xiàn)有數(shù)據(jù)用于機(jī)器學(xué)習(xí)方法會導(dǎo)致許多假陰性和假陽性。當(dāng)前的情況可能是模型驅(qū)動的方法比數(shù)據(jù)驅(qū)動的方法更適合的情況。實際上，目前有幾個小組致力于(基于代理的)模擬。但是，模型的選擇必須以流行病學(xué)，社會學(xué)和心理學(xué)方面的可靠研究為基礎(chǔ)，連同合適的計算表示。這種類型的模型傾向于對設(shè)計假設(shè)和初始參數(shù)敏感。在提出這些系統(tǒng)以支持決策者之前，需要進(jìn)行敏感性分析測試。從研究的角度來看，結(jié)合數(shù)據(jù)驅(qū)動和模型驅(qū)動的混合方法的工作尤其重要。

無論是數(shù)據(jù)驅(qū)動還是模型驅(qū)動，透明度都是至關(guān)重要的。使用了哪些模型和數(shù)據(jù)集，以及為什么使用了什么，為什么要咨詢了哪些專家，如何測試和評估了系統(tǒng)……如果沒有這些問題的明確答案，結(jié)果將不可信賴。現(xiàn)在，世界比以往任何時候都負(fù)擔(dān)不起基于“黑匣子”做出決定的能力。如果您的系統(tǒng)無法提供其結(jié)果的解釋，請在考慮使用它對流行病進(jìn)行任何分析或預(yù)測之前三思。同時，強(qiáng)烈建議使用AI來支持識別虛假新聞并限制其傳播。