人工智能產(chǎn)品不同階段(規(guī)劃設計,研發(fā)部署,運營使用)的風險挑戰(zhàn)

應對人工智能技術在實際應用中引發(fā)的風險，除了積極推動人工智能技術可信能力 的提升，不斷減少技術本身的脆弱性，還應該構建更為積極的技術應用規(guī)范/規(guī)避 現(xiàn)階段人工智能技術"缺陷”帶來的問題。

人工智能產(chǎn)品研發(fā)中規(guī)劃設計、研發(fā)部署、運營使用環(huán)節(jié)的風險挑戰(zhàn)識別十分重要, 對于構建可信研發(fā)的實踐范式具有重要意義。

在規(guī)劃設計階段，難以在初始階段形成完備的風險分析，與此同時，確保相關理念貫徹執(zhí)行存在挑戰(zhàn)，在設計理念、規(guī)范傳達給個層級實施人員過程中，存在非正確 傳達、誤解等風險，尤其機器學習場景中固有的不可預測性，傳達實施偏差會進一 步加劇。

在研發(fā)部署階段，一方面，數(shù)據(jù)層面可能會遇到數(shù)據(jù)缺失、重復、不一致、來源不 明等問題；另一方面，模型技術層面存在著技術選型不恰當，模型尚未完備訓練即 開始上線服務，以及模型運行之后的動態(tài)更新缺乏足夠驗證等挑戰(zhàn)。

在運營使用階段，一方面，在人類和人工智能交互時可能出現(xiàn)誤用、過度依賴等問 題；另一方面，人工智能相關技術存在著被惡意使用的風險。