確保人工智能算法的安全性、公正性和準確性的困難正使一些公司轉向一種曾被吹捧為革命性但在商業(yè)領域未能獲得成功的技術，那就是區(qū)塊鏈。

區(qū)塊鏈以支持比特幣和其他加密貨幣而聞名，它是一種數(shù)據(jù)結構，可以創(chuàng)建數(shù)字交易賬本，并在計算機網(wǎng)絡中共享。它利用密碼學，使網(wǎng)絡中的每個參與者能夠安全地向賬本添加信息，而無需中央機構的參與。一旦交易完成，區(qū)塊鏈將保留其不可變的記錄。

鑒此，數(shù)據(jù)分析公司FICO和區(qū)塊鏈初創(chuàng)企業(yè)Casper Labs表示，他們正在應用該技術來跟蹤構建和訓練人工智能算法的過程。

他們表示，這是一個及時而緊迫的應用，因為人工智能在各個業(yè)務領域大量應用，而公司發(fā)現(xiàn)自己不能總是信任其輸出結果。與此同時，政府監(jiān)管機構正在對公司施加更多壓力，要求增加算法的透明度和可審計性。

以前的區(qū)塊鏈商業(yè)應用，包括供應鏈追蹤，在市場上未能獲得推廣。人工智能的大規(guī)模應用是否能成為區(qū)塊鏈發(fā)展的助力尚有待確定。

FICO的首席分析官Scott Zoldi表示，**區(qū)塊鏈可以追蹤算法訓練時使用的數(shù)據(jù)，以及訓練時間、訓練人員以及對數(shù)據(jù)的驗證和核實所采取的其他步驟。**通常情況下，構建人工智能模型的公司會嘗試跟蹤這些數(shù)據(jù)，但使用區(qū)塊鏈可以更容易地獲得共享的、一致的、可信賴的記錄，他說。

“區(qū)塊鏈無法阻止算法出錯或展現(xiàn)偏見，但它可以提供可審計的記錄，以說明其中原因”，他說。

"我們發(fā)現(xiàn)區(qū)塊鏈可以將事情分解為小而可行的小型合同。我們可以驗證每一個步驟都是在一個非常高的粒度級別上完成的，" Zoldi說道。"具備這種不可變性，可以帶來透明度和誠實度。"

區(qū)塊鏈并不能解決人工智能模型的可解釋性問題，或者說AI模型的“黑匣子”問題。單獨使用區(qū)塊鏈無法確定為什么人工智能模型會給出特定的答案。但它承諾提供更好的記錄，以幫助回答這個問題，Zoldi表示。

一些首席信息官對此持懷疑態(tài)度。支付公司Fleetcor Technologies的首席信息官Scott duFour表示："我們完全贊成更嚴格的AI治理，但使用區(qū)塊鏈有點像找釘子的錘子。"他說，區(qū)塊鏈可能有助于增強對人工智能系統(tǒng)的信任，但前提是它必須與已經在使用的其他工具相輔相成，這些工具幫助設計師理解和解釋人工智能模型的預測。

目前，F(xiàn)ICO的工具正在內部使用，但計劃在今年晚些時候向客戶推出。

與此同時，總部位于瑞士的Casper Labs正在與IBM合作開發(fā)自己的工具，該工具將提供“版本控制”：它記錄了在某個特定時間對某個模型產生影響的數(shù)據(jù)和參數(shù)，如果公司開始發(fā)現(xiàn)模型中存在偏見或錯誤，他們可以恢復到較早的版本，首席執(zhí)行官Mrinal Manohar說。

改正算法中的偏見仍然是一個困難而耗時的過程，公司通常缺乏相應的系統(tǒng)和工具。

Casper Labs的工具目前正在進行測試階段，預計將在今年第三季度與IBM的watsonx AI治理平臺集成上市，盡管它并不僅限于watsonx平臺，Manohar說道。AI治理平臺旨在指導技術的使用，并管理與之相關的風險。

返回列表