美國醫(yī)學(xué)信息學(xué)會：建議FDA微調(diào)AI醫(yī)療產(chǎn)品的監(jiān)管標(biāo)準(zhǔn)

雷鋒網(wǎng)按：本文譯自Healthcare ITNews，作者M(jìn)ike Miliard。

近日，美國醫(yī)學(xué)信息學(xué)會(AMIA)向FDA提交了一份建議清單，希望改進(jìn)其擬議的人工智能、機器學(xué)習(xí)和醫(yī)療器械獨立軟件(SaMD)監(jiān)管框架。

為了提高臨床人工智能和醫(yī)療器械獨立軟件(SaMD)的有效性、效率和安全性，AMIA希望FDA能夠針對機器學(xué)習(xí)工具產(chǎn)品，微調(diào)其監(jiān)管政策——特別是那些能夠基于新數(shù)據(jù)自動更新算法的工具。

AMIA指出，醫(yī)療AI行業(yè)往往分兩類算法型產(chǎn)品：一種是“已鎖定的靜態(tài)算法”，一種是“不斷學(xué)習(xí)自動更新的動態(tài)算法”，這兩種算法背后的產(chǎn)品，差異巨大。

“我們成員的觀察經(jīng)驗是，當(dāng)前許多 AI 醫(yī)療軟件，均基于實時或接近實時的數(shù)據(jù)連續(xù)更新，算法不斷適應(yīng)新數(shù)據(jù)和新問題。”

AMIA表示，這意味著人工智能非常容易“從糟糕或有偏見的數(shù)據(jù)中訓(xùn)練出模型，該模型可能無法提供優(yōu)質(zhì)的決策和令人信服的解釋”。因此，這可能導(dǎo)致SaMD的用戶不知道該設(shè)備是否適用于受眾。”

因此，根據(jù)AIMIA的說法，當(dāng)訓(xùn)練數(shù)據(jù)所屬人群與產(chǎn)品受眾不同時，F(xiàn)DA就應(yīng)該要求審查程序。

AMIA還鼓勵FDA將網(wǎng)絡(luò)安全風(fēng)險放在首位，因為黑客攻擊或其他數(shù)據(jù)操縱均可能對給算法的輸出產(chǎn)生不利影響。例如，它建議圍繞“針對防止系統(tǒng)適應(yīng)錯誤信號的特定類型錯誤檢測”來制定規(guī)則。

報告還建議FDA在框架中加入一些語言模型，以防止算法偏差對“特定種族、性別、年齡、社會經(jīng)濟(jì)背景、身體和認(rèn)知能力”的人群造成影響，并闡明SaMD技術(shù)的開發(fā)人員該如何測試他們的產(chǎn)品，以檢測這種偏差并相應(yīng)地調(diào)整算法。

隨著機器學(xué)習(xí)在醫(yī)療保健領(lǐng)域不斷取得進(jìn)展，過去FDA批準(zhǔn)的AI產(chǎn)品多是使用的是無法持續(xù)學(xué)習(xí)的鎖定算法產(chǎn)品，而自我更新的動態(tài)算法產(chǎn)品則是一個完全不同的領(lǐng)域，具有自己獨特的特點和風(fēng)險。隨著監(jiān)管方法的不斷完善和技術(shù)的快速發(fā)展，F(xiàn)DA將需要注意這些問題。

在其報告中，AMIA指出需要“根據(jù)數(shù)據(jù)輸入來源的不同來查看SaMD的性能。例如，來自臨床醫(yī)生、患者或家庭成員/護(hù)理人員手動輸入的數(shù)據(jù)輸入對SaMD輸出造成了不同的問題，這些數(shù)據(jù)輸入來自完全嵌入式和自動化的設(shè)備，而這些設(shè)備無法改變設(shè)置(例如完全閉環(huán)和基于傳感數(shù)據(jù))。

它指出，“另一個關(guān)鍵問題是，基于人工智能的SaMD應(yīng)該能夠在多大程度上為它所提供或支持的任何決策，提供解釋性推理。在人工智能的經(jīng)典范式中，已經(jīng)對現(xiàn)有的專業(yè)知識進(jìn)行了編碼，有可能將推理鏈返回到原則或數(shù)據(jù)。然而，機器學(xué)習(xí)算法可能在“黑盒”模式下運行，輸入修改了隱式電路，沒有明確的可跟蹤性。因此，重要的是要考慮在何種情況下，一個基于人工智能的SaMD應(yīng)該對它提供的任何決定作出解釋。”

AMIA總裁兼首席執(zhí)行官Douglas B. Fridsma博士在一份聲明中說:“正確管理人工智能和基于機器學(xué)習(xí)的SaMD，需要FDA和利益相關(guān)者之間持續(xù)探討。”雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。