數(shù)字時代，隨著人工智能技術的廣泛應用，為了更好地規(guī)范人工智能領域的科技活動，我國陸續(xù)發(fā)布了一系列法律和行政法規(guī)；在要求確保模型決策的安全可靠和公平公正的同時，也對企業(yè)內針對模型的風險管理和內控制度提出了具體要求。
9月16日，九部委聯(lián)合制定的《關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》發(fā)布，針對算法治理提出要利用三年時間，逐步建立“治理機制健全”、“監(jiān)管體系完善”、“算法生態(tài)規(guī)范”的算法安全綜合治理格局。人工智能模型風險治理作為“可信人工智能”技術發(fā)展中的重要環(huán)節(jié)，已經(jīng)成為企業(yè)可信人工智能研究和應用的必要工作之一，企業(yè)應該實施切實有效的治理措施，快速靈活應對模型風險。
據(jù)悉，此次測評參照的標準是由中國信通院聯(lián)合20余家行業(yè)優(yōu)秀企業(yè)和專家依托中國互聯(lián)網(wǎng)協(xié)會平臺聯(lián)合制定的《人工智能模型風險治理能力成熟度模型》。該標準聚焦企業(yè)人工智能模型風險治理，建立了一套圍繞人工智能模型的風險治理能力成熟度的治理框架。
測評圍繞“AI模型全生命周期管理”、“應急響應”、“決策透明”、“專利保護”、“模型安全影響評估”、“交互與溝通”、“外部合作”等板塊展開；對參評企業(yè)在可信人工智能領域，包括魯棒性、可解釋性、公平性、數(shù)據(jù)隱私保護等不同維度的技術能力及技術治理方案都做出了規(guī)范和要求。
作為首批通過測試的參評單位，螞蟻集團全面風險管理部高級專家楊舟也受邀參與了論壇分享。他表示，螞蟻集團本次送測的“智能金融犯罪風險防控模型”，此前已廣泛應用于反欺詐等金融犯罪風險防控領域，不僅在魯棒性、可解釋性、隱私保護、公平性等領域的技術創(chuàng)新及實踐應用上積累了豐富的經(jīng)驗，在操作風險防控、模型全生命周期質量管控、模型使用管理等模型治理方面，也做出了許多積極探索?？尚拧⒅悄苣Ｐ惋L險管理體系已成為螞蟻全面風險管理的核心模塊。
