9月3日下午，在世界人工智能大會(huì)“2022世界人工智能安全高端對(duì)話(huà)”主題論壇上，正式發(fā)布《浦東新區(qū)人工智能企業(yè)數(shù)據(jù)安全和算法合規(guī)指引(試行)》(以下簡(jiǎn)稱(chēng)“指引”)。

這也是繼今年2月楊浦區(qū)出臺(tái)上海首份《企業(yè)數(shù)據(jù)合規(guī)指引》后，第二份聚焦企業(yè)數(shù)據(jù)合規(guī)、算法合規(guī)的指引文件。

《指引》由上海市浦東新區(qū)檢察院牽頭，與浦東新區(qū)工商聯(lián)、人工智能行業(yè)指導(dǎo)部門(mén)、行業(yè)協(xié)會(huì)以及專(zhuān)業(yè)機(jī)構(gòu)共同編制。

【資料圖】

《指引》適用于上海市浦東新區(qū)人工智能企業(yè)，以及其他從事數(shù)據(jù)收集、處理和算法研發(fā)應(yīng)用的相關(guān)企業(yè)?！吨敢贩譃榘苏鹿?6條，包括總則、企業(yè)數(shù)據(jù)合規(guī)組織機(jī)構(gòu)建設(shè)、數(shù)據(jù)安全制度建設(shè)、數(shù)據(jù)全生命周期安全管理、算法合規(guī)制度建設(shè)等內(nèi)容。

上海市浦東新區(qū)人民檢察院檢察官夏靜在接受21世紀(jì)經(jīng)濟(jì)報(bào)道記者專(zhuān)訪時(shí)表示，人工智能產(chǎn)業(yè)是浦東新區(qū)的六大核心產(chǎn)業(yè)之一，出臺(tái)《指引》對(duì)浦東新區(qū)發(fā)揮“引領(lǐng)區(qū)”作用，引領(lǐng)人工智能產(chǎn)業(yè)發(fā)展起到了非常重要的作用。

據(jù)了解，《指引》出臺(tái)的目的，是聚焦浦東新區(qū)“智能造”“數(shù)據(jù)港”等六大硬核產(chǎn)業(yè)，進(jìn)一步推動(dòng)人工智能企業(yè)加強(qiáng)數(shù)據(jù)安全和算法合規(guī)管理，規(guī)范企業(yè)數(shù)據(jù)處理活動(dòng)和算法研發(fā)應(yīng)用，有效懲治和預(yù)防數(shù)據(jù)違法犯罪，進(jìn)一步優(yōu)化營(yíng)商環(huán)境，助力浦東新區(qū)實(shí)施重點(diǎn)產(chǎn)業(yè)高質(zhì)量發(fā)展行動(dòng)計(jì)劃，加快打造人工智能世界級(jí)產(chǎn)業(yè)集群，更好服務(wù)保障浦東引領(lǐng)區(qū)建設(shè)。

在日常的辦案過(guò)程中，夏靜發(fā)現(xiàn)人工智能行業(yè)的數(shù)據(jù)安全管理還存在一些漏洞，一些AI企業(yè)在數(shù)據(jù)安全保護(hù)或個(gè)人信息保護(hù)方面存在管理不到位的情況，數(shù)據(jù)安全保護(hù)意識(shí)較為薄弱。

據(jù)夏靜介紹，與上海市其他區(qū)出臺(tái)的人工智能企業(yè)相關(guān)指引相比，《指引》具有三大方面特色。

第一，《指引》首次將算法合規(guī)納入到數(shù)據(jù)合規(guī)體系，進(jìn)一步完善了數(shù)據(jù)合規(guī)的管理體系；

第二，《指引》進(jìn)一步擴(kuò)大了數(shù)據(jù)保護(hù)的范圍，以往的數(shù)據(jù)合規(guī)指引往往側(cè)重于個(gè)人信息保護(hù)，《指引》將保護(hù)范圍由公民個(gè)人信息拓展到其他領(lǐng)域的重要信息與核心信息，更為注重?cái)?shù)據(jù)合規(guī)的完整性；

第三，《指引》創(chuàng)新性引入數(shù)據(jù)合規(guī)的評(píng)價(jià)體系，通過(guò)外部評(píng)估與自評(píng)估兩種方式相結(jié)合，幫助人工智能企業(yè)更好地發(fā)現(xiàn)數(shù)據(jù)合規(guī)管理中存在的問(wèn)題，從而預(yù)防數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)。

在算法合規(guī)制度建設(shè)方面，《指引》明確AI企業(yè)在算法研發(fā)和應(yīng)用中應(yīng)當(dāng)遵循六大原則，分別是堅(jiān)持正確導(dǎo)向、堅(jiān)持風(fēng)險(xiǎn)防控、堅(jiān)持依法應(yīng)用、堅(jiān)持技術(shù)創(chuàng)新、堅(jiān)持防范算法歧視。《指引》還提倡企業(yè)應(yīng)強(qiáng)化責(zé)任意識(shí)，對(duì)算法應(yīng)用產(chǎn)生的結(jié)果負(fù)主體責(zé)任，提供算法推薦服務(wù)具有輿論屬性或社會(huì)動(dòng)員能力的應(yīng)當(dāng)進(jìn)行互聯(lián)網(wǎng)信息服務(wù)算法備案。同時(shí)，《指引》對(duì)人工智能企業(yè)的算法公開(kāi)、算法評(píng)估、反壟斷和反不正當(dāng)競(jìng)爭(zhēng)、自動(dòng)化決防范算法歧視等方面均作出規(guī)定。

“《指引》中引入數(shù)據(jù)合規(guī)評(píng)估體系，引導(dǎo)人工智能企業(yè)通過(guò)定期自評(píng)估，同時(shí)將算法合規(guī)納入其中，全面引導(dǎo)和規(guī)范人工智能企業(yè)數(shù)據(jù)處理活動(dòng)和算法研發(fā)應(yīng)用，為企業(yè)合理開(kāi)發(fā)、利用數(shù)據(jù)資源，確保數(shù)據(jù)安全，提高合規(guī)治理能力提供指南?！?上海市浦東新區(qū)人民檢察院黨組書(shū)記、檢察長(zhǎng)曾國(guó)東在發(fā)言中表示。

夏靜向記者介紹時(shí)提到，針對(duì)數(shù)據(jù)合規(guī)監(jiān)管，早在2020年，由浦東新區(qū)人民檢察院牽頭，已試點(diǎn)建立了上海自貿(mào)區(qū)涉案企業(yè)合規(guī)第三方機(jī)制管委會(huì)，并組建了首批76人第三方機(jī)制專(zhuān)業(yè)人員名錄庫(kù)，囊括來(lái)自不同領(lǐng)域和不同行業(yè)的專(zhuān)家，為人工智能企業(yè)有針對(duì)性地展開(kāi)專(zhuān)業(yè)性的指導(dǎo)評(píng)估。

“希望通過(guò)《指引》建立更為完備的數(shù)據(jù)合規(guī)管理體系，共同推動(dòng)數(shù)據(jù)合規(guī)從個(gè)案辦理向行業(yè)治理延伸，為浦東人工智能企業(yè)發(fā)展保駕護(hù)航。”夏靜表達(dá)了她的期待。

（文章來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道）

標(biāo)簽： 浦東新區(qū)