事件一：9月初，在一場圍繞教育場景概念演示活動(dòng)中，某AI企業(yè)展示的一幅課堂行為分析圖片引起了網(wǎng)友們關(guān)于科技濫用的爭議。該企業(yè)在回應(yīng)聲明中，稱始終堅(jiān)持技術(shù)向善，讓人工智能造福所有人。在人工智能技術(shù)的各種場景中，會(huì)堅(jiān)持正當(dāng)性、數(shù)據(jù)隱私保護(hù)等核心原則，接受社會(huì)的廣泛建議和監(jiān)督。
針對(duì)AI進(jìn)校園，生物識(shí)別技術(shù)在校園逐步開始應(yīng)用的現(xiàn)象，9月5日，教育部科學(xué)技術(shù)司司長雷朝滋在接受澎湃新聞采訪時(shí)表示，“(對(duì)于人臉識(shí)別技術(shù)應(yīng)用)我們要加以限制和管理。現(xiàn)在我們希望學(xué)校非常慎重地使用這些技術(shù)軟件。”雷朝滋指出，人臉識(shí)別進(jìn)校園，既有數(shù)據(jù)安全也有個(gè)人隱私問題，“教育部已經(jīng)在開始關(guān)注這個(gè)事情，組織專家論證研究。”“包含學(xué)生的個(gè)人信息都要非常謹(jǐn)慎，能不采集就不采。能少采集就少采集，尤其涉及到個(gè)人生物信息的。”
事件二：在今年2月份，荷蘭安全研究員VictorGevers在社交網(wǎng)站上表示，中國一家AI企業(yè)內(nèi)部的一個(gè)MongoDB數(shù)據(jù)庫暴露在公網(wǎng)上，該數(shù)據(jù)庫內(nèi)超過250萬人的個(gè)人信息數(shù)據(jù)能夠不受限制被訪問，其中包括身份證數(shù)據(jù)、照片、工作信息等。此外，該數(shù)據(jù)庫還可動(dòng)態(tài)記錄個(gè)人位置信息，僅2月12日至2月13日的24小時(shí)，就有超過680萬個(gè)地點(diǎn)被記錄在案。
這些年來，網(wǎng)絡(luò)上關(guān)于個(gè)人資料、肖像、消費(fèi)信息、敏感資料等泄露事件早就不是新聞，但在人工智能等新技術(shù)催化下，這類泄密事件只是小兒科級(jí)別的新聞。真正的泄密正在圍繞“數(shù)據(jù)”產(chǎn)生，這些數(shù)據(jù)涉及各類事、物、個(gè)人、企業(yè)、行業(yè)、政府部門等等，包括當(dāng)事主體的相關(guān)生物特征、行為特征也能以數(shù)據(jù)化的泄密形式出現(xiàn)，這才是值得重點(diǎn)關(guān)注和防控的潛在問題。一旦這些數(shù)據(jù)被非法惡意利用，小則危害公民的個(gè)人信息安全及財(cái)產(chǎn)安全，大則危害到某個(gè)企業(yè)或某個(gè)行業(yè)的運(yùn)營安全，甚至危害到國家安全。
每一輪先進(jìn)技術(shù)的產(chǎn)生對(duì)人類社會(huì)的發(fā)展都會(huì)起到巨大的推動(dòng)作用。先進(jìn)技術(shù)其本身并不具有善惡的屬性，就像人臉識(shí)別技術(shù)，公安部門用它來抓捕逃犯或?qū)ふ沂й櫟娜藛T，交通部門用來治理違章，企業(yè)用來考勤，軌交部門用來檢票通行…… 但也有人把它用來玩明星換臉，或植入到色情視頻當(dāng)中，或用到非法侵入他人賬戶等行為中。所以，在非傳統(tǒng)安全風(fēng)險(xiǎn)的領(lǐng)域，以人工智能等新興科技為主的先進(jìn)技術(shù)在放大其正面價(jià)值效應(yīng)的同時(shí)，也會(huì)放大其負(fù)面效應(yīng)。其中關(guān)鍵在于先進(jìn)技術(shù)是誰在使用？使用的目的是什么？通過什么手段實(shí)施？怎樣來監(jiān)管？
當(dāng)前在人工智能技術(shù)落地安防的熱門應(yīng)用中，以人臉識(shí)別技術(shù)在項(xiàng)目建設(shè)中的各種現(xiàn)象為例，在諸多關(guān)鍵節(jié)點(diǎn)上存在風(fēng)險(xiǎn)問題，值得業(yè)內(nèi)主管部門、科研機(jī)構(gòu)和從業(yè)企業(yè)加強(qiáng)重視，并予以解決。
首先，對(duì)人臉數(shù)據(jù)的采集缺乏準(zhǔn)入的門檻。不論是行業(yè)的還是商業(yè)的項(xiàng)目，或者消費(fèi)、娛樂類的項(xiàng)目，不論什么樣的企業(yè)都可以通過各種途徑采集大量的數(shù)據(jù)。在采集的過程中，涉及到大量的個(gè)人隱私信息、肖像權(quán)保護(hù)等問題，甚至涉及敏感人員的保護(hù)問題。那么，人臉數(shù)據(jù)的采集要不要設(shè)置準(zhǔn)入的標(biāo)準(zhǔn)？這種準(zhǔn)入機(jī)制，對(duì)研究為目的的科研機(jī)構(gòu)，對(duì)商業(yè)利益為目的的企業(yè)又如何區(qū)別對(duì)待？在不同的行業(yè)，準(zhǔn)入機(jī)制要如何區(qū)別？
其次，人臉數(shù)據(jù)在應(yīng)用過程中缺乏保密意識(shí)。通過各種途徑采集來的多維數(shù)據(jù)經(jīng)過人工智能技術(shù)的處理，再經(jīng)過大數(shù)據(jù)的碰撞與匯聚分析，產(chǎn)生了更多，更深層次的數(shù)據(jù)，可以實(shí)現(xiàn)用戶畫像、知識(shí)圖譜等等成果，這些成果本身非常有價(jià)值，有的是涉密的。然而這些數(shù)據(jù)在應(yīng)用過程中，當(dāng)前缺乏明確的保密規(guī)則與措施。在專業(yè)的行業(yè)項(xiàng)目建設(shè)中，公安用戶主管部門有強(qiáng)烈的保密意識(shí)，但在商業(yè)、消費(fèi)、娛樂、民用等項(xiàng)目建設(shè)中，對(duì)這些數(shù)據(jù)應(yīng)用過程中的保密意識(shí)基本是空白。更不用說流行的換臉APP系統(tǒng)中對(duì)明星人臉的侵權(quán)，以及對(duì)用戶人臉數(shù)據(jù)的間接收集等侵權(quán)行為，等等。
其三，人臉等數(shù)據(jù)的保存環(huán)節(jié)缺乏保密措施，或者保密不到位。某AI企業(yè)的數(shù)據(jù)庫暴露在公網(wǎng)上就是一個(gè)典型案例。無論是將人臉數(shù)據(jù)保存在本地服務(wù)器，或者是保存在網(wǎng)絡(luò)空間，相關(guān)企業(yè)對(duì)這些存儲(chǔ)介質(zhì)的安全防護(hù)如何保障？在具體的項(xiàng)目中，人臉數(shù)據(jù)庫又是如何加密的，訪問的權(quán)限和提取的權(quán)限又是怎樣設(shè)置的呢？
其四、非法的人臉識(shí)別應(yīng)用行為難以監(jiān)測(cè)和管控。在人工智能落地安防和泛視頻應(yīng)用的業(yè)務(wù)當(dāng)中，不同的企業(yè)是基于各種類型的目的，其中絕大多數(shù)企業(yè)是要抓住人工智能技術(shù)的風(fēng)口，推動(dòng)各類創(chuàng)新業(yè)務(wù)和應(yīng)用的實(shí)現(xiàn)，以此實(shí)現(xiàn)企業(yè)的商業(yè)利益達(dá)成。用戶則是希望導(dǎo)入人工智能技術(shù)實(shí)現(xiàn)更多的創(chuàng)新應(yīng)用，提升管理的效率，實(shí)現(xiàn)產(chǎn)業(yè)的轉(zhuǎn)型升級(jí)。但是，也不排除一些企業(yè)和用戶出于對(duì)非法或犯罪利益的追求，將人工智能技術(shù)用到了違法犯罪的活動(dòng)當(dāng)中，目前在各類新聞事件中報(bào)道的案例可能只是開端。因此，如何在相關(guān)系統(tǒng)項(xiàng)目的搭建時(shí)對(duì)其應(yīng)用目的進(jìn)行監(jiān)管和評(píng)估，包括運(yùn)行過程中對(duì)其違法、違規(guī)行為進(jìn)行監(jiān)測(cè)，是有必要的。相關(guān)技術(shù)系統(tǒng)出于社會(huì)公共利益為目的由什么機(jī)構(gòu)來監(jiān)管？若是出于商業(yè)利益為目的進(jìn)行搭建，其針對(duì)的社會(huì)大眾目標(biāo)對(duì)象的知情權(quán)，許可權(quán)等權(quán)利如何切實(shí)保障？這都是要考慮的問題。
另外，在一些項(xiàng)目系統(tǒng)的應(yīng)用中，人臉數(shù)據(jù)是在公網(wǎng)上傳輸(實(shí)質(zhì)相當(dāng)于在網(wǎng)上裸奔)，而一些人工智能企業(yè)是在國外引入的開源算法基礎(chǔ)上做的二次開發(fā)，自己并不掌握底層的技術(shù)與源代碼，等等，這些現(xiàn)象都是潛在風(fēng)險(xiǎn)發(fā)生的節(jié)點(diǎn)。
當(dāng)前，在不少省市的數(shù)字城市TOG建設(shè)規(guī)劃文件中，對(duì)數(shù)據(jù)生成、應(yīng)用、存儲(chǔ)，包括基礎(chǔ)構(gòu)建等環(huán)節(jié)的安全防護(hù)都有比較清晰的條文說明，例如數(shù)字廣東的文件中要求“構(gòu)建全方位、多層次、一致性的安全防護(hù)體系，加強(qiáng)數(shù)據(jù)安全保護(hù)，切實(shí)保障‘數(shù)字政府’信息基礎(chǔ)設(shè)施、平臺(tái)和應(yīng)用系統(tǒng)平穩(wěn)高效安全運(yùn)行。增強(qiáng)安全管理、安全保障、安全運(yùn)用等立體防護(hù)能力。完善基于物理、網(wǎng)絡(luò)、平臺(tái)、數(shù)據(jù)、應(yīng)用、管理的六層立體安全防護(hù)體系。”
對(duì)比下來，目前人工智能技術(shù)在安防或視頻應(yīng)用落地的火熱的項(xiàng)目建設(shè)中，客觀地講，我們尚缺乏一套能覆蓋核心技術(shù)、產(chǎn)品系統(tǒng)、建設(shè)、運(yùn)營、使用、監(jiān)管等主體對(duì)象的系統(tǒng)化機(jī)制，或者是規(guī)則。過去在以視頻圖像為核心的安防系統(tǒng)建設(shè)時(shí)，有中國圖像圖形學(xué)學(xué)會(huì)視頻監(jiān)控與安全專委會(huì)、公安部安全防范技術(shù)與風(fēng)險(xiǎn)評(píng)估重點(diǎn)實(shí)驗(yàn)室學(xué)術(shù)委員會(huì)等專家小組參與其中，并從上到下建立了比較完善的法規(guī)、標(biāo)準(zhǔn)、規(guī)范文件體系。
在人工智能技術(shù)快速落地安防或視頻應(yīng)用的新時(shí)期，針對(duì)由此產(chǎn)生的數(shù)據(jù)安全防護(hù)問題，是時(shí)候開始推進(jìn)與之相關(guān)的管理機(jī)制、標(biāo)準(zhǔn)規(guī)范、保障策略、技術(shù)支撐等安全防護(hù)體系建設(shè)了。正如清華大學(xué)媒體大數(shù)據(jù)認(rèn)知計(jì)算研究中心主任王生進(jìn)教授所說的，現(xiàn)在視頻監(jiān)控與人臉識(shí)別的應(yīng)用太多了，對(duì)數(shù)據(jù)的安全防護(hù)工作刻不容緩。
手機(jī)版
微信公眾號(hào)
會(huì)員交流群
會(huì)員服務(wù)中心
附件列表
聯(lián)系電話：027-87324910
辦公地址：湖北省武漢市武昌區(qū)積玉橋積玉路5號(hào)（省電子質(zhì)檢院8樓）
2019-09-24
廣州市安全防范行業(yè)協(xié)會(huì)點(diǎn)擊量：8297
打印
關(guān)閉