來源 | 人民論壇網-國家治理雜志轉載請注明來源

當前，數字技術正被廣泛應用到醫療、教育、政務民生、基層治理等各個領域，也融入人們日常生活的無數場景。然而，數字技術在賦能基層治理的同時，產生出的技術濫用問題，也亟需我們給予高度重視和系統防控。比如，去年河南鄭州某些機構濫用健康碼事件；有的基層政府采用數字技術創建多個數字工作平臺，導致隱性的“數字形式主義”行為時有發生……數字技術濫用還有哪些表現形式？該如何治？一起關注。

01

(資料圖片)

表現

技術濫用是指過度使用或不加節制地、甚至是惡意使用某些技術以實現某種利益或產生某種社會后果的行為或現象。隨著基因編輯技術、合成生物技術、大數據、人工智能和人臉識別技術等前沿技術的快速推進和優化迭代，相關技術被濫用的風險及其嚴重后果日益引起社會普遍關注，各類科學組織、社會團體、科技企業和政府機構紛紛出臺相關的規范條例、行為準則和政策法案，要求相關機構、企業和科技工作者履行負責任的研究和創新責任，使科技向善、不作惡。

基層治理中的數字技術濫用，大致包括兩種情形：其一是作為治理對象的數字技術濫用問題，即由于互聯網、人工智能、人臉識別、音頻編輯和數字監控等數字技術的廣泛應用，而在基層社會出現的各類亟待解決的新的社會治理問題，比如數字歧視、信息欺詐、個人隱私侵犯等等；其二是指作為治理工具而引出數字技術濫用問題，主要表現為基層政府在解決某些治理問題過程中發生的技術濫用行為，如惡意或過度使用數字技術的行為等。在當前的基層治理實踐中，這兩類技術濫用問題相互交織，共同形成基層治理中技術濫用的復雜場景，但后者對推進基層治理體系和治理能力現代化帶來更為嚴重的負面影響。因此我們聚焦后者，并將其粗略概括為以下五類表現形式。

▲ 數字公共產品的惡意使用

第一類指變相或惡意使用具有重要公共產品屬性的數字技術產品或工具，且造成極壞社會影響的技術濫用行為。最典型的例子就是河南鄭州某些機構濫用健康碼事件。健康碼本是基于新冠疫情防控嚴峻形勢開發出來的具有強大公信力的數字技術產品，目的在于確保各地疫情防控政策的有效執行和相互協調，平衡疫情防控政策要求和公民異地出行、參與社會經濟活動訴求之間的關系。鄭州某些機構變相使用健康碼，將其變成限制外地儲戶合法維權的“維穩”手段，不僅侵犯了村鎮銀行儲戶的合法權益，而且透支了健康碼在疫情防控中的權威性和公信力，嚴重損害了人民群眾與基層政府之間的信任關系。該事件不僅是基層治理中性質比較惡劣的技術濫用事件，也是社會影響極壞的公權力被濫用的事件。

▲ 數字形式主義

第二類指過度使用數字技術，在基層治理中導致各種隱性的“數字形式主義”泛濫的數字技術濫用行為。我們在基層調研中發現，一些基層政府采用數字技術創建了多個微信群、APP和數字工作平臺，盡管本意是提高工作效率和改善服務質量，以快捷地回應基層人民群眾的治理訴求，但這些微信群和數字工作平臺多數最終演變為各種形式主義和官僚主義的技術配置，變成了科層制體系中上級主管部門對基層干部實施監督管理的形式化工具。比如，要求基層扶貧干部或鄉村振興“第一書記”每天按時打卡、定位，填寫扶貧或在鄉日志，上傳入戶的行動軌跡等，結果導致基層工作者天天圍著數據填寫和上報轉，根本沒有精力開展基層社會治理和公共服務，只能以形式主義應對形式主義。

▲ 對存在風險與爭議的技術的濫用

第三類指在基層治理中不當或過度使用有安全風險或有社會爭議的數字技術或智能設施。自疫情發生以來，無接觸式“人臉識別”等數字技術已成為許多公共場所、商場、餐廳、辦公樓的標配，其在精準高效識別人臉和測量體溫，協助基層高效完成疫情防控任務和治理目標的同時，也引發了可能被濫用的安全風險關注和社會爭議。許多公共場所安裝人臉識別等數字技術設備和系統時，沒有明確提供隱私保護政策和用戶協議，人民群眾基本上是在不知情的前提下被動接受相關的數據采集和應用行為。

2019年9月，一組課堂上學生行為分析的視頻截圖在網上引發熱議。其中，攝像頭通過計算機視覺算法獲取學生的課堂表現，并以標簽的形式計算出學生“聽講、閱讀、舉手、趴桌子、玩手機、睡覺”等動作次數。盡管相關技術的開發公司強調這僅僅是一種“技術場景化概念演示”，“僅停留在技術展示階段，尚未落地應用”，但此類技術可能存在的濫用風險還是引起社會普遍關注。一些人擔心，這樣的數字技術創新可能將課堂或者公共場所變成“全景敞視監獄”。這類數字技術創新或許對特定情景下的社會治安維護有幫助，但如果將其不加任何限制地應用于基層治理，則可能造成個人隱私侵犯和數據被濫用或泄露等其他非預期的后果，給人民群眾的生產生活和國家安全造成難以預料的危害，并對人民群眾的行為和心理產生嚴重的負面影響，不利于基層社會的和諧、穩定和安全。

▲ 非法竊取公眾數據信息

第四類指非法利用各種數字技術手段竊取和分析公眾的數據和信息，并應用于非正當的目的。2022年3月22日，360公司披露，美國國家安全局利用量子攻擊平臺技術對世界各國訪問美國社交媒體的互聯網用戶發起網絡攻擊，在30天內遠程竊取了970億條全球互聯網數據和1240億條電話記錄，中國社交軟件也是其攻擊目標。濫用前沿數字技術在網絡平臺或社交媒體中非法竊取互聯網用戶數據和信息，用于社會監控和其他非正當目的，這可能是數字技術時代最危險的技術濫用行為，其危害的不僅僅是互聯網用戶的個人隱私和人身安全，還削弱公眾對數字技術合理應用的信任，破壞數字社會賴以持續發展的社會團結，亟需盡快立法加強對此類技術濫用行為的規范和監管。盡管目前在我國基層治理中尚未發生此類技術濫用的嚴重事件，但我們必須對此保持高度警惕。

▲ 數字技術濫用的資源浪費

第五類指基層政府過度使用昂貴數字技術工具去解決某些無關緊要或不存在的基層治理問題，造成基層治理資源浪費的數字技術濫用行為。比如，某些社區在公園的公廁中安裝人臉識別廁紙機，說是用于統計每人抽取廁紙的數據以減少資源浪費。一些地方政府部門大量使用攝像頭、無人機等智能監控技術對偏僻鄉村可能存在農作物秸稈焚燒行為進行高強度監管，盡管可能對個別農戶私自焚燒秸稈的行為起到了威懾作用，但其產生的社會效果與其投入的社會資源并不成比例。某些基層政府熱衷于在社會治安良好的社區或人口稀少的鄉村，過度使用高精度的數字設備搞所謂的“智慧社區”或“明亮鄉村”，結果導致了人民群眾的抱怨和社會公共資源的浪費。

特別需要注意的是，一些基層政府在建立數字政務平臺時過于追求高大上，卻很少考慮具體的應用場景和服務配套，結果將基層數字治理平臺變成“秀場”工程。有的在線辦事窗口因缺少共享數據庫支持，居民在每個窗口辦事都要重復提交相關信息資料，給人民群眾造成很大的不便。數字技術治理并非包治百病的“靈丹妙藥”，基層政府應因地制宜，靈活采用，切莫貪大求新。

02

成因

基層治理中數字技術濫用的發生，首先與數字技術的雙重使用屬性相關。科技是發展的利器，也可能成為風險的源頭。數字技術的快速發展、迭代創新及其在基層治理中的應用，也表現出顯著的雙重使用特性。2021年4月，安徽省合肥市警方在公安部“凈網2021”專項行動中打掉一個犯罪團伙，該團伙利用人工智能技術偽造他人人臉動態視頻，為黑灰產業鏈提供注冊手機卡等技術支撐。據犯罪嫌疑人交代，深度合成技術和人工智能技術讓人臉動態視頻偽造制作簡單易行，任何一個中學生都可通過在線網購教程和下載軟件“自學成才”。數字技術創新的快速推進降低了相關技術使用的門檻，使之應用變得快捷易行，但同時也使不法分子利用數字技術的違法犯罪行為成本降低，大大增加了基層社會治理中數字技術被濫用的風險。數字技術是很有效的賦能工具，如果相關技術創新服務機構和科技人員在將數字技術應用于基層治理服務時，僅僅展示數字技術創新的新穎性、便捷性和功用性，而對其可能被濫用的風險及其社會后果缺乏系統評估和必要警示，那會增加基層治理中數字技術濫用行為的可能性，使基層治理問題復雜化和尖銳化，給人民群眾的社會生活帶來負面影響，進而會影響人民群眾和基層社會對數字技術創新的正確認知和客觀判斷，形成不利于數字技術創新高質量發展的社會環境。

其次，基層治理中技術濫用發生也與基層治理人員普遍形成的“解決主義”慣習有關。受政績工程和目標導向等基層治理觀念的影響，一些基層人員在使用數字技術時更多關心的是其解決問題的快速、便捷、新奇或“亮眼”，通常會忽略相關技術應用可能引發的社會矛盾和利益沖突等其他問題。這種“解決主義”的慣習與數字技術雙重使用本性相互疊加，可能就會在不經意間造成技術濫用行為，如鄭州健康碼被賦紅碼的行為。需要指出的是，基層治理中的許多問題，因牽涉到諸多利益相關者的復雜社會關系，無法通過某種數字技術手段得到完美解決，搞不好還會引出更復雜、更棘手的其他治理問題。例如，在基層社區和農村安裝很多攝像頭、傳感器之類的監控設備，隨時抓取人們生產生活的相關數據，可能對防范各種不法行為有威懾力，也可能為基層治理提供必要的數據和決策依據，但是否會有利于增進基層社會和諧與團結，增加人民群眾的獲得感、幸福感和安全感，可能還需要基層政府跳出“解決主義”的慣習進行審慎考量和系統評估。

再者，當前基層治理中之所以出現各種數字技術濫用行為，也與數字技術應用規制體系的相對滯后和不完善密切相關。北京大學邱澤奇教授分析，“對一個合作有序的社會而言，技術從來都只是工具，對工具運用的規制才是決定技術影響社會秩序的關鍵因素”。盡管我國已設立許多針對數字技術應用的法律規范，但這些法律規范如何落地實施依然需要細化和完善。比如相關法律明確禁止利用信息技術等方式侵害他人的肖像權或侵犯個人隱私，但對相關技術如何合理使用、哪些情形下應禁止使用等卻沒有明確規范。一些科技公司雖已提出科技向善等主張，但對那些敏感數字技術如何在社會層面向善使用或負責任地創新，依然缺乏明確的技術規范和行動指南。總之，這些規制方面的不完善，可能為基層治理中某些腐敗官員和不法分子惡意使用數字技術提供可乘之機，進而導致基層治理中的技術濫用行為。

03

對策

人臉識別和人工智能等前沿數字技術如果正確應用，必將成為普惠的應用基礎設施，賦能基層社會治理，高質量地推動基層公共服務和社會治理價值和目標的實現。但要適當地使用人臉識別、人工智能和健康碼等前沿數字技術，除了加強國家對數字技術應用的立法監管和制度體系建設外，還必須加強基層治理人員的數字技術安全和倫理教育，倡導負責任的數字技術創新，以減少數字傷害、避免數字鴻溝，推進基層治理體系和治理能力現代化。結合基層治理創新實踐，提出如下有效防控數字技術濫用的基本策略。

首先，加強對基層公務人員進行數字技術應用相關的法律和倫理教育。要明確數字技術應用的特性和底線，培養他們對基層治理中可能出現技術濫用行為的敏感性和責任意識，以幫助他們樹立正確的數字技術創新觀，更好地履行執政為民、服務社會的社會職責。通過教育培訓使基層治理者明確：數字技術只是基層治理的工具，并不是全部；數字技術在基層治理能發揮有效作用，其根本取決于技術和社會良性互動形成的技術社會系統，而非某種特定的技術；數字技術可以賦能基層治理，但不能主導甚至替代基層治理。

其次，要通過多部門協作的機制設置技術濫用的安全防線。要明確前沿數字技術應用服務治理的預警原則，并發揮龍頭企業和行業協會的作用，適時制定和完善前沿數字技術應用的服務標準和規范體系；建立安全風險監測評價體系，以加強對基層數字技術濫用的行政執法監督和敏捷管理，更好地平衡數字技術在基層治理中的創新應用和技術濫用風險防控，統籌好發展與安全的關系，推進數字技術創新和基層治理體系和治理能力現代化。政府監管部門要對相關標準的執行情況進行監督檢查，并在力所能及的情況下為社區和基層政府使用相關敏感技術提供指導和咨詢服務。

再者，要加強預防數字技術濫用的源頭治理。在計劃部署對基層治理意義重大的數字技術項目時設立法律和倫理審查委員會，并舉行聽證會，邀請社會公眾參加，以廣泛聽取人民群眾的意愿和訴求，對相關技術應用進行社會后果和技術被濫用的風險進行系統評估，進而讓數字技術更好地賦能基層治理而不是增加社會分歧、引發社會矛盾和沖突。數字技術在基層治理中的應用，本質上是數字技術嵌入基層社會文化和政治議程的過程，基層政府和數字技術服務企業對基層治理中采用的各類事關民生和社會公共利益的數字技術項目和計劃，進行必要的技術評估和法律、倫理和社會影響分析，有利于克服簡單追求政績和“解決主義”慣習的局限性。

此外，要鼓勵專家學者和科技社團對基層治理中可能出現的技術濫用情況進行預警分析，前瞻研判數字技術創新帶來的規則沖突、社會風險和倫理挑戰。為完善相關法律法規、倫理審查規則及監管框架，促進數字技術創新和基層數字治理等提供政策建議，以確保數字技術高質量、負責任地推進基層治理體系和治理能力現代化建設。

上文略有刪減

選自 |《國家治理》雜志原標題 | 基層治理中的數字技術濫用及其防控策略

作者 | 中國農業大學人文與發展學院教授 李建軍

新媒體編輯 | 王思楠

原文責編 | 董惠敏

咨詢熱線：01065367145 馬老師

歡迎關注↓↓