觀 點

針對AI招聘引發(fā)的算法就業(yè)歧視風(fēng)險，應(yīng)在充分發(fā)揮現(xiàn)有監(jiān)管體制的基礎(chǔ)上，加強(qiáng)專項治理。對算法規(guī)則進(jìn)行合法性和平等性評估，并向社會進(jìn)行公示。

近年來，人工智能（以下簡稱AI）在招聘場景中的應(yīng)用日漸興起。歐美國家一些招聘平臺、科技公司率先開發(fā)和采用了AI招聘系統(tǒng)。在我國，數(shù)據(jù)顯示，頭部招聘平臺累計服務(wù)求職者超過1億人次，求職有效簡歷數(shù)量超過1.5億份，認(rèn)證企業(yè)超過1000萬家。多家招聘平臺啟用AI為海量數(shù)據(jù)賦能。

AI招聘系統(tǒng)可以向潛在求職者推送招聘廣告，對海量簡歷進(jìn)行解析、篩選和匹配合適候選人，規(guī)范并簡化面試流程和能力測試，輔助招聘錄用決策，幫助企業(yè)降低招聘成本、提高招聘效率。有觀點認(rèn)為，算法具有技術(shù)中立性，可以消除招聘者可能存在的個人偏見，甚至避免受到其潛意識的影響，從而保證招聘行為的公正性。然而，近年來國內(nèi)外研究發(fā)現(xiàn)，AI招聘同時引發(fā)了算法就業(yè)歧視的風(fēng)險。

招聘場景中算法應(yīng)用的歧視風(fēng)險

其一，招聘廣告自動化推送中的歧視風(fēng)險。有研究者利用軟件模擬普通用戶瀏覽求職網(wǎng)站，隨后統(tǒng)計較高薪酬職位的廣告數(shù)據(jù)，發(fā)現(xiàn)男性用戶組收到的廣告推送是女性用戶組的6倍多?？梢?，在算法主導(dǎo)的招聘市場上，男性相較于女性獲得高薪職位廣告推薦的機(jī)會更多，同等條件下獲得較高年薪待遇的幾率也更高。

其二，簡歷自動化評分中的歧視風(fēng)險。在求職者向目標(biāo)企業(yè)投遞簡歷后，AI會對簡歷進(jìn)行自動化評分，在此過程中，算法可能會對某些特定群體的簡歷給予負(fù)面評價，甚至直接過濾。在一項國外的研究中，研究人員創(chuàng)建了4萬份虛構(gòu)的簡歷，并向分布在不同城市的1萬多個網(wǎng)上職位發(fā)送了年齡不同而其他條件完全相同的虛擬申請。研究顯示，在擁有相同技術(shù)能力的情況下，年輕申請者獲得的反饋率遠(yuǎn)高于年長者，說明年長者的簡歷在初篩階段被降級了。

其三，招聘自動化決策中的歧視風(fēng)險。企業(yè)使用視頻面試系統(tǒng)對求職者進(jìn)行篩選，算法會通過分析求職者在面試中的表現(xiàn)，包括語言分析（通過抓取關(guān)鍵詞等方式分析求職者的回答）和視頻分析（對其面部表情、語音語速、眼神交流等進(jìn)行數(shù)據(jù)收集、處理與分析），判斷求職者的業(yè)務(wù)能力、工作風(fēng)格、勤勉度、忠誠度與所求職崗位匹配的可能性并進(jìn)行排名。此類自動化決策雖剝離了面試官個人對面試結(jié)果的影響，但蘊含著算法歧視的風(fēng)險。

產(chǎn)生算法就業(yè)歧視的根源

看似客觀中立的算法為何會產(chǎn)生就業(yè)歧視風(fēng)險？基于國內(nèi)外的研究成果，可將算法歧視產(chǎn)生的根源總結(jié)為以下幾個方面。

一是算法具有自主性和超打探性。在數(shù)據(jù)處理過程中，算法可以通過技術(shù)追蹤，打探應(yīng)聘者簡歷之外的個人信息，并預(yù)測其未來的行為特征。例如，在面對一份女性求職者的簡歷時，算法可以通過掌握其身份信息自主打探其在不同網(wǎng)站上的瀏覽與消費記錄，判斷其身份特征，從而影響評估和決策的結(jié)果。

其二，算法具有隱蔽性。算法在數(shù)據(jù)挖掘、數(shù)據(jù)選擇和模型建構(gòu)時具有隱蔽性，這使得人們難以判斷其在學(xué)習(xí)過程中究竟識別了哪些數(shù)據(jù)，提煉出哪些特征。因此，在未經(jīng)系統(tǒng)訓(xùn)練的情況下，人們很難對算法決策過程和原理進(jìn)行完整準(zhǔn)確的解釋，對維權(quán)和監(jiān)管也形成了較高的技術(shù)壁壘。

其三，訓(xùn)練算法的數(shù)據(jù)缺陷。在算法生成之前，開發(fā)者需要投放大量數(shù)據(jù)對其進(jìn)行訓(xùn)練。如果數(shù)據(jù)本身存在對某些群體的偏見或代表性不足，那么生成的算法就可能導(dǎo)致歧視。算法在具有歧視色彩的數(shù)據(jù)環(huán)境中“學(xué)習(xí)”與“成長”，會習(xí)得結(jié)構(gòu)性偏見。

算法就業(yè)歧視的治理路徑

近年來，針對“大數(shù)據(jù)殺熟”等算法歧視問題，國家先后出臺了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等規(guī)范性文件，針對各類主體濫用算法權(quán)力的現(xiàn)象展開專項整治。筆者認(rèn)為，在充分發(fā)揮現(xiàn)有監(jiān)管體制的基礎(chǔ)上，應(yīng)加強(qiáng)對算法就業(yè)歧視的專項治理。網(wǎng)信部門可聯(lián)合技術(shù)專家、法律專家、人力資源專家、工會代表等各方力量成立專門委員會，對各大招聘網(wǎng)站和相關(guān)企業(yè)進(jìn)行定期監(jiān)管與技術(shù)監(jiān)督，對企業(yè)提交的算法規(guī)則進(jìn)行合法性和平等性評估，并向社會進(jìn)行公示。

首先，針對算法的自主性和隱蔽性問題，要求算法開發(fā)設(shè)計方建立算法規(guī)則備案制度，定期記錄算法模型和具體決策。借鑒外域治理經(jīng)驗，可采用個人數(shù)據(jù)的分級制度進(jìn)行管理，即對于某些與個人隱私密切相關(guān)的數(shù)據(jù)，應(yīng)禁止AI招聘系統(tǒng)抓取和處理，避免算法抓取個人隱私信息對其進(jìn)行不合法“畫像”。

其次，針對訓(xùn)練算法的數(shù)據(jù)缺陷問題，有關(guān)部門應(yīng)監(jiān)督企業(yè)在設(shè)計算法時構(gòu)建更加公正的數(shù)據(jù)集。在訓(xùn)練算法模型時，應(yīng)對遴選輸入的數(shù)據(jù)進(jìn)行不斷地對比調(diào)試，以確保輸出結(jié)果符合公平特性。具體做法是，在輸入訓(xùn)練數(shù)據(jù)集時，要么剔除受保護(hù)特征的目標(biāo)變量，要么去除敏感信息后盡可能保留原始信息；修正未被“公平呈現(xiàn)”的相關(guān)群體的數(shù)據(jù)比例。

最后，對平等就業(yè)觀念進(jìn)行宣傳和引導(dǎo)。算法運行過程中受環(huán)境數(shù)據(jù)影響的現(xiàn)象，不是單純依靠算法技術(shù)與數(shù)據(jù)監(jiān)管就能夠改變的事實，而是傳統(tǒng)社會結(jié)構(gòu)中存在的偏見。因此，需要從社會環(huán)境的角度出發(fā)，對平等就業(yè)進(jìn)行全方位的宣傳和引導(dǎo)，提高環(huán)境數(shù)據(jù)的公正性、包容性，減少算法受到影響的程度。

（作者單位：華東政法大學(xué)）