TMT观察网_独特视角观察TMT行业

說它古老，是因?yàn)槠錃v史悠久、源遠(yuǎn)流長。中國相面術(shù)的起源，最早可以上溯至氏族社會時期，到了春秋戰(zhàn)國時期就已十分流行，《麻衣神相》是相面術(shù)的集大成之作，擁有深廣的群眾基礎(chǔ)。大家耳熟能詳?shù)奈膶W(xué)作品中經(jīng)常能看到相面術(shù)的身影：大富大貴之人一般都相貌不凡，如《三國演義》中劉備的“雙耳垂肩、雙手過膝”、關(guān)羽的“丹鳳眼、臥蠶眉”等；而奸惡之人也都天生異相，如《史記》里秦始皇的“蜂準(zhǔn)、長目、摯鳥膺、豺聲”。簡而言之，相面術(shù)就是為“那個人一瞅就不是啥好東西”這句話所準(zhǔn)備的理論基礎(chǔ)。

說它生命力旺盛，是因?yàn)橄嗝嫘g(shù)不但能深深地植根于人類“顏控”的本性，還能緊隨時代發(fā)展的步伐，調(diào)整自身形態(tài)，最終在新的時代成功站穩(wěn)腳跟。從古代游街串巷的算命先生，到曾國藩的《冰鑒》，再到龍勃羅梭（Cesare Lombroso, 1836-1909）的犯罪人類學(xué)的提出，相面術(shù)總能“以無厚入有間”，找到自己的容身之處。在AI日益發(fā)揮著如同工業(yè)時代“蒸汽機(jī)”一樣作用的今天，相面術(shù)似乎也嗅到了自己“寄生”的新方向。

去年秋天，來自斯坦福大學(xué)的Michal Kosinski和Yilun Wang合作發(fā)表了一篇題為《深度神經(jīng)網(wǎng)絡(luò)可通過面部圖像確定個體性取向》（Deep Neural Networks can Detect Sexual Orientation from Faces）的論文，一石激起千層浪，引發(fā)了輿論的大嘩。二人從美國約會網(wǎng)站及平臺的公開信息中采集了14776位用戶的35326張面部照片，并用深度神經(jīng)網(wǎng)絡(luò)（DNN）密集提取并量化了他們的臉型、嘴型、鼻形以及面部毛發(fā)等特征，接著他們引入VGG-Face DNN模型，通過面部表情、光線、圖像屬性等因素標(biāo)記圖像中的人臉，隨后二人用奇異值分解（SVD）等手段對圖像分類，區(qū)分出同性戀與非同性戀照片。經(jīng)過一系列訓(xùn)練，該算法識別男女性取向的準(zhǔn)確率分別達(dá)到了81%和71%；倘若受測個體的照片有五篇以上的話，這個數(shù)字將分別提高至91%和83%。二人還用數(shù)千張圖片分別合成了兩組照片，分別顯示了男女異性戀和同性戀較具代表性的樣態(tài)，兩相比對，同性戀人群的面部輪廓和五官位置形狀確實(shí)有細(xì)微的差別。

這項(xiàng)研究成果被有些媒體稱之為“AI Gaydar”，它一經(jīng)發(fā)表，就引發(fā)了LGBTQ群體的強(qiáng)烈不滿，這一群體中兩個較有代表性的組織Human Rights Campaign (HRC)和GLAAD直接將此研究斥之為“偽科學(xué)”（Junk Science），并認(rèn)為這一技術(shù)手段的廣泛應(yīng)用不但會嚴(yán)重侵害個人隱私權(quán)，而是還將會是對本就脆弱敏感的性少數(shù)人群的新的“系統(tǒng)化虐待”（Systematized Abuse）。更令人不安的是，該文的作者之一Michal Kosinski還對《衛(wèi)報》的記者表示，這一算法在未來還可應(yīng)用到判定受測者的智商、政治傾向以及犯罪幾率等領(lǐng)域。

事實(shí)上，早就有科研團(tuán)隊(duì)在Kosinski提及的幾個領(lǐng)域中取得了研究成果。來自上海交通大學(xué)的兩位研究者Xiaolin Wu（武筱林）和Xi Zhang（張熙）于2016年的11月份就在arXiv上提交了一篇題為《基于面部圖像的自動犯罪概率推斷》（Automated Inference on Criminality using Face Images）的論文，二人通過視覺識別和機(jī)器學(xué)習(xí)技術(shù)，檢測了1856張中國成年男子的照片，其中近一半照片都來自已經(jīng)定罪的罪犯。實(shí)驗(yàn)結(jié)果表明，這一算法可以以90%左右的正確率識別出罪犯和非罪犯；同時，他們還發(fā)現(xiàn)罪犯和非罪犯在內(nèi)眼角間距、上唇曲率和鼻唇角度這三個測度上存在著較顯著的差異，并且罪犯面孔特征的差異要大于守法公民。這篇論文的有些結(jié)論與“麻衣相法”的部分內(nèi)容不謀而合，而論文作者也將陳摶所撰寫的《神相全編》（陜西師范大學(xué)出版社，2010）列入到了自己的參考文獻(xiàn)當(dāng)中。

姑且不論上述兩項(xiàng)研究的樣本擇取（數(shù)量、范圍、標(biāo)準(zhǔn)）是否客觀，也不論研究者們設(shè)計實(shí)驗(yàn)的初衷（前者意欲提醒人們注意個人信息安全，后者試圖反對所謂的“相由心生”）是否合理，這樣的研究在邏輯上就存有很大的漏洞：“同性戀”、“犯罪”的成因由多個變量決定，在研究中研究者卻將“相”或“外貌”作為了唯一變量，而這唯一的變量其實(shí)是“天生”的，換言之，就是“不變”的；亦即，作為不變的“變量”的“相”與諸如“同性戀”、“犯罪”之間是無法建立起因果關(guān)系的?；谶@點(diǎn)，我們可以大致斷定，這類研究不過是形形色色“相面術(shù)”披著AI的外衣在當(dāng)代的又一次“借尸還魂”罷了。

更令人擔(dān)憂的是，由于AI的加持，這樣研究成果一旦從實(shí)驗(yàn)室應(yīng)用到實(shí)際生活場景當(dāng)中，所產(chǎn)生的負(fù)面影響將會超出以往所有的“相面術(shù)”：由于AI處理數(shù)據(jù)的超強(qiáng)能力，這些成果的負(fù)面影響極有可能波及到社會中的大多數(shù)人；倘若這些成果一旦堂而皇之地進(jìn)入到極權(quán)政體或同性戀非法的國家的話，“相面”借由技術(shù)這一貌似“客觀”、“科學(xué)”的外衣，將在嚴(yán)重侵害少數(shù)族群的正當(dāng)權(quán)益的同時，制造出一個人人自危的社會環(huán)境，無限放大、擴(kuò)散本已存在于人類社會的各種偏見、歧視，最終導(dǎo)致災(zāi)難性的后果。納粹的“雅利安種族優(yōu)越論”殷鑒未遠(yuǎn)，從事科學(xué)研究的工作者們對此需要慎之又慎。

（納粹科學(xué)家正在做容貌測量）

這就引出了本文想要討論的主題：AI與偏見的關(guān)系。關(guān)于這點(diǎn)，筆者認(rèn)為有必要澄清以下兩方面：

（一）AI作為工具，映射的是人類本就存有的偏見、歧視。有不少媒體使用了“人工智能存有偏見”或“人工智能產(chǎn)生歧視”這樣的詞組搭配，似乎“人工智能”是生產(chǎn)偏見、歧視的主體。其實(shí)，AI的定語是“人工”，它只是人類的工具，換言之，只不過人類偏見、歧視和刻板印象的新的載體。正如巴斯大學(xué)的Joanna Bryson所說的那樣：“很多人都認(rèn)為是AI存在著偏見，不，這正表明是我們有偏見，AI 正在有學(xué)有樣?！惫雀枵J(rèn)為AI之所以出現(xiàn)偏見，源自于實(shí)施算法過程中“互動偏差”、“潛在偏差”以及“選擇偏差”。其實(shí)，即便沒有這些操作步驟中的偏差，AI 仍將充滿偏見，因?yàn)槿祟惿鐣臀幕旧碛蔁o數(shù)偏見組成。

（二）AI作為工具，還將大大強(qiáng)化人類社會中的偏見、歧視。數(shù)次技術(shù)革命給人類社會帶來的巨大改變，這使得我們的文化對于科學(xué)技術(shù)擁有了一種盲目的樂觀和崇拜，“數(shù)字”、“科學(xué)”、“實(shí)驗(yàn)”這些詞幾乎等同于“真理”、“正確”，這種“唯科學(xué)主義”很容易忽略掉技術(shù)本身的“主觀性”——AI看相摸骨正憑借這點(diǎn)趁虛而入。這次人工智能浪潮對于社會生產(chǎn)力無疑具有巨大賦能潛力，這同時意味著倘若偏見、歧視混入其中的話，AI將為人類帶來更隱蔽、更深廣的破壞力度。因此，人工智能領(lǐng)域不僅需要積極擁抱新技術(shù)的樂觀主義者，還能接納那些憂心忡忡的盧德主義者們。

（微軟AI聊天機(jī)器人Tay上線后，很快淪為人性陰暗面的鏡子）

那么，在充滿偏見的社會語境中，應(yīng)該如何以正確方式地打開AI呢？

首先，不要人為地用AI制造出更多的偏見。最近， 據(jù)Futurism.com報道，來自美國的一家新聞媒體平臺Knowhere試圖用AI技術(shù)重寫新聞報道，以祛除語言文字中的偏見性因素。在其官網(wǎng)的自我介紹中，他們聲稱自己家的新聞報道是“世界上最客觀的新聞”（The World’s  Most Unbiased News），其重寫新聞的大致流程如下：使用AI搜集互聯(lián)網(wǎng)上圍繞某一主題的所有新聞，不管這些內(nèi)容是中立、左翼傾向或右翼傾向的；AI根據(jù)這些資料重寫一篇中立的新聞報道，這篇報道在涵蓋基本的事實(shí)和數(shù)據(jù)的基礎(chǔ)上，還小心翼翼地移除了任何可能引發(fā)偏見的詞匯；除此之外，AI 還將分別重新寫出左傾、右傾的新聞報道，以供有興趣的讀者閱讀；最后，AI針對同一主題重寫的這三篇文章都將經(jīng)過專業(yè)新聞編輯的審閱、修改及核定，才會刊發(fā)在其網(wǎng)站上。

對比該網(wǎng)站關(guān)于同一事件所使用的三個版本的新聞標(biāo)題是非常有意思的，以朝美會談為例，中立報道的標(biāo)題是“總統(tǒng)川普同意與朝鮮領(lǐng)導(dǎo)人金正恩進(jìn)行歷史性會晤”，左傾報道的標(biāo)題是“感謝川普，朝鮮電影宣傳成真啦”，右傾報道的標(biāo)題是“朝鮮是川普政策的最終考驗(yàn)”。這種模式乍看之下十分新鮮，但是經(jīng)不起太多琢磨：誰來決定“中立”的標(biāo)準(zhǔn)？怎么確保決定標(biāo)準(zhǔn)者是完全中立的？AI在篩選、重組新聞的過程中是否能夠徹底貫徹人為設(shè)立的中立標(biāo)準(zhǔn)？或者更進(jìn)一步，將新聞的閱讀人群分為Left、Impartial、Right本身是否也是某種意義上的“偏見”？因此，Knowhere的出發(fā)點(diǎn)是減少偏見的存在，而最終的實(shí)際效果反而是固化了它們——這點(diǎn)和斯坦福大學(xué)、上海交大的兩項(xiàng)研究非常類似，都犯了“帶著偏見，然后再用AI來驗(yàn)證/強(qiáng)化自己的偏見”的錯誤。

其次，利用AI去正視、理解以及研究人類自身的偏見。去年發(fā)表的一篇名為《基于詞語嵌入技術(shù)量化百年間性別和種族成見》（Word Embeddings Quantify 100 Years of Gender and Ethnic Stereotypes）的論文就為我們做了很好地示范。研究者將AI技術(shù)與詞語嵌入結(jié)合在一起，分析了有近2億詞匯的1910-1990年之間英語世界出版的報紙、雜志和書籍，從中提取了與性別、種族有關(guān)的形容性詞匯，并對其統(tǒng)計、匯總、排列，找出了許多發(fā)人深思的現(xiàn)象。比方說，研究人員發(fā)現(xiàn)，過去百年間越來越多的有關(guān)工作能力的詞匯與女性關(guān)聯(lián)起來，如 resourceful（機(jī)敏的）、Clever（聰明的） 等，也有一些詞匯一直被施之于女性，如alluring（迷人的）、homely（相貌平平的） 等。又如，1910年形容亞裔的大多是 barbaric（野蠻的）、greedy（貪婪的）這樣的負(fù)面詞匯，而到了1990年情況雖然有所改善，有了像fixed（堅定的）、active（活躍的）等詞匯與之聯(lián)系，但是施諸他們最多的仍是haughty（高傲的）、dissolute（放蕩的）這樣的詞匯。

該項(xiàng)研究使用AI這把利器，大量分析了人類過去所產(chǎn)生的文本，以精確、高效的方式揭示出我們社會文化中潛藏著的不易為人察覺的偏見、歧視和刻板印象，要遠(yuǎn)遠(yuǎn)地優(yōu)于過往那種印象式的、或樣本數(shù)量較少的社會學(xué)研究成果。這一研究同樣來自斯坦福大學(xué)，與Michal Kosinski和Yilun Wang的那個研究相比，格局、立意孰高孰低，無須多言，一目了然。

所謂，知乃行之始。我們?nèi)祟悜?yīng)該借助AI的優(yōu)勢，重新檢視自身文化中或隱或現(xiàn)存在著的偏見、歧視和刻板印象，然后帶著這種清醒的認(rèn)知和逐漸形成的共識，時刻審視和調(diào)整自己應(yīng)用AI技術(shù)的立場與動機(jī)，避免AI淪為反映、放大乃至制造偏見的新場域，最終，讓這一技術(shù)成為我們期待著的那個美好的樣子。

對了，關(guān)于形形色色的“相術(shù)”和上述這些道理，幾千年前的荀子早在《非相》篇里說過了：

“相形不如論心，論心不如擇術(shù)”。

【參考文獻(xiàn)】

1. Wang, Y., & Kosinski, M. (2018). Deep neural networks are more accurate than humans at detecting sexual orientation from facial images. Journal of personality and social psychology, 114(2), 246.

2. Wu, X., & Zhang, X. (2016). Automated Inference on Criminality using Face Images. arXiv preprint arXiv:1611.04135.

3. Garg, N., Schiebinger, L., Jurafsky, D., & Zou, J. (2018). Word embeddings quantify 100 years of gender and ethnic stereotypes. Proceedings of the National Academy of Sciences, 115(16), E3635-E3644.