TMT观察网_独特视角观察TMT行业

社交網(wǎng)絡(luò)的暗面:仇恨言論的“魔道之戰(zhàn)”互聯(lián)網(wǎng)+

腦極體 2019-08-08 10:16
分享到:
導(dǎo)讀

網(wǎng)絡(luò)世界里的魔道斗法,注定將持續(xù)交戰(zhàn)下去,永不止步

網(wǎng)絡(luò)世界里的魔道斗法,注定將持續(xù)交戰(zhàn)下去,永不止步 這年頭但凡接觸過網(wǎng)絡(luò),一定近距離感受過仇恨言論的力量。
無論是跑到別人評(píng)論區(qū)下面謾罵的個(gè)人暴力,還是發(fā)泄對(duì)政府、社會(huì)不滿的吐槽,亦或是帶有歧視排外極端色彩的危險(xiǎn)發(fā)言,反正總有一款網(wǎng)友教你做人。
網(wǎng)絡(luò)“仇恨值”近年來已經(jīng)已經(jīng)發(fā)酵到了“難承其重”的程度,成為不少全球惡性恐怖事件的源頭。
大家想必都聽說了,就在8月3日,美國一天時(shí)間內(nèi)留發(fā)生了兩起公共傷害事件,造成30多人死亡。加上今年3月的新西蘭清真寺事件, 4月份以的美國加州猶太教堂事件,這些兇手被發(fā)現(xiàn)都是種族歧視的捍衛(wèi)者,動(dòng)手之前都曾在網(wǎng)絡(luò)上分享過自己的行程與仇恨理念,這顯然不是巧合。
一場全社會(huì)與仇恨言論之間的戰(zhàn)斗正在展開,但成果遠(yuǎn)沒有我們想象中那樣卓有成效。
一場抵御仇恨的全民戰(zhàn)爭
“仇恨”,似乎是一個(gè)離普通人生活很遙遠(yuǎn)的事情,不幸的是,它正在變得越來越接地氣。
2003年,盧旺達(dá)國際刑事法庭審理的“仇恨媒體案”,對(duì)兩名散播仇恨言論的前媒體負(fù)責(zé)人分別判處了終身監(jiān)禁和35年監(jiān)禁的刑罰,這是國際法庭首次對(duì)媒體進(jìn)行仇恨言論的限制。
但這種規(guī)制很快在互聯(lián)網(wǎng)的沖刷下成了過去時(shí),人們往常理解的“仇恨”也逐漸發(fā)生變化:
首先是言論主體變了。起初,利用網(wǎng)絡(luò)傳播仇恨言論的活動(dòng)者,大多是一部分極端主義者,隨著所有智能手機(jī)用戶都開始參與社交網(wǎng)絡(luò)討論,助長了仇恨言論的擴(kuò)散,直接導(dǎo)致相關(guān)群體迅速壯大。
(8月3日美國德州街頭慘案現(xiàn)場,人們?cè)趯ふ矣H人)
其次是攻擊范圍變得更廣。二戰(zhàn)后歐洲國家出于抑制種族和宗教仇恨等原因開始對(duì)仇恨言論進(jìn)行立法規(guī)制,但在網(wǎng)絡(luò)環(huán)境下,仇恨言論的議題正在變得越來越廣泛。對(duì)外來者、難民、窮人的抵制,對(duì)其他種族、性別、地域群體的歧視,這些“抱怨”和侮辱性語言,看上去似乎并不能產(chǎn)生即時(shí)性的危害,卻讓極端的仇恨犯罪行為變得更加隱蔽,令監(jiān)管喪失警惕。
社交鏈的加強(qiáng)也變相推動(dòng)了事實(shí)性犯罪的增加。仇恨泛化的大背景下, 一些極端主義者更容易通過社交網(wǎng)絡(luò)獲得支持。現(xiàn)實(shí)中互不相識(shí)的極端分子正在網(wǎng)上尋找彼此,并試圖“一起”發(fā)動(dòng)襲擊,制造疊加的恐怖主義事件。比如8月3日美國慘案的兇手克魯修斯,案發(fā)之后就得到了8chan網(wǎng)絡(luò)社區(qū)用戶的大量討論和普遍贊揚(yáng),這種社區(qū)氛圍更容易激勵(lì)其他人犯罪。
(白人極端主義造成的案件,是最具殺傷力的事件之一)
累覺不愛的同時(shí),大家可能會(huì)疑惑,在這場“仇恨抵御戰(zhàn)”中,政府和互聯(lián)網(wǎng)巨頭們都扮演了什么樣的角色,為什么沒有拿出行而有效的治理手段。
政府+巨頭的陽謀, 以及小眾網(wǎng)站的暗面
公平地說,在控制網(wǎng)絡(luò)仇恨言論這件事上,各國政府與科技巨頭們前所未有地統(tǒng)一戰(zhàn)線和團(tuán)結(jié)。
2016年5月,歐盟委員會(huì)宣布與Facebook、Twitter、YouTube和微軟就控制網(wǎng)絡(luò)不法仇恨言論展開合作,互聯(lián)網(wǎng)巨頭們集體簽署了一項(xiàng)行為準(zhǔn)則,承諾“接到舉報(bào)后24小時(shí)內(nèi)屏蔽和刪除相關(guān)仇恨言論”。 
2018年,監(jiān)管再次加碼,沒在規(guī)定時(shí)間內(nèi)下架相關(guān)內(nèi)容,將面臨高達(dá)5000萬歐元的罰款,平臺(tái)們還必須每六個(gè)月上報(bào)一次自己對(duì)違法內(nèi)容的處理結(jié)果。
而各大平臺(tái)也表示出了高度的配合,甚至到了舍生忘死的程度。比如Facebook 和 Twitter 對(duì) ISIS 的極端言論采取了嚴(yán)厲的封殺態(tài)度,還一度引發(fā)了恐怖分子的不滿,在網(wǎng)站上發(fā)布恐嚇視頻,展示了一張?jiān)瞬衽c杰克多西(Twitter 創(chuàng)始人)中彈的照片進(jìn)行威脅。
報(bào)告顯示,F(xiàn)acebook在2018年7月至9月期間刪除了約290萬條仇恨言論,去年一舉封禁了259個(gè)涉嫌發(fā)布和傳播支持恐怖分子材料的賬號(hào)。借助機(jī)器學(xué)習(xí),YouTube上超過95%的仇恨內(nèi)容能在24小時(shí)內(nèi)被屏蔽。
既然政府機(jī)構(gòu)打擊態(tài)度很強(qiáng)硬,平臺(tái)們也拿出了“一生懸命”般的魄力在治理,為什么近年來仇恨言論誘發(fā)的暴力事件依然屢禁不止呢?原因總結(jié)起來大概有四點(diǎn):
第一,關(guān)于“仇恨言論”目前尚未有權(quán)威的定義,這就造成了不同國家、不同公司、不同機(jī)構(gòu)在執(zhí)行審查時(shí),缺乏一個(gè)統(tǒng)一的信息評(píng)價(jià)標(biāo)準(zhǔn)去有效認(rèn)定非法信息,難以把握分寸,讓治理措施充滿了不確定性,且缺乏預(yù)見性,直接影響處罰效果。比如歐洲人權(quán)法院與網(wǎng)絡(luò)言論有關(guān)的三起案件中,對(duì)可以明確定義為仇恨言論的網(wǎng)站經(jīng)營者進(jìn)行了追責(zé),而對(duì)具有侮辱、誹謗性質(zhì)的攻擊性語言并沒有進(jìn)行處罰。
第二,仇恨言論與表達(dá)自由之間的沖突仍未解決。言論自由已經(jīng)成為根深蒂固的社會(huì)文化,這就導(dǎo)致輿論導(dǎo)向容易“慕虛名而處實(shí)禍”。單純以立法的手段來管理,會(huì)直接遭遇多樣化的阻礙而阻礙治理的推進(jìn)。此前美國對(duì)網(wǎng)絡(luò)管理的一些立法就多次受到社會(huì)團(tuán)體的否定,最終被法院裁決為違憲。
第三,監(jiān)督仇恨言論的公共性質(zhì)與網(wǎng)絡(luò)市場化的博弈。一些西方發(fā)達(dá)國家更傾向于通過市場調(diào)節(jié)和行業(yè)自律來對(duì)網(wǎng)絡(luò)進(jìn)行監(jiān)管,但互聯(lián)網(wǎng)的商業(yè)化運(yùn)作對(duì)市場的依賴性很強(qiáng),運(yùn)營商逐利的天性決定了其不可能真正從社會(huì)公眾利益的角度來規(guī)范管理,所以客觀上就導(dǎo)致了行業(yè)自律行為比較脆弱。
舉個(gè)例子,德國司法部曾給Facebook開出200萬歐元的罰單,原因是對(duì)涉及仇恨言論的內(nèi)容,F(xiàn)acebook提供的舉報(bào)入口不如其他準(zhǔn)則清晰。再比如,埃爾帕索案發(fā)生后, 8chan創(chuàng)辦者布雷南要求現(xiàn)任管理者華特金斯父子與CDN 提供商Cloudflare關(guān)停網(wǎng)站,但這二位都拒絕了這種呼吁。
(8chan 的創(chuàng)造者Fredrick Brennan,是一名脆骨癥患者)
第四,小眾網(wǎng)站的崛起與暗面。
Facebook和Twitter等大型網(wǎng)站,在刪除危險(xiǎn)內(nèi)容方面更加積極主動(dòng),使其社交生態(tài)不太適合恐怖分子,而無障礙的交流才是社交的第一要義,于是,諸如8chan之類的小眾網(wǎng)站就有了機(jī)會(huì)。
用戶活躍與廣告分發(fā)是小站生存的根源,因此平臺(tái)有時(shí)會(huì)刻意放縱審查,比如8chan就把自己當(dāng)作言論自由的烏托邦,任何發(fā)言都會(huì)受到歡迎,不管它有多毒,平臺(tái)都幾乎完全無動(dòng)于衷。另外小站的人員不足,社區(qū)運(yùn)營能力也比較弱,也無力對(duì)UGC內(nèi)容進(jìn)行嚴(yán)格的監(jiān)管。
在反誹謗聯(lián)盟(anti-defamation league)的CEO喬納森格林布拉特看來,“最壞的罪犯會(huì)在那里分享他們的可怕想法,這些思想被放大和擴(kuò)展,最終,人們被激化”,誘發(fā)更多的大規(guī)模傷害事件。8chan也正如網(wǎng)站主題所顯示的那般,成為“互聯(lián)網(wǎng)最黑暗的地方”。
這種現(xiàn)狀還有可能改變嗎?
告別烏托邦: 欠發(fā)達(dá)國家的內(nèi)容監(jiān)管之路
對(duì)比之下我們發(fā)現(xiàn),一些亞洲和欠發(fā)達(dá)國家,總體市場化的程度不高,但極少爆發(fā)出類似仇恨言論的惡性事件。
原因之一,是許多亞洲國家傳統(tǒng)文化中一直強(qiáng)調(diào)集體利益和公眾原則,所以在互聯(lián)網(wǎng)的管理上,在保護(hù)用戶權(quán)利的同時(shí)也非常強(qiáng)調(diào)公共利益,更加注重借助政府的行政效力,通過各類剛性措施來保證互聯(lián)網(wǎng)的規(guī)范化運(yùn)轉(zhuǎn),這就解決了網(wǎng)絡(luò)仇恨言論“該不該管”的問題。
其二,一般情況下,多數(shù)國家的網(wǎng)絡(luò)內(nèi)容審查都采取的是“事后追懲”模式,也就是在違法行為發(fā)生以后才通過法律予以追究,不做普遍的預(yù)先審查。而許多亞洲國家的做法是主動(dòng)防御,將普遍過濾的預(yù)先審查與人工干預(yù)的后期抽查相結(jié)合,來防范仇恨言論“禁區(qū)”。
舉個(gè)例子,韓國的實(shí)名制措施就對(duì)網(wǎng)絡(luò)世界起到了非常明顯的凈化效果,新加坡廣播管理局SBA從1996年開始實(shí)施分類許可證制度,有可能從事非法內(nèi)容服務(wù)的互聯(lián)網(wǎng)服務(wù)商都需要申領(lǐng)許可,并保證最初最大努力刪除法律禁止的內(nèi)容。越南、緬甸等國更嚴(yán)格的措施也基本杜絕了問題的出現(xiàn)。
當(dāng)然,這些亞洲國家的管理方式也存在一些問題,比如說過度依賴行政手段,從而限制了互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展,新傳播技術(shù)的潛在效能沒能夠在社會(huì)生活中充分彰顯。
從這些探索的失利與不利中,不難看到,互聯(lián)網(wǎng)內(nèi)容安全監(jiān)管是一項(xiàng)龐大的工程,需要各種手段跟極端分子斗智斗勇,行政、立法、技術(shù)、產(chǎn)業(yè)等的參與缺一不可。
如今中國正在內(nèi)容監(jiān)管領(lǐng)域緊鑼密鼓地部署,爭取在產(chǎn)業(yè)效率與網(wǎng)安風(fēng)險(xiǎn)上達(dá)到理想化的平衡狀態(tài)。仇恨言論“該怎么管”,其他國家的前車之鑒或許能帶來不少啟發(fā)。
而網(wǎng)絡(luò)世界里的魔道斗法,注定將持續(xù)交戰(zhàn)下去,永不止步。
仇恨 言論 網(wǎng)絡(luò) 內(nèi)容 互聯(lián)網(wǎng)
分享到:

1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來源;
2.TMT觀察網(wǎng)的原創(chuàng)文章,請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任;
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。


主站蜘蛛池模板: 济南铝方通-济南铝方通价格-济南方通厂家-山东鲁方通建材有限公司 | 污水/卧式/潜水/钻井/矿用/大型/小型/泥浆泵,价格,参数,型号,厂家 - 安平县鼎千泵业制造厂 | 喷码机,激光喷码打码机,鸡蛋打码机,手持打码机,自动喷码机,一物一码防伪溯源-恒欣瑞达有限公司 | 便携式表面粗糙度仪-彩屏硬度计-分体式粗糙度仪-北京凯达科仪科技有限公司 | 硫酸亚铁-聚合硫酸铁-除氟除磷剂-复合碳源-污水处理药剂厂家—长隆科技 | 深圳市东信高科自动化设备有限公司 | 洁净实验室工程-成都手术室净化-无尘车间装修-四川华锐净化公司-洁净室专业厂家 | 济宁工业提升门|济宁电动防火门|济宁快速堆积门-济宁市统一电动门有限公司 | 上海防爆真空干燥箱-上海防爆冷库-上海防爆冷柜?-上海浦下防爆设备厂家? | 衬塑管道_衬四氟管道厂家-淄博恒固化工设备有限公司 | 泰来华顿液氮罐,美国MVE液氮罐,自增压液氮罐,定制液氮生物容器,进口杜瓦瓶-上海京灿精密机械有限公司 | 钢骨架轻型板_膨石轻型板_钢骨架轻型板价格_恒道新材料 | 大型多片锯,圆木多片锯,方木多片锯,板材多片锯-祥富机械有限公司 | 魔方网-培训咨询服务平台| 道康宁消泡剂-瓦克-大川进口消泡剂供应商 | led全彩屏-室内|学校|展厅|p3|户外|会议室|圆柱|p2.5LED显示屏-LED显示屏价格-LED互动地砖屏_蕙宇屏科技 | 注塑模具_塑料模具_塑胶模具_范仕达【官网】_东莞模具设计与制造加工厂家 | 网站制作优化_网站SEO推广解决方案-无锡首宸信息科技公司 | 蔬菜配送公司|蔬菜配送中心|食材配送|饭堂配送|食堂配送-首宏公司 | SMN-1/SMN-A ABB抽屉开关柜触头夹紧力检测仪-SMN-B/SMN-C-上海徐吉 | 北京浩云律师事务所-企业法律顾问_破产清算等公司法律服务 | 泰国试管婴儿_泰国第三代试管婴儿费用|成功率|医院—新生代海外医疗 | 山东聚盛新型材料有限公司-纳米防腐隔热彩铝板和纳米防腐隔热板以及钛锡板、PVDF氟膜板供应商 | 喷播机厂家_二手喷播机租赁_水泥浆洒布机-河南青山绿水机电设备有限公司 | 水环真空泵厂家,2bv真空泵,2be真空泵-淄博真空设备厂 | 电机保护器-电动机综合保护器-上海硕吉电器有限公司 | 大行程影像测量仪-探针型影像测量仪-增强型影像测量仪|首丰百科 大通天成企业资质代办_承装修试电力设施许可证_增值电信业务经营许可证_无人机运营合格证_广播电视节目制作许可证 | 钢化玻璃膜|手机钢化膜|钢化膜厂家|手机保护膜-【东莞市大象电子科技有限公司】 | 工控机-图像采集卡-PoE网卡-人工智能-工业主板-深圳朗锐智科 | 阿米巴企业经营-阿米巴咨询管理-阿米巴企业培训-广东键锋企业管理咨询有限公司 | 锂电混合机-新能源混合机-正极材料混料机-高镍,三元材料混料机-负极,包覆混合机-贝尔专业混合混料搅拌机械系统设备厂家 | 同学聚会纪念册制作_毕业相册制作-成都顺时针宣传画册设计公司 | 密集柜_档案密集柜_智能密集架_密集柜厂家_密集架价格-智英伟业 密集架-密集柜厂家-智能档案密集架-自动选层柜订做-河北风顺金属制品有限公司 | 建筑资质代办-建筑资质转让找上海国信启航| 肉嫩度仪-凝胶测试仪-国产质构仪-气味分析仪-上海保圣实业发展有限公司|总部 | 华溶溶出仪-Memmert稳定箱-上海协烁仪器科技有限公司 | CCE素质教育博览会 | CCE素博会 | 教育展 | 美育展 | 科教展 | 素质教育展 | 道达尔润滑油-食品级润滑油-道达尔导热油-合成导热油,深圳道达尔代理商合-深圳浩方正大官网 | 保定市泰宏机械制造厂-河北铸件厂-铸造厂-铸件加工-河北大件加工 | 没斑啦-专业的祛斑美白嫩肤知识网站-去斑经验分享 | 结晶点测定仪-润滑脂滴点测定仪-大连煜烁 |