QQ在線
企業(yè)微信
資訊
547謝菲爾德大學(xué)的研究人員正在開發(fā)可用于自動檢測和反擊社交媒體上的濫用行為的新工具。
由大學(xué)計算機科學(xué)系的Kalina Bontcheva教授領(lǐng)導(dǎo)的這項研究正在開發(fā)新的人工智能(AI)和自然語言處理(NLP)方法，這些方法可用于負(fù)責(zé)任地處理在線虐待和仇恨言論。
該項目是與加拿大西蒙菲沙大學(xué)的Wendy Hui Kyong Chun協(xié)作發(fā)起的，研究的是AI方法，該方法目前用于檢測兩個區(qū)域內(nèi)的在線濫用和仇恨言論。游戲行業(yè)以及社交媒體上針對政客的信息。
該研究的研究人員打算利用他們的發(fā)現(xiàn)來開發(fā)有效，公平且公正的新AI算法。該系統(tǒng)將具有上下文意識，并尊重基于種族，種族，性別和性別的社區(qū)內(nèi)的語言差異。
研究人員將研究當(dāng)前內(nèi)容審核系統(tǒng)中嵌入的偏見，這些偏見經(jīng)常使用嚴(yán)格的定義或確定辱罵性語言。這些當(dāng)前的系統(tǒng)經(jīng)常自相矛盾地基于身份，包括性別，性別，種族，文化，宗教，政治背景或其他因素，造成新形式的歧視或偏見。
研究團隊旨在通過產(chǎn)生更多情境感知的動態(tài)檢測系統(tǒng)來解決這些影響。
此外，該項目還希望通過使新工具開源來增強用戶能力，以便將其嵌入新策略中，以民主方式解決在線濫用和仇恨言論。它們也可以用作基于社區(qū)的護理和應(yīng)對措施的一部分。
Kalina Bontcheva教授說：“近年來，網(wǎng)上濫用和仇恨言論的數(shù)量急劇增加，這使得政府和社交媒體平臺都在努力應(yīng)對后果。
“在線濫用和仇恨言論的大量增加引發(fā)了公眾的憤慨，人們要求政府和社交媒體公司為解決這個問題付出更多的努力，但是目前尚無有效或技術(shù)性的流程可以負(fù)責(zé)任或民主的方式解決這個問題。
“我們正在開發(fā)新穎的AI和NLP方法來解決該問題，同時還為學(xué)者和早期職業(yè)研究人員制定了一項重要的培訓(xùn)計劃，以培養(yǎng)這一關(guān)鍵研究領(lǐng)域的能力和專業(yè)知識?！?
謝菲爾德大學(xué)與西蒙·弗雷澤大學(xué)(Simon Fraser University)共同領(lǐng)導(dǎo)了“負(fù)責(zé)任的包容性民主社會的人工智能：一種跨學(xué)科的在線檢測和打擊辱罵性語言的方法”項目。它是英國研究與創(chuàng)新(UKRI)資助的10個英國-加拿大項目之一，以支持負(fù)責(zé)任的AI開發(fā)，包括確保社會所有成員信任AI并從中受益。
