訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
傷人的話別打出來!防網路霸凌 利用Kindly找出不當用辭
資策會Find研究員:蔡雨臻
獲取產業訊息零時差!立即訂閱電電公會電子報。

青少年的成長過程中,除了生理健康的維護外,心理方面的建設也十分重要,特別是處於校園環境之中,如何培養對於霸凌行為的敏感度更是一大命題。數位原生世代的學子生活中伴隨著電玩、網路、電視等媒介長大,智慧型手機也是人手一機,人與人的互動方式逐漸被社群媒體(如:LINE、臉書、IG)取代。缺乏面對面交流的練習,也較不易拿捏言語的輕重而無意間傷害他人。
既然電腦、手機這樣的媒介已然深植於生活,不如就好好善用它!藉由資訊承載工具裡AI的幫助,能強化對於霸凌行為的敏感度,甫獲時代雜誌選為年度風雲兒童拉奧(Gitanjali Rao),研發了名為Kindly的網路服務(Web API Service),能偵測溝通中產生的網路霸凌(Cyberbully)訊息。
除了網路服務,Kindly目前開發了手機應用程式及Chrome擴充功能,借助人工智能技術,來檢測網路霸凌的早期跡象。至於Kindly如何運作,拉奧在簡介影片中提到,Kindly服務使用Microsoft Cognitive Service做為文字處理與分析引擎。她先在後端設定多種惡意詞語,當使用者於電腦或手機中輸入文字,程式會先送到後端由AI分析文字惡意程度與整段文字的情感是否會傷害他人,藉此判斷是否該彈出提醒視窗,給使用者修改、思考的機會。
拉奧認為這樣的設計重點在給予思考的機會,青少年成長過程中難免有不知拿捏言詞使用的輕重,因而帶給接受訊息者不舒服的感受,Kindly能夠在溝通過程中指出其中的偏差、不當用詞,給年輕的使用者一個停頓並思考的機會,以改進下一次的溝通內容。
Kindly目前仍在測試階段,未來應該還會就用戶隱私、AI靈敏度、使用者體驗等方面作出改進。
青少年面對學業壓力,且多半時間身處在校園中,的確會有家長或老師難以察覺的幽微角落,因霸凌產生的生理或心理壓力,既便揮別青年時期也可成為終身的陰影,有些應用是以心理諮詢的方式,例如英國一款手機應用程式 FOR ME,是以心理諮詢的方式出發,使用者以日記方式記錄自己的心理狀態,並提供心理諮詢師線上受理;而拉奧的發想則回歸到使用者角度,讓心思尚未成熟的青年審慎思考用語的輕重,借助AI並應用於資訊載具,進而減少虛擬社群中的霸凌行為。

資料來源:
1.Kindly官方網站
https://kindly.godaddysites.com/our-solution
2.TIME's 2020 Kid of the Year: Meet Gitanjali Rao/TIME
https://time.com/5916772/kid-of-the-year-2020/
3.她15歲,用科學解決水污染和網路霸凌!時代雜誌史上首位「年度風雲兒童」是誰?/商業周刊
https://www.businessweekly.com.tw/business/blog/3004770
4.首位「年度風雲兒童」! 15歲印裔科學家登《時代》封面/自由時報
https://news.ltn.com.tw/news/world/breakingnews/3372479

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。