教育中心 青少年心理 愛情心理 婚姻家庭 兩性心理 讀書頻道 自殺救援 教育心理

基礎理論

應用心理

交叉學科

心理學史

前沿研究

普通心理 社會 發展 生理 認知 人格

比較 變態 進化 實驗 統計 方法 測量

臨床 咨詢 教育 愛情 健康 工程心理 犯罪心理

消費 管理 環境 健康 經濟 公關 醫學 廣告 HR

哲學與心理 社會與心理 人類學與心理

語言與心理 生理與心理 生物學與心理

古代 近代 現代 地域 

人物 流派 其他

物 成果 展望 爭議 獎項

熱點 新聞 后現代 其他


文章 書籍視頻 圖片

  家長煩惱 感人故事 孩子心語 常見問題 教育論壇 專家博客
您現在的位置: 中崋心理教育網 >> 心理學科知識 >> 前沿研究 >> 研究新聞 >> 文章正文
文章 書籍視頻 圖片

7m篮球比分网:人工智能存在認知偏差可能成為種族主義者

作者:佚名    文章來源:轉載    點擊數:    更新時間:2017-4-17
北京時間4月17日消息,當微軟公司在去年三月份在推特上發布一款名為“tay”的聊天機器人時,他們肯定想不到這件事很快會變成一場災難:在不到24小時的時間里,這款機器人就已經變成了一個歇斯底里的種族主義者和新納粹分子,之所以出現這種狀況,很大程度上是受到了在推特上與它進行對話的那些用戶的“教授”和“引導”。
  不幸的是,一項最新研究顯示,推特并非人工智能“學壞”的唯一途徑。事實上,科學研究顯示,任何借助人類語言進行學習的人工智能機器人都有可能和人類小孩可能學壞一樣,在價值取向上出現扭曲。
  研究人員借助一款名為“詞義全球向量”(GloVe)的機器學習系統開展了一項實驗,結果發現人類在學習過程中可能出現的任何一種偏差都有可能在人工智能系統的學習過程中出現。
  美國普林斯頓大學計算機科學博士后艾琳·卡利斯坎(Aylin Caliskan)表示:“看到這些模型中內嵌的所有這些結果令我感到震驚?!奔詞乖諮盜啡斯ぶ悄芟低呈筆褂玫牟牧先坷醋災行運夭睦叢?,比如維基百科或者新聞報道,最終人工智能仍然有可能會在價值取向上發展出某種偏差,就像人類一樣。
  內稟性偏差
  GloVe是一款能夠從文檔中提取語義框架結構的工具,具體到這項研究中,其作用是從互聯網上自動提取并建立計算機語料庫。
  心理學家們很早之前就已經了解人類大腦會基于每個單詞背后隱含的意思來建立起不同單詞之間的聯系。
  在心理學上有一種被稱作“內隱聯想測驗”(IAT)的測試方式,其做法是通過測試人對不同單詞的反應時間來檢測這種相關性:測試人會在屏幕上看到一個名詞,比如“水仙花”,同時出現的還有兩個分別代表正面和負面感受的詞匯,比如“痛苦”和“美麗”。測試人必須用最快的速度做出反應并按下相應按鍵。不出意外的,更多的人會更傾向于將“花卉”一詞與正面語義聯系起來,而將“武器一詞與負面語義聯系起來?!?
  內隱聯想測驗可以測定人們對于某種特定社會現象或群體的潛意識觀點。比如說,一項內隱聯想測驗顯示在美國,人們會下意識地將“武器”一詞與黑膚色人群聯系在一起,而將一些無害的詞匯與美國白人聯系在一起。
  關于這類結果的解讀還存在一些爭議。專家們目前還難以明確,之所以會出現這樣的語義聯系,是因為被試人的確存在內心認定的,根深蒂固但自己卻毫不意識到的社會認知偏差,還是因為在日常對話和信息獲取過程中,從統計學上看有更大的幾率將一些負面的詞匯與少數族裔,老年人或邊緣群體聯系在一起,而被試受到了無意識的影響?
  數字偏見
  卡利斯坎和她的同事們在針對人類被試進行測試的IAT系統基礎上開發了針對計算機人工智能的IAT系統,并將該系統稱為“WEAT”,意為“詞匯內嵌聯合測試”。該測試旨在評估GloVe系統所給出的不同詞匯之間的相互聯系,這一點與傳統的IAT測試觀察人類大腦中不同詞匯之間的聯系非常相似。
  在每一種語義聯系和習慣測試中,WEAT測試都得到了與IAT測試相同的結果。這款機器學習工具成功地重現了人類將花卉與美好事物聯系起來的傾向,它也不喜歡“昆蟲”和“武器”這類詞,但是喜歡“樂器”并將其與美好事物聯系在一起。但令人不安的是,這款人工智能工具認為歐洲裔美國人的名字聽上去更加令人愉悅,而非洲裔美國人的名字則比較容易令人不快。另外,它會更多地將男性名字與事業和工作聯系起來,而將女性名字更多地與家庭相關詞匯聯系在一起;同樣的,它還將男性名字更多地與數學和科學聯系在一起,而將女性名字更多地與藝術詞匯聯系在一起。而老人的稱謂常常與令人不悅的詞匯聯系在一起,而年輕人的稱謂則與令人愉悅的詞匯聯系在一起。
  卡利斯坎表示:“我們感到很震驚,我們竟然能夠完全重現過去在數百萬的人們身上進行過的IAT測試結果?!?
  情況還不止于此,利用另外一種相似的方法,研究組還發現機器學習工具基于語義聯系得到的認知結果竟然是可以比較精確地反映現實世界情況的。比較WEAT測試的結果與美國聯邦勞工統計局關于女性職業分布的數據,卡利斯坎發現GloVe數據中,那些被人工智能與“女性”聯系起來的職業,在現實世界中從事這項職業的女性比例也更高,兩者的相關性超過90%。
  換句話說,基于人類語言進行學習的計算機程序能夠“非常精準地領會人類語言背后的含義和其所代表的人類文化”,即便那種文化本身可能是存在偏見的甚至是某種下意識地歧視,計算機也能敏感地領會并學習到。但與此同時,人工智能在某些人類學習者感覺非常容易理解的地方卻會感覺理解起來非常吃力。舉個例子,一篇關于馬丁·路德-金在1963年由于參加黑人人權運動而在亞拉巴馬州伯明翰被監禁的新聞報道中當然會涉及很多將美國黑人與負面詞匯相互聯系的情況,但一名人類讀者很容易就能體會到這篇報道中的美國黑人是一名英雄,而在計算機看來,它的收獲只不過是將“黑人”與“監獄”兩個詞匯之間建立起了聯系。
  要想在保證精確性的同時還要力求讓人工智能來理解人類文化中的“公正性”是一項巨大的挑戰??ɡ箍倉賦觶骸拔頤遣⒉蝗銜コ蛐災笳飧鑫侍餼湍芄壞玫澆餼?,因為這樣做可能將會打破人工智能對于這個世界的完整理解能力?!?
  去除偏向性
  而在哈弗福德學院計算機科學家索瑞爾·福雷德勒(Sorelle Friedler)看來,本月12日發表在《科學》雜志上的這項最新研究并不會讓她感到驚訝。索瑞爾并未參與這項研究,但她認為這一研究成果意義重大。她說:“這是一種基本方法,很多系統都基于此構建?!被瘓浠八?,任何基于GloVe平臺或是通過人類語言學習進行構建的人工智能系統都有可能受到這種偏差性的影響。
  索瑞爾的研究涉及一項近年來逐漸興起的領域,那就是機器學習中的公平、責任與透明性。要想解決這一問題并不容易,在某些情況下,程序能夠清晰地告訴系統去自動忽略一些思維定式。但在任何涉及微妙差異的表達識別案例中,人類都需要及時介入,來確保人工智能不會理解錯誤。取決于你不同的設計目的,具體的人工智能解決方案可能會有所差異,你設計這款人工智能系統是做什么的?為了搜索應用?為了輔助決策還是其他事情?
  在人類社交習慣中,人們表面上模棱兩可的表態并不代表他們對某些特定社會群體在內心有著某種明確的看法。心理學家們一直在對這一現象進行分析:這種現象的出現是否是因為人們會傾向于隱藏自己的偏見,保持沉默不發表觀點,以避免陷入某種尷尬局面?是否有可能IAT測試并不能那么好的測試出人們的內心偏見?但對于人類而言,即便內心帶有某種偏見,人們至少仍然能夠分辨是非對錯,可是機器就不一定,他們沒有倫理是非概念。因此,卡利斯坎和同事認為在人工智能發展過程中,人類仍然必須要有所參與,并保持程序代碼的透明度,以便人類能夠時刻監督,幫助機器把握好價值判斷的尺度。
  卡利斯坎表示:“在存在認識偏差的狀況下,我們知道如何做出正確的決定。但不幸的是,機器并沒有自我意識?!?

bet007网球即时比分网 www.iyqki.com.cn

  • 上一篇文章:

  • 下一篇文章: 沒有了

  • 發表評論】【加入收藏】【告訴好友】【打印此文】【關閉窗口

    欄目精選

    火熱專題 更多專題

    全國客服①
    全國客服②
    全國客服③
    教學教務
    合作加盟
    點擊這里給我發消息
    點擊這里給我發消息
    點擊這里給我發消息
    點擊這里給我發消息
    點擊這里給我發消息

    欄目熱點及推薦

  • 此欄目下沒有文章
  • 熱點文章

    頻道精選

    總部地址:南京市常府街85號新大都廣場乙幢27樓A座 師資介紹 點擊進入 中崋心理教育網
    客服電話: 025-84293828 官方QQ群:53314688/78630619  官方微博://t.qq.com/nanjingshixinli2006   版權所有 Copyright @ 2006-2008 中崋心理教育網(瀏覽本網主頁,建議將電腦顯示屏的分辨率調為 1024*768)蘇ICP證06011946號
    {ganrao} 上海11选5开奖走 河北麻将玩法介绍图片 非全日制工商管理学校排名 东北刨幺必胜技巧 3d图谜汇总牛彩网 江西时时彩 广东麻将在线玩 海南琼崖麻将下载链接 手机版天津11选5 比分直播500足彩开奖 竞彩足球比分直播现场 旧版 昆虫派对 临沂外盘期货配资 cba即时指数 3d今日试机号 安徽时时彩