AD

2017年9月18日星期一

AI算法為什麼會存在性別歧視?穀歌做出了解釋

一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與男性優先關聯,而非女性,或者圖像識別算法也會更大概率的將黑人錯誤分類為大猩猩。2015年,Google Photos應用誤把兩名黑人標注為"大猩猩",當時這一錯誤意味著穀歌的機器學習還處於"路漫漫其修遠兮"的狀態。隨後,穀歌立即對此道歉,並表示將調整算法,以修複該問題。

近日,作為該項錯誤的責任方,穀歌正在試圖讓大眾了解AI是如何在不經意間永久學習到創造它們的人所持有的偏見。一方麵,這是穀歌對外PR(公共關係)的好方式,其次,AI程序員也可以用一種簡單的方法來概述自己的偏見算法。

視頻來源:YouTube

在該視頻中,穀歌概述了三種偏見:

互動偏差:用戶可以通過我們和其交互的方式來偏移算法。例如,穀歌把一些參與者召集其起來,並讓他們每人畫一隻鞋,但多半用戶會選擇畫一隻男鞋,所以以這些數據為基礎的係統可能並不會知道高跟鞋也是鞋子。

潛在偏差:該算法會將想法和性別、種族、收入等不正確地進行關聯。例如,當用戶在Google Search搜索"醫生"時,出現的大多為白人男性。

此前Quarts發布了一則相關新聞,該報道稱,經普林斯頓大學最新研究成果表明,這些偏見,如將醫生與男性相關聯,而將護士與女性關聯,都來自算法被教授的語言的影響。正如一些數據科學家所說:沒有好的數據,算法也做不出好的決策。

選擇偏差:據了解,用於訓練算法的數據量已經大大超過全球人口的數量,以便對算法實行更好的操作和理解。所以如果訓練圖像識別的數據僅針對白人而進行,那麼得到的數據也隻能來自AI的認定。

圖片來源:Qaurtz

去年6月, "青年實驗室"(英偉達、微軟等科技巨擘均是該實驗室的合作夥伴和支持者)舉辦了一次Beauty.ai的網絡選美大賽。該比賽通過人工智能分析,征集了60萬條記錄。該算法參考了皺紋、臉部比例、皮膚疙瘩和瑕疵的數量、種族和預測的年齡等等因素。最後結果表明,種族這一因素比預期發揮了更大的作用:在44名獲獎者當中,其中有36人為白人。

事實上,關於算法中含有性別、種族偏見的研究和報道,早已有之。而據雷鋒網此前報道,要消除這些偏見,並不容易。正如微軟紐約研究院的高級研究員Hanna Wallach所說:

『隻要機器學習的程序是通過社會中已經存在的數據進行訓練的,那麼隻要這個社會還存在偏見,機器學習也就會重現這些偏見。』

Via Quartz

AI算法為什麼會存在性別歧視?穀歌做出了解釋…

一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與 ...

2017-8-31
Ai算法為什麼會存在性別歧視?穀歌做出了解釋的最新 …AI算法為什麼會存在性別歧視?穀歌做出了解釋

一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與男性優先關聯,而非女性,或者圖像識別算法也會更大概率的將黑人錯誤分類為大猩猩。2015年,Google ...


穀歌就AI算法為什麼會存在性別歧視做出解釋
女程序員數量稀少,真的是所謂"生理構造"的原因嗎? |專欄

AI算法為什麼會存在性別歧視?穀歌做出了解釋|穀歌|算法…

一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能 ...

2017-8-30
AI算法為什麼會存在性別歧視?穀歌做出了解釋 | 雷鋒網

『隻要機器學習的程序是通過社會中已經存在的數據進行訓練的,那麼隻要這個社會還存在偏見,機器學習也就會重現這些偏見。』

2017-8-30
AI算法為什麼會存在性別歧視?穀歌做出了解釋 - 新聞 …

一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將 醫生 一詞與男性 ...

2017-8-30
AI算法為什麼會存在性別歧視?穀歌做出了解釋-知產力, …

一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與 ...

2017-8-31
AI算法為什麼會存在性別歧視?穀歌做出了解釋_智能_環 …

一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與 ...

2017-8-31
AI算法為什麼會存在性別歧視?穀歌做出了解釋 ...

AI算法為什麼會存在性別歧視?穀歌做出了解釋 2017年8月30日 來源: 新浪科技 寫寫評論 Category: 其他, 科技 Tagged under: 科技 一直以來,通過研究表明 ...

2017-8-30
AI算法為什麼會存在性別歧視?穀歌做出了解釋-智快網

近日,作為該項錯誤的責任方,穀歌正在試圖讓大眾了解AI是如何在不經意間永久學習到創造它們的人所持有的偏見。

2017-8-31
AI算法為什麼會存在性別歧視?穀歌做出了解釋 | 香港矽穀

一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與男性優先 ...


AI算法為什麼會存在性別歧視?穀歌做出了解釋_最新動 …

一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與 ...

2017-8-31
相關文章
美國法官判決:個人信息遭泄露用戶可以起訴雅虎2017年09月05日
俄媒:中俄將在2018年聯合進行太空探索、登月任務2017年09月05日
拆分的魅族 如何承載黃章的夢想與現實?2017年09月05日
HomePod 外層 3D 網布原來是這家公司做的2017年09月05日
向機器人征稅 蓋茨的提議是公平還是倒退2017年09月05日
鬆下高端音響品牌Technics推出高規黑膠唱機SP-10R2017年09月05日
機器人安全氣囊或能確保工業機器人與人類更安全地並肩工作2017年09月05日
[圖]Essential致歉郵件錯誤:受影響用戶免費贈送1年LifeLock服務2017年09月05日
[評論]互聯網創業時代哪有那麼多"神童"2017年09月05日
華為麒麟970規格完全曝光:8核CPU/12核GPU2017年09月05日

没有评论:

发表评论