一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與男性優先關聯,而非女性,或者圖像識別算法也會更大概率的將黑人錯誤分類為大猩猩。2015年,Google Photos應用誤把兩名黑人標注為"大猩猩",當時這一錯誤意味著穀歌的機器學習還處於"路漫漫其修遠兮"的狀態。隨後,穀歌立即對此道歉,並表示將調整算法,以修複該問題。
近日,作為該項錯誤的責任方,穀歌正在試圖讓大眾了解AI是如何在不經意間永久學習到創造它們的人所持有的偏見。一方麵,這是穀歌對外PR(公共關係)的好方式,其次,AI程序員也可以用一種簡單的方法來概述自己的偏見算法。
視頻來源:YouTube
在該視頻中,穀歌概述了三種偏見:
互動偏差:用戶可以通過我們和其交互的方式來偏移算法。例如,穀歌把一些參與者召集其起來,並讓他們每人畫一隻鞋,但多半用戶會選擇畫一隻男鞋,所以以這些數據為基礎的係統可能並不會知道高跟鞋也是鞋子。
潛在偏差:該算法會將想法和性別、種族、收入等不正確地進行關聯。例如,當用戶在Google Search搜索"醫生"時,出現的大多為白人男性。
此前Quarts發布了一則相關新聞,該報道稱,經普林斯頓大學最新研究成果表明,這些偏見,如將醫生與男性相關聯,而將護士與女性關聯,都來自算法被教授的語言的影響。正如一些數據科學家所說:沒有好的數據,算法也做不出好的決策。
選擇偏差:據了解,用於訓練算法的數據量已經大大超過全球人口的數量,以便對算法實行更好的操作和理解。所以如果訓練圖像識別的數據僅針對白人而進行,那麼得到的數據也隻能來自AI的認定。
圖片來源:Qaurtz
去年6月, "青年實驗室"(英偉達、微軟等科技巨擘均是該實驗室的合作夥伴和支持者)舉辦了一次Beauty.ai的網絡選美大賽。該比賽通過人工智能分析,征集了60萬條記錄。該算法參考了皺紋、臉部比例、皮膚疙瘩和瑕疵的數量、種族和預測的年齡等等因素。最後結果表明,種族這一因素比預期發揮了更大的作用:在44名獲獎者當中,其中有36人為白人。
事實上,關於算法中含有性別、種族偏見的研究和報道,早已有之。而據雷鋒網此前報道,要消除這些偏見,並不容易。正如微軟紐約研究院的高級研究員Hanna Wallach所說:
『隻要機器學習的程序是通過社會中已經存在的數據進行訓練的,那麼隻要這個社會還存在偏見,機器學習也就會重現這些偏見。』
Via Quartz
AI算法為什麼會存在性別歧視?穀歌做出了解釋…一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與 ...
2017-8-31Ai算法為什麼會存在性別歧視?穀歌做出了解釋的最新 …AI算法為什麼會存在性別歧視?穀歌做出了解釋
一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與男性優先關聯,而非女性,或者圖像識別算法也會更大概率的將黑人錯誤分類為大猩猩。2015年,Google ...
穀歌就AI算法為什麼會存在性別歧視做出解釋
女程序員數量稀少,真的是所謂"生理構造"的原因嗎? |專欄
AI算法為什麼會存在性別歧視?穀歌做出了解釋|穀歌|算法…
一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能 ...
2017-8-30AI算法為什麼會存在性別歧視?穀歌做出了解釋 | 雷鋒網
『隻要機器學習的程序是通過社會中已經存在的數據進行訓練的,那麼隻要這個社會還存在偏見,機器學習也就會重現這些偏見。』
2017-8-30AI算法為什麼會存在性別歧視?穀歌做出了解釋 - 新聞 …
一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將 醫生 一詞與男性 ...
2017-8-30AI算法為什麼會存在性別歧視?穀歌做出了解釋-知產力, …
一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與 ...
2017-8-31AI算法為什麼會存在性別歧視?穀歌做出了解釋_智能_環 …
一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與 ...
2017-8-31AI算法為什麼會存在性別歧視?穀歌做出了解釋 ...
AI算法為什麼會存在性別歧視?穀歌做出了解釋 2017年8月30日 來源: 新浪科技 寫寫評論 Category: 其他, 科技 Tagged under: 科技 一直以來,通過研究表明 ...
2017-8-30AI算法為什麼會存在性別歧視?穀歌做出了解釋-智快網
近日,作為該項錯誤的責任方,穀歌正在試圖讓大眾了解AI是如何在不經意間永久學習到創造它們的人所持有的偏見。
2017-8-31AI算法為什麼會存在性別歧視?穀歌做出了解釋 | 香港矽穀
一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與男性優先 ...
AI算法為什麼會存在性別歧視?穀歌做出了解釋_最新動 …
一直以來,通過研究表明,人類研發的機器也能學習到人類看待這個世界的視角,無論其是否有意。對於閱讀文本的人工智能來說,它可能會將"醫生"一詞與 ...
2017-8-31相關文章
没有评论:
发表评论