-人工智能與機器人-
閱讀全文大約需要5分鍾
研究人員正在努力創造一個"翻譯官"。"翻譯官"能夠解釋人工智能如何通過算法找到答案，並以此建立起人類與人工智能之間的信任關係。
在自動駕駛汽車和無人機的時代，人工智能對我們生活中來說越來越重要，它也正通過學習變得越來越聰明。今天，人工智能可以識別文字，區分人臉，甚至在一定程度上識別物體。但是，即便是最好的人工智能係統，很大機會仍會出錯。
波士頓大學計算機科學助理教授Saenko表示，人工智能的錯誤率確實是一個大問題。
她是這麼說的："如果人工智能發生錯誤，人類用戶對人工智能的信任很快就會大打折扣，並最終停止使用它。我認為，人類本質上不太可能隻接受機器告訴他們的東西。"
她補充說，另一個複雜因素在於，隨著人工智能變得更加強大，驅動它的算法對於人類用戶來說也變得越來越不透明。信息進入算法"黑匣子"的一端，而後答案就出現在了另一端，但算法找尋答案的規則和推理對於人類來說卻是模糊未知的。
Saenko的研究正在努力改變這種模糊關係，希望開發出新的方式進入人工智能的"頭腦"，創建一個麵向人類用戶的翻譯工具，解釋人工智能的決策過程。
表麵看來，這個目標可能聽起來不是非常重要。誰在乎電腦是如何得到答案，隻要答案正確不就行了？Saenko表示，讓人類用戶知道人工智能為何得出如此結論，或許是提高其準確率的"終極方法"。
在這個過程中，翻譯工具也可以增加人們對機器的信任，讓人工智能成為複雜工作中一個更好的合作者。 理想很豐滿，但現實情況是，在如今的人工智能係統中實現算法過程的"開放化"並不容易。
新型人工智能
看清人工智能的"內心"，在過去並不是一件難事。 過去，許多人工智能係統（如麵部識別）使用了程序員提前確定的編程規則，比如皮膚顏色的識別，鼻子形狀的識別，光線和陰影的識別等等。
所有這些由用戶創建的概念必須從一開始就編碼進人工智能的核心程序，作為它的基本框架。
這種類型的編程方法很簡單，那麼相對應的，要弄清楚機器如何得出結論也很簡單：隻需確定相關結論所依賴的預編程規則即可。
算法簡單的同時，它也從根本上限製了人工智能的能力。畢竟，現實生活是非常複雜的，最好的人類程序員也無法為計算機設想出一套理解世界的完整規則。
Saenko說，"舉例來說，我們不可能準確定義出狗在所有圖片中的特征，所以如果我們有足夠多的運算能力，足夠多的數據，就可以讓計算機去看成千上萬張關於狗的圖片，讓計算機從數據中學習，自己找出一套編程規律。"
在過去五年左右的時間裏，這種做法已經在人工智能的世界中得到了廣泛應用。 這些新的人工智能係統不使用單一模板，而是采用迭代的方法，以神經係統的工作方式作為算法的基礎。
這些新型人工智能係統被稱為"深層神經網絡"，它們使用大量互連的功能或節點，並將這些功能或是節點布置在龐大的運算網絡中。 這些神經網絡的每個部分都隻負責解析少量信息，並逐漸在它之前節點的基礎上繼續進行工作。
這種增量過程在簡單數據上逐層構建，形成"深層神經網絡"的核心。 它使人工智能更加靈活、快速和強大。
對於一些係統來說，它可以以超過95％的精度運行。 對於那些運行不精確的係統，"深層神經網絡"的算法模型又使得程序員很難找出其中的原因。 神經網絡創建了大量的宏觀準則，導致現在也沒有預設的編程模式可供備選了 。
加州大學伯克利分校的項目合作者Trevor Darrell說，"深度神經網絡的算法模型擅長處理的是視覺和語言任務（如自動翻譯），因為計算機能夠從大量的數據中學習。正因為如此，我們也很難直接從中提取和解釋算法結構。"
創造一個人工智能"翻譯官"
Saenko和Darrell正在與荷蘭阿姆斯特丹大學的同事Zeynep Akata，以及一家開源軟件公司Kitware合作，深入"深層神經網絡"的核心，並努力使其更易於理解。
研究人員表示，若想要求這樣一個深層神經網絡來向用戶解釋自己，可能會降低其運行的速度和效率，因此他們希望創建一種翻譯工具，成為一個並行神經網絡，實時向人類用戶解釋主網絡上人工智能的選擇。
Saenko表示，"主神經網絡需要專注於自己的工作，它的所有計算能力都會被用於完成指派任務，例如在圖像中查找門窗。 因此我們想要使用第二個並行的神經網絡來訪問機器，輸入數據，並且從中學習，將所有這些神經網絡的運算，翻譯成人類可以理解的文本信息。"
Saenko表示，這個翻譯過程非常重要，當"深層神經網絡"確實犯了錯誤的時候，很有可能是因為它發現了一個與現實世界不符的數據模式。 例如，如果人工智能驅動著自動駕駛汽車沿著維護不良的道路行駛，那麼它很可能會停在一片陰影前，誤認為這是一個巨大的坑洞。
如果這種情況發生的話，作為"翻譯官"的並行人工智能可以用簡單的英文給予用戶更多的信息。 "翻譯官"可能會說："我停下車來，是因為我不知道前方是一個坑窪還是陰影，所以請您告訴我，我應該如何選擇？"
Saenko說到，"將來，我們將會利用人工智能作為人與電腦之間合作的媒介。 我們必須能夠與之進行溝通，了解其優勢，了解其擅長的領域，它才能幫助我們處理人類不擅長的事情，比如視頻內容的分類識別。我認為這是在創造'超級人類'， 這是在創造人與人工智能之間的協同合作。"
Saenko的研究由美國國防高級研究計劃署（DARPA）資助。
了解請點擊閱讀原文訪問世界經濟論壇官網
作者：Boston University , Futurity
以上僅代表作者個人觀點
本文由世界經濟論壇與Futurity聯合發表，轉載請注明來源並附上原文鏈接。
翻譯：達沃斯博客翻譯小組·陳達鏗
責編：劉博睿
世界經濟論壇·達沃斯博客是一個獨立且中立的平台，旨在集合各方觀點討論全球、區域及行業性重要話題。
長按識別二維碼關注我
世界經濟論壇官方微信賬號
没有评论:
发表评论