|
最近遭受到道德困境的不只是基因編輯，還有人工智能。 在今年夏天的 Google I/O 大會上，Google 向大眾展示了一項名為 Duplex 的 AI 新功能——代替你預約理發或者餐館。 這項功能之所以這么受人關注和讓人激動，最大的原因就它接近以假亂真的讓 AI 用自然語言和真實的人類交流，而人類甚至完全沒有意識到電話對面并不是真人而是來自 Google 的 AI。 ▲ 圖片來自：9to5Google 最近，這個服務終于在 Pixel 用戶群組中小范圍進行測試了。根據 VentureBeat 的報道，目前 Google 正在緩慢推送這項服務，而不是直接正式開放上線，目前只在「精選城市」中的 Pixel「精選用戶」中測試，凡是支持這個服務的人上輩子大概都是被選召的孩子吧。 此外。這個服務目前功能上也非常有限——哪怕是對比 Google I/O 上演示版本。因為目前的測試中并不支持理發的預訂（Google I/O 則專門演示了一段預約理發的視頻），只集中在餐館預訂，此外一些餐館也因為一些不明原因無法支持。 向大眾開放 Duplex 是一項非常好的事情，我們終于能夠親自檢驗這個星球上在人工智能領域的佼佼者究竟達到了何種地步。但是最近的一些測試中 Google Duplex 卻讓人們產生了一些擔憂，當然這不是說它在智能方面超出大眾的估計，而是在整個對話過程中，Duplex 都沒有告訴對方自己是只是一個 AI 服務。 當 Duplex 開始預約的時候只會告訴對方「這個電話來自 Google，并可能會被記錄?！箖H此而已，之后它就會按部就班的開始餐館的預約，并在處理完成之后掛斷電話。 而這顯然跟之前的宣傳不符，The Verge 表示，在 Google 今年 6 月份發布到 Youtbe 的宣傳片中，Duplex 會清楚的表示它是一個人工智能服務，會表示這通電話是通過 Google Assistant 呼叫并為客戶進行預訂。 對于為何會出現這樣不同的處理，The Verge 表示根據熟悉早期測試的人士說，這個測試并不完全由 AI 構成，即一部分呼叫來自真實的 Google 員工，而其他的部分則是來自 Google 的 AI 呼叫。所以 Google 沒有透露出這個人工智能助理的信息。 顯然，人和 AI 的界限在這里被模糊了，因為 Duplex 聽起來已經和真人非常接近，它會有停頓，會有各種各樣的語調和語氣詞。但對于大眾來說，這個測試會被理解為完全使用 AI 來進行，而在人和 AI 的對話中，人們非常需要 AI 表明自己的身份。 Venturebeat 表示 Google 需要找到一個完美的平衡： 準確而智能，透明而誠實 另外，Google 也在自己的博客向我們展示了 Duplex 究竟是如何工作的。 Google 表示這是一項通過手機來執行「真實世界」任務的新技術，而其中的核心就是面對自然語言的挑戰：自然語言難以理解，自然行為難以建模，需要快速處理以及使用恰當的語調進行自然語言發聲，都是其中的難點所在。 而 Google 也明確表示了透明度在其中是一項重要的部分，Google 需要明確的告知意圖而對方理解前后文，未來接個月 Google 還會在這方面繼續進行調整。 而讓 Google Duplex 的對話聽起來很自然則要歸功于 遞歸神經網絡（RNN），為了應對這些挑戰采用了 TensorFlow Extended（TFX）進行構建。而為了提高精度，Goole 還通過匿名電話的會話數據在語料庫上訓練 Duplex 的遞歸神經網絡。他們還為每個場景專門對理解模型進行了訓練。最后通過理解、互動和時間完成 Duplex 在「口語」上的進步。 最后 Google 表示，Google Duplex 朝著人類像和他人互動一樣與技術互動邁出了一步，自然語言與人工智能的交流在特定場景中成為現實。 Google 希望這些技術進步最終將有助于改善人們與計算機日常交互的體驗。 ▲ 圖片來自：Medium 但就像最開頭的說的，與真人界限的模糊更需要 AI 來先驗明正身，而不是裝作和真人無異，這對于人類來說是一件很重要的事情，或者說需要這樣的一個儀式感。而隨著技術的演化前進，AI 可能很快就在大部分語音接聽領域達到接近人類的水平，屆時關于人工智能的倫理問題將會更加直白的擺到桌上。 從結果上講，人類并不愿意和與真人幾近無異的 AI 進行對話，這會給他們一種不安全感，類似的事情其實也發生在外貌上，著名的恐怖谷理論看來不僅僅可以用在外貌上，其實在語音上也有著相似的狀況。 而牛津互聯網學院的數字道德實驗室博士 Thomas King 就直接表示 Google 的這項測試其實就是個騙局，假定人類和 AI 已經無法區分，那對于一個接線員它會認為自己一直在和一群機器對話（所以接線員也換成 AI 不就好了？），那他還能保持和以前一樣的溝通方式嗎？沒有禮貌和更粗魯是不是也沒有關系？哪怕接到了一個來自真人的電話，但這種想法或許已經在他腦海中揮之不去了。 ▲ 科幻電影《HER》 對于人類來說，如何思考人與科技的關系已經是一個可以說已經是一個日經的話題，我們也不缺乏相關的科幻電影對其的想象，比如施瓦辛格主演的《第六日》就討論了人與克隆人的倫理沖突問題，而 2004 年《機械公敵》把阿西莫夫三定律帶到了大眾視野，電影《HER》則進一步探討了人類和人工智能的情感的問題。 但等到 Duplex 把人類與人工智能的關系在現實中擺出來時，人類可能才發現自己有多么敏感和自我保護。對于 AI 沒有標明身份這件事上，我們已經衍生出了很多問題和想法，在人與人工智能產生聯系的過程中，雙方的地位、責任以及更多的事情都會變得難以認定。 ▲ 圖片來自：Wired 某些時候，如果我們忽略一些 Bug 問題，其實計算機是比人類更完美的一種形態，他們能確實的反應出你的行為和如實給出你要的結果，但隨著人工智能模擬真人越來越像，我們可能反而更加容易和 AI 產生矛盾和摩擦，導致與我們預期的結果不符或者受到其他損失。 因為，人類就是如此不完美的生物啊。 |
- 關注天氣:
