?
|
毫無疑問，人工智能是這幾年非常火熱的產(chǎn)業(yè)之一。 隨著應(yīng)用領(lǐng)域的不斷擴(kuò)大，機(jī)哥也常常聽到很多人發(fā)出這樣的聲音： “我想做AI……”
沒錯(cuò)，只要隨手在知乎上一搜，就能發(fā)現(xiàn)不少想要轉(zhuǎn)行從事人工智能的朋友。 畢竟作為風(fēng)口行業(yè)，做AI還是蠻吃香的。
但是嚯，并不是所有人做出來的人工智能產(chǎn)品，都能夠達(dá)到最完美的效果。 國(guó)外就有人專門建立了一個(gè)數(shù)據(jù)庫（AI Incidents），匯總了迄今為止翻車的各種AI產(chǎn)品。 可以說，堪稱沙雕。
機(jī)哥相信，對(duì)很多人來說AI翻譯并不陌生。 和傳統(tǒng)的機(jī)器翻譯不同，AI翻譯可以利用計(jì)算機(jī)算法，達(dá)到流暢的翻譯效果。 并且AI翻譯還能像人一樣，通過不斷的學(xué)習(xí)，完善翻譯的能力。 聽起來非常先進(jìn)，但這絲毫不影響它半路翻車。
事情發(fā)生在以色列。 一位名叫哈拉基姆·哈拉維（Halawim Halawi）建筑工人在社交媒體Facebook上，用阿拉伯語發(fā)布了一句“早上好”，搭配一張自己站在拖拉機(jī)旁的照片。 隨后，這個(gè)男子就毫無預(yù)警地，被當(dāng)?shù)鼐旖o逮捕了。
美好的早晨，從免費(fèi)供應(yīng)的警察局盒飯開始。 緊張的哈拉基姆在和警察的溝通中發(fā)現(xiàn)，他之所以被帶走，是因?yàn)镕acebook的AI翻譯把“早上好”，翻譯成了“攻擊他們”。 原來，AI翻譯功能將非標(biāo)準(zhǔn)阿拉伯語，連蒙帶猜地識(shí)別成希伯來語。 就好像有人把口語化的“早啊您嘞”，錯(cuò)誤地看成“草（cǎo）啊您嘞”，并翻譯成其他語言。 再加上此前有挖土機(jī)攻擊群眾的例子，就讓警察更加肯定這名男子要實(shí)施犯罪。
一般來說，這種無法識(shí)別的單詞，翻譯引擎會(huì)選擇保留，或者跳過不翻譯。 但是在AI翻譯當(dāng)中，它會(huì)根據(jù)數(shù)據(jù)庫當(dāng)中的信息，自行學(xué)習(xí)并且試圖拼湊出這些詞語的意思，多少有點(diǎn)自作聰明的趕腳。 這并不是AI翻譯第一次翻車。 此前，谷歌翻譯也曾經(jīng)把“俄羅斯聯(lián)邦”翻譯為“Mordor”，后者是《指環(huán)王》里一個(gè)邪惡又黑暗的地區(qū)。
谷歌自動(dòng)把俄羅斯翻譯成Mordor 而微信上的翻譯服務(wù)，也曾得出了很多讓人啼笑皆非的翻譯結(jié)果。 例如“You are so caixvkun”，被翻譯成了“你真是個(gè)傻蛋”。
當(dāng)然啦，AI翻譯翻車還只是AI Incidents數(shù)據(jù)庫里的一個(gè)例子。 更沙雕的，還有使用人工智能技術(shù)開發(fā)的機(jī)器人。
為了緩解人手不足的情況，蘇格蘭的一位老板在自己的超市里，嘗試引進(jìn)了一個(gè)機(jī)器人店員。 這個(gè)機(jī)器人由赫瑞瓦特大學(xué)的研究團(tuán)隊(duì)研發(fā)，名叫法比歐。 它被設(shè)計(jì)成像Siri或Alexa一樣，只要連接上Wi-Fi，就能夠和顧客進(jìn)行對(duì)話，解決顧客的問題。 聽起來是不是非常高端大氣上檔次……
但是大家都知道，理想很豐滿，現(xiàn)實(shí)卻很骨感。 例如顧客詢問奶酪在哪個(gè)位置的時(shí)候，法比歐只會(huì)回答“奶酪在冰柜里”。 聽起來沒有什么不對(duì)，但鑒于超市的冰柜有一整排，法比歐的答案對(duì)于顧客來說，就是答了個(gè)寂寞。 而當(dāng)顧客詢問啤酒在哪里的時(shí)候，法比歐也只會(huì)空泛的回答到“在酒精飲料區(qū)”。
這還不算完。 由于法比歐被設(shè)計(jì)成胯胯軸微微凸起的形象，不少超市的顧客都被頂?shù)?hellip;…嚇到不敢靠近。 而且顧客還會(huì)抱怨經(jīng)常它擋道，所以大部分人看到它都選擇繞道避開。
最終，法比歐因?yàn)閲樑懿簧兕櫩?，沒有逃過被解雇的命運(yùn)。
還有亞馬遜的AI助手Alexa，不僅一次被記錄下翻車。 有孩子在要求播放歌曲Digger Digger時(shí)，Alexa試圖給他播放成人電臺(tái)的作品。
糟糕，Alexa給孩子播了成人內(nèi)容 這個(gè)過程剛好被孩子的父母用手機(jī)記錄下來。 也幸好父母在旁邊，才阻止了Alexa的進(jìn)一步動(dòng)作。 不過根據(jù)視頻顯示，當(dāng)時(shí)Alexa已經(jīng)說出不少兒童不宜的詞語。
還有一次，美國(guó)電視里的新聞主持人正在播報(bào)新聞，談到一個(gè)小女孩和亞馬遜Alexa的有趣互動(dòng)。 這個(gè)小女孩在Alexa的幫助下，訂購(gòu)了一個(gè)玩具屋和一大罐餅干 隨后主持人說出，“我超喜歡這個(gè)小女孩說，'Alexa給我訂了一個(gè)玩具屋'的樣子”。 然后……全國(guó)各地就有不少民眾表示，自己的Alexa被電視里的這句話喚醒，并且準(zhǔn)備訂購(gòu)?fù)婢呶荨?/p>
Alexa被意外喚醒，試圖購(gòu)買大量玩具屋 除了亞馬遜的Alexa之外，大家熟悉的Siri其實(shí)也因?yàn)檫^于沙雕，鬧出過不少笑話。 例如有人測(cè)試，告訴Siri想吃大便。 Siri居然真的推薦了幾個(gè)公共廁所。。
而比起上面那個(gè)玩笑話，接下來的就更可怕了。 在某一版iOS當(dāng)中的Siri，在收到“我會(huì)自殺”的訊息時(shí)，回答的竟然是： 我相信你可以的。
眾所周知，AI人工智能的一個(gè)重要領(lǐng)域，就是人臉識(shí)別。 在這方面，AI Incidents數(shù)據(jù)庫記錄下的翻車?yán)右膊簧佟?/p> 其中一個(gè)就來自咱們中國(guó)。 沒錯(cuò)，就是大家非常熟悉的“董明珠闖紅燈”事件。
這張圖相信大家也看過很多次啦。 寧波行人闖紅燈曝光臺(tái)在曝光的過程中，由于人臉識(shí)別算法的問題，將人行道上駛過的公交車上的董明珠廣告形象，給曝光在大屏幕上。 而當(dāng)時(shí)寧波交警也回復(fù)，將對(duì)技術(shù)進(jìn)行升級(jí)。
AI算法鬧出的笑話還不止這一個(gè)。 疫情期間一場(chǎng)網(wǎng)絡(luò)直播的足球賽，采用AI識(shí)別控制鏡頭自動(dòng)跟蹤足球，進(jìn)行了網(wǎng)絡(luò)直播。 然而，AI認(rèn)為場(chǎng)邊的裁判的光頭是足球，就一直把畫面聚焦在裁判的光頭上，導(dǎo)致了球迷無法正常觀看球賽。
AI把裁判的光頭誤認(rèn)為足球 不過最嚴(yán)重的，還要屬iPhone的人臉識(shí)別翻車。 美國(guó)的一家著名生物識(shí)別安全公司FaceTec，找到了iPhone X上Face ID的識(shí)別漏洞。 如果用戶睡著，可以通過打印一雙紙質(zhì)的眼睛放在用戶的臉上，從而欺騙Face ID完成解鎖。
這還不是最過分的。 研究人員從pizza上隨手拿下一些配料放在眼睛上，也能完成解鎖的動(dòng)作。 例如直接用橄欖代替眼睛，就能夠讓iPhone X解鎖。
或者是香腸和橄欖組合，也能輕松騙過Face ID。 頓時(shí)間，iPhone這幾代那個(gè)濃重而又占地方的劉海，就顯得有點(diǎn)雞肋。
另外，還有橄欖和蘑菇的組合，也一樣能夠替代用戶的眼睛來解鎖。
當(dāng)然啦，上面的例子大家看完的反映，大多就是笑一笑。 但是，除了這些比較有趣的翻車?yán)又?，AI Incidents數(shù)據(jù)庫還記錄下很多血的教訓(xùn)。 在使用的過程中，由于種種的原因，AI也造成了一些嚴(yán)重的事故。 例如亞馬遜的工廠里，由于AI機(jī)器人無故刺破驅(qū)熊噴霧，就導(dǎo)致24名員工送院治療。
機(jī)器人意外釋放驅(qū)熊噴霧 24名亞馬遜工人送醫(yī) 而在2017年美國(guó)加利福尼亞州發(fā)生大火時(shí)，一個(gè)以AI智能規(guī)劃路線的導(dǎo)航，就在用戶準(zhǔn)備逃離時(shí)，把用戶引導(dǎo)至大火的方向。
導(dǎo)航把用戶引向山火方向
除此之外，AI Incidents數(shù)據(jù)庫中還有不少自動(dòng)駕駛事故案件的紀(jì)錄。 包括大家熟悉的特斯拉和Uber，都多次發(fā)生過類似的問題。 其中大部分都是因?yàn)锳I系統(tǒng)無法及時(shí)躲避路上的行人，才導(dǎo)致了悲劇的發(fā)生。
自動(dòng)駕駛車輛意外造成亞利桑那州女性死亡
當(dāng)然，說了那么多AI翻車的故事，機(jī)哥并不是要告訴大家遠(yuǎn)離AI。 畢竟作為未來科技發(fā)展的一個(gè)重要方向，AI能夠帶給我們的好處，遠(yuǎn)遠(yuǎn)比這些翻車的事故要多。 前提是，要在技術(shù)成熟的前提之下。 因?yàn)橹挥斜Ｕ狭耸褂玫陌踩?，AI才能夠最大程度地為我們的日常生活提供幫助。 不然的話，壓根就談不上什么人工智能。 頂多就是人工智障而已。 |
