| |

霍金和 Elon Musk 說人工智能很恐怖,你說呢?

各式各樣的資訊收集技術圍繞我們,你知道他們用什麼態度來對待你的資訊?在你已經在臉書上出賣所有個資的時代,你如何看待你的個人資訊?

AI 恐怖嗎?霍金和 Elon Musk 說很恐怖,你說呢?(Photo by Andy Kelly on Unsplash

我從事技術應用顧問,包括不少辨識技術。

朋友說:「你要看看《疑犯追蹤》(Person of Interest) 」。

「別再叫我追劇了!」我心裡抗拒著。

某週末閒來無事,我點開第一集,從此熬夜無數(朋友真是對你又恨又愛啊!是朋友別再害我!)。揉著因熬夜通紅的雙眼,這是我血淚的心得。

你正在被監視著。政府有一套祕密系統,一台全天候監視你的「機器」。我會知道是因為「機器」是我製造的。我設計這台機器是為了偵測恐怖行動,但什麼都逃不過它的法眼。牽涉到一般人的暴力罪行,好比你們這種普通人,政府認為這些罪行並不重要,他們置之不理,所以我決定採取行動。但我需要一個搭檔,有本領出手干涉的人。當局追緝我們,所以我們祕密進行。你永遠找不到我們,但無論是受害者或加害者,只要機器顯示你的號碼,我們就能找到你。

電視劇一般片頭都是片頭曲,為何這戲劇需要主人公 Harold Finch 先對觀眾做個「電梯簡報」(Elevator pitch) 呢?因為框架大,很難定義,包含:

  • 權謀:談到政府總是少不了的貪汙、謊言和醜聞;
  • 國際:雖然以紐約為主,但事件背後多牽涉盤根錯節國際關係;
  • 諜報:美國的 CIA、國土安全部、特勤,來自俄國的KGB、英國的軍情六處、以色列的薩摩德、還有中國的私人諜報機構(為了市場應該不敢直呼中國官方機構名諱);
  • 警匪:身在紐約,永遠不靈光的 NYPD 重案組、緝毒組和更不靈光的 FBI;對手的意大利黑手黨、黑人幫派、玻利維亞、墨西哥傳統南美幫派,和新來連英語都說不好的俄羅斯等東歐幫派是一定少不了的;
  • 科幻:出身於 MIT 的主人公無上限富翁 Harold Finch 造的系統牽涉影像辨識、語音辨識、GPS 定位、內容分析、AI,而來攻擊他的駭客有病毒、系統等技術;
  • 偵探:因為限制 AI 的能力,「系統」只能給出一個社保號碼,至於是殺人者、被害者需要人來調查,跟《福爾摩斯:基本演繹法》的精彩程度不相上下;
  • 英雄:兩個來自美國某政府暗殺機構的前男探員 John Reese 和前女殺手 Sameen Shaw (還有中東背景),雖然偶爾被擊倒,兩人各以一打十不成問題。雖沒蜘蛛人超現實,但與現實英雄蝙蝠俠絕對有拼;

這些主題隨便一個寫起來都要人命,更何況全加起來,常常三線進行的劇情,覺得美劇的編劇強到每一集都是一部電影了。

為了要把這些湊在一起,精巧的設計就不用說了,比如主人公 Harold Finch 因為 911 的刺激建立「機器」,但因為政府攻擊脊椎受傷,所以他無法自己去反恐(就算他好手好腳,Geek 也不是反恐的料),而兩個殺手因為以前做了太多政府指定暗殺任務所以一心向善願意做這吃力不討好的工作…。

不過,這不是影評,我要講的是他的設定。

做得到嗎?

裡面用到的幾個技術,遍及各地的攝影機、影像辨識、人臉辨識、聲紋辨識、聲音轉成文字、大數據分析、AI 深度學習… 在戲劇播映的 2012 年算是「科幻」,但在 2018 年,只是「科技」,意思是很多公司有能力組成這套系統,不需要來自 MIT 的 無上限富豪 Harold Finch 才能做到,而且我們每天都在用它們。

戲劇裡的技術臉書都有了,只是需要很大的空間來儲存。(Photo by imgix on Unsplash)

想想在臉書上傳文字就出現相關廣告,有沒有點擊廣告決定下次出現的廣告;我和朋友上傳的照片和影片透露我和朋友各種穿著從小到大的長相(人臉辨識臉會叫我 Tag 照片裡的朋友,名字都打好了),我打卡、朋友 Tag 我說明我到過哪裡,他可以依照時間序找到我的移動軌跡和我的消費力;我加入的興趣社團說明我的喜好,我在社團裡的發言多寡說明我是菜鳥還是老鳥;我用 Messenger 跟別人說了什麼,語音辨識立刻給我相關廣告…。這「機器」早在我們身邊,祖克伯對我的瞭解一定比我媽深!

只是,臉書目前還限制在我們手機和電腦,所以我們還有辦法對生活報喜不報憂,每個人的臉書生活都是多彩多姿令人羨慕;如果臉書可以做到 O2O (Online To Offline) ,那麼我們不想讓人看到的那一面都有被公佈的風險,就不再能報喜不報憂了。

當然也有一些還是科幻的,比如「機器」能思考、進化。為了怕它變太強,Harold 設定每晚刪除記憶,第二天「機器」又是嬰兒,但「機器」開了一家虛擬公司,每晚列印「記憶」,隔天打字員把「記憶」輸入回去,藉以進化。

目前 AI 充其量算是一個「分類器」,它能看起來很聰明的辨識照片裡是什麼,也可以因此去網上搜尋正確答案,但電腦並不知道自己在做什麼,它沒有「意識」,所以它能自己想出策略,這部分有點科幻。

也說不定已經有了,深藏在某個不知名機構裡面哦!

機器可怕嗎?

如果機器會自己思考、自己寫程式變強大,是有點可怕。

想想有一天你回家時,家裡的掃地機器人已經幫你煮好三菜一湯,而且自己從你的信用卡扣款上網訂菜,其中買不到的蔥它自己出去菜市場買了,途中沒電了還去 Gogoro 充電站偷接電。

滿可怕的,在它進化到可以把陌生人咬傷前我會把它打碎泡水確定死透。

當然那天還沒到來,現在要擔心的是你的個資暴露,而且這過程已不可逆,歐盟最強悍的 GDPR 雖然頒佈了,看來只是螳臂擋車,就算 Facebook 涉及被人利用來操作美國大選,不過刪除 Facebook 的名人不多,我只看到 Elon Musk (他還需要臉書幫他變更有名嗎?),其他人還是繼續浸淫其中。

臺灣的每個街頭都有警政署的攝影機,假設臉書跟政府簽個合約接上,戲劇裡說的立刻實現。

真正可怕的是人

把個資放上臉書換來朋友交換現況,我覺得 OK 耶!

但是在戲劇裡發生最可怕的事情,是許多單位為了擁有「掌握所有個資」的權力不惜殺人。

個資給朋友不這麼可怕,可怕的是想掌握你個資並拿來談判或交易的人(來源

是的,當你知道所有事情時,你就擁有無上權力,在大陸,你的「信用」甚至可以讓你無法買票坐車,這種權力如果落在想要濫用的人或組織手中,它就相當恐怖。

很多人對 AI 很恐懼,怕 AI 像《魔鬼終結者》裡那樣殺人,我覺得近期最可怕的不是機器殺人,而是某些人擁有全知全能後會如何對待我們這些平凡人?又,為了獲得全知全能,這些人和組織會作出什麼事情?


這是一齣描繪全知全能機器的故事,但實際上它是在描繪人類的貪婪和獨裁的野心,而這些事情竟已漸漸發生。

你在看這齣戲劇時覺得 Harold 好龜毛啊!但每次當我去 Pitch 談到人臉辨識時,總會說「資訊落在惡人手中是很危險的」。但如果你自認是個大好人,你是否能抗拒全知全能的誘惑?

GDPR 是個開始,跟 Harold 說的一樣,與其 AI 被濫用,寧可把 AI 關在監獄裡只能做單純的工作,而且資料處理要被規範,用制度限制資訊被濫用,用懲罰來限制制度被執行。

分享給朋友

Similar Posts

歡迎來聊聊!提出想法,一起成長,或是吐槽