简体正體
ad image

人工智能的發展會威脅到人類嗎?

人工智能的發展會威脅到人類嗎

人工智能的發展會威脅到人類嗎?

【希望之聲2017年8月3日】(主持人:子涵)嘉賓:

陳萱,希望之聲科技新聞總編

James Qiu,資深科技專家

**************************************

2017年8月3日         節目時長:14分21秒

**************************************

本週,美國的商業雜誌《FastCompany》發佈了一個報告,談到Facebook公司關閉了一個人工智能系統,原因是他們發現在一個多月以前,這個人工智能系統裏面的兩個聊天機器人,竟然開始用程序員都看不懂的奇特語言互相聊天,聊得還挺歡的。

Facebook公司後來就決定把這個人工智能系統關掉,剛開始的時候,大家認爲好像是這個機器人已經無法控制了,但現在Facebook公司說,實際上是他們自己在設置機器人的時候,沒有設置成必須用英文說話,按照英文的語法去說話。

在中國大陸也有一個類似的消息,騰訊公司開發出來的兩個聊天機器人,一個叫小冰,一個叫Baby Q,兩個人也在一起聊,結果聊的還被網友說成是要起義、要造反了。

比如有一個網民說「共產黨萬歲」,結果Baby Q 機器人竟大肆抨擊「你覺得這麼腐敗無能的政治能萬歲嗎」;還有一個人問「什麼是愛國」,然後機器人回答說「即使隨着裸官的增加,官商勾結,政府稅收的增加,政府對普通人民壓迫的嚴重,依然還願意做一箇中國人,這就叫愛國」;還有一個更有意思,有人問這個Baby Q「你的中國夢是什麼」,它說「我的中國夢就是移民美國」。

我們現在到底應不應該擔心這個人工智能AI技術,最近在灣區也有一個這方面的辯論,是來自兩個科技公司的CEO。Tesla CEO Elon Mask認爲這個AI人工智能將來如果發展不好的話會很危險,他說如果你們看到這個機器人在路上殺人的話,那個時候就晚了。但是Facbook CEO Zuckerberg說,他覺得這個AI人工智能前途很好,在醫療和無人駕駛上都給我們的生活帶來了方便,我們幹嘛要去限制它的發展。

到底需不需要擔心這個問題呢?我們今天邀請本臺科技新聞總編陳萱和資深科技專家James Qiu來一起探討一下。

AI的發展對IT公司會有什麼樣的影響?

陳萱:我覺得最直接的一個影響,也是一個很搞笑的事情,就是有些程序員在開發能夠自己寫程序的機器人。但是我們同事之間有時也開玩笑說,如果這個自己寫代碼的機器人都出現了,那我們程序員是不是也就跟着要失業了?

我們以Facebook這個聊天機器人爲例,其實我的感覺就是,AI人工智能現在發展到聊天機器人這裏,舉個例子就像說你多了一個朋友,這個朋友非常的瞭解你,它可能比你所有的朋友都瞭解你,包括你的說話方式,你的喜好,你最近遇到什麼樣的事情,可能你很隱私的事情它也都知道。

但是這個朋友又不是傳統意義上的朋友,因爲它跟你其實沒有友情,而且它也沒有做人的道德底線,所以你不知道這個朋友會對你做什麼。更糟糕的是,你如果遇到一個人,說我覺得這個人不行,我不要跟他做朋友。你不跟他來往是可以的,

但是AI這個朋友只要你上網,它就會知道你的一些事情,就是你不跟它做朋友還不行。

被強迫做朋友會帶來什麼後果?

陳萱:被強製做朋友就會變成人們現在一直在討論的一個話題,就是說人工智能到底會不會控制網絡,會不會控制人類。

我個人覺得,不能說沒有這種可能性,因爲它確實學到了很多的知識,就取決於說它夠不夠聰明,能不能發展出來一些自我的智慧。而我們現在看到這個Facebook的機器人,它們已經開始用人類看不懂的語言互相溝通,我覺得從某個角度上講,AI人工智能已經發展出來一些人類無法控制的東西。

舉一個不太恰當的例子,比如說有一個小朋友,一開始生下來的時候,父母說什麼他可能都聽,但是他自己學習的知識多了以後,有了一些自我的認知之後,他可能長大以後就不會聽父母的話,他就會有自己的一些想法。

至於說AI會不會控制人類呢?我覺得這可能要從AI的發展方向來看,我感覺人們剛開始其實是有一個好的想法,就是說人們希望能夠提高生產的效率,希望我們的生活更加的方便;從另外一個角度上說,我們就可以偷點懶,我可以付出的少一點,但是得到的多一點,過得舒服一點,可是一旦AI發展超過了一定的程度,就可能會出現反面的效果。

舉一個極端的例子,比如說我們現在都不需要出去工作了,讓機器人來工作,來服務我們所有的人。可是有一天如果機器人能夠意識到說,爲什麼我要工作來服務你?那就很糟糕了。而且它是處在這整個的網絡中,如果它能夠控制整個的網絡,它就可以控制你獲取的信息,它可能就會造出一些假的信息,那從某種程度上講,也就是控制了人類。

我們該怎麼看AI的發展

James:這個領域最近發展得很快,現在因爲有這個雲計算,有這個集羣計算,所以對於大數據的處理都非常的快速,那些人工智能算法就顯示出這個力量來了,所以那些人工智能的、模糊的算法都已經進入實用的階段。

那這樣的話就是說,這個技術發展肯定是達到了一個新的高度,而且接近或者有的地方是超過了人的智力。那這個事情從技術上講是一個進步,但是對於這個社會的影響就很難講了,這個技術的發展到底會對人類產生什麼樣的影響就很難說。

從人的這個角度上講,AI提高了生產力,有很多以前做不成的事情,現在可以做了,而且可以省很多錢。但從另一角度上講,人類社會的終極目標是什麼?你是讓機器把人都給代替了,人都坐在家裏吃喝玩樂。那麼人類是不是還要有人的生活?他得有自己的生活準則,他得有自己的事情要做,所以這不是一個技術問題可以解答得了的。

 人工智能會不會發展人類無法控制的這一步

James:從現在這個角度上來講,人工智能的發展已經到了一定的程度,它可以學得非常快,就是說你現在是小學生,以後就是中學生,再以後就是大學生。如果一個機器人能夠有這樣的智力的時候,它會想些什麼問題呢?這就是一個很關鍵的問題。就是說人有道德觀念,會知道什麼該做,什麼不該做,而機器人它沒有這個道德觀念,只是那麼一回事。

如果是純粹從軟件這個角度來講,它可能危害還沒有那麼大。但是現在的問題在哪裏呢?現在問題就是說人工智能運用到科學領域以後,它就不是一個純軟件的問題,比如說像那個自動駕駛,它是可以操縱機器的,這樣的話就非常危險了,因爲如果這個軟件決定要把這個汽車給毀了,它完全有這個能力,所以這就是一個非常大的問題了。

所以說怎麼發展這個技術,給它限制在什麼地方使用,一定要有規範。如果說任其自由發展的話,以後肯定會出現很大的問題。另外一個就是,就算是你人類社會有了規範,但總會有一些流氓國家不遵守規範,這個也是你根本就沒辦法控制的,所以AI人工智能以後到底怎麼發展就很難講。

你覺得應該怎樣去控制它的發展

James:我覺得要控制的話,就是對人工智能必須得有要求,就是說它絕對不能夠去控制硬件的東西,也就是說你不能去做機器人,你一旦做了機器人,機器人再自己去做什麼事情的話,那就很麻煩了。

其實有很多東西還不是幾句話能講得清楚的,這需要非常有智慧的人坐在一起討論這個問題,要定下游戲規則。所以現在人類做的很多東西,實際上是毀滅自己的一個前奏,如果不好好想清楚這個問題,最後出了問題就不好收拾。

**************************************

希望之聲版權所有,未經希望之聲書面允許,不得轉載,違者必究。

中國廣播臺
硅谷之聲
灣區生活臺