今天的一些頂級技術人員和科學家,都非常公開地表達了他們對于世界末日場景的關注,這可能是由于機器人有動機的結果。這些擔憂的知識界巨頭如Stephen Hawking(史蒂芬霍金)、Elon Musk(伊隆?馬克斯)以及Bill Gates(比爾蓋茨),他們都相信,機器學習領域的進步將會使得AI(人工智能)很快產生自我意識,可能會試圖殺死我們或者也許只是處理我們,就像浮渣被一個雨刷抹去一樣。事實上,霍金博士說:“AI(人工智能)的全面發展可能會使人類終結。”
的確,毫無疑問的是,未來的AI(人工智能)將能夠造成重大的傷害。例如,可以想象的是,機器人可以被編程入一些功能,如作為極其危險的自治武器,這是我們之前從未見過的。此外,我們很容易想象一個無約束的軟件應用能夠在互聯網中遍及,可能會對嚴重擾亂我們最有效和最依賴的全球交流媒介。
但是,這些場景與機器人決定轉向打敗我們,讓我們淪為它們的奴隸,或消滅我們是截然不同的。在這方面,我們無疑是安全的。應該注意的是,在沒有特別的指令下,我們就不可能使機器人自己決定幫助我們或者給我們愛。
這是因為如此有意識的行為來自于一個AI(人工智能),無疑是需要一個頭腦的,只有具有自己的信仰、欲望和動機,這些意識才會產生。包含這些特征的AI(人工智能)在科學界是被稱為“強AI(人工智能)”。根據定義,強AI(人工智能)應該具備人類全方位的認知能力,包括自我意識、知覺、意識,這是人類認識的所有特征。
另一方面,“弱AI(人工智能)”指的是無知覺的AI(人工智能)。這個弱AI(人工智能)假說表明,我們的機器人是依靠數字計算機程序才可以運行,并沒有主觀意識。這樣的AI(人工智能)不能體會到世界的美好,雖然它們可能會表現出看似智能的行為,它永遠也是受限于缺乏意識。
沒有認識到這種強/弱AI(人工智能)區別的重要性,可能就會導致像Stephen Hawking(史蒂芬霍金)、Elon Musk(伊隆?馬克斯)以及Bill Gates(比爾蓋茨)那樣的擔憂,他們都認為我們已經朝著發展強AI(人工智能)的方向靠近。對于他們來說,這不是“如果”的問題,而是“什么時候”的問題。
但事實是,目前所有的AI(人工智能)基本上都是弱AI(人工智能),這反映了當今計算機完全沒有任何有意識的行為。雖然有一些非常復雜和較有說服力的機器人似乎是活著的,仔細檢查,就會發現它們也和普通計算機一樣盲目的。
這是因為大腦和計算機的工作非常不同。雖然都是在計算,但只有一個能夠理解,并且有一些非常令人信服的理由相信,這是不會改變的。強AI(人工智能)要成為現實,還是有很多的技術障礙。
所有的數字計算機都是二進制系統。這意味著他們存儲和處理的信息只有兩種狀態,并且代表不同的符號。這是一個有趣的事實,二進制數字可以被用來表示大多數的東西,如數字、字母、顏色、形狀、圖像,甚至是近乎完美的精確音頻。
這個符號系統是所有數字計算的基本原則。電腦所做的每一件事情都需要在某種程度上操縱2個符號。因此,它們可以被認為是一種特別的圖靈機器人,是一個抽象的、假設性的機器,通過操縱符號來計算。
一個圖靈機器人的操作稱為“語法”,意味著它們僅僅識別符號,而不是這些符號的實際意義,它們的語義。即使這個單詞“認識”被誤導了,因為它意味著一種主觀經驗,所以也許更容易說這個計算機對符號是敏感的,然而大腦是能夠理解的。
這個計算機無論有多快,它有多少內存,或編程語言是多么復雜和高層次,它是不重要的。這個國際象棋冠軍Watson(沃森)和Deep Blue(深藍)從根本上說,是和你的微波爐一樣工作的。簡單地說,一個嚴格的符號處理機器人永遠不能成為一個符號理解的機器人。這個有影響力的哲學家John Searle(塞爾)已經巧妙地描繪了這個事實,在他那著名的和備受爭議的“中文屋論證”中,令人信服的想法是“語法不完全代表語義”。雖然有些專家是反駁的,提出語法和語義之間的差距,不可能一次就逾越了。但即使有一個人沒有被完全說服,它也不會改變這個事實:圖靈機器人只是操縱符號的機器人而不是思考的機器人。
這個弱AI(人工智能)的假設表明電腦只能模擬大腦,并且根據一些像John Searle(塞爾嗦)那樣,他創造這個強/弱AI(人工智能)的術語,一個有意識系統的模擬與真實的事物是非常不同的。換句話說,這是機器的硬件的問題,并且單純的數字僅僅代表生物機制,是無法創造任何在真實世界發生的事情。
我們要記住,我們仍然可以推測非生物機器是否支持意識的存在,但我們必須認識到,這些機器可能需要重復的基本電化學過程,那是在有意識的狀態期間,在大腦中發生的。如果在沒有任何有機材料的情況下,這是可能的,這大概就需要對圖靈機器人要求的更多,而不是純粹的語法處理器(符號機械手),并且數字模擬可能缺乏必要的物理機制。
實現強AI(人工智能)的最好方法就是,首先需要找出大腦是如何工作的,并且機器學習研究者最大的錯誤就是認為他們可以走捷徑。作為科學家和人類,我們對于我們能夠完成的事情必須保持樂觀的態度。同時,我們不能過分自信,這樣可能會引導我們走錯了方向,并且阻止了我們真正的進展。
更多精彩內容盡在1號機器人網www.1hjqr.com
|