當人工智慧超越人類,人類該怎麼做?讓哲學家來告訴你

2015⋅07⋅22
當人工智慧超越人類,人類該怎麼做?讓哲學家來告訴你
5611次瀏覽
0則留言
2015⋅07⋅22
當人工智慧超越人類,人類該怎麼做?讓哲學家來告訴你

從2001年電影:AI人工智慧,便有越來越多人開始討論這項未來的新科技,不論是對它的想像、應用以及發展。這時不免會讓人聯想,人工智慧什麼時候會超越人類呢?有人說20年後,也有人回答50年,如果這是遲早會面臨的問題,我們是不是該做些什麼準備?哲學家Nick Bostrom提出一些建議,而他的觀點希望人類可以從此時開始反思。

Nick Bostrom: What happens when our computers get smarter than we are?

Nick不只有從哲學的角度出發,他與數學家、電腦科學家一同思考未來,假設地球在一年前誕生,人類物種則僅存在了10分鐘;工業革命則在2秒前才開始。他趣味地將這一萬年人類的GDP做成了以下圖表,並呈現了一個相當陡峭的圖形。

text

我們都清楚這是科技造成的急速發展,或者是「異態」,這也是為什麼我們現在的生產力很高。他以黑猩猩Kanzi與現代偉大的物理學家Edward Witten做為比喻,從大腦的外觀差異不大,但是卻經過25萬年,長時間的演化才有這複雜的機制。

用宏觀的角度來看這樣的變化,只發生在相對微小的大腦,因此Nick Bostrom推論在未來,任何能顯著地改變思想基體的變化,都會帶來巨大的影響後果。

過去的人工智慧大約是程式設計師將知識設計成指令,機器再去完成,但現在則是讓機器學習,讓機器能夠有感官系統,經過對人工智慧專家的問卷統計,2040年是他們認為就有可能達到人類級的人工智慧,甚至超越。這個領域將會有強大發展,再往前走的途中,Nick認為應該要避免將機器智慧擬人化,就像我們談到人工智慧,第一印象總是想到魔鬼終結者那樣。

text

以抽象的角度來思考,人工智慧是一個「優化的流程」,例如賦予它目標是算數學(X),但當它發展成超級智慧,我們並不清楚它的最大化目標(X)會如何發展?還是最後它能夠自己發展運算能力?

替人工智慧裝上電源開關是普遍提出的解決方法,但Nick認為我們並不會去關掉電源,由於依賴性,就像我們不會主動關掉網路那樣。

與其害怕超級智慧的會如何逃脫人類限制,Nick提出一項方法,就是讓人工智慧學習我們的價值觀,哪怕它更加聰明,仍然安全,仍然站在我們這邊,將其激勵機制設計追求我們的價值觀或者認為我們會贊成的事情,來解決這個價值觀的問題。如果你看過鋼鐵人,那史塔克的好夥伴JARVIS就是最好的比喻。

「控制」的方法是Nick所要傳達的核心思想,現在也許我們無法完全解決「控制」的問題,但我們需要了解自己想要控制的架構後,才能知道如何實施。

A bomb is not a bomb when it's a misfire. – Tony Stark

Mark Zuckerberg在今年Facebook舉辦的問答活動中,發表對於人工智慧的看法,他認為這並不會贏過人類,不論如何,就像Nick所說,未來我們的後代在回顧我們這個時代的時候會說,當時所做的最重要的貢獻就是把這個事情弄對了!


撰稿:林志洋


GoogleX實驗室創辦人Tom Chi,在研發Google Glass之際,也投入研究未來「人工智慧」樣貌的行列,從他的角度又會怎麼看呢?來 TEDxTaipei 2015 Big Bang了解他對人工智慧的研究成果。

發佈於2015⋅07⋅22
5611次瀏覽
0則留言