新11选5近500期走势图
您當前所在位置: 首頁 > 理論聚焦

人工智能的倫理挑戰

更新時間: 2019-04-03 09:22:36 點擊:

  控制論之父維納在他的名著《人有人的用處》中曾在談到自動化技術和智能機器之后,得出了一個危言聳聽的結論:“這些機器的趨勢是要在所有層面上取代人類,而非只是用機器能源和力量取代人類的能源和力量。很顯然,這種新的取代將對我們的生活產生深遠影響。”維納的這句讖語,在今天未必成為現實,但已經成為諸多文學和影視作品中的題材。《銀翼殺手》《機械公敵》《西部世界》等電影以人工智能反抗和超越人類為題材,機器人向乞討的人類施舍的畫作登上《紐約客》雜志2017年10月23日的封面……人們越來越傾向于討論人工智能究竟在何時會形成屬于自己的意識,并超越人類,讓人類淪為它們的奴仆。

  一

  維納的激進言辭和今天普通人對人工智能的擔心有夸張的成分,但人工智能技術的飛速發展的確給未來帶來了一系列挑戰。其中,人工智能發展最大的問題,不是技術上的瓶頸,而是人工智能與人類的關系問題,這催生了人工智能的倫理學和跨人類主義的倫理學問題。準確來說,這種倫理學已經與傳統的倫理學旨趣發生了較大的偏移,其原因在于,人工智能的倫理學討論的不再是人與人之間的關系,也不是與自然界的既定事實(如動物,生態)之間的關系,而是人類與自己所發明的一種產品構成的關聯,由于這種特殊的產品——根據未來學家庫茲威爾在《奇點臨近》中的說法——一旦超過了某個奇點,就存在徹底壓倒人類的可能性,在這種情況下,人與人之間的倫理是否還能約束人類與這個超越奇點的存在之間的關系?

  實際上,對人工智能與人類之間倫理關系的研究,不能脫離對人工智能技術本身的討論。在人工智能領域,從一開始,準確來說是依從著兩種完全不同的路徑來進行的。

  首先,是真正意義上的人工智能的路徑,1956年,在達特茅斯學院召開了一次特殊的研討會,會議的組織者約翰·麥卡錫為這次會議起了一個特殊的名字:人工智能(簡稱AI)夏季研討會。這是第一次在學術范圍內使用“人工智能”的名稱,而參與達特茅斯會議的麥卡錫和明斯基等人直接將這個名詞作為一個新的研究方向的名稱。實際上,麥卡錫和明斯基思考的是,如何將我們人類的各種感覺,包括視覺、聽覺、觸覺,甚至大腦的思考都變成稱作“信息論之父”的香農意義上的信息,并加以控制和應用。這一階段上的人工智能的發展,在很大程度上還是對人類行為的模擬,其理論基礎來自德國哲學家萊布尼茨的設想,即將人類的各種感覺可以轉化為量化的信息數據,也就是說,我們可以將人類的各種感覺經驗和思維經驗看成是一個復雜的形式符號系統,如果具有強大的信息采集能力和數據分析能力,就能完整地模擬出人類的感覺和思維。這也是為什么明斯基信心十足地宣稱:“人的腦子不過是肉做的電腦。”麥卡錫和明斯基不僅成功地模擬出視覺和聽覺經驗,后來的特里·謝伊諾斯基和杰弗里·辛頓也根據對認知科學和腦科學的最新進展,發明了一個“NETtalk”的程序,模擬了類似于人的“神經元”的網絡,讓該網絡可以像人的大腦一樣進行學習,并能夠做出簡單的思考。

  然而,在這個階段中,所謂的人工智能在更大程度上都是在模擬人的感覺和思維,讓一種更像人的思維機器能夠誕生。著名的圖靈測試,也是在是否能夠像人一樣思考的標準上進行的。圖靈測試的原理很簡單,讓測試一方和被測試一方彼此分開,只用簡單的對話來讓處在測試一方的人判斷,被測試方是人還是機器,如果有30%的人無法判斷對方是人還是機器時,則代表通過了圖靈測試。所以,圖靈測試的目的,仍然在檢驗人工智能是否更像人類。但是,問題在于,機器思維在作出自己的判斷時,是否需要人的思維這個中介?也就是說,機器是否需要先繞一個彎路,即將自己的思維裝扮得像一個人類,再去作出判斷?顯然,對于人工智能來說,答案是否定的,因為如果人工智能是用來解決某些實際問題,它們根本不需要讓自己經過人類思維這個中介,再去思考和解決問題。人類的思維具有一定的定勢和短板,強制性地模擬人類大腦思維的方式,并不是人工智能發展的良好選擇。

  二

  所以,人工智能的發展走向了另一個方向,即智能增強(簡稱IA)上。如果模擬真實的人的大腦和思維的方向不再重要,那么,人工智能是否能發展出一種純粹機器的學習和思維方式?倘若機器能夠思維,是否能以機器本身的方式來進行。這就出現了機器學習的概念。機器學習的概念,實際上已經成為發展出屬于機器本身的學習方式,通過海量的信息和數據收集,讓機器從這些信息中提出自己的抽象觀念,例如,在給機器瀏覽了上萬張貓的圖片之后,讓機器從這些圖片信息中自己提煉出關于貓的概念。這個時候,很難說機器自己抽象出來的貓的概念,與人類自己理解的貓的概念之間是否存在著差別。不過,最關鍵的是,一旦機器提煉出屬于自己的概念和觀念之后,這些抽象的概念和觀念將會成為機器自身的思考方式的基礎,這些機器自己抽象出來的概念就會形成一種不依賴于人的思考模式網絡。當我們討論打敗李世石的阿爾法狗時,我們已經看到了這種機器式思維的凌厲之處,這種機器學習的思維已經讓通常意義上的圍棋定勢喪失了威力,從而讓習慣于人類思維的棋手瞬間崩潰。一個不再像人一樣思維的機器,或許對于人類來說,會帶來更大的恐慌。畢竟,模擬人類大腦和思維的人工智能,尚具有一定的可控性,但基于機器思維的人工智能,我們顯然不能作出上述簡單的結論,因為,根據與人工智能對弈之后的棋手來說,甚至在多次復盤之后,他們仍然無法理解像阿爾法狗這樣的人工智能如何走出下一步棋。

  不過,說智能增強技術是對人類的取代,似乎也言之尚早,至少第一個提出“智能增強”的工程師恩格爾巴特并不這么認為。對于恩格爾巴特來說,麥卡錫和明斯基的方向旨在建立機器和人類的同質性,這種同質性思維模式的建立,反而與人類處于一種競爭關系之中,這就像《西部世界》中那些總是將自己當成人類的機器人一樣,他們謀求與人類平起平坐的關系。智能增強技術的目的則完全不是這樣,它更關心的是人與智能機器之間的互補性,如何利用智能機器來彌補人類思維上的不足。比如自動駕駛技術就是一種典型的智能增強技術,自動駕駛技術的實現,不僅是在汽車上安裝了自動駕駛的程序,更關鍵地還需要采集大量的地圖地貌信息,還需要自動駕駛的程序能夠在影像資料上判斷一些移動的偶然性因素,如突然穿過馬路的人。自動駕駛技術能夠取代容易疲勞和分心的駕駛員,讓人類從繁重的駕駛任務中解放出來。同樣,在分揀快遞、在汽車工廠里自動組裝的機器人也屬于智能增強類性質的智能,它們不關心如何更像人類,而是關心如何用自己的方式來解決問題。

  三

  這樣,由于智能增強技術帶來了兩種平面,一方面是人類思維的平面,另一方面是機器的平面,所以,兩個平面之間也需要一個接口技術。接口技術讓人與智能機器的溝通成為可能。當接口技術的主要開創者費爾森斯丁來到伯克利大學時,距離恩格爾巴特在那里討論智能增強技術已經有10年之久。費爾森斯丁用猶太神話中的一個形象——土傀儡——來形容今天的接口技術下人與智能機器的關系,與其說今天的人工智能在奇點臨近時,旨在超越和取代人類,不如說今天的人工智能技術越來越傾向于以人類為中心的傀儡學,在這種觀念的指引下,今天的人工智能的發展目標并不是產生一種獨立的意識,而是如何形成與人類交流的接口技術。在這個意義上,我們可以從費爾森斯丁的傀儡學角度來重新理解人工智能與人的關系的倫理學,也就是說,人類與智能機器的關系,既不是純粹的利用關系,因為人工智能已經不再是機器或軟件,也不是對人的取代,成為人類的主人,而是一種共生性的伙伴關系。當蘋果公司開發與人類交流的智能軟件Siri時,喬布斯就提出Siri是人類與機器合作的一個最樸實、最優雅的模型。以后,我們或許會看到,當一些國家逐漸陷入老齡化社會之后,無論是一線的生產,還是對這些因衰老而無法行動的老人的照料,或許都會面對這樣的人與智能機器的接口技術問題,這是一種人與人工智能之間的新倫理學,他們將構成一種跨人類主義,或許,我們在這種景象中看到的不一定是倫理的災難,而是一種新的希望。

  來源: 光明日報 作者: 藍江(作者:藍江,系南京大學哲學系教授)

上一篇: 下一篇:
新11选5近500期走势图 福彩3d投注金额计算表 极速赛车开挂软件 篮球吧 江西11选5一中一免费计划 二人斗地主规则及玩法 排列三6码遗漏组六分析 看4张牌玩牛牛技巧口诀 聚宝盆计划软件安卓版 pt平台 500娱乐怎么赚钱

本站由中共河北省委黨校(河北行政學院)信息技術處維護制作 E-mail:[email protected] 冀ICP備10019205號

福彩3d投注金额计算表 极速赛车开挂软件 篮球吧 江西11选5一中一免费计划 二人斗地主规则及玩法 排列三6码遗漏组六分析 看4张牌玩牛牛技巧口诀 聚宝盆计划软件安卓版 pt平台 500娱乐怎么赚钱