編譯：隆昌
【導(dǎo)讀】本文節(jié)選自日本國際事務(wù)委員會網(wǎng)站2018年11月發(fā)表的題為《人工智能的發(fā)展前景和可能后果》的文章，文章主要介紹了現(xiàn)今世界人工智能技術(shù)的發(fā)展現(xiàn)況、未來趨勢以及可能造成的國際和社會后果。文章覺得，當前，人工智能還處于“弱人工智能”發(fā)展階段，但早已對個人、社會和國家安全構(gòu)成足夠的潛在恐嚇。當前人工智能技術(shù)發(fā)展面臨的最大問題包括“人工智能民族主義”和“人工智能國家化”。同時，人工智能技術(shù)和第四次工業(yè)革命將對社會職業(yè)發(fā)展、法律倫理形成無法預(yù)測的巨大影響。
人工智能發(fā)展的主要問題和潛在恐嚇
雖然明天的神經(jīng)生物學(xué)取得了好多成就，但到目前為止，還沒人確切地曉得，自然的智能是怎樣產(chǎn)生的。因而也就沒人確切地曉得到底怎么研發(fā)人工智能。目前要研發(fā)出人工智能還存在系列亟需解決的問題，關(guān)于解決問題的優(yōu)先方向也存在不同的觀點。例如，開放式代碼和人工智能國際研發(fā)項目負責人本·戈策爾（Ben）覺得，研究通用人工智能所必須的所有技術(shù)原則上都早已研發(fā)成功，只不過須要通過正確的方法進行連結(jié)以形成增效作用，最終都會出現(xiàn)通用人工智能。其余專家則更傾向于持懷疑的心態(tài)。她們覺得，必須解決許多下邊正式列舉的原則性問題。專家對強人工智能出現(xiàn)時間的評估也相距甚遠：從六年到幾六年不等。
無論是普通的自主或則自適應(yīng)智能系統(tǒng)，還是通用或強人工智能系統(tǒng)的出現(xiàn)，就會形成不同程度的恐嚇，這種恐嚇雖然在當下也早已十分現(xiàn)實。其中包括：
研發(fā)所謂的致命自主裝備系統(tǒng)（，LAWS），例如雇用殺人用的無人機；
新一輪軍備大賽，各國將建立自主毀傷兵器的智能水平；
不一定是作戰(zhàn)使用的智能系統(tǒng)，可以是工業(yè)或則生活智能系統(tǒng)，除了才能進行有目的的行動，能夠進行有意識的目標定向，在此情況下，系統(tǒng)自主制訂目標可能造成目標與人的目標相違逆；
程度更高的手動化將大多數(shù)人排除出物質(zhì)生產(chǎn)環(huán)節(jié)，這可能造成更大的社會階級差別，增加“社會階梯”的效率，降低“多余人口”的數(shù)目并引起相應(yīng)的社會后果。
2018年8月，在坐落薩爾茨堡的德國技術(shù)學(xué)院同時舉辦了主題分別為人類水平人工智能、通用人工智能、生物激勵認知結(jié)構(gòu)和神經(jīng)-符號技術(shù)的代表會議。會議上，來自人工智能研究領(lǐng)域前沿公司和組織（，，DARPA，MIT，）的主要專家發(fā)表了報告。這種報告羅列了人工智能領(lǐng)域研究的現(xiàn)況，強調(diào)了社會所面臨的問題以及在該項技術(shù)下一步研究中可能出現(xiàn)的恐嚇。在本段概述中，作者將盡量簡略說明主要的問題和恐嚇，并強調(diào)應(yīng)對這種恐嚇可能的途徑。
首先必須明晰與人工智能相關(guān)的一些術(shù)語：弱人工智能或則專業(yè)人工智能，自主人工智能（AI），自適應(yīng)人工智能（AI），通用人工智能（，AGI），強人工智能（AI），人類水平人工智能（Human-LevelAI）人工智能，超人類水平人工智能（Super-humanAI）。
弱人工智能或則專業(yè)人工智能毫無疑惑就是指目前的技術(shù)方案，才能手動完成某一具體任務(wù)，例如象棋或則攝像頭的人臉辨識功能。這些人工智能不能獨立學(xué)習(xí)其它任務(wù)，除非人類對其進行重新編程。
自主人工智能是指系統(tǒng)才能長時間在沒有操作員參與的情況下運行。例如，它還能讓配備太陽能電板的無人機從香榭麗舍大街飛到紅場或則沿相反的路線飛行，獨立選擇路線、充電經(jīng)停地點，同時規(guī)避可能的障礙。
自適應(yīng)人工智能要求系統(tǒng)具備適應(yīng)新環(huán)境的能力，才能獲取研發(fā)過程中沒有預(yù)置的知識。例如，才能讓英語對話支持系統(tǒng)獨立把握新的語言，適應(yīng)新的語言環(huán)境或則在學(xué)習(xí)語言教學(xué)資料的基礎(chǔ)上，在對話中運用這種知識。
通用人工智能同樣要求具備高水平的適應(yīng)性，具備通用人工智能技術(shù)的系統(tǒng)在經(jīng)過相應(yīng)學(xué)習(xí)后，才能在各類迥然不同的活動中使用。學(xué)習(xí)過程可以是獨立的，也可以是有針對性的（在指導(dǎo)員的幫助下）。目前也常常使用強人工智能來與弱人工智能和專業(yè)人工智能進行對比。
人類水平人工智能要求系統(tǒng)的適應(yīng)性水平才能與人類的適應(yīng)性水平相當，也就是說系統(tǒng)才能在與人類學(xué)習(xí)相當?shù)臅r限內(nèi)把握同樣的技能。
超人類水平人工智能要求具備更高水平的適應(yīng)性和學(xué)習(xí)速率。因而，系統(tǒng)就能學(xué)習(xí)人類基本無法勝任的知識和能力。
強人工智能研發(fā)中的原則性問題
在總體進化框架下，強人工智能的出現(xiàn)完全是符合規(guī)律的，如同原子組成分子，分子組成細胞，細胞組成機體，專門的細胞構(gòu)成中央神經(jīng)系統(tǒng)，如同社會組織的出現(xiàn)，語言、文字的發(fā)展，最終出現(xiàn)了信息技術(shù)一樣是有規(guī)律的。在進化過程中，信息結(jié)構(gòu)和組織方式不斷復(fù)雜化的規(guī)律早已被瓦連京·圖爾欽挺好地證明。假如人類文明沒有戰(zhàn)敗，這么這些進化將是不可防止的，在好久之后的未來，這將挽救人類，由于只有信息的非生物存在款式才能躲過太陽系的戰(zhàn)敗，將我們的文明信息密碼保存在宇宙當中。
與此同時，必需要承認的是，要研發(fā)出強人工智能，并不一定要曉得自然的人工智能是怎樣運行的，如同制造潛艇不一定要曉得動物怎么飛行一樣。似乎，這遲早會通過這樣或則那樣的方式實現(xiàn)，其實，還能通過幾種方式來實現(xiàn)。
大部份專家覺得，要研發(fā)出通用或則強人工智能，還要解決以下幾個原則性問題：
快速學(xué)習(xí)（few-shot）——必須讓系統(tǒng)學(xué)習(xí)的資料規(guī)模變小，而不是像現(xiàn)今的深度學(xué)習(xí)系統(tǒng)那樣，須要大量的專門打算的學(xué)習(xí)資料。
強悍的概括能力（）——研制情境辨識技術(shù)，被辨識目標出現(xiàn)在與學(xué)習(xí)資料完全不同的環(huán)境當中。
學(xué)習(xí)生成模型（）——研制一種學(xué)習(xí)技術(shù)，當記憶對象并非辨識對象的特點，而是其構(gòu)成原則時，這才能反映辨識目標更加深層次的實質(zhì)，才能讓學(xué)習(xí)顯得更快，具備更強的概括歸納能力。
結(jié)構(gòu)化預(yù)測和學(xué)習(xí)（and）——在將學(xué)習(xí)對象詮釋為多層、多級結(jié)構(gòu)的基礎(chǔ)上，開發(fā)學(xué)習(xí)技術(shù)，在這些結(jié)構(gòu)中，低層級要素決定更高層級要素，這也可能成為解決快速學(xué)習(xí)和強概括能力的一種方式。
解決災(zāi)難性遺忘（）問題——這個問題在現(xiàn)有系統(tǒng)當中普遍存在，原本學(xué)習(xí)了一類目標，之后學(xué)習(xí)辨識新一類目標時，喪失辨識第一類目標的能力。
具備增量學(xué)習(xí)（）能力——讓系統(tǒng)才能積累知識并逐步建立自身能力，與此同時不失去原先所獲得的知識，且自然語言對話交流系統(tǒng)獲得新的知識。理想狀態(tài)是通過“嬰兒圖靈測試”（BabyTest），系統(tǒng)應(yīng)該逐步具備從小孩至成人的語言水平。
解決意識問題（）——建立可靠的意識行為工作模型，通過構(gòu)建“內(nèi)部世界圖景”保證進行有效的預(yù)測和有針對性的行為，在這一圖景框架下，才能在不與現(xiàn)實世界實際交互的情況下，找尋達成既定目標的最佳行動戰(zhàn)略，這大大增強了安全性，檢驗假說的能力，提高了檢驗的速率和效能，因而也促使有生或則智能系統(tǒng)在自我意識的“虛擬世界”中具備了自我學(xué)習(xí)的能力。從應(yīng)用的觀點看，意識問題存在兩個方面。一方面，研發(fā)具備意識的人工智能系統(tǒng)還能大大提升其效能。另一方面，研發(fā)這樣的系統(tǒng)會造成額外的風(fēng)險，包括倫理層面的問題，由于這種系統(tǒng)在某一階段將具備與人類相當?shù)淖晕乙庾R水平，并因而可能引起法律方面的后果。
人工智能的潛在恐嚇
無論是自主或則自適應(yīng)系統(tǒng)，還是通用或則強人工智能系統(tǒng)的出現(xiàn)，都伴隨著不同程度恐嚇的形成，這種恐嚇在當前也早已迫在眉睫。
第一，對人類構(gòu)成恐嚇的不一定是強人工智能、通用人工智能、人類水平人工智能或則超人類水平人工智能，由于具備大量信息，速率極快的自主系統(tǒng)就早已極具恐嚇。在自主系統(tǒng)的基礎(chǔ)上可研發(fā)所謂的致命自主裝備系統(tǒng)，最簡單的反例就是3D復(fù)印機批量生產(chǎn)以及人工小批量制做的雇用型殺人用無人機。
第二，對于國家的恐嚇是，另一個國家（潛在敵方）獲得了自主性、自適應(yīng)性更強，具備通用人工智能技術(shù)的裝備，其反應(yīng)速率更快，能力更強。
第三，對于全世界的恐嚇是由上一個恐嚇衍生而至的，各個國家深陷軍備大賽，旨在于改進自主殺傷和搗毀兵器的智能水平，斯坦尼斯拉夫·萊姆幾六年前就曾這么預(yù)言。
第四，對于各方來說恐嚇可能是任何智能系統(tǒng)，不一定是作戰(zhàn)智能系統(tǒng)，也可以是具備一定自主性和自適應(yīng)性的工業(yè)或日常智能系統(tǒng)，除了才能進行有針對性的行動，能夠有意識地進行目標定向，并且系統(tǒng)自主設(shè)置的目標可能與人類的目標相違逆，而系統(tǒng)達成目標的能力要強得多，由于其運行速率更快，處理信息能力、預(yù)測能力更強。遺憾的是，這一恐嚇的程度還沒有得到應(yīng)有的注重和研究。
第五，對于社會的恐嚇是，資本主義（專制主義）社會中的生產(chǎn)關(guān)系步入新的發(fā)展階段，越來越少的人具備控制物質(zhì)生產(chǎn)的能力，通過越來越中級的手動化，大部份人被排除出物質(zhì)生產(chǎn)，這可能造成愈發(fā)嚴重的社會差別，增加“社會階梯”的效能，降低“多余人口”的數(shù)目，致使相應(yīng)的社會后果。
最后，對于整個人類的恐嚇是，基于全球網(wǎng)路的全球數(shù)據(jù)處理、信息傳播和決策估算系統(tǒng)的自主化，由于這種系統(tǒng)的信息傳播速率和影響能力可能造成現(xiàn)有經(jīng)驗和管理模式所想像不到的社會現(xiàn)象。例如，現(xiàn)今中國所采取的社會按揭體系就是一種獨一無二的文明實驗，它所造成的后果昨天還不得而知。
目前對人工智能系統(tǒng)的監(jiān)控十分困難，誘因之一就包括現(xiàn)有基于“深度神經(jīng)網(wǎng)路”應(yīng)用方案的“封閉性”，致使無法在決策執(zhí)行前對決策的正確性進行查證，甚至都不能對及其決策進行事實剖析。可解釋人工智能（，EAI）這一新的方向目前被拿來解決這一困局，將關(guān)聯(lián)（神經(jīng)網(wǎng)路）和符號（基于邏輯）方式結(jié)合上去解決這一問題也出現(xiàn)了新的進展。
應(yīng)對恐嚇的方式
毫無疑惑，必須采取以下舉措避免人工智能技術(shù)發(fā)展及其應(yīng)用可能造成的災(zāi)難性后果。
國際社會對致命自主裝備系統(tǒng)給以查處并研究、采取執(zhí)行監(jiān)督舉措。
國家支持致力解決上述問題的工作，非常是可解釋人工智能，技巧融合，研究目標定向機制構(gòu)建的原則以獲得有效的編程和智能系統(tǒng)監(jiān)控工具，程序設(shè)計的工具不是規(guī)則，而是價值觀，監(jiān)控的對象不是行為，而是目標。
獲得人工智能技術(shù)和技巧的民主化，例如人工智能，借助對智能系統(tǒng)應(yīng)用于大眾估算、認知技術(shù)學(xué)習(xí)所得收入的再投資，以及研究具有開放式密碼的人工智能方案，擬定舉措鼓勵現(xiàn)有“封閉式”人工智能系統(tǒng)開放密碼。例如，項目致力為普通用戶研發(fā)自主工作，不受集中控制的個人人工智能助手。
在國際層面規(guī)定人工智能算法、分布式數(shù)據(jù)處理系統(tǒng)和決策系統(tǒng)工作合同的開放性，使國際和國家組織以及私人具有獨立審計的能力。密碼開放人工智能平臺和生態(tài)系統(tǒng)的創(chuàng)建就是在該方向的創(chuàng)造性探求之一。
免責聲明：部分文章信息來源于網(wǎng)絡(luò)以及網(wǎng)友投稿，本站只負責對文章進行整理、排版、編輯，出于傳遞更多信息之目的，并不意味著贊同其觀點或證實其內(nèi)容的真實性，如本站文章和轉(zhuǎn)稿涉及版權(quán)等問題，請作者在及時聯(lián)系本站，我們會盡快為您處理。
