欧美午夜精品久久久久免费视/欧美黄色精品/国产一级A片在线播出/A片免费视频在线观看

▲3月20日，在北京市人工智能估算中心中控室，技術(shù)人員在監(jiān)控設(shè)備運(yùn)行情況。圖/新華社

的GPT-4、微軟的、百度的文心一言、谷歌的Bard、Adobe的……近期，國(guó)外外一系列生成式人工智能應(yīng)用發(fā)布，引起了廣泛的關(guān)注。

不僅對(duì)技術(shù)進(jìn)步倍感激動(dòng)，有風(fēng)險(xiǎn)意識(shí)的人也會(huì)形成這樣的擔(dān)心：人工智能會(huì)失控嗎？風(fēng)險(xiǎn)怎么防范管控？

日本人工智能研究實(shí)驗(yàn)室公司的首席執(zhí)行官山姆·阿爾特曼（Sam）日前表示，他對(duì)人工智能（AI）技術(shù)的潛力倍感激動(dòng)，但也對(duì)一些潛在的濫用行為“有點(diǎn)擔(dān)心”。

是近日起火的AI聊天機(jī)器人的開(kāi)發(fā)商，該公司由埃隆·馬斯克與阿爾特曼等人共同創(chuàng)辦。

上月，創(chuàng)始人之一的埃隆·馬斯克表示，“它有巨大的前景也有巨大的能力，但驟然而至的危險(xiǎn)也是巨大的。”

人工智能還沒(méi)到“失控”水平

3月15日，發(fā)布的GPT-4安全文件中提及，“一些非常令人擔(dān)心的是制訂常年計(jì)劃并采取行動(dòng)、積累權(quán)利和資源（‘尋求權(quán)利’）以及表現(xiàn)出越來(lái)越‘自主’的行為的能力。”

據(jù)媒體報(bào)導(dǎo)，近些年來(lái)，有人工智能研究人員提出警告，足夠強(qiáng)悍的AI模型若果沒(méi)有得到適當(dāng)控制，可能會(huì)對(duì)人類(lèi)構(gòu)成生存恐嚇。尤其是“人工智能接管（AI）”，這是人工智能趕超人類(lèi)智能成為月球主導(dǎo)力量的假想未來(lái)。在這些情況下，人工智能可能會(huì)造成災(zāi)難性后果。

隨著人工智能的高速發(fā)展，其可能帶來(lái)的風(fēng)險(xiǎn)也造成了人們的高度關(guān)注。這就帶來(lái)了一個(gè)擔(dān)憂，滿地開(kāi)花的人工智能會(huì)失控嗎？

首先，這些失控現(xiàn)今來(lái)看還不致于發(fā)生，由于目前的人工智能還沒(méi)發(fā)展到這個(gè)水平。

失控的前提是AI要具有自主性，就是在很大程度上獨(dú)立完成任務(wù)。這么，在AI系統(tǒng)沒(méi)有足夠理解人類(lèi)價(jià)值觀和道德準(zhǔn)則的情況下，這些自主性就可能造成失控的風(fēng)險(xiǎn)。

但目前的生成式AI本質(zhì)上還是人類(lèi)的工具，給它一個(gè)指令，它來(lái)世成相應(yīng)的文字、圖片等內(nèi)容，所以人們暫時(shí)還不須要有這方面的擔(dān)憂。

其實(shí)，隨著技術(shù)的不斷發(fā)展，未來(lái)這個(gè)潛在風(fēng)險(xiǎn)會(huì)成為我們重點(diǎn)去關(guān)注的問(wèn)題。

更有可能失控的是用技術(shù)來(lái)為非作歹的人

比起失控的技術(shù)，更有可能失控的是用技術(shù)來(lái)為非作歹的“人”。例如，惡意使用者可能會(huì)利拿來(lái)制造虛假信息、實(shí)施欺詐活動(dòng)或進(jìn)行其他不道德行為。

這很像人們害怕會(huì)被AI取代造成待業(yè)一樣，這也許是關(guān)注錯(cuò)了重點(diǎn)。由于雖然人不會(huì)被AI淘汰（起碼目前不會(huì)），而是會(huì)被把握AI工具的“人”淘汰。

為此，這個(gè)層面上的風(fēng)險(xiǎn)人工智能，關(guān)鍵誘因都在于人，而不是技術(shù)本身。由于雖然沒(méi)有AI，壞人也會(huì)用其他手段做壞事，擅于學(xué)習(xí)的人也會(huì)運(yùn)用其他工具提高自己的競(jìng)爭(zhēng)力。

盡管AI目前不至于失控，但還是有一些風(fēng)險(xiǎn)。

一方面是它們會(huì)一本正經(jīng)地胡謅八道，假如用戶把它所說(shuō)的都認(rèn)定為事實(shí)，那才會(huì)被愚弄。在這方面須要媒體多做普及，讓更多人認(rèn)識(shí)到等AI大模型并非無(wú)所不知。

另一方面，有可能出現(xiàn)個(gè)人隱私或商業(yè)絕密外泄的情況。例如，用戶在與等聊天機(jī)器人交流時(shí)，無(wú)意識(shí)地提供了敏感信息，如個(gè)人身分信息、聯(lián)系方法或公司內(nèi)部信息等。一旦這種信息被記錄或儲(chǔ)存，就可能造成隱私或商業(yè)絕密的泄密。其實(shí)AI服務(wù)提供協(xié)會(huì)采取舉措保護(hù)用戶數(shù)據(jù)，但數(shù)據(jù)儲(chǔ)存和傳輸過(guò)程中始終可能存在安全風(fēng)險(xiǎn)。

據(jù)悉，因?yàn)橛?xùn)練數(shù)據(jù)集可能存在偏見(jiàn)，聊天機(jī)器人的回答會(huì)反映這種偏見(jiàn)，因而造成歧視性或不公正的結(jié)果。也可能因未能確切判定道德和倫理問(wèn)題，有時(shí)形成不道德或具爭(zhēng)議的建議。

從三個(gè)方向規(guī)避人工智能風(fēng)險(xiǎn)

那人類(lèi)該怎么規(guī)避這種風(fēng)險(xiǎn)呢？可以從三個(gè)方向進(jìn)行。

第一個(gè)方向就是提升公眾的認(rèn)知。一方面要提升對(duì)AI技術(shù)的了解，防止被不恰當(dāng)?shù)男畔⑺垓_；另一方面，增強(qiáng)數(shù)據(jù)安全意識(shí)，杜絕泄漏個(gè)人隱私或商業(yè)絕密等敏感信息。新聞媒體在其中可發(fā)揮重要作用。

第二個(gè)方向是施行更全面的人工智能監(jiān)管。首先，須要制訂明晰的法規(guī)和指導(dǎo)方針，以規(guī)范AI的研制、部署和使用。其次，政府、企業(yè)、研究機(jī)構(gòu)和民間組織須要強(qiáng)化合作，共同擬定和執(zhí)行AI監(jiān)管新政，這有助于確保新政的全面性和有效性。另外人工智能，因?yàn)锳I技術(shù)不受?chē)?guó)界限制，應(yīng)積極參與全球性的AI整治呼吁，以確保全球范圍內(nèi)的新政協(xié)調(diào)和一致性。

第三個(gè)方向就是強(qiáng)化對(duì)于AI安全的研究。政府、企業(yè)和研究機(jī)構(gòu)應(yīng)降低對(duì)AI安全研究的投資，為相關(guān)項(xiàng)目提供充足的資金和資源。據(jù)悉要注重AI安全領(lǐng)域的人才培養(yǎng)，鼓勵(lì)中學(xué)生和研究人員從事相關(guān)研究，可以通過(guò)提供獎(jiǎng)學(xué)金、實(shí)習(xí)機(jī)會(huì)和專(zhuān)門(mén)的課程來(lái)實(shí)現(xiàn)。同時(shí)進(jìn)行跨學(xué)科合作，鼓勵(lì)估算機(jī)科學(xué)家、安全專(zhuān)家、倫理學(xué)家、法學(xué)家等領(lǐng)域的專(zhuān)家進(jìn)行跨學(xué)科合作，共同應(yīng)對(duì)AI安全所帶來(lái)的挑戰(zhàn)。

在成立之初的核心宗旨就是——實(shí)現(xiàn)安全的通用人工智能，使其有益于人類(lèi)。

“安全”這兩個(gè)字對(duì)人工智能來(lái)說(shuō)至關(guān)重要。無(wú)論是作為開(kāi)發(fā)者、用戶還是監(jiān)管者，人們都應(yīng)該時(shí)刻關(guān)注AI技術(shù)的安全性，確保人工智能不會(huì)被濫用。只有這樣，我們就能充分發(fā)揮人工智能的潛力，為人類(lèi)社會(huì)帶來(lái)更多便利和進(jìn)步。

上一篇：公司要裁員了，想著去跑外賣(mài)，哪個(gè)平臺(tái)更好跑呢？

下一篇：一次性水晶餐具可能太薄了，現(xiàn)在餐飲使用量很大?。?/a>

• 生肖屬雞的朋友選車(chē)指南：豐田屬雞，黃色為適宜色，紫色紅色需避免
• 農(nóng)產(chǎn)品電商如何發(fā)掘新動(dòng)能，創(chuàng)新新模式，促進(jìn)消費(fèi)？
• 期貨投資：內(nèi)盤(pán)與外盤(pán)的差異及特點(diǎn)分析
• 掃碼點(diǎn)餐：提升效率還是泄露隱私？餐廳經(jīng)營(yíng)者與顧客各執(zhí)一詞
• 微信外賣(mài)系統(tǒng)繳納費(fèi)用大約是多少？這幾個(gè)方面你需要考慮
• 彩票自助機(jī)：投資少回報(bào)高，省時(shí)省力的創(chuàng)業(yè)新選擇