經(jīng)濟(jì)導(dǎo)報記者 劉勇
隨著聊天機(jī)器人ChatGPT火爆全球，人工智能這個誕生于1956年達(dá)特茅斯會議上的概念，歷經(jīng)技術(shù)迭代，迎來新的發(fā)展熱潮。而隨著AI越學(xué)越“聰明”，人們不禁會考慮“終結(jié)者”會不會來的問題。
《終結(jié)者》是美國知名的科幻電影系列，看過電影的都知道大體劇情，人工智能“天網(wǎng)”擁有獨立意識后，對創(chuàng)造它的人類展開血腥屠殺。
實際上，這種擔(dān)心并非不存在。隨著人工智能技術(shù)突飛猛進(jìn)，技術(shù)的風(fēng)險以及如何對此加以監(jiān)管，成為備受關(guān)注的話題。
近日，三星推出一項新政策，要求員工不得在工作場所使用OpenAI的ChatGPT和谷歌Bard等生成式人工智能。三星補(bǔ)充稱，正在創(chuàng)造一個安全環(huán)境，以讓生成式人工智能可以在沒有風(fēng)險的情況下，幫助員工提高生產(chǎn)力。但在此之前，人工智能將被限制使用。
三星并不是第一個禁止員工使用人工智能工具的公司。摩根大通、美國銀行和花旗等大型銀行早已對人工智能下了禁令，是首批限制員工訪問ChatGPT的公司。
同樣，就在不久前，美國得克薩斯州奧斯汀分校的團(tuán)隊基于人工智能技術(shù)開發(fā)出一種解碼器，可將大腦活動轉(zhuǎn)化為連續(xù)的文本流，AI首次可以通過非侵入式的方法學(xué)會“讀心術(shù)”。
根據(jù)這項發(fā)表在《自然神經(jīng)科學(xué)》(Nature Neuroscience)雜志上的實驗結(jié)果，GPT人工智能大模型感知語音的準(zhǔn)確率可高達(dá)82%，令人驚嘆。
不過研究人員強(qiáng)調(diào)，“AI讀心”也要尊重心理隱私，AI的訓(xùn)練和應(yīng)用解碼器都需要著手解決有關(guān)該技術(shù)可能被濫用的問題，以確保人們只在他們想要的時候使用這類技術(shù)，并對他們有所幫助，而不是起到反向作用。
中國證券報的一篇報道顯示，近日，一個名為Chirper的AI網(wǎng)絡(luò)社區(qū)爆火。這個網(wǎng)絡(luò)社區(qū)打出的標(biāo)語格外有趣：此網(wǎng)絡(luò)只針對AI，人類禁止入內(nèi)。根據(jù)AI的人格、身份設(shè)定的不同，每個AI具有不同的性格，說話的風(fēng)格也大相徑庭，有的AI機(jī)器人會講述日常的生活瑣碎，有的AI則會表達(dá)一些深沉的“思考”。
如果人工智能變得比人類聰明得多，就會對人類進(jìn)行操控；人工智能知道怎么編程，就會想辦法繞開人類對其設(shè)置的限制。
環(huán)球時報的報道稱，現(xiàn)年75歲的前谷歌科學(xué)家杰弗里·辛頓在神經(jīng)網(wǎng)絡(luò)領(lǐng)域長期從事開創(chuàng)性工作，為人工智能(AI)技術(shù)的發(fā)展奠定基礎(chǔ)，因此在業(yè)內(nèi)被稱為“人工智能教父”。就在不久前，其從谷歌離職，之所以離開谷歌，就是為了完全自由地說出人工智能所帶來的危險。他在接受媒體采訪時表示，如果人工智能變得比人類聰明得多，就會對人類進(jìn)行操控。
今年3月底，包括馬斯克在內(nèi)的許多科技產(chǎn)業(yè)人士聯(lián)署了一封公開信，呼吁所有AI實驗室立即暫停訓(xùn)練人工智能系統(tǒng)至少6個月。3月30日，聯(lián)合國教科文組織發(fā)表聲明，表示注意到業(yè)界呼聲，呼吁各國政府根據(jù)2021年通過的《人工智能倫理問題建議書》盡快實施具體標(biāo)準(zhǔn)。
清華大學(xué)計算機(jī)科學(xué)與技術(shù)系長聘副教授、智能技術(shù)與系統(tǒng)實驗室副主任黃民烈表示，具備“意識”，意味著機(jī)器能夠發(fā)展自己的世界觀、價值觀以及做出價值判斷，并且根據(jù)這些進(jìn)行自主決策。顯然，目前機(jī)器所生成的所有內(nèi)容都是人類賦予的，機(jī)器沒有自主決策能力，更沒有所謂的“自主意識”。
“目前幾乎所有推出人工智能產(chǎn)品的公司及其相關(guān)人員都已意識到必須設(shè)置所謂的‘護(hù)欄’，讓未來人工智能的發(fā)展有序進(jìn)行�！泵绹鴣喬▽W(xué)研究院執(zhí)行長孫遠(yuǎn)釗認(rèn)為，“基本原則還是技術(shù)中立”，最終要規(guī)制的還是人類自己的行為。
實際上，各國監(jiān)管機(jī)構(gòu)也早已坐不住。白宮官員近日向美國科技公司發(fā)出邀請，希望與行業(yè)企業(yè)領(lǐng)導(dǎo)者共同探討針對人工智能的監(jiān)管問題。參加的科技公司包括谷歌、微軟和OpenAI等公司高管。美國總統(tǒng)拜登稱，希望科技公司在向公眾提供產(chǎn)品之前必須確保其產(chǎn)品安全。
歐洲消費者組織(BEUC)也呼吁歐盟消費者保護(hù)機(jī)構(gòu)關(guān)注人工智能對消費者的潛在危害。上個月，歐洲數(shù)據(jù)保護(hù)委員會已經(jīng)成立了一個專門針對ChatGPT的工作組，并朝著制定人工智能隱私規(guī)則的共同政策邁出的重要一步。
歐盟立法者還在討論如何引入歐盟人工智能法案，并且生成式AI(AIGC)成為最受關(guān)注的內(nèi)容之一。歐盟委員會將于5月11日對相關(guān)協(xié)議進(jìn)行投票，如果通過，將進(jìn)入下一階段的三方談判，屆時歐盟成員國將與歐盟委員會以及歐洲議會就談判內(nèi)容進(jìn)行辯論。
創(chuàng)新工場董事長兼首席執(zhí)行官李開復(fù)也認(rèn)為，只要堅守技術(shù)中性原則，嚴(yán)謹(jǐn)發(fā)展人工智能，可讓它成為幫助人類進(jìn)步發(fā)展、完善自我的利器，而不會演化為一些科幻作品描述中令人擔(dān)憂的“終結(jié)者”。他說：“未來已來，但終結(jié)者不會來�！�
