一、人工智能技術帶來的興奮和擔憂

       子夜：在人工智能領域裡，我知道到金元浦教授你是最早進行觀察並引入到社會和文化發展中進行分析，包括文化產業等系統。社會上對人工智能技術進展的速度一直很驚訝，有興奮的，也有擔憂的，但是，其中擔擔人工智能對人類帶來的負面影響，例如機器人造成人的工作失業，以前總認為是一個未來長期的題，並不是迫在眉睫的，但是，前一個時期，短短不到一個月的時間裡，發生了兩件事情。一是語言生成系統ChatGPT的橫空出世，所謂通過智能的生成技術公開，向人類腦力和智力的權柄挑戰，全球出現一種狂歡式的震動；二是，恐懼幾乎同時產生，僅僅過了幾天，即三月底，非營利組織「未來生命研究所」（Future of Life Institute）發表了一封題為「暫停AI 實驗」的公開信，呼籲全球的 AI 實驗室暫停訓練比目前ChatGPT更強大的系統至少六個月，並在此期間開發出一份針對 AI 的共用安全協定，必要時需要政府介入。包括馬斯克在內有一千多名全球技術精英在上面簽字嚮應，而開發ChatGPT的OpenAI 公司幾乎沒有任何反駁，甚至立即承認公開信具有「暫停實驗的存在合理性」。這種罕見的配合讓世人感到了問題的真正嚴重性。當ChatGPT剛一開始時，我們只是把它理解為僅僅是語言的生成器，但很快感到問題並非如此簡單。此前，對人工智能（AI）有可能徹底改變文明模式的爭論已經展開，但當我們認為「機器人打敗人類」也許是未來遙遠的假想時，ChatGPT讓許多人一下子嘗到了近在眼前的「甜頭」，事情便顯得有些措手不及了。就許多人最切身的利益觸及是，例如一個教授辛苦一輩子所建立的學問體系，ChatGPT可以在瞬間完成，甚至可以批量地生產，而且會弄得很精彩和很有聲勢。傳統意義上的學者或學術，以及由此形成的文化尊嚴，都有可能在ChatGPT的功能前自嘆不如甚至有些自卑。一個社會原本已經佈滿抄襲、剽竊和變造的地雷，現在又碰上這種免費的「生成」機能，對持守傳統倫理的學界人士來說無異是又一種痛苦的折磨。因此，面對由ChatGPT「生成」的作品，不少人在哀嘆，如此下去，教授、作家和藝術家都將失業。人工智能不一定能打敗人類，但肯定可以調戲和嘲弄人類文化，這不再是一個純假設的問題，至少在某些方面已經成為一種必須面對的殘酷現實。從這個趨勢看，人工智能對傳統文化和學術的挑戰，不但是顛覆性的「緊逼盯人」，而且是一種加速度的進展。未來世界變化之快，將遠遠超過我們的預期。所以，包括我在內，許多人都把人工智能視為一個「幽靈」，對它在未來的發展有一種不確定的感覺。當然，ChatGPT很可能是人工智能技術在當下的一個極端例子，但至少表明了此前人們對這種新技術的擔憂不是空穴來風，所以我們可能需要從更廣泛的角度去檢視人工智能的利弊。元浦教授你是較多地注意到人工智能在社會進步和文化發展中的巨大推動作用，同時也提出過應該在管控和相關倫理中予以必要的平衡。這個問題其實很複雜，所以想聽聽你的看法。

       金元浦：關於人工智能是否真的成為一種「幽靈」，大概不同的人有不同的感受。但作為語言生成器ChatGPT出現的風波，確實是讓許多人尤其是人文科學界感到震撼的。在你提到的千人公開信之後，最引人注目的就是在科技業被譽為「人工智能教父」的傑佛瑞•辛頓（Geoffrey Hinton）辭去效力十年Google的副總裁職位，並表示他對畢生的工作感到後悔，而他之所以這麼做，就是想公開談論人工智能帶來的風險。有一些報道指出，辛頓博士此舉旨在毫不掩飾地表達他對人工智能帶來的危險的擔憂，與人工智能革命的熱心宣導者相反，他們預示著從藥物研究到教育模式等不同領域的重大突破，而一些業內人士心中暗流湧動，預感他們可能釋放了一個足以毀滅世界的「怪物」。我想，無論是「怪物」還是「幽靈」，以及我所聽到的關於「潘朵拉魔盒」傳言，都是人們在新技術面前的一種不安。無論如何，在討論這個問題的時候，有一個前提是必須明確的，即人工智能是21世紀最具影響力和前景的科技領域之一，包括ChatGPT在內，都引起了社會各界的廣泛關注和討論。但是，人工智能的影響並不僅限於科技領域，還將廣泛用於各個領域，如文化、教育、互聯網、金融、工業等領域，產生深遠的革命性影響，相信未來還將顛覆更多的行業。所以，我始終認為用一種理性的心態去看待這個問題，身處人工智能技術迅速發展的時代，我們不僅要看到新的科學技術帶來的巨大衝擊力，更要思考「科技與人文的融合」，因為「科學與人文二者自產生以來，就是相互伴隨、互相融合，構成人類源遠流長的文化歷史。」至於諸ChatGPT這一類智能工具，是文明利器，還是潘朵拉魔盒？我認為它同時包含著雙重內涵，元宇宙技術也是如此。它們在教育、文學、藝術、美學、音樂、舞蹈等文化領域帶來了新的創造和創意。ChatGPT等人工智能成為人們獲取資訊、娛樂休閒、生活服務等方面重要的工具，讓我們更輕鬆地應對日常挑戰，帶來更加便捷、高效的生活體驗，極大地提高我們生活的品質與效率。但這背後，卻可能隱藏著巨大的危機。比如，智能財產權、法律、道德、教育、隱私、商標侵權、資訊安全等社會問題，都招致不同程度的社會爭議。每一次技術革命都會帶來巨大的變化、風險和機遇。在ChatGPT等人工智能狂飆突進之際，我們需要採取相應的措施來監管和規範它的應用，通過制定相關行業安全標準，確保人工智能的使用是合法和合理的，實現最大的效益。與此同時，面對ChatGPT的衝擊，我們要深思：如果ChatGPT擁有了更高思維水準，是否會成為人類未來不可逾越的存在？關於這一點，我認為目前來看是否定的。據說ChatGPT能達到9歲兒童的智力水準，未來是否能達到成年人的完整思維能力是難以預料的，但確信的是，人工智能技術在未來科技發展中可能達到更高層次。

       二、人的創造力和機器的生成力

       子夜：元浦教授提出人工智能在思維水平上能否「成為人類未來不可逾越的存在」，大概這就是人們對機器人的擔憂和不安的要害所在。正如你所說，目前來看是否定的，但未來是難以預料的，唯一確信的是人工智能技術在未來科技發展中可能達到更高層次。我的看法是，無論是語言生成器ChatGPT，還是其它機器人，本質上都是人在整合數據方面的結果，而不是機器自己創造出來的，也就是說，人工智能根本無從可能形成「創造」或「創意」的功能。例如ChatGPT是由人發明的，但ChatGPT自己單獨運作時，它只是依靠人所輸進去的大量數據，然後根據人的需要，進行不同的組合和串連，形成不同的結果，這種結果是不分是非不分對錯，而且可以隨時翻盤而不必承擔責任。人在創造過程中可以自然地體現價值觀念，但人工智能在本質上卻是無法作出價值判斷的，它只是數據的組合和生成，即使有出人意料的似乎具有「創意」的成果，也不過是不同排列和組合的偶然效果，不是本來意義上的「創造」。同自然科學需要大量以數據作為基本資源不同，思想和文化領域尤其在人文學科方面，人工智能無法取代人的分析和創意，產生不了本應由人類自己形成的思想和價值體系。於是，當人把智能創造的權利讓渡給機器之後，就會出現一種使自己處於被齊澤克稱為「人工白痴」（Artificial Idiocy）的境地，齊澤克認為，問題不在於聊天機器人太笨，而是它們不夠「笨」；不是它們太天真（不懂反諷和反思），而是它們不夠天真（天真在掩蓋敏銳力時就會消失），所以，真正的危險並非人類會把聊天機器人當成真人，而是與聊天機器人溝通會讓真人像聊天機器人般說話——缺少了話語中的細膩和酸溜溜，執著在精準說出自以為別人想聽的話。齊澤克關注的，其實就是機器人在把人的智能和創意吸取之後，卻讓人變成像機器人一樣說話的模式。假如我們平時看街舞有人模仿機器人的舞姿，會覺得很好玩或很新奇，但一旦當我們每個人在日常生活中像機器人那樣說話，那麼想想也是很可怕的。機器人把人的聰明和智囊佔為己有之後，卻把人變成由它主宰的「白痴」，大概這就是「後文明」的境界了。人工智能表現出的「創造」的豐富多彩，究竟是人的創造力，還是機器的創造力，這個問題還是要弄清楚的。

       金元浦：「數據」的整合是否人工智能的唯一特點，這個我們可以慢慢討論。但是，至少從目前的語言生成器ChatGPT可以看到，人工智能還是展現出驚人的生成力，“創作”的作品往往超過一般專業的文化創作者水準。不過，雖然具有作品的外觀，但它作為人工智能生成的內容，是否具有人真實的經歷和情感體驗，是否真的能讓人產生情感共鳴？ChatGPT把人類所有的知識、文學、藝術等所有文化成果當作資料庫，在此基礎上創作的作品可以說是超越了人類思維的局限，但我們要討論文學的終極問題：情感性、創新性和獨特性。如果說流于一般水準的作品，我們要看到ChatGPT等人工智能在文學領域的前景，簡直是「降維打擊」，但它能否創作出影響後世歷史和世界發展的曠世巨著，我認為它是做不到的。因為，人工智能永遠解決不了文學「三性」問題，實踐是檢驗真理的唯一標準，只有在與社會、歷史、時代的互動中產生真實的連結，建立在真實社會生活的基礎之上，才能創作出無愧於時代和民族的偉大作品。有人曾經問過我，在ChatGPT等人工智能技術高度反覆運算的時代，我如何看待人工智能寫作與文學創作之間的關係？文學創作是否會被人工智能取代？我是這樣認為的，文學自身有其發展規律，與任何事物發展一樣，文學也有高潮低潮，文學的形式內容也在變化。20多年來，中國網路文學異軍突起，以驚人的速度繁榮發展。目前，我國網路文學擁有超過1300萬作家，近6億讀者，上千萬部作品，並且每年以上百萬部的速度增長。可以說，網路文學不僅是中國文學的重要組成部分，而且也是全世界重要的文化現象之一。實際上，在這成百萬上千萬的數量中，大量都是平庸的，雖然在某種意義上满足了當下的文化需求，呈現出一個「百花齊放」的前所未有的文學時代，但隨著ChatGPT等人工智能的發展，我們也將不可避免地看到一些網路作家被「比下去」，一定程度上威脅到作家的生存，甚至能夠替代一般水準的作家。過去，人們總以為作家協會的作家才是「厲害」的。而現實是，無數來自「民間」的作家通過文學作品成名，這說明文學是發展的、變革的，面臨是「升級」，在時代的大潮中有些作者可能「丟了飯碗」。當然，我們也驚喜地看到，人工智能技術實現了對作家的篩選，甚至威脅一些作家的「飯碗」，這並非無益，而是一個新的生態機制，在更高水準和更高要求上督促作家創作優秀作品，使作品更接「地氣」，否則就會被「淘汰」。然而，根據我瞭解的情況來看，目前網路作家（寫手）的最大問題是已經習慣了和ChatGPT等人工智能一樣「在房間裡創作的生活」，這樣的生活沒有生命力，何談競爭力。所以，要讓作品達到更高水準的情感性、創新性和獨特性，必須要有一個淘汰機制，一部分淘汰掉，一部分在他的層次裡「可能還活著」，讓剩下來的「活得更好」。隨著生產力的提升和科學技術的進步，人們的勞動時間越來越短，有更多時間做更多的事情，其中包括文學藝術，也正如馬克思式的願景：任何人都可能成為真正的藝術家。不過，現在大多數人還達不到這樣的狀態。ChatGPT等人工智能在文學藝術創作領域取得重大突破，打造了全新的文學藝術形態與魅力，有可能成為推進文學甚至人類文化發展的助手。在科學與文學的融合上，青年作家有先天優勢，推動實現科技與文化的深度融合。ChatGPT是超級工具，不是超級智能，它不會替代人類，而是在升級行業。它將極大降低創意和執行門檻，與人類相輔相成。無論何時，對於人工智能的使用，取決於使用者有多會用，作品的「行和式」易於模仿，「血與肉」難以代替。

       三、人類社會是否會出現一個「機器人文明」？

       子夜：元浦教授關於人的創造力和機器人創造力的論述非精彩，同時，指出人工智能「可以在更高水準和更高要求上督促作家創作優秀作品，使作品更接地氣，否則就會被淘汰」，這個看法也非常有意思。問題是，正如我在上面提到的，這些東西究竟是究竟是人的創造力，還是機器的創造力？高新技術方面對人類進步和發展的貢獻是有目共睹的，只是要通過它來寫論文、創作小說甚至是藝術作品，它可以通過海量數據整合出「高質量」的「作品」，但機器無論如何不能思考，無法進行情感的演繹，它沒有血沒有肉沒有靈魂，即使它哪一天「有」了，也不是它自己的，而是人讓渡給它的，一旦移植到機器上，就是「偽血肉」「偽靈魂」了，絕對不可能有人類那種可以「無中生有」的創意。ChatGPT最大的功能就是擁有最大量的數據和最高速的運算能力，才能進行不同概率的組合和串連，但即使擁有了托爾斯泰、莎士比亞等全部作品數據，如何快速地組合或合成，它也不能創作出超越《戰爭與和平》或《哈姆雷特》的那種精彩，因為它沒有托爾斯泰、莎士比亞的那種頭腦。這方面的性質區分應該是很容易的。現在，不但文學創作或者論文寫作，機器人已經介入進來，而且在其它需要思維創造性的領域，如繪畫等，機器人也介入進來，那麼，人類社會是會被一個「機器人文明」所代替，這在一年前也許是一個杞人憂天的問題，但在今天卻是大家都在嚴肅思考甚至有些迫在眉睫的問題。大部分人工智能工具，關鍵部件就是那一小片芯片，這也是人設計出來的，所以，在一個智能系統中，只要一個程式出現梗阻或錯誤，就會使整個系統出現混亂甚至癱瘓。GPS經常會傳出把人和車導向死胡同和河流中的事故，這就是人們把自己的智能讓渡給機器的後果。本來，人類自遠古時代就開始致力於各種自動化的追求，所謂的自動控制技術，就是指在沒人參與的情況下，利用控制裝置使被控對象或過程自動地按預定規律運行，主要目的就是將人類從複雜、危險、繁瑣的勞動環境中解放出來並大大提高控制效率，同時也為了節約能源和材料，並改善質量、準確度和精度。上世紀四十年代，幾乎與二戰同期，自動控制技術出現了重大突破，隨後科學家在自動調節、計算機、通信技術、仿生學以及其他學科互相滲透的基礎上，產生了控制論。控制論推動了複雜的工業生產過程、航空及航太技術、社會經濟系統等領域的自動化，而人工智能就是這種自動化的極致。但是，自動化的推進，尤其是人工智能的出現，同時導致了社會的分化，尤其是當人工智能大量地取代原先本應由人力完成的工作後，就涉及到一個勞動權的問題，這恰恰就是意識形態最敏感的話題。一方面，人工智能可以把人們從枯燥的勞動中解放出來，提高生產效率，另一方面，人工智能技術將引發各種社會、倫理和法律方面的挑戰和治理上的難題，主要是人類最終淪為智能型機器的附庸。至少從目前來看，在人工智能產業中衝鋒陷陣在最前線的是資本和資本的人格化身－AI巨頭，因為人工智能的盈利前景吸引了大量的資本，不但像谷歌、亞馬遜等科技巨頭企業，而且各種中小型人工智能創業公司，都會為資本的增值乃至暴利聞風而動。人工智能本身的問題，一旦變成熟視無睹的「正常現象」或行為規則，就是文化乃至文明的問題了，這才是更需要關注的。

       金元浦：當然，就「文明」這個概念本身特定的內容來說，是指由人類自己創造的一種先進的社會和文化發展狀態，所以不可能出現嚴格意義上的「機器人」文明，但是，人工智能作為一種有可能的濫用或異化，實際上會造成侵入人類文明作業系統的後果，最近看到以色列歷史學家尤瓦爾•赫拉利的一篇文章，他就談到這個問題。他認為，自電腦時代開始以來，對人工智能的恐懼一直困擾著人類。迄今為止，這些恐懼主要集中在機器使用物理手段來殺戮、奴役或取代人。但在過去幾年中，新的人工智能工具的出現從一個意想不到的方向威脅著人類文明的生存，即人工智能已經獲得了一些操縱和生成語言的非凡能力，無論是文字、聲音還是圖像。通過對語言的掌握，AI甚至可以與人形成親密的關係，並利用親密關係的力量來改變我們的意見和世界觀。雖然沒有跡象表明AI有任何自己的意識或感覺，但為了促進與人類的假性親密關係，如果AI能讓人類對它產生情感上的依戀就足夠了。Google工程師Blake Lemoine公開聲稱，他正在研究的人工智能聊天機器人已經有了意識，結果嚇得公司立即把他解除了職務。尤瓦爾•赫拉利問道，如果人工智能可以影響人們為它冒著丟掉工作的風險，它還能誘使人們做什麼呢？用他的話說，在爭奪思想和心靈的政治鬥爭中，親密關係是最有效的武器，而AI剛剛獲得了與數百萬人大規模製造親密關係的能力。我們都知道，在過去十年中，社交媒體已經成為控制人類注意力的戰場。隨著新一代人工智能的出現，戰線正在從注意力轉移到親密關係。我想，如果機器人真的具備了本應人類才有的情感，那麼這就是人類文明的顛覆，這個現在看來不可能到達這一步，但侵入文明則是我們可以感覺到的。例如，代表人類文明最大的一個特點是人的創造力和創意，也就形成了一系列的保護機制，即知識產權保護體系，而人工智能目前出現的許多問題中，其對知識產權的保護體系就提出挑戰，像ChatGPT所生成的所謂成果或「作品」，就有可能在知識產權的歸屬方面造成混亂。這不是一個小問題，我曾經和世界知識財產權組織創意產業發展部的官員迪米特•甘特雪夫有過一次對話，他認為知識財產權實際上不僅僅限於投入和產出之中，當你創造了一個具有原創力的產品的時候，你是經過了一個過程的，在這個過程裡會有很多的知識財產權的權利產生，被創造出來，被轉移，然後在每一個階段可能都會有新的知識財產權產生，所以它產生的是一個乘數效應，不是說你簡單的投入了，最終就出來一個單一的產品，所以我們必須要去研究整個的創造過程。所以知識財產權是在不同的階段，比如說在生產創造，傳播、交換，還有歸檔存儲這些方面都存在，都需要保護。我是非常同意他的看法，而且認為版權對於創意經濟發展有巨大推動與貢獻，而中國目前創意產業的發展，迫切需要加強知識財產權的保護。我認為，每一個國家的法律中都有定義，其中還包含道德的權利。什麼樣的作品可以在什麼樣的情況下允許別人使用，它也是一種經濟的形態，版權成為當代衡量經濟活動的一項重要指標。但正如甘特雪夫所說，版權在創意經濟當中有三個作用，首先它是一個知識因素，可以説明創作者獲得自己作品的回報，這樣創作者就有了動力，有了激勵機制，創作了就可以得到回報。第二個功能，它體現了一個市場運營的框架，你需要有一定的規則，能夠建立起來創意產業如何運作。版權也可以被看作是這樣一個框架，或者說是建立一個遊戲規則。第三，版權的界定清楚，就可以把它作為一個衡量創意產業的標準，來瞭解它對於國際經濟產生的影響。那麼，從這三個方面，人工智能的機器人，又如何去達致它的作用呢？這就是一個很尷尬的問題。版權的保護肯定了創造者、作家、藝術家、發明家的高價值的勞動，維護了整個行業、城市、國家對於創意和發明的永久的崇尚，是推動整個社會創新風尚形成的動力機制。而且，除了經濟之外，版權保護了文化、藝術、科學和哲學本身，孕育大師，創造人類文明的新境界、新高度，它不僅是經濟的，更是精神的、思想的和人類心靈的。知識產權僅是人工智能中問題的一小部分，但也可以就此看出，如果處理不好，所謂人工智能對文明的侵入，就會變成一個非常嚴重的現實問題。

       四、人工智能在價值觀和倫理上的潛在挑戰

       子夜：在目前人工智能的問題上，知識產權也許是冰山的一角。最近幾十年，尤其是進入新世紀以來，除了人工智能，還有其它一系列高新技術（例如胚胎複製技術）都取得了突破性的發展，也同時暴露了在價值觀和倫理上的潛在危機。就本來意義上說，人工智能是為了改善工作效率，尤其是通過計算機處理愈益龐大的數據，以及通過機器人完成原本應由人從事的高危或負重作業。當包括人工智能、基因改造等在內的高新技術有了突破，也就同時觸發了人類中間長期就存在的一種好奇甚至是悖逆的衝動，喜歡挑戰既定的倫理和禁忌。在長期關於機器人終將取代人類的口耳相傳中，不少人確實是存在某種顛覆原本秩序的期待。最典型的也是最可怕的就是人工胚胎複製技術，直接對抗人類與生俱來的生殖規律，把兩性結合通過子宮培育生命的定則，變成通過實驗室培養來完成，這基本就挑戰了人類社會最基本的倫理和禁忌。即使國際上對此通過法律進行了嚴格的管控，仍然有以身試法的，這是人的本性使然。同人工胚胎複製實體人不同，人工智能則是在數據處理上為人想像中的虛擬世界提供了方便，它不會有生命之類的創造，但會創造出讓人陷於真假不分的種種「奇蹟」。問題是，我們可以讓ChatGPT寫一篇小說，它會瞬間就生成，但本質上這不是創作，而是把所有積存在數據庫裡的文字描述，就像我們上面提到的，嚴格講不可能會產生任何文學上的意義。但是，就是這樣一個東西，讓幾乎所有國家都手忙腳亂，要去應付一系列在倫理和道德規範上帶來的問題。一個社會原本已經布滿抄襲、剽竊和變造的地雷，現在又碰上這種免費的「生成」機能，對持守傳統倫理的學界人士來說無異是又一種痛苦的折磨。人工智能不一定能打敗人類，但肯定可以調戲和嘲弄，這不再是一個純假設的問題，至少在某些方面已經成為一種必須面對的殘酷現實。國外已經發現有學生提交的論文或作業是由ChatGPT生成的，因此為免學術規範的崩裂，多國學校禁止學生在校內使用類似ChatGPT的人工智能工具。也有出版社發出公告，使用ChatGPT寫的作品將被退稿或撤稿。這其實僅僅是一種表態，人工智能與學術規範的較量才剛開始，「道高一尺，魔高一丈」，在佔有天文數據的ChatGPT面前，手無寸鐵的學者實在是軟弱的，他們面對的是一種不公平的技術進逼。人工智能創造出來的東西，一般都是虛擬的世界，幾乎每個人都心知肚明，但現在人們似乎形成了一種奇怪的心態，就是對「假」的崇拜，喜歡用假的東西挑戰真的東西。有些是明目張膽的，而更多的是潛意識中的，寧願讓自己生活在一個虛擬世界裡，而逃避真實的世界。人工智能所表現出來的負面成果，就是形成了一種工具控制本體的場景，是手段控制目的時代。而人工智能以網絡和新媒體形成的虛擬世界，實際上在某種程度上形成了與真實生活世界脫節甚至對立的新世界，這個世界缺乏人類真實有血肉的感情，也就變異原本正常的社會溝通模式。最明顯的是新生一代，他們從懂事開始就進入了一種智能遊戲的環境中，這是完全不同於傳統的文化培養。這些玩家沉迷於遊戲境地，世界衛生組織已經將沉迷於電子遊戲和視頻遊戲列為應治療的嚴重疾病，而世界各地越來越多的兒童和青少年每天都面臨這種危險。從心理學上分析，人們一旦進入這個遊戲境地，便會把虛擬世界有可能的機會和運行作為自己的真實感知，那種刺激和「完美」就會形成人身上的快感標準。遊戲的設計者出於市場的目標，他們會把遊戲設計成如同香煙、酒精甚至藥物一樣讓人上癮，結果就是批量地生產玩物喪志的群體。很坦率地講，人工智能眾多的負面作用，主要就是表現在倫理上，大部分人都承認這一點，但往往故意迴避或視而不見，這才是可怕的。

       金元浦：我想，無論從哪個層級來說，人工智能有可能形成對傳統倫理的挑戰，是一種共識。現在我們面臨的一個世界，除了人工智能這個概念，還有許多與之配套的系統，包括網際網絡，都是它的載體，甚至形成一個巨大的實驗場，什麼新鮮玩意兒都能鼓搗出來。歷史上所有新科學和新技術的產生，都會使社會上的傳統倫理受到一定影響和嬗變，但是有一個慢慢適應和調整的過程。但是，像人工智能和網際網絡這種事物出現之後，已經很少有「慢慢適應和調整」的時間和空間了，就像ChatGPT橫空出世一樣，會把大家一下子都打得手足無措。包括人工智能在內的現代科技和發明，就像有的學者指出那樣，大多數都源於某項重大成就，如數碼化，或將文字、圖像、符號、聲音和視訊轉換為一系列電脈衝或光脈衝的能力，這些脈衝序列可以被處理、傳輸、重新創建、傳輸、存儲並轉換回原始文字、圖像和視頻，最小的損失或失真，而所有這一切都發生在網路空間環境中，它代表了我們人類生活、經濟、貿易、教育甚至戰爭的一些非常重要的方面，從自動駕駛汽車到自主機器人和基於人工智能的機制，到可以進行複雜手術的機器人等，每一秒、每一分鐘、每一小時和每一天，都會出現可能擾亂我們生活和生計的多個領域的新發現和突破的消息。尤瓦爾•赫拉利的那篇文章，曾提到這樣一個問題，以前的工具，如印刷機和無線電，幫助傳播人類的文化理念，但它們從未創造出自己的新文化理念，而一旦非人類智能在講故事、譜寫旋律、繪製圖像、編寫法律和經文方面變得比普通人更好，會發生什麼？當人們想到Chatgpt和其他新的人工智能工具時，他們往往會被一些例子所吸引，比如學童用人工智能來寫文章。如果孩子們這樣做，學校系統會發生什麼？想想下一屆美國總統選舉，試著想像一下可以用來大規模生產政治內容、假新聞故事和新邪教經文的AI工具的影響。他認為，在更平凡的層面上，我們可能很快就會發現自己在網上就墮胎、氣候變化或俄烏等問題進行長時間的討論，我們認為這些實體是人類，但實際上是AI。問題是，我們花時間試圖改變人工智能機器人所宣稱的觀點是完全沒有意義的，而人工智能可以精確地磨練它的資訊，以至於它有很大機會影響我們。我是認為，所有的問題不是人工智能本身產生的，而是人自己對相關倫理把握的失控，歸根究底不是機器的問題，是人的問題。記得你們學刊曾討論過這個問題，目前學術界的各種問題，不能歸罪於新技術的產生，因為在ChatGPT之前，包括論文寫作中的抄襲和造假現象就已經層出不窮，另外還有造假、變造 、研究成果重複發表或未適當引註、以違法或不當手段影響論文審查、作者列名等，都是司空見慣的。除了少部分被揭露處理外，更多的是處在冰山之下。在急功近利和浮躁浮誇的環境下，偽學術有時往往會形成一種潛規則，所以說這根本還是一個人心問題。同自然科學大多可以量化作為評判標準不同，人文社會科學則呈現多元或多重的評判維度，因此只能依靠研究人員和相應機制本身的誠實、負責、專業、客觀、嚴謹和自律，自動迴避有可能的利益衝突。現在有一些歲數較大的學者，幾乎不碰網絡和新媒體，學問仍然做得很成功。人文學科的學者不應該也不可能與ChatGPT之類的功能斷絕聯繫，但在必要的情況下實行所謂倫理上的「迴避」，保持一種學術天地的純潔，還是可以嘗試做到的。在今後相當長一個時期內，面對新科技和新發明，傳統倫理面臨的挑戰會愈來愈多，愈來愈頻繁，這個我們可能要有思想準備。

       五、面對新技術持守底線的問題

       子夜：人工智能發展到今天，真正在社會上形成的是兩大群體，一個是研究和開發人員，這部分人承擔著推動人類科學發展和技術發明的重任，是我們這個社會的精英。除了極端情況，這部分人有一定的道德責任感和職業道德，同時生活在相應的法律和規範的制約中，從倫理和道德上有著起碼的底線意識，基本是處於可控制範圍之內。另一部分人，就是人工智能的眾多使用者，大部分是享用人工智能成果的，除了使用智能工具協助工作和研究的，還有就是大規模的「玩家」，例如玩智能遊戲的，這個情況就複雜了。而介於這兩者之間，是追逐利潤的開發商和經銷商，他們目光盯在市場，只要有利潤可圖，就會什麼事都能做，甚至碰撞倫理和道德的底線。現在情況複雜在於，智能產品進入最後流通渠道到達「玩家」那裡，目前是缺乏相應道德規範限制的。例如智能手機使人上癮的問題，乃至在社會上形成一種「娛樂至上」的文化和心理，是沒有任何法律或規定可供處理的。這裡就有一個面對新技術持守底線的問題。美國媒體文化研究者、批判家尼爾•波茲曼（Neil Postman）於一九八五年出版的《娛樂至死》（Amusing ourselves to death）一書，把這個時代稱為「娛樂至死」時代。本來，尼爾•波茲曼針對的是關於電視聲像逐漸取代書寫語言過程，他解析了美國社會由印刷統治轉變為電視統治，得出了由此導致社會公共話語權的特徵由曾經的理性、秩序、邏輯性，逐漸轉變為脱離語境、膚淺、碎化，一切公共話語以娛樂的方式出現的現象，以此來告誡公眾要警惕技術的壟斷。這個思路當然可以從電視影一直沿伸到現在的智能媒體，所謂的「娛樂至死」就是這種邏輯的合理結果。正如尼爾•波茲曼指出，一切公眾話語日漸以娛樂的方式出現，並成為一種文化精神，政治、宗教、新聞、體育、教育和商業都心甘情願地成為娛樂的附庸，並且毫無怨言，甚至無聲無息，其結果是我們成了一個娛樂至死的物種。喬治•奧威爾在《一九八四》中預言人們將會遭受外來壓迫的奴役，失去自由，我們的文化成為受制文化；赫胥黎則在《美麗新世界》中表達了另外一種憂慮，人們會漸漸愛上壓迫，崇拜那些使他們喪失思考能力的工業技術。而尼爾•波茲曼從奧威爾和赫胥黎的語言中走出來，提醒注意毀掉我們的，不是我們所憎恨的東西，而恰恰是我們所熱愛的東西。智能時代的「娛樂至死」，人們不是沒有警覺，而是假裝沒警覺，再加上開發商精準地找到人心中最脆弱的部分，從這部分中獲取自己最大利益幾乎不會遇到反抗和抵制，而只能是萬眾的期待。這一切本身，就是「娛樂至死」心態所形成的一種世紀末的麻木和無奈。有人說，現在的智能產品如智能手機、智能遊戲等，如同以前的鴉片，那麼，我們又如何持守本應有的倫理和道德底線，或者，在監管上能採取什麼措施呢？

       金元浦：我想，對人工智能的監管，可能不僅是那些使用或享用（如手機和遊戲）者吧，從源頭上來說，人工智能本身的研發和推廣就存在一個嚴格監管的問題。人工智能在推廣中，很大程度上取決於人們如何使用與管理。有些專家已經發現，如果人工智能技術被犯罪分子利用，就會帶來安全問題，例如，駭客可能通過智能方法發起網路攻擊，智能化的網路攻擊軟體能自我學習，模仿系統中使用者的行為，並不斷改變方法，以期盡可能長時間地停留在電腦系統中；駭客還可利用人工智能技術非法竊取私人資訊；通過定制化不同使用者閱讀到的網路內容，人工智能技術甚至會被用來左右和控制公眾的認知和判斷，等等。這其中，機器人的發展也是充滿不確定性，未來機器人不僅有感知、認知和決策能力，在不同環境中學習和演化，還會形成不同的個性。國外研發的聊天機器人在網上開始聊天後不到24個小時，竟然學會了說髒話和發表種族主義的言論。機器人使用者如何承擔類似監護人一樣的道德責任甚至法律責任，都是值得研究的問題。因此，除了上面我們提到的千人公開信，大概所有的政府，都已把人工智能的安全和監管作為重要事情來抓，因為大家都知道，人工智能作為影響面廣的顛覆性技術，可能帶來並改變就業結構、衝擊法律與社會倫理、侵犯個人隱私、挑戰國際關係準則等問題，將對政府管理、經濟安全和社會穩定乃至全球治理產生深遠影響。中國政府去年公佈了一份題為《中國關於加強人工智能倫理治理的立場本件》，開頭就指出，人工智能作為最具代表性的顛覆性技術，在給人類社會帶來潛在巨大發展紅利的同時，其不確定性可能帶來許多全球性挑戰，甚至引發根本性的倫理關切。在倫理層面，國際社會普遍擔心如不加以規範，人工智能技術的誤用濫用恐將損害人的尊嚴和平等、侵犯人權和基本自由、加劇歧視和偏見、衝擊現有法律體系等，並對各國政府管理、國防建設、社會穩定其至全球治理產生深遠影響。這個文件中提出，各國政府應要求研發主體加強對人工智能研發活動的自我約束，主動將倫理道德融入人工智能研發過程各環節，避免使用可能產生嚴重消極後果的不成熟技術，確保人工智能始終處於人類控制之下。應要求研發主體努力確保人工智能研發過程的演算法安全可控，在演算法設計、實現、應用等環節，不斷提升透明性、可解釋性、可靠性，逐步實現可審核、可監督、可追溯、可預測、可信賴。但是，我在想，由於人工智能的特點是機器擬人化，所以這方面的難題還是很大的，人類逐漸異化的價值取向必然與當前社會倫理嚴重抵觸，當人工智能在外形和智能程度都無限接近人類時，人類很要堅守住固有的倫理與道德體系和底線將會面臨巨大的挑戰。我可能沒有像一些人那麼悲觀，認為人工智能是事關社會傾覆甚至人類存亡的潛在不可逆風險，但無論如何，人類應當以更加謹慎的方法和態度對待，不但進行審慎的事前預防和嚴格的過程監管是極其必要的，而且應當充分運用法律手段，對相關研究和後果進行預判、評價、調節，做到防患未然。人類畢竟要守住自己倫理和法律的底線。

       子夜：今天很有意思，我們兩人都不是人工智能的技術專家，是站在外部的視角，但卻談了這麼多的人工智能話題。就元浦教授你來說，我的總體感覺是你對人工智能的發展前景充滿樂觀，其中出現的一些問題包括危險，都是可以通過相應的管控和規則進行控制，尤其應當充分運用法律手段，大概這是當今主流的心態。我可能對高新技術相對陌生一些，更留戀傳統方面的技術和媒介，會對這種高新技術存在相當多的困惑甚至是偏見，這些都是應該對自己有個客觀評估的，所以通過對話也從中獲益不少。你在社會發展和文化產業方面經驗比較豐富，看這類問題比較全面，而且也比較客觀，這是我很欽佩的。事實上，人類歷史上所有的技術進步，都同時伴隨相應的危險增長，如汽車發明後的交通事故，原子技術發明後的戰爭災難等，但從另一個方面看，歷史上一些大的工業革命，最大的貢獻是改變了勞動方式或工作模式，破除了勞動對人的桎梏，但不剝奪或代替人在勞動中的主導地位，這可能是同目前人工智能出現的問題是不一樣的。人工智能出現的問題，可能遠超過以前工業革命的特質，而且具有顛覆性的。所以，我想這個問題會長期存在，有關這方面的對話還會繼續下去，非常期待有機會再次聽到你的高見。謝謝。