如果用AI技術“復活”去世的人,你能接受嗎?近日,在參與相關調查的約3.2萬名網友中,接受者與拒絕者不相上下。而現實中,上海24歲小伙用AI技術“復活”已故的奶奶并與之視頻通話,同樣引發爭議。一方認為,這種“技術思親”自欺欺人,是對逝者的不尊重,存在倫理問題；一方則認為,這是AI的創新使用,讓人的思念變得具體,感受到了科技的溫度。4月11日,國家網辦發布的《生成式人工智能服務管理辦法(征求意見稿)》中明確要求,生成式人工智能服務采取適當措施防范用戶過分依賴或沉迷生成內容。科技部牽頭起草的《科技倫理審查辦法(試行)》中則提出,“對人類主觀行為、心理情緒和生命健康等具有較強影響的人機融合系統的研發”等7項可能產生較大倫理風險挑戰的新興科技活動,實施清單管理。對此您怎么看?
我們拿什么來守護“人”的邊界?
□特約評論員 袁法周
前幾日,在與蘭州大學邱鋒教授探討歷史方面的問題時,我半開玩笑地說:“伴隨著‘人’的終結,人類并不會走向‘歷史的終結’,而會在人工智能的加持下,在不可預知的深空中橫沖直撞。然而,歷史或許將不再由我們來續寫。”“人”會終結嗎?這是一個嚴肅的話題。
【資料圖】
當萬物互聯的時代數據主義大行其道,“人”的閾值不斷被突破。人工智能擁有著不可思議的超級“算法”,逐漸具備思考與研究歷史問題的智能,從一篇歷史文章的撰寫到歷史體系的重構,超越歷史學家們的智能指日可待。因此,我認為“傳統史學史研究方法已然終結”,但“歷史學者的邊界在哪里?”一葉落而知天下寒,面對人工智能的步步緊逼,歷史學者們擔心丟了飯碗,而整個人類則是要面對被“替代”的趨勢。
這讓我想到網上熱議的AI“親人復活”技術,孫子與已故的“虛擬奶奶”視頻交流。通過虛擬技術以解親人思念之苦無可厚非,但是隨著技術的廣泛應用,必然會涉及甚至觸碰法律與倫理的底線。一旦泛濫與失控,就不是現實與虛擬融合看起來那么美好。當現實在虛擬中逐漸消解,整個社會運行秩序走向分裂瓦解,人的精神信仰喪失崩塌,那將是一場史無前例的巨大災難。“人”的邊界在哪里?我們該如何守護?這不僅是個嚴肅的問題,還是一個令人恐懼的問題。
請不要忽視人性的復雜性。當人類大力發展人工智能,一方面推動了科技進步,增進了民生福祉。另一方面也制造出更具毀滅性的工具,讓整個人類陷入危險境地。盡管全球包括我國都相繼出臺了有關人工智能發展的法律規范。但是,一次次突破“人”的閾值的往往是人,而不是人工智能。如果有一天人工智能具備了超越人類的智能甚至意識,向人類索取“權利”并擺脫控制時,在兩者之間會有一場和平談判嗎?我們還會用好萊塢式的“愛”來反轉被“替代”的命運嗎?我們是在與“工具”談判,還是在與親手終結了“人”的自己談判?面對人工智能,人類不僅需要的是“控制”,更需要對“人”本身的反思。
(作者為人民美術出版社副編審,歷史學博士,北京師范大學中國易學文化研究院研究員)
不必對“數字生命”過度恐慌
□特約評論員 于靜
詩云:“生如夏花之絢爛,死如秋葉之靜美。”對待生命,每個人都有自己的認知和思考。中國人常掛在嘴邊的一句話就是“人死不能復生”,這是對生命的敬畏,亦是對自然規律的尊重。但人類文明進化到今天,科技改變生活,科技也顛覆了我們的認知。將已故的親人“復活”,和他們面對面聊天,這些以往只能在科幻電影中看到的畫面,竟然走進了現實,例如上海一小伙用AI工具“復活”已故奶奶,并與之視頻對話。有人點贊,這是有益的嘗試和創新,彰顯科技的溫度。然而,也有相當一部分人質疑,認為這是在試探法律的底線,挑戰倫理的邊界。
說實話,我挺敬佩這名上海小伙的,別的不說,最起碼他找到了寄托哀思的辦法,并且還有科技加持。對待這樣的新鮮事物,沒必要過度恐慌。就拿清明節來說,以前祭拜先人,都是肅立碑前,焚香燒紙,如果不這樣做,就會被質疑為不孝。但是這些年,出于防火環保考慮,很多地方都禁止明火,而不少人因為各種原因,清明節也無法做到墳前祭拜。于是,網上祭掃,甚至代掃墓等方式逐漸興起,并被世人接受。
話題回到AI技術“復活”已故親人,其實道理是一樣的。說白了,不過是一種化解思念的方式而已,這不是科幻電影中提及的“數字生命”,不是人類思維的延續。這種交流方式最多只是一種精神安慰,并未突破當前法律和道德的底線。
科技也是有溫度的,對待新事物不妨寬容一些。就像現在一些短視頻平臺上,有軟件用AI技術合成一個人從童年、到中年、再到老年的樣貌,演繹一步步從懵懂無知走向衰老的過程,雖然明知這是技術合成的,但是看著鏡頭中慢慢變老的自己,我想沒有幾個人不會產生觸動。
當然,包括AI技術在內,所有的新技術都不應該被濫用,在運用的過程中,首先不能違反相關法律法規,再者不能超越世俗人倫的底線,就好比現在經常使用的各類“變聲”軟件,拿來娛樂、用作正常的視頻剪輯沒問題,但是如果有人借此從事違法犯罪活動,那性質肯定就變了。
(作者為作家、時評人,青島市作家協會會員)
AI“復活”奶奶,無關倫理但關乎法律
□特約評論員 宋守山
科技的發展總是在創造“奇跡”。比如,近日有年輕人“復活”了自己去世不久的奶奶,并與之進行了簡單的交流。這一事件雖然有些“詭異”,但在AI換臉技術已經面世將近十年的今天,再有大數據等技術的加持,實現人的虛擬“再現”似乎也不是一件十分困難的事情。只是,如何對待技術的發展,則值得引發人們深度思考。
畢竟我們這代人已經深度介入互聯網有二十余年。這些年中,每個人都在網上積累了大量的數據沉淀,依據大數據技術,基于交互大模型的存在,經過深度學習與調教,“復活”出一個“人”來,并與現實中的人在某種話語情景中進行一些“回應”與“交互”,這并不困難。說到底,這種行為僅僅是一種“虛擬仿真”而已,所謂“互動”也僅是一種經過高速運算之后的“例行回復”,這跟機器人與人下圍棋相比,并沒有什么本質的區別。在虛擬技術如此發達的今天,面對這種行為無須感到驚悚,也沒有什么神秘性可言。畢竟,這些被“復活”的人,并沒有實現自我進化,也沒有產生自我意識,就是一種模擬而已。如果愿意,可以給這些數據加以任何的形象。所以,如果作為一種私人行為,做出此種“創舉”,可能最多只是關乎技術的倫理問題,甚至連倫理都算不上。
但是,如果這種技術被深度應用到社會中,卻是值得思索的事情。比如,現在經常在新聞上看到模仿領導發短信、打電話借錢等詐騙行為。隨著對詐騙犯罪的打擊力度以及公眾反詐意識的提高,騙子得逞的幾率似乎不高。但是,如果從“猜猜我是誰”進化到“聊聊我是誰”“看看我是誰”呢?如果犯罪分子也開始使用這項技術,那才是一種真正的災難降臨。畢竟不是所有人都能夠判斷跟你網上溝通的是一個真實的人,還是一個被AI技術創造出來的“人”。
“復活”關乎倫理,而“復制”則關乎法律。這才是我們最應該警惕的。任何技術都有其雙面存在,遇到一些突破和發展,無須過分驚恐。但是應該去思考如何引導其走向正途。
(作者為青島科技大學傳媒學院副教授、媒介與社會發展研究中心負責人)
@西南政法大學民商法學院副教授鄭志峰:
如果行為人為了悼念目的,“復活”自己的親人原則不構成侵權,但若是出于營利、博眼球、詐騙等違法目的,則可能構成侵權甚至是刑事犯罪。同樣,這類“復活”內容可能會讓人們對于生命產生錯誤的認識,消解對于生命的敬畏之心,其次也可能造成人類的技術上癮,不僅不能從中得到慰藉,反而依賴于此,影響其正常生活。
@劉遠舉:
現在很多人的解讀夸大了焦慮與恐慌,有網友跟帖說“復活”反映了AI技術的運用亟須進一步的監管。實際上,監管從來都是不會缺位的。新事物、新技術都會有兩面性,監管當然是必要的,但監管要約束的是可能的負面因素,而從根本上是要促進、鼓勵發展新技術。輿論不能為了吸引眼球故意渲染焦慮和恐慌,這可能會導致過度的監管,影響中國在人工智能領域趕超世界先進水平。
@春城:
對于小伙子因為個人情感而技術懷舊的行為,我們不必過度苛責,既沒有突破人倫道德的底線,也沒有用于商業甚至其他犯罪目的。但是,對于同樣的技術未來會如何挑戰我們的倫理邊界和法律規范,我們應當借此有所警惕和預判。
@西南科技大學傅淋梅:
生活難免會有遺憾,博主利用數字技術彌補遺憾,可以讓其內心更好受一點,但生活始終是向前的,不能讓一時的悲傷,阻擋自己前進的步伐。
話題征集
聚焦一周新聞熱點事件,深度思考,理性評述,百家爭鳴,激濁揚清。親愛的讀者,歡迎您參與“評論區”的話題討論,無論是微言片語還是長篇大論,我們都期待您來一吐為快。
郵箱:
bandaobianjibu@163.com