在9月8日舉行的2024浦江創(chuàng)新論壇科技倫理專題論壇上，科技部副部長邱勇表示，當前科學研究不斷突破人類認知邊界，技術(shù)創(chuàng)新進入前所未有的密集活躍期，生命科學、醫(yī)學、人工智能等前沿科技交叉融合，在促進科學發(fā)現(xiàn)、推動經(jīng)濟社會發(fā)展的同時，也給個人和社會帶來新的挑戰(zhàn)，對全球范圍現(xiàn)有倫理秩序造成沖擊。

“中國政府始終高度重視科技倫理治理，積極倡導科技向善理念，著力構(gòu)建覆蓋全面、導向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系?！鼻裼抡f道。

人工智能要不要“踩剎車”

近年來，以ChatGPT、Sora為代表的人工智能技術(shù)，在給世界帶來機遇的同時，也帶來了風險挑戰(zhàn)，如隱私泄露、算法偏見等。為了確保人工智能安全、可靠、可控，我國提出建立人工智能安全監(jiān)管制度。

那么，究竟該怎么監(jiān)管？中國工程院院士、國家科技倫理委員會委員高文說，目前，圍繞人工智能倫理的討論主要有兩種觀點：一種是強調(diào)堅決嚴格控制風險；另一種認為現(xiàn)在的人工智能尚未發(fā)展到需要立刻“踩剎車”的階段，現(xiàn)階段做好“剎車”設(shè)計，而不必“踩剎車”。

為了規(guī)避潛在的危害，高文認為，要加強技術(shù)研究和制度設(shè)計，預留對人工智能進行“剎車”或“關(guān)電源”的處理手段。其中，“剎車”的效果和靈敏度與技術(shù)相關(guān)，因此要加強技術(shù)研究。

在高文看來，判別式人工智能和生成式人工智能發(fā)展如火如荼，但對當前的勞動力市場影響還不大。他判斷，下一輪熱潮很可能是具身智能、人形機器人等，“如果大量使用機器人，如何讓人仍有工作，這是我們必須要面臨的問題?！?/p>

怎樣平衡科技創(chuàng)新與倫理責任

如何平衡科技創(chuàng)新與倫理責任，挑戰(zhàn)是什么？在科技倫理論壇圓桌環(huán)節(jié)，專家們各抒己見。

中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克表示，最大的挑戰(zhàn)在于是否擁有將強烈倫理意識和創(chuàng)新能力相結(jié)合的人。只有那些能將倫理和創(chuàng)新緊密結(jié)合的人，才能有效推動科技創(chuàng)新朝著負責任的方向發(fā)展。

“我們正處在多元價值時代，一方面要包容多元；另一方面在一些具體問題上要達成共識變得困難。”復旦大學哲學學院教授王國豫說，大家都意識到負責任創(chuàng)新，但在具體落實時，距離負責任的行為還有很大差距，這是很大的挑戰(zhàn)。

就在兩個月前，國家科技倫理委員會醫(yī)學倫理分委員會制定發(fā)布《人類基因組編輯研究倫理指引》，力促人類基因組編輯研究健康發(fā)展。

“科學技術(shù)的進步不能成為科學家的‘特權(quán)’，這其實給我們提出了責任問題?！北本﹨f(xié)和醫(yī)學院生命倫理學研究中心執(zhí)行主任翟曉梅強調(diào)，科學進步推動醫(yī)學發(fā)展，是人類基因組編輯技術(shù)發(fā)展和應(yīng)用的價值所在。但它同時產(chǎn)生重要的倫理問題和社會問題，特別是人類生殖系基因編輯技術(shù)的臨床應(yīng)用面臨的風險，不可能局限在某個國家、某個共同體、某個社會，因為它是可傳遞的，可能給人類帶來重大風險。

在翟曉梅看來，作為國家科技倫理委員會醫(yī)學倫理分委員會編制的第一份倫理規(guī)范，《人類基因組編輯研究倫理指引》最大的特點是將不同科學活動面臨的倫理挑戰(zhàn)做了區(qū)分，無論是體外實驗室研究、臨床前研究、臨床應(yīng)用，還是體細胞的研究和生殖細胞的研究。與此同時，倫理學的考量應(yīng)該是動態(tài)的，需要動態(tài)評估安全性問題。

“科技倫理治理攸關(guān)人類文明長遠發(fā)展，是全球共同關(guān)注的議題?！鼻裼轮赋觯袊鴮⒊掷m(xù)加強科技倫理治理，積極推動深化科技倫理領(lǐng)域的國際交流合作，促進科學創(chuàng)新更好造福于人類。一是堅持科技向善，促進負責任創(chuàng)新；二是堅持倫理先行，實施敏捷治理，加強科技倫理風險監(jiān)測，實施更加符合科技活動規(guī)律的敏捷審慎治理策略，把好科技倫理“方向盤”；三是堅持開放合作，共享科技惠益。（記者劉垠）