2020年10月31日上午9點，由上海交通大學馬克思主義學院科學史與科學文化研究院主辦，上海交通大學文科建設處資助的“人工智能、倫理與文化高端論壇”在上海交通大學閔行校區圖書信息樓9層會議室召開。上海交通大學馬克思主義學院科學史與科學文化研究院院長李俠主持開幕式，上海交通大學馬克思主義學院黨委書記王震致歡迎詞。這次會議由國內知名專家學者參與，主要圍繞人工智能、倫理與文化主題進行了深入研究，借此契機探討新時代以科技史、科學技術哲學、科技倫理等為代表的新文科的發展趨勢。
中國自然辯證法研究會秘書長、中國科學院大學尚智叢教授以人工智能到底能否解決道德問題為開端。指出道德產生的先決條件是自我意識，而認識上的困境體現在缸中之腦思想實驗中，人工智能在一定程度上亦是如此。缸中之腦最早來源于笛卡爾的我思故我在。作為主體的存在首先要有自我意識，針對自我意識才能談論道德。但是目前為止，人工智能尚未具備自我意識，因此無法談論人工智能的道德問題。那么，人工智能如何講述道德問題？人工智能處理人類工作，而人的活動內含道德規范。機器在運行中必然存在著道德規范，而規范設計來自人工智能背后的編寫者。那么到底預設怎樣的道德？倫理學家進行多方討論，宗教道德難以應用，世俗標準成為選擇。如果出現問題，即使用功利主義標準，那么大多數該如何定義？不同的歷史階段基于其發展而不同，目前是限定在群體價值上，而現在所追求的普世價值，其實就是限定群體價值。因此，當談論人工智能道德是什么的時候，其實是將程序編寫者都認可的道德寫入人工智能。
上海交通大學杜嚴勇教授以人工智能向何處去為問題開篇，從政府、技術、公眾、關系四個維度進行分析論述如何構建友好人工智能。具體而言，在政府層面社會管理制度的發展進步。首先應加大人工智能對社會的影響研究；其次是努力實現人工智能時代社會的公平正義；第三加強對人工智能科技的監管與調控。在技術層面，首先實現人工智能技術的安全性，可控性與穩健性。其次人工智能算法、數據的公正性與透明性。第三是人工智能技術的人性化、倫理化研發與設計。公眾層面則需要做到觀點的調整與前瞻性準備。第一是積極應對人工智能對就業的影響；第二是人工智能威脅論及其克服；第三是思想觀念的調整。在關系層面則需要做到倫理與法律的與時俱進。若是能做到如上四個維度則可能實現友好的人工智能。
北京大學周程教授提出，如果人工智能、科技史和哲學（科技哲學）都是一級學科后將會發生什么？學科門類的解決、自然科學基金的申請問題、人工智能在中國的大發展，這些都是我們將面臨的情境。首先是人才培養的問題，若是依靠現在的人才培養機制能否滿足人工智能的發展？第二，學院的建設是否需要？人工智能是一個典型的理工與人文互動的交叉學科。那么，當務之急是提早布局人才培養。雖然很多學科人才培養過剩，但是人工智能是一個新學科，那么對此人才需求量是會增加的。第三，人工智能學院的使命是什么？我們需要厘清人工智能到底是什么，如果還處于公說公有理婆說婆有理，那么很難發展，需要學界進行清晰的界定。在如何實現人工智能上，直指方法論的問題。第四是如何開發人工智能，資源如何配置，這是政策問題。第五是如何應用人工智能，這是價值論的問題。對于我們而言，現在需要解決定義問題，這是需要我們來回答的，否則人工智能無法走得更遠。
中國科學技術大學徐飛教授認為，從應用的角度看AI是模擬、延伸和擴展人類智能的一種高新科技。在醫學領域，AI的技術正陸續在智能診斷、醫學影像、數據挖掘、藥物研發以及健康管理等多個方面被廣泛應用，給醫生和患者帶來效率和便利，但同時仍然有很多問題有待解決，其中最為突出的還是AI與人類智慧的差別，以及由這種差別導致的種種理論和實踐難題。徐教授主要從以下幾個方面進行論述：體能、技能與智能；醫學AI中智能技術的由來；醫學AI未來能否取代醫生；醫學AI的哲學審思；走向人機一體智慧醫療新紀元。徐飛教授認為，醫學AI作為人類智能增強性技術，本質上依然具有工具的性質。在大力發展醫學AI的同時，同步關注技術方案、應用規范的倫理考量，及時開展技術風險及預期治理的哲學反思，將成為AI健康走向未來的必由之路。
中國科學院大學李斌教授認為，目前對人工智能的討論更多的脫離現實情況從而進入一種科幻情況。因此從“不對稱性”概念的引入來解決科技與倫理問題。為什么要引入這個概念，引入這個概念后是否存在不對稱現象，這個現象是由于科技的發展造成的。由不對稱戰爭引入不對稱的概念，然后從科技助力形成的三對不對稱的現象展開，分析科技與倫理出現不對稱的現象，最后提出利用不對稱解決科技倫理的建議。
上海市自然辯證法研究會理事長、上海社會科學院哲學研究所成素梅教授認為，智能革命已使人類結成了命運共同體，在這個共同體中，人與人之間和國與國之間不在于有多么的不同，而在于相似性。智能革命的發展最終將會對工業文明釜底抽薪，成為工業文明的掘墓人和智能文明的締造者。智能文明將是社會與技術高度糾纏的文明，也是深度拷問人類本質特征的文明。我們只有辨明了“人之所以成為人”的本質特征，才能有針對性地出臺規范人工智能發展的約束機制和有效治理的全球標準,才能守護人的底線。要做到這一點，需要把曾經在工業時代位于邊緣的哲學人文社會科學，置于智能文明時代的中心，而未來智能社會的重建充滿了對人類智慧的更加嚴峻的考驗。
上海交通大學李俠教授認為，隨著近幾年大數據的興起, 數據挖掘技術以及算法的迅猛發展, 其潛在商業前景不可限量。時至今日, 我們尚無法準確研判大數據革命對于人類的存在狀態到底會造成什么樣的深遠影響, 但至少在其早期應用中已顯露出一些令人擔憂的征兆, 整個社會已經開始逐漸感受到大數據對國家安全與個人生活的侵入以及權利的侵蝕。為了便于討論，李俠教授對最近涌現出來的基于大數據的算法殺熟現象做了細致分析，指出：任何商家的算法通常都標榜：客觀、中立、科學。然而，公眾無法檢驗算法，它完全不透明、也從不受外界審查，我們不知道算法里預設了什么樣的偏見與歧視。所謂的“殺熟”就是歧視性定價。基于這種現實引發三種矛盾：矛盾1：算法不透明VS人越發透明；矛盾2：個體的道德敏感性低VS算法通過小惡的累積，大概率殺熟；矛盾3：個體追責成本高VS算法違規成本低。期望通過生活中的一個常見視角，探討在新技術面前人類的處境以及可能的解決措施。李老師提出完善與充實治理算法的政策工具箱是該行業進入規范與有序發展的當務之急。總之，對于算法的治理到了從政策引導、道德規訓到出臺法規三管齊下的時候了，這也是一個逐漸調整、相互支撐的治理過程，在此基礎上各種基于大數據的算法的應用才是合規的。
長沙理工大學易顯飛教授認為，“新興增強技術”與“人工智能技術”既有區別也有聯系。他在歸納學界對“技術與人文”的五種基本立場的基礎上指出，當代新興"情感增強技術"(EET)通過現代技術手段對人類的情感進行干預和調節,從而可以達到"增強"的目的,對其界定可以解構為關于情感內涵和范圍的界定、關于"治療"、"預防"與"增強"三者之間界限的劃分以及會聚技術為代表的新技術變革下EET所包含的核心技術要素。當代新興EET大致可以劃分為醫藥技術型、基因工程型、納米技術型、信息技術型、植入技術型、復合控制型等六大類型。與傳統情感增強技術相比,當代新興EET具有"前提的預設性"、"風險的高度不確定性"、"功能的逾越性"、"工具的植入性"、"技術的會聚性"以及"人的深度科技化"等特征。上述特征的出現,體現了當代新興EET已經呈現出新的"技術范式"，呈現出全新的“人文問題”。他認為，與傳統增強技術完全不同的新興“人類增強技術”，使人類增強自身的能力得到根本性提升。但鑒于其現存或潛在的各種人文風險，我們應以一定的人文標準作為參考系，合理引導人類增強技術朝著“合目的性”與“合規律性”統一的方向發展，真正造福人類。
此次會議的上半場由上海交通大學馬克思主義學院科學史與科學文化研究院院長李俠教授主持；下半場會議由上海交通大學馬克思主義學院科學史與科學文化研究院閆宏秀教授主持。會議過程中，在座的專家學者對每場學術報告進行了熱烈的討論，期待為建設中國人工智能研究的新局面而共同努力。最后，李俠教授致閉幕辭。在與會代表的掌聲中，“人工智能、倫理與文化高端論壇”順利落下帷幕。
攝影:周穎；審編:牟凱璇
主要信息來源：上海交通大學馬克思主義學院官網