日前，復(fù)旦大學(xué)哲學(xué)學(xué)院MAE應(yīng)用倫理2024級(jí)專業(yè)碩士在職研究生在課程老師楊慶峰教授指導(dǎo)下，在光華樓西主樓2501成功舉辦了以“人類命運(yùn)畫布上的倫理筆觸”為主題的《科技倫理專題》課程案例研討會(huì)。本次研討會(huì)匯聚了來自哲學(xué)、公共管理、科技、法律等多個(gè)領(lǐng)域的專家學(xué)者和研究生及對(duì)科技倫理話題感興趣的社會(huì)人士，共同探討了科技飛速發(fā)展背景下的倫理問題和挑戰(zhàn)。

　　會(huì)議由哲學(xué)學(xué)院24級(jí)MAE應(yīng)用倫理專業(yè)胡佳欣主持，點(diǎn)評(píng)專家包括上海交通大學(xué)科學(xué)史與科學(xué)文化研究院閆宏秀教授、復(fù)旦大學(xué)國際關(guān)系與公共事務(wù)學(xué)院鄭磊教授、復(fù)旦大學(xué)哲學(xué)學(xué)院徐志宏副教授和楊慶峰教授。專家們的深入點(diǎn)評(píng)為研討會(huì)提供了寶貴的學(xué)術(shù)支持和指導(dǎo)。研討會(huì)分為上下兩個(gè)半場(chǎng)，上半場(chǎng)聚焦于人工智能倫理，涉及AI換臉詐騙、生成式人工智能倫理問題、AI Agent落地企業(yè)應(yīng)用及相關(guān)問題、算法鏡像等議題。下半場(chǎng)則圍繞醫(yī)療數(shù)據(jù)的倫理問題、企業(yè)智能體實(shí)踐與反思、DBS（腦深度神經(jīng)刺激）技術(shù)發(fā)展的倫理思考、危廢物處置的環(huán)保技術(shù)推廣問題等前沿科技倫理案例進(jìn)行深入研討。

　　案例一：AI換臉詐騙

　　分享人：2024級(jí)MAE劉婧賢、張康、姚好、胡佳欣、陳嗣元

　　數(shù)字面龐的技術(shù)誕生讓一人千面成為了可能。由AI換臉詐騙的案例引發(fā)對(duì)不同種類數(shù)字面龐的探討，根據(jù)同一性和真實(shí)性的強(qiáng)弱關(guān)系將數(shù)字面龐分為數(shù)字面貌、數(shù)字復(fù)活、數(shù)字?jǐn)M真、數(shù)字面具四大象限。對(duì)這四象限的倫理審視，涉及面孔失真、身份失落、社會(huì)失信等范圍的討論，并根據(jù)不同情況分析可能涉及的法律后果。結(jié)合列維納斯關(guān)于“臉”的表述，特別探討了數(shù)字復(fù)活能否成為“他者”、數(shù)字面貌中的“美顏”是再現(xiàn)美貌還是審美同質(zhì)化等內(nèi)容。希望提出更加明晰的數(shù)字面龐使用的知情同意書設(shè)計(jì)要求，需要嚴(yán)格授權(quán)、規(guī)范使用，涉及數(shù)字采集、數(shù)據(jù)應(yīng)用及用戶體驗(yàn)等方面知情同意，以期更規(guī)范化使用數(shù)字面龐。

　　專家點(diǎn)評(píng)：

　　鄭磊教授指出，AI換臉技術(shù)的濫用不僅涉及隱私侵犯，還可能對(duì)社會(huì)信任造成深遠(yuǎn)影響。他強(qiáng)調(diào)，技術(shù)提供方應(yīng)承擔(dān)起審查義務(wù)，確保技術(shù)不被用于非法目的。閆宏秀教授則從數(shù)據(jù)倫理的角度提出，應(yīng)加強(qiáng)對(duì)數(shù)字臉龐使用的監(jiān)管，明確數(shù)據(jù)采集和應(yīng)用的規(guī)范，保障用戶的知情同意權(quán)。

　　案例二：生成式人工智能倫理問題

　　分享人：2024級(jí)MAE張育偉

　　近年來，通過“深度偽造（Deepfake）”技術(shù)生成的虛假內(nèi)容造成侵權(quán)的事件多發(fā)，不法分子利用技術(shù)實(shí)施詐騙的案例也層出不窮。隨著生成式人工智能的發(fā)展，多模態(tài)的“深度偽造”內(nèi)容的技術(shù)門檻已經(jīng)很低，而技術(shù)普及帶來的倫理滑坡風(fēng)險(xiǎn)和給人類社會(huì)帶來的群體性危機(jī)也迫在眉睫，主體的“不在場(chǎng)”也在人與技術(shù)框架內(nèi)造成了主體性消解的風(fēng)險(xiǎn)。在以互聯(lián)網(wǎng)為媒介的數(shù)字社會(huì)轉(zhuǎn)型的過程中，音視頻內(nèi)容實(shí)際上已經(jīng)成為了主流的信息傳播和大眾娛樂的主體，“AI數(shù)字人”等“深度偽造”內(nèi)容的商業(yè)化也方興未艾。如何認(rèn)識(shí)技術(shù)商業(yè)化和人的認(rèn)知與權(quán)利保護(hù)的張力，如何對(duì)”深度偽造”技術(shù)的應(yīng)用進(jìn)行合理的治理，回顧智能手機(jī)和汽車等有效的治理實(shí)踐，也許能夠提供一種基于原則化的實(shí)踐治理路徑和基于人和技術(shù)責(zé)任的規(guī)制方式。

　　專家點(diǎn)評(píng)：

　　徐志宏副教授對(duì)張玉偉同學(xué)提出的分級(jí)治理路徑表示贊賞，他認(rèn)為這為解決生成式人工智能的倫理問題提供了新思路。同時(shí)，他也指出，分級(jí)治理應(yīng)結(jié)合具體場(chǎng)景，明確不同級(jí)別下的責(zé)任主體和監(jiān)管措施。楊慶峰教授則強(qiáng)調(diào)，生成式人工智能的倫理問題復(fù)雜多變，需要跨學(xué)科合作，共同尋找解決方案。

　　案例三：AI Agent落地企業(yè)應(yīng)用及相關(guān)問題

　　分享人：2024級(jí)MAE李春堂、陳丹妮

　　近年來，人工智能（AI）技術(shù)飛速發(fā)展，大模型驅(qū)動(dòng)的AI Agent正從簡單自動(dòng)化執(zhí)行躍升至高度自主與創(chuàng)新，深度嵌入各行業(yè)，推動(dòng)企業(yè)數(shù)智化轉(zhuǎn)型，成為新時(shí)代的創(chuàng)新引擎。從AI面試到智能客服，從知識(shí)管理到無人駕駛，AI Agent正在重塑傳統(tǒng)業(yè)務(wù)模式，為效率提升和生產(chǎn)力變革注入強(qiáng)大動(dòng)能。然而，技術(shù)革命也帶來了諸如隱私保護(hù)、算法歧視、責(zé)任歸屬、職業(yè)替代和社會(huì)公平等一系列復(fù)雜倫理挑戰(zhàn)，迫使我們重新思考人類與AI的關(guān)系。在AI Agent逐步具備自主決策能力以及多AI系統(tǒng)復(fù)雜性涌現(xiàn)的背景下，構(gòu)建跨主體、可解釋的動(dòng)態(tài)治理機(jī)制已成當(dāng)務(wù)之急。這不僅是防范技術(shù)濫用的必要措施，更是守護(hù)人類主體性和自由的關(guān)鍵保障。唯有將AI Agent深度融入社會(huì)—技術(shù)—自然的多元生態(tài)中，并與公正、自由和尊嚴(yán)等核心價(jià)值相對(duì)齊，人類方能邁向人機(jī)協(xié)作的全新時(shí)代，真正實(shí)現(xiàn)創(chuàng)新紅利的普惠共享。這是技術(shù)與倫理融合的時(shí)代命題，也是全社會(huì)共同面對(duì)的使命。

　　專家點(diǎn)評(píng)：

　　鄭磊教授對(duì)AI Agent在企業(yè)應(yīng)用中的潛力表示肯定，但他也提醒，技術(shù)普及需警惕失業(yè)潮和分配不均等問題。閆宏秀教授則提出，企業(yè)應(yīng)在智能化進(jìn)程中關(guān)注員工的職業(yè)發(fā)展和培訓(xùn)需求，確保技術(shù)紅利惠及更多人。

　　案例四：算法鏡像

　　分享人：2024級(jí)MAE侯弘毅

　　2024年初，某社交平臺(tái)因AI算法操控問題引發(fā)廣泛關(guān)注。該平臺(tái)運(yùn)用大數(shù)據(jù)和AI技術(shù)，將算法操控產(chǎn)品化，極大威脅了用戶的自主性。用戶在這個(gè)體系中，由于自愛和利己傾向被過度放大，容易迷失于海量信息，被誘導(dǎo)消費(fèi)，喪失自我決策的能力。這不僅侵犯了用戶隱私，更加劇了認(rèn)知偏見，導(dǎo)致信息失衡和社會(huì)分化。算法操控的濫用還可能引發(fā)數(shù)據(jù)壟斷和不公平競(jìng)爭(zhēng)，威脅社會(huì)經(jīng)濟(jì)秩序。我們必須對(duì)此保持高度警惕，加強(qiáng)監(jiān)管，明確技術(shù)倫理邊界，推動(dòng)科技向善，保障數(shù)字經(jīng)濟(jì)健康發(fā)展。用戶在使用這類平臺(tái)時(shí)，應(yīng)理性看待算法推薦，保持獨(dú)立思考，避免喪失自主性，成為算法的傀儡。

　　專家點(diǎn)評(píng)：

　　徐志宏副教授對(duì)侯弘毅同學(xué)從廣告人視角剖析算法鏡像表示贊賞，他認(rèn)為這有助于更深入地理解算法推薦機(jī)制的倫理問題。楊慶峰教授則強(qiáng)調(diào)，算法鏡像不僅影響用戶行為，還可能對(duì)社會(huì)價(jià)值觀和公共權(quán)益造成潛在威脅，因此需要加強(qiáng)監(jiān)管和透明度。

　　結(jié)合實(shí)際案例，分享人進(jìn)行了精彩的案例展示和深入剖析，展示出科技倫理問題的復(fù)雜性和緊迫性。AI換臉詐騙、生成式人工智能倫理問題、AI Agent企業(yè)應(yīng)用、算法鏡像、醫(yī)療數(shù)據(jù)使用權(quán)、企業(yè)智能體實(shí)踐、DBS技術(shù)發(fā)展以及危廢物處置等前沿科技倫理議題，反映了科技倫理領(lǐng)域的熱點(diǎn)和難點(diǎn)，增強(qiáng)討論的現(xiàn)實(shí)關(guān)聯(lián)性和針對(duì)性。專家點(diǎn)評(píng)環(huán)節(jié)為每個(gè)案例提供了深刻的見解和建議，為案例提供了多維度的解讀。會(huì)議還特別設(shè)置了交流環(huán)節(jié)和現(xiàn)場(chǎng)投票，增加了互動(dòng)性，使與會(huì)者能更積極地參與討論。研討會(huì)還邀請(qǐng)第一屆應(yīng)用倫理專業(yè)碩士研究生2023級(jí)MAE黃鵬作為觀察員，他高度評(píng)價(jià)今年研討會(huì)在深度、交流及實(shí)踐方面均有顯著提升，希望協(xié)同持續(xù)探索，為構(gòu)建公正、可持續(xù)的科技未來貢獻(xiàn)力量。

　　楊慶峰教授在總結(jié)發(fā)言中強(qiáng)調(diào)，科技倫理教育的重要性日益凸顯，希望通過此類研討會(huì)，培養(yǎng)出更多具有倫理意識(shí)的科技人才，為構(gòu)建健康公正的科技生態(tài)貢獻(xiàn)智慧。他提出，未來將繼續(xù)推動(dòng)跨專業(yè)交流，將科技倫理教育拓展到更廣泛的領(lǐng)域。

　　隨著科技的迅猛發(fā)展，科技倫理問題已成為社會(huì)關(guān)注的熱點(diǎn)。通過此次研討會(huì)，復(fù)旦大學(xué)應(yīng)用倫理專碩學(xué)生展現(xiàn)了其在科技倫理教育和研究方面的專業(yè)能力和責(zé)任感，為推動(dòng)科技倫理的學(xué)術(shù)研究和實(shí)踐應(yīng)用提供了有力的支持。