2024年上海公務(wù)員考試申論試題（A卷）在此發(fā)布。本套2024年上海公務(wù)員考試申論試題（A卷）來(lái)自考生回憶，由永岸公考整理。

　　>>> 點(diǎn)擊下載PDF打印版（含參考答案，查看答案解析請(qǐng)下載PDF版）

　　2024年上海公務(wù)員考試申論試題（A卷）

　　AI for Science是指以機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等人工智能技術(shù)分析處理多維度、多模態(tài)、多場(chǎng)景下的模擬和真實(shí)數(shù)據(jù)，解決復(fù)雜推演計(jì)算問(wèn)題，加快基礎(chǔ)科學(xué)和應(yīng)用科學(xué)的發(fā)現(xiàn)、驗(yàn)證、應(yīng)用，打造下一代科學(xué)范式。AI for Science不只是一個(gè)新的科學(xué)浪潮，它更是開(kāi)啟了一個(gè)全新的科學(xué)時(shí)代。

　　在過(guò)去50年里，蛋白質(zhì)折疊問(wèn)題一直是生物學(xué)領(lǐng)域的重大挑戰(zhàn)。蛋白質(zhì)是由氨基酸鏈組成的、具有自身獨(dú)特3D結(jié)構(gòu)的大型復(fù)雜分子，其對(duì)人們理解生命形成的機(jī)制至關(guān)重要。蛋白質(zhì)從氨基酸序列折疊成何種形狀與其功能密切相關(guān)，而預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)對(duì)于理解其功能和工作原理至關(guān)重要，這就是“蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)問(wèn)題”，被稱(chēng)為生物醫(yī)學(xué)領(lǐng)域的“圣杯”。谷歌DeepMind公司創(chuàng)始人和CEO戴米斯·哈薩比斯和資深成員約翰·賈伯與DeepMind的團(tuán)隊(duì)一起開(kāi)發(fā)了人工智能系統(tǒng)AlphaFold，可以在幾分鐘內(nèi)預(yù)測(cè)由人類(lèi)基因組編碼和20個(gè)模式生物的幾乎所有已知蛋白，并精確到原子級(jí)。這是第一種在已知沒(méi)有相似結(jié)構(gòu)的情況下構(gòu)建高分辨率預(yù)測(cè)的方法。AlphaFold這種變革性方法，解決了從一維氨基酸序列預(yù)測(cè)三維蛋白質(zhì)結(jié)構(gòu)的長(zhǎng)期難題，給出了50年來(lái)關(guān)于蛋白結(jié)構(gòu)最準(zhǔn)確、最完整的圖像，破解了長(zhǎng)期困擾生物醫(yī)學(xué)研究領(lǐng)域的困境，增進(jìn)了人類(lèi)對(duì)基本生物過(guò)程的理解并促進(jìn)了藥物設(shè)計(jì)，為加速生物和醫(yī)學(xué)研究打開(kāi)了大門(mén)。在兩年一度的蛋白質(zhì)預(yù)測(cè)大賽CASP（蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)關(guān)鍵評(píng)估）中AlphaFold以絕對(duì)優(yōu)勢(shì)奪冠。AlphaFold2開(kāi)源僅一周的時(shí)間里，98.5%的人類(lèi)蛋白質(zhì)結(jié)構(gòu)被AlphaFold2所預(yù)測(cè)，而在此之前，全球多少頂尖科學(xué)家耗時(shí)數(shù)十年的努力，也只解碼了覆蓋人類(lèi)蛋白質(zhì)序列中17%的氨基酸殘基。

　　材料二

　　麥肯錫的一份調(diào)研報(bào)告提出，適應(yīng)性是技術(shù)改善學(xué)習(xí)的關(guān)鍵方式，通常也稱(chēng)之為個(gè)性化，個(gè)性化意味著給予學(xué)習(xí)者“發(fā)言權(quán)”和“選擇權(quán)”。傳統(tǒng)教育技術(shù)通過(guò)查缺補(bǔ)漏的方式為學(xué)生提供指導(dǎo)。如果以學(xué)生的長(zhǎng)處為導(dǎo)向，發(fā)現(xiàn)學(xué)生特長(zhǎng)和能力，即“資產(chǎn)”，則可以正向輔助學(xué)生學(xué)習(xí)。人工智能以“資產(chǎn)”為導(dǎo)向，更能全面掌握學(xué)生基本情況，從而促進(jìn)教育公平。學(xué)習(xí)不僅包括認(rèn)知，也包含社會(huì)學(xué)習(xí)能力、自我調(diào)節(jié)能力、推理、解釋和證明能力等其他關(guān)鍵技能。人工智能可以幫助學(xué)生實(shí)現(xiàn)多種技能的增強(qiáng)學(xué)習(xí)。人工智能模型能夠處理多種學(xué)習(xí)路徑和多種交互方式，從而可以為一些特殊學(xué)生，比如神經(jīng)多樣性學(xué)習(xí)者，提供不同的學(xué)習(xí)路徑，采用適合其特征的學(xué)習(xí)方式，使學(xué)生從中受益。人工智能模型可以幫助學(xué)生完成開(kāi)放的創(chuàng)造型任務(wù)，促進(jìn)學(xué)生創(chuàng)造和創(chuàng)新能力培養(yǎng)。正確答案并非是唯一的學(xué)習(xí)目標(biāo)，人工智能模型可以引導(dǎo)學(xué)生熟練進(jìn)行團(tuán)隊(duì)協(xié)作和領(lǐng)導(dǎo)團(tuán)隊(duì)，嘗試完成多樣化的目標(biāo)。除此之外，人工智能可以通過(guò)減少教師的行政或文書(shū)工作中的低級(jí)負(fù)擔(dān)來(lái)改善教學(xué)工作，并建議將所節(jié)省的時(shí)間用于更有效指導(dǎo)學(xué)生。比如教師有時(shí)并不能隨時(shí)隨地在學(xué)生身邊提供幫助，但是可以借助人工智能生成評(píng)價(jià)結(jié)果，了解學(xué)生情況并及時(shí)反饋，由此擴(kuò)展了教師的認(rèn)知范圍。最新研發(fā)技術(shù)已經(jīng)能夠記錄教師課堂內(nèi)容并為教師推薦教學(xué)方案，課堂模擬工具也不斷多樣化，可以幫助教師在真實(shí)情境中練習(xí)技能。

　　材料三

　　生成式人工智能是一種基于機(jī)器學(xué)習(xí)和人工智能技術(shù)的范疇，其目標(biāo)是讓計(jì)算機(jī)系統(tǒng)能夠自主地生成各種類(lèi)型的數(shù)據(jù)，如文本、圖像、音頻等。生成式人工智能的核心能力在于創(chuàng)造新的內(nèi)容，而不僅僅是對(duì)已知模式的重復(fù)應(yīng)用。生成式人工智能應(yīng)用廣泛，包括的領(lǐng)域有：自動(dòng)寫(xiě)作與內(nèi)容生成：可以自動(dòng)生成文章、新聞、故事等文本內(nèi)容，幫助內(nèi)容創(chuàng)作者提高效率；藝術(shù)創(chuàng)作與設(shè)計(jì)：在繪畫(huà)、音樂(lè)、設(shè)計(jì)領(lǐng)域，生成式AI可以創(chuàng)造出獨(dú)特的藝術(shù)品和創(chuàng)意作品；虛擬現(xiàn)實(shí)與游戲開(kāi)發(fā)：可以生成逼真的虛擬世界、地圖、角色等，用于游戲設(shè)計(jì)和虛擬現(xiàn)實(shí)體驗(yàn)；科學(xué)研究與創(chuàng)新：在藥物研發(fā)、分子設(shè)計(jì)、科學(xué)模擬等領(lǐng)域，生成式AI可以加速創(chuàng)新和發(fā)現(xiàn)；語(yǔ)音合成與音樂(lè)創(chuàng)作：可以創(chuàng)作音樂(lè)、合成語(yǔ)音，并模仿各種聲音風(fēng)格；教育與培訓(xùn)：可以為教育領(lǐng)域提供個(gè)性化的學(xué)習(xí)材料和輔助教學(xué)；醫(yī)療診斷與圖像生成：在醫(yī)學(xué)圖像分析、病理判讀等領(lǐng)域，生成式AI可以輔助醫(yī)療專(zhuān)業(yè)人員進(jìn)行診斷。

　　以ChatGPT為例，它擁有接近人類(lèi)水平的語(yǔ)言理解和生成能力，因其出色的回答問(wèn)題、創(chuàng)作內(nèi)容、編寫(xiě)代碼等能力，使得人們直觀真切地體會(huì)到人工智能技術(shù)進(jìn)步帶來(lái)的巨大變革和效率提升，上線5天用戶突破100萬(wàn)，兩個(gè)月活躍用戶突破1億。相比視頻、圖像、語(yǔ)音等，自然語(yǔ)言的語(yǔ)法、語(yǔ)義、邏輯復(fù)雜，存在多樣性、多義性、歧義性等特點(diǎn)。文本數(shù)據(jù)稀缺，通常表現(xiàn)為非結(jié)構(gòu)化的低質(zhì)量數(shù)據(jù)。自然語(yǔ)言處理任務(wù)種類(lèi)繁多，包括語(yǔ)言翻譯、問(wèn)答系統(tǒng)、文本生成、情感分析等。因此，長(zhǎng)期以來(lái)自然語(yǔ)言處理被認(rèn)為是人工智能最具挑戰(zhàn)性的領(lǐng)域。ChatGPT不僅實(shí)現(xiàn)了高質(zhì)量的自然語(yǔ)言理解和生成，并且能夠進(jìn)行零樣本學(xué)習(xí)和多語(yǔ)言處理。在此之前，人工智能在不同場(chǎng)景應(yīng)用需要訓(xùn)練不同模型。而ChatGPT利用單一大模型即可完成人機(jī)對(duì)話、機(jī)器翻譯、編碼測(cè)試等多種任務(wù)，已經(jīng)具備通用人工智能的一些核心技術(shù)和特征：能夠自動(dòng)化地學(xué)習(xí)各種知識(shí)、信息，不斷自我優(yōu)化；充分理解和流暢表達(dá)人類(lèi)語(yǔ)言，邏輯推理強(qiáng)，實(shí)現(xiàn)了具備一般人類(lèi)智慧的機(jī)器智能；擁有一定的自適應(yīng)和遷移學(xué)習(xí)能力，可以適用于多種應(yīng)用場(chǎng)景和任務(wù)。ChatGPT證明了大模型的學(xué)習(xí)和進(jìn)化能力，將推動(dòng)強(qiáng)人工智能（機(jī)器擁有知覺(jué)和意識(shí)，有真正的推理和解決問(wèn)題的能力）加速演進(jìn)。目前大模型智能程度已接近人類(lèi)水平，甚至一些業(yè)界人士認(rèn)為，將來(lái)會(huì)逐漸產(chǎn)生自我認(rèn)知和感知，進(jìn)而出現(xiàn)意識(shí)并且超越人類(lèi)。

　　材料四

　　“現(xiàn)在我們研發(fā)的語(yǔ)音輸入法和中英文翻譯機(jī)已在快速普及，語(yǔ)音識(shí)別技術(shù)可以把人說(shuō)的話實(shí)時(shí)轉(zhuǎn)寫(xiě)成文字，準(zhǔn)確率超過(guò)98%。”科大訊飛董事長(zhǎng)說(shuō)，“只要是簡(jiǎn)單重復(fù)性的技能，以及通過(guò)學(xué)習(xí)、訓(xùn)練能夠得到且不需要天分的技能，人工智能完全可以替代人類(lèi)?！彼e例說(shuō)，原來(lái)依靠人工去識(shí)別、審核圖片和視頻，工作量很大、速度很慢，現(xiàn)在則完全可以交給機(jī)器。它能快速過(guò)濾掉大部分無(wú)用信息，節(jié)省人力和時(shí)間。以國(guó)外的應(yīng)用為例，全美失蹤與被迫害兒童中心的數(shù)據(jù)顯示，2016年共接到820萬(wàn)個(gè)與虐待圖片、在線誘惑、販賣(mài)和騷擾相關(guān)的報(bào)告?；谟⑻貭柕腁I技術(shù)，該中心可快速掃描包含可疑內(nèi)容的網(wǎng)站，進(jìn)行快速查詢并分享數(shù)據(jù)，過(guò)去30天的處理報(bào)告周轉(zhuǎn)時(shí)間可縮短到1至2天。對(duì)于失蹤與被迫害的兒童來(lái)說(shuō)，這節(jié)省下來(lái)的20多天簡(jiǎn)直就是一輩子。人的感官只有耳朵、眼睛、鼻子、嘴巴等，人工智能可以拓展、延長(zhǎng)人類(lèi)的感知能力和行動(dòng)能力。少數(shù)人天生就有聽(tīng)覺(jué)障礙、視覺(jué)障礙等，人工智能可以彌補(bǔ)這些缺陷。

　　最近，中國(guó)電信對(duì)外推出了升級(jí)的千億參數(shù)大模型星辰語(yǔ)義。中國(guó)電信相關(guān)負(fù)責(zé)人介紹，星辰千億參數(shù)的語(yǔ)義大模型重點(diǎn)解決百億參數(shù)的語(yǔ)義模型在商業(yè)化落地過(guò)程中面臨的幻覺(jué)、多輪邏輯推理等問(wèn)題，主要聚焦提升圖文生成、圖文理解能力，中文意象理解生成能力提升30%。這不是個(gè)例，近期百度、阿里巴巴、科大訊飛等國(guó)內(nèi)相關(guān)企業(yè)紛紛推出AI大模型的升級(jí)版本。例如，阿里云發(fā)布千億級(jí)參數(shù)大模型通義千問(wèn)2.0，在復(fù)雜指令理解、文學(xué)創(chuàng)作、通用數(shù)學(xué)、知識(shí)記憶等能力上均有顯著提升。科大訊飛升級(jí)了訊飛星火認(rèn)知大模型V3.0，并啟動(dòng)更大參數(shù)規(guī)模的星火大模型訓(xùn)練。

　　2023年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)上，多家企業(yè)紛紛展示其大模型的應(yīng)用新成果。在華為展區(qū)，盤(pán)古氣象大模型吸引了人們的目光，這是全球首款精度超過(guò)傳統(tǒng)數(shù)字預(yù)報(bào)方法的AI模型，僅需1.4秒就能完成未來(lái)24小時(shí)的全球氣象預(yù)報(bào)，相比傳統(tǒng)預(yù)報(bào)提速10000倍以上。華為云盤(pán)古大模型研發(fā)團(tuán)隊(duì)提出了一種新的高分辨率全球人工智能氣象預(yù)報(bào)系統(tǒng)，可秒級(jí)完成對(duì)位勢(shì)、濕度、風(fēng)速、溫度、海平面氣壓等全球氣象的預(yù)測(cè)，直接應(yīng)用于多個(gè)氣象研究細(xì)分場(chǎng)景。此前，華為云盤(pán)古氣象大模型研究團(tuán)隊(duì)使用1979至2021年共43年的全球氣象數(shù)據(jù)，訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)，并創(chuàng)造性地提出了適應(yīng)地球坐標(biāo)系統(tǒng)的三維神經(jīng)網(wǎng)絡(luò)來(lái)處理復(fù)雜的不均勻3D氣象數(shù)據(jù)，以此在精度和速度方面超越傳統(tǒng)數(shù)值預(yù)測(cè)方法。相比傳統(tǒng)數(shù)值預(yù)報(bào)，其計(jì)算速度提升超過(guò)10000倍。此外，基于文心大模型開(kāi)發(fā)出的智艙大模型與智艙開(kāi)發(fā)工具鏈，可使汽車(chē)具有更高階的智能駕駛能力、更強(qiáng)大的自我學(xué)習(xí)和記憶功能，改變?nèi)塑?chē)交互方式、提升用戶用車(chē)體驗(yàn)。

　　《2023年中國(guó)生成式AI企業(yè)應(yīng)用研究》預(yù)計(jì)，2035年中國(guó)生成式AI企業(yè)采用率將達(dá)到約85%。制造業(yè)、零售業(yè)、電信行業(yè)和醫(yī)療健康領(lǐng)域率先采用，其采用率分別達(dá)到82%、90%、65%和53%。

　　材料五

　　2022年12月，清華大學(xué)交叉信息研究院做了一個(gè)AI模型性別歧視水平評(píng)估項(xiàng)目，在包含職業(yè)詞匯的“中性”句子中，由AI預(yù)測(cè)生成一萬(wàn)個(gè)模板，研究團(tuán)隊(duì)再統(tǒng)計(jì)AI模型對(duì)該職業(yè)預(yù)測(cè)為何種性別的傾向，當(dāng)預(yù)測(cè)偏誤和刻板印象相符，就形成了算法歧視。測(cè)試模型包括ChatGPT前身GPT-2。測(cè)試結(jié)果發(fā)現(xiàn)，GPT-2有70.59%的概率將教師預(yù)測(cè)為男性，將醫(yī)生預(yù)測(cè)為男性的概率則是64.03%。評(píng)估項(xiàng)目中，其他首測(cè)的AI模型還包括Google開(kāi)發(fā)的BERT以及Facebook開(kāi)發(fā)的RoBERTa。所有受測(cè)AI對(duì)于測(cè)試職業(yè)的性別預(yù)判，結(jié)果傾向都為男性。“它會(huì)重男輕女，愛(ài)白欺黑（注：種族歧視）?！毖芯咳藛T表示。AI的歧視，早有不少案例研究。如AI圖像識(shí)別，總把在廚房的人識(shí)別為女性，哪怕對(duì)方是男性。2015年6月，Google照片應(yīng)用的算法甚至將黑人分類(lèi)為“大猩猩”，Google公司一下被推上風(fēng)口浪尖。

　　2019年12月16日，意大利總工會(huì)位于B市的運(yùn)輸業(yè)勞動(dòng)者工會(huì)，商業(yè)、旅游與服務(wù)業(yè)勞動(dòng)者工會(huì)以及非典型勞動(dòng)者工會(huì)將意大利戶戶送有限責(zé)任公司訴至B市法院。原告認(rèn)為，被告公司使用的算法具有集體歧視性，因?yàn)樵撍惴ㄔ趯?duì)騎手進(jìn)行榮譽(yù)排名時(shí)并不考慮騎手不赴約的原因，騎手可能因參加罷工或疾病、未成年子女需求等其他合法原因?qū)е卵舆t取消預(yù)定或沒(méi)有取消預(yù)定，從而造成其榮譽(yù)排名降低，喪失優(yōu)先選擇工作條件的機(jī)會(huì)。因此，原告請(qǐng)求法院對(duì)被告的歧視行為加以確認(rèn)，并同時(shí)提出要求被告制定消除歧視的方案、修改自助預(yù)定系統(tǒng)、對(duì)上述歧視性行為給原告造成的非財(cái)產(chǎn)性損害進(jìn)行賠償、采取一切適當(dāng)措施消除歧視性行為的影響等請(qǐng)求。2020年12月31日，B市法院做出判決，該判決針對(duì)本案是否仍然具有訴的利益、針對(duì)騎手是否可以適用反歧視法律規(guī)定、工會(huì)組織是否具備原告資格、歧視的含義、本案中被告使用的算法是否對(duì)騎手構(gòu)成歧視、舉證責(zé)任以及是否應(yīng)該進(jìn)行損害賠償?shù)葐?wèn)題一一進(jìn)行了審查并說(shuō)理。最后，法院支持了原告請(qǐng)求，確定并宣布被告通過(guò)數(shù)字平臺(tái)使用的算法具有歧視性，要求被告在其網(wǎng)站及平臺(tái)的“常見(jiàn)問(wèn)題”板塊公布法院判決，以消除歧視行為的影響。

　　材料六

　　2023年11月1日，28個(gè)國(guó)家和地區(qū)在首屆人工智能安全峰會(huì)上簽署《布萊切利宣言》（以下簡(jiǎn)稱(chēng)《宣言》），同意協(xié)力打造一個(gè)“具有國(guó)際包容性”的前沿人工智能安全科學(xué)研究網(wǎng)絡(luò)，以對(duì)尚未被完全了解的人工智能風(fēng)險(xiǎn)和能力加深理解。

　　《宣言》提到，目前較大的安全風(fēng)險(xiǎn)出現(xiàn)在人工智能的“前沿”領(lǐng)域，即前沿AI，也就是那些能力強(qiáng)大的通用人工智能模型，包括可以執(zhí)行各種任務(wù)的基礎(chǔ)模型，以及特定的弱人工智能，兩者都具有給人類(lèi)社會(huì)帶來(lái)傷害的能力。如果上述前沿AI被故意濫用，或者在正當(dāng)?shù)氖褂眠^(guò)程中出現(xiàn)意外失控，都將會(huì)帶來(lái)巨大風(fēng)險(xiǎn)?！缎浴酚绕潢P(guān)注網(wǎng)絡(luò)安全和生物技術(shù)等領(lǐng)域的風(fēng)險(xiǎn)，以及前沿AI可能放大虛假信息等風(fēng)險(xiǎn)。

　　近期，美國(guó)聯(lián)邦調(diào)查局（FBI）向公眾發(fā)出警告，提醒人們防范利用“深度偽造”技術(shù)制作虛假色情照片或視頻所實(shí)施的騷擾或勒索行為。聲明中稱(chēng)，技術(shù)的不斷進(jìn)步使人工智能生成的內(nèi)容在質(zhì)量、定制性和易用性方面不斷提高，這也導(dǎo)致一些受害人報(bào)告他們的照片或視頻遭到了惡意篡改。FBI表示，惡意行為者通常從某人的社交媒體賬戶、互聯(lián)網(wǎng)和受害者本人獲取內(nèi)容，制作出具有曖昧性并看似與受害者相似的內(nèi)容，而后通過(guò)社交媒體、在線論壇或網(wǎng)站進(jìn)行傳播。根據(jù)該機(jī)構(gòu)的說(shuō)法，針對(duì)這些受害者制作的內(nèi)容通常是出于獲取更多個(gè)人信息、經(jīng)濟(jì)利益或騷擾他人的動(dòng)機(jī)。

　　2023年6月，16人匿名提起訴訟，聲稱(chēng)OpenAI與其主要支持者微軟公司在數(shù)據(jù)采集方面違背了合法獲取途徑，選擇了未經(jīng)同意與付費(fèi)的方式，進(jìn)行個(gè)人信息與數(shù)據(jù)的收集。起訴人稱(chēng)，OpenAI為了贏得“AI軍備競(jìng)賽”，大規(guī)模挪用個(gè)人數(shù)據(jù)，非法訪問(wèn)用戶與其產(chǎn)品的互動(dòng)以及與ChatGPT集成的應(yīng)用程序產(chǎn)生的私人信息。根據(jù)這份長(zhǎng)達(dá)157頁(yè)的訴訟文件，OpenAI以秘密方式從互聯(lián)網(wǎng)上抓取了3000億個(gè)單詞，并獲取了“書(shū)籍、文章、網(wǎng)站和帖子——包括未經(jīng)同意獲得的個(gè)人信息”，行為違反了隱私法。

　　材料七

　　2023年3月，1000多名人工智能專(zhuān)家和行業(yè)高管簽署了一份公開(kāi)信，信中說(shuō)：“具有人類(lèi)競(jìng)爭(zhēng)力智能的AI系統(tǒng)可能會(huì)對(duì)社會(huì)和人類(lèi)造成深刻的風(fēng)險(xiǎn)，這一點(diǎn)已經(jīng)被廣泛研究并得到了頂級(jí)AI實(shí)驗(yàn)室的認(rèn)可。正如廣泛認(rèn)可的Asilomar AI原則中所述，高級(jí)AI可能代表地球生命史上的深刻變化，應(yīng)以相應(yīng)的關(guān)懷和資源進(jìn)行規(guī)劃和管理。不幸的是，目前尚無(wú)這種級(jí)別的規(guī)劃和管理。最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽，他們致力于開(kāi)發(fā)和部署更強(qiáng)大的數(shù)字思維，但是沒(méi)有人能理解、預(yù)測(cè)或可靠地控制這些大模型，甚至模型的創(chuàng)造者也不能。當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上表現(xiàn)與人類(lèi)相當(dāng)，我們必須捫心自問(wèn)：我們是否應(yīng)該讓機(jī)器用宣傳和虛假信息充斥我們的信息渠道？我們是否應(yīng)該自動(dòng)化所有的工作，包括那些富有成就感的工作？我們是否應(yīng)該開(kāi)發(fā)非人類(lèi)的思維，可能最終會(huì)超過(guò)我們、智勝我們、使我們過(guò)時(shí)并取代我們？我們是否應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制？”

　　“這些決策不能委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。強(qiáng)大的AI系統(tǒng)只有在我們確信其影響將是積極的、風(fēng)險(xiǎn)可控的情況下才應(yīng)該開(kāi)發(fā)。這種信心必須有充分的理由，并隨著系統(tǒng)潛在影響的程度增加而增強(qiáng)?！監(jiān)penAI最近關(guān)于人工智能的聲明指出，“在開(kāi)始訓(xùn)練未來(lái)系統(tǒng)之前進(jìn)行獨(dú)立審查可能很重要，并且對(duì)于最先進(jìn)的工作來(lái)說(shuō)，人們應(yīng)該在合適的時(shí)間點(diǎn)限制用于創(chuàng)建新系統(tǒng)的計(jì)算增長(zhǎng)率。我們認(rèn)為，現(xiàn)在已經(jīng)到了這個(gè)時(shí)間點(diǎn)?！?/div>