電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）近日，知名作家簡(jiǎn)·弗里德曼(Jane Friedman)發(fā)現(xiàn)，亞馬遜上有以她的名義出售的新書(shū)，只是這些書(shū)不是由她所寫(xiě)，而是由人工智能(AI)偽造的。

人工智能“偽造”新書(shū)并不是新鮮的事情，在當(dāng)前的網(wǎng)絡(luò)文學(xué)中，已經(jīng)有很大的一部分的網(wǎng)絡(luò)文學(xué)作品都出自人工智能?？梢哉f(shuō)，只要能夠掌握CahtGPT并且熟練的調(diào)用，不僅能模仿各種作者的風(fēng)格，還可以根據(jù)用戶(hù)的要求持續(xù)性的創(chuàng)作。

人工智能偽造新書(shū)售賣(mài)

弗里德曼告訴媒體，一位細(xì)心的讀者想要閱讀更多她的作品，在亞馬遜上購(gòu)買(mǎi)了一本新書(shū)。雖然該書(shū)的標(biāo)題與她過(guò)去所寫(xiě)的主題十分相似，但文字內(nèi)容明顯是由人工智能生成式模仿她的風(fēng)格而成。

她表示：“當(dāng)我看到這些書(shū)時(shí)，瀏覽開(kāi)頭幾頁(yè)及簡(jiǎn)介，就很明顯大部分內(nèi)容都是由人工智能生成的，因?yàn)槲以诰W(wǎng)上有很多免費(fèi)的內(nèi)容，如寫(xiě)博客，所以讓人工智能來(lái)模仿我的風(fēng)格并不難?！?br />
事實(shí)上，AI早就被用來(lái)出版書(shū)籍。施普林格·自然曾于2019年出版了第一本完全由AI生成的有關(guān)鋰離子電池的圖書(shū)，書(shū)名為《鋰離子電池：計(jì)算機(jī)生成的當(dāng)前研究摘要》。施普林格·自然攜手德國(guó)法蘭克福大學(xué)等機(jī)構(gòu)合作開(kāi)發(fā)了一種算法，用這種算法自動(dòng)編寫(xiě)了一本有關(guān)鋰離子電池最新研究進(jìn)展的圖書(shū)。

隨后，2021年，施普林格·自然采用混合人機(jī)交互方式出版了另一本AI生成的文獻(xiàn)綜述圖書(shū)《氣候、行星和進(jìn)化科學(xué)：計(jì)算機(jī)生成的文獻(xiàn)綜述》。不同于此前完全基于AI生成的關(guān)于鋰離子電池的圖書(shū)，這本新書(shū)采用了創(chuàng)新的混合人機(jī)交互方式。

新書(shū)將人工撰寫(xiě)的文本和計(jì)算機(jī)生成的文獻(xiàn)綜述融合起來(lái)，計(jì)算機(jī)根據(jù)施普林格·自然出版的期刊先前發(fā)表的大量文章生成文獻(xiàn)綜述，然后由作者放入圖書(shū)的各個(gè)章節(jié)并提供科學(xué)觀點(diǎn)。

《CRISPR——計(jì)算機(jī)生成的文獻(xiàn)綜述》一書(shū)則是由施普林格·自然最新的AI平臺(tái)自動(dòng)生成。如今隨著CahtGPT等生成式AI工具的出現(xiàn)，AI模仿作者出書(shū)的能力更強(qiáng)。

需要盡快規(guī)范生成式AI的發(fā)展

生成式人工智能工具如ChatGPT目前能夠快速、廉價(jià)地產(chǎn)生大量令人信服的文本。一些作家和作者已經(jīng)對(duì)此發(fā)出警告，擔(dān)心他們的工作會(huì)被這項(xiàng)新技術(shù)取代。同時(shí)，還有些作家表示不希望自己的研究成果被用于訓(xùn)練人工智能模型。

上個(gè)月，美國(guó)立法者與創(chuàng)意產(chǎn)業(yè)成員包括作家協(xié)會(huì)進(jìn)行了會(huì)面，討論了人工智能的影響。非營(yíng)利作家倡導(dǎo)組織作家協(xié)會(huì)的首席執(zhí)行官瑪麗·拉森伯格呼吁制定立法保護(hù)作家免受人工智能的影響，其中包括要求人工智能公司在訓(xùn)練模型時(shí)保持透明度。

此外，超過(guò)1萬(wàn)名作家，包括瑪格麗特·阿特伍德、詹姆斯·帕特森和強(qiáng)納森·法蘭森等人，簽署了一封信，要求微軟、Meta Platforms和Alphabet等公司的領(lǐng)導(dǎo)人在未經(jīng)許可或未支付報(bào)酬的情況下不要使用他們的作品來(lái)訓(xùn)練人工智能系統(tǒng)。

對(duì)于人類(lèi)社會(huì)而言，AI所帶來(lái)的挑戰(zhàn)已經(jīng)越來(lái)越明顯。業(yè)界認(rèn)為，盡快通過(guò)立法的方式來(lái)規(guī)范AI的發(fā)展很有必要。事實(shí)上，自ChatGPT發(fā)布以來(lái)，許多國(guó)家和地區(qū)也意識(shí)到其中的風(fēng)險(xiǎn)，開(kāi)始規(guī)制或限制相關(guān)應(yīng)用。例如，歐盟將ChatGPT等生成式人工智能列入高風(fēng)險(xiǎn)人工智能清單，意大利等國(guó)一度以保護(hù)隱私為由在全國(guó)范圍內(nèi)禁止使用ChatGPT。

我國(guó)不久前發(fā)布《暫行辦法》全面、系統(tǒng)地為生成式人工智能的應(yīng)用設(shè)定了規(guī)制框架。比如，對(duì)于生成式人工智能可能產(chǎn)生的風(fēng)險(xiǎn)，《暫行辦法》要求生成式人工智能服務(wù)的提供者和使用者遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，尤其要做到：其一，不得生成虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；其二，采取有效措施防止產(chǎn)生民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)、健康等歧視；其三，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為；其四，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益；其五，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

小結(jié)

生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)，如今已經(jīng)在多個(gè)領(lǐng)域?qū)崿F(xiàn)應(yīng)用。然而，生成式AI為人們的生產(chǎn)生活帶來(lái)便利的同時(shí)，也帶來(lái)了諸多挑戰(zhàn)。當(dāng)前，除了探索生成式AI落地應(yīng)用，也需要積極思考如何規(guī)范AI的發(fā)展，以保證其真正賦能人們的生產(chǎn)生活，而不是造成危害。