我造訪了一座生活著25個AI的小鎮(zhèn)

　　在論文中，他們提到，這一技術(shù)壁壘是通過“記憶流”和“反應(yīng)樹”兩個主要系統(tǒng)突破的。

　　記憶流指的是，對于每一個智能體，系統(tǒng)會記錄在TA“視野”中發(fā)生的所有內(nèi)容，包括物品的狀態(tài)、人物的對話和行為；而這些“記憶”會根據(jù)其內(nèi)容與自身的相關(guān)性，產(chǎn)生一個從“印象深刻”（比如和喜歡的人約會）到“平平無奇”（比如早起洗漱）的重要性排序。

記憶流

　　另外，“小鎮(zhèn)”在架構(gòu)上實現(xiàn)了一個檢索功能，將代理人的當(dāng)前情況作為輸入，返回一個記憶流的子集傳遞給語言模型——說人話就是，在和其他智能體對話時，Ta會檢索自己“記憶”中與對話對象相關(guān)的內(nèi)容并以此展開話題。

　　而反應(yīng)樹則代表了智能體之間的認(rèn)知構(gòu)建。在“小鎮(zhèn)”中，智能體會根據(jù)記憶流構(gòu)建對另一個智能體的認(rèn)知，并通過反應(yīng)樹歸納、提煉，導(dǎo)出結(jié)果。

　　比如，一個智能體觀察到卡魯斯·穆勒經(jīng)?；ㄙM大量時間閱讀，并且經(jīng)常去圖書館查閱相關(guān)資料、設(shè)法將文獻(xiàn)聯(lián)系起來，還與圖書管理員討論自己的研究，那么他將從多方面認(rèn)知中歸納出“穆勒非常熱衷于完成他自己的研究”這一結(jié)論，這被研究者稱為是“上級的樹葉”。

反應(yīng)樹

　　總而言之，在這兩個系統(tǒng)的幫助下，團(tuán)隊構(gòu)建了一個極為逼真（各種意義上）的AI小鎮(zhèn)。它隨著時間的流逝發(fā)生著變化，同時也會對外界的干預(yù)作出反應(yīng)。

從記憶流到行動的邏輯

　　論文中提到，觀測者也可以通過投入“種子”（甚至自己“奪舍”某個智能體）對這個世界造成影響。

　　他們給出的例子是讓霍布斯咖啡店的伊莎貝拉產(chǎn)生一個“舉辦情人節(jié)派對”的想法。實驗得到的結(jié)果是，在并未給出明確指令的前提下，伊莎貝拉成功獨自邀請了9人參加自己的派對，加上受邀者邀請的3人，總共有12人在設(shè)定好的時間出現(xiàn)在霍布斯咖啡店展開了活動，這項活動甚至導(dǎo)致了智能體之間關(guān)系的演進(jìn)。

伊莎貝拉的情人節(jié)派對

　　很顯然，研究團(tuán)隊試圖讓AI用“人類的方式”思考問題。不論是記憶流還是反應(yīng)樹，參考的就是人類構(gòu)筑記憶和認(rèn)知的方式——當(dāng)這一流程在AI身上幾乎完美復(fù)現(xiàn)，在驚詫之余，讀者可能難免會產(chǎn)生一種毛骨悚然的感覺。

　　在論文的最后，研究者認(rèn)為以這種方法構(gòu)建的、模擬人類互動行為的生成性代理架構(gòu)可以在未來被廣泛用于各類交互式應(yīng)用，從設(shè)計工具到社會計算機(jī)系統(tǒng)，以及沉浸式環(huán)境的構(gòu)筑；

《西部世界》

　　與此同時，他們也表達(dá)了對于這一系統(tǒng)安全性的擔(dān)憂——過于擬真的互動是否會誘發(fā)超出限度的情感投入？另外，如果別有用心者故意投入破壞性的“種子”，是否會導(dǎo)致系統(tǒng)內(nèi)的人際關(guān)系和社會關(guān)系發(fā)生不可逆轉(zhuǎn)的崩壞？

　　事實上，這些擔(dān)憂在過去相關(guān)的科幻作品中都有過思考和表達(dá)，但是當(dāng)這些問題確實擺在人類面前的時候，我們似乎還沒有準(zhǔn)備好面對它們。正如我們在每一篇AI相關(guān)的文章中強調(diào)的那樣，法律法規(guī)跟進(jìn)的速度總是不可避免地遠(yuǎn)遠(yuǎn)落后于技術(shù)發(fā)展的速度。

　　就在前兩天，國家互聯(lián)網(wǎng)信息辦剛剛下發(fā)了《生成式人工智能服務(wù)管理辦法（意見征求稿）》。盡管國家對于這一部分內(nèi)容的響應(yīng)并不算慢，但是從內(nèi)容上看它也僅僅給出了一個大體的方向和框架——從意見征求稿到具體判例再到法規(guī)的完善，可能還有很長的路要走。

　　與此同時，AI的世界已經(jīng)迅速從畫畫聊天唱歌發(fā)展到可以互相交流、擁有記憶和認(rèn)知，構(gòu)成了一個自洽的世界。

《西部世界》劇照

　　相信在不遠(yuǎn)的未來，隨著研究的進(jìn)展，用于描述智能體的字段越來越多（研究者也在論文中提到最好不要用真實人類的信息導(dǎo)入項目），小鎮(zhèn)中的人們也將與人類越來越像，屆時，我們將如何面對這些在像素世界中的“生命”？他們究竟是數(shù)字構(gòu)成的程序，還是如同“搖光”一樣模棱兩可的靈魂，還是在你我眼中生活的楚門？

　　2023年4月，“小鎮(zhèn)”被認(rèn)為是AI技術(shù)的一座里程碑，在社交媒體上引發(fā)了廣泛討論。顯然在如今，人們不可能知道未來會有怎樣的大樹——唯一確定的一點是，我們已經(jīng)埋下了第一顆種子。

幼年的桐人、愛麗絲和優(yōu)吉歐