正是鑒于西方社會這種對達利又驚又恐的態(tài)度,OpenAI已經(jīng)反復公開強調(diào),這絕對不是一個產(chǎn)品,自己僅僅是想了解算法的能力與局限性。他們保證會嚴格控制達利的使用權,只會向一小部分經(jīng)過嚴格審查的測試人員開放;未來只會在藝術家工具層面做一些有限制的嘗試。
比較有趣的是,他們還給達利設定了一個“反欺凌過濾器”。比如,輸入“一頭長著羊頭的豬”,系統(tǒng)就拒絕輸出。因為OpenAI解釋,“豬”和“羊”同時出現(xiàn)應該觸犯了過濾器設定的禁令。
另外,關于偏見問題,為了減少對女性的傷害,OpenAI希望過濾掉所有訓練數(shù)據(jù)中的“性別內(nèi)容”。但他們發(fā)現(xiàn),當他們嘗試過濾掉這些信息時,達利系統(tǒng)產(chǎn)生的女性圖像變少了。因為這又觸及了另一種現(xiàn)實世界中職場存在的局限性(有些產(chǎn)業(yè)和職位,女性就是很少),因而導致了另一種對女性的傷害: 抹殺。
輸入文字:熊貓寶寶在銀河盡頭彈鋼琴。OpenAI的公開圖片里,大部分都是動物,盡量避免男女性別帶來的爭議。但是,世界上聰明的程序員還有很多很多,可能很快就會有其他企業(yè)和國家能能夠開發(fā)出類似的技術。畢竟,人類追求技術創(chuàng)新的動機非常多樣化,而利益是其中最大的推動力之一。
他們本身的人類道德感是否值得信任,這就很難說了,因為很多動機與造福人類顯然是相悖離的。但我們又不能因此一棒子打死,全面限制人類追求算法創(chuàng)新的速度。那么,就應該思考這樣一個問題:如何才能真正改變所有算法創(chuàng)新參與者的潛在激勵結構?但對我個人來說,只能說對技術的應用相對悲觀,或者說謹慎樂觀。
老虛和兔子不得不說的那些事
制作《主播女孩重度依賴》獨立游戲廠牌“WSS playground”,聯(lián)合《八方旅人》開發(fā)商“ACQUIRE”,再次推出以女性為主角的視覺小說加卡牌戰(zhàn)斗游戲——《深淵絕賭:千王處刑》。
畢竟,游戲應該是明媚的。