鳳凰網(wǎng)科技訊 北京時(shí)間10月2日，據(jù)科技網(wǎng)站TechCrunch報(bào)道，OpenAI在周二首次涉足社交媒體領(lǐng)域，推出了由視頻生成模式Sora 2驅(qū)動(dòng)的應(yīng)用Sora。然而，此舉引發(fā)了多位現(xiàn)任和前任OpenAI研究員的擔(dān)憂。
Sora應(yīng)用提供類似TikTok的視頻流，里面充斥著AI生成的視頻和大量關(guān)于OpenAI CEO薩姆·奧特曼(Sam Altman)的深度偽造內(nèi)容。
OpenAI研究員們?cè)赬上發(fā)聲，似乎對(duì)這一產(chǎn)品是否符合OpenAI“開發(fā)造福人類的先進(jìn)AI”的非營(yíng)利使命感到矛盾。OpenAI預(yù)訓(xùn)練研究員約翰·霍爾曼(John Hallman)在X上發(fā)文稱：“基于AI的信息流令人不安。得知我們將發(fā)布Sora 2時(shí)，我確實(shí)感到擔(dān)憂。但必須承認(rèn)，團(tuán)隊(duì)在打造積極用戶體驗(yàn)方面已竭盡所能......我們將全力確保AI技術(shù)幫助而非傷害人類?！?/p>
OpenAI研究員對(duì)Sora表示擔(dān)憂
另一位OpenAI研究員、哈佛大學(xué)教授博阿茲·巴拉克(Boaz Barak)回復(fù)霍爾曼的帖子稱：“我同樣懷揣著憂慮與興奮交織的復(fù)雜心情。Sora 2在技術(shù)上令人驚嘆，但現(xiàn)在就慶賀我們成功規(guī)避了其他社交媒體應(yīng)用和深度偽造技術(shù)的陷阱，還為時(shí)過(guò)早?！?/p>
OpenAI CEO奧特曼周三在X上發(fā)文，解釋了為何公司投入如此龐大的資金和算力開發(fā)AI社交媒體應(yīng)用。
“我理解大家的感受，但……。我們確實(shí)需要將大部分資金用于研發(fā)能推動(dòng)科學(xué)進(jìn)步的AI，并且?guī)缀鯇⑺醒芯烤Χ技性趯?shí)現(xiàn)AGI這一目標(biāo)上。不過(guò)在此過(guò)程中，向公眾展示酷炫的新技術(shù)和產(chǎn)品也很重要——這既能帶給人們驚喜，也有望為龐大的算力需求創(chuàng)造資金支持。當(dāng)初推出ChatGPT時(shí)，不少人質(zhì)疑‘誰(shuí)需要這個(gè)？AGI在哪里？’對(duì)于企業(yè)的理想發(fā)展路徑來(lái)說(shuō)，現(xiàn)實(shí)情況往往很復(fù)雜。”奧特曼稱。
奧特曼的回應(yīng)
OpenAI的商業(yè)化與其非營(yíng)利使命之間的矛盾由來(lái)已久。隨著監(jiān)管機(jī)構(gòu)審查OpenAI向營(yíng)利機(jī)構(gòu)轉(zhuǎn)型的問(wèn)題，這個(gè)疑問(wèn)愈發(fā)突出。OpenAI需要完成這一步，以籌集更多資金并最終上市。加州總檢察長(zhǎng)羅布·邦塔(Rob Bonta)上個(gè)月表示，他“尤其關(guān)注確保OpenAI作為非營(yíng)利機(jī)構(gòu)所聲明的安全使命，在重組過(guò)程中始終處于核心位置”。(作者/簫雨)