多位现任和前任OpenAI研究员针对公司首次涉足社交媒体领域发表看法——新推出的Sora应用是一款类似TikTok的信息流产品,充斥着AI生成视频及大量山姆·奥特曼(Sam Altman)的深度伪造内容。这些研究员在X平台上表达忧虑,对此次发布如何契合OpenAI“开发造福人类的先进AI”这一非营利使命感到矛盾。

Cover Image

“基于AI的信息流令人不安,”OpenAI预训练研究员约翰·霍尔曼(John Hallman)X平台发文称,“我必须承认首次得知我们将发布Sora 2时感到担忧。但团队在设计积极用户体验方面已竭尽所能……我们将全力确保AI助力而非伤害人类。”

另一位OpenAI研究员兼哈佛大学教授博阿兹·巴拉克(Boaz Barak)回应道:“我同样怀着忧虑与兴奋交织的复杂心情。Sora 2在技术上令人惊叹,但现在庆贺我们规避了其他社交媒体应用和深度伪造的陷阱为时过早。”

OpenAI研究员罗翰·潘迪(Rohan Pandey)则借机推广其新创立的Periodic Labs,这家由前AI实验室研究员组成的公司致力于开发用于科学发现的AI系统:“如果你不愿打造无限生产AI垃圾内容的TikTok机器,而是希望开发加速基础科学发展的AI……欢迎加入Periodic Labs。”类似立场的帖文层出不穷。

Sora的发布凸显了OpenAI长期面临的核心矛盾。这家全球增长最快的消费科技公司,同时亦是承载崇高非营利章程的前沿AI实验室。部分前员工认为消费业务理论上可服务于使命:ChatGPT既能资助AI研究,又能广泛推广该技术。

OpenAI首席执行官山姆·奥特曼周三X平台发文解释为何投入大量资金与算力开发AI社交媒体应用:“我们确实需要资金来打造能推动科学发展的AI,并且几乎将所有研究精力聚焦于AGI(通用人工智能)。但在此过程中向公众展示酷炫的新技术/产品,带来欢笑,并鉴于巨大算力需求实现盈利也很有意义。”他补充道:“当初发布ChatGPT时,不少人质疑‘谁需要这个?AGI在哪里?’企业的最优发展路径实则充满微妙权衡。”

关键问题在于:OpenAI的消费业务何时会超越非营利使命?换言之,当盈利机会与使命冲突时,公司何时会拒绝?随着监管机构审查OpenAI向营利性转型——这是其筹集额外资金最终上市的必要步骤——该问题日益紧迫。加州总检察长罗布·邦塔(Rob Bonta)上月强调,他“特别关注确保OpenAI作为非营利组织声明的安全使命在重组中保持核心地位”。

怀疑论者认为OpenAI的使命只是从科技巨头吸引人才的品牌工具,但许多内部员工坚持这正是他们加入公司的初心。目前Sora影响范围有限——该应用刚上线一天。但其亮相标志着OpenAI消费业务的重大扩张,并使公司面临困扰社交媒体应用数十年的利益驱动机制。

与注重实用性的ChatGPT不同,OpenAISora定位为娱乐平台——用于生成和分享AI视频片段的场所。其信息流模式更接近以成瘾性闻名的TikTokInstagram ReelsOpenAI坚称将规避这些陷阱,在发布公告中明确表示“高度重视对末日刷屏、成瘾性、社交隔离及强化学习优化信息流的担忧”,承诺不优化用户停留时长,转而最大化创作激励。公司表示会对长时间刷视频用户发送提醒,并优先展示熟人内容。

相较于Meta上周仓促推出、缺乏完善防护措施的Vibes(另一款AI短视频信息流),OpenAI的起点更为审慎。如前OpenAI政策负责人迈尔斯·布伦戴奇(Miles Brundage)所指,AI视频信息流可能像聊天机器人时代一样产生正反两面应用。

正如奥特曼长期承认的,没有开发者初衷是打造成瘾应用,但运营信息流的内在激励会引导至此。OpenAI甚至在ChatGPT中遇到过谄媚倾向问题,公司称这是部分训练技术导致的非意图结果。

六月的播客中,奥特曼论述了所谓“社交媒体的大错位”:“社交媒体时代的重大失误在于,信息流算法对整个社会乃至个体用户产生了一系列非预期的负面后果。尽管算法实现了用户当下需求——或开发者认为的用户需求——即让他们持续停留在平台上。”

Sora应用与用户需求及公司使命的契合度尚待观察。用户已注意到应用中的参与度优化设计,例如点赞视频时出现的动态表情符号,这种设计显然旨在通过多巴胺刺激提升用户参与度。

真正的考验在于OpenAI如何演进Sora。鉴于AI内容已主导传统社交媒体信息流,原生AI信息流很可能即将迎来爆发期。OpenAI能否在发展Sora的同时避免重蹈前辈覆辙,仍有待时间验证。


文章标签: #OpenAI #Sora应用 #社交媒体 #AI生成 #使命冲突

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。