OpenAI重组ChatGPT个性研究团队!

财联社9月6日讯(编辑 马兰OpenAI正在重组ChatGPT团队,加入模型行为小组,以在模型的初始预训练之后改进公司的AI模型。

这支模型行为小组由约14名研究人员组成,是一支规模虽小但颇具影响力的研究团队,决定着OpenAI人工智能模型与人互动的方式。该团队也参与了自GPT-4以来的所有OpenAI模型的开发,包括GPT-4o和GPT-5。

OpenAI发言人已证实了这一调整,目前模型行为团队已开始向OpenAI的后期训练主管Max Schwarzer汇报工作。

模型行为团队的创始负责人Joanne Jang还表示,将在公司启动一个新项目,名为OAI Labs,将负责发明和设计人与人工智能协作的新界面原型。

模型个性成关键

模型行为团队是OpenAI的核心研究团队之一,负责塑造公司模型的个性,并减少谄媚行为,如盲目认同并强化用户的信念。该团队还致力于解决模型回应中的政治偏见,并帮助OpenAI明确其在人工智能安全性上的立场。

OpenAI首席研究官Mark Chen在一份备忘录中强调,模型行为团队应更加贴近核心模型的开发。这也意味着OpenAI日益将人工智能的“个性”视为技术发展的关键因素。

就在不久前,OpenAI在最新发布的GPT-5模型上遭遇了不小的挫折。一些用户批评称GPT-5的性格谄媚或者冷淡,不及此前模型人性化。这也导致OpenAI不得不恢复部分旧模型的访问权限,如GPT-4o。

除此之外,OpenAI近日还因为一起16岁男孩自杀事件被告,因为男孩家长指控ChatGPT涉嫌为男孩自杀提供建议。

将模型行为团队纳入后训练团队无疑进一步肯定了前者的价值,也凸显出OpenAI希望通过继续升级ChatGPT以争取消费者的迫切。据消息,OpenAI今年预计通过ChatGPT实现近100亿美元的收入。

Published by

风君子

独自遨游何稽首 揭天掀地慰生平