关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12773人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

听说格雷系穿搭火了?这不就是深深浅浅的灰吗!

阿丫的时髦趴 浏览 13423

36岁李菲儿近照引热议,身材发福生图撞脸刘晓庆

叶公子 浏览 13666

当美妆变成快消品,为何还需要一件“传家宝”?

时尚COSMO 浏览 2002

特斯拉Model3/ModelY Standard正式发布

网易汽车 浏览 1050

微软OneDrive AI人脸识别功能引争议:每年仅允许用户关闭三次

IT之家 浏览 1018

新加坡主权基金起诉蔚来,股价迎中、美、新“三国杀”!

野马财经 浏览 943

陈凯歌做梦也没想到,竟有一天会因儿子陈飞宇,实现口碑暴增

温柔娱公子 浏览 1485

33岁超模孕期做高难度瑜伽,挺大肚四肢水肿

盖饭娱乐官方号 浏览 19545

能否做到?拜仁有望成为首支欧冠客战巴黎取得三连胜的球队

懂球帝 浏览 747

浙江广电回应徐峥被举报风波:未被定性劣迹艺人

网易娱乐 浏览 19970

外媒称以军士兵在加沙地带焚烧食物

央视新闻客户端 浏览 12892

西汉奇才:官至丞相,精通科学,靠喝“人奶”活到一百多岁

趣看热点 浏览 25431

关于生成式AI,这三个问题很关键

经济观察网 浏览 827

列阵“泰山” 岚图汽车迈入30万辆时代

网易汽车 浏览 647

西媒:巴萨2019年违规接触格子,可能构成管理不善和账目造假罪

懂球帝 浏览 1013

奔驰“小G”海外路试谍照曝光

大象新闻 浏览 391

苹果发布iPad版Final Cut Pro与Logic Pro:订阅380元/年

网易数码 浏览 18462

会打扮的女人有多美?看她们不穿老年装,不披头散发,美到骨子里

静儿时尚达人 浏览 11230

我国发射首颗6G试验卫星,下一代通信技术距离我们还有多远?

趣看热点 浏览 25525

塞维利亚vs奥萨苏纳:夸西、胡安卢-桑切斯首发,劳尔-加西亚、博约莫出战

懂球帝 浏览 702

这样的女爱豆真就不能是内娱打造的吗?

伊周潮流 浏览 11872
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1