关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12776人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

军事专家:日本敢染指台湾 就是对中国本土造成侵略

环球网资讯 浏览 284

澳P-8A军机侵闯中国西沙领空 解放军驱离

界面新闻 浏览 992

周冬雨耍大牌遭吐槽,人设处在崩塌边缘,文艺小花之路还能走多久

最爱酷影视 浏览 12038

乌克兰袭击莫斯科一座热电站 距克宫仅百余公里

上观新闻 浏览 427

奈飞联合创始人向慈善机构捐赠所持四成股权,价值超11亿美元

澎湃新闻 浏览 12498

《向往8》暴露明星真实性格!张子枫老实,何炅诙谐,黄磊最强势

娱乐圈笔娱君 浏览 1063

秋季的穿衣难度并不高,选择基础款、配色不沉闷,舒适又减龄

静儿时尚达人 浏览 1059

记住"碎花裙+短靴"的搭配技巧 远离老气土气

In风尚 浏览 19950

2022年住房公积金个人房贷金额减少15%,多地放宽公积金贷款政策能否惠及更广人群?

华夏时报 浏览 16508

想要裙子穿得好看 从了解自己的需求开始

虎哥说衣不二 浏览 16039

2023年净利预计同比降逾八成,海通证券抛出不少于3亿元回购计划

澎湃新闻 浏览 12455

小S长女获韩国舞蹈大赛冠军 动作不齐未卡点遭嘲讽

娱絮 浏览 16752

郑智化吐槽大陆机场,评论区沦陷

娱乐圈笔娱君 浏览 845

涉无人机飞行 国务院、中央军委公布重磅条例

政知新媒体 浏览 15708

波利塔诺:我们应铭记输给埃因霍温,提醒自己要一直全力以赴

懂球帝 浏览 748

加速进化抢单“双11”

北京商报 浏览 815

赫罗纳3-3皇家奥维耶多,比尼亚斯破僵,戴维-卡尔莫扳平比分

懂球帝 浏览 888

锋寻生物完成近6000万元种子轮及天使轮融资,加速体内CAR-T疗法临床转化 | 融资首发

钛媒体APP 浏览 685

小S二女儿穿露脐装跳舞,被指动作僵硬难看

乔米世娱乐说 浏览 19784

标配激光雷达和四驱 魏牌高山7上市售28.58万

网易汽车 浏览 1066

知名港圈女神近况曝光 被指皮肤松弛显老态

港剧剧透社 浏览 19398
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1