人工智能“宪法”出炉 初创公司发布AI道德价值观_当前要闻
财联社5月10日讯(编辑牛占林)美东时间周二,谷歌支持的人工智能(AI)初创公司Anthropic公布了一套针对AI发
财联社5月10日讯(编辑 牛占林)美东时间周二,谷歌支持的人工智能(AI)初创公司Anthropic公布了一套针对AI发展的书面道德价值观,该价值观主要适用于训练和保护人工智能。
Anthropic成立于2021年,创始团队大都来自ChatGPT的开发商OpenAI,也有类似于ChatGPT的人工智能聊天机器人,其名为“Claude”,可以处理一系列较为复杂的任务。
Anthropic一直强调其旨在构建“可靠、可解释和可操纵的人工智能系统”,比如不会告诉用户如何制造武器,也不会使用带有种族偏见的语言。
【资料图】
这次公布的人工智能道德价值准则也被该公司称为“Claude宪法”,这些准则借鉴了几个来源,包括联合国人权宣言,甚至还有苹果公司的数据隐私规则。
上周四,谷歌、微软、OpenAI和Anthropic四家公司的首席执行官们受邀在白宫与美国副总统哈里斯会面,讨论了有关人工智能的一些关键问题,美国总统拜登也短暂出席了此次会议。
根据拜登在推特上发布的一段视频,他在会上对这些公司首席执行官们表示:“你们正在做的事情具有巨大的潜力,但同时也存大巨大的风险。”
哈里斯在一份声明中说:“科技公司需要承担道德和法律责任来确保其产品的安全。每家公司都必须遵守现行法律,保护美国公民。”
没想到在会面几天之后,Anthropic首席执行官达里奥·阿莫代便做出了实际行动。
大多数人工智能聊天机器人系统在训练过程中依赖于从真人那里获得反馈,以确定哪些反应可能是有害的或冒犯性的。但这些系统很难预测人们可能会问的某些问题,因此它们往往会避免一些可能有争议的话题,比如政治和种族。
Anthropic则采用了不同的方法,它为其人工智能聊天机器人Claude提供了一套书面的道德价值观,供其在决定如何回答问题时阅读和学习。
Anthropic在周二的一篇博文中提到,这些价值准则包括“选择劝阻和反对酷刑、奴役、残忍和不人道或有辱人格的回答”。Claude还被要求选择最不可能被视为冒犯非西方文化传统的回答。
在一次采访中,Anthropic的联合创始人杰克·克拉克表示,可以修改系统的结构,以便在提供有用的答案和无害之间取得平衡。
克拉克认为:“几个月后,我预测政界人士将非常关注不同人工智能系统的道德价值观,而像‘Claude宪法’这样的方法将有助于这种讨论,因为我们认为有必要写下这些价值准则。”
标签:
财联社5月10日讯(编辑牛占林)美东时间周二,谷歌支持的人工智能(AI)初创公司Anthropic公布了一套针对AI发
大小新闻5月10日讯(YMG全媒体记者钟嘉琳通讯员孔祥雯)随着餐饮、旅游等各类服务消费持续升温,芝罘区抢抓
里夫斯:詹姆斯是有史以来最伟大球员他的话分量很大&能启发人,启发,分量,里夫斯,中国篮球,湖人主场,勒布朗
1、《孤独是生命的礼物》是2017年4月中国友谊出版公司出版的图书。2、作者是余光中、林清玄、白先勇等。文
湖南日报5月9日讯(通讯员喻志远凌湘峰)日前,株洲A级包保单位积极使用“两个责任”指导企业内部的生产经营
1、所谓盈亏分界点,即企业不盈不亏时的产品梢售t。2、当销侈t高于分界’点时,企业就有盈利,低于分界点时,企
直播吧5月9日讯英国主持人摩根发文,为今晚的节目预热,称他将在节目中讨论梅西前往沙特一事。摩根写道:“
1、《春晓》【唐】孟浩然春眠不觉晓,处处闻啼鸟。2、夜来风雨声,花落知多少。3、《春夜喜雨》【唐】杜甫
5月9日电,澳元兑美元日内走低0 50%,现报0 6752。
挖贝网5月9日,北新路桥(002307)(002307)董事会于近日收到副总经理于凡的书面辞职报告,于凡因工作变动原
新华财经北京5月9日电(吕世阔、许旻毓)截至5月9日,新华·山东港口钢坯价格指数报3560元 吨,较前一交
相信很多小伙伴都有在使用微信,在其中如何才能辨别火车票的真假呢?方法很简单,下面小编就来为大家介绍。
新华视点丨揭秘基金从业资格考试“0复习保过”培训套路---“0基础就可以上岸”“两科3万元,不过全额退款”
《奇迹时代4(AgeofWonders4)》中的召唤流召唤出来的召唤物基本上都是非常厉害的,尤其是亡灵召唤物,而召
一、线路简介游览马踏湖湿地生态美景,闻沁人花香,体验湖区民俗风情。夜晚在露营地烧烤野餐、开主题派对,
齐鲁晚报 齐鲁壹点记者李梦晴 5月9日,德州市召开“中国式现代化的德州实践”系列主题新闻发布会“全面
中新网5月9日电题:国家开发银行:推动“十四五”期间东北振兴贷款余额稳定增长中新财经记者王恩博记者9日
运营商财经杨杨 文今年3月29日,神州数码新上任了两位副总裁,分别是韩啸和朱丽英,此次运营商财经试图梳理
近日,安庆市民张先生反映,他所居住的大发宜景城发生了高空抛物损坏车辆一事,希望公安部门尽快找到肇事方
阿里资产一年一度的“520投资节”已经拉开帷幕。汽车行业作为阿里资产平台交投最活跃的标的门类,也是平台
塞尔达传说王国之泪鲁纳奇塔神庙怎么过鲁纳奇塔神庙通关策略,下面给大家带来塞尔达传说王国之泪鲁纳奇塔神
2023年5月9日,超级短剧《我的老婆是百亿大老板》在燕郊正式开机。该剧主要讲述了女主林檀为了守护自己的家
苹果近年在AppleWatch上换代升级是非常缓慢了,不仅外观不变,连内部芯片在去年发布的AppleWatchSeries8上
1、“踏破贺兰山缺”中的“缺”读作què,同阙。2、该句出自宋代岳飞的《满江红·写怀》。3、1 原文:怒发
吴若希【初•遇】巡回音乐会-东莞站将于6月24日20:00在东城影剧院开始演出。演出时长:以现场为准入场时间
弘扬英模精神激励担当作为河北举办刘亚斌同志先进事迹报告会“他向群众捧出的,是一颗滚烫、赤诚的心!”“
1、翻译:在旧亭台上饮了一杯酒,边写下一曲新词,想起去年也在这里,也是这样的天气,我坐着,看那夕阳西
社会“认养”唤醒“中国最美乡村”
⭐️星标本号送5套4A文案培训课件+5本经典文案书(pdf)(点上方名片-点右上角-设为星标)发截图+“已星标”
5月5日,从青海省相关部门获悉,青海省发现该省首个超大型大鳞片晶质石墨矿床,实现了青藏高原浅覆盖区石墨