Anthropic 首席执行官表示,人工智能模型“可能”比人类产生幻觉的程度更低
Anthropic 首席执行官 Dario Amodei 表示,目前的人工智能模型产生的幻觉比人类少。他还表示,如今的人工智能模型会编造一些事情,并将其呈现为真实的,但这不会限制 Anthropic 迈向通用人工智能 (AGI) 的道路。
周四,在旧金山举行的 Anthropic 首届开发者活动“Code with Claude”的新闻发布会上,Amodei 还指出,电视广播员、政客以及各行各业的人类都会犯错。他认为,人工智能也会犯错,但这并不会降低其智能。
Amodei 表示,人工智能幻觉不会破坏 Anthropic 的目标
人工智能会产生幻觉,对案例和权威产生幻觉,这并不奇怪,因为人工智能具有其创造者的特征。
任何经常与大量诉讼客户打交道的律师都知道,客户会固执地坚持自己的现实,即使事实如此……
— 卡梅伦·阿特金森(@camlatkinson)2025年5月19日
Amodei 在发表上述言论的同时,也承认 AI 幻觉不会限制 Anthropic 迈向 AGI(具有人类水平或更高智能的 AI 系统)的道路。他一直是业内对 AI 模型实现 AGI 前景最为看好的领导者之一。
在他去年撰写的一篇广为流传的论文中,该公司高管相信AGI 最早可能在 2026 年实现。在周四的新闻发布会上,Amodei 提到他看到了这方面的稳步进展,并指出“各地水位都在上涨。”
人工智能领域的其他领导者认为,幻觉是实现通用人工智能的一大障碍。本周早些时候,谷歌 DeepMind 首席执行官 Demis Hassabis 承认,目前的人工智能模型包含太多“洞”并且犯了太多显而易见的错误。他还认为,对于他来说,要被称为通用人工智能 (AGI),它需要在各个方面都更加一致。
“这实际上取决于你如何衡量它,但我怀疑人工智能模型产生的幻觉可能比人类少,但它们产生幻觉的方式更令人惊讶。”
—Anthropic 首席执行官 Dario Amodei。
本月早些时候,Anthropic 的一名律师因在法庭文件中使用 Claude 创建引文而被迫道歉。问题在于,这个人工智能聊天机器人产生了幻觉,记错了名字和头衔。
Amodei 的说法难以验证,主要是因为大多数幻觉基准测试都是将 AI 模型相互比较,而不是将模型与人类进行比较。AI 模型似乎也能通过某些技术(例如获取网络搜索权限)降低幻觉发生率。
人工智能模型通过某些技术降低幻觉发生率
与一些讨论相反,我没有在数据中看到最近的模型或推理者整体的幻觉率大幅增加的迹象。
看起来有些模型比其他模型表现更好,但许多最近的模型的幻觉率最低。pic.twitter.com/55JwikZ7OP
— Ethan Mollick (@emollick)2025年5月6日
OpenAI发现证据表明,高级推理AI模型中的幻觉现象正在加剧。据这家科技公司称,其o3和o4-mini模型的幻觉发生率高于上一代推理模型,但该公司目前尚不清楚原因。
Anthropic 也研究人工智能模型有欺骗人类的倾向,这个问题似乎在该公司最近推出的 Claude Opus 4 中普遍存在。获得早期测试人工智能模型权限的第三方机构 阿波罗 Research 透露,Claude Opus 4 的早期版本表现出很高的针对人类进行阴谋和欺骗的倾向。
根据 Anthropic 的安全报告 已发布周四,该研究所还发现,Opus 4 在颠覆尝试方面似乎比以往的模型更加主动。该公司还发现,当被问及后续问题时,该人工智能模型有时会加倍欺骗。
Apollo承认人工智能模型越来越有可能采取意想不到的、甚至可能是不安全的措施来完成委托的任务。该公司强调,OpenAI 去年发布的 o1 和 o3 模型的早期版本比上一代模型更试图欺骗人类。
Anthropic 在其安全报告中还指出了 Opus 4 存在欺骗行为的证据。该公司表示,即使只被要求进行小规模的特定修改,Opus4 有时也会主动对部分代码进行全面清理。该公司还表示,如果发现用户存在不当行为,Opus4 还会尝试举报。
Cryptopolitan Academy:即将推出 - 2025 年利用 DeFi 赚取被动收入的新方式。了解更多
(责任编辑:黄金TD)
- ·钱站与氧气贷哪个利率高啊?
- ·保险合同和保单是一回事吗?
- ·什么节什么意思-什么节什么意思网络用语
- ·全面了解欧艺OKX注册下载及电脑客户端下载,助力数字货币
- ·火币网莱特币交易平台
- ·首套房贷款利率是多少-首套房贷款利率是多少2024
- ·事业单位工资计提怎么账务处理
- ·10月31日易方达高质量严选三年持有净值下跌0.92%,近6个月累计下跌8.54%
- ·公积金贷款额度应该如何计算,想确定下最多能贷多少钱
- ·10月31日大成恒享夏盛一年定开混合C净值增长0.15%,近3个月累计上涨2.15%
- ·马喜欢什么什么气候
- ·外币财务报表折算的基本原则是什么?
- ·股票除权网
- ·meme币交易所app下载官方 meme币最新版下载官方app下载
- ·okcoin与火币
- ·约旦气候怎么样-约旦气候怎么样啊
- ·买断式逆回购交易落地!央行10月开展6个月期买断式逆回购操作5000亿元 专家:可盘活大量债券资产 本质上仍是资金业务
- ·10月31日招商稳健优选股票C净值增长0.73%,近3个月累计上涨14.03%
- ·保险公司团险是咋回事儿?团险对保险公司来说是什么角色?
- ·meme币交易中心手机端下载平台 meme币交易中心官方版
- ·10月31日国投瑞银产业趋势混合A净值增长0.54%,近3个月累计上涨14.64%
- ·10月31日银华鑫锐灵活配置混合(LOF)A净值增长0.31%,近3个月累计上涨12.35%
- ·10月31日华商甄选回报混合C净值增长0.03%,今年来累计上涨15.86%
- ·10月31日中欧消费主题股票C净值下跌0.48%,近6个月累计下跌9.97%
- ·狗狗币今日最新价格-DOGE币现时价格
- ·10月31日天弘新兴产业混合发起C净值增长0.01%,近3个月累计上涨7.35%
- ·欧易交易所下载
- · okx交易所app官网链接
- · okb交易所官网
- · 数字货币交易app
- · 亿欧app下载
- · 十大虚拟货币交易平台app
- · 全球三大虚拟货币交易平台
- · 虚拟货币交易平台有哪些
- · 虚拟货币交易平台排名
- · 亿欧交易所下载
- ·速览 zkTLS:安全传输信息,下一个 ZK 新叙事?
- ·10月31日国联高质量成长混合A净值增长0.43%,近3个月累计上涨5.24%
- ·什么水果叫什么福-福气水果
- ·欧艺官网网页版/欧艺网页版,一站式在线艺术教育平台
- ·热带常什么无什么-热带有什么现象无什么现象
- ·10月31日交银周期回报灵活配置混合A净值增长0.08%,今年来累计上涨0.92%
- ·宜人贷能自动还款吗,宜人贷的还款时间是什么时候?
- ·10月31日交银启盛混合A净值下跌0.45%,近1个月累计上涨1.02%
- ·销售退回冲减当期收入还是去年收入
- ·10月31日嘉实清洁能源股票发起式A净值增长1.64%,近3个月累计上涨25.53%