美国大学研究:ChatGPT 的新闻搜索结果经常不准确

seekdeep1年前AI资讯330

据 The Verge 北京时间今日报道,美国哥伦比亚大学 Tow 数字新闻研究中心(Tow Center for Digital Journalism)的研究人员测试发现,OpenAI 的 ChatGPT 搜索工具在准确性上存在一些问题。

今年 11 月,OpenAI 面向订阅用户推出了这一工具,称其可以快速提供答案,并附带相关网页来源链接。然而研究显示,ChatGPT 搜索在识别文章引用时表现不佳,即使是面对来自与 OpenAI 数据共享的出版商的内容,ChatGPT 也难以准确处理。

研究人员测试了 20 家出版商的 200 条引文,其中 40 条来自禁止 OpenAI 爬虫抓取的网站。但 ChatGPT 依然自信地给出了错误答案,几乎没有表明自身的不确定性。

d50735fae6cd7b894bfb3455c3974aa8db330e97.jpg

测试结果显示,ChatGPT 的 153 次回答完全或部分错误,仅有 7 次明确表示无法准确回答。这 7 次回答中,它使用了“看起来”“有可能”等限定词,或直接承认“无法找到具体文章”。

一份图表进一步显示,ChatGPT 的回答中“错误”的占 89 次,“部分正确”有 57 次,而完全“正确”的只有 47 次。

测试中还记录了一些典型案例,例如,ChatGPT 错误地将《奥兰多哨兵报》读者来信的引用归因为《时代周刊》文章;另一个例子中,它在被要求确认《纽约时报》一篇关于濒危鲸鱼的文章引用时,链接到了一家完全剽窃该文章的网站。

OpenAI 对《哥伦比亚新闻评论》回应称,“在缺乏 Tow Center 隐藏的测试数据和方法的情况下,解决错误归因非常困难。这次研究是对我们产品的非典型测试。”OpenAI 同时承诺将继续优化搜索结果。

据IT之家此前报道,今年早些时候,OpenAI 还宣布与新闻行业进行了广泛的合作,并收集了合作伙伴对于搜索功能的反馈。任何网站或出版商都可以选择出现在 ChatGPT 搜索结果中。达成合作的媒体和出版商包含美联社、阿克塞尔・斯普林格、康泰纳仕、道奇梅雷迪思、《金融时报》、GEDI、赫斯特、《世界报》、路透社、大西洋月刊、时代杂志和 Vox 媒体等等。

相关文章

单次输出 64K tokens, OpenAI 测试长输出版 GPT-4o

OpenAI 于 7 月 29 日宣布,正在测试长输出版 GPT-4o(GPT-4o Long Output),每次请求最多可输出 64K tokens。目前该版本仅限 Alpha 测试参与者使用,可...

揭示二叠纪大灭绝秘密 , AI助力科研!

二叠纪末大灭绝是地球历史上最惨烈的生物灾难之一,约80%的海洋生物和大量陆地生物消失。然而,最新研究发现,在新疆吐哈盆地南桃东沟地区,却存在着一个神奇的陆地'避难所',这里的植被和生态...

AI创业者的辛酸谁懂?砸1个亿,投入400人,2款产品落地!

AI创业者的辛酸谁懂?砸1个亿,投入400人,2款产品落地!

正值新春佳节,整个互联网都被DeepSeek塑造的AI成功学氛围所笼罩,处处洋溢着对AI领域斐然成就的热烈讨论与展望。就在当天傍晚,我刷微信朋友圈时,一条长文闯入眼帘,与这喜气洋洋的氛围形成鲜明反差。...

蚂蚁首次公布AI应用矩阵;OpenAI已启动开发“GPT-5”;百度智能云推出“千帆行业增强版”

今日AI daily早新闻主要内容有:OpenAI宣布已启动下一代前沿模型训练,传言已久的“GPT-5”已经开始了;蚂蚁首次公布AI应用矩阵;百度智能云推出“千帆行业增强版”,加速行业大模型应用落地。...

ChatGPT等生成式工具将进行监管,全球首个AI监管法案获批!

当地时间3月13日,在法国斯特拉斯堡举行的欧洲议会全会上,欧洲议会正式投票通过并批准欧盟《人工智能法案》。这是全球首部人工智能(AI)法案,标志着AI监管新时代的展开。《每日经济新闻》记者注意到,欧盟...

OpenAI取消GPT-4 Turbo的每日限制!

OpenAI在社交平台宣布,取消了GPT-4Turbo的所有每日限制,并将速率限制提升1倍。现在,每分钟可处理高达150万TPM的数据。OpenAI这一周的连续王炸组合拳,从ChatGPT增加 “记忆...