医院难以验证GPT-AI完成的临床摘要

seekdeep2年前AI资讯815

尽管很多医院热衷于投入人力物力开发GPT-AI"医生助手"或医用聊天机器人,但在真实环境中验证GPT-AI“助手”过程中,医院管理者和医生感觉"有点混乱",并没有达到预期目标和期望值。关注详情。




阅读文摘


随着人工智能(AI)在医疗保健领域的应用快速增长趋势,各级医院都在评估和部署GPT-AI辅助医生完成患者疾病的临床摘要,比如医护人员在交接班时审阅患者的病历小结,以及门诊病历报告小结等,都面临着挑战。


尽管AI技术,如GPT-4展示了处理复杂医疗内容记录的巨大潜力,但在准确性和安全性方面仍存在问题。


医护人员特别担心AI助手可能遗漏或错误地解读某些关键医学词语或信息,尤其是在缺乏专业人员审核的情况下。


这种担忧导致了医院在引入和落实这些GPT-AI技术时需要选择如何测试其性能、提供哪些安全措施以确保其在真实环境中的安全高效使用。


根据纽约大学朗格医疗健康中心的一项研究报告,使用GPT-4将患者出院摘要转换为易于理解的短文形式,提高了患者对个人疾病状况的可读性和理解,但也发现了AI助手产生的错误和遗漏。这些突显了AI技术的潜力与风险,仍然需要人工干预和审阅以保障准确性。


目前,评估AI生成的医疗文档摘要的方法,仍缺乏标准化和质量控制系统,达到医生满意的结果仍需要解决这些挑战。


为此,AI医学研究人员正在建立评估标准,希望能为AI医学助手在临床病例摘要应用中创建一个可重复使用的评估框架参考。AI技术的快速发展带来了可能的获益同时也产生了潜在风险,这是必然的,但如何解决才是人类的智慧。




AI医学讲座第二部分(3月31日开始)


人工智能(AI)进入医疗保健领域,医护人员借助AI提供更加精准的诊疗,患者获得更加个性化的健康管理和建议。与此同时,也降低了医保费用支出和患者反复住院或急诊率。这些已是不争的事实。


然而,目前医院和医疗主管部门仍在观望AI技术在真实环境中的应用效果,其原因之一是知识和信息储备不足,希望了解更多案例。我们在AI医学讲座第一部分中,以案例解析为主,讲解了智慧医院引入AI技术,包括生成式GPT-AI辅助建立医院“AI窗口”;临床常规检查,数字信息化转型进入AI医学决策中心等。


相关文章

中国“AI教父”李一舟靠卖课年入5000万,“比肩”ChatGPT之父奥特曼!

什么样的人可以“比肩”ChatGPT之父山姆·奥特曼?他就是在国内被粉丝誉为“AI教父”的清华博士李一舟,当别人还在焦虑如用AI赚钱时,他已经在利用AI卖课年入千万了。“比肩”ChatGPT之父山姆·...

马斯克为何要全力炮轰:苹果系统接入ChatGPT

苹果在全球开发者大会(WWDC 24)推出Apple Intelligence(苹果智能),并表示将与OpenAI合作,ChatGPT将整合到包括新一代iOS、iPadOS以及macOS中。对隐私的高...

六大趋势重塑未来生活,智能体崛起引领潮流,2025年AI大变革!

近年来,人工智能(AI)技术发展迅猛,逐步渗透到我们生活的方方面面。从自动驾驶到智能家居,从医学辅助到金融投资,AI的影响力无处不在,且正逐步改变着传统行业的运作模式。随着2025年的临近,AI技术正...

国产的GPT应用商店发布

OpenAI在一周之前刚刚推出GPT应用商店,宣布AI的应用时代就此拉开帷幕了。一周之后,国内的头部AI大模型厂商智谱就推出了照猫画虎的AI智能体应用商店。打开智谱清言的网站,就可以看到里面的智能体商...

ChatGPT 出现答非所问、胡言乱语,OpenAI 已紧急修复!

2 月 22 日消息,ChatGPT 用户昨日发现,该聊天机器人返回了很多奇怪的回答内容,例如切换到其它语言、循环输出,反复自我纠正,甚至有些回复答非所问,纯属胡言乱语。例如一位用户和 ChatGPT...

华尔街将迎投资新时代?小摩AI投顾IndexGPT正式上线 !

据媒体报道,摩根大通已经推出了一款名为IndexGPT的产品,该服务将依赖颠覆性的人工智能(AI)为客户提供投资建议。一年之前,摩根大通为IndexGPT申请了产品商标。根据文件,IndexGPT将利...