信息发布→ 登录 注册 退出

谷歌AI模型Veo - 3可伪造手术视频,超93%错误源于医学逻辑缺陷

发布时间:2025-12-22

点击量:

研究人员对谷歌最新视频生|成人|工智能模型veo-3进行了测试,使用真实手术录像作为评估素材。结果显示,该模型虽能生成高度逼真的视觉内容,但在医学操作流程的理解上存在根本性缺失。

研究中,研究人员仅输入单张手术图像,要求Veo-3预测此后8秒内的手术进展。为系统评估其性能,一个国际研究团队构建了名为SurgVeo的专用评测基准,涵盖50段真实的腹腔与脑部手术视频。评估由四位经验丰富的外科医生独立完成,从视觉真实性、器械使用合理性、组织反馈表现、操作医学逻辑性四个维度对AI生成视频进行打分(满分5分)。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

Veo-3生成的视频初看极具迷惑性,部分外科医生评价其画质“令人震惊地清晰”。然而深入分析后,其内容逻辑漏洞频出。在腹腔手术测试中,模型在第1秒的视觉合理性能达3.72分,但医学准确性相关指标则显著下滑:

  • 器械操作:仅1.78分
  • 组织反应:仅1.64分
  • 最核心的手术逻辑性:低至1.61分

这表明,该模型虽可复现高保真影像表征,却无法还原真实手术室中必需的操作顺序、解剖约束与因果关联。

在神经外科这类对精度要求极高的场景中,Veo-3表现更为逊色。自第1秒起,即难以模拟神经外科所需的微米级操作精度。

  • 器械使用得分降至2.77分(腹腔手术为3.36分)
  • 8秒后的手术逻辑性评分更是跌至1.13分

研究团队进一步归类错误类型发现:超93%的错误源于医学逻辑层面。例如——凭空“创造”现实中不存在的手术器械、虚构违背生理规律的组织形变、执行临床毫无依据的操作步骤。而与图像质量相关的错误占比极低:腹腔手术仅6.2%,脑部手术更仅有2.8%。

研究人员尝试向模型注入更多上下文信息,如手术类型、当前操作阶段等,但效果未见显著或稳定提升。团队指出,问题症结并非输入信息不足,而是模型本身缺乏对医学知识的内在理解与因果推理能力。

SurgVeo研究清晰揭示:当前视频生成AI距真正具备医学理解能力仍有巨大鸿沟。尽管未来此类系统有望应用于医生培训、术前模拟乃至术中辅助,但现有模型远未达到临床安全应用的基本门槛。它们擅长制造“以假乱真”的视听幻象,却严重欠缺支撑正确临床判断的知识根基。

研究团队计划将SurgVeo基准数据集开源至GitHub,以推动全球学界协同提升AI在医学领域的认知与推理能力。该研究亦发出明确警示:将此类AI生成视频直接用于医学教育存在重大风险。不同于英伟达利用AI视频训练通用任务机器人,在医疗场景中,这种“幻觉”可能引发严重后果——若Veo-3类系统输出看似合理、实则违反医学规范的操作视频,或将误导手术机器人执行错误路径,或导致医学生习得危险技术。

此外,结果还显示:当前将视频生成模型视作“世界模型”的设想仍明显超前。现有系统仅能捕捉表观运动模式与形态变化,尚无法可靠建模解剖结构、生物力学响应及手术中的因果链条。其输出虽具表面说服力,实则无法映射手术背后真实的生理机制与操作逻辑。


相关文章: AI赋能语文教学,文心一言揭秘高效出题之道,hr行业ai开放平台  AI与三维建模的跨界融合,AI赋能3D模型新,落月ai  GPT最新消息:人工智能的未来,助力各行各业突破创新瓶颈  文心一言4.0,智能写作助手迈上新台阶,ai涂药  提升写作效率,释放创意潜力文章生成AI软件的未来  SuperAI模型库,打造智能基石的未来蓝图,viiitor ai  AI模型部署实战攻略,全方位场景应用指南,ai人类婴儿  SEOChinaz:让您的网站在搜索引擎中脱颖而出  文心独运,巧呈一言,打造沉浸式阅读盛宴,ai坠龙  华为AI赋能,携手合作伙伴共创智能新时代,AI佛陀模板  美国域名后缀打造国际化品牌的关键一步  星火AI模型,科大讯飞引领智能时代新引擎,ai瑞士风景  全I模型全览,国外热门深度解析,手写信ai  AI矢量生成模型入门宝典,创意无限,轻松掌握,ai摄影成都  SEO与SEM有什么相同与不同?深入解析搜索引擎优化与搜索引擎营销的区别与联系  AI力量揭秘,训练模型能力的AI公司现状探析,ai直线圈  AI助手文心一言,解码智能模型架构之谜,酶标仪ai画图  AI模型功耗解析,揭秘其内涵与影响,li pi ai  AI语音模型,人工智能领域的核心技术探秘,ai少女另存为新档  AI赋能艺术,一键下载场景原画模型,引领数字创作新时代,ai 亚马逊 选品  AI模型架构深度解析,核心技术与应用解析,ai试卷图  文心一言公测成功落幕,创新征程再启新篇,ai100508051314  AI模型统,智能应用稳定运行的守护者之路,ai选择笔触  AI赋能编程新篇章,未来编程助手解析代码,ai少女视频1001ai少女视频  云曦新模型,AI新下的未来蓝图,ai鬼跳  文心一言,解锁高效智能创作新境界,ai晃脑袋  AI大模型,揭秘独树一帜的特色与差异,ai容  AI大模型软件引领智能生活新时代,ai绘画青春关键词  AI重塑现实,豆包本人的AI资料揭秘之旅,八角Ai  在线AI写文:开启高效创作新时代  摘要AI生成:高效工作的新时代利器  智能AI写作生成:如何借助人工智能提升创作效率与质量  文心一言表格操作指南,数据管理处理轻松上手,ai青大  文心一言App,开启智能写作新时代,ai扫描  文心一言审核流程深度解析,揭秘时长与关键要点,河北ai机器视觉设备  文心一言,见证父母的婚礼盛典,ai写作软件破解版下载  AI办公软件排名:提升办公效率的必备利器  文心一言股价跌势分析,多因素交的市场调整解析,ai线段设计  解码AI大模型,基础设施与关键技术解析,怎么用ai设计手提袋  从零到精通,AI照片模型训练全面教程,ai底纹填满  AI大模型,引领未来智能时代的核心动力,ai博士备考  AI绘画神器大揭秘,软件盘点与实操攻略,ai手写字书法  SEM优化与SEO优化:数字营销的双剑合璧  AI赋能甜点,人工智能打造创意烘焙模型新,ai党建新闻  打造高效豆包AI,全方位训练指南,ai路径选择工具  荣耀AI大模型首次曝光,引领下一代智能交互,小助手ai  AI金融科技领航者,大模型专家预见未来金融智慧之光,AI黑体是什么意思  AI绘画浪潮,探索模型软件的崛起与绘画未来,Ai圆和线封闭  AI免费文章解读:智能写作新篇章,小店AI  好用的AI写作软件,让创作更高效 

标签:# 脑部  # 应用于  # 不存在  # 这类  # 所需  # 但在  # 以假乱真  # 景中  # 外科医生  # git  # 此类  # 视频生成  # ai视频  # 英伟达  # ai  # 谷歌  # 人工智能  # github  
在线客服
服务热线

服务热线

400 8905 500

微信咨询
二维码
返回顶部
×二维码

截屏,微信识别二维码

打开微信

微信号已复制,请打开微信添加咨询详情!