哈希力量归集文库路径访问: 首页 > AI+产业 > AI医疗

当AI伪造图像威胁医学研究

进三 ☉ 文 来源:摄影之友杂志 2025-08-05 @ 哈希力量

【小哈划重点:这正是摄影与科学研究的一大共通点:信任建立在“原始性”的基础上。无论是暗房时代的一张底片,还是如今科研实验室中带有时间戳的数字图像,可信度的核心始终是可追溯性。】

qiR哈希力量 | 通用人工智能文库

目前尚无可靠的工具来检测研究论文中的人工智能图像。图片来源:于韦斯屈莱大学qiR哈希力量 | 通用人工智能文库

在医学研究领域,图像是证据的重要载体。显微镜下的组织切片、细胞排列、染色情况,这些看似枯燥的视觉信息背后,往往隐藏着医学突破的关键线索。然而,当人工智能能够“凭空”生成几乎可以乱真的组织学图像时,这些图像的真实性便不再理所当然。qiR哈希力量 | 通用人工智能文库

根据德国耶拿大学医院的研究人员在《自然》杂志发表的一项实验结果,科学界或许已经步入一个“假图像时代”。他们让816名德国大学生分别判断哪些组织学图像是真实的,哪些是AI生成的。结果显示,即使是有相关经验的学生,也只有70%的正确识别率;而对于毫无医学图像经验的参与者来说,识别准确率仅略高于掷硬币的概率——55%。qiR哈希力量 | 通用人工智能文库

研究的共同作者之一、肾脏病专家拉尔夫·姆罗卡(RalfMrowka)对此表示震惊:“只需要花费很少的功夫,我们就可以生成足以以假乱真的组织学图像。”他的这番话直指问题的本质:伪造的门槛正在迅速降低,而识别的门槛却不断升高。qiR哈希力量 | 通用人工智能文库

这对摄影提出了一个根本性挑战。传统摄影、科学摄影,甚至新闻摄影的价值建立在图像作为现实记录的能力之上。但当一张图像无须任何现实存在便可生成,并且以几乎无法察觉的方式进入学术论文甚至数据库,其所承载的“可信度”就变得岌岌可危。qiR哈希力量 | 通用人工智能文库

在当前阶段,已有的图像篡改检测技术主要集中于识别复制、粘贴或图像拼接等人工修改行为。然而,对于从零生成的AI图像——尤其是高质量、具备高度医学特征的图像——这些检测手段几乎无效。qiR哈希力量 | 通用人工智能文库

为了应对这一风险,姆罗卡和其研究团队提出了多项应对建议,其中之一是提高学术期刊的图像提交门槛。例如,要求作者一并提交所有原始图像数据和实验过程记录,以便验证图像的真实性。另一位研究合作者、神经学家简·哈同(JanHartung)指出,如果每一个实验图像必须原始上传,甚至可追溯到生成源,那么发表伪造数据的门槛将显著上升。qiR哈希力量 | 通用人工智能文库

这正是摄影与科学研究的一大共通点:信任建立在“原始性”的基础上。无论是暗房时代的一张底片,还是如今科研实验室中带有时间戳的数字图像,可信度的核心始终是可追溯性。qiR哈希力量 | 通用人工智能文库

因此,数字实验室笔记本也成为研究者推荐的新解决方案。它能通过内置时间戳功能记录数据生成的全过程,确保图像“出生”的真实性。这种“数字底片”或许将成为未来科研图像的新标准。qiR哈希力量 | 通用人工智能文库

与此同时,更多技术方案也正在被考虑,比如区块链技术的引入。天普大学的生物学家恩里科·布奇(EnricoBucci)便开发了一款图像篡改检测软件,并强烈建议科研领域采用区块链技术来追踪图像的“生命周期”——从拍摄到编辑、上传再到使用,每一个步骤都有明确记录,从而最大限度保障图像的可信性。qiR哈希力量 | 通用人工智能文库

“你可以追踪图像的来源、涉及的人员以及图像处理的每个步骤,”布奇说,“这样你就可以验证图像自生成以来发生了什么。”换言之,科学图像也需要一套类似摄影作品的“元数据档案”。qiR哈希力量 | 通用人工智能文库

但问题在于,科学出版商是否愿意在大规模层面采纳这些工具。“这绝对是一个多方面的问题,”哈同坦言,“不仅仅是技术门槛,还有学术伦理、成本考量以及全球出版体系之间的标准差异。”qiR哈希力量 | 通用人工智能文库

在这里,我们不难看到一个新的“摄影伦理议题”的雏形正在科研领域酝酿:当生成图像与真实图像无从分辨之际,我们如何重建“可信图像”的体系?而摄影——这个起源于科学实验室的媒介,是否也需要在自身内部进行一次关于“真实性”的伦理反思?qiR哈希力量 | 通用人工智能文库

回顾摄影史,这并非第一次危机。从摄影术初创时期关于“照相能否忠实记录现实”的争议,到数码摄影普及后图像篡改的合法性讨论,再到如今AI图像生成技术带来的“现实解构”挑战,摄影始终处于“真假之间”的震荡带。而医学图像作为摄影在专业科学领域的重要分支,如今正首当其冲地遭遇这场人工智能浪潮的冲击。qiR哈希力量 | 通用人工智能文库

或许,我们不能完全阻止技术的发展,但我们可以重新审视图像的价值体系。正如摄影师会珍视底片、保留拍摄元数据、维护图像的拍摄流程透明,科学图像的“可信机制”也需要从源头构建起相似的信任链条。qiR哈希力量 | 通用人工智能文库

而对于每一位从事摄影、热爱图像的读者来说,这不仅是科研领域的问题,也关系到我们如何看待图像与真实、图像与权力、图像与知识之间的关系。qiR哈希力量 | 通用人工智能文库

在AI技术能够轻松造假之际,图像的意义已不再是“它是否真实”,而是“我们如何验证它的真实”。这场技术与伦理的较量,注定不会在短期内落幕。但正如每一次摄影危机所带来的反思与进化,我们或许正站在新一轮图像革命的起点。qiR哈希力量 | 通用人工智能文库



收录源追溯链接或暂略


本文收录后固定可引用URL链接
    http://www.haxililiang.com/zhengce/rus/37499.html


☉ 文库同一主题内容智能推荐 ☉
哈希力量 ☉ 人机智能科普文库