Nature：人工智能出病理报告，准确率高达89.5%！

2024 年 8 月 7 日 18点热度 0人点赞 0条评论

Bringing medical advances from the lab to the clinic

关键词：病理；人工智能；Nature

随着人工智能（AI）技术的快速发展，多模态生成式AI助手在多个临床领域展现出巨大的潜力。

在病理学领域，计算病理学的进步使得基于图像和语言的综合分析成为可能。2024年6月12日，哈佛医学院的科学家针对名为PathChat的多模态生成式AI助手的研究发表在_Nature_杂志。

结果显示：PathChat能够理解并处理视觉和语言输入，提供精确的病理学相关查询响应；从活检切片中正确识别出疾病的准确率高达89.5%。而且，与其他病理学工具不同，该系统可以与用户讨论结果。

在该研究中，这个结合视觉编码器和大型语言模型（LLM）的多模态生成式AI助手PathChat的核心组件包括：

视觉编码器：预训练于超过100万张病理学图像，以提取高维图像特征。
多模态投影模块：将视觉特征映射到LLM的嵌入空间，使得视觉和语言信息可以结合处理。
大型语言模型（LLM）：使用13亿参数的Llama 2模型，能够处理复杂的自然语言指令并生成响应。

研究方法与数据集

为训练和评估PathChat，研究团队构建了一个包含456,916条指令的数据集，其中包括999,202次问答回合。数据集来源多样，涵盖了图像说明、PubMed开放获取文章、病理学病例报告和全视野图像的兴趣区域。

此外，研究团队还创建了一个高质量的病理学问答基准（PathQABench），包括从多家医院收集的105例全视野图像。评估方法包括多选诊断问题和开放性问题，分别测试PathChat在病理图像分析和临床背景结合诊断中的表现。

主要结果

多选诊断问题表现：

无临床背景下：PathChat在多选诊断问题中表现优异，准确率达78.1%，显著高于LLaVA 1.5和LLaVA-Med（分别提高52.4%和63.8%，p < 0.001）。
有临床背景下：结合临床背景后，PathChat的准确率进一步提升至89.5%，相较于无临床背景提高了11.4%。

开放性问题回答表现：

PathChat在开放性问题回答中生成的响应被专家评估为更准确和更受欢迎。相较于GPT4V，PathChat在回答病理学相关复杂问题时表现更佳。
在“显微镜检查”和“诊断”类别的问题中，PathChat的准确率分别为73.3%和78.5%，显著高于GPT4V的22.8%和31.6%（p < 0.001）。

专家评估：

专家评估显示，PathChat在多项任务中的表现均优于其他多模态语言模型，包括LLaVA 1.5和LLaVA-Med。在“显微镜检查”和“诊断”类别中，PathChat的表现尤其突出。

随着人工智能的发展，AI医学助手进入到临床已经成为必然。

PathChat作为一个多模态生成式AI助手，展示了其在病理学领域的巨大潜力。通过结合视觉和语言输入，该助手不仅在诊断准确性上表现出色，还在病理学教育和研究中具有重要应用价值。

临床应用：

PathChat能够辅助病理医生进行更准确的诊断，提高诊断效率并减少误诊风险。其结合视觉和语言的能力使其在处理复杂病例时尤为有效。
该AI助手还可用于医学教育，为病理学培训提供专家级指导，缩小区域医疗差距。
但目前就讨论AI医生替代病理科医生尚早。之前在北京协和医院病理科工作的Dr. Meng认为，90%的准确率仍然太低了。病理学研究员 Lou Vaickus 亦表示，目前仍无法依赖AI助手的诊断。

科研启发：
PathChat展示了多模态生成式AI在病理学中的广泛应用前景，未来研究可以进一步优化该模型，如通过人类反馈强化学习（RLHF）降低错误生成。
未来的研究方向还包括支持输入整张全视野图像（WSI），提高在诊断边界性病变时的实用性。
AI助手准确率仍有待提高，也提出了重要而未解决的临床问题：目前阶段如何利用AI助手，未来如何让AI助手的准确率超过病理科医生。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】