摘  要

随着AI技术的快速进步，尤其是大语言模型如ChatGPT的发展，医学临床实践领域正经历一场前所未有的技术变革。这些先进技术通过高效处理和分析大规模数据集，不仅为医疗专业人员提供辅助诊断和治疗建议，还显著提升了医学教育的质量和效率。本研究深入分析并综述了大语言模型在临床问诊、病史搜集、医学文献编写、临床决策支持、医疗门户网站优化、患者健康管理、医学教育、学术研究及科研论文撰写等多个方面的应用。尽管如此，这些技术应用并非无懈可击，伴随着若干限制和伦理挑战。本文重点讨论了技术误差、学术不诚实行为、滥用风险、过度依赖、误诊及治疗失误可能性以及责任划分等方面的问题。大语言模型在医疗整合和发展中展示出巨大潜力。然而，在充分利用ChatGPT 带来益处的同时，我们亟需认识到并解决这些伦理上的挑战，以确保ChatGPT 在医学领域的应用是负责任且有效的。

正  文

随着AI（artificial intelligence，AI）技术快速发展，其在医疗领域的应用逐渐成为焦点。特别是生成式AI，是一类通过学习大量数据来创建或生成新内容的AI技术。通过分析和处理大量的医疗数据，能够辅助医生进行更准确诊断，提高医疗服务效率和质量，在医学教育、诊断辅助以及患者交流等领域显示出广泛的应用前景[1]。然而，随着生成式AI在临床应用中的深入推广也引发了伦理、法律和社会影响方面的问题，如数据隐私保护、算法透明度和责任归属等。此外，技术局限性和潜在偏见问题也引起了对其在医疗决策中角色的担忧。本文旨在全面探讨生成式AI，特别是ChatGPT及相关技术在医疗领域的应用现状和发展趋势，并分析其面临的伦理、法律和社会问题。通过全面审视这些技术的潜力与挑战，为技术进步、政策制定和伦理讨论提供有益的参考和指导，并强调科技为医疗领域带来便利和进步同时，我们也应充分认识到并慎重对待其带来的挑战和风险。

1　ChatGPT

大语言模型在AI 领域中代表了一项重要的技术突破，通过模仿人类的语言学习能力，从而理解和生成文本。这些模型基于深度学习和神经网络来分析大量的文本资料，如书籍、文章和网站内容等，实现对语言的深刻理解[2]。其中，深度学习（deep learning，DL）是一种使计算机模仿人脑处理信息的方法，而神经网络则是深度学习中用于数据处理和模式识别的算法，类似于人脑中的神经元网络。这些技术使得计算机能够通过大规模数据训练，预测和生成连贯、逼真的文本[3]。ChatGPT自OpenAI2022 年发布以来，在多个领域包括医学和学术研究中，引起了广泛关注。基于生成预训练架构（generative pre-trained transformer，GPT）开发的最新版本GPT-4，通过大量的互联网文本训练，具备理解和生成人类式文本的能力，执行自然语言处理任务，如文本生成、语言翻译、摘要、情感分析、实体识别和问题回答等[4]。在医疗领域， ChatGPT已展现出广泛的应用潜力，包括电子病历整理、临床决策支持、数据分析和科研论文撰写等。其对医疗报告、诊断和治疗计划的改进，为医疗实践和患者体验带来了显著增益。然而，在广泛采用于研究和临床之前，需要进一步提高其准确性和原创性，并解决存在的偏见和滥用风险，同时应对学术诚信、隐私和伦理挑战。

2　ChatGPT在临床实践中的应用

2.1    临床病史采集

ChatGPT在医疗领域的应用展示了显著优势，其不仅能够理解人类语言，还能生成接近自然对话的文本。在临床问诊上，患者的自述往往包含复杂的医学术语和非结构化信息，而ChatGPT能够有效提取并分析这些信息，协助医生更深入了解患者的病情和需求。通过模拟对话的形式，ChatGPT可以与患者互动，询问相关症状、疾病发展历程、既往病史等，从而提取出患者描述中的关键信息，转化为医疗人员可用的关键信息。这种互动方式不仅丰富了患者问诊的维度，还能为后续病历书写奠定基础，可以有效减轻医疗人员的工作负担，并通过确保在初步评估阶段不遗漏任何关键信息，提高患者护理的整体质量[5-6]。然而，由于ChatGPT缺乏实际的临床经验和医学判断能力，其问诊结果及生成的临床文本仍需由专业医生进行最终的确认和解读。

2.2    电子病历书写

处理电子健康记录（electronic health records， EHR）中的医疗文档是导致医务工作者职业倦怠的关键因素。尽管这些文档工作对于收集和传递护理决策信息、推动医疗服务改进至关重要，但它们繁复的性质给医务人员带来了极大压力。采用生成式AI，如ChatGPT，可以通过生成标准化的模板并自动填入相关临床信息来优化医疗记录的工作流程，从而提升医疗文档处理的效率。这不仅可以帮助缓解职业倦怠，也有助于保存珍贵的医疗保健人力资源[7]。展望未来，ChatGPT在自动化生成临床文本方面的应用预示着可以减轻医疗人员的工作负担，使他们能够更加专注于对患者的实际护理。然而，将ChatGPT与EHR 系统集成不仅需要确保医疗文件的精确性，还要做到严格保护患者隐私，防止对患者护理产生不利影响[8]。

2.3    临床辅助决策

在医疗领域中，EHR和研究报告等文本数据蕴含着丰富的信息资源。ChatGPT借助其文本分析能力，可以有效地从这些数据中提取关键信息，进而辅助识别疾病模式、评估治疗效果以及预测患病风险，这对于临床辅助决策和个性化治疗方案的制定具有重要意义。ChatGPT可以基于患者的症状和病史，生成全面的潜在诊断列表，并通过与庞大的医学知识库和指南进行对比，排除相关性较低的疾病，从而提供更准确的鉴别诊断[9]。此外，其通过结合年龄、性别、家族病史、生活方式及相关病史等多个与疾病诊断相关的风险因素，辅助风险分层和诊断决策。在整个过程中，ChatGPT通过收集和分析患者数据，以指导医生及时准确的诊断。

2.4    优化门户网站

随着医疗保健行业的数字化，在线健康门户网站已经成为患者获取健康数据的主要渠道。这些门户网站提供了包括预约挂号、查看个人健康记录、向医疗人员咨询信息等一系列功能。其中，与医疗人员交流是患者门户网站中既实用又繁琐的功能之一。通过对一家医疗机构进行随访评估，在6个月内，有近万条消息被发送给外科医生，其中大部分涉及医疗决策[10]。尽管健康门户网站提供了丰富的医疗服务，但所有与医疗人员的消息交流并未得到充分的回应。

将ChatGPT 整合到这些平台中，可能会改变患者与其医疗信息的交互方式。ChatGPT能帮助患者浏览其健康记录、解释检验结果或理解他们的诊断。这不仅使患者更好地掌控自己的健康状况，还增进了对医疗保健的理解。此外，ChatGPT能够更加有效处理和回复患者消息。最近的研究[11]表明，ChatGPT生成的在线健康咨询回答质量更高，更具同情心。

2.5    患者健康管理

患者健康管理虚拟助手是ChatGPT 的一个重要应用方向。首先，ChatGPT在帮助患者有效管理药物治疗方面发挥关键作用。其所提供的用药提醒、剂量指导及潜在副作用和药物相互作用的信息至关重要。其次，ChatGPT通过分析患者数据并提出个性化治疗建议来促进更有效的疾病管理和治疗效果优化。此外，ChatGPT还有助于提高患者的健康意识。由于健康教育资源的普及程度不足，许多患者通过搜索引擎寻找医疗建议，可能会阅读到不恰当的内容，从而导致错误的自我诊断。ChatGPT能够作为一个宝贵的教育资源，为患者提供清晰、易于获取的信息，帮助他们理解自己的病情，并回答患者的疑问，使患者能够积极参与治疗过程。同时，ChatGPT的回答可以根据患者的教育水平进行调整，提供个性化的信息[12-13]。

2.6    医学教育

ChatGPT 在医学教育领域具有广泛的应用潜力。其作为搜索引擎和参考资源，允许对同一个疑问提出无限的后续和澄清问题，这不仅加速了对知识的获取，而且可以深化学习者对复杂医学知识的理解[14]。并且ChatGPT可以通过引用医学文献和资源，为学习者提供学习材料的直接链接或摘要，通过与ChatGPT的互动，医生和其他卫生专业人员能够及时了解最新的医学研究、临床指南和治疗方法，从而促进其学习和专业发展[15]。ChatGPT的另一关键优势在于提供个性化的学习体验，通过调整教学内容和难度，适应不同学习者的需求。这种个性化的学习方法不仅提高了学习效率，还确保每位学生都能从互动中获得最大的学习效益。在教学方面，教育者可利用ChatGPT构建复杂的临床案例，供学生分析。学生可以通过向ChatGPT提问，探索不同的诊断路径和治疗选择，这不仅提升了他们的临床推理能力，也提供了练习处理医疗问题的安全环境[16-17]。

2.7    临床研究和科研写作

ChatGPT的应用在科学研究领域引起了极大的兴趣，特别是在医学论文撰写过程中展现出显著的效用。其作为一种高效的文献检索工具，通过直接回应查询而不只是链接到相关网站，显著缩短研究人员文献筛选时间，使研究者可以更专注于研究工作及方法学的开发上。ChatGPT在协助撰写初稿方面同样表现出色，对于那些非英语母语的研究者以及对语法细节不那么敏感的作者来说，其价值尤为突出[18]。此外，ChatGPT在研究设计、表格创建和数据分析等方面也发挥重要作用，对于大多数研究人员而言，数据分析和掌握统计软件的编程语言（如Stata、R、SAS 或Python）往往具有挑战。在这方面，ChatGPT能够根据具体问题提供代码解决方案，并在此过程中对提供的代码进行解释，对代码中的语法错误进行优化。然而，ChatGPT的应用也存在一些挑战。例如，有时可能需要经过多轮反馈和请求迭代才能生成正确的码[19-20]，并随着其更多地应用于科学写作，伦理问题也受到更多的关注。因此，尽管ChatGPT功能强大，但不能完全取代医学专业人员的专业判断和创新能力。研究人员使用ChatGPT时，应确保研究成果的准确性和有效性，并遵守科学伦理和学术诚信标准[21]。

3　局限性

3.1    回答不准确

在医学领域，信息准确性至关重要，因为错误的信息可能引发严重的后果。由于ChatGPT的训练数据范围广泛且复杂，包括从科学文献到在线论坛等各种来源，其生成的信息可能并非总是准确。此外，鉴于医学研究和治疗方法的不断发展，ChatGPT可能无法实时反映最新的研究成果或临床指南。因此，医疗人员和研究者在使用ChatGPT提供的信息时，应进行独立验证以确保信息符合当前的医学标准。AI模型的性能依赖于大规模的样本训练[22]。然而，由于不同医疗机构的数据标准和结构存在差异，数据质量参差不齐，加上医疗数据中的敏感信息保护、法律法规约束等因素，导致医疗数据整合困难[23]，使得ChatGPT的性能受限制，意味着其输出在某些情况下可能不够准确，从而引发医疗事故和法律问题[24]。

3.2    专业知识的限制

虽然ChatGPT 在处理语言信息方面展现出显著的能力，但其在医学领域的应用面临着专业知识和理解方面的限制。ChatGPT在自动生成信息时可能会产生医疗误导，因为解决医疗问题要求从业者不仅具备深厚的理论知识，还需要具备临床经验和实践智慧。然而，ChatGPT基于预先输入的数据进行学习和响应，其本身并非专门为医学领域设计，因此缺乏对疾病和治疗机制等相关医学知识的深度理解和临床判断力。这意味着在处理复杂的医学概念、掌握最新研究成果或提供个性化患者护理方案时，ChatGPT的准确性可能不足[25-26]。因此，医疗专业人员在使用ChatGPT时应保持谨慎，不能完全依赖其提供的信息，而应结合自己的专业知识和经验做出判断。尽管生成式AI能够提升医生的工作效率和质量，但是，如何有效地将其整合进医生的工作流程仍是一个挑战。成功案例相对匮乏，许多AI模型仍处于试验阶段[27]。在医疗实践中，决策通常需要考虑患者个体差异、病情复杂性及实际可行性等因素，ChatGPT在评估实际需求和可行性方面可能会遇到挑战。

3.3    学术诚信和剽窃问题

使用ChatGPT 等大语言模型在学术和研究领域中可能导致学术诚信和剽窃的问题。由于ChatGPT能够快速生成复杂的文本，虽然这一类文本可以通过虚构的引用来鉴别，但是，仍然有人担心学生和研究人员可能会将ChatGPT生成的内容冒充为自己的工作，这不仅违反了学术诚信原则，还可能导致研究成果的可信度受损。应该强调的是，当前的语言模型如ChatGPT尚未达到能完全替代人类作者的水平，特别是在需要深层理解和专业知识的医学领域。因此，使用这些语言模型时，必须认识到它们的局限性，并采取措施确保文本的准确性和可靠性[28]。在医学研究中，原创性和确证性至关重要，任何剽窃行为都可能对研究结果和患者护理产生负面影响。因此，学术界需要制定明确的指导原则，来监督和管理像ChatGPT这样的AI工具在学术写作中的应用，确保所有发布的研究成果均为原创且可信[29]。

3.4    伦理和责任问题

在医学领域使用ChatGPT会引发伦理和责任方面的问题。作为一种AI工具，ChatGPT缺乏对其产生内容的责任感或伦理判断能力。在医学研究和实践中，使用AI生成的内容可能引发关于作者身份和内容责任的争议，尤其是在涉及患者护理和治疗决策时，因为大语言模型被认为是“黑箱” 模型，其结果生成的逻辑和基础难以解释，一旦发生必须追责。“黑箱问题”会导致无法找出错误预测或建议来源，从而引发责任和追溯性问题。当模型产生错误建议或决策时，如何确定责任和进行纠正是尚待解决的问题[30]。医疗机构和开发者应监测模型性能和安全性，并及时纠正和更新模型，以减少潜在风险和伦理问题。目前，关于AI在医疗领域应用所引发的伦理问题缺乏行业性的指导原则。此外，使用AI工具时，保障患者隐私和数据安全也至关重要，医疗数据包含大量敏感信息，一旦泄露会给患者精神和心理等造成极大损害。患者知情同意同样值得关注，医疗机构有可能在未获得患者知情同意的情况下将患者数据大规模用于AI模型训练。因此在医疗机构层面，医学专业人员和研究者在使用ChatGPT时必须充分意识到这些伦理和责任问题，确保在医学实践中维护高标准的道德和法律规范，以最大程度地保护患者权益和确保研究的可信性。

3.5    滥用和操纵的风险

随着ChatGPT这类先进的生成式AI技术的发展，我们不应忽视其被滥用和操纵的潜在风险。在某些情况下，ChatGPT的建议可能会被误解或错误地应用于医学情境之外，对患者健康构成严重威胁[31]。此外，医疗专业人员在临床实践中对ChatGPT的过度依赖，可能会导致其临床技能退化。ChatGPT应被视为一种补充资源，而非绝对依赖的对象。我们应该批判性地验证其生成的内容，并考虑其中的道德因素。然而，像其他技术一样，高收入国家和特权学者可能会利用这些大语言模型来推进他们的研究，从而加剧不平等。研究应包含来自代表性不足和受研究影响群体的声音[32-34]。在实际应用中，医疗专业人员需要对这些潜在风险有充分认识，并采取适当措施以确保ChatGPT安全、负责任和伦理地使用。通过持续监管、伦理审查和教育培训，可以最大限度地发挥ChatGPT在医疗领域的积极作用，最小化其潜在的负面影响。

4    小结

ChatGPT 是一种先进的语言模型，在医疗保健领域具有众多优势和应用。其可以帮助医疗专业人员完成各种任务，如电子病历录入、医学研究、辅助诊断、患者监护和医学教育。然而， ChatGPT的使用也存在一些伦理考虑和限制，例如可信度、剽窃、侵犯版权和滥用等问题。因此，在使用ChatGPT之前，需要彻底评估和解决潜在的限制和伦理考虑因素。未来的研究可以集中在开发方法来突破这些限制，同时进一步发挥ChatGPT在医疗保健领域的优势。

利益冲突：无。

作者贡献：潘高涧负责选题与研究设计，撰写论文；叶冠志、方韶韩负责文献筛选；朱晓雷、刘鸿鸣、李宁负责撰写和修改论文；耿国军、姜杰设计主题和审校文章。

Tags： ChatGPT 应用于医学临床实践及伦理探索