随着人工智能迅速渗透进医疗、政务、法律等高责任行业，我们正站在一个关键的技术交汇点：AI 不再只是辅助工具，而正逐步融入系统，参与判断、生成建议，甚至可能影响最终决策。像 DeepSeek、ChatGPT 等模型被接入各类系统，已成为一种常态。
清华大学推出全球首家 AI 医院 Agent Hospital，深圳福田上线 AI 公务员，法律行业也广泛引入 AI 起草文书、检索法规。在效率大幅提升的同时，一个愈发紧迫的问题也浮现出来：
AI 可以参与判断，但当判断出错时，责任由谁承担？
清华 AI 医院：不是工具，而是“AI 医生”？
清华大学推出的 “Agent Hospital”，通过 AI 医生与 AI 病人完成超过一万例模拟问诊，诊断准确率达 93.06%。与传统医院使用 AI 辅助不同，Agent Hospital 从架构层级就实现了智能体的深度嵌入。
清华方面表示，AI 不是取代医生，而是协同工具，用以缓解基层医疗资源紧张，提升效率与质量。但不可忽视的是：一旦 AI 医生参与诊断并被医疗系统采纳，其背后的法律责任链该如何划分？
“AI 公务员”：谁来为公文背书？
在深圳福田区试点的“AI 数智员工”承担了公文起草、数据分析、问答回复等标准化工作，被广泛讨论为“AI 公务员”。然而实际上它们并不具备任何行政权力，所有工作均需在指定公务员监督与复核下进行。这些 AI 员工的所有参数、任务与输出都受到监控，公务员有权随时干预、修改，确保 AI 的参与处于“被控状态”。
AI 律所？它能起草文书，但不能给出“判断”
AI 在法律行业的应用也已非常广泛，能辅助起草合同、分析案件、生成法律文件。但如北京互联网法院的“虚拟法官”所显示，AI 可以参与流程管理，却始终不能作出最终裁判。
美国第17任首席大法官John Roberts 在 2023 年强调：人工智能“显然具有巨大的潜力，可以大幅提升律师和非律师人士获取关键信息的渠道，但是任何使用人工智能的行为都需要谨慎和谦逊”，因为存在“侵犯隐私权益和使法律失去人性化”的风险。
跨行业系统性接入：伦理问题比效率更紧迫
AI 不再是外包工具，而正在逐步成为医疗、政务、法律等行业的“系统一部分”。大型语言模型正在以平台化方式进入业务流程，从数据理解、文书生成到智能推荐，影响越来越深。
正因如此，一些跨行业、系统性的伦理问题已经浮现，它们不是技术进步的副作用，而是技术与制度交汇处的必然挑战：
01. 责任链的“消失地带”
随着 AI 输出在医疗建议、政策建议或法律文书中被广泛采用，它所扮演的角色越来越接近“判断者”。但一旦这些输出出现偏差或错误，公众往往无法追责。
AI 本身不具备法律主体资格，而人类操作者有时也难以对具体行为逐一复盘。责任链在“系统自动化”中逐渐模糊，形成了法律难以追及的灰色地带。这种模糊性，使得本应明确的人类责任开始隐退在技术外壳之后。
02. 专业判断的边缘化
AI 被引入的初衷是提升效率，但在实践中，它的高准确率和快速反应常常让人类专业人员产生依赖。原本需要主观判断与经验支撑的环节，逐渐演变为“确认 AI 是否正确”，而非“独立作出判断”。尽管制度上依然保留了在最后需要“人类签字”这一保障机制，实质上的思考与判断却可能已经让位于默认接受。这种趋势长期发展下去，将逐步削弱人类在关键决策中的角色，也动摇了专业责任制的基础。
03. 公共知情与选择权的缺失
AI 的应用越来越隐蔽，嵌入各类流程之中：你或许不知道接到的医疗初诊建议、收到的政府答复、拿到的合同草稿，已经部分或全部由 AI 生成。在这种情况下，用户往往无法判断自己是否在与 AI 交互，更无从选择是否接受这种服务模式。
当技术部署者出于效率或成本考虑而刻意淡化 AI 的存在感，知情权和选择权也就随之被牺牲。这不仅引发程序公正的问题，更挑战了公众对系统透明性的基本期待。
小结
从医疗到政务，再到法律，AI 正快速渗透各类决策流程。它带来效率，也正在重塑判断机制。当 AI 成为“系统一部分”，相关的法律与合规问题也随之而来——包括如何明确责任主体、如何防范算法歧视与数据滥用，以及如何在高风险场景中确保人类判断不被边缘化。
这些问题的复杂之处不在于违法，而在于制度准备滞后于技术演进。在这样的不确定阶段，更需要对责任边界保持清醒认知。只有边界划得够清楚，AI 才能成为可靠的助手，而不是潜在的风险放大器。
撰稿人：杨雪盈；内容策划：孙纲; 杨雪盈；校对：孙纲
文中内容基于公开资料及作者的理解，不构成任何形式的专业法律建议或商业决策依据。读者在参考本文时，请结合自身实际情况，并咨询相关专业人士以获得具体指导。作者及发布平台对因使用本文信息而产生的任何后果不承担法律责任。
认识我们的团队
孙纲 (Abraham Sun)
首席律师
身为首席律师，Abraham的客户类型全面而多样，包括上市公司、国有企业、超高净值客户、投行。澳大利亚和中国企业以及个人投资者在内的各行业客户都曾在他的专业法律建议下取得了可观的经济效益。
梁欣亮 (Annette Leung)
合伙人，律师，
国际公证师
Annette是一名经验丰富的律师，致力于帮助客户解决各类商业和民事纠纷，尤其在婚姻家事领域具备资深的实战经验。她的经验还包括为在澳大利亚以外的普通法国家的客户提供法律协助。
周宇翔 (Shawn Zhou)
律师
Shawn在多个司法管辖区拥有丰富的执业经验。他持有中华人民共和国法律执业资格，并在澳大利亚新南威尔士州获得律师资格。他在中国和澳大利亚的民事和商业诉讼方面拥有丰富的经验，并在澳大利亚物权法和移民法方面拥有丰富的经验。
张思 (Si Zhang)
高级顾问
Si专精于各类商业，企业和财产事宜相关范畴的法律条文，在收购/出售，物业，公司，商业，工业和零售租赁方面，以及期房，商业开发，外国投资，合资企业方面，她能提供给客户专业且中肯的建议。