“生病了问AI”，出错了怎么办？法治日报

武乡侯 · 发表于 2025-4-1 16:25

“生病了问AI”，出错了怎么办？

[url=]

[/url]
[url=]法治日报[/url]

[url=]2025年04月01日 06:52:26 来自北京[/url]

89人参与9评论

□ 本报记者　　赵丽

□ 本报实习生陈颖

今年3月，一名“95后”新手家长面对孩子反复咳嗽发热的症状，在手机端用AI问诊判定孩子为“普通呼吸道感染”，并参考网络建议居家用药，致病情延误。最终，孩子被医院确诊为病毒感染肺炎。医生指出AI问诊存在一定风险，应以专业医疗意见为准。

此事引发网络热议。AI癌症早筛、AI肺结核诊断、AI手术机器人、AI导诊机器人……近年来，AI技术已在门诊导诊、临床辅助诊断、疾病管理等环节广泛应用，尤其是今年年初DeepSeek的问世，更是掀起了一股“生病了问AI”的热潮。但也有不少人反映，AI医疗并没有想象中那么靠谱，看错病、看不出病的情况时有发生。

对于AI医疗，舆论场也涌现出更多的追问，比如：AI医疗是否会影响到医生的地位？如果AI诊断错误，谁来负责？如何保护普通人的医疗数据隐私？如何让AI医疗发展更快、应用更广？

AI医疗只是辅助手段

“AI医疗可以提升医疗服务的效率，已经在疾病预测、健康管理、影像识别等领域表现出色，能够为患者提供较为精准的医疗服务。”中国卫生法学会副会长郑雪倩向记者介绍，在基层或缺乏专家资源的边远贫困地区，可以通过AI进行初步筛查，并为医生提供提示或诊断参考，从而优化医疗资源分配、推动分级诊疗政策落地、提升基层医疗服务能力。

正因AI医疗彰显出诸多优势和巨大潜力，“AI会不会抢医生饭碗？”“AI医生看病爆火”“AI看病比三甲医院医生还准”……在最近关于AI医疗的网络讨论中，相关话题频繁出圈。“当DeepSeek给出了和主任医师一样的诊断，以后是否还有必要去医院？”近期，这样的疑问也出现在了医患对话中。

记者采访了多位一线医务工作者，他们均不反对患者使用“AI问诊”。但对“‘AI问诊’的结果是否靠谱”“能否作为诊疗依据”等问题，受访医生都抱着谨慎态度。他们普遍认为，“AI问诊”存在局限，只能作为一种辅助手段，并不能替代医生。

北京市某社区卫生服务中心的全科大夫周医生坦言，在基层医疗机构平日里遇到疑难杂症的情况不多，更多的是高血压、糖尿病、心脏病等慢性病的老年患者，AI在慢性病随访、慢性病管理上还缺少些“人情味儿”。

“以预问诊AI为例，有老年患者反映，他有几个晚上睡不好觉导致头疼、心慌，AI就有可能把所有有头疼症状的病都列给医生，其中绝大多数是无效信息。”周医生说，疾病的诊断是一个模糊决策，尤其是在社区这种基层医疗机构，看病的基本是“老熟人”，往往需要医生综合病史、症状等多种信息、根据经验缩小范围下诊断，AI目前在这方面还不够成熟。

“AI医疗是人工智能在医疗领域的应用，即通过大数据的分析学习，建模，来辅助或优化医生在看病治疗以及健康管理环节的一项技术应用。”在中国卫生法学会常务理事、北京市华卫律师事务所副主任邓利强看来，AI医疗通过机器的学习建模进行数据的分析，让AI反复学习的确可以帮助识别病症，但这种建模本身有数据库的问题，再加上无法把医生的诊疗经验揉到建模里，所以这种智能诊断不可能完全取代医生。

“AI问诊缺乏人文情感交流，AI开方无人审核，还可能出现误诊、误治和AI医疗的法律主体不明确等问题。因此，AI医疗应当始终定位于医生的辅助工具。”郑雪倩说。

持谨慎态度划定红线

随着AI医疗在全国逐步落地，一场医疗领域的巨大变革正在发生。仅今年2月以来，就有不少医院发布其最新应用成果。

比如，上海瑞金医院发布瑞智病理大模型，AI仅需数秒就能精准识别病理切片中的病灶区域；北京协和医院研发的“协和·太初”罕见病大模型已进入临床应用阶段；上海市肺科医院参与研发的肺部智能手术规划系统，将实际手术规划时间从数天缩短至2到5分钟……

虽然有多项成果问世，但对于AI医疗，不仅是医生，相关部门也保持谨慎态度。记者梳理公开资料发现，目前针对AI医疗已出台多项限制性措施：湖南省医保局发布通知，禁止使用AI自动生成处方，以维护医保基金安全和患者权益；北京禁用AI自动生成处方，并成立了互联网诊疗监管平台；国家卫健委和国家中医药局联合发布的《互联网诊疗监管细则（试行）》明确规定，人工智能不得替代医师本人提供诊疗服务……

“这些政策和规定表明，我国在AI医疗领域已经开始划定红线，以确保技术应用的安全性和伦理性。”郑雪倩说，医疗安全底线包括：处方红线，即AI不得自动生成处方，医生必须对诊疗行为负责；伦理红线，即AI应用需遵循医学伦理，确保患者隐私保护、数据安全和公平性；技术红线即AI技术需经过严格的临床验证，确保其在实际医疗环境中的有效性和安全性。

受访专家明确，即便有AI的辅助，医生仍是最后把关人，如果医生利用AI诊疗出现误诊、漏诊等医疗事故，最终还是由医生承担责任。

邓利强认为，由于AI医疗存在较多法律风险和合规挑战，这才让相关部门对AI医疗的态度如此谨慎。

“医疗数据涉及患者的个人隐私，哪些数据可以向研发AI医疗的企业开放并未有明确规定，而且直接针对医疗数据开放的法律法规尚未出台，无法对数据按照统一技术标准进行清洗处理；对AI误诊的责任界定和相应法律纠纷的处理办法同样存在争议；目前国内医疗数据共享不足且缺乏标准规范，制约着AI医疗产业的发展……”邓利强说，正因有诸多问题亟待解决，所以医疗保守绝不是落后，恰恰是对生命的负责。

应平衡创新加强监管

AI医疗，今后如何才能更好地发展？

邓利强说，应平衡AI医疗技术创新与合规监管关系。要强化全流程的资质审查机制，即针对AI医疗和AI处方各个环节的主体都必须有诊疗的资质，这是不能突破的底线。应强化企业的自律与诚信机制的建立，开发和使用AI医疗的企业都必须依法合规。需要明确AI医疗产品的注册、审批、使用和退出流程，并加强对算法透明度、公平性、隐私保护等关键维度的评估与监管。

郑雪倩建议，应建立伦理审查机制，确保AI技术在医疗领域的应用符合伦理道德要求。还要鼓励社会各界对AI医疗技术进行监督和评价，形成全社会共同参与的监管格局。加大处罚力度，提高违法成本，构建更有效的法律威慑体系。加大正向宣传引导，提高医生和患者对AI技术的接受度是实现技术普及的关键。

2025中关村论坛年会期间，AI医疗成为与会专家热议话题。与会专家建议，加强监管与伦理指导，制定严格的数据安全和隐私保护政策，设立医疗AI伦理委员会。同时，提高模型透明度，发展可解释AI技术，使大语言模型在医疗决策时能够提供推理过程。例如在肿瘤诊断中，AI需指出影像特征依据，而不是只给结论，还要设定合理的使用范围。大语言模型适用于医学教育、辅助决策和信息检索，但不应直接用于关键诊断或治疗决策，最终决策仍需由专业医生作出。

“医疗从业人员的确应该积极拥抱发达的技术，但技术对行业本身的冲击以及它是否能实现有温度的医疗，也是我们行业的引领者所需要思考的。我们期待的是，行业参与者冷静思考的心和职业情怀，可以让技术成为帮手，而不是让患者的医疗安全受到影响。”邓利强说。

武乡侯 · 发表于 2025-4-1 16:28

外卖小哥身陷“算法束缚”等困境怎么破？

法治日报
2025年04月01日 06:50:35 来自北京
44人参与3评论
□ 本报记者　　余东明张海燕

□ 本报实习生张晓颖

有一群人，每天起早贪黑穿梭于城市大街小巷，他们的工作关乎每个人的吃穿住行。他们伴随互联网新业态而生，被誉为城市运行的“毛细血管”。他们就是新就业群体。

今年国务院《政府工作报告》明确提出“加强灵活就业和新就业形态劳动者权益保障”。全国人大代表、上海市高级人民法院院长贾宇还就此联合部分代表递交了“关于修订劳动合同法的议案”。

上海是我国平台经济的领头羊，近年来以外卖员、快递员、网约车司机等为代表的新就业群体不断扩大。他们不仅为城市高效运行作出贡献，更是成为“平安上海”“法治上海”建设的参与者和见证者。《法治日报》记者近日走进上海的街头巷尾，走进快递站、网约车司机驿站等地，深入了解新就业群体面临的发展困境和上海破解难题、保障其合法权益的探索实践。

算法束缚

去年上海放宽网约车驾驶员户籍限制后，王师傅从陕西来到上海，考取了《网络预约出租汽车驾驶员证》（以下简称“人证”），又在租车公司租赁了一辆有《网络预约出租汽车运输证》（以下简称“车证”）的营运车，开始了“沪漂”之旅。

“现在一天要开13至14个小时，每月交完车辆租金，到手只有七八千元。”王师傅掰着手指告诉记者，刚来那阵子认为收入尚可，只要自己再辛苦些收入还会增加，可事实上，到一定水平就涨不了了。

“我们还得自己承担保险，一年要缴两万多元，公司虽然推荐了‘众筹保险’，价格便宜一半多，但出了事故很难理赔成功……”他说。

早上7点，徐汇区美罗城外，外卖骑手们拿着各种包装好的早餐鱼贯而出已成为日常。尽管天空飘着细雨，他们却毫不在意。29岁的是一名海归留学生，半年前他绝不会想到自己会成为“外卖小哥”。他笑言自己就是电影《逆行人生》中男主角的现实版。

小杨一开始注册的是众包骑手（无加盟），由于抢单慢、地理不熟，一天收入仅30元。后来他不得不加盟站点成为专送骑手，接受培训后收入才有所提高。他坦言：“按单计费虽说多劳多得，但我和很多同行都知道，我们的收入还是和算法有关。”

“平台利用算法控制站点配送量，不允许人效（人效=站点总单量/骑手数）超过35单。”一名某外卖平台加盟站站长向记者介绍，以专送骑手每单5元至7元，人均每天跑35单为例计算，即使全勤跑满30天，加上各种奖励费用，一个月到手收入只有七千多元。

“有些专送骑手在熟悉路况和内在窍门后，又会再转行当众包骑手，每单虽然只有3元至4元，但单量不受限制，抢到的也多是不用爬楼的近单。”这名站长说，但是算法就像如来神掌，任凭你会七十二变，却依然被其束缚。

维权陷阱

不久前，上海市第二中级人民法院（以下简称上海二中院）审结一起网约车司机交通事故纠纷上诉案。该案司机背后牵连多家公司，所有公司都以自然人服务合作协议、租车协议等为由意欲撇清与司机存在劳动或劳务关系，以逃避事故赔偿责任。

上海二中院经审理认为，平台公司通过网约车平台算法实现对网约车驾驶员的隐蔽控制，实施一定的监督管理，同时对驾驶员缺失“车证”和“人证”存在未履行资质审查义务的过错；而网约车司机当时系加盟商招募从事网约车服务，且平时还对网约车驾驶员进行一定的管理与约束。最终，上海二中院判决平台公司和加盟商对本案交通事故承担相应的赔偿责任。

“去年，上海法院审结新业态劳动争议案件1223件。在司法实践中，上海法院在现有法律框架内努力做好司法保障，破除以连环外包等隐蔽手段规避用人责任的‘障眼法’。”贾宇在递交全国人大议案前，对此做了广泛调研。

他告诉记者：“许多新就业群体在签合同时，甚至不清楚甲方是谁，一旦遇到问题就茫然不知所措。司法保障是最后一道防线，我们有责任也有义务预防和干预其中存在的诉讼风险。”

记者在调查中发现，当前新就业群体权益保障面临三大问题。

一是少数平台为扩大经营对“人证”“车证”缺乏审核。“只要有驾照，再交500元押金就行，上路被查由公司摆平。”采访中一名自称是“上海网约车人事部”的工作人员对此“大包大揽”，甚至还有租赁公司利用修图软件伪造驾龄和车辆性质，让本无资质的司机和车辆进入市场。发生事故时，因“准入造假”被保险公司拒赔，由此产生大量纠纷。

二是合同签订陷阱重重，附加了更多“额外责任”。在司法案例中，有平台与骑手签订自然人服务合作协议，约定“造成任何第三方人身财产损害的，由乙方（骑手）承担全部责任”；还有租车公司与司机签订租车协议时，约定每月必须完成的流水金额和在线时长，完不成要上涨租金。

三是骑手、司机长期处于身体和精神的双重压力，社保覆盖却严重不足。一旦出现问题，很难找到合法合理的救济渠道。

上海市君悦律师事务所主任胡光说，从法律外观主义和终极平台最大获利的经济角度来看，亟须强化平台责任，加强对新就业群体的权益保障，为他们构建一个更加公平合理、合法合规、健康可持续的职业生态。

路在何方

“我在骑手App上一键报案后，平台第一时间介入，协助完成职业伤害确认、待遇核定等业务办理。”骑手小李在送餐途中因意外骨折，不仅顺利报销了医疗费，还在养伤期间领取了生活保障费，小李享受的正是新就业形态就业人员职业伤害保险（以下简称“新职伤”）。据了解，上海自2022年7月1日起，按照国家统一部署将曹操出行、美团、饿了么等7家平台的就业人员纳入“新职伤”试点范围。

“新就业群体的社保中，最为急需的是工伤保险。”华东政法大学社会法研究所所长李凌云认为，目前试点工作初见成效，可向全行业推广，同时还要匹配相应的商业保险。“新职伤”可以解决医疗、伤残和死亡等相关待遇；商业险则解决财产损失（如车损）以及对第三人造成的人身损害和财产损失。商业险承担主体不宜一刀切，可由司机和平台分别承担；而对于骑手来讲，可实行按单投保。

目前，京东、美团等平台已对外宣布为外卖骑手缴纳社保。京东方面表示，会逐步为全职骑手缴纳五险一金，并承担个人所需缴纳部分；美团方面表示，将制定平衡成本和权益的社保方案，逐步为全职及稳定兼职骑手缴纳社保；有网约车平台推出司机商业养老保障、专属医疗及意外保障、极端天气损失误工保障等举措。

针对算法束缚，李凌云建议，人社部门等应引导平台企业和新就业群体开展协商达成共识，以劳动者的“看法”来优化平台“算法”；对于用工乱象，胡光认为，有关部门应加强对平台的监督治理，尝试建立责任分担机制，严格防范不合理抽成行为和非法用工乱象。

“目前，我国劳动合同法主要针对传统就业方式，难以适应灵活就业的特点和需求，导致灵活就业人员在劳动报酬、劳动时间、社会保障等方面的合法权益保障不到位。”贾宇建议修订劳动合同法，进一步保障灵活就业人员劳动报酬、规范工作时间，进一步明确规范社会保险的缴纳主体、保障范围等，通过专门立法统一规范相关权利义务，保障灵活就业人员的基本权益。

“要解决新就业群体的权益保障问题，需要各方携手，形成共识与合力。”贾宇说，上海作为超大城市，要进一步利用精细化治理的经验优势，持续深化制度创新与实践探索，建立健全灵活就业人员的权益保障机制，力求在重点领域形成关键性突破，为新经济、新业态健康发展注入强劲动力，形成更多可复制可推广的成功经验。