收藏【零一小说www.01xiaoshuo.com】，热门网络小说无弹窗免费阅读！
第二次开庭，顾清岚受邀前来参加，林念苏陪同她一起进了法庭。
旁听席上，记者、家属、医院的代表、AI公司的员工纷纷就坐。
王建国的老伴坐在原告席上，穿着一件灰白色的外套，头发花白。
她低着头，手里攥着一个布包，她的女儿坐在旁边。
法官宣布开庭后，原告律师先发言，陈述了事实经过，宣读了尸检报告，列举了医院的过错。医院代表答辩，说急诊医生的处置符合规范，AI系统的结论仅供参考，医院不应承担全部责任。
轮到智医科技的律师了。
他站起来，整理了一下领带，大声说：
“我方认为，AI系统是一个辅助工具，最终的决定权在医生。医生没有尽到审慎的义务，与AI系统无关。我方不应承担责任。”
旁听席上有人开始低声议论。
王建国的老伴抬起头，看着那个律师，紧紧握住了女儿的手。
法官敲了敲法槌说：“安静。”
法庭安静了。
法官看着原告席说：“原告方，你们有证人吗？”
原告律师站起来。“有。我们请顾清岚教授出庭作证。”
顾清岚站起来，走进证人席。
法警让她举起右手，宣读誓言。
她举起手，一字一句的宣誓：
“我宣誓，所述事实真实，绝无虚假。”
法官让她坐下。
她坐在证人席上，面前放着一个麦克风。
原告律师走过来说：
“顾教授，请介绍一下您的身份。”
“顾清岚，江东大学公共卫生学院教授，博士生导师。研究方向是健康大数据和人工智能伦理。”
“您受原告方委托，对智医科技的AI系统进行了分析？”
“是。”
“您发现了什么问题？”
顾清岚从包里拿出一个文件夹，打开，放在桌上说：
“智医科技的AI系统，训练数据存在严重偏差。女性胸痛患者的样本量严重不足，导致AI对女性心脏病发作的识别率比男性低百分之三十七。”
旁听席上有人倒吸一口凉气。
原告律师看了一眼法官，法官示意继续。
“顾教授，您能详细解释一下吗？”
顾清岚翻开文件夹，看着里面密密麻麻的数据表格和图表继续说：
“AI系统靠大量数据训练。你给它看一万张胸片，告诉它哪些是正常的，哪些是心梗，它学完了就能自己判断。智医科技的AI系统，训练数据里男性患者占了百分之七十八，女性患者只有百分之二十二。女性心脏病发作的症状本来就比男性不典型，数据又少，AI学不好。我测试了五万张胸片，男性患者的准确率是百分之九十六，女性患者只有百分之五十九。”
法庭里安静了。
王建国的老伴转过头，看着顾清岚，眼泪顺着脸颊流了下来。
原告律师的小声问：“顾教授，这意味着什么？”
“这意味着，同样症状的女性和男性，AI给女性的误诊率比男性高三十七个百分点。不是技术问题，是数据偏见问题。数据采集的时候，男性患者多，女性患者少，AI学坏了。”
“这个AI系统，对王建国的诊断，准确吗？”
顾清岚看着法官说：
“王建国是男性，不在那百分之三十七之内。但他的问题不是准确率，是AI系统的设计缺陷。AI说无异常，不是因为真的没有异常，是因为它的训练数据不够。它没见过那么多心梗的片子，它不知道什么叫异常。”
智医科技的律师站起来说：“反对。证人不是医学专家，无权对诊断结果发表意见。”
法官看着他说：“反对无效。证人是数据分析专家，有权对AI系统的技术问题发表意见。请继续。”
原告律师走到证人席前面，看着顾清岚问：“顾教授，您认为这个AI系统有没有问题？”
“有问题。”
“什么问题？”
“歧视。”
旁听席上炸了锅。
有人在议论，有人在拍照，有人在记录。
法官敲了好几次法槌，才安静下来。
“顾教授，您说歧视，是什么意思？”
“这个AI对女性患者的歧视，是写在代码里的。这并非故意的，而是数据采集时造成的。但结果一样，女性患者被误诊的概率更高。这不是技术问题，是伦理问题。”
智医科技的律师又站起来了说：“反对。证人的说法没有依据。”
法官看着他。“反对无效。证人可以继续说。”
顾清岚从文件夹里抽出一张纸，举起来继续说：
“这是智医科技AI系统的技术白皮书，公开的。里面写着，训练数据来自三家医院的电子病历，男性患者占比百分之七十八，女性患者占比百分之二十二。这个数据不是我编的，是他们自己公布的。”
律师不说话了。
他坐下去，低头在本子上写着什么。
原告律师又问。“顾教授，您能证明这个AI系统有缺陷吗？”
“能。”
顾清岚从包里拿出一个U盘，举起来说：“这是智医科技AI系统的部分核心代码，经过脱敏处理。我逆向分析了它的算法逻辑，发现它在处理女性患者胸片时，特征提取的权重明显低于男性患者。同样的病变，在男性胸片上AI能识别，在女性胸片上AI就忽略。这不是偶然，是算法设计的问题。”
法官问：“这些代码，你是怎么拿到的？”
“智医科技的AI系统是商业产品，但它的核心算法公开发表过论文。我从论文的补充材料里提取了伪代码，逆向重建了算法逻辑。这是学术研究的正当行为，不涉及商业机密。”
法官点了点头。
原告律师转向法官。“法官大人，我方申请将这份代码作为证据提交。”
“同意。”
智医科技的律师又站起来了。
“法官大人，我反对。这份代码是逆向推导的，不一定准确。而且，证人不是第三方独立机构，她的分析可能有偏差。”
法官看着他又说：“反对无效。证据的效力由本庭裁定。你可以对证人的结论进行交叉询问。”
原告律师坐下了。
智医科技的律师站起来，走到证人席前面，看着顾清岚继续问：
“顾教授，您说这个AI有歧视，请问您的依据是什么？”
“数据。男性的准确率百分之九十六，女性的准确率百分之五十九。差三十七个百分点。这不是歧视是什么？”
“这是技术问题，不是歧视。”
“技术问题导致了歧视。不管你是故意的还是不故意的，结果一样。”
律师的脸色变了。他低下头，翻了一下手里的文件夹，抬起头。
“顾教授，您能保证您的数据准确吗？”
“能。我的数据来自智医科技自己公布的技术白皮书。如果他们的数据不准，那是他们的问题，不是我的问题。”
旁听席上有人笑了。
法官敲了敲法槌。
律师又翻了一下文件夹。
“顾教授，您承认您是林念苏的妻子吗？”
“承认。”
“林念苏是国家卫健委老龄健康司司长，正在推动AI医疗监管政策。您在这个案子中作证，是否代表您丈夫的立场？是否有利益冲突？”
法庭里安静了。
所有人都看着顾清岚。
顾清岚淡定的回应道：“我丈夫是我丈夫，我是我。我作证，用的是数据，不是丈夫。如果您觉得我的数据有问题，可以请第三方复核。如果您觉得我的人品有问题，可以申请回避。但我提醒您，您这是在转移焦点。焦点不是我是谁，是这个AI有没有问题。”
律师没说话。
法官看着他问：
“还有问题吗？”
律师站了两秒，坐下了。
原告律师又站起来说：
“法官大人，我方还有一个请求。我方申请将顾教授的分析报告作为证据提交，并申请法庭委托第三方机构对智医科技的AI系统进行独立检测。”
法官看了看智医科技的律师问：“被告方，你们有什么意见？”
律师站起来说：“我方同意第三方检测。但检测费用应由原告方承担。”
“费用问题，本庭裁定。”法官敲了敲法槌，“休庭。择日再审。”
法庭里开始收拾东西。
记者们往外跑，赶着发稿。
王建国的老伴被女儿扶着站起来，看着顾清岚。
顾清岚走过去，站在她面前说：
“阿姨，您放心。这个AI有问题，我会证明。”
王建国的老伴，红着眼眶说：“谢谢你。”
“放心吧，下次开庭我还会参加。”
第二次开庭，顾清岚受邀前来参加，林念苏陪同她一起进了法庭。
旁听席上，记者、家属、医院的代表、AI公司的员工纷纷就坐。
王建国的老伴坐在原告席上，穿着一件灰白色的外套，头发花白。
她低着头，手里攥着一个布包，她的女儿坐在旁边。
法官宣布开庭后，原告律师先发言，陈述了事实经过，宣读了尸检报告，列举了医院的过错。医院代表答辩，说急诊医生的处置符合规范，AI系统的结论仅供参考，医院不应承担全部责任。
轮到智医科技的律师了。
他站起来，整理了一下领带，大声说：
“我方认为，AI系统是一个辅助工具，最终的决定权在医生。医生没有尽到审慎的义务，与AI系统无关。我方不应承担责任。”
旁听席上有人开始低声议论。
王建国的老伴抬起头，看着那个律师，紧紧握住了女儿的手。
法官敲了敲法槌说：“安静。”
法庭安静了。
法官看着原告席说：“原告方，你们有证人吗？”
原告律师站起来。“有。我们请顾清岚教授出庭作证。”
顾清岚站起来，走进证人席。
法警让她举起右手，宣读誓言。
她举起手，一字一句的宣誓：
“我宣誓，所述事实真实，绝无虚假。”
法官让她坐下。
她坐在证人席上，面前放着一个麦克风。
原告律师走过来说：
“顾教授，请介绍一下您的身份。”
“顾清岚，江东大学公共卫生学院教授，博士生导师。研究方向是健康大数据和人工智能伦理。”
“您受原告方委托，对智医科技的AI系统进行了分析？”
“是。”
“您发现了什么问题？”
顾清岚从包里拿出一个文件夹，打开，放在桌上说：
“智医科技的AI系统，训练数据存在严重偏差。女性胸痛患者的样本量严重不足，导致AI对女性心脏病发作的识别率比男性低百分之三十七。”
旁听席上有人倒吸一口凉气。
原告律师看了一眼法官，法官示意继续。
“顾教授，您能详细解释一下吗？”
顾清岚翻开文件夹，看着里面密密麻麻的数据表格和图表继续说：
“AI系统靠大量数据训练。你给它看一万张胸片，告诉它哪些是正常的，哪些是心梗，它学完了就能自己判断。智医科技的AI系统，训练数据里男性患者占了百分之七十八，女性患者只有百分之二十二。女性心脏病发作的症状本来就比男性不典型，数据又少，AI学不好。我测试了五万张胸片，男性患者的准确率是百分之九十六，女性患者只有百分之五十九。”
法庭里安静了。
王建国的老伴转过头，看着顾清岚，眼泪顺着脸颊流了下来。
原告律师的小声问：“顾教授，这意味着什么？”
“这意味着，同样症状的女性和男性，AI给女性的误诊率比男性高三十七个百分点。不是技术问题，是数据偏见问题。数据采集的时候，男性患者多，女性患者少，AI学坏了。”
“这个AI系统，对王建国的诊断，准确吗？”
顾清岚看着法官说：
“王建国是男性，不在那百分之三十七之内。但他的问题不是准确率，是AI系统的设计缺陷。AI说无异常，不是因为真的没有异常，是因为它的训练数据不够。它没见过那么多心梗的片子，它不知道什么叫异常。”
智医科技的律师站起来说：“反对。证人不是医学专家，无权对诊断结果发表意见。”
法官看着他说：“反对无效。证人是数据分析专家，有权对AI系统的技术问题发表意见。请继续。”
原告律师走到证人席前面，看着顾清岚问：“顾教授，您认为这个AI系统有没有问题？”
“有问题。”
“什么问题？”
“歧视。”
旁听席上炸了锅。
有人在议论，有人在拍照，有人在记录。
法官敲了好几次法槌，才安静下来。
“顾教授，您说歧视，是什么意思？”
“这个AI对女性患者的歧视，是写在代码里的。这并非故意的，而是数据采集时造成的。但结果一样，女性患者被误诊的概率更高。这不是技术问题，是伦理问题。”
智医科技的律师又站起来了说：“反对。证人的说法没有依据。”
法官看着他。“反对无效。证人可以继续说。”
顾清岚从文件夹里抽出一张纸，举起来继续说：
“这是智医科技AI系统的技术白皮书，公开的。里面写着，训练数据来自三家医院的电子病历，男性患者占比百分之七十八，女性患者占比百分之二十二。这个数据不是我编的，是他们自己公布的。”
律师不说话了。
他坐下去，低头在本子上写着什么。
原告律师又问。“顾教授，您能证明这个AI系统有缺陷吗？”
“能。”
顾清岚从包里拿出一个U盘，举起来说：“这是智医科技AI系统的部分核心代码，经过脱敏处理。我逆向分析了它的算法逻辑，发现它在处理女性患者胸片时，特征提取的权重明显低于男性患者。同样的病变，在男性胸片上AI能识别，在女性胸片上AI就忽略。这不是偶然，是算法设计的问题。”
法官问：“这些代码，你是怎么拿到的？”
“智医科技的AI系统是商业产品，但它的核心算法公开发表过论文。我从论文的补充材料里提取了伪代码，逆向重建了算法逻辑。这是学术研究的正当行为，不涉及商业机密。”
法官点了点头。
原告律师转向法官。“法官大人，我方申请将这份代码作为证据提交。”
“同意。”
智医科技的律师又站起来了。
“法官大人，我反对。这份代码是逆向推导的，不一定准确。而且，证人不是第三方独立机构，她的分析可能有偏差。”
法官看着他又说：“反对无效。证据的效力由本庭裁定。你可以对证人的结论进行交叉询问。”
原告律师坐下了。
智医科技的律师站起来，走到证人席前面，看着顾清岚继续问：
“顾教授，您说这个AI有歧视，请问您的依据是什么？”
“数据。男性的准确率百分之九十六，女性的准确率百分之五十九。差三十七个百分点。这不是歧视是什么？”
“这是技术问题，不是歧视。”
“技术问题导致了歧视。不管你是故意的还是不故意的，结果一样。”
律师的脸色变了。他低下头，翻了一下手里的文件夹，抬起头。
“顾教授，您能保证您的数据准确吗？”
“能。我的数据来自智医科技自己公布的技术白皮书。如果他们的数据不准，那是他们的问题，不是我的问题。”
旁听席上有人笑了。
法官敲了敲法槌。
律师又翻了一下文件夹。
“顾教授，您承认您是林念苏的妻子吗？”
“承认。”
“林念苏是国家卫健委老龄健康司司长，正在推动AI医疗监管政策。您在这个案子中作证，是否代表您丈夫的立场？是否有利益冲突？”
法庭里安静了。
所有人都看着顾清岚。
顾清岚淡定的回应道：“我丈夫是我丈夫，我是我。我作证，用的是数据，不是丈夫。如果您觉得我的数据有问题，可以请第三方复核。如果您觉得我的人品有问题，可以申请回避。但我提醒您，您这是在转移焦点。焦点不是我是谁，是这个AI有没有问题。”
律师没说话。
法官看着他问：
“还有问题吗？”
律师站了两秒，坐下了。
原告律师又站起来说：
“法官大人，我方还有一个请求。我方申请将顾教授的分析报告作为证据提交，并申请法庭委托第三方机构对智医科技的AI系统进行独立检测。”
法官看了看智医科技的律师问：“被告方，你们有什么意见？”
律师站起来说：“我方同意第三方检测。但检测费用应由原告方承担。”
“费用问题，本庭裁定。”法官敲了敲法槌，“休庭。择日再审。”
法庭里开始收拾东西。
记者们往外跑，赶着发稿。
王建国的老伴被女儿扶着站起来，看着顾清岚。
顾清岚走过去，站在她面前说：
“阿姨，您放心。这个AI有问题，我会证明。”
王建国的老伴，红着眼眶说：“谢谢你。”
“放心吧，下次开庭我还会参加。”