第二次开庭，顾清岚受邀前来参加，林念苏陪同她一起进了法庭。
旁听席上，记者、家属、医院的代表、AI公司的员工纷纷就坐。
王建国的老伴坐在原告席上，穿着一件灰白色的外套，头发花白。
她低着头，手里攥着一个布包，她的女儿坐在旁边。
法官宣布开庭后，原告律师先发言，陈述了事实经过，宣读了尸检报告，列举了医院的过错。医院代表答辩，说急诊医生的处置符合规范，AI系统的结论仅供参考，医院不应承担全部责任。
轮到智医科技的律师了。
他站起来，整理了一下领带，大声说：
“我方认为，AI系统是一个辅助工具，最终的决定权在医生。医生没有尽到审慎的义务，与AI系统无关。我方不应承担责任。”
旁听席上有人开始低声议论。
王建国的老伴抬起头，看着那个律师，紧紧握住了女儿的手。
法官敲了敲法槌说：“安静。”
法庭安静了。
法官看着原告席说：“原告方，你们有证人吗？”
原告律师站起来。“有。我们请顾清岚教授出庭作证。”
顾清岚站起来，走进证人席。
法警让她举起右手，宣读誓言。
她举起手，一字一句的宣誓：
“我宣誓，所述事实真实，绝无虚假。”
法官让她坐下。
她坐在证人席上，面前放着一个麦克风。
原告律师走过来说：
“顾教授，请介绍一下您的身份。”
“顾清岚，江东大学公共卫生学院教授，博士生导师。研究方向是健康大数据和人工智能伦理。”
“您受原告方委托，对智医科技的AI系统进行了分析？”
“是。”
“您发现了什么问题？”
顾清岚从包里拿出一个文件夹，打开，放在桌上说：
“智医科技的AI系统，训练数据存在严重偏差。女性胸痛患者的样本量严重不足，导致AI对女性心脏病发作的识别率比男性低百分之三十七。”
旁听席上有人倒吸一口凉气。
原告律师看了一眼法官，法官示意继续。
“顾教授，您能详细解释一下吗？”
顾清岚翻开文件夹，看着里面密密麻麻的数据表格和图表继续说：
“AI系统靠大量数据训练。你给它看一万张胸片，告诉它哪些是正常的，哪些是心梗，它学完了就能自己判断。智医科技的AI系统，训练数据里男性患者占了百分之七十八，女性患者只有百分之二十二。女性心脏病发作的症状本来就比男性不典型，数据又少，AI学不好。我测试了五万张胸片，男性患者的准确率是百分之九十六，女性患者只有百分之五十九。”
法庭里安静了。
王建国的老伴转过头，看着顾清岚，眼泪顺着脸颊流了下来。
原告律师的小声问：“顾教授，这意味着什么？”
“这意味着，同样症状的女性和男性，AI给女性的误诊率比男性高三十七个百分点。不是技术问题，是数据偏见问题。数据采集的时候，男性患者多，女性患者少，AI学坏了。”
“这个AI系统，对王建国的诊断，准确吗？”
顾清岚看着法官说：
“王建国是男性，不在那百分之三十七之内。但他的问题不是准确率，是AI系统的设计缺陷。AI说无异常，不是因为真的没有异常，是因为它的训练数据不够。它没见过那么多心梗的片子，它不知道什么叫异常。”
智医科技的律师站起来说：“反对。证人不是医学专家，无权对诊断结果发表意见。”
法官看着他说：“反对无效。证人是数据分析专家，有权对AI系统的技术问题发表意见。请继续。”
原告律师走到证人席前面，看着顾清岚问：“顾教授，您认为这个AI系统有没有问题？”
“有问题。”
“什么问题？”
“歧视。”
旁听席上炸了锅。
有人在议论，有人在拍照，有人在记录。
法官敲了好几次法槌，才安静下来。
“顾教授，您说歧视，是什么意思？”
“这个AI对女性患者的歧视，是写在代码里的。这并非故意的，而是数据采集时造成的。但结果一样，女性患者被误诊的概率更高。这不是技术问题，是伦理问题。”
智医科技的律师又站起来了说：“反对。证人的说法没有依据。”
法官看着他。“反对无效。证人可以继续说。”
顾清岚从文件夹里抽出一张纸，举起来继续说：
“这是智医科技AI系统的技术白皮书，公开的。里面写着，训练数据来自三家医院的电子病历，男性患者占比百分之七十八，女性患者占比百分之二十二。这个数据不是我编的，是他们自己公布的。”
律师不说话了。
他坐下去，低头在本子上写着什么。
原告律师又问。“顾教授，您能证明这个AI系统有缺陷吗？”
小主，这个章节后面还有哦，请点击下一页继续阅读，后面更精彩！