从百度离职后，吴恩达重新回到斯坦福大学继续进行学术研究，医疗是他最为看重的垂直应用方向之一，两年的时间里，吴恩达和团队陆续发表了多项成果：包括用 CNN 算法识别肺炎、公布最大医学影像数据集 MURA 等等。
我们了解到，近日，斯坦福大学官网发布了吴恩达团队的一项最新成果：借助人工智能算法，帮助放射科医师改进脑动脉瘤的诊断。该成果的论文发表在了《JAMA Network Open》。
未破裂动脉瘤的诊断是一项至关重要的临床任务 —— 脑动脉瘤是大脑血管中的隆起物，可能会渗漏或破裂，可能导致中风、脑损伤或死亡。
计算机断层扫描血管造影 (CTA) 是目前用于颅内动脉瘤的诊断、监测和术前规划的主要的、微创的成像模式。但是，即使是专业的神经放射学家来进行诊断也需要耗费很长的时间。低评分者信度 (interrater agreement) 对诊断的可靠性也提出了额外的挑战。
在这几年的人工智能浪潮下，卷积神经网络 (CNN) 已经在一系列视觉任务 (包括医学图像分析) 上表现出优异的性能。然而，利用深度学习来增强临床医生工作能力的成果并不是很多。
所以，利用 AI 帮助临床医生可靠地识别 CTA 中具有临床意义的动脉瘤，将会为放射科医师、神经外科医生和其他临床医生提供一个可用和易用的诊断支持工具。
基于这些考虑，吴恩达团队建立了一种深度学习模型，用于自动检测 CTA 上的颅内动脉瘤并分割特定区域，以帮助临床医生通过 CTA 检查以诊断颅内动脉瘤。
以下为论文详细内容。
摘要
重要性： 深度学习有可能增强临床医生在医学成像解释中的表现，并通过自动分割缩短诊断时间。迄今为止，很少有研究探讨过这一主题。
目的： 开发和应用神经网络分割模型 (HeadXNet 模型)，该模型能够在头部计算机断层血管造影 (CTA) 成像中生成颅内动脉瘤的精确体素预测，以增强临床医生的颅内动脉瘤诊断能力。
设计、设置和参与者：在这项诊断研究中，我们开发了一个三维卷积神经网络结构，使用 611 例头部 CTA 检查训练集以生成动脉瘤分割。在 115 个检查的测试集上，该模型的分割结果提交给了临床医生。
在 2018 年 8 月 13 日和 2018 年 10 月 4 日之间，无论是否有模型增强，8 名临床医生在使用随机顺序和 14 天清洗期的交叉设计中诊断出测试集上存在动脉瘤。在 2003 年 1 月 3 日至 2017 年 5 月 31 日期间的头颈部检查，被用于训练、验证和测试模型。有至少 1 例临床意义重大的动脉瘤，未破裂的颅内动脉瘤检查为阳性。排除了出血、动脉瘤破裂、创伤后或传染性假性动脉瘤、动静脉畸形、手术夹、线圈、导管或其他外科硬件的检查。所有其他 CTA 检查都被认为是对照组。
结果：该数据包含来自 662 名独立患者的 818 项检查，其中 328 例 CTA 检查 (40.1%) 至少包含 1 例颅内动脉瘤，490 例检查 (59.9%) 无颅内动脉瘤。阅读测试集的 8 位临床医生的经验为 2 至 12 年。通过人工智能产生的分割预测来增强临床医生的能力，与没有增强相比，临床医生在灵敏度、准确性和评分者信度方面取得了统计学上的显著改善：
临床医生的平均敏感度增加 0.059 (95% CI，0.028-0.091;adjusted P = .01)，平均准确度增加 0.038 (95% CI，0.014-0.062;adjusted P = .02)，平均评估者间差异 ( Fleiss κ) 增加 0.060，从 0.799 增加到 0.859 (adjusted P = .05)。
特异性 (0.016; 95% CI，-0.010-0.041;adjusted P = .16) 和诊断时间 (5.71 秒；95% CI，7.22-18.63 秒；adjusted P = .19) 的平均值在统计学上没有显著变化。
结论和意义：我们建立的深度学习模型成功地检测出 CTA 上临床意义显著的颅内动脉瘤。这表明人工智能辅助诊断模型的集成可以通过可靠和准确的预测来增强临床医生的表现，从而优化患者护理。
方法
数据
我们回顾性研究了 2003 年 1 月 3 日至 2017 年 5 月 31 日在斯坦福大学医学中心进行的头部或头颈部共 9455 例连续 CTA 检查报告。检查包括实质性出血、蛛网膜下腔出血、创伤后或传染性假性动脉瘤、动静脉畸形、缺血性中风、非特异性或慢性血管发现，如颅内动脉粥样硬化或其他血管病变，以及手术夹、线圈、导管或其他外科硬件。由具有 12 年经验的神经放射学家排除了因创伤或运动退化导致的损伤的例子。检查报告还包括非破裂性重要动脉瘤 (> 3 mm)。
放射科医生标注
测试集中所有检查的参考标准由一位经过认证的具有 12 年经验的神经放射学家确定。通过审查原始放射学报告确定动脉瘤的存在，对 CTA 检查进行双重审查。另外，如果可行，通过诊断性脑血管造影进一步确认动脉瘤。神经放射学家可以访问所有的医学数字成像和 DICOM 系列，原始报告和临床病史，以及注释过程中的前期和后续检查，以确定标签的最佳参考标准。
在每个动脉瘤检查中，放射科医师还确定了每个动脉瘤的位置。使用开源注释软件 ITK-SNAP，在每个切片上手动分割所识别的动脉瘤。
模型建立
在这项研究中，我们开发了一种名为 HeadXNet 的三维 CNN，用于从 CT 扫描中分割颅内动脉瘤。CNN 是一种用于处理图像数据的神经网络，而三维 CNN 特别适合处理图像序列或体积。
HeadXNet 是具有编码器 - 解码器结构的 CNN (补充中的 e 图 1)，其中编码器将卷映射到抽象的低分辨率编码，然后解码器将该编码扩展为全分辨率分割体积。分割结果为每个体素动脉瘤的概率值，其尺寸与原图像相同。编码器改编自 50 层 SE-ResNeXt 网络，解码器是一系列 3×3 转置卷积。
与 UNet 类似，跳过连接在 3 层编码器中使用，以将编码过程中的输出直接传输到解码器中。编码器是在 Kinetics-600 数据集上预先训练的，这是一系列标有人类行为的 YouTube 视频；在预训练编码器之后，最后 3 个卷积块和 600-way softmax 输出层被移除，相应位置添加了一个巨大的空间金字塔池化层和解码器。
训练过程
在训练期间，我们从体积中随机取样 16 个样本的子体积。对数据集进行预处理以找到颅骨的轮廓，并且将每个样本重采样到 208×208 像素之前，每个样本在横断面中围绕颅骨进行裁剪。然后将切片裁剪成 192×192 像素 (在训练期间使用随机裁剪，在测试期间使用中心裁剪)，最终输入的尺寸大小为 16×192×192; 将相同的变换应用于分割标签。训练过程使用基于体素的二元交叉熵和 Dice 损失的加权组合。
在进入模型训练之前，输入图像被截取为 [-300,700] Hounsfield 单位，数据归一化为 [-1,1] 和零中心。 训练使用 3 个 TitanXp GPU (NVIDIA)，每个 GPU 上的 minibatch 为 2。 使用随机梯度下降优化器优化模型的参数，动量为 0.9，随机初始化权重的 peak learning rate 为 0.1，预训练权重为 0.01。学习率通过 linear warm-up 从 0 到 10000 次迭代的 peak learning rate 进行调整，然后进行超过 30 万次的余弦退火迭代。
另外，对于预训练编码器的前 10000 次迭代，学习速率固定为 0。关于正则化，对于所有可训练参数的 loss 加上 0.001 的 L2 权重衰减，并且在编码器块中使用随机 depth dropout。没有使用标准 dropout。
为了控制类不平衡，我们使用了 3 种方法。
首先，错误分类的正例通过编码器和 focal loss 鼓励更大的参数更新，在这之后添加辅助 loss。
其次，异常训练样本的采样频率高于正常样本，因此异常样本占训练迭代的 30%。
最后，在训练迭代中，当分割标签完全由背景 (正常) 体素组成时，解码器的参数不更新。
为了产生整个体积的分割预测，连续 16 张切片的子体积的分割输出被简单地连接起来。如果切片的数量不能被 16 整除，则最后一个输入体积用 0 填充，相应的输出体积被截断回原始大小。
