人工智能：解码：算法影响评估 — 人工智能法案执行 — 纽约市的面部识别

[jrineakter]

欢迎收看《人工智能：解码》。该节目每周三由 POLITICO 驻伦敦人工智能通讯员 Melissa Heikkilä 为您带来。

本星期：

— NHS 正在试行一种新方法来确保算法的可靠性。

— 欧盟国家正在针对新成立的人工智能委员会发动政变。

— 在纽约市，有色人种较多的地区安装了更多支持面部识别的闭路电视摄像机。

聚光灯
评估算法影响

案例研究——NHS：英国国家医疗服务体系 (NHS) 正在启动全球首个医疗保健算法影响评估试点。参与试点的公司必须进行评估以发现潜在风险，例如算法偏差，然后才能访问 NHS 数据。影响评估由 Ada Lovelace 研究所开发，您可以在此处阅读。

可供获取的 COVID 数据：作为试点的一部分 捷克共和国 WhatsApp 数据 的两个数据集是 NHS 的国家 Covid-19 胸部影像数据库 (NCCID) 和拟议的国家医学影像平台 (NMIP)，这将用于筛查和诊断 AI 的训练和测试。

AI：Decoded 联系了艾达·洛夫莱斯研究所高级研究员珍妮·布伦南 (Jenny Brennan)，她是开发影响评估的团队成员之一。

成功的七个步骤：该流程包括七个步骤。想要访问 NHS 数据的人需要解释他们打算使用这些数据的原因和方式。然后，NHS 的一个专门团队将筛选申请，成功的申请者将参加一个研讨会，该研讨会将考虑他们的人工智能系统的任何潜在危害和好处。然后，申请人需要将调查结果应用到他们的申请中，然后他们的申请才会被批准或拒绝。影响评估也将在线发布。最后一步是随着算法的变化修改评估。

首创：该系统的独特之处在于“我们已经达到了目前大多数文献中还不存在的实施细节水平，”布伦南说。

加拿大模式：目前仅有的另一种主要影响评估模型是加拿大算法影响评估工具。它是一种强制性风险评估工具，旨在帮助政府部门和机构确定自动决策系统的影响程度。

这里无需勾选：该研究所提出的流程非常详细，远非公司可以填写的简单清单。“当做出数据访问决定时，就会有一个仲裁者到位，这有助于形成问责机制，”布伦南说。

接触患者：Brennan 表示：“我们采访过的人对参与过程很感兴趣，也很兴奋。他们想花更多时间与患者和公众交谈，但他们不一定拥有内部资源，或者不一定具备专业知识，或者不太清楚如何接触患者。”研讨会元素可能是一个额外的障碍，但“它实际上可以接触到团队目前无法做到的流程和资源，”Brennan 表示。

挑战：如果成功，未来的一大挑战将是更广泛地应用这一流程。虽然非常有用，但研讨会元素可能会在规模上造成瓶颈。不同行业也有不同的需求和规定，影响评估需要考虑这些需求和规定。“我认为，对所有情况都抱有很大的希望。在这种情况下，这相当具有挑战性，”布伦南说。