加拿大移民部使用的AI 居然也被指责种族歧视
| 2018-09-27 09:02:06
一份来自多伦多大学的报告显示，加拿大移民局目前使用的人工智能筛选系统，存在着歧视候选人的问题。报告认为，移民及难民申请对于申请者来说意义重大，有时甚至是生死一线的区别。研究报告的作者Petra Molnar呼吁联邦政府公开更多的信息，让移民流程更加透明。
/ J+ |9 y' _7 w- ]1 K 在今年早些时候，加拿大移民局开启了两个实验性项目，用于审核来自中国与印度的临时签证申请者。移民局方面表示，这样的实验性项目，是为了检测目前的人工智能技术能否帮助提高处理签证的效率。这些试验项目将仅仅会将申请者归类，而不会做出最终的决定。是否向这些申请者颁发签证，还是会有移民官员最终决定。
而在难民申请方面，机器学习下的人工智能暴露了更多的问题。在过去的研究当中发现，人工智能在种族与性别上存在的很大的偏见。在过往的案例中，存在着一部分种族受到过度审查的不良案例。
对此，移民部方面回应称，采用最新技术的最终目的并不是为了取代人工在决策方面的作用，而是为了帮助移民官员做出更好的决定。