Я обычно не реагирую на темы вроде "ИИ для найма игнорировал афроамериканцев", но вы наверное уже заметили - я неравнодушен к ИИ в медицине. И вот такой случай: исследование 57 тысяч пациентов с заболеваниями почек в Бостоне выявили. что алгоритм, используемый для вычисления уровня важности пересадки почки довольно сильно занижает показатели для черных пациентов. Т.е. да, есть алгоритм, который подсказывает кому надо пересадить почку сейчас, а кто может еще подождать в очереди, и опять W.E.I.R.D. оказались в приоритете и почки пересаживали именно им.
Почему это важно: на самом деле это результат искажения обучающей выборки, алгоритм ведет себя так, как ведут люди, которые его обучали. Так же очевидно, что белое население США куда чаще прибегали к скринингу и обследованиям, как следствие данных для них банально больше. И я уверен, ровно такие же проблемы есть и в других областях, не в почках дело. Человечеству предстоит научиться, как пополнять и корректировать обучающие выборки, если мы хотим применять ИИ в медицине www.wired.com/story/how-algorith
How an Algorithm Blocked Kidney Transplants to Black Patients
A formula for assessing the gravity of kidney disease is one of many that is adjusted for race. The practice can exacerbate health disparities.