Ученые выяснили, как «вылечить» расизм искусственного интеллекта

МИР  30 Июня 2024 - 10:54

Искусственный интеллект (ИИ) менее точно ставит диагнозы женщинам и чернокожим, но это можно исправить.

Это показало исследование, опубликованное в журнале JAMA.

Ученые использовали рентгеновские снимки грудной клетки пациентов из Бостона. С их помощью они обучили ИИ обнаруживать накопление жидкости в легких, коллапс легкого или увеличение сердца. Затем алгоритмы протестировали на других рентгеновских снимках.

Алгоритмы были достаточно точны, но большинство из них были менее эффективны для женщин и чернокожих пациентов. Такая предвзятость имела преимущества: ИИ смогли предсказать пол, расу и возраст пациентов. Это не всегда удается людям-рентгенологам.

Исследователи также обнаружили, что можно переучить модели и уменьшить их предвзятость. Один из способов — удалить всю информацию о поле, возрасте и расе из изображений. При этом важно проводить переобучение ИИ на данных пациентов из той больницы, где будут использовать алгоритм.

Caliber.Az

Просмотров: 309