Новая опасность автопилота на базе ИИ

Сообщается, что беспилотные автомобили не могут распознавать детей и пешеходов с более темной кожей так же хорошо, как взрослых со светлой кожей.

Исследователи из Королевского колледжа в Лондоне протестировали восемь систем обнаружения пешеходов на базе искусственного интеллекта на более чем 8000 изображениях и обнаружили, что эти системы обнаруживают взрослых пешеходов на 20% лучше, чем детей. Исследование также показало, что программное обеспечение было на 7,5% точнее для светлокожих пешеходов, чем для людей с более темной кожей. Исследователи отмечают, что во многом проблема заключается в том, что модели искусственного интеллекта обучаются на фотографиях, на которых больше людей со светлой кожей, чем с темной. В результате программам легче распознавать пешеходов со светлой кожей просто потому, что это то, что они знают.

В либеральном британском обществе полученный результат просто не мог не вызвать весьма негативную реакцию. «Хотя влияние недобросовестных систем искусственного интеллекта уже хорошо задокументировано, от программного обеспечения для подбора персонала с использованием искусственного интеллекта, отдающего предпочтение кандидатам мужского пола, до программного обеспечения для распознавания лиц, которое менее точно подходит чернокожим женщинам, чем белым мужчинам, опасность, которую могут представлять самоуправляемые автомобили, остра», - доктор Цзе Чжан, один из ученых, проводивших исследование. «Раньше представителям меньшинств, возможно, было отказано в жизненно важных услугах, теперь они могут столкнуться с серьезными травмами». В то же время при распознавании темнокожих людей было обнаружено, что погрешности системы значительно усиливаются в условиях низкой контрастности и недостаточной освещенности, что может привести к еще более опасным ситуациям при использовании систем обнаружения пешеходов с помощью ИИ в темное время суток. Производители автомобилей не разглашают подробности о программном обеспечении, которое они используют для обнаружения пешеходов. Но ученые утверждают, что эти программы, как правило, построены на тех же системах с открытым исходным кодом, которые они использовали в своих исследованиях.