Стоит ли доверять человеческие судьбы электронному судье?

Американцы применяют компьютерные программы для вынесения судебных приговоров. Обеспокоенные ученые провели серьезное исследование и сделали вывод о целесообразности подобных нововведений.

Искусственный интеллект захватывает всё больше сфер человеческой деятельности. В США, к примеру, стали использовать специальное программное обеспечение для прогнозирования вероятности возникновения рецидива у преступников.

В память машины вводится около 137 показателей, со всех сторон характеризующих подсудимого. Особенности обработки полученных данных держатся в секрете, но за 17 лет таким образом были оценены около миллиона правонарушителей. Электронные системы подсказывали судьям, есть ли вероятность совершения повторного преступления в ближайшие пару лет.

Но так ли безгрешен искусственный интеллект, чтобы учитывать его выводы при вынесении приговора? Исследователи вплотную занялись изучением результатов работы судебной системы COMPAS. Выяснилось, что точность ее «суждений» составляет всего 65% (было изучено 700 дел)! Уже на этом этапе возникают сомнения в целесообразности слепого доверия к результатам подобного прогнозирования.

Гораздо более интересным показался другой результат. В компьютеры не загружали сведений о расовой принадлежности преступников, но в итоге получилось, что машины более предвзяты к афроамериканцам! Белым подсудимым программы давали в два раза больше положительных прогнозов, а чернокожим чаще всего сулили ложные рецидивы.

После этого исследователи решили сравнить результаты компьютерных предсказаний с решениями людей, сделанными на основе более сжатых данных. Случайным образом в интернете выбрали 400 пользователей, которым предложили по 20 анкет преступников из 1000 ранее проанализированных программой.

В первом раунде каждому было выдано по три характеристики (пол, возраст, судимость), а во втором - лишь по две (возраст и судимость). В итоге оказалось, что процент попадания в обоих случаях у людей составил примерно 63% - ничуть не хуже, чем у компьютерных прогнозов. Даже с двумя характеристиками эксперты в своих суждениях не уступили электронному «судье»! Надо заметить: расовой неприязни у людей наблюдалось гораздо меньше.

Джулия Дрессель из Дартмутского колледжа, изучив данные проведенного исследования, заявила о том, что широкое использование компьютеров для составления прогнозов на судебных заседаниях является преждевременным. Услышат ли ее с коллегами в США, или использование сомнительных алгоритмов продолжится?

Источник: scinexx.de