Система распознавания лиц от Amazon перепутала конгрессменов США с преступниками

37
money.cnn.com
Amazon уверяет, что ошибки произошли из-за неправильных настроек

Система распознавания лиц от американской корпорации Amazon перепутала фотографии 28 американских конгрессменов с портретами преступников в рамках теста Американского союза гражданских свобод (ACLU), сообщает The Verge. 

Активисты ACLU загрузили в систему распознавания лиц фотографии всех 535 членов Конгресса США и 25 тыс. изображений преступников. Система ошибочно выдала 28 совпадений, хотя ни одного из сенаторов никогда не привлекали к ответственности. 11 из 28 «попавшихся» политиков (39%) – темнокожие.

Алгоритм распознавания лиц ориентируется на светлокожих людей

Члены ACLU призвали Конгресс США запретить использование системы распознавания лиц от Amazon в правоохранительных органах.

«Ошибка может стоить людям свободы или даже жизни», – заявили в ACLU.

Amazon объяснил ошибочные совпадения неправильными настройками системы. ACLU установил точность результатов на уровне 80%, который подходит для фотографий еды и животных в соцсетях. Для использования в правоохранительных целях необходимо выставлять показатель как минимум в 95%.

Три сенатора Конгресса США уже направили открытое письмо главе Amazon Джеффу Безосу с требованием предоставить полный список правоохранительных органов, которые используют систему распознавания лиц от его компании.

По их мнению, алгоритм может представлять серьезную угрозу «неприкосновенности частной жизни и гражданских прав», особенно при использовании «в целях государственного надзора».

Как мы уже писали, Сингапур запустит систему распознавания лиц на 110 тыс. фонарных столбов города.

Голландский программист создал устройство для распознавания «лица» своего кота.

Поделиться: