Система розпізнавання облич від Amazon переплутала конгресменів США зі злочинцями

224
money.cnn.com
Amazon запевняє, що помилки сталися через неправильні налаштування

Система розпізнавання облич від американської корпорації Amazon переплутала фотографії 28 американських конгресменів з портретами злочинців у рамках тесту Американського союзу громадянських свобод (ACLU), повідомляє The Verge. 

Активісти ACLU завантажили в систему розпізнавання облич фотографії всіх 535 членів Конгресу США і 25 тис. зображень злочинців. Система помилково видала 28 збігів, хоча жодного із сенаторів ніколи не притягали до відповідальності. 11 з 28 «впійманих» політиків (39%) – темношкірі.

Алгоритм розпізнавання облич орієнтується на світлошкірих людей

Члени ACLU закликали Конгрес США заборонити використання системи розпізнавання осіб від Amazon у правоохоронних органах.

«Помилка може коштувати людям свободи або навіть життя», – заявили в ACLU.

Amazon пояснив помилкові збіги неправильними налаштуваннями системи. ACLU встановив точність результатів на рівні 80%, який годиться для фотографій їжі та тварин у соцмережах. Для використання в правоохоронних цілях необхідно виставляти показник щонайменше в 95%.

Три сенатори Конгресу США вже надіслали відкритий лист главі Amazon Джеффу Безосу з вимогою надати повний список правоохоронних органів, які використовують систему розпізнавання облич від його компанії.

На їхню думку, алгоритм може становить серйозну загрозу «недоторканності приватного життя і громадянських прав», особливо при використанні «з метою державного нагляду».

Як ми вже писали, Сінгапур запустить систему розпізнавання облич на 110 тис. ліхтарних стовпів міста.

Голландський програміст створив пристрій для розпізнавання «обличчя» свого кота.

Поділитися: