Система распознавания лиц нашла 28 "преступников" среди членов Конгресса США

[Марта 3]

Это не столько новость, сколько информация к размышлению.
С одной стороны, на мой взгляд, гаджет вполне полезный (распознает, она, кстати, не только лица, но и объекты вообще), а с другой, очевидно, что требует тестов и доработки. как и любое, наверное, нововведение...

" Система распознавания лиц Амазон нашла 28 "преступников" среди членов Конгресса США
Союз гражданских свобод США (ACLU) протестировал систему распознавания лиц от Амазон Rekognition, которую по данным прессы уже начала без лишнего шума закупать американская полиция. Предполагается, что система может смотреть на мир сквозь личную камеру полицейского и предупреждать его, если в поле зрения появится некто, занесенный в полицейский фотобанк.
 Правозащитники скормили системе 25 тысяч фото преступников, а потом показали ей 535 фото конгрессменов США. И система нашла 28 совпадений.
Такая ошибка может стоить человеку свободы или даже жизни, считают в ACLU. Они требуют от Конгресса запретить использование систем распознавания полицией."

[yobabubba]

Правозащитники скормили системе 25 тысяч фото преступников, а потом показали ей 535 фото конгрессменов США. И система нашла 28 совпадений.

Ну это нейросеть - 25 тысяч фото, да еще и одних преступников, это несколько странный материал для ее обучения. Во-первых для распознавания надо давать не только преступников, а во-вторых выборка маловата, массив данных должен быть побольше.

[Марта 3]

yobabubba, полагаю, у ACLU изначально настрой был на выявление недостатков и демонстрацию несовершенства сети.
Будем считать это частью ее совершенствования) /хотя если честно, я слабо весьма разбираюсь в нейронных сетях. так, совсем в общем - в общем./

[Gven_do_line]

Любая система окажется плохой, если ей пользоваться без ума.

Эксперты часами работают, чтобы доказать, что человек на фото это вот этот конкретный Вася.
Поэтому результаты работы данной системы следует воспринимать не как абсолютную истину, а как простое "этот гражданин похож на Васю", присмотритесь к нему (и будьте на всякий случай бдительны, если у Васи плохая репутация).
Сразу кидать всех похожих мордой в асфальт вряд ли кто планирует. Надеюсь.

[Guyver]

Да ну? Будут валить на пол и задерживать, а уж потом разбираться. А ещё и пристрелить могут запросто. Это же Америка и её знаменитые полицейские...