Все время рассказываю, что в отношении ИИ никогда нельзя забывать по потенциале для махинаций и манипуляций. Вот вам отличная и прямо элементарная реализация, которая позволяет выбрать куда и какую точку поставить на изображении, чтобы системы распознавания ошибались с максимальной вероятностью. Т.е. буквально, CV видит на видео грузовик, ты ставишь точку на изображении и грузовик превращается в лягушку.

github.com/Hyperparticle/one-pixel-attack-keras

Приятно осознавать, что я такой эксперимент провел больше года назад, а результаты все еще актуальны. Если вы не видели, вот тут я писал addmeto.cc/1433.html

Hyperparticle/one-pixel-attack-keras

Keras implementation of "One pixel attack for fooling deep neural networks" using differential evolution on Cifar10 and ImageNet - Hyperparticle/one-pixel-attack-keras