Produkt wykorzystuje zautomatyzowany mechanizm, taki jak uczenie maszynowe, do rozpoznawania złożonych danych wejściowych (np. obrazu lub audio) jako konkretnej koncepcji lub kategorii, ale nie wykrywa prawidłowo ani nie obsługuje danych wejściowych, które zostały zmodyfikowane lub skonstruowane w sposób powodujący, że mechanizm wykrywa inną kategorię. Problem ten powoduje podatność na ataki z wykorzystaniem danych zaburzonych lub zmanipulowanych celowo w celu oszukania systemu sztucznej inteligencji.
The product uses an automated mechanism such as machine learning to recognize complex data inputs (e.g. image or audio) as a particular concept or category, but it does not properly detect or handle inputs that have been modified or constructed in a way that causes the mechanism to detect a different, incorrect concept.