Sposób, jak być niewidzialnym dla detektorów SI

YOLOv2 - skrót od słów You only look once - to system wykrywania obiektów i postaci w czasie rzeczywistym. Jak się okazuje, można oszukać go w dziecinnie prosty sposób.

Badacze z Katolickiego Uniwersytetu Lowańskiego zademonstrowali, jak mały, kwadratowy obrazek z kolorowymi elementami może zostać użyty w charakterze czapki-niewidki przeciwko detektorom działającym pod kontrolą SI. Takie jak YOLOv2 stają się coraz powszechniejsze w systemach monitoringu (CNN), a także umożliwiają rozpoznawanie osób na zdjęciach czy nagraniach wideo. Detektory uczą się wyglądu człowieka poprzez analizę tysięcy zdjęć. Wspomniani badacze - a konkretnie Simen Thys, Wiebe Van Ranst i Toon Goedeme - odkryli, że łatwo je oszukać. Wystarczy pokryty kolorowymi paskami karton lub kartka papieru o wymiarach 40 x 40 cm i gotowe - co demonstrują na poniższym nagraniu.

Jak napisali, spędzili trochę czasu na znalezieniu najmniejszego rozmiaru obrazka, przy którym detektory zostaną oszukane. Jak się okazało, jest to 40 x 40 cm. Zanim podzielili się swoim odkryciem ze światem, przeprowadzono wiele testów, kierując detektory na osoby trzymające kartki z kolorowymi obrazkami. "System oszukiwania" nie jest do końca perfekcyjny, ale w zdecydowanej większości przypadków trzymanie obrazka w dłoniach sprawia, że kamera nie rozpoznaje osoby. Jest to niepokojące, ponieważ umożliwia np. spokojne przejście koło kamery włamywacza - jeżeli będzie mieć obrazek o odpowiednich wymiarach, system monitoringu nie rozpozna człowieka i nie podniesie alarmu. Co więcej - koszulka czy bluza w odpowiednie wzory może dać taki sam efekt. Nie jest jednak do końca źle - jak można zauważyć to na nagraniu, gdy obrazek znajdował się pod pewnymi kątami, rozpoznawanie postaci działało prawidłowo. Badacze chcą teraz opracować łatkę dla oprogramowania, która pozwoli na eliminację tego swoistego "płaszcza niewidzialności".

Warto przypomnieć, że w 2016 pokazano stworzone na drukarce 3D okulary, które uniemożliwiały rozpoznawanie twarzy przez systemy elektroniczne. Jak więc widać po powyższych przykładach - SI musi jeszcze nieco się poduczyć.