Gadgetshowto
W ciągu ostatnich 10 lat w Stanach Zjednoczonych doszło do 180 strzelanin szkolnych z oszałamiającymi 356 ofiarami. Ze względu na słabsze przepisy dotyczące kontroli broni w kraju, szkoły zwracają się ku Sztuczna inteligencja (AI) w celu ochrony uczniów. Jednak niedawny system sztucznej inteligencji zainstalowany w prawie 9 szkołach publicznych w USA, według Recode, wzbudził pewne obawy dotyczące prywatności.
Oprogramowanie oparte na sztucznej inteligencji nosi nazwę Appearance Search i jest rozwijane przez firmę o nazwie Avigilon. Oprogramowanie jest w stanie znaleźć ucznia w kampusie szkolnym na podstawie jego wyglądu, wieku, płci, ubioru i niektórych cech twarzy.
Oprogramowanie umożliwia administracji szkoły zlokalizowanie ucznia i znalezienie możliwych lokalizacji, w których przebywał on na terenie kampusu, na którym znajdują się kamery monitorujące. Używa fizycznych opisów, takich jak wiek, płeć i kolor włosów danej osoby. Analizując cechy, oprogramowanie wyszukuje dopasowania z innych nagrań wideo. Dlatego narzędzie nie jest w stanie określić, kim dokładnie jest dana osoba, ale może określić, gdzie mogła przebywać w czasie swojego pobytu w okolicy szkoły.
Jak działa wyszukiwanie według wyglądu
Oprogramowanie jest zintegrowane z systemem nadzoru szkoły. Jeśli więc pracownik ochrony szkoły zauważy podejrzaną aktywność ucznia, może kliknąć ciało konkretnego ucznia, aby uzyskać więcej informacji o uczniu. Oprogramowanie przeanalizuje fizyczne właściwości ucznia, takie jak ubranie, płeć, kolor włosów i to, co mówi Avigilon, niektóre cechy twarzy. Po przeanalizowaniu wspomnianych funkcji oprogramowanie dopasuje obraz do dowolnego obrazu o podobnych cechach charakterystycznych dla innych kanałów z kamer.
Kwestie prywatności
Jak zwykle, oprogramowanie AI wiąże się z oczywistymi obawami o prywatność i nie jest inaczej. Wielu ekspertów ds. Bezpieczeństwa i prywatności zakwestionowało wyszukiwarkę wyglądu Avigilon.
„Ludzie nie zachowują się tak samo, gdy są obserwowani”, przypomina Brenda Leong, dyrektor ds. Sztucznej inteligencji i etyki na forum Future of Privacy. „Czy naprawdę chcemy, aby zarówno młodzi uczniowie, jak i licealiści i ktokolwiek inny czuł się, jakby cały czas działał w takim środowisku?”
Chociaż to oprogramowanie ma zwiększyć bezpieczeństwo i zmniejszyć przemoc w szkołach, jest używane w inny sposób. Administratorzy szkół używają tego narzędzia do monitorowania zastraszania, łamania kodeksu postępowania przez uczniów, a także do pomocy w dochodzeniach pracowników szkoły.
Ta technologia nie jest w pełni oparta na rozpoznawaniu twarzy, jest to jednak oprogramowanie, które potrafi rozpoznać pewne cechy twarzy. Varoon Mathur, uczony studiujący uczenie maszynowe w AI Now Institute, uważa, że wyszukiwanie wyglądu używa „wykrywania obiektów”. Logan Koepke z organizacji non-profit zajmującej się prawami cyfrowymi nazywa to oprogramowanie do wykrywania osób, ponieważ analizuje inne cechy osoby, a nie tylko jej twarz.
Dzięki temu oprogramowaniu, które działa w większości szkół w USA, uczniowie nigdy nie będą mieli prywatności. Administratorzy szkół poinformowali, że nie było zgłoszeń naruszenia prywatności oprogramowania.
Ale były uczeń Marjory Stoneman Douglas High School (szkoła, w której oprogramowanie zostało już zainstalowane), Koerber powiedział: „Strzelanina szkolna może się zdarzyć w dowolnym czasie i miejscu. Wiemy to. Ale czy musimy naruszać prywatność każdej osoby, która zapisuje się do danej szkoły, aby temu zapobiec? Nie sądzę, żeby tak było ”.
