Školy v USA používají AI k monitorování studentů

Během posledních 10 let byly USA svědky 180 přestřelek ve školách s ohromujícími 356 oběťmi. S ohledem na slabší zákony o kontrole zbraní v zemi se školy obracejí Umělá inteligence (AI) na ochranu studentů. Nedávný systém AI instalovaný na téměř 9 amerických veřejných školách podle Recode vyvolal určité obavy o soukromí.

Software založený na AI se nazývá Appearance Search a je vyvíjen společností s názvem Avigilon. Tento software dokáže vyhledat studenta ve školním areálu na základě jeho vzhledu, věku, pohlaví, oblečení a určitých rysů obličeje.

Tento software umožňuje správě školy najít studenta a najít možná místa, kde byli v areálu, kde jsou kamery. Používá fyzické popisy jako věk, pohlaví a barva vlasů osoby. Analýzou charakteristik software vyhledá shody z ostatních videozáznamů. Tento nástroj tedy nedokáže zjistit, kdo přesně je daná osoba, ale dokáže zjistit, kde by během svého pobytu ve školní oblasti mohli být.

Jak funguje vyhledávání vzhledu

Software je integrován do monitorovacího systému školy. Pokud je tedy školní bezpečnostní pracovník svědkem jakékoli podezřelé aktivity studenta, může kliknout na tělo konkrétního studenta a získat více informací o studentovi. Software bude analyzovat fyzikální vlastnosti studenta, jako je oblečení, pohlaví, barva vlasů a to, co Avigilon říká o některých vlastnostech obličeje. Po analýze uvedených funkcí software poté porovná obraz s jakýmkoli obrazem, který má podobné vlastnosti jako ostatní zdroje kamery.

Obavy o soukromí

Jako obvykle, se softwarem AI přicházejí zjevné obavy o soukromí a tento software se nijak neliší. Mnoho odborníků na bezpečnost a ochranu soukromí zpochybnilo Avigilon's Appearance Search.

"Lidé se nechovají stejně, když jsou sledováni," připomíná Brenda Leong, ředitelka AI a etiky na fóru Future of Privacy. "Opravdu chceme jak mladé studenty, tak středoškoláky a kohokoli jiného, ​​cítit se, jako by v tom prostředí pracovali pořád?"

Přestože má tento software zvyšovat bezpečnost a snižovat násilí ve školách, používá se jiným způsobem. Správci škol používají tento nástroj k monitorování šikany, porušování kodexů chování ze strany studentů a také k pomoci při vyšetřování zaměstnanců školy.

Tato technologie není zcela založen na rozpoznávání obličeje, jedná se však o software, který dokáže rozpoznat určité rysy obličeje. Varoon Mathur, vědec studující strojové učení na AI Now Institute, považuje vyhledávání vzhledu za použití „detekce objektů“. Zatímco Logan Koepke z neziskové organizace zabývající se digitálními právy jej nazývá softwarem pro „detekci osob“, protože analyzuje další rysy dané osoby a ne výhradně její tvář.

S tímto softwarem, který funguje ve většině škol v USA, studenti nikdy nemohou mít soukromí. Správci škol oznámili, že ohledně softwaru nebyly zaznamenány žádné zprávy o narušení soukromí.

Ale bývalý student střední školy Marjory Stoneman Douglas High School (škola, kde je software již nainstalován), řekl Koerber: „Školní střelba se může stát kdykoli a kdekoli. Víme, že. Musíme však vniknout do soukromí každého člověka, který se přihlásí na konkrétní školu, abychom tomu zabránili? Myslím, že tomu tak není. “