Arcfelismerő rendszerek okoznak botrányt brit üzletekben
Egyre több panasz érkezik a nagy-britanniai boltokban használt, mesterséges intelligencián alapuló arcfelismerő szoftverek miatt, amelyek több ártatlan vásárlót tévesen vádoltak meg bolti lopással. Az esetek egy részét nyilvános megszégyenítés kísérte, a tévesen megvádolt emberek pedig szinte tehetetlenek a technológiával szemben.
Az egyik vásárlót egy Home Bargains üzletből küldték el lopás gyanújával, pedig csupán vitaminokat akart venni. A férfit az eset annyira megviselte, hogy később már félt bemenni bármilyen boltba. Egy nőt azzal vádoltak meg, hogy nagy mennyiségű húst lopott egy Budgens üzletből, holott a férjével együtt hónapok óta nem is jártak ott. A beszámolók szerint a férj egész testében remegett a szembesítéskor.
Parlamenti meghallgatás az ártatlanul megvádoltak részvételével
A sorozatos incidensek miatt a brit parlamentben külön meghallgatást szerveztek, ahol az ártatlanul megvádolt vásárlók személyesen mondhatták el tapasztalataikat. Az eseményen részt vett Allison Gardner munkáspárti képviselő és a Big Brother Watch jogvédő szervezet is. A történetekből kiderült, hogy egyeseket már a belépéskor feltartóztattak, míg másokat a kasszánál vontak felelősségre. Arra is volt példa, hogy a rendszer nem az érintettet, hanem a mögötte haladó személyt azonosította problémásként.
Facewatch: több ezer üzletben használt technológia
A botrány középpontjában a Facewatch nevű arcfelismerő technológia áll, amelyet több ezer brit boltban – köztük a Sainsbury’s áruházlánc kétszáz üzletében – használnak. A szoftver elemzi a belépők arcát, majd összeveti egy korábban problémásnak ítélt személyeket tartalmazó adatbázissal. A téves találatoknak súlyos következményei vannak, különösen akkor, ha a bolti dolgozók fenntartások nélkül bíznak a gép ítéletében.
A Facewatch visszautasítja, hogy a hibás azonosítás általános jelenség lenne a rendszerüknél. A cég szerint a szoftver naponta több ezer üzletben működik megbízhatóan, a tévesztések pedig ritka kivételeknek számítanak. Kiemelték azt is, hogy miközben a technológia működéséért ők felelnek, a vásárlókkal szembeni fellépés módjáért már az adott üzlet vezetése és személyzete tartozik felelősséggel.
Lassú tisztázás, súlyos következmények
A legnagyobb nehézséget az okozza, hogy a gyanúba keveredett emberek szinte alig tudják tisztázni magukat. Bár a brit adatvédelmi szabályok szerint kikérhetik a róluk tárolt információkat, az eljárás rendkívül lassú, és egyáltalán nem garantálja, hogy az érintetteket törlik a megfigyelési listákról. A brit adatvédelmi hatóság (ICO) megrázónak nevezte az eseteket, Allison Gardner képviselő pedig jelezte, hogy miniszteri szintre emeli az ügyet. A történtek rávilágítanak arra, milyen komoly veszélyeket rejt, ha a mesterséges intelligencia hibás döntései érdemi emberi kontroll nélkül, közvetlenül avatkoznak be a mindennapokba.
