FTC sõnul märkis Rite Aidi tehnoloogia valesti tarbijaid, eriti naisi ja värvilisi inimesi, kui poevargaid. Rite Aidil on keelatud viie aasta jooksul näotuvastustehnoloogiat kasutada külastajate järelevalve eesmärgil, et lahendada föderaalse kaubanduskomisjoni (FTC) süüdistused, mille kohaselt jaemüüja ei rakendanud mõistlikke protseduure ega takistanud tarbijatele kahju tekkimist, kasutades näotuvastustehnoloogiat sadades kauplustes. „Rite Aidi hooletu näojälgimissüsteemide kasutamine jättis nende kliendid silmitsi alanduse ja muude kahjudega ning rikkumised seadsid tarbijate tundliku teabe ohtu,” ütles FTC tarbijakaitse büroo direktor Samuel Levine.
Ettepanekuga kehtestatava korralduse kohaselt peab Rite Aid rakendama ulatuslikke kaitsemeetmeid, et vältida tarbijatele sellise kahju tekitamist, kui nad kasutavad biomeetrilist teavet töötlevaid automatiseeritud süsteeme tarbijate jälgimiseks või nende markeerimiseks turvariskina. Samuti nõuab see, et Rite Aid lõpetaks sellise tehnoloogia kasutamise, kui nad ei suuda kontrollida võimalikke riske tarbijatele. Rite Aid rikkus 2010. aasta komisjoni andmeturbe korraldust, kuna nad ei suutnud piisavalt järelevalvet teha oma teenusepakkujate üle. Nüüd peab Rite Aid rakendama tugevdatud andmeturbekava, mida peavad korda saatma ettevõtte tippjuhid.
FTC kaebuses föderaalkohtusse väidetakse, et aastatel 2012 kuni 2020 kasutas Rite Aid tehisintellektil põhinevat näotuvastustehnoloogiat, et tuvastada kliente, kes võisid olla seotud poevarguse või muu probleemse käitumisega. Kaebuses väidetakse siiski, et ettevõte ei võtnud mõistlikke meetmeid, et takistada tarbijatele kahju tekkimist, mistõttu süüdistasid töötajad valesti tarbijaid valesti käitumises, kuna näotuvastustehnoloogia märkis ekslikult tarbijaid, kes vastasid inimesele, keda varem peeti poevargaks või muul moel pahategijaks.
FTC andis varem 2024. aastal hoiatuse, et agentuur jälgib seda sektorit tähelepanelikult. Kaebuse kohaselt põhjustasid Rite Aidi tegevused tarbijatele piinlikkust, ahistamist ja muud kahju. Ettevõte ei teavitanud tarbijaid, et nad kasutavad seda tehnoloogiat oma kauplustes, ja töötajaid julgustati hoiduma selle teabe avaldamisest. Töötajad, kes tegutsesid valepositiivsete hoiatuste põhjal, jälgisid tarbijaid kauplustes, otsisid neid läbi, käskisid lahkuda, kutsusid politsei, et tarbijaidläbi otsida või eemaldada, ja süüdistasid neid avalikult, mõnikord sõprade või pereliikmete ees, poevarguses või muus valesti käitumises. Lisaks väidab FTC, et Rite Aidi tegevus mõjutas ebaproportsionaalselt värvilisi inimesi.
Kaebuse kohaselt sõlmis Rite Aid lepingu kahe ettevõttega, et aidata luua fotode andmebaas isikutest, keda peeti „huvipakkuvateks isikuteks”, kuna Rite Aid uskus, et nad osalesid või üritasid osaleda kuritegelikus tegevuses jaemüügikohas. Andmebaas oli koos nende nimede ja muu teabega, nagu näiteks kriminaalajalugu. Ettevõte kogus kümneid tuhandeid pilte üksikisikutest, millest paljud olid halva kvaliteediga ja pärinesid Rite Aidi turvakaameratest, töötajate telefonikaameratest ja isegi uudistest.
Süsteem genereeris tuhandeid valepositiivseid vasteid, väidab FTC. Näiteks sobitas tehnoloogia mõnikord kliente inimestega, kes olid algselt kantud andmebaasi tegevuse põhjal, mis toimus tuhandete miilide kaugusel, või märkis sama isiku kümnetes erinevates kauplustes üle kogu Ameerika Ühendriikide.
Kaebuses väidetakse konkreetselt, et Rite Aid ei suutnud:
- Kaaluda ja vähendada võimalikke riske tarbijatele, kes on valesti tuvastatud, sealhulgas suurenenud riske teatud tarbijatele nende rassi või soo tõttu. Näiteks genereeris Rite Aidi näotuvastustehnoloogia suurema tõenäosusega valepositiivseid hoiatusteateid kauplustes, mis asusid peamiselt mustanahaliste ja aasialaste kogukondades, võrreldes valdavalt valgete kogukondadega;
- Testida, hinnata, mõõta, dokumenteerida ja uurida näotuvastustehnoloogia täpsust enne selle kasutuselevõttu, sealhulgas ei taotlenud nad säärast teavet üheltki müüjalt, keda nad kasutasid näotuvastustehnoloogia pakkumiseks, selle kohta, mil määral tehnoloogiat oli täpsuse osas testitud;
- Takistada halva kvaliteediga piltide kasutamist seoses näotuvastustehnoloogiaga, mis suurendas valepositiivsete hoiatuste tõenäosust;
- Jälgida ega testida regulaarselt tehnoloogia täpsust pärast selle kasutuselevõttu, sealhulgas ei rakendatud ega jõustatud mingit protseduuri, et jälgida valepositiivsete vastete määra või tegevusi, mida tehti nende valepositiivsete hoiatuste põhjal;
- Piisavalt koolitada töötajaid, kelle ülesandeks oli näotuvastustehnoloogia kasutamine kauplustes, ja hoiatada, et tehnoloogia võib tekitada valepositiivseid hoiatusteateid. Isegi pärast seda, kui Rite Aid vahetas tehnoloogia sellise vastu, mis võimaldas töötajatel teatada valepositiivsetest ja nõudis töötajatelt selle kasutamist, ei võtnud ettevõte meetmeid.
FTC kaebuses väidetakse ka, et Rite Aid rikkus 2010. aasta andmeturbe korraldust, kuna ei suutnud rakendada ulatuslikku andmeturbeprogrammi. Muu hulgas nõudis 2010. aasta korraldus, et Rite Aid tagaks, et nende kolmanda osapoole teenusepakkujatel on asjakohased kaitsemeetmed tarbijate isikuandmete kaitsmiseks. Näiteks väidetakse kaebuses, et ettevõte viis paljud teenusepakkujate turbehinnangud läbi suuliselt ja et ta ei suutnud hankida ega omada nende hinnangute varukoopiaid, sealhulgas nende teenusepakkujate jaoks, keda Rite Aid pidas „kõrge riskiga” pakkujateks.
Lisaks keelule ja biomeetriliste turva- või jälgimissüsteemide kasutamisele, sisaldab korraldus muui sätteid. Samuti nõutakse ettevõttelt järgmist:
- Kustutada ja nõuda kolmandatelt osapooltelt kõigi nende näotuvastussüsteemi kasutamisega kogutud piltide või fotode kustutamist ning kustutada kõik algoritmid või muud tooted, mis töötati välja, kasutades neid pilte ja fotosid;
- Teavitada tarbijaid, kui nende biomeetriline teave kantakse biomeetrilise jälgimissüsteemi kasutatavasse andmebaasi, ja teavitada tarbijaid, kui Rite Aid võtab nende vastu meetmeid, mis põhinevad sellise süsteemi väljundil;
- Uurida ja vastata kirjalikult tarbijakaebustele meetmete kohta, mis on võetud tarbijate vastu seoses biomeetrilise turva- või jälgimissüsteemiga;
- Esitada tarbijatele selge ja arusaadav teade näotuvastuse või muu biomeetrilise jälgimistehnoloogia kasutamise kohta oma kauplustes;
- 5 a jooksul kustutada kõik biomeetrilised andmed, mida on kogutud;
- Viia ellu andmeturbeprogramm, et kaitsta ja kindlustada isiklikku teavet, mida nad koguvad, säilitavad ja jagavad oma teenusepakkujatega;
- Hankida sõltumatute kolmandate osapoolte hinnanguid oma andmeturbeprogrammi kohta;
- Esitada komisjonile igal aastal tegevjuhi poolt sertifikaat, mis kinnitab, et Rite Aid järgib korralduse sätteid.
Komisjon hääletas 3-0, et volitada töötajaid esitada kaebus ja kavandatud korraldus Rite Aidi vastu.
Viited: