Ako startup Clearview AI ukradol miliardy fotiek používateľom sociálnych sietí

Startup Clearview AI ukradol fotky miliónom používateľov sociálnych sietí

Americký startup Clearview AI bol založený talentovaným 30-ročným podnikateľom Hoanom Ton-That v roku 2017. Tento startup využíva technológiu na rozpoznávanie tvárí pomocou miliárd fotografií a práve tieto fotky startup ukradol. Môžete sa pýtať, čo je také zlé na technológii rozpoznávaní tvárí?

No samo o sebe nič, akurát v tomto prípade, spoločnosť túto technológiu spolu s ich stále rozširujúcou databázou 3 miliárd fotografií predáva organizáciám od miestnej polície na Floride po FBI a napríklad aj spoločnostiam, ako napríklad AT&T a T-Mobile. A práve tieto spoločnosti majú momentálne prístup k tvojim, ako aj mojim fotografiám. Pamätáš si, či sa ťa niekto niekedy pýtal, či môže použiť tvoje fotky na tento účel? Ja nie!

Ako Clearview AI funguje?

Ale pekne poporiadku, najprv si vysvetlíme, ako vôbec ich technológia funguje. Na vytvorenie tejto technológie potrebujete v zásade 3 veci.

1. 1. Dáta (v tomto prípade fotografie miliónov až miliardy ľudí) – tie budete následné využívať na to, aby ste vycvičili svoju umelú inteligenciu v rozpoznávaní tvárí
   2. Umelú inteligenciu – tá sa musí naučiť vedieť rozpoznávať ľubovoľnú odfotografovanú tvár a porovnať ju so svojou databázou, a to v čo najkratšom čase
   3. Užívateľské prostredie – ako takmer každá technológia určená pre ľudí, aj Clearview AI potrebuje nejakú aplikáciu s prívetivým užívateľským prostredím

Dáta

Toto je asi najtemnejšia časť celej spoločnosti. Konkrétne spôsob, akým startup získal fotografie bežných ľudí, ako sme my. Na zbieranie dát využil tzv. „scraping“. V skratke ide o algoritmus, ktorý prehľadáva webstránky a sťahuje si z nich dáta. V tomto prípade išlo najmä o sociálne siete ako Facebook, Instagram, Twitter alebo aj YouTube. Práve na nich sa nachádza veľmi veľa používateľov, ktorí tam pridávajú svoje fotografie.

Žiadna z týchto stránok však takýto „scraping“ na ich stránkach nedovoľuje . Čo znamená, že dáta boli získané nelegálne a Clearview AI tým pádom doslova ukradol fotky miliónom používateľov na týchto platformách.

Podľa údajov, ktoré poskytol zakladateľ, má startup databázu 3 miliárd fotografií. Spoločnosť sa bráni tým, že zbierala len verejne dostupné dáta, no je tu jedno veľké ALE. Úplne stačí, že ste mali fotky verejné iba na chvíľu a neskôr ste si zmenili profil na súkromný. Algoritmus mohol kľudne stihnúť vaše fotky stiahnuť a už ich má uložené v databáze.

Na tento prípad využívania už súkromných fotiek poukázal portál CNN. Jeden z ich reportérov Donie O’Sullivan mal rozhovor so zakladateľom spoločnosti a neskôr ho požiadal, aby vyskúšal naskenovať tvár jeho producentky.

Umelá inteligencia následne vyhľadala bohatú databázu fotiek, na ktorej sa nachádzala práve jej tvár. Niektoré z fotografií boli z jej instagramového profilu, ktorý má podľa jej slov súkromný. Hoan sa jej spýtal, či mala niekedy profil verejný. Ona potvrdila, že na malú chvíľu v minulosti. Nenarušuje tak startup naše súkromie?

Taktiež je veľkým problémom to, že aj keby Facebook alebo ďalšie spoločnosti požiadali startup o to, aby vymazal dáta nazbierané na ich stránke zo svojej databázy, algoritmus je už nacvičený na rozpoznávanie tvárí, čo znamená, že dáta sú v istej forme uložené priamo v štruktúre umelej inteligencie a je nemožné ich odtiaľ vymazať bez jej poškodenia.

Aby som to zhrnul, startup zbieral dáta nelegálne, bez vedomia ľudí, ktorých sa to týka. Taktiež zbieral fotografie, ktoré už nie sú verejné a navyše tieto dáta poskytoval ďalej spoločnostiam a organizáciám. Asi tu niečo úplne nehrá…

Umelá inteligencia

Na spracovanie takéhoto množstva dát potrebujete, veľmi výkonnú, presnú a efektívnu umelú inteligenciu. A keďže ich aplikáciu využíva množstvo organizácií a spoločností, očividne sa im to podarilo. Ich umelá inteligencia funguje približne rovnako ako hocijaký iný search engine typu Google alebo Bing. Akurát tento pracuje s fotografiami.

Na začiatku do umelej inteligencie „nalejete“ množstvo dát a tá sa následne naučí hlavné rysy daných ľudí, podľa ktorých ich vie následne identifikovať. Nezameriava sa na ľahko zmeniteľné znaky ako brada, fúzy alebo dĺžka vlasov, ale radšej na znaky, ktoré sú viac menej nemenné, napríklad vzhľad tváre, farba očí a podobne.

Opäť použijem prípad z portálu CNN. Hoan nasnímal do aplikácie fotografiu reportéra Donieho a tá našla jeho fotografiu z doby, keď mal 15 rokov. Na tej fotografií vyzeral úplne inak a sám Donie bol zaskočený, s akou presnosťou umelá inteligencia identifikovala jeho tvár. V tej dobe Donie vôbec nemal bradu, bol chudší a málokto, kto ho momentálne pozná, by vedel určiť, že na fotke sa nachádza práve on.

V tejto časti je desivá iba jediná vec, a to presnosť, s ktorou dokáže umelá inteligencia pracovať. Podľa Hoana má umelá inteligencia presnosť 99,6 %, čo je úctyhodný výsledok. Pri tejto umelej inteligencii nemôžeme zaprieť to, koľko času a prostriedkov musela firma investovať pre čo najlepší výsledok.

Užívateľské prostredie

Na používanie tejto technológie potrebujete, samozrejme, aj prívetivé užívateľské prostredie. Spoločnosti sa ho zjavne podarilo vytvoriť, keďže aplikáciu dokážu využívať bežný radový policajti, ako aj ľudia z rôznych organizácií. Podarilo sa im vytvoriť intuitívne prostredie, ktoré dokáže v priebehu niekoľkých sekúnd identifikovať človeka na fotografií a porovnať ju s niekoľkými miliónmi ďalších fotografií.

Môžete si to predstaviť, ako ten softvér z amerických kriminálnych seriálov a filmov, kde vložia do aplikácie fotografiu a vedľa nej začnú prebiehavať fotografie, ktoré sú v databáze. Veľmi podobná aplikácia vraj skutočne existuje, ale to asi nikdy nezistíme… Čo však vieme povedať z určitosťou je, že Clearview AI to robí omnoho lepšie a efektívnejšie.

Na zhrnutie. Clearview AI zozbieralo dáta nelegálne ale tvrdí, že všetky boli verejné, čo nie je úplne pravda. Následne s týmito dátami naučili umelú inteligenciu rozpoznávať tváre a tú potom zaobalili do aplikácie. Aplikáciu následne začali ponúkať organizáciam a ako uvidíte ďalej, celkom sa im to darí.

Kto a ako túto technológiu používa?

Vďaka nedávnemu úniku informácií o zákaznikoch spoločnosti Clearview AI vieme, že ide o desiatky organizácií a spoločností – od vládnych po súkromné. Vymenujem len zopár, aby ste si spravili predstavu, o aký veľký trh ide. Aplikáciu od Clearview AI využíva FBI, polícia v štáte New York, v štáte Indiana, na Miami, vo Filadelfii, ako aj americká tajná služba. Ďalej aplikáciu využíva Univerzita v Alabame, spoločnosti AT&T a T-Mobile, obchodný reťazec Walmart atď. Asi ste si spravili predstavu, že ide o milióny dolárov, ktoré zarobili aj vďaka vašej tvári.

Na čo je všetkým týmto spoločnostiam a organizáciam táto aplikácia? No každej z nich na niečo iné. Z toho, čo vieme, sa aplikácia páči najmä policajtom, ktorým šetrí mnoho času pri preverovaní totožnosti páchateľov. Aplikácia je navyše omnoho efektívnejšia než softvér, ktorý polícia vlastní a pre vládu je omnoho lacnejšie zaplatiť si už vytvorený produkt, ako vyvíjať nový.

Napríklad v New Jersey bol Clearview použitý ako súčasť vyšetrovania detských predátorov. Polícia využila Clearview AI na identifikáciu muža predtým, ako sa ukázal, pretože veril, že sa má stretnúť s maloletým dieťaťom. Toto využitie potvrdil Gurbir Grewal, generálny prokurátor v New Jersey. Avšak aj on po tom, ako sa dozvedel o pôvode dát použitých v Clearview AI, nariadil orgánom činným v trestnom konaní, aby prestali používať túto aplikáciu.

Pre mňa je však záhadou to, načo je Clearview AI súkromným spoločnostiam ako T-Mobile, ktorý má pobočky aj mimo USA alebo spoločnosti Walmart. Napadá mi iba jeden dôvod, a to je preverovanie si budúcich zamestnancov. Je však vôbec takéto jednanie etické? Keďže sme si už vyšie spomenuli, že používateľ tejto aplikácie sa vie dostať aj k už súkromným fotografiám.

Zároveň všetky spoločnosti dostávajú s aplikáciou aj prístup ku všetkým 3 miliardám fotografií v Clearview databáze. Keďže vidíme, že sa k tejto aplikácií vedia dostať aj súkromné spoločnosti, nemáme sa báť o svoje súkromie? V praxi to znamená asi toľko, že ktokoľvek, kto má dostatočne veľa peňazí a súkromnú spoločnosť, sa dokáže dostať ku fotografiám takmer kohokoľvek na svete. Je to prinajmenšom strašidelné.

Záver toho, ako Clearview AI ukradol fotky miliónom ľudí

Takže tu máme veľmi efektívnu aplikáciu, ktorá však porušuje snáď všetky pravidlá súkromia. Na jednej strane dokázala zachrániť mnoho ľudí a ďalším každodenne uľahčuje prácu. Na druhej strane sú používatelia ako ty a ja, ktorí pravdepodobne nikdy nebudú stíhaní za vraždu alebo iný trestný čin, ale prišli sme o svoje súkromie. Najhoršia časť na tom je asi to, že s tým nič nespravíme.

Clearview AI jednoducho ukradol fotky miliónom ľudí po celom svete, ktorý o tom netušia a začal ich predávať súkromným spoločnostiam.

Pozitívnou správou je aspoň to, že spoločnosť bola v poriadku s tým, aby bola regulovaná vládou. Ale keďže americká vláda je jedným z hlavných zákazníkov tejto spoločnosti, mám mierne pochybnosti. Čo si myslíte o tomto startupe vy? Oplatí sa stratiť vlastné súkromie preto, aby mohli mať niektoré vybrané spoločnosti uľahčenú prácu?

Na záver len jednoduchá rada pre vás: dávajte si veľký pozor, čo dávate na internet. Nikdy neviete, kde a ku komu sa tieto fotografie a údaje dostanú.

Zdroj: cnn.com, nytimes.com