Prediktívne testy môžu byť pre ľudí bezpečné; TechCrunch

Masívna predikčná analýza je relatívne nový fenomén, ktorý spochybňuje tak desaťročia práva, ako aj obavy spotrebiteľov o súkromie.

Ako technológia môže zachrániť tisíce životov v aplikáciách, ako je prediktívna medicína, ale ak sa nebude aplikovať opatrne, môže viesť k tisícom pôžičiek, napríklad keď je predplatný algoritmus predpojatý pre určitých používateľov. .

Pred niekoľkými týždňami som hovoril s Dennisom Hirschom o výzvach novej dátovej ekonomiky. Hirsch je profesorom práva v Ohiu a vedúcim programu pre správu údajov. Je tiež pridruženým členom Univerzitného rizikového inštitútu.

„Dátová etika je novou formou znižovania rizika pre algoritmickú ekonómiu,“ uviedol. Vo svete po Cambridge Analytica musí každý podnik hodnotiť údaje o zákazníkoch a znižovať riziko poškodenia. To, ako sa to deje, je však v popredí novej oblasti správy údajov, ktorá skúma procesy a politiky, ktoré organizácie používajú na správu svojich údajov.

Čítate Crunch každý deň navyše. Ako tento spravodaj? Prihláste sa na odber zadarmo sledovať všetky naše diskusie a debaty.

„Tradičné pravidlá ochrany osobných údajov sa pýtajú, či ste niekoho upozornili a dali mu na výber,“ vysvetľuje. Tento princíp je základom európskeho zákona DSDPR a mozaiky zákonov USA na ochranu súkromia. Je založený na zjednodušujúcej myšlienke, že kedysi ̵

Nárast „prediktívnej analýzy“ úplne zničil zákon o ochrane údajov. Prediktívna analýza je fuzzy pojem, ktorý však v podstate znamená interpretáciu nespracovaných údajov a odvodenie nových záverov od záveru. Toto je príbeh slávnej krízy cieľových údajov, v ktorej maloobchodník odporúčal ženám, ktoré uskutočnili určité nákupy, nákup tovaru súvisiaceho s tehotenstvom. Ako vysvetlil Charles Duhigg:

Mnoho kupujúcich kupuje mydlá a vatové tyčinky, ale ak niekto náhle začne kupovať vatové tyčinky a extravagantné tašky z vaty, okrem dezinfekčných prostriedkov na ruky a kobercov to naznačuje, že sa blížite k dátumu dodania.

Prediktívna analýza je ťažko predvídateľná. Hirsch hovorí: „Nemyslím si, že by ktokoľvek z nás bol dosť chytrý na to, aby porozumel prediktívnej verzii služby Google Analytics.“ Keď hovoril o zákazníkoch, povedal: „Vzdajú sa svojich povrchových výrobkov - napríklad vatových tampónov a neparfumovaného telového mlieka - viem, že to zdieľajú, ale neviem, že sa vzdajú tehotenstva ... Ľudia nebudú viete, ako sa chránia, pretože nevedia, čo sa dá odvodiť z ich povrchových údajov. “

Inými slovami, veľkosť týchto predpovedí úplne podkopáva pozornosť a schválenie

Aj keď zákon nedokázal exponenciálne vyriešiť tento zložitejší problém, „spoločnosti sa po udalostiach spoločností Target a Facebook javia ako veľmi otvorené.“ Počujeme, že nechceme ohroziť našich zákazníkov, "uviedol Hirsch." Chápu, že táto perspektívna technológia im dáva neuveriteľnú moc a môžu robiť veľa dobrých vecí, ale môžu tiež ublížiť ľuďom. "Hlavnými hráčmi v tejto oblasti sú úradníci zodpovední za ochranu údajov spoločnosti, ktorá túto úlohu zohrávala. V posledných rokoch sa niektoré z týchto výziev zmiernili.".

Hirsch trávi veľa času vývojom nových stratégií riadenia, ktoré spoločnostiam umožňujú využívať prediktívne analýzy etickým spôsobom, aby sme ich „získali a použili bez akýchkoľvek udržateľných nákladov.“ Zameriava sa na štyri oblasti: súkromie, manipulácia, procesné predsudky a nespravodlivosť. „Ustanovíme zásady, ktoré sú etické a nie etické,“ uviedol.

Veľká časť tohto zamerania sa sústredila na to, ako pomôcť regulačným orgánom vypracovať pokyny na správu prediktívnych analýz. Pretože ľudia nemôžu pochopiť čo najviac informácií o ich údajoch, „oveľa lepším regulačným prístupom je mať niekoho, kto niečomu rozumie, ideálne nejaký regulačný orgán, ktorý dokáže urobiť určité čiary. „. Hirschove štúdie, FTC by mohol byť spôsobom, ako tieto politiky zaviesť do praxe.

Podobne je na tom s Úradom pre potraviny a liečivá. „Nemôžeme posúdiť riziká konkrétneho lieku [tak], ktoré poskytneme agentúre odborníkov a umožníme jej ju posúdiť,“ uviedol. „Toto je pravidlo, ktoré potrebujeme.“

Hirsch má vyvážený pohľad na riziká a príležitosti, ktoré tu vznikajú. Chce, aby boli analýzy „spoločensky prijateľnejšie“, ale zároveň sa domnieva, že na zabezpečenie ochrany spotrebiteľa je potrebné dôkladné sledovanie a kontrola. Nakoniec to považuje za neuveriteľne prospešné pre spoločnosti, ktoré môžu využívať hodnotu tejto technológie bez toho, aby to ohrozilo spotrebu spotrebiteľov.

Kto ukradne vaše údaje: Čína alebo Amerika?

Jaap Arriens/NurPhoto na Getty Images

Pokiaľ ide o etiku údajov, Európa je uprostred superveľmoci. Spoločnosť Huawei, čínsky telekomunikačný gigant, určila kontinentálnu expanziu za svoju najvyššiu prioritu, zatiaľ čo USA vyslali delegácie v delegáciách, aby presvedčili svojich západných spojencov, aby odmietli čínske vybavenie. Dilema bola celkom viditeľná minulý týždeň na konferencii MWC-Barcelona, kde sa obe strany snažia vysvetliť svoj prípad.

Uplynuli roky, odkedy Snowden Revelations ukázal, že USA majú obrovskú zadržiavaciu infraštruktúru zameranú na krajiny po celom svete. vrátane celej Európy. Spoločnosť Huawei zopakovala svoj postoj, že neukradne informácie zo svojho zariadenia, a opakovane vyzvala Trumpovu administratívu, aby verejne dokázala bezpečnostné chyby. Existuje veľa morálneho relativizmu, ale vnímam to ako čoraz ťažšiu skúšku Západu na Čínu. Čína sa netajila svojimi ambíciami hrať vo východnej Ázii významnú úlohu, ani zámermi vybudovať masívnu sieť sledovania pre svojich obyvateľov alebo ovplyvňovať médiá v zahraničí.

Táto taktika je však priamo v americkom programe, ktorý za posledné dve desaťročia stratil morálnu legitimitu kombináciou vojen v Iraku, Snowden, Wikileaks a ďalších verejných škandálov, ktoré narušili dôveru v túto krajinu. v zámorí.

Bezpečnosť a súkromie mohli byť pre výrobky USA konkurenčnou výhodou oproti ich čínskym náprotivkom, ale táto výhoda bola v mnohých krajinách oslabená takmer na nulu. Krajiny si v citlivých aplikáciách budú čoraz častejšie vyberať kombináciu čínskeho a amerického vybavenia, len aby sa ubezpečili, že ak niektorá krajina ukradne jej údaje, mohlo by to byť vyvážené.

Veci, ktoré sa mi zdajú zaujímavé, sa nedočítali

Obsesie

Možno viac výziev, pokiaľ ide o využitie dát a algoritmickú zodpovednosť
Máme problém s rozvíjajúcimi sa ekonomikami, makroekonómiou a s ďalšími používateľmi, ktorí sa pripoja k internetu.
Ďalšie diskusie o megaprojektoch, infraštruktúre a „Prečo nemôžeme stavať veci“

Ďakujem

Za každého člena Extra Crunch: Ďakujem. Umožňujú nám odkloniť sa od reklamného podnikania a tráviť kvalitný čas s úžasnými nápadmi, ľuďmi a firmami. Ak vám môžem pomôcť, kliknite na tlačidlo „Odpovedať“ alebo pošlite e-mail na adresu [email protected]

Tento informačný bulletin bol napísaný s podporou Armana Tabatabai z New Yorku.

Čítate Extra Crunch každý deň. Ako tento spravodaj? Prihláste sa na odber zadarmo sledovať všetky diskusie a debaty.