Veľké technologické spoločnosti o tom neradi hovoria. A keď používatelia zistia, že sa to deje, sú často prekvapení a znepokojení.
Áno, ak hovoríte s virtuálnym asistentom, ako je napríklad Alexa od spoločnosti Amazon, zariadenie vie zaznamenať nahrávku z vášho rozhovoru, ktorú si vie vypočuť iný jednotlivec.
Posledné správy poukazujú na to, čo je v skutočnosti dlhodobý štandard, ktorý sa do značnej miery týka zlepšenia umelej inteligencie, ktorá podporuje virtuálne prístroje a služby poháňané virtuálnymi asistentmi, ktoré sa stále viac objavujú v domácnostiach a životoch ľudí.
Táto prax vzbudzuje obavy týkajúce sa ochrany osobných údajov najmä pre používateľov inteligentných reproduktorov, ktorí pravdepodobne nevedeli, že Amazon, Google a Apple vytvárajú nahrávky zakaždým, keď sa rozprávate s Alexou, asistentom Google a Siri.
Spoločnosti uviedli, že len malé percento záznamov počúva iný človek. Spoločnosti Google a Apple napriek tomu dočasne zastavili skúmanie svojich nahrávok ľuďmi, zatiaľ čo Amazon nedávno zmenil svoje nastavenia, aby ľuďom uľahčili vyhnúť sa takejto analýze. V priebehu minulého týždňa spoločnosť Facebook tiež uviedla, že pozastavila ľudskú kontrolu zvukových záznamov u niektorých používateľov, napríklad tých, ktorým boli odoslané zvukové správy prostredníctvom aplikácie Messenger. Facebook používal ľudí na počúvanie a analýzu nahrávok, ako súčasť transkripcie umelej inteligencie (AI).
Súvisiace: Google chce svojho virtuálneho asistenta v každej miestnosti vášho domu
Ľudia sú pri tomto procese potrební, keďže prichádzajú s odhalení chýb, čím tieto systémy závislé od AI môžu fungovať, ale je potrebné aby firmy o tomto procese informovali používateľov.
Početní odborníci na inteligenciu, od akademikov až po začínajúcich podnikateľov, poznamenali že existuje legitímna potreba počúvať niekoľko úryvkov konverzácie, aby mohli fungovať všetky funkcie, hlasom ovládanej technológie – bez ohľadu na to, či je inteligentné zariadenie v obývacej izbe alebo sa jedná o virtuálny server v reštaurácii.
Zároveň si myslia, že technologické spoločnosti by mali urobiť oveľa viac pre to, aby objasnili, čo sa stane s akýmikoľvek záznamami z týchto systémov a aké riziká pre súkromie jednotlivcov môžu existovať.
„Ak o tom premýšľate, prečo by ste chceli mať u seba cudzinca ktorý počúva vaše súkromné rozhovory?“ poznamenal Mainula Mondala, zakladateľ a generálny riaditeľ startupu Ellipsis Health so sídlom v San Franciscu, ktorý využíva umelú inteligenciu (AI) na analýzu rozhovorov, ktoré majú pacienti s lekármi a inými poskytovateľmi zdravotnej starostlivosti.
Umelá inteligencia sa aj potrebuje učiť
Virtuálni asistenti využívajú algoritmy strojového učenia, ktoré kombinujú veľké množstvo údajov a hľadajú vzory. Aby mohli títo asistenti pracovať, musia byť vyškolení z množstva údajov – v tomto prípade mnohých rozhovoroch.
Jason Mars, generálny riaditeľ a spoluzakladateľ spoločnosti Clinc, čo je v Michigane založená spoločnosť, ktorá vytvára konverzačných asistentov pre banky a ďalšie spoločnosti, poznamenal: “Vyškolenie hlasového asistenta, ktoré môže byť uvedený do praxe trvá okolo 20 000 hodín.“
Títo asistenti môžu byť vyškolení na vykonávanie najrôznejších úloh, ako je napríklad informovanie o tom, aké je počasie alebo hranie piesne na príkaz. Ľudia v prvom rade stále zostávajú životne dôležitými nielen pre poskytovanie informácií, pre učenie týchto systémov, ale aj pre to, aby im pomohli zlepšovať sa v priebehu času.
Justine Cassell, ktorá je profesorkou jazykovej technológie na Carnegie Mellon University, uviedla, že ľudia sú „nevyhnutní“ na výrobu produktov ovládaných hlasom, pretože táto technológia je stále ešte nevhodnou na komunikáciu medzi ľuďmi – to znamená, že je potreba vybrať spôsob, ako povedať, čo hovoria (čo sa môže líšiť v závislosti od toho, či hovoríme napríklad o spolupracovníkovi alebo príslušníkovi rodiny).
Umelá inteligencia tiež nedokáže zistiť, ako na nás primerane reagovať. Napríklad, ak požiadate Siri, aby vám povedal vtip, a odpoviete tým, že poviete: „To nie je príliš zábavné,“ odpovie roboticky, „nie som si istý, či tomu rozumiem.“
Cassell ďalej poznamenal: „Stroje v tom nie sú dobré, a preto ľudia počúvajú ľudské rozhovory: pretože zatiaľ tieto zariadenia naozaj nie sú schopné klasifikovať vhodný druh komunikácie,“ … „Ľudia vedia, či zákazník do istej miery vníma pozitívne, čo hovorím, alebo skôr negatívne.“
Spoločnosti musia urobiť ešte veľa práce
Ďalším problémom je, že ľudia majú tendenciu personifikovať zariadenia, uviedol Florian Schaub, odborný asistent na University of Michigan, ktorý študoval vnímanie súkromia ľudí, pokiaľ ide o inteligentné reproduktory. Výsledkom je, že naozaj nerozmýšľajú o tom, že pošlú otázku Amazonu, keď vydajú príkaz Alexovi. Neuvedomujú si, že niekto môže niekde vypočuť to, čo hovoria, na základe čoho by mohli používateľov prinútiť premýšľať, čo ďalšie ešte o nich tieto spoločnosti vedia. Často počuje, že ľudia namiesto toho, aby používali vstavané ovládacie prvky ochrany osobných údajov (napríklad tlačidlo umlčania zvuku, ktoré musia užívatelia u veľa inteligentných reproduktorov stlačiť, aby zariadenie nezachytávalo nič, čo je v jeho blízkosti povedané), zariadenie jednoducho odpoja.
Schaub ďalej poznamenal: „Myslím si, že tieto spoločnosti musia urobiť ešte veľa práce, aby zistili, čo sú skutočné obavy ľudí.“
Spoločnosti sa domnievajú, že v prvom rade správne nekomunikujú to, čo robia s užívateľskými údajmi a mohli by preto urobiť ešte viac, aby hovorili o rizikách ochrany osobných údajov, ktorým používatelia čelia, ako aj o tom, ako chránia údaje používateľov.
Spoločnosti Apple, Amazon a Google sa najprv odmietli vyjadriť a urobili tak až neskôr a to len vrámci vyhlásení na blogovom príspevku, v ktorom sa poukazuje na záväzky spoločností v oblasti ochrany osobných údajov používateľov.
Súvisiace: Amazon naznačila, ako jej Alexa pomáha zárabať peniaze
Cassell a ďalší experti navrhli, aby spoločnosti, ktoré chcú analyzovať vyjadrenia používateľov, najprv zabezpečili anonymizáciu údajov o užívateľoch, čo je bežná prax medzi spoločnosťami. Tiež si myslí, že by mali zamestnancom, ktorí monitorujú také audio nahrávky, mali poskytovať rovnaký druh vzdelávania zameraného na etiku, ktoré dostanú akademici predtým, než vôbec môžu vykonávať štúdie s ľuďmi a informovať o tom aj používateľov.
Ľudia by mali byť chránení
Stane sa technológia, s ktorou hovoríte, dosť dobrá na to, aby bola ľudská analýza zbytočnou? Nie je to pravdepodobné, aspoň nie v dohľadnej budúcnosti.
Ak cieľom týchto spoločností je nakoniec mať svojich hlasových asistentov, s ktorými môžeme viesť prirodzene znejúce rozhovory – než s akýmsi napredovaním a úpadkom, ktoré tieto interakcie dnes charakterizujú – podľa Schuba je manuálna analýza vždy potreba. Mars a ďalší odborníci súhlasili.
Mars nakoniec poznamenal: „Veríme, že pred tým, ako budete môcť hovoriť s týmito systémami ako s človekom v miestnosti, musíme ešte urobiť veľa tvrdej práce.“
( AK by niekoho bavili preklady podobných “finančných článkov” pre komunitný projekt, nech sa Nám ozve na Facebook do správy )
Zdroj: WSJ, Yahoo
Facebook komentár