Deň spotrebiteľov: Transparentnosť a spravodlivosť v spotrebiteľských vzťahoch v dobe umelej inteligencie Prečítať

Riziká umelej inteligencie (artificial intelligence alebo v skratke AI)

Umelá inteligencia má pre ľudskú spoločnosť nesporne obrovský prínos a zlepšuje a uľahčuje náš každodenný život. Jej využívanie  v online priestore však  prináša pre spotrebiteľov i rôzne riziká, cez nedostatočnú transparentnosť, možnosť diskriminácie až po narušenie súkromia a stratu kontroly nad osobnými údajmi.

Príklady niektorých rizík, ktoré AI prináša:

• Predikcia preferencií a správania zákazníkov, personalizované ponuky. E-shopy využívajú AI na analýzu dát o správaní sa spotrebiteľov na webe a ich preferencií a nákupných vzorcov, na základe čoho im zobrazujú cielené reklamy a ponúkajú personalizované odporúčania produktov. Okrem pocitu, že spotrebiteľ je online neustále sledovaný, je rizikom vytvorenie  „filter bubble“, kedy sú spotrebiteľovi zobrazované len určité typy výrobkov podľa jeho predchádzajúcich hľadaní a preferencií, čo zužuje jeho možnosť výberu.  
• Dynamické ceny. S cieľom maximalizovať zisky obchodníka, AI na základe analýzy údajov dokáže  meniť cenu výrobkov v reálnom čase podľa rôznych faktorov, napríklad dopyt, množstvo zásob konkrétneho výrobku na sklade alebo tiež podľa profilu kupujúceho. Rizikom je, že spotrebitelia nevedia, že sú vystavení dynamickým cenám, a tak môžu za výrobok zaplatiť viac, než za čo sa v skutočnosti predáva, pričom dochádza k cenovej diskriminácii, keď je rôznym zákazníkom ponúkaný rovnaký výrobok alebo služba za rôzne ceny.  
• Chatboty a automatizovaný zákaznícky servis. Mnoho e-shopov používa na komunikáciu so spotrebiteľmi chatboty, ktoré sú jedným z najznámejších príkladov umelej inteligencie. Chatboty, ktoré môžu odpovedať na otázky, riešiť problémy a pomáhať zákazníkom pri výbere produktov na jednej strane umožňujú e-shopom poskytovať rýchlu pomoc spotrebiteľom, no na druhej strane je rizikom ich nedostatočná schopnosť pochopiť komplexné problémy alebo poskytnúť presné odpovede, čo môže byť pre spotrebiteľov frustrujúce.

Zneužívanie AI na podvodné aktivity

Ďalšou kategóriou rizík spojených s využívaním AI, je jej zneužívanie podvodníkmi, ktorí  neustále vyvíjajú nové spôsoby a techniky ako jej prostredníctvom dosiahnuť svoje ciele. Tu sú niektoré z týchto rizík:

• Falošné identity a „phishing“. AI generatívne modely dokážu vytvoriť falošné profily a identity, ktoré môžu byť potom použité na písanie falošných recenzií alebo šírenie rôznych dezinformácií či dokonca na podvody. V prípade phishingu sa podvodník snaží získať od svojich obetí citlivé informácie ako sú heslá a podrobnosti o kreditných kartách, a to rozposielaním AI vygenerovaných e-mailových alebo sms správ, ktoré ich nasmerujú na falošnú webstránku. Tá vyzerá ako presná kópia existujúcej dôveryhodnej stránky patriacej reálnemu e-shopu alebo banke. Údaje zadané na takejto phishingovej stránke, sa dostanú k podvodníkovi, ktorý ich môže zneužiť sám alebo predať iným.
• Deepfake a podvodné videá. Deepfake využíva metódy strojového učenia a umelej inteligencie na manipuláciu alebo generovanie vizuálneho a zvukového obsahu, ktorý má vyvolať dojem, že ide o inú osobu na danej nahrávke či zázname než v skutočnosti. Takto upravené videá  môžu byť využité na šírenie dezinformácií alebo na vydieranie ľudí.

Už teraz sú spotrebitelia obklopení množstvom zariadení pripojených na internet. Inteligentné, učiace sa stroje a softvér využívajú obrovské množstvo údajov generovaných týmito zariadeniami na prijímanie rozhodnutí a vykonávanie činností bez ľudského dohľadu. To má zásadný vplyv na to, ako sa spotrebitelia rozhodujú, ako komunikujú so spoločnosťami a kto je zodpovedný, keď sa niečo pokazí. Umelá inteligencia môže ešte zvýšiť pohodlie spotrebiteľov.

Akt o umelej inteligencii

Harmonizované pravidlá Európskej únie, majú zabezpečiť, aby bolo používanie AI bezpečné a v súlade s právom Európskej únie.

Prostriedkom na dosiahnutie tohto cieľa má byť Akt o umelej inteligencii, na ktorého konečnom znení sa tento mesiac dohodli zástupcovia členských krajín EÚ.

Akt rozdeľuje systémy umelej inteligencie do štyroch kategórií v závislosti od stupňa ich rizikovosti vychádzajúc z konceptu čím vyššie je riziko, tým prísnejšie pravidlo pre daný systém. Napríklad systémy AI, ktoré používajú manipulatívne praktiky pomocou podprahových metód alebo využívajú zraniteľnosť osôb z dôvodu ich veku, fyzického alebo duševného postihnutia, budú pre ich neprijateľné riziko zakázané úplne. Ďalšie nástroje ako algoritmy na rozpoznávanie tvárí by zase mali podliehať silnejšej regulácii.  Konečné znenie musí ešte formálne prijať europarlament.