Ochrana spotřebitele

22. dubna 2022

Je to rok, co Evropská komise zveřejnila návrh nařízení o umělé inteligenci. Z hlediska spotřebitelů se toto téma může jevit jako relativně odtažité, opak je však pravdou. Spotřebitelé a jejich inteligentní zařízení vytvářejí obrovská množství dat, jednání prakticky každého z nás je různým způsobem monitorováno a vyhodnocováno. A právě umělá inteligence je ideální pro zpracování všech těchto údajů. dTest se zaměřil na hlavní otázky, na které by se měl spotřebitel předem zeptat, než začne používat zařízení využívající prvky umělé inteligence.

Používáte chytrý mobilní telefon, počítač, uvažujete o chytré domácnosti nebo takovou domácnost už máte? Jezdíte autem a chodíte po ulicích? Pak je důležité vědět, že počítačové programy zpracovávají údaje, které vaše chování vytváří, a to různým způsobem a k různým účelům. „S umělou inteligencí je to jako s ohněm. Je to dobrý sluha, ale zlý pán,“ uvádí Eduarda Hekšová, ředitelka spotřebitelské organizace dTest, a doplňuje: „Spotřebitelé si musí být vědomi základních principů umělé inteligence a současných i budoucích pravidel jejího používání.“

Už v současné době je zpracování údajů fyzických osob významně regulováno, zejména obecným nařízením o zpracování osobních údajů, které je i u nás známé pod anglickou zkratkou GDPR. Tato pravidla musí zachovávat i každý systém, který se sám učí a optimalizuje, tedy systém využívající umělou inteligenci. Tyto systémy nemohou libovolně zpracovávat vaše osobní údaje, například nemohou bez právního důvodu sledovat vaše chování na ulici a spojovat toto chování s jinými daty. Návrh nového nařízení o umělé inteligenci jde však dále. „Důvodem pro připravovanou evropskou regulaci umělé inteligence je zachování základních práv a hodnot Unie, při zachování konkurenčních výhod, které rozvoj systémů užívajících umělou inteligenci mohou společnosti přinášet,“ vysvětluje Eduarda Hekšová, a vysvětluje: „Některé praktiky, jako například takzvaný „social scoring“ známý z Číny, má být chystaným nařízením jednoznačně zakázán.“

A co by vás jako spotřebitele mělo při výběru zařízení nebo aplikace z pohledu rizik spojených s umělou inteligencí zajímat? První otázkou, kterou si musíte položit je, zda zařízení nebo aplikace někam po internetu předává data. Druhou otázkou je, zda vám vadí možnost, že zařízení nebo aplikace za vás do větší nebo menší míry může rozhodovat. Pokud vám to vadí, musíte si zjistit, zda vám byla dostatečně, jasně a srozumitelně vysvětlena kritéria pro toto rozhodování a zda s těmito kritérii souhlasíte. „Je možné, že průměrný spotřebitel bude mít s hodnocením dopadů zařízení a aplikací užívajících nástroje umělé inteligence potíže,“ obává se Eduarda Hekšová a pokračuje: „To je však pouze špička ledovce. Umělá inteligence může zpracovávat a hodnotit celou řadu údajů, která se spotřebitelů dotýkají nepřímo. Představte si třeba svůj životopis zaslaný velké korporaci. Je možné, že velké množství žádostí o práci vyhodnotí program bez účasti člověka s použitím kritérií, které se tento program naučil používat. Budou tato kritéria v souladu se zákonem? To nevíme.“

dTest společně s ostatními evropskými spotřebitelskými organizacemi usiluje o posílení práv spotřebitelů ve vztahu k umělé inteligenci. „Snažíme se nařízení doplnit o popis dalších zakázaných praktik, zajistit transparentnost a práva spotřebitelů na obranu a odškodnění v případech, kdy bude umělá inteligence používána v rozporu s tímto nařízením,“ uvádí Eduarda Hekšová a uzavírá: „Nové technologie vyžadují důvěru spotřebitelů, nesmí napomáhat k dehumanizaci společnosti.“

Chcete-li poradit ohledně svých práv při užívání chytrých zařízení, můžete se obrátit na bezplatnou spotřebitelskou poradnu dTestu elektronicky na www.dtest.cz/spotrebitelska-poradna nebo telefonicky na čísle 299 149 009.