Pandemické aplikace: Chrání před covidem, zvýšily ale i riziko sledování

„Technologie zdravotního dohledu, které mnoho evropských zemí zavedlo po vypuknutí pandemie koronaviru v loňském roce, byly často zaváděny bez dostatečné transparentnosti, záruk a demokratické diskuse,“ píše se ve zprávě, kterou vydala minulý týden evropská nezisková a výzkumná společnost AlgorithmWatch a o níž informovala AP. Organizace se zaměřuje na sledování dopadů systémů umělé inteligence na společnost.

O využití dronů ve Vietnamu jsme psali zde:

Vietnam kosí covid. Hygienici proto začali hlídat karanténu pomocí dronů

Úřady se podle výsledků této zprávy správně snažily vyvinout nové technologie nebo použít ty stávající k boji proti šíření viru. Vytvořily aplikace pro digitální sledování kontaktů, aby mohly určit, kdo byl v okolí infikovaných lidí. Později světlo světa spatřily očkovací pasy k ověření, že jejich držitelé opravdu byli očkováni vůči covidu. Důvody jsou známé: umožnění cestování, návštěv koncertů, restaurací a dalších podniků. V Asii neváhaly místní státy při vynucování pravidel sociálního distancování použít drony, například ve Vietnamu, ale použít je chtěla třeba i belgická policie.

„Mnoho z těchto systémů využívalo technologii tzv. automatizovaného rozhodování, která zredukovala složité sociální výzvy, které infekce představuje, jen na řadu technologických problémů, které vyřeší algoritmus,“ uvedla berlínská nezisková organizace. AlgorithmWatch. I ona ovšem uznala, že moderní technologie hrály pozitivní roli při záchraně řady životů během pandemie, jako příklad uvedla pomoc umělé inteligence při zvyšování efektivity distribuce vakcín.

Autoři se ovšem také domnívají, že naopak velmi znepokojivým trendem covidových časů je, jak byla pandemie využita k „další normalizaci dohledu a k měření a predikci rostoucího počtu denních aktivit. Nyní v podstatě včetně veřejných a osobních zdravotních údajů.“ Což je podle organizace ještě větší a už celosvětový problém, pokud se vezmou v úvahu možné „chyby a úniky dat“. Ty nyní vedou k rovněž rostoucímu počtu zneužití informací z těchto technologií určených čistě pro boj s covidem.

Jasné vymezení použití

Řešení není podle AlgorithmWatch složité: Při zavádění technologií s automatizovaným rozhodováním je třeba jasně vymezit její použití. Jakýkoliv únik, netransparentnost či nevhodné hromadné nasazení totiž ohrožují demokratické principy.

Zpráva zdokumentovala mimo jiné i problematické začátky a následná úskalí, které zaváděné nové a často nevyzkoušené technologie přinesly. Soustředila se především na evropské země.

Na internetu se šíří dokumenty od Pfizeru. Ne všechny jsou však pravdivé

V prvních dnech počátečního lockdownu v roce 2020 například plánovala belgická policie používat drony k monitorování sociálního distancování. Odpor byl ale tak silný, že od svého nápadu rychle upustila. Posun v používání bezpečnostních kamer původně v zemi instalovaných k boji proti závažné trestné činnosti a především terorismu už pandemií paralyzovanou společnost nevzrušil. „To ovšem zvýšilo riziko dohledu nad společností,“ uvádí zpráva.

Aplikace, chatbot i algoritmy

Masivní rozvoj zaznamenaly aplikace určené pro sledování kontaktů. Většina z nich je založena na technologiích vyvinutých společnostmi Apple a Google. Využit je při nich signál Bluetooth k anonymnímu kontaktování všech chytrých telefonů, které jsou v blízkém okolí a delším než náhodném přiblížení. Následně se vše propojí s informací, zda některý z majitelů telefonů nebyl pozitivně testován apod. Jenže ani tento systém není stoprocentní, příjem bývá nestabilní, a například chybovost aplikace kyperské vlády byla tak vysoká, že „nebyla široce přijata“.

I aplikace o stavu očkování nizozemské vlády CoronaCheck byla sužována chybami. Vzhledem k decentralizovanému designu citlivému na soukromí nešlo změnit klientovi jeho QR kód, přestože byl testován pozitivně, což mu umožnilo nepřetržitý přístup do míst, která vyžadovala doklad o očkování nebo negativní výsledek testu. Navíc bylo dokonce možné s aplikací manipulovat, a získat tak falešný výsledek testu. Nizozemské ministerstvo zdravotnictví agentuře AP na otázky ohledně aplikace CoronaCheck neodpovědělo.

Na lyže do zahraničí? Jen s očkováním a v Itálii nově i bez alkoholu

Estonský chatbot používaný na řadě vládních webů zase poskytoval nesprávné informace o možnosti očkování. V jednom případě letos v říjnu dokonce klientovi oznámil, že proti viru není k dispozici dosud žádná vakcína.

Polská vláda zase vyvinula algoritmus k ověření daňové rezidence podnikatelů, aby se mohli snadněji přihlásit o finanční pomoc při pandemii. Ale dostala se pod palbu kritiky, protože nezveřejnila jeho podrobnosti. Mohl tak být prý využíván vládou k získávání informací o soukromnících.