Umetna inteligenca pravi: »Dajte mi več podatkov!«, GDPR pa varuje pred zlorabo osebnih podatkov.
Testiranje algoritma umetne inteligence zahteva podatke – veliko podatkov. Ohranjanje skladnosti z uredbo GDPR ob pridobivanju teh podatkov pa je precejšen izziv.
Tu nastaja problem: za sprejemanje odločitve o nekom – npr. da ima rad modro barvo in bi ga bilo zato treba ciljati z modrimi oglasi – algoritem umetne inteligence združuje njegove osebne podatke z drugimi podatki v svoji veliki črni škatli in ponudi odgovor. Za pridobivanje podatkov, ki jih umetna inteligenca potrebuje, GDPR od podjetij zahteva pridobitev soglasja za uporabo teh osebnih podatkov. Uporabnikom morajo natančno povedati, v kakšne namene bodo podatki uporabljeni, ter jim zagotoviti, da jih ne bodo uporabili za karkoli drugega. A podjetja ne vedo, kaj se dogaja znotraj te črne škatle, zato je prava privolitev mit.
22. člen uredbe GDPR otežuje to vprašanje, saj daje potrošnikom pravico, da avtomatiziran postopek o njih ne sprejme odločitve, ki ima pravne posledice ali kako drugače »pomembno vpliva nanje«. Navaja tudi, da mora podjetje obrazložiti razloge, če nekdo prosi za pojasnilo, kako je bila sprejeta odločitev. A le algoritem sam lahko razloži, kako jo je sprejel.