Een andere nieuwe functie van deze app is dat je je portret een kunstzinnige make-over kunt geven. Ik stapte over naar deze pimpoptie. Je kunt kiezen uit stijlen als die van Edvard Munch (de schreeuw), Frida Kahlo, Vincent van Gogh, Katsushika Hokusai (van de bekende blauwe golf), Keith Haring en vele anderen. Je kunt kiezen uit abstracte, impressionistische en moderne patronen. Die stap leverde een beter resultaat op. Rechts achter mijn hoofd zie je Munch´s versie van Damai´s schilderij dat in mijn werkkamer hangt. Onze nummer 2 in Bali is een creatieveling!
Een lawine aan dit soort apps wordt beschreven in de recente roman van de Amerikaanse auteur Dave Eggers, getiteld `Het Alles´ (The Every). Dit boek is het vervolg op `De Cirkel´ uit 2013, zijn eerste dystopische, satirische roman dat zich afspeelt in Silicon Valley.
Tech-bedrijf de Every -voorheen de Cirkel- is een combinatie van Facebook en Google. Wekelijks slokt het startups op die spraakmakende apps ontwikkelen. Algoritmen nemen de wereld over en dit soort algocratieën moet een halt worden toegeroepen. De Every moet worden vernietigd voordat het de wereld vernietigt. Dat vinden de slimme hoofdpersonages Delaney en Wes in het boek. Na een uitgebreide sollicatieprocedure komen zij bij het bedrijf in dienst. Hun doel is om De Every van binnenuit te saboteren en kapot te maken. Dat willen ze doen met ideeën die zo weerzinwekkend zijn dat rationele mensen zich massaal ervan zullen afkeren vanwege de eindeloze schendingen van fatsoen, privacy, monopolie en de ongebreidelde consolidering van controle, macht en rijkdom.
De Every maakt gebruik van biometrische technologie als gezichtsherkenning, irisherkenning (eye tracking), spraakherkenning, vingerafdrukherkenning en `slimme´ sensoren, soms gebruik makend van kunstmatige intelligentie. Dat is de capaciteit van computers om elke intellectuele taak die een mens kan uitvoeren, te begrijpen en te leren; ook zelfstandig. Apps van de Every meten en weten alles. Van ons. Voor zo´n bedrijf is onze data hun money. Ze houden bij of je voldoende beweegt, sociaal interactief bent, voldoende collega’s beoordeelt, de juiste hartslag hebt, gepaste grammatica gebruikt en een omvangrijke woordenschat hebt.
Biometrische surveillance maakt mensen tot wandelende barcodes die kunnen worden gescand en gekoppeld aan gegevens die eerder over hen werden verzameld en vastgelegd. In de Every-samenleving draagt iedereen een bodycam en hangen overal camera’s (op plekken waar die niet hangen worden burgers gewaarschuwd ze te betreden `op eigen risico´...). Een faux pas heeft gevolgen voor je sham-score (schaamtescore). Werd je ooit gefotografeerd met iemand die later een aanrander blijkt? Dan krijg je minpunten. Schepte je twee keer op omdat je het eten lekker vond? Je wordt publiekelijk te schande gezet. Algoritmen bepalen of iemand wordt ontslagen of niet.
Als lezer van dit boek word je overvoerd met apps en ideeën. Dat vond ik interessant aan de roman. Ik las het als bijscholingscursus in technologie, een ideeënroman bij uitstek. Bij bij tijd en wijle vond ik Eggers boek zelfs vermakelijk. Maar we zijn gewaarschuwd... Al kan ik mij nu al verheugen op grappige Deep Fake-filmpjes en toespraken rond Kerst en Oud & Nieuw. Bijvoorbeeld van de koning en zijn echtgenote, van politici die niet bekend staan om hun humor en andere Bekende Nederlanders die op de ludieke korrel worden genomen. Bring it on!
De roman kreeg van sommige recensenten geen al te hoge waardering. De recensent van de Volkskrant (niemand minder dan Huib Modderkolk) noemde het plot “dun en simplistisch”. De recensent van The Guardian vond dat de hoofdpersonen tot de laatste bladzijde nogal eendimensionaal en plat bleven. In die kritiek kan ik mij vinden. Het lot van Delaney, aan het einde van het boek, kwam op mij nogal simplistisch over. Eggers is een begenadigd schrijver maar Het Alles is niet zijn beste roman tot nu toe.
Inderdaad, Big Tech is Watching Us. En hoe!
In 2019 werd AlgoritmWatch opgericht. Dit is een Duitse non-profit onderzoeks- en belangenorganisatie die zich inzet voor het in de gaten houden, onthullen en analyseren van systemen voor geautomatiseerde besluitvorming (Automised Decision-Making, ADM) en hun impact op de samenleving. Ze doen onderzoek naar apps en schrijven rapporten over hun bevindingen. Het team bestaat onder andere uit Johannes Filter, Leonard Haas, Lorenz Matzat en Melanie Gelei. Ik verzin het niet!
Hoe meer technologie wordt ontwikkeld, hoe complexer het wordt. AlgoritmWatch is van mening dat complexiteit niet mag betekenen dat technologie niet meer begrijpelijk is. Op de website van deze organisatie kwam ik te weten dat de Nederlandse overheid gebruik maakt van SyRI (Systeem Risico Indicatie), een geheim algoritme om mogelijke fraude van sociale zekerheid op te sporen. Als een overheidsinstantie fraude vermoedt met uitkeringen, toeslagen of belastingen in een bepaalde omgeving kan men gebruikmaken van SyRI. Gemeenten, UWV, Sociale Verzekeringsbank, inspecteuren van het Ministerie van Sociale Zaken en Werkgelegenheid en van de Belastingdienst hebben allen toegang tot dit systeem. SyRI bepaalt bij welke burgers verder onderzoek nodig is.
Het kwartje viel bijna direct. Het gebruik van dit systeem leidde tot het vermaledijde kindertoeslagenschandaal in Nederland! Een groep gedupeerden en burgerrechtenactivisten (onder andere Platform Burgerrechten) daagden de overheid vorig jaar februari voor de rechter en slaagden erin publieke organisaties te dwingen minder repressieve alternatieven in te zetten. SyRI bleek in strijd met het Europees Verdrag voor de Rechten van de Mens en zette de deur wagenwijd open voor misstanden. FNV en andere partijen waarschuwden de Eerste Kamer begin dit jaar voor een nog grotere en ingrijpendere datakoppelingswet. Zij riepen die wetgevers op het voorstel voor de zogeheten ‘Super SyRI’ terug te sturen naar de Tweede Kamer. De rest is geschiedenis. De regering viel over deze kwestie, er bleken duizenden burgers te zijn benadeeld. Het einde van de affaire is nog lang niet in zicht.
In het onderzoeksrapport dat ik las, deed een vrouw bij de Guardia Civil aangifte van fysieke en mentale bedreiging van haarzelf en haar twee dochtertjes, door haar echtgenoot. De gegevens werden in VioGén ingevoerd en daaruit kwam het advies `laag risico´. Zeven maanden later vermoordde de echtgenoot zijn beide dochters op wrede wijze en pleegde daarna zelfmoord.
Sinds de software nationaal werd ingezet (2007) eindigden enkele zaken met een laag risico in de moord van vrouwen en meisjes. VioGén is verreweg de meest complexe toepassing in zijn soort in de wereld. Bijna 30.000 Spaanse politieagenten en andere wetshandhavers in het land hadden in 2018 toegang tot dit systeem. In januari 2020 bevatte het 600.000 gevallen, waarvan er 61.000 als actief werden bestempeld. Dat betekent dat ze door de politie worden opgevolgd. Het systeem is ontworpen om de situatie van de betrokken vrouwen periodiek te controleren totdat ze veilig worden geacht; dat gebeurt hier over verschillende regio's heen. Enkele vrouwenorganisaties zijn van mening dat dit systeem het beste is dat ze voor dit doel hebben maar helaas gaat het af en toe flink fout.
De laatste misser met dodelijke afloop had betrekking op een, door haar echtgenoot, vermoorde vrouw in 2020. Beide personen stonden in het systeem geregistreerd na een aangifte van haar kant. Hij was door de rechter echter vrijgesproken en daarmee ging de status van de zaak in VioGén naar `inactief´. Niet veel later werd de vrouw vermoord. Zo zie je maar.
Geen opmerkingen:
Een reactie posten