DS Vandaag: Help, mijn baas is een algoritme

Dit is Vandaag, de dagelijkse podcast van de Standaard. Ik ben Alexander Lippenveld.

We zijn er met DS Vandaag een weekje tussenuit, maar we laat je natuurlijk niet achter zonder podcast.

We hebben een paar van de interessantste stukken uit ons weekblad geselecteerd.

En die laten we deze week graag aan je horen.

Beluister ook zeker de podcaststreeks. Hier woont mama nu over vrouwen die met hun kind in de gevangenis zitten.

En luister elke vrijdag naar uit het hart, een podcast over de grote en kleine dingen van het leven.

Vandaag lees ik Help, mijn baas is een algoritme voor.

Een stuk door Natalie Carpentier van zaterdag 11 maart 2023.

MUZIEK

Zullen algoritmes, software en artificieel intelligentie onze jobs overnemen?

Het risico is veel eer dat een algoritme de baas wordt.

Ik vond dat ik opslag verdiende het systeem vond van niets.

Ik ben al door een AI-systeem geëvalueerd, zegt een projectmanager van een internationaal IT-bedrijf die anoniem wil blijven.

Het systeem besliste dat hij geen opslag kreeg.

Toen ik mijn baas vroeg waarom, verwees hij naar de AI.

Daar zit je dan. Jij vindt dat je opslag verdient en het systeem niet.

Die technologie vergrote afstand tussen jouw en je baas.

Je baas verwijst naar de AI.

Een paraplu waarachter hij zich kan verschuilen.

Jij weet niet welke gegevens precies in het systeem gestopt worden.

Hoe bespreek je dat dan?

Bovendien is het systeem niet neutraal, alles hangt af van de data waarmee je het voet.

Het doembeeld dat doorgaans opduikt bij voorspellingen over het gebruik van algoritmes en artificieel intelligentie op de arbeidsmarkt

is dat het saaie, repetitieve deel van de jobs eruit gaat en veel banen verloren zullen gaan.

Terwijl er nog een andere ader onder het gras zit.

Waarschuwt Valerio de Stefano, professor aan de kanadese Osgoode Hall Law School

en tot vorig jaar professor aan de KU Leuven.

Algoritmisch management, zegt hij, waarbij AI-technologie wordt gebruikt om medewerkers te manage.

Raakt meer en meer verspreid.

De Stefano schreef er een boek over.

My boss is een algorithm.

Zeker sinds de pandemie is het meer ingeburgerd.

Toen personeel telewerkte maakte heel wat bedrijven zich zorgen dat de productiviteit zou slapakken.

Met IT-systemen in computers en smartphones van het bedrijf kun je vandaag personeel monitoren.

Niet alleen couriers die aangestuurd worden door een app, maar ook kantoorwerkers.

Met mijn onderzoek en boek wil ik mensen bewust maken dat zo iets kan.

Dat zegt Stefano.

Wie zijn job ondanks AI zal behouden, zal vaker een baas krijgen die algoritmes en data gebruikt

om hen te evalueren, promoveren of bestraffen.

Dat meent Stefano.

Het bekendste zijn de van GPS voorziene apps die fiets en post couriers trekken

en waarmee gebruikers hen een score kunnen geven.

Maar ook in call centers is monitoring technologie al goed ingeburgerd.

Dat schetst medewerker Leslie.

Zodra ze inlocht in het systeem van de energieleverancier, stroom de oproepen van klanten binnen.

Voor een gesprek krijgt ze 400 seconden, na afloop 60 seconden om een verslagje neer te pennen

en dan komt het volgende gesprek al binnen.

Klanten willen soms een bevestiging per mail, maar daar heb ik gewoon geen tijd voor.

Tijdens het werk ziet ze haar score.

Bij goede cijfers krijgt ze een groene score, anders een oranje of een rode.

Haar werk is strak geregiseerd.

Eerst moet ze luisteren, dan samenvatten, daarna een oplossing aanbieden

en het liefst van al ook nog iets verkopen.

En dat in net geen zeven minuten.

Je mag geen stap overslaan.

En er wordt verwacht dat je ook nog iets verkoopt.

Een bijstandsverzekering of een ketel onderhoud.

Daar wordt je ook op beoordeeld.

Sinds kort krijgt ze hulp van een robot.

Die stelt vragen en leidt haar zo door het systeem.

De invoering van de robot moest het aantal fouten helpen verminderen.

Als iemand geen recht heeft op een terugbetaling,

kan de robot dat via gerichte vragen achterhalen.

Voor een nieuweling begrijp ik het nog maar.

Iemand met enige ervaring zoals ik weet het antwoord sneller dan een robot.

Leslie vermijdt de robot waar ze kan.

Ik jag me er toch alleen maar in op, zegt ze.

De strakere gie is niet nieuw.

Wel dat alles wat ze doet door de toenemende digitalisering,

sneller en makkelijker te meten valt in real time.

Onze teamcoach ziet alles.

Hoe lang we bellen, hoe lang we aan een loog schrijven,

hoeveel agenten beschikbaar zijn.

Als iets te lang duurt, mag je een opwerking verwachten.

Zelfs in studentenjobs kun je vandaag botsen

op digitale rankings en ratings van je prestaties.

Het verkoopt met een tablet, deur aan deur, abonnementen voor goede doelen.

Een app geeft aan in welke straten hij moet aanbellen.

Zodra iemand toe hapt, worden de gegevens in een tablet ingegeven.

Alles wordt netjes gemeten.

Drie nieuwe abonnees per dag is niet altijd haalbaar.

Maar dat wordt wel vanaf het begin verwacht, vertelt Ed.

Dagelijks krijgt hij een score.

Het gemiddelde van vijf dagen moet boven een bepaalde limiet zitten.

Anders krijg je een rood cijfer.

Dan krijg je extra sales technieken aangeleerd,

maar moet je wel dringend beter je best doen.

Haal je te lang een rode score, dan wordt je ontslagen.

Dat is erg stresserend, maar het ligt het wel.

Er is een groot verloop, maar voor een studentenjob verdient het vrij goed.

Ik sta al een tijdje in de top vijf.

Ik ben competitief.

Als ik elke dag zo zou moeten presteren voor mijn echte job

en mijn inkomen zou er vanaf hangen, dan zou ik dood gaan.

Nu verdien ik zo twee dagen per week geld om op reis te gaan.

Het is soms pushy, maar ik kan me rachter zetten

omdat het een goed doel dient.

Kantoorjobs blijven niet buiten schot.

Er zijn genoeg tools op de markt om personeel te monitoren.

Dat schetst de Stefano.

Meelsystemen kunnen bijhouden of je online actief bent of niet.

Andere tools kunnen je tracken terwijl je typt.

Ze meten je toetsaanslagen of kunnen je browseractiviteit bijhouden.

Bepaalde software kan om de zoveel tijd een screenshot nemen

om te weten waarmee je bezig bent.

Die data worden vervolgens geanaliseerd en opgelijst in een rapport voor de manager.

Maar die systemen zijn niet erg betrouwbaar, zegt Stefano.

Misschien ben je offline, maar bespreek je een idee met een collega

of ben je aan het lezen.

Helaas hebben sommige bedrijven in Noord-Amerika

als salarissen verlaagd vanwege te veel door de software gemeten in actieve tijd.

Die komt vaak overeen met de tijd dat medewerkers niet achter hun computer zaten.

Zelfs als ze offline wel taken uitvoerden.

Em, een expert bankieren, merkt hoe digitalisering en artificiele intelligentie

je job kunnen veranderen, ook inhoudelijk.

Sinds kort screent een digitale assistent de data van klanten bij de bank

en stuurt hem op basis van die analyse opdrachten door.

Ze geeft me elke dag drie taken, zegt hij.

Toen een klant voor tijdig was gestopt met een online aanvraag voor een lening,

vroeg ze of ik die even kan bellen.

Vroeger moest ik manueel nagaan of iemand 18 was geworden

en rijp voor een fiskaalplan, nu doet de digitale assistent dat.

Bestandig, vindt hij.

Maar de dienstverlening, echt contact met de klant, verdwijnt daardoor naar de achtergrond.

Dat was destijds een belangrijke motivatie om voor de bank te werken, zegt Em.

Vandaag moeten we vooral verkopen, daar worstel ik toch mee.

Soms voel ik me een veredelde stofzuigerverkoper.

Door de digitalisering zijn alle prestaties ook steeds makkelijker bij te houden.

Zeker in het livecentrum, een bankantoor op afstand,

waar alle online contacten met klanten en prestaties van medewerkers

worden gemeten, opgenomen en gecontroleerd.

Die informatie kan nuttig zijn, zegt Em.

Maar je krijgt daar wel heel erg het gevoel van Big Brother is watching you.

Veel hangt af van hoe onze leidinggevende daarmee omgaat.

Als die opdrachten van de digitale assistent dwingend worden,

je een grote druk ervaart om te verkopen en je score gebruikt wordt bij promoties,

dan wordt het eng, zegt hij.

Gelukkig pakt de bank het erg menselijk aan.

Maar wat als die mens er tussenuit geknipt wordt

A.I. scores van medewerkers gewoon begint op te lijsten.

De technologie kan omstandigheden op de werkvloer ingrijpend veranderen.

Al die verzamelde data kunnen verwerkt worden

om personeel op een geautomatiseerde manier te manage,

vat de Stefano samen.

De manier waarop overstijgt de menselijke capaciteit veruit.

A.I. kan zo de macht en voorrechten van de manager versterken

op een manier die vroeger ondenkbaar was.

Ook al is het moeilijk zicht te krijgen

op hoe wijdverspreid A.I. management is,

zeker is dat het technisch kan.

De technische mogelijkheden zijn onbegrenst.

Het zorgwekkende is dat veel mensen het niet beseffen

en dat wetgevers achterop lopen.

Dat zegt de Stefano.

Als je technologie inzet om beslissingen te nemen over mensen,

moet je daar niet alleen over nadenken,

maar ook debateren of dat wel wenselijk is.

Dat gebeurt niet of te weinig.

Daardoor kan A.I. management de rechten van de werknemer

sluipend aantasten.

Er zijn zeker economische argumenten voor te vinden.

Dat zegt onderzoeker Simon Taas,

die aan K. Leuven werkt,

aan een doctoraat over A.I. en robotisering.

Het kan de efficiëntie en productiviteit verhogen,

maar het moet ten dienste staan van werkgever en werknemer.

De technologie is soms zo complex

dat het nog moeilijk te achterhalen is

op welke basis A.I. een beslissing neemt.

Het is vanwezelijk belangrijk

dat de menselijke factor aanwezig blijft in de besluitvorming.

De A.I.-systeemen werken als een blijk box, zegt Taas.

Heel wat werkgevers weten zelf niet precies hoe ze werken,

maar zetten ze wel in om beslissingen over hun werknemers te nemen.

Er is geen transparantie.

Bovendien heeft de grote gevolgen voor werknemers

als ze voortdurend gemonitord en gecontroleerd worden.

Dat geeft veel stress.

Gek genoeg stoort het kalscentrummedewerker Leslie

niet dat haar werkgever minutieus meed

en controleert hoeveel telefoon ze pleegt

en hoelang ze pauze neemt.

Hoe dat komt, ze is het gewoon gewend.

Vroeger werkte ik aan de band in de fabriek.

Daar was mijn werk ook gekronometreerd.

Tijds kreeg ik 42 seconden per taak.

Onderzoekers spreken van digitaal talerisme van Taas samen.

Frederick Taylor schreef in 1911

het boek The Principles of Scientific Management.

Een strak gekronometreerde bedrijfsvoering

moest leiden tot maximale efficiëntie.

Met zijn autofabrieken, met geautomatiseerde productielijnen

en opgesplitste en strak getaimde taken

was autobouwer Ford een voorloper in de toepassing

van die productiemaximalisatie.

Sommige mensen zullen dat hyper-efficiënte

en gecontroleerde werken oké vinden.

Maar voor heel wat mensen is het onpretig, zeg Taas.

Het kan niet alleen het mentaal wel zijn aantasten,

maar dreigt ook de creativiteit te vnuiken

en de betrokkenheid bij het werk te verminderen.

Als alles wat je doet vooraf hoort bepaald en becijfert

welke autonomie heb je dan nog als werknemer.

Als je autonomie zo sterk wordt ingeperkt

voel je je niet meer betrokken en daalt je werkplezier.

Dat herkent vast goed fotograaf Jan uit zijn vorige job.

Elke ochtend kreeg hij op zijn smartphone

een lijstje van welke gebouwen hij moest fotograferen.

Elke shoot was strak getimed.

Het kantoor vulde de afspraken in een computer berekende de tijd.

Iemand controleert het nog wel maar met file of opdrachten die uitlopen

houdt het systeem geen rekening.

Een probleem moest hij meestal zelf oplossen.

Soms kwam ik terecht bij een extern bureau dat niet eens wist wie ik was.

Het bedrijf verkocht het fotograferen van een huis voor de verkoop

als een unieke ervaring.

In werkelijkheid kwam het neer op een woning zo snel en efficiënt

mogelijk visueel inblikken.

Nadat ik mijn foto's had geupload zetten ze er in Vietnam

een zon en een blauwe hemel bij.

Met fotograferen had het nog weinig te maken, het was bandwerk.

Hij is blij dat hij van werkgever is veranderd.

Nu fotografeert hij voor een klein bedrijf.

Nu is er weer menselijk contact, het is persoonlijker.

Zegt Jan.

Zelfs voor je de werkvloer betreedt, kunnen machines al mee beslissen.

Heel wat grote werkgevers gebruiken digitale platformen met AI

om mensen te selecteren, zegt professor De Sifano.

Als je online voor een job solliciteert, proberen algoritmes te detecteren

in hoeverre je echt geïnteresseerd bent door sleutelwoorden te scannen in je tekst.

In die eerste ronde komt er soms geen mens meer aan te pas.

Maar is dat noodzakelijk een probleem?

Het klinkt efficiënter dan een personeelsverantwoordelijke

die honderden CV's moet doorploegen.

Toch kan het problematisch zijn.

De sleutelwoorden kunnen discriminerend zijn, al dus De Sifano.

Algorithme management kan leiden tot vormen van discriminatie

omdat de explicite en implicite baas van de programmeurs verborgen blijft.

Bij Amazon lieten ze 5 jaar geleden een algoritme CV's scannen.

Vult taas aan.

Na een tijd merkten ze dat vooral mannen werden uitgenodigd.

Wat bleek, het algoritme herkende een patroon.

Mannen waren oververtegenwoordigd in de sector

en discrimineerden zo in de aanwerving.

AI kan ook maar leren uit de gegevens die ze krijgt, dat zegt taas.

Helemaal zorgelijk vindt De Sifano de ontwikkeling van software

die gezichten van medewerkers kent.

AI analyseert dan bewegingen in het gezicht

om te achterhalen hoeveel zin iemand heeft in een opdracht of om na te gaan

hoe ze zich zouden gedragen tegen overboze klanten.

Die methode kan ook bij sollicitatiegesprekken ingezet worden.

Dat is niet alleen extreem invasief, er is geen enkel argument voor

en het is erg onbetrouwbaar.

Universelige laadsuitdrukkingen bestaan niet.

Bovendien horen je emoties en gedachten jouw toe, niet je baas, benadrukt hij.

Die emoties proberen te achterhalen tijdens een sollicitatie,

dat hoort gewoon niet.

Gelukkig is het in Europa illegaal, al is het soms moeilijk om die norm af te dwingen.

Willen we die uitdagingen en risico's het hoofd bieden,

dan moeten ze deel uitmaken van het sociaal overleg schrijven

De Sifano en taas in een onderzoeksartikel.

Hoe kunnen werknemers weten of bepaalde software en vergaant in de gaten houdt?

Je kunt het niet weten tot iemand bevestigt dat het wel of niet gebeurt, zegt de Sifano.

We bevinden ons nu in een grijze zone.

In België bestaat wetgeving waardoor je als werknemer bepaalde info zou moeten krijgen

over de impact van technologie.

Maar in de praktijk blijft die vaak door de letter zeg taas.

Bedrijven die zulke tools kopen, weten zelf niet hoe het precies werkt.

In Duitsland hebben ze de wetgeving in tussen al zo aangepast

dat vakbonden het recht krijgen om een expert mee te nemen naar het sociaal overleg.

De risico's van die software zijn kleiner voor werknemers in Europa

omdat de GDPR-wetgeving Bescherming Bied besluit de Sifano.

Bedrijven kunnen zulke applicaties hier vaak niet openlijk gebruiken.

Maar uit gesprekken met HR-managers en advokaten die werkgevers bijstaan,

weet ik dat ze ook hier ingezet worden.

Dit was vandaag de dagelijkse podcast van de standaard.

Bedankt voor het luisteren.

Volg ons op Spotify, Apple Podcast of één der welk ander podcastplatform.

In onze gratis FDS podcast kan je niet alleen ons werk beluisteren

maar ook de beste podcasttips terugvinden.

Alle credits van de podcast die je net hoorde, vind je op standaard.be,

schuin de strip podcast.

Reageren kan via podcastatstandaard.be.

Machine-generated transcript that may contain inaccuracies.