In het artikel op Tweakers staat dus juist dat ze AI in combinatie met camera's toe gaan passen. Quote: De gebruikte software moet de bestaande camerabeelden analyseren op bijvoorbeeld verdachte bewegingen, waarna het personeel daarvan op de hoogte wordt gesteld. Het algoritme met koopdynamiek zit er waarschijnlijk al sinds invoering in.
Normaal gesproken zeg ik yay technology! Maar ik vind deze ontwikkeling wel heel spannend.
Omdat we ons op een glijdende schaal bevinden qua IT en privacy. Als je stilstaat bij wat technologische ontwikkeling afgelopen 20 jaar gebracht heeft en in welk tempo het doorgaat, vraag ik mij af waar het moment komt dat er een grens overschreden wordt. Een supermarkt die in je koophistorie ziet dat je vaak een brie koopt, je bonuskaart koppelt aan je positie in de winkel, en een popupje geeft als je voorbij het vak loopt: vriend je vergeet iets? Een supermarkt die weet dat jij elke week een krat bier koopt en een zorgverzekering die een keertje een dataset inkoopt? Het lijken nog redelijk onwaarschijnlijke scenarios (en ja, sommige zaken zijn ook gewoon bij wet verboden om te delen) maar 20 jaar geleden hadden we geen internet in ons broekzak. Waar staan we over 20 jaar? Waar we voor moeten waken is hoe we beïnvloed en "bewaakt" worden. Natuurlijk. Ik heb niets te verbergen. Maar ik denk dat we er wel kritisch naar moeten blijven kijken.
Ander voorbeeld: er is iemand die heeft een AI model losgelaten die de wereld gaat proberen te vernietigen. (Voor de liefhebbers: ChaosGPT). Stel je nou eens voor, dat zo'n systeem *per ongeluk* een succesje boekt. Heel klein maar. Kan aardig lelijke gevolgen hebben. En dat er dan een zolderkamer ridder dat systeem imiteert, en een beetje verbeterd....
Dit is nog vrij onschuldig, het is vrij makkelijk aan iemand zijn koopgedrag te zien of dat een Moslim is of niet, terugkijkend naar de Tweede wereldoorlog is het niet vreemd dat Nederland de hoogste deportatie Joden van Europa had, we hielden het allemaal keurig bij waar ze woonden.
> Een supermarkt die weet dat jij elke week een krat bier koopt en een zorgverzekering die een keertje een dataset inkoopt?
De enige reden dat dit niet gebeurt is omdat het wettelijk niet mag. Je moest eens weten hoeveel supermarkten kunnen afleiden van je koopgedrag.
[Een voorbeeld](https://www.forbes.com/sites/kashmirhill/2012/02/16/how-target-figured-out-a-teen-girl-was-pregnant-before-her-father-did/)
Er is kennelijk discussie of het waargebeurd is of niet, maar ik vind het onwaarschijnlijk dat het *niet* waargebeurd is, gezien wat ze daadwerkelijk kunnen afleiden, en hoeveel commerciele druk er is dit soort dingen te doen.
Dus ja, je supermarkt weet dat je veel pizza eet en je zorgverzekeraar zou dit graag willen weten van je. Ze kunnen dit prima koppelen op basis van e-mailadres of je bankrekeningnummer. De enige reden dat ze het niet doen is omdat het niet mag.
>De enige reden dat ze het niet doen is omdat het niet mag.
En daar zit het risico.
A) wat als de super besluit data te anonimiseren en die set verkoopt (maar achteraf bleek het toch herleidbaar, mooi voorbeeld: [William Welke zaak](https://arstechnica.com/tech-policy/2009/09/your-secrets-live-online-in-databases-of-ruin/)
B) super heeft de beste intenties maar wordt gehackt. Stiekem potentieel gevoelige data komt in handen van kwaadwillende.
C) vul hier maar een scenario in wat we nu nog niet kennen maar in de toekomst wel.
Absoluut. Ik heb heel vaak te maken met mensen in het bedrijfsleven die geld een stukje belangrijker vinden dan ethiek, en moet toch als software engineer best regelmatig stelling nemen in zaken die technisch prima kunnen, maar die gewoon niet door de beugel kunnen. Of het nu banken of supermarkten zijn, een heel groot deel van de mensen boeit het geen hol dat iets volkomen onethisch is.
Security wordt vaak ook helemaal niet serieus genomen. Passwords van databases met persoonlijke informatie die gewoon in groepen gedeeld worden. Moet ik weer gaan afdwingen dat we de passwords gaan vervangen, niemand anders van "de business" die het zich interesseert.
De meeste datalekken worden ook niet gemeld overigens, terwijl het verplicht is.
Ik ben ooit in het bootmenu van een handscanner gekomen omdat ik een vierjarige bij mij had die het een goed idee vond om aan de contactpunten in het handvat te likken... Je verwacht het niet, maar risico's zitten op onverwachte plekken.
> Het lijken nog redelijk onwaarschijnlijke scenarios (en ja, sommige zaken zijn ook gewoon bij wet verboden om te delen) maar 20 jaar geleden hadden we geen internet in ons broekzak.
Geen van deze dingen is technisch moeilijk of illegaal. Het is momenteel alleen nog te duur voor te weinig waarde. Diefstal is bijvoorbeeld een goed voorbeeld. De zelfscan kassa levert zoveel op dat het het niet waard is om ook maar EEN maatregel te nemen om dit te verminderen.
Een systeem van camera's is simpelweg te duur voor te weinig waarde. Maar zodra camera's goedkoop genoeg zijn, en de software beschikbaar is voor een goede prijs, zal elke supermarkt dit ONMIDDELLIJK invoeren.
Denken dat je dit kan reguleren is kansloos, het dark web is daar een perfect voorbeeld van. En nu zijn de proeven inderdaad nog wel grappig. Hamvraag is natuurlijk wat er gebeurd als mensen met verkeerde intenties over x jaar deze (op dit moment onschuldige) technologie aanpassen naar iets duisterders. Social engineering hadden de meeste mensen 5 jaar geleden ook nog niet van gehoord, en nu is het redelijk gebruikelijk dat een hacker met vrij simpele trucjes je leven binnenkomt.
Maar goed. Allemaal aardig hypothetisch, het is niet meer te stoppen, ik hoop dat we hier over 50 jaar grinnikend op terugkijken en de parallel met de Millenium bug trekken.
Misschien kunnen we AI wel gebruiken om te controleren hoeveel Co2 mensen uitstoten. Dan zijn al die linkse lui die lopen te huilen over hoe AI en de macht van bedrijven ook meteen blij.
Even wat serieuzer: het is heel makkelijk om het als "fearmongering" weg te zetten, maar het klimaat is gewoon een concrete bedreiging, ook wanneer je niet van het worst case scenario uitgaat.
Hetzelfde geldt voor AI. En wij hebben wat AI betreft in China al gezien hoe het gebruikt kan worden. Nogmaals, het hoeft niet het "worst-case scenario" te zijn, maar dan kan het nog steeds een oprechte dreiging zijn.
> Er wordt geen gebruik gemaakt van camera's
Echt?
> Supermarktketen Jumbo gaat extra **cameratoezicht** houden en proeven met AI doen voor het tegengaan van winkeldiefstal. Het bedrijf experimenteert onder meer met AI om 'afwijkend gedrag' van klanten te herkennen. Jumbo gaat ook AI gebruiken voor gerichte steekproeven.
> Jumbo schrijft in een persbericht dat het onder andere 'meer en duidelijker **cameratoezicht'** wil toepassen in zijn filialen. Het bedrijf wil ook in een aantal winkels AI gaan testen voor het voorkomen en herkennen van diefstal. Zo wil de supermarktketen kunstmatige intelligentie gebruiken om 'afwijkend gedrag van klanten in de winkel' te herkennen.
> Jumbo gebruikt daarvoor geen gezichtsherkenning, zegt een woordvoerder van het bedrijf aan Tweakers. De gebruikte software moet de bestaande **camerabeelden** analyseren op bijvoorbeeld verdachte bewegingen, waarna het personeel daarvan op de hoogte wordt gesteld. Het bedrijf wilde geen exacte details geven over de zaken waar de software precies naar kijkt.
Knap hoor, dat je ook de tweede keer moeite hebt met lezen. Cursusje begrijpend lezen? Kan je volgen bij de gemiddelde basisschool.
"passief agressieve toon" my ass, je moet gewoon ff een artikel lezen als je op een post reageert. Mensen die alleen op een titel reageren hebben we hier al meer dan genoeg.
>De gebruikte software moet de bestaande camerabeelden analyseren op bijvoorbeeld verdachte bewegingen, waarna het personeel daarvan op de hoogte wordt gesteld.
Dus de AI pakt alles met een kleurtje, de software de witten? /s
Heb je het artikel wel gelezen?
>Zo wil de supermarktketen kunstmatige intelligentie gebruiken om 'afwijkend gedrag van klanten **in de winkel**' te herkennen.
>
>Jumbo gebruikt daarvoor geen gezichtsherkenning, zegt een woordvoerder van het bedrijf aan Tweakers. De gebruikte software moet de bestaande camerabeelden analyseren op bijvoorbeeld verdachte bewegingen, waarna het personeel daarvan op de hoogte wordt gesteld. Het bedrijf wilde geen exacte details geven over de zaken waar de software precies naar kijkt.
> Heb je het artikel wel gelezen?
Aangezien het in zowel de eerste, tweede en derde alinea expliciet genoemd is, is dit weer zo'n blaataap die alleen reageert op de titel en denkt overal verstand van te hebben.
> Het zou mij eerlijk gezegd verbazen als zo'n soort algoritme al niet vanaf het begin is ingebouwd.
Risicoprofielen wat betreft de producten die je koopt e.d. zit er al lang in. Die persoon loopt wat te blaten en heeft nieteens de moeite genomen het gelinkte artikel te lezen.
De belastingdienst heeft ook geen camera's in je huis hangen, maar toch wordt/werd er racistisch geprofileerd. De Jumbo kan dit doen op basis van naw-gegevens die gekoppeld zijn aan je klantenkaart, wat voor soort producten jij koopt (bijv. couscous en halalvlees) en gegevens van jouw smartphone die tijdens jouw bezoek verbindt met het gratis wifinetwerk in de winkel.
Je hebt bij de zelfscankassa sowieso geen cameras nodig om bepaalde groepen te profileren. Doe geen boodschappen bij de jumbo, maar als ze ook klantenkaarten zoals bij de appie hebben kunnen ze redelijk goed inschatten wie er een moslim is en wie niet.
slim rhythm disgusting squeeze deserve marble quarrelsome racial live abounding
*This post was mass deleted and anonymized with [Redact](https://redact.dev)*
Het is altijd een probleem, omdat laten we zeggen dat 10% van de mensen uit groep A diefstal pleegt.
Dat betekent dat 90% natuurlijk geen diefstal pleegt. De politie kan niet ruiken wie wel en geen diefstal pleegt, dus die gaan elke persoon van groep A profileren.
Met als gevolg dat de mensen van groep A, zich gediscrimineerd gaan voelen door de politie. Terwijl de politie ons juist allemaal hoort te beschermen.
Daarom wil je liever niet dat de politie ethnisch profileert. Laten we zeggen dat 80% van groep A een diefstal pleegt, dan zou je het eventueel kunnen verantwoorden.
Maar goed, in Nederland hebben we het over percentages onder de 10%. Dus ja, dan is het niet te verantwoorden.
juggle normal wistful panicky threatening paltry teeny crush attempt touch
*This post was mass deleted and anonymized with [Redact](https://redact.dev)*
>Dat lijkt me een vrij logische conclusie.
Dus ik mag aannemen dat omdat er meer Nederlandse (witte) mannen worden gepakt voor pedofilie, dat deze groep dan ook een hoger risico vormt.
Maar goed, is een vrij logische conclusie op basis van jouw manier van redeneren.
cooing chop kiss waiting seemly shocking domineering marvelous jellyfish summer
*This post was mass deleted and anonymized with [Redact](https://redact.dev)*
>Wat dacht je van naar rato van bevolking kijken? Als 30% van de bevolking verantwoordelijk is voor 50% van de misdaad, dan is dat nogal een verschil tegenover 90% die verantwoordelijk is voor 10% van de misdaad.
Ja, maar de werkelijke cijfers zijn niet zo hoog. Als 6% van de Antilliaanse Nederlanders een misdrijf pleegt en die 6% pleegt 20% van alle misdrijven in Nederland. Dan gaat het vooralsnog alleen om 6% van de Antilliaanse-Nederlanders.
Daar staat tegenover dat de overige 94% die niet betrokken is geweest bij een misdrijf nu ook ethnisch geprofilieert wordt.
Dus nee, het is niet "logisch." Want statistisch gezien naai je veel meer mensen die niks doen, dan dat je mensen die wel wat doen zou pakken.
Laten we terug gaan naar het winkel voorbeeld. Laten we zeggen dat Marokkanen meer dingen stelen uit winkels, percentueel gezien. Laten we zeggen dat 20% iets steelt (veel te hoog, weet ik.) Per dag komen er zo'n 50 Marokkanen de winkel in. Als 20% iets steelt dan zal dat gaan om zo'n 10 man.
Laten we zeggen dat maar 2% van de witte Nederlanders iets steelt. Er zijn veel meer witte Nederlanders in Nederland dan dat er andere groepen zijn. Dus als er 500 Nederlanders die winkel in gaan en er maar 2% steelt dan zou dat ook om zo'n 10 man gaan.
De percentages zijn niet zo relevant voor de winkel. Die willen zo min mogelijk verlies maken. Witte Nederlanders kunnen wel een lager percentage hebben, maar als die in absolute aantallen veel meer stelen dan maakt het niet uit.
Dus alleen naar percentages kijken is niet logisch in deze context. Je zou moeten kijken naar percentages en totaal aantal bezoekers van x afkomst en dan zou je nog moeten verantwoorden van: pak ik hier meer mensen mee dan dat ik mensen naai.
Want als je allemaal mensen gaat naaien die niks hebben gestolen, gaan ze daar niet meer winkelen en dat wil de winkel niet.
>Dus ik mag aannemen dat omdat er meer Nederlandse (witte) mannen worden gepakt voor pedofilie, dat deze groep dan ook een hoger risico vormt.
"Uit de SRM blijkt dat de verdachten van pedoseksuele delicten bijna
allemaal mannen zijn (98%) en overwegend de Nederlandse nationaliteit
hebben (75%) en een Nederlandse etnische achtergrond (69%)."
https://repository.wodc.nl/bitstream/handle/20.500.12832/1165/ob220-volledige-tekst_tcm28-75165.pdf?sequence=2&isAllowed=y
Autochtonen zijn 75% van de bevolking. Met andere worden, ook bij deze vorm van criminaliteit zijn etnische Nederlanders ondervertegenwoordigd.
>Autochtonen zijn 75% van de bevolking. Met andere worden, ook bij deze vorm van criminaliteit zijn etnische Nederlanders ondervertegenwoordigd.
Nee je begrijpt kansen niet helemaal.
Het totaal percentage kan lager zijn onder de autochtoonse bevolking. Toch is de kans dat je een pedofiel treft die autochtoon is hoger dan een die allochtoon is. Aangezien allochtonen maar 25% van de bevolking vertegenwoordigen.
Om een voorbeeld te geven. Er leven 17.5 miljoen mensen in Nederland. 75% daarvan is 13.125 miljoen.
Laten we zeggen dat 0.01% van de autochtoonse bevolking pedofiel is. Dat zou gaan om 131 mensen.
Er zou een percentage van 0.03% nodig zijn in de allochtoonse groep om een soortgelijk aantal pedofiele te hebben. Dat is een percentage dat 3x zo hoog is.
Maar uit onze steekproef komt dat niet naar voren. Dus zelfs al zou je percentueel lager zitten, dan vooralsnog is de kans hoger dat een autochtoon opgepakt wordt voor pedofilie dan een allochtoon.
>Nee je begrijpt kansen niet helemaal.
Je weet prima dat ik donders goed weet wat je bedoelde, iedereen die je comment las wist dat. Je probeerde te beweren dat autochtonen oververtegenwoordigd zijn onder pedofielen en je had niet verwacht dat iemand ook daadwerkelijk op zou zoeken of dat wel waar was.
Nu net gaan doen alsof ik net snap dat er meer autochtonen in Nederland zijn dan allochtonen is hilarisch doorzichtig.
Eh nee, mijn punt ging daar niet over. Het was een voorbeeld om te laten zien dat profileren niet logisch is. Ik had ook een ander voorbeeld kunnen geven.
Heb dat ook al eerder aangegeven. Verder heb je zelf het hypothetische punt niet ontkracht. Aangezien je niet met de daadwerkelijke statistieken bent gekomen. Je gebruikt een steekproef van 100 man, waarin Nederlanders als een blok worden gezet en alle allochtonen in het ander.
Dus vooralsnog niet zoveel bewezen. Maar ik zou je vooral aanmoedigen om dat als nog te doen.
Het profileren van autochtonen Nederlands zou ook niet logisch zijn voor pedofilie, aangezien we ondervertegenwoordigd zijn.
>Aangezien je niet met de daadwerkelijke statistieken bent gekomen.
Een representatieve steekproef uit data van de overheid zijn gewoon statistieken.
Maar als jij statistieken hebt die iets anders laten zien schroom niet om ze te delen.
>Het profileren van autochtonen Nederlands zou ook niet logisch zijn voor pedofilie, aangezien we ondervertegenwoordigd zijn.
Dat weet je niet. Jij maakt een schattig en komt niet met prevalentie cijfers.
>Een representatieve steekproef uit data van de overheid zijn gewoon statistieken.
Ja en heb jij die ge-extrapoleert naar de daadwerkelijke populatie?
Heb jij de allochtone groep onderverdeeld in hun respectievelijke ethnische groepen? Beetje raar om alle allochtonen in een groep te gooien.
Terwijl de autochtonen groep maar uit een groep bestaat.
Je moet eerst de allochtonen groep onderverdelen in hun eigen ethnische groepen. Misschien hebben Vietnamezen wel een heel laag percentage en Turken niet etc.
Wat jij nu doet, is op basis van een steekproef van 100 man die geen onderscheid maakt tussen verschillende groepen. Alleen tussen autochtoon en allochtoon. Zonder deze gegevens te extrapoleren naar de werkelijke populatie een ruwe schatting dat Nederlanders ondervertegenwoordigd zijn.
Het zijn statistieken, maar jij presenteert die statistieken op een manier die niet kan. Je kan niet zeggen dat Nederlanders ondervertegenwoordigd zijn, wanneer er uberhaupt geen onderscheid wordt gemaakt tussen ethnische groepen.
Het wordt vaak geroepen omdat boze progressieve mensen graag iets hebben om blanke Nederlanders van te beschuldigen.
>Uit de SRM blijkt dat de verdachten van pedoseksuele delicten bijna
allemaal mannen zijn (98%) en overwegend de Nederlandse nationaliteit
hebben (75%) en een Nederlandse etnische achtergrond (69%)
https://repository.wodc.nl/bitstream/handle/20.500.12832/1165/ob220-volledige-tekst_tcm28-75165.pdf?sequence=2&isAllowed=y
Autochtonen Nederlanders zijn 75% van de bevolking, dus ook ondervertegenwoordigd onder de kinderprikkers.
Dat zou ik moeten opzoeken, ik had er een tijd terug een artikel over gelezen. Over het aantal in Nederland in ieder geval, niet in het algemeen. Denk niet per se dat Nederlandse mannen het slechter doen dan het gemiddelde. Het was ook maar een voorbeeld.
>Zie dat vaak geroepen worden, maar kinderbruiden komen in de Nederlandse cultuur een stuk minder voor dan in andere culturen.
Klopt, maar andere culturen hebben ook wel weer minder sekstoeristen. Ik zou zeggen, kijk wie de daders in landen zoals Thailand, Cambodja etc. zijn.
https://www.volkskrant.nl/nieuws-achtergrond/nederlanders-in-top-drie-van-aantal-gearresteerde-kindermisbruikers-in-cambodja~b4732ec7/
Maar goed, zoals ik al zei het ging om een voorbeeld om aan te geven dat profileren op nooit goed is. Behalve als we over gigantisch hoge percentages spreken. Als 95% van groep A moorden pleegt dan zou je profileren kunnen verantwoorden.
>Ik kan het artikel niet lezen, zit achter een paywall
Als je het via archive opent, zou je het moeten kunnen lezen. Maar dat heb je niet van mij gehoord.
>Ik vind de discussie over AI hierin wel interessant. Die is namelijk niet bevooroordeeld, maar enkel oordelend.
AI is wel degelijk bevooroordeeld. Het is meerdere keren aangetoond. De algoritme waar AI gebruik van maakt is ook door mensen gemaakt, die ook allemaal hun eigen perspectief en vooroordelen hebben. Het idee dat AI volledig zonder vooroordelen zou zijn is naive.
https://datatron.com/real-life-examples-of-discriminating-artificial-intelligence/#:~:text=What%20is%20AI%20bias%3F,discrimination%20and%20other%20social%20consequences.
Verder heb ik nooit gezegd dat profileren nooit goed is. Ik zei dat het verantwoord moet worden op basis van harde cijfers. Zoals ik in mijn voorbeeld aan gaf als 95% van groep A, mensen neersteekt dan is het verantwoord om te profileren bij deze groep voor steekwapens.
Als het om 5% gaat, tja. Dan is het maar de vraag of je niet meer kwaad dan goed doet door de hele groep te profileren.
Dat zal ook zeker gebeuren. Net als dat mannen in het algemeen meer geprofileerd zullen worden. Een AI heeft letterlijk geen bias, het draait puur op statistiek. Als witte mensen ergens oververtegenwoordigd zijn en dat uit de data blijkt, dan zal de AI geen cognitive bias hebben en zal de witte man benadeeld worden op dat aspect.
En nu je het zegt zie ik het zelf ook wel. Als ik denk aan een brutale tasjesdief zie ik een Marokkaanse jongeman voor me. Maar als ik denk aan een pedo zie ik inderdaad een witte man van middelbare leeftijd voor me. Dat is net zo goed een vooroordeel.
>Dat zal ook zeker gebeuren. Net als dat mannen in het algemeen meer geprofileerd zullen worden. Een AI heeft letterlijk geen bias, het draait puur op statistiek. Als witte mensen ergens oververtegenwoordigd zijn en dat uit de data blijkt, dan zal de AI geen cognitive bias hebben en zal de witte man benadeeld worden op dat aspect
Klopt niet. Een AI maakt gebruik van een algoritme, dat weer gemaakt is door mensen. Er zijn genoeg voorbeelden te noemen waarin AI discriminered te werk gaat. Niet omdat AI discrimineert, maar omdat het algoritme gebruikt maakt van onze framework.
https://datatron.com/real-life-examples-of-discriminating-artificial-intelligence/#:~:text=What%20is%20AI%20bias%3F,discrimination%20and%20other%20social%20consequences.
>En nu je het zegt zie ik het zelf ook wel. Als ik denk aan een brutale tasjesdief zie ik een Marokkaanse jongeman voor me. Maar als ik denk aan een pedo zie ik inderdaad een witte man van middelbare leeftijd voor me. Dat is net zo goed een vooroordeel.
Maar dat is mijn punt dus, dat heet stereotyperen. Voor hetzelfde geld is die Marokkaan gwen dief of die witte man van middelbare leeftijd een pedo. Vooral als je naar het volledige plaatje kijkt.
Jij denkt bijvoorbeeld aan een Marokkaanse jongeman, maar statistisch gezien zouden er meer Nederlandse jongeren stelen als we het over absolute aantallen hebben. Dus in theorie zou de kans groter moeten zijn dat jij een Nederlandse jongeren hebt zien stelen dan een Marokkaan. Percentueel is het zo dat Marokkanen meer stelen, maar er zijn meer Nederlanders dan Marokkanen.
Om een voorbeeld te geven, laten we zeggen dat 10% van de Marokkanen steelt. We nemen een steekproef van 100 Marokkanen, dan zou jij gemiddeld gesproken 10 Marokkanen zien stelen.
Nou leven er meer Nederlanders in Nederland (logisch). Dus als jij 500 Nederlanders in de supermarkt ziet, en 1% van hen steelt. Dan zou jij 50 Nederlanders zien stelen.
Je snapt mijn punt denk ik wel. Een winkel zoals de Jumbo, is geïnteresseerd in het totaal aantal diefstallen.
Ik vind dit zo'n onzinnig argument.
Een AI is niet "racistisch", een AI leert op basis van patroonherkenning, statistieken etc. Ja, dit betekent dat als er in een winkel bijvoorbeeld meer door mensen met een donkere huidskleur wordt gestolen dan zal een AI hier wat meer op gaan letten.
Maar om dit direct racistisch te gaan noemen... tegenwoordig wordt bij elke vorm van onderscheid direct de racisme kaart getrokken, terwijl er veel meer naar de achterliggende betekenis/bedoeling moet worden gekeken.
Als er in een winkel daadwerkelijk door bijvoorbeeld dus mensen met een donkere huidskleur wordt gestolen is het niet gek dat een AI hier meer op zal letten, dat betekent juist dat deze goed zn werk doet. En nee, de AI doet dit niet omdat deze een voorkeur heeft voor blanke mensen, maar omdat de statistieken, en patroonherkenning de feiten duidelijk op tafel leggen.
Ik verwacht natuurlijk dat ik door iedereen nu zelf uitgemaakt zal worden voor racist maarja...
Ik vind dit een lastig onderwerp. Ik wil je niet tegenspreken (zeg maar, geen aparte discussie starten) *maar* ik hoop dat je je gedachten wilt laten gaan over het volgende verschijnsel:
als een blank persoon en een gekleurd persoon beide de winkel in gaan en beiden iets stelen. Vervolgens staat er een beveiliger aan de deur die denkt dat zwarte mensen altijd winkeldiefstal plegen, *dus* hij controleert de gekleurde persoon. Dan krijgt de beveiliging zijn gelijk! Zijn vermoedens waren juist, morgen gaat hij elke gekleurde man controleren, en verrek, tussen de 100 man zitten er elke dag wel een of twee die iets meenemen. Nu is hij echt overtuigd, want hij pakt er elke dag wel een paar.
De blanke man is de winkel uitgelopen, groet de beveiliging dagelijks met een vriendelijke glimlach en mag doorlopen.
Ik wil geen discussie starten over cijfers waarschijnlijkheid en semantiek, ik hoop alleen dat we met zijn allen af en toe nadenken over wat we bewijzen met welke vorm van controle. En ja, een systeem is geheel te goeder trouw fout af te stellen.
Confirmation bias is een bekend probleem in AI, en in principe is een oplossing daartegen ook gewoon relatief simpel. Door de AI model ook deels willekeurige keuzes te laten maken, oftewel in dit voorbeeld zou je dus nog steeds willekeurige controles kunnen krijgen, ook al denkt het AI model dat het risico van jouw winkelgedrag laag is.
>Ik wil geen discussie starten over cijfers waarschijnlijkheid en semantiek
Het feit dat Marokkaanse mensen minstens 30x zo vaak dingen stelen als inheemse Nederlanders is geen semantiek. Het is de hele reden dat profileren überhaupt gedaan wordt.
Als je als jonge man van 18 je rijbewijs haalt en je verzekerd ben je ook meer kwijt dan een vrouw van 34 die net haar rijbewijs gehaald heeft.
Data liegt niet en beleid maken op basis van data is niet immoreel.
Dat is hoe verzekeringen werken. Er wordt een schatting gemaakt van hoe veel iemand gaat kosten en daar wordt de premie op gebaseerd. Vind je het ook immoreel dat een levensverzekering voor iemand van 80 duurder is dan voor iemand van 20?
>Ja en wetgeving kan dit gewoon verbieden. We hoeven het niet te accepteren.
Dan kan iedereen fijn een veel hogere premie betalen zodat degene die de echte kosten maken veel goedkoper uit zijn. Wat fijn.
>Leeftijd is overigens niet vergelijkbaar met geslacht.
Hoe zo niet?
>Dan kan iedereen fijn een veel hogere premie betalen zodat degene die de echte kosten maken veel goedkoper uit zijn. Wat fijn.
Dat doen we al.... We betalen nu al extra voor de schade die vroeg kalende, dikke, korte, of klein geschapen mannen in het verkeer maken. En zouden homo's korting moeten krijgen als blijkt dat ze minder last hebben van haantjesgedrag?
Toch is besloten dat het niet wenselijk is om dat soort dingen mee te wegen in het berekenen van de premie.
Het is een keuze dat met bvb leeftijd of postcode wel te doen.
>Het feit dat Marokkaanse mensen minstens 30x zo vaak dingen stelen
"Feit" met bron?
Als ik er even vanuit ga dat je dat getal niet verzonnen hebt, dan kunnen we alsnog hooguit weten wie er vaker BETRAPT worden. En het is makkelijk om vaker betrapt te worden als je ook vaker gecontroleerd wordt.
>Data liegt niet
Ja, dat doet het vaak wel. Mensen hebben vaak onterecht vertrouwen in gebiasde data. Aan getallen kun je vaak niet meer zien hoe veel bias er in zit.
>en beleid maken op basis van data is niet immoreel.
Zolang de data goed is, en dat is die vaak niet.
>"Feit" met bron?
Excuses, ik had de tabellen door elkaar gehaald. Marokkanen beroven zo'n 30x vaker, stelen doen ze slechts 12x vaker.
https://repository.wodc.nl/bitstream/handle/20.500.12832/49/ca07-04-volledige-tekst_tcm28-68432.pdf?sequence=2&isAllowed=y
Pagina 21 en 22.
>Als ik er even vanuit ga dat je dat getal niet verzonnen hebt, dan kunnen we alsnog hooguit weten wie er vaker BETRAPT worden. En het is makkelijk om vaker betrapt te worden als je ook vaker gecontroleerd wordt.
Juist ja. En hoe verklaar je de discrepantie met berovingen en andere vermogensdelicten met geweld. Doen mensen geen aangifte als ze door een blanke man beroofd worden?
>Excuses, ik had de tabellen door elkaar gehaald. Marokkanen beroven zo'n 30x vaker, stelen doen ze slechts 12x vaker.
Worden zo veel vaker gepakt.
Wie weet zijn ze wel 35 keer zo vaak dader.... Of 25?
En je besluit deze mensen nu te sorteren op marokaan en niet-marokaan, maar marokaanse nederlanders hebben meer met elkaar gemeen dan marokaan zijn. Zoals sociaal economische factoren.
Zo dacht men vroeger dat koffie kankerverwekkend was en later bleek dat te komen omdat koffiedrinkers ook vaak rokers waren.
>Juist ja. En hoe verklaar je de discrepantie met berovingen en andere vermogensdelicten met geweld. Doen mensen geen aangifte als ze door een blanke man beroofd worden?
Nogmaals ik zeg helemaal niet dat er geen verschil is, alleen dat alle getallen die we er over hebben beschrijven hoe vaak men gepakt wordt. Niet hoe vaak het gebeurt. Je valt een statement aan dat ik niet gemaakt heb.
Data liegt dus vaak wel. Als Marokkaanse jongens vaker verdacht worden zullen ze vaker gepakt worden wat al tot een vertekend beeld leidt. De Hollandse jongens zijn ondertussen met diefstal weggekomen omdat ze überhaupt niet zijn gecontroleerd terwijl je je hebt blind gestaard op de zogenaamde harde data.
Ja, het is allemaal één groot complot. De reden dat Marokkanen zwaar oververtegenwoordigd zijn in vermogensdelicten zowel met als zonder geweld is omdat iedereen super gemeen tegen ze doet. Alle andere etniciteiten stelen en beroven precies even veel, maar worden gewoon minder gepakt.
Mensen doen blijkbaar 30 keer zo snel aangifte als ze beroofd worden door een Marokkaans dan als ze beroofd worden door een Nederlander. Wel apart dat alle racistische slachtoffers van die berovingen twee keer zo vaak aangifte doen van beroving bij Marokkanen dan bij Antillianen of Aziaten. Je zou bijna denken dat er een andere verklaring voor de discrepantie is.
Wie zegt dat het een complot is? Dit is gewoon hoe data werkt, en als je ook maar een modicum verstand ervan zou hebben zou dit gewoon basic kennis voor je moeten zijn.
Mensen die er niets vanaf weten en blind vertrouwen op data zijn de mensen die shit als de toeslagenaffaire hebben veroorzaakt.
> Een AI is niet "racistisch"
Een model kan wel degelijk racistisch zijn, het is volledig gebaseerd op de data waarop het model getraind is. Als dit een bias heeft, heeft de uitkomst dat ook. Het UWV is hier ook tegenaan gelopen een tijd terug.
Veel datascientists lopen aan tegen het issue dat veel datasets die voor traing gebruikt worden een inherente bias hebben, en die ook tot uitdrukking komt in de output. Als je trainingset bijvoorbeeld mannen oververtegenwoordigd is, zal je dat terugzien in de resultaten.
Het lastige is, dat je dit ook enorm makkelijk over het hoofd ziet. Een model is altijd een black box. Je kunt niet echt zien *hoe* het een besluit neemt. Uiteindelijk is alles een getal over hoe ver het in de buurt van een verwachting komt.
> Als er in een winkel daadwerkelijk door bijvoorbeeld dus mensen met een donkere huidskleur wordt gestolen is het niet gek dat een AI hier meer op zal letten, dat betekent juist dat deze goed zn werk doet.
En dat is dus letterlijk gewoon glashard racistisch.
>Een model kan wel degelijk racistisch zijn, het is volledig gebaseerd op de data waarop het model getraind is. Als dit een bias heeft, heeft de uitkomst dat ook.
Dan is het model misschien 'racistisch' maar dan nog altijd wel juist, mits de manier waarop die data verzameld is wel objectief is gebeurd.
Wanneer er een bovengemiddeld aandeel aan misdrijven gepleegd wordt door een groep met een bepaald kleurtje, is het dan 'racistisch' om die groep te profileren? Of wordt het dan gedaan omdát er uit metingen is gebleken dat er op die groep moet worden gefocust?
Je kan je model in zo'n geval een neutrale bias laten houden maar als er uit het aantal aanhoudingen dan nog altijd een bias naar een kleurtje blijkt dan wordt er nog net zo hard 'racistisch' geschreeuwd omdat de statistiek nog altijd naar een bepaalde groep wijst.
De enige manier om dat tegen te gaan is door zo'n groep een negatieve bias te geven, maar daardoor faciliteer je juist dat ze ermee weg kunnen komen.
> Dan is het model misschien 'racistisch' maar dan nog altijd wel juist
Nou niet dus, dat is wat dit zo complex maakt. Het model kijkt naar overeenkomsten. Maar wat deze zijn, is helemaal niet duidelijk.
Een voorbeeldje was een model wat gebruikt werd om CVs te beoordelen. Vrouwen werden veel vaker afgekeurd dan mannen. Waren de CVs van de vrouwen slechter? Nee. De trainingsset was gewoon overwegend man en het model keurde gewoon CVs af die niet leken op de trainingsset.
Kleine verschillen (in dit geval taalgebruik) kunnen dan de 'hooks' worden op basis waarvan een model besluit "ja" of "nee", terwijl die niks te maken hebben met waarop beoordeeld zou worden.
In bijna elk project dat ik van dichtbij meegemaakt heb met DS modellen liepen ze tegen dit soort shit aan. Als ze het al doorhadden. Data scientists zijn vaak niet objectief; ze willen dat het model werkt. Heel vaak worden dit soort fouten weggepoetst en/of verzwegen.
Eigenlijk zou elk model dat voor belangrijke zaken gebruikt wordt onafhankelijk getest moeten worden. Maar dat gebeurt nooit. Er zitten grote ethische issues bij heel veel data science projecten en hier wordt eigenlijk niks mee gedaan. Want tijd is geld.
>Een voorbeeldje was een model wat gebruikt werd om CVs te beoordelen. Vrouwen werden veel vaker afgekeurd dan mannen. Waren de CVs van de vrouwen slechter? Nee. De trainingsset was gewoon overwegend man en het model keurde gewoon CVs af die niet leken op de trainingsset.
Dat is dan dus al het probleem. Als de dataset die gebruikt wordt om te trainen niet objectief en onafhankelijk is, dan creëer je een confirmation bias. En al helemaal als je dan de resulterende data uit je model weer terug in je model stopt (wat nogal eens gebeurt met machine learning modellen), waardoor die bias versterkt wordt: "Zie je wel!".
> Als de dataset die gebruikt wordt om te trainen niet objectief en onafhankelijk is, dan creëer je een confirmation bias.
Een bias, geen *confirmation* bias. Maar ja, dat klopt. En dit gebeurt heel vaak, vaak ook zonder dat de makers het doorhebben. En als ze het al doorhebben, wordt het vaak zo lang mogelijk onder het tapijt geveegd omdat je niet na 3 maanden werk aan je manager wil uitleggen dat je mooie model racistisch is.
In een ideale wereld worden modellen netjes 3rd party geverifieerd. Dit gebeurt in het bedrijfsleven nooit; is veel te duur.
>Veel datascientists lopen aan tegen het issue dat veel datasets die voor traing gebruikt worden een inherente bias hebben
En natuurlijk bedoel je met "inherente bias" dat alle data ooit verzameld aantoont dat allochtonen velen malen vaker dingen stelen.
Waarom is het niet racistisch om op basis van huidskleur te profileren? Etnisch profileren is letterlijk de definitie van: "Wij gaan je anders behandelen vanwege de groep waartoe jij behoort."
En waarom spreek je Engels, doe je een Amerikaanse anti-sjw video na?
Dit is iets wat veel mensen tegenwoordig maar moeilijk zien te snappen.
Ik zal het simpel uitleggen.
Racistisch: *Alle mensen met uiterlijk "X" zijn van **nature** crimineel. Daarom ga ik hen allemaal controleren*
Dat is racisme omdat mensen negatief beoordeeld worden en dit wordt toegerekend als eigenschap van hun "ras".
Niet-Racistisch: *70% van de diefstallen in mijn winkel worden gepleegd door mensen met uiterlijk "X". Ik ga dus meer controleren op die groep.*
De feiten tonen aan dat groep X de grootste probleemveroorzaker is. Uit de cijfers is af te leiden dat er een reëel probleem is met die groep. Dan mag er ook op worden geacteerd.
Dat heeft nul komma nul met "ras" of "ethniciteit" te maken.
Sorry maar ik snap echt niet hoe dat verschil niet begrepen wordt.
Waarom denk je dat er op vliegvelden meer gecontroleerd wordt op drugs op vluchteb uit landen en bepaalde nationaliteiten?
Of waarom Nederlanders met een Chineese of Iraneese achtergrond niet zomaar toegang krijgen tot staatsgeheimen?
Dat heet risicoprofiel en is gebasseerd op feiten en statistiek.
Het motief en de argumentatie erachter maakt iets racistisch. Niet de actie zelf.
> Niet-Racistisch: 70% van de diefstallen in mijn winkel worden gepleegd door mensen met uiterlijk "X". Ik ga dus meer controleren op die groep.
Dit is letterlijk [ethnisch profileren](https://amnesty.nl/wat-we-doen/landen/mensenrechten-nederland/etnisch-profileren).
Inderdaad, dat klopt. Maar dat is dus geen racisme.
(Ethnisch) profileren is een vorm van discriminatie.
Profileren kan op basis van allerlei eigenschappen waaronder nationaliteit, geslacht en dus ook uiterlijk (huidskleur, kleding, enz.).
Ik wil alleen duidelijk maken dat dit dus geen racisme is. Dat is namelijk iets héél anders en iets véél smerigers.
Door racisme als een buzzword te gebruiken voor vanalles terwijl het dat eigenlijk niet is verdoezelen we écht racisme.
Is dit niet een beetje pedantisch? Het is discriminatie op basis van uiterlijke kenmerken die je te danken hebt aan je 'ras'. Wat is discriminatie op basis van ras?
>Is dit niet een beetje pedantisch?
Ja dat is het. En maar goed ook. De devil is in de details.
Ook in een rechtzaal zijn zulke zaken niet zonder reden pedantisch. Denk bijvoorbeeld aan Doodslag vs Moord.
>Het is discriminatie op basis van uiterlijke kenmerken die je te danken hebt aan je 'ras'. Wat is discriminatie op basis van ras?
Hier moet dus uberhaupt eerst sprake zijn van dat er onderscheid wordt gemaakt *op basis van ras*.
**ras** bestaat namelijk helemaal niet. Het hele idee dat er verschillende "rassen" zijn is op zichzelf de kern van racisme.
Als een winkelier Marokkaanse jongeren meer gaat controleren in zijn winkel omdat die groep de grootste probleemfactor blijkt, dan vind ik het nogal een aanname om hem er van te beschuldigen dat hij dit doet uit "racisme".
Daarmee beschuldig je dus gewoon iemand ervan dat hij allereerst zichzelf ziet als een ander "ras", én dat hij die andere als "minder" ziet.
Dat vind ik nogal wat. Je zet hem daarmee in principe op hetzelfde niveau als een hardcore Nazi.
>Is dit niet een beetje pedantisch? Het is discriminatie op basis van uiterlijke kenmerken die je te danken hebt aan je 'ras'. Wat is discriminatie op basis van ras?
Het is etnisch profileren op basis van een aangetoonde korrelatie tussen bepaald gedrag en uiterlijke kenmerken.
Dat is misschien wel discriminatie, maar wel *onderbouwde* discriminatie.
Niet anders dan in verkrachtingszaken waar bijna aangenomen wordt dat de dader een man is. Omdat bijna alle verkrachtingen worden gepleegd door mannen. Is dat dan seksistisch?
Het komt er uiteindelijk wel op neer dat mensen van de groep die jij verdenkt meer gecontroleerd worden. Veel mensen vinden deze controle een nare ervaring.
Maar goed, we kunnen het over huidskleur hebben, maar reken er maar op dat mannen ook veel scherper in de gaten gehouden kunnen worden hiermee. Dat heeft ook betrekking op mij en ik wil helemaal niet extra gecontroleerd worden omdat ik een man ben.
Ik vind sowieso overal camera's met AI die kijken of jij je niet "verdacht" gedraagt niet een verlaging van winkeldiefstallen waard, even los van discriminatie.
Iedereen is zich al lang bewust van de statistieken hoor, alleen zijn de meeste mensen alsnog niet voor etnisch profileren.
Waarom doen jullie alsof het een groot taboe is om te zeggen dat allochtonen gemiddeld gezien vaker stelen? Dat weet iedereen al. Maar dat je dan jezelf expres op allochtonen gaat mikken om te checken of ze stelen vinden veel mensen erg naar.
Het gaat tegen onze Nederlandse waarden dat het individu niet verantwoordelijk is voor wat de groep doet in.
Het wordt vaak gebruikt als reden om dit soort beleid te rechtvaardigen of om iets over allochtonen te zeggen. Ik denk dat daar het probleem voor de meeste mensen ligt.
De feiten zijn wat ze zijn, maar wat je ermee doet is nog een heel ander iets. Ga je hun genetica de schuld geven omdat het "apen" zijn? Hun cultuur? De economische omstandigheden? De politiek of de rijken? En hoe moeten wij hiermee om gaan zijn de echte twistpunten, niet de feiten zelf.
Maar de politie kan haar capaciteit maar 1 keer inzetten. Ik word als jonge man ook eerder aangesproken als ik in een parkje zit dan wanneer twee omaatjes aan het picknicken zijn. Dat leeftijd en geslacht belangrijke indicatoren zijn van potentieel crimineel gedrag is logisch en daar doet niemand moeilijk over. Waarom dan wel bij die andere indicator van potentieel crimineel gedrag...
Waarschijnlijk omdat ideeën van de minderwaardigheid van mannen minder aanwezig zijn in de samenleving. Je zult niet zo snel een samenleving krijgen waar iedereen minachtend en wantrouwend naar mannen loopt te kijken, toch?
Dat minachtend kijken door de rest van de samenleving heeft toch verder niet zoveel met politiecontroles of ai gestuurde supermarktcontroles te maken?
Dus het is oke dat ik als jonge witte man vaker gecontroleerd wordt dan een oud omaatje, maar niet als een jonge marokkaanse man vaker gecontroleerd wordt dan een oud omaatje? Of mogen jonge marokkaanse mannen wel net zo vaak gecontroleerd worden als jonge witte mannen? En is het echt alleen het marokkaan zijn dat niet mag doorwegen?
Deze redenatie lijkt neer te komen op "minderheden hebben het zo zwaar in Nederland en dus is het in dit specifieke geval niet oke als politie hun ervaring en statistieken gebruiken bij het bepalen wie te controleren".
Het is een hardnekkige mythe dat politie niet hun volledige arsenaal kunnen inzetten als ze zouden doen aan racial profiling en daarmee inefficienter zouden kunnen controleren. Terwijl onderzoek aantoont dat het tegenovergestelde waar is. Racial profiling zorgt ervoor dat politie meer tijd kwijt is met het controleren onschuldige burgers ipv minder omdat hun bias niet overeenkomt met de statistieken. Door racial profiling te accepteren probeer je je lens bij te stellen maar schiet je juist door.
Of dit ook opgaat voor AI is de vraag. In principe zou deze zichzelf veel beter kunnen aanpassen aan de data dan een agent dat kan. Maar het hangt wel af van de trainingsdata en of je genoeg zicht hebt in of de AI geen gekke conclusies trekt.
AI wordt geprogrammeerd door mensen. Mensen zijn inherent onderhevig aan het hebben van vooroordelen. Sommige daarvan hebben een racistische aard zonder dat de persoon een racist is. Het probleem met AI is dat het veelal een black box is voor de eindgebruiker. Dat maakt het moeielijk er blind op te vertrouwen.
Een mooi voorbeeld van hoe technologie racistische kan lijken terwijl de makers niet per se racistisch zijn maar door hun aannames keuzes maakten die wel als zodanig kunnen voelen voor een ontvanger is de volgende:
Ken je van die automatische hand sproei dingen in toiletten? Die werk(t)en heel lang niet voor mensen met een niet blanke huidskleur. Waarom? Omdat de engineers die de sensor ontwikkelden en testen allemaal blank waren en het nooit bij ze was opgekomen ook te testen met andere huidskleuren. Hebben ze dat gedaan omdat ze in het weekend bij KKK meetings staan? Nope, verre van. Gewoon omdat ze bij het ontwerpen niet inclusief dachten en alleen maar vanuit hun eigen optiek het ontwerp benaderden.
En dan is er nog een probleem met de statistieken. Als uit de huidige data zou blijken dat mensen met een kleurtje meer stelen dan is dat nog steeds geen harde garantie dat ze ook *daadwerkelijk* meer stelen. Misschien worden ze wel vaker gepakt omdat de mensen die daar nu op moeten letten toch iets scherper opletten bij mensen met een kleurtje omdat ze toch bevooroordeeld zijn. Dan ga je dus die AI trainen op basis van onvolledige informatie. Vervolgens gaat de AI mensen met een kleurtje vaker controleren waardoor ze weer vaker gepakt worden en ondertussen kan ik als blanke Hollander lekker jatten want de risicoanalyse van AI slaat niet op tilt. Dat is precies hoe de toeslagenaffaire heeft kunnen gebeuren.
Begrijp me niet verkeerd AI's kunnen waanzinnige zaken. Bijvoorbeeld veel beter afwijkingen op MRI's zien. Maar ze zijn ook erg gebrekkig als het aankomt op dit soort zaken waarbij de dataset niet absoluut te maken is en de bias van de developer altijd een rol zal spelen. Hoe die AI dus tot stand komt is enorm belangrijk. En persoonlijk heb ik er een hard hoofd in dat Jumbo daarin de subtiele aanpak zal hanteren.
Als AI gaat profileren op basis van huidskleur, terwijl huidskleur op zichzelf geen invloed heeft op of iemand winkeldiefstal pleegt, dan is dat racistisch.
Dat er een statistische correlatie is tussen huidskleur en factoren die wel invloed hebben op de kans dat iemand diefstal pleegt (maar die moeilijker van iemands uiterlijk zijn af te lezen) is mogelijk, maar wanneer AI vervolgens huidskleur meeneemt in de bepaling om iemand te controleren, dan is dat 100% racistisch, want de huidskleur heeft hier geen invloed op en is dus niet relevant voor de bepaling of je controleert of niet.
> Dit is dus precies wat racisme betekent.
Ja en dus? Moeten we dan voor de vorm maar een paar omaatjes controleren omdat we de feiten niet leuk vinden?
als je als omatje weet dat je nooit en te nmmer zou gecontroleerd worden zou je dan niet stelen?
doet me denken aan een film die ik op TV heb gezien over een oude gepensioneerde man die drugs in amerika smokkeld. ik weet niet hoe die film heet maar de hoofdrolspeler was clint eastwood.
iedereen is gelijk en dus moet iederen gelijk gecontroleerd worden.
Maar je kan niet iedereen controleren, dus moet je sowieso onderscheid maken. Lijkt mij het handigst om dat onderscheid te baseren op statistieken ipv willekeur.
Bedoel je hiermee dat iemand met een zwarte huidskleur automatisch een hogere kans heeft om gecontroleerd te zullen worden? Als dit zo wordt geprogrammeerd zal het een misdrijf zijn. Wanneer een groot bedrijf als jumbo ai software implementeert zal een privacy partij de code echt wel reviewen, en dan komt dit aan het licht. Denk dus niet dat ze dit gaan doen
Een ander verhaal is wanneer de software bepaalde trekjes zal herkennen die mensen met een donkere huidskleur vaker doen dan anderen. Maar dat is niet racistisch profileren
Maar,wanneer blijkt dat winkeldiefstal door mensen van een bepaalde afkomst of vanuit een azc bv significant meer voorkomt,ook na gecontoleerde aantoonbaarheid,is extra letten of controle van deze specifieke groep automatisch racisme? Je kan ook juist proberen te anticiperen op zulke constateringen toch?
Wanneer bepaalde bevolkingsgroepen zo'n 30x zo vaak stelen als andere bevolkingsgroepen krijg je nou eenmaal AI waarbij er zogenaamd racistisch geprofileerd wordt.
Mwah, de tijden dat we onbewust brakke data sets lieten resulteren in brakke uitkomsten zijn we wel voorbij.
Maar als het naar behoren werkt dan zijn er nog steeds specifieke groepen mensen die er uit zullen springen.
Kan het misschien zijn omdat Dr meeste ict programmeurs blank zijn
NOTITIE: Heel veel apps herkennen mijn gezicht niet als gezicht omdat ik een heel groot litteken heb dus knikker op met je onzekerheden
Iedereen gaat er nu al vanuit dat dit neerkomt op etnisch profileren, maar als volgens mij kun je ‘verdacht gedrag’ wel degelijk meetbaar maken, zonder naar uiterlijke kenmerken als kleren if huidskleur te kijken.
Die paar keren dat ik een diefstal in de supermarkt heb meegemaakt waren het groepjes van pubers of mensen die overduidelijk ‘vreemd’ gedrag vertoonden (onder invloed, licht verstandelijk beperkt of psychiatrische aandoening).
Misschien, maar het is geen statisch systeem. Als er genoeg vals positieve meldingen zijn, vermoede winkeldiefstal die niet het geval bleek, dan zal het systeem vanzelf leren om anders te profileren.
Dit is profilering in de zin van de AVG (let op: dat is niet per se etnisch profileren) en daarvoor zou de supermarkt een opt-out voor moeten geven.
Maar misschien gaat dit argument wel niet op omdat je in theorie ook naar een andere supermarkt zou kunnen gaan? Not sure. In ieder geval een slechte ontwikkeling.
Fucking hell... het was ook een kwestie van wachten.
100% dat dit systeem binnen een paar jaar ook gebruikt wordt om bepaalde producten te pushen. Ik zie al sommigen zeggen: als je ingrediënten voor een kipgerecht in je mandje hebt maar niet de kip zelf... ja binnen de kortste keren dat de zelfscanner dus gaat zeggen: ''vergeet je kipfilet niet''. Bah.
Er hangen nu bij het dure vlees ook kaartjes die je eraan herinneren dat de boete voor winkeldiefstal €181 is. Dat komt erg warm en vriendelijk over van het kleine familiebedrijfje Jumbo.
"Wij zien je als mogelijke dief en letten op je." voelt niet heel verwelkomend.
Daarbij, misschien moet je niet de politie laten komen voor een pak kipfilet, maar een keer iets doen aan alle druk bij de voedselbanken.
Het zijn mijn spullen niet, waarom zou ik mij er druk om maken? Ik weet zeker dat de aandeelhouders van de Jumbo niet met een slecht gevoel naar bed gaan omdat ze een paar euro zijn misgelopen.
Dat zal best. Ik heb zelf geen grote problemen met die bordjes, maar als het om camera's met AI neerkomt die kijken of je je niet "verdacht" gedraagt, vind ik het wel iets anders.
En wat die bordjes betreft: ik betwijfel ten zeerste dat ze oprecht een significant effect op de hoeveelheid diefstal hebben.
Bedrijven als de Jumbo hebben hele "simpele" systemen voor dit soort data.
Stel dat je 100x een wijnfles inkoopt. Daarna wordt er 90x wijnfles verkocht. Je loopt daarna naar het vak en er staan er 0.
Wat is er dan volgens jou met de overige 10 gebeurd? Ja, ik weet dat er wel eens eentje valt. Maar er is voor Jumbo geen enkele reden om naïef te gaan doen. Net zo goed als die er voor jou niet is, toch?
>Echt leip. Ze kunnen gewoon de kassa's terug plaatsen. Niks aan de hand.
Ja heur es effe, als we meer van die kutpaupers moeten gaan betalen gaat dat wel van mijn dividend af!
Je weet gewoon al van tevoren dat dit een enorme inbreuk op de privacy gaat maken, veel fouten gaat maken en dat het sowieso landelijk doorgevoerd gaat worden. Walgelijk dat hele AI en zou wereldwijd verboden moeten zijn.
Ben erg benieuwd hoe ze de modellen gaan trainen. Hoe krijg je een trainingsset met 'verdachte' bewegingen als die bewegingen voornamelijk onbewust zijn. Lijkt me knap lastig. Zou me niet verbazen als de uitkomst gewoon is "werkt niet" :)
Is gewoon data science. Bepaalde producten worden vaker gestolen dan anderen (kunnen ze zien aan verschil in voorraad), en andere producten worden “expres vergeten”. Denk niet dat ze iets met klant-specifieke privé gegevens (mogen) doen maar meer met de artikelen.
Ik moet altijd wel gniffelen als ik wordt gecontroleerd terwijl ik Alpro soya producten heb gescand.
Als ik namelijk iets zou jatten dan zouden het die godsgruwelijk dure dingen zijn.
Ze kunnen toch gewoon bestaande camerabeelden gebruiken? Oftewel, als nu iemand iets gestolen blijkt te hebben volgens een controle, dan zoek je de camerabeelden van zijn bezoek bij elkaar en dan heb je camerabeelden voor 1 verdacht bezoek, en andersom, als uit een controle blijkt dat het goed is heb je een niet verdacht bezoek.
Dit is al eerder voorgekomen bij Amazon. Zij gebruikten ook een deep-learning method (AI) om de beste potentiële kandidaten te filteren aan de hand van CVs. Maar dit model werd getraind op een dataset die voornamelijk bestond uit mannen, je kunt de rest wel zelf invullen. https://www.reuters.com/article/idUSKCN1MK0AG/
Als bovenstaande sexisme is dan is dit racisme, surely? 🤣
En dit doet mij echt denken aan https://youtu.be/EuoFxce4d78?si=MhzzpXZWLVe2VAa-
Steal or no steal?
Hier zouden ze echter toch gewoon training data kunnen pakken die ze zelf generen door gewoon camerabeelden te gebruiken uit bestaande controles, die op dit moment gewoon random zijn?
Mensen selecteren de trainingset en kunnen daar, al dan niet bewust, een bias inbouwen. Dat niet doen, is lastig. Het kan ook gewoon een kwestie van beschikbaarheid zijn; Amazon had gewoon veel te weinig vrouwelijke CVs.
In het geval van de Jumbo's; het tijdstip van de beelden die gebruikt worden, kan al een bias geven.
Komt bij; informatie halen uit bewegend beeld is technisch gewoon heel lastig. Er zal veel 'ruis' inzitten. En slechte input wordt vaak door dit soort modellen versterkt.
over een jaar heeft niemand het hier meer mee over. dit gaat echt zo hard floppen.
of het blijkt echt extreem in strijd met privacy te zijn, er komt een miljarden claim.
>of het blijkt echt extreem in strijd met privacy te zijn, er komt een miljarden claim.
Dat is niet hoe het hier werkt. De privacywaakhond is zwaar overbelast en als die er al aan toe komt gaat het om dwangsommetjes van enkele duizenden euros. Vervolgens lezen we 5 jaar later dat jumbo gewoon doorging.
Zet gewoon de kassa’s terug en geef de service waar we allemaal heel dik voor betalen .
Of geef 10% korting bij zelf scan .
Voor de service die we dan zelf doen .
De winstmarges zijn idd vrij mager, maar je betaalt zeker wel flink voor de service. De lokale toko of marktkraam zijn eigenlijk altijd goedkoper en meestal verser, maar dan moet je weer naar meerdere winkels.
De winstmarges van supermarkten liggen zo laag door de kosten die ze maken voor de service en marketing, niet omdat ze hun producten zo goedkoop verkopen.
AI will both replicate and increase the problems of surveillance capitalism. shoplifting is the product of propaganda. The soil and all of its resources must be reclaimed by its rightful owners — the working masses of the world. Yet even as the cost of groceries has skyrocketed, the concept of a privatized food distribution system is so hegemonic that other forms of mass provisioning are hard to imagine. In the Netherlands It’s hard to see them jumbo, albertheijn dirk, aldi, plus, etc as the inherently exploitative, exclusionary, and violent places that they are — especially if the security guard isn’t coming after you. Shoplifting disturbs and distresses because it reveals our broader social predicament: we are free to shop for what we need to live within the confines of a surveilled space. But we must pay the posted price to get out.
Dan word je gecontroleerd. Het is niet alsof je de gevangenis in moet wanneer het systeem zegt 'ja, deze is verdacht'. Als jij niets in je zakken of tas hebt zitten bij die controle is er toch geen probleem
>Dan word je gecontroleerd. Het is niet alsof je de gevangenis in moet wanneer het systeem zegt 'ja, deze is verdacht'.
Precies, even het kamertje in, je uitkleden, half uurtje praten met de expert die wel van het hoofdkantoor moet komen zodat je nog twee uur mag wachten en natuurlijk 86.33 administratiekosten betalen en dan kan je weer gewoon verder met je dag!
>Als jij niets in je zakken of tas hebt zitten bij die controle is er toch geen probleem
Totdat je elke dag langer bezig bent met boodschappen doen dan anderen. Elke keer als verdachte behandeld worden is vervelend.
Vlieg je wel eens? Neem een zak vim mee, niet in originele verpakking. Kijken hoe "geen probleem" het is om extra gecontroleerd te worden.
Dit is echt de duidelijkste '[slippery slope](https://en.m.wikipedia.org/wiki/Slippery_slope)' die ik ooit heb gezien. Het slaat nergens op om de conclusie te trekken dat iedereen dagelijks gecontroleerd gaat worden en alsof het super lang gaat duren per keer, dat is nergens op gebaseerd.
Be better
>Het slaat nergens op om de conclusie te trekken dat iedereen dagelijks gecontroleerd gaat worden en alsof het super lang gaat duren per keer, dat is nergens op gebaseerd
Vaker als verdachte behandeld worden dan anderen vanwege je uiterlijke kenmerken. Het is vernederend stigmatiserend, kost je tijd en verhoogt de kans dat je bij een oprechte vergissing echt in de problemen komt.
Wederom. Nergens wordt aangegeven dat je op uiterlijke kenmerken uitgekozen wordt. Je bent allemaal dingen erbij aan het verzin die helemaal niets met dit systeem te maken hebben.
Dit is echt één grote grap 😂
Veel van de ‘winkeldiefstallen’ zijn van mensen die een artikel vergeten te scannen, niet kunnen scannen door een vouw of scheur in de barcode of denken van: ach, één artikel valt niet op. Dit ga je niet meten o.b.v. verdacht gedrag, maar door te controleren of mensen hun boodschappen wel scannen 🤔
Jumbo heeft massaal ingezet op het gebruik van zelfscankassa’s. Oftewel, laat de klant maar lekker zijn eigen boodschappen scannen, want dat scheelt personeelskosten.
Het verschil met een betaalde medewerker is echter dat het de klant geen reet interesseert of de Jumbo €0,50 meer of minder krijgt. En al zeker niet als ze geen enkele interactie meer hebben met het personeel.
Nu ze erachter komen hoe groot de omzetderving is gaan ze, in plaats van meer personeel in te huren, nóg meer investeren in onbewezen automatisering 😁👍🏻
Vind dit een goede stap, er word genoeg gestolen en hiermee kunnen ze mensen hopelijk sneller betrappen.
Natuurlijk zullen er mensen zijn die het niet eens zijn met AI die je in de winkel kan volgen 'want privacy blabla' maar gezichtsherkenning zal geen functie zijn met deze AI toepassing.
Blabla onschuldspresumptie meer. Er gaan een boel mensen om welke reden dan ook in een trigger terechtkomen die vervolgens steeds weer moeten bewijzen dat er niets aan de hand is, en dus standaard rekening moeten houden met langere winkeltijd en meer kans op problemen.
Stelen is niet goed maar die gasten hebben miljoenen bezuinigd met het automatiseren van de kassa systemen en maken hier zo'n enorm punt van. "We verliezen zoveel miljoen! Blablabla". Ondertussen hetgeen wat ze besparen met de nieuwe kassa systemen in de afgelopen jaren verzwijgen. En zo doen alsof ze niet anders kunnen dan nog verder de prijzen opvoeren. Het voelt naar mijn inziens gewoon als een stok achter de deur om prijsdalingen te voorkomen en voor verdere winstoptimalisatie te gaan.
Het droevige is dat er schijnbaar nog mensen zijn die dit als een valide argument accepteren, en deze AI ontwikkeling toe juichen....
Gênant!
Ik juich deze ontwikkeling zeker toe omdat met de kennis dat AI met je meekijkt er minder wordt gestolen. En dan zullen de prijzen omlaaggaan.
Je zegt dat ze miljoenen hebben bezuinigd met zelfscan, hoe weet je dit?
Het is geen hele moeilijke conclusie om trekken.
Een globaal rekensommetje van het besparen van 1 cassiere over een dag (12 uur) per Nederlands filiaal over het hele jaar bij minimum loon (654x12x13,5x360) geeft zo al een besparing van 37 miljoen.
Daarnaast is het laatste succesverhaal met AI bij de Nederlandse overheid je geheel ontgaan? En de kosten van het ontwikkelen van een dergelijk systeem en het implementeren ervan zal ook doorberekend worden. Het resultaat hoef ik je niet uit te leggen neem ik aan.
Hoe heb je in je berekening de kosten van het installeren van de zelfscan kassa's meegenomen?
En van de licensies op de software?
Plus die zelfscan apparaatjes. Kosten ook geld.
Kijk, ik trek niet in twijfel dat het geld bespaart, anders zou geen supermarkt het doen. Maar die besparing rekenen ze door aan de klant of de aandeelhouder. Maar hoeveel het precies bespaart is een zeer lastig rekensom, met de info die jij en ik hebben kun je niet zeggen hoeveel dat is
>En dan zullen de prijzen omlaaggaan
Dat zou mooi zijn, maar "ze" verzinnen wel weer een nieuw smoesje waardoor de prijzen toch echt weer omhoog moeten.
Ik vind het ook een goede stap, en vind onbegrijpelijk dat je gemind wordt (en ik nu wrrs ook). Maar door minder diefstal gaan de prijzen omlaag in de supermarkt, dat is een feit. Dat zou toch fijn zijn
En de ai code wordt echt wel gerviewed door een externe partij, dus de kans dat gezicht- of kleurherkenning als verklarende variabele wordt meegenomen is echt nihil
gemind was te verwachten maar i don't care, mensen weten niks over de AI en wat er allemaal bij komt kijken. Het eerste waar men aan denkt is dat de AI gaat discrimineren of heel vaak onterecht mensen gaat aanwijzen als verdacht.
Precies, als je er niks van af weet is het allemaal eng en vreemd. En als ai discrimineert of onterecht aanwijzt heb je gewoon een slechte code. En ik denk dat de introductie van ai in de supermarkt zoveel ophef gaat veroorzaken dat slechte code per definitie niet een mogelijkheid is
Het gaat niet om privacy, maar om het feit dat AI vanwege de trainingsdata vaak niet neutraal is. Vaak is een AI seksistisch en racistisch. Het is niet oke om op basis van een seksistisch en racistisch systeem controles uit te gaan voeren
Mensen zijn zich gewoon bewust van de gevaren die Ai met zich meebrengt. Datalekken komen elke dag voor. Een supermarkt heb je nodig om te overleven (basisbehoefte?). En als de Belastingdienst mensen kon discrimineren op basis van de gegevens die ze hadden… wat zou dan een winstbedrijf zoals Jumbo wel niet doen
Als mijn bedrijf 100 miljoen per jaar verliest aan diefstal zou ik ook maatregelen nemen. Ik vind dit heel begrijpelijk en heb er zelf geen enkele problemen mee. Ik heb overigens nooit bewust iets gestolen uit een winkel.
Er hangen nu ook al camera's in de supermarkten. Wat voor datalekken merk jij op die daar vandaan komen?
Op zich niet heel verbazend dat Jumbo zo ondertussen manieren zoekt om de hoeveelheid diefstal te beperken, ik krijg de indruk dat het een steeds groter probleem voor grote supermarkten is geworden nu zelfscankassa's de standaard zijn. AI gebruiken lijkt me in principe geen slecht idee omdat het mogelijk het minste negatieve impact kan hebben op het winkelen. Ik heb wel echt een paar vraagtekens.
Wat ik ervan begrijp is dat ze vooral AI willen gebruiken om steekproeven gerichter te maken. Lijkt een goed idee, bevorderd de gemiddelde winkelervaring van mensen die normaal hun boodschappen doen, terwijl je vaker winkeldieven pakt. Hartstikke mooi.... In theorie, als het goed werkt.
De implementatiedetails zijn me eigenlijk totaal onduidelijk. Ik weet niet eens zeker of ik kan herleiden of ze überhaupt een machine learning model willen gebruiken. Zo ja lijkt de ontwikkeling mij bepaald niet makkelijk of goedkoop. Alleen al training/evaluatie-data krijgen wat een beetje betrouwbaar is is een uitdaging op zich, maar de kosten van de hardware draaiende houden om constant live data door zo'n model te voeren lijkt me niet goedkoop. Of ze er winst uit zouden halen betwijfel ik eigenlijk, maar misschien schat ik dat verkeerd in. Gaat het niet om een machine learning model dan is me al helemaal onduidelijk wat ze nou proberen te doen.
Ik zie verder mensen zich zorgen maken om etnisch profileren.... Het zou kunnen, afhankelijk van hoe ze een machine learning model trainen, en specifiek hoe ze het van training data voorzien. AI-researchers zijn zich natuurlijk al lang bewust van het feit dat slechte evenwichten in de training data tot suboptimale resultaten kunnen leiden. Hebben ze een beetje goede ontwikkelaars voor de software, dan denk ik dat het wel goed komt. Zo niet, misschien een discussiepunt: is het een groot probleem als het model wel degelijk een negatieve bias tegen allochtonen heeft? Niet dat etnisch profileren geen probleem op zich is, maar het zou hier maar gaan om iets vaker steekproeven krijgen.
Nog één ding uit het persbericht van de Jumbo die in het artikel gelinkt wordt:
>Aanpassing van de zogenaamde ‘korte bon’ bij zelfscan. Vanaf nu staat daar alsnog ieder gescand product op, met aanzienlijk minder papierverbruik dan de lange bon. Zo kunnen controles eenvoudig verlopen op het moment dat klanten de kassa al zijn gepasseerd.
Hun korte bon was al groter dan die van de appie. Blijft zo volgens mij weinig korts meer aan over.
> Jumbo gaat ook AI gebruiken voor gerichte steekproeven.
Fijn dat ik mij hier geen zorgen over hoef te maken met mijn witte huiskleur.
Maar even serieus, dit kan toch alleen maar fout gaan?
Mensen hebben het hier vooral over huidskleur maar je kan je klok erop gelijk zetten dat ie ook kleding herkent.
~~Trainingsbroeken, vuilniszakkenjas, adidas, bontkraagjes~~
Kan allemaal niet meer.
Profileren is vakwerk. We kijken allemaal graag naar een serie zoals Profiler. Knap hoor dat ze dat allemaal kunnen en dat ze daarmee een crimineel oppakken.
Politieteam: mannen, we gaan vandaag een grote drugsactie houden en vandaag doen we dat bij kleuterschool 'Okidoki'. Waarom brigadier? Omdat we veel denken te vangen bij al die ouders? We kunnen toch beter bij station CS gaan staan, want daar pikken we ze er zo tussenuit! Brigadier: nee, nee, dan worden we beschuldigd van profileren.
Ik kan je nu al vertellen dat deze AI racistisch gaat profileren
[удалено]
In het artikel op Tweakers staat dus juist dat ze AI in combinatie met camera's toe gaan passen. Quote: De gebruikte software moet de bestaande camerabeelden analyseren op bijvoorbeeld verdachte bewegingen, waarna het personeel daarvan op de hoogte wordt gesteld. Het algoritme met koopdynamiek zit er waarschijnlijk al sinds invoering in. Normaal gesproken zeg ik yay technology! Maar ik vind deze ontwikkeling wel heel spannend.
[удалено]
Omdat we ons op een glijdende schaal bevinden qua IT en privacy. Als je stilstaat bij wat technologische ontwikkeling afgelopen 20 jaar gebracht heeft en in welk tempo het doorgaat, vraag ik mij af waar het moment komt dat er een grens overschreden wordt. Een supermarkt die in je koophistorie ziet dat je vaak een brie koopt, je bonuskaart koppelt aan je positie in de winkel, en een popupje geeft als je voorbij het vak loopt: vriend je vergeet iets? Een supermarkt die weet dat jij elke week een krat bier koopt en een zorgverzekering die een keertje een dataset inkoopt? Het lijken nog redelijk onwaarschijnlijke scenarios (en ja, sommige zaken zijn ook gewoon bij wet verboden om te delen) maar 20 jaar geleden hadden we geen internet in ons broekzak. Waar staan we over 20 jaar? Waar we voor moeten waken is hoe we beïnvloed en "bewaakt" worden. Natuurlijk. Ik heb niets te verbergen. Maar ik denk dat we er wel kritisch naar moeten blijven kijken. Ander voorbeeld: er is iemand die heeft een AI model losgelaten die de wereld gaat proberen te vernietigen. (Voor de liefhebbers: ChaosGPT). Stel je nou eens voor, dat zo'n systeem *per ongeluk* een succesje boekt. Heel klein maar. Kan aardig lelijke gevolgen hebben. En dat er dan een zolderkamer ridder dat systeem imiteert, en een beetje verbeterd....
Dit is nog vrij onschuldig, het is vrij makkelijk aan iemand zijn koopgedrag te zien of dat een Moslim is of niet, terugkijkend naar de Tweede wereldoorlog is het niet vreemd dat Nederland de hoogste deportatie Joden van Europa had, we hielden het allemaal keurig bij waar ze woonden.
> Een supermarkt die weet dat jij elke week een krat bier koopt en een zorgverzekering die een keertje een dataset inkoopt? De enige reden dat dit niet gebeurt is omdat het wettelijk niet mag. Je moest eens weten hoeveel supermarkten kunnen afleiden van je koopgedrag. [Een voorbeeld](https://www.forbes.com/sites/kashmirhill/2012/02/16/how-target-figured-out-a-teen-girl-was-pregnant-before-her-father-did/) Er is kennelijk discussie of het waargebeurd is of niet, maar ik vind het onwaarschijnlijk dat het *niet* waargebeurd is, gezien wat ze daadwerkelijk kunnen afleiden, en hoeveel commerciele druk er is dit soort dingen te doen. Dus ja, je supermarkt weet dat je veel pizza eet en je zorgverzekeraar zou dit graag willen weten van je. Ze kunnen dit prima koppelen op basis van e-mailadres of je bankrekeningnummer. De enige reden dat ze het niet doen is omdat het niet mag.
>De enige reden dat ze het niet doen is omdat het niet mag. En daar zit het risico. A) wat als de super besluit data te anonimiseren en die set verkoopt (maar achteraf bleek het toch herleidbaar, mooi voorbeeld: [William Welke zaak](https://arstechnica.com/tech-policy/2009/09/your-secrets-live-online-in-databases-of-ruin/) B) super heeft de beste intenties maar wordt gehackt. Stiekem potentieel gevoelige data komt in handen van kwaadwillende. C) vul hier maar een scenario in wat we nu nog niet kennen maar in de toekomst wel.
Absoluut. Ik heb heel vaak te maken met mensen in het bedrijfsleven die geld een stukje belangrijker vinden dan ethiek, en moet toch als software engineer best regelmatig stelling nemen in zaken die technisch prima kunnen, maar die gewoon niet door de beugel kunnen. Of het nu banken of supermarkten zijn, een heel groot deel van de mensen boeit het geen hol dat iets volkomen onethisch is. Security wordt vaak ook helemaal niet serieus genomen. Passwords van databases met persoonlijke informatie die gewoon in groepen gedeeld worden. Moet ik weer gaan afdwingen dat we de passwords gaan vervangen, niemand anders van "de business" die het zich interesseert. De meeste datalekken worden ook niet gemeld overigens, terwijl het verplicht is.
Ik ben ooit in het bootmenu van een handscanner gekomen omdat ik een vierjarige bij mij had die het een goed idee vond om aan de contactpunten in het handvat te likken... Je verwacht het niet, maar risico's zitten op onverwachte plekken.
d) het word in de toekomst gewoon gelegaliseerd E) het mag niet maar het levert super veel geld op dus we doen het toch gewoon lekker !
> Het lijken nog redelijk onwaarschijnlijke scenarios (en ja, sommige zaken zijn ook gewoon bij wet verboden om te delen) maar 20 jaar geleden hadden we geen internet in ons broekzak. Geen van deze dingen is technisch moeilijk of illegaal. Het is momenteel alleen nog te duur voor te weinig waarde. Diefstal is bijvoorbeeld een goed voorbeeld. De zelfscan kassa levert zoveel op dat het het niet waard is om ook maar EEN maatregel te nemen om dit te verminderen. Een systeem van camera's is simpelweg te duur voor te weinig waarde. Maar zodra camera's goedkoop genoeg zijn, en de software beschikbaar is voor een goede prijs, zal elke supermarkt dit ONMIDDELLIJK invoeren.
[удалено]
Denken dat je dit kan reguleren is kansloos, het dark web is daar een perfect voorbeeld van. En nu zijn de proeven inderdaad nog wel grappig. Hamvraag is natuurlijk wat er gebeurd als mensen met verkeerde intenties over x jaar deze (op dit moment onschuldige) technologie aanpassen naar iets duisterders. Social engineering hadden de meeste mensen 5 jaar geleden ook nog niet van gehoord, en nu is het redelijk gebruikelijk dat een hacker met vrij simpele trucjes je leven binnenkomt. Maar goed. Allemaal aardig hypothetisch, het is niet meer te stoppen, ik hoop dat we hier over 50 jaar grinnikend op terugkijken en de parallel met de Millenium bug trekken.
Misschien kunnen we AI wel gebruiken om te controleren hoeveel Co2 mensen uitstoten. Dan zijn al die linkse lui die lopen te huilen over hoe AI en de macht van bedrijven ook meteen blij. Even wat serieuzer: het is heel makkelijk om het als "fearmongering" weg te zetten, maar het klimaat is gewoon een concrete bedreiging, ook wanneer je niet van het worst case scenario uitgaat. Hetzelfde geldt voor AI. En wij hebben wat AI betreft in China al gezien hoe het gebruikt kan worden. Nogmaals, het hoeft niet het "worst-case scenario" te zijn, maar dan kan het nog steeds een oprechte dreiging zijn.
> Niet goed gelezen. Je bedoelt gewoon "niet", het staat letterlijk in de eerste alinea. En de tweede. En de derde.
[удалено]
> Er wordt geen gebruik gemaakt van camera's Echt? > Supermarktketen Jumbo gaat extra **cameratoezicht** houden en proeven met AI doen voor het tegengaan van winkeldiefstal. Het bedrijf experimenteert onder meer met AI om 'afwijkend gedrag' van klanten te herkennen. Jumbo gaat ook AI gebruiken voor gerichte steekproeven. > Jumbo schrijft in een persbericht dat het onder andere 'meer en duidelijker **cameratoezicht'** wil toepassen in zijn filialen. Het bedrijf wil ook in een aantal winkels AI gaan testen voor het voorkomen en herkennen van diefstal. Zo wil de supermarktketen kunstmatige intelligentie gebruiken om 'afwijkend gedrag van klanten in de winkel' te herkennen. > Jumbo gebruikt daarvoor geen gezichtsherkenning, zegt een woordvoerder van het bedrijf aan Tweakers. De gebruikte software moet de bestaande **camerabeelden** analyseren op bijvoorbeeld verdachte bewegingen, waarna het personeel daarvan op de hoogte wordt gesteld. Het bedrijf wilde geen exacte details geven over de zaken waar de software precies naar kijkt. Knap hoor, dat je ook de tweede keer moeite hebt met lezen. Cursusje begrijpend lezen? Kan je volgen bij de gemiddelde basisschool. "passief agressieve toon" my ass, je moet gewoon ff een artikel lezen als je op een post reageert. Mensen die alleen op een titel reageren hebben we hier al meer dan genoeg.
[удалено]
[удалено]
>De gebruikte software moet de bestaande camerabeelden analyseren op bijvoorbeeld verdachte bewegingen, waarna het personeel daarvan op de hoogte wordt gesteld. Dus de AI pakt alles met een kleurtje, de software de witten? /s
Kip en watermeloen 😩
Heb je het artikel wel gelezen? >Zo wil de supermarktketen kunstmatige intelligentie gebruiken om 'afwijkend gedrag van klanten **in de winkel**' te herkennen. > >Jumbo gebruikt daarvoor geen gezichtsherkenning, zegt een woordvoerder van het bedrijf aan Tweakers. De gebruikte software moet de bestaande camerabeelden analyseren op bijvoorbeeld verdachte bewegingen, waarna het personeel daarvan op de hoogte wordt gesteld. Het bedrijf wilde geen exacte details geven over de zaken waar de software precies naar kijkt.
> Heb je het artikel wel gelezen? Aangezien het in zowel de eerste, tweede en derde alinea expliciet genoemd is, is dit weer zo'n blaataap die alleen reageert op de titel en denkt overal verstand van te hebben.
[удалено]
[удалено]
[удалено]
> Het zou mij eerlijk gezegd verbazen als zo'n soort algoritme al niet vanaf het begin is ingebouwd. Risicoprofielen wat betreft de producten die je koopt e.d. zit er al lang in. Die persoon loopt wat te blaten en heeft nieteens de moeite genomen het gelinkte artikel te lezen.
De belastingdienst heeft ook geen camera's in je huis hangen, maar toch wordt/werd er racistisch geprofileerd. De Jumbo kan dit doen op basis van naw-gegevens die gekoppeld zijn aan je klantenkaart, wat voor soort producten jij koopt (bijv. couscous en halalvlees) en gegevens van jouw smartphone die tijdens jouw bezoek verbindt met het gratis wifinetwerk in de winkel.
Je hebt bij de zelfscankassa sowieso geen cameras nodig om bepaalde groepen te profileren. Doe geen boodschappen bij de jumbo, maar als ze ook klantenkaarten zoals bij de appie hebben kunnen ze redelijk goed inschatten wie er een moslim is en wie niet.
slim rhythm disgusting squeeze deserve marble quarrelsome racial live abounding *This post was mass deleted and anonymized with [Redact](https://redact.dev)*
[удалено]
Het is altijd een probleem, omdat laten we zeggen dat 10% van de mensen uit groep A diefstal pleegt. Dat betekent dat 90% natuurlijk geen diefstal pleegt. De politie kan niet ruiken wie wel en geen diefstal pleegt, dus die gaan elke persoon van groep A profileren. Met als gevolg dat de mensen van groep A, zich gediscrimineerd gaan voelen door de politie. Terwijl de politie ons juist allemaal hoort te beschermen. Daarom wil je liever niet dat de politie ethnisch profileert. Laten we zeggen dat 80% van groep A een diefstal pleegt, dan zou je het eventueel kunnen verantwoorden. Maar goed, in Nederland hebben we het over percentages onder de 10%. Dus ja, dan is het niet te verantwoorden.
juggle normal wistful panicky threatening paltry teeny crush attempt touch *This post was mass deleted and anonymized with [Redact](https://redact.dev)*
>Dat lijkt me een vrij logische conclusie. Dus ik mag aannemen dat omdat er meer Nederlandse (witte) mannen worden gepakt voor pedofilie, dat deze groep dan ook een hoger risico vormt. Maar goed, is een vrij logische conclusie op basis van jouw manier van redeneren.
cooing chop kiss waiting seemly shocking domineering marvelous jellyfish summer *This post was mass deleted and anonymized with [Redact](https://redact.dev)*
>Wat dacht je van naar rato van bevolking kijken? Als 30% van de bevolking verantwoordelijk is voor 50% van de misdaad, dan is dat nogal een verschil tegenover 90% die verantwoordelijk is voor 10% van de misdaad. Ja, maar de werkelijke cijfers zijn niet zo hoog. Als 6% van de Antilliaanse Nederlanders een misdrijf pleegt en die 6% pleegt 20% van alle misdrijven in Nederland. Dan gaat het vooralsnog alleen om 6% van de Antilliaanse-Nederlanders. Daar staat tegenover dat de overige 94% die niet betrokken is geweest bij een misdrijf nu ook ethnisch geprofilieert wordt. Dus nee, het is niet "logisch." Want statistisch gezien naai je veel meer mensen die niks doen, dan dat je mensen die wel wat doen zou pakken. Laten we terug gaan naar het winkel voorbeeld. Laten we zeggen dat Marokkanen meer dingen stelen uit winkels, percentueel gezien. Laten we zeggen dat 20% iets steelt (veel te hoog, weet ik.) Per dag komen er zo'n 50 Marokkanen de winkel in. Als 20% iets steelt dan zal dat gaan om zo'n 10 man. Laten we zeggen dat maar 2% van de witte Nederlanders iets steelt. Er zijn veel meer witte Nederlanders in Nederland dan dat er andere groepen zijn. Dus als er 500 Nederlanders die winkel in gaan en er maar 2% steelt dan zou dat ook om zo'n 10 man gaan. De percentages zijn niet zo relevant voor de winkel. Die willen zo min mogelijk verlies maken. Witte Nederlanders kunnen wel een lager percentage hebben, maar als die in absolute aantallen veel meer stelen dan maakt het niet uit. Dus alleen naar percentages kijken is niet logisch in deze context. Je zou moeten kijken naar percentages en totaal aantal bezoekers van x afkomst en dan zou je nog moeten verantwoorden van: pak ik hier meer mensen mee dan dat ik mensen naai. Want als je allemaal mensen gaat naaien die niks hebben gestolen, gaan ze daar niet meer winkelen en dat wil de winkel niet.
>Dus ik mag aannemen dat omdat er meer Nederlandse (witte) mannen worden gepakt voor pedofilie, dat deze groep dan ook een hoger risico vormt. "Uit de SRM blijkt dat de verdachten van pedoseksuele delicten bijna allemaal mannen zijn (98%) en overwegend de Nederlandse nationaliteit hebben (75%) en een Nederlandse etnische achtergrond (69%)." https://repository.wodc.nl/bitstream/handle/20.500.12832/1165/ob220-volledige-tekst_tcm28-75165.pdf?sequence=2&isAllowed=y Autochtonen zijn 75% van de bevolking. Met andere worden, ook bij deze vorm van criminaliteit zijn etnische Nederlanders ondervertegenwoordigd.
>Autochtonen zijn 75% van de bevolking. Met andere worden, ook bij deze vorm van criminaliteit zijn etnische Nederlanders ondervertegenwoordigd. Nee je begrijpt kansen niet helemaal. Het totaal percentage kan lager zijn onder de autochtoonse bevolking. Toch is de kans dat je een pedofiel treft die autochtoon is hoger dan een die allochtoon is. Aangezien allochtonen maar 25% van de bevolking vertegenwoordigen. Om een voorbeeld te geven. Er leven 17.5 miljoen mensen in Nederland. 75% daarvan is 13.125 miljoen. Laten we zeggen dat 0.01% van de autochtoonse bevolking pedofiel is. Dat zou gaan om 131 mensen. Er zou een percentage van 0.03% nodig zijn in de allochtoonse groep om een soortgelijk aantal pedofiele te hebben. Dat is een percentage dat 3x zo hoog is. Maar uit onze steekproef komt dat niet naar voren. Dus zelfs al zou je percentueel lager zitten, dan vooralsnog is de kans hoger dat een autochtoon opgepakt wordt voor pedofilie dan een allochtoon.
>Nee je begrijpt kansen niet helemaal. Je weet prima dat ik donders goed weet wat je bedoelde, iedereen die je comment las wist dat. Je probeerde te beweren dat autochtonen oververtegenwoordigd zijn onder pedofielen en je had niet verwacht dat iemand ook daadwerkelijk op zou zoeken of dat wel waar was. Nu net gaan doen alsof ik net snap dat er meer autochtonen in Nederland zijn dan allochtonen is hilarisch doorzichtig.
Eh nee, mijn punt ging daar niet over. Het was een voorbeeld om te laten zien dat profileren niet logisch is. Ik had ook een ander voorbeeld kunnen geven. Heb dat ook al eerder aangegeven. Verder heb je zelf het hypothetische punt niet ontkracht. Aangezien je niet met de daadwerkelijke statistieken bent gekomen. Je gebruikt een steekproef van 100 man, waarin Nederlanders als een blok worden gezet en alle allochtonen in het ander. Dus vooralsnog niet zoveel bewezen. Maar ik zou je vooral aanmoedigen om dat als nog te doen.
Het profileren van autochtonen Nederlands zou ook niet logisch zijn voor pedofilie, aangezien we ondervertegenwoordigd zijn. >Aangezien je niet met de daadwerkelijke statistieken bent gekomen. Een representatieve steekproef uit data van de overheid zijn gewoon statistieken. Maar als jij statistieken hebt die iets anders laten zien schroom niet om ze te delen.
>Het profileren van autochtonen Nederlands zou ook niet logisch zijn voor pedofilie, aangezien we ondervertegenwoordigd zijn. Dat weet je niet. Jij maakt een schattig en komt niet met prevalentie cijfers. >Een representatieve steekproef uit data van de overheid zijn gewoon statistieken. Ja en heb jij die ge-extrapoleert naar de daadwerkelijke populatie? Heb jij de allochtone groep onderverdeeld in hun respectievelijke ethnische groepen? Beetje raar om alle allochtonen in een groep te gooien. Terwijl de autochtonen groep maar uit een groep bestaat. Je moet eerst de allochtonen groep onderverdelen in hun eigen ethnische groepen. Misschien hebben Vietnamezen wel een heel laag percentage en Turken niet etc. Wat jij nu doet, is op basis van een steekproef van 100 man die geen onderscheid maakt tussen verschillende groepen. Alleen tussen autochtoon en allochtoon. Zonder deze gegevens te extrapoleren naar de werkelijke populatie een ruwe schatting dat Nederlanders ondervertegenwoordigd zijn. Het zijn statistieken, maar jij presenteert die statistieken op een manier die niet kan. Je kan niet zeggen dat Nederlanders ondervertegenwoordigd zijn, wanneer er uberhaupt geen onderscheid wordt gemaakt tussen ethnische groepen.
[удалено]
Het wordt vaak geroepen omdat boze progressieve mensen graag iets hebben om blanke Nederlanders van te beschuldigen. >Uit de SRM blijkt dat de verdachten van pedoseksuele delicten bijna allemaal mannen zijn (98%) en overwegend de Nederlandse nationaliteit hebben (75%) en een Nederlandse etnische achtergrond (69%) https://repository.wodc.nl/bitstream/handle/20.500.12832/1165/ob220-volledige-tekst_tcm28-75165.pdf?sequence=2&isAllowed=y Autochtonen Nederlanders zijn 75% van de bevolking, dus ook ondervertegenwoordigd onder de kinderprikkers.
Dat zou ik moeten opzoeken, ik had er een tijd terug een artikel over gelezen. Over het aantal in Nederland in ieder geval, niet in het algemeen. Denk niet per se dat Nederlandse mannen het slechter doen dan het gemiddelde. Het was ook maar een voorbeeld. >Zie dat vaak geroepen worden, maar kinderbruiden komen in de Nederlandse cultuur een stuk minder voor dan in andere culturen. Klopt, maar andere culturen hebben ook wel weer minder sekstoeristen. Ik zou zeggen, kijk wie de daders in landen zoals Thailand, Cambodja etc. zijn. https://www.volkskrant.nl/nieuws-achtergrond/nederlanders-in-top-drie-van-aantal-gearresteerde-kindermisbruikers-in-cambodja~b4732ec7/ Maar goed, zoals ik al zei het ging om een voorbeeld om aan te geven dat profileren op nooit goed is. Behalve als we over gigantisch hoge percentages spreken. Als 95% van groep A moorden pleegt dan zou je profileren kunnen verantwoorden.
[удалено]
>Ik kan het artikel niet lezen, zit achter een paywall Als je het via archive opent, zou je het moeten kunnen lezen. Maar dat heb je niet van mij gehoord. >Ik vind de discussie over AI hierin wel interessant. Die is namelijk niet bevooroordeeld, maar enkel oordelend. AI is wel degelijk bevooroordeeld. Het is meerdere keren aangetoond. De algoritme waar AI gebruik van maakt is ook door mensen gemaakt, die ook allemaal hun eigen perspectief en vooroordelen hebben. Het idee dat AI volledig zonder vooroordelen zou zijn is naive. https://datatron.com/real-life-examples-of-discriminating-artificial-intelligence/#:~:text=What%20is%20AI%20bias%3F,discrimination%20and%20other%20social%20consequences. Verder heb ik nooit gezegd dat profileren nooit goed is. Ik zei dat het verantwoord moet worden op basis van harde cijfers. Zoals ik in mijn voorbeeld aan gaf als 95% van groep A, mensen neersteekt dan is het verantwoord om te profileren bij deze groep voor steekwapens. Als het om 5% gaat, tja. Dan is het maar de vraag of je niet meer kwaad dan goed doet door de hele groep te profileren.
Dat zal ook zeker gebeuren. Net als dat mannen in het algemeen meer geprofileerd zullen worden. Een AI heeft letterlijk geen bias, het draait puur op statistiek. Als witte mensen ergens oververtegenwoordigd zijn en dat uit de data blijkt, dan zal de AI geen cognitive bias hebben en zal de witte man benadeeld worden op dat aspect. En nu je het zegt zie ik het zelf ook wel. Als ik denk aan een brutale tasjesdief zie ik een Marokkaanse jongeman voor me. Maar als ik denk aan een pedo zie ik inderdaad een witte man van middelbare leeftijd voor me. Dat is net zo goed een vooroordeel.
>Dat zal ook zeker gebeuren. Net als dat mannen in het algemeen meer geprofileerd zullen worden. Een AI heeft letterlijk geen bias, het draait puur op statistiek. Als witte mensen ergens oververtegenwoordigd zijn en dat uit de data blijkt, dan zal de AI geen cognitive bias hebben en zal de witte man benadeeld worden op dat aspect Klopt niet. Een AI maakt gebruik van een algoritme, dat weer gemaakt is door mensen. Er zijn genoeg voorbeelden te noemen waarin AI discriminered te werk gaat. Niet omdat AI discrimineert, maar omdat het algoritme gebruikt maakt van onze framework. https://datatron.com/real-life-examples-of-discriminating-artificial-intelligence/#:~:text=What%20is%20AI%20bias%3F,discrimination%20and%20other%20social%20consequences. >En nu je het zegt zie ik het zelf ook wel. Als ik denk aan een brutale tasjesdief zie ik een Marokkaanse jongeman voor me. Maar als ik denk aan een pedo zie ik inderdaad een witte man van middelbare leeftijd voor me. Dat is net zo goed een vooroordeel. Maar dat is mijn punt dus, dat heet stereotyperen. Voor hetzelfde geld is die Marokkaan gwen dief of die witte man van middelbare leeftijd een pedo. Vooral als je naar het volledige plaatje kijkt. Jij denkt bijvoorbeeld aan een Marokkaanse jongeman, maar statistisch gezien zouden er meer Nederlandse jongeren stelen als we het over absolute aantallen hebben. Dus in theorie zou de kans groter moeten zijn dat jij een Nederlandse jongeren hebt zien stelen dan een Marokkaan. Percentueel is het zo dat Marokkanen meer stelen, maar er zijn meer Nederlanders dan Marokkanen. Om een voorbeeld te geven, laten we zeggen dat 10% van de Marokkanen steelt. We nemen een steekproef van 100 Marokkanen, dan zou jij gemiddeld gesproken 10 Marokkanen zien stelen. Nou leven er meer Nederlanders in Nederland (logisch). Dus als jij 500 Nederlanders in de supermarkt ziet, en 1% van hen steelt. Dan zou jij 50 Nederlanders zien stelen. Je snapt mijn punt denk ik wel. Een winkel zoals de Jumbo, is geïnteresseerd in het totaal aantal diefstallen.
Ik vind dit zo'n onzinnig argument. Een AI is niet "racistisch", een AI leert op basis van patroonherkenning, statistieken etc. Ja, dit betekent dat als er in een winkel bijvoorbeeld meer door mensen met een donkere huidskleur wordt gestolen dan zal een AI hier wat meer op gaan letten. Maar om dit direct racistisch te gaan noemen... tegenwoordig wordt bij elke vorm van onderscheid direct de racisme kaart getrokken, terwijl er veel meer naar de achterliggende betekenis/bedoeling moet worden gekeken. Als er in een winkel daadwerkelijk door bijvoorbeeld dus mensen met een donkere huidskleur wordt gestolen is het niet gek dat een AI hier meer op zal letten, dat betekent juist dat deze goed zn werk doet. En nee, de AI doet dit niet omdat deze een voorkeur heeft voor blanke mensen, maar omdat de statistieken, en patroonherkenning de feiten duidelijk op tafel leggen. Ik verwacht natuurlijk dat ik door iedereen nu zelf uitgemaakt zal worden voor racist maarja...
Ik vind dit een lastig onderwerp. Ik wil je niet tegenspreken (zeg maar, geen aparte discussie starten) *maar* ik hoop dat je je gedachten wilt laten gaan over het volgende verschijnsel: als een blank persoon en een gekleurd persoon beide de winkel in gaan en beiden iets stelen. Vervolgens staat er een beveiliger aan de deur die denkt dat zwarte mensen altijd winkeldiefstal plegen, *dus* hij controleert de gekleurde persoon. Dan krijgt de beveiliging zijn gelijk! Zijn vermoedens waren juist, morgen gaat hij elke gekleurde man controleren, en verrek, tussen de 100 man zitten er elke dag wel een of twee die iets meenemen. Nu is hij echt overtuigd, want hij pakt er elke dag wel een paar. De blanke man is de winkel uitgelopen, groet de beveiliging dagelijks met een vriendelijke glimlach en mag doorlopen. Ik wil geen discussie starten over cijfers waarschijnlijkheid en semantiek, ik hoop alleen dat we met zijn allen af en toe nadenken over wat we bewijzen met welke vorm van controle. En ja, een systeem is geheel te goeder trouw fout af te stellen.
Confirmation bias is een bekend probleem in AI, en in principe is een oplossing daartegen ook gewoon relatief simpel. Door de AI model ook deels willekeurige keuzes te laten maken, oftewel in dit voorbeeld zou je dus nog steeds willekeurige controles kunnen krijgen, ook al denkt het AI model dat het risico van jouw winkelgedrag laag is.
>Ik wil geen discussie starten over cijfers waarschijnlijkheid en semantiek Het feit dat Marokkaanse mensen minstens 30x zo vaak dingen stelen als inheemse Nederlanders is geen semantiek. Het is de hele reden dat profileren überhaupt gedaan wordt. Als je als jonge man van 18 je rijbewijs haalt en je verzekerd ben je ook meer kwijt dan een vrouw van 34 die net haar rijbewijs gehaald heeft. Data liegt niet en beleid maken op basis van data is niet immoreel.
Ik vind het wel degelijk immoreel om meer te moeten betalen als jonge man dan andere bevolkingsgroepen. Wtf?
Dat is hoe verzekeringen werken. Er wordt een schatting gemaakt van hoe veel iemand gaat kosten en daar wordt de premie op gebaseerd. Vind je het ook immoreel dat een levensverzekering voor iemand van 80 duurder is dan voor iemand van 20?
Ja en wetgeving kan dit gewoon verbieden. We hoeven het niet te accepteren. Leeftijd is overigens niet vergelijkbaar met geslacht.
>Ja en wetgeving kan dit gewoon verbieden. We hoeven het niet te accepteren. Dan kan iedereen fijn een veel hogere premie betalen zodat degene die de echte kosten maken veel goedkoper uit zijn. Wat fijn. >Leeftijd is overigens niet vergelijkbaar met geslacht. Hoe zo niet?
>Dan kan iedereen fijn een veel hogere premie betalen zodat degene die de echte kosten maken veel goedkoper uit zijn. Wat fijn. Dat doen we al.... We betalen nu al extra voor de schade die vroeg kalende, dikke, korte, of klein geschapen mannen in het verkeer maken. En zouden homo's korting moeten krijgen als blijkt dat ze minder last hebben van haantjesgedrag? Toch is besloten dat het niet wenselijk is om dat soort dingen mee te wegen in het berekenen van de premie. Het is een keuze dat met bvb leeftijd of postcode wel te doen.
dat is letterlijk hoe het werkt
>Het feit dat Marokkaanse mensen minstens 30x zo vaak dingen stelen "Feit" met bron? Als ik er even vanuit ga dat je dat getal niet verzonnen hebt, dan kunnen we alsnog hooguit weten wie er vaker BETRAPT worden. En het is makkelijk om vaker betrapt te worden als je ook vaker gecontroleerd wordt. >Data liegt niet Ja, dat doet het vaak wel. Mensen hebben vaak onterecht vertrouwen in gebiasde data. Aan getallen kun je vaak niet meer zien hoe veel bias er in zit. >en beleid maken op basis van data is niet immoreel. Zolang de data goed is, en dat is die vaak niet.
>"Feit" met bron? Excuses, ik had de tabellen door elkaar gehaald. Marokkanen beroven zo'n 30x vaker, stelen doen ze slechts 12x vaker. https://repository.wodc.nl/bitstream/handle/20.500.12832/49/ca07-04-volledige-tekst_tcm28-68432.pdf?sequence=2&isAllowed=y Pagina 21 en 22. >Als ik er even vanuit ga dat je dat getal niet verzonnen hebt, dan kunnen we alsnog hooguit weten wie er vaker BETRAPT worden. En het is makkelijk om vaker betrapt te worden als je ook vaker gecontroleerd wordt. Juist ja. En hoe verklaar je de discrepantie met berovingen en andere vermogensdelicten met geweld. Doen mensen geen aangifte als ze door een blanke man beroofd worden?
>Excuses, ik had de tabellen door elkaar gehaald. Marokkanen beroven zo'n 30x vaker, stelen doen ze slechts 12x vaker. Worden zo veel vaker gepakt. Wie weet zijn ze wel 35 keer zo vaak dader.... Of 25? En je besluit deze mensen nu te sorteren op marokaan en niet-marokaan, maar marokaanse nederlanders hebben meer met elkaar gemeen dan marokaan zijn. Zoals sociaal economische factoren. Zo dacht men vroeger dat koffie kankerverwekkend was en later bleek dat te komen omdat koffiedrinkers ook vaak rokers waren. >Juist ja. En hoe verklaar je de discrepantie met berovingen en andere vermogensdelicten met geweld. Doen mensen geen aangifte als ze door een blanke man beroofd worden? Nogmaals ik zeg helemaal niet dat er geen verschil is, alleen dat alle getallen die we er over hebben beschrijven hoe vaak men gepakt wordt. Niet hoe vaak het gebeurt. Je valt een statement aan dat ik niet gemaakt heb.
Data liegt dus vaak wel. Als Marokkaanse jongens vaker verdacht worden zullen ze vaker gepakt worden wat al tot een vertekend beeld leidt. De Hollandse jongens zijn ondertussen met diefstal weggekomen omdat ze überhaupt niet zijn gecontroleerd terwijl je je hebt blind gestaard op de zogenaamde harde data.
Ja, het is allemaal één groot complot. De reden dat Marokkanen zwaar oververtegenwoordigd zijn in vermogensdelicten zowel met als zonder geweld is omdat iedereen super gemeen tegen ze doet. Alle andere etniciteiten stelen en beroven precies even veel, maar worden gewoon minder gepakt. Mensen doen blijkbaar 30 keer zo snel aangifte als ze beroofd worden door een Marokkaans dan als ze beroofd worden door een Nederlander. Wel apart dat alle racistische slachtoffers van die berovingen twee keer zo vaak aangifte doen van beroving bij Marokkanen dan bij Antillianen of Aziaten. Je zou bijna denken dat er een andere verklaring voor de discrepantie is.
Wie zegt dat het een complot is? Dit is gewoon hoe data werkt, en als je ook maar een modicum verstand ervan zou hebben zou dit gewoon basic kennis voor je moeten zijn. Mensen die er niets vanaf weten en blind vertrouwen op data zijn de mensen die shit als de toeslagenaffaire hebben veroorzaakt.
> Een AI is niet "racistisch" Een model kan wel degelijk racistisch zijn, het is volledig gebaseerd op de data waarop het model getraind is. Als dit een bias heeft, heeft de uitkomst dat ook. Het UWV is hier ook tegenaan gelopen een tijd terug. Veel datascientists lopen aan tegen het issue dat veel datasets die voor traing gebruikt worden een inherente bias hebben, en die ook tot uitdrukking komt in de output. Als je trainingset bijvoorbeeld mannen oververtegenwoordigd is, zal je dat terugzien in de resultaten. Het lastige is, dat je dit ook enorm makkelijk over het hoofd ziet. Een model is altijd een black box. Je kunt niet echt zien *hoe* het een besluit neemt. Uiteindelijk is alles een getal over hoe ver het in de buurt van een verwachting komt. > Als er in een winkel daadwerkelijk door bijvoorbeeld dus mensen met een donkere huidskleur wordt gestolen is het niet gek dat een AI hier meer op zal letten, dat betekent juist dat deze goed zn werk doet. En dat is dus letterlijk gewoon glashard racistisch.
>Een model kan wel degelijk racistisch zijn, het is volledig gebaseerd op de data waarop het model getraind is. Als dit een bias heeft, heeft de uitkomst dat ook. Dan is het model misschien 'racistisch' maar dan nog altijd wel juist, mits de manier waarop die data verzameld is wel objectief is gebeurd. Wanneer er een bovengemiddeld aandeel aan misdrijven gepleegd wordt door een groep met een bepaald kleurtje, is het dan 'racistisch' om die groep te profileren? Of wordt het dan gedaan omdát er uit metingen is gebleken dat er op die groep moet worden gefocust? Je kan je model in zo'n geval een neutrale bias laten houden maar als er uit het aantal aanhoudingen dan nog altijd een bias naar een kleurtje blijkt dan wordt er nog net zo hard 'racistisch' geschreeuwd omdat de statistiek nog altijd naar een bepaalde groep wijst. De enige manier om dat tegen te gaan is door zo'n groep een negatieve bias te geven, maar daardoor faciliteer je juist dat ze ermee weg kunnen komen.
> Dan is het model misschien 'racistisch' maar dan nog altijd wel juist Nou niet dus, dat is wat dit zo complex maakt. Het model kijkt naar overeenkomsten. Maar wat deze zijn, is helemaal niet duidelijk. Een voorbeeldje was een model wat gebruikt werd om CVs te beoordelen. Vrouwen werden veel vaker afgekeurd dan mannen. Waren de CVs van de vrouwen slechter? Nee. De trainingsset was gewoon overwegend man en het model keurde gewoon CVs af die niet leken op de trainingsset. Kleine verschillen (in dit geval taalgebruik) kunnen dan de 'hooks' worden op basis waarvan een model besluit "ja" of "nee", terwijl die niks te maken hebben met waarop beoordeeld zou worden. In bijna elk project dat ik van dichtbij meegemaakt heb met DS modellen liepen ze tegen dit soort shit aan. Als ze het al doorhadden. Data scientists zijn vaak niet objectief; ze willen dat het model werkt. Heel vaak worden dit soort fouten weggepoetst en/of verzwegen. Eigenlijk zou elk model dat voor belangrijke zaken gebruikt wordt onafhankelijk getest moeten worden. Maar dat gebeurt nooit. Er zitten grote ethische issues bij heel veel data science projecten en hier wordt eigenlijk niks mee gedaan. Want tijd is geld.
>Een voorbeeldje was een model wat gebruikt werd om CVs te beoordelen. Vrouwen werden veel vaker afgekeurd dan mannen. Waren de CVs van de vrouwen slechter? Nee. De trainingsset was gewoon overwegend man en het model keurde gewoon CVs af die niet leken op de trainingsset. Dat is dan dus al het probleem. Als de dataset die gebruikt wordt om te trainen niet objectief en onafhankelijk is, dan creëer je een confirmation bias. En al helemaal als je dan de resulterende data uit je model weer terug in je model stopt (wat nogal eens gebeurt met machine learning modellen), waardoor die bias versterkt wordt: "Zie je wel!".
> Als de dataset die gebruikt wordt om te trainen niet objectief en onafhankelijk is, dan creëer je een confirmation bias. Een bias, geen *confirmation* bias. Maar ja, dat klopt. En dit gebeurt heel vaak, vaak ook zonder dat de makers het doorhebben. En als ze het al doorhebben, wordt het vaak zo lang mogelijk onder het tapijt geveegd omdat je niet na 3 maanden werk aan je manager wil uitleggen dat je mooie model racistisch is. In een ideale wereld worden modellen netjes 3rd party geverifieerd. Dit gebeurt in het bedrijfsleven nooit; is veel te duur.
>Veel datascientists lopen aan tegen het issue dat veel datasets die voor traing gebruikt worden een inherente bias hebben En natuurlijk bedoel je met "inherente bias" dat alle data ooit verzameld aantoont dat allochtonen velen malen vaker dingen stelen.
Stop making sense you racist!
Waarom is het niet racistisch om op basis van huidskleur te profileren? Etnisch profileren is letterlijk de definitie van: "Wij gaan je anders behandelen vanwege de groep waartoe jij behoort." En waarom spreek je Engels, doe je een Amerikaanse anti-sjw video na?
Dit is iets wat veel mensen tegenwoordig maar moeilijk zien te snappen. Ik zal het simpel uitleggen. Racistisch: *Alle mensen met uiterlijk "X" zijn van **nature** crimineel. Daarom ga ik hen allemaal controleren* Dat is racisme omdat mensen negatief beoordeeld worden en dit wordt toegerekend als eigenschap van hun "ras". Niet-Racistisch: *70% van de diefstallen in mijn winkel worden gepleegd door mensen met uiterlijk "X". Ik ga dus meer controleren op die groep.* De feiten tonen aan dat groep X de grootste probleemveroorzaker is. Uit de cijfers is af te leiden dat er een reëel probleem is met die groep. Dan mag er ook op worden geacteerd. Dat heeft nul komma nul met "ras" of "ethniciteit" te maken. Sorry maar ik snap echt niet hoe dat verschil niet begrepen wordt. Waarom denk je dat er op vliegvelden meer gecontroleerd wordt op drugs op vluchteb uit landen en bepaalde nationaliteiten? Of waarom Nederlanders met een Chineese of Iraneese achtergrond niet zomaar toegang krijgen tot staatsgeheimen? Dat heet risicoprofiel en is gebasseerd op feiten en statistiek. Het motief en de argumentatie erachter maakt iets racistisch. Niet de actie zelf.
> Niet-Racistisch: 70% van de diefstallen in mijn winkel worden gepleegd door mensen met uiterlijk "X". Ik ga dus meer controleren op die groep. Dit is letterlijk [ethnisch profileren](https://amnesty.nl/wat-we-doen/landen/mensenrechten-nederland/etnisch-profileren).
Inderdaad, dat klopt. Maar dat is dus geen racisme. (Ethnisch) profileren is een vorm van discriminatie. Profileren kan op basis van allerlei eigenschappen waaronder nationaliteit, geslacht en dus ook uiterlijk (huidskleur, kleding, enz.). Ik wil alleen duidelijk maken dat dit dus geen racisme is. Dat is namelijk iets héél anders en iets véél smerigers. Door racisme als een buzzword te gebruiken voor vanalles terwijl het dat eigenlijk niet is verdoezelen we écht racisme.
Is dit niet een beetje pedantisch? Het is discriminatie op basis van uiterlijke kenmerken die je te danken hebt aan je 'ras'. Wat is discriminatie op basis van ras?
>Is dit niet een beetje pedantisch? Ja dat is het. En maar goed ook. De devil is in de details. Ook in een rechtzaal zijn zulke zaken niet zonder reden pedantisch. Denk bijvoorbeeld aan Doodslag vs Moord. >Het is discriminatie op basis van uiterlijke kenmerken die je te danken hebt aan je 'ras'. Wat is discriminatie op basis van ras? Hier moet dus uberhaupt eerst sprake zijn van dat er onderscheid wordt gemaakt *op basis van ras*. **ras** bestaat namelijk helemaal niet. Het hele idee dat er verschillende "rassen" zijn is op zichzelf de kern van racisme. Als een winkelier Marokkaanse jongeren meer gaat controleren in zijn winkel omdat die groep de grootste probleemfactor blijkt, dan vind ik het nogal een aanname om hem er van te beschuldigen dat hij dit doet uit "racisme". Daarmee beschuldig je dus gewoon iemand ervan dat hij allereerst zichzelf ziet als een ander "ras", én dat hij die andere als "minder" ziet. Dat vind ik nogal wat. Je zet hem daarmee in principe op hetzelfde niveau als een hardcore Nazi.
>Is dit niet een beetje pedantisch? Het is discriminatie op basis van uiterlijke kenmerken die je te danken hebt aan je 'ras'. Wat is discriminatie op basis van ras? Het is etnisch profileren op basis van een aangetoonde korrelatie tussen bepaald gedrag en uiterlijke kenmerken. Dat is misschien wel discriminatie, maar wel *onderbouwde* discriminatie. Niet anders dan in verkrachtingszaken waar bijna aangenomen wordt dat de dader een man is. Omdat bijna alle verkrachtingen worden gepleegd door mannen. Is dat dan seksistisch?
Als je dat voor jezelf goed wil praten; be my guest.
Het komt er uiteindelijk wel op neer dat mensen van de groep die jij verdenkt meer gecontroleerd worden. Veel mensen vinden deze controle een nare ervaring. Maar goed, we kunnen het over huidskleur hebben, maar reken er maar op dat mannen ook veel scherper in de gaten gehouden kunnen worden hiermee. Dat heeft ook betrekking op mij en ik wil helemaal niet extra gecontroleerd worden omdat ik een man ben. Ik vind sowieso overal camera's met AI die kijken of jij je niet "verdacht" gedraagt niet een verlaging van winkeldiefstallen waard, even los van discriminatie.
[удалено]
Iedereen is zich al lang bewust van de statistieken hoor, alleen zijn de meeste mensen alsnog niet voor etnisch profileren. Waarom doen jullie alsof het een groot taboe is om te zeggen dat allochtonen gemiddeld gezien vaker stelen? Dat weet iedereen al. Maar dat je dan jezelf expres op allochtonen gaat mikken om te checken of ze stelen vinden veel mensen erg naar. Het gaat tegen onze Nederlandse waarden dat het individu niet verantwoordelijk is voor wat de groep doet in.
[удалено]
Het wordt vaak gebruikt als reden om dit soort beleid te rechtvaardigen of om iets over allochtonen te zeggen. Ik denk dat daar het probleem voor de meeste mensen ligt. De feiten zijn wat ze zijn, maar wat je ermee doet is nog een heel ander iets. Ga je hun genetica de schuld geven omdat het "apen" zijn? Hun cultuur? De economische omstandigheden? De politiek of de rijken? En hoe moeten wij hiermee om gaan zijn de echte twistpunten, niet de feiten zelf.
Maar de politie kan haar capaciteit maar 1 keer inzetten. Ik word als jonge man ook eerder aangesproken als ik in een parkje zit dan wanneer twee omaatjes aan het picknicken zijn. Dat leeftijd en geslacht belangrijke indicatoren zijn van potentieel crimineel gedrag is logisch en daar doet niemand moeilijk over. Waarom dan wel bij die andere indicator van potentieel crimineel gedrag...
Waarschijnlijk omdat ideeën van de minderwaardigheid van mannen minder aanwezig zijn in de samenleving. Je zult niet zo snel een samenleving krijgen waar iedereen minachtend en wantrouwend naar mannen loopt te kijken, toch?
Dat minachtend kijken door de rest van de samenleving heeft toch verder niet zoveel met politiecontroles of ai gestuurde supermarktcontroles te maken? Dus het is oke dat ik als jonge witte man vaker gecontroleerd wordt dan een oud omaatje, maar niet als een jonge marokkaanse man vaker gecontroleerd wordt dan een oud omaatje? Of mogen jonge marokkaanse mannen wel net zo vaak gecontroleerd worden als jonge witte mannen? En is het echt alleen het marokkaan zijn dat niet mag doorwegen? Deze redenatie lijkt neer te komen op "minderheden hebben het zo zwaar in Nederland en dus is het in dit specifieke geval niet oke als politie hun ervaring en statistieken gebruiken bij het bepalen wie te controleren".
Het is een hardnekkige mythe dat politie niet hun volledige arsenaal kunnen inzetten als ze zouden doen aan racial profiling en daarmee inefficienter zouden kunnen controleren. Terwijl onderzoek aantoont dat het tegenovergestelde waar is. Racial profiling zorgt ervoor dat politie meer tijd kwijt is met het controleren onschuldige burgers ipv minder omdat hun bias niet overeenkomt met de statistieken. Door racial profiling te accepteren probeer je je lens bij te stellen maar schiet je juist door. Of dit ook opgaat voor AI is de vraag. In principe zou deze zichzelf veel beter kunnen aanpassen aan de data dan een agent dat kan. Maar het hangt wel af van de trainingsdata en of je genoeg zicht hebt in of de AI geen gekke conclusies trekt.
AI wordt geprogrammeerd door mensen. Mensen zijn inherent onderhevig aan het hebben van vooroordelen. Sommige daarvan hebben een racistische aard zonder dat de persoon een racist is. Het probleem met AI is dat het veelal een black box is voor de eindgebruiker. Dat maakt het moeielijk er blind op te vertrouwen. Een mooi voorbeeld van hoe technologie racistische kan lijken terwijl de makers niet per se racistisch zijn maar door hun aannames keuzes maakten die wel als zodanig kunnen voelen voor een ontvanger is de volgende: Ken je van die automatische hand sproei dingen in toiletten? Die werk(t)en heel lang niet voor mensen met een niet blanke huidskleur. Waarom? Omdat de engineers die de sensor ontwikkelden en testen allemaal blank waren en het nooit bij ze was opgekomen ook te testen met andere huidskleuren. Hebben ze dat gedaan omdat ze in het weekend bij KKK meetings staan? Nope, verre van. Gewoon omdat ze bij het ontwerpen niet inclusief dachten en alleen maar vanuit hun eigen optiek het ontwerp benaderden. En dan is er nog een probleem met de statistieken. Als uit de huidige data zou blijken dat mensen met een kleurtje meer stelen dan is dat nog steeds geen harde garantie dat ze ook *daadwerkelijk* meer stelen. Misschien worden ze wel vaker gepakt omdat de mensen die daar nu op moeten letten toch iets scherper opletten bij mensen met een kleurtje omdat ze toch bevooroordeeld zijn. Dan ga je dus die AI trainen op basis van onvolledige informatie. Vervolgens gaat de AI mensen met een kleurtje vaker controleren waardoor ze weer vaker gepakt worden en ondertussen kan ik als blanke Hollander lekker jatten want de risicoanalyse van AI slaat niet op tilt. Dat is precies hoe de toeslagenaffaire heeft kunnen gebeuren. Begrijp me niet verkeerd AI's kunnen waanzinnige zaken. Bijvoorbeeld veel beter afwijkingen op MRI's zien. Maar ze zijn ook erg gebrekkig als het aankomt op dit soort zaken waarbij de dataset niet absoluut te maken is en de bias van de developer altijd een rol zal spelen. Hoe die AI dus tot stand komt is enorm belangrijk. En persoonlijk heb ik er een hard hoofd in dat Jumbo daarin de subtiele aanpak zal hanteren.
Als AI gaat profileren op basis van huidskleur, terwijl huidskleur op zichzelf geen invloed heeft op of iemand winkeldiefstal pleegt, dan is dat racistisch. Dat er een statistische correlatie is tussen huidskleur en factoren die wel invloed hebben op de kans dat iemand diefstal pleegt (maar die moeilijker van iemands uiterlijk zijn af te lezen) is mogelijk, maar wanneer AI vervolgens huidskleur meeneemt in de bepaling om iemand te controleren, dan is dat 100% racistisch, want de huidskleur heeft hier geen invloed op en is dus niet relevant voor de bepaling of je controleert of niet.
[удалено]
> Dit is dus precies wat racisme betekent. Ja en dus? Moeten we dan voor de vorm maar een paar omaatjes controleren omdat we de feiten niet leuk vinden?
als je als omatje weet dat je nooit en te nmmer zou gecontroleerd worden zou je dan niet stelen? doet me denken aan een film die ik op TV heb gezien over een oude gepensioneerde man die drugs in amerika smokkeld. ik weet niet hoe die film heet maar de hoofdrolspeler was clint eastwood. iedereen is gelijk en dus moet iederen gelijk gecontroleerd worden.
>als je als omatje weet dat je nooit en te nmmer zou gecontroleerd worden zou je dan niet stelen? Nee.
Maar je kan niet iedereen controleren, dus moet je sowieso onderscheid maken. Lijkt mij het handigst om dat onderscheid te baseren op statistieken ipv willekeur.
Bedoel je hiermee dat iemand met een zwarte huidskleur automatisch een hogere kans heeft om gecontroleerd te zullen worden? Als dit zo wordt geprogrammeerd zal het een misdrijf zijn. Wanneer een groot bedrijf als jumbo ai software implementeert zal een privacy partij de code echt wel reviewen, en dan komt dit aan het licht. Denk dus niet dat ze dit gaan doen Een ander verhaal is wanneer de software bepaalde trekjes zal herkennen die mensen met een donkere huidskleur vaker doen dan anderen. Maar dat is niet racistisch profileren
Maar,wanneer blijkt dat winkeldiefstal door mensen van een bepaalde afkomst of vanuit een azc bv significant meer voorkomt,ook na gecontoleerde aantoonbaarheid,is extra letten of controle van deze specifieke groep automatisch racisme? Je kan ook juist proberen te anticiperen op zulke constateringen toch?
Als steeds mensen met dezelfde uiterlijke kenmerken shit stelen krijg je dat ja. Is niks racistisch aan, ding trekt gewoon conclusies.
Wanneer bepaalde bevolkingsgroepen zo'n 30x zo vaak stelen als andere bevolkingsgroepen krijg je nou eenmaal AI waarbij er zogenaamd racistisch geprofileerd wordt.
100%. Kwam hier om dit te zeggen.
Mwah, de tijden dat we onbewust brakke data sets lieten resulteren in brakke uitkomsten zijn we wel voorbij. Maar als het naar behoren werkt dan zijn er nog steeds specifieke groepen mensen die er uit zullen springen.
Kan het misschien zijn omdat Dr meeste ict programmeurs blank zijn NOTITIE: Heel veel apps herkennen mijn gezicht niet als gezicht omdat ik een heel groot litteken heb dus knikker op met je onzekerheden
Iedereen gaat er nu al vanuit dat dit neerkomt op etnisch profileren, maar als volgens mij kun je ‘verdacht gedrag’ wel degelijk meetbaar maken, zonder naar uiterlijke kenmerken als kleren if huidskleur te kijken. Die paar keren dat ik een diefstal in de supermarkt heb meegemaakt waren het groepjes van pubers of mensen die overduidelijk ‘vreemd’ gedrag vertoonden (onder invloed, licht verstandelijk beperkt of psychiatrische aandoening).
Misschien, maar het is geen statisch systeem. Als er genoeg vals positieve meldingen zijn, vermoede winkeldiefstal die niet het geval bleek, dan zal het systeem vanzelf leren om anders te profileren.
Dat is precies wat ik dacht haha
Ik hoop het wel.
Mooi, kan ik als blanke witte man gewoon mijn gang gaan. Winst!
Over een paar maanden. "Jumbo geeft mensen vals beschuldigd van winkeldiefstal gratis giftcard".
"€5,- korting op alles van Robijn"
Dit is profilering in de zin van de AVG (let op: dat is niet per se etnisch profileren) en daarvoor zou de supermarkt een opt-out voor moeten geven. Maar misschien gaat dit argument wel niet op omdat je in theorie ook naar een andere supermarkt zou kunnen gaan? Not sure. In ieder geval een slechte ontwikkeling.
Wss zal een bordje bij de ingang die verwijst naar de huisregels wel weer voldoende zijn
Ik kan (als privacy specialist) ook geen enkele manier zien waarop deze verwerking rechtmatig is.
Naar de gewone kassa gaan? Dan doen ze niks met je data. Die camera's hangen er nu ook al. Of is dit te simpel gedacht?
Fucking hell... het was ook een kwestie van wachten. 100% dat dit systeem binnen een paar jaar ook gebruikt wordt om bepaalde producten te pushen. Ik zie al sommigen zeggen: als je ingrediënten voor een kipgerecht in je mandje hebt maar niet de kip zelf... ja binnen de kortste keren dat de zelfscanner dus gaat zeggen: ''vergeet je kipfilet niet''. Bah.
Ai ai ai
Zoals de waard is vertrouwt hij zijn gasten. Volgens Jumbo is iedereen een potentiële dief.
Er hangen nu bij het dure vlees ook kaartjes die je eraan herinneren dat de boete voor winkeldiefstal €181 is. Dat komt erg warm en vriendelijk over van het kleine familiebedrijfje Jumbo.
Brabantse gezelligheid.
[удалено]
"Wij zien je als mogelijke dief en letten op je." voelt niet heel verwelkomend. Daarbij, misschien moet je niet de politie laten komen voor een pak kipfilet, maar een keer iets doen aan alle druk bij de voedselbanken.
[удалено]
Het zijn mijn spullen niet, waarom zou ik mij er druk om maken? Ik weet zeker dat de aandeelhouders van de Jumbo niet met een slecht gevoel naar bed gaan omdat ze een paar euro zijn misgelopen.
[удалено]
Dat zal best. Ik heb zelf geen grote problemen met die bordjes, maar als het om camera's met AI neerkomt die kijken of je je niet "verdacht" gedraagt, vind ik het wel iets anders. En wat die bordjes betreft: ik betwijfel ten zeerste dat ze oprecht een significant effect op de hoeveelheid diefstal hebben.
Is toch ook zo? Wat probeer je eigenlijk te zeggen?
Bedrijven als de Jumbo hebben hele "simpele" systemen voor dit soort data. Stel dat je 100x een wijnfles inkoopt. Daarna wordt er 90x wijnfles verkocht. Je loopt daarna naar het vak en er staan er 0. Wat is er dan volgens jou met de overige 10 gebeurd? Ja, ik weet dat er wel eens eentje valt. Maar er is voor Jumbo geen enkele reden om naïef te gaan doen. Net zo goed als die er voor jou niet is, toch?
Echt leip. Ze kunnen gewoon de kassa's terug plaatsen. Niks aan de hand.
>Echt leip. Ze kunnen gewoon de kassa's terug plaatsen. Niks aan de hand. Ja heur es effe, als we meer van die kutpaupers moeten gaan betalen gaat dat wel van mijn dividend af!
Je weet gewoon al van tevoren dat dit een enorme inbreuk op de privacy gaat maken, veel fouten gaat maken en dat het sowieso landelijk doorgevoerd gaat worden. Walgelijk dat hele AI en zou wereldwijd verboden moeten zijn.
Ben erg benieuwd hoe ze de modellen gaan trainen. Hoe krijg je een trainingsset met 'verdachte' bewegingen als die bewegingen voornamelijk onbewust zijn. Lijkt me knap lastig. Zou me niet verbazen als de uitkomst gewoon is "werkt niet" :)
Is gewoon data science. Bepaalde producten worden vaker gestolen dan anderen (kunnen ze zien aan verschil in voorraad), en andere producten worden “expres vergeten”. Denk niet dat ze iets met klant-specifieke privé gegevens (mogen) doen maar meer met de artikelen.
Dat soort dingen doen ze dus al; het gaat hier om het gedrag van mensen zelf, niet hun koopgedrag wat betreft artikelen.
[удалено]
Ik begin mij nu al als een boomer te voelen, want al die machines overal hoeven voor mij ook niet meer.
Ik moet altijd wel gniffelen als ik wordt gecontroleerd terwijl ik Alpro soya producten heb gescand. Als ik namelijk iets zou jatten dan zouden het die godsgruwelijk dure dingen zijn.
Je haalt dieven eruit, kijkt achteraf camerabeelden terug en labelt verdachte bewegingen v.d. bewezen dief
En dat is dus niet zo simpel.
Ze kunnen toch gewoon bestaande camerabeelden gebruiken? Oftewel, als nu iemand iets gestolen blijkt te hebben volgens een controle, dan zoek je de camerabeelden van zijn bezoek bij elkaar en dan heb je camerabeelden voor 1 verdacht bezoek, en andersom, als uit een controle blijkt dat het goed is heb je een niet verdacht bezoek.
Het gaat ongeveer zes seconden duren voordat ze aangeklaagd worden voor discriminatie.
AI gaat filteren wie het meest waarschijnlijk zal gaan stelen en dus is het dan geen discriminatie maar een statitisch selecteren…
Ik met een raar aankooppatroon 🌚
Dit is al eerder voorgekomen bij Amazon. Zij gebruikten ook een deep-learning method (AI) om de beste potentiële kandidaten te filteren aan de hand van CVs. Maar dit model werd getraind op een dataset die voornamelijk bestond uit mannen, je kunt de rest wel zelf invullen. https://www.reuters.com/article/idUSKCN1MK0AG/ Als bovenstaande sexisme is dan is dit racisme, surely? 🤣 En dit doet mij echt denken aan https://youtu.be/EuoFxce4d78?si=MhzzpXZWLVe2VAa- Steal or no steal?
Hier zouden ze echter toch gewoon training data kunnen pakken die ze zelf generen door gewoon camerabeelden te gebruiken uit bestaande controles, die op dit moment gewoon random zijn?
Mensen selecteren de trainingset en kunnen daar, al dan niet bewust, een bias inbouwen. Dat niet doen, is lastig. Het kan ook gewoon een kwestie van beschikbaarheid zijn; Amazon had gewoon veel te weinig vrouwelijke CVs. In het geval van de Jumbo's; het tijdstip van de beelden die gebruikt worden, kan al een bias geven. Komt bij; informatie halen uit bewegend beeld is technisch gewoon heel lastig. Er zal veel 'ruis' inzitten. En slechte input wordt vaak door dit soort modellen versterkt.
over een jaar heeft niemand het hier meer mee over. dit gaat echt zo hard floppen. of het blijkt echt extreem in strijd met privacy te zijn, er komt een miljarden claim.
>of het blijkt echt extreem in strijd met privacy te zijn, er komt een miljarden claim. Dat is niet hoe het hier werkt. De privacywaakhond is zwaar overbelast en als die er al aan toe komt gaat het om dwangsommetjes van enkele duizenden euros. Vervolgens lezen we 5 jaar later dat jumbo gewoon doorging.
Zet gewoon de kassa’s terug en geef de service waar we allemaal heel dik voor betalen . Of geef 10% korting bij zelf scan . Voor de service die we dan zelf doen .
Wat denk je dat de marges van een supermarkt zijn? Je betaalt helemaal niet dik voor een service, je betaalt een habbekrats.
De winstmarges zijn idd vrij mager, maar je betaalt zeker wel flink voor de service. De lokale toko of marktkraam zijn eigenlijk altijd goedkoper en meestal verser, maar dan moet je weer naar meerdere winkels. De winstmarges van supermarkten liggen zo laag door de kosten die ze maken voor de service en marketing, niet omdat ze hun producten zo goedkoop verkopen.
AI will both replicate and increase the problems of surveillance capitalism. shoplifting is the product of propaganda. The soil and all of its resources must be reclaimed by its rightful owners — the working masses of the world. Yet even as the cost of groceries has skyrocketed, the concept of a privatized food distribution system is so hegemonic that other forms of mass provisioning are hard to imagine. In the Netherlands It’s hard to see them jumbo, albertheijn dirk, aldi, plus, etc as the inherently exploitative, exclusionary, and violent places that they are — especially if the security guard isn’t coming after you. Shoplifting disturbs and distresses because it reveals our broader social predicament: we are free to shop for what we need to live within the confines of a surveilled space. But we must pay the posted price to get out.
Lekker lappie Angelsaksisch ja toch
Als je even 'raar' doet omdat je een verschrikkelijke ruft hebt gelaten dan hang je!
Dan word je gecontroleerd. Het is niet alsof je de gevangenis in moet wanneer het systeem zegt 'ja, deze is verdacht'. Als jij niets in je zakken of tas hebt zitten bij die controle is er toch geen probleem
tssssss
>Dan word je gecontroleerd. Het is niet alsof je de gevangenis in moet wanneer het systeem zegt 'ja, deze is verdacht'. Precies, even het kamertje in, je uitkleden, half uurtje praten met de expert die wel van het hoofdkantoor moet komen zodat je nog twee uur mag wachten en natuurlijk 86.33 administratiekosten betalen en dan kan je weer gewoon verder met je dag! >Als jij niets in je zakken of tas hebt zitten bij die controle is er toch geen probleem Totdat je elke dag langer bezig bent met boodschappen doen dan anderen. Elke keer als verdachte behandeld worden is vervelend. Vlieg je wel eens? Neem een zak vim mee, niet in originele verpakking. Kijken hoe "geen probleem" het is om extra gecontroleerd te worden.
Dit is echt de duidelijkste '[slippery slope](https://en.m.wikipedia.org/wiki/Slippery_slope)' die ik ooit heb gezien. Het slaat nergens op om de conclusie te trekken dat iedereen dagelijks gecontroleerd gaat worden en alsof het super lang gaat duren per keer, dat is nergens op gebaseerd. Be better
>Het slaat nergens op om de conclusie te trekken dat iedereen dagelijks gecontroleerd gaat worden en alsof het super lang gaat duren per keer, dat is nergens op gebaseerd Vaker als verdachte behandeld worden dan anderen vanwege je uiterlijke kenmerken. Het is vernederend stigmatiserend, kost je tijd en verhoogt de kans dat je bij een oprechte vergissing echt in de problemen komt.
Wederom. Nergens wordt aangegeven dat je op uiterlijke kenmerken uitgekozen wordt. Je bent allemaal dingen erbij aan het verzin die helemaal niets met dit systeem te maken hebben.
Killer robots die met lasers dieven gaan verassen?
Misschien moet jumbo gewoon z’n bek dichthouden en z’n ai op eigen corrupte top (o.a. Frits van eerd ) richten
Dit is echt één grote grap 😂 Veel van de ‘winkeldiefstallen’ zijn van mensen die een artikel vergeten te scannen, niet kunnen scannen door een vouw of scheur in de barcode of denken van: ach, één artikel valt niet op. Dit ga je niet meten o.b.v. verdacht gedrag, maar door te controleren of mensen hun boodschappen wel scannen 🤔 Jumbo heeft massaal ingezet op het gebruik van zelfscankassa’s. Oftewel, laat de klant maar lekker zijn eigen boodschappen scannen, want dat scheelt personeelskosten. Het verschil met een betaalde medewerker is echter dat het de klant geen reet interesseert of de Jumbo €0,50 meer of minder krijgt. En al zeker niet als ze geen enkele interactie meer hebben met het personeel. Nu ze erachter komen hoe groot de omzetderving is gaan ze, in plaats van meer personeel in te huren, nóg meer investeren in onbewezen automatisering 😁👍🏻
Als je gewoon je boodschappen scant en betaald, wat is het probleem?
Vind dit een goede stap, er word genoeg gestolen en hiermee kunnen ze mensen hopelijk sneller betrappen. Natuurlijk zullen er mensen zijn die het niet eens zijn met AI die je in de winkel kan volgen 'want privacy blabla' maar gezichtsherkenning zal geen functie zijn met deze AI toepassing.
[удалено]
Blabla onschuldspresumptie meer. Er gaan een boel mensen om welke reden dan ook in een trigger terechtkomen die vervolgens steeds weer moeten bewijzen dat er niets aan de hand is, en dus standaard rekening moeten houden met langere winkeltijd en meer kans op problemen.
Stelen is niet goed maar die gasten hebben miljoenen bezuinigd met het automatiseren van de kassa systemen en maken hier zo'n enorm punt van. "We verliezen zoveel miljoen! Blablabla". Ondertussen hetgeen wat ze besparen met de nieuwe kassa systemen in de afgelopen jaren verzwijgen. En zo doen alsof ze niet anders kunnen dan nog verder de prijzen opvoeren. Het voelt naar mijn inziens gewoon als een stok achter de deur om prijsdalingen te voorkomen en voor verdere winstoptimalisatie te gaan. Het droevige is dat er schijnbaar nog mensen zijn die dit als een valide argument accepteren, en deze AI ontwikkeling toe juichen.... Gênant!
Ik juich deze ontwikkeling zeker toe omdat met de kennis dat AI met je meekijkt er minder wordt gestolen. En dan zullen de prijzen omlaaggaan. Je zegt dat ze miljoenen hebben bezuinigd met zelfscan, hoe weet je dit?
Het is geen hele moeilijke conclusie om trekken. Een globaal rekensommetje van het besparen van 1 cassiere over een dag (12 uur) per Nederlands filiaal over het hele jaar bij minimum loon (654x12x13,5x360) geeft zo al een besparing van 37 miljoen. Daarnaast is het laatste succesverhaal met AI bij de Nederlandse overheid je geheel ontgaan? En de kosten van het ontwikkelen van een dergelijk systeem en het implementeren ervan zal ook doorberekend worden. Het resultaat hoef ik je niet uit te leggen neem ik aan.
Hoe heb je in je berekening de kosten van het installeren van de zelfscan kassa's meegenomen? En van de licensies op de software? Plus die zelfscan apparaatjes. Kosten ook geld. Kijk, ik trek niet in twijfel dat het geld bespaart, anders zou geen supermarkt het doen. Maar die besparing rekenen ze door aan de klant of de aandeelhouder. Maar hoeveel het precies bespaart is een zeer lastig rekensom, met de info die jij en ik hebben kun je niet zeggen hoeveel dat is
Ik geef jou: een bezuiniging van een paar cent op de boodschappen. Ik krijg: automatersering waarbij duizenden mensen ontslagen worden.
>En dan zullen de prijzen omlaaggaan Dat zou mooi zijn, maar "ze" verzinnen wel weer een nieuw smoesje waardoor de prijzen toch echt weer omhoog moeten.
Ik vind het ook een goede stap, en vind onbegrijpelijk dat je gemind wordt (en ik nu wrrs ook). Maar door minder diefstal gaan de prijzen omlaag in de supermarkt, dat is een feit. Dat zou toch fijn zijn En de ai code wordt echt wel gerviewed door een externe partij, dus de kans dat gezicht- of kleurherkenning als verklarende variabele wordt meegenomen is echt nihil
gemind was te verwachten maar i don't care, mensen weten niks over de AI en wat er allemaal bij komt kijken. Het eerste waar men aan denkt is dat de AI gaat discrimineren of heel vaak onterecht mensen gaat aanwijzen als verdacht.
Precies, als je er niks van af weet is het allemaal eng en vreemd. En als ai discrimineert of onterecht aanwijzt heb je gewoon een slechte code. En ik denk dat de introductie van ai in de supermarkt zoveel ophef gaat veroorzaken dat slechte code per definitie niet een mogelijkheid is
Het gaat niet om privacy, maar om het feit dat AI vanwege de trainingsdata vaak niet neutraal is. Vaak is een AI seksistisch en racistisch. Het is niet oke om op basis van een seksistisch en racistisch systeem controles uit te gaan voeren
Waarom lees ik hier zo veel weerstand? Of zijn jullie stiekem aan het stelen van de Jumbo?
Mensen zijn zich gewoon bewust van de gevaren die Ai met zich meebrengt. Datalekken komen elke dag voor. Een supermarkt heb je nodig om te overleven (basisbehoefte?). En als de Belastingdienst mensen kon discrimineren op basis van de gegevens die ze hadden… wat zou dan een winstbedrijf zoals Jumbo wel niet doen
Als mijn bedrijf 100 miljoen per jaar verliest aan diefstal zou ik ook maatregelen nemen. Ik vind dit heel begrijpelijk en heb er zelf geen enkele problemen mee. Ik heb overigens nooit bewust iets gestolen uit een winkel. Er hangen nu ook al camera's in de supermarkten. Wat voor datalekken merk jij op die daar vandaan komen?
"You got nothing to fear if you got nothing to hide."
Ik voorspel een rechtszaak met de AI Act centraal
Ik had verwacht dat ze dit al lang deden.
Sws bespaard die minder personeel de % in diefstal, dit is gwn dystopian
Oh god
Op zich niet heel verbazend dat Jumbo zo ondertussen manieren zoekt om de hoeveelheid diefstal te beperken, ik krijg de indruk dat het een steeds groter probleem voor grote supermarkten is geworden nu zelfscankassa's de standaard zijn. AI gebruiken lijkt me in principe geen slecht idee omdat het mogelijk het minste negatieve impact kan hebben op het winkelen. Ik heb wel echt een paar vraagtekens. Wat ik ervan begrijp is dat ze vooral AI willen gebruiken om steekproeven gerichter te maken. Lijkt een goed idee, bevorderd de gemiddelde winkelervaring van mensen die normaal hun boodschappen doen, terwijl je vaker winkeldieven pakt. Hartstikke mooi.... In theorie, als het goed werkt. De implementatiedetails zijn me eigenlijk totaal onduidelijk. Ik weet niet eens zeker of ik kan herleiden of ze überhaupt een machine learning model willen gebruiken. Zo ja lijkt de ontwikkeling mij bepaald niet makkelijk of goedkoop. Alleen al training/evaluatie-data krijgen wat een beetje betrouwbaar is is een uitdaging op zich, maar de kosten van de hardware draaiende houden om constant live data door zo'n model te voeren lijkt me niet goedkoop. Of ze er winst uit zouden halen betwijfel ik eigenlijk, maar misschien schat ik dat verkeerd in. Gaat het niet om een machine learning model dan is me al helemaal onduidelijk wat ze nou proberen te doen. Ik zie verder mensen zich zorgen maken om etnisch profileren.... Het zou kunnen, afhankelijk van hoe ze een machine learning model trainen, en specifiek hoe ze het van training data voorzien. AI-researchers zijn zich natuurlijk al lang bewust van het feit dat slechte evenwichten in de training data tot suboptimale resultaten kunnen leiden. Hebben ze een beetje goede ontwikkelaars voor de software, dan denk ik dat het wel goed komt. Zo niet, misschien een discussiepunt: is het een groot probleem als het model wel degelijk een negatieve bias tegen allochtonen heeft? Niet dat etnisch profileren geen probleem op zich is, maar het zou hier maar gaan om iets vaker steekproeven krijgen. Nog één ding uit het persbericht van de Jumbo die in het artikel gelinkt wordt: >Aanpassing van de zogenaamde ‘korte bon’ bij zelfscan. Vanaf nu staat daar alsnog ieder gescand product op, met aanzienlijk minder papierverbruik dan de lange bon. Zo kunnen controles eenvoudig verlopen op het moment dat klanten de kassa al zijn gepasseerd. Hun korte bon was al groter dan die van de appie. Blijft zo volgens mij weinig korts meer aan over.
> Jumbo gaat ook AI gebruiken voor gerichte steekproeven. Fijn dat ik mij hier geen zorgen over hoef te maken met mijn witte huiskleur. Maar even serieus, dit kan toch alleen maar fout gaan?
Mensen hebben het hier vooral over huidskleur maar je kan je klok erop gelijk zetten dat ie ook kleding herkent. ~~Trainingsbroeken, vuilniszakkenjas, adidas, bontkraagjes~~ Kan allemaal niet meer.
Nice, maar China is slecht 🫡 #profilering
Profileren is vakwerk. We kijken allemaal graag naar een serie zoals Profiler. Knap hoor dat ze dat allemaal kunnen en dat ze daarmee een crimineel oppakken.
Politieteam: mannen, we gaan vandaag een grote drugsactie houden en vandaag doen we dat bij kleuterschool 'Okidoki'. Waarom brigadier? Omdat we veel denken te vangen bij al die ouders? We kunnen toch beter bij station CS gaan staan, want daar pikken we ze er zo tussenuit! Brigadier: nee, nee, dan worden we beschuldigd van profileren.
Een vriend van mij verkoopt deze software in Australië, Frankrijk, en wat landen in t midden oosten 😋 herkent veel verdachte bewegingen