{"id":1111,"date":"2021-08-05T19:15:00","date_gmt":"2023-08-01T19:15:16","guid":{"rendered":"https:\/\/www.salesforce.com\/?p=1111"},"modified":"2023-09-12T10:23:54","modified_gmt":"2023-09-12T10:23:54","slug":"ethische-ai","status":"publish","type":"post","link":"https:\/\/www.salesforce.com\/nl\/blog\/ethische-ai\/","title":{"rendered":"Ethische AI kan niet wachten: vier manieren om de gelijkwaardigheid van AI te verbeteren"},"content":{"rendered":"\n

Op dit moment komen belangrijke uitdagingen en kansen samen. In de afgelopen tijd zijn het gedrag en de behoeften van mensen radicaal veranderd<\/a>. Sommige systemen voor kunstmatige intelligentie (AI) kunnen zich hier maar moeilijk aan aanpassen<\/a>. De beweging Black Lives Matter heeft het publiek bewuster gemaakt van historische en ingeslopen vooroordelen in AI-technologie\u00ebn voor predictive policing<\/a> en gezichtsherkenning<\/a>. Hoewel dit inzicht totaal niet nieuw<\/a> is voor onderzoekers en ethici, verschijnen er steeds meer nieuwsberichten in de pers. Daardoor is er meer aandacht voor dit onderwerp. <\/p>\n\n\n\n

Het is lastiger, maar ook belangrijker dan ooit dat AI klopt. Er verandert pas iets als bedrijven zich inzetten om AI op een verantwoordelijke, ethische manier te ontwikkelen en te implementeren.<\/p>\n\n\n\n

Vooroordelen kloppen niet<\/b><\/h2>\n\n\n\n

Voor het succes van bedrijven en het welzijn van de samenleving moet AI accuraat zijn, dus vooroordelen moeten zoveel mogelijk worden ge\u00eblimineerd.<\/p>\n\n\n\n

Laten we eens kijken naar het voorbeeld van een financi\u00eble instelling die probeert om de ‘aflossingscapaciteit’ van een klant te meten voordat een lening wordt goedgekeurd. Stel dat het AI-systeem van deze instelling de aflossingscapaciteit van iemand baseert op gevoelige of beschermde variabelen, zoals etnische afkomst of gender (wat overigens verboden is), of op proxyvariabelen (zoals postcode, die verband kan houden met etnische afkomst). In dat geval bestaat de kans dat een lening wordt toegewezen aan bepaalde mensen die deze niet kunnen afbetalen, en dat een lening wordt geweigerd aan mensen die deze wel kunnen aflossen. Als een systeem meer gewicht toekent aan etnische afkomst dan aan inkomen, kan een zwart gezin met een hoog inkomen worden uitgesloten voor een lening, terwijl een wit gezin met een laag inkomen een lening aangeboden krijgt. Omdat AI beslissingen neemt op basis van de verkeerde factoren, worden vooroordelen in het model almaar in stand gehouden. Daardoor bestaat de kans dat de financi\u00eble instelling zowel geld als klanten verliest, terwijl mogelijk een klantsegment wordt gedwongen om aan te kloppen bij geldschieters met zeer ongunstige voorwaarden.<\/p>\n\n\n\n

Als de instelling etnische afkomst, gender en proxyvariabelen opneemt in het model, maar ervoor kiest om geen beslissing te nemen op basis van deze variabelen, neemt de nauwkeurigheid sterk toe en groeit het klantenbestand. Als de instelling bijvoorbeeld merkt dat bepaalde gemeenschappen geen lening krijgen, kan eventueel een alternatief product worden aangeboden dat beter aansluit bij hun behoeften, zoals microleningen. Met deze werkwijze ontstaat een effici\u00ebnte wisselwerking: de financi\u00eble draagkracht van klanten verbetert zodat ze uiteindelijk mogelijk in aanmerking komen voor traditionele kredietproducten van de bank.<\/p>\n\n\n\n

Organisaties zijn verantwoordelijk voor eerlijke, nauwkeurige AI-oplossingen. Dit is een doorlopende inspanning die bewustzijn en inzet vergt. We hebben geen kant-en-klare oplossing, maar hier zijn vier strategie\u00ebn waarmee je aan de slag kunt:<\/p>\n\n\n\n

1. Ga na of je systemen en processen onderliggende vooroordelen bevatten<\/h2>\n\n\n\n

Recente discussies over AI en vooroordelen plaatsen vraagtekens bij het begrip ‘onbevooroordeelde data’<\/a>. Omdat alle data vooroordelen in zich hebben, dien je een stap terug te doen en de systemen en processen met in stand gehouden vooroordelen<\/a> te beoordelen.<\/p>\n\n\n\n

Onderzoek de beslissingen die je systemen nemen op basis van sensitieve variabelen:<\/p>\n\n\n\n