- Neuer, zum Patent angemeldeter AutoML-Algorithmus erkennt automatisch weniger voreingenommene Modelle für maschinelles Lernen, ohne dass zusätzliche Kosten für das Training der Modelle entstehen, und erhöht gleichzeitig die Modellfairness um 93 %
- Innovation, die bei den Fintech Breakthrough Awards die Auszeichnung „Fraud Prevention Innovation of the Year“ erhielt
SAN MATEO, Kalifornien und LONDON, March 19, 2021 (GLOBE NEWSWIRE) -- Feedzai, die führende Cloud-basierte Finanzrisikomanagement-Plattform, hat Feedzai Fairband angekündigt, das fortschrittlichste KI-Fairness-Framework der Welt. Der neue AutoML-Algorithmus erkennt automatisch Modelle für maschinelles Lernen, ohne dass zusätzliche Kosten für das Training der Modelle entstehen, und erhöht gleichzeitig die Modellfairness um durchschnittlich 93 %. Mit dieser neuen Technologie ermöglicht Feedzai Finanzinstituten auf der ganzen Welt, bessere und fairere Entscheidungen zu treffen.
Feedzai Research hat das neue Framework unter der Prämisse entwickelt, dass der Schutz von Finanzinstituten vor Finanzkriminalität auf faire, verantwortliche und transparente Weise erfolgen kann und soll und dass KI den Verbrauchern nicht schaden sollte. Feedzai Fairband kann mit beliebigen Fairness-Kennzahlen, Modellkennzahlen und sensiblen Attributen wie Alter, Geschlecht, ethnischer Zugehörigkeit, Standort und mehr verwendet werden. Zudem nutzt die Technologie alle Algorithmen und Modelleinstellungen und kann neben dem Management von Risiken und Wirtschaftskriminalität auf breiter Basis angewendet werden.
„Feedzai Fairband ist einer der größten Meilensteine in der Finanzdienstleistungsbranche, da es einen kostengünstigen und reibungslosen Rahmen zur Lösung eines der größten Probleme unserer Zeit bietet – die Voreingenommenheit der KI“, so Dr. Pedro Bizarro, Chief Science Officer bei Feedzai. „Durch den Aufbau des fortschrittlichsten Frameworks für KI-Fairness ermöglicht Feedzai Finanzinstituten, ein kritisches Technologieteil zu integrieren, das ein Problem angeht, welches unter strenger öffentlicher Beobachtung steht und nachweislich schädliche Auswirkungen auf der ganzen Welt hat. Die Erstellung genauerer und gerechterer Modelle wird ab jetzt weniger schwierig sein.“
Das Problem:
Es gab weltweit vermehrt Berichte über KI-Voreingenommenheit in verschiedenen Sektoren kritischer Bereiche der Gesellschaft, z. B. in der Strafjustiz, im Gesundheitswesen oder bei Finanzdienstleistungen. Beispiele aus der realen Welt sind rassistische und geschlechtsspezifische Diskriminierung in verschiedenen Bereichen, z. B. bei der Gesichtserkennung, bei Screening-Tools für Bewerber, beim Zugang zu Krediten oder sogar bei medizinischen Diagnosen. Der Mangel an Regulierung, was Fairness, Verantwortlichkeit, Transparenz und Ethik (Fairness, Accountability, Transparency, and Ethics, FATE) in Bezug auf die KI betrifft, hat ein weltweites Problem geschaffen, das in den nächsten Jahren voraussichtlich erheblich wachsen wird, wenn Branchenführer und Staaten nicht schnell handeln.
Gerade in der Fintech-Branche besteht die Gefahr, dass KI-Systeme Menschen aus verschiedenen Gruppen aufgrund von Ethnizität, Alter, Wohnort, Beruf oder Beschäftigungsstatus den Zugang zu Finanzdienstleistungen in unverhältnismäßigem Maße verweigern. Der Zugang zu Bankdienstleistungen ist heute von allergrößter Bedeutung, insbesondere während der Pandemie, in der ein schneller Übergang zu digitalen Zahlungen stattgefunden hat.
Trotz des jüngst gewachsenen Bewusstseins ist Fairness als Ziel bei der Entwicklung von KI noch keine Standardpraxis. Experten leiden unter einem Mangel an praktischen Methoden und Werkzeugen zur Verbesserung der Fairness und die Entwicklung von Modellen mit weniger Voreingenommenheit steht vor drei großen Herausforderungen:
- Experten sind sich nicht sicher, wie sie Fairness messen sollen, und gehen davon aus, dass es einen kostspieligen Kompromiss gibt (dass deutlich weniger voreingenommene Modelle auch deutlich weniger genau sein müssen).
- Experten nehmen an, dass Entscheidungen nicht in ihrer Hand liegen, und machen häufig die Aussage, dass nicht die Modelle, sondern die Daten voreingenommen sind.
- Experten gehen davon aus, dass das Erstellen gerechterer Modelle hinsichtlich der Modellbildung komplex und hinsichtlich der Zeit teuer ist.
Die Lösung
Der neue, zum Patent angemeldete AutoML-Algorithmus von Feedzai erkennt automatisch fairere Modelle für maschinelles Lernen, ohne dass zusätzliche Kosten für das Training der Modelle entstehen und nahezu ohne Einbußen bei der Modellgenauigkeit, erhöht aber gleichzeitig die Modellfairness um durchschnittlich 93 %.
Feedzai Fairband kann mit beliebigen Fairness-Kennzahlen, Modellkennzahlen und sensiblen Attributen wie Alter, Geschlecht, ethnischer Zugehörigkeit, Standort und mehr verwendet werden. Zudem funktioniert die Technologie mit jedem ML-Algorithmus und jeder Modelleinstellung und lässt sich nahtlos in bestehende Pipelines für maschinelles Lernen integrieren, was es Unternehmen ermöglicht, bereits bestehende Geschäftsabläufe anzupassen, um Fairness mit Restkosten und ohne nennenswerte Reibungsverluste zu integrieren.
Wenn Finanzinstitute Voreingenommenheit nicht messen und verhindern, werden sie auf Dauer KI-Verhaltensweisen festschreiben, die sich letztlich negativ darauf auswirken, wie Menschen Bankprodukte und -dienstleistungen nutzen. Der Einsatz von Technologie, die effizient und flexibel mit Voreingenommenheit umgeht, trägt dazu bei, diese unerwünschten Konsequenzen abzumildern und gleichzeitig den Kunden einen weniger diskriminierenden Zugang zu Finanzdienstleistungen zu ermöglichen, was ihr wirtschaftliches Wohlergehen und ihren Zugang zu Dienstleistungen im digitalen Zeitalter fördert.
Fintech Breakthrough verlieh Feedzai Fairband die Auszeichnung „Fraud Prevention Innovation of the Year“. James Johnson, Managing Director, FinTech Breakthrough, sagte: „Feedzai verkörpert den Geist der FinTech Breakthrough Awards mit einer innovativen Lösung für ein kritisches Problem. Wir sind stolz darauf, Feedzai zu einer so wichtigen Auszeichnung im Rahmen des 2021 FinTech Breakthrough Awards-Programms gratulieren zu können.“
Feedzai Fairband wird den Kunden von Feedzai im Juni 2021 zur Verfügung stehen.
Wenn Sie mehr über die Probleme von Finanzinstituten erfahren möchten, lesen Sie den Blog-Beitrag von Feedzai: Understanding AI Bias in Banking sowie das Forschungspapier.
Über Feedzai
Feedzai ist der Marktführer bei der Bekämpfung von Finanzkriminalität mit der zurzeit fortgeschrittensten Cloud-basierten Risikomanagement-Plattform, die auf maschinellem Lernen und künstlicher Intelligenz basiert. Feedzai hat eine Mission: das Bankwesen und den Handel sicher zu machen, indem wir Betrugsprävention und die Verhinderung von Geldwäsche auf einer Plattform zur Bekämpfung von Wirtschaftskriminalität zusammenführen. Feedzai wurde von Datenwissenschaftlern und Luft- und Raumfahrtingenieuren gegründet und wird von Aite als branchenführend und von Forbes als eines der erfolgreichsten KI-Unternehmen angesehen. Die weltweit größten Banken, Datenverarbeiter und Einzelhändler nutzen Feedzai, um Billionen von Dollar zu schützen und das Risiko im Griff zu behalten – und zugleich das Kundenerlebnis zu verbessern.
Pressekontakt – Feedzai
Igor Carvalho
Head of Corporate Communications, Feedzai
igor.carvalho@feedzai.com