- Novo algoritmo AutoML com patente pendente que descobre automaticamente modelos de aprendizado de máquina menos tendenciosos com custo de treinamento de modelo adicional zero, aumentando a equidade do modelo em 93%
- Inovação reconhecida com o prêmio “Fraud Prevention Innovation of the Year” (Inovação de Prevenção de Fraude do Ano) por Fintech Breakthrough Awards
SAN MATEO, Califórnia e LONDRES, March 19, 2021 (GLOBE NEWSWIRE) -- A Feedzai, principal plataforma de gerenciamento de riscos financeiros com base na nuvem, lança Feedzai Fairband, a estrutura de trabalho justa de IA mais avançada do mundo. O novo algoritmo AutoML descobre automaticamente modelos de aprendizado de máquina com custo de treinamento de modelo adicional zero, aumentando a equidade do modelo em até 93%, em média. Com esta nova tecnologia, a Feedzai viabiliza que instituições financeiras em todo o mundo tomem decisões melhores e mais justas.
A Feedzai Research desenvolveu a nova estrutura de trabalho com base na ideia de que a proteção das instituições financeiras contra o crime financeiro pode e deve ser feita de forma justa, responsável e transparente, e que a IA não deve prejudicar os consumidores. A Feedzai Fairband pode ser usada com quaisquer métricas de equidade, métricas de modelo e atributos sensíveis, como idade, gênero, etnia, localização e muito mais. Além disso, a tecnologia trabalha com quaisquer configurações de algoritmos e modelos, e tem demonstrado vasta aplicabilidade, além da gestão de riscos e crimes financeiros.
"A Feedzai Fairband é um dos maiores marcos no setor de serviços financeiros, pois apresenta uma estrutura de baixo custo e sem atrito para resolver um dos maiores problemas da nossa era - viés de IA”, diz o Dr. Pedro Bizarro, Diretor de Ciências da Feedzai. “Ao criar a estrutura mais avançada para a justiça da IA, a Feedzai viabiliza que as instituições financeiras incorporem uma peça crítica de tecnologia que aborda um problema sob escrutínio do público próximo com efeitos prejudiciais comprovados em todo o mundo. A construção de modelos precisos e mais justos será menos difícil a partir de agora.”
O problema
O mundo testemunhou relatos generalizados de viés de IA em vários setores em áreas críticas da sociedade, como justiça criminal, saúde ou serviços financeiros. Exemplos do mundo real incluem discriminação racial e de gênero em vários domínios, incluindo reconhecimento facial, ferramentas de triagem de candidatos a emprego, acesso a crédito ou até mesmo diagnóstico médico. A falta de regulamentação nas áreas de Justiça, Responsabilidade, Transparência e Ética (Fairness, Accountability, Transparency, and Ethics - FATE) em IA criou um problema mundial que deverá crescer substancialmente nos próximos anos se os líderes da indústria e os governos não agirem rapidamente.
Particularmente na indústria de tecnologia financeira, há um risco de que os sistemas de IA neguem o acesso a serviços financeiros desproporcionalmente a pessoas de diferentes grupos, com base na raça, idade, local de residência, profissão ou situação de emprego. O acesso aos serviços bancários hoje é primordial, especialmente durante uma pandemia que resultou em uma rápida transição para os pagamentos digitais.
Apesar da recente conscientização, o uso da equidade como objetivo ao desenvolver IA ainda não é uma prática padrão. Há uma falta de metodologias e ferramentas práticas para melhorar a equidade para os profissionais, e o desenvolvimento de modelos menos tendenciosos enfrenta três desafios principais:
- Os profissionais não têm certeza de como medir a equidade e supõem que o custo é caro (que modelos muito menos tendenciosos também precisam ser muito menos precisos);
- Os profissionais supõem que as decisões estão fora do seu alcance, frequentemente afirmando que “os modelos não são tendenciosos, os dados é que são tendenciosos”;
- Os profissionais supõem que a criação de modelos mais justos é complexa em termos de atividades de construção de modelos e cara em termos de tempo.
A solução
O novo algoritmo AutoML com patente pendente da Feedzai descobre automaticamente modelos de aprendizado de máquina mais justos com custo de treinamento de modelo adicional zero e sacrifício quase zero em termos de precisão do modelo, enquanto aumenta a equidade do modelo em até 93%, em média.
A Feedzai Fairband pode ser usada com quaisquer métricas de equidade, métricas de modelo e atributos sensíveis, como idade, gênero, etnia, localização e muito mais. Além disso, a tecnologia funciona com qualquer algoritmo ML e configurações de modelo, e pode ser perfeitamente integrada aos pipelines de aprendizado de máquina existentes, viabilizando que as organizações adaptem operações de negócios pré-existentes para acomodar a equidade com custo residual e sem atrito significativo.
Ao não medir e prevenir o viés, as instituições financeiras perpetuam comportamentos de IA que, em última análise, têm um impacto negativo na forma como as pessoas usam produtos e serviços bancários. A adoção de tecnologia que lida com viés de forma eficiente e flexível ajuda a mitigar essas consequências indesejadas, permitindo que os clientes tenham acesso menos discriminatório aos serviços financeiros, promovendo seu bem-estar econômico e acesso aos serviços na era digital.
Fintech Breakthrough homenageou a Feedzai Fairband com o prêmio “Fraud Prevention Innovation of the Year” (Inovação de Prevenção de Fraude do Ano). James Johnson, Diretor Administrativo da FinTech Breakthrough, disse: A Feedzai incorpora o espírito dos FinTech Breakthrough Awards com uma solução inovadora que aborda uma questão crítica. Temos orgulho de dar os parabéns à Feedzai pelo prêmio tão importante recebido no programa 2021 FinTech Breakthrough Awards.”
A Feedzai Fairband estará disponível para os clientes da Feedzai em junho de 2021.
Para mais informações sobre os problemas que as instituições financeiras enfrentam, acesse o post da Feedzai no blog: Understanding AI Bias in Banking (Viés de IA no Sistema Bancário), e o documento de pesquisa.
Sobre a Feedzai
A Feedzai é líder de mercado no combate ao crime financeiro com a plataforma de gerenciamento de riscos com base na nuvem mais avançada do momento, alimentada por aprendizado de máquina e inteligência artificial. A Feedzai tem uma missão: tornar os serviços bancários e o comércio seguros, combinando a prevenção de fraudes e o combate à lavagem de dinheiro em uma plataforma para controle do crime financeiro. Fundada por cientistas de dados e engenheiros aeroespaciais, a Feedzai é considerada pela Aite uma das melhores da categoria, e uma das empresas de IA mais bem-sucedidas pela Forbes. Os maiores bancos, processadores e varejistas do mundo usam a Feedzai para proteger trilhões de dólares, gerenciar riscos, e aprimorar a experiência do cliente.
Contato para a Imprensa – Feedzai
Igor Carvalho
Dirigente de Comunicações Corporativas, Feedzai
igor.carvalho@feedzai.com