Departamento de Pesquisa da Feedzai

Criando tecnologias de ponta para prevenir crimes financeiros

A Feedzai está desenvolvendo soluções avançadas de Inteligência Artificial e engenharia para garantir que o dinheiro flua sem atrito nos serviços financeiros enquanto mantém as pessoas protegidas contra crimes financeiros. O departamento de Pesquisa da Feedzai se esforça para ultrapassar limites todos os dias, desenvolvendo tecnologia de ponta que ficará um passo à frente dos fraudadores de amanhã.

Áreas de pesquisa

O departamento de Pesquisa da Feedzai estuda uma ampla gama de tópicos de Machine Learning, ética em inteligência artificial, pesquisa de sistemas e visualização de dados. Nossas equipes realizam estudos amplos para criar novas metodologias e algoritmos, e realizam experimentos cuidadosos baseados em dados para validar seus novos métodos. Abaixo você pode encontrar uma descrição mais detalhada para cada grupo.

Machine Learning

O grupo de Pesquisa de Machine Learning da Feedzai está empenhado em desenvolver técnicas de Machine Learning de ponta para melhorar a detecção de fraudes, prevenção de crimes financeiros, combate à lavagem de dinheiro e detecção e interrupção de outros tipos de atividades ilícitas.

Além disso, o departamento de Pesquisa da Feedzai tem como objetivo causar uma disrupção no próprio fluxo de trabalho de Machine Learning, desenvolvendo soluções inovadoras para automatizar e auxiliar os processos de amostragem, engenharia de recursos, etiquetagem e anotação, treinamento e avaliações offline e online.

Um dos focos recentes do grupo é em redes neurais recorrentes, aprendizagem ativa, aprendizagem por transferência, aprendizagem de representação de grafos, GNNs, inferência bayesiana e otimização.

System Research

O grupo de Pesquisa de Sistemas se concentra em melhorar a plataforma de backend, tanto durante o tempo de treinamento quanto durante a produção para reduzir custos de hardware e o tempo de colocação no mercado.

O grupo de pesquisa de sistemas tem trabalhado em novos sistemas de processamento de fluxo distribuídos e seus atributos de qualidade relacionados a baixa latência, alto rendimento, recuperabilidade, ponto de verificação, escalabilidade e consumo de memória, gerenciamento de estado, benchmarking e muito mais.

O grupo de pesquisa de sistemas também faz interface com os outros grupos de pesquisa e com a equipe de produto para ajudar a agregar funções ao produto.

Fairness + Accountability + Transparency + Ethics

Como podemos manter as pessoas protegidas contra crimes financeiros e evitar discriminações injustas? Podemos sempre entender, isolar e mitigar preconceitos? Podemos aumentar a confiança oferecendo explicações significativas? A complexidade do sistema está reduzindo a responsabilidade e o devido processo?

O grupo de pesquisa FATE trabalha em novas abordagens que visam: detectar, isolar e mitigar vieses em conjuntos de dados, modelos de ML e sistemas de IA; melhorar a aplicabilidade e interpretabilidade do ML; permitir a rastreabilidade e governança do fluxo de trabalho do ML; explicar o impacto dos modelos sobre justiça e transparência; e aprimorar as práticas éticas e compliance.

O FATE também está firmando parcerias com as principais universidades, grupos comunitários e outras empresas para aumentar a conscientização sobre questões éticas sobre a inteligência artificial e sociedade

Data Visualization

O grupo de Visualização de Dados encara os desafios dos nossos principais profissionais – Analistas de Fraude e Cientistas de Dados – enquanto investiga crimes financeiros ou analisa conjuntos de dados ou modelos.

Por exemplo: um Analista de Fraudes de nível 1 normalmente deve tomar uma decisão em menos de 10 segundos. Nossa pesquisa ajuda a decidir quais explicações do modelo mostrar ou como destacar/ocultar dados históricos. Por outro lado, os Cientistas de Dados podem ter dezenas de horas para analisar grandes conjuntos de dados. A Pesquisa de Visualização de Dados ajuda eles a entender os dados por meio de visualizações de compreensão de dados e a analisar modelos por meio de gráficos de desempenho de modelo e relatórios de polarização.

O grupo tem várias áreas de interesse, incluindo sistemas de design, gramática de gráficos, dados temporais, incerteza, geo-visualização e muito mais.

News

Paper “Promoting Fairness through Hyperparameter Optimization” presented at ICLR 2021 Workshop on Responsible AI (RAI)

Paper “Weakly Supervised Multi-task Learning for Concept-based Explainability” presented at ICLR 2021 Workshop on Weakly Supervised Learning (WeaSul)

Paper “How can I choose an explainer? An Application-grounded Evaluation of Post-hoc Explanations” presented at FAccT 2021, the ACM Conference on Fairness, Accountability, and Transparency

Pedro Saleiro gives tutorial “Dealing with bias and fairness in AI systems” at AAAI 2021 together with Rayid Ghani (CMU) and Kit Rodolfa (CMU)

Feedzai Research got two papers, both on innovations in explainability, accepted at the NeurIPS 2020 workshop on Human And Machine in-the-Loop Evaluation and Learning Strategies.

Paper “Machine learning methods to detect money laundering in the Bitcoin blockchain in the presence of label scarcity” accepted for presentation at the KDD Workshop on ML in Finance and accepted for publication at the ICAIF 2020.

“Interleaved Sequence RNNs for Fraud Detection” paper accepted at KDD 2020.

“Dealing with Bias and Fairness in Data Science Systems: A Practical Hands-on Tutorial” accepted at KDD 2020.

Fortune interviews Pedro Bizarro on the effects of coronavirus crisis on cybercriminal behavior.

Project CAMELOT, in partnership with CMU, IST, ULisboa, UCoimbra.

Opinion article about AI and Regulation (Portuguese).

Congressional testimony on “Equitable Algorithms: Examining Ways to Reduce AI Bias in Financial Services” based on joint work with Pedro Saleiro.

Pedro Saleiro interview about what to expect in this decade for AI (Portuguese).

Feedzai co-organizes Lisbon NeurIPS meetup.

Feedzai joins Instituto Superior Técnico Partner Network. Professor Mário Figueiredo is now Feedzai Professor in Machine Learning.

Latest Publications

“Weakly Supervised Multi-task Learning for Concept-based Explainability” https://arxiv.org/abs/2104.12459

“Promoting Fairness through Hyperparameter Optimization” https://arxiv.org/abs/2103.12715

How can I choose an explainer? An Application-grounded Evaluation of Post-hoc Explanations, https://arxiv.org/abs/2101.08758

GuiltyWalker: Distance to illicit nodes in the Bitcoin network, https://arxiv.org/abs/2102.05373

TimeSHAP: Explaining Recurrent Models through Sequence Perturbations, https://arxiv.org/abs/2012.00073

Teaching the Machine to Explain Itself using Domain Knowledge, https://arxiv.org/abs/2012.01932

A Bandit-Based Algorithm for Fairness-Aware Hyperparameter Optimization, https://arxiv.org/abs/2010.03665

Machine learning methods to detect money laundering in the Bitcoin blockchain in the presence of label scarcity. arXiv preprint arXiv:2005.14635

Interleaved Sequence RNNs for Fraud Detection. arXiv preprint arXiv:2002.05988 and video

ARMS: Automated rules management system for fraud detection. arXiv preprint arXiv:2002.06075

Automatic Model Monitoring for Data Streams. arXiv preprint arXiv:1908.04240

Automatic detection of points of compromise. U.S. Patent Application No. 16/355,562

Computer memory management during real-time fraudulent transaction analysis. U.S. Patent Application No. 16/102,570

Carreiras

Ajude-nos a construir o futuro do combate às fraudes com a IA

Ver cargos disponíveis