Investigación de Feedzai

Impulsar la tecnología más moderna para prevenir el crimen financiero

Feedzai está diseñando soluciones avanzadas de IA e ingeniería para garantizar flujos simples de dinero en los servicios financieros, mientras mantiene a los humanos a salvo de los delitos financieros. La investigación de Feedzai se esfuerza por impulsar la tecnología más avanzada todos los días para desarrollar tecnología ética de punta que se adelantará a los futuros estafadores.

Áreas de investigación

La investigación de Feedzai analiza una serie amplia de temas en aprendizaje automático, ética de IA, investigación de sistemas y visualización de datos. Nuestros equipos realizan estudios exhaustivos para diseñar metodologías y algoritmos nuevos, y realizan experimentos cuidadosos basados en datos para validar los métodos nuevos. A continuación, puede encontrar una descripción más detallada de cada grupo.

Machine Learning

El grupo de investigación de Feedzai sobre aprendizaje automático está comprometido con el avance de las técnicas de aprendizaje automático más modernas para mejorar la detección de fraudes, la prevención del crimen financiero, la lucha contra el lavado de dinero, y la detección y detención de otros tipos de actividades ilícitas.

Además, la investigación de Feedzai tiene como objetivo alterar el flujo de trabajo de aprendizaje automático en sí, a través del diseño de soluciones innovadoras para automatizar y ayudar a los procesos de muestreo, ingeniería de características, etiquetado y anotación, capacitación, y evaluación en línea y fuera de línea.

Algunos de los enfoques grupales recientes son las redes neuronales recurrentes, el aprendizaje activo, el aprendizaje por transferencia, el aprendizaje por representación gráfica, los GNN, la inferencia bayesiana y la optimización.

Investigación de sistemas

El grupo de investigación de sistemas se centra en mejorar la plataforma back-end durante el tiempo de capacitación y producción para reducir los costos de hardware y el tiempo de comercialización.

El grupo de investigación de sistemas ha estado trabajando en sistemas nuevos de procesamiento de flujo distribuido y sus atributos de calidad relacionados con baja latencia, alto rendimiento, recuperabilidad, creación de puntos de restauración, escalabilidad y consumo de memoria, administración de estado, evaluación comparativa y más.

El grupo de investigación de sistemas también interactúa con los otros grupos de investigación y con el equipo de producto para ayudar a añadir la funcionalidad al producto.

Imparcialidad + responsabilidad + transparencia + ética

¿Cómo podemos proteger a las personas del crimen financiero y evitar la discriminación injusta? ¿Siempre podemos comprender, aislar y atenuar el sesgo? ¿Podemos mejorar la confianza a través de explicaciones significativas? ¿La complejidad del sistema reduce la responsabilidad y el debido proceso?

El grupo de investigación FATE está trabajando en enfoques nuevos para: detectar, aislar y atenuar el sesgo en conjuntos de datos, modelos ML y sistemas de IA; mejorar la explicabilidad y la interpretabilidad del ML; habilitar la trazabilidad y el proceso de conducción del flujo de trabajo de ML; explicar el impacto de los modelos en la imparcialidad y la transparencia; y mejorar las prácticas éticas y de cumplimiento.

FATE también está estableciendo colaboraciones con las mejores universidades, grupos comunitarios y otras empresas para crear conciencia sobre las cuestiones éticas sobre la IA y la sociedad.

Visualización de datos

El grupo de visualización de datos se enfrenta a los desafíos de nuestros miembros principales, analistas de fraude y científicos de datos, mientras investigan el crimen financiero o mientras analizan conjuntos de datos o modelos.

Por ejemplo, un analista de fraudes de nivel 1 generalmente quiere tomar una decisión en menos de 10 segundos. Nuestra investigación ayuda a decidir qué explicaciones del modelo mostrar o cómo resaltar u ocultar datos históricos. Por otro lado, los científicos de datos pueden tener decenas de horas para analizar grandes conjuntos de datos. La investigación de visualización de datos les ayuda a dar sentido a los datos a través de visualizaciones de comprensión de datos y les ayuda a analizar modelos a través de gráficos de rendimiento de modelos e informes de tendencias.

El grupo tiene varias áreas de interés que incluyen sistemas de diseño, gramática de gráficos, datos temporales, incertidumbre, geovisualización y más.

Noticias

Paper “How can I choose an explainer? An Application-grounded Evaluation of Post-hoc Explanations” presented at FAccT 2021, the ACM Conference on Fairness, Accountability, and Transparency

Pedro Saleiro gives tutorial “Dealing with bias and fairness in AI systems” at AAAI 2021 together with Rayid Ghani (CMU) and Kit Rodolfa (CMU)

Feedzai Research got two papers, both on innovations in explainability, accepted at the NeurIPS 2020 workshop on Human And Machine in-the-Loop Evaluation and Learning Strategies.

Paper “Machine learning methods to detect money laundering in the Bitcoin blockchain in the presence of label scarcity” accepted for presentation at the KDD Workshop on ML in Finance and accepted for publication at the ICAIF 2020.

“Interleaved Sequence RNNs for Fraud Detection” paper accepted at KDD 2020.

“Dealing with Bias and Fairness in Data Science Systems: A Practical Hands-on Tutorial” accepted at KDD 2020.

Fortune interviews Pedro Bizarro on the effects of coronavirus crisis on cybercriminal behavior.

Project CAMELOT, in partnership with CMU, IST, ULisboa, UCoimbra.

Opinion article about AI and Regulation (Portuguese).

Congressional testimony on “Equitable Algorithms: Examining Ways to Reduce AI Bias in Financial Services” based on joint work with Pedro Saleiro.

Pedro Saleiro interview about what to expect in this decade for AI (Portuguese).

Feedzai co-organizes Lisbon NeurIPS meetup.

Feedzai joins Instituto Superior Técnico Partner Network. Professor Mário Figueiredo is now Feedzai Professor in Machine Learning.

Últimas publicaciones

How can I choose an explainer? An Application-grounded Evaluation of Post-hoc Explanations, https://arxiv.org/abs/2101.08758

GuiltyWalker: Distance to illicit nodes in the Bitcoin network, https://arxiv.org/abs/2102.05373

TimeSHAP: Explaining Recurrent Models through Sequence Perturbations, https://arxiv.org/abs/2012.00073

Teaching the Machine to Explain Itself using Domain Knowledge, https://arxiv.org/abs/2012.01932

A Bandit-Based Algorithm for Fairness-Aware Hyperparameter Optimization, https://arxiv.org/abs/2010.03665

Machine learning methods to detect money laundering in the Bitcoin blockchain in the presence of label scarcity. arXiv preprint arXiv:2005.14635

Interleaved Sequence RNNs for Fraud Detection. arXiv preprint arXiv:2002.05988 and video

ARMS: Automated rules management system for fraud detection. arXiv preprint arXiv:2002.06075

Automatic Model Monitoring for Data Streams. arXiv preprint arXiv:1908.04240

Automatic detection of points of compromise. U.S. Patent Application No. 16/355,562

Computer memory management during real-time fraudulent transaction analysis. U.S. Patent Application No. 16/102,570

Oportunidades profesionales

Ayúdenos a construirel futuro de la lucha contrael fraude con IA

Ver puestos disponibles