INCIDENT PROCESSING | Double prélèvement paiements Magasin NEXO / Duplicate charges for NEXO instore payments

Incident Report for Payplug

Postmortem

English version below / Versione Italiana in calce

Post Mortem

Référence incident

TSR-1610

Service concerné

Nexo.

Impact client

Multiples débits de paiements effectués sur des terminaux PAX (protocole Nexo).

Synthèse de l’incident

  • 07 avril : mise à jour de la gestion des statuts des transactions Nexo. 
  • 08 avril - 09h12 : une première série de transactions est débitée mais leur statut n’est pas mis à jour en “débité”. Début de l’incident.
  • 09 avril : second débit de la même série de transactions, occasionnant un double débit. Certaines de ces transactions conservent un statut incorrect.
  • 10 avril : un contrôle de routine identifie 5000 débits en trop.
  • 10 avril - 09h30 : création d’une cellule de crise pour incident majeur. Lancement des investigations.
  • 10 avril - 11h43 : mise à jour manuelle des statuts pour éviter un nouveau débit accidentel sur les transactions.
  • 10 avril - 15h25 : livraison d’un correctif pour garantir la bonne mise à jour automatique des statuts des transactions. Envoi d’une liste de transactions à rembourser à notre prestataire externe. Reprise du service nominal.
  • 11 avril - 08h43 : relance envoyée à notre prestataire externe. 
  • 14 avril - 17h : annulation des débits indus pour les clients VISA & CB.
  • 15  avril - 17h : annulation des débits indus pour les clients  MASTERCARD. Fin de l’incident.

Contexte

L’annulation d’un double-débit menant au remboursement du débit indu est une opération manuelle et sensible. Notre prestataire a pris toutes les précautions nécessaires pour ne pas générer de dommages collatéraux, ce qui explique le délai observé.

Root cause

L’incident a été causé par l’ajout d’un processus de mise à jour des statuts de transactions le 7 avril. Ce dernier pouvait occasionnellement entrer en conflit avec un processus déjà existant, empêchant la mise à jour des transactions concernées.

Actions à entreprendre par Payplug

Symptômes Actions
Détection tardive des double-débits. Mise en place d’un monitoring manuel quotidien à court terme. Automatisation du monitoring à moyen terme.
Absence de remontée d'erreurs lors du conflit de processus. Mise en place d’un log + alerte lors d’un conflit de mise à jour de statut d’une transaction. Amélioration du retry pour retenter automatiquement la mise à jour du statut.
Bug non détecté lors de la phase de test. Ajout systématique de tests sur un plus gros volume de transactions. Investigations sur de nouveaux tests de charge.

==============ENGLISH VERSION==============

Post Mortem

Incident reference

TSR-1610

Payment services affected by the incident

Nexo.

Client impact

Multiple payments debited from PAX terminals (Nexo protocol).

Incident Overview

  • April 7: update of the Nexo transaction status management.
  • April 8 – 9:12 AM: a first batch of transactions is debited, but their status is not updated to “debited.” Incident begins.
  • April 9: a second debit of the same batch of transactions occurs, causing duplicate charges. Some of these transactions retain an incorrect status.
  • April 10: a routine check reveals 5,000 excess debits.
  • April 10 – 9:30 AM: major incident task force created. Analysis begins.
  • April 10 – 11:43 AM: manual update of statuses to prevent further accidental debits.
  • April 10 – 3:25 PM: delivery of a fix to ensure correct automatic update of transaction statuses. A list of transactions to be refunded is sent to our external provider. Return to normal service.
  • April 11 – 8:43 AM: follow-up sent to our external provider.
  • April 14 – 17h: reversal of undue charges for VISA & CB customers.
  • April 15 – 17h: reversal of undue charges for customers. End of the incident.

Context

Reversing a duplicate debit and refunding the undue charge is a manual and sensitive operation. Our provider took all necessary precautions to avoid collateral damage, which explains the observed delay.

Root cause

The incident was caused by the addition of a transaction status update process on April 7. This process could occasionally conflict with an existing one, preventing the status update of affected transactions.

Actions to be taken by Payplug

Symptoms Actions
Late detection of duplicate debits. Implementation of short-term daily manual monitoring. Medium-term automation of monitoring.
No error feedback during process conflict. Implementation of logging + alert in case of a status update conflict. Improvement of retry logic to automatically attempt status update again.
Undetected bug during testing phase. Systematic addition of tests with larger volumes of transactions. Investigation of new load testing methods.

==============VERSIONE ITALIANA==============

Post Mortem

Riferimento incidente

TSR-1610

Servizio interessato

Nexo.

Impatto sui clienti

Addebiti multipli effettuati su terminali PAX (protocollo Nexo).

Sintesi dell'incidente

  • 7 aprile: aggiornamento della gestione degli stati delle transazioni Nexo.
  • 8 aprile – 09:12: una prima serie di transazioni viene addebitata ma lo stato del pagamento non viene aggiornato a "addebitato". Inizio dell'incidente.
  • 9 aprile: secondo addebito della stessa serie di transazioni, causando un doppio addebito. Alcune di queste transazioni mantengono uno stato errato.
  • 10 aprile: un controllo di routine individua 5.000 addebiti in eccesso.
  • 10 aprile – 09:30: creazione di una task force per incidente maggiore. Inizio delle indagini.
  • 10 aprile – 11:43: aggiornamento manuale degli stati per evitare ulteriori addebiti accidentali.
  • 10 aprile – 15:25: rilascio di una correzione per garantire il corretto aggiornamento automatico degli stati delle transazioni. Invio di una lista di transazioni da rimborsare al nostro fornitore esterno. Ripristino del servizio.
  • 11 aprile – 08:43: sollecito inviato al fornitore esterno.
  • 14 aprile – 17:00: annullamento degli addebiti illegittimi  per i clienti VISA e CB.
  • 15 aprile – 17:00: annullamento degli addebiti illegittimi  per i clienti MASTERCARD. Fine dell’incidente.

Contesto

L’annullamento di un doppio addebito e il conseguente rimborso è un’operazione manuale e delicata. Il nostro fornitore ha preso tutte le precauzioni necessarie per evitare danni collaterali, il che spiega il ritardo osservato.

Root cause

L’incidente è stato causato dall’aggiunta, il 7 aprile, di un processo di aggiornamento degli stati delle transazioni. Questo nuovo processo poteva occasionalmente entrare in conflitto con un processo esistente, impedendo l’aggiornamento delle transazioni interessate.

Azioni da intraprendere da Payplug

Sintomi Azioni
Rilevamento tardivo dei doppi addebiti. Implementazione a breve termine di un monitoraggio manuale quotidiano. Automazione del monitoraggio a medio termine.
Mancanza di segnalazioni di errore in caso di conflitto tra processi. Implementazione di log + allarme in caso di conflitto nell'aggiornamento dello stato di una transazione. Miglioramento della logica di retry per tentare nuovamente l’aggiornamento dello stato.
Bug non rilevato durante i test. Aggiunta sistematica di test con volumi maggiori di transazioni. Analisi di nuovi test di carico.
Posted Apr 17, 2025 - 09:52 CEST

Resolved

This incident has been resolved.
Posted Apr 17, 2025 - 09:46 CEST

Update

TSR-1610
- Début / Start / Inizio : 07/04/2025
- Fin / End /fine : En cours / Ongoing / In corso.
- Catégorie / Category / Categoria: Production - Processing.
- Responsabilité / Responsibility / Responsabilità : Payplug.
- Priorité / Priority / Priorità: P2.

FR
Les paiements en magasins débités à tort ont été annulés. Vos clients verront donc le remboursement de ces paiements sur leur compte à partir du 15 avril 2025, en fonction des délais interbancaires.

EN
The in-store payments that were wrongly debited have been cancelled. Your customers will therefore see the refunds of these payments on their bank accounts starting from April 15, 2025, depending on interbank processing times.

IT
I pagamenti effettuati nei negozi addebitati per errore sono stati annullati. I vostri clienti vedranno quindi il rimborso di tali pagamenti sul loro conto bancario a partire dal 15 aprile 2025, in base ai tempi di elaborazione interbancaria.
Posted Apr 14, 2025 - 17:54 CEST

Monitoring

FR
Les paiements en magasins débités à tort vont être annulés au plus tard le 15 avril 2025. Vos clients verront donc le remboursement de ces paiements sur leur compte au plus tard le 16 avril 2025.

EN
In-store payments that were wrongly debited will be canceled by April 15th, 2025, at the latest. Your customers will therefore see the refunds for these payments on their account no later than April 16th, 2025.

IT
I pagamenti effettuati nei negozi addebitati erroneamente saranno annullati entro e non oltre il 15 aprile 2025. I vostri clienti vedranno quindi il rimborso di tali pagamenti sul loro conto entro e non oltre il 16 aprile 2025.
Posted Apr 11, 2025 - 14:26 CEST

Identified

FR
Certains paiements en magasin réalisés sur des terminaux PAX (protocole Nexo) ont été débités deux fois à vos clients porteurs de carte. Il s’agit pour la plupart de paiements réalisés le 7 avril. L’anomalie a été rapidement identifiée et un correctif est en cours.
- Les marchands concernés seront contactés directement.
- Tous les doublons seront automatiquement annulés.
- Les remboursements seront effectués sans action requise de votre part ni des clients.
- La régularisation sera visible sur les comptes des porteurs sous peu.

EN
Some in-store payments made via PAX terminals (NEXO protocol) were charged twice to your cardholder clients. Most of these duplicate transactions occurred on April 7th. The issue was quickly identified, and a fix is currently being implemented.
- Affected merchants will be contacted directly.
- All duplicate charges will be automatically canceled.
- Refunds will be processed without any action required from you or your clients.
- The adjustments will soon be visible on the cardholders’ accounts.

IT
Alcuni pagamenti effettuati in negozio su terminali PAX (protocollo Nexo) potrebbero essere stati addebitati due volte ai vostri clienti. La maggior parte dei pagamenti sono stati effettuati il 7 aprile. L'anomalia è stata identificata e stiamo procedendo con la correzione.
- Gli esercenti interessati saranno contattati direttamente.
- Tutti i doppi addebiti verranno automaticamente cancellati.
- I rimborsi saranno effettuati senza alcuna azione da parte vostra o dei clienti.
- La regolarizzazione sarà visibile sui conti corrente dei clienti a breve.
Posted Apr 10, 2025 - 14:25 CEST
This incident affected: Paiement en magasin.