p95 6ms 미만으로 초당 71,000건을 처리하는 실시간 사기 탐지 시스템을 구축한 방법
How I Built a Real-Time Fraud Detection System That Handles 71,000 RPS at p95 <6ms
TL;DR AI
1분핵심 요약
Sentinel은 XGBoost 모델을 ONNX로 내보내 Go에서 빠르게 추론하는 실시간 사기 탐지 서비스다.
파이프라인에는 LRU 캐시와 Prometheus 메트릭이 포함되어 대규모 트래픽에서도 효율성과 관측 가능성을 높였다.
매우 불균형한 신용카드 사기 데이터셋으로 학습해, 결제 트래픽에 맞는 정확도와 낮은 지연 시간을 목표로 했다.
이 시스템은 780만 건의 요청을 오류 없이 처리했고, p95 지연 6ms 미만에서 초당 7만1천 건을 기록했다.