الـ Rate Limiting في Redis: fixed window و sliding window و token bucket

جارٍ التحميل…

01 / ملخص الدرس

الـ Rate Limiting في Redis: fixed window و sliding window و token bucket

ليه الـ rate limiting (brute force و scraping و حماية الـ API)، وليه لازم يبقى في Redis مش في الـ memory. الـ fixed window بـ INCR و EXPIRE ومشكلة الحدود (ضعف الحد في 100ms)، والـ sliding window log بـ sorted set و Lua، والـ token bucket (burst + معدل ثابت) كـ middleware في Express بـ 429 و Retry-After و RateLimit headers، والـ key بالمستخدم أو الـ IP.

02 / شرح الدرس مكتوبًا

نص شرح المعلم والكود الذي كتبه ونتيجة تشغيله، بنفس ترتيب الدرس.

أهلًا بيك. أي API مفتوح محتاج حد أقصى للـ requests: علشان محدش يجرّب مليون password، أو يسحب البيانات كلها، أو يوقّع الـ server بالغلط. في درس الـ middleware عملنا عدّاد في الـ memory، وقلنا إنه مش هينفع مع أكتر من instance. Redis بيحل ده: عدّاد واحد مشترك. أبسط algorithm: fixed window. عدّاد لكل تانية، والـ key فيه رقم التانية، و INCR. بس فيه مشكلة، وهنجرّبها: الحد خمسة في التانية، ونبعت خمسة قبل آخر التانية بخمسين millisecond، وخمسة بعد ما تبدأ اللي بعدها. نشغّل.

main.js
import Redis from "ioredis";

const redis = new Redis(process.env.REDIS_URL);
await redis.flushall();
const sleep = (ms) => new Promise((r) => setTimeout(r, ms));

// fixed window: عدّاد لكل تانية (اسم الـ key فيه رقم التانية)
async function fixedWindow(user, limit) {
  const window = Math.floor(Date.now() / 1000);
  const key = `rl:fixed:${user}:${window}`;
  const n = await redis.incr(key);
  if (n === 1) await redis.expire(key, 2);
  return n <= limit;
}

// نستنى لحد قبل آخر التانية بـ 50ms، ونبعت 5، وبعد ما تبدأ التانية الجاية 5 كمان
await sleep(1000 - (Date.now() % 1000) - 50);
const first = await Promise.all(Array.from({ length: 5 }, () => fixedWindow("mona", 5)));
await sleep(100);
const second = await Promise.all(Array.from({ length: 5 }, () => fixedWindow("mona", 5)));
const allowed = [...first, ...second].filter(Boolean).length;
console.log(`الحد 5 في التانية، واتقبل ${allowed} في حوالي 100ms`);
redis.disconnect();

المخرجات

$ node main.js
الحد 5 في التانية، واتقبل 10 في حوالي 100ms

اتقبل عشرة في حوالي مِيّة millisecond، مع إن الحد خمسة في التانية! لأن الخمسة الأولى اتحسبت على التانية اللي فاتت، والخمسة التانية على الجديدة. يعني أي حد فاهم يقدر ياخد ضعف الحد في وقت قصير جدًّا. لـ login مسلًا ده خطير. الحل: sliding window log. كل request بيتسجل بوقته في sorted set، والـ score هو الوقت. وعلشان نقرر: نشيل كل اللي أقدم من تانية، ونعدّ الباقي. وكل ده في Lua علشان يبقى atomic. ونفس التجربة بالزبط. نشغّل.

main.js
import Redis from "ioredis";

const redis = new Redis(process.env.REDIS_URL);
await redis.flushall();
const sleep = (ms) => new Promise((r) => setTimeout(r, ms));

// sliding window log: كل request بالوقت بتاعه في sorted set، وبنعدّ آخر ثانية بالزبط
redis.defineCommand("slidingLog", {
  numberOfKeys: 1,
  lua: `
    local now = tonumber(ARGV[1])
    local window = tonumber(ARGV[2])
    local limit = tonumber(ARGV[3])
    redis.call('ZREMRANGEBYSCORE', KEYS[1], 0, now - window)
    if redis.call('ZCARD', KEYS[1]) >= limit then return 0 end
    redis.call('ZADD', KEYS[1], now, ARGV[4])
    redis.call('PEXPIRE', KEYS[1], window)
    return 1
  `,
});

let id = 0;
const hit = (user) => redis.slidingLog(`rl:log:${user}`, Date.now(), 1000, 5, `${Date.now()}-${id++}`);

await sleep(1000 - (Date.now() % 1000) - 50);
const first = await Promise.all(Array.from({ length: 5 }, () => hit("mona")));
await sleep(100);
const second = await Promise.all(Array.from({ length: 5 }, () => hit("mona")));
console.log("اتقبل:", [...first, ...second].filter((x) => x === 1).length);
await sleep(1000);
console.log("بعد تانية:", await hit("mona"));
redis.disconnect();

المخرجات

$ node main.js
اتقبل: 5
بعد تانية: 1

اتقبل خمسة بس، والخمسة التانيين اترفضوا لأن آخر تانية بالزبط فيها خمسة. وبعد تانية: واحد، مسموح تاني. الـ sliding log دقيق، بس بيخزن كل request، فلو الحد ألف في الدقيقة لمليون مستخدم، ده كتير. الحل الوسط والأشهر: token bucket، وهو التحدي.

الـ token bucket: كل مستخدم عنده جردل فيه tokens، سعته خمسة مسلًا. كل request بياخد token. والجردل بيتملى بمعدل تابت، اتنين token في التانية. فالمستخدم يقدر يعمل burst خمسة مرة واحدة، وبعدين اتنين في التانية بس. والجميل إنه بيخزن رقمين بس لكل مستخدم: عدد الـ tokens، وآخر وقت اتحسب فيه. ولما تعمل الـ key، استخدم الـ user id لو مسجل، وإلا الـ IP. وخد بالك إن ورا proxy أو load balancer، لازم تزبط trust proxy في Express، وإلا كل الناس هيبقوا IP واحد. التحدي: token bucket كـ middleware. script في Lua بيحسب الـ tokens اللي اتملت من آخر مرة، وياخد واحد لو فيه. middleware بيرد four twenty nine ومعاه Retry-After. و headers فيها الحد والباقي. حالات الاختبار في الكومنت.

تمرين

Lua tokenBucket: HMGET tokens/ts، refill = (now - ts)/1000 × rate بحد capacity، token ← {1, remaining}، غير كده {0, 0, wait}. middleware بـ 429 و Retry-After، و rateLimit(5, 2).

الحل. Lua: نقرا الحالة، ولو مش موجودة الجردل مليان. نزوّد اللي اتملى من آخر مرة، بحد السعة. لو فيه token: ناخده. غير كده: نحسب نستنى قد إيه. ونكتب الحالة. والـ middleware: الـ key بالـ X-User أو الـ IP، والـ headers، و four twenty nine. وتحت: سبع requests من mona، وواحد من omar، وبعد تانية تلاتة كمان. نشغّل.

main.js
import express from "express";
import Redis from "ioredis";

const redis = new Redis(process.env.REDIS_URL);
await redis.flushall();
const app = express();


redis.defineCommand("tokenBucket", {
  numberOfKeys: 1,
  lua: `
    local now = tonumber(ARGV[1])
    local capacity = tonumber(ARGV[2])
    local refill = tonumber(ARGV[3])
    local state = redis.call('HMGET', KEYS[1], 'tokens', 'ts')
    local tokens = tonumber(state[1]) or capacity
    local ts = tonumber(state[2]) or now
    tokens = math.min(capacity, tokens + (now - ts) / 1000 * refill)
    local allowed = 0
    local wait = 0
    if tokens >= 1 then
      tokens = tokens - 1
      allowed = 1
    else
      wait = math.ceil((1 - tokens) / refill * 1000)
    end
    redis.call('HSET', KEYS[1], 'tokens', tokens, 'ts', now)
    redis.call('PEXPIRE', KEYS[1], 10000)
    return {allowed, math.floor(tokens), wait}
  `,
});

function rateLimit(capacity, refill) {
  return async (req, res, next) => {
    const who = req.get("X-User") ?? req.ip;
    const [allowed, remaining, wait] = await redis.tokenBucket(`rl:tb:${who}`, Date.now(), capacity, refill);
    res.set("RateLimit-Limit", String(capacity));
    if (allowed === 1) {
      res.set("RateLimit-Remaining", String(remaining));
      return next();
    }
    res.set("Retry-After", String(Math.ceil(wait / 1000)));
    res.status(429).json({ error: "كتير، استنى شوية" });
  };
}

app.get("/api/data", rateLimit(5, 2), (req, res) => res.json({ ok: true }));

const server = app.listen(3000, async () => {
  const call = (user) => fetch("http://localhost:3000/api/data", { headers: { "X-User": user } });
  const first = [];
  for (let i = 0; i < 7; i++) first.push(await call("mona"));
  console.log("mona:", first.map((r) => r.status).join(" "), "| retry-after:", first[6].headers.get("retry-after"));
  console.log("omar:", (await call("omar")).status);
  await new Promise((r) => setTimeout(r, 1100));
  const later = [];
  for (let i = 0; i < 3; i++) later.push((await call("mona")).status);
  console.log("mona بعد 1100ms:", later.join(" "));
  server.close();
  redis.disconnect();
});

المخرجات

$ node main.js
mona: 200 200 200 200 200 429 429 | retry-after: 1
omar: 200
mona بعد 1100ms: 200 200 429

mona: خمسة two hundred، واتنين four twenty nine، و retry-after واحد. omar: two hundred، جردل لوحده. وبعد تانية وشوية: mona خدت اتنين، والتالت اترفض، لأن الجردل اتملى اتنين بس. الدرس الجاي: الـ sessions في Redis.

03 / دروس المسار (122)
  1. 01أهلًا بيك: يعني إيه backend، والكورس ده ماشي إزاي
  2. 02الملفات والفولدرات والـ terminal: تتحرك على جهازك زي المبرمجين
  3. 03Node وأول برنامج: تشغّل وتقرا رسالة الخطأ
  4. 04القيم والمتغيرات والأنواع: const و let و typeof
  5. 05القرارات والتكرار: if و === والـ truthy والـ loops
  6. 06الـ functions: parameters و return والـ arrow functions والـ scope
  7. 07الـ objects والـ arrays: destructuring و spread و map و filter و reduce
  8. 08JSON والنصوص والتواريخ: اللغة اللي الـ backend بيتكلم بيها
  9. 09الـ callbacks والـ closures وأول لمسة async: setTimeout
  10. 10الـ classes والـ errors: throw و try/catch و stack trace
  11. 11git: تحفَظ كل خطوة وترجعلها، وما تسرّبش أسرارك
  12. 12ESM و CommonJS و package exports: Node بيلاقي الـ modules إزاي
  13. 13الـ Promises و async/await: sequential و parallel والأخطاء والإلغاء
  14. 14الـ event loop والـ microtasks: Node بيعمل كل حاجة بـ thread واحد إزاي
  15. 15الـ Streams والـ Backpressure: ملفات أكبر من الـ memory
  16. 16الـ File System والـ paths: قراية وكتابة صح، ومن غير path traversal
  17. 17الـ Buffers والبيانات الـ binary: الـ bytes من جُوّه
  18. 18Crypto APIs والأسرار: random و hash و HMAC و AES-GCM
  19. 19الـ Worker Threads: شغل CPU تقيل من غير ما توقف الـ server
  20. 20الـ Errors على مستوى الـ process: operational و programmer و crash-only
  21. 21الـ Node test runner والـ debugging: tests من غير مكتبات
  22. 22HTTP من جُوّه: الـ methods والـ status codes والـ headers
  23. 23Express والـ Routing: الـ params والـ query والترتيب والـ Router
  24. 24Express 5: إيه اللي اتغيّر، وإزاي تنقل مشروع قديم
  25. 25الـ Middleware ودورة حياة الـ request جُوّه Express
  26. 26Validation للمدخلات بـ Zod: ما تصدّقش أي حاجة جاية من برة
  27. 27تصنيف الأخطاء و Problem Details: شكل واحد لكل الـ errors
  28. 28الـ CORS والـ Cookies: المتصفح بيحمي المستخدم إزاي
  29. 29رفع الملفات وحدود الحجم: multer من غير ثغرات
  30. 30الـ Realtime: Server-Sent Events و WebSockets
  31. 31OpenAPI والـ API Versioning: عقد مكتوب، وتغيير من غير ما تكسر حد
  32. 32PostgreSQL: الـ DDL وأنواع البيانات الصح لكل عمود
  33. 33الـ Constraints: PK و FK و UNIQUE و CHECK — الـ database بتحمي نفسها
  34. 34الـ Normalization والـ ERD: تقسّم البيانات صح من أول يوم
  35. 35الـ JOINs والتجميع: INNER و LEFT و GROUP BY و HAVING و window functions
  36. 36JSONB في PostgreSQL: إمتى تستخدمه، وإزاي تسأله وتعمله index
  37. 37الـ Indexes من جُوّه: B-tree و GIN و BRIN
  38. 38Partial و Covering indexes: indexes أصغر وأسرع
  39. 39الـ Pagination بالـ Keyset: ليه OFFSET بيبطّأ وبيكرر
  40. 40Full Text Search في Postgres: بحث بالكلمات، بالعربي والإنجليزي
  41. 41EXPLAIN ANALYZE والـ Planner: اقرا الـ plan وصلّح الـ query
  42. 42الـ Transactions بـ node-postgres: كله أو ولا حاجة
  43. 43الـ MVCC ومستويات الـ Isolation: transactions كتير في نفس الوقت
  44. 44الـ Locks والـ Deadlocks: مين مستني مين
  45. 45SKIP LOCKED و Job Leasing: Postgres كـ job queue
  46. 46Row Level Security والـ Multi-tenancy: كل عميل يشوف بياناته بس
  47. 47Migrations من غير downtime: expand و backfill و contract
  48. 48الـ Replication والـ Read Replicas: نسخ حية من الـ database
  49. 49الـ Connection Pooling و PgBouncer: connections أقل، requests أكتر
  50. 50الـ Partitioning والـ VACUUM والمراقبة: Postgres على المدى الطويل
  51. 51Redis وأنواع البيانات: strings و hashes و lists و sets و sorted sets
  52. 52Cache-aside والـ TTL: Redis قدام الـ database
  53. 53الـ Cache invalidation والـ Stampede: لما الـ key الشهير يموت
  54. 54Lua والـ Atomicity في Redis: كام أمر كأنهم أمر واحد
  55. 55الـ Rate Limiting في Redis: fixed window و sliding window و token bucketانت هنا
  56. 56الـ Sessions في Redis: تسجيل دخول تقدر تلغيه في أي وقت
  57. 57Redis Streams والـ Consumer Groups: log بيتوزع على workers
  58. 58Pub/Sub و BullMQ: إشارات بين الـ instances، وطوابير شغل محترمة
  59. 59Redis لما يقع: الـ persistence (RDB و AOF) والـ replication
  60. 60Redis في الإنتاج: الـ ACLs والـ Cluster والمراقبة
  61. 61تخزين الـ Passwords بـ Argon2id: صح من أول مرة
  62. 62Session Fixation والـ Rotation: id جديد مع كل صلاحية جديدة
  63. 63الـ Cookie Flags والـ CSRF: المتصفح بيبعت الـ cookie، فلازم تتأكد مين اللي طلب
  64. 64الـ XSS والـ Content Security Policy: ما تخليش النص يتحوّل لـ code
  65. 65الـ OAuth و OpenID Connect و PKCE: login بـ Google من غير ما تشوف الـ password
  66. 66التأكد من الـ JWT صح: التوقيع والـ claims والـ scopes
  67. 67الـ BOLA و BFLA: الـ token السليم مش معناه إن الطلب مسموح
  68. 68الـ RBAC و ABAC والملكية: policy واحدة بدل ifs متفرقة
  69. 69الـ MFA والـ recovery: التاني factor اللي بجد
  70. 70الـ Passkeys و WebAuthn: login من غير password وضد الـ phishing
  71. 71الـ Threat Modeling بـ STRIDE: فكّر زي المهاجم قبل ما تكتب code
  72. 72الـ SQL Injection والـ Parameterization: الـ data ما تبقاش code
  73. 73الـ SSRF والـ Egress: ما تخليش الـ server بتاعك يزور الشبكة الداخلية
  74. 74الـ Security Headers والـ TLS: كل response يقول للـ browser يحمي المستخدم إزاي
  75. 75توقيع الـ Webhooks والـ Replay: الـ webhook ده جاي فعلًا من Stripe؟
  76. 76تغيير الأسرار والـ HMAC: إزاي تغيّر مفتاح من غير ما كل حاجة تقع
  77. 77سلسلة التوريد والـ SBOM: إنت واثق في ألف package ما تعرفهمش؟
  78. 78الـ Audit والـ Privacy Logs: سجّل مين عمل إيه، من غير ما تسجّل الأسرار
  79. 79اختبار الأمان و OWASP ASVS: الأمن جُوّه الـ CI، مش audit آخر السنة
  80. 80الـ Prototype Pollution والـ Resource DoS: request واحد يخلّي الكل admin أو يوقّع الـ server
  81. 81الـ SLI والـ SLO والـ Error Budget: إمتى تصحّي الـ on-call وإمتى تسيبه نايم
  82. 82الـ Event Loop Delay والـ ELU: لما Node نفسه يتخنق
  83. 83الـ Worker Threads والـ CPU Profiling: الشغل التقيل بره الـ event loop، والوقت راح فين
  84. 84الـ Memory والـ GC والـ Leaks: الـ process اللي بيكبر لحد ما يقع
  85. 85الـ N+1 Queries والـ DataLoader: صفحة واحدة بمِيّتين query
  86. 86الـ HTTP Caching والـ Compression: أسرع request هو اللي ما بيوصلش
  87. 87الـ Load Testing والـ Soak Testing: الـ server بيستحمل قد إيه بجد
  88. 88الـ Concurrency Limits والـ Bulkheads: dependency بطيئة ما توقعش الـ app كله
  89. 89الـ Timeouts والـ Retries والـ Circuit Breakers: إزاي تتعامل مع dependency بطيئة أو واقعة
  90. 90OpenTelemetry والـ Distributed Tracing: الـ request راح فين وضاع وقته فين
  91. 91Docker Layers والـ Build Context: ليه الـ build بياخد دقيقة وفيه الـ .env بتاعك
  92. 92Multi-stage Builds و Non-root: image صغيرة ومن غير root
  93. 93Docker Compose والـ Networks: الـ services بتلاقي بعض إزاي
  94. 94Docker Volumes: الـ data بتتحفَظ فين
  95. 95Healthcheck و Restart و Resource Limits: running مش معناها شغّال
  96. 96BuildKit والـ Build Secrets: الـ token ما يدخلش الـ image
  97. 97Reverse Proxy و TLS: اللي واقف قدام الـ app
  98. 98Multi-arch Images والـ Native Modules: اشتغلت عندي
  99. 99CI/CD و Rollback و Canary: الـ deploy يبقى ممل
  100. 100Kubernetes من الأول: Pods و Deployments و Services و Probes
  101. 101Modular Monolith و DDD: حدود واضحة من غير network
  102. 102Transactional Outbox و Inbox: الـ event ما يضيعش وما يتنفذش مرتين
  103. 103Sagas: عملية واحدة على تلات services من غير transaction واحدة
  104. 104CQRS و Event Sourcing: الـ events هي الحقيقة
  105. 105الـ Queues والـ Brokers: BullMQ و RabbitMQ و Kafka و SQS
  106. 106Realtime على أكتر من instance: Redis pub/sub و presence و resume
  107. 107الـ Object Storage والـ Media: presigned URLs و uploads مباشرة
  108. 108التكامل مع الـ Email والـ Search: retries و webhooks و indexes
  109. 109GraphQL و gRPC في الإنتاج: contracts و DataLoader و limits و deadlines
  110. 110Kafka على أكتر من zone و region: الـ replication والـ ISR والـ acks والـ MirrorMaker والـ failover
  111. 111TypeScript و runtime boundaries: الـ types بتختفي، والـ schemas لأ
  112. 112ORM ولا SQL: query builders و repositories و migrations و transactions
  113. 113الـ Serverless من جُوّه: cold starts و freeze و timeouts و connections
  114. 114الـ Testing Pyramid: unit و integration و e2e على Postgres حقيقية
  115. 115Contract Testing و Property-Based Testing بـ fast-check
  116. 116الـ Payments: idempotency و webhooks و refunds و reconciliation
  117. 117الـ Timezones والـ Internationalization: UTC و DST والـ locales والـ plurals والفلوس
  118. 118الـ Privacy والـ Data Retention: consent و export و erasure و crypto shredding
  119. 119الـ ADRs والـ Feature Flags: القرارات المكتوبة والـ rollout من غير deploy
  120. 120Multi-region active-active: حل الـ conflicts بـ HLC و CRDTs
  121. 121Readiness و Liveness و Startup Probes: الـ pod جاهز ولا عايش؟
  122. 122Incident Runbooks: من الـ alert للـ postmortem