Cache-aside والـ TTL: Redis قدام الـ database

01 / ملخص الدرس

نمط الـ cache-aside: اسأل Redis، ولو miss هات من Postgres وخزّن بـ TTL. الفرق في الزمن (HIT مقابل MISS)، والـ stale data لما تعدّل من غير ما تمسح، والحل بـ DEL بعد الكتابة. تصميم الـ keys و JSON، و TTL بـ jitter علشان الـ keys ما تموتش مع بعض، و negative caching للحاجات المش موجودة، وما تخزّنش الـ errors.

ضمن مسارباك إند Node.js للإنتاج — من تحت الصفر52 / 122

02 / شرح الدرس مكتوبًا

نص شرح المعلم والكود الذي كتبه ونتيجة تشغيله، بنفس ترتيب الدرس.

أهلًا بيك. صفحة الكورس بتتفتح آلاف المرات في الدقيقة، وكل مرة query تقيلة بتاخد مِيتين millisecond. بس بيانات الكورس بتتغيّر كام مرة في اليوم بس. الـ cache: تحفَظ النتيجة في Redis، والمرة الجاية تجيبها من هناك. والنمط الأشهر اسمه cache-aside: اسأل Redis الأول. لو موجودة، ده HIT، رجّعها. لو مش موجودة، ده MISS: هات من الـ database، وخزّنها في Redis بـ TTL، ورجّعها. و db dot js فيه loadCourse بـ pg_sleep علشان تبقى بطيئة زي الحقيقة. نشغّل: نطلب الكورس مرتين، وبعدين نعدّل عدد الطلبة، ونطلب تاني.

server.js

import express from "express";
import { pool, redis, setup, loadCourse } from "./db.js";

await setup();
const app = express();
app.use(express.json());

// cache-aside: اسأل الـ cache الأول، ولو مش موجود هات من الـ DB وحطه
app.get("/courses/:id", async (req, res) => {
  const t0 = performance.now();
  const key = `course:${req.params.id}`;
  const hit = await redis.get(key);
  let course;
  if (hit) {
    course = JSON.parse(hit);
    res.set("X-Cache", "HIT");
  } else {
    course = await loadCourse(Number(req.params.id));
    await redis.set(key, JSON.stringify(course), "EX", 60);
    res.set("X-Cache", "MISS");
  }
  res.set("X-Time", performance.now() - t0 > 100 ? "slow" : "fast");
  res.json(course);
});

// ❌ تعديل من غير ما نلمس الـ cache
app.put("/courses/:id", async (req, res) => {
  await pool.query("UPDATE courses SET students = $1 WHERE id = $2", [req.body.students, req.params.id]);
  res.json({ ok: true });
});

app.listen(3000, () => console.log("http://localhost:3000"));

المخرجات

$ node server.js
http://localhost:3000

→ GET /courses/1
← 200 OK
  connection: keep-alive
  content-length: 42
  content-type: application/json; charset=utf-8
  etag: W/"2a-KvIWMEH+FV50morF9i46P4MYHJ4"
  keep-alive: timeout=5
  x-cache: MISS
  x-powered-by: Express
  x-time: slow
{
  "id": 1,
  "title": "Node.js",
  "students": 1200
}

→ GET /courses/1
← 200 OK
  connection: keep-alive
  content-length: 42
  content-type: application/json; charset=utf-8
  etag: W/"2a-KvIWMEH+FV50morF9i46P4MYHJ4"
  keep-alive: timeout=5
  x-cache: HIT
  x-powered-by: Express
  x-time: fast
{
  "id": 1,
  "title": "Node.js",
  "students": 1200
}

→ PUT /courses/1
  {"students":5000}
← 200 OK
{
  "ok": true
}

→ GET /courses/1
← 200 OK
{
  "id": 1,
  "title": "Node.js",
  "students": 1200
}

أول مرة: MISS و slow. تاني مرة: HIT و fast، من Redis. بعد التعديل لخمس آلاف: لسه شايفين ألف ومتين! ده اسمه stale cache: الـ database اتغيّرت، والـ cache فاكر القديم لحد ما الـ TTL يخلص، دقيقة كاملة. والحل الأبسط: بعد أي كتابة، امسح الـ key. الـ PUT بقى بيعمل DEL للـ key بعد الـ UPDATE. نشغّل نفس الخطوات.

server.js

import express from "express";
import { pool, redis, setup, loadCourse } from "./db.js";

await setup();
const app = express();
app.use(express.json());

// cache-aside: اسأل الـ cache الأول، ولو مش موجود هات من الـ DB وحطه
app.get("/courses/:id", async (req, res) => {
  const t0 = performance.now();
  const key = `course:${req.params.id}`;
  const hit = await redis.get(key);
  let course;
  if (hit) {
    course = JSON.parse(hit);
    res.set("X-Cache", "HIT");
  } else {
    course = await loadCourse(Number(req.params.id));
    await redis.set(key, JSON.stringify(course), "EX", 60);
    res.set("X-Cache", "MISS");
  }
  res.set("X-Time", performance.now() - t0 > 100 ? "slow" : "fast");
  res.json(course);
});

// ✅ بعد أي تعديل: امسح الـ key (والقراية الجاية هتجيبه جديد)
app.put("/courses/:id", async (req, res) => {
  await pool.query("UPDATE courses SET students = $1 WHERE id = $2", [req.body.students, req.params.id]);
  await redis.del(`course:${req.params.id}`);
  res.json({ ok: true });
});

app.listen(3000, () => console.log("http://localhost:3000"));

المخرجات

$ node server.js
http://localhost:3000

→ GET /courses/1
← 200 OK
{
  "id": 1,
  "title": "Node.js",
  "students": 1200
}

→ PUT /courses/1
  {"students":5000}
← 200 OK
{
  "ok": true
}

→ GET /courses/1
← 200 OK
  connection: keep-alive
  content-length: 42
  content-type: application/json; charset=utf-8
  etag: W/"2a-tm6XY/qWqzuhkXJfDhbeCFTBVdk"
  keep-alive: timeout=5
  x-cache: MISS
  x-powered-by: Express
  x-time: slow
{
  "id": 1,
  "title": "Node.js",
  "students": 5000
}

بعد التعديل: MISS، وجاب الخمس آلاف. ليه نمسح بدل ما نكتب القيمة الجديدة في الـ cache على طول؟ لأن لو اتنين بيعدّلوا مع بعض، ممكن القديم يكتب في الـ cache بعد الجديد، فيفضل غلط لحد الـ TTL. المسح أأمن: القراية الجاية بتجيب الحقيقة. تفصيلتين بيفرقوا في الإنتاج. الـ jitter: لو عملت cache لألف key بنفس الـ TTL في نفس الوقت، هيموتوا كلهم مع بعض، والـ database تاخد ألف query مرة واحدة. فبتزوّد على الـ TTL رقم عشوائي صغير. الـ negative caching: bot بيطلب ids مش موجودة، كل واحد MISS، وكل واحد query. فبتخزّن مش موجود نفسه بـ TTL قصير. التحدي: helper اسمه cached. بياخد key و TTL و function بتجيب البيانات. HIT أو MISS. jitter على الـ TTL. negative caching لـ null بعشر تواني. وما يخزنش لو الـ loader رمى error. و endpoint للإحصائيات بعدد الـ DB calls. حالات الاختبار في الكومنت.

تمرين

cached(key, ttl, loader): redis.get ← HIT، غير كده loader (dbCalls++)، null ← SET "null" EX 10، غير كده SET EX ttl + jitter 10%. والـ PUT يمسح الـ key.

الحل. hit مش null: parse ورجّع. غير كده: نزوّد العداد، ونشغّل الـ loader. ولو رمى، الـ error بيطلع من غير ما نخزن حاجة. null: نخزنه عشر تواني. غير كده: TTL زايد jitter لحد عشرة في المِيّة. والـ routes بتستخدمها. نشغّل.

server.js

import express from "express";
import { pool, redis, setup, loadCourse } from "./db.js";

await setup();
const app = express();
app.use(express.json());
let dbCalls = 0;


async function cached(key, ttlSeconds, loader) {
  const hit = await redis.get(key);
  if (hit !== null) return { value: JSON.parse(hit), hit: true };
  dbCalls++;
  const value = await loader();
  if (value === null) {
    await redis.set(key, "null", "EX", 10);
  } else {
    const ttl = ttlSeconds + Math.floor(Math.random() * ttlSeconds * 0.1);
    await redis.set(key, JSON.stringify(value), "EX", ttl);
  }
  return { value, hit: false };
}

app.get("/courses/:id", async (req, res) => {
  const id = Number(req.params.id);
  const { value, hit } = await cached(`course:${id}`, 60, () => loadCourse(id));
  res.set("X-Cache", hit ? "HIT" : "MISS");
  if (!value) return res.status(404).json({ error: "مش موجود" });
  res.json(value);
});

app.put("/courses/:id", async (req, res) => {
  await pool.query("UPDATE courses SET students = $1 WHERE id = $2", [req.body.students, req.params.id]);
  await redis.del(`course:${req.params.id}`);
  res.json({ ok: true });
});

app.get("/stats", async (req, res) => res.json({ dbCalls, ttl: await redis.ttl("course:1") }));

app.listen(3000, () => console.log("http://localhost:3000"));

المخرجات

$ node server.js
http://localhost:3000

→ GET /courses/1
← 200 OK
  connection: keep-alive
  content-length: 42
  content-type: application/json; charset=utf-8
  etag: W/"2a-KvIWMEH+FV50morF9i46P4MYHJ4"
  keep-alive: timeout=5
  x-cache: MISS
  x-powered-by: Express
{
  "id": 1,
  "title": "Node.js",
  "students": 1200
}

→ GET /courses/1
← 200 OK
  connection: keep-alive
  content-length: 42
  content-type: application/json; charset=utf-8
  etag: W/"2a-KvIWMEH+FV50morF9i46P4MYHJ4"
  keep-alive: timeout=5
  x-cache: HIT
  x-powered-by: Express
{
  "id": 1,
  "title": "Node.js",
  "students": 1200
}

→ GET /courses/99
← 404 Not Found
  connection: keep-alive
  content-length: 27
  content-type: application/json; charset=utf-8
  etag: W/"1b-oYJzr4ap9pGeZ/Qdq+k1O2t9kwk"
  keep-alive: timeout=5
  x-cache: MISS
  x-powered-by: Express
{
  "error": "مش موجود"
}

→ GET /courses/99
← 404 Not Found
  connection: keep-alive
  content-length: 27
  content-type: application/json; charset=utf-8
  etag: W/"1b-oYJzr4ap9pGeZ/Qdq+k1O2t9kwk"
  keep-alive: timeout=5
  x-cache: HIT
  x-powered-by: Express
{
  "error": "مش موجود"
}

→ PUT /courses/1
  {"students":5000}
← 200 OK
{
  "ok": true
}

→ GET 
…

واحد: MISS وبعدين HIT. تسعة وتسعين: four oh four MISS، وبعدين four oh four HIT من غير database. بعد التعديل: MISS بالجديد. و dbCalls تلاتة بس، والـ TTL بين ستين وستة وستين. الدرس الجاي: لما الـ key الشهير يموت، وآلاف requests تضرب الـ database في نفس الوقت: الـ cache stampede.

03 / دروس المسار (122)