Tốc độ nhanh nhất trên thị trường của con chip bộ đệm thứ ba là 3ns hay cao hơn, nghĩa là tốc độ 333MHz hay ít hơn.
Do bộ xử lý bị lái tốc độ như trên, điển hình là Pentium II và Pentium III, đầu tiên Intel phải giảm bộ đệm L2 xuống bằng nửa tốc độ bộ xử lý bởi vì đó là tất cả mà bộ nhớ bộ đệm giá trị thương mại có khả năng.
AMD bắt chước với bộ xử lý Athlon, trong đó hạ tốc độ bộ đệm L2 thậm chí thấp hơn một số sản phẩm khác đến hai phần năm hoặc một phần ba tốc độ CPU chính để giữ tốc độ bộ nhớ bộ đệm ít hơn những con chip thương mại 333MHz.
Bước đột phá xuất hiện
Ở các bộ xử lý Celeron 300A và cao hơn, chúng có 128KB bộ đệm L2, nhưng không có những chip ngoài được dùng. Thay vì vậy, bộ đệm L2 được tích hợp trực tiếp vào nhân bộ xử lý giống như L1. Do đó, cả hai bộ nhớ đệm L1 và L2 chạy ở tốc độ bộ xử lý đầy đủ, việc tăng cường tốc độ khá quan trọng khi các tốc độ bộ xử lý được gia tăng trong tương lai.
Ở bộ xử lý Pentium III, cũng như tất cả các bộ xử lý Xeon và Celeron, bộ nhớ đệm L2 chạy ở tốc độ nhân bộ xử lý, nghĩa là không phải chờ đợi hay chậm xuống sau khi một LI cache miss. AMD cũng đạt bộ đệm trên khuôn tốc độ nhân trong các chip Athlon và Duron sau này. Dùng bộ nhớ đệm trên khuôn cải tiến tốc độ đáng kể bởi vì 9% thời gian hệ thống dùng L2, nó giữ nguyên tốc độ đủ thay vì chậm xuống phân nửa hay ít hơn tốc độ bộ xử lý hay, tệ hơn là, chậm xuống bằng tốc độ bo mạch như các thiết kế Socket 7. Lợi thế khác của bộ đệm L2 trên khuôn là chi phí, thấp hơn bởi vì linh kiện ít hơn.
Dễ hiểu hơn với tình huống thực tế
Giả sử bạn đang ở trong một nhà hàng dùng bộ xử lý Pentium 4 3.6GHz. Bây giờ, mỗi miếng cắn sẽ mất nửa giây (3.6GHz = 0.28ns tính theo chu kỳ). Bộ đệm L1 cũng đang chạy ở tốc độ này, nên bạn có thể ăn bất kỳ món ăn nào khác trên bàn cùng tốc độ này (bàn ăn = bộ đệm Ll). Bước nhảy thực trong tốc độ đến khi bạn muốn món ăn không có sẵn trên bàn (LI cache miss), trong trường hợp này người hầu bàn sẽ tìm qua xe đẩy (hiện giờ gần kề bàn ăn) và chín trong mười lần có thể tìm thấy món ăn bạn muốn trong chỉ một phần tư giây (Tốc độ L2 = 3.6GHz hay 0.28ns theo chu kỳ). Trong hệ thống khá hiện đại này, chỉ chạy 3.6GHz 99% thời gian (các tỉ lệ đọc L1 và L2 được kết hợp) và tốc độ RAM (chờ nhà bếp) chậm lại chỉ là 1% – khá nhanh so với thời gian như trước kia. Với bộ nhớ nhanh hơn 800MHz (1,25ns), bạn sẽ phải chờ chỉ 1.25 giây cho món ăn đến từ nhà bếp. Nếu tốc độ nhà hàng gia tăng cùng tốc độ bộ xử lý!
