Bộ nhớ Cache là bộ nhớ tốc độ cao có sẵn trong CPU với mục đích tăng tốc độ truy cập dữ liệu và những lệnh lưu trữ trong bộ nhớ RAM . Trong bài này chúng tôi giải thích nó làm việc như thế nào một cách dễ hiểu nhất .

 Máy tính hoàn toàn là đồ vứt đi nếu bạn không nói cho bộ vi xử lí ( CPU ) biết phải làm cái gì . Điều đó được thực hiện thông quan chương trình , trong đó có chữa danh sách những lệnh nói cho CPU biết phải làm những gì .

 CPU lấy những chương trình từ bộ nhớ RAM . Vấn đề với bộ nhớ RAM khi mà nguồn điện bị mất thì nội dung chứa bên trong nó bị mất – bộ nhớ RAM loại này hay cồn gọi là “Volatile” . Như vậy những chương trình và dữ liệu phải được lưu trữ trong những bộ nhớ kiểu Non-Volatile ( có nghĩa là nội dung chứa trong đó không bị mất khi bạn tắt nguồn điện ) như là ổ đĩa cứng , đĩa quang ( CDROM , DVD ROM ... ) .

 Khi bạn bấm đúp vào một Icon trong Windows để chạy chương trình , thông thường chương trình được lưu trữ trên ổ cứng của máy tính , nó sẽ được tải vào bộ nhớ RAM , và sau đó từ bộ nhớ RAM CPU tải chương trình qua mạch gọi là Bộ phận điều khiển bộ nhớ , mà nằm bên trong Chipset ( NorthBride ) với những bộ vi xử lí Intel hoặc bên trong CPU với những bộ vi xử lí của AMD .

Hình 1 : Dữ liệu lưu trữ được truyền tới CPU như thế nào

 CPU không thể lấy dữ liệu trực tiếp từ những ổ đĩa cứng bởi vì chúng quá chậm , thậm trí ngay cả đối với những ổ cứng nhanh nhất hiện nay . Ngay bầy giờ cung cấp cho các bạn về khái niệm này như ổ đĩa cứng SATA 300  – kiểu ổ đĩa thông thường nhanh nhất hiện nay có khả năng truyền tốc độ dữ liệu là 300MB/s . Với một CPU chạy với tốc độ xung nhịp bên trong là 2GHz ví dụ với độ rộng đường dữ liệu bên trong là 64-bit thì tốc độ truyền dữ liệu bên trong là 16GB/s – gấp hơn 50 lần .

 Sự khác nhau về tốc độ chính là ở chỗ ổ đĩa cứng thông dụng hiện nay là những hệ thống thống cơ khí , chậm hơn rất nhiều so với những hệ thống điện tử .

 Và có vấn đề nữa xảy ra chính là bộ nhớ RAM nhanh nhất hiện nay không nhanh bằng tốc độ xử lí của CPU . Nếu có bộ nhớ DDR2-800 , có tốc độ truyền dữ liệu 6400MB/s tới 128000 MB/s nếu dùng với cấu hình Dual-Channel . Thậm trí mặc dù số này cũng gần bằng với tốc độ 16GB/s như ví dụ đã đề cập trước đó thì những CPU hiện nay có khả năng lấy trước dữ liệu từ bộ nhớ Cache L2 có độ rộng 128 hoặc 256-bit thì lúc đó chúng ta có tốc độ 32GB/s hoặc 64GB/s với CPU làm việc với tốc độ bên trong là 2GHz . Chúng tôi sẽ nói tới bộ nhớ Cache L2 sau này , nhưng nói tóm lại đó là những ví dụ để cho thấy bộ nhớ RAM có tốc độ chậm hơn CPU .

Tốc độ truyền dữ liệu được tính theo công thức

Tốc độ truyền = Độ rộng Bus nhớ x Tốc độ xung nhịp x Số dữ liệu truyền trong một chu kì xung nhịp / 8

Một vấn đề tiếp theo không chỉ liên quan tới tốc độ truyền dữ liệu mà chính là thời gian trễ . Thời gian trễ ( hay còn gọi là thời gian truy cập – Latency ) là thời gian bao lâu mà bộ nhớ trì hoãn cung cấp dữ liệu lại với những yêu cầu của CPU – điều đó có nghĩa là không phải xảy ra ngay lập tức . Khi CPU yêu cầu lệnh hoặc dữ liệu mà lưu trữ tại một địa chỉ xác định , thì bộ nhớ sẽ trì hoãn một thời gian nào đó để cung cấp quay trở lại lệnh hoặc dữ liệu . Với bộ nhớ hiện thời , nếu trên nhãn có ghi là CL ( CAS Latency ) là 5 , thì có nghĩa là bộ nhớ sẽ cấp phát dữ liệu yêu cầu sau 5 chu kì xung nhịp của bộ nhớ - điều này có nghĩa là CPU sẽ phải chờ .

 Việc chờ đợi sẽ làm giảm hiệu suất hoạt động của CPU . Nếu CPU phải chờ 5 chu kì xung nhịp của bộ nhớ để nhận lệnh hoặc dữ liệu nó yêu cầu thì hiệu suất làm việc của nó chỉ bằng 1/5 hiệu suất làm việc với bộ nhớ mà cung cấp dữ liệu yêu cầu ngay lập tức . Nói một cách khác , khi truy cập bộ nhớ DDR2-800 với CL5 thì hiệu suất làm việc của CPU nhận được bằng với tốc độ 160MHz ( 800 MHz / 5 ) . Trên thực tế hiệu suất làm việc không giảm nhiều đến như vậy bởi vì bộ nhớ có kiểu làm việc gọi là “Burst Mode” . Với kiểu “Burst Mode” thì dữ liệu thứ hai trong luồng dữ liệu được cấp phát ngay lập tức nếu nó được lưu trữ theo địa chỉ kề nhau ( thông thường những lệnh của chương trình được lưu trữ theo những địa chỉ liên tiếp .

 Ví dụ với bộ nhớ có ghi 5-1-1-1 thì có nghĩa là dữ liệu đầu tiên được cấp phát sau 5 chu kì xung nhịp của bộ nhớ và từ dữ liệu thứ hai trong luồng dữ liệu sẽ được cấp phát chỉ với 1 chu kì xung nhịp – nếu nó lưu trữ theo địa chỉ liền kề .

 RAM động và RAM tĩnh

  Có hai kiểu RAM cho bộ nhớ hiện nay : động ( Dynamic RAM – DRAM ) và tĩnh ( Static RAM – SRAM ) . Bộ nhớ RAM dùng cắm trên Motherboard hiện nay là RAM động . Kiểu bộ nhớ này mỗi Bit dữ liệu được lưu trữ trong Chip nhớ trong tụ điện nhỏ . Những tụ điện này là những linh kiện rất nhỏ , nghĩa là hàng triệu tụ điện trên một vùng có diện tích nhỏ - gọi là mật độ cao . Những tụ điện này sẽ mất điện tích trong một thời gian nào đó , có nghĩa là dữ liệu lưu trong đó bị mất , vì thế bộ nhớ động cần một quá trình nạp lại điện gọi là Refresh , mà thường xảy ra liên tục theo mỗi chu kì nhất định . Trong thời gian Refresh dữ liệu không có thể Đọc hoặc Ghi được . Bộ nhớ động rẻ hơn bộ nhớ tĩnh và mức độ tiêu thụ năng lượng ít hơn . Nhưng như chúng ta đã nói , dữ liệu bộ nhớ RAM động không sẵn sàng ngay lập tứ và nó làm việc chậm hơn so với CPU .

 Bộ nhớ tĩnh ( SRAM ) có thể làm việc với tốc độ nhanh bằng tốc độ của CPU , bởi vì mỗi Bit dữ liệu được lưu trữ trong một mạch lật ( Flip-Flop ) , mà nó có thể cấp phát dữ liệu với thời gian trễ bằng 0 hoặc rất nhỏ , bởi vì mạch lật không yêu cầu chu kì Refresh . Nhưng có một vấn đề xảy ra đó là để sản xuất ra một mạch lật lại phải dùng tới vài Transistor , điều đó cũng đồng nghĩa với nó có kích thước lớn hơn so với DRAM . Như vậy SRAM sẽ có mật độ thấp . Vì thế có hai vấn đề xảy ra với SRAM đó là vô cùng đắt và tiêu thụ nhiều năng lượng – như vậy chạy sẽ nóng hơn .

 Bảng bên dưới tóm tắt sự khác nhau chính giữa DRAM và SRAM

 Mặc dù SRAM nhanh hơn DRAM , nhưng những bất lợi của nó không cho phép dùng làm bộ nhớ chính trên Motherboard .

 Giải pháp tìm ra để giảm ảnh hưởng của bộ nhớ RAM chậm hơn CPU đó là dùng số lượng SRAM nhỏ giữa CPU và bộ nhớ RAM . Kỹ thuật này gọi là bộ nhớ Cache và hiện nay một số lượng bộ nhớ SRAM nhỏ nằm bên trong bộ vi xử lí .

 Bộ nhớ Cache sẽ copy hầu hết dữ liệu truy cập từ RAM tới bộ nhớ SRAM và cố gắng dự đoán trước những dữ liệu nào mà CPU sẽ cần đến tiếp theo để tải chúng tới SRAM trước khi CPU yêu cầu cần đến nó . Với mục đích để làm cho CPU truy cập tới bộ nhớ Cache thay thế cho việc truy cập trực tiếp tới bộ nhớ RAM , khi đó nó có thể tìm lại được dữ liệu từ bộ nhớ Cache ngay lập tức hoặc gần ngay lập tức . CPU truy cập vào bộ nhớ Cache càng nhiều thay vì truy cập tới RAM chính thì hệ thống sẽ càng nhanh .

Lịch sử của Bộ nhớ Cache trong PC

 Trong phần này chỉ chú trọng tới lịch sử của bộ nhớ Cache . Nếu không quan tâm bạn có thể bỏ qua .

 Bộ nhớ Cache ban đầu được dùng cho những máy tính với những bộ vi xử lí 386DX . Lúc đó CPU không có bộ nhớ Cache bên trong và phải cần mạch điện hỗ trợ - có nghĩa là Chipset có bộ phận điều khiển bộ nhớ Cache . Như vậy lúc đó bộ nhớ Cache là phần mở rộng và là một sự lựa chọn và như vậy nhà sản xuất Motherboard có thể thêm nó hoặc không . Nếu Motherboard không có bộ nhớ Cache sẽ chậm hơn PC có chứa mạch điện này . Tổng số dung lượng Cache lúc đó là thay đổi được tùy thuộc vào kiểu của Motherboard , vào thời gian đó thông thường là 64KB hoặc 128KB . Khi đó Bộ phận điều khiển bộ nhớ Cache sử dụng cấu trúc là “Write-Through” , là một hoạt động Ghi – có nghĩa là khi CPU muốn lưu dữ liệu vào bộ nhớ - thì Bộ phận điều khiển bộ nhớ Cache sẽ cập nhật bộ nhớ RAM ngay lập tức .

 Với bộ vi xử lí 486DX , Intel thêm số lượng nhỏ ( 8KB ) bộ nhớ Cache bên trong CPU . Bộ nhớ Cache bên trong này đã được gọi là L1 ( Level 1 ) hoặc “bên trong – Internal” , trong khi đó bộ nhớ Cache bên ngoài đã được gọi là L2 ( Level 2 ) hoặc “ bên ngoài – External”  . Tổng số bộ nhớ Cache L2 lúc đó phụ thuộc vào kiểu của Motherboard . Thông thường trong thời gian đó nó có dung lượng là 128KB hoặc 256KB . Những Model về sau của 486 thêm cấu trúc Cache gọi là “ Write-Back “ , mà được dùng cho tới ngày nay . Với cấu trúc “Write-Back” những phép Ghi bộ nhớ RAM không được cập nhật ngay lập tức , CPU lưu trữ dữ liệu vào bộ nhớ Cache và Bộ phận điều khiển bộ nhớ cập nhật bộ nhớ RAM chỉ khi “Cache Miss” xảy ra . Cache Miss là lúc CPU không tìm thấy dữ liệu cần thiết trong bộ nhớ Cache mà phải lấy trực tiếp từ bộ nhớ RAM .

 Sau đó với những bộ vi xử lí Pentium đầu tiên , Intel tạo ra hai bộ nhớ Cache bên trong riêng biệt , một cho những lệnh và một cho dữ liệu ( vào thời điểm đó chỉ có 8KB cho mỗi kiểu ) . Cấu trúc này vẫn còn được dùng cho tới ngày nay , và đó là tại sao đôi khi bạn nhìn thấy bộ nhớ Cache L1 có ghi 64KB + 64KB - điều đó có nghĩa là bộ nhớ Cache L1 có dung lượng 128KB chia ra làm hai mỗi phần 64KB . Tất nhiên chúng tôi sẽ giải thích sau về sự khác nhau giữa hai phần đó . Vào thời điểm đó bộ nhớ Cache L2 vẫn tiếp tục được gắn trên Motherboard và dung lượng của nó phụ thuộc vào kiểu Motherboard và thông thường là 256KB và 512KB

Hình 2 : Vị trí của bộ nhớ Cache L2 trên Motherboard

 Với những bộ vi xử lí AMD như dòng K5, K6 và K6-2 dùng cùng cấu trúc như trên , nhưng với K6-III có bộ nhớ Cache thứ 3 ( L3 , Level 3 ) .

 Có một vấn đề với bộ nhớ Cache L2 cắm ngoài đó là truy cập vào nó với tốc độ thấp hơn . Ví dụ từ bộ vi xử lí 486DX2 thì tốc độ bên trong của CPU khác với tốc độ bên ngoài của CPU . Trong khi Pentium-200 làm việc với tốc độ bên trong là 200MHz , nó truy cập bộ nhớ Cache L2 với tốc độ là 66MHz .

 Sau đó với cấu trúc P6 , Intel đã chuyển bộ nhớ Cache từ Motherboard vào bên trong CPU - điều đó cho phép CPU truy cập nó với tốc độ bên trong của CPU - ngoại trừ Pentium II . Với dòng Pentium II bộ nhớ Cache L2 không nằm bên trong CPU nhưng nó lại nằm trên cùng bảng mạch in mà CPU được hàn lên đó ( bảng mạch in này được gói vào chung một vỏ ) , chạy với tốc độ bằng ½ tốc độ bên trong của CPU , và trên Celeron-266 và Celeron-300 không có bộ nhớ Cache này .

Hình 3 : 03 linh kiện hàn phía sau lưng CPU chính là bộ nhớ Cache L2