[컴퓨터시스템] 캐시 메모리

컴퓨터 시스템의 구조를 관찰하면 컴퓨터는 프로세서와 메모리로 구성되어 있다는 것을 확인할 수 있습니다. 어떠한 작업을 하면 프로세서와 메모리 사이에서 많은 양의 데이터가 여러 번 복사되게 됩니다. 이때 느린 적재(Load), 저장(Store) 시간은 프로그램의 성능을 저하시키는 오버헤드가 될 수 있습니다.

물리학적 법칙에 따라 메모리의 속도는 크기와 반비례하고 비용에 비례합니다. 또한 프로세서의 성능 향상에 비해 메모리의 성능 향상은 상대적으로 느려 속도의 차이가 점점 벌어지고 있습니다. 이러한 상황에서 메모리와 프로세서 간의 데이터 교환 속도를 증가시키기 위해 그 사이에 캐시를 추가하였습니다.

캐시가 성능 향상에 도움을 줄 수 있었던 이유는 프로그램의 지역성(Locality)에 있습니다. 대부분의 프로그램들은 특정 부분의 코드와 데이터를 자주 사용하는 특성(지역성)이 관찰됩니다. 이 사실을 활용하여 사용빈도가 높은 부분만을 캐시에 보관하여 프로세서가 빠르게 접근함으로써 프로그램 실행 속도를 증가시킬 수 있었습니다.

캐시는 보통 프로세서 집적회로 내부에 내장되는 SRAM으로 구현됩니다.