[Operating System 운영체제] Computer System Overview 01-1 Cache

[Operating System 운영체제] Computer System Overview 01-1 Cache

 

 

 

 

1. 캐시(Cache) - 128KB 정도로 작음

 

1) 프로세서(CPU) 내부에 있는 메모리 (L1, L2 캐시 등) - 속도가 빠르고 가격이 비쌈, 레지스터보다 Core에서 멀리 떨어져있다. 멀리 떨어져 있을수록 사이즈는 커지고 속도는 느려진다고 생각하면 된다.

2) 메인 메모리의 입출력 병목현상 해소 - CPU와 메인메모리 간의 속도차가 여전히 존재.

 

 

 

2. 캐시의 동작 - 일반적으로 HW적으로 관리 됨

• 캐시 히트(Cache hit) : 필요한 데이터 블록이 캐시에 존재
• 캐시 미스(Cache miss) : 필요한 데이터 블록이 캐시에 없는 경우. 캐시가 메인 메모리까지 접근해 데이터를 캐시로 가져온 다음 프로세서로 전달함

 

3. 캐시의 지역성(Locality)

1) 공간적 지역성 (Spatial locality)

• 참조한 주소와 인접한 주소를 참조하는 특성 - 순차적 프로그램 수행

2) 시간적 지역성(Temporal locality)

• 한 번 참조한 주소를 곧 다시 참조하는 특성 - For 문 등의 순환 문

3) 지역성은 캐시 적중률(cahe hit ratio)과 밀접

• 알고리즘 성능 향상을 위한 중요한 요소 중 하나
• 이러한 지역성 때문에 캐시가 비록 128KB이지만 병목 현상 해결이 가능
• 캐시가 메인 메모리로부터 특정 데이터를 가져올 때, 그 데이터만 가져오는 게 아니라 그 주변 block을 함께 가져와서 캐시에 저장한다. 이 크기를 가진 영역을 cache line or cache block이라 한다.
• 아래의 경우 A의 경우가 cache hit가 훨씬 많이 일어남