컴퓨터 구조 : 캐시 메모리

📗 캐시 메모리

CPU와 메모리 사이에 위치한 레지스터 보단 용량이 크고 메모리 보단 빠른

SRAM 기반의 저장 장치를 말한다.

 

✔ 저장 장치들 사이 캐시 메모리의 위치

 

 

 

캐시메모리는 CPU의 연산속도와 메모리 접근 속도의 차이를 조금이나마 줄이기 위해 탄생함

CPU가 매번 메모리에 액세서 하는것은 시간이 오래걸리므로 메모리에서 CPU가 사용할 데이터의 일부를

미리 캐시 메모리로 가져와 사용하자는 취지에서 만들어졌다.

 

📗 계층적 캐시 메모리

일반적으로 L1,  L2 캐시메모리는 코어 내부에, L3 캐시는 코어 외부에 있다.

 

📗 분리형 캐시 메모리

L1 캐시 메모리를 

데이터를 저장하는 L1 캐시메모리인 L1D와

명령어를 저장하는 L1 캐시메모리인 L1I 로 분리한 

분리형 캐시 메모리도 존재한다.

 

✔ 분리형 캐시의 장점

캐시 메모리를 분리함으로써 동시에 데이터와 명령어를 처리할 수 있어

병렬 처리 능력이 향상되고 각 캐시들은 명령어와 데이터 처리에 특화되어 있어

최적화에 특화되어 있다는 장점이 있다.

 

✔ 분리형 캐시의 단점

 

데이터 캐시와 명령 캐시가 분리되어 있으면, 두 캐시 간의 일관성을 유지하기 위한

추가적인 논리와 복잡성이 필요할 수 있기 때문에 일관성 유지에 어려움이 있을 수 있다.

 

 

📗 참조 지역성의 원리

캐시 메모리는 메모리보다 용량이 적어서 메모리의 일부 내용만 저장할 수 있는데

이때 CPU가 자주 사용할 법한 것을 예측하여 저장한다.

이때 예측하는 방법을 참조 지역성의 원리라고 한다.

참조 지역성의 원리는 CPU가 메모리에 접근할 때 주된 경향을 바탕으로 만들어졌다.

 

1. CPU는 최근에 접근했던 메모리 공간에 다시 접근하려는 경향이 있다.

2. CPU는 접근한 메모리 공간 근처를 접근하려는 경향이 있다. (공간 지역성)

      -> 게임은 게임, 채팅 프로그램은 채팅 프로그램끼리 모여있는 경향성을 이용

 

✔ 캐시 히트

캐시 메모리에 저장한 데이터가 예측에 성공한 것을 '캐시 히트' 라고 하며

메모리에 접근한 것 보다 성능이 좋다.

 

✔ 캐시 미스

예측에 실패한 경우를 '캐시 미스'라고 하며 어쩔수 없이 메모리에 접근해야 하기

때문에 성능이 저하된다. 

 

✔ 캐시 적중률

캐시 메모리의 예측 적중률이다.

요즘 CPU들은 80~90%의 적중률을 보여주고 있다고 한다.

캐시 적중률 = 캐시 히트 횟수 / (캐시 히트 횟수 + 캐시 미스 횟수)  

 

 

 

학습 출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=16571s