Efficient and Scalable Cache Coherence for Many-Core Chip Multiprocessors

Abstract

La nueva tendencia para aumentar el rendimiento de los futuros<br/>computadores son los multiprocesadores en un solo chip (CMPs). Se<br/>espera que en un futuro cercano salgan al mercado CMPs con decenas de<br/>procesadores. Hoy en d�a, la mejor manera de mantener la coherencia de<br/>cache en estos sistemas es mediante los protocolos basados en<br/>directorio. Sin embargo, estos protocolos tienen dos grandes<br/>problemas: una gran sobrecarga de memoria y una alta latencia de los<br/>fallos de cache.<br/><br/>Esta tesis se ha centrado en estos problemas claves para la eficiencia<br/>y escalabilidad del CMP. En primer lugar, se ha presentado una<br/>organizaci�n de directorios escalable. En segundo lugar, se han<br/>propuesto los protocolos de coherencia directa, que evitan la<br/>indirecci�n al nodo home y, por tanto, reducen el tiempo de ejecuci�n<br/>de las aplicaciones. Por �ltimo, se ha desarrollado una pol�tica de<br/>mapeo para caches compartidas pero f�sicamente distribuidas, que<br/>reduce la latencia de acceso y garantiza una distribuci�n uniforme de<br/>los datos con el fin de reducir su tasa de fallos. Esto se traduce<br/>finalmente en un menor tiempo de ejecuci�n para las aplicaciones.

Chip multiprocessors (CMPs) constitute the new trend for increasing<br/>the performance of future computers. In the near future, chips with<br/>tens of cores will become more popular. Nowadays, directory-based<br/>protocols constitute the best alternative to keep cache coherence in<br/>large-scale systems. Nevertheless, directory-based protocols have two<br/>important issues that prevent them from achieving better scalability:<br/>the directory memory overhead and the long cache miss latencies.<br/><br/>This thesis focuses on these key issues. The first proposal is a<br/>scalable distributed directory organization that copes with the memory<br/>overhead of directory-based protocols. The second proposal presents<br/>the direct coherence protocols, which are aimed at avoiding the<br/>indirection problem of traditional directory-based protocols and,<br/>therefore, they improve applications' performance. Finally, a novel<br/>mapping policy for distributed caches is presented. This policy<br/>reduces the long access latency while lessening the number of off-chip<br/>accesses, leading to improvements in applications' execution time.