👋 Welcome to Cuterwrite 's Blog
CUDA 基础：内存模型概述
必须承认执行模型中内核的配置，决定了程序执行效率，但是程序的执行效率不只由线程束，线程块等执行结构决定，内存也严重地影响了性能。本文将主要介绍 CUDA 的内存模型，CUDA 内存模型结合了主机和设备的内存系统，展现了完整的内存层次结构，使用户能显式地控制数据布局以优化性能。
CUDA 基础：线程束执行的本质
对于 SM 来说，CUDA 执行的实质是线程束的执行，因为 SM 根本不知道每个块是什么，也不知道先后顺序，SM 只知道按照按照机器码跑，而给它什么，先后顺序，这个就是硬件功能设计的直接体现了。CUDA 执行所有的线程，并行的，没有先后次序的，但实际上硬件资源是有限的，不可能同时执行百万个线程，所以从硬件角度来看，物理层面上执行的也只是线程的一部分，而每次执行的这一部分，就是线程束。
SSE 与 AVE 向量化编程
本文深入探讨了 SSE 与 AVX 指令集的向量化编程优化，详述了寄存器的作用、自动向量化的原理、SSE/AVX 在实际应用中的重要性，以及 C++编程框架如何充分发挥这些指令集的优势。此外，还探讨了 Masking 技术及条件加载的技巧，以及数据流控制的优化策略。通过丰富的示例和技术解析，读者将深入理解如何有效利用向量化优化来提升程序性能。
