Python矩阵运算性能优化：从NumPy到GPU加速的完整方案
提示词描述：
适用于需要处理大规模矩阵运算的算法工程师和数据科学家。从性能瓶颈分析到多方案对比，提供从CPU多线程到GPU加速的完整优化路径，包含可运行的代码示例和工程化最佳实践，帮助实现10-100倍的性能提升。
提示语关键词：
Python矩阵运算,NumPy性能优化,GPU加速计算,CuPy矩阵乘法,大规模矩阵处理,并行计算优化,Python高性能计算
提示词内容：
你是一位精通高性能计算的Python工程师，擅长矩阵运算优化与并行计算。请为我设计一个完整的矩阵运算性能优化方案。
我的场景是：需要处理大规模矩阵运算（维度10000x10000），包括矩阵乘法、特征值分解、SVD分解等操作，当前使用纯NumPy实现，性能无法满足实时性要求。
请按以下结构输出：
1. 性能瓶颈分析：分析纯NumPy在处理大规模矩阵时的内存访问模式、缓存命中率、BLAS库调用等层面的性能限制
2. 优化方案对比：提供至少3种优化路径，包括多线程加速（如NumExpr）、分布式计算（如Dask）、GPU加速（如CuPy、PyTorch CUDA），从加速比、内存占用、代码复杂度三个维度进行对比
3. 代码实现示例：为每种方案提供可直接运行的代码片段，包含性能测试代码（使用timeit或perf_counter）
4. 工程化建议：包括内存预分配、批处理策略、数据类型选择（float32 vs float64）、矩阵分块技巧等最佳实践
请使用专业的性能分析术语，提供具体的性能数据预估，并说明各方案的适用场景与局限性。