Использование ускорения графического процессора — распространенный подход к оптимизации при обработке больших наборов данных или выполнении сложных вычислений. NumPy предоставляет инструменты и методы для простого выполнения вычислений на графических процессорах. В этом блоге мы подробно углубимся в ускорение графического процессора в NumPy и продемонстрируем, как применять эти методы на практических примерах.
CuPy — это NumPy-совместимая библиотека массивов графических процессоров, которая позволяет выполнять операции в стиле NumPy на графическом процессоре. Сначала вам нужно установить CuPy:
pip install cupy
Затем вы можете использовать CuPy вместо массивов NumPy и выполнять вычисления на графическом процессоре.
import cupy as cp
import numpy as np
# создавать NumPy множество
arr_np = np.random.rand(1000000)
# Воля NumPy множество Преобразовать в CuPy множество
arr_gpu = cp.asarray(arr_np)
# существовать GPU выполнить навычислить
result_gpu = cp.sin(arr_gpu)
# Воля получается из GPU Преобразовать обратно в NumPy множество
result_np = cp.asnumpy(result_gpu)
# Проверьте согласованность результатов
assert np.allclose(np.sin(arr_np), result_np)
Numba — это JIT-компилятор (точно в срок), который ускоряет выполнение кода Python. Используя декоратор cuda.jit Numba, обычные функции Python можно скомпилировать в код, выполняющийся на графическом процессоре.
from numba import cuda
# использовать Numba ускоряться GPU вычислить
@cuda.jit
def numba_gpu_function(arr_in, arr_out):
i = cuda.grid(1)
if i < arr_in.size:
arr_out[i] = np.sin(arr_in[i])
# Подготовьте данные
arr_np = np.random.rand(1000000)
arr_gpu = cp.asarray(arr_np)
result_gpu_numba = cp.empty_like(arr_gpu)
# существовать GPU выполнить навычислить
numba_gpu_function[32, 32](arr_gpu, result_gpu_numba)
# Воля получается из GPU Преобразовать обратно в NumPy множество
result_np_numba = cp.asnumpy(result_gpu_numba)
# Проверьте согласованность результатов
assert np.allclose(np.sin(arr_np), result_np_numba)
В дополнение к CuPy и Numba вы также можете использовать платформу глубокого обучения PyTorch или TensorFlow, чтобы воспользоваться преимуществами вычислений на графическом процессоре. Эти две платформы предоставляют тензорные объекты и поддерживают ускорение графического процессора.
import torch
# создавать PyTorch Тензор
arr_torch = torch.rand(1000000)
# Воля Тензорпереехать в GPU начальство
arr_torch_gpu = arr_torch.cuda()
# существовать GPU выполнить навычислить
result_torch_gpu = torch.sin(arr_torch_gpu)
# Воля получается из GPU Преобразовать обратно в NumPy множество
result_np_torch = result_torch_gpu.cpu().numpy()
# Проверьте согласованность результатов
assert np.allclose(np.sin(arr_torch.numpy()), result_np_torch)
PyCUDA — это библиотека Python, которая позволяет выполнять код CUDA (унифицированная архитектура вычислительных устройств) на графических процессорах. Сначала вам необходимо установить CUDA Toolkit и установить PyCUDA:
pip install pycuda
Затем функции ядра CUDA можно записать и выполнить на графическом процессоре.
импортировать pycuda.driver как cuda
импортировать pycuda.autoinit
из pycuda.compiler импортировать SourceModule
# Функция CUDA
мод = SourceModule("""
__global__ void gpu_function(float *arr_in, float *arr_out) {
int i = threadIdx.x + blockIdx.x * blockDim.x;
arr_out[i] = sin(arr_in[i]);
}
""")
# Подготовьте данные
arr_np = np.random.rand(1000000).astype(np.float32)
arr_gpu = cuda.mem_alloc(arr_np.nbytes)
result_gpu_pycuda = cuda.mem_alloc(arr_np.nbytes)
# Воля передача данных на GPU
cuda.memcpy_htod(arr_gpu, arr_np)
# осуществлять CUDA 核функция
func = mod.get_function("gpu_function")
func(arr_gpu, result_gpu_pycuda, block=(32, 1, 1), grid=(arr_np.size // 32, 1))
# Воля получается из GPU Преобразовать обратно в NumPy множество
result_np_pycuda = np.empty_like(arr_np)
cuda.memcpy_dtoh(result_np_pycuda, result_gpu_pycuda)
# Проверьте согласованность результатов
assert np.allclose(np.sin(arr_np), result_np_pycuda)
Комбинируя вышеуказанные методы, вы можете реализовать ускорение графического процессора в NumPy и повысить эффективность выполнения вашего кода. Выбор правильных инструментов и методов зависит от конкретного сценария применения и вычислительных задач. Я надеюсь, что этот блог поможет вам лучше понять и использовать технологию ускорения графического процессора в NumPy.