定義流：

cudaStream_t stream;

創(chuàng)建流：

cudaStreamCreate(cudaStream_t *s)

銷毀流：

cudaStreamDestroy(cudaStream_t s)

流的同步：顯示同步

//同步單個(gè)流，等待該命令都完成 cudaStreamSynchronize(cudaStream_t stream);//同步所有流，等待整個(gè)設(shè)備上的流都完成 cudaDeviceSynchronize();//通過某個(gè)事件：等待某個(gè)事件結(jié)束后執(zhí)行該流上的命令 cudaStreamWaitEvent(cudaEvent_t stream);//查詢一個(gè)流任務(wù)是否完成 cudaStreamQuery(cudaStream_t stream);

流的使用

在使用GPU完成任務(wù)時(shí)，有2個(gè)地方可以使用到流

以_global_定義的kernel函數(shù)可以交給流去執(zhí)行

kernel<<<gridDim, blockDim, shared_memory_size, stream>>>(parameters);

GPU和CPU之間數(shù)據(jù)傳輸

cudaMemcpyAsync(dst, src, copy_size, copy_direction, stream);

程序運(yùn)行截圖如下：

代碼如下：

#include "cuda_runtime.h" #include "device_launch_parameters.h" #include <stdio.h> #include <iostream>using namespace std;__global__ void addKernel(int *c, int *a, int *b) {int i = threadIdx.x;c[i] = a[i] + b[i]; }void testStream() {int p_data_a[100] = { 0 };int p_data_b[100] = { 0 };int p_data_c[100] = { 0 };for (int i = 0; i < 100; i++) {p_data_a[i] = i;p_data_b[i] = 10 + i;p_data_c[i] = 0;}cout << "begin" << endl;for (int i = 0; i < 100; i++) {cout << p_data_c[i] << " ";}cout << endl;int *dev_a = nullptr;int *dev_b = nullptr;int *dev_c = nullptr;cudaMalloc(&dev_a, sizeof(int) * 100);cudaMalloc(&dev_b, sizeof(int) * 100);cudaMalloc(&dev_c, sizeof(int) * 100);//拷貝到內(nèi)存cudaMemcpy(dev_a, p_data_a, sizeof(int) * 100, cudaMemcpyHostToDevice);cudaMemcpy(dev_b, p_data_b, sizeof(int) * 100, cudaMemcpyHostToDevice);cudaStream_t streams[100];for (int i = 0; i < 100; ++i)cudaStreamCreate(streams + i);for (int i = 0; i < 100; ++i)addKernel << <1, 1, 0 >> > (dev_c + i, dev_a + i, dev_b + i);cudaDeviceSynchronize();cudaMemcpy(p_data_c, dev_c, sizeof(int) * 100, cudaMemcpyDeviceToHost);cout << "end:" << endl;for (int i = 0; i < 100; i++) {cout << p_data_c[i] << " ";}cout << endl;cout << "over" << endl;cudaFree(dev_a);cudaFree(dev_b);cudaFree(dev_c); }int main() {testStream();getchar();return 0; }

?

總結(jié)

以上是生活随笔為你收集整理的cuda笔记-流的使用（定义、创建、消耗、同步）的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。