ロボット屋さんMisskeyサーバー立てたのでアカウント作って！ 
日記（2021年11月10日）
Wed Nov 10 21:45:58 JST 2021 (modified: Wed Nov 10 22:04:10 JST 2021)
views: 1102, keywords:日記, CUDA この記事は最終更新日が3年以上前のものです。
本日はリモート講義のあと共同研究で企業の方とミーティング。学科の催事の日程調整等。ミーティング、朝の時点では把握してたけど直前にあるのを忘れていて慌てました。ミーティング終了後は、下記のようにCUDAを試してました。
はじめてのCUDAプログラミング
昔から速いコードを書くことを活路としてきたのにGPUを使えないままでいるのはロートル一直線だという後ろ向きな理由で、今日から始めることにしました。幸い、仕事で使っているLinuxの環境が、
$ nvidia-smi
Wed Nov 10 21:10:27 2021
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 460.91.03 Driver Version: 460.91.03 CUDA Version: 11.2 |
|-------------------------------+----------------------+----------------------+
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 Quadro T2000 wi... Off | 00000000:01:00.0 Off | N/A |
| N/A 50C P8 5W / N/A | 1378MiB / 3911MiB | 0% Default |
| | | N/A |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=============================================================================|
| 0 N/A N/A 1282 G /usr/lib/xorg/Xorg 141MiB |
| 0 N/A N/A 2616 G /usr/lib/xorg/Xorg 527MiB |
| 0 N/A N/A 2804 G /usr/bin/gnome-shell 167MiB |
| 0 N/A N/A 180293 G ...AAAAAAAAA= --shared-files 142MiB |
| 0 N/A N/A 201049 G ...AAAAAAAAA= --shared-files 92MiB |
| 0 N/A N/A 201075 G ...AAAAAAAAA= --shared-files 287MiB |
+-----------------------------------------------------------------------------+という感じで整っていたので、あとは
$ sudo apt install nvidia-cuda-*して、コードを書いてコンパイルすれば動くという状況から開始できました。
コンパイルの方法
で、「コードを書いてコンパイル」をどうすりゃいいんだと調べたら、どうやらnvccというコマンドを使うらしいと判明。これでCで書いてもC++で書いてもよしなにコンパイルしてくれるとのこと。
コード
次に何か簡単なコードを書いて実行してみようということになり、C++の例を探したところ、公式のドキュメントで発見。
まずここらへん読まんとあかんっぽい。はらへった。https://t.co/ILe9pfonQ3
— 上田 隆一 (@ryuichiueda) November 10, 2021
ただ、見ると分かるんですけどGPUに処理をさせる前後のコードが省略されており（なんで省略するんだろ？）、予想して書かないといけません。で、https://qiita.com/wazakkyd/items/8a5694e7a001465b6025 の C言語での実装を参考にして前後を付け足し、次のようなコードになりました。
#include <iostream>
__global__ void VecAdd(float* A, float* B, float* C)
{
int i = threadIdx.x;
C[i] = A[i] + B[i];
}
int main()
{
float A[] = {1,2,3};
float B[] = {2,3,4};
float C[] = {0,0,0};
float *a, *b, *c;
cudaMalloc(&a, 3*sizeof(float));
cudaMalloc(&b, 3*sizeof(float));
cudaMalloc(&c, 3*sizeof(float));
cudaMemcpy(a, A, 3*sizeof(float), cudaMemcpyHostToDevice);
cudaMemcpy(b, B, 3*sizeof(float), cudaMemcpyHostToDevice);
cudaMemcpy(c, C, 3*sizeof(float), cudaMemcpyHostToDevice);
// Kernel invocation with N threads
VecAdd<<<1, 3>>>(a, b, c);
cudaMemcpy(C, c, 3*sizeof(float), cudaMemcpyDeviceToHost);
std::cout << C[0] << " " << C[1] << " " << C[2] << std::endl;
cudaFree(a);
cudaFree(b);
cudaFree(c);
return 0;
}
/* reference */
// https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html#programming-model
// https://qiita.com/wazakkyd/items/8a5694e7a001465b6025GPU上のメモリを確保してポインタと結びつける作業、DRAMとGPU間のデータ転送、GPU上のメモリの開放を明示的にやる必要があるみたいです。
コンパイルと実行
あとはgccと同じようにnvccを使うと実行できました。
$ nvcc hoge.cu
$ ./a.out
3 5 7 <- AとBの足し算がCに入っている今後
とりあえず自分のPCで動いたので、あとは少しずつコードを変えながら勘をつかんでいきます。練習用リポジトリはこれです。
https://t.co/ILe9pfonQ3
— 上田 隆一 (@ryuichiueda) November 10, 2021
とhttps://t.co/RbPcfHfk1I
を参考にしてコード書いたら動いた。 pic.twitter.com/PSB1g7Q5qV
ありがとうございました。寝る。
ノート
Tweet
