如何并行执行多个使用2个GPU的Python脚本,并避免CUDA内存不足问题?

huangapple go评论99阅读模式
英文:

How to execute several python scripts in parallel that use 2 GPUs and avoid cuda out of memory?

问题

我有一个名为generateData.sh的bash文件,其中包含数百个Python脚本,例如:

python create_video.py input output --param1 --param2 --param3

每个Python脚本处理不同的输入视频,并在过程中使用我机器上的两个可用GPU之一(用于某些计算机视觉任务)。

我尝试使用GNU parallel(或xargs或&)并行处理bash文件,例如:

cat generateData.sh | parallel

这使我能够并行处理48个Python脚本。然而,由于GPU上的有限空间,只有其中的10个能够正确完成并生成好的输出视频。其他输入视频根本没有被处理,可能是因为遇到了一些cuda内存不足的错误。

我希望GPU并行处理等待某些作业完成,以便在GPU上有一些空闲空间。否则,GPU并行处理将只能处理我的bash文件的一部分。

谢谢你的回答!

英文:

I have a bash file (generateData.sh) that contains hundred of python scripts such as :

python create_video.py input output --param1 --param2 --param3

Each python script processes a different input video and uses in the process one of the two available GPU on my machine (for some computer vision tasks).

I tried to parallelize the bash file using GNU parallel (or xargs or &) with :

cat generateData.sh | parallel

This allows me to parallelize 48 python scripts. However, because of the limited space on GPU, only 10 of them correctly finish with a good output video. The other input videos are not handle at all, probably because it encountered some cuda out-of-memory errors.

I would like GPU parallel to wait that some jobs finish to have some free space on GPUs. Otherwise, GPU parallel will only process correctly a sub-part of my bash file.

Thanks for you answers !

答案1

得分: 1

如下所示:

cat python-lines.sh |
  parallel -j48 CUDA_VISIBLE_DEVICES='{%2}' {=uq=}

以在2个CUDA设备上每个GPU运行24个作业。

英文:

Something like this:

cat python-lines.sh |
  parallel -j48 CUDA_VISIBLE_DEVICES='$(({%} % 2))' {=uq=}

to run 24 jobs per GPU on 2 CUDA devices.

huangapple
  • 本文由 发表于 2023年3月8日 16:42:48
  • 转载请务必保留本文链接:https://go.coder-hub.com/75670908.html
匿名

发表评论

匿名网友

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定