例如

torch.nn.ReLU(inplace=True)

inplace=True

表示進(jìn)行原地操作，對(duì)上一層傳遞下來(lái)的tensor直接進(jìn)行修改，如x=x+3；

inplace=False

表示新建一個(gè)變量存儲(chǔ)操作結(jié)果，如y=x+3，x=y；

inplace=True

可以節(jié)省運(yùn)算內(nèi)存，不用多存儲(chǔ)變量。

補(bǔ)充：PyTorch中網(wǎng)絡(luò)里面的inplace=True字段的意思

在例如nn.LeakyReLU(inplace=True)中的inplace字段是什么意思呢？有什么用？

inplace=True的意思是進(jìn)行原地操作，例如x=x+5，對(duì)x就是一個(gè)原地操作，y=x+5,x=y，完成了與x=x+5同樣的功能但是不是原地操作。

上面LeakyReLU中的inplace=True的含義是一樣的，是對(duì)于Conv2d這樣的上層網(wǎng)絡(luò)傳遞下來(lái)的tensor直接進(jìn)行修改，好處就是可以節(jié)省運(yùn)算內(nèi)存，不用多儲(chǔ)存變量y。

inplace=True means that it will modify the input directly, without allocating any additional output. It can sometimes slightly decrease the memory usage, but may not always be a valid operation (because the original input is destroyed). However, if you don't see an error, it means that your use case is valid.

以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。