torch.sigmoid

我們可以看到，這是一個方法，擁有Parametrs和Returns。

torch.nn.Sigmoid

可以看到官網檔案在左上角標註著顯眼的CLASS，同時根據Examples我們可以得出結論，torch.nn.Sigmoid在我們的神經網路中使用時，我們應該將其看作是網路的一層，而不是簡單的函式使用。

torch.nn.functional.sigmoid

事實上，torch.nn.functional從這個包名就能看出來，這個包里的都是函式。同樣的，按照官網的檔案的內容，我們也可以判斷出torch.nn.funtional.sigmoid是一個方法，可以直接在我們的神經網路的forward中使用，並不需要在init的時候初始化。也就是說torch.nn.functional.sigmoid和torch.sigmoid沒有什麼區別，同理，本文對於其他的啟動函式一樣適用。