Чтобы добавить слой в маску слоя, используйте логический оператор OR на исходной маске слоя и слое, который нужно добавить.
originalLayerMask |= (1 << layerToAdd);