作図デバイスを切り替えるときに、bg オプションに "transparent" を指定すると、背景を透過した画像を出力することができます。
bg
"transparent"
> png("sample.png", width=400, height=300, bg="transparent") > plot(x, y) > dev.off()