ドット感だったらイラストの解像度とペンの相性ですかね…？Gペンは結構かっちり塗るペンなので解像度が低かったり細い線だとドットが目立ちやすい気がします
ちょっと柔らかめのペンで濃いめに輪郭線を描くか、もしくは最後の仕上げで表示レイヤーの複製をした上で（線画に直接かけると後が大変なので）弱めにぼかしフィルターをかけるとドット感を軽減できます かっちり描きたい場合は合わないかもですが！
ベクターレイヤーは私も面倒くさくて苦手です…慣れれば便利なのかもしれませんが最近は面倒なので柔らかめのペンで下書きを太めに書いて、そのまま彫刻みたいに細くしたいところだけ削るというズボラな描き方をしてます
