Unityのシェーダーでポリゴンを調整するのが「テッセレーション」という方法です。tessellateを指定して、頂点を細分化します。 当然、テッセレーションを使うと処理が重たくなりますので使い所には注意が必要です。