結論として

.NET Frameworkの標準のテキストボックスが高機能になるというのは将来的にもあまり期待できない。素直に誰かのコンポーネントを使うのが一番いいと思う。

私が今回調査した範囲においてAzuki以外には行番号が表示とシンタックスハイライトとが出来て、日本語がきちんと扱えるテキストボックスが無かったというのが実情である。Azukiにもいろいろ不満はあるのだが、テキストボックスの自前実装というのは想像する以上に大変なのでやはり誰かが作ったものをそのまま使いたい。

日本語まわりのバグさえなくなればAzukiよりはScintillaNETのほうがプロジェクト母体は大きそうなので良いような気もする。とりあえず現状はここで書いてきた通りだ。