https://help.github.com/articles/custom-404-pages/
404.htmlを追加するか、Jekyllで出力すればOK。

できないと思って調べてもいなかった…。