会社を設立したいと思います。できるだけ費用は掛けたくないのですが、手続はきちんとやりたいと思っています。行政書士と司法書士のどちらに頼んだ方がよいですか。

結論としては、会社設立に詳しい専門家であれば、行政書士でも司法書士でも構わないと思います。
ただ、会社設立手続は、大まかに定款作成→公証人認証→法務局へ設立登記、という手順を踏むことから、行政書士に頼んだ場合には、最後の設立登記は依頼者本人が申請しなければならないことになります。
よって、すべての手続を代理できる司法書士に頼んだ方が煩雑なくできると思われます。
なお、費用は一般的に行政書士に頼んだほうが安価にできると思われます。