.3dsは古いフォーマットですので、頂点数とポリゴン数の上限が結構低いです。
たしか65536とかそれぐらいですので、3dプリンタ向けのデータだと結構厳しいんじゃないでしょうか。
出力したいオブジェクトの頂点数やポリゴン数（3dsは三角のみなので三角換算で）65536を超えているようなら
違うフォーマットで出さないとだめだと思います。
mudboxはちょっと詳しくないですが、どのデータでも確実に”サブディビジョンレベルの再構築”を選ぶと落ちるんでしょうか？
それとも特定データのみでしょうか？
確かこの機能は、他ソフトでカトマルで分割されたメッシュの分割を解除するための割りとピンポイントな機能だったような気がしますので
特定データのみおかしいのであればデータを出力した側のソフトで、出力時のオプションやフォーマットを変えてみるとか、
データにごみが残っていないか確認するとかしてみたらどうでしょう？
どのデータでも必ず落ちるようであれば、なにか環境が壊れている可能性があるかもしれないですね。
