Я не знаю, ещё не пробовал. Просто чтобы знать что скачивать. В Matlab'e всё тоже самое, что и MathCAD'e, по крайней мере в плане символики, или нет? Я работал именно с MathCAD'ом - его возможностей не всегда хватает, а как в предложенных Вами вариантах (Mathematica, Octave и MatLab), не сравнивали?