вопрос туманно задумчивый:
читать файлы - никогда не проблема
открыл через open о всё.
вот понимать и уметь из них данные вытаскивать... дело другое.
есть приложение octave, которое свлсется альтернативой матлаба.
думаю с помощью вызова его, тебе легче будет использовать .mat файлы ( если это возможно вообще ).