doc de matlab: 
http://www.mathworks.com/help/index.html;jsessionid=mswyN1FTjmsnrvmBnyJytVQdQnT85c4mL69wzlYmf8hv0hLn1j9Q!2110148188

octave:
www.gnu.org/software/octave/

para instalar en windows o mac: 
octave.sourceforge.net/

Si además quieren graficar desde octave tienen que instalar gnuplot desde: 
octave.sourceforge.net/gnuplot/index.html

mas packages para agregarle a octave: 
octave.sourceforge.net/packages.php

QT-Octave
http://qtoctave.wordpress.com/what-is-qtoctave/

saludos,
VR