Solución:
Recomiendo sageMath, también Mathematica y Maple
Un fácil de usar es Maxima
Puede trabajar con sage aquí: http://www.sagenb.org/, ¡no es necesario instalarlo!
Tanto Mathematica como Maple son excelentes.
Parece que han agregado una caja de herramientas de cálculo simbólico para scilab (que es gratis). Dado que es un usuario de Linux, es posible que desee explorarlo. Sin embargo, nunca lo he usado personalmente (he usado scilab y hace un buen trabajo siendo un Matlab liliputiense)
http://packages.ubuntu.com/lucid/scilab-scimax-doc
Otro programa gratuito muy popular para cálculos simbólicos es PARI / GP. Está dirigido de alguna manera a los cálculos en la teoría de números, pero su funcionalidad no solo se limita a esto. Puede leer un poco sobre esto también en el artículo de wikipedia.