La opción --force para la acción install sólo sobrescribe cualquier archivo existente en el disco si los paquetes que está intentando instalar ya existen. No elimina los archivos del disco como lo hace la acción uninstall.
Yo haría primero el brew uninstall imagemagick antes de hacer un install. Con el brew encuentro que el enfoque más simple es a menudo el mejor: Si quiero reinstalar algo, primero debo quitarlo con uninstall y volver a ponerlo con install. El sandboxing de homebrew hace un muy buen trabajo para hacer desinstalaciones limpias de su sistema.
Si quisieras desinstalarlo a mano sólo tendrías que buscar en /usr/local/bin cualquier archivo que se vincule a ../Cellar/imagemagick y borrar esos enlaces simbólicos. Luego borra /usr/local/bin/imagemagick y ya no está. Puede que le queden algunos paquetes dependientes que también necesiten ser eliminados, pero el paquete principal de imagemagick habrá sido eliminado. Para ver de qué depende imagemagick, si quieres hacer más limpieza, ejecuta
$ brew info imagemagick
imagemagick 6.7.1-1
http://www.imagemagick.org
Depends on: jpeg, libtiff, little-cms, jasper
Not installed
Some tools will complain unless the ghostscript fonts are installed to:
/usr/local/share/ghostscript/fonts
http://github.com/mxcl/homebrew/commits/master/Library/Formula/imagemagick.rb