如果是Ubuntu的系统，那么可以使用checkinstall来生成deb包来安装，然后卸载
参考：http://blog.sina.com.cn/s/blog_4178f4bf0101cmt7.html
但是最原始的解决方式如下：
0、注意：在使用make install是要养成加--prefix的参数指定安装路径
1、用源码包安装，请在安装的时候指定--prefix安装目录，另外安装的时候请使用
make >& LOG_make &make install >& LOG_install &
用于保存安装信息日志，这样需要卸载的时候方便查看哪些文件安装在了系统目录中，例如/usr/lib下的库文件。
2、常见的反安装target有：
make uninstall/distclean/veryclean
3、找一个临时目录重新安装一遍。比如
./configure --prefix=/tmp/to_remove && make install
然后遍历/tmp/to_remove里的文件，把原来安装位置的文件都删除。这样的坏处是有些文件夹还可能删除不了（分不清是系统的还是安装上的）
参考：
https://www.zhihu.com/question/20092756（以上内容转自此篇文章）