原因是matlab 6.x的Windows版本matlab.exe不在matlab\bin下，而在matlab\bin\win32，所以，在安装matcom时，把bin\win32\matlab.exe移动到bin\，即上移一层目录，安装matcom后，再移动回去就可以了。
其实是否安装有matlab对matcom没有什么影响，你完全可以选择没有安装matlab，仍然可以编译大多数文件。需要matlab\toolbox下的文件时，用addpath()添加路径或者拷贝到当前目录下就可以了。