Makefile从原理上说就是一堆依赖关系：

 target : dependencies
    action

简单说就是，make会检查dependencies和target的新旧，如果target比较旧，那么就执行action。
对于一个典型的程序而言，target大多是可执行程序或者目标文件，dependencies大多是源代码（也许还有头文件之类），action大多是编译命令，比如 gcc -o $@ $^ ，Makefile本身倒是很少会出现在这种依赖关系当中。
从这个角度看，你改动了Makefile对于target本身有可能是没有影响的，重新make不一定有必要，但是有可能你对Makefile的改动造成了依赖关系的变化，这种情况下你可能需要重来一遍。