在我的脑海中有一些高级的区别，其中一些是概括性的，应该加上前缀“经常......”或“一些编译器.... a."，但为了可读性起见，我将省略这些。

• C/C++编译不从二进制文件中读取任何信息，但仅从需要完整解析的头文件中读取方法/类型定义（例外：预编译头文件）
• C/C++编译包括一个预处理器步骤，它可以进行大量的文本替换（这使得头文件预编译更难进行）
• C++语法比Java语法复杂得多
• C++类型系统比Java类型系统复杂得多
• C++编译通常生成本机汇编代码，这比生成相对简单的字节码要复杂得多
• C++编译器需要进行优化，因为没有任何其他东西可以做这些优化。Java编译器基本上是将Java源代码简单地1：1转换为Java字节码，在这一步没有进行优化（这是留给JVM去做的）。
• C有一个图灵完备的模板语言！（所以严格地说，C代码需要“运行”才能生成可执行代码，C编译器需要解决停机问题才能告诉您任意C代码是否可编译）。

Java将代码编译成字节码，由Java VM解释。C必须编译成目标代码，然后再编译成机器语言。因此，Java可能只编译一个类，而C目标文件必须与其他目标文件重新链接到机器代码可执行文件（或DLL）。这可能会使过程花费更长的时间。

我不知道为什么您期望Java和C++的编译速度具有可比性，因为它们是具有完全不同的设计目标和实现的不同语言。
也就是说，需要记住的几个具体区别是：

• Java被编译成字节码，而不是直接编译成机器码。编译成这个抽象的虚拟机更简单。
• C++编译不仅涉及compilation but also linking，因此它通常是一个多步骤的过程。
• Java执行一些后期绑定，即在运行时将函数调用和实际代码关联起来。因此，某个区域的小变化不需要触发整个程序的编译。在C++中，这种关联需要在编译时完成，这称为早期绑定。

一个使用了所有语言特性的C++程序本质上更难编译。一些类型的模板调用可以很容易地使要生成的代码量增加两倍或三倍。

忽略很多细节，在Java中，你可以将.java文件编译成一个或多个.class文件，而在C++中，你可以编译.cc文件（或任何东西）源文件到.o文件，然后将.o文件链接到一起成为可执行文件或库。链接过程通常是致命的，特别是对于小的更改，因为链接的工作量大致与整个项目的大小成比例。（这是忽略增量链接器，它们是专门设计的，不会对小的更改表现得那么糟糕）
另一个因素是#include机制意味着每当你改变一个.h文件时，所有依赖它的.o文件都需要重新构建。在Java中，一个.class文件可以依赖于多个.java文件（例如：因为常量内联），但是在改变一个源文件需要重建许多其它源文件的情况下，这些“热点”往往少得多。
此外，如果您使用的是Eclipse这样的IDE，它一直在后台构建Java代码，所以当您告诉它构建时，它已经完成了大部分（如果不是全部）工作。

Java将任何源代码编译成字节码，由JVM解释，由于这个特性，它可以在多个平台上使用。