正如我在评论中提到的，FULL OUTER JOIN可能更适合这里，根据您给出的数据，它可能看起来像这样：

SELECT ISNULL(T1.ID1,T2.ID1) AS ID1,
       ISNULL(T1.ID2,T2.ID2) AS ID2,
       ISNULL(T1.Value,T2.Value) AS Value
FROM dbo.Table1 T1
     FULL OUTER JOIN dbo.Table2 T2 ON T1.ID1 = T2.ID1
                                  AND T1.ID2 = T2.ID2;

因此，从table 1中提取行并忽略table 2中ID匹配的行。在此答案中，table 1是第一个SELECT，table 2是第二个SELECT。
UNION在学术上是正确的方法，它很有效，而且在几个测试行上速度很快。
然后，表中有数百万/数十亿行，UNION方法突然变慢。UNION在以下情况下变慢：

• 行数超过服务器内存可以处理的行数
• 索引太宽或包含太多
• 表格/选择范围广
• 一个源通过网络

UNION的工作原理是对照table 2的所有行检查table 1的每一行。这不是真实的的集合操作。
如果UNION进展缓慢，则以下策略会有所帮助：

• 检查查询计划（或使用SQL Sentry Explorer等工具）
• 首先在两个表之间建立索引查找（CTE或物化）
• 真标引
• 使用本地表而不是网络数据
• 将table 2拆分为多个块

将UNION替换为UNION ALL，并在两个部分中替换WHERE子句，以确保结果永不重叠。实际上，对table 1使用WHERE子句对table 2使用WHERE NOT子句。
我比较中等大小或更大的数据集的首选方法是除了索引CTE方法/ UNION ALL / WHERE + WHERE NOT之外。简单地说，到目前为止，它对我来说足够快，开销最小。