我不想重复这两个列表太多次
为什么？过早的优化是件坏事。首先测试它，衡量它是否足够有效，如果存在问题就解决问题。
您可以使用一个简单的过滤器通过流来实现这一点：

class Student
{
    long id;
}

final List<Student> students = /*something*/;
final List<Long> rollNoList = /*something*/;

List<Student> newStudents = students.stream()
                                    .filter(student -> rollNoList.contains(student.id))
                                    .collect(Collectors.toList());

使用streams的好处是，您可以稍后将其并行化。
另一个优化是检查数据结构的使用情况。正如seelenvirtuose指出的，使用 HashSet 将降低 contains 从o（n）到o（1）：

final Set<Long> rollNoList = new HashSet<>();

如果做不到这一点，您还可以通过复制 List 变成一个 HashSet 过滤前：

final Set<Long> rollNumbers = new HashSet<>(rollNoList);

但是如果您可以控制数据结构，只需使用 HashSet 从一开始。