Finish up the algorithm to stay within a given layer.

Now when expanding requests, we will only go between layers when we
the whole thing is small enough that we can read everything.
In all other cases, we will only prefetch up until the layer boundary.