~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tree.py

  • Committer: Jelmer Vernooij
  • Date: 2009-07-18 21:09:00 UTC
  • mfrom: (4416.8.1 bzr.dev)
  • mto: This revision was merged to the branch mainline in revision 4547.
  • Revision ID: jelmer@samba.org-20090718210900-oht5snx25j1jyeha
Merge create_prefix fix necessary for bzr-svn.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 Canonical Ltd
 
1
# Copyright (C) 2005, 2009 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
17
"""Tree classes, representing directory at point in time.
18
18
"""
19
19
 
20
20
import os
21
21
from collections import deque
22
 
from cStringIO import StringIO
23
22
 
24
23
import bzrlib
25
24
from bzrlib import (
 
25
    conflicts as _mod_conflicts,
 
26
    debug,
26
27
    delta,
 
28
    filters,
27
29
    osutils,
28
 
    symbol_versioning,
 
30
    revision as _mod_revision,
 
31
    rules,
29
32
    )
30
33
from bzrlib.decorators import needs_read_lock
31
 
from bzrlib.errors import BzrError, BzrCheckError
 
34
from bzrlib.errors import BzrError, NoSuchId
32
35
from bzrlib import errors
33
 
from bzrlib.inventory import Inventory, InventoryFile
 
36
from bzrlib.inventory import InventoryFile
34
37
from bzrlib.inter import InterObject
35
38
from bzrlib.osutils import fingerprint_file
36
39
import bzrlib.revision
37
 
from bzrlib.trace import mutter, note
 
40
from bzrlib.symbol_versioning import deprecated_function, deprecated_in
 
41
from bzrlib.trace import note
38
42
 
39
43
 
40
44
class Tree(object):
41
45
    """Abstract file tree.
42
46
 
43
47
    There are several subclasses:
44
 
    
 
48
 
45
49
    * `WorkingTree` exists as files on disk editable by the user.
46
50
 
47
51
    * `RevisionTree` is a tree as recorded at some point in the past.
56
60
    Trees can be compared, etc, regardless of whether they are working
57
61
    trees or versioned trees.
58
62
    """
59
 
    
 
63
 
60
64
    def changes_from(self, other, want_unchanged=False, specific_files=None,
61
65
        extra_trees=None, require_versioned=False, include_root=False,
62
66
        want_unversioned=False):
76
80
            a PathsNotVersionedError will be thrown.
77
81
        :param want_unversioned: Scan for unversioned paths.
78
82
 
79
 
        The comparison will be performed by an InterTree object looked up on 
 
83
        The comparison will be performed by an InterTree object looked up on
80
84
        self and other.
81
85
        """
82
86
        # Martin observes that Tree.changes_from returns a TreeDelta and this
91
95
            want_unversioned=want_unversioned,
92
96
            )
93
97
 
94
 
    def _iter_changes(self, from_tree, include_unchanged=False,
 
98
    def iter_changes(self, from_tree, include_unchanged=False,
95
99
                     specific_files=None, pb=None, extra_trees=None,
96
100
                     require_versioned=True, want_unversioned=False):
97
101
        intertree = InterTree.get(from_tree, self)
98
 
        return intertree._iter_changes(include_unchanged, specific_files, pb,
 
102
        return intertree.iter_changes(include_unchanged, specific_files, pb,
99
103
            extra_trees, require_versioned, want_unversioned=want_unversioned)
100
 
    
 
104
 
101
105
    def conflicts(self):
102
106
        """Get a list of the conflicts in the tree.
103
107
 
104
108
        Each conflict is an instance of bzrlib.conflicts.Conflict.
105
109
        """
106
 
        return []
 
110
        return _mod_conflicts.ConflictList()
107
111
 
108
112
    def extras(self):
109
113
        """For trees that can have unversioned files, return all such paths."""
110
114
        return []
111
115
 
112
116
    def get_parent_ids(self):
113
 
        """Get the parent ids for this tree. 
 
117
        """Get the parent ids for this tree.
114
118
 
115
119
        :return: a list of parent ids. [] is returned to indicate
116
120
        a tree with no parents.
117
121
        :raises: BzrError if the parents are not known.
118
122
        """
119
123
        raise NotImplementedError(self.get_parent_ids)
120
 
    
 
124
 
121
125
    def has_filename(self, filename):
122
126
        """True if the tree has given filename."""
123
 
        raise NotImplementedError()
 
127
        raise NotImplementedError(self.has_filename)
124
128
 
125
129
    def has_id(self, file_id):
126
 
        file_id = osutils.safe_file_id(file_id)
127
130
        return self.inventory.has_id(file_id)
128
131
 
129
 
    __contains__ = has_id
 
132
    def __contains__(self, file_id):
 
133
        return self.has_id(file_id)
130
134
 
131
135
    def has_or_had_id(self, file_id):
132
 
        file_id = osutils.safe_file_id(file_id)
133
136
        if file_id == self.inventory.root.file_id:
134
137
            return True
135
138
        return self.inventory.has_id(file_id)
145
148
    def __iter__(self):
146
149
        return iter(self.inventory)
147
150
 
 
151
    def all_file_ids(self):
 
152
        """Iterate through all file ids, including ids for missing files."""
 
153
        return set(self.inventory)
 
154
 
148
155
    def id2path(self, file_id):
149
156
        """Return the path for a file id.
150
157
 
151
158
        :raises NoSuchId:
152
159
        """
153
 
        file_id = osutils.safe_file_id(file_id)
154
160
        return self.inventory.id2path(file_id)
155
161
 
156
162
    def is_control_filename(self, filename):
157
163
        """True if filename is the name of a control file in this tree.
158
 
        
 
164
 
159
165
        :param filename: A filename within the tree. This is a relative path
160
166
        from the root of this tree.
161
167
 
169
175
    def iter_entries_by_dir(self, specific_file_ids=None):
170
176
        """Walk the tree in 'by_dir' order.
171
177
 
172
 
        This will yield each entry in the tree as a (path, entry) tuple. The
173
 
        order that they are yielded is: the contents of a directory are 
174
 
        preceeded by the parent of a directory, and all the contents of a 
175
 
        directory are grouped together.
 
178
        This will yield each entry in the tree as a (path, entry) tuple.
 
179
        The order that they are yielded is:
 
180
 
 
181
        Directories are walked in a depth-first lexicographical order,
 
182
        however, whenever a directory is reached, all of its direct child
 
183
        nodes are yielded in  lexicographical order before yielding the
 
184
        grandchildren.
 
185
 
 
186
        For example, in the tree::
 
187
 
 
188
           a/
 
189
             b/
 
190
               c
 
191
             d/
 
192
               e
 
193
           f/
 
194
             g
 
195
 
 
196
        The yield order (ignoring root) would be::
 
197
          a, f, a/b, a/d, a/b/c, a/d/e, f/g
176
198
        """
177
199
        return self.inventory.iter_entries_by_dir(
178
200
            specific_file_ids=specific_file_ids)
179
201
 
180
202
    def iter_references(self):
181
 
        for path, entry in self.iter_entries_by_dir():
182
 
            if entry.kind == 'tree-reference':
183
 
                yield path, entry.file_id
 
203
        if self.supports_tree_reference():
 
204
            for path, entry in self.iter_entries_by_dir():
 
205
                if entry.kind == 'tree-reference':
 
206
                    yield path, entry.file_id
184
207
 
185
208
    def kind(self, file_id):
186
209
        raise NotImplementedError("Tree subclass %s must implement kind"
187
210
            % self.__class__.__name__)
188
211
 
 
212
    def stored_kind(self, file_id):
 
213
        """File kind stored for this file_id.
 
214
 
 
215
        May not match kind on disk for working trees.  Always available
 
216
        for versioned files, even when the file itself is missing.
 
217
        """
 
218
        return self.kind(file_id)
 
219
 
 
220
    def path_content_summary(self, path):
 
221
        """Get a summary of the information about path.
 
222
 
 
223
        :param path: A relative path within the tree.
 
224
        :return: A tuple containing kind, size, exec, sha1-or-link.
 
225
            Kind is always present (see tree.kind()).
 
226
            size is present if kind is file, None otherwise.
 
227
            exec is None unless kind is file and the platform supports the 'x'
 
228
                bit.
 
229
            sha1-or-link is the link target if kind is symlink, or the sha1 if
 
230
                it can be obtained without reading the file.
 
231
        """
 
232
        raise NotImplementedError(self.path_content_summary)
 
233
 
189
234
    def get_reference_revision(self, file_id, path=None):
190
235
        raise NotImplementedError("Tree subclass %s must implement "
191
236
                                  "get_reference_revision"
207
252
 
208
253
    def _get_inventory(self):
209
254
        return self._inventory
210
 
    
211
 
    def get_file(self, file_id):
212
 
        """Return a file object for the file file_id in the tree."""
 
255
 
 
256
    def get_file(self, file_id, path=None):
 
257
        """Return a file object for the file file_id in the tree.
 
258
 
 
259
        If both file_id and path are defined, it is implementation defined as
 
260
        to which one is used.
 
261
        """
213
262
        raise NotImplementedError(self.get_file)
214
263
 
 
264
    def get_file_with_stat(self, file_id, path=None):
 
265
        """Get a file handle and stat object for file_id.
 
266
 
 
267
        The default implementation returns (self.get_file, None) for backwards
 
268
        compatibility.
 
269
 
 
270
        :param file_id: The file id to read.
 
271
        :param path: The path of the file, if it is known.
 
272
        :return: A tuple (file_handle, stat_value_or_None). If the tree has
 
273
            no stat facility, or need for a stat cache feedback during commit,
 
274
            it may return None for the second element of the tuple.
 
275
        """
 
276
        return (self.get_file(file_id, path), None)
 
277
 
 
278
    def get_file_text(self, file_id, path=None):
 
279
        """Return the byte content of a file.
 
280
 
 
281
        :param file_id: The file_id of the file.
 
282
        :param path: The path of the file.
 
283
        If both file_id and path are supplied, an implementation may use
 
284
        either one.
 
285
        """
 
286
        my_file = self.get_file(file_id, path)
 
287
        try:
 
288
            return my_file.read()
 
289
        finally:
 
290
            my_file.close()
 
291
 
 
292
    def get_file_lines(self, file_id, path=None):
 
293
        """Return the content of a file, as lines.
 
294
 
 
295
        :param file_id: The file_id of the file.
 
296
        :param path: The path of the file.
 
297
        If both file_id and path are supplied, an implementation may use
 
298
        either one.
 
299
        """
 
300
        return osutils.split_lines(self.get_file_text(file_id, path))
 
301
 
215
302
    def get_file_mtime(self, file_id, path=None):
216
303
        """Return the modification time for a file.
217
304
 
221
308
        """
222
309
        raise NotImplementedError(self.get_file_mtime)
223
310
 
 
311
    def get_file_size(self, file_id):
 
312
        """Return the size of a file in bytes.
 
313
 
 
314
        This applies only to regular files.  If invoked on directories or
 
315
        symlinks, it will return None.
 
316
        :param file_id: The file-id of the file
 
317
        """
 
318
        raise NotImplementedError(self.get_file_size)
 
319
 
224
320
    def get_file_by_path(self, path):
225
 
        return self.get_file(self._inventory.path2id(path))
 
321
        return self.get_file(self._inventory.path2id(path), path)
 
322
 
 
323
    def iter_files_bytes(self, desired_files):
 
324
        """Iterate through file contents.
 
325
 
 
326
        Files will not necessarily be returned in the order they occur in
 
327
        desired_files.  No specific order is guaranteed.
 
328
 
 
329
        Yields pairs of identifier, bytes_iterator.  identifier is an opaque
 
330
        value supplied by the caller as part of desired_files.  It should
 
331
        uniquely identify the file version in the caller's context.  (Examples:
 
332
        an index number or a TreeTransform trans_id.)
 
333
 
 
334
        bytes_iterator is an iterable of bytestrings for the file.  The
 
335
        kind of iterable and length of the bytestrings are unspecified, but for
 
336
        this implementation, it is a tuple containing a single bytestring with
 
337
        the complete text of the file.
 
338
 
 
339
        :param desired_files: a list of (file_id, identifier) pairs
 
340
        """
 
341
        for file_id, identifier in desired_files:
 
342
            # We wrap the string in a tuple so that we can return an iterable
 
343
            # of bytestrings.  (Technically, a bytestring is also an iterable
 
344
            # of bytestrings, but iterating through each character is not
 
345
            # performant.)
 
346
            cur_file = (self.get_file_text(file_id),)
 
347
            yield identifier, cur_file
226
348
 
227
349
    def get_symlink_target(self, file_id):
228
350
        """Get the target for a given file_id.
234
356
        """
235
357
        raise NotImplementedError(self.get_symlink_target)
236
358
 
237
 
    def annotate_iter(self, file_id):
238
 
        """Return an iterator of revision_id, line tuples
 
359
    def get_canonical_inventory_paths(self, paths):
 
360
        """Like get_canonical_inventory_path() but works on multiple items.
 
361
 
 
362
        :param paths: A sequence of paths relative to the root of the tree.
 
363
        :return: A list of paths, with each item the corresponding input path
 
364
        adjusted to account for existing elements that match case
 
365
        insensitively.
 
366
        """
 
367
        return list(self._yield_canonical_inventory_paths(paths))
 
368
 
 
369
    def get_canonical_inventory_path(self, path):
 
370
        """Returns the first inventory item that case-insensitively matches path.
 
371
 
 
372
        If a path matches exactly, it is returned. If no path matches exactly
 
373
        but more than one path matches case-insensitively, it is implementation
 
374
        defined which is returned.
 
375
 
 
376
        If no path matches case-insensitively, the input path is returned, but
 
377
        with as many path entries that do exist changed to their canonical
 
378
        form.
 
379
 
 
380
        If you need to resolve many names from the same tree, you should
 
381
        use get_canonical_inventory_paths() to avoid O(N) behaviour.
 
382
 
 
383
        :param path: A paths relative to the root of the tree.
 
384
        :return: The input path adjusted to account for existing elements
 
385
        that match case insensitively.
 
386
        """
 
387
        return self._yield_canonical_inventory_paths([path]).next()
 
388
 
 
389
    def _yield_canonical_inventory_paths(self, paths):
 
390
        for path in paths:
 
391
            # First, if the path as specified exists exactly, just use it.
 
392
            if self.path2id(path) is not None:
 
393
                yield path
 
394
                continue
 
395
            # go walkin...
 
396
            cur_id = self.get_root_id()
 
397
            cur_path = ''
 
398
            bit_iter = iter(path.split("/"))
 
399
            for elt in bit_iter:
 
400
                lelt = elt.lower()
 
401
                for child in self.iter_children(cur_id):
 
402
                    try:
 
403
                        child_base = os.path.basename(self.id2path(child))
 
404
                        if child_base.lower() == lelt:
 
405
                            cur_id = child
 
406
                            cur_path = osutils.pathjoin(cur_path, child_base)
 
407
                            break
 
408
                    except NoSuchId:
 
409
                        # before a change is committed we can see this error...
 
410
                        continue
 
411
                else:
 
412
                    # got to the end of this directory and no entries matched.
 
413
                    # Return what matched so far, plus the rest as specified.
 
414
                    cur_path = osutils.pathjoin(cur_path, elt, *list(bit_iter))
 
415
                    break
 
416
            yield cur_path
 
417
        # all done.
 
418
 
 
419
    def get_root_id(self):
 
420
        """Return the file_id for the root of this tree."""
 
421
        raise NotImplementedError(self.get_root_id)
 
422
 
 
423
    def annotate_iter(self, file_id,
 
424
                      default_revision=_mod_revision.CURRENT_REVISION):
 
425
        """Return an iterator of revision_id, line tuples.
239
426
 
240
427
        For working trees (and mutable trees in general), the special
241
428
        revision_id 'current:' will be used for lines that are new in this
242
429
        tree, e.g. uncommitted changes.
243
430
        :param file_id: The file to produce an annotated version from
 
431
        :param default_revision: For lines that don't match a basis, mark them
 
432
            with this revision id. Not all implementations will make use of
 
433
            this value.
244
434
        """
245
435
        raise NotImplementedError(self.annotate_iter)
246
436
 
 
437
    def _get_plan_merge_data(self, file_id, other, base):
 
438
        from bzrlib import versionedfile
 
439
        vf = versionedfile._PlanMergeVersionedFile(file_id)
 
440
        last_revision_a = self._get_file_revision(file_id, vf, 'this:')
 
441
        last_revision_b = other._get_file_revision(file_id, vf, 'other:')
 
442
        if base is None:
 
443
            last_revision_base = None
 
444
        else:
 
445
            last_revision_base = base._get_file_revision(file_id, vf, 'base:')
 
446
        return vf, last_revision_a, last_revision_b, last_revision_base
 
447
 
 
448
    def plan_file_merge(self, file_id, other, base=None):
 
449
        """Generate a merge plan based on annotations.
 
450
 
 
451
        If the file contains uncommitted changes in this tree, they will be
 
452
        attributed to the 'current:' pseudo-revision.  If the file contains
 
453
        uncommitted changes in the other tree, they will be assigned to the
 
454
        'other:' pseudo-revision.
 
455
        """
 
456
        data = self._get_plan_merge_data(file_id, other, base)
 
457
        vf, last_revision_a, last_revision_b, last_revision_base = data
 
458
        return vf.plan_merge(last_revision_a, last_revision_b,
 
459
                             last_revision_base)
 
460
 
 
461
    def plan_file_lca_merge(self, file_id, other, base=None):
 
462
        """Generate a merge plan based lca-newness.
 
463
 
 
464
        If the file contains uncommitted changes in this tree, they will be
 
465
        attributed to the 'current:' pseudo-revision.  If the file contains
 
466
        uncommitted changes in the other tree, they will be assigned to the
 
467
        'other:' pseudo-revision.
 
468
        """
 
469
        data = self._get_plan_merge_data(file_id, other, base)
 
470
        vf, last_revision_a, last_revision_b, last_revision_base = data
 
471
        return vf.plan_lca_merge(last_revision_a, last_revision_b,
 
472
                                 last_revision_base)
 
473
 
 
474
    def _iter_parent_trees(self):
 
475
        """Iterate through parent trees, defaulting to Tree.revision_tree."""
 
476
        for revision_id in self.get_parent_ids():
 
477
            try:
 
478
                yield self.revision_tree(revision_id)
 
479
            except errors.NoSuchRevisionInTree:
 
480
                yield self.repository.revision_tree(revision_id)
 
481
 
 
482
    @staticmethod
 
483
    def _file_revision(revision_tree, file_id):
 
484
        """Determine the revision associated with a file in a given tree."""
 
485
        revision_tree.lock_read()
 
486
        try:
 
487
            return revision_tree.inventory[file_id].revision
 
488
        finally:
 
489
            revision_tree.unlock()
 
490
 
 
491
    def _get_file_revision(self, file_id, vf, tree_revision):
 
492
        """Ensure that file_id, tree_revision is in vf to plan the merge."""
 
493
 
 
494
        if getattr(self, '_repository', None) is None:
 
495
            last_revision = tree_revision
 
496
            parent_keys = [(file_id, self._file_revision(t, file_id)) for t in
 
497
                self._iter_parent_trees()]
 
498
            vf.add_lines((file_id, last_revision), parent_keys,
 
499
                         self.get_file(file_id).readlines())
 
500
            repo = self.branch.repository
 
501
            base_vf = repo.texts
 
502
        else:
 
503
            last_revision = self._file_revision(self, file_id)
 
504
            base_vf = self._repository.texts
 
505
        if base_vf not in vf.fallback_versionedfiles:
 
506
            vf.fallback_versionedfiles.append(base_vf)
 
507
        return last_revision
 
508
 
247
509
    inventory = property(_get_inventory,
248
510
                         doc="Inventory of this Tree")
249
511
 
250
512
    def _check_retrieved(self, ie, f):
251
513
        if not __debug__:
252
 
            return  
 
514
            return
253
515
        fp = fingerprint_file(f)
254
516
        f.seek(0)
255
 
        
 
517
 
256
518
        if ie.text_size is not None:
257
519
            if ie.text_size != fp['size']:
258
520
                raise BzrError("mismatched size for file %r in %r" % (ie.file_id, self._store),
273
535
 
274
536
    def paths2ids(self, paths, trees=[], require_versioned=True):
275
537
        """Return all the ids that can be reached by walking from paths.
276
 
        
277
 
        Each path is looked up in each this tree and any extras provided in
 
538
 
 
539
        Each path is looked up in this tree and any extras provided in
278
540
        trees, and this is repeated recursively: the children in an extra tree
279
541
        of a directory that has been renamed under a provided path in this tree
280
 
        are all returned, even if none exist until a provided path in this
 
542
        are all returned, even if none exist under a provided path in this
281
543
        tree, and vice versa.
282
544
 
283
545
        :param paths: An iterable of paths to start converting to ids from.
290
552
        """
291
553
        return find_ids_across_trees(paths, [self] + list(trees), require_versioned)
292
554
 
293
 
    def print_file(self, file_id):
294
 
        """Print file with id `file_id` to stdout."""
295
 
        file_id = osutils.safe_file_id(file_id)
296
 
        import sys
297
 
        sys.stdout.write(self.get_file_text(file_id))
 
555
    def iter_children(self, file_id):
 
556
        entry = self.iter_entries_by_dir([file_id]).next()[1]
 
557
        for child in getattr(entry, 'children', {}).itervalues():
 
558
            yield child.file_id
298
559
 
299
560
    def lock_read(self):
300
561
        pass
304
565
 
305
566
        The intention of this method is to allow access to possibly cached
306
567
        tree data. Implementors of this method should raise NoSuchRevision if
307
 
        the tree is not locally available, even if they could obtain the 
308
 
        tree via a repository or some other means. Callers are responsible 
 
568
        the tree is not locally available, even if they could obtain the
 
569
        tree via a repository or some other means. Callers are responsible
309
570
        for finding the ultimate source for a revision tree.
310
571
 
311
572
        :param revision_id: The revision_id of the requested tree.
316
577
 
317
578
    def unknowns(self):
318
579
        """What files are present in this tree and unknown.
319
 
        
 
580
 
320
581
        :return: an iterator over the unknown files.
321
582
        """
322
583
        return iter([])
330
591
        :return: set of paths.
331
592
        """
332
593
        # NB: we specifically *don't* call self.has_filename, because for
333
 
        # WorkingTrees that can indicate files that exist on disk but that 
 
594
        # WorkingTrees that can indicate files that exist on disk but that
334
595
        # are not versioned.
335
596
        pred = self.inventory.has_filename
336
597
        return set((p for p in paths if not pred(p)))
341
602
        This yields all the data about the contents of a directory at a time.
342
603
        After each directory has been yielded, if the caller has mutated the
343
604
        list to exclude some directories, they are then not descended into.
344
 
        
 
605
 
345
606
        The data yielded is of the form:
346
607
        ((directory-relpath, directory-path-from-root, directory-fileid),
347
 
        [(relpath, basename, kind, lstat, path_from_tree_root, file_id, 
 
608
        [(relpath, basename, kind, lstat, path_from_tree_root, file_id,
348
609
          versioned_kind), ...]),
349
610
         - directory-relpath is the containing dirs relpath from prefix
350
611
         - directory-path-from-root is the containing dirs path from /
356
617
           versioned_kind.
357
618
         - lstat is the stat data *if* the file was statted.
358
619
         - path_from_tree_root is the path from the root of the tree.
359
 
         - file_id is the file_id is the entry is versioned.
360
 
         - versioned_kind is the kind of the file as last recorded in the 
 
620
         - file_id is the file_id if the entry is versioned.
 
621
         - versioned_kind is the kind of the file as last recorded in the
361
622
           versioning system. If 'unknown' the file is not versioned.
362
623
        One of 'kind' and 'versioned_kind' must not be 'unknown'.
363
624
 
368
629
        """
369
630
        raise NotImplementedError(self.walkdirs)
370
631
 
371
 
 
372
 
class EmptyTree(Tree):
373
 
 
374
 
    def __init__(self):
375
 
        self._inventory = Inventory(root_id=None)
376
 
        symbol_versioning.warn('EmptyTree is deprecated as of bzr 0.9 please'
377
 
                               ' use repository.revision_tree instead.',
378
 
                               DeprecationWarning, stacklevel=2)
379
 
 
380
 
    def get_parent_ids(self):
381
 
        return []
382
 
 
383
 
    def get_symlink_target(self, file_id):
384
 
        return None
385
 
 
386
 
    def has_filename(self, filename):
 
632
    def supports_content_filtering(self):
387
633
        return False
388
634
 
389
 
    def kind(self, file_id):
390
 
        file_id = osutils.safe_file_id(file_id)
391
 
        assert self._inventory[file_id].kind == "directory"
392
 
        return "directory"
393
 
 
394
 
    def list_files(self, include_root=False):
395
 
        return iter([])
396
 
    
397
 
    def __contains__(self, file_id):
398
 
        file_id = osutils.safe_file_id(file_id)
399
 
        return (file_id in self._inventory)
400
 
 
401
 
    def get_file_sha1(self, file_id, path=None, stat_value=None):
402
 
        return None
 
635
    def _content_filter_stack(self, path=None, file_id=None):
 
636
        """The stack of content filters for a path if filtering is supported.
 
637
 
 
638
        Readers will be applied in first-to-last order.
 
639
        Writers will be applied in last-to-first order.
 
640
        Either the path or the file-id needs to be provided.
 
641
 
 
642
        :param path: path relative to the root of the tree
 
643
            or None if unknown
 
644
        :param file_id: file_id or None if unknown
 
645
        :return: the list of filters - [] if there are none
 
646
        """
 
647
        filter_pref_names = filters._get_registered_names()
 
648
        if len(filter_pref_names) == 0:
 
649
            return []
 
650
        if path is None:
 
651
            path = self.id2path(file_id)
 
652
        prefs = self.iter_search_rules([path], filter_pref_names).next()
 
653
        stk = filters._get_filter_stack_for(prefs)
 
654
        if 'filters' in debug.debug_flags:
 
655
            note("*** %s content-filter: %s => %r" % (path,prefs,stk))
 
656
        return stk
 
657
 
 
658
    def _content_filter_stack_provider(self):
 
659
        """A function that returns a stack of ContentFilters.
 
660
 
 
661
        The function takes a path (relative to the top of the tree) and a
 
662
        file-id as parameters.
 
663
 
 
664
        :return: None if content filtering is not supported by this tree.
 
665
        """
 
666
        if self.supports_content_filtering():
 
667
            return lambda path, file_id: \
 
668
                    self._content_filter_stack(path, file_id)
 
669
        else:
 
670
            return None
 
671
 
 
672
    def iter_search_rules(self, path_names, pref_names=None,
 
673
        _default_searcher=None):
 
674
        """Find the preferences for filenames in a tree.
 
675
 
 
676
        :param path_names: an iterable of paths to find attributes for.
 
677
          Paths are given relative to the root of the tree.
 
678
        :param pref_names: the list of preferences to lookup - None for all
 
679
        :param _default_searcher: private parameter to assist testing - don't use
 
680
        :return: an iterator of tuple sequences, one per path-name.
 
681
          See _RulesSearcher.get_items for details on the tuple sequence.
 
682
        """
 
683
        if _default_searcher is None:
 
684
            _default_searcher = rules._per_user_searcher
 
685
        searcher = self._get_rules_searcher(_default_searcher)
 
686
        if searcher is not None:
 
687
            if pref_names is not None:
 
688
                for path in path_names:
 
689
                    yield searcher.get_selected_items(path, pref_names)
 
690
            else:
 
691
                for path in path_names:
 
692
                    yield searcher.get_items(path)
 
693
 
 
694
    @needs_read_lock
 
695
    def _get_rules_searcher(self, default_searcher):
 
696
        """Get the RulesSearcher for this tree given the default one."""
 
697
        searcher = default_searcher
 
698
        return searcher
403
699
 
404
700
 
405
701
######################################################################
438
734
        # what happened to the file that used to have
439
735
        # this name.  There are two possibilities: either it was
440
736
        # deleted entirely, or renamed.
441
 
        assert old_id
442
737
        if new_inv.has_id(old_id):
443
738
            return 'X', old_inv.id2path(old_id), new_inv.id2path(old_id)
444
739
        else:
455
750
 
456
751
    return 'wtf?'
457
752
 
458
 
    
459
753
 
 
754
@deprecated_function(deprecated_in((1, 9, 0)))
460
755
def find_renames(old_inv, new_inv):
461
756
    for file_id in old_inv:
462
757
        if file_id not in new_inv:
465
760
        new_name = new_inv.id2path(file_id)
466
761
        if old_name != new_name:
467
762
            yield (old_name, new_name)
468
 
            
 
763
 
469
764
 
470
765
def find_ids_across_trees(filenames, trees, require_versioned=True):
471
766
    """Find the ids corresponding to specified filenames.
472
 
    
 
767
 
473
768
    All matches in all trees will be used, and all children of matched
474
769
    directories will be used.
475
770
 
489
784
 
490
785
def _find_ids_across_trees(filenames, trees, require_versioned):
491
786
    """Find the ids corresponding to specified filenames.
492
 
    
 
787
 
493
788
    All matches in all trees will be used, but subdirectories are not scanned.
494
789
 
495
790
    :param filenames: The filenames to find file_ids for
496
791
    :param trees: The trees to find file_ids within
497
792
    :param require_versioned: if true, all specified filenames must occur in
498
793
        at least one tree.
499
 
    :return: a set of (path, file ids) for the specified filenames
 
794
    :return: a set of file ids for the specified filenames
500
795
    """
501
796
    not_versioned = []
502
797
    interesting_ids = set()
515
810
 
516
811
 
517
812
def _find_children_across_trees(specified_ids, trees):
518
 
    """Return a set including specified ids and their children
519
 
    
 
813
    """Return a set including specified ids and their children.
 
814
 
520
815
    All matches in all trees will be used.
521
816
 
522
817
    :param trees: The trees to find file_ids within
523
 
    :return: a set containing all specified ids and their children 
 
818
    :return: a set containing all specified ids and their children
524
819
    """
525
820
    interesting_ids = set(specified_ids)
526
821
    pending = interesting_ids
532
827
            for tree in trees:
533
828
                if not tree.has_id(file_id):
534
829
                    continue
535
 
                entry = tree.inventory[file_id]
536
 
                for child in getattr(entry, 'children', {}).itervalues():
537
 
                    if child.file_id not in interesting_ids:
538
 
                        new_pending.add(child.file_id)
 
830
                for child_id in tree.iter_children(file_id):
 
831
                    if child_id not in interesting_ids:
 
832
                        new_pending.add(child_id)
539
833
        interesting_ids.update(new_pending)
540
834
        pending = new_pending
541
835
    return interesting_ids
547
841
    Its instances have methods like 'compare' and contain references to the
548
842
    source and target trees these operations are to be carried out on.
549
843
 
550
 
    clients of bzrlib should not need to use InterTree directly, rather they
 
844
    Clients of bzrlib should not need to use InterTree directly, rather they
551
845
    should use the convenience methods on Tree such as 'Tree.compare()' which
552
846
    will pass through to InterTree as appropriate.
553
847
    """
593
887
            return result
594
888
        return delta._compare_trees(self.source, self.target, want_unchanged,
595
889
            specific_files, include_root, extra_trees=extra_trees,
 
890
            require_versioned=require_versioned,
596
891
            want_unversioned=want_unversioned)
597
892
 
598
 
    def _iter_changes(self, include_unchanged=False,
 
893
    def iter_changes(self, include_unchanged=False,
599
894
                      specific_files=None, pb=None, extra_trees=[],
600
895
                      require_versioned=True, want_unversioned=False):
601
896
        """Generate an iterator of changes between trees.
625
920
            output. An unversioned file is defined as one with (False, False)
626
921
            for the versioned pair.
627
922
        """
628
 
        result = []
629
923
        lookup_trees = [self.source]
630
924
        if extra_trees:
631
925
             lookup_trees.extend(extra_trees)
632
 
        specific_file_ids = self.target.paths2ids(specific_files,
633
 
            lookup_trees, require_versioned=require_versioned)
 
926
        if specific_files == []:
 
927
            specific_file_ids = []
 
928
        else:
 
929
            specific_file_ids = self.target.paths2ids(specific_files,
 
930
                lookup_trees, require_versioned=require_versioned)
634
931
        if want_unversioned:
635
 
            all_unversioned = sorted([(p.split('/'), p) for p in self.target.extras()
636
 
                if not specific_files or
 
932
            all_unversioned = sorted([(p.split('/'), p) for p in
 
933
                                     self.target.extras()
 
934
                if specific_files is None or
637
935
                    osutils.is_inside_any(specific_files, p)])
638
936
            all_unversioned = deque(all_unversioned)
639
937
        else:
640
938
            all_unversioned = deque()
641
939
        to_paths = {}
642
 
        from_entries_by_dir = list(self.source.inventory.iter_entries_by_dir(
 
940
        from_entries_by_dir = list(self.source.iter_entries_by_dir(
643
941
            specific_file_ids=specific_file_ids))
644
942
        from_data = dict((e.file_id, (p, e)) for p, e in from_entries_by_dir)
645
 
        to_entries_by_dir = list(self.target.inventory.iter_entries_by_dir(
 
943
        to_entries_by_dir = list(self.target.iter_entries_by_dir(
646
944
            specific_file_ids=specific_file_ids))
647
945
        num_entries = len(from_entries_by_dir) + len(to_entries_by_dir)
648
946
        entry_count = 0
649
 
        # the unversioned path lookup only occurs on real trees - where there 
 
947
        # the unversioned path lookup only occurs on real trees - where there
650
948
        # can be extras. So the fake_entry is solely used to look up
651
949
        # executable it values when execute is not supported.
652
950
        fake_entry = InventoryFile('unused', 'unused', 'unused')
686
984
            if kind[0] != kind[1]:
687
985
                changed_content = True
688
986
            elif from_kind == 'file':
689
 
                from_size = self.source._file_size(from_entry, from_stat)
690
 
                to_size = self.target._file_size(to_entry, to_stat)
691
 
                if from_size != to_size:
692
 
                    changed_content = True
693
 
                elif (self.source.get_file_sha1(file_id, from_path, from_stat) !=
 
987
                if (self.source.get_file_sha1(file_id, from_path, from_stat) !=
694
988
                    self.target.get_file_sha1(file_id, to_path, to_stat)):
695
989
                    changed_content = True
696
990
            elif from_kind == 'symlink':
697
991
                if (self.source.get_symlink_target(file_id) !=
698
992
                    self.target.get_symlink_target(file_id)):
699
993
                    changed_content = True
 
994
                # XXX: Yes, the indentation below is wrong. But fixing it broke
 
995
                # test_merge.TestMergerEntriesLCAOnDisk.
 
996
                # test_nested_tree_subtree_renamed_and_modified. We'll wait for
 
997
                # the fix from bzr.dev -- vila 2009026
700
998
                elif from_kind == 'tree-reference':
701
999
                    if (self.source.get_reference_revision(file_id, from_path)
702
1000
                        != self.target.get_reference_revision(file_id, to_path)):
703
 
                        changed_content = True 
 
1001
                        changed_content = True
704
1002
            parent = (from_parent, to_entry.parent_id)
705
1003
            name = (from_name, to_entry.name)
706
1004
            executable = (from_executable, to_executable)
707
1005
            if pb is not None:
708
1006
                pb.update('comparing files', entry_count, num_entries)
709
1007
            if (changed_content is not False or versioned[0] != versioned[1]
710
 
                or parent[0] != parent[1] or name[0] != name[1] or 
 
1008
                or parent[0] != parent[1] or name[0] != name[1] or
711
1009
                executable[0] != executable[1] or include_unchanged):
712
1010
                yield (file_id, (from_path, to_path), changed_content,
713
1011
                    versioned, parent, name, kind, executable)
740
1038
            if file_id in to_paths:
741
1039
                # already returned
742
1040
                continue
743
 
            if not file_id in self.target.inventory:
 
1041
            if not file_id in self.target.all_file_ids():
744
1042
                # common case - paths we have not emitted are not present in
745
1043
                # target.
746
1044
                to_path = None
756
1054
                self.source._comparison_data(from_entry, path)
757
1055
            kind = (from_kind, None)
758
1056
            executable = (from_executable, None)
759
 
            changed_content = True
 
1057
            changed_content = from_kind is not None
760
1058
            # the parent's path is necessarily known at this point.
761
1059
            yield(file_id, (path, to_path), changed_content, versioned, parent,
762
1060
                  name, kind, executable)
763
1061
 
764
1062
 
765
 
# This was deprecated before 0.12, but did not have an official warning
766
 
@symbol_versioning.deprecated_function(symbol_versioning.zero_twelve)
767
 
def RevisionTree(*args, **kwargs):
768
 
    """RevisionTree has moved to bzrlib.revisiontree.RevisionTree()
769
 
 
770
 
    Accessing it as bzrlib.tree.RevisionTree has been deprecated as of
771
 
    bzr 0.12.
772
 
    """
773
 
    from bzrlib.revisiontree import RevisionTree as _RevisionTree
774
 
    return _RevisionTree(*args, **kwargs)
775
 
 
776
 
 
 
1063
class MultiWalker(object):
 
1064
    """Walk multiple trees simultaneously, getting combined results."""
 
1065
 
 
1066
    # Note: This could be written to not assume you can do out-of-order
 
1067
    #       lookups. Instead any nodes that don't match in all trees could be
 
1068
    #       marked as 'deferred', and then returned in the final cleanup loop.
 
1069
    #       For now, I think it is "nicer" to return things as close to the
 
1070
    #       "master_tree" order as we can.
 
1071
 
 
1072
    def __init__(self, master_tree, other_trees):
 
1073
        """Create a new MultiWalker.
 
1074
 
 
1075
        All trees being walked must implement "iter_entries_by_dir()", such
 
1076
        that they yield (path, object) tuples, where that object will have a
 
1077
        '.file_id' member, that can be used to check equality.
 
1078
 
 
1079
        :param master_tree: All trees will be 'slaved' to the master_tree such
 
1080
            that nodes in master_tree will be used as 'first-pass' sync points.
 
1081
            Any nodes that aren't in master_tree will be merged in a second
 
1082
            pass.
 
1083
        :param other_trees: A list of other trees to walk simultaneously.
 
1084
        """
 
1085
        self._master_tree = master_tree
 
1086
        self._other_trees = other_trees
 
1087
 
 
1088
        # Keep track of any nodes that were properly processed just out of
 
1089
        # order, that way we don't return them at the end, we don't have to
 
1090
        # track *all* processed file_ids, just the out-of-order ones
 
1091
        self._out_of_order_processed = set()
 
1092
 
 
1093
    @staticmethod
 
1094
    def _step_one(iterator):
 
1095
        """Step an iter_entries_by_dir iterator.
 
1096
 
 
1097
        :return: (has_more, path, ie)
 
1098
            If has_more is False, path and ie will be None.
 
1099
        """
 
1100
        try:
 
1101
            path, ie = iterator.next()
 
1102
        except StopIteration:
 
1103
            return False, None, None
 
1104
        else:
 
1105
            return True, path, ie
 
1106
 
 
1107
    @staticmethod
 
1108
    def _cmp_path_by_dirblock(path1, path2):
 
1109
        """Compare two paths based on what directory they are in.
 
1110
 
 
1111
        This generates a sort order, such that all children of a directory are
 
1112
        sorted together, and grandchildren are in the same order as the
 
1113
        children appear. But all grandchildren come after all children.
 
1114
 
 
1115
        :param path1: first path
 
1116
        :param path2: the second path
 
1117
        :return: negative number if ``path1`` comes first,
 
1118
            0 if paths are equal
 
1119
            and a positive number if ``path2`` sorts first
 
1120
        """
 
1121
        # Shortcut this special case
 
1122
        if path1 == path2:
 
1123
            return 0
 
1124
        # This is stolen from _dirstate_helpers_py.py, only switching it to
 
1125
        # Unicode objects. Consider using encode_utf8() and then using the
 
1126
        # optimized versions, or maybe writing optimized unicode versions.
 
1127
        if not isinstance(path1, unicode):
 
1128
            raise TypeError("'path1' must be a unicode string, not %s: %r"
 
1129
                            % (type(path1), path1))
 
1130
        if not isinstance(path2, unicode):
 
1131
            raise TypeError("'path2' must be a unicode string, not %s: %r"
 
1132
                            % (type(path2), path2))
 
1133
        return cmp(MultiWalker._path_to_key(path1),
 
1134
                   MultiWalker._path_to_key(path2))
 
1135
 
 
1136
    @staticmethod
 
1137
    def _path_to_key(path):
 
1138
        dirname, basename = osutils.split(path)
 
1139
        return (dirname.split(u'/'), basename)
 
1140
 
 
1141
    def _lookup_by_file_id(self, extra_entries, other_tree, file_id):
 
1142
        """Lookup an inventory entry by file_id.
 
1143
 
 
1144
        This is called when an entry is missing in the normal order.
 
1145
        Generally this is because a file was either renamed, or it was
 
1146
        deleted/added. If the entry was found in the inventory and not in
 
1147
        extra_entries, it will be added to self._out_of_order_processed
 
1148
 
 
1149
        :param extra_entries: A dictionary of {file_id: (path, ie)}.  This
 
1150
            should be filled with entries that were found before they were
 
1151
            used. If file_id is present, it will be removed from the
 
1152
            dictionary.
 
1153
        :param other_tree: The Tree to search, in case we didn't find the entry
 
1154
            yet.
 
1155
        :param file_id: The file_id to look for
 
1156
        :return: (path, ie) if found or (None, None) if not present.
 
1157
        """
 
1158
        if file_id in extra_entries:
 
1159
            return extra_entries.pop(file_id)
 
1160
        # TODO: Is id2path better as the first call, or is
 
1161
        #       inventory[file_id] better as a first check?
 
1162
        try:
 
1163
            cur_path = other_tree.id2path(file_id)
 
1164
        except errors.NoSuchId:
 
1165
            cur_path = None
 
1166
        if cur_path is None:
 
1167
            return (None, None)
 
1168
        else:
 
1169
            self._out_of_order_processed.add(file_id)
 
1170
            cur_ie = other_tree.inventory[file_id]
 
1171
            return (cur_path, cur_ie)
 
1172
 
 
1173
    def iter_all(self):
 
1174
        """Match up the values in the different trees."""
 
1175
        for result in self._walk_master_tree():
 
1176
            yield result
 
1177
        self._finish_others()
 
1178
        for result in self._walk_others():
 
1179
            yield result
 
1180
 
 
1181
    def _walk_master_tree(self):
 
1182
        """First pass, walk all trees in lock-step.
 
1183
 
 
1184
        When we are done, all nodes in the master_tree will have been
 
1185
        processed. _other_walkers, _other_entries, and _others_extra will be
 
1186
        set on 'self' for future processing.
 
1187
        """
 
1188
        # This iterator has the most "inlining" done, because it tends to touch
 
1189
        # every file in the tree, while the others only hit nodes that don't
 
1190
        # match.
 
1191
        master_iterator = self._master_tree.iter_entries_by_dir()
 
1192
 
 
1193
        other_walkers = [other.iter_entries_by_dir()
 
1194
                         for other in self._other_trees]
 
1195
        other_entries = [self._step_one(walker) for walker in other_walkers]
 
1196
        # Track extra nodes in the other trees
 
1197
        others_extra = [{} for i in xrange(len(self._other_trees))]
 
1198
 
 
1199
        master_has_more = True
 
1200
        step_one = self._step_one
 
1201
        lookup_by_file_id = self._lookup_by_file_id
 
1202
        out_of_order_processed = self._out_of_order_processed
 
1203
 
 
1204
        while master_has_more:
 
1205
            (master_has_more, path, master_ie) = step_one(master_iterator)
 
1206
            if not master_has_more:
 
1207
                break
 
1208
 
 
1209
            file_id = master_ie.file_id
 
1210
            other_values = []
 
1211
            other_values_append = other_values.append
 
1212
            next_other_entries = []
 
1213
            next_other_entries_append = next_other_entries.append
 
1214
            for idx, (other_has_more, other_path, other_ie) in enumerate(other_entries):
 
1215
                if not other_has_more:
 
1216
                    other_values_append(lookup_by_file_id(
 
1217
                        others_extra[idx], self._other_trees[idx], file_id))
 
1218
                    next_other_entries_append((False, None, None))
 
1219
                elif file_id == other_ie.file_id:
 
1220
                    # This is the critical code path, as most of the entries
 
1221
                    # should match between most trees.
 
1222
                    other_values_append((other_path, other_ie))
 
1223
                    next_other_entries_append(step_one(other_walkers[idx]))
 
1224
                else:
 
1225
                    # This walker did not match, step it until it either
 
1226
                    # matches, or we know we are past the current walker.
 
1227
                    other_walker = other_walkers[idx]
 
1228
                    other_extra = others_extra[idx]
 
1229
                    while (other_has_more and
 
1230
                           self._cmp_path_by_dirblock(other_path, path) < 0):
 
1231
                        other_file_id = other_ie.file_id
 
1232
                        if other_file_id not in out_of_order_processed:
 
1233
                            other_extra[other_file_id] = (other_path, other_ie)
 
1234
                        other_has_more, other_path, other_ie = \
 
1235
                            step_one(other_walker)
 
1236
                    if other_has_more and other_ie.file_id == file_id:
 
1237
                        # We ended up walking to this point, match and step
 
1238
                        # again
 
1239
                        other_values_append((other_path, other_ie))
 
1240
                        other_has_more, other_path, other_ie = \
 
1241
                            step_one(other_walker)
 
1242
                    else:
 
1243
                        # This record isn't in the normal order, see if it
 
1244
                        # exists at all.
 
1245
                        other_values_append(lookup_by_file_id(
 
1246
                            other_extra, self._other_trees[idx], file_id))
 
1247
                    next_other_entries_append((other_has_more, other_path,
 
1248
                                               other_ie))
 
1249
            other_entries = next_other_entries
 
1250
 
 
1251
            # We've matched all the walkers, yield this datapoint
 
1252
            yield path, file_id, master_ie, other_values
 
1253
        self._other_walkers = other_walkers
 
1254
        self._other_entries = other_entries
 
1255
        self._others_extra = others_extra
 
1256
 
 
1257
    def _finish_others(self):
 
1258
        """Finish walking the other iterators, so we get all entries."""
 
1259
        for idx, info in enumerate(self._other_entries):
 
1260
            other_extra = self._others_extra[idx]
 
1261
            (other_has_more, other_path, other_ie) = info
 
1262
            while other_has_more:
 
1263
                other_file_id = other_ie.file_id
 
1264
                if other_file_id not in self._out_of_order_processed:
 
1265
                    other_extra[other_file_id] = (other_path, other_ie)
 
1266
                other_has_more, other_path, other_ie = \
 
1267
                    self._step_one(self._other_walkers[idx])
 
1268
        del self._other_entries
 
1269
 
 
1270
    def _walk_others(self):
 
1271
        """Finish up by walking all the 'deferred' nodes."""
 
1272
        # TODO: One alternative would be to grab all possible unprocessed
 
1273
        #       file_ids, and then sort by path, and then yield them. That
 
1274
        #       might ensure better ordering, in case a caller strictly
 
1275
        #       requires parents before children.
 
1276
        for idx, other_extra in enumerate(self._others_extra):
 
1277
            others = sorted(other_extra.itervalues(),
 
1278
                            key=lambda x: self._path_to_key(x[0]))
 
1279
            for other_path, other_ie in others:
 
1280
                file_id = other_ie.file_id
 
1281
                # We don't need to check out_of_order_processed here, because
 
1282
                # the lookup_by_file_id will be removing anything processed
 
1283
                # from the extras cache
 
1284
                other_extra.pop(file_id)
 
1285
                other_values = [(None, None) for i in xrange(idx)]
 
1286
                other_values.append((other_path, other_ie))
 
1287
                for alt_idx, alt_extra in enumerate(self._others_extra[idx+1:]):
 
1288
                    alt_idx = alt_idx + idx + 1
 
1289
                    alt_extra = self._others_extra[alt_idx]
 
1290
                    alt_tree = self._other_trees[alt_idx]
 
1291
                    other_values.append(self._lookup_by_file_id(
 
1292
                                            alt_extra, alt_tree, file_id))
 
1293
                yield other_path, file_id, None, other_values