~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/workingtree.py

  • Committer: Matt Nordhoff
  • Date: 2009-06-23 22:31:59 UTC
  • mto: This revision was merged to the branch mainline in revision 4479.
  • Revision ID: mnordhoff@mattnordhoff.com-20090623223159-fqfgl9c7a4umtafj
bzrlib.util.bencode's deprecation warning used the wrong stacklevel

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2011 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007, 2008 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
29
29
WorkingTree.open(dir).
30
30
"""
31
31
 
 
32
# TODO: Give the workingtree sole responsibility for the working inventory;
 
33
# remove the variable and references to it from the branch.  This may require
 
34
# updating the commit code so as to update the inventory within the working
 
35
# copy, and making sure there's only one WorkingTree for any directory on disk.
 
36
# At the moment they may alias the inventory and have old copies of it in
 
37
# memory.  (Now done? -- mbp 20060309)
32
38
 
33
39
from cStringIO import StringIO
34
40
import os
42
48
import itertools
43
49
import operator
44
50
import stat
 
51
from time import time
 
52
import warnings
45
53
import re
46
54
 
 
55
import bzrlib
47
56
from bzrlib import (
48
57
    branch,
49
58
    bzrdir,
50
59
    conflicts as _mod_conflicts,
51
 
    controldir,
 
60
    dirstate,
52
61
    errors,
53
 
    filters as _mod_filters,
54
62
    generate_ids,
55
63
    globbing,
56
 
    graph as _mod_graph,
57
64
    hashcache,
58
65
    ignores,
59
 
    inventory,
60
66
    merge,
61
67
    revision as _mod_revision,
62
68
    revisiontree,
63
 
    rio as _mod_rio,
 
69
    repository,
 
70
    textui,
 
71
    trace,
64
72
    transform,
65
 
    transport,
66
73
    ui,
 
74
    urlutils,
67
75
    views,
68
76
    xml5,
 
77
    xml6,
69
78
    xml7,
70
79
    )
 
80
import bzrlib.branch
 
81
from bzrlib.transport import get_transport
 
82
import bzrlib.ui
 
83
from bzrlib.workingtree_4 import (
 
84
    WorkingTreeFormat4,
 
85
    WorkingTreeFormat5,
 
86
    WorkingTreeFormat6,
 
87
    )
71
88
""")
72
89
 
73
90
from bzrlib import symbol_versioning
74
91
from bzrlib.decorators import needs_read_lock, needs_write_lock
75
 
from bzrlib.lock import LogicalLockResult
 
92
from bzrlib.inventory import InventoryEntry, Inventory, ROOT_ID, TreeReference
 
93
from bzrlib.lockable_files import LockableFiles
 
94
from bzrlib.lockdir import LockDir
76
95
import bzrlib.mutabletree
77
96
from bzrlib.mutabletree import needs_tree_write_lock
78
97
from bzrlib import osutils
79
98
from bzrlib.osutils import (
 
99
    compact_date,
80
100
    file_kind,
81
101
    isdir,
82
102
    normpath,
83
103
    pathjoin,
 
104
    rand_chars,
84
105
    realpath,
85
106
    safe_unicode,
86
107
    splitpath,
87
108
    supports_executable,
88
109
    )
 
110
from bzrlib.filters import filtered_input_file
89
111
from bzrlib.trace import mutter, note
90
 
from bzrlib.revision import CURRENT_REVISION
91
 
from bzrlib.symbol_versioning import (
92
 
    deprecated_passed,
93
 
    DEPRECATED_PARAMETER,
94
 
    )
 
112
from bzrlib.transport.local import LocalTransport
 
113
from bzrlib.progress import DummyProgress, ProgressPhase
 
114
from bzrlib.revision import NULL_REVISION, CURRENT_REVISION
 
115
from bzrlib.rio import RioReader, rio_file, Stanza
 
116
from bzrlib.symbol_versioning import (deprecated_passed,
 
117
        deprecated_method,
 
118
        deprecated_function,
 
119
        DEPRECATED_PARAMETER,
 
120
        )
95
121
 
96
122
 
97
123
MERGE_MODIFIED_HEADER_1 = "BZR merge-modified list format 1"
98
 
# TODO: Modifying the conflict objects or their type is currently nearly
99
 
# impossible as there is no clear relationship between the working tree format
100
 
# and the conflict list file format.
101
124
CONFLICT_HEADER_1 = "BZR conflict list format 1"
102
125
 
103
126
ERROR_PATH_NOT_FOUND = 3    # WindowsError errno code, equivalent to ENOENT
158
181
        return ''
159
182
 
160
183
 
161
 
class WorkingTree(bzrlib.mutabletree.MutableTree,
162
 
    controldir.ControlComponent):
 
184
class WorkingTree(bzrlib.mutabletree.MutableTree):
163
185
    """Working copy tree.
164
186
 
165
 
    :ivar basedir: The root of the tree on disk. This is a unicode path object
166
 
        (as opposed to a URL).
 
187
    The inventory is held in the `Branch` working-inventory, and the
 
188
    files are in a directory on disk.
 
189
 
 
190
    It is possible for a `WorkingTree` to have a filename which is
 
191
    not listed in the Inventory and vice versa.
167
192
    """
168
193
 
169
194
    # override this to set the strategy for storing views
172
197
 
173
198
    def __init__(self, basedir='.',
174
199
                 branch=DEPRECATED_PARAMETER,
 
200
                 _inventory=None,
175
201
                 _control_files=None,
176
202
                 _internal=False,
177
203
                 _format=None,
192
218
        else:
193
219
            self._branch = self.bzrdir.open_branch()
194
220
        self.basedir = realpath(basedir)
195
 
        self._control_files = _control_files
 
221
        # if branch is at our basedir and is a format 6 or less
 
222
        if isinstance(self._format, WorkingTreeFormat2):
 
223
            # share control object
 
224
            self._control_files = self.branch.control_files
 
225
        else:
 
226
            # assume all other formats have their own control files.
 
227
            self._control_files = _control_files
196
228
        self._transport = self._control_files._transport
197
229
        # update the whole cache up front and write to disk if anything changed;
198
230
        # in the future we might want to do this more selectively
214
246
            mutter("write hc")
215
247
            hc.write()
216
248
 
 
249
        if _inventory is None:
 
250
            # This will be acquired on lock_read() or lock_write()
 
251
            self._inventory_is_modified = False
 
252
            self._inventory = None
 
253
        else:
 
254
            # the caller of __init__ has provided an inventory,
 
255
            # we assume they know what they are doing - as its only
 
256
            # the Format factory and creation methods that are
 
257
            # permitted to do this.
 
258
            self._set_inventory(_inventory, dirty=False)
217
259
        self._detect_case_handling()
218
260
        self._rules_searcher = None
219
261
        self.views = self._make_views()
220
262
 
221
 
    @property
222
 
    def user_transport(self):
223
 
        return self.bzrdir.user_transport
224
 
 
225
 
    @property
226
 
    def control_transport(self):
227
 
        return self._transport
228
 
 
229
 
    def is_control_filename(self, filename):
230
 
        """True if filename is the name of a control file in this tree.
231
 
 
232
 
        :param filename: A filename within the tree. This is a relative path
233
 
            from the root of this tree.
234
 
 
235
 
        This is true IF and ONLY IF the filename is part of the meta data
236
 
        that bzr controls in this tree. I.E. a random .bzr directory placed
237
 
        on disk will not be a control file for this tree.
238
 
        """
239
 
        return self.bzrdir.is_control_filename(filename)
240
 
 
241
263
    def _detect_case_handling(self):
242
264
        wt_trans = self.bzrdir.get_workingtree_transport(None)
243
265
        try:
244
 
            wt_trans.stat(self._format.case_sensitive_filename)
 
266
            wt_trans.stat("FoRMaT")
245
267
        except errors.NoSuchFile:
246
268
            self.case_sensitive = True
247
269
        else:
280
302
    def supports_views(self):
281
303
        return self.views.supports_views()
282
304
 
 
305
    def _set_inventory(self, inv, dirty):
 
306
        """Set the internal cached inventory.
 
307
 
 
308
        :param inv: The inventory to set.
 
309
        :param dirty: A boolean indicating whether the inventory is the same
 
310
            logical inventory as whats on disk. If True the inventory is not
 
311
            the same and should be written to disk or data will be lost, if
 
312
            False then the inventory is the same as that on disk and any
 
313
            serialisation would be unneeded overhead.
 
314
        """
 
315
        self._inventory = inv
 
316
        self._inventory_is_modified = dirty
 
317
 
283
318
    @staticmethod
284
319
    def open(path=None, _unsupported=False):
285
320
        """Open an existing working tree at path.
306
341
        if path is None:
307
342
            path = osutils.getcwd()
308
343
        control, relpath = bzrdir.BzrDir.open_containing(path)
 
344
 
309
345
        return control.open_workingtree(), relpath
310
346
 
311
347
    @staticmethod
312
 
    def open_containing_paths(file_list, default_directory=None,
313
 
                              canonicalize=True, apply_view=True):
314
 
        """Open the WorkingTree that contains a set of paths.
315
 
 
316
 
        Fail if the paths given are not all in a single tree.
317
 
 
318
 
        This is used for the many command-line interfaces that take a list of
319
 
        any number of files and that require they all be in the same tree.
320
 
        """
321
 
        if default_directory is None:
322
 
            default_directory = u'.'
323
 
        # recommended replacement for builtins.internal_tree_files
324
 
        if file_list is None or len(file_list) == 0:
325
 
            tree = WorkingTree.open_containing(default_directory)[0]
326
 
            # XXX: doesn't really belong here, and seems to have the strange
327
 
            # side effect of making it return a bunch of files, not the whole
328
 
            # tree -- mbp 20100716
329
 
            if tree.supports_views() and apply_view:
330
 
                view_files = tree.views.lookup_view()
331
 
                if view_files:
332
 
                    file_list = view_files
333
 
                    view_str = views.view_display_str(view_files)
334
 
                    note("Ignoring files outside view. View is %s" % view_str)
335
 
            return tree, file_list
336
 
        if default_directory == u'.':
337
 
            seed = file_list[0]
338
 
        else:
339
 
            seed = default_directory
340
 
            file_list = [osutils.pathjoin(default_directory, f)
341
 
                         for f in file_list]
342
 
        tree = WorkingTree.open_containing(seed)[0]
343
 
        return tree, tree.safe_relpath_files(file_list, canonicalize,
344
 
                                             apply_view=apply_view)
345
 
 
346
 
    def safe_relpath_files(self, file_list, canonicalize=True, apply_view=True):
347
 
        """Convert file_list into a list of relpaths in tree.
348
 
 
349
 
        :param self: A tree to operate on.
350
 
        :param file_list: A list of user provided paths or None.
351
 
        :param apply_view: if True and a view is set, apply it or check that
352
 
            specified files are within it
353
 
        :return: A list of relative paths.
354
 
        :raises errors.PathNotChild: When a provided path is in a different self
355
 
            than self.
356
 
        """
357
 
        if file_list is None:
358
 
            return None
359
 
        if self.supports_views() and apply_view:
360
 
            view_files = self.views.lookup_view()
361
 
        else:
362
 
            view_files = []
363
 
        new_list = []
364
 
        # self.relpath exists as a "thunk" to osutils, but canonical_relpath
365
 
        # doesn't - fix that up here before we enter the loop.
366
 
        if canonicalize:
367
 
            fixer = lambda p: osutils.canonical_relpath(self.basedir, p)
368
 
        else:
369
 
            fixer = self.relpath
370
 
        for filename in file_list:
371
 
            relpath = fixer(osutils.dereference_path(filename))
372
 
            if view_files and not osutils.is_inside_any(view_files, relpath):
373
 
                raise errors.FileOutsideView(filename, view_files)
374
 
            new_list.append(relpath)
375
 
        return new_list
376
 
 
377
 
    @staticmethod
378
348
    def open_downlevel(path=None):
379
349
        """Open an unsupported working tree.
380
350
 
393
363
                return True, None
394
364
            else:
395
365
                return True, tree
396
 
        t = transport.get_transport(location)
397
 
        iterator = bzrdir.BzrDir.find_bzrdirs(t, evaluate=evaluate,
 
366
        transport = get_transport(location)
 
367
        iterator = bzrdir.BzrDir.find_bzrdirs(transport, evaluate=evaluate,
398
368
                                              list_current=list_current)
399
 
        return [tr for tr in iterator if tr is not None]
 
369
        return [t for t in iterator if t is not None]
 
370
 
 
371
    # should be deprecated - this is slow and in any case treating them as a
 
372
    # container is (we now know) bad style -- mbp 20070302
 
373
    ## @deprecated_method(zero_fifteen)
 
374
    def __iter__(self):
 
375
        """Iterate through file_ids for this tree.
 
376
 
 
377
        file_ids are in a WorkingTree if they are in the working inventory
 
378
        and the working file exists.
 
379
        """
 
380
        inv = self._inventory
 
381
        for path, ie in inv.iter_entries():
 
382
            if osutils.lexists(self.abspath(path)):
 
383
                yield ie.file_id
400
384
 
401
385
    def all_file_ids(self):
402
386
        """See Tree.iter_all_file_ids"""
403
 
        raise NotImplementedError(self.all_file_ids)
 
387
        return set(self.inventory)
404
388
 
405
389
    def __repr__(self):
406
390
        return "<%s of %s>" % (self.__class__.__name__,
461
445
        return self.get_file_with_stat(file_id, path, filtered=filtered)[0]
462
446
 
463
447
    def get_file_with_stat(self, file_id, path=None, filtered=True,
464
 
                           _fstat=osutils.fstat):
 
448
        _fstat=os.fstat):
465
449
        """See Tree.get_file_with_stat."""
466
450
        if path is None:
467
451
            path = self.id2path(file_id)
468
452
        file_obj = self.get_file_byname(path, filtered=False)
469
453
        stat_value = _fstat(file_obj.fileno())
470
 
        if filtered and self.supports_content_filtering():
 
454
        if self.supports_content_filtering() and filtered:
471
455
            filters = self._content_filter_stack(path)
472
 
            file_obj = _mod_filters.filtered_input_file(file_obj, filters)
 
456
            file_obj = filtered_input_file(file_obj, filters)
473
457
        return (file_obj, stat_value)
474
458
 
475
459
    def get_file_text(self, file_id, path=None, filtered=True):
476
 
        my_file = self.get_file(file_id, path=path, filtered=filtered)
477
 
        try:
478
 
            return my_file.read()
479
 
        finally:
480
 
            my_file.close()
 
460
        return self.get_file(file_id, path=path, filtered=filtered).read()
481
461
 
482
462
    def get_file_byname(self, filename, filtered=True):
483
463
        path = self.abspath(filename)
484
464
        f = file(path, 'rb')
485
 
        if filtered and self.supports_content_filtering():
 
465
        if self.supports_content_filtering() and filtered:
486
466
            filters = self._content_filter_stack(filename)
487
 
            return _mod_filters.filtered_input_file(f, filters)
 
467
            return filtered_input_file(f, filters)
488
468
        else:
489
469
            return f
490
470
 
496
476
        finally:
497
477
            file.close()
498
478
 
 
479
    @needs_read_lock
 
480
    def annotate_iter(self, file_id, default_revision=CURRENT_REVISION):
 
481
        """See Tree.annotate_iter
 
482
 
 
483
        This implementation will use the basis tree implementation if possible.
 
484
        Lines not in the basis are attributed to CURRENT_REVISION
 
485
 
 
486
        If there are pending merges, lines added by those merges will be
 
487
        incorrectly attributed to CURRENT_REVISION (but after committing, the
 
488
        attribution will be correct).
 
489
        """
 
490
        basis = self.basis_tree()
 
491
        basis.lock_read()
 
492
        try:
 
493
            changes = self.iter_changes(basis, True, [self.id2path(file_id)],
 
494
                require_versioned=True).next()
 
495
            changed_content, kind = changes[2], changes[6]
 
496
            if not changed_content:
 
497
                return basis.annotate_iter(file_id)
 
498
            if kind[1] is None:
 
499
                return None
 
500
            import annotate
 
501
            if kind[0] != 'file':
 
502
                old_lines = []
 
503
            else:
 
504
                old_lines = list(basis.annotate_iter(file_id))
 
505
            old = [old_lines]
 
506
            for tree in self.branch.repository.revision_trees(
 
507
                self.get_parent_ids()[1:]):
 
508
                if file_id not in tree:
 
509
                    continue
 
510
                old.append(list(tree.annotate_iter(file_id)))
 
511
            return annotate.reannotate(old, self.get_file(file_id).readlines(),
 
512
                                       default_revision)
 
513
        finally:
 
514
            basis.unlock()
 
515
 
 
516
    def _get_ancestors(self, default_revision):
 
517
        ancestors = set([default_revision])
 
518
        for parent_id in self.get_parent_ids():
 
519
            ancestors.update(self.branch.repository.get_ancestry(
 
520
                             parent_id, topo_sorted=False))
 
521
        return ancestors
 
522
 
499
523
    def get_parent_ids(self):
500
524
        """See Tree.get_parent_ids.
501
525
 
508
532
        else:
509
533
            parents = [last_rev]
510
534
        try:
511
 
            merges_bytes = self._transport.get_bytes('pending-merges')
 
535
            merges_file = self._transport.get('pending-merges')
512
536
        except errors.NoSuchFile:
513
537
            pass
514
538
        else:
515
 
            for l in osutils.split_lines(merges_bytes):
 
539
            for l in merges_file.readlines():
516
540
                revision_id = l.rstrip('\n')
517
541
                parents.append(revision_id)
518
542
        return parents
519
543
 
 
544
    @needs_read_lock
520
545
    def get_root_id(self):
521
546
        """Return the id of this trees root"""
522
 
        raise NotImplementedError(self.get_root_id)
 
547
        return self._inventory.root.file_id
 
548
 
 
549
    def _get_store_filename(self, file_id):
 
550
        ## XXX: badly named; this is not in the store at all
 
551
        return self.abspath(self.id2path(file_id))
523
552
 
524
553
    @needs_read_lock
525
554
    def clone(self, to_bzrdir, revision_id=None):
555
584
    def id2abspath(self, file_id):
556
585
        return self.abspath(self.id2path(file_id))
557
586
 
558
 
    def _check_for_tree_references(self, iterator):
559
 
        """See if directories have become tree-references."""
560
 
        blocked_parent_ids = set()
561
 
        for path, ie in iterator:
562
 
            if ie.parent_id in blocked_parent_ids:
563
 
                # This entry was pruned because one of its parents became a
564
 
                # TreeReference. If this is a directory, mark it as blocked.
565
 
                if ie.kind == 'directory':
566
 
                    blocked_parent_ids.add(ie.file_id)
567
 
                continue
568
 
            if ie.kind == 'directory' and self._directory_is_tree_reference(path):
569
 
                # This InventoryDirectory needs to be a TreeReference
570
 
                ie = inventory.TreeReference(ie.file_id, ie.name, ie.parent_id)
571
 
                blocked_parent_ids.add(ie.file_id)
572
 
            yield path, ie
573
 
 
574
 
    def iter_entries_by_dir(self, specific_file_ids=None, yield_parents=False):
575
 
        """See Tree.iter_entries_by_dir()"""
576
 
        # The only trick here is that if we supports_tree_reference then we
577
 
        # need to detect if a directory becomes a tree-reference.
578
 
        iterator = super(WorkingTree, self).iter_entries_by_dir(
579
 
                specific_file_ids=specific_file_ids,
580
 
                yield_parents=yield_parents)
581
 
        if not self.supports_tree_reference():
582
 
            return iterator
583
 
        else:
584
 
            return self._check_for_tree_references(iterator)
 
587
    def has_id(self, file_id):
 
588
        # files that have been deleted are excluded
 
589
        inv = self.inventory
 
590
        if not inv.has_id(file_id):
 
591
            return False
 
592
        path = inv.id2path(file_id)
 
593
        return osutils.lexists(self.abspath(path))
 
594
 
 
595
    def has_or_had_id(self, file_id):
 
596
        if file_id == self.inventory.root.file_id:
 
597
            return True
 
598
        return self.inventory.has_id(file_id)
 
599
 
 
600
    __contains__ = has_id
585
601
 
586
602
    def get_file_size(self, file_id):
587
603
        """See Tree.get_file_size"""
588
 
        # XXX: this returns the on-disk size; it should probably return the
589
 
        # canonical size
590
604
        try:
591
605
            return os.path.getsize(self.id2abspath(file_id))
592
606
        except OSError, e:
595
609
            else:
596
610
                return None
597
611
 
 
612
    @needs_read_lock
598
613
    def get_file_sha1(self, file_id, path=None, stat_value=None):
599
 
        # FIXME: Shouldn't this be in Tree?
600
 
        raise NotImplementedError(self.get_file_sha1)
 
614
        if not path:
 
615
            path = self._inventory.id2path(file_id)
 
616
        return self._hashcache.get_sha1(path, stat_value)
 
617
 
 
618
    def get_file_mtime(self, file_id, path=None):
 
619
        if not path:
 
620
            path = self.inventory.id2path(file_id)
 
621
        return os.lstat(self.abspath(path)).st_mtime
 
622
 
 
623
    def _is_executable_from_path_and_stat_from_basis(self, path, stat_result):
 
624
        file_id = self.path2id(path)
 
625
        return self._inventory[file_id].executable
 
626
 
 
627
    def _is_executable_from_path_and_stat_from_stat(self, path, stat_result):
 
628
        mode = stat_result.st_mode
 
629
        return bool(stat.S_ISREG(mode) and stat.S_IEXEC & mode)
 
630
 
 
631
    if not supports_executable():
 
632
        def is_executable(self, file_id, path=None):
 
633
            return self._inventory[file_id].executable
 
634
 
 
635
        _is_executable_from_path_and_stat = \
 
636
            _is_executable_from_path_and_stat_from_basis
 
637
    else:
 
638
        def is_executable(self, file_id, path=None):
 
639
            if not path:
 
640
                path = self.id2path(file_id)
 
641
            mode = os.lstat(self.abspath(path)).st_mode
 
642
            return bool(stat.S_ISREG(mode) and stat.S_IEXEC & mode)
 
643
 
 
644
        _is_executable_from_path_and_stat = \
 
645
            _is_executable_from_path_and_stat_from_stat
 
646
 
 
647
    @needs_tree_write_lock
 
648
    def _add(self, files, ids, kinds):
 
649
        """See MutableTree._add."""
 
650
        # TODO: Re-adding a file that is removed in the working copy
 
651
        # should probably put it back with the previous ID.
 
652
        # the read and write working inventory should not occur in this
 
653
        # function - they should be part of lock_write and unlock.
 
654
        inv = self.inventory
 
655
        for f, file_id, kind in zip(files, ids, kinds):
 
656
            if file_id is None:
 
657
                inv.add_path(f, kind=kind)
 
658
            else:
 
659
                inv.add_path(f, kind=kind, file_id=file_id)
 
660
            self._inventory_is_modified = True
601
661
 
602
662
    @needs_tree_write_lock
603
663
    def _gather_kinds(self, files, kinds):
619
679
        and setting the list to its value plus revision_id.
620
680
 
621
681
        :param revision_id: The revision id to add to the parent list. It may
622
 
            be a ghost revision as long as its not the first parent to be
623
 
            added, or the allow_leftmost_as_ghost parameter is set True.
 
682
        be a ghost revision as long as its not the first parent to be added,
 
683
        or the allow_leftmost_as_ghost parameter is set True.
624
684
        :param allow_leftmost_as_ghost: Allow the first parent to be a ghost.
625
685
        """
626
686
        parents = self.get_parent_ids() + [revision_id]
677
737
            raise
678
738
        kind = _mapper(stat_result.st_mode)
679
739
        if kind == 'file':
680
 
            return self._file_content_summary(path, stat_result)
 
740
            size = stat_result.st_size
 
741
            # try for a stat cache lookup
 
742
            executable = self._is_executable_from_path_and_stat(path, stat_result)
 
743
            return (kind, size, executable, self._sha_from_stat(
 
744
                path, stat_result))
681
745
        elif kind == 'directory':
682
746
            # perhaps it looks like a plain directory, but it's really a
683
747
            # reference.
690
754
        else:
691
755
            return (kind, None, None, None)
692
756
 
693
 
    def _file_content_summary(self, path, stat_result):
694
 
        size = stat_result.st_size
695
 
        executable = self._is_executable_from_path_and_stat(path, stat_result)
696
 
        # try for a stat cache lookup
697
 
        return ('file', size, executable, self._sha_from_stat(
698
 
            path, stat_result))
699
 
 
700
757
    def _check_parents_for_ghosts(self, revision_ids, allow_leftmost_as_ghost):
701
758
        """Common ghost checking functionality from set_parent_*.
702
759
 
729
786
            if revision_id in heads and revision_id not in new_revision_ids:
730
787
                new_revision_ids.append(revision_id)
731
788
        if new_revision_ids != revision_ids:
732
 
            mutter('requested to set revision_ids = %s,'
 
789
            trace.mutter('requested to set revision_ids = %s,'
733
790
                         ' but filtered to %s', revision_ids, new_revision_ids)
734
791
        return new_revision_ids
735
792
 
761
818
        self._set_merges_from_parent_ids(revision_ids)
762
819
 
763
820
    @needs_tree_write_lock
 
821
    def set_parent_trees(self, parents_list, allow_leftmost_as_ghost=False):
 
822
        """See MutableTree.set_parent_trees."""
 
823
        parent_ids = [rev for (rev, tree) in parents_list]
 
824
        for revision_id in parent_ids:
 
825
            _mod_revision.check_not_reserved_id(revision_id)
 
826
 
 
827
        self._check_parents_for_ghosts(parent_ids,
 
828
            allow_leftmost_as_ghost=allow_leftmost_as_ghost)
 
829
 
 
830
        parent_ids = self._filter_parent_ids_by_ancestry(parent_ids)
 
831
 
 
832
        if len(parent_ids) == 0:
 
833
            leftmost_parent_id = _mod_revision.NULL_REVISION
 
834
            leftmost_parent_tree = None
 
835
        else:
 
836
            leftmost_parent_id, leftmost_parent_tree = parents_list[0]
 
837
 
 
838
        if self._change_last_revision(leftmost_parent_id):
 
839
            if leftmost_parent_tree is None:
 
840
                # If we don't have a tree, fall back to reading the
 
841
                # parent tree from the repository.
 
842
                self._cache_basis_inventory(leftmost_parent_id)
 
843
            else:
 
844
                inv = leftmost_parent_tree.inventory
 
845
                xml = self._create_basis_xml_from_inventory(
 
846
                                        leftmost_parent_id, inv)
 
847
                self._write_basis_inventory(xml)
 
848
        self._set_merges_from_parent_ids(parent_ids)
 
849
 
 
850
    @needs_tree_write_lock
764
851
    def set_pending_merges(self, rev_list):
765
852
        parents = self.get_parent_ids()
766
853
        leftmost = parents[:1]
771
858
    def set_merge_modified(self, modified_hashes):
772
859
        def iter_stanzas():
773
860
            for file_id, hash in modified_hashes.iteritems():
774
 
                yield _mod_rio.Stanza(file_id=file_id.decode('utf8'),
775
 
                    hash=hash)
 
861
                yield Stanza(file_id=file_id.decode('utf8'), hash=hash)
776
862
        self._put_rio('merge-hashes', iter_stanzas(), MERGE_MODIFIED_HEADER_1)
777
863
 
778
864
    def _sha_from_stat(self, path, stat_result):
787
873
 
788
874
    def _put_rio(self, filename, stanzas, header):
789
875
        self._must_be_locked()
790
 
        my_file = _mod_rio.rio_file(stanzas, header)
 
876
        my_file = rio_file(stanzas, header)
791
877
        self._transport.put_file(filename, my_file,
792
878
            mode=self.bzrdir._get_file_mode())
793
879
 
794
880
    @needs_write_lock # because merge pulls data into the branch.
795
881
    def merge_from_branch(self, branch, to_revision=None, from_revision=None,
796
 
                          merge_type=None, force=False):
 
882
        merge_type=None):
797
883
        """Merge from a branch into this working tree.
798
884
 
799
885
        :param branch: The branch to merge from.
803
889
            branch.last_revision().
804
890
        """
805
891
        from bzrlib.merge import Merger, Merge3Merger
806
 
        merger = Merger(self.branch, this_tree=self)
807
 
        # check that there are no local alterations
808
 
        if not force and self.has_changes():
809
 
            raise errors.UncommittedChanges(self)
810
 
        if to_revision is None:
811
 
            to_revision = _mod_revision.ensure_null(branch.last_revision())
812
 
        merger.other_rev_id = to_revision
813
 
        if _mod_revision.is_null(merger.other_rev_id):
814
 
            raise errors.NoCommits(branch)
815
 
        self.branch.fetch(branch, last_revision=merger.other_rev_id)
816
 
        merger.other_basis = merger.other_rev_id
817
 
        merger.other_tree = self.branch.repository.revision_tree(
818
 
            merger.other_rev_id)
819
 
        merger.other_branch = branch
820
 
        if from_revision is None:
821
 
            merger.find_base()
822
 
        else:
823
 
            merger.set_base_revision(from_revision, branch)
824
 
        if merger.base_rev_id == merger.other_rev_id:
825
 
            raise errors.PointlessMerge
826
 
        merger.backup_files = False
827
 
        if merge_type is None:
828
 
            merger.merge_type = Merge3Merger
829
 
        else:
830
 
            merger.merge_type = merge_type
831
 
        merger.set_interesting_files(None)
832
 
        merger.show_base = False
833
 
        merger.reprocess = False
834
 
        conflicts = merger.do_merge()
835
 
        merger.set_pending()
 
892
        pb = bzrlib.ui.ui_factory.nested_progress_bar()
 
893
        try:
 
894
            merger = Merger(self.branch, this_tree=self, pb=pb)
 
895
            merger.pp = ProgressPhase("Merge phase", 5, pb)
 
896
            merger.pp.next_phase()
 
897
            # check that there are no
 
898
            # local alterations
 
899
            merger.check_basis(check_clean=True, require_commits=False)
 
900
            if to_revision is None:
 
901
                to_revision = _mod_revision.ensure_null(branch.last_revision())
 
902
            merger.other_rev_id = to_revision
 
903
            if _mod_revision.is_null(merger.other_rev_id):
 
904
                raise errors.NoCommits(branch)
 
905
            self.branch.fetch(branch, last_revision=merger.other_rev_id)
 
906
            merger.other_basis = merger.other_rev_id
 
907
            merger.other_tree = self.branch.repository.revision_tree(
 
908
                merger.other_rev_id)
 
909
            merger.other_branch = branch
 
910
            merger.pp.next_phase()
 
911
            if from_revision is None:
 
912
                merger.find_base()
 
913
            else:
 
914
                merger.set_base_revision(from_revision, branch)
 
915
            if merger.base_rev_id == merger.other_rev_id:
 
916
                raise errors.PointlessMerge
 
917
            merger.backup_files = False
 
918
            if merge_type is None:
 
919
                merger.merge_type = Merge3Merger
 
920
            else:
 
921
                merger.merge_type = merge_type
 
922
            merger.set_interesting_files(None)
 
923
            merger.show_base = False
 
924
            merger.reprocess = False
 
925
            conflicts = merger.do_merge()
 
926
            merger.set_pending()
 
927
        finally:
 
928
            pb.finished()
836
929
        return conflicts
837
930
 
 
931
    @needs_read_lock
838
932
    def merge_modified(self):
839
933
        """Return a dictionary of files modified by a merge.
840
934
 
845
939
        This returns a map of file_id->sha1, containing only files which are
846
940
        still in the working inventory and have that text hash.
847
941
        """
848
 
        raise NotImplementedError(self.merge_modified)
 
942
        try:
 
943
            hashfile = self._transport.get('merge-hashes')
 
944
        except errors.NoSuchFile:
 
945
            return {}
 
946
        try:
 
947
            merge_hashes = {}
 
948
            try:
 
949
                if hashfile.next() != MERGE_MODIFIED_HEADER_1 + '\n':
 
950
                    raise errors.MergeModifiedFormatError()
 
951
            except StopIteration:
 
952
                raise errors.MergeModifiedFormatError()
 
953
            for s in RioReader(hashfile):
 
954
                # RioReader reads in Unicode, so convert file_ids back to utf8
 
955
                file_id = osutils.safe_file_id(s.get("file_id"), warn=False)
 
956
                if file_id not in self.inventory:
 
957
                    continue
 
958
                text_hash = s.get("hash")
 
959
                if text_hash == self.get_file_sha1(file_id):
 
960
                    merge_hashes[file_id] = text_hash
 
961
            return merge_hashes
 
962
        finally:
 
963
            hashfile.close()
849
964
 
850
965
    @needs_write_lock
851
966
    def mkdir(self, path, file_id=None):
856
971
        self.add(path, file_id, 'directory')
857
972
        return file_id
858
973
 
859
 
    def get_symlink_target(self, file_id, path=None):
860
 
        if path is not None:
861
 
            abspath = self.abspath(path)
862
 
        else:
863
 
            abspath = self.id2abspath(file_id)
 
974
    def get_symlink_target(self, file_id):
 
975
        abspath = self.id2abspath(file_id)
864
976
        target = osutils.readlink(abspath)
865
977
        return target
866
978
 
 
979
    @needs_write_lock
867
980
    def subsume(self, other_tree):
868
 
        raise NotImplementedError(self.subsume)
 
981
        def add_children(inventory, entry):
 
982
            for child_entry in entry.children.values():
 
983
                inventory._byid[child_entry.file_id] = child_entry
 
984
                if child_entry.kind == 'directory':
 
985
                    add_children(inventory, child_entry)
 
986
        if other_tree.get_root_id() == self.get_root_id():
 
987
            raise errors.BadSubsumeSource(self, other_tree,
 
988
                                          'Trees have the same root')
 
989
        try:
 
990
            other_tree_path = self.relpath(other_tree.basedir)
 
991
        except errors.PathNotChild:
 
992
            raise errors.BadSubsumeSource(self, other_tree,
 
993
                'Tree is not contained by the other')
 
994
        new_root_parent = self.path2id(osutils.dirname(other_tree_path))
 
995
        if new_root_parent is None:
 
996
            raise errors.BadSubsumeSource(self, other_tree,
 
997
                'Parent directory is not versioned.')
 
998
        # We need to ensure that the result of a fetch will have a
 
999
        # versionedfile for the other_tree root, and only fetching into
 
1000
        # RepositoryKnit2 guarantees that.
 
1001
        if not self.branch.repository.supports_rich_root():
 
1002
            raise errors.SubsumeTargetNeedsUpgrade(other_tree)
 
1003
        other_tree.lock_tree_write()
 
1004
        try:
 
1005
            new_parents = other_tree.get_parent_ids()
 
1006
            other_root = other_tree.inventory.root
 
1007
            other_root.parent_id = new_root_parent
 
1008
            other_root.name = osutils.basename(other_tree_path)
 
1009
            self.inventory.add(other_root)
 
1010
            add_children(self.inventory, other_root)
 
1011
            self._write_inventory(self.inventory)
 
1012
            # normally we don't want to fetch whole repositories, but i think
 
1013
            # here we really do want to consolidate the whole thing.
 
1014
            for parent_id in other_tree.get_parent_ids():
 
1015
                self.branch.fetch(other_tree.branch, parent_id)
 
1016
                self.add_parent_tree_id(parent_id)
 
1017
        finally:
 
1018
            other_tree.unlock()
 
1019
        other_tree.bzrdir.retire_bzrdir()
869
1020
 
870
1021
    def _setup_directory_is_tree_reference(self):
871
1022
        if self._branch.repository._format.supports_tree_reference:
893
1044
        # checkout in a subdirectory.  This can be avoided by not adding
894
1045
        # it.  mbp 20070306
895
1046
 
 
1047
    @needs_tree_write_lock
896
1048
    def extract(self, file_id, format=None):
897
1049
        """Extract a subtree from this tree.
898
1050
 
899
1051
        A new branch will be created, relative to the path for this tree.
900
1052
        """
901
 
        raise NotImplementedError(self.extract)
 
1053
        self.flush()
 
1054
        def mkdirs(path):
 
1055
            segments = osutils.splitpath(path)
 
1056
            transport = self.branch.bzrdir.root_transport
 
1057
            for name in segments:
 
1058
                transport = transport.clone(name)
 
1059
                transport.ensure_base()
 
1060
            return transport
 
1061
 
 
1062
        sub_path = self.id2path(file_id)
 
1063
        branch_transport = mkdirs(sub_path)
 
1064
        if format is None:
 
1065
            format = self.bzrdir.cloning_metadir()
 
1066
        branch_transport.ensure_base()
 
1067
        branch_bzrdir = format.initialize_on_transport(branch_transport)
 
1068
        try:
 
1069
            repo = branch_bzrdir.find_repository()
 
1070
        except errors.NoRepositoryPresent:
 
1071
            repo = branch_bzrdir.create_repository()
 
1072
        if not repo.supports_rich_root():
 
1073
            raise errors.RootNotRich()
 
1074
        new_branch = branch_bzrdir.create_branch()
 
1075
        new_branch.pull(self.branch)
 
1076
        for parent_id in self.get_parent_ids():
 
1077
            new_branch.fetch(self.branch, parent_id)
 
1078
        tree_transport = self.bzrdir.root_transport.clone(sub_path)
 
1079
        if tree_transport.base != branch_transport.base:
 
1080
            tree_bzrdir = format.initialize_on_transport(tree_transport)
 
1081
            branch.BranchReferenceFormat().initialize(tree_bzrdir, new_branch)
 
1082
        else:
 
1083
            tree_bzrdir = branch_bzrdir
 
1084
        wt = tree_bzrdir.create_workingtree(NULL_REVISION)
 
1085
        wt.set_parent_ids(self.get_parent_ids())
 
1086
        my_inv = self.inventory
 
1087
        child_inv = Inventory(root_id=None)
 
1088
        new_root = my_inv[file_id]
 
1089
        my_inv.remove_recursive_id(file_id)
 
1090
        new_root.parent_id = None
 
1091
        child_inv.add(new_root)
 
1092
        self._write_inventory(my_inv)
 
1093
        wt._write_inventory(child_inv)
 
1094
        return wt
 
1095
 
 
1096
    def _serialize(self, inventory, out_file):
 
1097
        xml5.serializer_v5.write_inventory(self._inventory, out_file,
 
1098
            working=True)
 
1099
 
 
1100
    def _deserialize(selt, in_file):
 
1101
        return xml5.serializer_v5.read_inventory(in_file)
902
1102
 
903
1103
    def flush(self):
904
 
        """Write the in memory meta data to disk."""
905
 
        raise NotImplementedError(self.flush)
 
1104
        """Write the in memory inventory to disk."""
 
1105
        # TODO: Maybe this should only write on dirty ?
 
1106
        if self._control_files._lock_mode != 'w':
 
1107
            raise errors.NotWriteLocked(self)
 
1108
        sio = StringIO()
 
1109
        self._serialize(self._inventory, sio)
 
1110
        sio.seek(0)
 
1111
        self._transport.put_file('inventory', sio,
 
1112
            mode=self.bzrdir._get_file_mode())
 
1113
        self._inventory_is_modified = False
906
1114
 
907
1115
    def _kind(self, relpath):
908
1116
        return osutils.file_kind(self.abspath(relpath))
909
1117
 
910
 
    def list_files(self, include_root=False, from_dir=None, recursive=True):
911
 
        """List all files as (path, class, kind, id, entry).
 
1118
    def list_files(self, include_root=False):
 
1119
        """Recursively list all files as (path, class, kind, id, entry).
912
1120
 
913
1121
        Lists, but does not descend into unversioned directories.
 
1122
 
914
1123
        This does not include files that have been deleted in this
915
 
        tree. Skips the control directory.
 
1124
        tree.
916
1125
 
917
 
        :param include_root: if True, return an entry for the root
918
 
        :param from_dir: start from this directory or None for the root
919
 
        :param recursive: whether to recurse into subdirectories or not
 
1126
        Skips the control directory.
920
1127
        """
921
 
        raise NotImplementedError(self.list_files)
922
 
 
923
 
    def move(self, from_paths, to_dir=None, after=False):
 
1128
        # list_files is an iterator, so @needs_read_lock doesn't work properly
 
1129
        # with it. So callers should be careful to always read_lock the tree.
 
1130
        if not self.is_locked():
 
1131
            raise errors.ObjectNotLocked(self)
 
1132
 
 
1133
        inv = self.inventory
 
1134
        if include_root is True:
 
1135
            yield ('', 'V', 'directory', inv.root.file_id, inv.root)
 
1136
        # Convert these into local objects to save lookup times
 
1137
        pathjoin = osutils.pathjoin
 
1138
        file_kind = self._kind
 
1139
 
 
1140
        # transport.base ends in a slash, we want the piece
 
1141
        # between the last two slashes
 
1142
        transport_base_dir = self.bzrdir.transport.base.rsplit('/', 2)[1]
 
1143
 
 
1144
        fk_entries = {'directory':TreeDirectory, 'file':TreeFile, 'symlink':TreeLink}
 
1145
 
 
1146
        # directory file_id, relative path, absolute path, reverse sorted children
 
1147
        children = os.listdir(self.basedir)
 
1148
        children.sort()
 
1149
        # jam 20060527 The kernel sized tree seems equivalent whether we
 
1150
        # use a deque and popleft to keep them sorted, or if we use a plain
 
1151
        # list and just reverse() them.
 
1152
        children = collections.deque(children)
 
1153
        stack = [(inv.root.file_id, u'', self.basedir, children)]
 
1154
        while stack:
 
1155
            from_dir_id, from_dir_relpath, from_dir_abspath, children = stack[-1]
 
1156
 
 
1157
            while children:
 
1158
                f = children.popleft()
 
1159
                ## TODO: If we find a subdirectory with its own .bzr
 
1160
                ## directory, then that is a separate tree and we
 
1161
                ## should exclude it.
 
1162
 
 
1163
                # the bzrdir for this tree
 
1164
                if transport_base_dir == f:
 
1165
                    continue
 
1166
 
 
1167
                # we know that from_dir_relpath and from_dir_abspath never end in a slash
 
1168
                # and 'f' doesn't begin with one, we can do a string op, rather
 
1169
                # than the checks of pathjoin(), all relative paths will have an extra slash
 
1170
                # at the beginning
 
1171
                fp = from_dir_relpath + '/' + f
 
1172
 
 
1173
                # absolute path
 
1174
                fap = from_dir_abspath + '/' + f
 
1175
 
 
1176
                f_ie = inv.get_child(from_dir_id, f)
 
1177
                if f_ie:
 
1178
                    c = 'V'
 
1179
                elif self.is_ignored(fp[1:]):
 
1180
                    c = 'I'
 
1181
                else:
 
1182
                    # we may not have found this file, because of a unicode issue
 
1183
                    f_norm, can_access = osutils.normalized_filename(f)
 
1184
                    if f == f_norm or not can_access:
 
1185
                        # No change, so treat this file normally
 
1186
                        c = '?'
 
1187
                    else:
 
1188
                        # this file can be accessed by a normalized path
 
1189
                        # check again if it is versioned
 
1190
                        # these lines are repeated here for performance
 
1191
                        f = f_norm
 
1192
                        fp = from_dir_relpath + '/' + f
 
1193
                        fap = from_dir_abspath + '/' + f
 
1194
                        f_ie = inv.get_child(from_dir_id, f)
 
1195
                        if f_ie:
 
1196
                            c = 'V'
 
1197
                        elif self.is_ignored(fp[1:]):
 
1198
                            c = 'I'
 
1199
                        else:
 
1200
                            c = '?'
 
1201
 
 
1202
                fk = file_kind(fap)
 
1203
 
 
1204
                # make a last minute entry
 
1205
                if f_ie:
 
1206
                    yield fp[1:], c, fk, f_ie.file_id, f_ie
 
1207
                else:
 
1208
                    try:
 
1209
                        yield fp[1:], c, fk, None, fk_entries[fk]()
 
1210
                    except KeyError:
 
1211
                        yield fp[1:], c, fk, None, TreeEntry()
 
1212
                    continue
 
1213
 
 
1214
                if fk != 'directory':
 
1215
                    continue
 
1216
 
 
1217
                # But do this child first
 
1218
                new_children = os.listdir(fap)
 
1219
                new_children.sort()
 
1220
                new_children = collections.deque(new_children)
 
1221
                stack.append((f_ie.file_id, fp, fap, new_children))
 
1222
                # Break out of inner loop,
 
1223
                # so that we start outer loop with child
 
1224
                break
 
1225
            else:
 
1226
                # if we finished all children, pop it off the stack
 
1227
                stack.pop()
 
1228
 
 
1229
    @needs_tree_write_lock
 
1230
    def move(self, from_paths, to_dir=None, after=False, **kwargs):
924
1231
        """Rename files.
925
1232
 
926
 
        to_dir must be known to the working tree.
 
1233
        to_dir must exist in the inventory.
927
1234
 
928
1235
        If to_dir exists and is a directory, the files are moved into
929
1236
        it, keeping their old names.
935
1242
        independently.
936
1243
 
937
1244
        The first mode moves the file in the filesystem and updates the
938
 
        working tree metadata. The second mode only updates the working tree
939
 
        metadata without touching the file on the filesystem.
 
1245
        inventory. The second mode only updates the inventory without
 
1246
        touching the file on the filesystem. This is the new mode introduced
 
1247
        in version 0.15.
940
1248
 
941
1249
        move uses the second mode if 'after == True' and the target is not
942
1250
        versioned but present in the working tree.
954
1262
        This returns a list of (from_path, to_path) pairs for each
955
1263
        entry that is moved.
956
1264
        """
957
 
        raise NotImplementedError(self.move)
 
1265
        rename_entries = []
 
1266
        rename_tuples = []
 
1267
 
 
1268
        # check for deprecated use of signature
 
1269
        if to_dir is None:
 
1270
            to_dir = kwargs.get('to_name', None)
 
1271
            if to_dir is None:
 
1272
                raise TypeError('You must supply a target directory')
 
1273
            else:
 
1274
                symbol_versioning.warn('The parameter to_name was deprecated'
 
1275
                                       ' in version 0.13. Use to_dir instead',
 
1276
                                       DeprecationWarning)
 
1277
 
 
1278
        # check destination directory
 
1279
        if isinstance(from_paths, basestring):
 
1280
            raise ValueError()
 
1281
        inv = self.inventory
 
1282
        to_abs = self.abspath(to_dir)
 
1283
        if not isdir(to_abs):
 
1284
            raise errors.BzrMoveFailedError('',to_dir,
 
1285
                errors.NotADirectory(to_abs))
 
1286
        if not self.has_filename(to_dir):
 
1287
            raise errors.BzrMoveFailedError('',to_dir,
 
1288
                errors.NotInWorkingDirectory(to_dir))
 
1289
        to_dir_id = inv.path2id(to_dir)
 
1290
        if to_dir_id is None:
 
1291
            raise errors.BzrMoveFailedError('',to_dir,
 
1292
                errors.NotVersionedError(path=str(to_dir)))
 
1293
 
 
1294
        to_dir_ie = inv[to_dir_id]
 
1295
        if to_dir_ie.kind != 'directory':
 
1296
            raise errors.BzrMoveFailedError('',to_dir,
 
1297
                errors.NotADirectory(to_abs))
 
1298
 
 
1299
        # create rename entries and tuples
 
1300
        for from_rel in from_paths:
 
1301
            from_tail = splitpath(from_rel)[-1]
 
1302
            from_id = inv.path2id(from_rel)
 
1303
            if from_id is None:
 
1304
                raise errors.BzrMoveFailedError(from_rel,to_dir,
 
1305
                    errors.NotVersionedError(path=str(from_rel)))
 
1306
 
 
1307
            from_entry = inv[from_id]
 
1308
            from_parent_id = from_entry.parent_id
 
1309
            to_rel = pathjoin(to_dir, from_tail)
 
1310
            rename_entry = WorkingTree._RenameEntry(from_rel=from_rel,
 
1311
                                         from_id=from_id,
 
1312
                                         from_tail=from_tail,
 
1313
                                         from_parent_id=from_parent_id,
 
1314
                                         to_rel=to_rel, to_tail=from_tail,
 
1315
                                         to_parent_id=to_dir_id)
 
1316
            rename_entries.append(rename_entry)
 
1317
            rename_tuples.append((from_rel, to_rel))
 
1318
 
 
1319
        # determine which move mode to use. checks also for movability
 
1320
        rename_entries = self._determine_mv_mode(rename_entries, after)
 
1321
 
 
1322
        original_modified = self._inventory_is_modified
 
1323
        try:
 
1324
            if len(from_paths):
 
1325
                self._inventory_is_modified = True
 
1326
            self._move(rename_entries)
 
1327
        except:
 
1328
            # restore the inventory on error
 
1329
            self._inventory_is_modified = original_modified
 
1330
            raise
 
1331
        self._write_inventory(inv)
 
1332
        return rename_tuples
 
1333
 
 
1334
    def _determine_mv_mode(self, rename_entries, after=False):
 
1335
        """Determines for each from-to pair if both inventory and working tree
 
1336
        or only the inventory has to be changed.
 
1337
 
 
1338
        Also does basic plausability tests.
 
1339
        """
 
1340
        inv = self.inventory
 
1341
 
 
1342
        for rename_entry in rename_entries:
 
1343
            # store to local variables for easier reference
 
1344
            from_rel = rename_entry.from_rel
 
1345
            from_id = rename_entry.from_id
 
1346
            to_rel = rename_entry.to_rel
 
1347
            to_id = inv.path2id(to_rel)
 
1348
            only_change_inv = False
 
1349
 
 
1350
            # check the inventory for source and destination
 
1351
            if from_id is None:
 
1352
                raise errors.BzrMoveFailedError(from_rel,to_rel,
 
1353
                    errors.NotVersionedError(path=str(from_rel)))
 
1354
            if to_id is not None:
 
1355
                raise errors.BzrMoveFailedError(from_rel,to_rel,
 
1356
                    errors.AlreadyVersionedError(path=str(to_rel)))
 
1357
 
 
1358
            # try to determine the mode for rename (only change inv or change
 
1359
            # inv and file system)
 
1360
            if after:
 
1361
                if not self.has_filename(to_rel):
 
1362
                    raise errors.BzrMoveFailedError(from_id,to_rel,
 
1363
                        errors.NoSuchFile(path=str(to_rel),
 
1364
                        extra="New file has not been created yet"))
 
1365
                only_change_inv = True
 
1366
            elif not self.has_filename(from_rel) and self.has_filename(to_rel):
 
1367
                only_change_inv = True
 
1368
            elif self.has_filename(from_rel) and not self.has_filename(to_rel):
 
1369
                only_change_inv = False
 
1370
            elif (not self.case_sensitive
 
1371
                  and from_rel.lower() == to_rel.lower()
 
1372
                  and self.has_filename(from_rel)):
 
1373
                only_change_inv = False
 
1374
            else:
 
1375
                # something is wrong, so lets determine what exactly
 
1376
                if not self.has_filename(from_rel) and \
 
1377
                   not self.has_filename(to_rel):
 
1378
                    raise errors.BzrRenameFailedError(from_rel,to_rel,
 
1379
                        errors.PathsDoNotExist(paths=(str(from_rel),
 
1380
                        str(to_rel))))
 
1381
                else:
 
1382
                    raise errors.RenameFailedFilesExist(from_rel, to_rel)
 
1383
            rename_entry.only_change_inv = only_change_inv
 
1384
        return rename_entries
 
1385
 
 
1386
    def _move(self, rename_entries):
 
1387
        """Moves a list of files.
 
1388
 
 
1389
        Depending on the value of the flag 'only_change_inv', the
 
1390
        file will be moved on the file system or not.
 
1391
        """
 
1392
        inv = self.inventory
 
1393
        moved = []
 
1394
 
 
1395
        for entry in rename_entries:
 
1396
            try:
 
1397
                self._move_entry(entry)
 
1398
            except:
 
1399
                self._rollback_move(moved)
 
1400
                raise
 
1401
            moved.append(entry)
 
1402
 
 
1403
    def _rollback_move(self, moved):
 
1404
        """Try to rollback a previous move in case of an filesystem error."""
 
1405
        inv = self.inventory
 
1406
        for entry in moved:
 
1407
            try:
 
1408
                self._move_entry(_RenameEntry(entry.to_rel, entry.from_id,
 
1409
                    entry.to_tail, entry.to_parent_id, entry.from_rel,
 
1410
                    entry.from_tail, entry.from_parent_id,
 
1411
                    entry.only_change_inv))
 
1412
            except errors.BzrMoveFailedError, e:
 
1413
                raise errors.BzrMoveFailedError( '', '', "Rollback failed."
 
1414
                        " The working tree is in an inconsistent state."
 
1415
                        " Please consider doing a 'bzr revert'."
 
1416
                        " Error message is: %s" % e)
 
1417
 
 
1418
    def _move_entry(self, entry):
 
1419
        inv = self.inventory
 
1420
        from_rel_abs = self.abspath(entry.from_rel)
 
1421
        to_rel_abs = self.abspath(entry.to_rel)
 
1422
        if from_rel_abs == to_rel_abs:
 
1423
            raise errors.BzrMoveFailedError(entry.from_rel, entry.to_rel,
 
1424
                "Source and target are identical.")
 
1425
 
 
1426
        if not entry.only_change_inv:
 
1427
            try:
 
1428
                osutils.rename(from_rel_abs, to_rel_abs)
 
1429
            except OSError, e:
 
1430
                raise errors.BzrMoveFailedError(entry.from_rel,
 
1431
                    entry.to_rel, e[1])
 
1432
        inv.rename(entry.from_id, entry.to_parent_id, entry.to_tail)
958
1433
 
959
1434
    @needs_tree_write_lock
960
1435
    def rename_one(self, from_rel, to_rel, after=False):
964
1439
 
965
1440
        rename_one has several 'modes' to work. First, it can rename a physical
966
1441
        file and change the file_id. That is the normal mode. Second, it can
967
 
        only change the file_id without touching any physical file.
 
1442
        only change the file_id without touching any physical file. This is
 
1443
        the new mode introduced in version 0.15.
968
1444
 
969
 
        rename_one uses the second mode if 'after == True' and 'to_rel' is
970
 
        either not versioned or newly added, and present in the working tree.
 
1445
        rename_one uses the second mode if 'after == True' and 'to_rel' is not
 
1446
        versioned but present in the working tree.
971
1447
 
972
1448
        rename_one uses the second mode if 'after == False' and 'from_rel' is
973
1449
        versioned but no longer in the working tree, and 'to_rel' is not
979
1455
 
980
1456
        Everything else results in an error.
981
1457
        """
982
 
        raise NotImplementedError(self.rename_one)
 
1458
        inv = self.inventory
 
1459
        rename_entries = []
 
1460
 
 
1461
        # create rename entries and tuples
 
1462
        from_tail = splitpath(from_rel)[-1]
 
1463
        from_id = inv.path2id(from_rel)
 
1464
        if from_id is None:
 
1465
            raise errors.BzrRenameFailedError(from_rel,to_rel,
 
1466
                errors.NotVersionedError(path=str(from_rel)))
 
1467
        from_entry = inv[from_id]
 
1468
        from_parent_id = from_entry.parent_id
 
1469
        to_dir, to_tail = os.path.split(to_rel)
 
1470
        to_dir_id = inv.path2id(to_dir)
 
1471
        rename_entry = WorkingTree._RenameEntry(from_rel=from_rel,
 
1472
                                     from_id=from_id,
 
1473
                                     from_tail=from_tail,
 
1474
                                     from_parent_id=from_parent_id,
 
1475
                                     to_rel=to_rel, to_tail=to_tail,
 
1476
                                     to_parent_id=to_dir_id)
 
1477
        rename_entries.append(rename_entry)
 
1478
 
 
1479
        # determine which move mode to use. checks also for movability
 
1480
        rename_entries = self._determine_mv_mode(rename_entries, after)
 
1481
 
 
1482
        # check if the target changed directory and if the target directory is
 
1483
        # versioned
 
1484
        if to_dir_id is None:
 
1485
            raise errors.BzrMoveFailedError(from_rel,to_rel,
 
1486
                errors.NotVersionedError(path=str(to_dir)))
 
1487
 
 
1488
        # all checks done. now we can continue with our actual work
 
1489
        mutter('rename_one:\n'
 
1490
               '  from_id   {%s}\n'
 
1491
               '  from_rel: %r\n'
 
1492
               '  to_rel:   %r\n'
 
1493
               '  to_dir    %r\n'
 
1494
               '  to_dir_id {%s}\n',
 
1495
               from_id, from_rel, to_rel, to_dir, to_dir_id)
 
1496
 
 
1497
        self._move(rename_entries)
 
1498
        self._write_inventory(inv)
 
1499
 
 
1500
    class _RenameEntry(object):
 
1501
        def __init__(self, from_rel, from_id, from_tail, from_parent_id,
 
1502
                     to_rel, to_tail, to_parent_id, only_change_inv=False):
 
1503
            self.from_rel = from_rel
 
1504
            self.from_id = from_id
 
1505
            self.from_tail = from_tail
 
1506
            self.from_parent_id = from_parent_id
 
1507
            self.to_rel = to_rel
 
1508
            self.to_tail = to_tail
 
1509
            self.to_parent_id = to_parent_id
 
1510
            self.only_change_inv = only_change_inv
983
1511
 
984
1512
    @needs_read_lock
985
1513
    def unknowns(self):
993
1521
        return iter(
994
1522
            [subp for subp in self.extras() if not self.is_ignored(subp)])
995
1523
 
 
1524
    @needs_tree_write_lock
996
1525
    def unversion(self, file_ids):
997
1526
        """Remove the file ids in file_ids from the current versioned set.
998
1527
 
1002
1531
        :param file_ids: The file ids to stop versioning.
1003
1532
        :raises: NoSuchId if any fileid is not currently versioned.
1004
1533
        """
1005
 
        raise NotImplementedError(self.unversion)
 
1534
        for file_id in file_ids:
 
1535
            if file_id not in self._inventory:
 
1536
                raise errors.NoSuchId(self, file_id)
 
1537
        for file_id in file_ids:
 
1538
            if self._inventory.has_id(file_id):
 
1539
                self._inventory.remove_recursive_id(file_id)
 
1540
        if len(file_ids):
 
1541
            # in the future this should just set a dirty bit to wait for the
 
1542
            # final unlock. However, until all methods of workingtree start
 
1543
            # with the current in -memory inventory rather than triggering
 
1544
            # a read, it is more complex - we need to teach read_inventory
 
1545
            # to know when to read, and when to not read first... and possibly
 
1546
            # to save first when the in memory one may be corrupted.
 
1547
            # so for now, we just only write it if it is indeed dirty.
 
1548
            # - RBC 20060907
 
1549
            self._write_inventory(self._inventory)
 
1550
 
 
1551
    def _iter_conflicts(self):
 
1552
        conflicted = set()
 
1553
        for info in self.list_files():
 
1554
            path = info[0]
 
1555
            stem = get_conflicted_stem(path)
 
1556
            if stem is None:
 
1557
                continue
 
1558
            if stem not in conflicted:
 
1559
                conflicted.add(stem)
 
1560
                yield stem
1006
1561
 
1007
1562
    @needs_write_lock
1008
1563
    def pull(self, source, overwrite=False, stop_revision=None,
1009
 
             change_reporter=None, possible_transports=None, local=False,
1010
 
             show_base=False):
 
1564
             change_reporter=None, possible_transports=None, local=False):
 
1565
        top_pb = bzrlib.ui.ui_factory.nested_progress_bar()
1011
1566
        source.lock_read()
1012
1567
        try:
 
1568
            pp = ProgressPhase("Pull phase", 2, top_pb)
 
1569
            pp.next_phase()
1013
1570
            old_revision_info = self.branch.last_revision_info()
1014
1571
            basis_tree = self.basis_tree()
1015
1572
            count = self.branch.pull(source, overwrite, stop_revision,
1017
1574
                                     local=local)
1018
1575
            new_revision_info = self.branch.last_revision_info()
1019
1576
            if new_revision_info != old_revision_info:
 
1577
                pp.next_phase()
1020
1578
                repository = self.branch.repository
1021
 
                if repository._format.fast_deltas:
1022
 
                    parent_ids = self.get_parent_ids()
1023
 
                    if parent_ids:
1024
 
                        basis_id = parent_ids[0]
1025
 
                        basis_tree = repository.revision_tree(basis_id)
 
1579
                pb = bzrlib.ui.ui_factory.nested_progress_bar()
1026
1580
                basis_tree.lock_read()
1027
1581
                try:
1028
1582
                    new_basis_tree = self.branch.basis_tree()
1031
1585
                                new_basis_tree,
1032
1586
                                basis_tree,
1033
1587
                                this_tree=self,
1034
 
                                pb=None,
1035
 
                                change_reporter=change_reporter,
1036
 
                                show_base=show_base)
1037
 
                    basis_root_id = basis_tree.get_root_id()
1038
 
                    new_root_id = new_basis_tree.get_root_id()
1039
 
                    if basis_root_id != new_root_id:
1040
 
                        self.set_root_id(new_root_id)
 
1588
                                pb=pb,
 
1589
                                change_reporter=change_reporter)
 
1590
                    if (basis_tree.inventory.root is None and
 
1591
                        new_basis_tree.inventory.root is not None):
 
1592
                        self.set_root_id(new_basis_tree.get_root_id())
1041
1593
                finally:
 
1594
                    pb.finished()
1042
1595
                    basis_tree.unlock()
1043
1596
                # TODO - dedup parents list with things merged by pull ?
1044
1597
                # reuse the revisiontree we merged against to set the new
1057
1610
            return count
1058
1611
        finally:
1059
1612
            source.unlock()
 
1613
            top_pb.finished()
1060
1614
 
1061
1615
    @needs_write_lock
1062
1616
    def put_file_bytes_non_atomic(self, file_id, bytes):
1078
1632
        Currently returned depth-first, sorted by name within directories.
1079
1633
        This is the same order used by 'osutils.walkdirs'.
1080
1634
        """
1081
 
        raise NotImplementedError(self.extras)
 
1635
        ## TODO: Work from given directory downwards
 
1636
        for path, dir_entry in self.inventory.directories():
 
1637
            # mutter("search for unknowns in %r", path)
 
1638
            dirabs = self.abspath(path)
 
1639
            if not isdir(dirabs):
 
1640
                # e.g. directory deleted
 
1641
                continue
 
1642
 
 
1643
            fl = []
 
1644
            for subf in os.listdir(dirabs):
 
1645
                if self.bzrdir.is_control_filename(subf):
 
1646
                    continue
 
1647
                if subf not in dir_entry.children:
 
1648
                    try:
 
1649
                        (subf_norm,
 
1650
                         can_access) = osutils.normalized_filename(subf)
 
1651
                    except UnicodeDecodeError:
 
1652
                        path_os_enc = path.encode(osutils._fs_enc)
 
1653
                        relpath = path_os_enc + '/' + subf
 
1654
                        raise errors.BadFilenameEncoding(relpath,
 
1655
                                                         osutils._fs_enc)
 
1656
                    if subf_norm != subf and can_access:
 
1657
                        if subf_norm not in dir_entry.children:
 
1658
                            fl.append(subf_norm)
 
1659
                    else:
 
1660
                        fl.append(subf)
 
1661
 
 
1662
            fl.sort()
 
1663
            for subf in fl:
 
1664
                subp = pathjoin(path, subf)
 
1665
                yield subp
1082
1666
 
1083
1667
    def ignored_files(self):
1084
1668
        """Yield list of PATH, IGNORE_PATTERN"""
1117
1701
        r"""Check whether the filename matches an ignore pattern.
1118
1702
 
1119
1703
        Patterns containing '/' or '\' need to match the whole path;
1120
 
        others match against only the last component.  Patterns starting
1121
 
        with '!' are ignore exceptions.  Exceptions take precedence
1122
 
        over regular patterns and cause the filename to not be ignored.
 
1704
        others match against only the last component.
1123
1705
 
1124
1706
        If the file is ignored, returns the pattern which caused it to
1125
1707
        be ignored, otherwise None.  So this can simply be used as a
1126
1708
        boolean if desired."""
1127
1709
        if getattr(self, '_ignoreglobster', None) is None:
1128
 
            self._ignoreglobster = globbing.ExceptionGlobster(self.get_ignore_list())
 
1710
            self._ignoreglobster = globbing.Globster(self.get_ignore_list())
1129
1711
        return self._ignoreglobster.match(filename)
1130
1712
 
1131
1713
    def kind(self, file_id):
1133
1715
 
1134
1716
    def stored_kind(self, file_id):
1135
1717
        """See Tree.stored_kind"""
1136
 
        raise NotImplementedError(self.stored_kind)
 
1718
        return self.inventory[file_id].kind
1137
1719
 
1138
1720
    def _comparison_data(self, entry, path):
1139
1721
        abspath = self.abspath(path)
1181
1763
            raise errors.ObjectNotLocked(self)
1182
1764
 
1183
1765
    def lock_read(self):
1184
 
        """Lock the tree for reading.
1185
 
 
1186
 
        This also locks the branch, and can be unlocked via self.unlock().
1187
 
 
1188
 
        :return: A bzrlib.lock.LogicalLockResult.
1189
 
        """
 
1766
        """See Branch.lock_read, and WorkingTree.unlock."""
1190
1767
        if not self.is_locked():
1191
1768
            self._reset_data()
1192
1769
        self.branch.lock_read()
1193
1770
        try:
1194
 
            self._control_files.lock_read()
1195
 
            return LogicalLockResult(self.unlock)
 
1771
            return self._control_files.lock_read()
1196
1772
        except:
1197
1773
            self.branch.unlock()
1198
1774
            raise
1199
1775
 
1200
1776
    def lock_tree_write(self):
1201
 
        """See MutableTree.lock_tree_write, and WorkingTree.unlock.
1202
 
 
1203
 
        :return: A bzrlib.lock.LogicalLockResult.
1204
 
        """
 
1777
        """See MutableTree.lock_tree_write, and WorkingTree.unlock."""
1205
1778
        if not self.is_locked():
1206
1779
            self._reset_data()
1207
1780
        self.branch.lock_read()
1208
1781
        try:
1209
 
            self._control_files.lock_write()
1210
 
            return LogicalLockResult(self.unlock)
 
1782
            return self._control_files.lock_write()
1211
1783
        except:
1212
1784
            self.branch.unlock()
1213
1785
            raise
1214
1786
 
1215
1787
    def lock_write(self):
1216
 
        """See MutableTree.lock_write, and WorkingTree.unlock.
1217
 
 
1218
 
        :return: A bzrlib.lock.LogicalLockResult.
1219
 
        """
 
1788
        """See MutableTree.lock_write, and WorkingTree.unlock."""
1220
1789
        if not self.is_locked():
1221
1790
            self._reset_data()
1222
1791
        self.branch.lock_write()
1223
1792
        try:
1224
 
            self._control_files.lock_write()
1225
 
            return LogicalLockResult(self.unlock)
 
1793
            return self._control_files.lock_write()
1226
1794
        except:
1227
1795
            self.branch.unlock()
1228
1796
            raise
1230
1798
    def get_physical_lock_status(self):
1231
1799
        return self._control_files.get_physical_lock_status()
1232
1800
 
 
1801
    def _basis_inventory_name(self):
 
1802
        return 'basis-inventory-cache'
 
1803
 
1233
1804
    def _reset_data(self):
1234
1805
        """Reset transient data that cannot be revalidated."""
1235
 
        raise NotImplementedError(self._reset_data)
 
1806
        self._inventory_is_modified = False
 
1807
        result = self._deserialize(self._transport.get('inventory'))
 
1808
        self._set_inventory(result, dirty=False)
1236
1809
 
 
1810
    @needs_tree_write_lock
1237
1811
    def set_last_revision(self, new_revision):
1238
1812
        """Change the last revision in the working tree."""
1239
 
        raise NotImplementedError(self.set_last_revision)
 
1813
        if self._change_last_revision(new_revision):
 
1814
            self._cache_basis_inventory(new_revision)
1240
1815
 
1241
1816
    def _change_last_revision(self, new_revision):
1242
1817
        """Template method part of set_last_revision to perform the change.
1245
1820
        when their last revision is set.
1246
1821
        """
1247
1822
        if _mod_revision.is_null(new_revision):
1248
 
            self.branch.set_last_revision_info(0, new_revision)
 
1823
            self.branch.set_revision_history([])
1249
1824
            return False
1250
 
        _mod_revision.check_not_reserved_id(new_revision)
1251
1825
        try:
1252
1826
            self.branch.generate_revision_history(new_revision)
1253
1827
        except errors.NoSuchRevision:
1254
1828
            # not present in the repo - dont try to set it deeper than the tip
1255
 
            self.branch._set_revision_history([new_revision])
 
1829
            self.branch.set_revision_history([new_revision])
1256
1830
        return True
1257
1831
 
 
1832
    def _write_basis_inventory(self, xml):
 
1833
        """Write the basis inventory XML to the basis-inventory file"""
 
1834
        path = self._basis_inventory_name()
 
1835
        sio = StringIO(xml)
 
1836
        self._transport.put_file(path, sio,
 
1837
            mode=self.bzrdir._get_file_mode())
 
1838
 
 
1839
    def _create_basis_xml_from_inventory(self, revision_id, inventory):
 
1840
        """Create the text that will be saved in basis-inventory"""
 
1841
        inventory.revision_id = revision_id
 
1842
        return xml7.serializer_v7.write_inventory_to_string(inventory)
 
1843
 
 
1844
    def _cache_basis_inventory(self, new_revision):
 
1845
        """Cache new_revision as the basis inventory."""
 
1846
        # TODO: this should allow the ready-to-use inventory to be passed in,
 
1847
        # as commit already has that ready-to-use [while the format is the
 
1848
        # same, that is].
 
1849
        try:
 
1850
            # this double handles the inventory - unpack and repack -
 
1851
            # but is easier to understand. We can/should put a conditional
 
1852
            # in here based on whether the inventory is in the latest format
 
1853
            # - perhaps we should repack all inventories on a repository
 
1854
            # upgrade ?
 
1855
            # the fast path is to copy the raw xml from the repository. If the
 
1856
            # xml contains 'revision_id="', then we assume the right
 
1857
            # revision_id is set. We must check for this full string, because a
 
1858
            # root node id can legitimately look like 'revision_id' but cannot
 
1859
            # contain a '"'.
 
1860
            xml = self.branch.repository.get_inventory_xml(new_revision)
 
1861
            firstline = xml.split('\n', 1)[0]
 
1862
            if (not 'revision_id="' in firstline or
 
1863
                'format="7"' not in firstline):
 
1864
                inv = self.branch.repository.deserialise_inventory(
 
1865
                    new_revision, xml)
 
1866
                xml = self._create_basis_xml_from_inventory(new_revision, inv)
 
1867
            self._write_basis_inventory(xml)
 
1868
        except (errors.NoSuchRevision, errors.RevisionNotPresent):
 
1869
            pass
 
1870
 
 
1871
    def read_basis_inventory(self):
 
1872
        """Read the cached basis inventory."""
 
1873
        path = self._basis_inventory_name()
 
1874
        return self._transport.get_bytes(path)
 
1875
 
 
1876
    @needs_read_lock
 
1877
    def read_working_inventory(self):
 
1878
        """Read the working inventory.
 
1879
 
 
1880
        :raises errors.InventoryModified: read_working_inventory will fail
 
1881
            when the current in memory inventory has been modified.
 
1882
        """
 
1883
        # conceptually this should be an implementation detail of the tree.
 
1884
        # XXX: Deprecate this.
 
1885
        # ElementTree does its own conversion from UTF-8, so open in
 
1886
        # binary.
 
1887
        if self._inventory_is_modified:
 
1888
            raise errors.InventoryModified(self)
 
1889
        result = self._deserialize(self._transport.get('inventory'))
 
1890
        self._set_inventory(result, dirty=False)
 
1891
        return result
 
1892
 
1258
1893
    @needs_tree_write_lock
1259
1894
    def remove(self, files, verbose=False, to_file=None, keep_files=True,
1260
1895
        force=False):
1261
 
        """Remove nominated files from the working tree metadata.
 
1896
        """Remove nominated files from the working inventory.
1262
1897
 
1263
1898
        :files: File paths relative to the basedir.
1264
1899
        :keep_files: If true, the files will also be kept.
1270
1905
 
1271
1906
        inv_delta = []
1272
1907
 
1273
 
        all_files = set() # specified and nested files 
 
1908
        new_files=set()
1274
1909
        unknown_nested_files=set()
1275
 
        if to_file is None:
1276
 
            to_file = sys.stdout
1277
 
 
1278
 
        files_to_backup = []
1279
1910
 
1280
1911
        def recurse_directory_to_add_files(directory):
1281
1912
            # Recurse directory and add all files
1282
1913
            # so we can check if they have changed.
1283
 
            for parent_info, file_infos in self.walkdirs(directory):
 
1914
            for parent_info, file_infos in\
 
1915
                self.walkdirs(directory):
1284
1916
                for relpath, basename, kind, lstat, fileid, kind in file_infos:
1285
1917
                    # Is it versioned or ignored?
1286
 
                    if self.path2id(relpath):
 
1918
                    if self.path2id(relpath) or self.is_ignored(relpath):
1287
1919
                        # Add nested content for deletion.
1288
 
                        all_files.add(relpath)
 
1920
                        new_files.add(relpath)
1289
1921
                    else:
1290
 
                        # Files which are not versioned
 
1922
                        # Files which are not versioned and not ignored
1291
1923
                        # should be treated as unknown.
1292
 
                        files_to_backup.append(relpath)
 
1924
                        unknown_nested_files.add((relpath, None, kind))
1293
1925
 
1294
1926
        for filename in files:
1295
1927
            # Get file name into canonical form.
1296
1928
            abspath = self.abspath(filename)
1297
1929
            filename = self.relpath(abspath)
1298
1930
            if len(filename) > 0:
1299
 
                all_files.add(filename)
 
1931
                new_files.add(filename)
1300
1932
                recurse_directory_to_add_files(filename)
1301
1933
 
1302
 
        files = list(all_files)
 
1934
        files = list(new_files)
1303
1935
 
1304
1936
        if len(files) == 0:
1305
1937
            return # nothing to do
1309
1941
 
1310
1942
        # Bail out if we are going to delete files we shouldn't
1311
1943
        if not keep_files and not force:
1312
 
            for (file_id, path, content_change, versioned, parent_id, name,
1313
 
                 kind, executable) in self.iter_changes(self.basis_tree(),
1314
 
                     include_unchanged=True, require_versioned=False,
1315
 
                     want_unversioned=True, specific_files=files):
1316
 
                if versioned[0] == False:
1317
 
                    # The record is unknown or newly added
1318
 
                    files_to_backup.append(path[1])
1319
 
                elif (content_change and (kind[1] is not None) and
1320
 
                        osutils.is_inside_any(files, path[1])):
1321
 
                    # Versioned and changed, but not deleted, and still
1322
 
                    # in one of the dirs to be deleted.
1323
 
                    files_to_backup.append(path[1])
 
1944
            has_changed_files = len(unknown_nested_files) > 0
 
1945
            if not has_changed_files:
 
1946
                for (file_id, path, content_change, versioned, parent_id, name,
 
1947
                     kind, executable) in self.iter_changes(self.basis_tree(),
 
1948
                         include_unchanged=True, require_versioned=False,
 
1949
                         want_unversioned=True, specific_files=files):
 
1950
                    if versioned == (False, False):
 
1951
                        # The record is unknown ...
 
1952
                        if not self.is_ignored(path[1]):
 
1953
                            # ... but not ignored
 
1954
                            has_changed_files = True
 
1955
                            break
 
1956
                    elif content_change and (kind[1] is not None):
 
1957
                        # Versioned and changed, but not deleted
 
1958
                        has_changed_files = True
 
1959
                        break
1324
1960
 
1325
 
        def backup(file_to_backup):
1326
 
            backup_name = self.bzrdir._available_backup_name(file_to_backup)
1327
 
            osutils.rename(abs_path, self.abspath(backup_name))
1328
 
            return "removed %s (but kept a copy: %s)" % (file_to_backup,
1329
 
                                                         backup_name)
 
1961
            if has_changed_files:
 
1962
                # Make delta show ALL applicable changes in error message.
 
1963
                tree_delta = self.changes_from(self.basis_tree(),
 
1964
                    require_versioned=False, want_unversioned=True,
 
1965
                    specific_files=files)
 
1966
                for unknown_file in unknown_nested_files:
 
1967
                    if unknown_file not in tree_delta.unversioned:
 
1968
                        tree_delta.unversioned.extend((unknown_file,))
 
1969
                raise errors.BzrRemoveChangedFilesError(tree_delta)
1330
1970
 
1331
1971
        # Build inv_delta and delete files where applicable,
1332
 
        # do this before any modifications to meta data.
 
1972
        # do this before any modifications to inventory.
1333
1973
        for f in files:
1334
1974
            fid = self.path2id(f)
1335
1975
            message = None
1342
1982
                        new_status = 'I'
1343
1983
                    else:
1344
1984
                        new_status = '?'
1345
 
                    # XXX: Really should be a more abstract reporter interface
1346
 
                    kind_ch = osutils.kind_marker(self.kind(fid))
1347
 
                    to_file.write(new_status + '       ' + f + kind_ch + '\n')
 
1985
                    textui.show_status(new_status, self.kind(fid), f,
 
1986
                                       to_file=to_file)
1348
1987
                # Unversion file
1349
1988
                inv_delta.append((f, None, fid, None))
1350
1989
                message = "removed %s" % (f,)
1356
1995
                        len(os.listdir(abs_path)) > 0):
1357
1996
                        if force:
1358
1997
                            osutils.rmtree(abs_path)
1359
 
                            message = "deleted %s" % (f,)
1360
1998
                        else:
1361
 
                            message = backup(f)
 
1999
                            message = "%s is not an empty directory "\
 
2000
                                "and won't be deleted." % (f,)
1362
2001
                    else:
1363
 
                        if f in files_to_backup:
1364
 
                            message = backup(f)
1365
 
                        else:
1366
 
                            osutils.delete_any(abs_path)
1367
 
                            message = "deleted %s" % (f,)
 
2002
                        osutils.delete_any(abs_path)
 
2003
                        message = "deleted %s" % (f,)
1368
2004
                elif message is not None:
1369
2005
                    # Only care if we haven't done anything yet.
1370
2006
                    message = "%s does not exist." % (f,)
1376
2012
 
1377
2013
    @needs_tree_write_lock
1378
2014
    def revert(self, filenames=None, old_tree=None, backups=True,
1379
 
               pb=None, report_changes=False):
 
2015
               pb=DummyProgress(), report_changes=False):
1380
2016
        from bzrlib.conflicts import resolve
 
2017
        if filenames == []:
 
2018
            filenames = None
 
2019
            symbol_versioning.warn('Using [] to revert all files is deprecated'
 
2020
                ' as of bzr 0.91.  Please use None (the default) instead.',
 
2021
                DeprecationWarning, stacklevel=2)
1381
2022
        if old_tree is None:
1382
2023
            basis_tree = self.basis_tree()
1383
2024
            basis_tree.lock_read()
1390
2031
            if filenames is None and len(self.get_parent_ids()) > 1:
1391
2032
                parent_trees = []
1392
2033
                last_revision = self.last_revision()
1393
 
                if last_revision != _mod_revision.NULL_REVISION:
 
2034
                if last_revision != NULL_REVISION:
1394
2035
                    if basis_tree is None:
1395
2036
                        basis_tree = self.basis_tree()
1396
2037
                        basis_tree.lock_read()
1410
2051
        WorkingTree can supply revision_trees for the basis revision only
1411
2052
        because there is only one cached inventory in the bzr directory.
1412
2053
        """
1413
 
        raise NotImplementedError(self.revision_tree)
 
2054
        if revision_id == self.last_revision():
 
2055
            try:
 
2056
                xml = self.read_basis_inventory()
 
2057
            except errors.NoSuchFile:
 
2058
                pass
 
2059
            else:
 
2060
                try:
 
2061
                    inv = xml7.serializer_v7.read_inventory_from_string(xml)
 
2062
                    # dont use the repository revision_tree api because we want
 
2063
                    # to supply the inventory.
 
2064
                    if inv.revision_id == revision_id:
 
2065
                        return revisiontree.RevisionTree(self.branch.repository,
 
2066
                            inv, revision_id)
 
2067
                except errors.BadInventoryFormat:
 
2068
                    pass
 
2069
        # raise if there was no inventory, or if we read the wrong inventory.
 
2070
        raise errors.NoSuchRevisionInTree(self, revision_id)
 
2071
 
 
2072
    # XXX: This method should be deprecated in favour of taking in a proper
 
2073
    # new Inventory object.
 
2074
    @needs_tree_write_lock
 
2075
    def set_inventory(self, new_inventory_list):
 
2076
        from bzrlib.inventory import (Inventory,
 
2077
                                      InventoryDirectory,
 
2078
                                      InventoryEntry,
 
2079
                                      InventoryFile,
 
2080
                                      InventoryLink)
 
2081
        inv = Inventory(self.get_root_id())
 
2082
        for path, file_id, parent, kind in new_inventory_list:
 
2083
            name = os.path.basename(path)
 
2084
            if name == "":
 
2085
                continue
 
2086
            # fixme, there should be a factory function inv,add_??
 
2087
            if kind == 'directory':
 
2088
                inv.add(InventoryDirectory(file_id, name, parent))
 
2089
            elif kind == 'file':
 
2090
                inv.add(InventoryFile(file_id, name, parent))
 
2091
            elif kind == 'symlink':
 
2092
                inv.add(InventoryLink(file_id, name, parent))
 
2093
            else:
 
2094
                raise errors.BzrError("unknown kind %r" % kind)
 
2095
        self._write_inventory(inv)
1414
2096
 
1415
2097
    @needs_tree_write_lock
1416
2098
    def set_root_id(self, file_id):
1429
2111
            present in the current inventory or an error will occur. It must
1430
2112
            not be None, but rather a valid file id.
1431
2113
        """
1432
 
        raise NotImplementedError(self._set_root_id)
 
2114
        inv = self._inventory
 
2115
        orig_root_id = inv.root.file_id
 
2116
        # TODO: it might be nice to exit early if there was nothing
 
2117
        # to do, saving us from trigger a sync on unlock.
 
2118
        self._inventory_is_modified = True
 
2119
        # we preserve the root inventory entry object, but
 
2120
        # unlinkit from the byid index
 
2121
        del inv._byid[inv.root.file_id]
 
2122
        inv.root.file_id = file_id
 
2123
        # and link it into the index with the new changed id.
 
2124
        inv._byid[inv.root.file_id] = inv.root
 
2125
        # and finally update all children to reference the new id.
 
2126
        # XXX: this should be safe to just look at the root.children
 
2127
        # list, not the WHOLE INVENTORY.
 
2128
        for fid in inv:
 
2129
            entry = inv[fid]
 
2130
            if entry.parent_id == orig_root_id:
 
2131
                entry.parent_id = inv.root.file_id
1433
2132
 
1434
2133
    def unlock(self):
1435
2134
        """See Branch.unlock.
1442
2141
        """
1443
2142
        raise NotImplementedError(self.unlock)
1444
2143
 
1445
 
    _marker = object()
1446
 
 
1447
 
    def update(self, change_reporter=None, possible_transports=None,
1448
 
               revision=None, old_tip=_marker, show_base=False):
 
2144
    def update(self, change_reporter=None, possible_transports=None):
1449
2145
        """Update a working tree along its branch.
1450
2146
 
1451
2147
        This will update the branch if its bound too, which means we have
1466
2162
        - Restore the wt.basis->wt.state changes.
1467
2163
 
1468
2164
        There isn't a single operation at the moment to do that, so we:
1469
 
 
1470
2165
        - Merge current state -> basis tree of the master w.r.t. the old tree
1471
2166
          basis.
1472
2167
        - Do a 'normal' merge of the old branch basis if it is relevant.
1473
 
 
1474
 
        :param revision: The target revision to update to. Must be in the
1475
 
            revision history.
1476
 
        :param old_tip: If branch.update() has already been run, the value it
1477
 
            returned (old tip of the branch or None). _marker is used
1478
 
            otherwise.
1479
2168
        """
1480
2169
        if self.branch.get_bound_location() is not None:
1481
2170
            self.lock_write()
1482
 
            update_branch = (old_tip is self._marker)
 
2171
            update_branch = True
1483
2172
        else:
1484
2173
            self.lock_tree_write()
1485
2174
            update_branch = False
1487
2176
            if update_branch:
1488
2177
                old_tip = self.branch.update(possible_transports)
1489
2178
            else:
1490
 
                if old_tip is self._marker:
1491
 
                    old_tip = None
1492
 
            return self._update_tree(old_tip, change_reporter, revision, show_base)
 
2179
                old_tip = None
 
2180
            return self._update_tree(old_tip, change_reporter)
1493
2181
        finally:
1494
2182
            self.unlock()
1495
2183
 
1496
2184
    @needs_tree_write_lock
1497
 
    def _update_tree(self, old_tip=None, change_reporter=None, revision=None,
1498
 
                     show_base=False):
 
2185
    def _update_tree(self, old_tip=None, change_reporter=None):
1499
2186
        """Update a tree to the master branch.
1500
2187
 
1501
2188
        :param old_tip: if supplied, the previous tip revision the branch,
1511
2198
        # We MUST save it even if an error occurs, because otherwise the users
1512
2199
        # local work is unreferenced and will appear to have been lost.
1513
2200
        #
1514
 
        nb_conflicts = 0
 
2201
        result = 0
1515
2202
        try:
1516
2203
            last_rev = self.get_parent_ids()[0]
1517
2204
        except IndexError:
1518
2205
            last_rev = _mod_revision.NULL_REVISION
1519
 
        if revision is None:
1520
 
            revision = self.branch.last_revision()
1521
 
 
1522
 
        old_tip = old_tip or _mod_revision.NULL_REVISION
1523
 
 
1524
 
        if not _mod_revision.is_null(old_tip) and old_tip != last_rev:
1525
 
            # the branch we are bound to was updated
1526
 
            # merge those changes in first
1527
 
            base_tree  = self.basis_tree()
1528
 
            other_tree = self.branch.repository.revision_tree(old_tip)
1529
 
            nb_conflicts = merge.merge_inner(self.branch, other_tree,
1530
 
                                             base_tree, this_tree=self,
1531
 
                                             change_reporter=change_reporter,
1532
 
                                             show_base=show_base)
1533
 
            if nb_conflicts:
1534
 
                self.add_parent_tree((old_tip, other_tree))
1535
 
                note('Rerun update after fixing the conflicts.')
1536
 
                return nb_conflicts
1537
 
 
1538
 
        if last_rev != _mod_revision.ensure_null(revision):
1539
 
            # the working tree is up to date with the branch
1540
 
            # we can merge the specified revision from master
1541
 
            to_tree = self.branch.repository.revision_tree(revision)
1542
 
            to_root_id = to_tree.get_root_id()
1543
 
 
 
2206
        if last_rev != _mod_revision.ensure_null(self.branch.last_revision()):
 
2207
            # merge tree state up to new branch tip.
1544
2208
            basis = self.basis_tree()
1545
2209
            basis.lock_read()
1546
2210
            try:
1547
 
                if (basis.get_root_id() is None or basis.get_root_id() != to_root_id):
1548
 
                    self.set_root_id(to_root_id)
 
2211
                to_tree = self.branch.basis_tree()
 
2212
                if basis.inventory.root is None:
 
2213
                    self.set_root_id(to_tree.get_root_id())
1549
2214
                    self.flush()
 
2215
                result += merge.merge_inner(
 
2216
                                      self.branch,
 
2217
                                      to_tree,
 
2218
                                      basis,
 
2219
                                      this_tree=self,
 
2220
                                      change_reporter=change_reporter)
1550
2221
            finally:
1551
2222
                basis.unlock()
1552
 
 
1553
 
            # determine the branch point
1554
 
            graph = self.branch.repository.get_graph()
1555
 
            base_rev_id = graph.find_unique_lca(self.branch.last_revision(),
1556
 
                                                last_rev)
1557
 
            base_tree = self.branch.repository.revision_tree(base_rev_id)
1558
 
 
1559
 
            nb_conflicts = merge.merge_inner(self.branch, to_tree, base_tree,
1560
 
                                             this_tree=self,
1561
 
                                             change_reporter=change_reporter,
1562
 
                                             show_base=show_base)
1563
 
            self.set_last_revision(revision)
1564
2223
            # TODO - dedup parents list with things merged by pull ?
1565
2224
            # reuse the tree we've updated to to set the basis:
1566
 
            parent_trees = [(revision, to_tree)]
 
2225
            parent_trees = [(self.branch.last_revision(), to_tree)]
1567
2226
            merges = self.get_parent_ids()[1:]
1568
2227
            # Ideally we ask the tree for the trees here, that way the working
1569
2228
            # tree can decide whether to give us the entire tree or give us a
1573
2232
            for parent in merges:
1574
2233
                parent_trees.append(
1575
2234
                    (parent, self.branch.repository.revision_tree(parent)))
1576
 
            if not _mod_revision.is_null(old_tip):
 
2235
            if (old_tip is not None and not _mod_revision.is_null(old_tip)):
1577
2236
                parent_trees.append(
1578
2237
                    (old_tip, self.branch.repository.revision_tree(old_tip)))
1579
2238
            self.set_parent_trees(parent_trees)
1580
2239
            last_rev = parent_trees[0][0]
1581
 
        return nb_conflicts
 
2240
        else:
 
2241
            # the working tree had the same last-revision as the master
 
2242
            # branch did. We may still have pivot local work from the local
 
2243
            # branch into old_tip:
 
2244
            if (old_tip is not None and not _mod_revision.is_null(old_tip)):
 
2245
                self.add_parent_tree_id(old_tip)
 
2246
        if (old_tip is not None and not _mod_revision.is_null(old_tip)
 
2247
            and old_tip != last_rev):
 
2248
            # our last revision was not the prior branch last revision
 
2249
            # and we have converted that last revision to a pending merge.
 
2250
            # base is somewhere between the branch tip now
 
2251
            # and the now pending merge
 
2252
 
 
2253
            # Since we just modified the working tree and inventory, flush out
 
2254
            # the current state, before we modify it again.
 
2255
            # TODO: jam 20070214 WorkingTree3 doesn't require this, dirstate
 
2256
            #       requires it only because TreeTransform directly munges the
 
2257
            #       inventory and calls tree._write_inventory(). Ultimately we
 
2258
            #       should be able to remove this extra flush.
 
2259
            self.flush()
 
2260
            graph = self.branch.repository.get_graph()
 
2261
            base_rev_id = graph.find_unique_lca(self.branch.last_revision(),
 
2262
                                                old_tip)
 
2263
            base_tree = self.branch.repository.revision_tree(base_rev_id)
 
2264
            other_tree = self.branch.repository.revision_tree(old_tip)
 
2265
            result += merge.merge_inner(
 
2266
                                  self.branch,
 
2267
                                  other_tree,
 
2268
                                  base_tree,
 
2269
                                  this_tree=self,
 
2270
                                  change_reporter=change_reporter)
 
2271
        return result
1582
2272
 
1583
2273
    def _write_hashcache_if_dirty(self):
1584
2274
        """Write out the hashcache if it is dirty."""
1592
2282
                #       warning might be sufficient to let the user know what
1593
2283
                #       is going on.
1594
2284
                mutter('Could not write hashcache for %s\nError: %s',
1595
 
                              self._hashcache.cache_file_name(), e)
 
2285
                       self._hashcache.cache_file_name(), e)
 
2286
 
 
2287
    @needs_tree_write_lock
 
2288
    def _write_inventory(self, inv):
 
2289
        """Write inventory as the current inventory."""
 
2290
        self._set_inventory(inv, dirty=True)
 
2291
        self.flush()
1596
2292
 
1597
2293
    def set_conflicts(self, arg):
1598
2294
        raise errors.UnsupportedOperation(self.set_conflicts, self)
1600
2296
    def add_conflicts(self, arg):
1601
2297
        raise errors.UnsupportedOperation(self.add_conflicts, self)
1602
2298
 
 
2299
    @needs_read_lock
1603
2300
    def conflicts(self):
1604
 
        raise NotImplementedError(self.conflicts)
 
2301
        conflicts = _mod_conflicts.ConflictList()
 
2302
        for conflicted in self._iter_conflicts():
 
2303
            text = True
 
2304
            try:
 
2305
                if file_kind(self.abspath(conflicted)) != "file":
 
2306
                    text = False
 
2307
            except errors.NoSuchFile:
 
2308
                text = False
 
2309
            if text is True:
 
2310
                for suffix in ('.THIS', '.OTHER'):
 
2311
                    try:
 
2312
                        kind = file_kind(self.abspath(conflicted+suffix))
 
2313
                        if kind != "file":
 
2314
                            text = False
 
2315
                    except errors.NoSuchFile:
 
2316
                        text = False
 
2317
                    if text == False:
 
2318
                        break
 
2319
            ctype = {True: 'text conflict', False: 'contents conflict'}[text]
 
2320
            conflicts.append(_mod_conflicts.Conflict.factory(ctype,
 
2321
                             path=conflicted,
 
2322
                             file_id=self.path2id(conflicted)))
 
2323
        return conflicts
1605
2324
 
1606
2325
    def walkdirs(self, prefix=""):
1607
2326
        """Walk the directories of this tree.
1727
2446
    def _walkdirs(self, prefix=""):
1728
2447
        """Walk the directories of this tree.
1729
2448
 
1730
 
        :param prefix: is used as the directrory to start with.
1731
 
        :returns: a generator which yields items in the form::
1732
 
 
1733
 
            ((curren_directory_path, fileid),
1734
 
             [(file1_path, file1_name, file1_kind, None, file1_id,
1735
 
               file1_kind), ... ])
 
2449
           :prefix: is used as the directrory to start with.
 
2450
           returns a generator which yields items in the form:
 
2451
                ((curren_directory_path, fileid),
 
2452
                 [(file1_path, file1_name, file1_kind, None, file1_id,
 
2453
                   file1_kind), ... ])
1736
2454
        """
1737
 
        raise NotImplementedError(self._walkdirs)
 
2455
        _directory = 'directory'
 
2456
        # get the root in the inventory
 
2457
        inv = self.inventory
 
2458
        top_id = inv.path2id(prefix)
 
2459
        if top_id is None:
 
2460
            pending = []
 
2461
        else:
 
2462
            pending = [(prefix, '', _directory, None, top_id, None)]
 
2463
        while pending:
 
2464
            dirblock = []
 
2465
            currentdir = pending.pop()
 
2466
            # 0 - relpath, 1- basename, 2- kind, 3- stat, 4-id, 5-kind
 
2467
            top_id = currentdir[4]
 
2468
            if currentdir[0]:
 
2469
                relroot = currentdir[0] + '/'
 
2470
            else:
 
2471
                relroot = ""
 
2472
            # FIXME: stash the node in pending
 
2473
            entry = inv[top_id]
 
2474
            if entry.kind == 'directory':
 
2475
                for name, child in entry.sorted_children():
 
2476
                    dirblock.append((relroot + name, name, child.kind, None,
 
2477
                        child.file_id, child.kind
 
2478
                        ))
 
2479
            yield (currentdir[0], entry.file_id), dirblock
 
2480
            # push the user specified dirs from dirblock
 
2481
            for dir in reversed(dirblock):
 
2482
                if dir[2] == _directory:
 
2483
                    pending.append(dir)
1738
2484
 
1739
2485
    @needs_tree_write_lock
1740
2486
    def auto_resolve(self):
1744
2490
        are considered 'resolved', because bzr always puts conflict markers
1745
2491
        into files that have text conflicts.  The corresponding .THIS .BASE and
1746
2492
        .OTHER files are deleted, as per 'resolve'.
1747
 
 
1748
2493
        :return: a tuple of ConflictLists: (un_resolved, resolved).
1749
2494
        """
1750
2495
        un_resolved = _mod_conflicts.ConflictList()
1769
2514
        self.set_conflicts(un_resolved)
1770
2515
        return un_resolved, resolved
1771
2516
 
 
2517
    @needs_read_lock
 
2518
    def _check(self):
 
2519
        tree_basis = self.basis_tree()
 
2520
        tree_basis.lock_read()
 
2521
        try:
 
2522
            repo_basis = self.branch.repository.revision_tree(
 
2523
                self.last_revision())
 
2524
            if len(list(repo_basis.iter_changes(tree_basis))) > 0:
 
2525
                raise errors.BzrCheckError(
 
2526
                    "Mismatched basis inventory content.")
 
2527
            self._validate()
 
2528
        finally:
 
2529
            tree_basis.unlock()
 
2530
 
1772
2531
    def _validate(self):
1773
2532
        """Validate internal structures.
1774
2533
 
1780
2539
        """
1781
2540
        return
1782
2541
 
1783
 
    def check_state(self):
1784
 
        """Check that the working state is/isn't valid."""
1785
 
        raise NotImplementedError(self.check_state)
1786
 
 
1787
 
    def reset_state(self, revision_ids=None):
1788
 
        """Reset the state of the working tree.
1789
 
 
1790
 
        This does a hard-reset to a last-known-good state. This is a way to
1791
 
        fix if something got corrupted (like the .bzr/checkout/dirstate file)
1792
 
        """
1793
 
        raise NotImplementedError(self.reset_state)
1794
 
 
 
2542
    @needs_read_lock
1795
2543
    def _get_rules_searcher(self, default_searcher):
1796
2544
        """See Tree._get_rules_searcher."""
1797
2545
        if self._rules_searcher is None:
1805
2553
        return ShelfManager(self, self._transport)
1806
2554
 
1807
2555
 
1808
 
class InventoryWorkingTree(WorkingTree,
1809
 
        bzrlib.mutabletree.MutableInventoryTree):
1810
 
    """Base class for working trees that are inventory-oriented.
1811
 
 
1812
 
    The inventory is held in the `Branch` working-inventory, and the
1813
 
    files are in a directory on disk.
1814
 
 
1815
 
    It is possible for a `WorkingTree` to have a filename which is
1816
 
    not listed in the Inventory and vice versa.
 
2556
class WorkingTree2(WorkingTree):
 
2557
    """This is the Format 2 working tree.
 
2558
 
 
2559
    This was the first weave based working tree.
 
2560
     - uses os locks for locking.
 
2561
     - uses the branch last-revision.
1817
2562
    """
1818
2563
 
1819
 
    def __init__(self, basedir='.',
1820
 
                 branch=DEPRECATED_PARAMETER,
1821
 
                 _inventory=None,
1822
 
                 _control_files=None,
1823
 
                 _internal=False,
1824
 
                 _format=None,
1825
 
                 _bzrdir=None):
1826
 
        """Construct a InventoryWorkingTree instance. This is not a public API.
1827
 
 
1828
 
        :param branch: A branch to override probing for the branch.
1829
 
        """
1830
 
        super(InventoryWorkingTree, self).__init__(basedir=basedir,
1831
 
            branch=branch, _control_files=_control_files, _internal=_internal,
1832
 
            _format=_format, _bzrdir=_bzrdir)
1833
 
 
1834
 
        if _inventory is None:
1835
 
            # This will be acquired on lock_read() or lock_write()
1836
 
            self._inventory_is_modified = False
1837
 
            self._inventory = None
1838
 
        else:
1839
 
            # the caller of __init__ has provided an inventory,
1840
 
            # we assume they know what they are doing - as its only
1841
 
            # the Format factory and creation methods that are
1842
 
            # permitted to do this.
1843
 
            self._set_inventory(_inventory, dirty=False)
1844
 
 
1845
 
    def _set_inventory(self, inv, dirty):
1846
 
        """Set the internal cached inventory.
1847
 
 
1848
 
        :param inv: The inventory to set.
1849
 
        :param dirty: A boolean indicating whether the inventory is the same
1850
 
            logical inventory as whats on disk. If True the inventory is not
1851
 
            the same and should be written to disk or data will be lost, if
1852
 
            False then the inventory is the same as that on disk and any
1853
 
            serialisation would be unneeded overhead.
1854
 
        """
1855
 
        self._inventory = inv
1856
 
        self._inventory_is_modified = dirty
1857
 
 
1858
 
    def _serialize(self, inventory, out_file):
1859
 
        xml5.serializer_v5.write_inventory(self._inventory, out_file,
1860
 
            working=True)
1861
 
 
1862
 
    def _deserialize(selt, in_file):
1863
 
        return xml5.serializer_v5.read_inventory(in_file)
1864
 
 
1865
 
    @needs_tree_write_lock
1866
 
    def _write_inventory(self, inv):
1867
 
        """Write inventory as the current inventory."""
1868
 
        self._set_inventory(inv, dirty=True)
1869
 
        self.flush()
1870
 
 
1871
 
    # XXX: This method should be deprecated in favour of taking in a proper
1872
 
    # new Inventory object.
1873
 
    @needs_tree_write_lock
1874
 
    def set_inventory(self, new_inventory_list):
1875
 
        from bzrlib.inventory import (Inventory,
1876
 
                                      InventoryDirectory,
1877
 
                                      InventoryFile,
1878
 
                                      InventoryLink)
1879
 
        inv = Inventory(self.get_root_id())
1880
 
        for path, file_id, parent, kind in new_inventory_list:
1881
 
            name = os.path.basename(path)
1882
 
            if name == "":
1883
 
                continue
1884
 
            # fixme, there should be a factory function inv,add_??
1885
 
            if kind == 'directory':
1886
 
                inv.add(InventoryDirectory(file_id, name, parent))
1887
 
            elif kind == 'file':
1888
 
                inv.add(InventoryFile(file_id, name, parent))
1889
 
            elif kind == 'symlink':
1890
 
                inv.add(InventoryLink(file_id, name, parent))
1891
 
            else:
1892
 
                raise errors.BzrError("unknown kind %r" % kind)
1893
 
        self._write_inventory(inv)
1894
 
 
1895
 
    def _write_basis_inventory(self, xml):
1896
 
        """Write the basis inventory XML to the basis-inventory file"""
1897
 
        path = self._basis_inventory_name()
1898
 
        sio = StringIO(xml)
1899
 
        self._transport.put_file(path, sio,
1900
 
            mode=self.bzrdir._get_file_mode())
1901
 
 
1902
 
    def _reset_data(self):
1903
 
        """Reset transient data that cannot be revalidated."""
1904
 
        self._inventory_is_modified = False
1905
 
        f = self._transport.get('inventory')
1906
 
        try:
1907
 
            result = self._deserialize(f)
 
2564
    def __init__(self, *args, **kwargs):
 
2565
        super(WorkingTree2, self).__init__(*args, **kwargs)
 
2566
        # WorkingTree2 has more of a constraint that self._inventory must
 
2567
        # exist. Because this is an older format, we don't mind the overhead
 
2568
        # caused by the extra computation here.
 
2569
 
 
2570
        # Newer WorkingTree's should only have self._inventory set when they
 
2571
        # have a read lock.
 
2572
        if self._inventory is None:
 
2573
            self.read_working_inventory()
 
2574
 
 
2575
    def lock_tree_write(self):
 
2576
        """See WorkingTree.lock_tree_write().
 
2577
 
 
2578
        In Format2 WorkingTrees we have a single lock for the branch and tree
 
2579
        so lock_tree_write() degrades to lock_write().
 
2580
        """
 
2581
        self.branch.lock_write()
 
2582
        try:
 
2583
            return self._control_files.lock_write()
 
2584
        except:
 
2585
            self.branch.unlock()
 
2586
            raise
 
2587
 
 
2588
    def unlock(self):
 
2589
        # do non-implementation specific cleanup
 
2590
        self._cleanup()
 
2591
 
 
2592
        # we share control files:
 
2593
        if self._control_files._lock_count == 3:
 
2594
            # _inventory_is_modified is always False during a read lock.
 
2595
            if self._inventory_is_modified:
 
2596
                self.flush()
 
2597
            self._write_hashcache_if_dirty()
 
2598
 
 
2599
        # reverse order of locking.
 
2600
        try:
 
2601
            return self._control_files.unlock()
1908
2602
        finally:
1909
 
            f.close()
1910
 
        self._set_inventory(result, dirty=False)
1911
 
 
1912
 
    def _set_root_id(self, file_id):
1913
 
        """Set the root id for this tree, in a format specific manner.
1914
 
 
1915
 
        :param file_id: The file id to assign to the root. It must not be
1916
 
            present in the current inventory or an error will occur. It must
1917
 
            not be None, but rather a valid file id.
1918
 
        """
1919
 
        inv = self._inventory
1920
 
        orig_root_id = inv.root.file_id
1921
 
        # TODO: it might be nice to exit early if there was nothing
1922
 
        # to do, saving us from trigger a sync on unlock.
1923
 
        self._inventory_is_modified = True
1924
 
        # we preserve the root inventory entry object, but
1925
 
        # unlinkit from the byid index
1926
 
        del inv._byid[inv.root.file_id]
1927
 
        inv.root.file_id = file_id
1928
 
        # and link it into the index with the new changed id.
1929
 
        inv._byid[inv.root.file_id] = inv.root
1930
 
        # and finally update all children to reference the new id.
1931
 
        # XXX: this should be safe to just look at the root.children
1932
 
        # list, not the WHOLE INVENTORY.
1933
 
        for fid in inv:
1934
 
            entry = inv[fid]
1935
 
            if entry.parent_id == orig_root_id:
1936
 
                entry.parent_id = inv.root.file_id
1937
 
 
1938
 
    def all_file_ids(self):
1939
 
        """See Tree.iter_all_file_ids"""
1940
 
        return set(self.inventory)
1941
 
 
1942
 
    @needs_tree_write_lock
1943
 
    def set_parent_trees(self, parents_list, allow_leftmost_as_ghost=False):
1944
 
        """See MutableTree.set_parent_trees."""
1945
 
        parent_ids = [rev for (rev, tree) in parents_list]
1946
 
        for revision_id in parent_ids:
1947
 
            _mod_revision.check_not_reserved_id(revision_id)
1948
 
 
1949
 
        self._check_parents_for_ghosts(parent_ids,
1950
 
            allow_leftmost_as_ghost=allow_leftmost_as_ghost)
1951
 
 
1952
 
        parent_ids = self._filter_parent_ids_by_ancestry(parent_ids)
1953
 
 
1954
 
        if len(parent_ids) == 0:
1955
 
            leftmost_parent_id = _mod_revision.NULL_REVISION
1956
 
            leftmost_parent_tree = None
 
2603
            self.branch.unlock()
 
2604
 
 
2605
 
 
2606
class WorkingTree3(WorkingTree):
 
2607
    """This is the Format 3 working tree.
 
2608
 
 
2609
    This differs from the base WorkingTree by:
 
2610
     - having its own file lock
 
2611
     - having its own last-revision property.
 
2612
 
 
2613
    This is new in bzr 0.8
 
2614
    """
 
2615
 
 
2616
    @needs_read_lock
 
2617
    def _last_revision(self):
 
2618
        """See Mutable.last_revision."""
 
2619
        try:
 
2620
            return self._transport.get_bytes('last-revision')
 
2621
        except errors.NoSuchFile:
 
2622
            return _mod_revision.NULL_REVISION
 
2623
 
 
2624
    def _change_last_revision(self, revision_id):
 
2625
        """See WorkingTree._change_last_revision."""
 
2626
        if revision_id is None or revision_id == NULL_REVISION:
 
2627
            try:
 
2628
                self._transport.delete('last-revision')
 
2629
            except errors.NoSuchFile:
 
2630
                pass
 
2631
            return False
1957
2632
        else:
1958
 
            leftmost_parent_id, leftmost_parent_tree = parents_list[0]
1959
 
 
1960
 
        if self._change_last_revision(leftmost_parent_id):
1961
 
            if leftmost_parent_tree is None:
1962
 
                # If we don't have a tree, fall back to reading the
1963
 
                # parent tree from the repository.
1964
 
                self._cache_basis_inventory(leftmost_parent_id)
1965
 
            else:
1966
 
                inv = leftmost_parent_tree.inventory
1967
 
                xml = self._create_basis_xml_from_inventory(
1968
 
                                        leftmost_parent_id, inv)
1969
 
                self._write_basis_inventory(xml)
1970
 
        self._set_merges_from_parent_ids(parent_ids)
1971
 
 
1972
 
    def _cache_basis_inventory(self, new_revision):
1973
 
        """Cache new_revision as the basis inventory."""
1974
 
        # TODO: this should allow the ready-to-use inventory to be passed in,
1975
 
        # as commit already has that ready-to-use [while the format is the
1976
 
        # same, that is].
1977
 
        try:
1978
 
            # this double handles the inventory - unpack and repack -
1979
 
            # but is easier to understand. We can/should put a conditional
1980
 
            # in here based on whether the inventory is in the latest format
1981
 
            # - perhaps we should repack all inventories on a repository
1982
 
            # upgrade ?
1983
 
            # the fast path is to copy the raw xml from the repository. If the
1984
 
            # xml contains 'revision_id="', then we assume the right
1985
 
            # revision_id is set. We must check for this full string, because a
1986
 
            # root node id can legitimately look like 'revision_id' but cannot
1987
 
            # contain a '"'.
1988
 
            xml = self.branch.repository._get_inventory_xml(new_revision)
1989
 
            firstline = xml.split('\n', 1)[0]
1990
 
            if (not 'revision_id="' in firstline or
1991
 
                'format="7"' not in firstline):
1992
 
                inv = self.branch.repository._serializer.read_inventory_from_string(
1993
 
                    xml, new_revision)
1994
 
                xml = self._create_basis_xml_from_inventory(new_revision, inv)
1995
 
            self._write_basis_inventory(xml)
1996
 
        except (errors.NoSuchRevision, errors.RevisionNotPresent):
1997
 
            pass
1998
 
 
1999
 
    def _basis_inventory_name(self):
2000
 
        return 'basis-inventory-cache'
2001
 
 
2002
 
    def _create_basis_xml_from_inventory(self, revision_id, inventory):
2003
 
        """Create the text that will be saved in basis-inventory"""
2004
 
        inventory.revision_id = revision_id
2005
 
        return xml7.serializer_v7.write_inventory_to_string(inventory)
 
2633
            self._transport.put_bytes('last-revision', revision_id,
 
2634
                mode=self.bzrdir._get_file_mode())
 
2635
            return True
2006
2636
 
2007
2637
    @needs_tree_write_lock
2008
2638
    def set_conflicts(self, conflicts):
2028
2658
                    raise errors.ConflictFormatError()
2029
2659
            except StopIteration:
2030
2660
                raise errors.ConflictFormatError()
2031
 
            reader = _mod_rio.RioReader(confile)
2032
 
            return _mod_conflicts.ConflictList.from_stanzas(reader)
 
2661
            return _mod_conflicts.ConflictList.from_stanzas(RioReader(confile))
2033
2662
        finally:
2034
2663
            confile.close()
2035
2664
 
2036
 
    def read_basis_inventory(self):
2037
 
        """Read the cached basis inventory."""
2038
 
        path = self._basis_inventory_name()
2039
 
        return self._transport.get_bytes(path)
2040
 
 
2041
 
    @needs_read_lock
2042
 
    def read_working_inventory(self):
2043
 
        """Read the working inventory.
2044
 
 
2045
 
        :raises errors.InventoryModified: read_working_inventory will fail
2046
 
            when the current in memory inventory has been modified.
2047
 
        """
2048
 
        # conceptually this should be an implementation detail of the tree.
2049
 
        # XXX: Deprecate this.
2050
 
        # ElementTree does its own conversion from UTF-8, so open in
2051
 
        # binary.
2052
 
        if self._inventory_is_modified:
2053
 
            raise errors.InventoryModified(self)
2054
 
        f = self._transport.get('inventory')
2055
 
        try:
2056
 
            result = self._deserialize(f)
2057
 
        finally:
2058
 
            f.close()
2059
 
        self._set_inventory(result, dirty=False)
2060
 
        return result
2061
 
 
2062
 
    @needs_read_lock
2063
 
    def get_root_id(self):
2064
 
        """Return the id of this trees root"""
2065
 
        return self._inventory.root.file_id
2066
 
 
2067
 
    def has_id(self, file_id):
2068
 
        # files that have been deleted are excluded
2069
 
        inv = self.inventory
2070
 
        if not inv.has_id(file_id):
2071
 
            return False
2072
 
        path = inv.id2path(file_id)
2073
 
        return osutils.lexists(self.abspath(path))
2074
 
 
2075
 
    def has_or_had_id(self, file_id):
2076
 
        if file_id == self.inventory.root.file_id:
2077
 
            return True
2078
 
        return self.inventory.has_id(file_id)
2079
 
 
2080
 
    @symbol_versioning.deprecated_method(symbol_versioning.deprecated_in((2, 4, 0)))
2081
 
    def __iter__(self):
2082
 
        """Iterate through file_ids for this tree.
2083
 
 
2084
 
        file_ids are in a WorkingTree if they are in the working inventory
2085
 
        and the working file exists.
2086
 
        """
2087
 
        inv = self._inventory
2088
 
        for path, ie in inv.iter_entries():
2089
 
            if osutils.lexists(self.abspath(path)):
2090
 
                yield ie.file_id
2091
 
 
2092
 
    @needs_tree_write_lock
2093
 
    def set_last_revision(self, new_revision):
2094
 
        """Change the last revision in the working tree."""
2095
 
        if self._change_last_revision(new_revision):
2096
 
            self._cache_basis_inventory(new_revision)
2097
 
 
2098
 
    def _get_check_refs(self):
2099
 
        """Return the references needed to perform a check of this tree.
2100
 
        
2101
 
        The default implementation returns no refs, and is only suitable for
2102
 
        trees that have no local caching and can commit on ghosts at any time.
2103
 
 
2104
 
        :seealso: bzrlib.check for details about check_refs.
2105
 
        """
2106
 
        return []
2107
 
 
2108
 
    @needs_read_lock
2109
 
    def _check(self, references):
2110
 
        """Check the tree for consistency.
2111
 
 
2112
 
        :param references: A dict with keys matching the items returned by
2113
 
            self._get_check_refs(), and values from looking those keys up in
2114
 
            the repository.
2115
 
        """
2116
 
        tree_basis = self.basis_tree()
2117
 
        tree_basis.lock_read()
2118
 
        try:
2119
 
            repo_basis = references[('trees', self.last_revision())]
2120
 
            if len(list(repo_basis.iter_changes(tree_basis))) > 0:
2121
 
                raise errors.BzrCheckError(
2122
 
                    "Mismatched basis inventory content.")
2123
 
            self._validate()
2124
 
        finally:
2125
 
            tree_basis.unlock()
2126
 
 
2127
 
    @needs_read_lock
2128
 
    def check_state(self):
2129
 
        """Check that the working state is/isn't valid."""
2130
 
        check_refs = self._get_check_refs()
2131
 
        refs = {}
2132
 
        for ref in check_refs:
2133
 
            kind, value = ref
2134
 
            if kind == 'trees':
2135
 
                refs[ref] = self.branch.repository.revision_tree(value)
2136
 
        self._check(refs)
2137
 
 
2138
 
    @needs_tree_write_lock
2139
 
    def reset_state(self, revision_ids=None):
2140
 
        """Reset the state of the working tree.
2141
 
 
2142
 
        This does a hard-reset to a last-known-good state. This is a way to
2143
 
        fix if something got corrupted (like the .bzr/checkout/dirstate file)
2144
 
        """
2145
 
        if revision_ids is None:
2146
 
            revision_ids = self.get_parent_ids()
2147
 
        if not revision_ids:
2148
 
            rt = self.branch.repository.revision_tree(
2149
 
                _mod_revision.NULL_REVISION)
2150
 
        else:
2151
 
            rt = self.branch.repository.revision_tree(revision_ids[0])
2152
 
        self._write_inventory(rt.inventory)
2153
 
        self.set_parent_ids(revision_ids)
2154
 
 
2155
 
    def flush(self):
2156
 
        """Write the in memory inventory to disk."""
2157
 
        # TODO: Maybe this should only write on dirty ?
2158
 
        if self._control_files._lock_mode != 'w':
2159
 
            raise errors.NotWriteLocked(self)
2160
 
        sio = StringIO()
2161
 
        self._serialize(self._inventory, sio)
2162
 
        sio.seek(0)
2163
 
        self._transport.put_file('inventory', sio,
2164
 
            mode=self.bzrdir._get_file_mode())
2165
 
        self._inventory_is_modified = False
2166
 
 
2167
 
    @needs_read_lock
2168
 
    def get_file_sha1(self, file_id, path=None, stat_value=None):
2169
 
        if not path:
2170
 
            path = self._inventory.id2path(file_id)
2171
 
        return self._hashcache.get_sha1(path, stat_value)
2172
 
 
2173
 
    def get_file_mtime(self, file_id, path=None):
2174
 
        """See Tree.get_file_mtime."""
2175
 
        if not path:
2176
 
            path = self.inventory.id2path(file_id)
2177
 
        return os.lstat(self.abspath(path)).st_mtime
2178
 
 
2179
 
    def _is_executable_from_path_and_stat_from_basis(self, path, stat_result):
2180
 
        file_id = self.path2id(path)
2181
 
        if file_id is None:
2182
 
            # For unversioned files on win32, we just assume they are not
2183
 
            # executable
2184
 
            return False
2185
 
        return self._inventory[file_id].executable
2186
 
 
2187
 
    def _is_executable_from_path_and_stat_from_stat(self, path, stat_result):
2188
 
        mode = stat_result.st_mode
2189
 
        return bool(stat.S_ISREG(mode) and stat.S_IEXEC & mode)
2190
 
 
2191
 
    if not supports_executable():
2192
 
        def is_executable(self, file_id, path=None):
2193
 
            return self._inventory[file_id].executable
2194
 
 
2195
 
        _is_executable_from_path_and_stat = \
2196
 
            _is_executable_from_path_and_stat_from_basis
2197
 
    else:
2198
 
        def is_executable(self, file_id, path=None):
2199
 
            if not path:
2200
 
                path = self.id2path(file_id)
2201
 
            mode = os.lstat(self.abspath(path)).st_mode
2202
 
            return bool(stat.S_ISREG(mode) and stat.S_IEXEC & mode)
2203
 
 
2204
 
        _is_executable_from_path_and_stat = \
2205
 
            _is_executable_from_path_and_stat_from_stat
2206
 
 
2207
 
    @needs_tree_write_lock
2208
 
    def _add(self, files, ids, kinds):
2209
 
        """See MutableTree._add."""
2210
 
        # TODO: Re-adding a file that is removed in the working copy
2211
 
        # should probably put it back with the previous ID.
2212
 
        # the read and write working inventory should not occur in this
2213
 
        # function - they should be part of lock_write and unlock.
2214
 
        inv = self.inventory
2215
 
        for f, file_id, kind in zip(files, ids, kinds):
2216
 
            if file_id is None:
2217
 
                inv.add_path(f, kind=kind)
2218
 
            else:
2219
 
                inv.add_path(f, kind=kind, file_id=file_id)
2220
 
            self._inventory_is_modified = True
2221
 
 
2222
 
    def revision_tree(self, revision_id):
2223
 
        """See WorkingTree.revision_id."""
2224
 
        if revision_id == self.last_revision():
2225
 
            try:
2226
 
                xml = self.read_basis_inventory()
2227
 
            except errors.NoSuchFile:
2228
 
                pass
2229
 
            else:
2230
 
                try:
2231
 
                    inv = xml7.serializer_v7.read_inventory_from_string(xml)
2232
 
                    # dont use the repository revision_tree api because we want
2233
 
                    # to supply the inventory.
2234
 
                    if inv.revision_id == revision_id:
2235
 
                        return revisiontree.InventoryRevisionTree(
2236
 
                            self.branch.repository, inv, revision_id)
2237
 
                except errors.BadInventoryFormat:
2238
 
                    pass
2239
 
        # raise if there was no inventory, or if we read the wrong inventory.
2240
 
        raise errors.NoSuchRevisionInTree(self, revision_id)
2241
 
 
2242
 
    @needs_read_lock
2243
 
    def annotate_iter(self, file_id, default_revision=CURRENT_REVISION):
2244
 
        """See Tree.annotate_iter
2245
 
 
2246
 
        This implementation will use the basis tree implementation if possible.
2247
 
        Lines not in the basis are attributed to CURRENT_REVISION
2248
 
 
2249
 
        If there are pending merges, lines added by those merges will be
2250
 
        incorrectly attributed to CURRENT_REVISION (but after committing, the
2251
 
        attribution will be correct).
2252
 
        """
2253
 
        maybe_file_parent_keys = []
2254
 
        for parent_id in self.get_parent_ids():
2255
 
            try:
2256
 
                parent_tree = self.revision_tree(parent_id)
2257
 
            except errors.NoSuchRevisionInTree:
2258
 
                parent_tree = self.branch.repository.revision_tree(parent_id)
2259
 
            parent_tree.lock_read()
2260
 
            try:
2261
 
                if not parent_tree.has_id(file_id):
2262
 
                    continue
2263
 
                ie = parent_tree.inventory[file_id]
2264
 
                if ie.kind != 'file':
2265
 
                    # Note: this is slightly unnecessary, because symlinks and
2266
 
                    # directories have a "text" which is the empty text, and we
2267
 
                    # know that won't mess up annotations. But it seems cleaner
2268
 
                    continue
2269
 
                parent_text_key = (file_id, ie.revision)
2270
 
                if parent_text_key not in maybe_file_parent_keys:
2271
 
                    maybe_file_parent_keys.append(parent_text_key)
2272
 
            finally:
2273
 
                parent_tree.unlock()
2274
 
        graph = _mod_graph.Graph(self.branch.repository.texts)
2275
 
        heads = graph.heads(maybe_file_parent_keys)
2276
 
        file_parent_keys = []
2277
 
        for key in maybe_file_parent_keys:
2278
 
            if key in heads:
2279
 
                file_parent_keys.append(key)
2280
 
 
2281
 
        # Now we have the parents of this content
2282
 
        annotator = self.branch.repository.texts.get_annotator()
2283
 
        text = self.get_file_text(file_id)
2284
 
        this_key =(file_id, default_revision)
2285
 
        annotator.add_special_text(this_key, file_parent_keys, text)
2286
 
        annotations = [(key[-1], line)
2287
 
                       for key, line in annotator.annotate_flat(this_key)]
2288
 
        return annotations
2289
 
 
2290
 
    @needs_read_lock
2291
 
    def merge_modified(self):
2292
 
        """Return a dictionary of files modified by a merge.
2293
 
 
2294
 
        The list is initialized by WorkingTree.set_merge_modified, which is
2295
 
        typically called after we make some automatic updates to the tree
2296
 
        because of a merge.
2297
 
 
2298
 
        This returns a map of file_id->sha1, containing only files which are
2299
 
        still in the working inventory and have that text hash.
2300
 
        """
2301
 
        try:
2302
 
            hashfile = self._transport.get('merge-hashes')
2303
 
        except errors.NoSuchFile:
2304
 
            return {}
2305
 
        try:
2306
 
            merge_hashes = {}
2307
 
            try:
2308
 
                if hashfile.next() != MERGE_MODIFIED_HEADER_1 + '\n':
2309
 
                    raise errors.MergeModifiedFormatError()
2310
 
            except StopIteration:
2311
 
                raise errors.MergeModifiedFormatError()
2312
 
            for s in _mod_rio.RioReader(hashfile):
2313
 
                # RioReader reads in Unicode, so convert file_ids back to utf8
2314
 
                file_id = osutils.safe_file_id(s.get("file_id"), warn=False)
2315
 
                if not self.inventory.has_id(file_id):
2316
 
                    continue
2317
 
                text_hash = s.get("hash")
2318
 
                if text_hash == self.get_file_sha1(file_id):
2319
 
                    merge_hashes[file_id] = text_hash
2320
 
            return merge_hashes
2321
 
        finally:
2322
 
            hashfile.close()
2323
 
 
2324
 
    @needs_write_lock
2325
 
    def subsume(self, other_tree):
2326
 
        def add_children(inventory, entry):
2327
 
            for child_entry in entry.children.values():
2328
 
                inventory._byid[child_entry.file_id] = child_entry
2329
 
                if child_entry.kind == 'directory':
2330
 
                    add_children(inventory, child_entry)
2331
 
        if other_tree.get_root_id() == self.get_root_id():
2332
 
            raise errors.BadSubsumeSource(self, other_tree,
2333
 
                                          'Trees have the same root')
2334
 
        try:
2335
 
            other_tree_path = self.relpath(other_tree.basedir)
2336
 
        except errors.PathNotChild:
2337
 
            raise errors.BadSubsumeSource(self, other_tree,
2338
 
                'Tree is not contained by the other')
2339
 
        new_root_parent = self.path2id(osutils.dirname(other_tree_path))
2340
 
        if new_root_parent is None:
2341
 
            raise errors.BadSubsumeSource(self, other_tree,
2342
 
                'Parent directory is not versioned.')
2343
 
        # We need to ensure that the result of a fetch will have a
2344
 
        # versionedfile for the other_tree root, and only fetching into
2345
 
        # RepositoryKnit2 guarantees that.
2346
 
        if not self.branch.repository.supports_rich_root():
2347
 
            raise errors.SubsumeTargetNeedsUpgrade(other_tree)
2348
 
        other_tree.lock_tree_write()
2349
 
        try:
2350
 
            new_parents = other_tree.get_parent_ids()
2351
 
            other_root = other_tree.inventory.root
2352
 
            other_root.parent_id = new_root_parent
2353
 
            other_root.name = osutils.basename(other_tree_path)
2354
 
            self.inventory.add(other_root)
2355
 
            add_children(self.inventory, other_root)
2356
 
            self._write_inventory(self.inventory)
2357
 
            # normally we don't want to fetch whole repositories, but i think
2358
 
            # here we really do want to consolidate the whole thing.
2359
 
            for parent_id in other_tree.get_parent_ids():
2360
 
                self.branch.fetch(other_tree.branch, parent_id)
2361
 
                self.add_parent_tree_id(parent_id)
2362
 
        finally:
2363
 
            other_tree.unlock()
2364
 
        other_tree.bzrdir.retire_bzrdir()
2365
 
 
2366
 
    @needs_tree_write_lock
2367
 
    def extract(self, file_id, format=None):
2368
 
        """Extract a subtree from this tree.
2369
 
 
2370
 
        A new branch will be created, relative to the path for this tree.
2371
 
        """
2372
 
        self.flush()
2373
 
        def mkdirs(path):
2374
 
            segments = osutils.splitpath(path)
2375
 
            transport = self.branch.bzrdir.root_transport
2376
 
            for name in segments:
2377
 
                transport = transport.clone(name)
2378
 
                transport.ensure_base()
2379
 
            return transport
2380
 
 
2381
 
        sub_path = self.id2path(file_id)
2382
 
        branch_transport = mkdirs(sub_path)
2383
 
        if format is None:
2384
 
            format = self.bzrdir.cloning_metadir()
2385
 
        branch_transport.ensure_base()
2386
 
        branch_bzrdir = format.initialize_on_transport(branch_transport)
2387
 
        try:
2388
 
            repo = branch_bzrdir.find_repository()
2389
 
        except errors.NoRepositoryPresent:
2390
 
            repo = branch_bzrdir.create_repository()
2391
 
        if not repo.supports_rich_root():
2392
 
            raise errors.RootNotRich()
2393
 
        new_branch = branch_bzrdir.create_branch()
2394
 
        new_branch.pull(self.branch)
2395
 
        for parent_id in self.get_parent_ids():
2396
 
            new_branch.fetch(self.branch, parent_id)
2397
 
        tree_transport = self.bzrdir.root_transport.clone(sub_path)
2398
 
        if tree_transport.base != branch_transport.base:
2399
 
            tree_bzrdir = format.initialize_on_transport(tree_transport)
2400
 
            branch.BranchReferenceFormat().initialize(tree_bzrdir,
2401
 
                target_branch=new_branch)
2402
 
        else:
2403
 
            tree_bzrdir = branch_bzrdir
2404
 
        wt = tree_bzrdir.create_workingtree(_mod_revision.NULL_REVISION)
2405
 
        wt.set_parent_ids(self.get_parent_ids())
2406
 
        my_inv = self.inventory
2407
 
        child_inv = inventory.Inventory(root_id=None)
2408
 
        new_root = my_inv[file_id]
2409
 
        my_inv.remove_recursive_id(file_id)
2410
 
        new_root.parent_id = None
2411
 
        child_inv.add(new_root)
2412
 
        self._write_inventory(my_inv)
2413
 
        wt._write_inventory(child_inv)
2414
 
        return wt
2415
 
 
2416
 
    def list_files(self, include_root=False, from_dir=None, recursive=True):
2417
 
        """List all files as (path, class, kind, id, entry).
2418
 
 
2419
 
        Lists, but does not descend into unversioned directories.
2420
 
        This does not include files that have been deleted in this
2421
 
        tree. Skips the control directory.
2422
 
 
2423
 
        :param include_root: if True, return an entry for the root
2424
 
        :param from_dir: start from this directory or None for the root
2425
 
        :param recursive: whether to recurse into subdirectories or not
2426
 
        """
2427
 
        # list_files is an iterator, so @needs_read_lock doesn't work properly
2428
 
        # with it. So callers should be careful to always read_lock the tree.
2429
 
        if not self.is_locked():
2430
 
            raise errors.ObjectNotLocked(self)
2431
 
 
2432
 
        inv = self.inventory
2433
 
        if from_dir is None and include_root is True:
2434
 
            yield ('', 'V', 'directory', inv.root.file_id, inv.root)
2435
 
        # Convert these into local objects to save lookup times
2436
 
        pathjoin = osutils.pathjoin
2437
 
        file_kind = self._kind
2438
 
 
2439
 
        # transport.base ends in a slash, we want the piece
2440
 
        # between the last two slashes
2441
 
        transport_base_dir = self.bzrdir.transport.base.rsplit('/', 2)[1]
2442
 
 
2443
 
        fk_entries = {'directory':TreeDirectory, 'file':TreeFile, 'symlink':TreeLink}
2444
 
 
2445
 
        # directory file_id, relative path, absolute path, reverse sorted children
2446
 
        if from_dir is not None:
2447
 
            from_dir_id = inv.path2id(from_dir)
2448
 
            if from_dir_id is None:
2449
 
                # Directory not versioned
2450
 
                return
2451
 
            from_dir_abspath = pathjoin(self.basedir, from_dir)
2452
 
        else:
2453
 
            from_dir_id = inv.root.file_id
2454
 
            from_dir_abspath = self.basedir
2455
 
        children = os.listdir(from_dir_abspath)
2456
 
        children.sort()
2457
 
        # jam 20060527 The kernel sized tree seems equivalent whether we
2458
 
        # use a deque and popleft to keep them sorted, or if we use a plain
2459
 
        # list and just reverse() them.
2460
 
        children = collections.deque(children)
2461
 
        stack = [(from_dir_id, u'', from_dir_abspath, children)]
2462
 
        while stack:
2463
 
            from_dir_id, from_dir_relpath, from_dir_abspath, children = stack[-1]
2464
 
 
2465
 
            while children:
2466
 
                f = children.popleft()
2467
 
                ## TODO: If we find a subdirectory with its own .bzr
2468
 
                ## directory, then that is a separate tree and we
2469
 
                ## should exclude it.
2470
 
 
2471
 
                # the bzrdir for this tree
2472
 
                if transport_base_dir == f:
2473
 
                    continue
2474
 
 
2475
 
                # we know that from_dir_relpath and from_dir_abspath never end in a slash
2476
 
                # and 'f' doesn't begin with one, we can do a string op, rather
2477
 
                # than the checks of pathjoin(), all relative paths will have an extra slash
2478
 
                # at the beginning
2479
 
                fp = from_dir_relpath + '/' + f
2480
 
 
2481
 
                # absolute path
2482
 
                fap = from_dir_abspath + '/' + f
2483
 
 
2484
 
                dir_ie = inv[from_dir_id]
2485
 
                if dir_ie.kind == 'directory':
2486
 
                    f_ie = dir_ie.children.get(f)
2487
 
                else:
2488
 
                    f_ie = None
2489
 
                if f_ie:
2490
 
                    c = 'V'
2491
 
                elif self.is_ignored(fp[1:]):
2492
 
                    c = 'I'
2493
 
                else:
2494
 
                    # we may not have found this file, because of a unicode
2495
 
                    # issue, or because the directory was actually a symlink.
2496
 
                    f_norm, can_access = osutils.normalized_filename(f)
2497
 
                    if f == f_norm or not can_access:
2498
 
                        # No change, so treat this file normally
2499
 
                        c = '?'
2500
 
                    else:
2501
 
                        # this file can be accessed by a normalized path
2502
 
                        # check again if it is versioned
2503
 
                        # these lines are repeated here for performance
2504
 
                        f = f_norm
2505
 
                        fp = from_dir_relpath + '/' + f
2506
 
                        fap = from_dir_abspath + '/' + f
2507
 
                        f_ie = inv.get_child(from_dir_id, f)
2508
 
                        if f_ie:
2509
 
                            c = 'V'
2510
 
                        elif self.is_ignored(fp[1:]):
2511
 
                            c = 'I'
2512
 
                        else:
2513
 
                            c = '?'
2514
 
 
2515
 
                fk = file_kind(fap)
2516
 
 
2517
 
                # make a last minute entry
2518
 
                if f_ie:
2519
 
                    yield fp[1:], c, fk, f_ie.file_id, f_ie
2520
 
                else:
2521
 
                    try:
2522
 
                        yield fp[1:], c, fk, None, fk_entries[fk]()
2523
 
                    except KeyError:
2524
 
                        yield fp[1:], c, fk, None, TreeEntry()
2525
 
                    continue
2526
 
 
2527
 
                if fk != 'directory':
2528
 
                    continue
2529
 
 
2530
 
                # But do this child first if recursing down
2531
 
                if recursive:
2532
 
                    new_children = os.listdir(fap)
2533
 
                    new_children.sort()
2534
 
                    new_children = collections.deque(new_children)
2535
 
                    stack.append((f_ie.file_id, fp, fap, new_children))
2536
 
                    # Break out of inner loop,
2537
 
                    # so that we start outer loop with child
2538
 
                    break
2539
 
            else:
2540
 
                # if we finished all children, pop it off the stack
2541
 
                stack.pop()
2542
 
 
2543
 
    @needs_tree_write_lock
2544
 
    def move(self, from_paths, to_dir=None, after=False):
2545
 
        """Rename files.
2546
 
 
2547
 
        to_dir must exist in the inventory.
2548
 
 
2549
 
        If to_dir exists and is a directory, the files are moved into
2550
 
        it, keeping their old names.
2551
 
 
2552
 
        Note that to_dir is only the last component of the new name;
2553
 
        this doesn't change the directory.
2554
 
 
2555
 
        For each entry in from_paths the move mode will be determined
2556
 
        independently.
2557
 
 
2558
 
        The first mode moves the file in the filesystem and updates the
2559
 
        inventory. The second mode only updates the inventory without
2560
 
        touching the file on the filesystem.
2561
 
 
2562
 
        move uses the second mode if 'after == True' and the target is
2563
 
        either not versioned or newly added, and present in the working tree.
2564
 
 
2565
 
        move uses the second mode if 'after == False' and the source is
2566
 
        versioned but no longer in the working tree, and the target is not
2567
 
        versioned but present in the working tree.
2568
 
 
2569
 
        move uses the first mode if 'after == False' and the source is
2570
 
        versioned and present in the working tree, and the target is not
2571
 
        versioned and not present in the working tree.
2572
 
 
2573
 
        Everything else results in an error.
2574
 
 
2575
 
        This returns a list of (from_path, to_path) pairs for each
2576
 
        entry that is moved.
2577
 
        """
2578
 
        rename_entries = []
2579
 
        rename_tuples = []
2580
 
 
2581
 
        # check for deprecated use of signature
2582
 
        if to_dir is None:
2583
 
            raise TypeError('You must supply a target directory')
2584
 
        # check destination directory
2585
 
        if isinstance(from_paths, basestring):
2586
 
            raise ValueError()
2587
 
        inv = self.inventory
2588
 
        to_abs = self.abspath(to_dir)
2589
 
        if not isdir(to_abs):
2590
 
            raise errors.BzrMoveFailedError('',to_dir,
2591
 
                errors.NotADirectory(to_abs))
2592
 
        if not self.has_filename(to_dir):
2593
 
            raise errors.BzrMoveFailedError('',to_dir,
2594
 
                errors.NotInWorkingDirectory(to_dir))
2595
 
        to_dir_id = inv.path2id(to_dir)
2596
 
        if to_dir_id is None:
2597
 
            raise errors.BzrMoveFailedError('',to_dir,
2598
 
                errors.NotVersionedError(path=to_dir))
2599
 
 
2600
 
        to_dir_ie = inv[to_dir_id]
2601
 
        if to_dir_ie.kind != 'directory':
2602
 
            raise errors.BzrMoveFailedError('',to_dir,
2603
 
                errors.NotADirectory(to_abs))
2604
 
 
2605
 
        # create rename entries and tuples
2606
 
        for from_rel in from_paths:
2607
 
            from_tail = splitpath(from_rel)[-1]
2608
 
            from_id = inv.path2id(from_rel)
2609
 
            if from_id is None:
2610
 
                raise errors.BzrMoveFailedError(from_rel,to_dir,
2611
 
                    errors.NotVersionedError(path=from_rel))
2612
 
 
2613
 
            from_entry = inv[from_id]
2614
 
            from_parent_id = from_entry.parent_id
2615
 
            to_rel = pathjoin(to_dir, from_tail)
2616
 
            rename_entry = InventoryWorkingTree._RenameEntry(
2617
 
                from_rel=from_rel,
2618
 
                from_id=from_id,
2619
 
                from_tail=from_tail,
2620
 
                from_parent_id=from_parent_id,
2621
 
                to_rel=to_rel, to_tail=from_tail,
2622
 
                to_parent_id=to_dir_id)
2623
 
            rename_entries.append(rename_entry)
2624
 
            rename_tuples.append((from_rel, to_rel))
2625
 
 
2626
 
        # determine which move mode to use. checks also for movability
2627
 
        rename_entries = self._determine_mv_mode(rename_entries, after)
2628
 
 
2629
 
        original_modified = self._inventory_is_modified
2630
 
        try:
2631
 
            if len(from_paths):
2632
 
                self._inventory_is_modified = True
2633
 
            self._move(rename_entries)
2634
 
        except:
2635
 
            # restore the inventory on error
2636
 
            self._inventory_is_modified = original_modified
2637
 
            raise
2638
 
        self._write_inventory(inv)
2639
 
        return rename_tuples
2640
 
 
2641
 
    @needs_tree_write_lock
2642
 
    def rename_one(self, from_rel, to_rel, after=False):
2643
 
        """Rename one file.
2644
 
 
2645
 
        This can change the directory or the filename or both.
2646
 
 
2647
 
        rename_one has several 'modes' to work. First, it can rename a physical
2648
 
        file and change the file_id. That is the normal mode. Second, it can
2649
 
        only change the file_id without touching any physical file.
2650
 
 
2651
 
        rename_one uses the second mode if 'after == True' and 'to_rel' is not
2652
 
        versioned but present in the working tree.
2653
 
 
2654
 
        rename_one uses the second mode if 'after == False' and 'from_rel' is
2655
 
        versioned but no longer in the working tree, and 'to_rel' is not
2656
 
        versioned but present in the working tree.
2657
 
 
2658
 
        rename_one uses the first mode if 'after == False' and 'from_rel' is
2659
 
        versioned and present in the working tree, and 'to_rel' is not
2660
 
        versioned and not present in the working tree.
2661
 
 
2662
 
        Everything else results in an error.
2663
 
        """
2664
 
        inv = self.inventory
2665
 
        rename_entries = []
2666
 
 
2667
 
        # create rename entries and tuples
2668
 
        from_tail = splitpath(from_rel)[-1]
2669
 
        from_id = inv.path2id(from_rel)
2670
 
        if from_id is None:
2671
 
            # if file is missing in the inventory maybe it's in the basis_tree
2672
 
            basis_tree = self.branch.basis_tree()
2673
 
            from_id = basis_tree.path2id(from_rel)
2674
 
            if from_id is None:
2675
 
                raise errors.BzrRenameFailedError(from_rel,to_rel,
2676
 
                    errors.NotVersionedError(path=from_rel))
2677
 
            # put entry back in the inventory so we can rename it
2678
 
            from_entry = basis_tree.inventory[from_id].copy()
2679
 
            inv.add(from_entry)
2680
 
        else:
2681
 
            from_entry = inv[from_id]
2682
 
        from_parent_id = from_entry.parent_id
2683
 
        to_dir, to_tail = os.path.split(to_rel)
2684
 
        to_dir_id = inv.path2id(to_dir)
2685
 
        rename_entry = InventoryWorkingTree._RenameEntry(from_rel=from_rel,
2686
 
                                     from_id=from_id,
2687
 
                                     from_tail=from_tail,
2688
 
                                     from_parent_id=from_parent_id,
2689
 
                                     to_rel=to_rel, to_tail=to_tail,
2690
 
                                     to_parent_id=to_dir_id)
2691
 
        rename_entries.append(rename_entry)
2692
 
 
2693
 
        # determine which move mode to use. checks also for movability
2694
 
        rename_entries = self._determine_mv_mode(rename_entries, after)
2695
 
 
2696
 
        # check if the target changed directory and if the target directory is
2697
 
        # versioned
2698
 
        if to_dir_id is None:
2699
 
            raise errors.BzrMoveFailedError(from_rel,to_rel,
2700
 
                errors.NotVersionedError(path=to_dir))
2701
 
 
2702
 
        # all checks done. now we can continue with our actual work
2703
 
        mutter('rename_one:\n'
2704
 
               '  from_id   {%s}\n'
2705
 
               '  from_rel: %r\n'
2706
 
               '  to_rel:   %r\n'
2707
 
               '  to_dir    %r\n'
2708
 
               '  to_dir_id {%s}\n',
2709
 
               from_id, from_rel, to_rel, to_dir, to_dir_id)
2710
 
 
2711
 
        self._move(rename_entries)
2712
 
        self._write_inventory(inv)
2713
 
 
2714
 
    class _RenameEntry(object):
2715
 
        def __init__(self, from_rel, from_id, from_tail, from_parent_id,
2716
 
                     to_rel, to_tail, to_parent_id, only_change_inv=False,
2717
 
                     change_id=False):
2718
 
            self.from_rel = from_rel
2719
 
            self.from_id = from_id
2720
 
            self.from_tail = from_tail
2721
 
            self.from_parent_id = from_parent_id
2722
 
            self.to_rel = to_rel
2723
 
            self.to_tail = to_tail
2724
 
            self.to_parent_id = to_parent_id
2725
 
            self.change_id = change_id
2726
 
            self.only_change_inv = only_change_inv
2727
 
 
2728
 
    def _determine_mv_mode(self, rename_entries, after=False):
2729
 
        """Determines for each from-to pair if both inventory and working tree
2730
 
        or only the inventory has to be changed.
2731
 
 
2732
 
        Also does basic plausability tests.
2733
 
        """
2734
 
        inv = self.inventory
2735
 
 
2736
 
        for rename_entry in rename_entries:
2737
 
            # store to local variables for easier reference
2738
 
            from_rel = rename_entry.from_rel
2739
 
            from_id = rename_entry.from_id
2740
 
            to_rel = rename_entry.to_rel
2741
 
            to_id = inv.path2id(to_rel)
2742
 
            only_change_inv = False
2743
 
            change_id = False
2744
 
 
2745
 
            # check the inventory for source and destination
2746
 
            if from_id is None:
2747
 
                raise errors.BzrMoveFailedError(from_rel,to_rel,
2748
 
                    errors.NotVersionedError(path=from_rel))
2749
 
            if to_id is not None:
2750
 
                allowed = False
2751
 
                # allow it with --after but only if dest is newly added
2752
 
                if after:
2753
 
                    basis = self.basis_tree()
2754
 
                    basis.lock_read()
2755
 
                    try:
2756
 
                        if not basis.has_id(to_id):
2757
 
                            rename_entry.change_id = True
2758
 
                            allowed = True
2759
 
                    finally:
2760
 
                        basis.unlock()
2761
 
                if not allowed:
2762
 
                    raise errors.BzrMoveFailedError(from_rel,to_rel,
2763
 
                        errors.AlreadyVersionedError(path=to_rel))
2764
 
 
2765
 
            # try to determine the mode for rename (only change inv or change
2766
 
            # inv and file system)
2767
 
            if after:
2768
 
                if not self.has_filename(to_rel):
2769
 
                    raise errors.BzrMoveFailedError(from_id,to_rel,
2770
 
                        errors.NoSuchFile(path=to_rel,
2771
 
                        extra="New file has not been created yet"))
2772
 
                only_change_inv = True
2773
 
            elif not self.has_filename(from_rel) and self.has_filename(to_rel):
2774
 
                only_change_inv = True
2775
 
            elif self.has_filename(from_rel) and not self.has_filename(to_rel):
2776
 
                only_change_inv = False
2777
 
            elif (not self.case_sensitive
2778
 
                  and from_rel.lower() == to_rel.lower()
2779
 
                  and self.has_filename(from_rel)):
2780
 
                only_change_inv = False
2781
 
            else:
2782
 
                # something is wrong, so lets determine what exactly
2783
 
                if not self.has_filename(from_rel) and \
2784
 
                   not self.has_filename(to_rel):
2785
 
                    raise errors.BzrRenameFailedError(from_rel,to_rel,
2786
 
                        errors.PathsDoNotExist(paths=(str(from_rel),
2787
 
                        str(to_rel))))
2788
 
                else:
2789
 
                    raise errors.RenameFailedFilesExist(from_rel, to_rel)
2790
 
            rename_entry.only_change_inv = only_change_inv
2791
 
        return rename_entries
2792
 
 
2793
 
    def _move(self, rename_entries):
2794
 
        """Moves a list of files.
2795
 
 
2796
 
        Depending on the value of the flag 'only_change_inv', the
2797
 
        file will be moved on the file system or not.
2798
 
        """
2799
 
        inv = self.inventory
2800
 
        moved = []
2801
 
 
2802
 
        for entry in rename_entries:
2803
 
            try:
2804
 
                self._move_entry(entry)
2805
 
            except:
2806
 
                self._rollback_move(moved)
2807
 
                raise
2808
 
            moved.append(entry)
2809
 
 
2810
 
    def _rollback_move(self, moved):
2811
 
        """Try to rollback a previous move in case of an filesystem error."""
2812
 
        inv = self.inventory
2813
 
        for entry in moved:
2814
 
            try:
2815
 
                self._move_entry(WorkingTree._RenameEntry(
2816
 
                    entry.to_rel, entry.from_id,
2817
 
                    entry.to_tail, entry.to_parent_id, entry.from_rel,
2818
 
                    entry.from_tail, entry.from_parent_id,
2819
 
                    entry.only_change_inv))
2820
 
            except errors.BzrMoveFailedError, e:
2821
 
                raise errors.BzrMoveFailedError( '', '', "Rollback failed."
2822
 
                        " The working tree is in an inconsistent state."
2823
 
                        " Please consider doing a 'bzr revert'."
2824
 
                        " Error message is: %s" % e)
2825
 
 
2826
 
    def _move_entry(self, entry):
2827
 
        inv = self.inventory
2828
 
        from_rel_abs = self.abspath(entry.from_rel)
2829
 
        to_rel_abs = self.abspath(entry.to_rel)
2830
 
        if from_rel_abs == to_rel_abs:
2831
 
            raise errors.BzrMoveFailedError(entry.from_rel, entry.to_rel,
2832
 
                "Source and target are identical.")
2833
 
 
2834
 
        if not entry.only_change_inv:
2835
 
            try:
2836
 
                osutils.rename(from_rel_abs, to_rel_abs)
2837
 
            except OSError, e:
2838
 
                raise errors.BzrMoveFailedError(entry.from_rel,
2839
 
                    entry.to_rel, e[1])
2840
 
        if entry.change_id:
2841
 
            to_id = inv.path2id(entry.to_rel)
2842
 
            inv.remove_recursive_id(to_id)
2843
 
        inv.rename(entry.from_id, entry.to_parent_id, entry.to_tail)
2844
 
 
2845
 
    @needs_tree_write_lock
2846
 
    def unversion(self, file_ids):
2847
 
        """Remove the file ids in file_ids from the current versioned set.
2848
 
 
2849
 
        When a file_id is unversioned, all of its children are automatically
2850
 
        unversioned.
2851
 
 
2852
 
        :param file_ids: The file ids to stop versioning.
2853
 
        :raises: NoSuchId if any fileid is not currently versioned.
2854
 
        """
2855
 
        for file_id in file_ids:
2856
 
            if not self._inventory.has_id(file_id):
2857
 
                raise errors.NoSuchId(self, file_id)
2858
 
        for file_id in file_ids:
2859
 
            if self._inventory.has_id(file_id):
2860
 
                self._inventory.remove_recursive_id(file_id)
2861
 
        if len(file_ids):
2862
 
            # in the future this should just set a dirty bit to wait for the
2863
 
            # final unlock. However, until all methods of workingtree start
2864
 
            # with the current in -memory inventory rather than triggering
2865
 
            # a read, it is more complex - we need to teach read_inventory
2866
 
            # to know when to read, and when to not read first... and possibly
2867
 
            # to save first when the in memory one may be corrupted.
2868
 
            # so for now, we just only write it if it is indeed dirty.
2869
 
            # - RBC 20060907
2870
 
            self._write_inventory(self._inventory)
2871
 
 
2872
 
    def stored_kind(self, file_id):
2873
 
        """See Tree.stored_kind"""
2874
 
        return self.inventory[file_id].kind
2875
 
 
2876
 
    def extras(self):
2877
 
        """Yield all unversioned files in this WorkingTree.
2878
 
 
2879
 
        If there are any unversioned directories then only the directory is
2880
 
        returned, not all its children.  But if there are unversioned files
2881
 
        under a versioned subdirectory, they are returned.
2882
 
 
2883
 
        Currently returned depth-first, sorted by name within directories.
2884
 
        This is the same order used by 'osutils.walkdirs'.
2885
 
        """
2886
 
        ## TODO: Work from given directory downwards
2887
 
        for path, dir_entry in self.inventory.directories():
2888
 
            # mutter("search for unknowns in %r", path)
2889
 
            dirabs = self.abspath(path)
2890
 
            if not isdir(dirabs):
2891
 
                # e.g. directory deleted
2892
 
                continue
2893
 
 
2894
 
            fl = []
2895
 
            for subf in os.listdir(dirabs):
2896
 
                if self.bzrdir.is_control_filename(subf):
2897
 
                    continue
2898
 
                if subf not in dir_entry.children:
2899
 
                    try:
2900
 
                        (subf_norm,
2901
 
                         can_access) = osutils.normalized_filename(subf)
2902
 
                    except UnicodeDecodeError:
2903
 
                        path_os_enc = path.encode(osutils._fs_enc)
2904
 
                        relpath = path_os_enc + '/' + subf
2905
 
                        raise errors.BadFilenameEncoding(relpath,
2906
 
                                                         osutils._fs_enc)
2907
 
                    if subf_norm != subf and can_access:
2908
 
                        if subf_norm not in dir_entry.children:
2909
 
                            fl.append(subf_norm)
2910
 
                    else:
2911
 
                        fl.append(subf)
2912
 
 
2913
 
            fl.sort()
2914
 
            for subf in fl:
2915
 
                subp = pathjoin(path, subf)
2916
 
                yield subp
2917
 
 
2918
 
    def _walkdirs(self, prefix=""):
2919
 
        """Walk the directories of this tree.
2920
 
 
2921
 
        :param prefix: is used as the directrory to start with.
2922
 
        :returns: a generator which yields items in the form::
2923
 
 
2924
 
            ((curren_directory_path, fileid),
2925
 
             [(file1_path, file1_name, file1_kind, None, file1_id,
2926
 
               file1_kind), ... ])
2927
 
        """
2928
 
        _directory = 'directory'
2929
 
        # get the root in the inventory
2930
 
        inv = self.inventory
2931
 
        top_id = inv.path2id(prefix)
2932
 
        if top_id is None:
2933
 
            pending = []
2934
 
        else:
2935
 
            pending = [(prefix, '', _directory, None, top_id, None)]
2936
 
        while pending:
2937
 
            dirblock = []
2938
 
            currentdir = pending.pop()
2939
 
            # 0 - relpath, 1- basename, 2- kind, 3- stat, 4-id, 5-kind
2940
 
            top_id = currentdir[4]
2941
 
            if currentdir[0]:
2942
 
                relroot = currentdir[0] + '/'
2943
 
            else:
2944
 
                relroot = ""
2945
 
            # FIXME: stash the node in pending
2946
 
            entry = inv[top_id]
2947
 
            if entry.kind == 'directory':
2948
 
                for name, child in entry.sorted_children():
2949
 
                    dirblock.append((relroot + name, name, child.kind, None,
2950
 
                        child.file_id, child.kind
2951
 
                        ))
2952
 
            yield (currentdir[0], entry.file_id), dirblock
2953
 
            # push the user specified dirs from dirblock
2954
 
            for dir in reversed(dirblock):
2955
 
                if dir[2] == _directory:
2956
 
                    pending.append(dir)
2957
 
 
2958
 
 
2959
 
class WorkingTreeFormatRegistry(controldir.ControlComponentFormatRegistry):
2960
 
    """Registry for working tree formats."""
2961
 
 
2962
 
    def __init__(self, other_registry=None):
2963
 
        super(WorkingTreeFormatRegistry, self).__init__(other_registry)
2964
 
        self._default_format = None
2965
 
        self._default_format_key = None
2966
 
 
2967
 
    def get_default(self):
2968
 
        """Return the current default format."""
2969
 
        if (self._default_format_key is not None and
2970
 
            self._default_format is None):
2971
 
            self._default_format = self.get(self._default_format_key)
2972
 
        return self._default_format
2973
 
 
2974
 
    def set_default(self, format):
2975
 
        """Set the default format."""
2976
 
        self._default_format = format
2977
 
        self._default_format_key = None
2978
 
 
2979
 
    def set_default_key(self, format_string):
2980
 
        """Set the default format by its format string."""
2981
 
        self._default_format_key = format_string
2982
 
        self._default_format = None
2983
 
 
2984
 
 
2985
 
format_registry = WorkingTreeFormatRegistry()
2986
 
 
2987
 
 
2988
 
class WorkingTreeFormat(controldir.ControlComponentFormat):
 
2665
    def unlock(self):
 
2666
        # do non-implementation specific cleanup
 
2667
        self._cleanup()
 
2668
        if self._control_files._lock_count == 1:
 
2669
            # _inventory_is_modified is always False during a read lock.
 
2670
            if self._inventory_is_modified:
 
2671
                self.flush()
 
2672
            self._write_hashcache_if_dirty()
 
2673
        # reverse order of locking.
 
2674
        try:
 
2675
            return self._control_files.unlock()
 
2676
        finally:
 
2677
            self.branch.unlock()
 
2678
 
 
2679
 
 
2680
def get_conflicted_stem(path):
 
2681
    for suffix in _mod_conflicts.CONFLICT_SUFFIXES:
 
2682
        if path.endswith(suffix):
 
2683
            return path[:-len(suffix)]
 
2684
 
 
2685
 
 
2686
class WorkingTreeFormat(object):
2989
2687
    """An encapsulation of the initialization and open routines for a format.
2990
2688
 
2991
2689
    Formats provide three things:
3003
2701
    object will be created every time regardless.
3004
2702
    """
3005
2703
 
 
2704
    _default_format = None
 
2705
    """The default format used for new trees."""
 
2706
 
 
2707
    _formats = {}
 
2708
    """The known formats."""
 
2709
 
3006
2710
    requires_rich_root = False
3007
2711
 
3008
2712
    upgrade_recommended = False
3009
2713
 
3010
 
    requires_normalized_unicode_filenames = False
3011
 
 
3012
 
    case_sensitive_filename = "FoRMaT"
3013
 
 
3014
 
    missing_parent_conflicts = False
3015
 
    """If this format supports missing parent conflicts."""
3016
 
 
3017
 
    supports_versioned_directories = None
3018
 
 
3019
2714
    @classmethod
3020
 
    def find_format_string(klass, a_bzrdir):
3021
 
        """Return format name for the working tree object in a_bzrdir."""
 
2715
    def find_format(klass, a_bzrdir):
 
2716
        """Return the format for the working tree object in a_bzrdir."""
3022
2717
        try:
3023
2718
            transport = a_bzrdir.get_workingtree_transport(None)
3024
 
            return transport.get_bytes("format")
 
2719
            format_string = transport.get("format").read()
 
2720
            return klass._formats[format_string]
3025
2721
        except errors.NoSuchFile:
3026
2722
            raise errors.NoWorkingTree(base=transport.base)
3027
 
 
3028
 
    @classmethod
3029
 
    def find_format(klass, a_bzrdir):
3030
 
        """Return the format for the working tree object in a_bzrdir."""
3031
 
        try:
3032
 
            format_string = klass.find_format_string(a_bzrdir)
3033
 
            return format_registry.get(format_string)
3034
2723
        except KeyError:
3035
2724
            raise errors.UnknownFormatError(format=format_string,
3036
2725
                                            kind="working tree")
3037
2726
 
3038
 
    def initialize(self, a_bzrdir, revision_id=None, from_branch=None,
3039
 
                   accelerator_tree=None, hardlink=False):
3040
 
        """Initialize a new working tree in a_bzrdir.
3041
 
 
3042
 
        :param a_bzrdir: BzrDir to initialize the working tree in.
3043
 
        :param revision_id: allows creating a working tree at a different
3044
 
            revision than the branch is at.
3045
 
        :param from_branch: Branch to checkout
3046
 
        :param accelerator_tree: A tree which can be used for retrieving file
3047
 
            contents more quickly than the revision tree, i.e. a workingtree.
3048
 
            The revision tree will be used for cases where accelerator_tree's
3049
 
            content is different.
3050
 
        :param hardlink: If true, hard-link files from accelerator_tree,
3051
 
            where possible.
3052
 
        """
3053
 
        raise NotImplementedError(self.initialize)
3054
 
 
3055
2727
    def __eq__(self, other):
3056
2728
        return self.__class__ is other.__class__
3057
2729
 
3059
2731
        return not (self == other)
3060
2732
 
3061
2733
    @classmethod
3062
 
    @symbol_versioning.deprecated_method(
3063
 
        symbol_versioning.deprecated_in((2, 4, 0)))
3064
2734
    def get_default_format(klass):
3065
2735
        """Return the current default format."""
3066
 
        return format_registry.get_default()
 
2736
        return klass._default_format
3067
2737
 
3068
2738
    def get_format_string(self):
3069
2739
        """Return the ASCII format string that identifies this format."""
3091
2761
        return False
3092
2762
 
3093
2763
    @classmethod
3094
 
    @symbol_versioning.deprecated_method(
3095
 
        symbol_versioning.deprecated_in((2, 4, 0)))
3096
2764
    def register_format(klass, format):
3097
 
        format_registry.register(format)
3098
 
 
3099
 
    @classmethod
3100
 
    @symbol_versioning.deprecated_method(
3101
 
        symbol_versioning.deprecated_in((2, 4, 0)))
3102
 
    def register_extra_format(klass, format):
3103
 
        format_registry.register_extra(format)
3104
 
 
3105
 
    @classmethod
3106
 
    @symbol_versioning.deprecated_method(
3107
 
        symbol_versioning.deprecated_in((2, 4, 0)))
3108
 
    def unregister_extra_format(klass, format):
3109
 
        format_registry.unregister_extra(format)
3110
 
 
3111
 
    @classmethod
3112
 
    @symbol_versioning.deprecated_method(
3113
 
        symbol_versioning.deprecated_in((2, 4, 0)))
3114
 
    def get_formats(klass):
3115
 
        return format_registry._get_all()
3116
 
 
3117
 
    @classmethod
3118
 
    @symbol_versioning.deprecated_method(
3119
 
        symbol_versioning.deprecated_in((2, 4, 0)))
 
2765
        klass._formats[format.get_format_string()] = format
 
2766
 
 
2767
    @classmethod
3120
2768
    def set_default_format(klass, format):
3121
 
        format_registry.set_default(format)
 
2769
        klass._default_format = format
3122
2770
 
3123
2771
    @classmethod
3124
 
    @symbol_versioning.deprecated_method(
3125
 
        symbol_versioning.deprecated_in((2, 4, 0)))
3126
2772
    def unregister_format(klass, format):
3127
 
        format_registry.remove(format)
3128
 
 
3129
 
 
3130
 
format_registry.register_lazy("Bazaar Working Tree Format 4 (bzr 0.15)\n",
3131
 
    "bzrlib.workingtree_4", "WorkingTreeFormat4")
3132
 
format_registry.register_lazy("Bazaar Working Tree Format 5 (bzr 1.11)\n",
3133
 
    "bzrlib.workingtree_4", "WorkingTreeFormat5")
3134
 
format_registry.register_lazy("Bazaar Working Tree Format 6 (bzr 1.14)\n",
3135
 
    "bzrlib.workingtree_4", "WorkingTreeFormat6")
3136
 
format_registry.register_lazy("Bazaar-NG Working Tree format 3",
3137
 
    "bzrlib.workingtree_3", "WorkingTreeFormat3")
3138
 
format_registry.set_default_key("Bazaar Working Tree Format 6 (bzr 1.14)\n")
 
2773
        del klass._formats[format.get_format_string()]
 
2774
 
 
2775
 
 
2776
class WorkingTreeFormat2(WorkingTreeFormat):
 
2777
    """The second working tree format.
 
2778
 
 
2779
    This format modified the hash cache from the format 1 hash cache.
 
2780
    """
 
2781
 
 
2782
    upgrade_recommended = True
 
2783
 
 
2784
    def get_format_description(self):
 
2785
        """See WorkingTreeFormat.get_format_description()."""
 
2786
        return "Working tree format 2"
 
2787
 
 
2788
    def _stub_initialize_on_transport(self, transport, file_mode):
 
2789
        """Workaround: create control files for a remote working tree.
 
2790
 
 
2791
        This ensures that it can later be updated and dealt with locally,
 
2792
        since BzrDirFormat6 and BzrDirFormat5 cannot represent dirs with
 
2793
        no working tree.  (See bug #43064).
 
2794
        """
 
2795
        sio = StringIO()
 
2796
        inv = Inventory()
 
2797
        xml5.serializer_v5.write_inventory(inv, sio, working=True)
 
2798
        sio.seek(0)
 
2799
        transport.put_file('inventory', sio, file_mode)
 
2800
        transport.put_bytes('pending-merges', '', file_mode)
 
2801
 
 
2802
    def initialize(self, a_bzrdir, revision_id=None, from_branch=None,
 
2803
                   accelerator_tree=None, hardlink=False):
 
2804
        """See WorkingTreeFormat.initialize()."""
 
2805
        if not isinstance(a_bzrdir.transport, LocalTransport):
 
2806
            raise errors.NotLocalUrl(a_bzrdir.transport.base)
 
2807
        if from_branch is not None:
 
2808
            branch = from_branch
 
2809
        else:
 
2810
            branch = a_bzrdir.open_branch()
 
2811
        if revision_id is None:
 
2812
            revision_id = _mod_revision.ensure_null(branch.last_revision())
 
2813
        branch.lock_write()
 
2814
        try:
 
2815
            branch.generate_revision_history(revision_id)
 
2816
        finally:
 
2817
            branch.unlock()
 
2818
        inv = Inventory()
 
2819
        wt = WorkingTree2(a_bzrdir.root_transport.local_abspath('.'),
 
2820
                         branch,
 
2821
                         inv,
 
2822
                         _internal=True,
 
2823
                         _format=self,
 
2824
                         _bzrdir=a_bzrdir)
 
2825
        basis_tree = branch.repository.revision_tree(revision_id)
 
2826
        if basis_tree.inventory.root is not None:
 
2827
            wt.set_root_id(basis_tree.get_root_id())
 
2828
        # set the parent list and cache the basis tree.
 
2829
        if _mod_revision.is_null(revision_id):
 
2830
            parent_trees = []
 
2831
        else:
 
2832
            parent_trees = [(revision_id, basis_tree)]
 
2833
        wt.set_parent_trees(parent_trees)
 
2834
        transform.build_tree(basis_tree, wt)
 
2835
        return wt
 
2836
 
 
2837
    def __init__(self):
 
2838
        super(WorkingTreeFormat2, self).__init__()
 
2839
        self._matchingbzrdir = bzrdir.BzrDirFormat6()
 
2840
 
 
2841
    def open(self, a_bzrdir, _found=False):
 
2842
        """Return the WorkingTree object for a_bzrdir
 
2843
 
 
2844
        _found is a private parameter, do not use it. It is used to indicate
 
2845
               if format probing has already been done.
 
2846
        """
 
2847
        if not _found:
 
2848
            # we are being called directly and must probe.
 
2849
            raise NotImplementedError
 
2850
        if not isinstance(a_bzrdir.transport, LocalTransport):
 
2851
            raise errors.NotLocalUrl(a_bzrdir.transport.base)
 
2852
        wt = WorkingTree2(a_bzrdir.root_transport.local_abspath('.'),
 
2853
                           _internal=True,
 
2854
                           _format=self,
 
2855
                           _bzrdir=a_bzrdir)
 
2856
        return wt
 
2857
 
 
2858
class WorkingTreeFormat3(WorkingTreeFormat):
 
2859
    """The second working tree format updated to record a format marker.
 
2860
 
 
2861
    This format:
 
2862
        - exists within a metadir controlling .bzr
 
2863
        - includes an explicit version marker for the workingtree control
 
2864
          files, separate from the BzrDir format
 
2865
        - modifies the hash cache format
 
2866
        - is new in bzr 0.8
 
2867
        - uses a LockDir to guard access for writes.
 
2868
    """
 
2869
 
 
2870
    upgrade_recommended = True
 
2871
 
 
2872
    def get_format_string(self):
 
2873
        """See WorkingTreeFormat.get_format_string()."""
 
2874
        return "Bazaar-NG Working Tree format 3"
 
2875
 
 
2876
    def get_format_description(self):
 
2877
        """See WorkingTreeFormat.get_format_description()."""
 
2878
        return "Working tree format 3"
 
2879
 
 
2880
    _lock_file_name = 'lock'
 
2881
    _lock_class = LockDir
 
2882
 
 
2883
    _tree_class = WorkingTree3
 
2884
 
 
2885
    def __get_matchingbzrdir(self):
 
2886
        return bzrdir.BzrDirMetaFormat1()
 
2887
 
 
2888
    _matchingbzrdir = property(__get_matchingbzrdir)
 
2889
 
 
2890
    def _open_control_files(self, a_bzrdir):
 
2891
        transport = a_bzrdir.get_workingtree_transport(None)
 
2892
        return LockableFiles(transport, self._lock_file_name,
 
2893
                             self._lock_class)
 
2894
 
 
2895
    def initialize(self, a_bzrdir, revision_id=None, from_branch=None,
 
2896
                   accelerator_tree=None, hardlink=False):
 
2897
        """See WorkingTreeFormat.initialize().
 
2898
 
 
2899
        :param revision_id: if supplied, create a working tree at a different
 
2900
            revision than the branch is at.
 
2901
        :param accelerator_tree: A tree which can be used for retrieving file
 
2902
            contents more quickly than the revision tree, i.e. a workingtree.
 
2903
            The revision tree will be used for cases where accelerator_tree's
 
2904
            content is different.
 
2905
        :param hardlink: If true, hard-link files from accelerator_tree,
 
2906
            where possible.
 
2907
        """
 
2908
        if not isinstance(a_bzrdir.transport, LocalTransport):
 
2909
            raise errors.NotLocalUrl(a_bzrdir.transport.base)
 
2910
        transport = a_bzrdir.get_workingtree_transport(self)
 
2911
        control_files = self._open_control_files(a_bzrdir)
 
2912
        control_files.create_lock()
 
2913
        control_files.lock_write()
 
2914
        transport.put_bytes('format', self.get_format_string(),
 
2915
            mode=a_bzrdir._get_file_mode())
 
2916
        if from_branch is not None:
 
2917
            branch = from_branch
 
2918
        else:
 
2919
            branch = a_bzrdir.open_branch()
 
2920
        if revision_id is None:
 
2921
            revision_id = _mod_revision.ensure_null(branch.last_revision())
 
2922
        # WorkingTree3 can handle an inventory which has a unique root id.
 
2923
        # as of bzr 0.12. However, bzr 0.11 and earlier fail to handle
 
2924
        # those trees. And because there isn't a format bump inbetween, we
 
2925
        # are maintaining compatibility with older clients.
 
2926
        # inv = Inventory(root_id=gen_root_id())
 
2927
        inv = self._initial_inventory()
 
2928
        wt = self._tree_class(a_bzrdir.root_transport.local_abspath('.'),
 
2929
                         branch,
 
2930
                         inv,
 
2931
                         _internal=True,
 
2932
                         _format=self,
 
2933
                         _bzrdir=a_bzrdir,
 
2934
                         _control_files=control_files)
 
2935
        wt.lock_tree_write()
 
2936
        try:
 
2937
            basis_tree = branch.repository.revision_tree(revision_id)
 
2938
            # only set an explicit root id if there is one to set.
 
2939
            if basis_tree.inventory.root is not None:
 
2940
                wt.set_root_id(basis_tree.get_root_id())
 
2941
            if revision_id == NULL_REVISION:
 
2942
                wt.set_parent_trees([])
 
2943
            else:
 
2944
                wt.set_parent_trees([(revision_id, basis_tree)])
 
2945
            transform.build_tree(basis_tree, wt)
 
2946
        finally:
 
2947
            # Unlock in this order so that the unlock-triggers-flush in
 
2948
            # WorkingTree is given a chance to fire.
 
2949
            control_files.unlock()
 
2950
            wt.unlock()
 
2951
        return wt
 
2952
 
 
2953
    def _initial_inventory(self):
 
2954
        return Inventory()
 
2955
 
 
2956
    def __init__(self):
 
2957
        super(WorkingTreeFormat3, self).__init__()
 
2958
 
 
2959
    def open(self, a_bzrdir, _found=False):
 
2960
        """Return the WorkingTree object for a_bzrdir
 
2961
 
 
2962
        _found is a private parameter, do not use it. It is used to indicate
 
2963
               if format probing has already been done.
 
2964
        """
 
2965
        if not _found:
 
2966
            # we are being called directly and must probe.
 
2967
            raise NotImplementedError
 
2968
        if not isinstance(a_bzrdir.transport, LocalTransport):
 
2969
            raise errors.NotLocalUrl(a_bzrdir.transport.base)
 
2970
        wt = self._open(a_bzrdir, self._open_control_files(a_bzrdir))
 
2971
        return wt
 
2972
 
 
2973
    def _open(self, a_bzrdir, control_files):
 
2974
        """Open the tree itself.
 
2975
 
 
2976
        :param a_bzrdir: the dir for the tree.
 
2977
        :param control_files: the control files for the tree.
 
2978
        """
 
2979
        return self._tree_class(a_bzrdir.root_transport.local_abspath('.'),
 
2980
                                _internal=True,
 
2981
                                _format=self,
 
2982
                                _bzrdir=a_bzrdir,
 
2983
                                _control_files=control_files)
 
2984
 
 
2985
    def __str__(self):
 
2986
        return self.get_format_string()
 
2987
 
 
2988
 
 
2989
__default_format = WorkingTreeFormat4()
 
2990
WorkingTreeFormat.register_format(__default_format)
 
2991
WorkingTreeFormat.register_format(WorkingTreeFormat6())
 
2992
WorkingTreeFormat.register_format(WorkingTreeFormat5())
 
2993
WorkingTreeFormat.register_format(WorkingTreeFormat3())
 
2994
WorkingTreeFormat.set_default_format(__default_format)
 
2995
# formats which have no format string are not discoverable
 
2996
# and not independently creatable, so are not registered.
 
2997
_legacy_formats = [WorkingTreeFormat2(),
 
2998
                   ]