~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/dirstate.py

  • Committer: John Arbash Meinel
  • Date: 2010-01-13 16:23:07 UTC
  • mto: (4634.119.7 2.0)
  • mto: This revision was merged to the branch mainline in revision 4959.
  • Revision ID: john@arbash-meinel.com-20100113162307-0bs82td16gzih827
Update the MANIFEST.in file.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006, 2007 Canonical Ltd
 
1
# Copyright (C) 2006, 2007, 2008 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
17
"""DirState objects record the state of a directory and its bzr metadata.
18
18
 
29
29
 
30
30
dirstate format = header line, full checksum, row count, parent details,
31
31
 ghost_details, entries;
32
 
header line = "#bazaar dirstate flat format 2", NL;
 
32
header line = "#bazaar dirstate flat format 3", NL;
33
33
full checksum = "crc32: ", ["-"], WHOLE_NUMBER, NL;
34
 
row count = "num_entries: ", digit, NL;
 
34
row count = "num_entries: ", WHOLE_NUMBER, NL;
35
35
parent_details = WHOLE NUMBER, {REVISION_ID}* NL;
36
36
ghost_details = WHOLE NUMBER, {REVISION_ID}*, NL;
37
37
entries = {entry};
82
82
'a' is an absent entry: In that tree the id is not present at this path.
83
83
'd' is a directory entry: This path in this tree is a directory with the
84
84
    current file id. There is no fingerprint for directories.
85
 
'f' is a file entry: As for directory, but its a file. The fingerprint is a
86
 
    sha1 value.
 
85
'f' is a file entry: As for directory, but it's a file. The fingerprint is the
 
86
    sha1 value of the file's canonical form, i.e. after any read filters have
 
87
    been applied to the convenience form stored in the working tree.
87
88
'l' is a symlink entry: As for directory, but a symlink. The fingerprint is the
88
89
    link target.
89
90
't' is a reference to a nested subtree; the fingerprint is the referenced
99
100
 
100
101
--- Format 1 had the following different definition: ---
101
102
rows = dirname, NULL, basename, NULL, MINIKIND, NULL, fileid_utf8, NULL,
102
 
    WHOLE NUMBER (* size *), NULL, packed stat, NULL, sha1|symlink target, 
 
103
    WHOLE NUMBER (* size *), NULL, packed stat, NULL, sha1|symlink target,
103
104
    {PARENT ROW}
104
105
PARENT ROW = NULL, revision_utf8, NULL, MINIKIND, NULL, dirname, NULL,
105
106
    basename, NULL, WHOLE NUMBER (* size *), NULL, "y" | "n", NULL,
118
119
where we need id->path mapping; we also usually read the whole file, so
119
120
I'm going to skip that for the moment, as we have the ability to locate
120
121
via bisect any path in any tree, and if we lookup things by path, we can
121
 
accumulate a id->path mapping as we go, which will tend to match what we
 
122
accumulate an id->path mapping as we go, which will tend to match what we
122
123
looked for.
123
124
 
124
125
I plan to implement this asap, so please speak up now to alter/tweak the
130
131
operations for the less common but still occurs a lot status/diff/commit
131
132
on specific files). Operations on specific files involve a scan for all
132
133
the children of a path, *in every involved tree*, which the current
133
 
format did not accommodate. 
 
134
format did not accommodate.
134
135
----
135
136
 
136
137
Design priorities:
143
144
Locking:
144
145
 Eventually reuse dirstate objects across locks IFF the dirstate file has not
145
146
 been modified, but will require that we flush/ignore cached stat-hit data
146
 
 because we wont want to restat all files on disk just because a lock was
 
147
 because we won't want to restat all files on disk just because a lock was
147
148
 acquired, yet we cannot trust the data after the previous lock was released.
148
149
 
149
150
Memory representation:
150
151
 vector of all directories, and vector of the childen ?
151
 
   i.e. 
152
 
     root_entrie = (direntry for root, [parent_direntries_for_root]), 
 
152
   i.e.
 
153
     root_entrie = (direntry for root, [parent_direntries_for_root]),
153
154
     dirblocks = [
154
155
     ('', ['data for achild', 'data for bchild', 'data for cchild'])
155
156
     ('dir', ['achild', 'cchild', 'echild'])
158
159
    - in-order for serialisation - this is 'dirblock' grouping.
159
160
    - insertion of a file '/a' affects only the '/' child-vector, that is, to
160
161
      insert 10K elements from scratch does not generates O(N^2) memoves of a
161
 
      single vector, rather each individual, which tends to be limited to a 
162
 
      manageable number. Will scale badly on trees with 10K entries in a 
 
162
      single vector, rather each individual, which tends to be limited to a
 
163
      manageable number. Will scale badly on trees with 10K entries in a
163
164
      single directory. compare with Inventory.InventoryDirectory which has
164
165
      a dictionary for the children. No bisect capability, can only probe for
165
 
      exact matches, or grab all elements and sorta.
166
 
    - Whats the risk of error here? Once we have the base format being processed
167
 
      we should have a net win regardless of optimality. So we are going to 
168
 
      go with what seems reasonably.
 
166
      exact matches, or grab all elements and sort.
 
167
    - What's the risk of error here? Once we have the base format being processed
 
168
      we should have a net win regardless of optimality. So we are going to
 
169
      go with what seems reasonable.
169
170
open questions:
170
171
 
171
 
maybe we should do a test profile of these core structure - 10K simulated searches/lookups/etc?
 
172
Maybe we should do a test profile of the core structure - 10K simulated
 
173
searches/lookups/etc?
172
174
 
173
175
Objects for each row?
174
176
The lifetime of Dirstate objects is current per lock, but see above for
185
187
the file on disk, and then immediately discard, the overhead of object creation
186
188
becomes a significant cost.
187
189
 
188
 
Figures: Creating a tuple from from 3 elements was profiled at 0.0625
 
190
Figures: Creating a tuple from 3 elements was profiled at 0.0625
189
191
microseconds, whereas creating a object which is subclassed from tuple was
190
192
0.500 microseconds, and creating an object with 3 elements and slots was 3
191
193
microseconds long. 0.1 milliseconds is 100 microseconds, and ideally we'll get
199
201
 
200
202
"""
201
203
 
202
 
 
 
204
import bisect
203
205
import binascii
204
 
import bisect
205
206
import errno
 
207
import operator
206
208
import os
207
209
from stat import S_IEXEC
208
210
import stat
212
214
import zlib
213
215
 
214
216
from bzrlib import (
 
217
    cache_utf8,
 
218
    debug,
215
219
    errors,
216
220
    inventory,
217
221
    lock,
220
224
    )
221
225
 
222
226
 
223
 
class _Bisector(object):
224
 
    """This just keeps track of information as we are bisecting."""
225
 
 
226
 
 
227
 
def pack_stat(st, _encode=binascii.b2a_base64, _pack=struct.pack):
228
 
    """Convert stat values into a packed representation."""
229
 
    # jam 20060614 it isn't really worth removing more entries if we
230
 
    # are going to leave it in packed form.
231
 
    # With only st_mtime and st_mode filesize is 5.5M and read time is 275ms
232
 
    # With all entries filesize is 5.9M and read time is mabye 280ms
233
 
    # well within the noise margin
234
 
 
235
 
    # base64 encoding always adds a final newline, so strip it off
236
 
    # The current version
237
 
    return _encode(_pack('>LLLLLL'
238
 
        , st.st_size, int(st.st_mtime), int(st.st_ctime)
239
 
        , st.st_dev, st.st_ino & 0xFFFFFFFF, st.st_mode))[:-1]
240
 
    # This is 0.060s / 1.520s faster by not encoding as much information
241
 
    # return _encode(_pack('>LL', int(st.st_mtime), st.st_mode))[:-1]
242
 
    # This is not strictly faster than _encode(_pack())[:-1]
243
 
    # return '%X.%X.%X.%X.%X.%X' % (
244
 
    #      st.st_size, int(st.st_mtime), int(st.st_ctime),
245
 
    #      st.st_dev, st.st_ino, st.st_mode)
246
 
    # Similar to the _encode(_pack('>LL'))
247
 
    # return '%X.%X' % (int(st.st_mtime), st.st_mode)
 
227
# This is the Windows equivalent of ENOTDIR
 
228
# It is defined in pywin32.winerror, but we don't want a strong dependency for
 
229
# just an error code.
 
230
ERROR_PATH_NOT_FOUND = 3
 
231
ERROR_DIRECTORY = 267
 
232
 
 
233
 
 
234
if not getattr(struct, '_compile', None):
 
235
    # Cannot pre-compile the dirstate pack_stat
 
236
    def pack_stat(st, _encode=binascii.b2a_base64, _pack=struct.pack):
 
237
        """Convert stat values into a packed representation."""
 
238
        return _encode(_pack('>LLLLLL', st.st_size, int(st.st_mtime),
 
239
            int(st.st_ctime), st.st_dev, st.st_ino & 0xFFFFFFFF,
 
240
            st.st_mode))[:-1]
 
241
else:
 
242
    # compile the struct compiler we need, so as to only do it once
 
243
    from _struct import Struct
 
244
    _compiled_pack = Struct('>LLLLLL').pack
 
245
    def pack_stat(st, _encode=binascii.b2a_base64, _pack=_compiled_pack):
 
246
        """Convert stat values into a packed representation."""
 
247
        # jam 20060614 it isn't really worth removing more entries if we
 
248
        # are going to leave it in packed form.
 
249
        # With only st_mtime and st_mode filesize is 5.5M and read time is 275ms
 
250
        # With all entries, filesize is 5.9M and read time is maybe 280ms
 
251
        # well within the noise margin
 
252
 
 
253
        # base64 encoding always adds a final newline, so strip it off
 
254
        # The current version
 
255
        return _encode(_pack(st.st_size, int(st.st_mtime), int(st.st_ctime),
 
256
            st.st_dev, st.st_ino & 0xFFFFFFFF, st.st_mode))[:-1]
 
257
        # This is 0.060s / 1.520s faster by not encoding as much information
 
258
        # return _encode(_pack('>LL', int(st.st_mtime), st.st_mode))[:-1]
 
259
        # This is not strictly faster than _encode(_pack())[:-1]
 
260
        # return '%X.%X.%X.%X.%X.%X' % (
 
261
        #      st.st_size, int(st.st_mtime), int(st.st_ctime),
 
262
        #      st.st_dev, st.st_ino, st.st_mode)
 
263
        # Similar to the _encode(_pack('>LL'))
 
264
        # return '%X.%X' % (int(st.st_mtime), st.st_mode)
 
265
 
 
266
 
 
267
class SHA1Provider(object):
 
268
    """An interface for getting sha1s of a file."""
 
269
 
 
270
    def sha1(self, abspath):
 
271
        """Return the sha1 of a file given its absolute path.
 
272
 
 
273
        :param abspath:  May be a filesystem encoded absolute path
 
274
             or a unicode path.
 
275
        """
 
276
        raise NotImplementedError(self.sha1)
 
277
 
 
278
    def stat_and_sha1(self, abspath):
 
279
        """Return the stat and sha1 of a file given its absolute path.
 
280
        
 
281
        :param abspath:  May be a filesystem encoded absolute path
 
282
             or a unicode path.
 
283
 
 
284
        Note: the stat should be the stat of the physical file
 
285
        while the sha may be the sha of its canonical content.
 
286
        """
 
287
        raise NotImplementedError(self.stat_and_sha1)
 
288
 
 
289
 
 
290
class DefaultSHA1Provider(SHA1Provider):
 
291
    """A SHA1Provider that reads directly from the filesystem."""
 
292
 
 
293
    def sha1(self, abspath):
 
294
        """Return the sha1 of a file given its absolute path."""
 
295
        return osutils.sha_file_by_name(abspath)
 
296
 
 
297
    def stat_and_sha1(self, abspath):
 
298
        """Return the stat and sha1 of a file given its absolute path."""
 
299
        file_obj = file(abspath, 'rb')
 
300
        try:
 
301
            statvalue = os.fstat(file_obj.fileno())
 
302
            sha1 = osutils.sha_file(file_obj)
 
303
        finally:
 
304
            file_obj.close()
 
305
        return statvalue, sha1
248
306
 
249
307
 
250
308
class DirState(object):
252
310
 
253
311
    A dirstate is a specialised data structure for managing local working
254
312
    tree state information. Its not yet well defined whether it is platform
255
 
    specific, and if it is how we detect/parameterise that.
 
313
    specific, and if it is how we detect/parameterize that.
256
314
 
257
315
    Dirstates use the usual lock_write, lock_read and unlock mechanisms.
258
316
    Unlike most bzr disk formats, DirStates must be locked for reading, using
305
363
    HEADER_FORMAT_2 = '#bazaar dirstate flat format 2\n'
306
364
    HEADER_FORMAT_3 = '#bazaar dirstate flat format 3\n'
307
365
 
308
 
    def __init__(self, path):
 
366
    def __init__(self, path, sha1_provider):
309
367
        """Create a  DirState object.
310
368
 
311
 
        Attributes of note:
312
 
 
313
 
        :attr _root_entrie: The root row of the directory/file information,
314
 
            - contains the path to / - '', ''
315
 
            - kind of 'directory',
316
 
            - the file id of the root in utf8
317
 
            - size of 0
318
 
            - a packed state
319
 
            - and no sha information.
320
369
        :param path: The path at which the dirstate file on disk should live.
 
370
        :param sha1_provider: an object meeting the SHA1Provider interface.
321
371
        """
322
372
        # _header_state and _dirblock_state represent the current state
323
373
        # of the dirstate metadata and the per-row data respectiely.
325
375
        # IN_MEMORY_UNMODIFIED indicates that what we have in memory
326
376
        #   is the same as is on disk
327
377
        # IN_MEMORY_MODIFIED indicates that we have a modified version
328
 
        #   of what is on disk. 
 
378
        #   of what is on disk.
329
379
        # In future we will add more granularity, for instance _dirblock_state
330
380
        # will probably support partially-in-memory as a separate variable,
331
381
        # allowing for partially-in-memory unmodified and partially-in-memory
332
382
        # modified states.
333
383
        self._header_state = DirState.NOT_IN_MEMORY
334
384
        self._dirblock_state = DirState.NOT_IN_MEMORY
 
385
        # If true, an error has been detected while updating the dirstate, and
 
386
        # for safety we're not going to commit to disk.
 
387
        self._changes_aborted = False
335
388
        self._dirblocks = []
336
389
        self._ghosts = []
337
390
        self._parents = []
340
393
        self._lock_token = None
341
394
        self._lock_state = None
342
395
        self._id_index = None
 
396
        # a map from packed_stat to sha's.
 
397
        self._packed_stat_index = None
343
398
        self._end_of_header = None
344
399
        self._cutoff_time = None
345
400
        self._split_path_cache = {}
346
401
        self._bisect_page_size = DirState.BISECT_PAGE_SIZE
 
402
        self._sha1_provider = sha1_provider
 
403
        if 'hashcache' in debug.debug_flags:
 
404
            self._sha1_file = self._sha1_file_and_mutter
 
405
        else:
 
406
            self._sha1_file = self._sha1_provider.sha1
 
407
        # These two attributes provide a simple cache for lookups into the
 
408
        # dirstate in-memory vectors. By probing respectively for the last
 
409
        # block, and for the next entry, we save nearly 2 bisections per path
 
410
        # during commit.
 
411
        self._last_block_index = None
 
412
        self._last_entry_index = None
347
413
 
348
414
    def __repr__(self):
349
415
        return "%s(%r)" % \
353
419
        """Add a path to be tracked.
354
420
 
355
421
        :param path: The path within the dirstate - '' is the root, 'foo' is the
356
 
            path foo within the root, 'foo/bar' is the path bar within foo 
 
422
            path foo within the root, 'foo/bar' is the path bar within foo
357
423
            within the root.
358
424
        :param file_id: The file id of the path being added.
359
 
        :param kind: The kind of the path, as a string like 'file', 
 
425
        :param kind: The kind of the path, as a string like 'file',
360
426
            'directory', etc.
361
427
        :param stat: The output of os.lstat for the path.
362
 
        :param fingerprint: The sha value of the file,
 
428
        :param fingerprint: The sha value of the file's canonical form (i.e.
 
429
            after any read filters have been applied),
363
430
            or the target of a symlink,
364
431
            or the referenced revision id for tree-references,
365
432
            or '' for directories.
366
433
        """
367
434
        # adding a file:
368
 
        # find the block its in. 
 
435
        # find the block its in.
369
436
        # find the location in the block.
370
437
        # check its not there
371
438
        # add it.
372
 
        #------- copied from inventory.make_entry
 
439
        #------- copied from inventory.ensure_normalized_name - keep synced.
373
440
        # --- normalized_filename wants a unicode basename only, so get one.
374
441
        dirname, basename = osutils.split(path)
375
442
        # we dont import normalized_filename directly because we want to be
384
451
        # in the parent, or according to the special treatment for the root
385
452
        if basename == '.' or basename == '..':
386
453
            raise errors.InvalidEntryName(path)
387
 
        # now that we've normalised, we need the correct utf8 path and 
 
454
        # now that we've normalised, we need the correct utf8 path and
388
455
        # dirname and basename elements. This single encode and split should be
389
456
        # faster than three separate encodes.
390
457
        utf8path = (dirname + '/' + basename).strip('/').encode('utf8')
391
458
        dirname, basename = osutils.split(utf8path)
392
 
        assert file_id.__class__ == str, \
393
 
            "must be a utf8 file_id not %s" % (type(file_id))
 
459
        # uses __class__ for speed; the check is needed for safety
 
460
        if file_id.__class__ is not str:
 
461
            raise AssertionError(
 
462
                "must be a utf8 file_id not %s" % (type(file_id), ))
394
463
        # Make sure the file_id does not exist in this tree
395
 
        file_id_entry = self._get_entry(0, fileid_utf8=file_id)
 
464
        rename_from = None
 
465
        file_id_entry = self._get_entry(0, fileid_utf8=file_id, include_deleted=True)
396
466
        if file_id_entry != (None, None):
397
 
            path = osutils.pathjoin(file_id_entry[0][0], file_id_entry[0][1])
398
 
            kind = DirState._minikind_to_kind[file_id_entry[1][0][0]]
399
 
            info = '%s:%s' % (kind, path)
400
 
            raise errors.DuplicateFileId(file_id, info)
 
467
            if file_id_entry[1][0][0] == 'a':
 
468
                if file_id_entry[0] != (dirname, basename, file_id):
 
469
                    # set the old name's current operation to rename
 
470
                    self.update_minimal(file_id_entry[0],
 
471
                        'r',
 
472
                        path_utf8='',
 
473
                        packed_stat='',
 
474
                        fingerprint=utf8path
 
475
                    )
 
476
                    rename_from = file_id_entry[0][0:2]
 
477
            else:
 
478
                path = osutils.pathjoin(file_id_entry[0][0], file_id_entry[0][1])
 
479
                kind = DirState._minikind_to_kind[file_id_entry[1][0][0]]
 
480
                info = '%s:%s' % (kind, path)
 
481
                raise errors.DuplicateFileId(file_id, info)
401
482
        first_key = (dirname, basename, '')
402
483
        block_index, present = self._find_block_index_from_key(first_key)
403
484
        if present:
404
485
            # check the path is not in the tree
405
486
            block = self._dirblocks[block_index][1]
406
487
            entry_index, _ = self._find_entry_index(first_key, block)
407
 
            while (entry_index < len(block) and 
 
488
            while (entry_index < len(block) and
408
489
                block[entry_index][0][0:2] == first_key[0:2]):
409
490
                if block[entry_index][1][0][0] not in 'ar':
410
491
                    # this path is in the dirstate in the current tree.
430
511
            packed_stat = pack_stat(stat)
431
512
        parent_info = self._empty_parent_info()
432
513
        minikind = DirState._kind_to_minikind[kind]
 
514
        if rename_from is not None:
 
515
            if rename_from[0]:
 
516
                old_path_utf8 = '%s/%s' % rename_from
 
517
            else:
 
518
                old_path_utf8 = rename_from[1]
 
519
            parent_info[0] = ('r', old_path_utf8, 0, False, '')
433
520
        if kind == 'file':
434
521
            entry_data = entry_key, [
435
522
                (minikind, fingerprint, size, False, packed_stat),
452
539
        if not present:
453
540
            block.insert(entry_index, entry_data)
454
541
        else:
455
 
            assert block[entry_index][1][0][0] == 'a', " %r(%r) already added" % (basename, file_id)
 
542
            if block[entry_index][1][0][0] != 'a':
 
543
                raise AssertionError(" %r(%r) already added" % (basename, file_id))
456
544
            block[entry_index][1][0] = entry_data[1][0]
457
545
 
458
546
        if kind == 'directory':
462
550
        if self._id_index:
463
551
            self._id_index.setdefault(entry_key[2], set()).add(entry_key)
464
552
 
465
 
    def _bisect(self, dir_name_list):
 
553
    def _bisect(self, paths):
466
554
        """Bisect through the disk structure for specific rows.
467
555
 
468
 
        :param dir_name_list: A list of (dir, name) pairs.
469
 
        :return: A dict mapping (dir, name) => entry for found entries. Missing
 
556
        :param paths: A list of paths to find
 
557
        :return: A dict mapping path => entries for found entries. Missing
470
558
                 entries will not be in the map.
 
559
                 The list is not sorted, and entries will be populated
 
560
                 based on when they were read.
471
561
        """
472
562
        self._requires_lock()
473
563
        # We need the file pointer to be right after the initial header block
475
565
        # If _dirblock_state was in memory, we should just return info from
476
566
        # there, this function is only meant to handle when we want to read
477
567
        # part of the disk.
478
 
        assert self._dirblock_state == DirState.NOT_IN_MEMORY
 
568
        if self._dirblock_state != DirState.NOT_IN_MEMORY:
 
569
            raise AssertionError("bad dirblock state %r" % self._dirblock_state)
479
570
 
480
571
        # The disk representation is generally info + '\0\n\0' at the end. But
481
572
        # for bisecting, it is easier to treat this as '\0' + info + '\0\n'
493
584
        found = {}
494
585
 
495
586
        # Avoid infinite seeking
496
 
        max_count = 30*len(dir_name_list)
 
587
        max_count = 30*len(paths)
497
588
        count = 0
498
589
        # pending is a list of places to look.
499
590
        # each entry is a tuple of low, high, dir_names
501
592
        #   high -> the last byte offset (inclusive)
502
593
        #   dir_names -> The list of (dir, name) pairs that should be found in
503
594
        #                the [low, high] range
504
 
        pending = [(low, high, dir_name_list)]
 
595
        pending = [(low, high, paths)]
505
596
 
506
597
        page_size = self._bisect_page_size
507
598
 
560
651
                # Find what entries we are looking for, which occur before and
561
652
                # after this first record.
562
653
                after = start
563
 
                first_dir_name = (first_fields[1], first_fields[2])
564
 
                first_loc = bisect.bisect_left(cur_files, first_dir_name)
 
654
                if first_fields[1]:
 
655
                    first_path = first_fields[1] + '/' + first_fields[2]
 
656
                else:
 
657
                    first_path = first_fields[2]
 
658
                first_loc = _bisect_path_left(cur_files, first_path)
565
659
 
566
660
                # These exist before the current location
567
661
                pre = cur_files[:first_loc]
584
678
                else:
585
679
                    after = mid + len(block)
586
680
 
587
 
                last_dir_name = (last_fields[1], last_fields[2])
588
 
                last_loc = bisect.bisect_right(post, last_dir_name)
 
681
                if last_fields[1]:
 
682
                    last_path = last_fields[1] + '/' + last_fields[2]
 
683
                else:
 
684
                    last_path = last_fields[2]
 
685
                last_loc = _bisect_path_right(post, last_path)
589
686
 
590
687
                middle_files = post[:last_loc]
591
688
                post = post[last_loc:]
596
693
                    # Either we will find them here, or we can mark them as
597
694
                    # missing.
598
695
 
599
 
                    if middle_files[0] == first_dir_name:
 
696
                    if middle_files[0] == first_path:
600
697
                        # We might need to go before this location
601
 
                        pre.append(first_dir_name)
602
 
                    if middle_files[-1] == last_dir_name:
603
 
                        post.insert(0, last_dir_name)
 
698
                        pre.append(first_path)
 
699
                    if middle_files[-1] == last_path:
 
700
                        post.insert(0, last_path)
604
701
 
605
702
                    # Find out what paths we have
606
 
                    paths = {first_dir_name:[first_fields]}
607
 
                    # last_dir_name might == first_dir_name so we need to be
 
703
                    paths = {first_path:[first_fields]}
 
704
                    # last_path might == first_path so we need to be
608
705
                    # careful if we should append rather than overwrite
609
706
                    if last_entry_num != first_entry_num:
610
 
                        paths.setdefault(last_dir_name, []).append(last_fields)
 
707
                        paths.setdefault(last_path, []).append(last_fields)
611
708
                    for num in xrange(first_entry_num+1, last_entry_num):
612
709
                        # TODO: jam 20070223 We are already splitting here, so
613
710
                        #       shouldn't we just split the whole thing rather
614
711
                        #       than doing the split again in add_one_record?
615
712
                        fields = entries[num].split('\0')
616
 
                        dir_name = (fields[1], fields[2])
617
 
                        paths.setdefault(dir_name, []).append(fields)
 
713
                        if fields[1]:
 
714
                            path = fields[1] + '/' + fields[2]
 
715
                        else:
 
716
                            path = fields[2]
 
717
                        paths.setdefault(path, []).append(fields)
618
718
 
619
 
                    for dir_name in middle_files:
620
 
                        for fields in paths.get(dir_name, []):
 
719
                    for path in middle_files:
 
720
                        for fields in paths.get(path, []):
621
721
                            # offset by 1 because of the opening '\0'
622
722
                            # consider changing fields_to_entry to avoid the
623
723
                            # extra list slice
624
724
                            entry = fields_to_entry(fields[1:])
625
 
                            found.setdefault(dir_name, []).append(entry)
 
725
                            found.setdefault(path, []).append(entry)
626
726
 
627
727
            # Now we have split up everything into pre, middle, and post, and
628
728
            # we have handled everything that fell in 'middle'.
645
745
        _bisect_dirblocks is meant to find the contents of directories, which
646
746
        differs from _bisect, which only finds individual entries.
647
747
 
648
 
        :param dir_list: An sorted list of directory names ['', 'dir', 'foo'].
 
748
        :param dir_list: A sorted list of directory names ['', 'dir', 'foo'].
649
749
        :return: A map from dir => entries_for_dir
650
750
        """
651
751
        # TODO: jam 20070223 A lot of the bisecting logic could be shared
658
758
        # If _dirblock_state was in memory, we should just return info from
659
759
        # there, this function is only meant to handle when we want to read
660
760
        # part of the disk.
661
 
        assert self._dirblock_state == DirState.NOT_IN_MEMORY
662
 
 
 
761
        if self._dirblock_state != DirState.NOT_IN_MEMORY:
 
762
            raise AssertionError("bad dirblock state %r" % self._dirblock_state)
663
763
        # The disk representation is generally info + '\0\n\0' at the end. But
664
764
        # for bisecting, it is easier to treat this as '\0' + info + '\0\n'
665
765
        # Because it means we can sync on the '\n'
818
918
 
819
919
        return found
820
920
 
821
 
    def _bisect_recursive(self, dir_name_list):
 
921
    def _bisect_recursive(self, paths):
822
922
        """Bisect for entries for all paths and their children.
823
923
 
824
924
        This will use bisect to find all records for the supplied paths. It
837
937
        # Directories that have been read
838
938
        processed_dirs = set()
839
939
        # Get the ball rolling with the first bisect for all entries.
840
 
        newly_found = self._bisect(dir_name_list)
 
940
        newly_found = self._bisect(paths)
841
941
 
842
942
        while newly_found:
843
943
            # Directories that need to be read
867
967
                            if dir_name[0] in pending_dirs:
868
968
                                # This entry will be found in the dir search
869
969
                                continue
870
 
                            # TODO: We need to check if this entry has
871
 
                            #       already been found. Otherwise we might be
872
 
                            #       hitting infinite recursion.
873
970
                            if dir_name not in found_dir_names:
874
 
                                paths_to_search.add(dir_name)
 
971
                                paths_to_search.add(tree_info[1])
875
972
            # Now we have a list of paths to look for directly, and
876
973
            # directory blocks that need to be read.
877
974
            # newly_found is mixing the keys between (dir, name) and path
882
979
            processed_dirs.update(pending_dirs)
883
980
        return found
884
981
 
 
982
    def _discard_merge_parents(self):
 
983
        """Discard any parents trees beyond the first.
 
984
 
 
985
        Note that if this fails the dirstate is corrupted.
 
986
 
 
987
        After this function returns the dirstate contains 2 trees, neither of
 
988
        which are ghosted.
 
989
        """
 
990
        self._read_header_if_needed()
 
991
        parents = self.get_parent_ids()
 
992
        if len(parents) < 1:
 
993
            return
 
994
        # only require all dirblocks if we are doing a full-pass removal.
 
995
        self._read_dirblocks_if_needed()
 
996
        dead_patterns = set([('a', 'r'), ('a', 'a'), ('r', 'r'), ('r', 'a')])
 
997
        def iter_entries_removable():
 
998
            for block in self._dirblocks:
 
999
                deleted_positions = []
 
1000
                for pos, entry in enumerate(block[1]):
 
1001
                    yield entry
 
1002
                    if (entry[1][0][0], entry[1][1][0]) in dead_patterns:
 
1003
                        deleted_positions.append(pos)
 
1004
                if deleted_positions:
 
1005
                    if len(deleted_positions) == len(block[1]):
 
1006
                        del block[1][:]
 
1007
                    else:
 
1008
                        for pos in reversed(deleted_positions):
 
1009
                            del block[1][pos]
 
1010
        # if the first parent is a ghost:
 
1011
        if parents[0] in self.get_ghosts():
 
1012
            empty_parent = [DirState.NULL_PARENT_DETAILS]
 
1013
            for entry in iter_entries_removable():
 
1014
                entry[1][1:] = empty_parent
 
1015
        else:
 
1016
            for entry in iter_entries_removable():
 
1017
                del entry[1][2:]
 
1018
 
 
1019
        self._ghosts = []
 
1020
        self._parents = [parents[0]]
 
1021
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
1022
        self._header_state = DirState.IN_MEMORY_MODIFIED
 
1023
 
885
1024
    def _empty_parent_info(self):
886
1025
        return [DirState.NULL_PARENT_DETAILS] * (len(self._parents) -
887
1026
                                                    len(self._ghosts))
913
1052
        # the basename of the directory must be the end of its full name.
914
1053
        if not (parent_block_index == -1 and
915
1054
            parent_block_index == -1 and dirname == ''):
916
 
            assert dirname.endswith(
917
 
                self._dirblocks[parent_block_index][1][parent_row_index][0][1])
 
1055
            if not dirname.endswith(
 
1056
                    self._dirblocks[parent_block_index][1][parent_row_index][0][1]):
 
1057
                raise AssertionError("bad dirname %r" % dirname)
918
1058
        block_index, present = self._find_block_index_from_key((dirname, '', ''))
919
1059
        if not present:
920
 
            ## In future, when doing partial parsing, this should load and 
 
1060
            ## In future, when doing partial parsing, this should load and
921
1061
            # populate the entire block.
922
1062
            self._dirblocks.insert(block_index, (dirname, []))
923
1063
        return block_index
932
1072
            to prevent unneeded overhead when callers have a sorted list already.
933
1073
        :return: Nothing.
934
1074
        """
935
 
        assert new_entries[0][0][0:2] == ('', ''), \
936
 
            "Missing root row %r" % (new_entries[0][0],)
937
 
        # The two blocks here are deliberate: the root block and the 
 
1075
        if new_entries[0][0][0:2] != ('', ''):
 
1076
            raise AssertionError(
 
1077
                "Missing root row %r" % (new_entries[0][0],))
 
1078
        # The two blocks here are deliberate: the root block and the
938
1079
        # contents-of-root block.
939
1080
        self._dirblocks = [('', []), ('', [])]
940
1081
        current_block = self._dirblocks[0][1]
961
1102
        # The above loop leaves the "root block" entries mixed with the
962
1103
        # "contents-of-root block". But we don't want an if check on
963
1104
        # all entries, so instead we just fix it up here.
964
 
        assert self._dirblocks[1] == ('', [])
 
1105
        if self._dirblocks[1] != ('', []):
 
1106
            raise ValueError("bad dirblock start %r" % (self._dirblocks[1],))
965
1107
        root_block = []
966
1108
        contents_of_root_block = []
967
1109
        for entry in self._dirblocks[0][1]:
972
1114
        self._dirblocks[0] = ('', root_block)
973
1115
        self._dirblocks[1] = ('', contents_of_root_block)
974
1116
 
 
1117
    def _entries_for_path(self, path):
 
1118
        """Return a list with all the entries that match path for all ids."""
 
1119
        dirname, basename = os.path.split(path)
 
1120
        key = (dirname, basename, '')
 
1121
        block_index, present = self._find_block_index_from_key(key)
 
1122
        if not present:
 
1123
            # the block which should contain path is absent.
 
1124
            return []
 
1125
        result = []
 
1126
        block = self._dirblocks[block_index][1]
 
1127
        entry_index, _ = self._find_entry_index(key, block)
 
1128
        # we may need to look at multiple entries at this path: walk while the specific_files match.
 
1129
        while (entry_index < len(block) and
 
1130
            block[entry_index][0][0:2] == key[0:2]):
 
1131
            result.append(block[entry_index])
 
1132
            entry_index += 1
 
1133
        return result
 
1134
 
975
1135
    def _entry_to_line(self, entry):
976
1136
        """Serialize entry to a NULL delimited line ready for _get_output_lines.
977
1137
 
1033
1193
        """
1034
1194
        if key[0:2] == ('', ''):
1035
1195
            return 0, True
 
1196
        try:
 
1197
            if (self._last_block_index is not None and
 
1198
                self._dirblocks[self._last_block_index][0] == key[0]):
 
1199
                return self._last_block_index, True
 
1200
        except IndexError:
 
1201
            pass
1036
1202
        block_index = bisect_dirblock(self._dirblocks, key[0], 1,
1037
1203
                                      cache=self._split_path_cache)
1038
1204
        # _right returns one-past-where-key is so we have to subtract
1039
1205
        # one to use it. we use _right here because there are two
1040
1206
        # '' blocks - the root, and the contents of root
1041
1207
        # we always have a minimum of 2 in self._dirblocks: root and
1042
 
        # root-contents, and for '', we get 2 back, so this is 
 
1208
        # root-contents, and for '', we get 2 back, so this is
1043
1209
        # simple and correct:
1044
1210
        present = (block_index < len(self._dirblocks) and
1045
1211
            self._dirblocks[block_index][0] == key[0])
 
1212
        self._last_block_index = block_index
 
1213
        # Reset the entry index cache to the beginning of the block.
 
1214
        self._last_entry_index = -1
1046
1215
        return block_index, present
1047
1216
 
1048
1217
    def _find_entry_index(self, key, block):
1050
1219
 
1051
1220
        :return: The entry index, True if the entry for the key is present.
1052
1221
        """
 
1222
        len_block = len(block)
 
1223
        try:
 
1224
            if self._last_entry_index is not None:
 
1225
                # mini-bisect here.
 
1226
                entry_index = self._last_entry_index + 1
 
1227
                # A hit is when the key is after the last slot, and before or
 
1228
                # equal to the next slot.
 
1229
                if ((entry_index > 0 and block[entry_index - 1][0] < key) and
 
1230
                    key <= block[entry_index][0]):
 
1231
                    self._last_entry_index = entry_index
 
1232
                    present = (block[entry_index][0] == key)
 
1233
                    return entry_index, present
 
1234
        except IndexError:
 
1235
            pass
1053
1236
        entry_index = bisect.bisect_left(block, (key, []))
1054
 
        present = (entry_index < len(block) and
 
1237
        present = (entry_index < len_block and
1055
1238
            block[entry_index][0] == key)
 
1239
        self._last_entry_index = entry_index
1056
1240
        return entry_index, present
1057
1241
 
1058
1242
    @staticmethod
1059
 
    def from_tree(tree, dir_state_filename):
 
1243
    def from_tree(tree, dir_state_filename, sha1_provider=None):
1060
1244
        """Create a dirstate from a bzr Tree.
1061
1245
 
1062
1246
        :param tree: The tree which should provide parent information and
1063
1247
            inventory ids.
 
1248
        :param sha1_provider: an object meeting the SHA1Provider interface.
 
1249
            If None, a DefaultSHA1Provider is used.
1064
1250
        :return: a DirState object which is currently locked for writing.
1065
1251
            (it was locked by DirState.initialize)
1066
1252
        """
1067
 
        result = DirState.initialize(dir_state_filename)
 
1253
        result = DirState.initialize(dir_state_filename,
 
1254
            sha1_provider=sha1_provider)
1068
1255
        try:
1069
1256
            tree.lock_read()
1070
1257
            try:
1088
1275
            raise
1089
1276
        return result
1090
1277
 
1091
 
    def update_entry(self, entry, abspath, stat_value,
1092
 
                     _stat_to_minikind=_stat_to_minikind,
1093
 
                     _pack_stat=pack_stat):
1094
 
        """Update the entry based on what is actually on disk.
1095
 
 
1096
 
        :param entry: This is the dirblock entry for the file in question.
1097
 
        :param abspath: The path on disk for this file.
1098
 
        :param stat_value: (optional) if we already have done a stat on the
1099
 
            file, re-use it.
1100
 
        :return: The sha1 hexdigest of the file (40 bytes) or link target of a
1101
 
                symlink.
 
1278
    def update_by_delta(self, delta):
 
1279
        """Apply an inventory delta to the dirstate for tree 0
 
1280
 
 
1281
        This is the workhorse for apply_inventory_delta in dirstate based
 
1282
        trees.
 
1283
 
 
1284
        :param delta: An inventory delta.  See Inventory.apply_delta for
 
1285
            details.
 
1286
        """
 
1287
        self._read_dirblocks_if_needed()
 
1288
        encode = cache_utf8.encode
 
1289
        insertions = {}
 
1290
        removals = {}
 
1291
        # Accumulate parent references (path_utf8, id), to check for parentless
 
1292
        # items or items placed under files/links/tree-references. We get
 
1293
        # references from every item in the delta that is not a deletion and
 
1294
        # is not itself the root.
 
1295
        parents = set()
 
1296
        # Added ids must not be in the dirstate already. This set holds those
 
1297
        # ids.
 
1298
        new_ids = set()
 
1299
        # This loop transforms the delta to single atomic operations that can
 
1300
        # be executed and validated.
 
1301
        for old_path, new_path, file_id, inv_entry in sorted(
 
1302
            inventory._check_delta_unique_old_paths(
 
1303
            inventory._check_delta_unique_new_paths(
 
1304
            inventory._check_delta_ids_match_entry(
 
1305
            inventory._check_delta_ids_are_valid(
 
1306
            inventory._check_delta_new_path_entry_both_or_None(delta))))),
 
1307
            reverse=True):
 
1308
            if (file_id in insertions) or (file_id in removals):
 
1309
                raise errors.InconsistentDelta(old_path or new_path, file_id,
 
1310
                    "repeated file_id")
 
1311
            if old_path is not None:
 
1312
                old_path = old_path.encode('utf-8')
 
1313
                removals[file_id] = old_path
 
1314
            else:
 
1315
                new_ids.add(file_id)
 
1316
            if new_path is not None:
 
1317
                if inv_entry is None:
 
1318
                    raise errors.InconsistentDelta(new_path, file_id,
 
1319
                        "new_path with no entry")
 
1320
                new_path = new_path.encode('utf-8')
 
1321
                dirname_utf8, basename = osutils.split(new_path)
 
1322
                if basename:
 
1323
                    parents.add((dirname_utf8, inv_entry.parent_id))
 
1324
                key = (dirname_utf8, basename, file_id)
 
1325
                minikind = DirState._kind_to_minikind[inv_entry.kind]
 
1326
                if minikind == 't':
 
1327
                    fingerprint = inv_entry.reference_revision or ''
 
1328
                else:
 
1329
                    fingerprint = ''
 
1330
                insertions[file_id] = (key, minikind, inv_entry.executable,
 
1331
                                       fingerprint, new_path)
 
1332
            # Transform moves into delete+add pairs
 
1333
            if None not in (old_path, new_path):
 
1334
                for child in self._iter_child_entries(0, old_path):
 
1335
                    if child[0][2] in insertions or child[0][2] in removals:
 
1336
                        continue
 
1337
                    child_dirname = child[0][0]
 
1338
                    child_basename = child[0][1]
 
1339
                    minikind = child[1][0][0]
 
1340
                    fingerprint = child[1][0][4]
 
1341
                    executable = child[1][0][3]
 
1342
                    old_child_path = osutils.pathjoin(child[0][0],
 
1343
                                                      child[0][1])
 
1344
                    removals[child[0][2]] = old_child_path
 
1345
                    child_suffix = child_dirname[len(old_path):]
 
1346
                    new_child_dirname = (new_path + child_suffix)
 
1347
                    key = (new_child_dirname, child_basename, child[0][2])
 
1348
                    new_child_path = os.path.join(new_child_dirname,
 
1349
                                                  child_basename)
 
1350
                    insertions[child[0][2]] = (key, minikind, executable,
 
1351
                                               fingerprint, new_child_path)
 
1352
        self._check_delta_ids_absent(new_ids, delta, 0)
 
1353
        try:
 
1354
            self._apply_removals(removals.iteritems())
 
1355
            self._apply_insertions(insertions.values())
 
1356
            # Validate parents
 
1357
            self._after_delta_check_parents(parents, 0)
 
1358
        except errors.BzrError, e:
 
1359
            self._changes_aborted = True
 
1360
            if 'integrity error' not in str(e):
 
1361
                raise
 
1362
            # _get_entry raises BzrError when a request is inconsistent; we
 
1363
            # want such errors to be shown as InconsistentDelta - and that 
 
1364
            # fits the behaviour we trigger.
 
1365
            raise errors.InconsistentDeltaDelta(delta, "error from _get_entry.")
 
1366
 
 
1367
    def _apply_removals(self, removals):
 
1368
        for file_id, path in sorted(removals, reverse=True,
 
1369
            key=operator.itemgetter(1)):
 
1370
            dirname, basename = osutils.split(path)
 
1371
            block_i, entry_i, d_present, f_present = \
 
1372
                self._get_block_entry_index(dirname, basename, 0)
 
1373
            try:
 
1374
                entry = self._dirblocks[block_i][1][entry_i]
 
1375
            except IndexError:
 
1376
                self._changes_aborted = True
 
1377
                raise errors.InconsistentDelta(path, file_id,
 
1378
                    "Wrong path for old path.")
 
1379
            if not f_present or entry[1][0][0] in 'ar':
 
1380
                self._changes_aborted = True
 
1381
                raise errors.InconsistentDelta(path, file_id,
 
1382
                    "Wrong path for old path.")
 
1383
            if file_id != entry[0][2]:
 
1384
                self._changes_aborted = True
 
1385
                raise errors.InconsistentDelta(path, file_id,
 
1386
                    "Attempt to remove path has wrong id - found %r."
 
1387
                    % entry[0][2])
 
1388
            self._make_absent(entry)
 
1389
            # See if we have a malformed delta: deleting a directory must not
 
1390
            # leave crud behind. This increases the number of bisects needed
 
1391
            # substantially, but deletion or renames of large numbers of paths
 
1392
            # is rare enough it shouldn't be an issue (famous last words?) RBC
 
1393
            # 20080730.
 
1394
            block_i, entry_i, d_present, f_present = \
 
1395
                self._get_block_entry_index(path, '', 0)
 
1396
            if d_present:
 
1397
                # The dir block is still present in the dirstate; this could
 
1398
                # be due to it being in a parent tree, or a corrupt delta.
 
1399
                for child_entry in self._dirblocks[block_i][1]:
 
1400
                    if child_entry[1][0][0] not in ('r', 'a'):
 
1401
                        self._changes_aborted = True
 
1402
                        raise errors.InconsistentDelta(path, entry[0][2],
 
1403
                            "The file id was deleted but its children were "
 
1404
                            "not deleted.")
 
1405
 
 
1406
    def _apply_insertions(self, adds):
 
1407
        try:
 
1408
            for key, minikind, executable, fingerprint, path_utf8 in sorted(adds):
 
1409
                self.update_minimal(key, minikind, executable, fingerprint,
 
1410
                                    path_utf8=path_utf8)
 
1411
        except errors.NotVersionedError:
 
1412
            self._changes_aborted = True
 
1413
            raise errors.InconsistentDelta(path_utf8.decode('utf8'), key[2],
 
1414
                "Missing parent")
 
1415
 
 
1416
    def update_basis_by_delta(self, delta, new_revid):
 
1417
        """Update the parents of this tree after a commit.
 
1418
 
 
1419
        This gives the tree one parent, with revision id new_revid. The
 
1420
        inventory delta is applied to the current basis tree to generate the
 
1421
        inventory for the parent new_revid, and all other parent trees are
 
1422
        discarded.
 
1423
 
 
1424
        Note that an exception during the operation of this method will leave
 
1425
        the dirstate in a corrupt state where it should not be saved.
 
1426
 
 
1427
        Finally, we expect all changes to be synchronising the basis tree with
 
1428
        the working tree.
 
1429
 
 
1430
        :param new_revid: The new revision id for the trees parent.
 
1431
        :param delta: An inventory delta (see apply_inventory_delta) describing
 
1432
            the changes from the current left most parent revision to new_revid.
 
1433
        """
 
1434
        self._read_dirblocks_if_needed()
 
1435
        self._discard_merge_parents()
 
1436
        if self._ghosts != []:
 
1437
            raise NotImplementedError(self.update_basis_by_delta)
 
1438
        if len(self._parents) == 0:
 
1439
            # setup a blank tree, the most simple way.
 
1440
            empty_parent = DirState.NULL_PARENT_DETAILS
 
1441
            for entry in self._iter_entries():
 
1442
                entry[1].append(empty_parent)
 
1443
            self._parents.append(new_revid)
 
1444
 
 
1445
        self._parents[0] = new_revid
 
1446
 
 
1447
        delta = sorted(delta, reverse=True)
 
1448
        adds = []
 
1449
        changes = []
 
1450
        deletes = []
 
1451
        # The paths this function accepts are unicode and must be encoded as we
 
1452
        # go.
 
1453
        encode = cache_utf8.encode
 
1454
        inv_to_entry = self._inv_entry_to_details
 
1455
        # delta is now (deletes, changes), (adds) in reverse lexographical
 
1456
        # order.
 
1457
        # deletes in reverse lexographic order are safe to process in situ.
 
1458
        # renames are not, as a rename from any path could go to a path
 
1459
        # lexographically lower, so we transform renames into delete, add pairs,
 
1460
        # expanding them recursively as needed.
 
1461
        # At the same time, to reduce interface friction we convert the input
 
1462
        # inventory entries to dirstate.
 
1463
        root_only = ('', '')
 
1464
        # Accumulate parent references (path_utf8, id), to check for parentless
 
1465
        # items or items placed under files/links/tree-references. We get
 
1466
        # references from every item in the delta that is not a deletion and
 
1467
        # is not itself the root.
 
1468
        parents = set()
 
1469
        # Added ids must not be in the dirstate already. This set holds those
 
1470
        # ids.
 
1471
        new_ids = set()
 
1472
        for old_path, new_path, file_id, inv_entry in delta:
 
1473
            if inv_entry is not None and file_id != inv_entry.file_id:
 
1474
                raise errors.InconsistentDelta(new_path, file_id,
 
1475
                    "mismatched entry file_id %r" % inv_entry)
 
1476
            if new_path is not None:
 
1477
                if inv_entry is None:
 
1478
                    raise errors.InconsistentDelta(new_path, file_id,
 
1479
                        "new_path with no entry")
 
1480
                new_path_utf8 = encode(new_path)
 
1481
                # note the parent for validation
 
1482
                dirname_utf8, basename_utf8 = osutils.split(new_path_utf8)
 
1483
                if basename_utf8:
 
1484
                    parents.add((dirname_utf8, inv_entry.parent_id))
 
1485
            if old_path is None:
 
1486
                adds.append((None, encode(new_path), file_id,
 
1487
                    inv_to_entry(inv_entry), True))
 
1488
                new_ids.add(file_id)
 
1489
            elif new_path is None:
 
1490
                deletes.append((encode(old_path), None, file_id, None, True))
 
1491
            elif (old_path, new_path) != root_only:
 
1492
                # Renames:
 
1493
                # Because renames must preserve their children we must have
 
1494
                # processed all relocations and removes before hand. The sort
 
1495
                # order ensures we've examined the child paths, but we also
 
1496
                # have to execute the removals, or the split to an add/delete
 
1497
                # pair will result in the deleted item being reinserted, or
 
1498
                # renamed items being reinserted twice - and possibly at the
 
1499
                # wrong place. Splitting into a delete/add pair also simplifies
 
1500
                # the handling of entries with ('f', ...), ('r' ...) because
 
1501
                # the target of the 'r' is old_path here, and we add that to
 
1502
                # deletes, meaning that the add handler does not need to check
 
1503
                # for 'r' items on every pass.
 
1504
                self._update_basis_apply_deletes(deletes)
 
1505
                deletes = []
 
1506
                # Split into an add/delete pair recursively.
 
1507
                adds.append((None, new_path_utf8, file_id,
 
1508
                    inv_to_entry(inv_entry), False))
 
1509
                # Expunge deletes that we've seen so that deleted/renamed
 
1510
                # children of a rename directory are handled correctly.
 
1511
                new_deletes = reversed(list(self._iter_child_entries(1,
 
1512
                    encode(old_path))))
 
1513
                # Remove the current contents of the tree at orig_path, and
 
1514
                # reinsert at the correct new path.
 
1515
                for entry in new_deletes:
 
1516
                    if entry[0][0]:
 
1517
                        source_path = entry[0][0] + '/' + entry[0][1]
 
1518
                    else:
 
1519
                        source_path = entry[0][1]
 
1520
                    if new_path_utf8:
 
1521
                        target_path = new_path_utf8 + source_path[len(old_path):]
 
1522
                    else:
 
1523
                        if old_path == '':
 
1524
                            raise AssertionError("cannot rename directory to"
 
1525
                                " itself")
 
1526
                        target_path = source_path[len(old_path) + 1:]
 
1527
                    adds.append((None, target_path, entry[0][2], entry[1][1], False))
 
1528
                    deletes.append(
 
1529
                        (source_path, target_path, entry[0][2], None, False))
 
1530
                deletes.append(
 
1531
                    (encode(old_path), new_path, file_id, None, False))
 
1532
            else:
 
1533
                # changes to just the root should not require remove/insertion
 
1534
                # of everything.
 
1535
                changes.append((encode(old_path), encode(new_path), file_id,
 
1536
                    inv_to_entry(inv_entry)))
 
1537
        self._check_delta_ids_absent(new_ids, delta, 1)
 
1538
        try:
 
1539
            # Finish expunging deletes/first half of renames.
 
1540
            self._update_basis_apply_deletes(deletes)
 
1541
            # Reinstate second half of renames and new paths.
 
1542
            self._update_basis_apply_adds(adds)
 
1543
            # Apply in-situ changes.
 
1544
            self._update_basis_apply_changes(changes)
 
1545
            # Validate parents
 
1546
            self._after_delta_check_parents(parents, 1)
 
1547
        except errors.BzrError, e:
 
1548
            self._changes_aborted = True
 
1549
            if 'integrity error' not in str(e):
 
1550
                raise
 
1551
            # _get_entry raises BzrError when a request is inconsistent; we
 
1552
            # want such errors to be shown as InconsistentDelta - and that 
 
1553
            # fits the behaviour we trigger. Partof this is driven by dirstate
 
1554
            # only supporting deltas that turn the basis into a closer fit to
 
1555
            # the active tree.
 
1556
            raise errors.InconsistentDeltaDelta(delta, "error from _get_entry.")
 
1557
 
 
1558
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
1559
        self._header_state = DirState.IN_MEMORY_MODIFIED
 
1560
        self._id_index = None
 
1561
        return
 
1562
 
 
1563
    def _check_delta_ids_absent(self, new_ids, delta, tree_index):
 
1564
        """Check that none of the file_ids in new_ids are present in a tree."""
 
1565
        if not new_ids:
 
1566
            return
 
1567
        id_index = self._get_id_index()
 
1568
        for file_id in new_ids:
 
1569
            for key in id_index.get(file_id, []):
 
1570
                block_i, entry_i, d_present, f_present = \
 
1571
                    self._get_block_entry_index(key[0], key[1], tree_index)
 
1572
                if not f_present:
 
1573
                    # In a different tree
 
1574
                    continue
 
1575
                entry = self._dirblocks[block_i][1][entry_i]
 
1576
                if entry[0][2] != file_id:
 
1577
                    # Different file_id, so not what we want.
 
1578
                    continue
 
1579
                # NB: No changes made before this helper is called, so no need
 
1580
                # to set the _changes_aborted flag.
 
1581
                raise errors.InconsistentDelta(
 
1582
                    ("%s/%s" % key[0:2]).decode('utf8'), file_id,
 
1583
                    "This file_id is new in the delta but already present in "
 
1584
                    "the target")
 
1585
 
 
1586
    def _update_basis_apply_adds(self, adds):
 
1587
        """Apply a sequence of adds to tree 1 during update_basis_by_delta.
 
1588
 
 
1589
        They may be adds, or renames that have been split into add/delete
 
1590
        pairs.
 
1591
 
 
1592
        :param adds: A sequence of adds. Each add is a tuple:
 
1593
            (None, new_path_utf8, file_id, (entry_details), real_add). real_add
 
1594
            is False when the add is the second half of a remove-and-reinsert
 
1595
            pair created to handle renames and deletes.
 
1596
        """
 
1597
        # Adds are accumulated partly from renames, so can be in any input
 
1598
        # order - sort it.
 
1599
        adds.sort()
 
1600
        # adds is now in lexographic order, which places all parents before
 
1601
        # their children, so we can process it linearly.
 
1602
        absent = 'ar'
 
1603
        for old_path, new_path, file_id, new_details, real_add in adds:
 
1604
            # the entry for this file_id must be in tree 0.
 
1605
            entry = self._get_entry(0, file_id, new_path)
 
1606
            if entry[0] is None or entry[0][2] != file_id:
 
1607
                self._changes_aborted = True
 
1608
                raise errors.InconsistentDelta(new_path, file_id,
 
1609
                    'working tree does not contain new entry')
 
1610
            if real_add and entry[1][1][0] not in absent:
 
1611
                self._changes_aborted = True
 
1612
                raise errors.InconsistentDelta(new_path, file_id,
 
1613
                    'The entry was considered to be a genuinely new record,'
 
1614
                    ' but there was already an old record for it.')
 
1615
            # We don't need to update the target of an 'r' because the handling
 
1616
            # of renames turns all 'r' situations into a delete at the original
 
1617
            # location.
 
1618
            entry[1][1] = new_details
 
1619
 
 
1620
    def _update_basis_apply_changes(self, changes):
 
1621
        """Apply a sequence of changes to tree 1 during update_basis_by_delta.
 
1622
 
 
1623
        :param adds: A sequence of changes. Each change is a tuple:
 
1624
            (path_utf8, path_utf8, file_id, (entry_details))
 
1625
        """
 
1626
        absent = 'ar'
 
1627
        for old_path, new_path, file_id, new_details in changes:
 
1628
            # the entry for this file_id must be in tree 0.
 
1629
            entry = self._get_entry(0, file_id, new_path)
 
1630
            if entry[0] is None or entry[0][2] != file_id:
 
1631
                self._changes_aborted = True
 
1632
                raise errors.InconsistentDelta(new_path, file_id,
 
1633
                    'working tree does not contain new entry')
 
1634
            if (entry[1][0][0] in absent or
 
1635
                entry[1][1][0] in absent):
 
1636
                self._changes_aborted = True
 
1637
                raise errors.InconsistentDelta(new_path, file_id,
 
1638
                    'changed considered absent')
 
1639
            entry[1][1] = new_details
 
1640
 
 
1641
    def _update_basis_apply_deletes(self, deletes):
 
1642
        """Apply a sequence of deletes to tree 1 during update_basis_by_delta.
 
1643
 
 
1644
        They may be deletes, or renames that have been split into add/delete
 
1645
        pairs.
 
1646
 
 
1647
        :param deletes: A sequence of deletes. Each delete is a tuple:
 
1648
            (old_path_utf8, new_path_utf8, file_id, None, real_delete).
 
1649
            real_delete is True when the desired outcome is an actual deletion
 
1650
            rather than the rename handling logic temporarily deleting a path
 
1651
            during the replacement of a parent.
 
1652
        """
 
1653
        null = DirState.NULL_PARENT_DETAILS
 
1654
        for old_path, new_path, file_id, _, real_delete in deletes:
 
1655
            if real_delete != (new_path is None):
 
1656
                self._changes_aborted = True
 
1657
                raise AssertionError("bad delete delta")
 
1658
            # the entry for this file_id must be in tree 1.
 
1659
            dirname, basename = osutils.split(old_path)
 
1660
            block_index, entry_index, dir_present, file_present = \
 
1661
                self._get_block_entry_index(dirname, basename, 1)
 
1662
            if not file_present:
 
1663
                self._changes_aborted = True
 
1664
                raise errors.InconsistentDelta(old_path, file_id,
 
1665
                    'basis tree does not contain removed entry')
 
1666
            entry = self._dirblocks[block_index][1][entry_index]
 
1667
            if entry[0][2] != file_id:
 
1668
                self._changes_aborted = True
 
1669
                raise errors.InconsistentDelta(old_path, file_id,
 
1670
                    'mismatched file_id in tree 1')
 
1671
            if real_delete:
 
1672
                if entry[1][0][0] != 'a':
 
1673
                    self._changes_aborted = True
 
1674
                    raise errors.InconsistentDelta(old_path, file_id,
 
1675
                            'This was marked as a real delete, but the WT state'
 
1676
                            ' claims that it still exists and is versioned.')
 
1677
                del self._dirblocks[block_index][1][entry_index]
 
1678
            else:
 
1679
                if entry[1][0][0] == 'a':
 
1680
                    self._changes_aborted = True
 
1681
                    raise errors.InconsistentDelta(old_path, file_id,
 
1682
                        'The entry was considered a rename, but the source path'
 
1683
                        ' is marked as absent.')
 
1684
                    # For whatever reason, we were asked to rename an entry
 
1685
                    # that was originally marked as deleted. This could be
 
1686
                    # because we are renaming the parent directory, and the WT
 
1687
                    # current state has the file marked as deleted.
 
1688
                elif entry[1][0][0] == 'r':
 
1689
                    # implement the rename
 
1690
                    del self._dirblocks[block_index][1][entry_index]
 
1691
                else:
 
1692
                    # it is being resurrected here, so blank it out temporarily.
 
1693
                    self._dirblocks[block_index][1][entry_index][1][1] = null
 
1694
 
 
1695
    def _after_delta_check_parents(self, parents, index):
 
1696
        """Check that parents required by the delta are all intact.
 
1697
        
 
1698
        :param parents: An iterable of (path_utf8, file_id) tuples which are
 
1699
            required to be present in tree 'index' at path_utf8 with id file_id
 
1700
            and be a directory.
 
1701
        :param index: The column in the dirstate to check for parents in.
 
1702
        """
 
1703
        for dirname_utf8, file_id in parents:
 
1704
            # Get the entry - the ensures that file_id, dirname_utf8 exists and
 
1705
            # has the right file id.
 
1706
            entry = self._get_entry(index, file_id, dirname_utf8)
 
1707
            if entry[1] is None:
 
1708
                self._changes_aborted = True
 
1709
                raise errors.InconsistentDelta(dirname_utf8.decode('utf8'),
 
1710
                    file_id, "This parent is not present.")
 
1711
            # Parents of things must be directories
 
1712
            if entry[1][index][0] != 'd':
 
1713
                self._changes_aborted = True
 
1714
                raise errors.InconsistentDelta(dirname_utf8.decode('utf8'),
 
1715
                    file_id, "This parent is not a directory.")
 
1716
 
 
1717
    def _observed_sha1(self, entry, sha1, stat_value,
 
1718
        _stat_to_minikind=_stat_to_minikind, _pack_stat=pack_stat):
 
1719
        """Note the sha1 of a file.
 
1720
 
 
1721
        :param entry: The entry the sha1 is for.
 
1722
        :param sha1: The observed sha1.
 
1723
        :param stat_value: The os.lstat for the file.
1102
1724
        """
1103
1725
        try:
1104
1726
            minikind = _stat_to_minikind[stat_value.st_mode & 0170000]
1106
1728
            # Unhandled kind
1107
1729
            return None
1108
1730
        packed_stat = _pack_stat(stat_value)
1109
 
        (saved_minikind, saved_link_or_sha1, saved_file_size,
1110
 
         saved_executable, saved_packed_stat) = entry[1][0]
1111
 
 
1112
 
        if (minikind == saved_minikind
1113
 
            and packed_stat == saved_packed_stat):
1114
 
            # The stat hasn't changed since we saved, so we can re-use the
1115
 
            # saved sha hash.
1116
 
            if minikind == 'd':
1117
 
                return None
1118
 
 
1119
 
            # size should also be in packed_stat
1120
 
            if saved_file_size == stat_value.st_size:
1121
 
                return saved_link_or_sha1
1122
 
 
1123
 
        # If we have gotten this far, that means that we need to actually
1124
 
        # process this entry.
1125
 
        link_or_sha1 = None
1126
1731
        if minikind == 'f':
1127
 
            link_or_sha1 = self._sha1_file(abspath, entry)
1128
 
            executable = self._is_executable(stat_value.st_mode,
1129
 
                                             saved_executable)
1130
 
            if self._cutoff_time is None:
1131
 
                self._sha_cutoff_time()
1132
 
            if (stat_value.st_mtime < self._cutoff_time
1133
 
                and stat_value.st_ctime < self._cutoff_time):
1134
 
                entry[1][0] = ('f', link_or_sha1, stat_value.st_size,
1135
 
                               executable, packed_stat)
1136
 
            else:
1137
 
                entry[1][0] = ('f', '', stat_value.st_size,
1138
 
                               executable, DirState.NULLSTAT)
1139
 
        elif minikind == 'd':
1140
 
            link_or_sha1 = None
1141
 
            entry[1][0] = ('d', '', 0, False, packed_stat)
1142
 
            if saved_minikind != 'd':
1143
 
                # This changed from something into a directory. Make sure we
1144
 
                # have a directory block for it. This doesn't happen very
1145
 
                # often, so this doesn't have to be super fast.
1146
 
                block_index, entry_index, dir_present, file_present = \
1147
 
                    self._get_block_entry_index(entry[0][0], entry[0][1], 0)
1148
 
                self._ensure_block(block_index, entry_index,
1149
 
                                   osutils.pathjoin(entry[0][0], entry[0][1]))
1150
 
        elif minikind == 'l':
1151
 
            link_or_sha1 = self._read_link(abspath, saved_link_or_sha1)
1152
 
            if self._cutoff_time is None:
1153
 
                self._sha_cutoff_time()
1154
 
            if (stat_value.st_mtime < self._cutoff_time
1155
 
                and stat_value.st_ctime < self._cutoff_time):
1156
 
                entry[1][0] = ('l', link_or_sha1, stat_value.st_size,
1157
 
                               False, packed_stat)
1158
 
            else:
1159
 
                entry[1][0] = ('l', '', stat_value.st_size,
1160
 
                               False, DirState.NULLSTAT)
1161
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
1162
 
        return link_or_sha1
 
1732
            if self._cutoff_time is None:
 
1733
                self._sha_cutoff_time()
 
1734
            if (stat_value.st_mtime < self._cutoff_time
 
1735
                and stat_value.st_ctime < self._cutoff_time):
 
1736
                entry[1][0] = ('f', sha1, entry[1][0][2], entry[1][0][3],
 
1737
                    packed_stat)
 
1738
                self._dirblock_state = DirState.IN_MEMORY_MODIFIED
1163
1739
 
1164
1740
    def _sha_cutoff_time(self):
1165
1741
        """Return cutoff time.
1178
1754
        """Return the os.lstat value for this path."""
1179
1755
        return os.lstat(abspath)
1180
1756
 
1181
 
    def _sha1_file(self, abspath, entry):
1182
 
        """Calculate the SHA1 of a file by reading the full text"""
1183
 
        f = file(abspath, 'rb', buffering=65000)
1184
 
        try:
1185
 
            return osutils.sha_file(f)
1186
 
        finally:
1187
 
            f.close()
 
1757
    def _sha1_file_and_mutter(self, abspath):
 
1758
        # when -Dhashcache is turned on, this is monkey-patched in to log
 
1759
        # file reads
 
1760
        trace.mutter("dirstate sha1 " + abspath)
 
1761
        return self._sha1_provider.sha1(abspath)
1188
1762
 
1189
1763
    def _is_executable(self, mode, old_executable):
1190
1764
        """Is this file executable?"""
1203
1777
        #       already in memory. However, this really needs to be done at a
1204
1778
        #       higher level, because there either won't be anything on disk,
1205
1779
        #       or the thing on disk will be a file.
1206
 
        return os.readlink(abspath)
 
1780
        fs_encoding = osutils._fs_enc
 
1781
        if isinstance(abspath, unicode):
 
1782
            # abspath is defined as the path to pass to lstat. readlink is
 
1783
            # buggy in python < 2.6 (it doesn't encode unicode path into FS
 
1784
            # encoding), so we need to encode ourselves knowing that unicode
 
1785
            # paths are produced by UnicodeDirReader on purpose.
 
1786
            abspath = abspath.encode(fs_encoding)
 
1787
        target = os.readlink(abspath)
 
1788
        if fs_encoding not in ('UTF-8', 'US-ASCII', 'ANSI_X3.4-1968'):
 
1789
            # Change encoding if needed
 
1790
            target = target.decode(fs_encoding).encode('UTF-8')
 
1791
        return target
1207
1792
 
1208
1793
    def get_ghosts(self):
1209
1794
        """Return a list of the parent tree revision ids that are ghosts."""
1327
1912
            be attempted.
1328
1913
        :return: A tuple describing where the path is located, or should be
1329
1914
            inserted. The tuple contains four fields: the block index, the row
1330
 
            index, anda two booleans are True when the directory is present, and
1331
 
            when the entire path is present.  There is no guarantee that either
 
1915
            index, the directory is present (boolean), the entire path is
 
1916
            present (boolean).  There is no guarantee that either
1332
1917
            coordinate is currently reachable unless the found field for it is
1333
1918
            True. For instance, a directory not present in the searched tree
1334
1919
            may be returned with a value one greater than the current highest
1346
1931
            return block_index, 0, False, False
1347
1932
        block = self._dirblocks[block_index][1] # access the entries only
1348
1933
        entry_index, present = self._find_entry_index(key, block)
1349
 
        # linear search through present entries at this path to find the one
 
1934
        # linear search through entries at this path to find the one
1350
1935
        # requested.
1351
1936
        while entry_index < len(block) and block[entry_index][0][1] == basename:
1352
 
            if block[entry_index][1][tree_index][0] not in \
1353
 
                       ('a', 'r'): # absent, relocated
 
1937
            if block[entry_index][1][tree_index][0] not in 'ar':
 
1938
                # neither absent or relocated
1354
1939
                return block_index, entry_index, True, True
1355
1940
            entry_index += 1
1356
1941
        return block_index, entry_index, True, False
1357
1942
 
1358
 
    def _get_entry(self, tree_index, fileid_utf8=None, path_utf8=None):
1359
 
        """Get the dirstate entry for path in tree tree_index
 
1943
    def _get_entry(self, tree_index, fileid_utf8=None, path_utf8=None, include_deleted=False):
 
1944
        """Get the dirstate entry for path in tree tree_index.
1360
1945
 
1361
1946
        If either file_id or path is supplied, it is used as the key to lookup.
1362
1947
        If both are supplied, the fastest lookup is used, and an error is
1369
1954
            trees.
1370
1955
        :param fileid_utf8: A utf8 file_id to look up.
1371
1956
        :param path_utf8: An utf8 path to be looked up.
 
1957
        :param include_deleted: If True, and performing a lookup via
 
1958
            fileid_utf8 rather than path_utf8, return an entry for deleted
 
1959
            (absent) paths.
1372
1960
        :return: The dirstate entry tuple for path, or (None, None)
1373
1961
        """
1374
1962
        self._read_dirblocks_if_needed()
1375
1963
        if path_utf8 is not None:
1376
 
            assert path_utf8.__class__ == str, 'path_utf8 is not a str: %s %s' % (type(path_utf8), path_utf8)
 
1964
            if type(path_utf8) is not str:
 
1965
                raise errors.BzrError('path_utf8 is not a str: %s %r'
 
1966
                    % (type(path_utf8), path_utf8))
1377
1967
            # path lookups are faster
1378
1968
            dirname, basename = osutils.split(path_utf8)
1379
1969
            block_index, entry_index, dir_present, file_present = \
1381
1971
            if not file_present:
1382
1972
                return None, None
1383
1973
            entry = self._dirblocks[block_index][1][entry_index]
1384
 
            assert entry[0][2] and entry[1][tree_index][0] not in ('a', 'r'), 'unversioned entry?!?!'
 
1974
            if not (entry[0][2] and entry[1][tree_index][0] not in ('a', 'r')):
 
1975
                raise AssertionError('unversioned entry?')
1385
1976
            if fileid_utf8:
1386
1977
                if entry[0][2] != fileid_utf8:
 
1978
                    self._changes_aborted = True
1387
1979
                    raise errors.BzrError('integrity error ? : mismatching'
1388
1980
                                          ' tree_index, file_id and path')
1389
1981
            return entry
1390
1982
        else:
1391
 
            assert fileid_utf8 is not None
1392
1983
            possible_keys = self._get_id_index().get(fileid_utf8, None)
1393
1984
            if not possible_keys:
1394
1985
                return None, None
1401
1992
                    continue
1402
1993
                # WARNING: DO not change this code to use _get_block_entry_index
1403
1994
                # as that function is not suitable: it does not use the key
1404
 
                # to lookup, and thus the wront coordinates are returned.
 
1995
                # to lookup, and thus the wrong coordinates are returned.
1405
1996
                block = self._dirblocks[block_index][1]
1406
1997
                entry_index, present = self._find_entry_index(key, block)
1407
1998
                if present:
1408
1999
                    entry = self._dirblocks[block_index][1][entry_index]
1409
2000
                    if entry[1][tree_index][0] in 'fdlt':
1410
 
                        # this is the result we are looking for: the  
 
2001
                        # this is the result we are looking for: the
1411
2002
                        # real home of this file_id in this tree.
1412
2003
                        return entry
1413
2004
                    if entry[1][tree_index][0] == 'a':
1414
2005
                        # there is no home for this entry in this tree
 
2006
                        if include_deleted:
 
2007
                            return entry
1415
2008
                        return None, None
1416
 
                    assert entry[1][tree_index][0] == 'r', \
1417
 
                        "entry %r has invalid minikind %r for tree %r" \
1418
 
                        % (entry,
1419
 
                           entry[1][tree_index][0],
1420
 
                           tree_index)
 
2009
                    if entry[1][tree_index][0] != 'r':
 
2010
                        raise AssertionError(
 
2011
                            "entry %r has invalid minikind %r for tree %r" \
 
2012
                            % (entry,
 
2013
                               entry[1][tree_index][0],
 
2014
                               tree_index))
1421
2015
                    real_path = entry[1][tree_index][1]
1422
2016
                    return self._get_entry(tree_index, fileid_utf8=fileid_utf8,
1423
2017
                        path_utf8=real_path)
1424
2018
            return None, None
1425
2019
 
1426
2020
    @classmethod
1427
 
    def initialize(cls, path):
 
2021
    def initialize(cls, path, sha1_provider=None):
1428
2022
        """Create a new dirstate on path.
1429
2023
 
1430
2024
        The new dirstate will be an empty tree - that is it has no parents,
1431
2025
        and only a root node - which has id ROOT_ID.
1432
2026
 
1433
2027
        :param path: The name of the file for the dirstate.
 
2028
        :param sha1_provider: an object meeting the SHA1Provider interface.
 
2029
            If None, a DefaultSHA1Provider is used.
1434
2030
        :return: A write-locked DirState object.
1435
2031
        """
1436
2032
        # This constructs a new DirState object on a path, sets the _state_file
1438
2034
        # stock empty dirstate information - a root with ROOT_ID, no children,
1439
2035
        # and no parents. Finally it calls save() to ensure that this data will
1440
2036
        # persist.
1441
 
        result = cls(path)
 
2037
        if sha1_provider is None:
 
2038
            sha1_provider = DefaultSHA1Provider()
 
2039
        result = cls(path, sha1_provider)
1442
2040
        # root dir and root dir contents with no children.
1443
2041
        empty_tree_dirblocks = [('', []), ('', [])]
1444
2042
        # a new root directory, with a NULLSTAT.
1455
2053
            raise
1456
2054
        return result
1457
2055
 
1458
 
    def _inv_entry_to_details(self, inv_entry):
 
2056
    @staticmethod
 
2057
    def _inv_entry_to_details(inv_entry):
1459
2058
        """Convert an inventory entry (from a revision tree) to state details.
1460
2059
 
1461
2060
        :param inv_entry: An inventory entry whose sha1 and link targets can be
1466
2065
        kind = inv_entry.kind
1467
2066
        minikind = DirState._kind_to_minikind[kind]
1468
2067
        tree_data = inv_entry.revision
1469
 
        assert len(tree_data) > 0, 'empty revision for the inv_entry.'
1470
2068
        if kind == 'directory':
1471
2069
            fingerprint = ''
1472
2070
            size = 0
1473
2071
            executable = False
1474
2072
        elif kind == 'symlink':
1475
 
            fingerprint = inv_entry.symlink_target or ''
 
2073
            if inv_entry.symlink_target is None:
 
2074
                fingerprint = ''
 
2075
            else:
 
2076
                fingerprint = inv_entry.symlink_target.encode('utf8')
1476
2077
            size = 0
1477
2078
            executable = False
1478
2079
        elif kind == 'file':
1487
2088
            raise Exception("can't pack %s" % inv_entry)
1488
2089
        return (minikind, fingerprint, size, executable, tree_data)
1489
2090
 
 
2091
    def _iter_child_entries(self, tree_index, path_utf8):
 
2092
        """Iterate over all the entries that are children of path_utf.
 
2093
 
 
2094
        This only returns entries that are present (not in 'a', 'r') in
 
2095
        tree_index. tree_index data is not refreshed, so if tree 0 is used,
 
2096
        results may differ from that obtained if paths were statted to
 
2097
        determine what ones were directories.
 
2098
 
 
2099
        Asking for the children of a non-directory will return an empty
 
2100
        iterator.
 
2101
        """
 
2102
        pending_dirs = []
 
2103
        next_pending_dirs = [path_utf8]
 
2104
        absent = 'ar'
 
2105
        while next_pending_dirs:
 
2106
            pending_dirs = next_pending_dirs
 
2107
            next_pending_dirs = []
 
2108
            for path in pending_dirs:
 
2109
                block_index, present = self._find_block_index_from_key(
 
2110
                    (path, '', ''))
 
2111
                if block_index == 0:
 
2112
                    block_index = 1
 
2113
                    if len(self._dirblocks) == 1:
 
2114
                        # asked for the children of the root with no other
 
2115
                        # contents.
 
2116
                        return
 
2117
                if not present:
 
2118
                    # children of a non-directory asked for.
 
2119
                    continue
 
2120
                block = self._dirblocks[block_index]
 
2121
                for entry in block[1]:
 
2122
                    kind = entry[1][tree_index][0]
 
2123
                    if kind not in absent:
 
2124
                        yield entry
 
2125
                    if kind == 'd':
 
2126
                        if entry[0][0]:
 
2127
                            path = entry[0][0] + '/' + entry[0][1]
 
2128
                        else:
 
2129
                            path = entry[0][1]
 
2130
                        next_pending_dirs.append(path)
 
2131
 
1490
2132
    def _iter_entries(self):
1491
2133
        """Iterate over all the entries in the dirstate.
1492
2134
 
1508
2150
        return self._id_index
1509
2151
 
1510
2152
    def _get_output_lines(self, lines):
1511
 
        """format lines for final output.
 
2153
        """Format lines for final output.
1512
2154
 
1513
 
        :param lines: A sequece of lines containing the parents list and the
 
2155
        :param lines: A sequence of lines containing the parents list and the
1514
2156
            path lines.
1515
2157
        """
1516
2158
        output_lines = [DirState.HEADER_FORMAT_3]
1524
2166
        return output_lines
1525
2167
 
1526
2168
    def _make_deleted_row(self, fileid_utf8, parents):
1527
 
        """Return a deleted for for fileid_utf8."""
 
2169
        """Return a deleted row for fileid_utf8."""
1528
2170
        return ('/', 'RECYCLED.BIN', 'file', fileid_utf8, 0, DirState.NULLSTAT,
1529
2171
            ''), parents
1530
2172
 
1533
2175
        return len(self._parents) - len(self._ghosts)
1534
2176
 
1535
2177
    @staticmethod
1536
 
    def on_file(path):
1537
 
        """Construct a DirState on the file at path path.
 
2178
    def on_file(path, sha1_provider=None):
 
2179
        """Construct a DirState on the file at path "path".
1538
2180
 
 
2181
        :param path: The path at which the dirstate file on disk should live.
 
2182
        :param sha1_provider: an object meeting the SHA1Provider interface.
 
2183
            If None, a DefaultSHA1Provider is used.
1539
2184
        :return: An unlocked DirState object, associated with the given path.
1540
2185
        """
1541
 
        result = DirState(path)
 
2186
        if sha1_provider is None:
 
2187
            sha1_provider = DefaultSHA1Provider()
 
2188
        result = DirState(path, sha1_provider)
1542
2189
        return result
1543
2190
 
1544
2191
    def _read_dirblocks_if_needed(self):
1545
2192
        """Read in all the dirblocks from the file if they are not in memory.
1546
 
        
 
2193
 
1547
2194
        This populates self._dirblocks, and sets self._dirblock_state to
1548
2195
        IN_MEMORY_UNMODIFIED. It is not currently ready for incremental block
1549
2196
        loading.
1550
2197
        """
1551
2198
        self._read_header_if_needed()
1552
2199
        if self._dirblock_state == DirState.NOT_IN_MEMORY:
1553
 
            # move the _state_file pointer to after the header (in case bisect
1554
 
            # has been called in the mean time)
1555
 
            self._state_file.seek(self._end_of_header)
1556
 
            text = self._state_file.read()
1557
 
            # TODO: check the crc checksums. crc_measured = zlib.crc32(text)
1558
 
 
1559
 
            fields = text.split('\0')
1560
 
            # Remove the last blank entry
1561
 
            trailing = fields.pop()
1562
 
            assert trailing == ''
1563
 
            # consider turning fields into a tuple.
1564
 
 
1565
 
            # skip the first field which is the trailing null from the header.
1566
 
            cur = 1
1567
 
            # Each line now has an extra '\n' field which is not used
1568
 
            # so we just skip over it
1569
 
            # entry size:
1570
 
            #  3 fields for the key
1571
 
            #  + number of fields per tree_data (5) * tree count
1572
 
            #  + newline
1573
 
            num_present_parents = self._num_present_parents()
1574
 
            tree_count = 1 + num_present_parents
1575
 
            entry_size = self._fields_per_entry()
1576
 
            expected_field_count = entry_size * self._num_entries
1577
 
            field_count = len(fields)
1578
 
            # this checks our adjustment, and also catches file too short.
1579
 
            assert field_count - cur == expected_field_count, \
1580
 
                'field count incorrect %s != %s, entry_size=%s, '\
1581
 
                'num_entries=%s fields=%r' % (
1582
 
                    field_count - cur, expected_field_count, entry_size,
1583
 
                    self._num_entries, fields)
1584
 
 
1585
 
            if num_present_parents == 1:
1586
 
                # Bind external functions to local names
1587
 
                _int = int
1588
 
                # We access all fields in order, so we can just iterate over
1589
 
                # them. Grab an straight iterator over the fields. (We use an
1590
 
                # iterator because we don't want to do a lot of additions, nor
1591
 
                # do we want to do a lot of slicing)
1592
 
                next = iter(fields).next
1593
 
                # Move the iterator to the current position
1594
 
                for x in xrange(cur):
1595
 
                    next()
1596
 
                # The two blocks here are deliberate: the root block and the
1597
 
                # contents-of-root block.
1598
 
                self._dirblocks = [('', []), ('', [])]
1599
 
                current_block = self._dirblocks[0][1]
1600
 
                current_dirname = ''
1601
 
                append_entry = current_block.append
1602
 
                for count in xrange(self._num_entries):
1603
 
                    dirname = next()
1604
 
                    name = next()
1605
 
                    file_id = next()
1606
 
                    if dirname != current_dirname:
1607
 
                        # new block - different dirname
1608
 
                        current_block = []
1609
 
                        current_dirname = dirname
1610
 
                        self._dirblocks.append((current_dirname, current_block))
1611
 
                        append_entry = current_block.append
1612
 
                    # we know current_dirname == dirname, so re-use it to avoid
1613
 
                    # creating new strings
1614
 
                    entry = ((current_dirname, name, file_id),
1615
 
                             [(# Current Tree
1616
 
                                 next(),                # minikind
1617
 
                                 next(),                # fingerprint
1618
 
                                 _int(next()),          # size
1619
 
                                 next() == 'y',         # executable
1620
 
                                 next(),                # packed_stat or revision_id
1621
 
                             ),
1622
 
                             ( # Parent 1
1623
 
                                 next(),                # minikind
1624
 
                                 next(),                # fingerprint
1625
 
                                 _int(next()),          # size
1626
 
                                 next() == 'y',         # executable
1627
 
                                 next(),                # packed_stat or revision_id
1628
 
                             ),
1629
 
                             ])
1630
 
                    trailing = next()
1631
 
                    assert trailing == '\n'
1632
 
                    # append the entry to the current block
1633
 
                    append_entry(entry)
1634
 
                self._split_root_dirblock_into_contents()
1635
 
            else:
1636
 
                fields_to_entry = self._get_fields_to_entry()
1637
 
                entries = [fields_to_entry(fields[pos:pos+entry_size])
1638
 
                           for pos in xrange(cur, field_count, entry_size)]
1639
 
                self._entries_to_current_state(entries)
1640
 
            # To convert from format 2  => format 3
1641
 
            # self._dirblocks = sorted(self._dirblocks,
1642
 
            #                          key=lambda blk:blk[0].split('/'))
1643
 
            # To convert from format 3 => format 2
1644
 
            # self._dirblocks = sorted(self._dirblocks)
1645
 
            self._dirblock_state = DirState.IN_MEMORY_UNMODIFIED
 
2200
            _read_dirblocks(self)
1646
2201
 
1647
2202
    def _read_header(self):
1648
2203
        """This reads in the metadata header, and the parent ids.
1656
2211
        parent_line = self._state_file.readline()
1657
2212
        info = parent_line.split('\0')
1658
2213
        num_parents = int(info[0])
1659
 
        assert num_parents == len(info)-2, 'incorrect parent info line'
1660
2214
        self._parents = info[1:-1]
1661
 
 
1662
2215
        ghost_line = self._state_file.readline()
1663
2216
        info = ghost_line.split('\0')
1664
2217
        num_ghosts = int(info[1])
1665
 
        assert num_ghosts == len(info)-3, 'incorrect ghost info line'
1666
2218
        self._ghosts = info[2:-1]
1667
2219
        self._header_state = DirState.IN_MEMORY_UNMODIFIED
1668
2220
        self._end_of_header = self._state_file.tell()
1676
2228
            self._read_header()
1677
2229
 
1678
2230
    def _read_prelude(self):
1679
 
        """Read in the prelude header of the dirstate file
 
2231
        """Read in the prelude header of the dirstate file.
1680
2232
 
1681
2233
        This only reads in the stuff that is not connected to the crc
1682
2234
        checksum. The position will be correct to read in the rest of
1685
2237
        and their ids. Followed by a newline.
1686
2238
        """
1687
2239
        header = self._state_file.readline()
1688
 
        assert header == DirState.HEADER_FORMAT_3, \
1689
 
            'invalid header line: %r' % (header,)
 
2240
        if header != DirState.HEADER_FORMAT_3:
 
2241
            raise errors.BzrError(
 
2242
                'invalid header line: %r' % (header,))
1690
2243
        crc_line = self._state_file.readline()
1691
 
        assert crc_line.startswith('crc32: '), 'missing crc32 checksum'
 
2244
        if not crc_line.startswith('crc32: '):
 
2245
            raise errors.BzrError('missing crc32 checksum: %r' % crc_line)
1692
2246
        self.crc_expected = int(crc_line[len('crc32: '):-1])
1693
2247
        num_entries_line = self._state_file.readline()
1694
 
        assert num_entries_line.startswith('num_entries: '), 'missing num_entries line'
 
2248
        if not num_entries_line.startswith('num_entries: '):
 
2249
            raise errors.BzrError('missing num_entries line')
1695
2250
        self._num_entries = int(num_entries_line[len('num_entries: '):-1])
1696
2251
 
 
2252
    def sha1_from_stat(self, path, stat_result, _pack_stat=pack_stat):
 
2253
        """Find a sha1 given a stat lookup."""
 
2254
        return self._get_packed_stat_index().get(_pack_stat(stat_result), None)
 
2255
 
 
2256
    def _get_packed_stat_index(self):
 
2257
        """Get a packed_stat index of self._dirblocks."""
 
2258
        if self._packed_stat_index is None:
 
2259
            index = {}
 
2260
            for key, tree_details in self._iter_entries():
 
2261
                if tree_details[0][0] == 'f':
 
2262
                    index[tree_details[0][4]] = tree_details[0][1]
 
2263
            self._packed_stat_index = index
 
2264
        return self._packed_stat_index
 
2265
 
1697
2266
    def save(self):
1698
2267
        """Save any pending changes created during this session.
1699
2268
 
1700
2269
        We reuse the existing file, because that prevents race conditions with
1701
2270
        file creation, and use oslocks on it to prevent concurrent modification
1702
 
        and reads - because dirstates incremental data aggretation is not
 
2271
        and reads - because dirstate's incremental data aggregation is not
1703
2272
        compatible with reading a modified file, and replacing a file in use by
1704
 
        another process is impossible on windows.
 
2273
        another process is impossible on Windows.
1705
2274
 
1706
2275
        A dirstate in read only mode should be smart enough though to validate
1707
2276
        that the file has not changed, and otherwise discard its cache and
1708
2277
        start over, to allow for fine grained read lock duration, so 'status'
1709
2278
        wont block 'commit' - for example.
1710
2279
        """
 
2280
        if self._changes_aborted:
 
2281
            # Should this be a warning? For now, I'm expecting that places that
 
2282
            # mark it inconsistent will warn, making a warning here redundant.
 
2283
            trace.mutter('Not saving DirState because '
 
2284
                    '_changes_aborted is set.')
 
2285
            return
1711
2286
        if (self._header_state == DirState.IN_MEMORY_MODIFIED or
1712
2287
            self._dirblock_state == DirState.IN_MEMORY_MODIFIED):
1713
2288
 
1746
2321
 
1747
2322
        :param parent_ids: A list of parent tree revision ids.
1748
2323
        :param dirblocks: A list containing one tuple for each directory in the
1749
 
            tree. Each tuple contains the directory path and a list of entries 
 
2324
            tree. Each tuple contains the directory path and a list of entries
1750
2325
            found in that directory.
1751
2326
        """
1752
2327
        # our memory copy is now authoritative.
1755
2330
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
1756
2331
        self._parents = list(parent_ids)
1757
2332
        self._id_index = None
 
2333
        self._packed_stat_index = None
1758
2334
 
1759
2335
    def set_path_id(self, path, new_id):
1760
2336
        """Change the id of path to new_id in the current working tree.
1764
2340
        :param new_id: The new id to assign to the path. This must be a utf8
1765
2341
            file id (not unicode, and not None).
1766
2342
        """
1767
 
        assert new_id.__class__ == str, \
1768
 
            "path_id %r is not a plain string" % (new_id,)
1769
2343
        self._read_dirblocks_if_needed()
1770
2344
        if len(path):
1771
 
            # logic not written
 
2345
            # TODO: logic not written
1772
2346
            raise NotImplementedError(self.set_path_id)
1773
2347
        # TODO: check new id is unique
1774
2348
        entry = self._get_entry(0, path_utf8=path)
1787
2361
        """Set the parent trees for the dirstate.
1788
2362
 
1789
2363
        :param trees: A list of revision_id, tree tuples. tree must be provided
1790
 
            even if the revision_id refers to a ghost: supply an empty tree in 
 
2364
            even if the revision_id refers to a ghost: supply an empty tree in
1791
2365
            this case.
1792
2366
        :param ghosts: A list of the revision_ids that are ghosts at the time
1793
2367
            of setting.
1794
 
        """ 
1795
 
        # TODO: generate a list of parent indexes to preserve to save 
 
2368
        """
 
2369
        # TODO: generate a list of parent indexes to preserve to save
1796
2370
        # processing specific parent trees. In the common case one tree will
1797
2371
        # be preserved - the left most parent.
1798
2372
        # TODO: if the parent tree is a dirstate, we might want to walk them
1803
2377
        # map and then walk the new parent trees only, mapping them into the
1804
2378
        # dirstate. Walk the dirstate at the same time to remove unreferenced
1805
2379
        # entries.
1806
 
        # for now: 
1807
 
        # sketch: loop over all entries in the dirstate, cherry picking 
 
2380
        # for now:
 
2381
        # sketch: loop over all entries in the dirstate, cherry picking
1808
2382
        # entries from the parent trees, if they are not ghost trees.
1809
2383
        # after we finish walking the dirstate, all entries not in the dirstate
1810
2384
        # are deletes, so we want to append them to the end as per the design
1815
2389
        #   links. We dont't trivially use the inventory from other trees
1816
2390
        #   because this leads to either double touching, or to accessing
1817
2391
        #   missing keys,
1818
 
        # - find other keys containing a path 
1819
 
        # We accumulate each entry via this dictionary, including the root 
 
2392
        # - find other keys containing a path
 
2393
        # We accumulate each entry via this dictionary, including the root
1820
2394
        by_path = {}
1821
2395
        id_index = {}
1822
2396
        # we could do parallel iterators, but because file id data may be
1826
2400
        # parent, but for now the common cases are adding a new parent (merge),
1827
2401
        # and replacing completely (commit), and commit is more common: so
1828
2402
        # optimise merge later.
1829
 
        
 
2403
 
1830
2404
        # ---- start generation of full tree mapping data
1831
2405
        # what trees should we use?
1832
2406
        parent_trees = [tree for rev_id, tree in trees if rev_id not in ghosts]
1833
 
        # how many trees do we end up with 
 
2407
        # how many trees do we end up with
1834
2408
        parent_count = len(parent_trees)
1835
2409
 
1836
2410
        # one: the current tree
1837
2411
        for entry in self._iter_entries():
1838
2412
            # skip entries not in the current tree
1839
 
            if entry[1][0][0] in ('a', 'r'): # absent, relocated
 
2413
            if entry[1][0][0] in 'ar': # absent, relocated
1840
2414
                continue
1841
2415
            by_path[entry[0]] = [entry[1][0]] + \
1842
2416
                [DirState.NULL_PARENT_DETAILS] * parent_count
1843
2417
            id_index[entry[0][2]] = set([entry[0]])
1844
 
        
 
2418
 
1845
2419
        # now the parent trees:
1846
2420
        for tree_index, tree in enumerate(parent_trees):
1847
2421
            # the index is off by one, adjust it.
1861
2435
                # avoid checking all known paths for the id when generating a
1862
2436
                # new entry at this path: by adding the id->path mapping last,
1863
2437
                # all the mappings are valid and have correct relocation
1864
 
                # records where needed. 
 
2438
                # records where needed.
1865
2439
                file_id = entry.file_id
1866
2440
                path_utf8 = path.encode('utf8')
1867
2441
                dirname, basename = osutils.split(path_utf8)
1876
2450
                        # this file id is at a different path in one of the
1877
2451
                        # other trees, so put absent pointers there
1878
2452
                        # This is the vertical axis in the matrix, all pointing
1879
 
                        # tot he real path.
 
2453
                        # to the real path.
1880
2454
                        by_path[entry_key][tree_index] = ('r', path_utf8, 0, False, '')
1881
 
                # by path consistency: Insert into an existing path record (trivial), or 
 
2455
                # by path consistency: Insert into an existing path record (trivial), or
1882
2456
                # add a new one with relocation pointers for the other tree indexes.
1883
2457
                if new_entry_key in id_index[file_id]:
1884
2458
                    # there is already an entry where this data belongs, just insert it.
1897
2471
                            new_details.append(DirState.NULL_PARENT_DETAILS)
1898
2472
                        else:
1899
2473
                            # grab any one entry, use it to find the right path.
1900
 
                            # TODO: optimise this to reduce memory use in highly 
 
2474
                            # TODO: optimise this to reduce memory use in highly
1901
2475
                            # fragmented situations by reusing the relocation
1902
2476
                            # records.
1903
2477
                            a_key = iter(id_index[file_id]).next()
1930
2504
        try to keep everything in sorted blocks all the time, but sometimes
1931
2505
        it's easier to sort after the fact.
1932
2506
        """
1933
 
        # TODO: Might be faster to do a schwartzian transform?
1934
2507
        def _key(entry):
1935
2508
            # sort by: directory parts, file name, file id
1936
2509
            return entry[0][0].split('/'), entry[0][1], entry[0][2]
1937
2510
        return sorted(entry_list, key=_key)
1938
2511
 
1939
2512
    def set_state_from_inventory(self, new_inv):
1940
 
        """Set new_inv as the current state. 
 
2513
        """Set new_inv as the current state.
1941
2514
 
1942
2515
        This API is called by tree transform, and will usually occur with
1943
2516
        existing parent trees.
1944
2517
 
1945
2518
        :param new_inv: The inventory object to set current state from.
1946
2519
        """
 
2520
        if 'evil' in debug.debug_flags:
 
2521
            trace.mutter_callsite(1,
 
2522
                "set_state_from_inventory called; please mutate the tree instead")
 
2523
        tracing = 'dirstate' in debug.debug_flags
 
2524
        if tracing:
 
2525
            trace.mutter("set_state_from_inventory trace:")
1947
2526
        self._read_dirblocks_if_needed()
1948
2527
        # sketch:
1949
 
        # incremental algorithm:
1950
 
        # two iterators: current data and new data, both in dirblock order. 
 
2528
        # Two iterators: current data and new data, both in dirblock order.
 
2529
        # We zip them together, which tells about entries that are new in the
 
2530
        # inventory, or removed in the inventory, or present in both and
 
2531
        # possibly changed.
 
2532
        #
 
2533
        # You might think we could just synthesize a new dirstate directly
 
2534
        # since we're processing it in the right order.  However, we need to
 
2535
        # also consider there may be any number of parent trees and relocation
 
2536
        # pointers, and we don't want to duplicate that here.
1951
2537
        new_iterator = new_inv.iter_entries_by_dir()
1952
2538
        # we will be modifying the dirstate, so we need a stable iterator. In
1953
2539
        # future we might write one, for now we just clone the state into a
1954
 
        # list - which is a shallow copy, so each 
 
2540
        # list using a copy so that we see every original item and don't have
 
2541
        # to adjust the position when items are inserted or deleted in the
 
2542
        # underlying dirstate.
1955
2543
        old_iterator = iter(list(self._iter_entries()))
1956
2544
        # both must have roots so this is safe:
1957
2545
        current_new = new_iterator.next()
1963
2551
                return None
1964
2552
        while current_new or current_old:
1965
2553
            # skip entries in old that are not really there
1966
 
            if current_old and current_old[1][0][0] in ('r', 'a'):
 
2554
            if current_old and current_old[1][0][0] in 'ar':
1967
2555
                # relocated or absent
1968
2556
                current_old = advance(old_iterator)
1969
2557
                continue
1976
2564
                current_new_minikind = \
1977
2565
                    DirState._kind_to_minikind[current_new[1].kind]
1978
2566
                if current_new_minikind == 't':
1979
 
                    fingerprint = current_new[1].reference_revision
 
2567
                    fingerprint = current_new[1].reference_revision or ''
1980
2568
                else:
 
2569
                    # We normally only insert or remove records, or update
 
2570
                    # them when it has significantly changed.  Then we want to
 
2571
                    # erase its fingerprint.  Unaffected records should
 
2572
                    # normally not be updated at all.
1981
2573
                    fingerprint = ''
1982
2574
            else:
1983
2575
                # for safety disable variables
1984
 
                new_path_utf8 = new_dirname = new_basename = new_id = new_entry_key = None
 
2576
                new_path_utf8 = new_dirname = new_basename = new_id = \
 
2577
                    new_entry_key = None
1985
2578
            # 5 cases, we dont have a value that is strictly greater than everything, so
1986
2579
            # we make both end conditions explicit
1987
2580
            if not current_old:
1988
2581
                # old is finished: insert current_new into the state.
 
2582
                if tracing:
 
2583
                    trace.mutter("Appending from new '%s'.",
 
2584
                        new_path_utf8.decode('utf8'))
1989
2585
                self.update_minimal(new_entry_key, current_new_minikind,
1990
2586
                    executable=current_new[1].executable,
1991
 
                    path_utf8=new_path_utf8, fingerprint=fingerprint)
 
2587
                    path_utf8=new_path_utf8, fingerprint=fingerprint,
 
2588
                    fullscan=True)
1992
2589
                current_new = advance(new_iterator)
1993
2590
            elif not current_new:
1994
2591
                # new is finished
 
2592
                if tracing:
 
2593
                    trace.mutter("Truncating from old '%s/%s'.",
 
2594
                        current_old[0][0].decode('utf8'),
 
2595
                        current_old[0][1].decode('utf8'))
1995
2596
                self._make_absent(current_old)
1996
2597
                current_old = advance(old_iterator)
1997
2598
            elif new_entry_key == current_old[0]:
1998
2599
                # same -  common case
 
2600
                # We're looking at the same path and id in both the dirstate
 
2601
                # and inventory, so just need to update the fields in the
 
2602
                # dirstate from the one in the inventory.
1999
2603
                # TODO: update the record if anything significant has changed.
2000
2604
                # the minimal required trigger is if the execute bit or cached
2001
2605
                # kind has changed.
2002
2606
                if (current_old[1][0][3] != current_new[1].executable or
2003
2607
                    current_old[1][0][0] != current_new_minikind):
 
2608
                    if tracing:
 
2609
                        trace.mutter("Updating in-place change '%s'.",
 
2610
                            new_path_utf8.decode('utf8'))
2004
2611
                    self.update_minimal(current_old[0], current_new_minikind,
2005
2612
                        executable=current_new[1].executable,
2006
 
                        path_utf8=new_path_utf8, fingerprint=fingerprint)
 
2613
                        path_utf8=new_path_utf8, fingerprint=fingerprint,
 
2614
                        fullscan=True)
2007
2615
                # both sides are dealt with, move on
2008
2616
                current_old = advance(old_iterator)
2009
2617
                current_new = advance(new_iterator)
2010
 
            elif (new_entry_key[0].split('/') < current_old[0][0].split('/')
2011
 
                  and new_entry_key[1:] < current_old[0][1:]):
 
2618
            elif (cmp_by_dirs(new_dirname, current_old[0][0]) < 0
 
2619
                  or (new_dirname == current_old[0][0]
 
2620
                      and new_entry_key[1:] < current_old[0][1:])):
2012
2621
                # new comes before:
2013
2622
                # add a entry for this and advance new
 
2623
                if tracing:
 
2624
                    trace.mutter("Inserting from new '%s'.",
 
2625
                        new_path_utf8.decode('utf8'))
2014
2626
                self.update_minimal(new_entry_key, current_new_minikind,
2015
2627
                    executable=current_new[1].executable,
2016
 
                    path_utf8=new_path_utf8, fingerprint=fingerprint)
 
2628
                    path_utf8=new_path_utf8, fingerprint=fingerprint,
 
2629
                    fullscan=True)
2017
2630
                current_new = advance(new_iterator)
2018
2631
            else:
2019
 
                # old comes before:
 
2632
                # we've advanced past the place where the old key would be,
 
2633
                # without seeing it in the new list.  so it must be gone.
 
2634
                if tracing:
 
2635
                    trace.mutter("Deleting from old '%s/%s'.",
 
2636
                        current_old[0][0].decode('utf8'),
 
2637
                        current_old[0][1].decode('utf8'))
2020
2638
                self._make_absent(current_old)
2021
2639
                current_old = advance(old_iterator)
2022
2640
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
2023
2641
        self._id_index = None
 
2642
        self._packed_stat_index = None
 
2643
        if tracing:
 
2644
            trace.mutter("set_state_from_inventory complete.")
2024
2645
 
2025
2646
    def _make_absent(self, current_old):
2026
2647
        """Mark current_old - an entry - as absent for tree 0.
2027
2648
 
2028
 
        :return: True if this was the last details entry for they entry key:
 
2649
        :return: True if this was the last details entry for the entry key:
2029
2650
            that is, if the underlying block has had the entry removed, thus
2030
2651
            shrinking in length.
2031
2652
        """
2032
2653
        # build up paths that this id will be left at after the change is made,
2033
2654
        # so we can update their cross references in tree 0
2034
2655
        all_remaining_keys = set()
2035
 
        # Dont check the working tree, because its going.
 
2656
        # Dont check the working tree, because it's going.
2036
2657
        for details in current_old[1][1:]:
2037
 
            if details[0] not in ('a', 'r'): # absent, relocated
 
2658
            if details[0] not in 'ar': # absent, relocated
2038
2659
                all_remaining_keys.add(current_old[0])
2039
2660
            elif details[0] == 'r': # relocated
2040
2661
                # record the key for the real path.
2047
2668
            # Remove it, its meaningless.
2048
2669
            block = self._find_block(current_old[0])
2049
2670
            entry_index, present = self._find_entry_index(current_old[0], block[1])
2050
 
            assert present, 'could not find entry for %s' % (current_old,)
 
2671
            if not present:
 
2672
                raise AssertionError('could not find entry for %s' % (current_old,))
2051
2673
            block[1].pop(entry_index)
2052
2674
            # if we have an id_index in use, remove this key from it for this id.
2053
2675
            if self._id_index is not None:
2054
2676
                self._id_index[current_old[0][2]].remove(current_old[0])
2055
2677
        # update all remaining keys for this id to record it as absent. The
2056
 
        # existing details may either be the record we are making as deleted
 
2678
        # existing details may either be the record we are marking as deleted
2057
2679
        # (if there were other trees with the id present at this path), or may
2058
2680
        # be relocations.
2059
2681
        for update_key in all_remaining_keys:
2060
2682
            update_block_index, present = \
2061
2683
                self._find_block_index_from_key(update_key)
2062
 
            assert present, 'could not find block for %s' % (update_key,)
 
2684
            if not present:
 
2685
                raise AssertionError('could not find block for %s' % (update_key,))
2063
2686
            update_entry_index, present = \
2064
2687
                self._find_entry_index(update_key, self._dirblocks[update_block_index][1])
2065
 
            assert present, 'could not find entry for %s' % (update_key,)
 
2688
            if not present:
 
2689
                raise AssertionError('could not find entry for %s' % (update_key,))
2066
2690
            update_tree_details = self._dirblocks[update_block_index][1][update_entry_index][1]
2067
2691
            # it must not be absent at the moment
2068
 
            assert update_tree_details[0][0] != 'a' # absent
 
2692
            if update_tree_details[0][0] == 'a': # absent
 
2693
                raise AssertionError('bad row %r' % (update_tree_details,))
2069
2694
            update_tree_details[0] = DirState.NULL_PARENT_DETAILS
2070
2695
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
2071
2696
        return last_reference
2072
2697
 
2073
2698
    def update_minimal(self, key, minikind, executable=False, fingerprint='',
2074
 
                       packed_stat=None, size=0, path_utf8=None):
 
2699
        packed_stat=None, size=0, path_utf8=None, fullscan=False):
2075
2700
        """Update an entry to the state in tree 0.
2076
2701
 
2077
2702
        This will either create a new entry at 'key' or update an existing one.
2082
2707
        :param minikind: The type for the entry ('f' == 'file', 'd' ==
2083
2708
                'directory'), etc.
2084
2709
        :param executable: Should the executable bit be set?
2085
 
        :param fingerprint: Simple fingerprint for new entry.
2086
 
        :param packed_stat: packed stat value for new entry.
 
2710
        :param fingerprint: Simple fingerprint for new entry: canonical-form
 
2711
            sha1 for files, referenced revision id for subtrees, etc.
 
2712
        :param packed_stat: Packed stat value for new entry.
2087
2713
        :param size: Size information for new entry
2088
2714
        :param path_utf8: key[0] + '/' + key[1], just passed in to avoid doing
2089
2715
                extra computation.
 
2716
        :param fullscan: If True then a complete scan of the dirstate is being
 
2717
            done and checking for duplicate rows should not be done. This
 
2718
            should only be set by set_state_from_inventory and similar methods.
 
2719
 
 
2720
        If packed_stat and fingerprint are not given, they're invalidated in
 
2721
        the entry.
2090
2722
        """
2091
2723
        block = self._find_block(key)[1]
2092
2724
        if packed_stat is None:
2093
2725
            packed_stat = DirState.NULLSTAT
 
2726
        # XXX: Some callers pass '' as the packed_stat, and it seems to be
 
2727
        # sometimes present in the dirstate - this seems oddly inconsistent.
 
2728
        # mbp 20071008
2094
2729
        entry_index, present = self._find_entry_index(key, block)
2095
2730
        new_details = (minikind, fingerprint, size, executable, packed_stat)
2096
2731
        id_index = self._get_id_index()
2097
2732
        if not present:
 
2733
            # New record. Check there isn't a entry at this path already.
 
2734
            if not fullscan:
 
2735
                low_index, _ = self._find_entry_index(key[0:2] + ('',), block)
 
2736
                while low_index < len(block):
 
2737
                    entry = block[low_index]
 
2738
                    if entry[0][0:2] == key[0:2]:
 
2739
                        if entry[1][0][0] not in 'ar':
 
2740
                            # This entry has the same path (but a different id) as
 
2741
                            # the new entry we're adding, and is present in ths
 
2742
                            # tree.
 
2743
                            raise errors.InconsistentDelta(
 
2744
                                ("%s/%s" % key[0:2]).decode('utf8'), key[2],
 
2745
                                "Attempt to add item at path already occupied by "
 
2746
                                "id %r" % entry[0][2])
 
2747
                        low_index += 1
 
2748
                    else:
 
2749
                        break
2098
2750
            # new entry, synthesis cross reference here,
2099
2751
            existing_keys = id_index.setdefault(key[2], set())
2100
2752
            if not existing_keys:
2105
2757
                # grab one of them and use it to generate parent
2106
2758
                # relocation/absent entries.
2107
2759
                new_entry = key, [new_details]
2108
 
                for other_key in existing_keys:
 
2760
                # existing_keys can be changed as we iterate.
 
2761
                for other_key in tuple(existing_keys):
2109
2762
                    # change the record at other to be a pointer to this new
2110
2763
                    # record. The loop looks similar to the change to
2111
2764
                    # relocations when updating an existing record but its not:
2112
2765
                    # the test for existing kinds is different: this can be
2113
2766
                    # factored out to a helper though.
2114
 
                    other_block_index, present = self._find_block_index_from_key(other_key)
2115
 
                    assert present, 'could not find block for %s' % (other_key,)
2116
 
                    other_entry_index, present = self._find_entry_index(other_key,
2117
 
                                            self._dirblocks[other_block_index][1])
2118
 
                    assert present, 'could not find entry for %s' % (other_key,)
2119
 
                    assert path_utf8 is not None
2120
 
                    self._dirblocks[other_block_index][1][other_entry_index][1][0] = \
2121
 
                        ('r', path_utf8, 0, False, '')
 
2767
                    other_block_index, present = self._find_block_index_from_key(
 
2768
                        other_key)
 
2769
                    if not present:
 
2770
                        raise AssertionError('could not find block for %s' % (
 
2771
                            other_key,))
 
2772
                    other_block = self._dirblocks[other_block_index][1]
 
2773
                    other_entry_index, present = self._find_entry_index(
 
2774
                        other_key, other_block)
 
2775
                    if not present:
 
2776
                        raise AssertionError(
 
2777
                            'update_minimal: could not find other entry for %s'
 
2778
                            % (other_key,))
 
2779
                    if path_utf8 is None:
 
2780
                        raise AssertionError('no path')
 
2781
                    # Turn this other location into a reference to the new
 
2782
                    # location. This also updates the aliased iterator
 
2783
                    # (current_old in set_state_from_inventory) so that the old
 
2784
                    # entry, if not already examined, is skipped over by that
 
2785
                    # loop.
 
2786
                    other_entry = other_block[other_entry_index]
 
2787
                    other_entry[1][0] = ('r', path_utf8, 0, False, '')
 
2788
                    self._maybe_remove_row(other_block, other_entry_index,
 
2789
                        id_index)
2122
2790
 
 
2791
                # This loop:
 
2792
                # adds a tuple to the new details for each column
 
2793
                #  - either by copying an existing relocation pointer inside that column
 
2794
                #  - or by creating a new pointer to the right row inside that column
2123
2795
                num_present_parents = self._num_present_parents()
 
2796
                if num_present_parents:
 
2797
                    other_key = list(existing_keys)[0]
2124
2798
                for lookup_index in xrange(1, num_present_parents + 1):
2125
2799
                    # grab any one entry, use it to find the right path.
2126
 
                    # TODO: optimise this to reduce memory use in highly 
 
2800
                    # TODO: optimise this to reduce memory use in highly
2127
2801
                    # fragmented situations by reusing the relocation
2128
2802
                    # records.
2129
2803
                    update_block_index, present = \
2130
2804
                        self._find_block_index_from_key(other_key)
2131
 
                    assert present, 'could not find block for %s' % (other_key,)
 
2805
                    if not present:
 
2806
                        raise AssertionError('could not find block for %s' % (other_key,))
2132
2807
                    update_entry_index, present = \
2133
2808
                        self._find_entry_index(other_key, self._dirblocks[update_block_index][1])
2134
 
                    assert present, 'could not find entry for %s' % (other_key,)
 
2809
                    if not present:
 
2810
                        raise AssertionError('update_minimal: could not find entry for %s' % (other_key,))
2135
2811
                    update_details = self._dirblocks[update_block_index][1][update_entry_index][1][lookup_index]
2136
 
                    if update_details[0] in ('r', 'a'): # relocated, absent
 
2812
                    if update_details[0] in 'ar': # relocated, absent
2137
2813
                        # its a pointer or absent in lookup_index's tree, use
2138
2814
                        # it as is.
2139
2815
                        new_entry[1].append(update_details)
2144
2820
            block.insert(entry_index, new_entry)
2145
2821
            existing_keys.add(key)
2146
2822
        else:
2147
 
            # Does the new state matter? 
 
2823
            # Does the new state matter?
2148
2824
            block[entry_index][1][0] = new_details
2149
2825
            # parents cannot be affected by what we do.
2150
 
            # other occurences of this id can be found 
 
2826
            # other occurences of this id can be found
2151
2827
            # from the id index.
2152
2828
            # ---
2153
2829
            # tree index consistency: All other paths for this id in this tree
2155
2831
            # we may have passed entries in the state with this file id already
2156
2832
            # that were absent - where parent entries are - and they need to be
2157
2833
            # converted to relocated.
2158
 
            assert path_utf8 is not None
 
2834
            if path_utf8 is None:
 
2835
                raise AssertionError('no path')
2159
2836
            for entry_key in id_index.setdefault(key[2], set()):
2160
2837
                # TODO:PROFILING: It might be faster to just update
2161
2838
                # rather than checking if we need to, and then overwrite
2166
2843
                    # This is the vertical axis in the matrix, all pointing
2167
2844
                    # to the real path.
2168
2845
                    block_index, present = self._find_block_index_from_key(entry_key)
2169
 
                    assert present
 
2846
                    if not present:
 
2847
                        raise AssertionError('not present: %r', entry_key)
2170
2848
                    entry_index, present = self._find_entry_index(entry_key, self._dirblocks[block_index][1])
2171
 
                    assert present
 
2849
                    if not present:
 
2850
                        raise AssertionError('not present: %r', entry_key)
2172
2851
                    self._dirblocks[block_index][1][entry_index][1][0] = \
2173
2852
                        ('r', path_utf8, 0, False, '')
2174
2853
        # add a containing dirblock if needed.
2180
2859
 
2181
2860
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
2182
2861
 
 
2862
    def _maybe_remove_row(self, block, index, id_index):
 
2863
        """Remove index if it is absent or relocated across the row.
 
2864
        
 
2865
        id_index is updated accordingly.
 
2866
        """
 
2867
        present_in_row = False
 
2868
        entry = block[index]
 
2869
        for column in entry[1]:
 
2870
            if column[0] not in 'ar':
 
2871
                present_in_row = True
 
2872
                break
 
2873
        if not present_in_row:
 
2874
            block.pop(index)
 
2875
            id_index[entry[0][2]].remove(entry[0])
 
2876
 
2183
2877
    def _validate(self):
2184
2878
        """Check that invariants on the dirblock are correct.
2185
2879
 
2186
 
        This can be useful in debugging; it shouldn't be necessary in 
 
2880
        This can be useful in debugging; it shouldn't be necessary in
2187
2881
        normal code.
2188
2882
 
2189
2883
        This must be called with a lock held.
2205
2899
            if not self._dirblocks[0][0] == '':
2206
2900
                raise AssertionError(
2207
2901
                    "dirblocks don't start with root block:\n" + \
2208
 
                    pformat(dirblocks))
 
2902
                    pformat(self._dirblocks))
2209
2903
        if len(self._dirblocks) > 1:
2210
2904
            if not self._dirblocks[1][0] == '':
2211
2905
                raise AssertionError(
2212
2906
                    "dirblocks missing root directory:\n" + \
2213
 
                    pformat(dirblocks))
 
2907
                    pformat(self._dirblocks))
2214
2908
        # the dirblocks are sorted by their path components, name, and dir id
2215
2909
        dir_names = [d[0].split('/')
2216
2910
                for d in self._dirblocks[1:]]
2234
2928
                    "dirblock for %r is not sorted:\n%s" % \
2235
2929
                    (dirblock[0], pformat(dirblock)))
2236
2930
 
2237
 
 
2238
2931
        def check_valid_parent():
2239
2932
            """Check that the current entry has a valid parent.
2240
2933
 
2259
2952
        # For each file id, for each tree: either
2260
2953
        # the file id is not present at all; all rows with that id in the
2261
2954
        # key have it marked as 'absent'
2262
 
        # OR the file id is present under exactly one name; any other entries 
 
2955
        # OR the file id is present under exactly one name; any other entries
2263
2956
        # that mention that id point to the correct name.
2264
2957
        #
2265
2958
        # We check this with a dict per tree pointing either to the present
2275
2968
                "wrong number of entry details for row\n%s" \
2276
2969
                ",\nexpected %d" % \
2277
2970
                (pformat(entry), tree_count))
 
2971
            absent_positions = 0
2278
2972
            for tree_index, tree_state in enumerate(entry[1]):
2279
2973
                this_tree_map = id_path_maps[tree_index]
2280
2974
                minikind = tree_state[0]
 
2975
                if minikind in 'ar':
 
2976
                    absent_positions += 1
2281
2977
                # have we seen this id before in this column?
2282
2978
                if file_id in this_tree_map:
2283
 
                    previous_path = this_tree_map[file_id]
 
2979
                    previous_path, previous_loc = this_tree_map[file_id]
2284
2980
                    # any later mention of this file must be consistent with
2285
2981
                    # what was said before
2286
2982
                    if minikind == 'a':
2300
2996
                        # pointed to by a relocation, which must point here
2301
2997
                        if previous_path != this_path:
2302
2998
                            raise AssertionError(
2303
 
                            "entry %r inconsistent with previous path %r" % \
2304
 
                            (entry, previous_path))
 
2999
                                "entry %r inconsistent with previous path %r "
 
3000
                                "seen at %r" %
 
3001
                                (entry, previous_path, previous_loc))
2305
3002
                        check_valid_parent()
2306
3003
                else:
2307
3004
                    if minikind == 'a':
2308
3005
                        # absent; should not occur anywhere else
2309
 
                        this_tree_map[file_id] = None
 
3006
                        this_tree_map[file_id] = None, this_path
2310
3007
                    elif minikind == 'r':
2311
 
                        # relocation, must occur at expected location 
2312
 
                        this_tree_map[file_id] = tree_state[1]
 
3008
                        # relocation, must occur at expected location
 
3009
                        this_tree_map[file_id] = tree_state[1], this_path
2313
3010
                    else:
2314
 
                        this_tree_map[file_id] = this_path
 
3011
                        this_tree_map[file_id] = this_path, this_path
2315
3012
                        check_valid_parent()
 
3013
            if absent_positions == tree_count:
 
3014
                raise AssertionError(
 
3015
                    "entry %r has no data for any tree." % (entry,))
2316
3016
 
2317
3017
    def _wipe_state(self):
2318
3018
        """Forget all state information about the dirstate."""
2319
3019
        self._header_state = DirState.NOT_IN_MEMORY
2320
3020
        self._dirblock_state = DirState.NOT_IN_MEMORY
 
3021
        self._changes_aborted = False
2321
3022
        self._parents = []
2322
3023
        self._ghosts = []
2323
3024
        self._dirblocks = []
2324
3025
        self._id_index = None
 
3026
        self._packed_stat_index = None
2325
3027
        self._end_of_header = None
2326
3028
        self._cutoff_time = None
2327
3029
        self._split_path_cache = {}
2328
3030
 
2329
3031
    def lock_read(self):
2330
 
        """Acquire a read lock on the dirstate"""
 
3032
        """Acquire a read lock on the dirstate."""
2331
3033
        if self._lock_token is not None:
2332
3034
            raise errors.LockContention(self._lock_token)
2333
3035
        # TODO: jam 20070301 Rather than wiping completely, if the blocks are
2340
3042
        self._wipe_state()
2341
3043
 
2342
3044
    def lock_write(self):
2343
 
        """Acquire a write lock on the dirstate"""
 
3045
        """Acquire a write lock on the dirstate."""
2344
3046
        if self._lock_token is not None:
2345
3047
            raise errors.LockContention(self._lock_token)
2346
3048
        # TODO: jam 20070301 Rather than wiping completely, if the blocks are
2353
3055
        self._wipe_state()
2354
3056
 
2355
3057
    def unlock(self):
2356
 
        """Drop any locks held on the dirstate"""
 
3058
        """Drop any locks held on the dirstate."""
2357
3059
        if self._lock_token is None:
2358
3060
            raise errors.LockNotHeld(self)
2359
3061
        # TODO: jam 20070301 Rather than wiping completely, if the blocks are
2367
3069
        self._split_path_cache = {}
2368
3070
 
2369
3071
    def _requires_lock(self):
2370
 
        """Checks that a lock is currently held by someone on the dirstate"""
 
3072
        """Check that a lock is currently held by someone on the dirstate."""
2371
3073
        if not self._lock_token:
2372
3074
            raise errors.ObjectNotLocked(self)
2373
3075
 
2374
3076
 
2375
 
def bisect_dirblock(dirblocks, dirname, lo=0, hi=None, cache={}):
2376
 
    """Return the index where to insert dirname into the dirblocks.
2377
 
 
2378
 
    The return value idx is such that all directories blocks in dirblock[:idx]
2379
 
    have names < dirname, and all blocks in dirblock[idx:] have names >=
2380
 
    dirname.
2381
 
 
2382
 
    Optional args lo (default 0) and hi (default len(dirblocks)) bound the
2383
 
    slice of a to be searched.
 
3077
def py_update_entry(state, entry, abspath, stat_value,
 
3078
                 _stat_to_minikind=DirState._stat_to_minikind,
 
3079
                 _pack_stat=pack_stat):
 
3080
    """Update the entry based on what is actually on disk.
 
3081
 
 
3082
    This function only calculates the sha if it needs to - if the entry is
 
3083
    uncachable, or clearly different to the first parent's entry, no sha
 
3084
    is calculated, and None is returned.
 
3085
 
 
3086
    :param state: The dirstate this entry is in.
 
3087
    :param entry: This is the dirblock entry for the file in question.
 
3088
    :param abspath: The path on disk for this file.
 
3089
    :param stat_value: The stat value done on the path.
 
3090
    :return: None, or The sha1 hexdigest of the file (40 bytes) or link
 
3091
        target of a symlink.
2384
3092
    """
2385
 
    if hi is None:
2386
 
        hi = len(dirblocks)
2387
3093
    try:
2388
 
        dirname_split = cache[dirname]
 
3094
        minikind = _stat_to_minikind[stat_value.st_mode & 0170000]
2389
3095
    except KeyError:
2390
 
        dirname_split = dirname.split('/')
2391
 
        cache[dirname] = dirname_split
2392
 
    while lo < hi:
2393
 
        mid = (lo+hi)//2
2394
 
        # Grab the dirname for the current dirblock
2395
 
        cur = dirblocks[mid][0]
 
3096
        # Unhandled kind
 
3097
        return None
 
3098
    packed_stat = _pack_stat(stat_value)
 
3099
    (saved_minikind, saved_link_or_sha1, saved_file_size,
 
3100
     saved_executable, saved_packed_stat) = entry[1][0]
 
3101
 
 
3102
    if minikind == 'd' and saved_minikind == 't':
 
3103
        minikind = 't'
 
3104
    if (minikind == saved_minikind
 
3105
        and packed_stat == saved_packed_stat):
 
3106
        # The stat hasn't changed since we saved, so we can re-use the
 
3107
        # saved sha hash.
 
3108
        if minikind == 'd':
 
3109
            return None
 
3110
 
 
3111
        # size should also be in packed_stat
 
3112
        if saved_file_size == stat_value.st_size:
 
3113
            return saved_link_or_sha1
 
3114
 
 
3115
    # If we have gotten this far, that means that we need to actually
 
3116
    # process this entry.
 
3117
    link_or_sha1 = None
 
3118
    if minikind == 'f':
 
3119
        executable = state._is_executable(stat_value.st_mode,
 
3120
                                         saved_executable)
 
3121
        if state._cutoff_time is None:
 
3122
            state._sha_cutoff_time()
 
3123
        if (stat_value.st_mtime < state._cutoff_time
 
3124
            and stat_value.st_ctime < state._cutoff_time
 
3125
            and len(entry[1]) > 1
 
3126
            and entry[1][1][0] != 'a'):
 
3127
            # Could check for size changes for further optimised
 
3128
            # avoidance of sha1's. However the most prominent case of
 
3129
            # over-shaing is during initial add, which this catches.
 
3130
            # Besides, if content filtering happens, size and sha
 
3131
            # are calculated at the same time, so checking just the size
 
3132
            # gains nothing w.r.t. performance.
 
3133
            link_or_sha1 = state._sha1_file(abspath)
 
3134
            entry[1][0] = ('f', link_or_sha1, stat_value.st_size,
 
3135
                           executable, packed_stat)
 
3136
        else:
 
3137
            entry[1][0] = ('f', '', stat_value.st_size,
 
3138
                           executable, DirState.NULLSTAT)
 
3139
    elif minikind == 'd':
 
3140
        link_or_sha1 = None
 
3141
        entry[1][0] = ('d', '', 0, False, packed_stat)
 
3142
        if saved_minikind != 'd':
 
3143
            # This changed from something into a directory. Make sure we
 
3144
            # have a directory block for it. This doesn't happen very
 
3145
            # often, so this doesn't have to be super fast.
 
3146
            block_index, entry_index, dir_present, file_present = \
 
3147
                state._get_block_entry_index(entry[0][0], entry[0][1], 0)
 
3148
            state._ensure_block(block_index, entry_index,
 
3149
                               osutils.pathjoin(entry[0][0], entry[0][1]))
 
3150
    elif minikind == 'l':
 
3151
        link_or_sha1 = state._read_link(abspath, saved_link_or_sha1)
 
3152
        if state._cutoff_time is None:
 
3153
            state._sha_cutoff_time()
 
3154
        if (stat_value.st_mtime < state._cutoff_time
 
3155
            and stat_value.st_ctime < state._cutoff_time):
 
3156
            entry[1][0] = ('l', link_or_sha1, stat_value.st_size,
 
3157
                           False, packed_stat)
 
3158
        else:
 
3159
            entry[1][0] = ('l', '', stat_value.st_size,
 
3160
                           False, DirState.NULLSTAT)
 
3161
    state._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
3162
    return link_or_sha1
 
3163
 
 
3164
 
 
3165
class ProcessEntryPython(object):
 
3166
 
 
3167
    __slots__ = ["old_dirname_to_file_id", "new_dirname_to_file_id",
 
3168
        "last_source_parent", "last_target_parent", "include_unchanged",
 
3169
        "partial", "use_filesystem_for_exec", "utf8_decode",
 
3170
        "searched_specific_files", "search_specific_files",
 
3171
        "searched_exact_paths", "search_specific_file_parents", "seen_ids",
 
3172
        "state", "source_index", "target_index", "want_unversioned", "tree"]
 
3173
 
 
3174
    def __init__(self, include_unchanged, use_filesystem_for_exec,
 
3175
        search_specific_files, state, source_index, target_index,
 
3176
        want_unversioned, tree):
 
3177
        self.old_dirname_to_file_id = {}
 
3178
        self.new_dirname_to_file_id = {}
 
3179
        # Are we doing a partial iter_changes?
 
3180
        self.partial = search_specific_files != set([''])
 
3181
        # Using a list so that we can access the values and change them in
 
3182
        # nested scope. Each one is [path, file_id, entry]
 
3183
        self.last_source_parent = [None, None]
 
3184
        self.last_target_parent = [None, None]
 
3185
        self.include_unchanged = include_unchanged
 
3186
        self.use_filesystem_for_exec = use_filesystem_for_exec
 
3187
        self.utf8_decode = cache_utf8._utf8_decode
 
3188
        # for all search_indexs in each path at or under each element of
 
3189
        # search_specific_files, if the detail is relocated: add the id, and
 
3190
        # add the relocated path as one to search if its not searched already.
 
3191
        # If the detail is not relocated, add the id.
 
3192
        self.searched_specific_files = set()
 
3193
        # When we search exact paths without expanding downwards, we record
 
3194
        # that here.
 
3195
        self.searched_exact_paths = set()
 
3196
        self.search_specific_files = search_specific_files
 
3197
        # The parents up to the root of the paths we are searching.
 
3198
        # After all normal paths are returned, these specific items are returned.
 
3199
        self.search_specific_file_parents = set()
 
3200
        # The ids we've sent out in the delta.
 
3201
        self.seen_ids = set()
 
3202
        self.state = state
 
3203
        self.source_index = source_index
 
3204
        self.target_index = target_index
 
3205
        if target_index != 0:
 
3206
            # A lot of code in here depends on target_index == 0
 
3207
            raise errors.BzrError('unsupported target index')
 
3208
        self.want_unversioned = want_unversioned
 
3209
        self.tree = tree
 
3210
 
 
3211
    def _process_entry(self, entry, path_info, pathjoin=osutils.pathjoin):
 
3212
        """Compare an entry and real disk to generate delta information.
 
3213
 
 
3214
        :param path_info: top_relpath, basename, kind, lstat, abspath for
 
3215
            the path of entry. If None, then the path is considered absent in 
 
3216
            the target (Perhaps we should pass in a concrete entry for this ?)
 
3217
            Basename is returned as a utf8 string because we expect this
 
3218
            tuple will be ignored, and don't want to take the time to
 
3219
            decode.
 
3220
        :return: (iter_changes_result, changed). If the entry has not been
 
3221
            handled then changed is None. Otherwise it is False if no content
 
3222
            or metadata changes have occurred, and True if any content or
 
3223
            metadata change has occurred. If self.include_unchanged is True then
 
3224
            if changed is not None, iter_changes_result will always be a result
 
3225
            tuple. Otherwise, iter_changes_result is None unless changed is
 
3226
            True.
 
3227
        """
 
3228
        if self.source_index is None:
 
3229
            source_details = DirState.NULL_PARENT_DETAILS
 
3230
        else:
 
3231
            source_details = entry[1][self.source_index]
 
3232
        target_details = entry[1][self.target_index]
 
3233
        target_minikind = target_details[0]
 
3234
        if path_info is not None and target_minikind in 'fdlt':
 
3235
            if not (self.target_index == 0):
 
3236
                raise AssertionError()
 
3237
            link_or_sha1 = update_entry(self.state, entry,
 
3238
                abspath=path_info[4], stat_value=path_info[3])
 
3239
            # The entry may have been modified by update_entry
 
3240
            target_details = entry[1][self.target_index]
 
3241
            target_minikind = target_details[0]
 
3242
        else:
 
3243
            link_or_sha1 = None
 
3244
        file_id = entry[0][2]
 
3245
        source_minikind = source_details[0]
 
3246
        if source_minikind in 'fdltr' and target_minikind in 'fdlt':
 
3247
            # claimed content in both: diff
 
3248
            #   r    | fdlt   |      | add source to search, add id path move and perform
 
3249
            #        |        |      | diff check on source-target
 
3250
            #   r    | fdlt   |  a   | dangling file that was present in the basis.
 
3251
            #        |        |      | ???
 
3252
            if source_minikind in 'r':
 
3253
                # add the source to the search path to find any children it
 
3254
                # has.  TODO ? : only add if it is a container ?
 
3255
                if not osutils.is_inside_any(self.searched_specific_files,
 
3256
                                             source_details[1]):
 
3257
                    self.search_specific_files.add(source_details[1])
 
3258
                # generate the old path; this is needed for stating later
 
3259
                # as well.
 
3260
                old_path = source_details[1]
 
3261
                old_dirname, old_basename = os.path.split(old_path)
 
3262
                path = pathjoin(entry[0][0], entry[0][1])
 
3263
                old_entry = self.state._get_entry(self.source_index,
 
3264
                                             path_utf8=old_path)
 
3265
                # update the source details variable to be the real
 
3266
                # location.
 
3267
                if old_entry == (None, None):
 
3268
                    raise errors.CorruptDirstate(self.state._filename,
 
3269
                        "entry '%s/%s' is considered renamed from %r"
 
3270
                        " but source does not exist\n"
 
3271
                        "entry: %s" % (entry[0][0], entry[0][1], old_path, entry))
 
3272
                source_details = old_entry[1][self.source_index]
 
3273
                source_minikind = source_details[0]
 
3274
            else:
 
3275
                old_dirname = entry[0][0]
 
3276
                old_basename = entry[0][1]
 
3277
                old_path = path = None
 
3278
            if path_info is None:
 
3279
                # the file is missing on disk, show as removed.
 
3280
                content_change = True
 
3281
                target_kind = None
 
3282
                target_exec = False
 
3283
            else:
 
3284
                # source and target are both versioned and disk file is present.
 
3285
                target_kind = path_info[2]
 
3286
                if target_kind == 'directory':
 
3287
                    if path is None:
 
3288
                        old_path = path = pathjoin(old_dirname, old_basename)
 
3289
                    self.new_dirname_to_file_id[path] = file_id
 
3290
                    if source_minikind != 'd':
 
3291
                        content_change = True
 
3292
                    else:
 
3293
                        # directories have no fingerprint
 
3294
                        content_change = False
 
3295
                    target_exec = False
 
3296
                elif target_kind == 'file':
 
3297
                    if source_minikind != 'f':
 
3298
                        content_change = True
 
3299
                    else:
 
3300
                        # Check the sha. We can't just rely on the size as
 
3301
                        # content filtering may mean differ sizes actually
 
3302
                        # map to the same content
 
3303
                        if link_or_sha1 is None:
 
3304
                            # Stat cache miss:
 
3305
                            statvalue, link_or_sha1 = \
 
3306
                                self.state._sha1_provider.stat_and_sha1(
 
3307
                                path_info[4])
 
3308
                            self.state._observed_sha1(entry, link_or_sha1,
 
3309
                                statvalue)
 
3310
                        content_change = (link_or_sha1 != source_details[1])
 
3311
                    # Target details is updated at update_entry time
 
3312
                    if self.use_filesystem_for_exec:
 
3313
                        # We don't need S_ISREG here, because we are sure
 
3314
                        # we are dealing with a file.
 
3315
                        target_exec = bool(stat.S_IEXEC & path_info[3].st_mode)
 
3316
                    else:
 
3317
                        target_exec = target_details[3]
 
3318
                elif target_kind == 'symlink':
 
3319
                    if source_minikind != 'l':
 
3320
                        content_change = True
 
3321
                    else:
 
3322
                        content_change = (link_or_sha1 != source_details[1])
 
3323
                    target_exec = False
 
3324
                elif target_kind == 'tree-reference':
 
3325
                    if source_minikind != 't':
 
3326
                        content_change = True
 
3327
                    else:
 
3328
                        content_change = False
 
3329
                    target_exec = False
 
3330
                else:
 
3331
                    if path is None:
 
3332
                        path = pathjoin(old_dirname, old_basename)
 
3333
                    raise errors.BadFileKindError(path, path_info[2])
 
3334
            if source_minikind == 'd':
 
3335
                if path is None:
 
3336
                    old_path = path = pathjoin(old_dirname, old_basename)
 
3337
                self.old_dirname_to_file_id[old_path] = file_id
 
3338
            # parent id is the entry for the path in the target tree
 
3339
            if old_basename and old_dirname == self.last_source_parent[0]:
 
3340
                source_parent_id = self.last_source_parent[1]
 
3341
            else:
 
3342
                try:
 
3343
                    source_parent_id = self.old_dirname_to_file_id[old_dirname]
 
3344
                except KeyError:
 
3345
                    source_parent_entry = self.state._get_entry(self.source_index,
 
3346
                                                           path_utf8=old_dirname)
 
3347
                    source_parent_id = source_parent_entry[0][2]
 
3348
                if source_parent_id == entry[0][2]:
 
3349
                    # This is the root, so the parent is None
 
3350
                    source_parent_id = None
 
3351
                else:
 
3352
                    self.last_source_parent[0] = old_dirname
 
3353
                    self.last_source_parent[1] = source_parent_id
 
3354
            new_dirname = entry[0][0]
 
3355
            if entry[0][1] and new_dirname == self.last_target_parent[0]:
 
3356
                target_parent_id = self.last_target_parent[1]
 
3357
            else:
 
3358
                try:
 
3359
                    target_parent_id = self.new_dirname_to_file_id[new_dirname]
 
3360
                except KeyError:
 
3361
                    # TODO: We don't always need to do the lookup, because the
 
3362
                    #       parent entry will be the same as the source entry.
 
3363
                    target_parent_entry = self.state._get_entry(self.target_index,
 
3364
                                                           path_utf8=new_dirname)
 
3365
                    if target_parent_entry == (None, None):
 
3366
                        raise AssertionError(
 
3367
                            "Could not find target parent in wt: %s\nparent of: %s"
 
3368
                            % (new_dirname, entry))
 
3369
                    target_parent_id = target_parent_entry[0][2]
 
3370
                if target_parent_id == entry[0][2]:
 
3371
                    # This is the root, so the parent is None
 
3372
                    target_parent_id = None
 
3373
                else:
 
3374
                    self.last_target_parent[0] = new_dirname
 
3375
                    self.last_target_parent[1] = target_parent_id
 
3376
 
 
3377
            source_exec = source_details[3]
 
3378
            changed = (content_change
 
3379
                or source_parent_id != target_parent_id
 
3380
                or old_basename != entry[0][1]
 
3381
                or source_exec != target_exec
 
3382
                )
 
3383
            if not changed and not self.include_unchanged:
 
3384
                return None, False
 
3385
            else:
 
3386
                if old_path is None:
 
3387
                    old_path = path = pathjoin(old_dirname, old_basename)
 
3388
                    old_path_u = self.utf8_decode(old_path)[0]
 
3389
                    path_u = old_path_u
 
3390
                else:
 
3391
                    old_path_u = self.utf8_decode(old_path)[0]
 
3392
                    if old_path == path:
 
3393
                        path_u = old_path_u
 
3394
                    else:
 
3395
                        path_u = self.utf8_decode(path)[0]
 
3396
                source_kind = DirState._minikind_to_kind[source_minikind]
 
3397
                return (entry[0][2],
 
3398
                       (old_path_u, path_u),
 
3399
                       content_change,
 
3400
                       (True, True),
 
3401
                       (source_parent_id, target_parent_id),
 
3402
                       (self.utf8_decode(old_basename)[0], self.utf8_decode(entry[0][1])[0]),
 
3403
                       (source_kind, target_kind),
 
3404
                       (source_exec, target_exec)), changed
 
3405
        elif source_minikind in 'a' and target_minikind in 'fdlt':
 
3406
            # looks like a new file
 
3407
            path = pathjoin(entry[0][0], entry[0][1])
 
3408
            # parent id is the entry for the path in the target tree
 
3409
            # TODO: these are the same for an entire directory: cache em.
 
3410
            parent_id = self.state._get_entry(self.target_index,
 
3411
                                         path_utf8=entry[0][0])[0][2]
 
3412
            if parent_id == entry[0][2]:
 
3413
                parent_id = None
 
3414
            if path_info is not None:
 
3415
                # Present on disk:
 
3416
                if self.use_filesystem_for_exec:
 
3417
                    # We need S_ISREG here, because we aren't sure if this
 
3418
                    # is a file or not.
 
3419
                    target_exec = bool(
 
3420
                        stat.S_ISREG(path_info[3].st_mode)
 
3421
                        and stat.S_IEXEC & path_info[3].st_mode)
 
3422
                else:
 
3423
                    target_exec = target_details[3]
 
3424
                return (entry[0][2],
 
3425
                       (None, self.utf8_decode(path)[0]),
 
3426
                       True,
 
3427
                       (False, True),
 
3428
                       (None, parent_id),
 
3429
                       (None, self.utf8_decode(entry[0][1])[0]),
 
3430
                       (None, path_info[2]),
 
3431
                       (None, target_exec)), True
 
3432
            else:
 
3433
                # Its a missing file, report it as such.
 
3434
                return (entry[0][2],
 
3435
                       (None, self.utf8_decode(path)[0]),
 
3436
                       False,
 
3437
                       (False, True),
 
3438
                       (None, parent_id),
 
3439
                       (None, self.utf8_decode(entry[0][1])[0]),
 
3440
                       (None, None),
 
3441
                       (None, False)), True
 
3442
        elif source_minikind in 'fdlt' and target_minikind in 'a':
 
3443
            # unversioned, possibly, or possibly not deleted: we dont care.
 
3444
            # if its still on disk, *and* theres no other entry at this
 
3445
            # path [we dont know this in this routine at the moment -
 
3446
            # perhaps we should change this - then it would be an unknown.
 
3447
            old_path = pathjoin(entry[0][0], entry[0][1])
 
3448
            # parent id is the entry for the path in the target tree
 
3449
            parent_id = self.state._get_entry(self.source_index, path_utf8=entry[0][0])[0][2]
 
3450
            if parent_id == entry[0][2]:
 
3451
                parent_id = None
 
3452
            return (entry[0][2],
 
3453
                   (self.utf8_decode(old_path)[0], None),
 
3454
                   True,
 
3455
                   (True, False),
 
3456
                   (parent_id, None),
 
3457
                   (self.utf8_decode(entry[0][1])[0], None),
 
3458
                   (DirState._minikind_to_kind[source_minikind], None),
 
3459
                   (source_details[3], None)), True
 
3460
        elif source_minikind in 'fdlt' and target_minikind in 'r':
 
3461
            # a rename; could be a true rename, or a rename inherited from
 
3462
            # a renamed parent. TODO: handle this efficiently. Its not
 
3463
            # common case to rename dirs though, so a correct but slow
 
3464
            # implementation will do.
 
3465
            if not osutils.is_inside_any(self.searched_specific_files, target_details[1]):
 
3466
                self.search_specific_files.add(target_details[1])
 
3467
        elif source_minikind in 'ra' and target_minikind in 'ra':
 
3468
            # neither of the selected trees contain this file,
 
3469
            # so skip over it. This is not currently directly tested, but
 
3470
            # is indirectly via test_too_much.TestCommands.test_conflicts.
 
3471
            pass
 
3472
        else:
 
3473
            raise AssertionError("don't know how to compare "
 
3474
                "source_minikind=%r, target_minikind=%r"
 
3475
                % (source_minikind, target_minikind))
 
3476
            ## import pdb;pdb.set_trace()
 
3477
        return None, None
 
3478
 
 
3479
    def __iter__(self):
 
3480
        return self
 
3481
 
 
3482
    def _gather_result_for_consistency(self, result):
 
3483
        """Check a result we will yield to make sure we are consistent later.
 
3484
        
 
3485
        This gathers result's parents into a set to output later.
 
3486
 
 
3487
        :param result: A result tuple.
 
3488
        """
 
3489
        if not self.partial or not result[0]:
 
3490
            return
 
3491
        self.seen_ids.add(result[0])
 
3492
        new_path = result[1][1]
 
3493
        if new_path:
 
3494
            # Not the root and not a delete: queue up the parents of the path.
 
3495
            self.search_specific_file_parents.update(
 
3496
                osutils.parent_directories(new_path.encode('utf8')))
 
3497
            # Add the root directory which parent_directories does not
 
3498
            # provide.
 
3499
            self.search_specific_file_parents.add('')
 
3500
 
 
3501
    def iter_changes(self):
 
3502
        """Iterate over the changes."""
 
3503
        utf8_decode = cache_utf8._utf8_decode
 
3504
        _cmp_by_dirs = cmp_by_dirs
 
3505
        _process_entry = self._process_entry
 
3506
        search_specific_files = self.search_specific_files
 
3507
        searched_specific_files = self.searched_specific_files
 
3508
        splitpath = osutils.splitpath
 
3509
        # sketch:
 
3510
        # compare source_index and target_index at or under each element of search_specific_files.
 
3511
        # follow the following comparison table. Note that we only want to do diff operations when
 
3512
        # the target is fdl because thats when the walkdirs logic will have exposed the pathinfo
 
3513
        # for the target.
 
3514
        # cases:
 
3515
        #
 
3516
        # Source | Target | disk | action
 
3517
        #   r    | fdlt   |      | add source to search, add id path move and perform
 
3518
        #        |        |      | diff check on source-target
 
3519
        #   r    | fdlt   |  a   | dangling file that was present in the basis.
 
3520
        #        |        |      | ???
 
3521
        #   r    |  a     |      | add source to search
 
3522
        #   r    |  a     |  a   |
 
3523
        #   r    |  r     |      | this path is present in a non-examined tree, skip.
 
3524
        #   r    |  r     |  a   | this path is present in a non-examined tree, skip.
 
3525
        #   a    | fdlt   |      | add new id
 
3526
        #   a    | fdlt   |  a   | dangling locally added file, skip
 
3527
        #   a    |  a     |      | not present in either tree, skip
 
3528
        #   a    |  a     |  a   | not present in any tree, skip
 
3529
        #   a    |  r     |      | not present in either tree at this path, skip as it
 
3530
        #        |        |      | may not be selected by the users list of paths.
 
3531
        #   a    |  r     |  a   | not present in either tree at this path, skip as it
 
3532
        #        |        |      | may not be selected by the users list of paths.
 
3533
        #  fdlt  | fdlt   |      | content in both: diff them
 
3534
        #  fdlt  | fdlt   |  a   | deleted locally, but not unversioned - show as deleted ?
 
3535
        #  fdlt  |  a     |      | unversioned: output deleted id for now
 
3536
        #  fdlt  |  a     |  a   | unversioned and deleted: output deleted id
 
3537
        #  fdlt  |  r     |      | relocated in this tree, so add target to search.
 
3538
        #        |        |      | Dont diff, we will see an r,fd; pair when we reach
 
3539
        #        |        |      | this id at the other path.
 
3540
        #  fdlt  |  r     |  a   | relocated in this tree, so add target to search.
 
3541
        #        |        |      | Dont diff, we will see an r,fd; pair when we reach
 
3542
        #        |        |      | this id at the other path.
 
3543
 
 
3544
        # TODO: jam 20070516 - Avoid the _get_entry lookup overhead by
 
3545
        #       keeping a cache of directories that we have seen.
 
3546
 
 
3547
        while search_specific_files:
 
3548
            # TODO: the pending list should be lexically sorted?  the
 
3549
            # interface doesn't require it.
 
3550
            current_root = search_specific_files.pop()
 
3551
            current_root_unicode = current_root.decode('utf8')
 
3552
            searched_specific_files.add(current_root)
 
3553
            # process the entries for this containing directory: the rest will be
 
3554
            # found by their parents recursively.
 
3555
            root_entries = self.state._entries_for_path(current_root)
 
3556
            root_abspath = self.tree.abspath(current_root_unicode)
 
3557
            try:
 
3558
                root_stat = os.lstat(root_abspath)
 
3559
            except OSError, e:
 
3560
                if e.errno == errno.ENOENT:
 
3561
                    # the path does not exist: let _process_entry know that.
 
3562
                    root_dir_info = None
 
3563
                else:
 
3564
                    # some other random error: hand it up.
 
3565
                    raise
 
3566
            else:
 
3567
                root_dir_info = ('', current_root,
 
3568
                    osutils.file_kind_from_stat_mode(root_stat.st_mode), root_stat,
 
3569
                    root_abspath)
 
3570
                if root_dir_info[2] == 'directory':
 
3571
                    if self.tree._directory_is_tree_reference(
 
3572
                        current_root.decode('utf8')):
 
3573
                        root_dir_info = root_dir_info[:2] + \
 
3574
                            ('tree-reference',) + root_dir_info[3:]
 
3575
 
 
3576
            if not root_entries and not root_dir_info:
 
3577
                # this specified path is not present at all, skip it.
 
3578
                continue
 
3579
            path_handled = False
 
3580
            for entry in root_entries:
 
3581
                result, changed = _process_entry(entry, root_dir_info)
 
3582
                if changed is not None:
 
3583
                    path_handled = True
 
3584
                    if changed:
 
3585
                        self._gather_result_for_consistency(result)
 
3586
                    if changed or self.include_unchanged:
 
3587
                        yield result
 
3588
            if self.want_unversioned and not path_handled and root_dir_info:
 
3589
                new_executable = bool(
 
3590
                    stat.S_ISREG(root_dir_info[3].st_mode)
 
3591
                    and stat.S_IEXEC & root_dir_info[3].st_mode)
 
3592
                yield (None,
 
3593
                       (None, current_root_unicode),
 
3594
                       True,
 
3595
                       (False, False),
 
3596
                       (None, None),
 
3597
                       (None, splitpath(current_root_unicode)[-1]),
 
3598
                       (None, root_dir_info[2]),
 
3599
                       (None, new_executable)
 
3600
                      )
 
3601
            initial_key = (current_root, '', '')
 
3602
            block_index, _ = self.state._find_block_index_from_key(initial_key)
 
3603
            if block_index == 0:
 
3604
                # we have processed the total root already, but because the
 
3605
                # initial key matched it we should skip it here.
 
3606
                block_index +=1
 
3607
            if root_dir_info and root_dir_info[2] == 'tree-reference':
 
3608
                current_dir_info = None
 
3609
            else:
 
3610
                dir_iterator = osutils._walkdirs_utf8(root_abspath, prefix=current_root)
 
3611
                try:
 
3612
                    current_dir_info = dir_iterator.next()
 
3613
                except OSError, e:
 
3614
                    # on win32, python2.4 has e.errno == ERROR_DIRECTORY, but
 
3615
                    # python 2.5 has e.errno == EINVAL,
 
3616
                    #            and e.winerror == ERROR_DIRECTORY
 
3617
                    e_winerror = getattr(e, 'winerror', None)
 
3618
                    win_errors = (ERROR_DIRECTORY, ERROR_PATH_NOT_FOUND)
 
3619
                    # there may be directories in the inventory even though
 
3620
                    # this path is not a file on disk: so mark it as end of
 
3621
                    # iterator
 
3622
                    if e.errno in (errno.ENOENT, errno.ENOTDIR, errno.EINVAL):
 
3623
                        current_dir_info = None
 
3624
                    elif (sys.platform == 'win32'
 
3625
                          and (e.errno in win_errors
 
3626
                               or e_winerror in win_errors)):
 
3627
                        current_dir_info = None
 
3628
                    else:
 
3629
                        raise
 
3630
                else:
 
3631
                    if current_dir_info[0][0] == '':
 
3632
                        # remove .bzr from iteration
 
3633
                        bzr_index = bisect.bisect_left(current_dir_info[1], ('.bzr',))
 
3634
                        if current_dir_info[1][bzr_index][0] != '.bzr':
 
3635
                            raise AssertionError()
 
3636
                        del current_dir_info[1][bzr_index]
 
3637
            # walk until both the directory listing and the versioned metadata
 
3638
            # are exhausted.
 
3639
            if (block_index < len(self.state._dirblocks) and
 
3640
                osutils.is_inside(current_root, self.state._dirblocks[block_index][0])):
 
3641
                current_block = self.state._dirblocks[block_index]
 
3642
            else:
 
3643
                current_block = None
 
3644
            while (current_dir_info is not None or
 
3645
                   current_block is not None):
 
3646
                if (current_dir_info and current_block
 
3647
                    and current_dir_info[0][0] != current_block[0]):
 
3648
                    if _cmp_by_dirs(current_dir_info[0][0], current_block[0]) < 0:
 
3649
                        # filesystem data refers to paths not covered by the dirblock.
 
3650
                        # this has two possibilities:
 
3651
                        # A) it is versioned but empty, so there is no block for it
 
3652
                        # B) it is not versioned.
 
3653
 
 
3654
                        # if (A) then we need to recurse into it to check for
 
3655
                        # new unknown files or directories.
 
3656
                        # if (B) then we should ignore it, because we don't
 
3657
                        # recurse into unknown directories.
 
3658
                        path_index = 0
 
3659
                        while path_index < len(current_dir_info[1]):
 
3660
                                current_path_info = current_dir_info[1][path_index]
 
3661
                                if self.want_unversioned:
 
3662
                                    if current_path_info[2] == 'directory':
 
3663
                                        if self.tree._directory_is_tree_reference(
 
3664
                                            current_path_info[0].decode('utf8')):
 
3665
                                            current_path_info = current_path_info[:2] + \
 
3666
                                                ('tree-reference',) + current_path_info[3:]
 
3667
                                    new_executable = bool(
 
3668
                                        stat.S_ISREG(current_path_info[3].st_mode)
 
3669
                                        and stat.S_IEXEC & current_path_info[3].st_mode)
 
3670
                                    yield (None,
 
3671
                                        (None, utf8_decode(current_path_info[0])[0]),
 
3672
                                        True,
 
3673
                                        (False, False),
 
3674
                                        (None, None),
 
3675
                                        (None, utf8_decode(current_path_info[1])[0]),
 
3676
                                        (None, current_path_info[2]),
 
3677
                                        (None, new_executable))
 
3678
                                # dont descend into this unversioned path if it is
 
3679
                                # a dir
 
3680
                                if current_path_info[2] in ('directory',
 
3681
                                                            'tree-reference'):
 
3682
                                    del current_dir_info[1][path_index]
 
3683
                                    path_index -= 1
 
3684
                                path_index += 1
 
3685
 
 
3686
                        # This dir info has been handled, go to the next
 
3687
                        try:
 
3688
                            current_dir_info = dir_iterator.next()
 
3689
                        except StopIteration:
 
3690
                            current_dir_info = None
 
3691
                    else:
 
3692
                        # We have a dirblock entry for this location, but there
 
3693
                        # is no filesystem path for this. This is most likely
 
3694
                        # because a directory was removed from the disk.
 
3695
                        # We don't have to report the missing directory,
 
3696
                        # because that should have already been handled, but we
 
3697
                        # need to handle all of the files that are contained
 
3698
                        # within.
 
3699
                        for current_entry in current_block[1]:
 
3700
                            # entry referring to file not present on disk.
 
3701
                            # advance the entry only, after processing.
 
3702
                            result, changed = _process_entry(current_entry, None)
 
3703
                            if changed is not None:
 
3704
                                if changed:
 
3705
                                    self._gather_result_for_consistency(result)
 
3706
                                if changed or self.include_unchanged:
 
3707
                                    yield result
 
3708
                        block_index +=1
 
3709
                        if (block_index < len(self.state._dirblocks) and
 
3710
                            osutils.is_inside(current_root,
 
3711
                                              self.state._dirblocks[block_index][0])):
 
3712
                            current_block = self.state._dirblocks[block_index]
 
3713
                        else:
 
3714
                            current_block = None
 
3715
                    continue
 
3716
                entry_index = 0
 
3717
                if current_block and entry_index < len(current_block[1]):
 
3718
                    current_entry = current_block[1][entry_index]
 
3719
                else:
 
3720
                    current_entry = None
 
3721
                advance_entry = True
 
3722
                path_index = 0
 
3723
                if current_dir_info and path_index < len(current_dir_info[1]):
 
3724
                    current_path_info = current_dir_info[1][path_index]
 
3725
                    if current_path_info[2] == 'directory':
 
3726
                        if self.tree._directory_is_tree_reference(
 
3727
                            current_path_info[0].decode('utf8')):
 
3728
                            current_path_info = current_path_info[:2] + \
 
3729
                                ('tree-reference',) + current_path_info[3:]
 
3730
                else:
 
3731
                    current_path_info = None
 
3732
                advance_path = True
 
3733
                path_handled = False
 
3734
                while (current_entry is not None or
 
3735
                    current_path_info is not None):
 
3736
                    if current_entry is None:
 
3737
                        # the check for path_handled when the path is advanced
 
3738
                        # will yield this path if needed.
 
3739
                        pass
 
3740
                    elif current_path_info is None:
 
3741
                        # no path is fine: the per entry code will handle it.
 
3742
                        result, changed = _process_entry(current_entry, current_path_info)
 
3743
                        if changed is not None:
 
3744
                            if changed:
 
3745
                                self._gather_result_for_consistency(result)
 
3746
                            if changed or self.include_unchanged:
 
3747
                                yield result
 
3748
                    elif (current_entry[0][1] != current_path_info[1]
 
3749
                          or current_entry[1][self.target_index][0] in 'ar'):
 
3750
                        # The current path on disk doesn't match the dirblock
 
3751
                        # record. Either the dirblock is marked as absent, or
 
3752
                        # the file on disk is not present at all in the
 
3753
                        # dirblock. Either way, report about the dirblock
 
3754
                        # entry, and let other code handle the filesystem one.
 
3755
 
 
3756
                        # Compare the basename for these files to determine
 
3757
                        # which comes first
 
3758
                        if current_path_info[1] < current_entry[0][1]:
 
3759
                            # extra file on disk: pass for now, but only
 
3760
                            # increment the path, not the entry
 
3761
                            advance_entry = False
 
3762
                        else:
 
3763
                            # entry referring to file not present on disk.
 
3764
                            # advance the entry only, after processing.
 
3765
                            result, changed = _process_entry(current_entry, None)
 
3766
                            if changed is not None:
 
3767
                                if changed:
 
3768
                                    self._gather_result_for_consistency(result)
 
3769
                                if changed or self.include_unchanged:
 
3770
                                    yield result
 
3771
                            advance_path = False
 
3772
                    else:
 
3773
                        result, changed = _process_entry(current_entry, current_path_info)
 
3774
                        if changed is not None:
 
3775
                            path_handled = True
 
3776
                            if changed:
 
3777
                                self._gather_result_for_consistency(result)
 
3778
                            if changed or self.include_unchanged:
 
3779
                                yield result
 
3780
                    if advance_entry and current_entry is not None:
 
3781
                        entry_index += 1
 
3782
                        if entry_index < len(current_block[1]):
 
3783
                            current_entry = current_block[1][entry_index]
 
3784
                        else:
 
3785
                            current_entry = None
 
3786
                    else:
 
3787
                        advance_entry = True # reset the advance flaga
 
3788
                    if advance_path and current_path_info is not None:
 
3789
                        if not path_handled:
 
3790
                            # unversioned in all regards
 
3791
                            if self.want_unversioned:
 
3792
                                new_executable = bool(
 
3793
                                    stat.S_ISREG(current_path_info[3].st_mode)
 
3794
                                    and stat.S_IEXEC & current_path_info[3].st_mode)
 
3795
                                try:
 
3796
                                    relpath_unicode = utf8_decode(current_path_info[0])[0]
 
3797
                                except UnicodeDecodeError:
 
3798
                                    raise errors.BadFilenameEncoding(
 
3799
                                        current_path_info[0], osutils._fs_enc)
 
3800
                                yield (None,
 
3801
                                    (None, relpath_unicode),
 
3802
                                    True,
 
3803
                                    (False, False),
 
3804
                                    (None, None),
 
3805
                                    (None, utf8_decode(current_path_info[1])[0]),
 
3806
                                    (None, current_path_info[2]),
 
3807
                                    (None, new_executable))
 
3808
                            # dont descend into this unversioned path if it is
 
3809
                            # a dir
 
3810
                            if current_path_info[2] in ('directory'):
 
3811
                                del current_dir_info[1][path_index]
 
3812
                                path_index -= 1
 
3813
                        # dont descend the disk iterator into any tree
 
3814
                        # paths.
 
3815
                        if current_path_info[2] == 'tree-reference':
 
3816
                            del current_dir_info[1][path_index]
 
3817
                            path_index -= 1
 
3818
                        path_index += 1
 
3819
                        if path_index < len(current_dir_info[1]):
 
3820
                            current_path_info = current_dir_info[1][path_index]
 
3821
                            if current_path_info[2] == 'directory':
 
3822
                                if self.tree._directory_is_tree_reference(
 
3823
                                    current_path_info[0].decode('utf8')):
 
3824
                                    current_path_info = current_path_info[:2] + \
 
3825
                                        ('tree-reference',) + current_path_info[3:]
 
3826
                        else:
 
3827
                            current_path_info = None
 
3828
                        path_handled = False
 
3829
                    else:
 
3830
                        advance_path = True # reset the advance flagg.
 
3831
                if current_block is not None:
 
3832
                    block_index += 1
 
3833
                    if (block_index < len(self.state._dirblocks) and
 
3834
                        osutils.is_inside(current_root, self.state._dirblocks[block_index][0])):
 
3835
                        current_block = self.state._dirblocks[block_index]
 
3836
                    else:
 
3837
                        current_block = None
 
3838
                if current_dir_info is not None:
 
3839
                    try:
 
3840
                        current_dir_info = dir_iterator.next()
 
3841
                    except StopIteration:
 
3842
                        current_dir_info = None
 
3843
        for result in self._iter_specific_file_parents():
 
3844
            yield result
 
3845
 
 
3846
    def _iter_specific_file_parents(self):
 
3847
        """Iter over the specific file parents."""
 
3848
        while self.search_specific_file_parents:
 
3849
            # Process the parent directories for the paths we were iterating.
 
3850
            # Even in extremely large trees this should be modest, so currently
 
3851
            # no attempt is made to optimise.
 
3852
            path_utf8 = self.search_specific_file_parents.pop()
 
3853
            if osutils.is_inside_any(self.searched_specific_files, path_utf8):
 
3854
                # We've examined this path.
 
3855
                continue
 
3856
            if path_utf8 in self.searched_exact_paths:
 
3857
                # We've examined this path.
 
3858
                continue
 
3859
            path_entries = self.state._entries_for_path(path_utf8)
 
3860
            # We need either one or two entries. If the path in
 
3861
            # self.target_index has moved (so the entry in source_index is in
 
3862
            # 'ar') then we need to also look for the entry for this path in
 
3863
            # self.source_index, to output the appropriate delete-or-rename.
 
3864
            selected_entries = []
 
3865
            found_item = False
 
3866
            for candidate_entry in path_entries:
 
3867
                # Find entries present in target at this path:
 
3868
                if candidate_entry[1][self.target_index][0] not in 'ar':
 
3869
                    found_item = True
 
3870
                    selected_entries.append(candidate_entry)
 
3871
                # Find entries present in source at this path:
 
3872
                elif (self.source_index is not None and
 
3873
                    candidate_entry[1][self.source_index][0] not in 'ar'):
 
3874
                    found_item = True
 
3875
                    if candidate_entry[1][self.target_index][0] == 'a':
 
3876
                        # Deleted, emit it here.
 
3877
                        selected_entries.append(candidate_entry)
 
3878
                    else:
 
3879
                        # renamed, emit it when we process the directory it
 
3880
                        # ended up at.
 
3881
                        self.search_specific_file_parents.add(
 
3882
                            candidate_entry[1][self.target_index][1])
 
3883
            if not found_item:
 
3884
                raise AssertionError(
 
3885
                    "Missing entry for specific path parent %r, %r" % (
 
3886
                    path_utf8, path_entries))
 
3887
            path_info = self._path_info(path_utf8, path_utf8.decode('utf8'))
 
3888
            for entry in selected_entries:
 
3889
                if entry[0][2] in self.seen_ids:
 
3890
                    continue
 
3891
                result, changed = self._process_entry(entry, path_info)
 
3892
                if changed is None:
 
3893
                    raise AssertionError(
 
3894
                        "Got entry<->path mismatch for specific path "
 
3895
                        "%r entry %r path_info %r " % (
 
3896
                        path_utf8, entry, path_info))
 
3897
                # Only include changes - we're outside the users requested
 
3898
                # expansion.
 
3899
                if changed:
 
3900
                    self._gather_result_for_consistency(result)
 
3901
                    if (result[6][0] == 'directory' and
 
3902
                        result[6][1] != 'directory'):
 
3903
                        # This stopped being a directory, the old children have
 
3904
                        # to be included.
 
3905
                        if entry[1][self.source_index][0] == 'r':
 
3906
                            # renamed, take the source path
 
3907
                            entry_path_utf8 = entry[1][self.source_index][1]
 
3908
                        else:
 
3909
                            entry_path_utf8 = path_utf8
 
3910
                        initial_key = (entry_path_utf8, '', '')
 
3911
                        block_index, _ = self.state._find_block_index_from_key(
 
3912
                            initial_key)
 
3913
                        if block_index == 0:
 
3914
                            # The children of the root are in block index 1.
 
3915
                            block_index +=1
 
3916
                        current_block = None
 
3917
                        if block_index < len(self.state._dirblocks):
 
3918
                            current_block = self.state._dirblocks[block_index]
 
3919
                            if not osutils.is_inside(
 
3920
                                entry_path_utf8, current_block[0]):
 
3921
                                # No entries for this directory at all.
 
3922
                                current_block = None
 
3923
                        if current_block is not None:
 
3924
                            for entry in current_block[1]:
 
3925
                                if entry[1][self.source_index][0] in 'ar':
 
3926
                                    # Not in the source tree, so doesn't have to be
 
3927
                                    # included.
 
3928
                                    continue
 
3929
                                # Path of the entry itself.
 
3930
 
 
3931
                                self.search_specific_file_parents.add(
 
3932
                                    osutils.pathjoin(*entry[0][:2]))
 
3933
                if changed or self.include_unchanged:
 
3934
                    yield result
 
3935
            self.searched_exact_paths.add(path_utf8)
 
3936
 
 
3937
    def _path_info(self, utf8_path, unicode_path):
 
3938
        """Generate path_info for unicode_path.
 
3939
 
 
3940
        :return: None if unicode_path does not exist, or a path_info tuple.
 
3941
        """
 
3942
        abspath = self.tree.abspath(unicode_path)
2396
3943
        try:
2397
 
            cur_split = cache[cur]
2398
 
        except KeyError:
2399
 
            cur_split = cur.split('/')
2400
 
            cache[cur] = cur_split
2401
 
        if cur_split < dirname_split: lo = mid+1
2402
 
        else: hi = mid
2403
 
    return lo
 
3944
            stat = os.lstat(abspath)
 
3945
        except OSError, e:
 
3946
            if e.errno == errno.ENOENT:
 
3947
                # the path does not exist.
 
3948
                return None
 
3949
            else:
 
3950
                raise
 
3951
        utf8_basename = utf8_path.rsplit('/', 1)[-1]
 
3952
        dir_info = (utf8_path, utf8_basename,
 
3953
            osutils.file_kind_from_stat_mode(stat.st_mode), stat,
 
3954
            abspath)
 
3955
        if dir_info[2] == 'directory':
 
3956
            if self.tree._directory_is_tree_reference(
 
3957
                unicode_path):
 
3958
                self.root_dir_info = self.root_dir_info[:2] + \
 
3959
                    ('tree-reference',) + self.root_dir_info[3:]
 
3960
        return dir_info
 
3961
 
 
3962
 
 
3963
# Try to load the compiled form if possible
 
3964
try:
 
3965
    from bzrlib._dirstate_helpers_pyx import (
 
3966
        _read_dirblocks,
 
3967
        bisect_dirblock,
 
3968
        _bisect_path_left,
 
3969
        _bisect_path_right,
 
3970
        cmp_by_dirs,
 
3971
        ProcessEntryC as _process_entry,
 
3972
        update_entry as update_entry,
 
3973
        )
 
3974
except ImportError:
 
3975
    from bzrlib._dirstate_helpers_py import (
 
3976
        _read_dirblocks,
 
3977
        bisect_dirblock,
 
3978
        _bisect_path_left,
 
3979
        _bisect_path_right,
 
3980
        cmp_by_dirs,
 
3981
        )
 
3982
    # FIXME: It would be nice to be able to track moved lines so that the
 
3983
    # corresponding python code can be moved to the _dirstate_helpers_py
 
3984
    # module. I don't want to break the history for this important piece of
 
3985
    # code so I left the code here -- vila 20090622
 
3986
    update_entry = py_update_entry
 
3987
    _process_entry = ProcessEntryPython