~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/dirstate.py

(jelmer) Use the absolute_import feature everywhere in bzrlib,
 and add a source test to make sure it's used everywhere. (Jelmer Vernooij)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006, 2007, 2008 Canonical Ltd
 
1
# Copyright (C) 2006-2011 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
20
20
lines by NL. The field delimiters are ommitted in the grammar, line delimiters
21
21
are not - this is done for clarity of reading. All string data is in utf8.
22
22
 
23
 
MINIKIND = "f" | "d" | "l" | "a" | "r" | "t";
24
 
NL = "\n";
25
 
NULL = "\0";
26
 
WHOLE_NUMBER = {digit}, digit;
27
 
BOOLEAN = "y" | "n";
28
 
REVISION_ID = a non-empty utf8 string;
29
 
 
30
 
dirstate format = header line, full checksum, row count, parent details,
31
 
 ghost_details, entries;
32
 
header line = "#bazaar dirstate flat format 3", NL;
33
 
full checksum = "crc32: ", ["-"], WHOLE_NUMBER, NL;
34
 
row count = "num_entries: ", WHOLE_NUMBER, NL;
35
 
parent_details = WHOLE NUMBER, {REVISION_ID}* NL;
36
 
ghost_details = WHOLE NUMBER, {REVISION_ID}*, NL;
37
 
entries = {entry};
38
 
entry = entry_key, current_entry_details, {parent_entry_details};
39
 
entry_key = dirname,  basename, fileid;
40
 
current_entry_details = common_entry_details, working_entry_details;
41
 
parent_entry_details = common_entry_details, history_entry_details;
42
 
common_entry_details = MINIKIND, fingerprint, size, executable
43
 
working_entry_details = packed_stat
44
 
history_entry_details = REVISION_ID;
45
 
executable = BOOLEAN;
46
 
size = WHOLE_NUMBER;
47
 
fingerprint = a nonempty utf8 sequence with meaning defined by minikind.
48
 
 
49
 
Given this definition, the following is useful to know:
50
 
entry (aka row) - all the data for a given key.
51
 
entry[0]: The key (dirname, basename, fileid)
52
 
entry[0][0]: dirname
53
 
entry[0][1]: basename
54
 
entry[0][2]: fileid
55
 
entry[1]: The tree(s) data for this path and id combination.
56
 
entry[1][0]: The current tree
57
 
entry[1][1]: The second tree
58
 
 
59
 
For an entry for a tree, we have (using tree 0 - current tree) to demonstrate:
60
 
entry[1][0][0]: minikind
61
 
entry[1][0][1]: fingerprint
62
 
entry[1][0][2]: size
63
 
entry[1][0][3]: executable
64
 
entry[1][0][4]: packed_stat
65
 
OR (for non tree-0)
66
 
entry[1][1][4]: revision_id
 
23
::
 
24
 
 
25
    MINIKIND = "f" | "d" | "l" | "a" | "r" | "t";
 
26
    NL = "\\n";
 
27
    NULL = "\\0";
 
28
    WHOLE_NUMBER = {digit}, digit;
 
29
    BOOLEAN = "y" | "n";
 
30
    REVISION_ID = a non-empty utf8 string;
 
31
    
 
32
    dirstate format = header line, full checksum, row count, parent details,
 
33
     ghost_details, entries;
 
34
    header line = "#bazaar dirstate flat format 3", NL;
 
35
    full checksum = "crc32: ", ["-"], WHOLE_NUMBER, NL;
 
36
    row count = "num_entries: ", WHOLE_NUMBER, NL;
 
37
    parent_details = WHOLE NUMBER, {REVISION_ID}* NL;
 
38
    ghost_details = WHOLE NUMBER, {REVISION_ID}*, NL;
 
39
    entries = {entry};
 
40
    entry = entry_key, current_entry_details, {parent_entry_details};
 
41
    entry_key = dirname,  basename, fileid;
 
42
    current_entry_details = common_entry_details, working_entry_details;
 
43
    parent_entry_details = common_entry_details, history_entry_details;
 
44
    common_entry_details = MINIKIND, fingerprint, size, executable
 
45
    working_entry_details = packed_stat
 
46
    history_entry_details = REVISION_ID;
 
47
    executable = BOOLEAN;
 
48
    size = WHOLE_NUMBER;
 
49
    fingerprint = a nonempty utf8 sequence with meaning defined by minikind.
 
50
 
 
51
Given this definition, the following is useful to know::
 
52
 
 
53
    entry (aka row) - all the data for a given key.
 
54
    entry[0]: The key (dirname, basename, fileid)
 
55
    entry[0][0]: dirname
 
56
    entry[0][1]: basename
 
57
    entry[0][2]: fileid
 
58
    entry[1]: The tree(s) data for this path and id combination.
 
59
    entry[1][0]: The current tree
 
60
    entry[1][1]: The second tree
 
61
 
 
62
For an entry for a tree, we have (using tree 0 - current tree) to demonstrate::
 
63
 
 
64
    entry[1][0][0]: minikind
 
65
    entry[1][0][1]: fingerprint
 
66
    entry[1][0][2]: size
 
67
    entry[1][0][3]: executable
 
68
    entry[1][0][4]: packed_stat
 
69
 
 
70
OR (for non tree-0)::
 
71
 
 
72
    entry[1][1][4]: revision_id
67
73
 
68
74
There may be multiple rows at the root, one per id present in the root, so the
69
 
in memory root row is now:
70
 
self._dirblocks[0] -> ('', [entry ...]),
71
 
and the entries in there are
72
 
entries[0][0]: ''
73
 
entries[0][1]: ''
74
 
entries[0][2]: file_id
75
 
entries[1][0]: The tree data for the current tree for this fileid at /
76
 
etc.
77
 
 
78
 
Kinds:
79
 
'r' is a relocated entry: This path is not present in this tree with this id,
80
 
    but the id can be found at another location. The fingerprint is used to
81
 
    point to the target location.
82
 
'a' is an absent entry: In that tree the id is not present at this path.
83
 
'd' is a directory entry: This path in this tree is a directory with the
84
 
    current file id. There is no fingerprint for directories.
85
 
'f' is a file entry: As for directory, but it's a file. The fingerprint is the
86
 
    sha1 value of the file's canonical form, i.e. after any read filters have
87
 
    been applied to the convenience form stored in the working tree.
88
 
'l' is a symlink entry: As for directory, but a symlink. The fingerprint is the
89
 
    link target.
90
 
't' is a reference to a nested subtree; the fingerprint is the referenced
91
 
    revision.
 
75
in memory root row is now::
 
76
 
 
77
    self._dirblocks[0] -> ('', [entry ...]),
 
78
 
 
79
and the entries in there are::
 
80
 
 
81
    entries[0][0]: ''
 
82
    entries[0][1]: ''
 
83
    entries[0][2]: file_id
 
84
    entries[1][0]: The tree data for the current tree for this fileid at /
 
85
    etc.
 
86
 
 
87
Kinds::
 
88
 
 
89
    'r' is a relocated entry: This path is not present in this tree with this
 
90
        id, but the id can be found at another location. The fingerprint is
 
91
        used to point to the target location.
 
92
    'a' is an absent entry: In that tree the id is not present at this path.
 
93
    'd' is a directory entry: This path in this tree is a directory with the
 
94
        current file id. There is no fingerprint for directories.
 
95
    'f' is a file entry: As for directory, but it's a file. The fingerprint is
 
96
        the sha1 value of the file's canonical form, i.e. after any read
 
97
        filters have been applied to the convenience form stored in the working
 
98
        tree.
 
99
    'l' is a symlink entry: As for directory, but a symlink. The fingerprint is
 
100
        the link target.
 
101
    't' is a reference to a nested subtree; the fingerprint is the referenced
 
102
        revision.
92
103
 
93
104
Ordering:
94
105
 
95
 
The entries on disk and in memory are ordered according to the following keys:
 
106
The entries on disk and in memory are ordered according to the following keys::
96
107
 
97
108
    directory, as a list of components
98
109
    filename
99
110
    file-id
100
111
 
101
112
--- Format 1 had the following different definition: ---
102
 
rows = dirname, NULL, basename, NULL, MINIKIND, NULL, fileid_utf8, NULL,
103
 
    WHOLE NUMBER (* size *), NULL, packed stat, NULL, sha1|symlink target,
104
 
    {PARENT ROW}
105
 
PARENT ROW = NULL, revision_utf8, NULL, MINIKIND, NULL, dirname, NULL,
106
 
    basename, NULL, WHOLE NUMBER (* size *), NULL, "y" | "n", NULL,
107
 
    SHA1
 
113
 
 
114
::
 
115
 
 
116
    rows = dirname, NULL, basename, NULL, MINIKIND, NULL, fileid_utf8, NULL,
 
117
        WHOLE NUMBER (* size *), NULL, packed stat, NULL, sha1|symlink target,
 
118
        {PARENT ROW}
 
119
    PARENT ROW = NULL, revision_utf8, NULL, MINIKIND, NULL, dirname, NULL,
 
120
        basename, NULL, WHOLE NUMBER (* size *), NULL, "y" | "n", NULL,
 
121
        SHA1
108
122
 
109
123
PARENT ROW's are emitted for every parent that is not in the ghosts details
110
124
line. That is, if the parents are foo, bar, baz, and the ghosts are bar, then
135
149
----
136
150
 
137
151
Design priorities:
138
 
 1) Fast end to end use for bzr's top 5 uses cases. (commmit/diff/status/merge/???)
139
 
 2) fall back current object model as needed.
140
 
 3) scale usably to the largest trees known today - say 50K entries. (mozilla
 
152
 1. Fast end to end use for bzr's top 5 uses cases. (commmit/diff/status/merge/???)
 
153
 2. fall back current object model as needed.
 
154
 3. scale usably to the largest trees known today - say 50K entries. (mozilla
141
155
    is an example of this)
142
156
 
143
157
 
144
158
Locking:
 
159
 
145
160
 Eventually reuse dirstate objects across locks IFF the dirstate file has not
146
161
 been modified, but will require that we flush/ignore cached stat-hit data
147
162
 because we won't want to restat all files on disk just because a lock was
148
163
 acquired, yet we cannot trust the data after the previous lock was released.
149
164
 
150
 
Memory representation:
 
165
Memory representation::
 
166
 
151
167
 vector of all directories, and vector of the childen ?
152
168
   i.e.
153
169
     root_entrie = (direntry for root, [parent_direntries_for_root]),
167
183
    - What's the risk of error here? Once we have the base format being processed
168
184
      we should have a net win regardless of optimality. So we are going to
169
185
      go with what seems reasonable.
 
186
 
170
187
open questions:
171
188
 
172
189
Maybe we should do a test profile of the core structure - 10K simulated
201
218
 
202
219
"""
203
220
 
 
221
from __future__ import absolute_import
 
222
 
204
223
import bisect
205
 
import binascii
206
224
import errno
207
225
import operator
208
226
import os
209
227
from stat import S_IEXEC
210
228
import stat
211
 
import struct
212
229
import sys
213
230
import time
214
231
import zlib
215
232
 
216
233
from bzrlib import (
217
234
    cache_utf8,
 
235
    config,
218
236
    debug,
219
237
    errors,
220
238
    inventory,
221
239
    lock,
222
240
    osutils,
 
241
    static_tuple,
223
242
    trace,
 
243
    urlutils,
224
244
    )
225
245
 
226
246
 
231
251
ERROR_DIRECTORY = 267
232
252
 
233
253
 
234
 
if not getattr(struct, '_compile', None):
235
 
    # Cannot pre-compile the dirstate pack_stat
236
 
    def pack_stat(st, _encode=binascii.b2a_base64, _pack=struct.pack):
237
 
        """Convert stat values into a packed representation."""
238
 
        return _encode(_pack('>LLLLLL', st.st_size, int(st.st_mtime),
239
 
            int(st.st_ctime), st.st_dev, st.st_ino & 0xFFFFFFFF,
240
 
            st.st_mode))[:-1]
241
 
else:
242
 
    # compile the struct compiler we need, so as to only do it once
243
 
    from _struct import Struct
244
 
    _compiled_pack = Struct('>LLLLLL').pack
245
 
    def pack_stat(st, _encode=binascii.b2a_base64, _pack=_compiled_pack):
246
 
        """Convert stat values into a packed representation."""
247
 
        # jam 20060614 it isn't really worth removing more entries if we
248
 
        # are going to leave it in packed form.
249
 
        # With only st_mtime and st_mode filesize is 5.5M and read time is 275ms
250
 
        # With all entries, filesize is 5.9M and read time is maybe 280ms
251
 
        # well within the noise margin
252
 
 
253
 
        # base64 encoding always adds a final newline, so strip it off
254
 
        # The current version
255
 
        return _encode(_pack(st.st_size, int(st.st_mtime), int(st.st_ctime),
256
 
            st.st_dev, st.st_ino & 0xFFFFFFFF, st.st_mode))[:-1]
257
 
        # This is 0.060s / 1.520s faster by not encoding as much information
258
 
        # return _encode(_pack('>LL', int(st.st_mtime), st.st_mode))[:-1]
259
 
        # This is not strictly faster than _encode(_pack())[:-1]
260
 
        # return '%X.%X.%X.%X.%X.%X' % (
261
 
        #      st.st_size, int(st.st_mtime), int(st.st_ctime),
262
 
        #      st.st_dev, st.st_ino, st.st_mode)
263
 
        # Similar to the _encode(_pack('>LL'))
264
 
        # return '%X.%X' % (int(st.st_mtime), st.st_mode)
265
 
 
266
 
 
267
254
class SHA1Provider(object):
268
255
    """An interface for getting sha1s of a file."""
269
256
 
354
341
    NOT_IN_MEMORY = 0
355
342
    IN_MEMORY_UNMODIFIED = 1
356
343
    IN_MEMORY_MODIFIED = 2
 
344
    IN_MEMORY_HASH_MODIFIED = 3 # Only hash-cache updates
357
345
 
358
346
    # A pack_stat (the x's) that is just noise and will never match the output
359
347
    # of base64 encode.
360
348
    NULLSTAT = 'x' * 32
361
 
    NULL_PARENT_DETAILS = ('a', '', 0, False, '')
 
349
    NULL_PARENT_DETAILS = static_tuple.StaticTuple('a', '', 0, False, '')
362
350
 
363
351
    HEADER_FORMAT_2 = '#bazaar dirstate flat format 2\n'
364
352
    HEADER_FORMAT_3 = '#bazaar dirstate flat format 3\n'
365
353
 
366
 
    def __init__(self, path, sha1_provider):
 
354
    def __init__(self, path, sha1_provider, worth_saving_limit=0):
367
355
        """Create a  DirState object.
368
356
 
369
357
        :param path: The path at which the dirstate file on disk should live.
370
358
        :param sha1_provider: an object meeting the SHA1Provider interface.
 
359
        :param worth_saving_limit: when the exact number of hash changed
 
360
            entries is known, only bother saving the dirstate if more than
 
361
            this count of entries have changed.
 
362
            -1 means never save hash changes, 0 means always save hash changes.
371
363
        """
372
364
        # _header_state and _dirblock_state represent the current state
373
365
        # of the dirstate metadata and the per-row data respectiely.
410
402
        # during commit.
411
403
        self._last_block_index = None
412
404
        self._last_entry_index = None
 
405
        # The set of known hash changes
 
406
        self._known_hash_changes = set()
 
407
        # How many hash changed entries can we have without saving
 
408
        self._worth_saving_limit = worth_saving_limit
 
409
        self._config_stack = config.LocationStack(urlutils.local_path_to_url(
 
410
            path))
413
411
 
414
412
    def __repr__(self):
415
413
        return "%s(%r)" % \
416
414
            (self.__class__.__name__, self._filename)
417
415
 
 
416
    def _mark_modified(self, hash_changed_entries=None, header_modified=False):
 
417
        """Mark this dirstate as modified.
 
418
 
 
419
        :param hash_changed_entries: if non-None, mark just these entries as
 
420
            having their hash modified.
 
421
        :param header_modified: mark the header modified as well, not just the
 
422
            dirblocks.
 
423
        """
 
424
        #trace.mutter_callsite(3, "modified hash entries: %s", hash_changed_entries)
 
425
        if hash_changed_entries:
 
426
            self._known_hash_changes.update([e[0] for e in hash_changed_entries])
 
427
            if self._dirblock_state in (DirState.NOT_IN_MEMORY,
 
428
                                        DirState.IN_MEMORY_UNMODIFIED):
 
429
                # If the dirstate is already marked a IN_MEMORY_MODIFIED, then
 
430
                # that takes precedence.
 
431
                self._dirblock_state = DirState.IN_MEMORY_HASH_MODIFIED
 
432
        else:
 
433
            # TODO: Since we now have a IN_MEMORY_HASH_MODIFIED state, we
 
434
            #       should fail noisily if someone tries to set
 
435
            #       IN_MEMORY_MODIFIED but we don't have a write-lock!
 
436
            # We don't know exactly what changed so disable smart saving
 
437
            self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
438
        if header_modified:
 
439
            self._header_state = DirState.IN_MEMORY_MODIFIED
 
440
 
 
441
    def _mark_unmodified(self):
 
442
        """Mark this dirstate as unmodified."""
 
443
        self._header_state = DirState.IN_MEMORY_UNMODIFIED
 
444
        self._dirblock_state = DirState.IN_MEMORY_UNMODIFIED
 
445
        self._known_hash_changes = set()
 
446
 
418
447
    def add(self, path, file_id, kind, stat, fingerprint):
419
448
        """Add a path to be tracked.
420
449
 
546
575
        if kind == 'directory':
547
576
           # insert a new dirblock
548
577
           self._ensure_block(block_index, entry_index, utf8path)
549
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
578
        self._mark_modified()
550
579
        if self._id_index:
551
 
            self._id_index.setdefault(entry_key[2], set()).add(entry_key)
 
580
            self._add_to_id_index(self._id_index, entry_key)
552
581
 
553
582
    def _bisect(self, paths):
554
583
        """Bisect through the disk structure for specific rows.
1018
1047
 
1019
1048
        self._ghosts = []
1020
1049
        self._parents = [parents[0]]
1021
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
1022
 
        self._header_state = DirState.IN_MEMORY_MODIFIED
 
1050
        self._mark_modified(header_modified=True)
1023
1051
 
1024
1052
    def _empty_parent_info(self):
1025
1053
        return [DirState.NULL_PARENT_DETAILS] * (len(self._parents) -
1154
1182
    def _fields_per_entry(self):
1155
1183
        """How many null separated fields should be in each entry row.
1156
1184
 
1157
 
        Each line now has an extra '\n' field which is not used
 
1185
        Each line now has an extra '\\n' field which is not used
1158
1186
        so we just skip over it
1159
 
        entry size:
 
1187
 
 
1188
        entry size::
1160
1189
            3 fields for the key
1161
1190
            + number of fields per tree_data (5) * tree count
1162
1191
            + newline
1275
1304
            raise
1276
1305
        return result
1277
1306
 
 
1307
    def _check_delta_is_valid(self, delta):
 
1308
        return list(inventory._check_delta_unique_ids(
 
1309
                    inventory._check_delta_unique_old_paths(
 
1310
                    inventory._check_delta_unique_new_paths(
 
1311
                    inventory._check_delta_ids_match_entry(
 
1312
                    inventory._check_delta_ids_are_valid(
 
1313
                    inventory._check_delta_new_path_entry_both_or_None(delta)))))))
 
1314
 
1278
1315
    def update_by_delta(self, delta):
1279
1316
        """Apply an inventory delta to the dirstate for tree 0
1280
1317
 
1298
1335
        new_ids = set()
1299
1336
        # This loop transforms the delta to single atomic operations that can
1300
1337
        # be executed and validated.
1301
 
        for old_path, new_path, file_id, inv_entry in sorted(
1302
 
            inventory._check_delta_unique_old_paths(
1303
 
            inventory._check_delta_unique_new_paths(
1304
 
            inventory._check_delta_ids_match_entry(
1305
 
            inventory._check_delta_ids_are_valid(
1306
 
            inventory._check_delta_new_path_entry_both_or_None(delta))))),
1307
 
            reverse=True):
 
1338
        delta = sorted(self._check_delta_is_valid(delta), reverse=True)
 
1339
        for old_path, new_path, file_id, inv_entry in delta:
1308
1340
            if (file_id in insertions) or (file_id in removals):
1309
 
                raise errors.InconsistentDelta(old_path or new_path, file_id,
 
1341
                self._raise_invalid(old_path or new_path, file_id,
1310
1342
                    "repeated file_id")
1311
1343
            if old_path is not None:
1312
1344
                old_path = old_path.encode('utf-8')
1315
1347
                new_ids.add(file_id)
1316
1348
            if new_path is not None:
1317
1349
                if inv_entry is None:
1318
 
                    raise errors.InconsistentDelta(new_path, file_id,
 
1350
                    self._raise_invalid(new_path, file_id,
1319
1351
                        "new_path with no entry")
1320
1352
                new_path = new_path.encode('utf-8')
1321
1353
                dirname_utf8, basename = osutils.split(new_path)
1362
1394
            # _get_entry raises BzrError when a request is inconsistent; we
1363
1395
            # want such errors to be shown as InconsistentDelta - and that 
1364
1396
            # fits the behaviour we trigger.
1365
 
            raise errors.InconsistentDeltaDelta(delta, "error from _get_entry.")
 
1397
            raise errors.InconsistentDeltaDelta(delta,
 
1398
                "error from _get_entry. %s" % (e,))
1366
1399
 
1367
1400
    def _apply_removals(self, removals):
1368
1401
        for file_id, path in sorted(removals, reverse=True,
1373
1406
            try:
1374
1407
                entry = self._dirblocks[block_i][1][entry_i]
1375
1408
            except IndexError:
1376
 
                self._changes_aborted = True
1377
 
                raise errors.InconsistentDelta(path, file_id,
 
1409
                self._raise_invalid(path, file_id,
1378
1410
                    "Wrong path for old path.")
1379
1411
            if not f_present or entry[1][0][0] in 'ar':
1380
 
                self._changes_aborted = True
1381
 
                raise errors.InconsistentDelta(path, file_id,
 
1412
                self._raise_invalid(path, file_id,
1382
1413
                    "Wrong path for old path.")
1383
1414
            if file_id != entry[0][2]:
1384
 
                self._changes_aborted = True
1385
 
                raise errors.InconsistentDelta(path, file_id,
 
1415
                self._raise_invalid(path, file_id,
1386
1416
                    "Attempt to remove path has wrong id - found %r."
1387
1417
                    % entry[0][2])
1388
1418
            self._make_absent(entry)
1398
1428
                # be due to it being in a parent tree, or a corrupt delta.
1399
1429
                for child_entry in self._dirblocks[block_i][1]:
1400
1430
                    if child_entry[1][0][0] not in ('r', 'a'):
1401
 
                        self._changes_aborted = True
1402
 
                        raise errors.InconsistentDelta(path, entry[0][2],
 
1431
                        self._raise_invalid(path, entry[0][2],
1403
1432
                            "The file id was deleted but its children were "
1404
1433
                            "not deleted.")
1405
1434
 
1409
1438
                self.update_minimal(key, minikind, executable, fingerprint,
1410
1439
                                    path_utf8=path_utf8)
1411
1440
        except errors.NotVersionedError:
1412
 
            self._changes_aborted = True
1413
 
            raise errors.InconsistentDelta(path_utf8.decode('utf8'), key[2],
 
1441
            self._raise_invalid(path_utf8.decode('utf8'), key[2],
1414
1442
                "Missing parent")
1415
1443
 
1416
1444
    def update_basis_by_delta(self, delta, new_revid):
1424
1452
        Note that an exception during the operation of this method will leave
1425
1453
        the dirstate in a corrupt state where it should not be saved.
1426
1454
 
1427
 
        Finally, we expect all changes to be synchronising the basis tree with
1428
 
        the working tree.
1429
 
 
1430
1455
        :param new_revid: The new revision id for the trees parent.
1431
1456
        :param delta: An inventory delta (see apply_inventory_delta) describing
1432
1457
            the changes from the current left most parent revision to new_revid.
1444
1469
 
1445
1470
        self._parents[0] = new_revid
1446
1471
 
1447
 
        delta = sorted(delta, reverse=True)
 
1472
        delta = sorted(self._check_delta_is_valid(delta), reverse=True)
1448
1473
        adds = []
1449
1474
        changes = []
1450
1475
        deletes = []
1471
1496
        new_ids = set()
1472
1497
        for old_path, new_path, file_id, inv_entry in delta:
1473
1498
            if inv_entry is not None and file_id != inv_entry.file_id:
1474
 
                raise errors.InconsistentDelta(new_path, file_id,
 
1499
                self._raise_invalid(new_path, file_id,
1475
1500
                    "mismatched entry file_id %r" % inv_entry)
1476
 
            if new_path is not None:
 
1501
            if new_path is None:
 
1502
                new_path_utf8 = None
 
1503
            else:
1477
1504
                if inv_entry is None:
1478
 
                    raise errors.InconsistentDelta(new_path, file_id,
 
1505
                    self._raise_invalid(new_path, file_id,
1479
1506
                        "new_path with no entry")
1480
1507
                new_path_utf8 = encode(new_path)
1481
1508
                # note the parent for validation
1483
1510
                if basename_utf8:
1484
1511
                    parents.add((dirname_utf8, inv_entry.parent_id))
1485
1512
            if old_path is None:
1486
 
                adds.append((None, encode(new_path), file_id,
 
1513
                old_path_utf8 = None
 
1514
            else:
 
1515
                old_path_utf8 = encode(old_path)
 
1516
            if old_path is None:
 
1517
                adds.append((None, new_path_utf8, file_id,
1487
1518
                    inv_to_entry(inv_entry), True))
1488
1519
                new_ids.add(file_id)
1489
1520
            elif new_path is None:
1490
 
                deletes.append((encode(old_path), None, file_id, None, True))
1491
 
            elif (old_path, new_path) != root_only:
 
1521
                deletes.append((old_path_utf8, None, file_id, None, True))
 
1522
            elif (old_path, new_path) == root_only:
 
1523
                # change things in-place
 
1524
                # Note: the case of a parent directory changing its file_id
 
1525
                #       tends to break optimizations here, because officially
 
1526
                #       the file has actually been moved, it just happens to
 
1527
                #       end up at the same path. If we can figure out how to
 
1528
                #       handle that case, we can avoid a lot of add+delete
 
1529
                #       pairs for objects that stay put.
 
1530
                # elif old_path == new_path:
 
1531
                changes.append((old_path_utf8, new_path_utf8, file_id,
 
1532
                                inv_to_entry(inv_entry)))
 
1533
            else:
1492
1534
                # Renames:
1493
1535
                # Because renames must preserve their children we must have
1494
1536
                # processed all relocations and removes before hand. The sort
1504
1546
                self._update_basis_apply_deletes(deletes)
1505
1547
                deletes = []
1506
1548
                # Split into an add/delete pair recursively.
1507
 
                adds.append((None, new_path_utf8, file_id,
1508
 
                    inv_to_entry(inv_entry), False))
 
1549
                adds.append((old_path_utf8, new_path_utf8, file_id,
 
1550
                             inv_to_entry(inv_entry), False))
1509
1551
                # Expunge deletes that we've seen so that deleted/renamed
1510
1552
                # children of a rename directory are handled correctly.
1511
 
                new_deletes = reversed(list(self._iter_child_entries(1,
1512
 
                    encode(old_path))))
 
1553
                new_deletes = reversed(list(
 
1554
                    self._iter_child_entries(1, old_path_utf8)))
1513
1555
                # Remove the current contents of the tree at orig_path, and
1514
1556
                # reinsert at the correct new path.
1515
1557
                for entry in new_deletes:
1516
 
                    if entry[0][0]:
1517
 
                        source_path = entry[0][0] + '/' + entry[0][1]
 
1558
                    child_dirname, child_basename, child_file_id = entry[0]
 
1559
                    if child_dirname:
 
1560
                        source_path = child_dirname + '/' + child_basename
1518
1561
                    else:
1519
 
                        source_path = entry[0][1]
 
1562
                        source_path = child_basename
1520
1563
                    if new_path_utf8:
1521
1564
                        target_path = new_path_utf8 + source_path[len(old_path):]
1522
1565
                    else:
1523
1566
                        if old_path == '':
1524
1567
                            raise AssertionError("cannot rename directory to"
1525
 
                                " itself")
 
1568
                                                 " itself")
1526
1569
                        target_path = source_path[len(old_path) + 1:]
1527
1570
                    adds.append((None, target_path, entry[0][2], entry[1][1], False))
1528
1571
                    deletes.append(
1529
1572
                        (source_path, target_path, entry[0][2], None, False))
1530
 
                deletes.append(
1531
 
                    (encode(old_path), new_path, file_id, None, False))
1532
 
            else:
1533
 
                # changes to just the root should not require remove/insertion
1534
 
                # of everything.
1535
 
                changes.append((encode(old_path), encode(new_path), file_id,
1536
 
                    inv_to_entry(inv_entry)))
 
1573
                deletes.append((old_path_utf8, new_path, file_id, None, False))
1537
1574
        self._check_delta_ids_absent(new_ids, delta, 1)
1538
1575
        try:
1539
1576
            # Finish expunging deletes/first half of renames.
1549
1586
            if 'integrity error' not in str(e):
1550
1587
                raise
1551
1588
            # _get_entry raises BzrError when a request is inconsistent; we
1552
 
            # want such errors to be shown as InconsistentDelta - and that 
1553
 
            # fits the behaviour we trigger. Partof this is driven by dirstate
1554
 
            # only supporting deltas that turn the basis into a closer fit to
1555
 
            # the active tree.
1556
 
            raise errors.InconsistentDeltaDelta(delta, "error from _get_entry.")
 
1589
            # want such errors to be shown as InconsistentDelta - and that
 
1590
            # fits the behaviour we trigger.
 
1591
            raise errors.InconsistentDeltaDelta(delta,
 
1592
                "error from _get_entry. %s" % (e,))
1557
1593
 
1558
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
1559
 
        self._header_state = DirState.IN_MEMORY_MODIFIED
 
1594
        self._mark_modified(header_modified=True)
1560
1595
        self._id_index = None
1561
1596
        return
1562
1597
 
1566
1601
            return
1567
1602
        id_index = self._get_id_index()
1568
1603
        for file_id in new_ids:
1569
 
            for key in id_index.get(file_id, []):
 
1604
            for key in id_index.get(file_id, ()):
1570
1605
                block_i, entry_i, d_present, f_present = \
1571
1606
                    self._get_block_entry_index(key[0], key[1], tree_index)
1572
1607
                if not f_present:
1576
1611
                if entry[0][2] != file_id:
1577
1612
                    # Different file_id, so not what we want.
1578
1613
                    continue
1579
 
                # NB: No changes made before this helper is called, so no need
1580
 
                # to set the _changes_aborted flag.
1581
 
                raise errors.InconsistentDelta(
1582
 
                    ("%s/%s" % key[0:2]).decode('utf8'), file_id,
 
1614
                self._raise_invalid(("%s/%s" % key[0:2]).decode('utf8'), file_id,
1583
1615
                    "This file_id is new in the delta but already present in "
1584
1616
                    "the target")
1585
1617
 
 
1618
    def _raise_invalid(self, path, file_id, reason):
 
1619
        self._changes_aborted = True
 
1620
        raise errors.InconsistentDelta(path, file_id, reason)
 
1621
 
1586
1622
    def _update_basis_apply_adds(self, adds):
1587
1623
        """Apply a sequence of adds to tree 1 during update_basis_by_delta.
1588
1624
 
1596
1632
        """
1597
1633
        # Adds are accumulated partly from renames, so can be in any input
1598
1634
        # order - sort it.
1599
 
        adds.sort()
 
1635
        # TODO: we may want to sort in dirblocks order. That way each entry
 
1636
        #       will end up in the same directory, allowing the _get_entry
 
1637
        #       fast-path for looking up 2 items in the same dir work.
 
1638
        adds.sort(key=lambda x: x[1])
1600
1639
        # adds is now in lexographic order, which places all parents before
1601
1640
        # their children, so we can process it linearly.
1602
1641
        absent = 'ar'
 
1642
        st = static_tuple.StaticTuple
1603
1643
        for old_path, new_path, file_id, new_details, real_add in adds:
1604
 
            # the entry for this file_id must be in tree 0.
1605
 
            entry = self._get_entry(0, file_id, new_path)
1606
 
            if entry[0] is None or entry[0][2] != file_id:
1607
 
                self._changes_aborted = True
1608
 
                raise errors.InconsistentDelta(new_path, file_id,
1609
 
                    'working tree does not contain new entry')
1610
 
            if real_add and entry[1][1][0] not in absent:
1611
 
                self._changes_aborted = True
1612
 
                raise errors.InconsistentDelta(new_path, file_id,
1613
 
                    'The entry was considered to be a genuinely new record,'
1614
 
                    ' but there was already an old record for it.')
1615
 
            # We don't need to update the target of an 'r' because the handling
1616
 
            # of renames turns all 'r' situations into a delete at the original
1617
 
            # location.
1618
 
            entry[1][1] = new_details
 
1644
            dirname, basename = osutils.split(new_path)
 
1645
            entry_key = st(dirname, basename, file_id)
 
1646
            block_index, present = self._find_block_index_from_key(entry_key)
 
1647
            if not present:
 
1648
                self._raise_invalid(new_path, file_id,
 
1649
                    "Unable to find block for this record."
 
1650
                    " Was the parent added?")
 
1651
            block = self._dirblocks[block_index][1]
 
1652
            entry_index, present = self._find_entry_index(entry_key, block)
 
1653
            if real_add:
 
1654
                if old_path is not None:
 
1655
                    self._raise_invalid(new_path, file_id,
 
1656
                        'considered a real add but still had old_path at %s'
 
1657
                        % (old_path,))
 
1658
            if present:
 
1659
                entry = block[entry_index]
 
1660
                basis_kind = entry[1][1][0]
 
1661
                if basis_kind == 'a':
 
1662
                    entry[1][1] = new_details
 
1663
                elif basis_kind == 'r':
 
1664
                    raise NotImplementedError()
 
1665
                else:
 
1666
                    self._raise_invalid(new_path, file_id,
 
1667
                        "An entry was marked as a new add"
 
1668
                        " but the basis target already existed")
 
1669
            else:
 
1670
                # The exact key was not found in the block. However, we need to
 
1671
                # check if there is a key next to us that would have matched.
 
1672
                # We only need to check 2 locations, because there are only 2
 
1673
                # trees present.
 
1674
                for maybe_index in range(entry_index-1, entry_index+1):
 
1675
                    if maybe_index < 0 or maybe_index >= len(block):
 
1676
                        continue
 
1677
                    maybe_entry = block[maybe_index]
 
1678
                    if maybe_entry[0][:2] != (dirname, basename):
 
1679
                        # Just a random neighbor
 
1680
                        continue
 
1681
                    if maybe_entry[0][2] == file_id:
 
1682
                        raise AssertionError(
 
1683
                            '_find_entry_index didnt find a key match'
 
1684
                            ' but walking the data did, for %s'
 
1685
                            % (entry_key,))
 
1686
                    basis_kind = maybe_entry[1][1][0]
 
1687
                    if basis_kind not in 'ar':
 
1688
                        self._raise_invalid(new_path, file_id,
 
1689
                            "we have an add record for path, but the path"
 
1690
                            " is already present with another file_id %s"
 
1691
                            % (maybe_entry[0][2],))
 
1692
 
 
1693
                entry = (entry_key, [DirState.NULL_PARENT_DETAILS,
 
1694
                                     new_details])
 
1695
                block.insert(entry_index, entry)
 
1696
 
 
1697
            active_kind = entry[1][0][0]
 
1698
            if active_kind == 'a':
 
1699
                # The active record shows up as absent, this could be genuine,
 
1700
                # or it could be present at some other location. We need to
 
1701
                # verify.
 
1702
                id_index = self._get_id_index()
 
1703
                # The id_index may not be perfectly accurate for tree1, because
 
1704
                # we haven't been keeping it updated. However, it should be
 
1705
                # fine for tree0, and that gives us enough info for what we
 
1706
                # need
 
1707
                keys = id_index.get(file_id, ())
 
1708
                for key in keys:
 
1709
                    block_i, entry_i, d_present, f_present = \
 
1710
                        self._get_block_entry_index(key[0], key[1], 0)
 
1711
                    if not f_present:
 
1712
                        continue
 
1713
                    active_entry = self._dirblocks[block_i][1][entry_i]
 
1714
                    if (active_entry[0][2] != file_id):
 
1715
                        # Some other file is at this path, we don't need to
 
1716
                        # link it.
 
1717
                        continue
 
1718
                    real_active_kind = active_entry[1][0][0]
 
1719
                    if real_active_kind in 'ar':
 
1720
                        # We found a record, which was not *this* record,
 
1721
                        # which matches the file_id, but is not actually
 
1722
                        # present. Something seems *really* wrong.
 
1723
                        self._raise_invalid(new_path, file_id,
 
1724
                            "We found a tree0 entry that doesnt make sense")
 
1725
                    # Now, we've found a tree0 entry which matches the file_id
 
1726
                    # but is at a different location. So update them to be
 
1727
                    # rename records.
 
1728
                    active_dir, active_name = active_entry[0][:2]
 
1729
                    if active_dir:
 
1730
                        active_path = active_dir + '/' + active_name
 
1731
                    else:
 
1732
                        active_path = active_name
 
1733
                    active_entry[1][1] = st('r', new_path, 0, False, '')
 
1734
                    entry[1][0] = st('r', active_path, 0, False, '')
 
1735
            elif active_kind == 'r':
 
1736
                raise NotImplementedError()
 
1737
 
 
1738
            new_kind = new_details[0]
 
1739
            if new_kind == 'd':
 
1740
                self._ensure_block(block_index, entry_index, new_path)
1619
1741
 
1620
1742
    def _update_basis_apply_changes(self, changes):
1621
1743
        """Apply a sequence of changes to tree 1 during update_basis_by_delta.
1626
1748
        absent = 'ar'
1627
1749
        for old_path, new_path, file_id, new_details in changes:
1628
1750
            # the entry for this file_id must be in tree 0.
1629
 
            entry = self._get_entry(0, file_id, new_path)
1630
 
            if entry[0] is None or entry[0][2] != file_id:
1631
 
                self._changes_aborted = True
1632
 
                raise errors.InconsistentDelta(new_path, file_id,
1633
 
                    'working tree does not contain new entry')
1634
 
            if (entry[1][0][0] in absent or
1635
 
                entry[1][1][0] in absent):
1636
 
                self._changes_aborted = True
1637
 
                raise errors.InconsistentDelta(new_path, file_id,
1638
 
                    'changed considered absent')
 
1751
            entry = self._get_entry(1, file_id, new_path)
 
1752
            if entry[0] is None or entry[1][1][0] in 'ar':
 
1753
                self._raise_invalid(new_path, file_id,
 
1754
                    'changed entry considered not present')
1639
1755
            entry[1][1] = new_details
1640
1756
 
1641
1757
    def _update_basis_apply_deletes(self, deletes):
1653
1769
        null = DirState.NULL_PARENT_DETAILS
1654
1770
        for old_path, new_path, file_id, _, real_delete in deletes:
1655
1771
            if real_delete != (new_path is None):
1656
 
                self._changes_aborted = True
1657
 
                raise AssertionError("bad delete delta")
 
1772
                self._raise_invalid(old_path, file_id, "bad delete delta")
1658
1773
            # the entry for this file_id must be in tree 1.
1659
1774
            dirname, basename = osutils.split(old_path)
1660
1775
            block_index, entry_index, dir_present, file_present = \
1661
1776
                self._get_block_entry_index(dirname, basename, 1)
1662
1777
            if not file_present:
1663
 
                self._changes_aborted = True
1664
 
                raise errors.InconsistentDelta(old_path, file_id,
 
1778
                self._raise_invalid(old_path, file_id,
1665
1779
                    'basis tree does not contain removed entry')
1666
1780
            entry = self._dirblocks[block_index][1][entry_index]
 
1781
            # The state of the entry in the 'active' WT
 
1782
            active_kind = entry[1][0][0]
1667
1783
            if entry[0][2] != file_id:
1668
 
                self._changes_aborted = True
1669
 
                raise errors.InconsistentDelta(old_path, file_id,
 
1784
                self._raise_invalid(old_path, file_id,
1670
1785
                    'mismatched file_id in tree 1')
1671
 
            if real_delete:
1672
 
                if entry[1][0][0] != 'a':
1673
 
                    self._changes_aborted = True
1674
 
                    raise errors.InconsistentDelta(old_path, file_id,
1675
 
                            'This was marked as a real delete, but the WT state'
1676
 
                            ' claims that it still exists and is versioned.')
 
1786
            dir_block = ()
 
1787
            old_kind = entry[1][1][0]
 
1788
            if active_kind in 'ar':
 
1789
                # The active tree doesn't have this file_id.
 
1790
                # The basis tree is changing this record. If this is a
 
1791
                # rename, then we don't want the record here at all
 
1792
                # anymore. If it is just an in-place change, we want the
 
1793
                # record here, but we'll add it if we need to. So we just
 
1794
                # delete it
 
1795
                if active_kind == 'r':
 
1796
                    active_path = entry[1][0][1]
 
1797
                    active_entry = self._get_entry(0, file_id, active_path)
 
1798
                    if active_entry[1][1][0] != 'r':
 
1799
                        self._raise_invalid(old_path, file_id,
 
1800
                            "Dirstate did not have matching rename entries")
 
1801
                    elif active_entry[1][0][0] in 'ar':
 
1802
                        self._raise_invalid(old_path, file_id,
 
1803
                            "Dirstate had a rename pointing at an inactive"
 
1804
                            " tree0")
 
1805
                    active_entry[1][1] = null
1677
1806
                del self._dirblocks[block_index][1][entry_index]
 
1807
                if old_kind == 'd':
 
1808
                    # This was a directory, and the active tree says it
 
1809
                    # doesn't exist, and now the basis tree says it doesn't
 
1810
                    # exist. Remove its dirblock if present
 
1811
                    (dir_block_index,
 
1812
                     present) = self._find_block_index_from_key(
 
1813
                        (old_path, '', ''))
 
1814
                    if present:
 
1815
                        dir_block = self._dirblocks[dir_block_index][1]
 
1816
                        if not dir_block:
 
1817
                            # This entry is empty, go ahead and just remove it
 
1818
                            del self._dirblocks[dir_block_index]
1678
1819
            else:
1679
 
                if entry[1][0][0] == 'a':
1680
 
                    self._changes_aborted = True
1681
 
                    raise errors.InconsistentDelta(old_path, file_id,
1682
 
                        'The entry was considered a rename, but the source path'
1683
 
                        ' is marked as absent.')
1684
 
                    # For whatever reason, we were asked to rename an entry
1685
 
                    # that was originally marked as deleted. This could be
1686
 
                    # because we are renaming the parent directory, and the WT
1687
 
                    # current state has the file marked as deleted.
1688
 
                elif entry[1][0][0] == 'r':
1689
 
                    # implement the rename
1690
 
                    del self._dirblocks[block_index][1][entry_index]
1691
 
                else:
1692
 
                    # it is being resurrected here, so blank it out temporarily.
1693
 
                    self._dirblocks[block_index][1][entry_index][1][1] = null
 
1820
                # There is still an active record, so just mark this
 
1821
                # removed.
 
1822
                entry[1][1] = null
 
1823
                block_i, entry_i, d_present, f_present = \
 
1824
                    self._get_block_entry_index(old_path, '', 1)
 
1825
                if d_present:
 
1826
                    dir_block = self._dirblocks[block_i][1]
 
1827
            for child_entry in dir_block:
 
1828
                child_basis_kind = child_entry[1][1][0]
 
1829
                if child_basis_kind not in 'ar':
 
1830
                    self._raise_invalid(old_path, file_id,
 
1831
                        "The file id was deleted but its children were "
 
1832
                        "not deleted.")
1694
1833
 
1695
1834
    def _after_delta_check_parents(self, parents, index):
1696
1835
        """Check that parents required by the delta are all intact.
1705
1844
            # has the right file id.
1706
1845
            entry = self._get_entry(index, file_id, dirname_utf8)
1707
1846
            if entry[1] is None:
1708
 
                self._changes_aborted = True
1709
 
                raise errors.InconsistentDelta(dirname_utf8.decode('utf8'),
 
1847
                self._raise_invalid(dirname_utf8.decode('utf8'),
1710
1848
                    file_id, "This parent is not present.")
1711
1849
            # Parents of things must be directories
1712
1850
            if entry[1][index][0] != 'd':
1713
 
                self._changes_aborted = True
1714
 
                raise errors.InconsistentDelta(dirname_utf8.decode('utf8'),
 
1851
                self._raise_invalid(dirname_utf8.decode('utf8'),
1715
1852
                    file_id, "This parent is not a directory.")
1716
1853
 
1717
1854
    def _observed_sha1(self, entry, sha1, stat_value,
1718
 
        _stat_to_minikind=_stat_to_minikind, _pack_stat=pack_stat):
 
1855
        _stat_to_minikind=_stat_to_minikind):
1719
1856
        """Note the sha1 of a file.
1720
1857
 
1721
1858
        :param entry: The entry the sha1 is for.
1727
1864
        except KeyError:
1728
1865
            # Unhandled kind
1729
1866
            return None
1730
 
        packed_stat = _pack_stat(stat_value)
1731
1867
        if minikind == 'f':
1732
1868
            if self._cutoff_time is None:
1733
1869
                self._sha_cutoff_time()
1734
1870
            if (stat_value.st_mtime < self._cutoff_time
1735
1871
                and stat_value.st_ctime < self._cutoff_time):
1736
 
                entry[1][0] = ('f', sha1, entry[1][0][2], entry[1][0][3],
1737
 
                    packed_stat)
1738
 
                self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
1872
                entry[1][0] = ('f', sha1, stat_value.st_size, entry[1][0][3],
 
1873
                               pack_stat(stat_value))
 
1874
                self._mark_modified([entry])
1739
1875
 
1740
1876
    def _sha_cutoff_time(self):
1741
1877
        """Return cutoff time.
1799
1935
        """Serialise the entire dirstate to a sequence of lines."""
1800
1936
        if (self._header_state == DirState.IN_MEMORY_UNMODIFIED and
1801
1937
            self._dirblock_state == DirState.IN_MEMORY_UNMODIFIED):
1802
 
            # read whats on disk.
 
1938
            # read what's on disk.
1803
1939
            self._state_file.seek(0)
1804
1940
            return self._state_file.readlines()
1805
1941
        lines = []
1806
1942
        lines.append(self._get_parents_line(self.get_parent_ids()))
1807
1943
        lines.append(self._get_ghosts_line(self._ghosts))
1808
 
        # append the root line which is special cased
1809
 
        lines.extend(map(self._entry_to_line, self._iter_entries()))
 
1944
        lines.extend(self._get_entry_lines())
1810
1945
        return self._get_output_lines(lines)
1811
1946
 
1812
1947
    def _get_ghosts_line(self, ghost_ids):
1817
1952
        """Create a line for the state file for parents information."""
1818
1953
        return '\0'.join([str(len(parent_ids))] + parent_ids)
1819
1954
 
 
1955
    def _get_entry_lines(self):
 
1956
        """Create lines for entries."""
 
1957
        return map(self._entry_to_line, self._iter_entries())
 
1958
 
1820
1959
    def _get_fields_to_entry(self):
1821
1960
        """Get a function which converts entry fields into a entry record.
1822
1961
 
1940
2079
            entry_index += 1
1941
2080
        return block_index, entry_index, True, False
1942
2081
 
1943
 
    def _get_entry(self, tree_index, fileid_utf8=None, path_utf8=None, include_deleted=False):
 
2082
    def _get_entry(self, tree_index, fileid_utf8=None, path_utf8=None,
 
2083
                   include_deleted=False):
1944
2084
        """Get the dirstate entry for path in tree tree_index.
1945
2085
 
1946
2086
        If either file_id or path is supplied, it is used as the key to lookup.
1980
2120
                                          ' tree_index, file_id and path')
1981
2121
            return entry
1982
2122
        else:
1983
 
            possible_keys = self._get_id_index().get(fileid_utf8, None)
 
2123
            possible_keys = self._get_id_index().get(fileid_utf8, ())
1984
2124
            if not possible_keys:
1985
2125
                return None, None
1986
2126
            for key in possible_keys:
1997
2137
                entry_index, present = self._find_entry_index(key, block)
1998
2138
                if present:
1999
2139
                    entry = self._dirblocks[block_index][1][entry_index]
 
2140
                    # TODO: We might want to assert that entry[0][2] ==
 
2141
                    #       fileid_utf8.
2000
2142
                    if entry[1][tree_index][0] in 'fdlt':
2001
2143
                        # this is the result we are looking for: the
2002
2144
                        # real home of this file_id in this tree.
2086
2228
            executable = False
2087
2229
        else:
2088
2230
            raise Exception("can't pack %s" % inv_entry)
2089
 
        return (minikind, fingerprint, size, executable, tree_data)
 
2231
        return static_tuple.StaticTuple(minikind, fingerprint, size,
 
2232
                                        executable, tree_data)
2090
2233
 
2091
2234
    def _iter_child_entries(self, tree_index, path_utf8):
2092
2235
        """Iterate over all the entries that are children of path_utf.
2141
2284
                yield entry
2142
2285
 
2143
2286
    def _get_id_index(self):
2144
 
        """Get an id index of self._dirblocks."""
 
2287
        """Get an id index of self._dirblocks.
 
2288
 
 
2289
        This maps from file_id => [(directory, name, file_id)] entries where
 
2290
        that file_id appears in one of the trees.
 
2291
        """
2145
2292
        if self._id_index is None:
2146
2293
            id_index = {}
2147
2294
            for key, tree_details in self._iter_entries():
2148
 
                id_index.setdefault(key[2], set()).add(key)
 
2295
                self._add_to_id_index(id_index, key)
2149
2296
            self._id_index = id_index
2150
2297
        return self._id_index
2151
2298
 
 
2299
    def _add_to_id_index(self, id_index, entry_key):
 
2300
        """Add this entry to the _id_index mapping."""
 
2301
        # This code used to use a set for every entry in the id_index. However,
 
2302
        # it is *rare* to have more than one entry. So a set is a large
 
2303
        # overkill. And even when we do, we won't ever have more than the
 
2304
        # number of parent trees. Which is still a small number (rarely >2). As
 
2305
        # such, we use a simple tuple, and do our own uniqueness checks. While
 
2306
        # the 'in' check is O(N) since N is nicely bounded it shouldn't ever
 
2307
        # cause quadratic failure.
 
2308
        file_id = entry_key[2]
 
2309
        entry_key = static_tuple.StaticTuple.from_sequence(entry_key)
 
2310
        if file_id not in id_index:
 
2311
            id_index[file_id] = static_tuple.StaticTuple(entry_key,)
 
2312
        else:
 
2313
            entry_keys = id_index[file_id]
 
2314
            if entry_key not in entry_keys:
 
2315
                id_index[file_id] = entry_keys + (entry_key,)
 
2316
 
 
2317
    def _remove_from_id_index(self, id_index, entry_key):
 
2318
        """Remove this entry from the _id_index mapping.
 
2319
 
 
2320
        It is an programming error to call this when the entry_key is not
 
2321
        already present.
 
2322
        """
 
2323
        file_id = entry_key[2]
 
2324
        entry_keys = list(id_index[file_id])
 
2325
        entry_keys.remove(entry_key)
 
2326
        id_index[file_id] = static_tuple.StaticTuple.from_sequence(entry_keys)
 
2327
 
2152
2328
    def _get_output_lines(self, lines):
2153
2329
        """Format lines for final output.
2154
2330
 
2174
2350
        """The number of parent entries in each record row."""
2175
2351
        return len(self._parents) - len(self._ghosts)
2176
2352
 
2177
 
    @staticmethod
2178
 
    def on_file(path, sha1_provider=None):
 
2353
    @classmethod
 
2354
    def on_file(cls, path, sha1_provider=None, worth_saving_limit=0):
2179
2355
        """Construct a DirState on the file at path "path".
2180
2356
 
2181
2357
        :param path: The path at which the dirstate file on disk should live.
2182
2358
        :param sha1_provider: an object meeting the SHA1Provider interface.
2183
2359
            If None, a DefaultSHA1Provider is used.
 
2360
        :param worth_saving_limit: when the exact number of hash changed
 
2361
            entries is known, only bother saving the dirstate if more than
 
2362
            this count of entries have changed. -1 means never save.
2184
2363
        :return: An unlocked DirState object, associated with the given path.
2185
2364
        """
2186
2365
        if sha1_provider is None:
2187
2366
            sha1_provider = DefaultSHA1Provider()
2188
 
        result = DirState(path, sha1_provider)
 
2367
        result = cls(path, sha1_provider,
 
2368
                     worth_saving_limit=worth_saving_limit)
2189
2369
        return result
2190
2370
 
2191
2371
    def _read_dirblocks_if_needed(self):
2249
2429
            raise errors.BzrError('missing num_entries line')
2250
2430
        self._num_entries = int(num_entries_line[len('num_entries: '):-1])
2251
2431
 
2252
 
    def sha1_from_stat(self, path, stat_result, _pack_stat=pack_stat):
 
2432
    def sha1_from_stat(self, path, stat_result):
2253
2433
        """Find a sha1 given a stat lookup."""
2254
 
        return self._get_packed_stat_index().get(_pack_stat(stat_result), None)
 
2434
        return self._get_packed_stat_index().get(pack_stat(stat_result), None)
2255
2435
 
2256
2436
    def _get_packed_stat_index(self):
2257
2437
        """Get a packed_stat index of self._dirblocks."""
2283
2463
            trace.mutter('Not saving DirState because '
2284
2464
                    '_changes_aborted is set.')
2285
2465
            return
2286
 
        if (self._header_state == DirState.IN_MEMORY_MODIFIED or
2287
 
            self._dirblock_state == DirState.IN_MEMORY_MODIFIED):
 
2466
        # TODO: Since we now distinguish IN_MEMORY_MODIFIED from
 
2467
        #       IN_MEMORY_HASH_MODIFIED, we should only fail quietly if we fail
 
2468
        #       to save an IN_MEMORY_HASH_MODIFIED, and fail *noisily* if we
 
2469
        #       fail to save IN_MEMORY_MODIFIED
 
2470
        if not self._worth_saving():
 
2471
            return
2288
2472
 
2289
 
            grabbed_write_lock = False
2290
 
            if self._lock_state != 'w':
2291
 
                grabbed_write_lock, new_lock = self._lock_token.temporary_write_lock()
2292
 
                # Switch over to the new lock, as the old one may be closed.
 
2473
        grabbed_write_lock = False
 
2474
        if self._lock_state != 'w':
 
2475
            grabbed_write_lock, new_lock = self._lock_token.temporary_write_lock()
 
2476
            # Switch over to the new lock, as the old one may be closed.
 
2477
            # TODO: jam 20070315 We should validate the disk file has
 
2478
            #       not changed contents, since temporary_write_lock may
 
2479
            #       not be an atomic operation.
 
2480
            self._lock_token = new_lock
 
2481
            self._state_file = new_lock.f
 
2482
            if not grabbed_write_lock:
 
2483
                # We couldn't grab a write lock, so we switch back to a read one
 
2484
                return
 
2485
        try:
 
2486
            lines = self.get_lines()
 
2487
            self._state_file.seek(0)
 
2488
            self._state_file.writelines(lines)
 
2489
            self._state_file.truncate()
 
2490
            self._state_file.flush()
 
2491
            self._maybe_fdatasync()
 
2492
            self._mark_unmodified()
 
2493
        finally:
 
2494
            if grabbed_write_lock:
 
2495
                self._lock_token = self._lock_token.restore_read_lock()
 
2496
                self._state_file = self._lock_token.f
2293
2497
                # TODO: jam 20070315 We should validate the disk file has
2294
 
                #       not changed contents. Since temporary_write_lock may
2295
 
                #       not be an atomic operation.
2296
 
                self._lock_token = new_lock
2297
 
                self._state_file = new_lock.f
2298
 
                if not grabbed_write_lock:
2299
 
                    # We couldn't grab a write lock, so we switch back to a read one
2300
 
                    return
2301
 
            try:
2302
 
                self._state_file.seek(0)
2303
 
                self._state_file.writelines(self.get_lines())
2304
 
                self._state_file.truncate()
2305
 
                self._state_file.flush()
2306
 
                self._header_state = DirState.IN_MEMORY_UNMODIFIED
2307
 
                self._dirblock_state = DirState.IN_MEMORY_UNMODIFIED
2308
 
            finally:
2309
 
                if grabbed_write_lock:
2310
 
                    self._lock_token = self._lock_token.restore_read_lock()
2311
 
                    self._state_file = self._lock_token.f
2312
 
                    # TODO: jam 20070315 We should validate the disk file has
2313
 
                    #       not changed contents. Since restore_read_lock may
2314
 
                    #       not be an atomic operation.
 
2498
                #       not changed contents. Since restore_read_lock may
 
2499
                #       not be an atomic operation.                
 
2500
 
 
2501
    def _maybe_fdatasync(self):
 
2502
        """Flush to disk if possible and if not configured off."""
 
2503
        if self._config_stack.get('dirstate.fdatasync'):
 
2504
            osutils.fdatasync(self._state_file.fileno())
 
2505
 
 
2506
    def _worth_saving(self):
 
2507
        """Is it worth saving the dirstate or not?"""
 
2508
        if (self._header_state == DirState.IN_MEMORY_MODIFIED
 
2509
            or self._dirblock_state == DirState.IN_MEMORY_MODIFIED):
 
2510
            return True
 
2511
        if self._dirblock_state == DirState.IN_MEMORY_HASH_MODIFIED:
 
2512
            if self._worth_saving_limit == -1:
 
2513
                # We never save hash changes when the limit is -1
 
2514
                return False
 
2515
            # If we're using smart saving and only a small number of
 
2516
            # entries have changed their hash, don't bother saving. John has
 
2517
            # suggested using a heuristic here based on the size of the
 
2518
            # changed files and/or tree. For now, we go with a configurable
 
2519
            # number of changes, keeping the calculation time
 
2520
            # as low overhead as possible. (This also keeps all existing
 
2521
            # tests passing as the default is 0, i.e. always save.)
 
2522
            if len(self._known_hash_changes) >= self._worth_saving_limit:
 
2523
                return True
 
2524
        return False
2315
2525
 
2316
2526
    def _set_data(self, parent_ids, dirblocks):
2317
2527
        """Set the full dirstate data in memory.
2326
2536
        """
2327
2537
        # our memory copy is now authoritative.
2328
2538
        self._dirblocks = dirblocks
2329
 
        self._header_state = DirState.IN_MEMORY_MODIFIED
2330
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
2539
        self._mark_modified(header_modified=True)
2331
2540
        self._parents = list(parent_ids)
2332
2541
        self._id_index = None
2333
2542
        self._packed_stat_index = None
2353
2562
        self._make_absent(entry)
2354
2563
        self.update_minimal(('', '', new_id), 'd',
2355
2564
            path_utf8='', packed_stat=entry[1][0][4])
2356
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
2565
        self._mark_modified()
 
2566
        # XXX: This was added by Ian, we need to make sure there
 
2567
        #      are tests for it, because it isn't in bzr.dev TRUNK
 
2568
        #      It looks like the only place it is called is in setting the root
 
2569
        #      id of the tree. So probably we never had an _id_index when we
 
2570
        #      don't even have a root yet.
2357
2571
        if self._id_index is not None:
2358
 
            self._id_index.setdefault(new_id, set()).add(entry[0])
 
2572
            self._add_to_id_index(self._id_index, entry[0])
2359
2573
 
2360
2574
    def set_parent_trees(self, trees, ghosts):
2361
2575
        """Set the parent trees for the dirstate.
2406
2620
        parent_trees = [tree for rev_id, tree in trees if rev_id not in ghosts]
2407
2621
        # how many trees do we end up with
2408
2622
        parent_count = len(parent_trees)
 
2623
        st = static_tuple.StaticTuple
2409
2624
 
2410
2625
        # one: the current tree
2411
2626
        for entry in self._iter_entries():
2414
2629
                continue
2415
2630
            by_path[entry[0]] = [entry[1][0]] + \
2416
2631
                [DirState.NULL_PARENT_DETAILS] * parent_count
2417
 
            id_index[entry[0][2]] = set([entry[0]])
 
2632
            # TODO: Possibly inline this, since we know it isn't present yet
 
2633
            #       id_index[entry[0][2]] = (entry[0],)
 
2634
            self._add_to_id_index(id_index, entry[0])
2418
2635
 
2419
2636
        # now the parent trees:
2420
2637
        for tree_index, tree in enumerate(parent_trees):
2426
2643
            # the suffix is from tree_index+1:parent_count+1.
2427
2644
            new_location_suffix = [DirState.NULL_PARENT_DETAILS] * (parent_count - tree_index)
2428
2645
            # now stitch in all the entries from this tree
2429
 
            for path, entry in tree.inventory.iter_entries_by_dir():
 
2646
            last_dirname = None
 
2647
            for path, entry in tree.iter_entries_by_dir():
2430
2648
                # here we process each trees details for each item in the tree.
2431
2649
                # we first update any existing entries for the id at other paths,
2432
2650
                # then we either create or update the entry for the id at the
2439
2657
                file_id = entry.file_id
2440
2658
                path_utf8 = path.encode('utf8')
2441
2659
                dirname, basename = osutils.split(path_utf8)
2442
 
                new_entry_key = (dirname, basename, file_id)
 
2660
                if dirname == last_dirname:
 
2661
                    # Try to re-use objects as much as possible
 
2662
                    dirname = last_dirname
 
2663
                else:
 
2664
                    last_dirname = dirname
 
2665
                new_entry_key = st(dirname, basename, file_id)
2443
2666
                # tree index consistency: All other paths for this id in this tree
2444
2667
                # index must point to the correct path.
2445
 
                for entry_key in id_index.setdefault(file_id, set()):
 
2668
                entry_keys = id_index.get(file_id, ())
 
2669
                for entry_key in entry_keys:
2446
2670
                    # TODO:PROFILING: It might be faster to just update
2447
2671
                    # rather than checking if we need to, and then overwrite
2448
2672
                    # the one we are located at.
2451
2675
                        # other trees, so put absent pointers there
2452
2676
                        # This is the vertical axis in the matrix, all pointing
2453
2677
                        # to the real path.
2454
 
                        by_path[entry_key][tree_index] = ('r', path_utf8, 0, False, '')
2455
 
                # by path consistency: Insert into an existing path record (trivial), or
2456
 
                # add a new one with relocation pointers for the other tree indexes.
2457
 
                if new_entry_key in id_index[file_id]:
2458
 
                    # there is already an entry where this data belongs, just insert it.
 
2678
                        by_path[entry_key][tree_index] = st('r', path_utf8, 0,
 
2679
                                                            False, '')
 
2680
                # by path consistency: Insert into an existing path record
 
2681
                # (trivial), or add a new one with relocation pointers for the
 
2682
                # other tree indexes.
 
2683
                if new_entry_key in entry_keys:
 
2684
                    # there is already an entry where this data belongs, just
 
2685
                    # insert it.
2459
2686
                    by_path[new_entry_key][tree_index] = \
2460
2687
                        self._inv_entry_to_details(entry)
2461
2688
                else:
2465
2692
                    new_details = []
2466
2693
                    for lookup_index in xrange(tree_index):
2467
2694
                        # boundary case: this is the first occurence of file_id
2468
 
                        # so there are no id_indexs, possibly take this out of
 
2695
                        # so there are no id_indexes, possibly take this out of
2469
2696
                        # the loop?
2470
 
                        if not len(id_index[file_id]):
 
2697
                        if not len(entry_keys):
2471
2698
                            new_details.append(DirState.NULL_PARENT_DETAILS)
2472
2699
                        else:
2473
2700
                            # grab any one entry, use it to find the right path.
2474
 
                            # TODO: optimise this to reduce memory use in highly
2475
 
                            # fragmented situations by reusing the relocation
2476
 
                            # records.
2477
 
                            a_key = iter(id_index[file_id]).next()
 
2701
                            a_key = iter(entry_keys).next()
2478
2702
                            if by_path[a_key][lookup_index][0] in ('r', 'a'):
2479
 
                                # its a pointer or missing statement, use it as is.
 
2703
                                # its a pointer or missing statement, use it as
 
2704
                                # is.
2480
2705
                                new_details.append(by_path[a_key][lookup_index])
2481
2706
                            else:
2482
2707
                                # we have the right key, make a pointer to it.
2483
2708
                                real_path = ('/'.join(a_key[0:2])).strip('/')
2484
 
                                new_details.append(('r', real_path, 0, False, ''))
 
2709
                                new_details.append(st('r', real_path, 0, False,
 
2710
                                                      ''))
2485
2711
                    new_details.append(self._inv_entry_to_details(entry))
2486
2712
                    new_details.extend(new_location_suffix)
2487
2713
                    by_path[new_entry_key] = new_details
2488
 
                    id_index[file_id].add(new_entry_key)
 
2714
                    self._add_to_id_index(id_index, new_entry_key)
2489
2715
        # --- end generation of full tree mappings
2490
2716
 
2491
2717
        # sort and output all the entries
2493
2719
        self._entries_to_current_state(new_entries)
2494
2720
        self._parents = [rev_id for rev_id, tree in trees]
2495
2721
        self._ghosts = list(ghosts)
2496
 
        self._header_state = DirState.IN_MEMORY_MODIFIED
2497
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
2722
        self._mark_modified(header_modified=True)
2498
2723
        self._id_index = id_index
2499
2724
 
2500
2725
    def _sort_entries(self, entry_list):
2504
2729
        try to keep everything in sorted blocks all the time, but sometimes
2505
2730
        it's easier to sort after the fact.
2506
2731
        """
2507
 
        def _key(entry):
 
2732
        # When sorting, we usually have 10x more entries than directories. (69k
 
2733
        # total entries, 4k directories). So cache the results of splitting.
 
2734
        # Saving time and objects. Also, use StaticTuple to avoid putting all
 
2735
        # of these object into python's garbage collector.
 
2736
        split_dirs = {}
 
2737
        def _key(entry, _split_dirs=split_dirs, _st=static_tuple.StaticTuple):
2508
2738
            # sort by: directory parts, file name, file id
2509
 
            return entry[0][0].split('/'), entry[0][1], entry[0][2]
 
2739
            dirpath, fname, file_id = entry[0]
 
2740
            try:
 
2741
                split = _split_dirs[dirpath]
 
2742
            except KeyError:
 
2743
                split = _st.from_sequence(dirpath.split('/'))
 
2744
                _split_dirs[dirpath] = split
 
2745
            return _st(split, fname, file_id)
2510
2746
        return sorted(entry_list, key=_key)
2511
2747
 
2512
2748
    def set_state_from_inventory(self, new_inv):
2637
2873
                        current_old[0][1].decode('utf8'))
2638
2874
                self._make_absent(current_old)
2639
2875
                current_old = advance(old_iterator)
2640
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
2876
        self._mark_modified()
2641
2877
        self._id_index = None
2642
2878
        self._packed_stat_index = None
2643
2879
        if tracing:
2644
2880
            trace.mutter("set_state_from_inventory complete.")
2645
2881
 
 
2882
    def set_state_from_scratch(self, working_inv, parent_trees, parent_ghosts):
 
2883
        """Wipe the currently stored state and set it to something new.
 
2884
 
 
2885
        This is a hard-reset for the data we are working with.
 
2886
        """
 
2887
        # Technically, we really want a write lock, but until we write, we
 
2888
        # don't really need it.
 
2889
        self._requires_lock()
 
2890
        # root dir and root dir contents with no children. We have to have a
 
2891
        # root for set_state_from_inventory to work correctly.
 
2892
        empty_root = (('', '', inventory.ROOT_ID),
 
2893
                      [('d', '', 0, False, DirState.NULLSTAT)])
 
2894
        empty_tree_dirblocks = [('', [empty_root]), ('', [])]
 
2895
        self._set_data([], empty_tree_dirblocks)
 
2896
        self.set_state_from_inventory(working_inv)
 
2897
        self.set_parent_trees(parent_trees, parent_ghosts)
 
2898
 
2646
2899
    def _make_absent(self, current_old):
2647
2900
        """Mark current_old - an entry - as absent for tree 0.
2648
2901
 
2673
2926
            block[1].pop(entry_index)
2674
2927
            # if we have an id_index in use, remove this key from it for this id.
2675
2928
            if self._id_index is not None:
2676
 
                self._id_index[current_old[0][2]].remove(current_old[0])
 
2929
                self._remove_from_id_index(self._id_index, current_old[0])
2677
2930
        # update all remaining keys for this id to record it as absent. The
2678
2931
        # existing details may either be the record we are marking as deleted
2679
2932
        # (if there were other trees with the id present at this path), or may
2692
2945
            if update_tree_details[0][0] == 'a': # absent
2693
2946
                raise AssertionError('bad row %r' % (update_tree_details,))
2694
2947
            update_tree_details[0] = DirState.NULL_PARENT_DETAILS
2695
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
2948
        self._mark_modified()
2696
2949
        return last_reference
2697
2950
 
2698
2951
    def update_minimal(self, key, minikind, executable=False, fingerprint='',
2740
2993
                            # This entry has the same path (but a different id) as
2741
2994
                            # the new entry we're adding, and is present in ths
2742
2995
                            # tree.
2743
 
                            raise errors.InconsistentDelta(
 
2996
                            self._raise_invalid(
2744
2997
                                ("%s/%s" % key[0:2]).decode('utf8'), key[2],
2745
2998
                                "Attempt to add item at path already occupied by "
2746
2999
                                "id %r" % entry[0][2])
2748
3001
                    else:
2749
3002
                        break
2750
3003
            # new entry, synthesis cross reference here,
2751
 
            existing_keys = id_index.setdefault(key[2], set())
 
3004
            existing_keys = id_index.get(key[2], ())
2752
3005
            if not existing_keys:
2753
3006
                # not currently in the state, simplest case
2754
3007
                new_entry = key, [new_details] + self._empty_parent_info()
2785
3038
                    # loop.
2786
3039
                    other_entry = other_block[other_entry_index]
2787
3040
                    other_entry[1][0] = ('r', path_utf8, 0, False, '')
2788
 
                    self._maybe_remove_row(other_block, other_entry_index,
2789
 
                        id_index)
 
3041
                    if self._maybe_remove_row(other_block, other_entry_index,
 
3042
                                              id_index):
 
3043
                        # If the row holding this was removed, we need to
 
3044
                        # recompute where this entry goes
 
3045
                        entry_index, _ = self._find_entry_index(key, block)
2790
3046
 
2791
3047
                # This loop:
2792
3048
                # adds a tuple to the new details for each column
2794
3050
                #  - or by creating a new pointer to the right row inside that column
2795
3051
                num_present_parents = self._num_present_parents()
2796
3052
                if num_present_parents:
 
3053
                    # TODO: This re-evaluates the existing_keys set, do we need
 
3054
                    #       to do that ourselves?
2797
3055
                    other_key = list(existing_keys)[0]
2798
3056
                for lookup_index in xrange(1, num_present_parents + 1):
2799
3057
                    # grab any one entry, use it to find the right path.
2818
3076
                        pointer_path = osutils.pathjoin(*other_key[0:2])
2819
3077
                        new_entry[1].append(('r', pointer_path, 0, False, ''))
2820
3078
            block.insert(entry_index, new_entry)
2821
 
            existing_keys.add(key)
 
3079
            self._add_to_id_index(id_index, key)
2822
3080
        else:
2823
3081
            # Does the new state matter?
2824
3082
            block[entry_index][1][0] = new_details
2833
3091
            # converted to relocated.
2834
3092
            if path_utf8 is None:
2835
3093
                raise AssertionError('no path')
2836
 
            for entry_key in id_index.setdefault(key[2], set()):
 
3094
            existing_keys = id_index.get(key[2], ())
 
3095
            if key not in existing_keys:
 
3096
                raise AssertionError('We found the entry in the blocks, but'
 
3097
                    ' the key is not in the id_index.'
 
3098
                    ' key: %s, existing_keys: %s' % (key, existing_keys))
 
3099
            for entry_key in existing_keys:
2837
3100
                # TODO:PROFILING: It might be faster to just update
2838
3101
                # rather than checking if we need to, and then overwrite
2839
3102
                # the one we are located at.
2857
3120
            if not present:
2858
3121
                self._dirblocks.insert(block_index, (subdir_key[0], []))
2859
3122
 
2860
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
3123
        self._mark_modified()
2861
3124
 
2862
3125
    def _maybe_remove_row(self, block, index, id_index):
2863
3126
        """Remove index if it is absent or relocated across the row.
2864
3127
        
2865
3128
        id_index is updated accordingly.
 
3129
        :return: True if we removed the row, False otherwise
2866
3130
        """
2867
3131
        present_in_row = False
2868
3132
        entry = block[index]
2872
3136
                break
2873
3137
        if not present_in_row:
2874
3138
            block.pop(index)
2875
 
            id_index[entry[0][2]].remove(entry[0])
 
3139
            self._remove_from_id_index(id_index, entry[0])
 
3140
            return True
 
3141
        return False
2876
3142
 
2877
3143
    def _validate(self):
2878
3144
        """Check that invariants on the dirblock are correct.
3013
3279
            if absent_positions == tree_count:
3014
3280
                raise AssertionError(
3015
3281
                    "entry %r has no data for any tree." % (entry,))
 
3282
        if self._id_index is not None:
 
3283
            for file_id, entry_keys in self._id_index.iteritems():
 
3284
                for entry_key in entry_keys:
 
3285
                    if entry_key[2] != file_id:
 
3286
                        raise AssertionError(
 
3287
                            'file_id %r did not match entry key %s'
 
3288
                            % (file_id, entry_key))
 
3289
                if len(entry_keys) != len(set(entry_keys)):
 
3290
                    raise AssertionError(
 
3291
                        'id_index contained non-unique data for %s'
 
3292
                        % (entry_keys,))
3016
3293
 
3017
3294
    def _wipe_state(self):
3018
3295
        """Forget all state information about the dirstate."""
3075
3352
 
3076
3353
 
3077
3354
def py_update_entry(state, entry, abspath, stat_value,
3078
 
                 _stat_to_minikind=DirState._stat_to_minikind,
3079
 
                 _pack_stat=pack_stat):
 
3355
                 _stat_to_minikind=DirState._stat_to_minikind):
3080
3356
    """Update the entry based on what is actually on disk.
3081
3357
 
3082
3358
    This function only calculates the sha if it needs to - if the entry is
3095
3371
    except KeyError:
3096
3372
        # Unhandled kind
3097
3373
        return None
3098
 
    packed_stat = _pack_stat(stat_value)
 
3374
    packed_stat = pack_stat(stat_value)
3099
3375
    (saved_minikind, saved_link_or_sha1, saved_file_size,
3100
3376
     saved_executable, saved_packed_stat) = entry[1][0]
3101
3377
 
3115
3391
    # If we have gotten this far, that means that we need to actually
3116
3392
    # process this entry.
3117
3393
    link_or_sha1 = None
 
3394
    worth_saving = True
3118
3395
    if minikind == 'f':
3119
3396
        executable = state._is_executable(stat_value.st_mode,
3120
3397
                                         saved_executable)
3136
3413
        else:
3137
3414
            entry[1][0] = ('f', '', stat_value.st_size,
3138
3415
                           executable, DirState.NULLSTAT)
 
3416
            worth_saving = False
3139
3417
    elif minikind == 'd':
3140
3418
        link_or_sha1 = None
3141
3419
        entry[1][0] = ('d', '', 0, False, packed_stat)
3147
3425
                state._get_block_entry_index(entry[0][0], entry[0][1], 0)
3148
3426
            state._ensure_block(block_index, entry_index,
3149
3427
                               osutils.pathjoin(entry[0][0], entry[0][1]))
 
3428
        else:
 
3429
            worth_saving = False
3150
3430
    elif minikind == 'l':
 
3431
        if saved_minikind == 'l':
 
3432
            worth_saving = False
3151
3433
        link_or_sha1 = state._read_link(abspath, saved_link_or_sha1)
3152
3434
        if state._cutoff_time is None:
3153
3435
            state._sha_cutoff_time()
3158
3440
        else:
3159
3441
            entry[1][0] = ('l', '', stat_value.st_size,
3160
3442
                           False, DirState.NULLSTAT)
3161
 
    state._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
3443
    if worth_saving:
 
3444
        state._mark_modified([entry])
3162
3445
    return link_or_sha1
3163
3446
 
3164
3447
 
3473
3756
            raise AssertionError("don't know how to compare "
3474
3757
                "source_minikind=%r, target_minikind=%r"
3475
3758
                % (source_minikind, target_minikind))
3476
 
            ## import pdb;pdb.set_trace()
3477
3759
        return None, None
3478
3760
 
3479
3761
    def __iter__(self):
3968
4250
        _bisect_path_left,
3969
4251
        _bisect_path_right,
3970
4252
        cmp_by_dirs,
 
4253
        pack_stat,
3971
4254
        ProcessEntryC as _process_entry,
3972
4255
        update_entry as update_entry,
3973
4256
        )
3979
4262
        _bisect_path_left,
3980
4263
        _bisect_path_right,
3981
4264
        cmp_by_dirs,
 
4265
        pack_stat,
3982
4266
        )
3983
4267
    # FIXME: It would be nice to be able to track moved lines so that the
3984
4268
    # corresponding python code can be moved to the _dirstate_helpers_py