~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/dirstate.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2011-05-19 10:51:37 UTC
  • mfrom: (5891.1.3 api-docs)
  • Revision ID: pqm@pqm.ubuntu.com-20110519105137-amzagrral2ldm1lq
(spiv) Fix the formatting of more docstrings. (Andrew Bennetts)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006-2010 Canonical Ltd
 
1
# Copyright (C) 2006-2011 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
20
20
lines by NL. The field delimiters are ommitted in the grammar, line delimiters
21
21
are not - this is done for clarity of reading. All string data is in utf8.
22
22
 
23
 
MINIKIND = "f" | "d" | "l" | "a" | "r" | "t";
24
 
NL = "\n";
25
 
NULL = "\0";
26
 
WHOLE_NUMBER = {digit}, digit;
27
 
BOOLEAN = "y" | "n";
28
 
REVISION_ID = a non-empty utf8 string;
29
 
 
30
 
dirstate format = header line, full checksum, row count, parent details,
31
 
 ghost_details, entries;
32
 
header line = "#bazaar dirstate flat format 3", NL;
33
 
full checksum = "crc32: ", ["-"], WHOLE_NUMBER, NL;
34
 
row count = "num_entries: ", WHOLE_NUMBER, NL;
35
 
parent_details = WHOLE NUMBER, {REVISION_ID}* NL;
36
 
ghost_details = WHOLE NUMBER, {REVISION_ID}*, NL;
37
 
entries = {entry};
38
 
entry = entry_key, current_entry_details, {parent_entry_details};
39
 
entry_key = dirname,  basename, fileid;
40
 
current_entry_details = common_entry_details, working_entry_details;
41
 
parent_entry_details = common_entry_details, history_entry_details;
42
 
common_entry_details = MINIKIND, fingerprint, size, executable
43
 
working_entry_details = packed_stat
44
 
history_entry_details = REVISION_ID;
45
 
executable = BOOLEAN;
46
 
size = WHOLE_NUMBER;
47
 
fingerprint = a nonempty utf8 sequence with meaning defined by minikind.
48
 
 
49
 
Given this definition, the following is useful to know:
50
 
entry (aka row) - all the data for a given key.
51
 
entry[0]: The key (dirname, basename, fileid)
52
 
entry[0][0]: dirname
53
 
entry[0][1]: basename
54
 
entry[0][2]: fileid
55
 
entry[1]: The tree(s) data for this path and id combination.
56
 
entry[1][0]: The current tree
57
 
entry[1][1]: The second tree
58
 
 
59
 
For an entry for a tree, we have (using tree 0 - current tree) to demonstrate:
60
 
entry[1][0][0]: minikind
61
 
entry[1][0][1]: fingerprint
62
 
entry[1][0][2]: size
63
 
entry[1][0][3]: executable
64
 
entry[1][0][4]: packed_stat
65
 
OR (for non tree-0)
66
 
entry[1][1][4]: revision_id
 
23
::
 
24
 
 
25
    MINIKIND = "f" | "d" | "l" | "a" | "r" | "t";
 
26
    NL = "\\n";
 
27
    NULL = "\\0";
 
28
    WHOLE_NUMBER = {digit}, digit;
 
29
    BOOLEAN = "y" | "n";
 
30
    REVISION_ID = a non-empty utf8 string;
 
31
    
 
32
    dirstate format = header line, full checksum, row count, parent details,
 
33
     ghost_details, entries;
 
34
    header line = "#bazaar dirstate flat format 3", NL;
 
35
    full checksum = "crc32: ", ["-"], WHOLE_NUMBER, NL;
 
36
    row count = "num_entries: ", WHOLE_NUMBER, NL;
 
37
    parent_details = WHOLE NUMBER, {REVISION_ID}* NL;
 
38
    ghost_details = WHOLE NUMBER, {REVISION_ID}*, NL;
 
39
    entries = {entry};
 
40
    entry = entry_key, current_entry_details, {parent_entry_details};
 
41
    entry_key = dirname,  basename, fileid;
 
42
    current_entry_details = common_entry_details, working_entry_details;
 
43
    parent_entry_details = common_entry_details, history_entry_details;
 
44
    common_entry_details = MINIKIND, fingerprint, size, executable
 
45
    working_entry_details = packed_stat
 
46
    history_entry_details = REVISION_ID;
 
47
    executable = BOOLEAN;
 
48
    size = WHOLE_NUMBER;
 
49
    fingerprint = a nonempty utf8 sequence with meaning defined by minikind.
 
50
 
 
51
Given this definition, the following is useful to know::
 
52
 
 
53
    entry (aka row) - all the data for a given key.
 
54
    entry[0]: The key (dirname, basename, fileid)
 
55
    entry[0][0]: dirname
 
56
    entry[0][1]: basename
 
57
    entry[0][2]: fileid
 
58
    entry[1]: The tree(s) data for this path and id combination.
 
59
    entry[1][0]: The current tree
 
60
    entry[1][1]: The second tree
 
61
 
 
62
For an entry for a tree, we have (using tree 0 - current tree) to demonstrate::
 
63
 
 
64
    entry[1][0][0]: minikind
 
65
    entry[1][0][1]: fingerprint
 
66
    entry[1][0][2]: size
 
67
    entry[1][0][3]: executable
 
68
    entry[1][0][4]: packed_stat
 
69
 
 
70
OR (for non tree-0)::
 
71
 
 
72
    entry[1][1][4]: revision_id
67
73
 
68
74
There may be multiple rows at the root, one per id present in the root, so the
69
 
in memory root row is now:
70
 
self._dirblocks[0] -> ('', [entry ...]),
71
 
and the entries in there are
72
 
entries[0][0]: ''
73
 
entries[0][1]: ''
74
 
entries[0][2]: file_id
75
 
entries[1][0]: The tree data for the current tree for this fileid at /
76
 
etc.
77
 
 
78
 
Kinds:
79
 
'r' is a relocated entry: This path is not present in this tree with this id,
80
 
    but the id can be found at another location. The fingerprint is used to
81
 
    point to the target location.
82
 
'a' is an absent entry: In that tree the id is not present at this path.
83
 
'd' is a directory entry: This path in this tree is a directory with the
84
 
    current file id. There is no fingerprint for directories.
85
 
'f' is a file entry: As for directory, but it's a file. The fingerprint is the
86
 
    sha1 value of the file's canonical form, i.e. after any read filters have
87
 
    been applied to the convenience form stored in the working tree.
88
 
'l' is a symlink entry: As for directory, but a symlink. The fingerprint is the
89
 
    link target.
90
 
't' is a reference to a nested subtree; the fingerprint is the referenced
91
 
    revision.
 
75
in memory root row is now::
 
76
 
 
77
    self._dirblocks[0] -> ('', [entry ...]),
 
78
 
 
79
and the entries in there are::
 
80
 
 
81
    entries[0][0]: ''
 
82
    entries[0][1]: ''
 
83
    entries[0][2]: file_id
 
84
    entries[1][0]: The tree data for the current tree for this fileid at /
 
85
    etc.
 
86
 
 
87
Kinds::
 
88
 
 
89
    'r' is a relocated entry: This path is not present in this tree with this
 
90
        id, but the id can be found at another location. The fingerprint is
 
91
        used to point to the target location.
 
92
    'a' is an absent entry: In that tree the id is not present at this path.
 
93
    'd' is a directory entry: This path in this tree is a directory with the
 
94
        current file id. There is no fingerprint for directories.
 
95
    'f' is a file entry: As for directory, but it's a file. The fingerprint is
 
96
        the sha1 value of the file's canonical form, i.e. after any read
 
97
        filters have been applied to the convenience form stored in the working
 
98
        tree.
 
99
    'l' is a symlink entry: As for directory, but a symlink. The fingerprint is
 
100
        the link target.
 
101
    't' is a reference to a nested subtree; the fingerprint is the referenced
 
102
        revision.
92
103
 
93
104
Ordering:
94
105
 
95
 
The entries on disk and in memory are ordered according to the following keys:
 
106
The entries on disk and in memory are ordered according to the following keys::
96
107
 
97
108
    directory, as a list of components
98
109
    filename
99
110
    file-id
100
111
 
101
112
--- Format 1 had the following different definition: ---
102
 
rows = dirname, NULL, basename, NULL, MINIKIND, NULL, fileid_utf8, NULL,
103
 
    WHOLE NUMBER (* size *), NULL, packed stat, NULL, sha1|symlink target,
104
 
    {PARENT ROW}
105
 
PARENT ROW = NULL, revision_utf8, NULL, MINIKIND, NULL, dirname, NULL,
106
 
    basename, NULL, WHOLE NUMBER (* size *), NULL, "y" | "n", NULL,
107
 
    SHA1
 
113
 
 
114
::
 
115
 
 
116
    rows = dirname, NULL, basename, NULL, MINIKIND, NULL, fileid_utf8, NULL,
 
117
        WHOLE NUMBER (* size *), NULL, packed stat, NULL, sha1|symlink target,
 
118
        {PARENT ROW}
 
119
    PARENT ROW = NULL, revision_utf8, NULL, MINIKIND, NULL, dirname, NULL,
 
120
        basename, NULL, WHOLE NUMBER (* size *), NULL, "y" | "n", NULL,
 
121
        SHA1
108
122
 
109
123
PARENT ROW's are emitted for every parent that is not in the ghosts details
110
124
line. That is, if the parents are foo, bar, baz, and the ghosts are bar, then
135
149
----
136
150
 
137
151
Design priorities:
138
 
 1) Fast end to end use for bzr's top 5 uses cases. (commmit/diff/status/merge/???)
139
 
 2) fall back current object model as needed.
140
 
 3) scale usably to the largest trees known today - say 50K entries. (mozilla
 
152
 1. Fast end to end use for bzr's top 5 uses cases. (commmit/diff/status/merge/???)
 
153
 2. fall back current object model as needed.
 
154
 3. scale usably to the largest trees known today - say 50K entries. (mozilla
141
155
    is an example of this)
142
156
 
143
157
 
144
158
Locking:
 
159
 
145
160
 Eventually reuse dirstate objects across locks IFF the dirstate file has not
146
161
 been modified, but will require that we flush/ignore cached stat-hit data
147
162
 because we won't want to restat all files on disk just because a lock was
148
163
 acquired, yet we cannot trust the data after the previous lock was released.
149
164
 
150
 
Memory representation:
 
165
Memory representation::
 
166
 
151
167
 vector of all directories, and vector of the childen ?
152
168
   i.e.
153
169
     root_entrie = (direntry for root, [parent_direntries_for_root]),
167
183
    - What's the risk of error here? Once we have the base format being processed
168
184
      we should have a net win regardless of optimality. So we are going to
169
185
      go with what seems reasonable.
 
186
 
170
187
open questions:
171
188
 
172
189
Maybe we should do a test profile of the core structure - 10K simulated
220
237
    inventory,
221
238
    lock,
222
239
    osutils,
 
240
    static_tuple,
223
241
    trace,
224
242
    )
225
243
 
264
282
        # return '%X.%X' % (int(st.st_mtime), st.st_mode)
265
283
 
266
284
 
 
285
def _unpack_stat(packed_stat):
 
286
    """Turn a packed_stat back into the stat fields.
 
287
 
 
288
    This is meant as a debugging tool, should not be used in real code.
 
289
    """
 
290
    (st_size, st_mtime, st_ctime, st_dev, st_ino,
 
291
     st_mode) = struct.unpack('>LLLLLL', binascii.a2b_base64(packed_stat))
 
292
    return dict(st_size=st_size, st_mtime=st_mtime, st_ctime=st_ctime,
 
293
                st_dev=st_dev, st_ino=st_ino, st_mode=st_mode)
 
294
 
 
295
 
267
296
class SHA1Provider(object):
268
297
    """An interface for getting sha1s of a file."""
269
298
 
354
383
    NOT_IN_MEMORY = 0
355
384
    IN_MEMORY_UNMODIFIED = 1
356
385
    IN_MEMORY_MODIFIED = 2
 
386
    IN_MEMORY_HASH_MODIFIED = 3 # Only hash-cache updates
357
387
 
358
388
    # A pack_stat (the x's) that is just noise and will never match the output
359
389
    # of base64 encode.
363
393
    HEADER_FORMAT_2 = '#bazaar dirstate flat format 2\n'
364
394
    HEADER_FORMAT_3 = '#bazaar dirstate flat format 3\n'
365
395
 
366
 
    def __init__(self, path, sha1_provider):
 
396
    def __init__(self, path, sha1_provider, worth_saving_limit=0):
367
397
        """Create a  DirState object.
368
398
 
369
399
        :param path: The path at which the dirstate file on disk should live.
370
400
        :param sha1_provider: an object meeting the SHA1Provider interface.
 
401
        :param worth_saving_limit: when the exact number of hash changed
 
402
            entries is known, only bother saving the dirstate if more than
 
403
            this count of entries have changed.
 
404
            -1 means never save hash changes, 0 means always save hash changes.
371
405
        """
372
406
        # _header_state and _dirblock_state represent the current state
373
407
        # of the dirstate metadata and the per-row data respectiely.
410
444
        # during commit.
411
445
        self._last_block_index = None
412
446
        self._last_entry_index = None
 
447
        # The set of known hash changes
 
448
        self._known_hash_changes = set()
 
449
        # How many hash changed entries can we have without saving
 
450
        self._worth_saving_limit = worth_saving_limit
413
451
 
414
452
    def __repr__(self):
415
453
        return "%s(%r)" % \
416
454
            (self.__class__.__name__, self._filename)
417
455
 
 
456
    def _mark_modified(self, hash_changed_entries=None, header_modified=False):
 
457
        """Mark this dirstate as modified.
 
458
 
 
459
        :param hash_changed_entries: if non-None, mark just these entries as
 
460
            having their hash modified.
 
461
        :param header_modified: mark the header modified as well, not just the
 
462
            dirblocks.
 
463
        """
 
464
        #trace.mutter_callsite(3, "modified hash entries: %s", hash_changed_entries)
 
465
        if hash_changed_entries:
 
466
            self._known_hash_changes.update([e[0] for e in hash_changed_entries])
 
467
            if self._dirblock_state in (DirState.NOT_IN_MEMORY,
 
468
                                        DirState.IN_MEMORY_UNMODIFIED):
 
469
                # If the dirstate is already marked a IN_MEMORY_MODIFIED, then
 
470
                # that takes precedence.
 
471
                self._dirblock_state = DirState.IN_MEMORY_HASH_MODIFIED
 
472
        else:
 
473
            # TODO: Since we now have a IN_MEMORY_HASH_MODIFIED state, we
 
474
            #       should fail noisily if someone tries to set
 
475
            #       IN_MEMORY_MODIFIED but we don't have a write-lock!
 
476
            # We don't know exactly what changed so disable smart saving
 
477
            self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
478
        if header_modified:
 
479
            self._header_state = DirState.IN_MEMORY_MODIFIED
 
480
 
 
481
    def _mark_unmodified(self):
 
482
        """Mark this dirstate as unmodified."""
 
483
        self._header_state = DirState.IN_MEMORY_UNMODIFIED
 
484
        self._dirblock_state = DirState.IN_MEMORY_UNMODIFIED
 
485
        self._known_hash_changes = set()
 
486
 
418
487
    def add(self, path, file_id, kind, stat, fingerprint):
419
488
        """Add a path to be tracked.
420
489
 
546
615
        if kind == 'directory':
547
616
           # insert a new dirblock
548
617
           self._ensure_block(block_index, entry_index, utf8path)
549
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
618
        self._mark_modified()
550
619
        if self._id_index:
551
 
            self._id_index.setdefault(entry_key[2], set()).add(entry_key)
 
620
            self._add_to_id_index(self._id_index, entry_key)
552
621
 
553
622
    def _bisect(self, paths):
554
623
        """Bisect through the disk structure for specific rows.
1018
1087
 
1019
1088
        self._ghosts = []
1020
1089
        self._parents = [parents[0]]
1021
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
1022
 
        self._header_state = DirState.IN_MEMORY_MODIFIED
 
1090
        self._mark_modified(header_modified=True)
1023
1091
 
1024
1092
    def _empty_parent_info(self):
1025
1093
        return [DirState.NULL_PARENT_DETAILS] * (len(self._parents) -
1154
1222
    def _fields_per_entry(self):
1155
1223
        """How many null separated fields should be in each entry row.
1156
1224
 
1157
 
        Each line now has an extra '\n' field which is not used
 
1225
        Each line now has an extra '\\n' field which is not used
1158
1226
        so we just skip over it
1159
 
        entry size:
 
1227
 
 
1228
        entry size::
1160
1229
            3 fields for the key
1161
1230
            + number of fields per tree_data (5) * tree count
1162
1231
            + newline
1275
1344
            raise
1276
1345
        return result
1277
1346
 
 
1347
    def _check_delta_is_valid(self, delta):
 
1348
        return list(inventory._check_delta_unique_ids(
 
1349
                    inventory._check_delta_unique_old_paths(
 
1350
                    inventory._check_delta_unique_new_paths(
 
1351
                    inventory._check_delta_ids_match_entry(
 
1352
                    inventory._check_delta_ids_are_valid(
 
1353
                    inventory._check_delta_new_path_entry_both_or_None(delta)))))))
 
1354
 
1278
1355
    def update_by_delta(self, delta):
1279
1356
        """Apply an inventory delta to the dirstate for tree 0
1280
1357
 
1298
1375
        new_ids = set()
1299
1376
        # This loop transforms the delta to single atomic operations that can
1300
1377
        # be executed and validated.
1301
 
        for old_path, new_path, file_id, inv_entry in sorted(
1302
 
            inventory._check_delta_unique_old_paths(
1303
 
            inventory._check_delta_unique_new_paths(
1304
 
            inventory._check_delta_ids_match_entry(
1305
 
            inventory._check_delta_ids_are_valid(
1306
 
            inventory._check_delta_new_path_entry_both_or_None(delta))))),
1307
 
            reverse=True):
 
1378
        delta = sorted(self._check_delta_is_valid(delta), reverse=True)
 
1379
        for old_path, new_path, file_id, inv_entry in delta:
1308
1380
            if (file_id in insertions) or (file_id in removals):
1309
1381
                raise errors.InconsistentDelta(old_path or new_path, file_id,
1310
1382
                    "repeated file_id")
1424
1496
        Note that an exception during the operation of this method will leave
1425
1497
        the dirstate in a corrupt state where it should not be saved.
1426
1498
 
1427
 
        Finally, we expect all changes to be synchronising the basis tree with
1428
 
        the working tree.
1429
 
 
1430
1499
        :param new_revid: The new revision id for the trees parent.
1431
1500
        :param delta: An inventory delta (see apply_inventory_delta) describing
1432
1501
            the changes from the current left most parent revision to new_revid.
1444
1513
 
1445
1514
        self._parents[0] = new_revid
1446
1515
 
1447
 
        delta = sorted(delta, reverse=True)
 
1516
        delta = sorted(self._check_delta_is_valid(delta), reverse=True)
1448
1517
        adds = []
1449
1518
        changes = []
1450
1519
        deletes = []
1555
1624
            # the active tree.
1556
1625
            raise errors.InconsistentDeltaDelta(delta, "error from _get_entry.")
1557
1626
 
1558
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
1559
 
        self._header_state = DirState.IN_MEMORY_MODIFIED
 
1627
        self._mark_modified(header_modified=True)
1560
1628
        self._id_index = None
1561
1629
        return
1562
1630
 
1566
1634
            return
1567
1635
        id_index = self._get_id_index()
1568
1636
        for file_id in new_ids:
1569
 
            for key in id_index.get(file_id, []):
 
1637
            for key in id_index.get(file_id, ()):
1570
1638
                block_i, entry_i, d_present, f_present = \
1571
1639
                    self._get_block_entry_index(key[0], key[1], tree_index)
1572
1640
                if not f_present:
1603
1671
        for old_path, new_path, file_id, new_details, real_add in adds:
1604
1672
            # the entry for this file_id must be in tree 0.
1605
1673
            entry = self._get_entry(0, file_id, new_path)
1606
 
            if entry[0] is None or entry[0][2] != file_id:
 
1674
            if entry[0] is None:
 
1675
                # new_path is not versioned in the active WT state,
 
1676
                # but we are adding it to the basis tree state, we
 
1677
                # need to create a new entry record for it.
 
1678
                dirname, basename = osutils.split(new_path)
 
1679
                entry_key = (dirname, basename, file_id)
 
1680
                _, block = self._find_block(entry_key, add_if_missing=True)
 
1681
                index, _ = self._find_entry_index(entry_key, block)
 
1682
                entry = (entry_key, [DirState.NULL_PARENT_DETAILS]*2)
 
1683
                block.insert(index, entry)
 
1684
            elif entry[0][2] != file_id:
1607
1685
                self._changes_aborted = True
1608
1686
                raise errors.InconsistentDelta(new_path, file_id,
1609
1687
                    'working tree does not contain new entry')
1669
1747
                raise errors.InconsistentDelta(old_path, file_id,
1670
1748
                    'mismatched file_id in tree 1')
1671
1749
            if real_delete:
1672
 
                if entry[1][0][0] != 'a':
1673
 
                    self._changes_aborted = True
1674
 
                    raise errors.InconsistentDelta(old_path, file_id,
1675
 
                            'This was marked as a real delete, but the WT state'
1676
 
                            ' claims that it still exists and is versioned.')
1677
 
                del self._dirblocks[block_index][1][entry_index]
 
1750
                if entry[1][0][0] == 'a':
 
1751
                    # The file was marked as deleted in the active
 
1752
                    # state, and it is now deleted in the basis state,
 
1753
                    # so just remove the record entirely
 
1754
                    del self._dirblocks[block_index][1][entry_index]
 
1755
                else:
 
1756
                    # The basis entry needs to be marked deleted
 
1757
                    entry[1][1] = null
 
1758
                # If we are deleting a directory, we need to make sure
 
1759
                # that all of its children are already deleted
 
1760
                block_i, entry_i, d_present, f_present = \
 
1761
                    self._get_block_entry_index(old_path, '', 0)
 
1762
                if d_present:
 
1763
                    # The dir block is still present in the dirstate; this could
 
1764
                    # be due to it being in a parent tree, or a corrupt delta.
 
1765
                    for child_entry in self._dirblocks[block_i][1]:
 
1766
                        if child_entry[1][1][0] not in ('r', 'a'):
 
1767
                            self._changes_aborted = True
 
1768
                            raise errors.InconsistentDelta(old_path, entry[0][2],
 
1769
                                "The file id was deleted but its children were "
 
1770
                                "not deleted.")
1678
1771
            else:
1679
1772
                if entry[1][0][0] == 'a':
1680
1773
                    self._changes_aborted = True
1690
1783
                    del self._dirblocks[block_index][1][entry_index]
1691
1784
                else:
1692
1785
                    # it is being resurrected here, so blank it out temporarily.
 
1786
                    # should be equivalent to entry[1][1] = null
1693
1787
                    self._dirblocks[block_index][1][entry_index][1][1] = null
1694
1788
 
1695
1789
    def _after_delta_check_parents(self, parents, index):
1733
1827
                self._sha_cutoff_time()
1734
1828
            if (stat_value.st_mtime < self._cutoff_time
1735
1829
                and stat_value.st_ctime < self._cutoff_time):
1736
 
                entry[1][0] = ('f', sha1, entry[1][0][2], entry[1][0][3],
1737
 
                    packed_stat)
1738
 
                self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
1830
                entry[1][0] = ('f', sha1, stat_value.st_size, entry[1][0][3],
 
1831
                               packed_stat)
 
1832
                self._mark_modified([entry])
1739
1833
 
1740
1834
    def _sha_cutoff_time(self):
1741
1835
        """Return cutoff time.
1799
1893
        """Serialise the entire dirstate to a sequence of lines."""
1800
1894
        if (self._header_state == DirState.IN_MEMORY_UNMODIFIED and
1801
1895
            self._dirblock_state == DirState.IN_MEMORY_UNMODIFIED):
1802
 
            # read whats on disk.
 
1896
            # read what's on disk.
1803
1897
            self._state_file.seek(0)
1804
1898
            return self._state_file.readlines()
1805
1899
        lines = []
1806
1900
        lines.append(self._get_parents_line(self.get_parent_ids()))
1807
1901
        lines.append(self._get_ghosts_line(self._ghosts))
1808
 
        # append the root line which is special cased
1809
 
        lines.extend(map(self._entry_to_line, self._iter_entries()))
 
1902
        lines.extend(self._get_entry_lines())
1810
1903
        return self._get_output_lines(lines)
1811
1904
 
1812
1905
    def _get_ghosts_line(self, ghost_ids):
1817
1910
        """Create a line for the state file for parents information."""
1818
1911
        return '\0'.join([str(len(parent_ids))] + parent_ids)
1819
1912
 
 
1913
    def _get_entry_lines(self):
 
1914
        """Create lines for entries."""
 
1915
        return map(self._entry_to_line, self._iter_entries())
 
1916
 
1820
1917
    def _get_fields_to_entry(self):
1821
1918
        """Get a function which converts entry fields into a entry record.
1822
1919
 
1980
2077
                                          ' tree_index, file_id and path')
1981
2078
            return entry
1982
2079
        else:
1983
 
            possible_keys = self._get_id_index().get(fileid_utf8, None)
 
2080
            possible_keys = self._get_id_index().get(fileid_utf8, ())
1984
2081
            if not possible_keys:
1985
2082
                return None, None
1986
2083
            for key in possible_keys:
2088
2185
            executable = False
2089
2186
        else:
2090
2187
            raise Exception("can't pack %s" % inv_entry)
2091
 
        return (minikind, fingerprint, size, executable, tree_data)
 
2188
        return static_tuple.StaticTuple(minikind, fingerprint, size,
 
2189
                                        executable, tree_data)
2092
2190
 
2093
2191
    def _iter_child_entries(self, tree_index, path_utf8):
2094
2192
        """Iterate over all the entries that are children of path_utf.
2143
2241
                yield entry
2144
2242
 
2145
2243
    def _get_id_index(self):
2146
 
        """Get an id index of self._dirblocks."""
 
2244
        """Get an id index of self._dirblocks.
 
2245
        
 
2246
        This maps from file_id => [(directory, name, file_id)] entries where
 
2247
        that file_id appears in one of the trees.
 
2248
        """
2147
2249
        if self._id_index is None:
2148
2250
            id_index = {}
2149
2251
            for key, tree_details in self._iter_entries():
2150
 
                id_index.setdefault(key[2], set()).add(key)
 
2252
                self._add_to_id_index(id_index, key)
2151
2253
            self._id_index = id_index
2152
2254
        return self._id_index
2153
2255
 
 
2256
    def _add_to_id_index(self, id_index, entry_key):
 
2257
        """Add this entry to the _id_index mapping."""
 
2258
        # This code used to use a set for every entry in the id_index. However,
 
2259
        # it is *rare* to have more than one entry. So a set is a large
 
2260
        # overkill. And even when we do, we won't ever have more than the
 
2261
        # number of parent trees. Which is still a small number (rarely >2). As
 
2262
        # such, we use a simple tuple, and do our own uniqueness checks. While
 
2263
        # the 'in' check is O(N) since N is nicely bounded it shouldn't ever
 
2264
        # cause quadratic failure.
 
2265
        # TODO: This should use StaticTuple
 
2266
        file_id = entry_key[2]
 
2267
        entry_key = static_tuple.StaticTuple.from_sequence(entry_key)
 
2268
        if file_id not in id_index:
 
2269
            id_index[file_id] = static_tuple.StaticTuple(entry_key,)
 
2270
        else:
 
2271
            entry_keys = id_index[file_id]
 
2272
            if entry_key not in entry_keys:
 
2273
                id_index[file_id] = entry_keys + (entry_key,)
 
2274
 
 
2275
    def _remove_from_id_index(self, id_index, entry_key):
 
2276
        """Remove this entry from the _id_index mapping.
 
2277
 
 
2278
        It is an programming error to call this when the entry_key is not
 
2279
        already present.
 
2280
        """
 
2281
        file_id = entry_key[2]
 
2282
        entry_keys = list(id_index[file_id])
 
2283
        entry_keys.remove(entry_key)
 
2284
        id_index[file_id] = static_tuple.StaticTuple.from_sequence(entry_keys)
 
2285
 
2154
2286
    def _get_output_lines(self, lines):
2155
2287
        """Format lines for final output.
2156
2288
 
2176
2308
        """The number of parent entries in each record row."""
2177
2309
        return len(self._parents) - len(self._ghosts)
2178
2310
 
2179
 
    @staticmethod
2180
 
    def on_file(path, sha1_provider=None):
 
2311
    @classmethod
 
2312
    def on_file(cls, path, sha1_provider=None, worth_saving_limit=0):
2181
2313
        """Construct a DirState on the file at path "path".
2182
2314
 
2183
2315
        :param path: The path at which the dirstate file on disk should live.
2184
2316
        :param sha1_provider: an object meeting the SHA1Provider interface.
2185
2317
            If None, a DefaultSHA1Provider is used.
 
2318
        :param worth_saving_limit: when the exact number of hash changed
 
2319
            entries is known, only bother saving the dirstate if more than
 
2320
            this count of entries have changed. -1 means never save.
2186
2321
        :return: An unlocked DirState object, associated with the given path.
2187
2322
        """
2188
2323
        if sha1_provider is None:
2189
2324
            sha1_provider = DefaultSHA1Provider()
2190
 
        result = DirState(path, sha1_provider)
 
2325
        result = cls(path, sha1_provider,
 
2326
                     worth_saving_limit=worth_saving_limit)
2191
2327
        return result
2192
2328
 
2193
2329
    def _read_dirblocks_if_needed(self):
2285
2421
            trace.mutter('Not saving DirState because '
2286
2422
                    '_changes_aborted is set.')
2287
2423
            return
2288
 
        if (self._header_state == DirState.IN_MEMORY_MODIFIED or
2289
 
            self._dirblock_state == DirState.IN_MEMORY_MODIFIED):
2290
 
 
 
2424
        # TODO: Since we now distinguish IN_MEMORY_MODIFIED from
 
2425
        #       IN_MEMORY_HASH_MODIFIED, we should only fail quietly if we fail
 
2426
        #       to save an IN_MEMORY_HASH_MODIFIED, and fail *noisily* if we
 
2427
        #       fail to save IN_MEMORY_MODIFIED
 
2428
        if self._worth_saving():
2291
2429
            grabbed_write_lock = False
2292
2430
            if self._lock_state != 'w':
2293
2431
                grabbed_write_lock, new_lock = self._lock_token.temporary_write_lock()
2301
2439
                    # We couldn't grab a write lock, so we switch back to a read one
2302
2440
                    return
2303
2441
            try:
 
2442
                lines = self.get_lines()
2304
2443
                self._state_file.seek(0)
2305
 
                self._state_file.writelines(self.get_lines())
 
2444
                self._state_file.writelines(lines)
2306
2445
                self._state_file.truncate()
2307
2446
                self._state_file.flush()
2308
 
                self._header_state = DirState.IN_MEMORY_UNMODIFIED
2309
 
                self._dirblock_state = DirState.IN_MEMORY_UNMODIFIED
 
2447
                self._mark_unmodified()
2310
2448
            finally:
2311
2449
                if grabbed_write_lock:
2312
2450
                    self._lock_token = self._lock_token.restore_read_lock()
2315
2453
                    #       not changed contents. Since restore_read_lock may
2316
2454
                    #       not be an atomic operation.
2317
2455
 
 
2456
    def _worth_saving(self):
 
2457
        """Is it worth saving the dirstate or not?"""
 
2458
        if (self._header_state == DirState.IN_MEMORY_MODIFIED
 
2459
            or self._dirblock_state == DirState.IN_MEMORY_MODIFIED):
 
2460
            return True
 
2461
        if self._dirblock_state == DirState.IN_MEMORY_HASH_MODIFIED:
 
2462
            if self._worth_saving_limit == -1:
 
2463
                # We never save hash changes when the limit is -1
 
2464
                return False
 
2465
            # If we're using smart saving and only a small number of
 
2466
            # entries have changed their hash, don't bother saving. John has
 
2467
            # suggested using a heuristic here based on the size of the
 
2468
            # changed files and/or tree. For now, we go with a configurable
 
2469
            # number of changes, keeping the calculation time
 
2470
            # as low overhead as possible. (This also keeps all existing
 
2471
            # tests passing as the default is 0, i.e. always save.)
 
2472
            if len(self._known_hash_changes) >= self._worth_saving_limit:
 
2473
                return True
 
2474
        return False
 
2475
 
2318
2476
    def _set_data(self, parent_ids, dirblocks):
2319
2477
        """Set the full dirstate data in memory.
2320
2478
 
2328
2486
        """
2329
2487
        # our memory copy is now authoritative.
2330
2488
        self._dirblocks = dirblocks
2331
 
        self._header_state = DirState.IN_MEMORY_MODIFIED
2332
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
2489
        self._mark_modified(header_modified=True)
2333
2490
        self._parents = list(parent_ids)
2334
2491
        self._id_index = None
2335
2492
        self._packed_stat_index = None
2355
2512
        self._make_absent(entry)
2356
2513
        self.update_minimal(('', '', new_id), 'd',
2357
2514
            path_utf8='', packed_stat=entry[1][0][4])
2358
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
2515
        self._mark_modified()
 
2516
        # XXX: This was added by Ian, we need to make sure there
 
2517
        #      are tests for it, because it isn't in bzr.dev TRUNK
 
2518
        #      It looks like the only place it is called is in setting the root
 
2519
        #      id of the tree. So probably we never had an _id_index when we
 
2520
        #      don't even have a root yet.
 
2521
        if self._id_index is not None:
 
2522
            self._add_to_id_index(self._id_index, entry[0])
2359
2523
 
2360
2524
    def set_parent_trees(self, trees, ghosts):
2361
2525
        """Set the parent trees for the dirstate.
2406
2570
        parent_trees = [tree for rev_id, tree in trees if rev_id not in ghosts]
2407
2571
        # how many trees do we end up with
2408
2572
        parent_count = len(parent_trees)
 
2573
        st = static_tuple.StaticTuple
2409
2574
 
2410
2575
        # one: the current tree
2411
2576
        for entry in self._iter_entries():
2414
2579
                continue
2415
2580
            by_path[entry[0]] = [entry[1][0]] + \
2416
2581
                [DirState.NULL_PARENT_DETAILS] * parent_count
2417
 
            id_index[entry[0][2]] = set([entry[0]])
 
2582
            # TODO: Possibly inline this, since we know it isn't present yet
 
2583
            #       id_index[entry[0][2]] = (entry[0],)
 
2584
            self._add_to_id_index(id_index, entry[0])
2418
2585
 
2419
2586
        # now the parent trees:
2420
2587
        for tree_index, tree in enumerate(parent_trees):
2426
2593
            # the suffix is from tree_index+1:parent_count+1.
2427
2594
            new_location_suffix = [DirState.NULL_PARENT_DETAILS] * (parent_count - tree_index)
2428
2595
            # now stitch in all the entries from this tree
2429
 
            for path, entry in tree.inventory.iter_entries_by_dir():
 
2596
            last_dirname = None
 
2597
            for path, entry in tree.iter_entries_by_dir():
2430
2598
                # here we process each trees details for each item in the tree.
2431
2599
                # we first update any existing entries for the id at other paths,
2432
2600
                # then we either create or update the entry for the id at the
2439
2607
                file_id = entry.file_id
2440
2608
                path_utf8 = path.encode('utf8')
2441
2609
                dirname, basename = osutils.split(path_utf8)
2442
 
                new_entry_key = (dirname, basename, file_id)
 
2610
                if dirname == last_dirname:
 
2611
                    # Try to re-use objects as much as possible
 
2612
                    dirname = last_dirname
 
2613
                else:
 
2614
                    last_dirname = dirname
 
2615
                new_entry_key = st(dirname, basename, file_id)
2443
2616
                # tree index consistency: All other paths for this id in this tree
2444
2617
                # index must point to the correct path.
2445
 
                for entry_key in id_index.setdefault(file_id, set()):
 
2618
                entry_keys = id_index.get(file_id, ())
 
2619
                for entry_key in entry_keys:
2446
2620
                    # TODO:PROFILING: It might be faster to just update
2447
2621
                    # rather than checking if we need to, and then overwrite
2448
2622
                    # the one we are located at.
2451
2625
                        # other trees, so put absent pointers there
2452
2626
                        # This is the vertical axis in the matrix, all pointing
2453
2627
                        # to the real path.
2454
 
                        by_path[entry_key][tree_index] = ('r', path_utf8, 0, False, '')
2455
 
                # by path consistency: Insert into an existing path record (trivial), or
2456
 
                # add a new one with relocation pointers for the other tree indexes.
2457
 
                if new_entry_key in id_index[file_id]:
2458
 
                    # there is already an entry where this data belongs, just insert it.
 
2628
                        by_path[entry_key][tree_index] = st('r', path_utf8, 0,
 
2629
                                                            False, '')
 
2630
                # by path consistency: Insert into an existing path record
 
2631
                # (trivial), or add a new one with relocation pointers for the
 
2632
                # other tree indexes.
 
2633
                if new_entry_key in entry_keys:
 
2634
                    # there is already an entry where this data belongs, just
 
2635
                    # insert it.
2459
2636
                    by_path[new_entry_key][tree_index] = \
2460
2637
                        self._inv_entry_to_details(entry)
2461
2638
                else:
2465
2642
                    new_details = []
2466
2643
                    for lookup_index in xrange(tree_index):
2467
2644
                        # boundary case: this is the first occurence of file_id
2468
 
                        # so there are no id_indexs, possibly take this out of
 
2645
                        # so there are no id_indexes, possibly take this out of
2469
2646
                        # the loop?
2470
 
                        if not len(id_index[file_id]):
 
2647
                        if not len(entry_keys):
2471
2648
                            new_details.append(DirState.NULL_PARENT_DETAILS)
2472
2649
                        else:
2473
2650
                            # grab any one entry, use it to find the right path.
2474
 
                            # TODO: optimise this to reduce memory use in highly
2475
 
                            # fragmented situations by reusing the relocation
2476
 
                            # records.
2477
 
                            a_key = iter(id_index[file_id]).next()
 
2651
                            a_key = iter(entry_keys).next()
2478
2652
                            if by_path[a_key][lookup_index][0] in ('r', 'a'):
2479
 
                                # its a pointer or missing statement, use it as is.
 
2653
                                # its a pointer or missing statement, use it as
 
2654
                                # is.
2480
2655
                                new_details.append(by_path[a_key][lookup_index])
2481
2656
                            else:
2482
2657
                                # we have the right key, make a pointer to it.
2483
2658
                                real_path = ('/'.join(a_key[0:2])).strip('/')
2484
 
                                new_details.append(('r', real_path, 0, False, ''))
 
2659
                                new_details.append(st('r', real_path, 0, False,
 
2660
                                                      ''))
2485
2661
                    new_details.append(self._inv_entry_to_details(entry))
2486
2662
                    new_details.extend(new_location_suffix)
2487
2663
                    by_path[new_entry_key] = new_details
2488
 
                    id_index[file_id].add(new_entry_key)
 
2664
                    self._add_to_id_index(id_index, new_entry_key)
2489
2665
        # --- end generation of full tree mappings
2490
2666
 
2491
2667
        # sort and output all the entries
2493
2669
        self._entries_to_current_state(new_entries)
2494
2670
        self._parents = [rev_id for rev_id, tree in trees]
2495
2671
        self._ghosts = list(ghosts)
2496
 
        self._header_state = DirState.IN_MEMORY_MODIFIED
2497
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
2672
        self._mark_modified(header_modified=True)
2498
2673
        self._id_index = id_index
2499
2674
 
2500
2675
    def _sort_entries(self, entry_list):
2504
2679
        try to keep everything in sorted blocks all the time, but sometimes
2505
2680
        it's easier to sort after the fact.
2506
2681
        """
2507
 
        def _key(entry):
 
2682
        # When sorting, we usually have 10x more entries than directories. (69k
 
2683
        # total entries, 4k directories). So cache the results of splitting.
 
2684
        # Saving time and objects. Also, use StaticTuple to avoid putting all
 
2685
        # of these object into python's garbage collector.
 
2686
        split_dirs = {}
 
2687
        def _key(entry, _split_dirs=split_dirs, _st=static_tuple.StaticTuple):
2508
2688
            # sort by: directory parts, file name, file id
2509
 
            return entry[0][0].split('/'), entry[0][1], entry[0][2]
 
2689
            dirpath, fname, file_id = entry[0]
 
2690
            try:
 
2691
                split = _split_dirs[dirpath]
 
2692
            except KeyError:
 
2693
                split = _st.from_sequence(dirpath.split('/'))
 
2694
                _split_dirs[dirpath] = split
 
2695
            return _st(split, fname, file_id)
2510
2696
        return sorted(entry_list, key=_key)
2511
2697
 
2512
2698
    def set_state_from_inventory(self, new_inv):
2637
2823
                        current_old[0][1].decode('utf8'))
2638
2824
                self._make_absent(current_old)
2639
2825
                current_old = advance(old_iterator)
2640
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
2826
        self._mark_modified()
2641
2827
        self._id_index = None
2642
2828
        self._packed_stat_index = None
2643
2829
        if tracing:
2644
2830
            trace.mutter("set_state_from_inventory complete.")
2645
2831
 
 
2832
    def set_state_from_scratch(self, working_inv, parent_trees, parent_ghosts):
 
2833
        """Wipe the currently stored state and set it to something new.
 
2834
 
 
2835
        This is a hard-reset for the data we are working with.
 
2836
        """
 
2837
        # Technically, we really want a write lock, but until we write, we
 
2838
        # don't really need it.
 
2839
        self._requires_lock()
 
2840
        # root dir and root dir contents with no children. We have to have a
 
2841
        # root for set_state_from_inventory to work correctly.
 
2842
        empty_root = (('', '', inventory.ROOT_ID),
 
2843
                      [('d', '', 0, False, DirState.NULLSTAT)])
 
2844
        empty_tree_dirblocks = [('', [empty_root]), ('', [])]
 
2845
        self._set_data([], empty_tree_dirblocks)
 
2846
        self.set_state_from_inventory(working_inv)
 
2847
        self.set_parent_trees(parent_trees, parent_ghosts)
 
2848
 
2646
2849
    def _make_absent(self, current_old):
2647
2850
        """Mark current_old - an entry - as absent for tree 0.
2648
2851
 
2673
2876
            block[1].pop(entry_index)
2674
2877
            # if we have an id_index in use, remove this key from it for this id.
2675
2878
            if self._id_index is not None:
2676
 
                self._id_index[current_old[0][2]].remove(current_old[0])
 
2879
                self._remove_from_id_index(self._id_index, current_old[0])
2677
2880
        # update all remaining keys for this id to record it as absent. The
2678
2881
        # existing details may either be the record we are marking as deleted
2679
2882
        # (if there were other trees with the id present at this path), or may
2692
2895
            if update_tree_details[0][0] == 'a': # absent
2693
2896
                raise AssertionError('bad row %r' % (update_tree_details,))
2694
2897
            update_tree_details[0] = DirState.NULL_PARENT_DETAILS
2695
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
2898
        self._mark_modified()
2696
2899
        return last_reference
2697
2900
 
2698
2901
    def update_minimal(self, key, minikind, executable=False, fingerprint='',
2748
2951
                    else:
2749
2952
                        break
2750
2953
            # new entry, synthesis cross reference here,
2751
 
            existing_keys = id_index.setdefault(key[2], set())
 
2954
            existing_keys = id_index.get(key[2], ())
2752
2955
            if not existing_keys:
2753
2956
                # not currently in the state, simplest case
2754
2957
                new_entry = key, [new_details] + self._empty_parent_info()
2785
2988
                    # loop.
2786
2989
                    other_entry = other_block[other_entry_index]
2787
2990
                    other_entry[1][0] = ('r', path_utf8, 0, False, '')
2788
 
                    self._maybe_remove_row(other_block, other_entry_index,
2789
 
                        id_index)
 
2991
                    if self._maybe_remove_row(other_block, other_entry_index,
 
2992
                                              id_index):
 
2993
                        # If the row holding this was removed, we need to
 
2994
                        # recompute where this entry goes
 
2995
                        entry_index, _ = self._find_entry_index(key, block)
2790
2996
 
2791
2997
                # This loop:
2792
2998
                # adds a tuple to the new details for each column
2794
3000
                #  - or by creating a new pointer to the right row inside that column
2795
3001
                num_present_parents = self._num_present_parents()
2796
3002
                if num_present_parents:
 
3003
                    # TODO: This re-evaluates the existing_keys set, do we need
 
3004
                    #       to do that ourselves?
2797
3005
                    other_key = list(existing_keys)[0]
2798
3006
                for lookup_index in xrange(1, num_present_parents + 1):
2799
3007
                    # grab any one entry, use it to find the right path.
2818
3026
                        pointer_path = osutils.pathjoin(*other_key[0:2])
2819
3027
                        new_entry[1].append(('r', pointer_path, 0, False, ''))
2820
3028
            block.insert(entry_index, new_entry)
2821
 
            existing_keys.add(key)
 
3029
            self._add_to_id_index(id_index, key)
2822
3030
        else:
2823
3031
            # Does the new state matter?
2824
3032
            block[entry_index][1][0] = new_details
2833
3041
            # converted to relocated.
2834
3042
            if path_utf8 is None:
2835
3043
                raise AssertionError('no path')
2836
 
            for entry_key in id_index.setdefault(key[2], set()):
 
3044
            existing_keys = id_index.get(key[2], ())
 
3045
            if key not in existing_keys:
 
3046
                raise AssertionError('We found the entry in the blocks, but'
 
3047
                    ' the key is not in the id_index.'
 
3048
                    ' key: %s, existing_keys: %s' % (key, existing_keys))
 
3049
            for entry_key in existing_keys:
2837
3050
                # TODO:PROFILING: It might be faster to just update
2838
3051
                # rather than checking if we need to, and then overwrite
2839
3052
                # the one we are located at.
2857
3070
            if not present:
2858
3071
                self._dirblocks.insert(block_index, (subdir_key[0], []))
2859
3072
 
2860
 
        self._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
3073
        self._mark_modified()
2861
3074
 
2862
3075
    def _maybe_remove_row(self, block, index, id_index):
2863
3076
        """Remove index if it is absent or relocated across the row.
2864
3077
        
2865
3078
        id_index is updated accordingly.
 
3079
        :return: True if we removed the row, False otherwise
2866
3080
        """
2867
3081
        present_in_row = False
2868
3082
        entry = block[index]
2872
3086
                break
2873
3087
        if not present_in_row:
2874
3088
            block.pop(index)
2875
 
            id_index[entry[0][2]].remove(entry[0])
 
3089
            self._remove_from_id_index(id_index, entry[0])
 
3090
            return True
 
3091
        return False
2876
3092
 
2877
3093
    def _validate(self):
2878
3094
        """Check that invariants on the dirblock are correct.
3020
3236
                        raise AssertionError(
3021
3237
                            'file_id %r did not match entry key %s'
3022
3238
                            % (file_id, entry_key))
 
3239
                if len(entry_keys) != len(set(entry_keys)):
 
3240
                    raise AssertionError(
 
3241
                        'id_index contained non-unique data for %s'
 
3242
                        % (entry_keys,))
3023
3243
 
3024
3244
    def _wipe_state(self):
3025
3245
        """Forget all state information about the dirstate."""
3122
3342
    # If we have gotten this far, that means that we need to actually
3123
3343
    # process this entry.
3124
3344
    link_or_sha1 = None
 
3345
    worth_saving = True
3125
3346
    if minikind == 'f':
3126
3347
        executable = state._is_executable(stat_value.st_mode,
3127
3348
                                         saved_executable)
3143
3364
        else:
3144
3365
            entry[1][0] = ('f', '', stat_value.st_size,
3145
3366
                           executable, DirState.NULLSTAT)
 
3367
            worth_saving = False
3146
3368
    elif minikind == 'd':
3147
3369
        link_or_sha1 = None
3148
3370
        entry[1][0] = ('d', '', 0, False, packed_stat)
3154
3376
                state._get_block_entry_index(entry[0][0], entry[0][1], 0)
3155
3377
            state._ensure_block(block_index, entry_index,
3156
3378
                               osutils.pathjoin(entry[0][0], entry[0][1]))
 
3379
        else:
 
3380
            worth_saving = False
3157
3381
    elif minikind == 'l':
 
3382
        if saved_minikind == 'l':
 
3383
            worth_saving = False
3158
3384
        link_or_sha1 = state._read_link(abspath, saved_link_or_sha1)
3159
3385
        if state._cutoff_time is None:
3160
3386
            state._sha_cutoff_time()
3165
3391
        else:
3166
3392
            entry[1][0] = ('l', '', stat_value.st_size,
3167
3393
                           False, DirState.NULLSTAT)
3168
 
    state._dirblock_state = DirState.IN_MEMORY_MODIFIED
 
3394
    if worth_saving:
 
3395
        state._mark_modified([entry])
3169
3396
    return link_or_sha1
3170
3397
 
3171
3398