~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/dirstate.py

  • Committer: Tarmac
  • Author(s): Vincent Ladeuil
  • Date: 2017-01-30 14:42:05 UTC
  • mfrom: (6620.1.1 trunk)
  • Revision ID: tarmac-20170130144205-r8fh2xpmiuxyozpv
Merge  2.7 into trunk including fix for bug #1657238 [r=vila]

Show diffs side-by-side

added added

removed removed

Lines of Context:
218
218
 
219
219
"""
220
220
 
 
221
from __future__ import absolute_import
 
222
 
221
223
import bisect
222
 
import binascii
223
224
import errno
224
225
import operator
225
226
import os
226
227
from stat import S_IEXEC
227
228
import stat
228
 
import struct
229
229
import sys
230
230
import time
231
231
import zlib
251
251
ERROR_DIRECTORY = 267
252
252
 
253
253
 
254
 
if not getattr(struct, '_compile', None):
255
 
    # Cannot pre-compile the dirstate pack_stat
256
 
    def pack_stat(st, _encode=binascii.b2a_base64, _pack=struct.pack):
257
 
        """Convert stat values into a packed representation."""
258
 
        return _encode(_pack('>LLLLLL', st.st_size, int(st.st_mtime),
259
 
            int(st.st_ctime), st.st_dev, st.st_ino & 0xFFFFFFFF,
260
 
            st.st_mode))[:-1]
261
 
else:
262
 
    # compile the struct compiler we need, so as to only do it once
263
 
    from _struct import Struct
264
 
    _compiled_pack = Struct('>LLLLLL').pack
265
 
    def pack_stat(st, _encode=binascii.b2a_base64, _pack=_compiled_pack):
266
 
        """Convert stat values into a packed representation."""
267
 
        # jam 20060614 it isn't really worth removing more entries if we
268
 
        # are going to leave it in packed form.
269
 
        # With only st_mtime and st_mode filesize is 5.5M and read time is 275ms
270
 
        # With all entries, filesize is 5.9M and read time is maybe 280ms
271
 
        # well within the noise margin
272
 
 
273
 
        # base64 encoding always adds a final newline, so strip it off
274
 
        # The current version
275
 
        return _encode(_pack(st.st_size, int(st.st_mtime), int(st.st_ctime),
276
 
            st.st_dev, st.st_ino & 0xFFFFFFFF, st.st_mode))[:-1]
277
 
        # This is 0.060s / 1.520s faster by not encoding as much information
278
 
        # return _encode(_pack('>LL', int(st.st_mtime), st.st_mode))[:-1]
279
 
        # This is not strictly faster than _encode(_pack())[:-1]
280
 
        # return '%X.%X.%X.%X.%X.%X' % (
281
 
        #      st.st_size, int(st.st_mtime), int(st.st_ctime),
282
 
        #      st.st_dev, st.st_ino, st.st_mode)
283
 
        # Similar to the _encode(_pack('>LL'))
284
 
        # return '%X.%X' % (int(st.st_mtime), st.st_mode)
285
 
 
286
 
 
287
 
def _unpack_stat(packed_stat):
288
 
    """Turn a packed_stat back into the stat fields.
289
 
 
290
 
    This is meant as a debugging tool, should not be used in real code.
291
 
    """
292
 
    (st_size, st_mtime, st_ctime, st_dev, st_ino,
293
 
     st_mode) = struct.unpack('>LLLLLL', binascii.a2b_base64(packed_stat))
294
 
    return dict(st_size=st_size, st_mtime=st_mtime, st_ctime=st_ctime,
295
 
                st_dev=st_dev, st_ino=st_ino, st_mode=st_mode)
296
 
 
297
 
 
298
254
class SHA1Provider(object):
299
255
    """An interface for getting sha1s of a file."""
300
256
 
1336
1292
                    parent_trees.append((parent_id, parent_tree))
1337
1293
                    parent_tree.lock_read()
1338
1294
                result.set_parent_trees(parent_trees, [])
1339
 
                result.set_state_from_inventory(tree.inventory)
 
1295
                result.set_state_from_inventory(tree.root_inventory)
1340
1296
            finally:
1341
1297
                for revid, parent_tree in parent_trees:
1342
1298
                    parent_tree.unlock()
1605
1561
                    else:
1606
1562
                        source_path = child_basename
1607
1563
                    if new_path_utf8:
1608
 
                        target_path = new_path_utf8 + source_path[len(old_path):]
 
1564
                        target_path = \
 
1565
                            new_path_utf8 + source_path[len(old_path_utf8):]
1609
1566
                    else:
1610
 
                        if old_path == '':
 
1567
                        if old_path_utf8 == '':
1611
1568
                            raise AssertionError("cannot rename directory to"
1612
1569
                                                 " itself")
1613
 
                        target_path = source_path[len(old_path) + 1:]
 
1570
                        target_path = source_path[len(old_path_utf8) + 1:]
1614
1571
                    adds.append((None, target_path, entry[0][2], entry[1][1], False))
1615
1572
                    deletes.append(
1616
1573
                        (source_path, target_path, entry[0][2], None, False))
1617
 
                deletes.append((old_path_utf8, new_path, file_id, None, False))
 
1574
                deletes.append(
 
1575
                    (old_path_utf8, new_path_utf8, file_id, None, False))
 
1576
 
1618
1577
        self._check_delta_ids_absent(new_ids, delta, 1)
1619
1578
        try:
1620
1579
            # Finish expunging deletes/first half of renames.
1689
1648
            entry_key = st(dirname, basename, file_id)
1690
1649
            block_index, present = self._find_block_index_from_key(entry_key)
1691
1650
            if not present:
1692
 
                self._raise_invalid(new_path, file_id,
1693
 
                    "Unable to find block for this record."
1694
 
                    " Was the parent added?")
 
1651
                # The block where we want to put the file is not present.
 
1652
                # However, it might have just been an empty directory. Look for
 
1653
                # the parent in the basis-so-far before throwing an error.
 
1654
                parent_dir, parent_base = osutils.split(dirname)
 
1655
                parent_block_idx, parent_entry_idx, _, parent_present = \
 
1656
                    self._get_block_entry_index(parent_dir, parent_base, 1)
 
1657
                if not parent_present:
 
1658
                    self._raise_invalid(new_path, file_id,
 
1659
                        "Unable to find block for this record."
 
1660
                        " Was the parent added?")
 
1661
                self._ensure_block(parent_block_idx, parent_entry_idx, dirname)
 
1662
 
1695
1663
            block = self._dirblocks[block_index][1]
1696
1664
            entry_index, present = self._find_entry_index(entry_key, block)
1697
1665
            if real_add:
1896
1864
                    file_id, "This parent is not a directory.")
1897
1865
 
1898
1866
    def _observed_sha1(self, entry, sha1, stat_value,
1899
 
        _stat_to_minikind=_stat_to_minikind, _pack_stat=pack_stat):
 
1867
        _stat_to_minikind=_stat_to_minikind):
1900
1868
        """Note the sha1 of a file.
1901
1869
 
1902
1870
        :param entry: The entry the sha1 is for.
1908
1876
        except KeyError:
1909
1877
            # Unhandled kind
1910
1878
            return None
1911
 
        packed_stat = _pack_stat(stat_value)
1912
1879
        if minikind == 'f':
1913
1880
            if self._cutoff_time is None:
1914
1881
                self._sha_cutoff_time()
1915
1882
            if (stat_value.st_mtime < self._cutoff_time
1916
1883
                and stat_value.st_ctime < self._cutoff_time):
1917
1884
                entry[1][0] = ('f', sha1, stat_value.st_size, entry[1][0][3],
1918
 
                               packed_stat)
 
1885
                               pack_stat(stat_value))
1919
1886
                self._mark_modified([entry])
1920
1887
 
1921
1888
    def _sha_cutoff_time(self):
1966
1933
            # paths are produced by UnicodeDirReader on purpose.
1967
1934
            abspath = abspath.encode(fs_encoding)
1968
1935
        target = os.readlink(abspath)
1969
 
        if fs_encoding not in ('UTF-8', 'US-ASCII', 'ANSI_X3.4-1968'):
 
1936
        if fs_encoding not in ('utf-8', 'ascii'):
1970
1937
            # Change encoding if needed
1971
1938
            target = target.decode(fs_encoding).encode('UTF-8')
1972
1939
        return target
2474
2441
            raise errors.BzrError('missing num_entries line')
2475
2442
        self._num_entries = int(num_entries_line[len('num_entries: '):-1])
2476
2443
 
2477
 
    def sha1_from_stat(self, path, stat_result, _pack_stat=pack_stat):
 
2444
    def sha1_from_stat(self, path, stat_result):
2478
2445
        """Find a sha1 given a stat lookup."""
2479
 
        return self._get_packed_stat_index().get(_pack_stat(stat_result), None)
 
2446
        return self._get_packed_stat_index().get(pack_stat(stat_result), None)
2480
2447
 
2481
2448
    def _get_packed_stat_index(self):
2482
2449
        """Get a packed_stat index of self._dirblocks."""
2608
2575
        self.update_minimal(('', '', new_id), 'd',
2609
2576
            path_utf8='', packed_stat=entry[1][0][4])
2610
2577
        self._mark_modified()
2611
 
        # XXX: This was added by Ian, we need to make sure there
2612
 
        #      are tests for it, because it isn't in bzr.dev TRUNK
2613
 
        #      It looks like the only place it is called is in setting the root
2614
 
        #      id of the tree. So probably we never had an _id_index when we
2615
 
        #      don't even have a root yet.
2616
 
        if self._id_index is not None:
2617
 
            self._add_to_id_index(self._id_index, entry[0])
2618
2578
 
2619
2579
    def set_parent_trees(self, trees, ghosts):
2620
2580
        """Set the parent trees for the dirstate.
3327
3287
        if self._id_index is not None:
3328
3288
            for file_id, entry_keys in self._id_index.iteritems():
3329
3289
                for entry_key in entry_keys:
 
3290
                    # Check that the entry in the map is pointing to the same
 
3291
                    # file_id
3330
3292
                    if entry_key[2] != file_id:
3331
3293
                        raise AssertionError(
3332
3294
                            'file_id %r did not match entry key %s'
3333
3295
                            % (file_id, entry_key))
 
3296
                    # And that from this entry key, we can look up the original
 
3297
                    # record
 
3298
                    block_index, present = self._find_block_index_from_key(entry_key)
 
3299
                    if not present:
 
3300
                        raise AssertionError('missing block for entry key: %r', entry_key)
 
3301
                    entry_index, present = self._find_entry_index(entry_key, self._dirblocks[block_index][1])
 
3302
                    if not present:
 
3303
                        raise AssertionError('missing entry for key: %r', entry_key)
3334
3304
                if len(entry_keys) != len(set(entry_keys)):
3335
3305
                    raise AssertionError(
3336
3306
                        'id_index contained non-unique data for %s'
3397
3367
 
3398
3368
 
3399
3369
def py_update_entry(state, entry, abspath, stat_value,
3400
 
                 _stat_to_minikind=DirState._stat_to_minikind,
3401
 
                 _pack_stat=pack_stat):
 
3370
                 _stat_to_minikind=DirState._stat_to_minikind):
3402
3371
    """Update the entry based on what is actually on disk.
3403
3372
 
3404
3373
    This function only calculates the sha if it needs to - if the entry is
3417
3386
    except KeyError:
3418
3387
        # Unhandled kind
3419
3388
        return None
3420
 
    packed_stat = _pack_stat(stat_value)
 
3389
    packed_stat = pack_stat(stat_value)
3421
3390
    (saved_minikind, saved_link_or_sha1, saved_file_size,
3422
3391
     saved_executable, saved_packed_stat) = entry[1][0]
3423
3392
 
4296
4265
        _bisect_path_left,
4297
4266
        _bisect_path_right,
4298
4267
        cmp_by_dirs,
 
4268
        pack_stat,
4299
4269
        ProcessEntryC as _process_entry,
4300
4270
        update_entry as update_entry,
4301
4271
        )
4307
4277
        _bisect_path_left,
4308
4278
        _bisect_path_right,
4309
4279
        cmp_by_dirs,
 
4280
        pack_stat,
4310
4281
        )
4311
4282
    # FIXME: It would be nice to be able to track moved lines so that the
4312
4283
    # corresponding python code can be moved to the _dirstate_helpers_py