~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/_dirstate_helpers_py.py

  • Committer: Martin Packman
  • Date: 2011-11-17 13:45:49 UTC
  • mto: This revision was merged to the branch mainline in revision 6271.
  • Revision ID: martin.packman@canonical.com-20111117134549-080e1fhtrzoicexg
Only assert FileExists path in test_transform directory clash tests to avoid stringification fallout

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2007, 2008 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
"""Python implementations of Dirstate Helper functions."""
 
18
 
 
19
import binascii
 
20
import os
 
21
import struct
 
22
 
 
23
# We cannot import the dirstate module, because it loads this module
 
24
# All we really need is the IN_MEMORY_MODIFIED constant
 
25
from bzrlib import errors
 
26
from bzrlib.dirstate import DirState
 
27
 
 
28
 
 
29
def pack_stat(st, _b64=binascii.b2a_base64, _pack=struct.Struct('>6L').pack):
 
30
    """Convert stat values into a packed representation
 
31
 
 
32
    Not all of the fields from the stat included are strictly needed, and by
 
33
    just encoding the mtime and mode a slight speed increase could be gained.
 
34
    However, using the pyrex version instead is a bigger win.
 
35
    """
 
36
    # base64 encoding always adds a final newline, so strip it off
 
37
    return _b64(_pack(st.st_size & 0xFFFFFFFF, int(st.st_mtime) & 0xFFFFFFFF,
 
38
        int(st.st_ctime) & 0xFFFFFFFF, st.st_dev & 0xFFFFFFFF,
 
39
        st.st_ino & 0xFFFFFFFF, st.st_mode))[:-1]
 
40
 
 
41
 
 
42
def _unpack_stat(packed_stat):
 
43
    """Turn a packed_stat back into the stat fields.
 
44
 
 
45
    This is meant as a debugging tool, should not be used in real code.
 
46
    """
 
47
    (st_size, st_mtime, st_ctime, st_dev, st_ino,
 
48
     st_mode) = struct.unpack('>6L', binascii.a2b_base64(packed_stat))
 
49
    return dict(st_size=st_size, st_mtime=st_mtime, st_ctime=st_ctime,
 
50
                st_dev=st_dev, st_ino=st_ino, st_mode=st_mode)
 
51
 
 
52
 
 
53
def _bisect_path_left(paths, path):
 
54
    """Return the index where to insert path into paths.
 
55
 
 
56
    This uses the dirblock sorting. So all children in a directory come before
 
57
    the children of children. For example::
 
58
 
 
59
        a/
 
60
          b/
 
61
            c
 
62
          d/
 
63
            e
 
64
          b-c
 
65
          d-e
 
66
        a-a
 
67
        a=c
 
68
 
 
69
    Will be sorted as::
 
70
 
 
71
        a
 
72
        a-a
 
73
        a=c
 
74
        a/b
 
75
        a/b-c
 
76
        a/d
 
77
        a/d-e
 
78
        a/b/c
 
79
        a/d/e
 
80
 
 
81
    :param paths: A list of paths to search through
 
82
    :param path: A single path to insert
 
83
    :return: An offset where 'path' can be inserted.
 
84
    :seealso: bisect.bisect_left
 
85
    """
 
86
    hi = len(paths)
 
87
    lo = 0
 
88
    while lo < hi:
 
89
        mid = (lo + hi) // 2
 
90
        # Grab the dirname for the current dirblock
 
91
        cur = paths[mid]
 
92
        if _cmp_path_by_dirblock(cur, path) < 0:
 
93
            lo = mid + 1
 
94
        else:
 
95
            hi = mid
 
96
    return lo
 
97
 
 
98
 
 
99
def _bisect_path_right(paths, path):
 
100
    """Return the index where to insert path into paths.
 
101
 
 
102
    This uses a path-wise comparison so we get::
 
103
        a
 
104
        a-b
 
105
        a=b
 
106
        a/b
 
107
    Rather than::
 
108
        a
 
109
        a-b
 
110
        a/b
 
111
        a=b
 
112
    :param paths: A list of paths to search through
 
113
    :param path: A single path to insert
 
114
    :return: An offset where 'path' can be inserted.
 
115
    :seealso: bisect.bisect_right
 
116
    """
 
117
    hi = len(paths)
 
118
    lo = 0
 
119
    while lo < hi:
 
120
        mid = (lo+hi)//2
 
121
        # Grab the dirname for the current dirblock
 
122
        cur = paths[mid]
 
123
        if _cmp_path_by_dirblock(path, cur) < 0:
 
124
            hi = mid
 
125
        else:
 
126
            lo = mid + 1
 
127
    return lo
 
128
 
 
129
 
 
130
def bisect_dirblock(dirblocks, dirname, lo=0, hi=None, cache={}):
 
131
    """Return the index where to insert dirname into the dirblocks.
 
132
 
 
133
    The return value idx is such that all directories blocks in dirblock[:idx]
 
134
    have names < dirname, and all blocks in dirblock[idx:] have names >=
 
135
    dirname.
 
136
 
 
137
    Optional args lo (default 0) and hi (default len(dirblocks)) bound the
 
138
    slice of a to be searched.
 
139
    """
 
140
    if hi is None:
 
141
        hi = len(dirblocks)
 
142
    try:
 
143
        dirname_split = cache[dirname]
 
144
    except KeyError:
 
145
        dirname_split = dirname.split('/')
 
146
        cache[dirname] = dirname_split
 
147
    while lo < hi:
 
148
        mid = (lo + hi) // 2
 
149
        # Grab the dirname for the current dirblock
 
150
        cur = dirblocks[mid][0]
 
151
        try:
 
152
            cur_split = cache[cur]
 
153
        except KeyError:
 
154
            cur_split = cur.split('/')
 
155
            cache[cur] = cur_split
 
156
        if cur_split < dirname_split: lo = mid + 1
 
157
        else: hi = mid
 
158
    return lo
 
159
 
 
160
 
 
161
def cmp_by_dirs(path1, path2):
 
162
    """Compare two paths directory by directory.
 
163
 
 
164
    This is equivalent to doing::
 
165
 
 
166
       cmp(path1.split('/'), path2.split('/'))
 
167
 
 
168
    The idea is that you should compare path components separately. This
 
169
    differs from plain ``cmp(path1, path2)`` for paths like ``'a-b'`` and
 
170
    ``a/b``. "a-b" comes after "a" but would come before "a/b" lexically.
 
171
 
 
172
    :param path1: first path
 
173
    :param path2: second path
 
174
    :return: negative number if ``path1`` comes first,
 
175
        0 if paths are equal,
 
176
        and positive number if ``path2`` sorts first
 
177
    """
 
178
    if not isinstance(path1, str):
 
179
        raise TypeError("'path1' must be a plain string, not %s: %r"
 
180
                        % (type(path1), path1))
 
181
    if not isinstance(path2, str):
 
182
        raise TypeError("'path2' must be a plain string, not %s: %r"
 
183
                        % (type(path2), path2))
 
184
    return cmp(path1.split('/'), path2.split('/'))
 
185
 
 
186
 
 
187
def _cmp_path_by_dirblock(path1, path2):
 
188
    """Compare two paths based on what directory they are in.
 
189
 
 
190
    This generates a sort order, such that all children of a directory are
 
191
    sorted together, and grandchildren are in the same order as the
 
192
    children appear. But all grandchildren come after all children.
 
193
 
 
194
    :param path1: first path
 
195
    :param path2: the second path
 
196
    :return: negative number if ``path1`` comes first,
 
197
        0 if paths are equal
 
198
        and a positive number if ``path2`` sorts first
 
199
    """
 
200
    if not isinstance(path1, str):
 
201
        raise TypeError("'path1' must be a plain string, not %s: %r"
 
202
                        % (type(path1), path1))
 
203
    if not isinstance(path2, str):
 
204
        raise TypeError("'path2' must be a plain string, not %s: %r"
 
205
                        % (type(path2), path2))
 
206
    dirname1, basename1 = os.path.split(path1)
 
207
    key1 = (dirname1.split('/'), basename1)
 
208
    dirname2, basename2 = os.path.split(path2)
 
209
    key2 = (dirname2.split('/'), basename2)
 
210
    return cmp(key1, key2)
 
211
 
 
212
 
 
213
def _read_dirblocks(state):
 
214
    """Read in the dirblocks for the given DirState object.
 
215
 
 
216
    This is tightly bound to the DirState internal representation. It should be
 
217
    thought of as a member function, which is only separated out so that we can
 
218
    re-write it in pyrex.
 
219
 
 
220
    :param state: A DirState object.
 
221
    :return: None
 
222
    """
 
223
    state._state_file.seek(state._end_of_header)
 
224
    text = state._state_file.read()
 
225
    # TODO: check the crc checksums. crc_measured = zlib.crc32(text)
 
226
 
 
227
    fields = text.split('\0')
 
228
    # Remove the last blank entry
 
229
    trailing = fields.pop()
 
230
    if trailing != '':
 
231
        raise errors.DirstateCorrupt(state,
 
232
            'trailing garbage: %r' % (trailing,))
 
233
    # consider turning fields into a tuple.
 
234
 
 
235
    # skip the first field which is the trailing null from the header.
 
236
    cur = 1
 
237
    # Each line now has an extra '\n' field which is not used
 
238
    # so we just skip over it
 
239
    # entry size:
 
240
    #  3 fields for the key
 
241
    #  + number of fields per tree_data (5) * tree count
 
242
    #  + newline
 
243
    num_present_parents = state._num_present_parents()
 
244
    tree_count = 1 + num_present_parents
 
245
    entry_size = state._fields_per_entry()
 
246
    expected_field_count = entry_size * state._num_entries
 
247
    field_count = len(fields)
 
248
    # this checks our adjustment, and also catches file too short.
 
249
    if field_count - cur != expected_field_count:
 
250
        raise errors.DirstateCorrupt(state,
 
251
            'field count incorrect %s != %s, entry_size=%s, '\
 
252
            'num_entries=%s fields=%r' % (
 
253
            field_count - cur, expected_field_count, entry_size,
 
254
            state._num_entries, fields))
 
255
 
 
256
    if num_present_parents == 1:
 
257
        # Bind external functions to local names
 
258
        _int = int
 
259
        # We access all fields in order, so we can just iterate over
 
260
        # them. Grab an straight iterator over the fields. (We use an
 
261
        # iterator because we don't want to do a lot of additions, nor
 
262
        # do we want to do a lot of slicing)
 
263
        next = iter(fields).next
 
264
        # Move the iterator to the current position
 
265
        for x in xrange(cur):
 
266
            next()
 
267
        # The two blocks here are deliberate: the root block and the
 
268
        # contents-of-root block.
 
269
        state._dirblocks = [('', []), ('', [])]
 
270
        current_block = state._dirblocks[0][1]
 
271
        current_dirname = ''
 
272
        append_entry = current_block.append
 
273
        for count in xrange(state._num_entries):
 
274
            dirname = next()
 
275
            name = next()
 
276
            file_id = next()
 
277
            if dirname != current_dirname:
 
278
                # new block - different dirname
 
279
                current_block = []
 
280
                current_dirname = dirname
 
281
                state._dirblocks.append((current_dirname, current_block))
 
282
                append_entry = current_block.append
 
283
            # we know current_dirname == dirname, so re-use it to avoid
 
284
            # creating new strings
 
285
            entry = ((current_dirname, name, file_id),
 
286
                     [(# Current Tree
 
287
                         next(),                # minikind
 
288
                         next(),                # fingerprint
 
289
                         _int(next()),          # size
 
290
                         next() == 'y',         # executable
 
291
                         next(),                # packed_stat or revision_id
 
292
                     ),
 
293
                     ( # Parent 1
 
294
                         next(),                # minikind
 
295
                         next(),                # fingerprint
 
296
                         _int(next()),          # size
 
297
                         next() == 'y',         # executable
 
298
                         next(),                # packed_stat or revision_id
 
299
                     ),
 
300
                     ])
 
301
            trailing = next()
 
302
            if trailing != '\n':
 
303
                raise ValueError("trailing garbage in dirstate: %r" % trailing)
 
304
            # append the entry to the current block
 
305
            append_entry(entry)
 
306
        state._split_root_dirblock_into_contents()
 
307
    else:
 
308
        fields_to_entry = state._get_fields_to_entry()
 
309
        entries = [fields_to_entry(fields[pos:pos+entry_size])
 
310
                   for pos in xrange(cur, field_count, entry_size)]
 
311
        state._entries_to_current_state(entries)
 
312
    # To convert from format 2  => format 3
 
313
    # state._dirblocks = sorted(state._dirblocks,
 
314
    #                          key=lambda blk:blk[0].split('/'))
 
315
    # To convert from format 3 => format 2
 
316
    # state._dirblocks = sorted(state._dirblocks)
 
317
    state._dirblock_state = DirState.IN_MEMORY_UNMODIFIED