~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/weave.py

Merge bzr.dev.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
1
#! /usr/bin/python
2
2
 
3
3
# Copyright (C) 2005 Canonical Ltd
4
 
 
 
4
#
5
5
# This program is free software; you can redistribute it and/or modify
6
6
# it under the terms of the GNU General Public License as published by
7
7
# the Free Software Foundation; either version 2 of the License, or
8
8
# (at your option) any later version.
9
 
 
 
9
#
10
10
# This program is distributed in the hope that it will be useful,
11
11
# but WITHOUT ANY WARRANTY; without even the implied warranty of
12
12
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13
13
# GNU General Public License for more details.
14
 
 
 
14
#
15
15
# You should have received a copy of the GNU General Public License
16
16
# along with this program; if not, write to the Free Software
17
17
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
27
27
# property.
28
28
 
29
29
# TODO: Nothing here so far assumes the lines are really \n newlines,
30
 
# rather than being split up in some other way.  We could accomodate
 
30
# rather than being split up in some other way.  We could accommodate
31
31
# binaries, perhaps by naively splitting on \n or perhaps using
32
32
# something like a rolling checksum.
33
33
 
70
70
 
71
71
from copy import copy
72
72
from cStringIO import StringIO
73
 
from difflib import SequenceMatcher
74
73
import os
75
74
import sha
76
75
import time
 
76
import warnings
77
77
 
78
 
from bzrlib.trace import mutter
 
78
from bzrlib import (
 
79
    progress,
 
80
    )
79
81
from bzrlib.errors import (WeaveError, WeaveFormatError, WeaveParentMismatch,
80
82
        RevisionAlreadyPresent,
81
83
        RevisionNotPresent,
 
84
        UnavailableRepresentation,
82
85
        WeaveRevisionAlreadyPresent,
83
86
        WeaveRevisionNotPresent,
84
87
        )
85
88
import bzrlib.errors as errors
86
 
from bzrlib.osutils import sha_strings
87
 
from bzrlib.patiencediff import SequenceMatcher, unified_diff
 
89
from bzrlib.osutils import dirname, sha_strings, split_lines
 
90
import bzrlib.patiencediff
 
91
from bzrlib.revision import NULL_REVISION
88
92
from bzrlib.symbol_versioning import *
 
93
from bzrlib.trace import mutter
89
94
from bzrlib.tsort import topo_sort
90
 
from bzrlib.versionedfile import VersionedFile, InterVersionedFile
 
95
from bzrlib.versionedfile import (
 
96
    AbsentContentFactory,
 
97
    adapter_registry,
 
98
    ContentFactory,
 
99
    VersionedFile,
 
100
    )
91
101
from bzrlib.weavefile import _read_weave_v5, write_weave_v5
92
102
 
93
103
 
 
104
class WeaveContentFactory(ContentFactory):
 
105
    """Content factory for streaming from weaves.
 
106
 
 
107
    :seealso ContentFactory:
 
108
    """
 
109
 
 
110
    def __init__(self, version, weave):
 
111
        """Create a WeaveContentFactory for version from weave."""
 
112
        ContentFactory.__init__(self)
 
113
        self.sha1 = weave.get_sha1s([version])[version]
 
114
        self.key = (version,)
 
115
        parents = weave.get_parent_map([version])[version]
 
116
        self.parents = tuple((parent,) for parent in parents)
 
117
        self.storage_kind = 'fulltext'
 
118
        self._weave = weave
 
119
 
 
120
    def get_bytes_as(self, storage_kind):
 
121
        if storage_kind == 'fulltext':
 
122
            return self._weave.get_text(self.key[-1])
 
123
        else:
 
124
            raise UnavailableRepresentation(self.key, storage_kind, 'fulltext')
 
125
 
 
126
 
94
127
class Weave(VersionedFile):
95
128
    """weave - versioned text file storage.
96
129
    
181
214
    """
182
215
 
183
216
    __slots__ = ['_weave', '_parents', '_sha1s', '_names', '_name_map',
184
 
                 '_weave_name', '_matcher']
 
217
                 '_weave_name', '_matcher', '_allow_reserved']
185
218
    
186
 
    def __init__(self, weave_name=None, access_mode='w', matcher=None):
 
219
    def __init__(self, weave_name=None, access_mode='w', matcher=None,
 
220
                 get_scope=None, allow_reserved=False):
 
221
        """Create a weave.
 
222
 
 
223
        :param get_scope: A callable that returns an opaque object to be used
 
224
            for detecting when this weave goes out of scope (should stop
 
225
            answering requests or allowing mutation).
 
226
        """
187
227
        super(Weave, self).__init__(access_mode)
188
228
        self._weave = []
189
229
        self._parents = []
192
232
        self._name_map = {}
193
233
        self._weave_name = weave_name
194
234
        if matcher is None:
195
 
            self._matcher = SequenceMatcher
 
235
            self._matcher = bzrlib.patiencediff.PatienceSequenceMatcher
196
236
        else:
197
237
            self._matcher = matcher
 
238
        if get_scope is None:
 
239
            get_scope = lambda:None
 
240
        self._get_scope = get_scope
 
241
        self._scope = get_scope()
 
242
        self._access_mode = access_mode
 
243
        self._allow_reserved = allow_reserved
198
244
 
199
245
    def __repr__(self):
200
246
        return "Weave(%r)" % self._weave_name
201
247
 
 
248
    def _check_write_ok(self):
 
249
        """Is the versioned file marked as 'finished' ? Raise if it is."""
 
250
        if self._get_scope() != self._scope:
 
251
            raise errors.OutSideTransaction()
 
252
        if self._access_mode != 'w':
 
253
            raise errors.ReadOnlyObjectDirtiedError(self)
 
254
 
202
255
    def copy(self):
203
256
        """Return a deep copy of self.
204
257
        
222
275
    def __ne__(self, other):
223
276
        return not self.__eq__(other)
224
277
 
225
 
    @deprecated_method(zero_eight)
226
 
    def idx_to_name(self, index):
227
 
        """Old public interface, the public interface is all names now."""
228
 
        return index
229
 
 
230
278
    def _idx_to_name(self, version):
231
279
        return self._names[version]
232
280
 
233
 
    @deprecated_method(zero_eight)
234
 
    def lookup(self, name):
235
 
        """Backwards compatability thunk:
236
 
 
237
 
        Return name, as name is valid in the api now, and spew deprecation
238
 
        warnings everywhere.
239
 
        """
240
 
        return name
241
 
 
242
281
    def _lookup(self, name):
243
282
        """Convert symbolic version name to index."""
 
283
        if not self._allow_reserved:
 
284
            self.check_not_reserved_id(name)
244
285
        try:
245
286
            return self._name_map[name]
246
287
        except KeyError:
247
288
            raise RevisionNotPresent(name, self._weave_name)
248
289
 
249
 
    @deprecated_method(zero_eight)
250
 
    def iter_names(self):
251
 
        """Deprecated convenience function, please see VersionedFile.names()."""
252
 
        return iter(self.names())
253
 
 
254
 
    @deprecated_method(zero_eight)
255
 
    def names(self):
256
 
        """See Weave.versions for the current api."""
257
 
        return self.versions()
258
 
 
259
290
    def versions(self):
260
291
        """See VersionedFile.versions."""
261
292
        return self._names[:]
262
293
 
263
294
    def has_version(self, version_id):
264
295
        """See VersionedFile.has_version."""
265
 
        return self._name_map.has_key(version_id)
 
296
        return (version_id in self._name_map)
266
297
 
267
298
    __contains__ = has_version
268
299
 
269
 
    def get_delta(self, version_id):
270
 
        """See VersionedFile.get_delta."""
271
 
        return self.get_deltas([version_id])[version_id]
272
 
 
273
 
    def get_deltas(self, version_ids):
274
 
        """See VersionedFile.get_deltas."""
275
 
        version_ids = self.get_ancestry(version_ids)
 
300
    def get_record_stream(self, versions, ordering, include_delta_closure):
 
301
        """Get a stream of records for versions.
 
302
 
 
303
        :param versions: The versions to include. Each version is a tuple
 
304
            (version,).
 
305
        :param ordering: Either 'unordered' or 'topological'. A topologically
 
306
            sorted stream has compression parents strictly before their
 
307
            children.
 
308
        :param include_delta_closure: If True then the closure across any
 
309
            compression parents will be included (in the opaque data).
 
310
        :return: An iterator of ContentFactory objects, each of which is only
 
311
            valid until the iterator is advanced.
 
312
        """
 
313
        versions = [version[-1] for version in versions]
 
314
        if ordering == 'topological':
 
315
            parents = self.get_parent_map(versions)
 
316
            new_versions = topo_sort(parents)
 
317
            new_versions.extend(set(versions).difference(set(parents)))
 
318
            versions = new_versions
 
319
        for version in versions:
 
320
            if version in self:
 
321
                yield WeaveContentFactory(version, self)
 
322
            else:
 
323
                yield AbsentContentFactory((version,))
 
324
 
 
325
    def get_parent_map(self, version_ids):
 
326
        """See VersionedFile.get_parent_map."""
 
327
        result = {}
276
328
        for version_id in version_ids:
277
 
            if not self.has_version(version_id):
278
 
                raise RevisionNotPresent(version_id, self)
279
 
        # try extracting all versions; parallel extraction is used
280
 
        nv = self.num_versions()
281
 
        sha1s = {}
282
 
        deltas = {}
283
 
        texts = {}
284
 
        inclusions = {}
285
 
        noeols = {}
286
 
        last_parent_lines = {}
287
 
        parents = {}
288
 
        parent_inclusions = {}
289
 
        parent_linenums = {}
290
 
        parent_noeols = {}
291
 
        current_hunks = {}
292
 
        diff_hunks = {}
293
 
        # its simplest to generate a full set of prepared variables.
294
 
        for i in range(nv):
295
 
            name = self._names[i]
296
 
            sha1s[name] = self.get_sha1(name)
297
 
            parents_list = self.get_parents(name)
298
 
            try:
299
 
                parent = parents_list[0]
300
 
                parents[name] = parent
301
 
                parent_inclusions[name] = inclusions[parent]
302
 
            except IndexError:
303
 
                parents[name] = None
304
 
                parent_inclusions[name] = set()
305
 
            # we want to emit start, finish, replacement_length, replacement_lines tuples.
306
 
            diff_hunks[name] = []
307
 
            current_hunks[name] = [0, 0, 0, []] # #start, finish, repl_length, repl_tuples
308
 
            parent_linenums[name] = 0
309
 
            noeols[name] = False
310
 
            parent_noeols[name] = False
311
 
            last_parent_lines[name] = None
312
 
            new_inc = set([name])
313
 
            for p in self._parents[i]:
314
 
                new_inc.update(inclusions[self._idx_to_name(p)])
315
 
            # debug only, known good so far.
316
 
            #assert set(new_inc) == set(self.get_ancestry(name)), \
317
 
            #    'failed %s != %s' % (set(new_inc), set(self.get_ancestry(name)))
318
 
            inclusions[name] = new_inc
319
 
 
320
 
        nlines = len(self._weave)
321
 
 
322
 
        for lineno, inserted, deletes, line in self._walk_internal():
323
 
            # a line is active in a version if:
324
 
            # insert is in the versions inclusions
325
 
            # and
326
 
            # deleteset & the versions inclusions is an empty set.
327
 
            # so - if we have a included by mapping - version is included by
328
 
            # children, we get a list of children to examine for deletes affect
329
 
            # ing them, which is less than the entire set of children.
330
 
            for version_id in version_ids:  
331
 
                # The active inclusion must be an ancestor,
332
 
                # and no ancestors must have deleted this line,
333
 
                # because we don't support resurrection.
334
 
                parent_inclusion = parent_inclusions[version_id]
335
 
                inclusion = inclusions[version_id]
336
 
                parent_active = inserted in parent_inclusion and not (deletes & parent_inclusion)
337
 
                version_active = inserted in inclusion and not (deletes & inclusion)
338
 
                if not parent_active and not version_active:
339
 
                    # unrelated line of ancestry
 
329
            if version_id == NULL_REVISION:
 
330
                parents = ()
 
331
            else:
 
332
                try:
 
333
                    parents = tuple(
 
334
                        map(self._idx_to_name,
 
335
                            self._parents[self._lookup(version_id)]))
 
336
                except RevisionNotPresent:
340
337
                    continue
341
 
                elif parent_active and version_active:
342
 
                    # shared line
343
 
                    parent_linenum = parent_linenums[version_id]
344
 
                    if current_hunks[version_id] != [parent_linenum, parent_linenum, 0, []]:
345
 
                        diff_hunks[version_id].append(tuple(current_hunks[version_id]))
346
 
                    parent_linenum += 1
347
 
                    current_hunks[version_id] = [parent_linenum, parent_linenum, 0, []]
348
 
                    parent_linenums[version_id] = parent_linenum
349
 
                    try:
350
 
                        if line[-1] != '\n':
351
 
                            noeols[version_id] = True
352
 
                    except IndexError:
353
 
                        pass
354
 
                elif parent_active and not version_active:
355
 
                    # deleted line
356
 
                    current_hunks[version_id][1] += 1
357
 
                    parent_linenums[version_id] += 1
358
 
                    last_parent_lines[version_id] = line
359
 
                elif not parent_active and version_active:
360
 
                    # replacement line
361
 
                    # noeol only occurs at the end of a file because we 
362
 
                    # diff linewise. We want to show noeol changes as a
363
 
                    # empty diff unless the actual eol-less content changed.
364
 
                    theline = line
365
 
                    try:
366
 
                        if last_parent_lines[version_id][-1] != '\n':
367
 
                            parent_noeols[version_id] = True
368
 
                    except (TypeError, IndexError):
369
 
                        pass
370
 
                    try:
371
 
                        if theline[-1] != '\n':
372
 
                            noeols[version_id] = True
373
 
                    except IndexError:
374
 
                        pass
375
 
                    new_line = False
376
 
                    parent_should_go = False
377
 
 
378
 
                    if parent_noeols[version_id] == noeols[version_id]:
379
 
                        # no noeol toggle, so trust the weaves statement
380
 
                        # that this line is changed.
381
 
                        new_line = True
382
 
                        if parent_noeols[version_id]:
383
 
                            theline = theline + '\n'
384
 
                    elif parent_noeols[version_id]:
385
 
                        # parent has no eol, we do:
386
 
                        # our line is new, report as such..
387
 
                        new_line = True
388
 
                    elif noeols[version_id]:
389
 
                        # append a eol so that it looks like
390
 
                        # a normalised delta
391
 
                        theline = theline + '\n'
392
 
                        if parents[version_id] is not None:
393
 
                        #if last_parent_lines[version_id] is not None:
394
 
                            parent_should_go = True
395
 
                        if last_parent_lines[version_id] != theline:
396
 
                            # but changed anyway
397
 
                            new_line = True
398
 
                            #parent_should_go = False
399
 
                    if new_line:
400
 
                        current_hunks[version_id][2] += 1
401
 
                        current_hunks[version_id][3].append((inserted, theline))
402
 
                    if parent_should_go:
403
 
                        # last hunk last parent line is not eaten
404
 
                        current_hunks[version_id][1] -= 1
405
 
                    if current_hunks[version_id][1] < 0:
406
 
                        current_hunks[version_id][1] = 0
407
 
                        # import pdb;pdb.set_trace()
408
 
                    # assert current_hunks[version_id][1] >= 0
409
 
 
410
 
        # flush last hunk
411
 
        for i in range(nv):
412
 
            version = self._idx_to_name(i)
413
 
            if current_hunks[version] != [0, 0, 0, []]:
414
 
                diff_hunks[version].append(tuple(current_hunks[version]))
415
 
        result = {}
416
 
        for version_id in version_ids:
417
 
            result[version_id] = (
418
 
                                  parents[version_id],
419
 
                                  sha1s[version_id],
420
 
                                  noeols[version_id],
421
 
                                  diff_hunks[version_id],
422
 
                                  )
 
338
            result[version_id] = parents
423
339
        return result
424
340
 
425
 
    def get_parents(self, version_id):
426
 
        """See VersionedFile.get_parent."""
427
 
        return map(self._idx_to_name, self._parents[self._lookup(version_id)])
 
341
    def get_parents_with_ghosts(self, version_id):
 
342
        raise NotImplementedError(self.get_parents_with_ghosts)
 
343
 
 
344
    def insert_record_stream(self, stream):
 
345
        """Insert a record stream into this versioned file.
 
346
 
 
347
        :param stream: A stream of records to insert. 
 
348
        :return: None
 
349
        :seealso VersionedFile.get_record_stream:
 
350
        """
 
351
        adapters = {}
 
352
        for record in stream:
 
353
            # Raise an error when a record is missing.
 
354
            if record.storage_kind == 'absent':
 
355
                raise RevisionNotPresent([record.key[0]], self)
 
356
            # adapt to non-tuple interface
 
357
            parents = [parent[0] for parent in record.parents]
 
358
            if record.storage_kind == 'fulltext':
 
359
                self.add_lines(record.key[0], parents,
 
360
                    split_lines(record.get_bytes_as('fulltext')))
 
361
            else:
 
362
                adapter_key = record.storage_kind, 'fulltext'
 
363
                try:
 
364
                    adapter = adapters[adapter_key]
 
365
                except KeyError:
 
366
                    adapter_factory = adapter_registry.get(adapter_key)
 
367
                    adapter = adapter_factory(self)
 
368
                    adapters[adapter_key] = adapter
 
369
                lines = split_lines(adapter.get_bytes(
 
370
                    record, record.get_bytes_as(record.storage_kind)))
 
371
                try:
 
372
                    self.add_lines(record.key[0], parents, lines)
 
373
                except RevisionAlreadyPresent:
 
374
                    pass
428
375
 
429
376
    def _check_repeated_add(self, name, parents, text, sha1):
430
377
        """Check that a duplicated add is OK.
437
384
            raise RevisionAlreadyPresent(name, self._weave_name)
438
385
        return idx
439
386
 
440
 
    @deprecated_method(zero_eight)
441
 
    def add_identical(self, old_rev_id, new_rev_id, parents):
442
 
        """Please use Weave.clone_text now."""
443
 
        return self.clone_text(new_rev_id, old_rev_id, parents)
444
 
 
445
 
    def _add_lines(self, version_id, parents, lines, parent_texts):
 
387
    def _add_lines(self, version_id, parents, lines, parent_texts,
 
388
       left_matching_blocks, nostore_sha, random_id, check_content):
446
389
        """See VersionedFile.add_lines."""
447
 
        return self._add(version_id, lines, map(self._lookup, parents))
448
 
 
449
 
    @deprecated_method(zero_eight)
450
 
    def add(self, name, parents, text, sha1=None):
451
 
        """See VersionedFile.add_lines for the non deprecated api."""
452
 
        return self._add(name, text, map(self._maybe_lookup, parents), sha1)
453
 
 
454
 
    def _add(self, version_id, lines, parents, sha1=None):
 
390
        idx = self._add(version_id, lines, map(self._lookup, parents),
 
391
            nostore_sha=nostore_sha)
 
392
        return sha_strings(lines), sum(map(len, lines)), idx
 
393
 
 
394
    def _add(self, version_id, lines, parents, sha1=None, nostore_sha=None):
455
395
        """Add a single text on top of the weave.
456
396
  
457
397
        Returns the index number of the newly added version.
465
405
            
466
406
        lines
467
407
            Sequence of lines to be added in the new version.
 
408
 
 
409
        :param nostore_sha: See VersionedFile.add_lines.
468
410
        """
469
 
 
470
 
        assert isinstance(version_id, basestring)
471
411
        self._check_lines_not_unicode(lines)
472
412
        self._check_lines_are_lines(lines)
473
413
        if not sha1:
474
414
            sha1 = sha_strings(lines)
 
415
        if sha1 == nostore_sha:
 
416
            raise errors.ExistingContent
475
417
        if version_id in self._name_map:
476
418
            return self._check_repeated_add(version_id, parents, lines, sha1)
477
419
 
521
463
        # another small special case: a merge, producing the same text
522
464
        # as auto-merge
523
465
        if lines == basis_lines:
524
 
            return new_version            
 
466
            return new_version
525
467
 
526
 
        # add a sentinal, because we can also match against the final line
 
468
        # add a sentinel, because we can also match against the final line
527
469
        basis_lineno.append(len(self._weave))
528
470
 
529
471
        # XXX: which line of the weave should we really consider
546
488
            #print 'raw match', tag, i1, i2, j1, j2
547
489
            if tag == 'equal':
548
490
                continue
549
 
 
550
491
            i1 = basis_lineno[i1]
551
492
            i2 = basis_lineno[i2]
552
 
 
553
 
            assert 0 <= j1 <= j2 <= len(lines)
554
 
 
555
 
            #print tag, i1, i2, j1, j2
556
 
 
557
493
            # the deletion and insertion are handled separately.
558
494
            # first delete the region.
559
495
            if i1 != i2:
572
508
                offset += 2 + (j2 - j1)
573
509
        return new_version
574
510
 
575
 
    def _clone_text(self, new_version_id, old_version_id, parents):
576
 
        """See VersionedFile.clone_text."""
577
 
        old_lines = self.get_text(old_version_id)
578
 
        self.add_lines(new_version_id, parents, old_lines)
579
 
 
580
511
    def _inclusions(self, versions):
581
512
        """Return set of all ancestors of given version(s)."""
582
513
        if not len(versions):
590
521
        ## except IndexError:
591
522
        ##     raise ValueError("version %d not present in weave" % v)
592
523
 
593
 
    @deprecated_method(zero_eight)
594
 
    def inclusions(self, version_ids):
595
 
        """Deprecated - see VersionedFile.get_ancestry for the replacement."""
596
 
        if not version_ids:
597
 
            return []
598
 
        if isinstance(version_ids[0], int):
599
 
            return [self._idx_to_name(v) for v in self._inclusions(version_ids)]
600
 
        else:
601
 
            return self.get_ancestry(version_ids)
602
 
 
603
 
    def get_ancestry(self, version_ids):
 
524
    def get_ancestry(self, version_ids, topo_sorted=True):
604
525
        """See VersionedFile.get_ancestry."""
605
526
        if isinstance(version_ids, basestring):
606
527
            version_ids = [version_ids]
635
556
        return len(other_parents.difference(my_parents)) == 0
636
557
 
637
558
    def annotate(self, version_id):
638
 
        if isinstance(version_id, int):
639
 
            warn('Weave.annotate(int) is deprecated. Please use version names'
640
 
                 ' in all circumstances as of 0.8',
641
 
                 DeprecationWarning,
642
 
                 stacklevel=2
643
 
                 )
644
 
            result = []
645
 
            for origin, lineno, text in self._extract([version_id]):
646
 
                result.append((origin, text))
647
 
            return result
648
 
        else:
649
 
            return super(Weave, self).annotate(version_id)
650
 
    
651
 
    def annotate_iter(self, version_id):
652
 
        """Yield list of (version-id, line) pairs for the specified version.
 
559
        """Return a list of (version-id, line) tuples for version_id.
653
560
 
654
561
        The index indicates when the line originated in the weave."""
655
562
        incls = [self._lookup(version_id)]
656
 
        for origin, lineno, text in self._extract(incls):
657
 
            yield self._idx_to_name(origin), text
658
 
 
659
 
    @deprecated_method(zero_eight)
660
 
    def _walk(self):
661
 
        """_walk has become visit, a supported api."""
662
 
        return self._walk_internal()
663
 
 
664
 
    def iter_lines_added_or_present_in_versions(self, version_ids=None):
 
563
        return [(self._idx_to_name(origin), text) for origin, lineno, text in
 
564
            self._extract(incls)]
 
565
 
 
566
    def iter_lines_added_or_present_in_versions(self, version_ids=None,
 
567
                                                pb=None):
665
568
        """See VersionedFile.iter_lines_added_or_present_in_versions()."""
666
569
        if version_ids is None:
667
570
            version_ids = self.versions()
672
575
            # properly, we do not filter down to that
673
576
            # if inserted not in version_ids: continue
674
577
            if line[-1] != '\n':
675
 
                yield line + '\n'
 
578
                yield line + '\n', inserted
676
579
            else:
677
 
                yield line
678
 
 
679
 
    #@deprecated_method(zero_eight)
680
 
    def walk(self, version_ids=None):
681
 
        """See VersionedFile.walk."""
682
 
        return self._walk_internal(version_ids)
 
580
                yield line, inserted
683
581
 
684
582
    def _walk_internal(self, version_ids=None):
685
583
        """Helper method for weave actions."""
698
596
                elif c == '}':
699
597
                    istack.pop()
700
598
                elif c == '[':
701
 
                    assert self._names[v] not in dset
702
599
                    dset.add(self._names[v])
703
600
                elif c == ']':
704
601
                    dset.remove(self._names[v])
705
602
                else:
706
603
                    raise WeaveFormatError('unexpected instruction %r' % v)
707
604
            else:
708
 
                assert l.__class__ in (str, unicode)
709
 
                assert istack
710
605
                yield lineno, istack[-1], frozenset(dset), l
711
606
            lineno += 1
712
607
 
729
624
        inc_b = set(self.get_ancestry([ver_b]))
730
625
        inc_c = inc_a & inc_b
731
626
 
732
 
        for lineno, insert, deleteset, line in\
733
 
            self.walk([ver_a, ver_b]):
 
627
        for lineno, insert, deleteset, line in self._walk_internal([ver_a, ver_b]):
734
628
            if deleteset & inc_c:
735
629
                # killed in parent; can't be in either a or b
736
630
                # not relevant to our work
762
656
                # not in either revision
763
657
                yield 'irrelevant', line
764
658
 
765
 
        yield 'unchanged', ''           # terminator
766
 
 
767
659
    def _extract(self, versions):
768
660
        """Yield annotation of lines in included set.
769
661
 
823
715
                c, v = l
824
716
                isactive = None
825
717
                if c == '{':
826
 
                    assert v not in iset
827
718
                    istack.append(v)
828
719
                    iset.add(v)
829
720
                elif c == '}':
830
721
                    iset.remove(istack.pop())
831
722
                elif c == '[':
832
723
                    if v in included:
833
 
                        assert v not in dset
834
724
                        dset.add(v)
835
 
                else:
836
 
                    assert c == ']'
 
725
                elif c == ']':
837
726
                    if v in included:
838
 
                        assert v in dset
839
727
                        dset.remove(v)
 
728
                else:
 
729
                    raise AssertionError()
840
730
            else:
841
 
                assert l.__class__ in (str, unicode)
842
731
                if isactive is None:
843
732
                    isactive = (not dset) and istack and (istack[-1] in included)
844
733
                if isactive:
852
741
                                   % dset)
853
742
        return result
854
743
 
855
 
    @deprecated_method(zero_eight)
856
 
    def get_iter(self, name_or_index):
857
 
        """Deprecated, please do not use. Lookups are not not needed.
858
 
        
859
 
        Please use get_lines now.
860
 
        """
861
 
        return iter(self.get_lines(self._maybe_lookup(name_or_index)))
862
 
 
863
 
    @deprecated_method(zero_eight)
864
 
    def maybe_lookup(self, name_or_index):
865
 
        """Deprecated, please do not use. Lookups are not not needed."""
866
 
        return self._maybe_lookup(name_or_index)
867
 
 
868
744
    def _maybe_lookup(self, name_or_index):
869
745
        """Convert possible symbolic name to index, or pass through indexes.
870
746
        
875
751
        else:
876
752
            return self._lookup(name_or_index)
877
753
 
878
 
    @deprecated_method(zero_eight)
879
 
    def get(self, version_id):
880
 
        """Please use either Weave.get_text or Weave.get_lines as desired."""
881
 
        return self.get_lines(version_id)
882
 
 
883
754
    def get_lines(self, version_id):
884
755
        """See VersionedFile.get_lines()."""
885
756
        int_index = self._maybe_lookup(version_id)
893
764
                       expected_sha1, measured_sha1))
894
765
        return result
895
766
 
896
 
    def get_sha1(self, version_id):
897
 
        """See VersionedFile.get_sha1()."""
898
 
        return self._sha1s[self._lookup(version_id)]
899
 
 
900
 
    @deprecated_method(zero_eight)
901
 
    def numversions(self):
902
 
        """How many versions are in this weave?
903
 
 
904
 
        Deprecated in favour of num_versions.
905
 
        """
906
 
        return self.num_versions()
 
767
    def get_sha1s(self, version_ids):
 
768
        """See VersionedFile.get_sha1s()."""
 
769
        result = {}
 
770
        for v in version_ids:
 
771
            result[v] = self._sha1s[self._lookup(v)]
 
772
        return result
907
773
 
908
774
    def num_versions(self):
909
775
        """How many versions are in this weave?"""
910
776
        l = len(self._parents)
911
 
        assert l == len(self._sha1s)
912
777
        return l
913
778
 
914
779
    __len__ = num_versions
940
805
            for p in self._parents[i]:
941
806
                new_inc.update(inclusions[self._idx_to_name(p)])
942
807
 
943
 
            assert set(new_inc) == set(self.get_ancestry(name)), \
944
 
                'failed %s != %s' % (set(new_inc), set(self.get_ancestry(name)))
 
808
            if set(new_inc) != set(self.get_ancestry(name)):
 
809
                raise AssertionError(
 
810
                    'failed %s != %s' 
 
811
                    % (set(new_inc), set(self.get_ancestry(name))))
945
812
            inclusions[name] = new_inc
946
813
 
947
814
        nlines = len(self._weave)
977
844
        # no lines outside of insertion blocks, that deletions are
978
845
        # properly paired, etc.
979
846
 
980
 
    def _join(self, other, pb, msg, version_ids, ignore_missing):
981
 
        """Worker routine for join()."""
982
 
        if not other.versions():
983
 
            return          # nothing to update, easy
984
 
 
985
 
        if not version_ids:
986
 
            # versions is never none, InterWeave checks this.
987
 
            return 0
988
 
 
989
 
        # two loops so that we do not change ourselves before verifying it
990
 
        # will be ok
991
 
        # work through in index order to make sure we get all dependencies
992
 
        names_to_join = []
993
 
        processed = 0
994
 
        # get the selected versions only that are in other.versions.
995
 
        version_ids = set(other.versions()).intersection(set(version_ids))
996
 
        # pull in the referenced graph.
997
 
        version_ids = other.get_ancestry(version_ids)
998
 
        pending_graph = [(version, other.get_parents(version)) for
999
 
                         version in version_ids]
1000
 
        for name in topo_sort(pending_graph):
1001
 
            other_idx = other._name_map[name]
1002
 
            # returns True if we have it, False if we need it.
1003
 
            if not self._check_version_consistent(other, other_idx, name):
1004
 
                names_to_join.append((other_idx, name))
1005
 
            processed += 1
1006
 
 
1007
 
 
1008
 
        if pb and not msg:
1009
 
            msg = 'weave join'
1010
 
 
1011
 
        merged = 0
1012
 
        time0 = time.time()
1013
 
        for other_idx, name in names_to_join:
1014
 
            # TODO: If all the parents of the other version are already
1015
 
            # present then we can avoid some work by just taking the delta
1016
 
            # and adjusting the offsets.
1017
 
            new_parents = self._imported_parents(other, other_idx)
1018
 
            sha1 = other._sha1s[other_idx]
1019
 
 
1020
 
            merged += 1
1021
 
 
1022
 
            if pb:
1023
 
                pb.update(msg, merged, len(names_to_join))
1024
 
           
1025
 
            lines = other.get_lines(other_idx)
1026
 
            self._add(name, lines, new_parents, sha1)
1027
 
 
1028
 
        mutter("merged = %d, processed = %d, file_id=%s; deltat=%d"%(
1029
 
                merged, processed, self._weave_name, time.time()-time0))
1030
 
 
1031
847
    def _imported_parents(self, other, other_idx):
1032
848
        """Return list of parents in self corresponding to indexes in other."""
1033
849
        new_parents = []
1068
884
        else:
1069
885
            return False
1070
886
 
1071
 
    @deprecated_method(zero_eight)
1072
 
    def reweave(self, other, pb=None, msg=None):
1073
 
        """reweave has been superceded by plain use of join."""
1074
 
        return self.join(other, pb, msg)
1075
 
 
1076
887
    def _reweave(self, other, pb, msg):
1077
888
        """Reweave self with other - internal helper for join().
1078
889
 
1095
906
 
1096
907
    WEAVE_SUFFIX = '.weave'
1097
908
    
1098
 
    def __init__(self, name, transport, filemode=None, create=False, access_mode='w'):
 
909
    def __init__(self, name, transport, filemode=None, create=False, access_mode='w', get_scope=None):
1099
910
        """Create a WeaveFile.
1100
911
        
1101
912
        :param create: If not True, only open an existing knit.
1102
913
        """
1103
 
        super(WeaveFile, self).__init__(name, access_mode)
 
914
        super(WeaveFile, self).__init__(name, access_mode, get_scope=get_scope,
 
915
            allow_reserved=False)
1104
916
        self._transport = transport
1105
917
        self._filemode = filemode
1106
918
        try:
1111
923
            # new file, save it
1112
924
            self._save()
1113
925
 
1114
 
    def _add_lines(self, version_id, parents, lines, parent_texts):
 
926
    def _add_lines(self, version_id, parents, lines, parent_texts,
 
927
        left_matching_blocks, nostore_sha, random_id, check_content):
1115
928
        """Add a version and save the weave."""
 
929
        self.check_not_reserved_id(version_id)
1116
930
        result = super(WeaveFile, self)._add_lines(version_id, parents, lines,
1117
 
                                                   parent_texts)
 
931
            parent_texts, left_matching_blocks, nostore_sha, random_id,
 
932
            check_content)
1118
933
        self._save()
1119
934
        return result
1120
935
 
1121
 
    def _clone_text(self, new_version_id, old_version_id, parents):
1122
 
        """See VersionedFile.clone_text."""
1123
 
        super(WeaveFile, self)._clone_text(new_version_id, old_version_id, parents)
1124
 
        self._save
1125
 
 
1126
936
    def copy_to(self, name, transport):
1127
937
        """See VersionedFile.copy_to()."""
1128
938
        # as we are all in memory always, just serialise to the new place.
1129
939
        sio = StringIO()
1130
940
        write_weave_v5(self, sio)
1131
941
        sio.seek(0)
1132
 
        transport.put(name + WeaveFile.WEAVE_SUFFIX, sio, self._filemode)
1133
 
 
1134
 
    def create_empty(self, name, transport, filemode=None):
1135
 
        return WeaveFile(name, transport, filemode, create=True)
 
942
        transport.put_file(name + WeaveFile.WEAVE_SUFFIX, sio, self._filemode)
1136
943
 
1137
944
    def _save(self):
1138
945
        """Save the weave."""
1140
947
        sio = StringIO()
1141
948
        write_weave_v5(self, sio)
1142
949
        sio.seek(0)
1143
 
        self._transport.put(self._weave_name + WeaveFile.WEAVE_SUFFIX,
1144
 
                            sio,
1145
 
                            self._filemode)
 
950
        bytes = sio.getvalue()
 
951
        path = self._weave_name + WeaveFile.WEAVE_SUFFIX
 
952
        try:
 
953
            self._transport.put_bytes(path, bytes, self._filemode)
 
954
        except errors.NoSuchFile:
 
955
            self._transport.mkdir(dirname(path))
 
956
            self._transport.put_bytes(path, bytes, self._filemode)
1146
957
 
1147
958
    @staticmethod
1148
959
    def get_suffixes():
1149
960
        """See VersionedFile.get_suffixes()."""
1150
961
        return [WeaveFile.WEAVE_SUFFIX]
1151
962
 
 
963
    def insert_record_stream(self, stream):
 
964
        super(WeaveFile, self).insert_record_stream(stream)
 
965
        self._save()
 
966
 
 
967
    @deprecated_method(one_five)
1152
968
    def join(self, other, pb=None, msg=None, version_ids=None,
1153
969
             ignore_missing=False):
1154
970
        """Join other into self and save."""
1156
972
        self._save()
1157
973
 
1158
974
 
1159
 
@deprecated_function(zero_eight)
1160
 
def reweave(wa, wb, pb=None, msg=None):
1161
 
    """reweaving is deprecation, please just use weave.join()."""
1162
 
    _reweave(wa, wb, pb, msg)
1163
 
 
1164
975
def _reweave(wa, wb, pb=None, msg=None):
1165
976
    """Combine two weaves and return the result.
1166
977
 
1240
1051
    from bzrlib.weavefile import read_weave
1241
1052
 
1242
1053
    wf = file(weave_file, 'rb')
1243
 
    w = read_weave(wf, WeaveVersionedFile)
 
1054
    w = read_weave(wf)
1244
1055
    # FIXME: doesn't work on pipes
1245
1056
    weave_size = wf.tell()
1246
1057
 
1366
1177
        v1, v2 = map(int, argv[3:5])
1367
1178
        lines1 = w.get(v1)
1368
1179
        lines2 = w.get(v2)
1369
 
        diff_gen = unified_diff(lines1, lines2,
 
1180
        diff_gen = bzrlib.patiencediff.unified_diff(lines1, lines2,
1370
1181
                                '%s version %d' % (fn, v1),
1371
1182
                                '%s version %d' % (fn, v2))
1372
1183
        sys.stdout.writelines(diff_gen)
1420
1231
        raise ValueError('unknown command %r' % cmd)
1421
1232
    
1422
1233
 
1423
 
 
1424
 
def profile_main(argv):
1425
 
    import tempfile, hotshot, hotshot.stats
1426
 
 
1427
 
    prof_f = tempfile.NamedTemporaryFile()
1428
 
 
1429
 
    prof = hotshot.Profile(prof_f.name)
1430
 
 
1431
 
    ret = prof.runcall(main, argv)
1432
 
    prof.close()
1433
 
 
1434
 
    stats = hotshot.stats.load(prof_f.name)
1435
 
    #stats.strip_dirs()
1436
 
    stats.sort_stats('cumulative')
1437
 
    ## XXX: Might like to write to stderr or the trace file instead but
1438
 
    ## print_stats seems hardcoded to stdout
1439
 
    stats.print_stats(20)
1440
 
            
1441
 
    return ret
1442
 
 
1443
 
 
1444
 
def lsprofile_main(argv): 
1445
 
    from bzrlib.lsprof import profile
1446
 
    ret,stats = profile(main, argv)
1447
 
    stats.sort()
1448
 
    stats.pprint()
1449
 
    return ret
1450
 
 
1451
 
 
1452
1234
if __name__ == '__main__':
1453
1235
    import sys
1454
 
    if '--profile' in sys.argv:
1455
 
        args = sys.argv[:]
1456
 
        args.remove('--profile')
1457
 
        sys.exit(profile_main(args))
1458
 
    elif '--lsprof' in sys.argv:
1459
 
        args = sys.argv[:]
1460
 
        args.remove('--lsprof')
1461
 
        sys.exit(lsprofile_main(args))
1462
 
    else:
1463
 
        sys.exit(main(sys.argv))
1464
 
 
1465
 
 
1466
 
class InterWeave(InterVersionedFile):
1467
 
    """Optimised code paths for weave to weave operations."""
1468
 
    
1469
 
    _matching_file_from_factory = staticmethod(WeaveFile)
1470
 
    _matching_file_to_factory = staticmethod(WeaveFile)
1471
 
    
1472
 
    @staticmethod
1473
 
    def is_compatible(source, target):
1474
 
        """Be compatible with weaves."""
1475
 
        try:
1476
 
            return (isinstance(source, Weave) and
1477
 
                    isinstance(target, Weave))
1478
 
        except AttributeError:
1479
 
            return False
1480
 
 
1481
 
    def join(self, pb=None, msg=None, version_ids=None, ignore_missing=False):
1482
 
        """See InterVersionedFile.join."""
1483
 
        version_ids = self._get_source_version_ids(version_ids, ignore_missing)
1484
 
        if self.target.versions() == [] and version_ids is None:
1485
 
            self.target._copy_weave_content(self.source)
1486
 
            return
1487
 
        try:
1488
 
            self.target._join(self.source, pb, msg, version_ids, ignore_missing)
1489
 
        except errors.WeaveParentMismatch:
1490
 
            self.target._reweave(self.source, pb, msg)
1491
 
 
1492
 
 
1493
 
InterVersionedFile.register_optimiser(InterWeave)
 
1236
    sys.exit(main(sys.argv))