~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/weave.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2006-05-22 14:53:12 UTC
  • mfrom: (1707.3.30 ftp-server)
  • Revision ID: pqm@pqm.ubuntu.com-20060522145312-94c3c934d7cbd9ff
(jam) use medusa as an ftp-server provider, fix FtpTransport

Show diffs side-by-side

added added

removed removed

Lines of Context:
66
66
# be done fairly efficiently because the sequence numbers constrain
67
67
# the possible relationships.
68
68
 
 
69
# FIXME: the conflict markers should be *7* characters
69
70
 
 
71
from copy import copy
 
72
from cStringIO import StringIO
 
73
from difflib import SequenceMatcher
 
74
import os
70
75
import sha
71
 
from difflib import SequenceMatcher
 
76
import time
72
77
 
73
78
from bzrlib.trace import mutter
74
 
from bzrlib.errors import WeaveError, WeaveFormatError, WeaveParentMismatch, \
75
 
        WeaveRevisionNotPresent, WeaveRevisionAlreadyPresent
 
79
from bzrlib.errors import (WeaveError, WeaveFormatError, WeaveParentMismatch,
 
80
        RevisionAlreadyPresent,
 
81
        RevisionNotPresent,
 
82
        WeaveRevisionAlreadyPresent,
 
83
        WeaveRevisionNotPresent,
 
84
        )
 
85
import bzrlib.errors as errors
 
86
from bzrlib.osutils import sha_strings
 
87
from bzrlib.symbol_versioning import *
76
88
from bzrlib.tsort import topo_sort
77
 
 
78
 
 
79
 
class Weave(object):
 
89
from bzrlib.versionedfile import VersionedFile, InterVersionedFile
 
90
from bzrlib.weavefile import _read_weave_v5, write_weave_v5
 
91
 
 
92
 
 
93
class Weave(VersionedFile):
80
94
    """weave - versioned text file storage.
81
95
    
82
96
    A Weave manages versions of line-based text files, keeping track
168
182
    __slots__ = ['_weave', '_parents', '_sha1s', '_names', '_name_map',
169
183
                 '_weave_name']
170
184
    
171
 
    def __init__(self, weave_name=None):
 
185
    def __init__(self, weave_name=None, access_mode='w'):
 
186
        super(Weave, self).__init__(access_mode)
172
187
        self._weave = []
173
188
        self._parents = []
174
189
        self._sha1s = []
179
194
    def __repr__(self):
180
195
        return "Weave(%r)" % self._weave_name
181
196
 
182
 
 
183
197
    def copy(self):
184
198
        """Return a deep copy of self.
185
199
        
199
213
        return self._parents == other._parents \
200
214
               and self._weave == other._weave \
201
215
               and self._sha1s == other._sha1s 
202
 
 
203
216
    
204
217
    def __ne__(self, other):
205
218
        return not self.__eq__(other)
206
219
 
207
 
    def __contains__(self, name):
208
 
        return self._name_map.has_key(name)
209
 
 
210
 
    def maybe_lookup(self, name_or_index):
211
 
        """Convert possible symbolic name to index, or pass through indexes."""
212
 
        if isinstance(name_or_index, (int, long)):
213
 
            return name_or_index
214
 
        else:
215
 
            return self.lookup(name_or_index)
216
 
 
217
 
        
 
220
    @deprecated_method(zero_eight)
 
221
    def idx_to_name(self, index):
 
222
        """Old public interface, the public interface is all names now."""
 
223
        return index
 
224
 
 
225
    def _idx_to_name(self, version):
 
226
        return self._names[version]
 
227
 
 
228
    @deprecated_method(zero_eight)
218
229
    def lookup(self, name):
 
230
        """Backwards compatability thunk:
 
231
 
 
232
        Return name, as name is valid in the api now, and spew deprecation
 
233
        warnings everywhere.
 
234
        """
 
235
        return name
 
236
 
 
237
    def _lookup(self, name):
219
238
        """Convert symbolic version name to index."""
220
239
        try:
221
240
            return self._name_map[name]
222
241
        except KeyError:
223
 
            raise WeaveRevisionNotPresent(name, self)
224
 
 
 
242
            raise RevisionNotPresent(name, self._weave_name)
 
243
 
 
244
    @deprecated_method(zero_eight)
 
245
    def iter_names(self):
 
246
        """Deprecated convenience function, please see VersionedFile.names()."""
 
247
        return iter(self.names())
 
248
 
 
249
    @deprecated_method(zero_eight)
225
250
    def names(self):
 
251
        """See Weave.versions for the current api."""
 
252
        return self.versions()
 
253
 
 
254
    def versions(self):
 
255
        """See VersionedFile.versions."""
226
256
        return self._names[:]
227
257
 
228
 
    def iter_names(self):
229
 
        """Yield a list of all names in this weave."""
230
 
        return iter(self._names)
231
 
 
232
 
    def idx_to_name(self, version):
233
 
        return self._names[version]
 
258
    def has_version(self, version_id):
 
259
        """See VersionedFile.has_version."""
 
260
        return self._name_map.has_key(version_id)
 
261
 
 
262
    __contains__ = has_version
 
263
 
 
264
    def get_delta(self, version_id):
 
265
        """See VersionedFile.get_delta."""
 
266
        return self.get_deltas([version_id])[version_id]
 
267
 
 
268
    def get_deltas(self, version_ids):
 
269
        """See VersionedFile.get_deltas."""
 
270
        version_ids = self.get_ancestry(version_ids)
 
271
        for version_id in version_ids:
 
272
            if not self.has_version(version_id):
 
273
                raise RevisionNotPresent(version_id, self)
 
274
        # try extracting all versions; parallel extraction is used
 
275
        nv = self.num_versions()
 
276
        sha1s = {}
 
277
        deltas = {}
 
278
        texts = {}
 
279
        inclusions = {}
 
280
        noeols = {}
 
281
        last_parent_lines = {}
 
282
        parents = {}
 
283
        parent_inclusions = {}
 
284
        parent_linenums = {}
 
285
        parent_noeols = {}
 
286
        current_hunks = {}
 
287
        diff_hunks = {}
 
288
        # its simplest to generate a full set of prepared variables.
 
289
        for i in range(nv):
 
290
            name = self._names[i]
 
291
            sha1s[name] = self.get_sha1(name)
 
292
            parents_list = self.get_parents(name)
 
293
            try:
 
294
                parent = parents_list[0]
 
295
                parents[name] = parent
 
296
                parent_inclusions[name] = inclusions[parent]
 
297
            except IndexError:
 
298
                parents[name] = None
 
299
                parent_inclusions[name] = set()
 
300
            # we want to emit start, finish, replacement_length, replacement_lines tuples.
 
301
            diff_hunks[name] = []
 
302
            current_hunks[name] = [0, 0, 0, []] # #start, finish, repl_length, repl_tuples
 
303
            parent_linenums[name] = 0
 
304
            noeols[name] = False
 
305
            parent_noeols[name] = False
 
306
            last_parent_lines[name] = None
 
307
            new_inc = set([name])
 
308
            for p in self._parents[i]:
 
309
                new_inc.update(inclusions[self._idx_to_name(p)])
 
310
            # debug only, known good so far.
 
311
            #assert set(new_inc) == set(self.get_ancestry(name)), \
 
312
            #    'failed %s != %s' % (set(new_inc), set(self.get_ancestry(name)))
 
313
            inclusions[name] = new_inc
 
314
 
 
315
        nlines = len(self._weave)
 
316
 
 
317
        for lineno, inserted, deletes, line in self._walk_internal():
 
318
            # a line is active in a version if:
 
319
            # insert is in the versions inclusions
 
320
            # and
 
321
            # deleteset & the versions inclusions is an empty set.
 
322
            # so - if we have a included by mapping - version is included by
 
323
            # children, we get a list of children to examine for deletes affect
 
324
            # ing them, which is less than the entire set of children.
 
325
            for version_id in version_ids:  
 
326
                # The active inclusion must be an ancestor,
 
327
                # and no ancestors must have deleted this line,
 
328
                # because we don't support resurrection.
 
329
                parent_inclusion = parent_inclusions[version_id]
 
330
                inclusion = inclusions[version_id]
 
331
                parent_active = inserted in parent_inclusion and not (deletes & parent_inclusion)
 
332
                version_active = inserted in inclusion and not (deletes & inclusion)
 
333
                if not parent_active and not version_active:
 
334
                    # unrelated line of ancestry
 
335
                    continue
 
336
                elif parent_active and version_active:
 
337
                    # shared line
 
338
                    parent_linenum = parent_linenums[version_id]
 
339
                    if current_hunks[version_id] != [parent_linenum, parent_linenum, 0, []]:
 
340
                        diff_hunks[version_id].append(tuple(current_hunks[version_id]))
 
341
                    parent_linenum += 1
 
342
                    current_hunks[version_id] = [parent_linenum, parent_linenum, 0, []]
 
343
                    parent_linenums[version_id] = parent_linenum
 
344
                    try:
 
345
                        if line[-1] != '\n':
 
346
                            noeols[version_id] = True
 
347
                    except IndexError:
 
348
                        pass
 
349
                elif parent_active and not version_active:
 
350
                    # deleted line
 
351
                    current_hunks[version_id][1] += 1
 
352
                    parent_linenums[version_id] += 1
 
353
                    last_parent_lines[version_id] = line
 
354
                elif not parent_active and version_active:
 
355
                    # replacement line
 
356
                    # noeol only occurs at the end of a file because we 
 
357
                    # diff linewise. We want to show noeol changes as a
 
358
                    # empty diff unless the actual eol-less content changed.
 
359
                    theline = line
 
360
                    try:
 
361
                        if last_parent_lines[version_id][-1] != '\n':
 
362
                            parent_noeols[version_id] = True
 
363
                    except (TypeError, IndexError):
 
364
                        pass
 
365
                    try:
 
366
                        if theline[-1] != '\n':
 
367
                            noeols[version_id] = True
 
368
                    except IndexError:
 
369
                        pass
 
370
                    new_line = False
 
371
                    parent_should_go = False
 
372
 
 
373
                    if parent_noeols[version_id] == noeols[version_id]:
 
374
                        # no noeol toggle, so trust the weaves statement
 
375
                        # that this line is changed.
 
376
                        new_line = True
 
377
                        if parent_noeols[version_id]:
 
378
                            theline = theline + '\n'
 
379
                    elif parent_noeols[version_id]:
 
380
                        # parent has no eol, we do:
 
381
                        # our line is new, report as such..
 
382
                        new_line = True
 
383
                    elif noeols[version_id]:
 
384
                        # append a eol so that it looks like
 
385
                        # a normalised delta
 
386
                        theline = theline + '\n'
 
387
                        if parents[version_id] is not None:
 
388
                        #if last_parent_lines[version_id] is not None:
 
389
                            parent_should_go = True
 
390
                        if last_parent_lines[version_id] != theline:
 
391
                            # but changed anyway
 
392
                            new_line = True
 
393
                            #parent_should_go = False
 
394
                    if new_line:
 
395
                        current_hunks[version_id][2] += 1
 
396
                        current_hunks[version_id][3].append((inserted, theline))
 
397
                    if parent_should_go:
 
398
                        # last hunk last parent line is not eaten
 
399
                        current_hunks[version_id][1] -= 1
 
400
                    if current_hunks[version_id][1] < 0:
 
401
                        current_hunks[version_id][1] = 0
 
402
                        # import pdb;pdb.set_trace()
 
403
                    # assert current_hunks[version_id][1] >= 0
 
404
 
 
405
        # flush last hunk
 
406
        for i in range(nv):
 
407
            version = self._idx_to_name(i)
 
408
            if current_hunks[version] != [0, 0, 0, []]:
 
409
                diff_hunks[version].append(tuple(current_hunks[version]))
 
410
        result = {}
 
411
        for version_id in version_ids:
 
412
            result[version_id] = (
 
413
                                  parents[version_id],
 
414
                                  sha1s[version_id],
 
415
                                  noeols[version_id],
 
416
                                  diff_hunks[version_id],
 
417
                                  )
 
418
        return result
 
419
 
 
420
    def get_parents(self, version_id):
 
421
        """See VersionedFile.get_parent."""
 
422
        return map(self._idx_to_name, self._parents[self._lookup(version_id)])
234
423
 
235
424
    def _check_repeated_add(self, name, parents, text, sha1):
236
425
        """Check that a duplicated add is OK.
237
426
 
238
427
        If it is, return the (old) index; otherwise raise an exception.
239
428
        """
240
 
        idx = self.lookup(name)
 
429
        idx = self._lookup(name)
241
430
        if sorted(self._parents[idx]) != sorted(parents) \
242
431
            or sha1 != self._sha1s[idx]:
243
 
            raise WeaveRevisionAlreadyPresent(name, self)
 
432
            raise RevisionAlreadyPresent(name, self._weave_name)
244
433
        return idx
245
 
        
 
434
 
 
435
    @deprecated_method(zero_eight)
 
436
    def add_identical(self, old_rev_id, new_rev_id, parents):
 
437
        """Please use Weave.clone_text now."""
 
438
        return self.clone_text(new_rev_id, old_rev_id, parents)
 
439
 
 
440
    def _add_lines(self, version_id, parents, lines, parent_texts):
 
441
        """See VersionedFile.add_lines."""
 
442
        return self._add(version_id, lines, map(self._lookup, parents))
 
443
 
 
444
    @deprecated_method(zero_eight)
246
445
    def add(self, name, parents, text, sha1=None):
 
446
        """See VersionedFile.add_lines for the non deprecated api."""
 
447
        return self._add(name, text, map(self._maybe_lookup, parents), sha1)
 
448
 
 
449
    def _add(self, version_id, lines, parents, sha1=None):
247
450
        """Add a single text on top of the weave.
248
451
  
249
452
        Returns the index number of the newly added version.
250
453
 
251
 
        name
 
454
        version_id
252
455
            Symbolic name for this version.
253
456
            (Typically the revision-id of the revision that added it.)
254
457
 
255
458
        parents
256
459
            List or set of direct parent version numbers.
257
460
            
258
 
        text
 
461
        lines
259
462
            Sequence of lines to be added in the new version.
260
 
 
261
 
        sha -- SHA-1 of the file, if known.  This is trusted to be
262
 
            correct if supplied.
263
463
        """
264
 
        from bzrlib.osutils import sha_strings
265
 
 
266
 
        assert isinstance(name, basestring)
267
 
        if sha1 is None:
268
 
            sha1 = sha_strings(text)
269
 
        if name in self._name_map:
270
 
            return self._check_repeated_add(name, parents, text, sha1)
271
 
 
272
 
        parents = map(self.maybe_lookup, parents)
 
464
 
 
465
        assert isinstance(version_id, basestring)
 
466
        self._check_lines_not_unicode(lines)
 
467
        self._check_lines_are_lines(lines)
 
468
        if not sha1:
 
469
            sha1 = sha_strings(lines)
 
470
        if version_id in self._name_map:
 
471
            return self._check_repeated_add(version_id, parents, lines, sha1)
 
472
 
273
473
        self._check_versions(parents)
274
 
        ## self._check_lines(text)
 
474
        ## self._check_lines(lines)
275
475
        new_version = len(self._parents)
276
476
 
277
 
 
278
477
        # if we abort after here the (in-memory) weave will be corrupt because only
279
478
        # some fields are updated
 
479
        # XXX: FIXME implement a succeed-or-fail of the rest of this routine.
 
480
        #      - Robert Collins 20060226
280
481
        self._parents.append(parents[:])
281
482
        self._sha1s.append(sha1)
282
 
        self._names.append(name)
283
 
        self._name_map[name] = new_version
 
483
        self._names.append(version_id)
 
484
        self._name_map[version_id] = new_version
284
485
 
285
486
            
286
487
        if not parents:
288
489
            # this more quickly by just appending unconditionally.
289
490
            # even more specially, if we're adding an empty text we
290
491
            # need do nothing at all.
291
 
            if text:
 
492
            if lines:
292
493
                self._weave.append(('{', new_version))
293
 
                self._weave.extend(text)
 
494
                self._weave.extend(lines)
294
495
                self._weave.append(('}', None))
295
 
        
296
496
            return new_version
297
497
 
298
498
        if len(parents) == 1:
302
502
                return new_version
303
503
            
304
504
 
305
 
        ancestors = self.inclusions(parents)
 
505
        ancestors = self._inclusions(parents)
306
506
 
307
507
        l = self._weave
308
508
 
315
515
 
316
516
        # another small special case: a merge, producing the same text
317
517
        # as auto-merge
318
 
        if text == basis_lines:
 
518
        if lines == basis_lines:
319
519
            return new_version            
320
520
 
321
521
        # add a sentinal, because we can also match against the final line
328
528
        #print 'basis_lines:', basis_lines
329
529
        #print 'new_lines:  ', lines
330
530
 
331
 
        s = SequenceMatcher(None, basis_lines, text)
 
531
        s = SequenceMatcher(None, basis_lines, lines)
332
532
 
333
533
        # offset gives the number of lines that have been inserted
334
534
        # into the weave up to the current point; if the original edit instruction
345
545
            i1 = basis_lineno[i1]
346
546
            i2 = basis_lineno[i2]
347
547
 
348
 
            assert 0 <= j1 <= j2 <= len(text)
 
548
            assert 0 <= j1 <= j2 <= len(lines)
349
549
 
350
550
            #print tag, i1, i2, j1, j2
351
551
 
362
562
                # we don't destroy ourselves
363
563
                i = i2 + offset
364
564
                self._weave[i:i] = ([('{', new_version)] 
365
 
                                    + text[j1:j2] 
 
565
                                    + lines[j1:j2] 
366
566
                                    + [('}', None)])
367
567
                offset += 2 + (j2 - j1)
368
 
 
369
568
        return new_version
370
569
 
371
 
    def add_identical(self, old_rev_id, new_rev_id, parents):
372
 
        """Add an identical text to old_rev_id as new_rev_id."""
373
 
        old_lines = self.get(self.lookup(old_rev_id))
374
 
        self.add(new_rev_id, parents, old_lines)
 
570
    def _clone_text(self, new_version_id, old_version_id, parents):
 
571
        """See VersionedFile.clone_text."""
 
572
        old_lines = self.get_text(old_version_id)
 
573
        self.add_lines(new_version_id, parents, old_lines)
375
574
 
376
 
    def inclusions(self, versions):
 
575
    def _inclusions(self, versions):
377
576
        """Return set of all ancestors of given version(s)."""
 
577
        if not len(versions):
 
578
            return []
378
579
        i = set(versions)
379
580
        for v in xrange(max(versions), 0, -1):
380
581
            if v in i:
384
585
        ## except IndexError:
385
586
        ##     raise ValueError("version %d not present in weave" % v)
386
587
 
387
 
 
388
 
    def parents(self, version):
389
 
        return self._parents[version]
390
 
 
391
 
 
392
 
    def parent_names(self, version):
393
 
        """Return version names for parents of a version."""
394
 
        return map(self.idx_to_name, self._parents[self.lookup(version)])
395
 
 
396
 
 
397
 
    def minimal_parents(self, version):
398
 
        """Find the minimal set of parents for the version."""
399
 
        included = self._parents[version]
400
 
        if not included:
 
588
    @deprecated_method(zero_eight)
 
589
    def inclusions(self, version_ids):
 
590
        """Deprecated - see VersionedFile.get_ancestry for the replacement."""
 
591
        if not version_ids:
401
592
            return []
402
 
        
403
 
        li = list(included)
404
 
        li.sort(reverse=True)
405
 
 
406
 
        mininc = []
407
 
        gotit = set()
408
 
 
409
 
        for pv in li:
410
 
            if pv not in gotit:
411
 
                mininc.append(pv)
412
 
                gotit.update(self.inclusions(pv))
413
 
 
414
 
        assert mininc[0] >= 0
415
 
        assert mininc[-1] < version
416
 
        return mininc
417
 
 
418
 
 
 
593
        if isinstance(version_ids[0], int):
 
594
            return [self._idx_to_name(v) for v in self._inclusions(version_ids)]
 
595
        else:
 
596
            return self.get_ancestry(version_ids)
 
597
 
 
598
    def get_ancestry(self, version_ids):
 
599
        """See VersionedFile.get_ancestry."""
 
600
        if isinstance(version_ids, basestring):
 
601
            version_ids = [version_ids]
 
602
        i = self._inclusions([self._lookup(v) for v in version_ids])
 
603
        return [self._idx_to_name(v) for v in i]
419
604
 
420
605
    def _check_lines(self, text):
421
606
        if not isinstance(text, list):
436
621
            except IndexError:
437
622
                raise IndexError("invalid version number %r" % i)
438
623
 
 
624
    def _compatible_parents(self, my_parents, other_parents):
 
625
        """During join check that other_parents are joinable with my_parents.
 
626
 
 
627
        Joinable is defined as 'is a subset of' - supersets may require 
 
628
        regeneration of diffs, but subsets do not.
 
629
        """
 
630
        return len(other_parents.difference(my_parents)) == 0
 
631
 
 
632
    def annotate(self, version_id):
 
633
        if isinstance(version_id, int):
 
634
            warn('Weave.annotate(int) is deprecated. Please use version names'
 
635
                 ' in all circumstances as of 0.8',
 
636
                 DeprecationWarning,
 
637
                 stacklevel=2
 
638
                 )
 
639
            result = []
 
640
            for origin, lineno, text in self._extract([version_id]):
 
641
                result.append((origin, text))
 
642
            return result
 
643
        else:
 
644
            return super(Weave, self).annotate(version_id)
439
645
    
440
 
    def annotate(self, name_or_index):
441
 
        return list(self.annotate_iter(name_or_index))
442
 
 
443
 
 
444
 
    def annotate_iter(self, name_or_index):
445
 
        """Yield list of (index-id, line) pairs for the specified version.
 
646
    def annotate_iter(self, version_id):
 
647
        """Yield list of (version-id, line) pairs for the specified version.
446
648
 
447
649
        The index indicates when the line originated in the weave."""
448
 
        incls = [self.maybe_lookup(name_or_index)]
 
650
        incls = [self._lookup(version_id)]
449
651
        for origin, lineno, text in self._extract(incls):
450
 
            yield origin, text
 
652
            yield self._idx_to_name(origin), text
451
653
 
 
654
    @deprecated_method(zero_eight)
452
655
    def _walk(self):
453
 
        """Walk the weave.
454
 
 
455
 
        Yields sequence of
456
 
        (lineno, insert, deletes, text)
457
 
        for each literal line.
458
 
        """
 
656
        """_walk has become visit, a supported api."""
 
657
        return self._walk_internal()
 
658
 
 
659
    def iter_lines_added_or_present_in_versions(self, version_ids=None):
 
660
        """See VersionedFile.iter_lines_added_or_present_in_versions()."""
 
661
        if version_ids is None:
 
662
            version_ids = self.versions()
 
663
        version_ids = set(version_ids)
 
664
        for lineno, inserted, deletes, line in self._walk_internal(version_ids):
 
665
            # if inserted not in version_ids then it was inserted before the
 
666
            # versions we care about, but because weaves cannot represent ghosts
 
667
            # properly, we do not filter down to that
 
668
            # if inserted not in version_ids: continue
 
669
            if line[-1] != '\n':
 
670
                yield line + '\n'
 
671
            else:
 
672
                yield line
 
673
 
 
674
    #@deprecated_method(zero_eight)
 
675
    def walk(self, version_ids=None):
 
676
        """See VersionedFile.walk."""
 
677
        return self._walk_internal(version_ids)
 
678
 
 
679
    def _walk_internal(self, version_ids=None):
 
680
        """Helper method for weave actions."""
459
681
        
460
682
        istack = []
461
683
        dset = set()
463
685
        lineno = 0         # line of weave, 0-based
464
686
 
465
687
        for l in self._weave:
466
 
            if isinstance(l, tuple):
 
688
            if l.__class__ == tuple:
467
689
                c, v = l
468
690
                isactive = None
469
691
                if c == '{':
470
 
                    istack.append(v)
 
692
                    istack.append(self._names[v])
471
693
                elif c == '}':
472
694
                    istack.pop()
473
695
                elif c == '[':
474
 
                    assert v not in dset
475
 
                    dset.add(v)
 
696
                    assert self._names[v] not in dset
 
697
                    dset.add(self._names[v])
476
698
                elif c == ']':
477
 
                    dset.remove(v)
 
699
                    dset.remove(self._names[v])
478
700
                else:
479
701
                    raise WeaveFormatError('unexpected instruction %r' % v)
480
702
            else:
481
 
                assert isinstance(l, basestring)
 
703
                assert l.__class__ in (str, unicode)
482
704
                assert istack
483
 
                yield lineno, istack[-1], dset, l
 
705
                yield lineno, istack[-1], frozenset(dset), l
484
706
            lineno += 1
485
707
 
486
 
 
 
708
        if istack:
 
709
            raise WeaveFormatError("unclosed insertion blocks "
 
710
                    "at end of weave: %s" % istack)
 
711
        if dset:
 
712
            raise WeaveFormatError("unclosed deletion blocks at end of weave: %s"
 
713
                                   % dset)
 
714
 
 
715
    def plan_merge(self, ver_a, ver_b):
 
716
        """Return pseudo-annotation indicating how the two versions merge.
 
717
 
 
718
        This is computed between versions a and b and their common
 
719
        base.
 
720
 
 
721
        Weave lines present in none of them are skipped entirely.
 
722
        """
 
723
        inc_a = set(self.get_ancestry([ver_a]))
 
724
        inc_b = set(self.get_ancestry([ver_b]))
 
725
        inc_c = inc_a & inc_b
 
726
 
 
727
        for lineno, insert, deleteset, line in\
 
728
            self.walk([ver_a, ver_b]):
 
729
            if deleteset & inc_c:
 
730
                # killed in parent; can't be in either a or b
 
731
                # not relevant to our work
 
732
                yield 'killed-base', line
 
733
            elif insert in inc_c:
 
734
                # was inserted in base
 
735
                killed_a = bool(deleteset & inc_a)
 
736
                killed_b = bool(deleteset & inc_b)
 
737
                if killed_a and killed_b:
 
738
                    yield 'killed-both', line
 
739
                elif killed_a:
 
740
                    yield 'killed-a', line
 
741
                elif killed_b:
 
742
                    yield 'killed-b', line
 
743
                else:
 
744
                    yield 'unchanged', line
 
745
            elif insert in inc_a:
 
746
                if deleteset & inc_a:
 
747
                    yield 'ghost-a', line
 
748
                else:
 
749
                    # new in A; not in B
 
750
                    yield 'new-a', line
 
751
            elif insert in inc_b:
 
752
                if deleteset & inc_b:
 
753
                    yield 'ghost-b', line
 
754
                else:
 
755
                    yield 'new-b', line
 
756
            else:
 
757
                # not in either revision
 
758
                yield 'irrelevant', line
 
759
 
 
760
        yield 'unchanged', ''           # terminator
487
761
 
488
762
    def _extract(self, versions):
489
763
        """Yield annotation of lines in included set.
498
772
            if not isinstance(i, int):
499
773
                raise ValueError(i)
500
774
            
501
 
        included = self.inclusions(versions)
 
775
        included = self._inclusions(versions)
502
776
 
503
777
        istack = []
 
778
        iset = set()
504
779
        dset = set()
505
780
 
506
781
        lineno = 0         # line of weave, 0-based
511
786
 
512
787
        WFE = WeaveFormatError
513
788
 
 
789
        # wow. 
 
790
        #  449       0   4474.6820   2356.5590   bzrlib.weave:556(_extract)
 
791
        #  +285282   0   1676.8040   1676.8040   +<isinstance>
 
792
        # 1.6 seconds in 'isinstance'.
 
793
        # changing the first isinstance:
 
794
        #  449       0   2814.2660   1577.1760   bzrlib.weave:556(_extract)
 
795
        #  +140414   0    762.8050    762.8050   +<isinstance>
 
796
        # note that the inline time actually dropped (less function calls)
 
797
        # and total processing time was halved.
 
798
        # we're still spending ~1/4 of the method in isinstance though.
 
799
        # so lets hard code the acceptable string classes we expect:
 
800
        #  449       0   1202.9420    786.2930   bzrlib.weave:556(_extract)
 
801
        # +71352     0    377.5560    377.5560   +<method 'append' of 'list' 
 
802
        #                                          objects>
 
803
        # yay, down to ~1/4 the initial extract time, and our inline time
 
804
        # has shrunk again, with isinstance no longer dominating.
 
805
        # tweaking the stack inclusion test to use a set gives:
 
806
        #  449       0   1122.8030    713.0080   bzrlib.weave:556(_extract)
 
807
        # +71352     0    354.9980    354.9980   +<method 'append' of 'list' 
 
808
        #                                          objects>
 
809
        # - a 5% win, or possibly just noise. However with large istacks that
 
810
        # 'in' test could dominate, so I'm leaving this change in place -
 
811
        # when its fast enough to consider profiling big datasets we can review.
 
812
 
 
813
              
 
814
             
 
815
 
514
816
        for l in self._weave:
515
 
            if isinstance(l, tuple):
 
817
            if l.__class__ == tuple:
516
818
                c, v = l
517
819
                isactive = None
518
820
                if c == '{':
519
 
                    assert v not in istack
 
821
                    assert v not in iset
520
822
                    istack.append(v)
 
823
                    iset.add(v)
521
824
                elif c == '}':
522
 
                    istack.pop()
 
825
                    iset.remove(istack.pop())
523
826
                elif c == '[':
524
827
                    if v in included:
525
828
                        assert v not in dset
530
833
                        assert v in dset
531
834
                        dset.remove(v)
532
835
            else:
533
 
                assert isinstance(l, basestring)
 
836
                assert l.__class__ in (str, unicode)
534
837
                if isactive is None:
535
838
                    isactive = (not dset) and istack and (istack[-1] in included)
536
839
                if isactive:
544
847
                                   % dset)
545
848
        return result
546
849
 
547
 
 
 
850
    @deprecated_method(zero_eight)
548
851
    def get_iter(self, name_or_index):
549
 
        """Yield lines for the specified version."""
550
 
        incls = [self.maybe_lookup(name_or_index)]
551
 
        for origin, lineno, line in self._extract(incls):
552
 
            yield line
553
 
 
554
 
 
555
 
    def get_text(self, name_or_index):
556
 
        return ''.join(self.get_iter(name_or_index))
557
 
        assert isinstance(version, int)
558
 
 
559
 
 
560
 
    def get_lines(self, name_or_index):
561
 
        return list(self.get_iter(name_or_index))
562
 
 
563
 
 
564
 
    get = get_lines
565
 
 
566
 
 
567
 
    def mash_iter(self, included):
568
 
        """Return composed version of multiple included versions."""
569
 
        included = map(self.maybe_lookup, included)
570
 
        for origin, lineno, text in self._extract(included):
571
 
            yield text
572
 
 
573
 
 
574
 
    def dump(self, to_file):
575
 
        from pprint import pprint
576
 
        print >>to_file, "Weave._weave = ",
577
 
        pprint(self._weave, to_file)
578
 
        print >>to_file, "Weave._parents = ",
579
 
        pprint(self._parents, to_file)
580
 
 
581
 
 
582
 
 
 
852
        """Deprecated, please do not use. Lookups are not not needed.
 
853
        
 
854
        Please use get_lines now.
 
855
        """
 
856
        return iter(self.get_lines(self._maybe_lookup(name_or_index)))
 
857
 
 
858
    @deprecated_method(zero_eight)
 
859
    def maybe_lookup(self, name_or_index):
 
860
        """Deprecated, please do not use. Lookups are not not needed."""
 
861
        return self._maybe_lookup(name_or_index)
 
862
 
 
863
    def _maybe_lookup(self, name_or_index):
 
864
        """Convert possible symbolic name to index, or pass through indexes.
 
865
        
 
866
        NOT FOR PUBLIC USE.
 
867
        """
 
868
        if isinstance(name_or_index, (int, long)):
 
869
            return name_or_index
 
870
        else:
 
871
            return self._lookup(name_or_index)
 
872
 
 
873
    @deprecated_method(zero_eight)
 
874
    def get(self, version_id):
 
875
        """Please use either Weave.get_text or Weave.get_lines as desired."""
 
876
        return self.get_lines(version_id)
 
877
 
 
878
    def get_lines(self, version_id):
 
879
        """See VersionedFile.get_lines()."""
 
880
        int_index = self._maybe_lookup(version_id)
 
881
        result = [line for (origin, lineno, line) in self._extract([int_index])]
 
882
        expected_sha1 = self._sha1s[int_index]
 
883
        measured_sha1 = sha_strings(result)
 
884
        if measured_sha1 != expected_sha1:
 
885
            raise errors.WeaveInvalidChecksum(
 
886
                    'file %s, revision %s, expected: %s, measured %s' 
 
887
                    % (self._weave_name, version_id,
 
888
                       expected_sha1, measured_sha1))
 
889
        return result
 
890
 
 
891
    def get_sha1(self, version_id):
 
892
        """See VersionedFile.get_sha1()."""
 
893
        return self._sha1s[self._lookup(version_id)]
 
894
 
 
895
    @deprecated_method(zero_eight)
583
896
    def numversions(self):
 
897
        """How many versions are in this weave?
 
898
 
 
899
        Deprecated in favour of num_versions.
 
900
        """
 
901
        return self.num_versions()
 
902
 
 
903
    def num_versions(self):
 
904
        """How many versions are in this weave?"""
584
905
        l = len(self._parents)
585
906
        assert l == len(self._sha1s)
586
907
        return l
587
908
 
588
 
 
589
 
    def __len__(self):
590
 
        return self.numversions()
591
 
 
 
909
    __len__ = num_versions
592
910
 
593
911
    def check(self, progress_bar=None):
594
 
        # check no circular inclusions
595
 
        for version in range(self.numversions()):
 
912
        # TODO evaluate performance hit of using string sets in this routine.
 
913
        # TODO: check no circular inclusions
 
914
        # TODO: create a nested progress bar
 
915
        for version in range(self.num_versions()):
596
916
            inclusions = list(self._parents[version])
597
917
            if inclusions:
598
918
                inclusions.sort()
600
920
                    raise WeaveFormatError("invalid included version %d for index %d"
601
921
                                           % (inclusions[-1], version))
602
922
 
603
 
        # try extracting all versions; this is a bit slow and parallel
604
 
        # extraction could be used
605
 
        nv = self.numversions()
606
 
        for version in range(nv):
 
923
        # try extracting all versions; parallel extraction is used
 
924
        nv = self.num_versions()
 
925
        sha1s = {}
 
926
        texts = {}
 
927
        inclusions = {}
 
928
        for i in range(nv):
 
929
            # For creating the ancestry, IntSet is much faster (3.7s vs 0.17s)
 
930
            # The problem is that set membership is much more expensive
 
931
            name = self._idx_to_name(i)
 
932
            sha1s[name] = sha.new()
 
933
            texts[name] = []
 
934
            new_inc = set([name])
 
935
            for p in self._parents[i]:
 
936
                new_inc.update(inclusions[self._idx_to_name(p)])
 
937
 
 
938
            assert set(new_inc) == set(self.get_ancestry(name)), \
 
939
                'failed %s != %s' % (set(new_inc), set(self.get_ancestry(name)))
 
940
            inclusions[name] = new_inc
 
941
 
 
942
        nlines = len(self._weave)
 
943
 
 
944
        update_text = 'checking weave'
 
945
        if self._weave_name:
 
946
            short_name = os.path.basename(self._weave_name)
 
947
            update_text = 'checking %s' % (short_name,)
 
948
            update_text = update_text[:25]
 
949
 
 
950
        for lineno, insert, deleteset, line in self._walk_internal():
607
951
            if progress_bar:
608
 
                progress_bar.update('checking text', version, nv)
609
 
            s = sha.new()
610
 
            for l in self.get_iter(version):
611
 
                s.update(l)
612
 
            hd = s.hexdigest()
613
 
            expected = self._sha1s[version]
 
952
                progress_bar.update(update_text, lineno, nlines)
 
953
 
 
954
            for name, name_inclusions in inclusions.items():
 
955
                # The active inclusion must be an ancestor,
 
956
                # and no ancestors must have deleted this line,
 
957
                # because we don't support resurrection.
 
958
                if (insert in name_inclusions) and not (deleteset & name_inclusions):
 
959
                    sha1s[name].update(line)
 
960
 
 
961
        for i in range(nv):
 
962
            version = self._idx_to_name(i)
 
963
            hd = sha1s[version].hexdigest()
 
964
            expected = self._sha1s[i]
614
965
            if hd != expected:
615
 
                raise WeaveError("mismatched sha1 for version %d; "
616
 
                                 "got %s, expected %s"
617
 
                                 % (version, hd, expected))
 
966
                raise errors.WeaveInvalidChecksum(
 
967
                        "mismatched sha1 for version %s: "
 
968
                        "got %s, expected %s"
 
969
                        % (version, hd, expected))
618
970
 
619
971
        # TODO: check insertions are properly nested, that there are
620
972
        # no lines outside of insertion blocks, that deletions are
621
973
        # properly paired, etc.
622
974
 
623
 
 
624
 
    def _delta(self, included, lines):
625
 
        """Return changes from basis to new revision.
626
 
 
627
 
        The old text for comparison is the union of included revisions.
628
 
 
629
 
        This is used in inserting a new text.
630
 
 
631
 
        Delta is returned as a sequence of
632
 
        (weave1, weave2, newlines).
633
 
 
634
 
        This indicates that weave1:weave2 of the old weave should be
635
 
        replaced by the sequence of lines in newlines.  Note that
636
 
        these line numbers are positions in the total weave and don't
637
 
        correspond to the lines in any extracted version, or even the
638
 
        extracted union of included versions.
639
 
 
640
 
        If line1=line2, this is a pure insert; if newlines=[] this is a
641
 
        pure delete.  (Similar to difflib.)
642
 
        """
643
 
        raise NotImplementedError()
644
 
 
645
 
            
646
 
    def plan_merge(self, ver_a, ver_b):
647
 
        """Return pseudo-annotation indicating how the two versions merge.
648
 
 
649
 
        This is computed between versions a and b and their common
650
 
        base.
651
 
 
652
 
        Weave lines present in none of them are skipped entirely.
653
 
        """
654
 
        inc_a = self.inclusions([ver_a])
655
 
        inc_b = self.inclusions([ver_b])
656
 
        inc_c = inc_a & inc_b
657
 
 
658
 
        for lineno, insert, deleteset, line in self._walk():
659
 
            if deleteset & inc_c:
660
 
                # killed in parent; can't be in either a or b
661
 
                # not relevant to our work
662
 
                yield 'killed-base', line
663
 
            elif insert in inc_c:
664
 
                # was inserted in base
665
 
                killed_a = bool(deleteset & inc_a)
666
 
                killed_b = bool(deleteset & inc_b)
667
 
                if killed_a and killed_b:
668
 
                    yield 'killed-both', line
669
 
                elif killed_a:
670
 
                    yield 'killed-a', line
671
 
                elif killed_b:
672
 
                    yield 'killed-b', line
673
 
                else:
674
 
                    yield 'unchanged', line
675
 
            elif insert in inc_a:
676
 
                if deleteset & inc_a:
677
 
                    yield 'ghost-a', line
678
 
                else:
679
 
                    # new in A; not in B
680
 
                    yield 'new-a', line
681
 
            elif insert in inc_b:
682
 
                if deleteset & inc_b:
683
 
                    yield 'ghost-b', line
684
 
                else:
685
 
                    yield 'new-b', line
686
 
            else:
687
 
                # not in either revision
688
 
                yield 'irrelevant', line
689
 
 
690
 
        yield 'unchanged', ''           # terminator
691
 
 
692
 
 
693
 
 
694
 
    def weave_merge(self, plan):
695
 
        lines_a = []
696
 
        lines_b = []
697
 
        ch_a = ch_b = False
698
 
 
699
 
        for state, line in plan:
700
 
            if state == 'unchanged' or state == 'killed-both':
701
 
                # resync and flush queued conflicts changes if any
702
 
                if not lines_a and not lines_b:
703
 
                    pass
704
 
                elif ch_a and not ch_b:
705
 
                    # one-sided change:                    
706
 
                    for l in lines_a: yield l
707
 
                elif ch_b and not ch_a:
708
 
                    for l in lines_b: yield l
709
 
                elif lines_a == lines_b:
710
 
                    for l in lines_a: yield l
711
 
                else:
712
 
                    yield '<<<<<<<\n'
713
 
                    for l in lines_a: yield l
714
 
                    yield '=======\n'
715
 
                    for l in lines_b: yield l
716
 
                    yield '>>>>>>>\n'
717
 
 
718
 
                del lines_a[:]
719
 
                del lines_b[:]
720
 
                ch_a = ch_b = False
721
 
                
722
 
            if state == 'unchanged':
723
 
                if line:
724
 
                    yield line
725
 
            elif state == 'killed-a':
726
 
                ch_a = True
727
 
                lines_b.append(line)
728
 
            elif state == 'killed-b':
729
 
                ch_b = True
730
 
                lines_a.append(line)
731
 
            elif state == 'new-a':
732
 
                ch_a = True
733
 
                lines_a.append(line)
734
 
            elif state == 'new-b':
735
 
                ch_b = True
736
 
                lines_b.append(line)
737
 
            else:
738
 
                assert state in ('irrelevant', 'ghost-a', 'ghost-b', 'killed-base',
739
 
                                 'killed-both'), \
740
 
                       state
741
 
 
742
 
                
743
 
    def join(self, other):
744
 
        """Integrate versions from other into this weave.
745
 
 
746
 
        The resulting weave contains all the history of both weaves; 
747
 
        any version you could retrieve from either self or other can be 
748
 
        retrieved from self after this call.
749
 
 
750
 
        It is illegal for the two weaves to contain different values 
751
 
        or different parents for any version.  See also reweave().
752
 
        """
753
 
        if other.numversions() == 0:
 
975
    def _join(self, other, pb, msg, version_ids, ignore_missing):
 
976
        """Worker routine for join()."""
 
977
        if not other.versions():
754
978
            return          # nothing to update, easy
 
979
 
 
980
        if not version_ids:
 
981
            # versions is never none, InterWeave checks this.
 
982
            return 0
 
983
 
755
984
        # two loops so that we do not change ourselves before verifying it
756
985
        # will be ok
757
986
        # work through in index order to make sure we get all dependencies
758
 
        for other_idx, name in enumerate(other._names):
759
 
            if self._check_version_consistent(other, other_idx, name):
760
 
                continue
761
 
        for other_idx, name in enumerate(other._names):
762
 
            # TODO: If all the parents of the other version are already 
 
987
        names_to_join = []
 
988
        processed = 0
 
989
        # get the selected versions only that are in other.versions.
 
990
        version_ids = set(other.versions()).intersection(set(version_ids))
 
991
        # pull in the referenced graph.
 
992
        version_ids = other.get_ancestry(version_ids)
 
993
        pending_graph = [(version, other.get_parents(version)) for
 
994
                         version in version_ids]
 
995
        for name in topo_sort(pending_graph):
 
996
            other_idx = other._name_map[name]
 
997
            # returns True if we have it, False if we need it.
 
998
            if not self._check_version_consistent(other, other_idx, name):
 
999
                names_to_join.append((other_idx, name))
 
1000
            processed += 1
 
1001
 
 
1002
 
 
1003
        if pb and not msg:
 
1004
            msg = 'weave join'
 
1005
 
 
1006
        merged = 0
 
1007
        time0 = time.time()
 
1008
        for other_idx, name in names_to_join:
 
1009
            # TODO: If all the parents of the other version are already
763
1010
            # present then we can avoid some work by just taking the delta
764
1011
            # and adjusting the offsets.
765
1012
            new_parents = self._imported_parents(other, other_idx)
 
1013
            sha1 = other._sha1s[other_idx]
 
1014
 
 
1015
            merged += 1
 
1016
 
 
1017
            if pb:
 
1018
                pb.update(msg, merged, len(names_to_join))
 
1019
           
766
1020
            lines = other.get_lines(other_idx)
767
 
            sha1 = other._sha1s[other_idx]
768
 
            self.add(name, new_parents, lines, sha1)
769
 
 
770
 
 
 
1021
            self._add(name, lines, new_parents, sha1)
 
1022
 
 
1023
        mutter("merged = %d, processed = %d, file_id=%s; deltat=%d"%(
 
1024
                merged, processed, self._weave_name, time.time()-time0))
 
1025
 
771
1026
    def _imported_parents(self, other, other_idx):
772
1027
        """Return list of parents in self corresponding to indexes in other."""
773
1028
        new_parents = []
774
1029
        for parent_idx in other._parents[other_idx]:
775
1030
            parent_name = other._names[parent_idx]
776
 
            if parent_name not in self._names:
 
1031
            if parent_name not in self._name_map:
777
1032
                # should not be possible
778
1033
                raise WeaveError("missing parent {%s} of {%s} in %r" 
779
1034
                                 % (parent_name, other._name_map[other_idx], self))
795
1050
        this_idx = self._name_map.get(name, -1)
796
1051
        if this_idx != -1:
797
1052
            if self._sha1s[this_idx] != other._sha1s[other_idx]:
798
 
                raise WeaveError("inconsistent texts for version {%s} "
799
 
                                 "when joining weaves"
800
 
                                 % (name))
 
1053
                raise errors.WeaveTextDiffers(name, self, other)
801
1054
            self_parents = self._parents[this_idx]
802
1055
            other_parents = other._parents[other_idx]
803
 
            n1 = [self._names[i] for i in self_parents]
804
 
            n2 = [other._names[i] for i in other_parents]
805
 
            n1.sort()
806
 
            n2.sort()
807
 
            if n1 != n2:
 
1056
            n1 = set([self._names[i] for i in self_parents])
 
1057
            n2 = set([other._names[i] for i in other_parents])
 
1058
            if not self._compatible_parents(n1, n2):
808
1059
                raise WeaveParentMismatch("inconsistent parents "
809
1060
                    "for version {%s}: %s vs %s" % (name, n1, n2))
810
1061
            else:
812
1063
        else:
813
1064
            return False
814
1065
 
815
 
    def reweave(self, other):
816
 
        """Reweave self with other."""
817
 
        new_weave = reweave(self, other)
 
1066
    @deprecated_method(zero_eight)
 
1067
    def reweave(self, other, pb=None, msg=None):
 
1068
        """reweave has been superceded by plain use of join."""
 
1069
        return self.join(other, pb, msg)
 
1070
 
 
1071
    def _reweave(self, other, pb, msg):
 
1072
        """Reweave self with other - internal helper for join().
 
1073
 
 
1074
        :param other: The other weave to merge
 
1075
        :param pb: An optional progress bar, indicating how far done we are
 
1076
        :param msg: An optional message for the progress
 
1077
        """
 
1078
        new_weave = _reweave(self, other, pb=pb, msg=msg)
 
1079
        self._copy_weave_content(new_weave)
 
1080
 
 
1081
    def _copy_weave_content(self, otherweave):
 
1082
        """adsorb the content from otherweave."""
818
1083
        for attr in self.__slots__:
819
 
            setattr(self, attr, getattr(new_weave, attr))
820
 
 
821
 
 
822
 
def reweave(wa, wb):
 
1084
            if attr != '_weave_name':
 
1085
                setattr(self, attr, copy(getattr(otherweave, attr)))
 
1086
 
 
1087
 
 
1088
class WeaveFile(Weave):
 
1089
    """A WeaveFile represents a Weave on disk and writes on change."""
 
1090
 
 
1091
    WEAVE_SUFFIX = '.weave'
 
1092
    
 
1093
    def __init__(self, name, transport, filemode=None, create=False, access_mode='w'):
 
1094
        """Create a WeaveFile.
 
1095
        
 
1096
        :param create: If not True, only open an existing knit.
 
1097
        """
 
1098
        super(WeaveFile, self).__init__(name, access_mode)
 
1099
        self._transport = transport
 
1100
        self._filemode = filemode
 
1101
        try:
 
1102
            _read_weave_v5(self._transport.get(name + WeaveFile.WEAVE_SUFFIX), self)
 
1103
        except errors.NoSuchFile:
 
1104
            if not create:
 
1105
                raise
 
1106
            # new file, save it
 
1107
            self._save()
 
1108
 
 
1109
    def _add_lines(self, version_id, parents, lines, parent_texts):
 
1110
        """Add a version and save the weave."""
 
1111
        result = super(WeaveFile, self)._add_lines(version_id, parents, lines,
 
1112
                                                   parent_texts)
 
1113
        self._save()
 
1114
        return result
 
1115
 
 
1116
    def _clone_text(self, new_version_id, old_version_id, parents):
 
1117
        """See VersionedFile.clone_text."""
 
1118
        super(WeaveFile, self)._clone_text(new_version_id, old_version_id, parents)
 
1119
        self._save
 
1120
 
 
1121
    def copy_to(self, name, transport):
 
1122
        """See VersionedFile.copy_to()."""
 
1123
        # as we are all in memory always, just serialise to the new place.
 
1124
        sio = StringIO()
 
1125
        write_weave_v5(self, sio)
 
1126
        sio.seek(0)
 
1127
        transport.put(name + WeaveFile.WEAVE_SUFFIX, sio, self._filemode)
 
1128
 
 
1129
    def create_empty(self, name, transport, filemode=None):
 
1130
        return WeaveFile(name, transport, filemode, create=True)
 
1131
 
 
1132
    def _save(self):
 
1133
        """Save the weave."""
 
1134
        self._check_write_ok()
 
1135
        sio = StringIO()
 
1136
        write_weave_v5(self, sio)
 
1137
        sio.seek(0)
 
1138
        self._transport.put(self._weave_name + WeaveFile.WEAVE_SUFFIX,
 
1139
                            sio,
 
1140
                            self._filemode)
 
1141
 
 
1142
    @staticmethod
 
1143
    def get_suffixes():
 
1144
        """See VersionedFile.get_suffixes()."""
 
1145
        return [WeaveFile.WEAVE_SUFFIX]
 
1146
 
 
1147
    def join(self, other, pb=None, msg=None, version_ids=None,
 
1148
             ignore_missing=False):
 
1149
        """Join other into self and save."""
 
1150
        super(WeaveFile, self).join(other, pb, msg, version_ids, ignore_missing)
 
1151
        self._save()
 
1152
 
 
1153
 
 
1154
@deprecated_function(zero_eight)
 
1155
def reweave(wa, wb, pb=None, msg=None):
 
1156
    """reweaving is deprecation, please just use weave.join()."""
 
1157
    _reweave(wa, wb, pb, msg)
 
1158
 
 
1159
def _reweave(wa, wb, pb=None, msg=None):
823
1160
    """Combine two weaves and return the result.
824
1161
 
825
1162
    This works even if a revision R has different parents in 
830
1167
    might be possible but it should only be necessary to do 
831
1168
    this operation rarely, when a new previously ghost version is 
832
1169
    inserted.
 
1170
 
 
1171
    :param pb: An optional progress bar, indicating how far done we are
 
1172
    :param msg: An optional message for the progress
833
1173
    """
834
1174
    wr = Weave()
835
1175
    ia = ib = 0
836
 
    queue_a = range(wa.numversions())
837
 
    queue_b = range(wb.numversions())
 
1176
    queue_a = range(wa.num_versions())
 
1177
    queue_b = range(wb.num_versions())
838
1178
    # first determine combined parents of all versions
839
1179
    # map from version name -> all parent names
840
1180
    combined_parents = _reweave_parent_graphs(wa, wb)
841
1181
    mutter("combined parents: %r", combined_parents)
842
1182
    order = topo_sort(combined_parents.iteritems())
843
1183
    mutter("order to reweave: %r", order)
844
 
    for name in order:
 
1184
 
 
1185
    if pb and not msg:
 
1186
        msg = 'reweave'
 
1187
 
 
1188
    for idx, name in enumerate(order):
 
1189
        if pb:
 
1190
            pb.update(msg, idx, len(order))
845
1191
        if name in wa._name_map:
846
1192
            lines = wa.get_lines(name)
847
1193
            if name in wb._name_map:
848
 
                assert lines == wb.get_lines(name)
 
1194
                lines_b = wb.get_lines(name)
 
1195
                if lines != lines_b:
 
1196
                    mutter('Weaves differ on content. rev_id {%s}', name)
 
1197
                    mutter('weaves: %s, %s', wa._weave_name, wb._weave_name)
 
1198
                    import difflib
 
1199
                    lines = list(difflib.unified_diff(lines, lines_b,
 
1200
                            wa._weave_name, wb._weave_name))
 
1201
                    mutter('lines:\n%s', ''.join(lines))
 
1202
                    raise errors.WeaveTextDiffers(name, wa, wb)
849
1203
        else:
850
1204
            lines = wb.get_lines(name)
851
 
        wr.add(name, combined_parents[name], lines)
 
1205
        wr._add(name, lines, [wr._lookup(i) for i in combined_parents[name]])
852
1206
    return wr
853
1207
 
854
 
 
855
1208
def _reweave_parent_graphs(wa, wb):
856
1209
    """Return combined parent ancestry for two weaves.
857
1210
    
860
1213
    for weave in [wa, wb]:
861
1214
        for idx, name in enumerate(weave._names):
862
1215
            p = combined.setdefault(name, set())
863
 
            p.update(map(weave.idx_to_name, weave._parents[idx]))
 
1216
            p.update(map(weave._idx_to_name, weave._parents[idx]))
864
1217
    return combined
865
1218
 
866
1219
 
870
1223
    for i in (6, 50, 10, 10):
871
1224
        print '-' * i,
872
1225
    print
873
 
    for i in range(w.numversions()):
 
1226
    for i in range(w.num_versions()):
874
1227
        sha1 = w._sha1s[i]
875
1228
        name = w._names[i]
876
1229
        parent_str = ' '.join(map(str, w._parents[i]))
882
1235
    from bzrlib.weavefile import read_weave
883
1236
 
884
1237
    wf = file(weave_file, 'rb')
885
 
    w = read_weave(wf)
 
1238
    w = read_weave(wf, WeaveVersionedFile)
886
1239
    # FIXME: doesn't work on pipes
887
1240
    weave_size = wf.tell()
888
1241
 
923
1276
        Add NEWTEXT, with specified parent versions.
924
1277
    weave annotate WEAVEFILE VERSION
925
1278
        Display origin of each line.
926
 
    weave mash WEAVEFILE VERSION...
927
 
        Display composite of all selected versions.
928
1279
    weave merge WEAVEFILE VERSION1 VERSION2 > OUT
929
1280
        Auto-merge two versions and display conflicts.
930
1281
    weave diff WEAVEFILE VERSION1 VERSION2 
1004
1355
        w = readit()
1005
1356
        sys.stdout.writelines(w.get_iter(int(argv[3])))
1006
1357
        
1007
 
    elif cmd == 'mash': # get composite
1008
 
        w = readit()
1009
 
        sys.stdout.writelines(w.mash_iter(map(int, argv[3:])))
1010
 
 
1011
1358
    elif cmd == 'diff':
1012
1359
        from difflib import unified_diff
1013
1360
        w = readit()
1044
1391
        pb = ProgressBar()
1045
1392
        w.check(pb)
1046
1393
        pb.clear()
1047
 
        print '%d versions ok' % w.numversions()
 
1394
        print '%d versions ok' % w.num_versions()
1048
1395
 
1049
1396
    elif cmd == 'inclusions':
1050
1397
        w = readit()
1055
1402
        print ' '.join(map(str, w._parents[int(argv[3])]))
1056
1403
 
1057
1404
    elif cmd == 'plan-merge':
 
1405
        # replaced by 'bzr weave-plan-merge'
1058
1406
        w = readit()
1059
1407
        for state, line in w.plan_merge(int(argv[3]), int(argv[4])):
1060
1408
            if line:
1061
1409
                print '%14s | %s' % (state, line),
1062
 
 
1063
1410
    elif cmd == 'merge':
 
1411
        # replaced by 'bzr weave-merge-text'
1064
1412
        w = readit()
1065
1413
        p = w.plan_merge(int(argv[3]), int(argv[4]))
1066
1414
        sys.stdout.writelines(w.weave_merge(p))
1067
 
            
1068
 
    elif cmd == 'mash-merge':
1069
 
        if len(argv) != 5:
1070
 
            usage()
1071
 
            return 1
1072
 
 
1073
 
        w = readit()
1074
 
        v1, v2 = map(int, argv[3:5])
1075
 
 
1076
 
        basis = w.inclusions([v1]).intersection(w.inclusions([v2]))
1077
 
 
1078
 
        base_lines = list(w.mash_iter(basis))
1079
 
        a_lines = list(w.get(v1))
1080
 
        b_lines = list(w.get(v2))
1081
 
 
1082
 
        from bzrlib.merge3 import Merge3
1083
 
        m3 = Merge3(base_lines, a_lines, b_lines)
1084
 
 
1085
 
        name_a = 'version %d' % v1
1086
 
        name_b = 'version %d' % v2
1087
 
        sys.stdout.writelines(m3.merge_lines(name_a=name_a, name_b=name_b))
1088
1415
    else:
1089
1416
        raise ValueError('unknown command %r' % cmd)
1090
1417
    
1091
1418
 
1092
1419
 
1093
 
def profile_main(argv): 
 
1420
def profile_main(argv):
1094
1421
    import tempfile, hotshot, hotshot.stats
1095
1422
 
1096
1423
    prof_f = tempfile.NamedTemporaryFile()
1110
1437
    return ret
1111
1438
 
1112
1439
 
 
1440
def lsprofile_main(argv): 
 
1441
    from bzrlib.lsprof import profile
 
1442
    ret,stats = profile(main, argv)
 
1443
    stats.sort()
 
1444
    stats.pprint()
 
1445
    return ret
 
1446
 
 
1447
 
1113
1448
if __name__ == '__main__':
1114
1449
    import sys
1115
1450
    if '--profile' in sys.argv:
1116
1451
        args = sys.argv[:]
1117
1452
        args.remove('--profile')
1118
1453
        sys.exit(profile_main(args))
 
1454
    elif '--lsprof' in sys.argv:
 
1455
        args = sys.argv[:]
 
1456
        args.remove('--lsprof')
 
1457
        sys.exit(lsprofile_main(args))
1119
1458
    else:
1120
1459
        sys.exit(main(sys.argv))
1121
1460
 
 
1461
 
 
1462
class InterWeave(InterVersionedFile):
 
1463
    """Optimised code paths for weave to weave operations."""
 
1464
    
 
1465
    _matching_file_from_factory = staticmethod(WeaveFile)
 
1466
    _matching_file_to_factory = staticmethod(WeaveFile)
 
1467
    
 
1468
    @staticmethod
 
1469
    def is_compatible(source, target):
 
1470
        """Be compatible with weaves."""
 
1471
        try:
 
1472
            return (isinstance(source, Weave) and
 
1473
                    isinstance(target, Weave))
 
1474
        except AttributeError:
 
1475
            return False
 
1476
 
 
1477
    def join(self, pb=None, msg=None, version_ids=None, ignore_missing=False):
 
1478
        """See InterVersionedFile.join."""
 
1479
        version_ids = self._get_source_version_ids(version_ids, ignore_missing)
 
1480
        if self.target.versions() == [] and version_ids is None:
 
1481
            self.target._copy_weave_content(self.source)
 
1482
            return
 
1483
        try:
 
1484
            self.target._join(self.source, pb, msg, version_ids, ignore_missing)
 
1485
        except errors.WeaveParentMismatch:
 
1486
            self.target._reweave(self.source, pb, msg)
 
1487
 
 
1488
 
 
1489
InterVersionedFile.register_optimiser(InterWeave)