← Back to branch summary

~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to tools/history2weaves.py

  • Committer: Martin Pool
  • Date: 2005-09-16 09:42:49 UTC
  • Revision ID: mbp@sourcefrog.net-20050916094249-290430d6cfdad3c7
- fix up imports of serializer_v4

Show diffs side-by-side

added added

removed removed

Lines of Context:
tools/history2weaves.py
1
 
# Copyright (C) 2005, 2006, 2008, 2009, 2010 Canonical Ltd
 
1
#! /usr/bin/python
 
2
#
 
3
# Copyright (C) 2005 Canonical Ltd
2
4
#
3
5
# This program is free software; you can redistribute it and/or modify
4
6
# it under the terms of the GNU General Public License as published by
12
14
#
13
15
# You should have received a copy of the GNU General Public License
14
16
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
"""bzr upgrade logic."""
18
 
 
19
 
 
20
 
from bzrlib.bzrdir import BzrDir, format_registry
21
 
import bzrlib.errors as errors
22
 
from bzrlib.remote import RemoteBzrDir
23
 
import bzrlib.ui as ui
 
17
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
18
 
 
19
"""Experiment in converting existing bzr branches to weaves."""
 
20
 
 
21
# To make this properly useful
 
22
#
 
23
# 1. assign text version ids, and put those text versions into
 
24
#    the inventory as they're converted.
 
25
#
 
26
# 2. keep track of the previous version of each file, rather than
 
27
#    just using the last one imported
 
28
#
 
29
# 3. assign entry versions when files are added, renamed or moved.
 
30
#
 
31
# 4. when merged-in versions are observed, walk down through them
 
32
#    to discover everything, then commit bottom-up
 
33
#
 
34
# 5. track ancestry as things are merged in, and commit that in each
 
35
#    revision
 
36
#
 
37
# Perhaps it's best to first walk the whole graph and make a plan for
 
38
# what should be imported in what order?  Need a kind of topological
 
39
# sort of all revisions.  (Or do we, can we just before doing a revision
 
40
# see that all its parents have either been converted or abandoned?)
 
41
 
 
42
if False:
 
43
    try:
 
44
        import psyco
 
45
        psyco.full()
 
46
    except ImportError:
 
47
        pass
 
48
 
 
49
 
 
50
import tempfile
 
51
import hotshot, hotshot.stats
 
52
import sys
 
53
import logging
 
54
import time
 
55
 
 
56
from bzrlib.branch import Branch, find_branch
 
57
from bzrlib.revfile import Revfile
 
58
from bzrlib.weave import Weave
 
59
from bzrlib.weavefile import read_weave, write_weave
 
60
from bzrlib.progress import ProgressBar
 
61
from bzrlib.atomicfile import AtomicFile
 
62
from bzrlib.xml4 import serializer_v4
 
63
from bzrlib.xml5 import serializer_v5
 
64
import bzrlib.trace
 
65
 
24
66
 
25
67
 
26
68
class Convert(object):
27
 
 
28
 
    def __init__(self, url, format=None):
29
 
        self.format = format
30
 
        self.bzrdir = BzrDir.open_unsupported(url)
31
 
        # XXX: Change to cleanup
32
 
        warning_id = 'cross_format_fetch'
33
 
        saved_warning = warning_id in ui.ui_factory.suppressed_warnings
34
 
        if isinstance(self.bzrdir, RemoteBzrDir):
35
 
            self.bzrdir._ensure_real()
36
 
            self.bzrdir = self.bzrdir._real_bzrdir
37
 
        if self.bzrdir.root_transport.is_readonly():
38
 
            raise errors.UpgradeReadonly
39
 
        self.transport = self.bzrdir.root_transport
40
 
        ui.ui_factory.suppressed_warnings.add(warning_id)
41
 
        try:
42
 
            self.convert()
43
 
        finally:
44
 
            if not saved_warning:
45
 
                ui.ui_factory.suppressed_warnings.remove(warning_id)
 
69
    def __init__(self):
 
70
        self.total_revs = 0
 
71
        self.converted_revs = 0
 
72
        self.text_count = 0
 
73
        self.convert()
 
74
 
 
75
 
46
76
 
47
77
    def convert(self):
48
 
        try:
49
 
            branch = self.bzrdir.open_branch()
50
 
            if branch.user_url != self.bzrdir.user_url:
51
 
                ui.ui_factory.note("This is a checkout. The branch (%s) needs to be "
52
 
                             "upgraded separately." %
53
 
                             branch.user_url)
54
 
            del branch
55
 
        except (errors.NotBranchError, errors.IncompatibleRepositories):
56
 
            # might not be a format we can open without upgrading; see e.g.
57
 
            # https://bugs.launchpad.net/bzr/+bug/253891
58
 
            pass
59
 
        if self.format is None:
60
 
            try:
61
 
                rich_root = self.bzrdir.find_repository()._format.rich_root_data
62
 
            except errors.NoRepositoryPresent:
63
 
                rich_root = False # assume no rich roots
64
 
            if rich_root:
65
 
                format_name = "default-rich-root"
 
78
        bzrlib.trace.enable_default_logging()
 
79
        self.pb = ProgressBar()
 
80
        self.inv_weave = Weave('__inventory')
 
81
        self.anc_weave = Weave('__ancestry')
 
82
 
 
83
        last_text_sha = {}
 
84
 
 
85
        # holds in-memory weaves for all files
 
86
        text_weaves = {}
 
87
 
 
88
        b = self.branch = Branch('.', relax_version_check=True)
 
89
 
 
90
        revno = 1
 
91
        rev_history = b.revision_history()
 
92
        last_idx = None
 
93
        inv_parents = []
 
94
 
 
95
        # todo is a stack holding the revisions we still need to process;
 
96
        # appending to it adds new highest-priority revisions
 
97
        todo = rev_history[:]
 
98
        todo.reverse()
 
99
        self.total_revs = len(todo)
 
100
 
 
101
        while todo:
 
102
            self._convert_one_rev(todo.pop())
 
103
 
 
104
        self.pb.clear()
 
105
        print 'upgraded to weaves:'
 
106
        print '  %6d revisions and inventories' % self.converted_revs
 
107
        print '  %6d texts' % self.text_count
 
108
 
 
109
        self._write_all_weaves()
 
110
 
 
111
 
 
112
    def _write_all_weaves(self):
 
113
        i = 0
 
114
        return ############################################
 
115
        # TODO: commit them all atomically at the end, not one by one
 
116
        write_atomic_weave(self.inv_weave, 'weaves/inventory.weave')
 
117
        write_atomic_weave(self.anc_weave, 'weaves/ancestry.weave')
 
118
        for file_id, file_weave in text_weaves.items():
 
119
            self.pb.update('writing weave', i, len(text_weaves))
 
120
            write_atomic_weave(file_weave, 'weaves/%s.weave' % file_id)
 
121
            i += 1
 
122
 
 
123
        self.pb.clear()
 
124
 
 
125
        
 
126
    def _convert_one_rev(self, rev_id):
 
127
        self._bump_progress()
 
128
        b = self.branch
 
129
        rev_xml = b.revision_store[rev_id].read()
 
130
        inv_xml = b.inventory_store[rev_id].read()
 
131
 
 
132
        rev = serializer_v4.read_revision_from_string(rev_xml)
 
133
        inv = serializer_v4.read_inventory_from_string(inv_xml)
 
134
        
 
135
        return ##########################################
 
136
 
 
137
        new_idx = self.inv_weave.add(rev_id, inv_parents, inv_xml)
 
138
        inv_parents = [new_idx]
 
139
 
 
140
        tree = b.revision_tree(rev_id)
 
141
        inv = tree.inventory
 
142
 
 
143
        # for each file in the inventory, put it into its own revfile
 
144
        for file_id in inv:
 
145
            ie = inv[file_id]
 
146
            if ie.kind != 'file':
 
147
                continue
 
148
            if last_text_sha.get(file_id) == ie.text_sha1:
 
149
                # same as last time
 
150
                continue
 
151
            last_text_sha[file_id] = ie.text_sha1
 
152
 
 
153
            # new text (though possibly already stored); need to store it
 
154
            text_lines = tree.get_file(file_id).readlines()
 
155
 
 
156
            # if the file's created for the first time in this
 
157
            # revision then make a new weave; else find the old one
 
158
            if file_id not in text_weaves:
 
159
                text_weaves[file_id] = Weave()
 
160
 
 
161
            w = text_weaves[file_id]
 
162
 
 
163
            # base the new text version off whatever was last
 
164
            # (actually it'd be better to track this, to allow for
 
165
            # files that are deleted and then reappear)
 
166
            last = len(w)
 
167
            if last == 0:
 
168
                parents = []
66
169
            else:
67
 
                format_name = "default"
68
 
            format = format_registry.make_bzrdir(format_name)
69
 
        else:
70
 
            format = self.format
71
 
        if not self.bzrdir.needs_format_conversion(format):
72
 
            raise errors.UpToDateFormat(self.bzrdir._format)
73
 
        if not self.bzrdir.can_convert_format():
74
 
            raise errors.BzrError("cannot upgrade from bzrdir format %s" %
75
 
                           self.bzrdir._format)
76
 
        self.bzrdir.check_conversion_target(format)
77
 
        ui.ui_factory.note('starting upgrade of %s' % self.transport.base)
78
 
 
79
 
        self.bzrdir.backup_bzrdir()
80
 
        while self.bzrdir.needs_format_conversion(format):
81
 
            converter = self.bzrdir._format.get_converter(format)
82
 
            self.bzrdir = converter.convert(self.bzrdir, None)
83
 
        ui.ui_factory.note("finished")
84
 
 
85
 
 
86
 
def upgrade(url, format=None):
87
 
    """Upgrade to format, or the default bzrdir format if not supplied."""
88
 
    Convert(url, format)
 
170
                parents = [last-1]
 
171
 
 
172
            w.add(rev_id, parents, text_lines)
 
173
            text_count += 1
 
174
 
 
175
        revno += 1
 
176
        
 
177
    def _bump_progress(self):
 
178
        self.converted_revs += 1
 
179
        self.pb.update('converting revisions',
 
180
                       self.converted_revs,
 
181
                       self.total_revs)
 
182
 
 
183
 
 
184
def write_atomic_weave(weave, filename):
 
185
    inv_wf = AtomicFile(filename)
 
186
    try:
 
187
        write_weave(weave, inv_wf)
 
188
        inv_wf.commit()
 
189
    finally:
 
190
        inv_wf.close()
 
191
 
 
192
    
 
193
 
 
194
 
 
195
def profile_convert(): 
 
196
    prof_f = tempfile.NamedTemporaryFile()
 
197
 
 
198
    prof = hotshot.Profile(prof_f.name)
 
199
 
 
200
    prof.runcall(Convert) 
 
201
    prof.close()
 
202
 
 
203
    stats = hotshot.stats.load(prof_f.name)
 
204
    ##stats.strip_dirs()
 
205
    stats.sort_stats('time')
 
206
    # XXX: Might like to write to stderr or the trace file instead but
 
207
    # print_stats seems hardcoded to stdout
 
208
    stats.print_stats(20)
 
209
            
 
210
 
 
211
if '-p' in sys.argv[1:]:
 
212
    profile_convert()
 
213
else:
 
214
    Convert()
 
215