~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/fetch.py

  • Committer: John Arbash Meinel
  • Date: 2005-09-15 21:35:53 UTC
  • mfrom: (907.1.57)
  • mto: (1393.2.1)
  • mto: This revision was merged to the branch mainline in revision 1396.
  • Revision ID: john@arbash-meinel.com-20050915213552-a6c83a5ef1e20897
(broken) Transport work is merged in. Tests do not pass yet.

Show diffs side-by-side

added added

removed removed

Lines of Context:
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
 
 
17
 
import os
18
 
from cStringIO import StringIO
19
 
 
20
16
import bzrlib.errors
21
 
from bzrlib.trace import mutter, note, warning
 
17
from bzrlib.trace import mutter, note
22
18
from bzrlib.branch import Branch
23
19
from bzrlib.progress import ProgressBar
24
 
from bzrlib.xml5 import serializer_v5
25
 
from bzrlib.osutils import sha_string, split_lines
26
 
from bzrlib.errors import InstallFailed, NoSuchRevision, WeaveError
27
 
 
28
 
"""Copying of history from one branch to another.
29
 
 
30
 
The basic plan is that every branch knows the history of everything
31
 
that has merged into it.  As the first step of a merge, pull, or
32
 
branch operation we copy history from the source into the destination
33
 
branch.
34
 
 
35
 
The copying is done in a slightly complicated order.  We don't want to
36
 
add a revision to the store until everything it refers to is also
37
 
stored, so that if a revision is present we can totally recreate it.
38
 
However, we can't know what files are included in a revision until we
39
 
read its inventory.  Therefore, we first pull the XML and hold it in
40
 
memory until we've updated all of the files referenced.
41
 
"""
42
 
 
43
 
# TODO: Avoid repeatedly opening weaves so many times.
44
 
 
45
 
# XXX: This doesn't handle ghost (not present in branch) revisions at
46
 
# all yet.  I'm not sure they really should be supported.
47
 
 
48
 
# NOTE: This doesn't copy revisions which may be present but not
49
 
# merged into the last revision.  I'm not sure we want to do that.
50
 
 
51
 
# - get a list of revisions that need to be pulled in
52
 
# - for each one, pull in that revision file
53
 
#   and get the inventory, and store the inventory with right
54
 
#   parents.
55
 
# - and get the ancestry, and store that with right parents too
56
 
# - and keep a note of all file ids and version seen
57
 
# - then go through all files; for each one get the weave,
58
 
#   and add in all file versions
59
 
 
 
20
import sys
 
21
import os
 
22
 
 
23
def has_revision(branch, revision_id):
 
24
    try:
 
25
        branch.get_revision_xml(revision_id)
 
26
        return True
 
27
    except bzrlib.errors.NoSuchRevision:
 
28
        return False
60
29
 
61
30
 
62
31
def greedy_fetch(to_branch, from_branch, revision=None, pb=None):
63
 
    f = Fetcher(to_branch, from_branch, revision, pb)
64
 
    return f.count_copied, f.failed_revisions
65
 
 
66
 
 
67
 
 
68
 
class Fetcher(object):
69
 
    """Pull revisions and texts from one branch to another.
70
 
 
71
 
    This doesn't update the destination's history; that can be done
72
 
    separately if desired.  
73
 
 
74
 
    revision_limit
75
 
        If set, pull only up to this revision_id.
76
 
 
77
 
    After running:
78
 
 
79
 
    last_revision -- if last_revision
80
 
        is given it will be that, otherwise the last revision of
81
 
        from_branch
82
 
 
83
 
    count_copied -- number of revisions copied
84
 
 
85
 
    count_weaves -- number of file weaves copied
 
32
    """Copy a revision and all available ancestors from one branch to another
 
33
    If no revision is specified, uses the last revision in the source branch's
 
34
    revision history.
86
35
    """
87
 
    def __init__(self, to_branch, from_branch, last_revision=None, pb=None):
88
 
        if to_branch == from_branch:
89
 
            raise Exception("can't fetch from a branch to itself")
90
 
        self.to_branch = to_branch
91
 
        self.to_weaves = to_branch.weave_store
92
 
        self.to_control = to_branch.control_weaves
93
 
        self.from_branch = from_branch
94
 
        self.from_weaves = from_branch.weave_store
95
 
        self.from_control = from_branch.control_weaves
96
 
        self.failed_revisions = []
97
 
        self.count_copied = 0
98
 
        self.count_total = 0
99
 
        self.count_weaves = 0
100
 
        self.copied_file_ids = set()
101
 
        if pb is None:
102
 
            self.pb = bzrlib.ui.ui_factory.progress_bar()
103
 
        else:
104
 
            self.pb = pb
105
 
        try:
106
 
            self.last_revision = self._find_last_revision(last_revision)
107
 
        except NoSuchRevision, e:
108
 
            mutter('failed getting last revision: %s', e)
109
 
            raise InstallFailed([last_revision])
110
 
        mutter('fetch up to rev {%s}', self.last_revision)
111
 
        try:
112
 
            revs_to_fetch = self._compare_ancestries()
113
 
        except WeaveError:
114
 
            raise InstallFailed([self.last_revision])
115
 
        self._copy_revisions(revs_to_fetch)
116
 
        self.new_ancestry = revs_to_fetch
117
 
 
118
 
 
119
 
    def _find_last_revision(self, last_revision):
120
 
        """Find the limiting source revision.
121
 
 
122
 
        Every ancestor of that revision will be merged across.
123
 
 
124
 
        Returns the revision_id, or returns None if there's no history
125
 
        in the source branch."""
126
 
        self.pb.update('get source history')
127
 
        from_history = self.from_branch.revision_history()
128
 
        self.pb.update('get destination history')
129
 
        if last_revision:
130
 
            self.from_branch.get_revision(last_revision)
131
 
            return last_revision
132
 
        elif from_history:
133
 
            return from_history[-1]
134
 
        else:
135
 
            return None                 # no history in the source branch
136
 
            
137
 
 
138
 
    def _compare_ancestries(self):
139
 
        """Get a list of revisions that must be copied.
140
 
 
141
 
        That is, every revision that's in the ancestry of the source
142
 
        branch and not in the destination branch."""
143
 
        self.pb.update('get source ancestry')
144
 
        self.from_ancestry = self.from_branch.get_ancestry(self.last_revision)
145
 
 
146
 
        dest_last_rev = self.to_branch.last_revision()
147
 
        self.pb.update('get destination ancestry')
148
 
        if dest_last_rev:
149
 
            dest_ancestry = self.to_branch.get_ancestry(dest_last_rev)
150
 
        else:
151
 
            dest_ancestry = []
152
 
        ss = set(dest_ancestry)
153
 
        to_fetch = []
154
 
        for rev_id in self.from_ancestry:
155
 
            if rev_id not in ss:
156
 
                to_fetch.append(rev_id)
157
 
                mutter('need to get revision {%s}', rev_id)
158
 
        mutter('need to get %d revisions in total', len(to_fetch))
159
 
        self.count_total = len(to_fetch)
160
 
        return to_fetch
161
 
 
162
 
    def _copy_revisions(self, revs_to_fetch):
163
 
        i = 0
164
 
        for rev_id in revs_to_fetch:
165
 
            i += 1
166
 
            if rev_id is None:
167
 
                continue
168
 
            if self.to_branch.has_revision(rev_id):
169
 
                continue
170
 
            self.pb.update('fetch revision', i, self.count_total)
171
 
            self._copy_one_revision(rev_id)
172
 
            self.count_copied += 1
173
 
 
174
 
 
175
 
    def _copy_one_revision(self, rev_id):
176
 
        """Copy revision and everything referenced by it."""
177
 
        mutter('copying revision {%s}', rev_id)
178
 
        rev_xml = self.from_branch.get_revision_xml(rev_id)
179
 
        inv_xml = self.from_branch.get_inventory_xml(rev_id)
180
 
        rev = serializer_v5.read_revision_from_string(rev_xml)
181
 
        inv = serializer_v5.read_inventory_from_string(inv_xml)
182
 
        assert rev.revision_id == rev_id
183
 
        assert rev.inventory_sha1 == sha_string(inv_xml)
184
 
        mutter('  commiter %s, %d parents',
185
 
               rev.committer,
186
 
               len(rev.parent_ids))
187
 
        self._copy_new_texts(rev_id, inv)
188
 
        parents = rev.parent_ids
189
 
        for parent in parents:
190
 
            if not self.to_branch.has_revision(parent):
191
 
                parents.pop(parents.index(parent))
192
 
        self._copy_inventory(rev_id, inv_xml, parents)
193
 
        self.to_branch.revision_store.add(StringIO(rev_xml), rev_id)
194
 
        mutter('copied revision %s', rev_id)
195
 
 
196
 
 
197
 
    def _copy_inventory(self, rev_id, inv_xml, parent_ids):
198
 
        self.to_control.add_text('inventory', rev_id,
199
 
                                split_lines(inv_xml), parent_ids)
200
 
 
201
 
    def _copy_new_texts(self, rev_id, inv):
202
 
        """Copy any new texts occuring in this revision."""
203
 
        # TODO: Rather than writing out weaves every time, hold them
204
 
        # in memory until everything's done?  But this way is nicer
205
 
        # if it's interrupted.
206
 
        for path, ie in inv.iter_entries():
207
 
            if ie.revision != rev_id:
208
 
                continue
209
 
            mutter('%s {%s} is changed in this revision',
210
 
                   path, ie.file_id)
211
 
            self._copy_one_weave(rev_id, ie.file_id)
212
 
 
213
 
 
214
 
    def _copy_one_weave(self, rev_id, file_id):
215
 
        """Copy one file weave."""
216
 
        mutter('copy file {%s} modified in {%s}', file_id, rev_id)
217
 
        if file_id in self.copied_file_ids:
218
 
            mutter('file {%s} already copied', file_id)
219
 
            return
220
 
        from_weave = self.from_weaves.get_weave(file_id)
221
 
        to_weave = self.to_weaves.get_weave_or_empty(file_id)
222
 
        to_weave.join(from_weave)
223
 
        self.to_weaves.put_weave(file_id, to_weave)
224
 
        self.count_weaves += 1
225
 
        self.copied_file_ids.add(file_id)
226
 
        mutter('copied file {%s}', file_id)
227
 
 
228
 
 
229
 
fetch = Fetcher
 
36
    from_history = from_branch.revision_history()
 
37
    required_revisions = set(from_history)
 
38
    all_failed = set()
 
39
    if revision is not None:
 
40
        required_revisions.add(revision)
 
41
        try:
 
42
            rev_index = from_history.index(revision)
 
43
        except ValueError:
 
44
            rev_index = None
 
45
        if rev_index is not None:
 
46
            from_history = from_history[:rev_index + 1]
 
47
        else:
 
48
            from_history = [revision]
 
49
    to_history = to_branch.revision_history()
 
50
    missing = []
 
51
    for rev_id in from_history:
 
52
        if not has_revision(to_branch, rev_id):
 
53
            missing.append(rev_id)
 
54
    
 
55
    count = 0
 
56
    while len(missing) > 0:
 
57
        installed, failed = to_branch.install_revisions(from_branch, 
 
58
                                                        revision_ids=missing,
 
59
                                                        pb=pb)
 
60
        count += installed
 
61
        required_failed = failed.intersection(required_revisions)
 
62
        if len(required_failed) > 0:
 
63
            raise bzrlib.errors.InstallFailed(required_failed)
 
64
        for rev_id in failed:
 
65
            note("Failed to install %s" % rev_id)
 
66
        all_failed.update(failed)
 
67
        new_missing = set() 
 
68
        for rev_id in missing:
 
69
            try:
 
70
                revision = from_branch.get_revision(rev_id)
 
71
            except bzrlib.errors.NoSuchRevision:
 
72
                if revision in from_history:
 
73
                    raise
 
74
                else:
 
75
                    continue
 
76
            for parent in [p.revision_id for p in revision.parents]:
 
77
                if not has_revision(to_branch, parent):
 
78
                    new_missing.add(parent)
 
79
        missing = new_missing
 
80
    return count, all_failed
 
81
 
 
82