~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/fetch.py

  • Committer: Vincent Ladeuil
  • Date: 2008-08-26 08:25:27 UTC
  • mto: (3668.1.1 trunk) (3703.1.1 trunk)
  • mto: This revision was merged to the branch mainline in revision 3669.
  • Revision ID: v.ladeuil+lp@free.fr-20080826082527-109yyxzc0u24oeel
Fix all calls to tempfile.mkdtemp to osutils.mkdtemp.

* bzrlib/transform.py:
(TransformPreview.__init__): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

* bzrlib/tests/test_whitebox.py:
(MoreTests.test_relpath): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

* bzrlib/tests/test_setup.py:
(TestSetup.test_build_and_install): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

* bzrlib/tests/test_bundle.py:
(BundleTester.get_checkout): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

* bzrlib/tests/blackbox/test_outside_wt.py:
(TestOutsideWT.test_cwd_log,
TestOutsideWT.test_diff_outside_tree): Use osutils.mkdtemp instead
of tempfile.mkdtemp.

* bzrlib/smart/repository.py:
(SmartServerRepositoryTarball._copy_to_tempdir): Use
osutils.mkdtemp instead of tempfile.mkdtemp.
(SmartServerRepositoryTarball._tarfile_response): Line too long.

* bzrlib/remote.py:
(RemoteRepository._copy_repository_tarball): Use osutils.mkdtemp
instead of tempfile.mkdtemp.

* bzrlib/osutils.py:
(_mac_mkdtemp): Add docstring.

* bzrlib/mail_client.py:
(ExternalMailClient.compose): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

* bzrlib/diff.py:
(DiffFromTool.__init__): Use osutils.mkdtemp instead of
tempfile.mkdtemp.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006 by Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005, 2006, 2008 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
27
27
stored, so that if a revision is present we can totally recreate it.
28
28
However, we can't know what files are included in a revision until we
29
29
read its inventory.  So we query the inventory store of the source for
30
 
the ids we need, and then pull those ids and finally actually join
31
 
the inventories.
 
30
the ids we need, and then pull those ids and then return to the inventories.
32
31
"""
33
32
 
 
33
import operator
 
34
 
34
35
import bzrlib
35
36
import bzrlib.errors as errors
36
 
from bzrlib.errors import (InstallFailed,
37
 
                           )
38
 
from bzrlib.trace import mutter
 
37
from bzrlib.errors import InstallFailed
39
38
from bzrlib.progress import ProgressPhase
40
 
from bzrlib.revision import NULL_REVISION
 
39
from bzrlib.revision import is_null, NULL_REVISION
41
40
from bzrlib.symbol_versioning import (deprecated_function,
42
41
        deprecated_method,
43
 
        zero_eight,
44
42
        )
45
 
 
 
43
from bzrlib.tsort import topo_sort
 
44
from bzrlib.trace import mutter
 
45
import bzrlib.ui
 
46
from bzrlib.versionedfile import filter_absent, FulltextContentFactory
46
47
 
47
48
# TODO: Avoid repeatedly opening weaves so many times.
48
49
 
62
63
#   and add in all file versions
63
64
 
64
65
 
65
 
@deprecated_function(zero_eight)
66
 
def greedy_fetch(to_branch, from_branch, revision=None, pb=None):
67
 
    """Legacy API, please see branch.fetch(from_branch, last_revision, pb)."""
68
 
    f = Fetcher(to_branch, from_branch, revision, pb)
69
 
    return f.count_copied, f.failed_revisions
70
 
 
71
 
fetch = greedy_fetch
72
 
 
73
 
 
74
66
class RepoFetcher(object):
75
67
    """Pull revisions and texts from one repository to another.
76
68
 
80
72
    after running:
81
73
    count_copied -- number of revisions copied
82
74
 
83
 
    This should not be used directory, its essential a object to encapsulate
 
75
    This should not be used directly, it's essential a object to encapsulate
84
76
    the logic in InterRepository.fetch().
85
77
    """
86
 
    def __init__(self, to_repository, from_repository, last_revision=None, pb=None):
 
78
 
 
79
    def __init__(self, to_repository, from_repository, last_revision=None, pb=None,
 
80
        find_ghosts=True):
 
81
        """Create a repo fetcher.
 
82
 
 
83
        :param find_ghosts: If True search the entire history for ghosts.
 
84
        """
87
85
        # result variables.
88
86
        self.failed_revisions = []
89
87
        self.count_copied = 0
90
 
        if to_repository.control_files._transport.base == from_repository.control_files._transport.base:
91
 
            # check that last_revision is in 'from' and then return a no-operation.
92
 
            if last_revision not in (None, NULL_REVISION):
93
 
                from_repository.get_revision(last_revision)
94
 
            return
 
88
        if to_repository.has_same_location(from_repository):
 
89
            # repository.fetch should be taking care of this case.
 
90
            raise errors.BzrError('RepoFetcher run '
 
91
                    'between two objects at the same location: '
 
92
                    '%r and %r' % (to_repository, from_repository))
95
93
        self.to_repository = to_repository
96
94
        self.from_repository = from_repository
97
95
        # must not mutate self._last_revision as its potentially a shared instance
98
96
        self._last_revision = last_revision
 
97
        self.find_ghosts = find_ghosts
99
98
        if pb is None:
100
99
            self.pb = bzrlib.ui.ui_factory.nested_progress_bar()
101
100
            self.nested_pb = self.pb
106
105
        try:
107
106
            self.to_repository.lock_write()
108
107
            try:
109
 
                self.__fetch()
 
108
                self.to_repository.start_write_group()
 
109
                try:
 
110
                    self.__fetch()
 
111
                except:
 
112
                    self.to_repository.abort_write_group()
 
113
                    raise
 
114
                else:
 
115
                    self.to_repository.commit_write_group()
110
116
            finally:
111
 
                if self.nested_pb is not None:
112
 
                    self.nested_pb.finished()
113
 
                self.to_repository.unlock()
 
117
                try:
 
118
                    if self.nested_pb is not None:
 
119
                        self.nested_pb.finished()
 
120
                finally:
 
121
                    self.to_repository.unlock()
114
122
        finally:
115
123
            self.from_repository.unlock()
116
124
 
120
128
        This initialises all the needed variables, and then fetches the 
121
129
        requested revisions, finally clearing the progress bar.
122
130
        """
123
 
        self.to_weaves = self.to_repository.weave_store
124
 
        self.to_control = self.to_repository.control_weaves
125
 
        self.from_weaves = self.from_repository.weave_store
126
 
        self.from_control = self.from_repository.control_weaves
127
131
        self.count_total = 0
128
132
        self.file_ids_names = {}
129
 
        pp = ProgressPhase('Fetch phase', 4, self.pb)
 
133
        pp = ProgressPhase('Transferring', 4, self.pb)
130
134
        try:
131
135
            pp.next_phase()
132
 
            revs = self._revids_to_fetch()
133
 
            # something to do ?
134
 
            if revs:
135
 
                pp.next_phase()
136
 
                self._fetch_weave_texts(revs)
137
 
                pp.next_phase()
138
 
                self._fetch_inventory_weave(revs)
139
 
                pp.next_phase()
140
 
                self._fetch_revision_texts(revs)
141
 
                self.count_copied += len(revs)
 
136
            search = self._revids_to_fetch()
 
137
            if search is None:
 
138
                return
 
139
            if getattr(self, '_fetch_everything_for_search', None) is not None:
 
140
                self._fetch_everything_for_search(search, pp)
 
141
            else:
 
142
                # backward compatibility
 
143
                self._fetch_everything_for_revisions(search.get_keys, pp)
142
144
        finally:
143
145
            self.pb.clear()
144
146
 
 
147
    def _fetch_everything_for_search(self, search, pp):
 
148
        """Fetch all data for the given set of revisions."""
 
149
        # The first phase is "file".  We pass the progress bar for it directly
 
150
        # into item_keys_introduced_by, which has more information about how
 
151
        # that phase is progressing than we do.  Progress updates for the other
 
152
        # phases are taken care of in this function.
 
153
        # XXX: there should be a clear owner of the progress reporting.  Perhaps
 
154
        # item_keys_introduced_by should have a richer API than it does at the
 
155
        # moment, so that it can feed the progress information back to this
 
156
        # function?
 
157
        phase = 'file'
 
158
        pb = bzrlib.ui.ui_factory.nested_progress_bar()
 
159
        try:
 
160
            revs = search.get_keys()
 
161
            graph = self.from_repository.get_graph()
 
162
            revs = list(graph.iter_topo_order(revs))
 
163
            data_to_fetch = self.from_repository.item_keys_introduced_by(revs,
 
164
                                                                         pb)
 
165
            text_keys = []
 
166
            for knit_kind, file_id, revisions in data_to_fetch:
 
167
                if knit_kind != phase:
 
168
                    phase = knit_kind
 
169
                    # Make a new progress bar for this phase
 
170
                    pb.finished()
 
171
                    pp.next_phase()
 
172
                    pb = bzrlib.ui.ui_factory.nested_progress_bar()
 
173
                if knit_kind == "file":
 
174
                    # Accumulate file texts
 
175
                    text_keys.extend([(file_id, revision) for revision in
 
176
                        revisions])
 
177
                elif knit_kind == "inventory":
 
178
                    # Now copy the file texts.
 
179
                    to_texts = self.to_repository.texts
 
180
                    from_texts = self.from_repository.texts
 
181
                    to_texts.insert_record_stream(from_texts.get_record_stream(
 
182
                        text_keys, self.to_repository._fetch_order,
 
183
                        self.to_repository._fetch_uses_deltas))
 
184
                    # Cause an error if a text occurs after we have done the
 
185
                    # copy.
 
186
                    text_keys = None
 
187
                    # Before we process the inventory we generate the root
 
188
                    # texts (if necessary) so that the inventories references
 
189
                    # will be valid.
 
190
                    self._generate_root_texts(revs)
 
191
                    # NB: This currently reopens the inventory weave in source;
 
192
                    # using a single stream interface instead would avoid this.
 
193
                    self._fetch_inventory_weave(revs, pb)
 
194
                elif knit_kind == "signatures":
 
195
                    # Nothing to do here; this will be taken care of when
 
196
                    # _fetch_revision_texts happens.
 
197
                    pass
 
198
                elif knit_kind == "revisions":
 
199
                    self._fetch_revision_texts(revs, pb)
 
200
                else:
 
201
                    raise AssertionError("Unknown knit kind %r" % knit_kind)
 
202
            if self.to_repository._fetch_reconcile:
 
203
                self.to_repository.reconcile()
 
204
        finally:
 
205
            if pb is not None:
 
206
                pb.finished()
 
207
        self.count_copied += len(revs)
 
208
        
145
209
    def _revids_to_fetch(self):
 
210
        """Determines the exact revisions needed from self.from_repository to
 
211
        install self._last_revision in self.to_repository.
 
212
 
 
213
        If no revisions need to be fetched, then this just returns None.
 
214
        """
146
215
        mutter('fetch up to rev {%s}', self._last_revision)
147
216
        if self._last_revision is NULL_REVISION:
148
217
            # explicit limit of no revisions needed
149
218
            return None
150
 
        if (self._last_revision != None and
 
219
        if (self._last_revision is not None and
151
220
            self.to_repository.has_revision(self._last_revision)):
152
221
            return None
153
 
            
154
222
        try:
155
 
            return self.to_repository.missing_revision_ids(self.from_repository,
156
 
                                                           self._last_revision)
157
 
        except errors.NoSuchRevision:
 
223
            return self.to_repository.search_missing_revision_ids(
 
224
                self.from_repository, self._last_revision,
 
225
                find_ghosts=self.find_ghosts)
 
226
        except errors.NoSuchRevision, e:
158
227
            raise InstallFailed([self._last_revision])
159
228
 
160
 
    def _fetch_weave_texts(self, revs):
161
 
        texts_pb = bzrlib.ui.ui_factory.nested_progress_bar()
 
229
    def _fetch_inventory_weave(self, revs, pb):
 
230
        pb.update("fetch inventory", 0, 2)
 
231
        to_weave = self.to_repository.inventories
 
232
        child_pb = bzrlib.ui.ui_factory.nested_progress_bar()
162
233
        try:
163
 
            file_ids = self.from_repository.fileids_altered_by_revision_ids(revs)
164
 
            count = 0
165
 
            num_file_ids = len(file_ids)
166
 
            for file_id, required_versions in file_ids.items():
167
 
                texts_pb.update("fetch texts", count, num_file_ids)
168
 
                count +=1
169
 
                to_weave = self.to_weaves.get_weave_or_empty(file_id,
170
 
                    self.to_repository.get_transaction())
171
 
                from_weave = self.from_weaves.get_weave(file_id,
172
 
                    self.from_repository.get_transaction())
173
 
                # we fetch all the texts, because texts do
174
 
                # not reference anything, and its cheap enough
175
 
                to_weave.join(from_weave, version_ids=required_versions) 
176
 
                # we don't need *all* of this data anymore, but we dont know
177
 
                # what we do. This cache clearing will result in a new read 
178
 
                # of the knit data when we do the checkout, but probably we
179
 
                # want to emit the needed data on the fly rather than at the
180
 
                # end anyhow.
181
 
                # the from weave should know not to cache data being joined,
182
 
                # but its ok to ask it to clear.
183
 
                from_weave.clear_cache()
184
 
                to_weave.clear_cache()
 
234
            # just merge, this is optimisable and its means we don't
 
235
            # copy unreferenced data such as not-needed inventories.
 
236
            pb.update("fetch inventory", 1, 3)
 
237
            from_weave = self.from_repository.inventories
 
238
            pb.update("fetch inventory", 2, 3)
 
239
            # we fetch only the referenced inventories because we do not
 
240
            # know for unselected inventories whether all their required
 
241
            # texts are present in the other repository - it could be
 
242
            # corrupt.
 
243
            to_weave.insert_record_stream(from_weave.get_record_stream(
 
244
                [(rev_id,) for rev_id in revs],
 
245
                self.to_repository._fetch_order,
 
246
                self.to_repository._fetch_uses_deltas))
185
247
        finally:
186
 
            texts_pb.finished()
187
 
 
188
 
    def _fetch_inventory_weave(self, revs):
189
 
        pb = bzrlib.ui.ui_factory.nested_progress_bar()
190
 
        try:
191
 
            pb.update("fetch inventory", 0, 2)
192
 
            to_weave = self.to_control.get_weave('inventory',
193
 
                    self.to_repository.get_transaction())
 
248
            child_pb.finished()
 
249
 
 
250
    def _fetch_revision_texts(self, revs, pb):
 
251
        # may need to be a InterRevisionStore call here.
 
252
        to_sf = self.to_repository.signatures
 
253
        from_sf = self.from_repository.signatures
 
254
        # A missing signature is just skipped.
 
255
        to_sf.insert_record_stream(filter_absent(from_sf.get_record_stream(
 
256
            [(rev_id,) for rev_id in revs],
 
257
            self.to_repository._fetch_order,
 
258
            self.to_repository._fetch_uses_deltas)))
 
259
        self._fetch_just_revision_texts(revs)
 
260
 
 
261
    def _fetch_just_revision_texts(self, version_ids):
 
262
        to_rf = self.to_repository.revisions
 
263
        from_rf = self.from_repository.revisions
 
264
        to_rf.insert_record_stream(from_rf.get_record_stream(
 
265
            [(rev_id,) for rev_id in version_ids],
 
266
            self.to_repository._fetch_order,
 
267
            self.to_repository._fetch_uses_deltas))
 
268
 
 
269
    def _generate_root_texts(self, revs):
 
270
        """This will be called by __fetch between fetching weave texts and
 
271
        fetching the inventory weave.
 
272
 
 
273
        Subclasses should override this if they need to generate root texts
 
274
        after fetching weave texts.
 
275
        """
 
276
        pass
 
277
 
 
278
 
 
279
class Inter1and2Helper(object):
 
280
    """Helper for operations that convert data from model 1 and 2
194
281
    
195
 
            child_pb = bzrlib.ui.ui_factory.nested_progress_bar()
196
 
            try:
197
 
                # just merge, this is optimisable and its means we don't
198
 
                # copy unreferenced data such as not-needed inventories.
199
 
                pb.update("fetch inventory", 1, 3)
200
 
                from_weave = self.from_repository.get_inventory_weave()
201
 
                pb.update("fetch inventory", 2, 3)
202
 
                # we fetch only the referenced inventories because we do not
203
 
                # know for unselected inventories whether all their required
204
 
                # texts are present in the other repository - it could be
205
 
                # corrupt.
206
 
                to_weave.join(from_weave, pb=child_pb, msg='merge inventory',
207
 
                              version_ids=revs)
208
 
            finally:
209
 
                child_pb.finished()
210
 
        finally:
211
 
            pb.finished()
212
 
 
213
 
 
214
 
class GenericRepoFetcher(RepoFetcher):
215
 
    """This is a generic repo to repo fetcher.
216
 
 
217
 
    This makes minimal assumptions about repo layout and contents.
218
 
    It triggers a reconciliation after fetching to ensure integrity.
219
 
    """
220
 
 
221
 
    def _fetch_revision_texts(self, revs):
 
282
    This is for use by fetchers and converters.
 
283
    """
 
284
 
 
285
    def __init__(self, source, target):
 
286
        """Constructor.
 
287
 
 
288
        :param source: The repository data comes from
 
289
        :param target: The repository data goes to
 
290
        """
 
291
        self.source = source
 
292
        self.target = target
 
293
 
 
294
    def iter_rev_trees(self, revs):
 
295
        """Iterate through RevisionTrees efficiently.
 
296
 
 
297
        Additionally, the inventory's revision_id is set if unset.
 
298
 
 
299
        Trees are retrieved in batches of 100, and then yielded in the order
 
300
        they were requested.
 
301
 
 
302
        :param revs: A list of revision ids
 
303
        """
 
304
        # In case that revs is not a list.
 
305
        revs = list(revs)
 
306
        while revs:
 
307
            for tree in self.source.revision_trees(revs[:100]):
 
308
                if tree.inventory.revision_id is None:
 
309
                    tree.inventory.revision_id = tree.get_revision_id()
 
310
                yield tree
 
311
            revs = revs[100:]
 
312
 
 
313
    def _find_root_ids(self, revs, parent_map, graph):
 
314
        revision_root = {}
 
315
        planned_versions = {}
 
316
        for tree in self.iter_rev_trees(revs):
 
317
            revision_id = tree.inventory.root.revision
 
318
            root_id = tree.get_root_id()
 
319
            planned_versions.setdefault(root_id, []).append(revision_id)
 
320
            revision_root[revision_id] = root_id
 
321
        # Find out which parents we don't already know root ids for
 
322
        parents = set()
 
323
        for revision_parents in parent_map.itervalues():
 
324
            parents.update(revision_parents)
 
325
        parents.difference_update(revision_root.keys() + [NULL_REVISION])
 
326
        # Limit to revisions present in the versionedfile
 
327
        parents = graph.get_parent_map(parents).keys()
 
328
        for tree in self.iter_rev_trees(parents):
 
329
            root_id = tree.get_root_id()
 
330
            revision_root[tree.get_revision_id()] = root_id
 
331
        return revision_root, planned_versions
 
332
 
 
333
    def generate_root_texts(self, revs):
 
334
        """Generate VersionedFiles for all root ids.
 
335
 
 
336
        :param revs: the revisions to include
 
337
        """
 
338
        to_texts = self.target.texts
 
339
        graph = self.source.get_graph()
 
340
        parent_map = graph.get_parent_map(revs)
 
341
        rev_order = topo_sort(parent_map)
 
342
        rev_id_to_root_id, root_id_to_rev_ids = self._find_root_ids(
 
343
            revs, parent_map, graph)
 
344
        root_id_order = [(rev_id_to_root_id[rev_id], rev_id) for rev_id in
 
345
            rev_order]
 
346
        # Guaranteed stable, this groups all the file id operations together
 
347
        # retaining topological order within the revisions of a file id.
 
348
        # File id splits and joins would invalidate this, but they don't exist
 
349
        # yet, and are unlikely to in non-rich-root environments anyway.
 
350
        root_id_order.sort(key=operator.itemgetter(0))
 
351
        # Create a record stream containing the roots to create.
 
352
        def yield_roots():
 
353
            for key in root_id_order:
 
354
                root_id, rev_id = key
 
355
                rev_parents = parent_map[rev_id]
 
356
                # We drop revision parents with different file-ids, because
 
357
                # that represents a rename of the root to a different location
 
358
                # - its not actually a parent for us. (We could look for that
 
359
                # file id in the revision tree at considerably more expense,
 
360
                # but for now this is sufficient (and reconcile will catch and
 
361
                # correct this anyway).
 
362
                # When a parent revision is a ghost, we guess that its root id
 
363
                # was unchanged (rather than trimming it from the parent list).
 
364
                parent_keys = tuple((root_id, parent) for parent in rev_parents
 
365
                    if parent != NULL_REVISION and
 
366
                        rev_id_to_root_id.get(parent, root_id) == root_id)
 
367
                yield FulltextContentFactory(key, parent_keys, None, '')
 
368
        to_texts.insert_record_stream(yield_roots())
 
369
 
 
370
    def regenerate_inventory(self, revs):
 
371
        """Generate a new inventory versionedfile in target, convertin data.
 
372
        
 
373
        The inventory is retrieved from the source, (deserializing it), and
 
374
        stored in the target (reserializing it in a different format).
 
375
        :param revs: The revisions to include
 
376
        """
 
377
        for tree in self.iter_rev_trees(revs):
 
378
            parents = tree.get_parent_ids()
 
379
            self.target.add_inventory(tree.get_revision_id(), tree.inventory,
 
380
                                      parents)
 
381
 
 
382
    def fetch_revisions(self, revision_ids):
 
383
        for revision in self.source.get_revisions(revision_ids):
 
384
            self.target.add_revision(revision.revision_id, revision)
 
385
 
 
386
 
 
387
class Model1toKnit2Fetcher(RepoFetcher):
 
388
    """Fetch from a Model1 repository into a Knit2 repository
 
389
    """
 
390
    def __init__(self, to_repository, from_repository, last_revision=None,
 
391
                 pb=None, find_ghosts=True):
 
392
        self.helper = Inter1and2Helper(from_repository, to_repository)
 
393
        RepoFetcher.__init__(self, to_repository, from_repository,
 
394
            last_revision, pb, find_ghosts)
 
395
 
 
396
    def _generate_root_texts(self, revs):
 
397
        self.helper.generate_root_texts(revs)
 
398
 
 
399
    def _fetch_inventory_weave(self, revs, pb):
 
400
        self.helper.regenerate_inventory(revs)
 
401
 
 
402
    def _fetch_revision_texts(self, revs, pb):
222
403
        """Fetch revision object texts"""
223
 
        rev_pb = bzrlib.ui.ui_factory.nested_progress_bar()
224
 
        try:
225
 
            to_txn = self.to_transaction = self.to_repository.get_transaction()
226
 
            count = 0
227
 
            total = len(revs)
228
 
            to_store = self.to_repository._revision_store
229
 
            for rev in revs:
230
 
                pb = bzrlib.ui.ui_factory.nested_progress_bar()
231
 
                try:
232
 
                    pb.update('copying revisions', count, total)
233
 
                    try:
234
 
                        sig_text = self.from_repository.get_signature_text(rev)
235
 
                        to_store.add_revision_signature_text(rev, sig_text, to_txn)
236
 
                    except errors.NoSuchRevision:
237
 
                        # not signed.
238
 
                        pass
239
 
                    to_store.add_revision(self.from_repository.get_revision(rev),
240
 
                                          to_txn)
241
 
                    count += 1
242
 
                finally:
243
 
                    pb.finished()
244
 
            # fixup inventory if needed: 
245
 
            # this is expensive because we have no inverse index to current ghosts.
246
 
            # but on local disk its a few seconds and sftp push is already insane.
247
 
            # so we just-do-it.
248
 
            # FIXME: repository should inform if this is needed.
249
 
            self.to_repository.reconcile()
250
 
        finally:
251
 
            rev_pb.finished()
252
 
    
253
 
 
254
 
class KnitRepoFetcher(RepoFetcher):
255
 
    """This is a knit format repository specific fetcher.
256
 
 
257
 
    This differs from the GenericRepoFetcher by not doing a 
258
 
    reconciliation after copying, and using knit joining to
259
 
    copy revision texts.
260
 
    """
261
 
 
262
 
    def _fetch_revision_texts(self, revs):
263
 
        # may need to be a InterRevisionStore call here.
264
 
        from_transaction = self.from_repository.get_transaction()
265
 
        to_transaction = self.to_repository.get_transaction()
266
 
        to_sf = self.to_repository._revision_store.get_signature_file(
267
 
            to_transaction)
268
 
        from_sf = self.from_repository._revision_store.get_signature_file(
269
 
            from_transaction)
270
 
        to_sf.join(from_sf, version_ids=revs, ignore_missing=True)
271
 
        to_rf = self.to_repository._revision_store.get_revision_file(
272
 
            to_transaction)
273
 
        from_rf = self.from_repository._revision_store.get_revision_file(
274
 
            from_transaction)
275
 
        to_rf.join(from_rf, version_ids=revs)
276
 
 
277
 
 
278
 
class Fetcher(object):
279
 
    """Backwards compatibility glue for branch.fetch()."""
280
 
 
281
 
    @deprecated_method(zero_eight)
282
 
    def __init__(self, to_branch, from_branch, last_revision=None, pb=None):
283
 
        """Please see branch.fetch()."""
284
 
        to_branch.fetch(from_branch, last_revision, pb)
 
404
        count = 0
 
405
        total = len(revs)
 
406
        for rev in revs:
 
407
            pb.update('copying revisions', count, total)
 
408
            try:
 
409
                sig_text = self.from_repository.get_signature_text(rev)
 
410
                self.to_repository.add_signature_text(rev, sig_text)
 
411
            except errors.NoSuchRevision:
 
412
                # not signed.
 
413
                pass
 
414
            self._copy_revision(rev)
 
415
            count += 1
 
416
 
 
417
    def _copy_revision(self, rev):
 
418
        self.helper.fetch_revisions([rev])
 
419
 
 
420
 
 
421
class Knit1to2Fetcher(RepoFetcher):
 
422
    """Fetch from a Knit1 repository into a Knit2 repository"""
 
423
 
 
424
    def __init__(self, to_repository, from_repository, last_revision=None,
 
425
                 pb=None, find_ghosts=True):
 
426
        self.helper = Inter1and2Helper(from_repository, to_repository)
 
427
        RepoFetcher.__init__(self, to_repository, from_repository,
 
428
            last_revision, pb, find_ghosts)
 
429
 
 
430
    def _generate_root_texts(self, revs):
 
431
        self.helper.generate_root_texts(revs)
 
432
 
 
433
    def _fetch_inventory_weave(self, revs, pb):
 
434
        self.helper.regenerate_inventory(revs)
 
435
 
 
436
    def _fetch_just_revision_texts(self, version_ids):
 
437
        self.helper.fetch_revisions(version_ids)