← Back to branch summary

~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/remotebranch.py

  • Committer: Martin Pool
  • Date: 2005-04-15 01:31:21 UTC
  • Revision ID: mbp@sourcefrog.net-20050415013121-b18f1be12a735066
- Doc cleanups from Magnus Therning

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrlib/remotebranch.py
1
 
#! /usr/bin/env python
2
 
 
3
1
# Copyright (C) 2005 Canonical Ltd
4
2
 
5
3
# This program is free software; you can redistribute it and/or modify
17
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18
16
 
19
17
 
20
 
"""Proxy object for access to remote branches.
21
 
 
22
 
At the moment remote branches are only for HTTP and only for read
23
 
access.
24
 
"""
25
 
 
26
 
 
27
 
import gzip
 
18
## XXX: This is pretty slow on high-latency connections because it
 
19
## doesn't keep the HTTP connection alive.  If you have a smart local
 
20
## proxy it may be much better.  Eventually I want to switch to
 
21
## urlgrabber which should use HTTP much more efficiently.
 
22
 
 
23
 
 
24
import urllib2, gzip, zlib
 
25
from sets import Set
28
26
from cStringIO import StringIO
29
 
import urllib2
30
 
 
31
 
from errors import BzrError, BzrCheckError
32
 
from branch import Branch, BZR_BRANCH_FORMAT
33
 
from trace import mutter
 
27
 
 
28
from errors import BzrError
 
29
from revision import Revision
 
30
from inventory import Inventory
 
31
 
 
32
# h = HTTPConnection('localhost:8000')
 
33
# h = HTTPConnection('bazaar-ng.org')
34
34
 
35
35
# velocitynet.com.au transparently proxies connections and thereby
36
36
# breaks keep-alive -- sucks!
37
37
 
38
38
 
39
 
ENABLE_URLGRABBER = True
40
 
 
41
 
 
42
 
if ENABLE_URLGRABBER:
43
 
    import urlgrabber
44
 
    import urlgrabber.keepalive
45
 
    urlgrabber.keepalive.DEBUG = 0
46
 
    def get_url(path, compressed=False):
47
 
        try:
48
 
            url = path
49
 
            if compressed:
50
 
                url += '.gz'
51
 
            mutter("grab url %s" % url)
52
 
            url_f = urlgrabber.urlopen(url, keepalive=1, close_connection=0)
53
 
            if not compressed:
54
 
                return url_f
55
 
            else:
56
 
                return gzip.GzipFile(fileobj=StringIO(url_f.read()))
57
 
        except urllib2.URLError, e:
58
 
            raise BzrError("remote fetch failed: %r: %s" % (url, e))
59
 
else:
60
 
    def get_url(url, compressed=False):
61
 
        import urllib2
 
39
import urlgrabber.keepalive
 
40
urlgrabber.keepalive.DEBUG = 2
 
41
 
 
42
import urlgrabber
 
43
 
 
44
prefix = 'http://localhost:8000'
 
45
# prefix = 'http://bazaar-ng.org/bzr/main/'
 
46
 
 
47
def get_url(path, compressed=False):
 
48
    try:
 
49
        url = prefix + path
62
50
        if compressed:
63
51
            url += '.gz'
64
 
        mutter("get_url %s" % url)
65
 
        url_f = urllib2.urlopen(url)
66
 
        if compressed:
 
52
        url_f = urlgrabber.urlopen(url, keepalive=1, close_connection=0)
 
53
        if not compressed:
 
54
            return url_f
 
55
        else:
67
56
            return gzip.GzipFile(fileobj=StringIO(url_f.read()))
68
 
        else:
69
 
            return url_f
70
 
 
71
 
 
72
 
 
73
 
def _find_remote_root(url):
74
 
    """Return the prefix URL that corresponds to the branch root."""
75
 
    orig_url = url
76
 
    while True:
77
 
        try:
78
 
            ff = get_url(url + '/.bzr/branch-format')
79
 
 
80
 
            fmt = ff.read()
81
 
            ff.close()
82
 
 
83
 
            fmt = fmt.rstrip('\r\n')
84
 
            if fmt != BZR_BRANCH_FORMAT.rstrip('\r\n'):
85
 
                raise BzrError("sorry, branch format %r not supported at url %s"
86
 
                               % (fmt, url))
 
57
    except urllib2.URLError, e:
 
58
        raise BzrError("remote fetch failed: %r: %s" % (url, e))
 
59
 
 
60
 
 
61
got_invs = Set()
 
62
got_texts = Set()
 
63
 
 
64
print 'read history'
 
65
history = get_url('/.bzr/revision-history').readlines()
 
66
num_revs = len(history)
 
67
for i, rev_id in enumerate(history):
 
68
    rev_id = rev_id.rstrip()
 
69
    print 'read revision %d/%d' % (i, num_revs)
 
70
 
 
71
    # python gzip needs a seekable file (!!) but the HTTP response
 
72
    # isn't, so we need to buffer it
 
73
    
 
74
    rev_f = get_url('/.bzr/revision-store/%s' % rev_id,
 
75
                    compressed=True)
 
76
 
 
77
    rev = Revision.read_xml(rev_f)
 
78
    print rev.message
 
79
    inv_id = rev.inventory_id
 
80
    if inv_id not in got_invs:
 
81
        print 'get inventory %s' % inv_id
 
82
        inv_f = get_url('/.bzr/inventory-store/%s' % inv_id,
 
83
                        compressed=True)
 
84
        inv = Inventory.read_xml(inv_f)
 
85
        print '%4d inventory entries' % len(inv)
 
86
 
 
87
        for path, ie in inv.iter_entries():
 
88
            text_id = ie.text_id
 
89
            if text_id == None:
 
90
                continue
 
91
            if text_id in got_texts:
 
92
                continue
 
93
            print '  fetch %s text {%s}' % (path, text_id)
 
94
            text_f = get_url('/.bzr/text-store/%s' % text_id,
 
95
                             compressed=True)
 
96
            got_texts.add(text_id)
87
97
            
88
 
            return url
89
 
        except urllib2.URLError:
90
 
            pass
91
 
 
92
 
        try:
93
 
            idx = url.rindex('/')
94
 
        except ValueError:
95
 
            raise BzrError('no branch root found for URL %s' % orig_url)
96
 
 
97
 
        url = url[:idx]        
98
 
        
99
 
 
100
 
 
101
 
class RemoteBranch(Branch):
102
 
    def __init__(self, baseurl, find_root=True):
103
 
        """Create new proxy for a remote branch."""
104
 
        if find_root:
105
 
            self.baseurl = _find_remote_root(baseurl)
106
 
        else:
107
 
            self.baseurl = baseurl
108
 
            self._check_format()
109
 
 
110
 
        self.inventory_store = RemoteStore(baseurl + '/.bzr/inventory-store/')
111
 
        self.text_store = RemoteStore(baseurl + '/.bzr/text-store/')
112
 
 
113
 
    def __str__(self):
114
 
        b = getattr(self, 'baseurl', 'undefined')
115
 
        return '%s(%r)' % (self.__class__.__name__, b)
116
 
 
117
 
    __repr__ = __str__
118
 
 
119
 
    def controlfile(self, filename, mode):
120
 
        if mode not in ('rb', 'rt', 'r'):
121
 
            raise BzrError("file mode %r not supported for remote branches" % mode)
122
 
        return get_url(self.baseurl + '/.bzr/' + filename, False)
123
 
 
124
 
 
125
 
    def lock(self, mode):
126
 
        if mode != 'r':
127
 
            raise BzrError('lock mode %r not supported for remote branch %r' % (mode, self))
128
 
 
129
 
    def unlock(self):
130
 
        pass
131
 
    
132
 
 
133
 
    def relpath(self, path):
134
 
        if not path.startswith(self.baseurl):
135
 
            raise BzrError('path %r is not under base URL %r'
136
 
                           % (path, self.baseurl))
137
 
        pl = len(self.baseurl)
138
 
        return path[pl:].lstrip('/')
139
 
 
140
 
    def get_revision(self, revision_id):
141
 
        from revision import Revision
142
 
        revf = get_url(self.baseurl + '/.bzr/revision-store/' + revision_id,
143
 
                       True)
144
 
        r = Revision.read_xml(revf)
145
 
        if r.revision_id != revision_id:
146
 
            raise BzrCheckError('revision stored as {%s} actually contains {%s}'
147
 
                                % (revision_id, r.revision_id))
148
 
        return r
149
 
 
150
 
 
151
 
class RemoteStore(object):
152
 
    def __init__(self, baseurl):
153
 
        self._baseurl = baseurl
154
 
        
155
 
 
156
 
    def _path(self, name):
157
 
        if '/' in name:
158
 
            raise ValueError('invalid store id', name)
159
 
        return self._baseurl + '/' + name
160
 
        
161
 
    def __getitem__(self, fileid):
162
 
        p = self._path(fileid)
163
 
        return get_url(p, compressed=True)
164
 
    
165
 
 
166
 
def simple_walk():
167
 
    """For experimental purposes, traverse many parts of a remote branch"""
168
 
    from revision import Revision
169
 
    from branch import Branch
170
 
    from inventory import Inventory
171
 
 
172
 
    got_invs = {}
173
 
    got_texts = {}
174
 
 
175
 
    print 'read history'
176
 
    history = get_url('/.bzr/revision-history').readlines()
177
 
    num_revs = len(history)
178
 
    for i, rev_id in enumerate(history):
179
 
        rev_id = rev_id.rstrip()
180
 
        print 'read revision %d/%d' % (i, num_revs)
181
 
 
182
 
        # python gzip needs a seekable file (!!) but the HTTP response
183
 
        # isn't, so we need to buffer it
184
 
 
185
 
        rev_f = get_url('/.bzr/revision-store/%s' % rev_id,
186
 
                        compressed=True)
187
 
 
188
 
        rev = Revision.read_xml(rev_f)
189
 
        print rev.message
190
 
        inv_id = rev.inventory_id
191
 
        if inv_id not in got_invs:
192
 
            print 'get inventory %s' % inv_id
193
 
            inv_f = get_url('/.bzr/inventory-store/%s' % inv_id,
194
 
                            compressed=True)
195
 
            inv = Inventory.read_xml(inv_f)
196
 
            print '%4d inventory entries' % len(inv)
197
 
 
198
 
            for path, ie in inv.iter_entries():
199
 
                text_id = ie.text_id
200
 
                if text_id == None:
201
 
                    continue
202
 
                if text_id in got_texts:
203
 
                    continue
204
 
                print '  fetch %s text {%s}' % (path, text_id)
205
 
                text_f = get_url('/.bzr/text-store/%s' % text_id,
206
 
                                 compressed=True)
207
 
                got_texts[text_id] = True
208
 
 
209
 
            got_invs.add[inv_id] = True
210
 
 
211
 
        print '----'
212
 
 
213
 
 
214
 
def try_me():
215
 
    BASE_URL = 'http://bazaar-ng.org/bzr/bzr.dev/'
216
 
    b = RemoteBranch(BASE_URL)
217
 
    ## print '\n'.join(b.revision_history())
218
 
    from log import show_log
219
 
    show_log(b)
220
 
 
221
 
 
222
 
if __name__ == '__main__':
223
 
    try_me()
224
 
    
 
98
        got_invs.add(inv_id)
 
99
 
 
100
    print '----'