~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/http_utils.py

  • Committer: Martin Pool
  • Date: 2005-08-24 01:24:53 UTC
  • Revision ID: mbp@sourcefrog.net-20050824012453-886c9dce6e53811d
- add global definition to quieten pychecker

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
2
 
#
3
 
# This program is free software; you can redistribute it and/or modify
4
 
# it under the terms of the GNU General Public License as published by
5
 
# the Free Software Foundation; either version 2 of the License, or
6
 
# (at your option) any later version.
7
 
#
8
 
# This program is distributed in the hope that it will be useful,
9
 
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
 
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
 
# GNU General Public License for more details.
12
 
#
13
 
# You should have received a copy of the GNU General Public License
14
 
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
from cStringIO import StringIO
18
 
import errno
19
 
import re
20
 
import socket
21
 
import threading
22
 
import time
23
 
import urllib2
24
 
import urlparse
25
 
 
26
 
 
27
 
from bzrlib import (
28
 
    errors,
29
 
    osutils,
30
 
    tests,
31
 
    )
32
 
from bzrlib.smart import medium, protocol
33
 
from bzrlib.tests import http_server
34
 
from bzrlib.transport import (
35
 
    chroot,
36
 
    get_transport,
37
 
    )
38
 
 
39
 
 
40
 
class HTTPServerWithSmarts(http_server.HttpServer):
41
 
    """HTTPServerWithSmarts extends the HttpServer with POST methods that will
42
 
    trigger a smart server to execute with a transport rooted at the rootdir of
43
 
    the HTTP server.
44
 
    """
45
 
 
46
 
    def __init__(self, protocol_version=None):
47
 
        http_server.HttpServer.__init__(self, SmartRequestHandler,
48
 
                                        protocol_version=protocol_version)
49
 
 
50
 
 
51
 
class SmartRequestHandler(http_server.TestingHTTPRequestHandler):
52
 
    """Extend TestingHTTPRequestHandler to support smart client POSTs.
53
 
 
54
 
    XXX: This duplicates a fair bit of the logic in bzrlib.transport.http.wsgi.
55
 
    """
56
 
 
57
 
    def do_POST(self):
58
 
        """Hand the request off to a smart server instance."""
59
 
        backing = get_transport(self.server.test_case_server._home_dir)
60
 
        chroot_server = chroot.ChrootServer(backing)
61
 
        chroot_server.start_server()
62
 
        try:
63
 
            t = get_transport(chroot_server.get_url())
64
 
            self.do_POST_inner(t)
65
 
        finally:
66
 
            chroot_server.stop_server()
67
 
 
68
 
    def do_POST_inner(self, chrooted_transport):
69
 
        self.send_response(200)
70
 
        self.send_header("Content-type", "application/octet-stream")
71
 
        if not self.path.endswith('.bzr/smart'):
72
 
            raise AssertionError(
73
 
                'POST to path not ending in .bzr/smart: %r' % (self.path,))
74
 
        t = chrooted_transport.clone(self.path[:-len('.bzr/smart')])
75
 
        # if this fails, we should return 400 bad request, but failure is
76
 
        # failure for now - RBC 20060919
77
 
        data_length = int(self.headers['Content-Length'])
78
 
        # TODO: We might like to support streaming responses.  1.0 allows no
79
 
        # Content-length in this case, so for integrity we should perform our
80
 
        # own chunking within the stream.
81
 
        # 1.1 allows chunked responses, and in this case we could chunk using
82
 
        # the HTTP chunking as this will allow HTTP persistence safely, even if
83
 
        # we have to stop early due to error, but we would also have to use the
84
 
        # HTTP trailer facility which may not be widely available.
85
 
        request_bytes = self.rfile.read(data_length)
86
 
        protocol_factory, unused_bytes = medium._get_protocol_factory_for_bytes(
87
 
            request_bytes)
88
 
        out_buffer = StringIO()
89
 
        smart_protocol_request = protocol_factory(t, out_buffer.write, '/')
90
 
        # Perhaps there should be a SmartServerHTTPMedium that takes care of
91
 
        # feeding the bytes in the http request to the smart_protocol_request,
92
 
        # but for now it's simpler to just feed the bytes directly.
93
 
        smart_protocol_request.accept_bytes(unused_bytes)
94
 
        if not (smart_protocol_request.next_read_size() == 0):
95
 
            raise errors.SmartProtocolError(
96
 
                "not finished reading, but all data sent to protocol.")
97
 
        self.send_header("Content-Length", str(len(out_buffer.getvalue())))
98
 
        self.end_headers()
99
 
        self.wfile.write(out_buffer.getvalue())
100
 
 
101
 
 
102
 
class TestCaseWithWebserver(tests.TestCaseWithTransport):
103
 
    """A support class that provides readonly urls that are http://.
104
 
 
105
 
    This is done by forcing the readonly server to be an http
106
 
    one. This will currently fail if the primary transport is not
107
 
    backed by regular disk files.
108
 
    """
109
 
 
110
 
    # This can be overriden or parametrized by daughter clasess if needed, but
111
 
    # it must exist so that the create_transport_readonly_server() method can
112
 
    # propagate it.
113
 
    _protocol_version = None
114
 
 
115
 
    def setUp(self):
116
 
        super(TestCaseWithWebserver, self).setUp()
117
 
        self.transport_readonly_server = http_server.HttpServer
118
 
 
119
 
    def create_transport_readonly_server(self):
120
 
        return self.transport_readonly_server(
121
 
            protocol_version=self._protocol_version)
122
 
 
123
 
 
124
 
class TestCaseWithTwoWebservers(TestCaseWithWebserver):
125
 
    """A support class providing readonly urls on two servers that are http://.
126
 
 
127
 
    We set up two webservers to allows various tests involving
128
 
    proxies or redirections from one server to the other.
129
 
    """
130
 
    def setUp(self):
131
 
        super(TestCaseWithTwoWebservers, self).setUp()
132
 
        self.transport_secondary_server = http_server.HttpServer
133
 
        self.__secondary_server = None
134
 
 
135
 
    def create_transport_secondary_server(self):
136
 
        """Create a transport server from class defined at init.
137
 
 
138
 
        This is mostly a hook for daughter classes.
139
 
        """
140
 
        return self.transport_secondary_server(
141
 
            protocol_version=self._protocol_version)
142
 
 
143
 
    def get_secondary_server(self):
144
 
        """Get the server instance for the secondary transport."""
145
 
        if self.__secondary_server is None:
146
 
            self.__secondary_server = self.create_transport_secondary_server()
147
 
            self.start_server(self.__secondary_server)
148
 
        return self.__secondary_server
149
 
 
150
 
 
151
 
class ProxyServer(http_server.HttpServer):
152
 
    """A proxy test server for http transports."""
153
 
 
154
 
    proxy_requests = True
155
 
 
156
 
 
157
 
class RedirectRequestHandler(http_server.TestingHTTPRequestHandler):
158
 
    """Redirect all request to the specified server"""
159
 
 
160
 
    def parse_request(self):
161
 
        """Redirect a single HTTP request to another host"""
162
 
        valid = http_server.TestingHTTPRequestHandler.parse_request(self)
163
 
        if valid:
164
 
            tcs = self.server.test_case_server
165
 
            code, target = tcs.is_redirected(self.path)
166
 
            if code is not None and target is not None:
167
 
                # Redirect as instructed
168
 
                self.send_response(code)
169
 
                self.send_header('Location', target)
170
 
                # We do not send a body
171
 
                self.send_header('Content-Length', '0')
172
 
                self.end_headers()
173
 
                return False # The job is done
174
 
            else:
175
 
                # We leave the parent class serve the request
176
 
                pass
177
 
        return valid
178
 
 
179
 
 
180
 
class HTTPServerRedirecting(http_server.HttpServer):
181
 
    """An HttpServer redirecting to another server """
182
 
 
183
 
    def __init__(self, request_handler=RedirectRequestHandler,
184
 
                 protocol_version=None):
185
 
        http_server.HttpServer.__init__(self, request_handler,
186
 
                                        protocol_version=protocol_version)
187
 
        # redirections is a list of tuples (source, target, code)
188
 
        # - source is a regexp for the paths requested
189
 
        # - target is a replacement for re.sub describing where
190
 
        #   the request will be redirected
191
 
        # - code is the http error code associated to the
192
 
        #   redirection (301 permanent, 302 temporarry, etc
193
 
        self.redirections = []
194
 
 
195
 
    def redirect_to(self, host, port):
196
 
        """Redirect all requests to a specific host:port"""
197
 
        self.redirections = [('(.*)',
198
 
                              r'http://%s:%s\1' % (host, port) ,
199
 
                              301)]
200
 
 
201
 
    def is_redirected(self, path):
202
 
        """Is the path redirected by this server.
203
 
 
204
 
        :param path: the requested relative path
205
 
 
206
 
        :returns: a tuple (code, target) if a matching
207
 
             redirection is found, (None, None) otherwise.
208
 
        """
209
 
        code = None
210
 
        target = None
211
 
        for (rsource, rtarget, rcode) in self.redirections:
212
 
            target, match = re.subn(rsource, rtarget, path)
213
 
            if match:
214
 
                code = rcode
215
 
                break # The first match wins
216
 
            else:
217
 
                target = None
218
 
        return code, target
219
 
 
220
 
 
221
 
class TestCaseWithRedirectedWebserver(TestCaseWithTwoWebservers):
222
 
   """A support class providing redirections from one server to another.
223
 
 
224
 
   We set up two webservers to allows various tests involving
225
 
   redirections.
226
 
   The 'old' server is redirected to the 'new' server.
227
 
   """
228
 
 
229
 
   def create_transport_secondary_server(self):
230
 
       """Create the secondary server redirecting to the primary server"""
231
 
       new = self.get_readonly_server()
232
 
       redirecting = HTTPServerRedirecting(
233
 
           protocol_version=self._protocol_version)
234
 
       redirecting.redirect_to(new.host, new.port)
235
 
       return redirecting
236
 
 
237
 
   def setUp(self):
238
 
       super(TestCaseWithRedirectedWebserver, self).setUp()
239
 
       # The redirections will point to the new server
240
 
       self.new_server = self.get_readonly_server()
241
 
       # The requests to the old server will be redirected
242
 
       self.old_server = self.get_secondary_server()
243
 
 
244
 
 
245
 
class AuthRequestHandler(http_server.TestingHTTPRequestHandler):
246
 
    """Requires an authentication to process requests.
247
 
 
248
 
    This is intended to be used with a server that always and
249
 
    only use one authentication scheme (implemented by daughter
250
 
    classes).
251
 
    """
252
 
 
253
 
    # The following attributes should be defined in the server
254
 
    # - auth_header_sent: the header name sent to require auth
255
 
    # - auth_header_recv: the header received containing auth
256
 
    # - auth_error_code: the error code to indicate auth required
257
 
 
258
 
    def do_GET(self):
259
 
        if self.authorized():
260
 
            return http_server.TestingHTTPRequestHandler.do_GET(self)
261
 
        else:
262
 
            # Note that we must update test_case_server *before*
263
 
            # sending the error or the client may try to read it
264
 
            # before we have sent the whole error back.
265
 
            tcs = self.server.test_case_server
266
 
            tcs.auth_required_errors += 1
267
 
            self.send_response(tcs.auth_error_code)
268
 
            self.send_header_auth_reqed()
269
 
            # We do not send a body
270
 
            self.send_header('Content-Length', '0')
271
 
            self.end_headers()
272
 
            return
273
 
 
274
 
 
275
 
class BasicAuthRequestHandler(AuthRequestHandler):
276
 
    """Implements the basic authentication of a request"""
277
 
 
278
 
    def authorized(self):
279
 
        tcs = self.server.test_case_server
280
 
        if tcs.auth_scheme != 'basic':
281
 
            return False
282
 
 
283
 
        auth_header = self.headers.get(tcs.auth_header_recv, None)
284
 
        if auth_header:
285
 
            scheme, raw_auth = auth_header.split(' ', 1)
286
 
            if scheme.lower() == tcs.auth_scheme:
287
 
                user, password = raw_auth.decode('base64').split(':')
288
 
                return tcs.authorized(user, password)
289
 
 
290
 
        return False
291
 
 
292
 
    def send_header_auth_reqed(self):
293
 
        tcs = self.server.test_case_server
294
 
        self.send_header(tcs.auth_header_sent,
295
 
                         'Basic realm="%s"' % tcs.auth_realm)
296
 
 
297
 
 
298
 
# FIXME: We could send an Authentication-Info header too when
299
 
# the authentication is succesful
300
 
 
301
 
class DigestAuthRequestHandler(AuthRequestHandler):
302
 
    """Implements the digest authentication of a request.
303
 
 
304
 
    We need persistence for some attributes and that can't be
305
 
    achieved here since we get instantiated for each request. We
306
 
    rely on the DigestAuthServer to take care of them.
307
 
    """
308
 
 
309
 
    def authorized(self):
310
 
        tcs = self.server.test_case_server
311
 
 
312
 
        auth_header = self.headers.get(tcs.auth_header_recv, None)
313
 
        if auth_header is None:
314
 
            return False
315
 
        scheme, auth = auth_header.split(None, 1)
316
 
        if scheme.lower() == tcs.auth_scheme:
317
 
            auth_dict = urllib2.parse_keqv_list(urllib2.parse_http_list(auth))
318
 
 
319
 
            return tcs.digest_authorized(auth_dict, self.command)
320
 
 
321
 
        return False
322
 
 
323
 
    def send_header_auth_reqed(self):
324
 
        tcs = self.server.test_case_server
325
 
        header = 'Digest realm="%s", ' % tcs.auth_realm
326
 
        header += 'nonce="%s", algorithm="%s", qop="auth"' % (tcs.auth_nonce,
327
 
                                                              'MD5')
328
 
        self.send_header(tcs.auth_header_sent,header)
329
 
 
330
 
 
331
 
class DigestAndBasicAuthRequestHandler(DigestAuthRequestHandler):
332
 
    """Implements a digest and basic authentication of a request.
333
 
 
334
 
    I.e. the server proposes both schemes and the client should choose the best
335
 
    one it can handle, which, in that case, should be digest, the only scheme
336
 
    accepted here.
337
 
    """
338
 
 
339
 
    def send_header_auth_reqed(self):
340
 
        tcs = self.server.test_case_server
341
 
        self.send_header(tcs.auth_header_sent,
342
 
                         'Basic realm="%s"' % tcs.auth_realm)
343
 
        header = 'Digest realm="%s", ' % tcs.auth_realm
344
 
        header += 'nonce="%s", algorithm="%s", qop="auth"' % (tcs.auth_nonce,
345
 
                                                              'MD5')
346
 
        self.send_header(tcs.auth_header_sent,header)
347
 
 
348
 
 
349
 
class AuthServer(http_server.HttpServer):
350
 
    """Extends HttpServer with a dictionary of passwords.
351
 
 
352
 
    This is used as a base class for various schemes which should
353
 
    all use or redefined the associated AuthRequestHandler.
354
 
 
355
 
    Note that no users are defined by default, so add_user should
356
 
    be called before issuing the first request.
357
 
    """
358
 
 
359
 
    # The following attributes should be set dy daughter classes
360
 
    # and are used by AuthRequestHandler.
361
 
    auth_header_sent = None
362
 
    auth_header_recv = None
363
 
    auth_error_code = None
364
 
    auth_realm = "Thou should not pass"
365
 
 
366
 
    def __init__(self, request_handler, auth_scheme,
367
 
                 protocol_version=None):
368
 
        http_server.HttpServer.__init__(self, request_handler,
369
 
                                        protocol_version=protocol_version)
370
 
        self.auth_scheme = auth_scheme
371
 
        self.password_of = {}
372
 
        self.auth_required_errors = 0
373
 
 
374
 
    def add_user(self, user, password):
375
 
        """Declare a user with an associated password.
376
 
 
377
 
        password can be empty, use an empty string ('') in that
378
 
        case, not None.
379
 
        """
380
 
        self.password_of[user] = password
381
 
 
382
 
    def authorized(self, user, password):
383
 
        """Check that the given user provided the right password"""
384
 
        expected_password = self.password_of.get(user, None)
385
 
        return expected_password is not None and password == expected_password
386
 
 
387
 
 
388
 
# FIXME: There is some code duplication with
389
 
# _urllib2_wrappers.py.DigestAuthHandler. If that duplication
390
 
# grows, it may require a refactoring. Also, we don't implement
391
 
# SHA algorithm nor MD5-sess here, but that does not seem worth
392
 
# it.
393
 
class DigestAuthServer(AuthServer):
394
 
    """A digest authentication server"""
395
 
 
396
 
    auth_nonce = 'now!'
397
 
 
398
 
    def __init__(self, request_handler, auth_scheme,
399
 
                 protocol_version=None):
400
 
        AuthServer.__init__(self, request_handler, auth_scheme,
401
 
                            protocol_version=protocol_version)
402
 
 
403
 
    def digest_authorized(self, auth, command):
404
 
        nonce = auth['nonce']
405
 
        if nonce != self.auth_nonce:
406
 
            return False
407
 
        realm = auth['realm']
408
 
        if realm != self.auth_realm:
409
 
            return False
410
 
        user = auth['username']
411
 
        if not self.password_of.has_key(user):
412
 
            return False
413
 
        algorithm= auth['algorithm']
414
 
        if algorithm != 'MD5':
415
 
            return False
416
 
        qop = auth['qop']
417
 
        if qop != 'auth':
418
 
            return False
419
 
 
420
 
        password = self.password_of[user]
421
 
 
422
 
        # Recalculate the response_digest to compare with the one
423
 
        # sent by the client
424
 
        A1 = '%s:%s:%s' % (user, realm, password)
425
 
        A2 = '%s:%s' % (command, auth['uri'])
426
 
 
427
 
        H = lambda x: osutils.md5(x).hexdigest()
428
 
        KD = lambda secret, data: H("%s:%s" % (secret, data))
429
 
 
430
 
        nonce_count = int(auth['nc'], 16)
431
 
 
432
 
        ncvalue = '%08x' % nonce_count
433
 
 
434
 
        cnonce = auth['cnonce']
435
 
        noncebit = '%s:%s:%s:%s:%s' % (nonce, ncvalue, cnonce, qop, H(A2))
436
 
        response_digest = KD(H(A1), noncebit)
437
 
 
438
 
        return response_digest == auth['response']
439
 
 
440
 
 
441
 
class HTTPAuthServer(AuthServer):
442
 
    """An HTTP server requiring authentication"""
443
 
 
444
 
    def init_http_auth(self):
445
 
        self.auth_header_sent = 'WWW-Authenticate'
446
 
        self.auth_header_recv = 'Authorization'
447
 
        self.auth_error_code = 401
448
 
 
449
 
 
450
 
class ProxyAuthServer(AuthServer):
451
 
    """A proxy server requiring authentication"""
452
 
 
453
 
    def init_proxy_auth(self):
454
 
        self.proxy_requests = True
455
 
        self.auth_header_sent = 'Proxy-Authenticate'
456
 
        self.auth_header_recv = 'Proxy-Authorization'
457
 
        self.auth_error_code = 407
458
 
 
459
 
 
460
 
class HTTPBasicAuthServer(HTTPAuthServer):
461
 
    """An HTTP server requiring basic authentication"""
462
 
 
463
 
    def __init__(self, protocol_version=None):
464
 
        HTTPAuthServer.__init__(self, BasicAuthRequestHandler, 'basic',
465
 
                                protocol_version=protocol_version)
466
 
        self.init_http_auth()
467
 
 
468
 
 
469
 
class HTTPDigestAuthServer(DigestAuthServer, HTTPAuthServer):
470
 
    """An HTTP server requiring digest authentication"""
471
 
 
472
 
    def __init__(self, protocol_version=None):
473
 
        DigestAuthServer.__init__(self, DigestAuthRequestHandler, 'digest',
474
 
                                  protocol_version=protocol_version)
475
 
        self.init_http_auth()
476
 
 
477
 
 
478
 
class HTTPBasicAndDigestAuthServer(DigestAuthServer, HTTPAuthServer):
479
 
    """An HTTP server requiring basic or digest authentication"""
480
 
 
481
 
    def __init__(self, protocol_version=None):
482
 
        DigestAuthServer.__init__(self, DigestAndBasicAuthRequestHandler,
483
 
                                  'basicdigest',
484
 
                                  protocol_version=protocol_version)
485
 
        self.init_http_auth()
486
 
        # We really accept Digest only
487
 
        self.auth_scheme = 'digest'
488
 
 
489
 
 
490
 
class ProxyBasicAuthServer(ProxyAuthServer):
491
 
    """A proxy server requiring basic authentication"""
492
 
 
493
 
    def __init__(self, protocol_version=None):
494
 
        ProxyAuthServer.__init__(self, BasicAuthRequestHandler, 'basic',
495
 
                                 protocol_version=protocol_version)
496
 
        self.init_proxy_auth()
497
 
 
498
 
 
499
 
class ProxyDigestAuthServer(DigestAuthServer, ProxyAuthServer):
500
 
    """A proxy server requiring basic authentication"""
501
 
 
502
 
    def __init__(self, protocol_version=None):
503
 
        ProxyAuthServer.__init__(self, DigestAuthRequestHandler, 'digest',
504
 
                                 protocol_version=protocol_version)
505
 
        self.init_proxy_auth()
506
 
 
507
 
 
508
 
class ProxyBasicAndDigestAuthServer(DigestAuthServer, ProxyAuthServer):
509
 
    """An proxy server requiring basic or digest authentication"""
510
 
 
511
 
    def __init__(self, protocol_version=None):
512
 
        DigestAuthServer.__init__(self, DigestAndBasicAuthRequestHandler,
513
 
                                  'basicdigest',
514
 
                                  protocol_version=protocol_version)
515
 
        self.init_proxy_auth()
516
 
        # We really accept Digest only
517
 
        self.auth_scheme = 'digest'
518
 
 
519