~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/HttpServer.py

  • Committer: Robert Collins
  • Date: 2007-09-05 05:51:34 UTC
  • mto: (2592.3.126 repository)
  • mto: This revision was merged to the branch mainline in revision 2879.
  • Revision ID: robertc@robertcollins.net-20070905055134-pwbueao0qq6krf9u
nuke _read_tree_state and snapshot from inventory, moving responsibility into the commit builder.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006, 2007 Canonical Ltd
 
1
# Copyright (C) 2006 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
 
17
import BaseHTTPServer
17
18
import errno
18
 
import httplib
19
19
import os
 
20
from SimpleHTTPServer import SimpleHTTPRequestHandler
 
21
import socket
20
22
import posixpath
21
23
import random
22
24
import re
23
 
import SimpleHTTPServer
24
 
import socket
25
 
import SocketServer
26
25
import sys
27
26
import threading
28
27
import time
29
28
import urllib
30
29
import urlparse
31
30
 
32
 
from bzrlib import transport
33
 
from bzrlib.transport import local
 
31
from bzrlib.transport import Server
 
32
from bzrlib.transport.local import LocalURLServer
34
33
 
35
34
 
36
35
class WebserverNotAvailable(Exception):
42
41
        return 'path %s is not in %s' % self.args
43
42
 
44
43
 
45
 
class TestingHTTPRequestHandler(SimpleHTTPServer.SimpleHTTPRequestHandler):
 
44
class TestingHTTPRequestHandler(SimpleHTTPRequestHandler):
46
45
    """Handles one request.
47
46
 
48
 
    A TestingHTTPRequestHandler is instantiated for every request received by
49
 
    the associated server. Note that 'request' here is inherited from the base
50
 
    TCPServer class, for the HTTP server it is really a connection which itself
51
 
    will handle one or several HTTP requests.
 
47
    A TestingHTTPRequestHandler is instantiated for every request
 
48
    received by the associated server.
52
49
    """
53
 
    # Default protocol version
54
 
    protocol_version = 'HTTP/1.1'
55
 
 
56
 
    # The Message-like class used to parse the request headers
57
 
    MessageClass = httplib.HTTPMessage
58
 
 
59
 
    def setup(self):
60
 
        SimpleHTTPServer.SimpleHTTPRequestHandler.setup(self)
61
 
        self._cwd = self.server._home_dir
62
 
        tcs = self.server.test_case_server
63
 
        if tcs.protocol_version is not None:
64
 
            # If the test server forced a protocol version, use it
65
 
            self.protocol_version = tcs.protocol_version
66
50
 
67
51
    def log_message(self, format, *args):
68
52
        tcs = self.server.test_case_server
76
60
    def handle_one_request(self):
77
61
        """Handle a single HTTP request.
78
62
 
79
 
        We catch all socket errors occurring when the client close the
80
 
        connection early to avoid polluting the test results.
 
63
        You normally don't need to override this method; see the class
 
64
        __doc__ string for information on how to handle specific HTTP
 
65
        commands such as GET and POST.
 
66
 
81
67
        """
82
 
        try:
83
 
            SimpleHTTPServer.SimpleHTTPRequestHandler.handle_one_request(self)
84
 
        except socket.error, e:
85
 
            # Any socket error should close the connection, but some errors are
86
 
            # due to the client closing early and we don't want to pollute test
87
 
            # results, so we raise only the others.
 
68
        for i in xrange(1,11): # Don't try more than 10 times
 
69
            try:
 
70
                self.raw_requestline = self.rfile.readline()
 
71
            except socket.error, e:
 
72
                if e.args[0] in (errno.EAGAIN, errno.EWOULDBLOCK):
 
73
                    # omitted for now because some tests look at the log of
 
74
                    # the server and expect to see no errors.  see recent
 
75
                    # email thread. -- mbp 20051021. 
 
76
                    ## self.log_message('EAGAIN (%d) while reading from raw_requestline' % i)
 
77
                    time.sleep(0.01)
 
78
                    continue
 
79
                raise
 
80
            else:
 
81
                break
 
82
        if not self.raw_requestline:
88
83
            self.close_connection = 1
89
 
            if (len(e.args) == 0
90
 
                or e.args[0] not in (errno.EPIPE, errno.ECONNRESET,
91
 
                                     errno.ECONNABORTED, errno.EBADF)):
92
 
                raise
 
84
            return
 
85
        if not self.parse_request(): # An error code has been sent, just exit
 
86
            return
 
87
        mname = 'do_' + self.command
 
88
        if getattr(self, mname, None) is None:
 
89
            self.send_error(501, "Unsupported method (%r)" % self.command)
 
90
            return
 
91
        method = getattr(self, mname)
 
92
        method()
93
93
 
94
94
    _range_regexp = re.compile(r'^(?P<start>\d+)-(?P<end>\d+)$')
95
95
    _tail_regexp = re.compile(r'^-(?P<tail>\d+)$')
127
127
                    return 0, []
128
128
        return tail, ranges
129
129
 
130
 
    def _header_line_length(self, keyword, value):
131
 
        header_line = '%s: %s\r\n' % (keyword, value)
132
 
        return len(header_line)
133
 
 
134
 
    def send_head(self):
135
 
        """Overrides base implementation to work around a bug in python2.5."""
136
 
        path = self.translate_path(self.path)
137
 
        if os.path.isdir(path) and not self.path.endswith('/'):
138
 
            # redirect browser - doing basically what apache does when
139
 
            # DirectorySlash option is On which is quite common (braindead, but
140
 
            # common)
141
 
            self.send_response(301)
142
 
            self.send_header("Location", self.path + "/")
143
 
            # Indicates that the body is empty for HTTP/1.1 clients 
144
 
            self.send_header('Content-Length', '0')
145
 
            self.end_headers()
146
 
            return None
147
 
 
148
 
        return SimpleHTTPServer.SimpleHTTPRequestHandler.send_head(self)
149
 
 
150
130
    def send_range_content(self, file, start, length):
151
131
        file.seek(start)
152
132
        self.wfile.write(file.read(length))
167
147
    def get_multiple_ranges(self, file, file_size, ranges):
168
148
        self.send_response(206)
169
149
        self.send_header('Accept-Ranges', 'bytes')
170
 
        boundary = '%d' % random.randint(0,0x7FFFFFFF)
171
 
        self.send_header('Content-Type',
172
 
                         'multipart/byteranges; boundary=%s' % boundary)
173
 
        boundary_line = '--%s\r\n' % boundary
174
 
        # Calculate the Content-Length
175
 
        content_length = 0
176
 
        for (start, end) in ranges:
177
 
            content_length += len(boundary_line)
178
 
            content_length += self._header_line_length(
179
 
                'Content-type', 'application/octet-stream')
180
 
            content_length += self._header_line_length(
181
 
                'Content-Range', 'bytes %d-%d/%d' % (start, end, file_size))
182
 
            content_length += len('\r\n') # end headers
183
 
            content_length += end - start # + 1
184
 
        content_length += len(boundary_line)
185
 
        self.send_header('Content-length', content_length)
 
150
        boundary = "%d" % random.randint(0,0x7FFFFFFF)
 
151
        self.send_header("Content-Type",
 
152
                         "multipart/byteranges; boundary=%s" % boundary)
186
153
        self.end_headers()
187
 
 
188
 
        # Send the multipart body
189
154
        for (start, end) in ranges:
190
 
            self.wfile.write(boundary_line)
191
 
            self.send_header('Content-type', 'application/octet-stream')
192
 
            self.send_header('Content-Range', 'bytes %d-%d/%d'
193
 
                             % (start, end, file_size))
 
155
            self.wfile.write("--%s\r\n" % boundary)
 
156
            self.send_header("Content-type", 'application/octet-stream')
 
157
            self.send_header("Content-Range", "bytes %d-%d/%d" % (start,
 
158
                                                                  end,
 
159
                                                                  file_size))
194
160
            self.end_headers()
195
161
            self.send_range_content(file, start, end - start + 1)
196
 
        # Final boundary
197
 
        self.wfile.write(boundary_line)
 
162
            self.wfile.write("--%s\r\n" % boundary)
198
163
 
199
164
    def do_GET(self):
200
165
        """Serve a GET request.
201
166
 
202
167
        Handles the Range header.
203
168
        """
204
 
        # Update statistics
205
 
        self.server.test_case_server.GET_request_nb += 1
206
169
 
207
170
        path = self.translate_path(self.path)
208
171
        ranges_header_value = self.headers.get('Range')
209
172
        if ranges_header_value is None or os.path.isdir(path):
210
173
            # Let the mother class handle most cases
211
 
            return SimpleHTTPServer.SimpleHTTPRequestHandler.do_GET(self)
 
174
            return SimpleHTTPRequestHandler.do_GET(self)
212
175
 
213
176
        try:
214
177
            # Always read in binary mode. Opening files in text
285
248
        return self._translate_path(path)
286
249
 
287
250
    def _translate_path(self, path):
288
 
        """Translate a /-separated PATH to the local filename syntax.
289
 
 
290
 
        Note that we're translating http URLs here, not file URLs.
291
 
        The URL root location is the server's startup directory.
292
 
        Components that mean special things to the local file system
293
 
        (e.g. drive or directory names) are ignored.  (XXX They should
294
 
        probably be diagnosed.)
295
 
 
296
 
        Override from python standard library to stop it calling os.getcwd()
297
 
        """
298
 
        # abandon query parameters
299
 
        path = urlparse.urlparse(path)[2]
300
 
        path = posixpath.normpath(urllib.unquote(path))
301
 
        path = path.decode('utf-8')
302
 
        words = path.split('/')
303
 
        words = filter(None, words)
304
 
        path = self._cwd
305
 
        for num, word in enumerate(words):
306
 
            if num == 0:
 
251
        return SimpleHTTPRequestHandler.translate_path(self, path)
 
252
 
 
253
    if sys.platform == 'win32':
 
254
        # On win32 you cannot access non-ascii filenames without
 
255
        # decoding them into unicode first.
 
256
        # However, under Linux, you can access bytestream paths
 
257
        # without any problems. If this function was always active
 
258
        # it would probably break tests when LANG=C was set
 
259
        def _translate_path(self, path):
 
260
            """Translate a /-separated PATH to the local filename syntax.
 
261
 
 
262
            For bzr, all url paths are considered to be utf8 paths.
 
263
            On Linux, you can access these paths directly over the bytestream
 
264
            request, but on win32, you must decode them, and access them
 
265
            as Unicode files.
 
266
            """
 
267
            # abandon query parameters
 
268
            path = urlparse.urlparse(path)[2]
 
269
            path = posixpath.normpath(urllib.unquote(path))
 
270
            path = path.decode('utf-8')
 
271
            words = path.split('/')
 
272
            words = filter(None, words)
 
273
            path = os.getcwdu()
 
274
            for word in words:
307
275
                drive, word = os.path.splitdrive(word)
308
 
            head, word = os.path.split(word)
309
 
            if word in (os.curdir, os.pardir): continue
310
 
            path = os.path.join(path, word)
311
 
        return path
312
 
 
313
 
 
314
 
class TestingHTTPServerMixin:
315
 
 
316
 
    def __init__(self, test_case_server):
 
276
                head, word = os.path.split(word)
 
277
                if word in (os.curdir, os.pardir): continue
 
278
                path = os.path.join(path, word)
 
279
            return path
 
280
 
 
281
 
 
282
class TestingHTTPServer(BaseHTTPServer.HTTPServer):
 
283
 
 
284
    def __init__(self, server_address, RequestHandlerClass,
 
285
                 test_case_server):
 
286
        BaseHTTPServer.HTTPServer.__init__(self, server_address,
 
287
                                           RequestHandlerClass)
317
288
        # test_case_server can be used to communicate between the
318
289
        # tests and the server (or the request handler and the
319
290
        # server), allowing dynamic behaviors to be defined from
320
291
        # the tests cases.
321
292
        self.test_case_server = test_case_server
322
 
        self._home_dir = test_case_server._home_dir
323
 
 
324
 
    def tearDown(self):
325
 
         """Called to clean-up the server.
326
 
 
327
 
         Since the server may be (surely is, even) in a blocking listen, we
328
 
         shutdown its socket before closing it.
329
 
         """
330
 
         # Note that is this executed as part of the implicit tear down in the
331
 
         # main thread while the server runs in its own thread. The clean way
332
 
         # to tear down the server is to instruct him to stop accepting
333
 
         # connections and wait for the current connection(s) to end
334
 
         # naturally. To end the connection naturally, the http transports
335
 
         # should close their socket when they do not need to talk to the
336
 
         # server anymore. This happens naturally during the garbage collection
337
 
         # phase of the test transport objetcs (the server clients), so we
338
 
         # don't have to worry about them.  So, for the server, we must tear
339
 
         # down here, from the main thread, when the test have ended.  Note
340
 
         # that since the server is in a blocking operation and since python
341
 
         # use select internally, shutting down the socket is reliable and
342
 
         # relatively clean.
343
 
         try:
344
 
             self.socket.shutdown(socket.SHUT_RDWR)
345
 
         except socket.error, e:
346
 
             # WSAENOTCONN (10057) 'Socket is not connected' is harmless on
347
 
             # windows (occurs before the first connection attempt
348
 
             # vila--20071230)
349
 
             if not len(e.args) or e.args[0] != 10057:
350
 
                 raise
351
 
         # Let the server properly close the socket
352
 
         self.server_close()
353
 
 
354
 
 
355
 
class TestingHTTPServer(SocketServer.TCPServer, TestingHTTPServerMixin):
356
 
 
357
 
    def __init__(self, server_address, request_handler_class,
358
 
                 test_case_server):
359
 
        TestingHTTPServerMixin.__init__(self, test_case_server)
360
 
        SocketServer.TCPServer.__init__(self, server_address,
361
 
                                        request_handler_class)
362
 
 
363
 
 
364
 
class TestingThreadingHTTPServer(SocketServer.ThreadingTCPServer,
365
 
                                 TestingHTTPServerMixin):
366
 
    """A threading HTTP test server for HTTP 1.1.
367
 
 
368
 
    Since tests can initiate several concurrent connections to the same http
369
 
    server, we need an independent connection for each of them. We achieve that
370
 
    by spawning a new thread for each connection.
371
 
    """
372
 
 
373
 
    def __init__(self, server_address, request_handler_class,
374
 
                 test_case_server):
375
 
        TestingHTTPServerMixin.__init__(self, test_case_server)
376
 
        SocketServer.ThreadingTCPServer.__init__(self, server_address,
377
 
                                                 request_handler_class)
378
 
        # Decides how threads will act upon termination of the main
379
 
        # process. This is prophylactic as we should not leave the threads
380
 
        # lying around.
381
 
        self.daemon_threads = True
382
 
 
383
 
 
384
 
class HttpServer(transport.Server):
 
293
 
 
294
 
 
295
class HttpServer(Server):
385
296
    """A test server for http transports.
386
297
 
387
298
    Subclasses can provide a specific request handler.
388
299
    """
389
300
 
390
 
    # The real servers depending on the protocol
391
 
    http_server_class = {'HTTP/1.0': TestingHTTPServer,
392
 
                         'HTTP/1.1': TestingThreadingHTTPServer,
393
 
                         }
394
 
 
395
301
    # Whether or not we proxy the requests (see
396
302
    # TestingHTTPRequestHandler.translate_path).
397
303
    proxy_requests = False
399
305
    # used to form the url that connects to this server
400
306
    _url_protocol = 'http'
401
307
 
402
 
    def __init__(self, request_handler=TestingHTTPRequestHandler,
403
 
                 protocol_version=None):
404
 
        """Constructor.
405
 
 
406
 
        :param request_handler: a class that will be instantiated to handle an
407
 
            http connection (one or several requests).
408
 
 
409
 
        :param protocol_version: if specified, will override the protocol
410
 
            version of the request handler.
411
 
        """
412
 
        transport.Server.__init__(self)
 
308
    # Subclasses can provide a specific request handler
 
309
    def __init__(self, request_handler=TestingHTTPRequestHandler):
 
310
        Server.__init__(self)
413
311
        self.request_handler = request_handler
414
312
        self.host = 'localhost'
415
313
        self.port = 0
416
314
        self._httpd = None
417
 
        self.protocol_version = protocol_version
418
 
        # Allows tests to verify number of GET requests issued
419
 
        self.GET_request_nb = 0
420
315
 
421
316
    def _get_httpd(self):
422
317
        if self._httpd is None:
423
 
            rhandler = self.request_handler
424
 
            # Depending on the protocol version, we will create the approriate
425
 
            # server
426
 
            if self.protocol_version is None:
427
 
                # Use the request handler one
428
 
                proto_vers = rhandler.protocol_version
429
 
            else:
430
 
                # Use our own, it will be used to override the request handler
431
 
                # one too.
432
 
                proto_vers = self.protocol_version
433
 
            # Create the appropriate server for the required protocol
434
 
            serv_cls = self.http_server_class.get(proto_vers, None)
435
 
            if serv_cls is None:
436
 
                raise httplib.UnknownProtocol(proto_vers)
437
 
            else:
438
 
                self._httpd = serv_cls((self.host, self.port), rhandler, self)
 
318
            self._httpd = TestingHTTPServer((self.host, self.port),
 
319
                                            self.request_handler,
 
320
                                            self)
439
321
            host, self.port = self._httpd.socket.getsockname()
440
322
        return self._httpd
441
323
 
442
324
    def _http_start(self):
443
 
        """Server thread main entry point. """
444
 
        self._http_running = False
445
 
        try:
446
 
            try:
447
 
                httpd = self._get_httpd()
448
 
                self._http_base_url = '%s://%s:%s/' % (self._url_protocol,
449
 
                                                       self.host, self.port)
450
 
                self._http_running = True
451
 
            except:
452
 
                # Whatever goes wrong, we save the exception for the main
453
 
                # thread. Note that since we are running in a thread, no signal
454
 
                # can be received, so we don't care about KeyboardInterrupt.
455
 
                self._http_exception = sys.exc_info()
456
 
        finally:
457
 
            # Release the lock or the main thread will block and the whole
458
 
            # process will hang.
459
 
            self._http_starting.release()
 
325
        httpd = self._get_httpd()
 
326
        self._http_base_url = '%s://%s:%s/' % (self._url_protocol,
 
327
                                               self.host,
 
328
                                               self.port)
 
329
        self._http_starting.release()
 
330
        httpd.socket.settimeout(0.1)
460
331
 
461
 
        # From now on, exceptions are taken care of by the
462
 
        # SocketServer.BaseServer or the request handler.
463
332
        while self._http_running:
464
333
            try:
465
 
                # Really an HTTP connection but the python framework is generic
466
 
                # and call them requests
467
334
                httpd.handle_request()
468
335
            except socket.timeout:
469
336
                pass
493
360
        """
494
361
        # XXX: TODO: make the server back onto vfs_server rather than local
495
362
        # disk.
496
 
        if not (backing_transport_server is None or \
497
 
                isinstance(backing_transport_server, local.LocalURLServer)):
498
 
            raise AssertionError(
499
 
                "HTTPServer currently assumes local transport, got %s" % \
500
 
                backing_transport_server)
 
363
        assert backing_transport_server is None or \
 
364
            isinstance(backing_transport_server, LocalURLServer), \
 
365
            "HTTPServer currently assumes local transport, got %s" % \
 
366
            backing_transport_server
501
367
        self._home_dir = os.getcwdu()
502
368
        self._local_path_parts = self._home_dir.split(os.path.sep)
 
369
        self._http_starting = threading.Lock()
 
370
        self._http_starting.acquire()
 
371
        self._http_running = True
503
372
        self._http_base_url = None
504
 
 
505
 
        # Create the server thread
506
 
        self._http_starting = threading.Lock()
507
 
        self._http_starting.acquire()
508
373
        self._http_thread = threading.Thread(target=self._http_start)
509
374
        self._http_thread.setDaemon(True)
510
 
        self._http_exception = None
511
375
        self._http_thread.start()
512
 
 
513
376
        # Wait for the server thread to start (i.e release the lock)
514
377
        self._http_starting.acquire()
515
 
 
516
 
        if self._http_exception is not None:
517
 
            # Something went wrong during server start
518
 
            exc_class, exc_value, exc_tb = self._http_exception
519
 
            raise exc_class, exc_value, exc_tb
520
378
        self._http_starting.release()
521
379
        self.logs = []
522
380
 
523
381
    def tearDown(self):
524
382
        """See bzrlib.transport.Server.tearDown."""
525
 
        self._httpd.tearDown()
526
383
        self._http_running = False
527
 
        # We don't need to 'self._http_thread.join()' here since the thread is
528
 
        # a daemonic one and will be garbage collected anyway. Joining just
529
 
        # slows us down for no added benefit.
 
384
        self._http_thread.join()
530
385
 
531
386
    def get_url(self):
532
387
        """See bzrlib.transport.Server.get_url."""
536
391
        """See bzrlib.transport.Server.get_bogus_url."""
537
392
        # this is chosen to try to prevent trouble with proxies, weird dns,
538
393
        # etc
539
 
        return self._url_protocol + '://127.0.0.1:1/'
 
394
        return 'http://127.0.0.1:1/'
540
395
 
541
396
 
542
397
class HttpServer_urllib(HttpServer):