~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/test_http.py

  • Committer: Martin Pool
  • Date: 2005-05-05 07:00:17 UTC
  • Revision ID: mbp@sourcefrog.net-20050505070017-6af6a766fc558dc2
todo

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006, 2007, 2008, 2009 Canonical Ltd
2
 
#
3
 
# This program is free software; you can redistribute it and/or modify
4
 
# it under the terms of the GNU General Public License as published by
5
 
# the Free Software Foundation; either version 2 of the License, or
6
 
# (at your option) any later version.
7
 
#
8
 
# This program is distributed in the hope that it will be useful,
9
 
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
 
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
 
# GNU General Public License for more details.
12
 
#
13
 
# You should have received a copy of the GNU General Public License
14
 
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
"""Tests for HTTP implementations.
18
 
 
19
 
This module defines a load_tests() method that parametrize tests classes for
20
 
transport implementation, http protocol versions and authentication schemes.
21
 
"""
22
 
 
23
 
# TODO: Should be renamed to bzrlib.transport.http.tests?
24
 
# TODO: What about renaming to bzrlib.tests.transport.http ?
25
 
 
26
 
from cStringIO import StringIO
27
 
import httplib
28
 
import os
29
 
import select
30
 
import SimpleHTTPServer
31
 
import socket
32
 
import sys
33
 
import threading
34
 
 
35
 
import bzrlib
36
 
from bzrlib import (
37
 
    bzrdir,
38
 
    config,
39
 
    errors,
40
 
    osutils,
41
 
    remote as _mod_remote,
42
 
    tests,
43
 
    transport,
44
 
    ui,
45
 
    urlutils,
46
 
    )
47
 
from bzrlib.symbol_versioning import (
48
 
    deprecated_in,
49
 
    )
50
 
from bzrlib.tests import (
51
 
    features,
52
 
    http_server,
53
 
    http_utils,
54
 
    )
55
 
from bzrlib.transport import (
56
 
    http,
57
 
    remote,
58
 
    )
59
 
from bzrlib.transport.http import (
60
 
    _urllib,
61
 
    _urllib2_wrappers,
62
 
    )
63
 
 
64
 
 
65
 
if features.pycurl.available():
66
 
    from bzrlib.transport.http._pycurl import PyCurlTransport
67
 
 
68
 
 
69
 
def load_tests(standard_tests, module, loader):
70
 
    """Multiply tests for http clients and protocol versions."""
71
 
    result = loader.suiteClass()
72
 
 
73
 
    # one for each transport implementation
74
 
    t_tests, remaining_tests = tests.split_suite_by_condition(
75
 
        standard_tests, tests.condition_isinstance((
76
 
                TestHttpTransportRegistration,
77
 
                TestHttpTransportUrls,
78
 
                Test_redirected_to,
79
 
                )))
80
 
    transport_scenarios = [
81
 
        ('urllib', dict(_transport=_urllib.HttpTransport_urllib,
82
 
                        _server=http_server.HttpServer_urllib,
83
 
                        _qualified_prefix='http+urllib',)),
84
 
        ]
85
 
    if features.pycurl.available():
86
 
        transport_scenarios.append(
87
 
            ('pycurl', dict(_transport=PyCurlTransport,
88
 
                            _server=http_server.HttpServer_PyCurl,
89
 
                            _qualified_prefix='http+pycurl',)))
90
 
    tests.multiply_tests(t_tests, transport_scenarios, result)
91
 
 
92
 
    # each implementation tested with each HTTP version
93
 
    tp_tests, remaining_tests = tests.split_suite_by_condition(
94
 
        remaining_tests, tests.condition_isinstance((
95
 
                SmartHTTPTunnellingTest,
96
 
                TestDoCatchRedirections,
97
 
                TestHTTPConnections,
98
 
                TestHTTPRedirections,
99
 
                TestHTTPSilentRedirections,
100
 
                TestLimitedRangeRequestServer,
101
 
                TestPost,
102
 
                TestProxyHttpServer,
103
 
                TestRanges,
104
 
                TestSpecificRequestHandler,
105
 
                )))
106
 
    protocol_scenarios = [
107
 
            ('HTTP/1.0',  dict(_protocol_version='HTTP/1.0')),
108
 
            ('HTTP/1.1',  dict(_protocol_version='HTTP/1.1')),
109
 
            ]
110
 
    tp_scenarios = tests.multiply_scenarios(transport_scenarios,
111
 
                                            protocol_scenarios)
112
 
    tests.multiply_tests(tp_tests, tp_scenarios, result)
113
 
 
114
 
    # proxy auth: each auth scheme on all http versions on all implementations.
115
 
    tppa_tests, remaining_tests = tests.split_suite_by_condition(
116
 
        remaining_tests, tests.condition_isinstance((
117
 
                TestProxyAuth,
118
 
                )))
119
 
    proxy_auth_scheme_scenarios = [
120
 
        ('basic', dict(_auth_server=http_utils.ProxyBasicAuthServer)),
121
 
        ('digest', dict(_auth_server=http_utils.ProxyDigestAuthServer)),
122
 
        ('basicdigest',
123
 
         dict(_auth_server=http_utils.ProxyBasicAndDigestAuthServer)),
124
 
        ]
125
 
    tppa_scenarios = tests.multiply_scenarios(tp_scenarios,
126
 
                                              proxy_auth_scheme_scenarios)
127
 
    tests.multiply_tests(tppa_tests, tppa_scenarios, result)
128
 
 
129
 
    # auth: each auth scheme on all http versions on all implementations.
130
 
    tpa_tests, remaining_tests = tests.split_suite_by_condition(
131
 
        remaining_tests, tests.condition_isinstance((
132
 
                TestAuth,
133
 
                )))
134
 
    auth_scheme_scenarios = [
135
 
        ('basic', dict(_auth_server=http_utils.HTTPBasicAuthServer)),
136
 
        ('digest', dict(_auth_server=http_utils.HTTPDigestAuthServer)),
137
 
        ('basicdigest',
138
 
         dict(_auth_server=http_utils.HTTPBasicAndDigestAuthServer)),
139
 
        ]
140
 
    tpa_scenarios = tests.multiply_scenarios(tp_scenarios,
141
 
                                             auth_scheme_scenarios)
142
 
    tests.multiply_tests(tpa_tests, tpa_scenarios, result)
143
 
 
144
 
    # activity: on all http[s] versions on all implementations
145
 
    tpact_tests, remaining_tests = tests.split_suite_by_condition(
146
 
        remaining_tests, tests.condition_isinstance((
147
 
                TestActivity,
148
 
                )))
149
 
    activity_scenarios = [
150
 
        ('urllib,http', dict(_activity_server=ActivityHTTPServer,
151
 
                             _transport=_urllib.HttpTransport_urllib,)),
152
 
        ]
153
 
    if tests.HTTPSServerFeature.available():
154
 
        activity_scenarios.append(
155
 
            ('urllib,https', dict(_activity_server=ActivityHTTPSServer,
156
 
                                  _transport=_urllib.HttpTransport_urllib,)),)
157
 
    if features.pycurl.available():
158
 
        activity_scenarios.append(
159
 
            ('pycurl,http', dict(_activity_server=ActivityHTTPServer,
160
 
                                 _transport=PyCurlTransport,)),)
161
 
        if tests.HTTPSServerFeature.available():
162
 
            from bzrlib.tests import (
163
 
                ssl_certs,
164
 
                )
165
 
            # FIXME: Until we have a better way to handle self-signed
166
 
            # certificates (like allowing them in a test specific
167
 
            # authentication.conf for example), we need some specialized pycurl
168
 
            # transport for tests.
169
 
            class HTTPS_pycurl_transport(PyCurlTransport):
170
 
 
171
 
                def __init__(self, base, _from_transport=None):
172
 
                    super(HTTPS_pycurl_transport, self).__init__(
173
 
                        base, _from_transport)
174
 
                    self.cabundle = str(ssl_certs.build_path('ca.crt'))
175
 
 
176
 
            activity_scenarios.append(
177
 
                ('pycurl,https', dict(_activity_server=ActivityHTTPSServer,
178
 
                                      _transport=HTTPS_pycurl_transport,)),)
179
 
 
180
 
    tpact_scenarios = tests.multiply_scenarios(activity_scenarios,
181
 
                                               protocol_scenarios)
182
 
    tests.multiply_tests(tpact_tests, tpact_scenarios, result)
183
 
 
184
 
    # No parametrization for the remaining tests
185
 
    result.addTests(remaining_tests)
186
 
 
187
 
    return result
188
 
 
189
 
 
190
 
class FakeManager(object):
191
 
 
192
 
    def __init__(self):
193
 
        self.credentials = []
194
 
 
195
 
    def add_password(self, realm, host, username, password):
196
 
        self.credentials.append([realm, host, username, password])
197
 
 
198
 
 
199
 
class RecordingServer(object):
200
 
    """A fake HTTP server.
201
 
 
202
 
    It records the bytes sent to it, and replies with a 200.
203
 
    """
204
 
 
205
 
    def __init__(self, expect_body_tail=None, scheme=''):
206
 
        """Constructor.
207
 
 
208
 
        :type expect_body_tail: str
209
 
        :param expect_body_tail: a reply won't be sent until this string is
210
 
            received.
211
 
        """
212
 
        self._expect_body_tail = expect_body_tail
213
 
        self.host = None
214
 
        self.port = None
215
 
        self.received_bytes = ''
216
 
        self.scheme = scheme
217
 
 
218
 
    def get_url(self):
219
 
        return '%s://%s:%s/' % (self.scheme, self.host, self.port)
220
 
 
221
 
    def start_server(self):
222
 
        self._sock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
223
 
        self._sock.bind(('127.0.0.1', 0))
224
 
        self.host, self.port = self._sock.getsockname()
225
 
        self._ready = threading.Event()
226
 
        self._thread = threading.Thread(target=self._accept_read_and_reply)
227
 
        self._thread.setDaemon(True)
228
 
        self._thread.start()
229
 
        self._ready.wait(5)
230
 
 
231
 
    def _accept_read_and_reply(self):
232
 
        self._sock.listen(1)
233
 
        self._ready.set()
234
 
        self._sock.settimeout(5)
235
 
        try:
236
 
            conn, address = self._sock.accept()
237
 
            # On win32, the accepted connection will be non-blocking to start
238
 
            # with because we're using settimeout.
239
 
            conn.setblocking(True)
240
 
            while not self.received_bytes.endswith(self._expect_body_tail):
241
 
                self.received_bytes += conn.recv(4096)
242
 
            conn.sendall('HTTP/1.1 200 OK\r\n')
243
 
        except socket.timeout:
244
 
            # Make sure the client isn't stuck waiting for us to e.g. accept.
245
 
            self._sock.close()
246
 
        except socket.error:
247
 
            # The client may have already closed the socket.
248
 
            pass
249
 
 
250
 
    def stop_server(self):
251
 
        try:
252
 
            self._sock.close()
253
 
        except socket.error:
254
 
            # We might have already closed it.  We don't care.
255
 
            pass
256
 
        self.host = None
257
 
        self.port = None
258
 
 
259
 
 
260
 
class TestAuthHeader(tests.TestCase):
261
 
 
262
 
    def parse_header(self, header, auth_handler_class=None):
263
 
        if auth_handler_class is None:
264
 
            auth_handler_class = _urllib2_wrappers.AbstractAuthHandler
265
 
        self.auth_handler =  auth_handler_class()
266
 
        return self.auth_handler._parse_auth_header(header)
267
 
 
268
 
    def test_empty_header(self):
269
 
        scheme, remainder = self.parse_header('')
270
 
        self.assertEqual('', scheme)
271
 
        self.assertIs(None, remainder)
272
 
 
273
 
    def test_negotiate_header(self):
274
 
        scheme, remainder = self.parse_header('Negotiate')
275
 
        self.assertEqual('negotiate', scheme)
276
 
        self.assertIs(None, remainder)
277
 
 
278
 
    def test_basic_header(self):
279
 
        scheme, remainder = self.parse_header(
280
 
            'Basic realm="Thou should not pass"')
281
 
        self.assertEqual('basic', scheme)
282
 
        self.assertEqual('realm="Thou should not pass"', remainder)
283
 
 
284
 
    def test_basic_extract_realm(self):
285
 
        scheme, remainder = self.parse_header(
286
 
            'Basic realm="Thou should not pass"',
287
 
            _urllib2_wrappers.BasicAuthHandler)
288
 
        match, realm = self.auth_handler.extract_realm(remainder)
289
 
        self.assertTrue(match is not None)
290
 
        self.assertEqual('Thou should not pass', realm)
291
 
 
292
 
    def test_digest_header(self):
293
 
        scheme, remainder = self.parse_header(
294
 
            'Digest realm="Thou should not pass"')
295
 
        self.assertEqual('digest', scheme)
296
 
        self.assertEqual('realm="Thou should not pass"', remainder)
297
 
 
298
 
 
299
 
class TestHTTPServer(tests.TestCase):
300
 
    """Test the HTTP servers implementations."""
301
 
 
302
 
    def test_invalid_protocol(self):
303
 
        class BogusRequestHandler(http_server.TestingHTTPRequestHandler):
304
 
 
305
 
            protocol_version = 'HTTP/0.1'
306
 
 
307
 
        server = http_server.HttpServer(BogusRequestHandler)
308
 
        try:
309
 
            self.assertRaises(httplib.UnknownProtocol, server.start_server)
310
 
        except:
311
 
            server.stop_server()
312
 
            self.fail('HTTP Server creation did not raise UnknownProtocol')
313
 
 
314
 
    def test_force_invalid_protocol(self):
315
 
        server = http_server.HttpServer(protocol_version='HTTP/0.1')
316
 
        try:
317
 
            self.assertRaises(httplib.UnknownProtocol, server.start_server)
318
 
        except:
319
 
            server.stop_server()
320
 
            self.fail('HTTP Server creation did not raise UnknownProtocol')
321
 
 
322
 
    def test_server_start_and_stop(self):
323
 
        server = http_server.HttpServer()
324
 
        server.start_server()
325
 
        try:
326
 
            self.assertTrue(server._http_running)
327
 
        finally:
328
 
            server.stop_server()
329
 
        self.assertFalse(server._http_running)
330
 
 
331
 
    def test_create_http_server_one_zero(self):
332
 
        class RequestHandlerOneZero(http_server.TestingHTTPRequestHandler):
333
 
 
334
 
            protocol_version = 'HTTP/1.0'
335
 
 
336
 
        server = http_server.HttpServer(RequestHandlerOneZero)
337
 
        self.start_server(server)
338
 
        self.assertIsInstance(server._httpd, http_server.TestingHTTPServer)
339
 
 
340
 
    def test_create_http_server_one_one(self):
341
 
        class RequestHandlerOneOne(http_server.TestingHTTPRequestHandler):
342
 
 
343
 
            protocol_version = 'HTTP/1.1'
344
 
 
345
 
        server = http_server.HttpServer(RequestHandlerOneOne)
346
 
        self.start_server(server)
347
 
        self.assertIsInstance(server._httpd,
348
 
                              http_server.TestingThreadingHTTPServer)
349
 
 
350
 
    def test_create_http_server_force_one_one(self):
351
 
        class RequestHandlerOneZero(http_server.TestingHTTPRequestHandler):
352
 
 
353
 
            protocol_version = 'HTTP/1.0'
354
 
 
355
 
        server = http_server.HttpServer(RequestHandlerOneZero,
356
 
                                        protocol_version='HTTP/1.1')
357
 
        self.start_server(server)
358
 
        self.assertIsInstance(server._httpd,
359
 
                              http_server.TestingThreadingHTTPServer)
360
 
 
361
 
    def test_create_http_server_force_one_zero(self):
362
 
        class RequestHandlerOneOne(http_server.TestingHTTPRequestHandler):
363
 
 
364
 
            protocol_version = 'HTTP/1.1'
365
 
 
366
 
        server = http_server.HttpServer(RequestHandlerOneOne,
367
 
                                        protocol_version='HTTP/1.0')
368
 
        self.start_server(server)
369
 
        self.assertIsInstance(server._httpd,
370
 
                              http_server.TestingHTTPServer)
371
 
 
372
 
 
373
 
class TestWithTransport_pycurl(object):
374
 
    """Test case to inherit from if pycurl is present"""
375
 
 
376
 
    def _get_pycurl_maybe(self):
377
 
        self.requireFeature(features.pycurl)
378
 
        return PyCurlTransport
379
 
 
380
 
    _transport = property(_get_pycurl_maybe)
381
 
 
382
 
 
383
 
class TestHttpUrls(tests.TestCase):
384
 
 
385
 
    # TODO: This should be moved to authorization tests once they
386
 
    # are written.
387
 
 
388
 
    def test_url_parsing(self):
389
 
        f = FakeManager()
390
 
        url = http.extract_auth('http://example.com', f)
391
 
        self.assertEqual('http://example.com', url)
392
 
        self.assertEqual(0, len(f.credentials))
393
 
        url = http.extract_auth(
394
 
            'http://user:pass@www.bazaar-vcs.org/bzr/bzr.dev', f)
395
 
        self.assertEqual('http://www.bazaar-vcs.org/bzr/bzr.dev', url)
396
 
        self.assertEqual(1, len(f.credentials))
397
 
        self.assertEqual([None, 'www.bazaar-vcs.org', 'user', 'pass'],
398
 
                         f.credentials[0])
399
 
 
400
 
 
401
 
class TestHttpTransportUrls(tests.TestCase):
402
 
    """Test the http urls."""
403
 
 
404
 
    def test_abs_url(self):
405
 
        """Construction of absolute http URLs"""
406
 
        t = self._transport('http://bazaar-vcs.org/bzr/bzr.dev/')
407
 
        eq = self.assertEqualDiff
408
 
        eq(t.abspath('.'), 'http://bazaar-vcs.org/bzr/bzr.dev')
409
 
        eq(t.abspath('foo/bar'), 'http://bazaar-vcs.org/bzr/bzr.dev/foo/bar')
410
 
        eq(t.abspath('.bzr'), 'http://bazaar-vcs.org/bzr/bzr.dev/.bzr')
411
 
        eq(t.abspath('.bzr/1//2/./3'),
412
 
           'http://bazaar-vcs.org/bzr/bzr.dev/.bzr/1/2/3')
413
 
 
414
 
    def test_invalid_http_urls(self):
415
 
        """Trap invalid construction of urls"""
416
 
        t = self._transport('http://bazaar-vcs.org/bzr/bzr.dev/')
417
 
        self.assertRaises(errors.InvalidURL,
418
 
                          self._transport,
419
 
                          'http://http://bazaar-vcs.org/bzr/bzr.dev/')
420
 
 
421
 
    def test_http_root_urls(self):
422
 
        """Construction of URLs from server root"""
423
 
        t = self._transport('http://bzr.ozlabs.org/')
424
 
        eq = self.assertEqualDiff
425
 
        eq(t.abspath('.bzr/tree-version'),
426
 
           'http://bzr.ozlabs.org/.bzr/tree-version')
427
 
 
428
 
    def test_http_impl_urls(self):
429
 
        """There are servers which ask for particular clients to connect"""
430
 
        server = self._server()
431
 
        server.start_server()
432
 
        try:
433
 
            url = server.get_url()
434
 
            self.assertTrue(url.startswith('%s://' % self._qualified_prefix))
435
 
        finally:
436
 
            server.stop_server()
437
 
 
438
 
 
439
 
class TestHttps_pycurl(TestWithTransport_pycurl, tests.TestCase):
440
 
 
441
 
    # TODO: This should really be moved into another pycurl
442
 
    # specific test. When https tests will be implemented, take
443
 
    # this one into account.
444
 
    def test_pycurl_without_https_support(self):
445
 
        """Test that pycurl without SSL do not fail with a traceback.
446
 
 
447
 
        For the purpose of the test, we force pycurl to ignore
448
 
        https by supplying a fake version_info that do not
449
 
        support it.
450
 
        """
451
 
        self.requireFeature(features.pycurl)
452
 
        # Import the module locally now that we now it's available.
453
 
        pycurl = features.pycurl.module
454
 
 
455
 
        version_info_orig = pycurl.version_info
456
 
        def restore():
457
 
            pycurl.version_info = version_info_orig
458
 
        self.addCleanup(restore)
459
 
 
460
 
        # Fake the pycurl version_info This was taken from a windows pycurl
461
 
        # without SSL (thanks to bialix)
462
 
        pycurl.version_info = lambda : (2,
463
 
                                        '7.13.2',
464
 
                                        462082,
465
 
                                        'i386-pc-win32',
466
 
                                        2576,
467
 
                                        None,
468
 
                                        0,
469
 
                                        None,
470
 
                                        ('ftp', 'gopher', 'telnet',
471
 
                                         'dict', 'ldap', 'http', 'file'),
472
 
                                        None,
473
 
                                        0,
474
 
                                        None)
475
 
        self.assertRaises(errors.DependencyNotPresent, self._transport,
476
 
                          'https://launchpad.net')
477
 
 
478
 
 
479
 
class TestHTTPConnections(http_utils.TestCaseWithWebserver):
480
 
    """Test the http connections."""
481
 
 
482
 
    def setUp(self):
483
 
        http_utils.TestCaseWithWebserver.setUp(self)
484
 
        self.build_tree(['foo/', 'foo/bar'], line_endings='binary',
485
 
                        transport=self.get_transport())
486
 
 
487
 
    def test_http_has(self):
488
 
        server = self.get_readonly_server()
489
 
        t = self._transport(server.get_url())
490
 
        self.assertEqual(t.has('foo/bar'), True)
491
 
        self.assertEqual(len(server.logs), 1)
492
 
        self.assertContainsRe(server.logs[0],
493
 
            r'"HEAD /foo/bar HTTP/1.." (200|302) - "-" "bzr/')
494
 
 
495
 
    def test_http_has_not_found(self):
496
 
        server = self.get_readonly_server()
497
 
        t = self._transport(server.get_url())
498
 
        self.assertEqual(t.has('not-found'), False)
499
 
        self.assertContainsRe(server.logs[1],
500
 
            r'"HEAD /not-found HTTP/1.." 404 - "-" "bzr/')
501
 
 
502
 
    def test_http_get(self):
503
 
        server = self.get_readonly_server()
504
 
        t = self._transport(server.get_url())
505
 
        fp = t.get('foo/bar')
506
 
        self.assertEqualDiff(
507
 
            fp.read(),
508
 
            'contents of foo/bar\n')
509
 
        self.assertEqual(len(server.logs), 1)
510
 
        self.assertTrue(server.logs[0].find(
511
 
            '"GET /foo/bar HTTP/1.1" 200 - "-" "bzr/%s'
512
 
            % bzrlib.__version__) > -1)
513
 
 
514
 
    def test_has_on_bogus_host(self):
515
 
        # Get a free address and don't 'accept' on it, so that we
516
 
        # can be sure there is no http handler there, but set a
517
 
        # reasonable timeout to not slow down tests too much.
518
 
        default_timeout = socket.getdefaulttimeout()
519
 
        try:
520
 
            socket.setdefaulttimeout(2)
521
 
            s = socket.socket()
522
 
            s.bind(('localhost', 0))
523
 
            t = self._transport('http://%s:%s/' % s.getsockname())
524
 
            self.assertRaises(errors.ConnectionError, t.has, 'foo/bar')
525
 
        finally:
526
 
            socket.setdefaulttimeout(default_timeout)
527
 
 
528
 
 
529
 
class TestHttpTransportRegistration(tests.TestCase):
530
 
    """Test registrations of various http implementations"""
531
 
 
532
 
    def test_http_registered(self):
533
 
        t = transport.get_transport('%s://foo.com/' % self._qualified_prefix)
534
 
        self.assertIsInstance(t, transport.Transport)
535
 
        self.assertIsInstance(t, self._transport)
536
 
 
537
 
 
538
 
class TestPost(tests.TestCase):
539
 
 
540
 
    def test_post_body_is_received(self):
541
 
        server = RecordingServer(expect_body_tail='end-of-body',
542
 
            scheme=self._qualified_prefix)
543
 
        self.start_server(server)
544
 
        url = server.get_url()
545
 
        http_transport = self._transport(url)
546
 
        code, response = http_transport._post('abc def end-of-body')
547
 
        self.assertTrue(
548
 
            server.received_bytes.startswith('POST /.bzr/smart HTTP/1.'))
549
 
        self.assertTrue('content-length: 19\r' in server.received_bytes.lower())
550
 
        # The transport should not be assuming that the server can accept
551
 
        # chunked encoding the first time it connects, because HTTP/1.1, so we
552
 
        # check for the literal string.
553
 
        self.assertTrue(
554
 
            server.received_bytes.endswith('\r\n\r\nabc def end-of-body'))
555
 
 
556
 
 
557
 
class TestRangeHeader(tests.TestCase):
558
 
    """Test range_header method"""
559
 
 
560
 
    def check_header(self, value, ranges=[], tail=0):
561
 
        offsets = [ (start, end - start + 1) for start, end in ranges]
562
 
        coalesce = transport.Transport._coalesce_offsets
563
 
        coalesced = list(coalesce(offsets, limit=0, fudge_factor=0))
564
 
        range_header = http.HttpTransportBase._range_header
565
 
        self.assertEqual(value, range_header(coalesced, tail))
566
 
 
567
 
    def test_range_header_single(self):
568
 
        self.check_header('0-9', ranges=[(0,9)])
569
 
        self.check_header('100-109', ranges=[(100,109)])
570
 
 
571
 
    def test_range_header_tail(self):
572
 
        self.check_header('-10', tail=10)
573
 
        self.check_header('-50', tail=50)
574
 
 
575
 
    def test_range_header_multi(self):
576
 
        self.check_header('0-9,100-200,300-5000',
577
 
                          ranges=[(0,9), (100, 200), (300,5000)])
578
 
 
579
 
    def test_range_header_mixed(self):
580
 
        self.check_header('0-9,300-5000,-50',
581
 
                          ranges=[(0,9), (300,5000)],
582
 
                          tail=50)
583
 
 
584
 
 
585
 
class TestSpecificRequestHandler(http_utils.TestCaseWithWebserver):
586
 
    """Tests a specific request handler.
587
 
 
588
 
    Daughter classes are expected to override _req_handler_class
589
 
    """
590
 
 
591
 
    # Provide a useful default
592
 
    _req_handler_class = http_server.TestingHTTPRequestHandler
593
 
 
594
 
    def create_transport_readonly_server(self):
595
 
        return http_server.HttpServer(self._req_handler_class,
596
 
                                      protocol_version=self._protocol_version)
597
 
 
598
 
    def _testing_pycurl(self):
599
 
        # TODO: This is duplicated for lots of the classes in this file
600
 
        return (features.pycurl.available()
601
 
                and self._transport == PyCurlTransport)
602
 
 
603
 
 
604
 
class WallRequestHandler(http_server.TestingHTTPRequestHandler):
605
 
    """Whatever request comes in, close the connection"""
606
 
 
607
 
    def handle_one_request(self):
608
 
        """Handle a single HTTP request, by abruptly closing the connection"""
609
 
        self.close_connection = 1
610
 
 
611
 
 
612
 
class TestWallServer(TestSpecificRequestHandler):
613
 
    """Tests exceptions during the connection phase"""
614
 
 
615
 
    _req_handler_class = WallRequestHandler
616
 
 
617
 
    def test_http_has(self):
618
 
        server = self.get_readonly_server()
619
 
        t = self._transport(server.get_url())
620
 
        # Unfortunately httplib (see HTTPResponse._read_status
621
 
        # for details) make no distinction between a closed
622
 
        # socket and badly formatted status line, so we can't
623
 
        # just test for ConnectionError, we have to test
624
 
        # InvalidHttpResponse too. And pycurl may raise ConnectionReset
625
 
        # instead of ConnectionError too.
626
 
        self.assertRaises(( errors.ConnectionError, errors.ConnectionReset,
627
 
                            errors.InvalidHttpResponse),
628
 
                          t.has, 'foo/bar')
629
 
 
630
 
    def test_http_get(self):
631
 
        server = self.get_readonly_server()
632
 
        t = self._transport(server.get_url())
633
 
        self.assertRaises((errors.ConnectionError, errors.ConnectionReset,
634
 
                           errors.InvalidHttpResponse),
635
 
                          t.get, 'foo/bar')
636
 
 
637
 
 
638
 
class BadStatusRequestHandler(http_server.TestingHTTPRequestHandler):
639
 
    """Whatever request comes in, returns a bad status"""
640
 
 
641
 
    def parse_request(self):
642
 
        """Fakes handling a single HTTP request, returns a bad status"""
643
 
        ignored = http_server.TestingHTTPRequestHandler.parse_request(self)
644
 
        self.send_response(0, "Bad status")
645
 
        self.close_connection = 1
646
 
        return False
647
 
 
648
 
 
649
 
class TestBadStatusServer(TestSpecificRequestHandler):
650
 
    """Tests bad status from server."""
651
 
 
652
 
    _req_handler_class = BadStatusRequestHandler
653
 
 
654
 
    def test_http_has(self):
655
 
        server = self.get_readonly_server()
656
 
        t = self._transport(server.get_url())
657
 
        self.assertRaises(errors.InvalidHttpResponse, t.has, 'foo/bar')
658
 
 
659
 
    def test_http_get(self):
660
 
        server = self.get_readonly_server()
661
 
        t = self._transport(server.get_url())
662
 
        self.assertRaises(errors.InvalidHttpResponse, t.get, 'foo/bar')
663
 
 
664
 
 
665
 
class InvalidStatusRequestHandler(http_server.TestingHTTPRequestHandler):
666
 
    """Whatever request comes in, returns an invalid status"""
667
 
 
668
 
    def parse_request(self):
669
 
        """Fakes handling a single HTTP request, returns a bad status"""
670
 
        ignored = http_server.TestingHTTPRequestHandler.parse_request(self)
671
 
        self.wfile.write("Invalid status line\r\n")
672
 
        return False
673
 
 
674
 
 
675
 
class TestInvalidStatusServer(TestBadStatusServer):
676
 
    """Tests invalid status from server.
677
 
 
678
 
    Both implementations raises the same error as for a bad status.
679
 
    """
680
 
 
681
 
    _req_handler_class = InvalidStatusRequestHandler
682
 
 
683
 
    def test_http_has(self):
684
 
        if self._testing_pycurl() and self._protocol_version == 'HTTP/1.1':
685
 
            raise tests.KnownFailure(
686
 
                'pycurl hangs if the server send back garbage')
687
 
        super(TestInvalidStatusServer, self).test_http_has()
688
 
 
689
 
    def test_http_get(self):
690
 
        if self._testing_pycurl() and self._protocol_version == 'HTTP/1.1':
691
 
            raise tests.KnownFailure(
692
 
                'pycurl hangs if the server send back garbage')
693
 
        super(TestInvalidStatusServer, self).test_http_get()
694
 
 
695
 
 
696
 
class BadProtocolRequestHandler(http_server.TestingHTTPRequestHandler):
697
 
    """Whatever request comes in, returns a bad protocol version"""
698
 
 
699
 
    def parse_request(self):
700
 
        """Fakes handling a single HTTP request, returns a bad status"""
701
 
        ignored = http_server.TestingHTTPRequestHandler.parse_request(self)
702
 
        # Returns an invalid protocol version, but curl just
703
 
        # ignores it and those cannot be tested.
704
 
        self.wfile.write("%s %d %s\r\n" % ('HTTP/0.0',
705
 
                                           404,
706
 
                                           'Look at my protocol version'))
707
 
        return False
708
 
 
709
 
 
710
 
class TestBadProtocolServer(TestSpecificRequestHandler):
711
 
    """Tests bad protocol from server."""
712
 
 
713
 
    _req_handler_class = BadProtocolRequestHandler
714
 
 
715
 
    def setUp(self):
716
 
        if self._testing_pycurl():
717
 
            raise tests.TestNotApplicable(
718
 
                "pycurl doesn't check the protocol version")
719
 
        super(TestBadProtocolServer, self).setUp()
720
 
 
721
 
    def test_http_has(self):
722
 
        server = self.get_readonly_server()
723
 
        t = self._transport(server.get_url())
724
 
        self.assertRaises(errors.InvalidHttpResponse, t.has, 'foo/bar')
725
 
 
726
 
    def test_http_get(self):
727
 
        server = self.get_readonly_server()
728
 
        t = self._transport(server.get_url())
729
 
        self.assertRaises(errors.InvalidHttpResponse, t.get, 'foo/bar')
730
 
 
731
 
 
732
 
class ForbiddenRequestHandler(http_server.TestingHTTPRequestHandler):
733
 
    """Whatever request comes in, returns a 403 code"""
734
 
 
735
 
    def parse_request(self):
736
 
        """Handle a single HTTP request, by replying we cannot handle it"""
737
 
        ignored = http_server.TestingHTTPRequestHandler.parse_request(self)
738
 
        self.send_error(403)
739
 
        return False
740
 
 
741
 
 
742
 
class TestForbiddenServer(TestSpecificRequestHandler):
743
 
    """Tests forbidden server"""
744
 
 
745
 
    _req_handler_class = ForbiddenRequestHandler
746
 
 
747
 
    def test_http_has(self):
748
 
        server = self.get_readonly_server()
749
 
        t = self._transport(server.get_url())
750
 
        self.assertRaises(errors.TransportError, t.has, 'foo/bar')
751
 
 
752
 
    def test_http_get(self):
753
 
        server = self.get_readonly_server()
754
 
        t = self._transport(server.get_url())
755
 
        self.assertRaises(errors.TransportError, t.get, 'foo/bar')
756
 
 
757
 
 
758
 
class TestRecordingServer(tests.TestCase):
759
 
 
760
 
    def test_create(self):
761
 
        server = RecordingServer(expect_body_tail=None)
762
 
        self.assertEqual('', server.received_bytes)
763
 
        self.assertEqual(None, server.host)
764
 
        self.assertEqual(None, server.port)
765
 
 
766
 
    def test_setUp_and_stop(self):
767
 
        server = RecordingServer(expect_body_tail=None)
768
 
        server.start_server()
769
 
        try:
770
 
            self.assertNotEqual(None, server.host)
771
 
            self.assertNotEqual(None, server.port)
772
 
        finally:
773
 
            server.stop_server()
774
 
        self.assertEqual(None, server.host)
775
 
        self.assertEqual(None, server.port)
776
 
 
777
 
    def test_send_receive_bytes(self):
778
 
        server = RecordingServer(expect_body_tail='c', scheme='http')
779
 
        self.start_server(server)
780
 
        sock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
781
 
        sock.connect((server.host, server.port))
782
 
        sock.sendall('abc')
783
 
        self.assertEqual('HTTP/1.1 200 OK\r\n',
784
 
                         osutils.recv_all(sock, 4096))
785
 
        self.assertEqual('abc', server.received_bytes)
786
 
 
787
 
 
788
 
class TestRangeRequestServer(TestSpecificRequestHandler):
789
 
    """Tests readv requests against server.
790
 
 
791
 
    We test against default "normal" server.
792
 
    """
793
 
 
794
 
    def setUp(self):
795
 
        super(TestRangeRequestServer, self).setUp()
796
 
        self.build_tree_contents([('a', '0123456789')],)
797
 
 
798
 
    def test_readv(self):
799
 
        server = self.get_readonly_server()
800
 
        t = self._transport(server.get_url())
801
 
        l = list(t.readv('a', ((0, 1), (1, 1), (3, 2), (9, 1))))
802
 
        self.assertEqual(l[0], (0, '0'))
803
 
        self.assertEqual(l[1], (1, '1'))
804
 
        self.assertEqual(l[2], (3, '34'))
805
 
        self.assertEqual(l[3], (9, '9'))
806
 
 
807
 
    def test_readv_out_of_order(self):
808
 
        server = self.get_readonly_server()
809
 
        t = self._transport(server.get_url())
810
 
        l = list(t.readv('a', ((1, 1), (9, 1), (0, 1), (3, 2))))
811
 
        self.assertEqual(l[0], (1, '1'))
812
 
        self.assertEqual(l[1], (9, '9'))
813
 
        self.assertEqual(l[2], (0, '0'))
814
 
        self.assertEqual(l[3], (3, '34'))
815
 
 
816
 
    def test_readv_invalid_ranges(self):
817
 
        server = self.get_readonly_server()
818
 
        t = self._transport(server.get_url())
819
 
 
820
 
        # This is intentionally reading off the end of the file
821
 
        # since we are sure that it cannot get there
822
 
        self.assertListRaises((errors.InvalidRange, errors.ShortReadvError,),
823
 
                              t.readv, 'a', [(1,1), (8,10)])
824
 
 
825
 
        # This is trying to seek past the end of the file, it should
826
 
        # also raise a special error
827
 
        self.assertListRaises((errors.InvalidRange, errors.ShortReadvError,),
828
 
                              t.readv, 'a', [(12,2)])
829
 
 
830
 
    def test_readv_multiple_get_requests(self):
831
 
        server = self.get_readonly_server()
832
 
        t = self._transport(server.get_url())
833
 
        # force transport to issue multiple requests
834
 
        t._max_readv_combine = 1
835
 
        t._max_get_ranges = 1
836
 
        l = list(t.readv('a', ((0, 1), (1, 1), (3, 2), (9, 1))))
837
 
        self.assertEqual(l[0], (0, '0'))
838
 
        self.assertEqual(l[1], (1, '1'))
839
 
        self.assertEqual(l[2], (3, '34'))
840
 
        self.assertEqual(l[3], (9, '9'))
841
 
        # The server should have issued 4 requests
842
 
        self.assertEqual(4, server.GET_request_nb)
843
 
 
844
 
    def test_readv_get_max_size(self):
845
 
        server = self.get_readonly_server()
846
 
        t = self._transport(server.get_url())
847
 
        # force transport to issue multiple requests by limiting the number of
848
 
        # bytes by request. Note that this apply to coalesced offsets only, a
849
 
        # single range will keep its size even if bigger than the limit.
850
 
        t._get_max_size = 2
851
 
        l = list(t.readv('a', ((0, 1), (1, 1), (2, 4), (6, 4))))
852
 
        self.assertEqual(l[0], (0, '0'))
853
 
        self.assertEqual(l[1], (1, '1'))
854
 
        self.assertEqual(l[2], (2, '2345'))
855
 
        self.assertEqual(l[3], (6, '6789'))
856
 
        # The server should have issued 3 requests
857
 
        self.assertEqual(3, server.GET_request_nb)
858
 
 
859
 
    def test_complete_readv_leave_pipe_clean(self):
860
 
        server = self.get_readonly_server()
861
 
        t = self._transport(server.get_url())
862
 
        # force transport to issue multiple requests
863
 
        t._get_max_size = 2
864
 
        l = list(t.readv('a', ((0, 1), (1, 1), (2, 4), (6, 4))))
865
 
        # The server should have issued 3 requests
866
 
        self.assertEqual(3, server.GET_request_nb)
867
 
        self.assertEqual('0123456789', t.get_bytes('a'))
868
 
        self.assertEqual(4, server.GET_request_nb)
869
 
 
870
 
    def test_incomplete_readv_leave_pipe_clean(self):
871
 
        server = self.get_readonly_server()
872
 
        t = self._transport(server.get_url())
873
 
        # force transport to issue multiple requests
874
 
        t._get_max_size = 2
875
 
        # Don't collapse readv results into a list so that we leave unread
876
 
        # bytes on the socket
877
 
        ireadv = iter(t.readv('a', ((0, 1), (1, 1), (2, 4), (6, 4))))
878
 
        self.assertEqual((0, '0'), ireadv.next())
879
 
        # The server should have issued one request so far
880
 
        self.assertEqual(1, server.GET_request_nb)
881
 
        self.assertEqual('0123456789', t.get_bytes('a'))
882
 
        # get_bytes issued an additional request, the readv pending ones are
883
 
        # lost
884
 
        self.assertEqual(2, server.GET_request_nb)
885
 
 
886
 
 
887
 
class SingleRangeRequestHandler(http_server.TestingHTTPRequestHandler):
888
 
    """Always reply to range request as if they were single.
889
 
 
890
 
    Don't be explicit about it, just to annoy the clients.
891
 
    """
892
 
 
893
 
    def get_multiple_ranges(self, file, file_size, ranges):
894
 
        """Answer as if it was a single range request and ignores the rest"""
895
 
        (start, end) = ranges[0]
896
 
        return self.get_single_range(file, file_size, start, end)
897
 
 
898
 
 
899
 
class TestSingleRangeRequestServer(TestRangeRequestServer):
900
 
    """Test readv against a server which accept only single range requests"""
901
 
 
902
 
    _req_handler_class = SingleRangeRequestHandler
903
 
 
904
 
 
905
 
class SingleOnlyRangeRequestHandler(http_server.TestingHTTPRequestHandler):
906
 
    """Only reply to simple range requests, errors out on multiple"""
907
 
 
908
 
    def get_multiple_ranges(self, file, file_size, ranges):
909
 
        """Refuses the multiple ranges request"""
910
 
        if len(ranges) > 1:
911
 
            file.close()
912
 
            self.send_error(416, "Requested range not satisfiable")
913
 
            return
914
 
        (start, end) = ranges[0]
915
 
        return self.get_single_range(file, file_size, start, end)
916
 
 
917
 
 
918
 
class TestSingleOnlyRangeRequestServer(TestRangeRequestServer):
919
 
    """Test readv against a server which only accept single range requests"""
920
 
 
921
 
    _req_handler_class = SingleOnlyRangeRequestHandler
922
 
 
923
 
 
924
 
class NoRangeRequestHandler(http_server.TestingHTTPRequestHandler):
925
 
    """Ignore range requests without notice"""
926
 
 
927
 
    def do_GET(self):
928
 
        # Update the statistics
929
 
        self.server.test_case_server.GET_request_nb += 1
930
 
        # Just bypass the range handling done by TestingHTTPRequestHandler
931
 
        return SimpleHTTPServer.SimpleHTTPRequestHandler.do_GET(self)
932
 
 
933
 
 
934
 
class TestNoRangeRequestServer(TestRangeRequestServer):
935
 
    """Test readv against a server which do not accept range requests"""
936
 
 
937
 
    _req_handler_class = NoRangeRequestHandler
938
 
 
939
 
 
940
 
class MultipleRangeWithoutContentLengthRequestHandler(
941
 
    http_server.TestingHTTPRequestHandler):
942
 
    """Reply to multiple range requests without content length header."""
943
 
 
944
 
    def get_multiple_ranges(self, file, file_size, ranges):
945
 
        self.send_response(206)
946
 
        self.send_header('Accept-Ranges', 'bytes')
947
 
        boundary = "%d" % random.randint(0,0x7FFFFFFF)
948
 
        self.send_header("Content-Type",
949
 
                         "multipart/byteranges; boundary=%s" % boundary)
950
 
        self.end_headers()
951
 
        for (start, end) in ranges:
952
 
            self.wfile.write("--%s\r\n" % boundary)
953
 
            self.send_header("Content-type", 'application/octet-stream')
954
 
            self.send_header("Content-Range", "bytes %d-%d/%d" % (start,
955
 
                                                                  end,
956
 
                                                                  file_size))
957
 
            self.end_headers()
958
 
            self.send_range_content(file, start, end - start + 1)
959
 
        # Final boundary
960
 
        self.wfile.write("--%s\r\n" % boundary)
961
 
 
962
 
 
963
 
class TestMultipleRangeWithoutContentLengthServer(TestRangeRequestServer):
964
 
 
965
 
    _req_handler_class = MultipleRangeWithoutContentLengthRequestHandler
966
 
 
967
 
 
968
 
class TruncatedMultipleRangeRequestHandler(
969
 
    http_server.TestingHTTPRequestHandler):
970
 
    """Reply to multiple range requests truncating the last ones.
971
 
 
972
 
    This server generates responses whose Content-Length describes all the
973
 
    ranges, but fail to include the last ones leading to client short reads.
974
 
    This has been observed randomly with lighttpd (bug #179368).
975
 
    """
976
 
 
977
 
    _truncated_ranges = 2
978
 
 
979
 
    def get_multiple_ranges(self, file, file_size, ranges):
980
 
        self.send_response(206)
981
 
        self.send_header('Accept-Ranges', 'bytes')
982
 
        boundary = 'tagada'
983
 
        self.send_header('Content-Type',
984
 
                         'multipart/byteranges; boundary=%s' % boundary)
985
 
        boundary_line = '--%s\r\n' % boundary
986
 
        # Calculate the Content-Length
987
 
        content_length = 0
988
 
        for (start, end) in ranges:
989
 
            content_length += len(boundary_line)
990
 
            content_length += self._header_line_length(
991
 
                'Content-type', 'application/octet-stream')
992
 
            content_length += self._header_line_length(
993
 
                'Content-Range', 'bytes %d-%d/%d' % (start, end, file_size))
994
 
            content_length += len('\r\n') # end headers
995
 
            content_length += end - start # + 1
996
 
        content_length += len(boundary_line)
997
 
        self.send_header('Content-length', content_length)
998
 
        self.end_headers()
999
 
 
1000
 
        # Send the multipart body
1001
 
        cur = 0
1002
 
        for (start, end) in ranges:
1003
 
            self.wfile.write(boundary_line)
1004
 
            self.send_header('Content-type', 'application/octet-stream')
1005
 
            self.send_header('Content-Range', 'bytes %d-%d/%d'
1006
 
                             % (start, end, file_size))
1007
 
            self.end_headers()
1008
 
            if cur + self._truncated_ranges >= len(ranges):
1009
 
                # Abruptly ends the response and close the connection
1010
 
                self.close_connection = 1
1011
 
                return
1012
 
            self.send_range_content(file, start, end - start + 1)
1013
 
            cur += 1
1014
 
        # No final boundary
1015
 
        self.wfile.write(boundary_line)
1016
 
 
1017
 
 
1018
 
class TestTruncatedMultipleRangeServer(TestSpecificRequestHandler):
1019
 
 
1020
 
    _req_handler_class = TruncatedMultipleRangeRequestHandler
1021
 
 
1022
 
    def setUp(self):
1023
 
        super(TestTruncatedMultipleRangeServer, self).setUp()
1024
 
        self.build_tree_contents([('a', '0123456789')],)
1025
 
 
1026
 
    def test_readv_with_short_reads(self):
1027
 
        server = self.get_readonly_server()
1028
 
        t = self._transport(server.get_url())
1029
 
        # Force separate ranges for each offset
1030
 
        t._bytes_to_read_before_seek = 0
1031
 
        ireadv = iter(t.readv('a', ((0, 1), (2, 1), (4, 2), (9, 1))))
1032
 
        self.assertEqual((0, '0'), ireadv.next())
1033
 
        self.assertEqual((2, '2'), ireadv.next())
1034
 
        if not self._testing_pycurl():
1035
 
            # Only one request have been issued so far (except for pycurl that
1036
 
            # try to read the whole response at once)
1037
 
            self.assertEqual(1, server.GET_request_nb)
1038
 
        self.assertEqual((4, '45'), ireadv.next())
1039
 
        self.assertEqual((9, '9'), ireadv.next())
1040
 
        # Both implementations issue 3 requests but:
1041
 
        # - urllib does two multiple (4 ranges, then 2 ranges) then a single
1042
 
        #   range,
1043
 
        # - pycurl does two multiple (4 ranges, 4 ranges) then a single range
1044
 
        self.assertEqual(3, server.GET_request_nb)
1045
 
        # Finally the client have tried a single range request and stays in
1046
 
        # that mode
1047
 
        self.assertEqual('single', t._range_hint)
1048
 
 
1049
 
class LimitedRangeRequestHandler(http_server.TestingHTTPRequestHandler):
1050
 
    """Errors out when range specifiers exceed the limit"""
1051
 
 
1052
 
    def get_multiple_ranges(self, file, file_size, ranges):
1053
 
        """Refuses the multiple ranges request"""
1054
 
        tcs = self.server.test_case_server
1055
 
        if tcs.range_limit is not None and len(ranges) > tcs.range_limit:
1056
 
            file.close()
1057
 
            # Emulate apache behavior
1058
 
            self.send_error(400, "Bad Request")
1059
 
            return
1060
 
        return http_server.TestingHTTPRequestHandler.get_multiple_ranges(
1061
 
            self, file, file_size, ranges)
1062
 
 
1063
 
 
1064
 
class LimitedRangeHTTPServer(http_server.HttpServer):
1065
 
    """An HttpServer erroring out on requests with too much range specifiers"""
1066
 
 
1067
 
    def __init__(self, request_handler=LimitedRangeRequestHandler,
1068
 
                 protocol_version=None,
1069
 
                 range_limit=None):
1070
 
        http_server.HttpServer.__init__(self, request_handler,
1071
 
                                        protocol_version=protocol_version)
1072
 
        self.range_limit = range_limit
1073
 
 
1074
 
 
1075
 
class TestLimitedRangeRequestServer(http_utils.TestCaseWithWebserver):
1076
 
    """Tests readv requests against a server erroring out on too much ranges."""
1077
 
 
1078
 
    # Requests with more range specifiers will error out
1079
 
    range_limit = 3
1080
 
 
1081
 
    def create_transport_readonly_server(self):
1082
 
        return LimitedRangeHTTPServer(range_limit=self.range_limit,
1083
 
                                      protocol_version=self._protocol_version)
1084
 
 
1085
 
    def get_transport(self):
1086
 
        return self._transport(self.get_readonly_server().get_url())
1087
 
 
1088
 
    def setUp(self):
1089
 
        http_utils.TestCaseWithWebserver.setUp(self)
1090
 
        # We need to manipulate ranges that correspond to real chunks in the
1091
 
        # response, so we build a content appropriately.
1092
 
        filler = ''.join(['abcdefghij' for x in range(102)])
1093
 
        content = ''.join(['%04d' % v + filler for v in range(16)])
1094
 
        self.build_tree_contents([('a', content)],)
1095
 
 
1096
 
    def test_few_ranges(self):
1097
 
        t = self.get_transport()
1098
 
        l = list(t.readv('a', ((0, 4), (1024, 4), )))
1099
 
        self.assertEqual(l[0], (0, '0000'))
1100
 
        self.assertEqual(l[1], (1024, '0001'))
1101
 
        self.assertEqual(1, self.get_readonly_server().GET_request_nb)
1102
 
 
1103
 
    def test_more_ranges(self):
1104
 
        t = self.get_transport()
1105
 
        l = list(t.readv('a', ((0, 4), (1024, 4), (4096, 4), (8192, 4))))
1106
 
        self.assertEqual(l[0], (0, '0000'))
1107
 
        self.assertEqual(l[1], (1024, '0001'))
1108
 
        self.assertEqual(l[2], (4096, '0004'))
1109
 
        self.assertEqual(l[3], (8192, '0008'))
1110
 
        # The server will refuse to serve the first request (too much ranges),
1111
 
        # a second request will succeed.
1112
 
        self.assertEqual(2, self.get_readonly_server().GET_request_nb)
1113
 
 
1114
 
 
1115
 
class TestHttpProxyWhiteBox(tests.TestCase):
1116
 
    """Whitebox test proxy http authorization.
1117
 
 
1118
 
    Only the urllib implementation is tested here.
1119
 
    """
1120
 
 
1121
 
    def setUp(self):
1122
 
        tests.TestCase.setUp(self)
1123
 
        self._old_env = {}
1124
 
 
1125
 
    def tearDown(self):
1126
 
        self._restore_env()
1127
 
        tests.TestCase.tearDown(self)
1128
 
 
1129
 
    def _install_env(self, env):
1130
 
        for name, value in env.iteritems():
1131
 
            self._old_env[name] = osutils.set_or_unset_env(name, value)
1132
 
 
1133
 
    def _restore_env(self):
1134
 
        for name, value in self._old_env.iteritems():
1135
 
            osutils.set_or_unset_env(name, value)
1136
 
 
1137
 
    def _proxied_request(self):
1138
 
        handler = _urllib2_wrappers.ProxyHandler()
1139
 
        request = _urllib2_wrappers.Request('GET','http://baz/buzzle')
1140
 
        handler.set_proxy(request, 'http')
1141
 
        return request
1142
 
 
1143
 
    def test_empty_user(self):
1144
 
        self._install_env({'http_proxy': 'http://bar.com'})
1145
 
        request = self._proxied_request()
1146
 
        self.assertFalse(request.headers.has_key('Proxy-authorization'))
1147
 
 
1148
 
    def test_invalid_proxy(self):
1149
 
        """A proxy env variable without scheme"""
1150
 
        self._install_env({'http_proxy': 'host:1234'})
1151
 
        self.assertRaises(errors.InvalidURL, self._proxied_request)
1152
 
 
1153
 
 
1154
 
class TestProxyHttpServer(http_utils.TestCaseWithTwoWebservers):
1155
 
    """Tests proxy server.
1156
 
 
1157
 
    Be aware that we do not setup a real proxy here. Instead, we
1158
 
    check that the *connection* goes through the proxy by serving
1159
 
    different content (the faked proxy server append '-proxied'
1160
 
    to the file names).
1161
 
    """
1162
 
 
1163
 
    # FIXME: We don't have an https server available, so we don't
1164
 
    # test https connections.
1165
 
 
1166
 
    def setUp(self):
1167
 
        super(TestProxyHttpServer, self).setUp()
1168
 
        self.build_tree_contents([('foo', 'contents of foo\n'),
1169
 
                                  ('foo-proxied', 'proxied contents of foo\n')])
1170
 
        # Let's setup some attributes for tests
1171
 
        self.server = self.get_readonly_server()
1172
 
        self.proxy_address = '%s:%d' % (self.server.host, self.server.port)
1173
 
        if self._testing_pycurl():
1174
 
            # Oh my ! pycurl does not check for the port as part of
1175
 
            # no_proxy :-( So we just test the host part
1176
 
            self.no_proxy_host = self.server.host
1177
 
        else:
1178
 
            self.no_proxy_host = self.proxy_address
1179
 
        # The secondary server is the proxy
1180
 
        self.proxy = self.get_secondary_server()
1181
 
        self.proxy_url = self.proxy.get_url()
1182
 
        self._old_env = {}
1183
 
 
1184
 
    def _testing_pycurl(self):
1185
 
        # TODO: This is duplicated for lots of the classes in this file
1186
 
        return (features.pycurl.available()
1187
 
                and self._transport == PyCurlTransport)
1188
 
 
1189
 
    def create_transport_secondary_server(self):
1190
 
        """Creates an http server that will serve files with
1191
 
        '-proxied' appended to their names.
1192
 
        """
1193
 
        return http_utils.ProxyServer(protocol_version=self._protocol_version)
1194
 
 
1195
 
    def _install_env(self, env):
1196
 
        for name, value in env.iteritems():
1197
 
            self._old_env[name] = osutils.set_or_unset_env(name, value)
1198
 
 
1199
 
    def _restore_env(self):
1200
 
        for name, value in self._old_env.iteritems():
1201
 
            osutils.set_or_unset_env(name, value)
1202
 
 
1203
 
    def proxied_in_env(self, env):
1204
 
        self._install_env(env)
1205
 
        url = self.server.get_url()
1206
 
        t = self._transport(url)
1207
 
        try:
1208
 
            self.assertEqual('proxied contents of foo\n', t.get('foo').read())
1209
 
        finally:
1210
 
            self._restore_env()
1211
 
 
1212
 
    def not_proxied_in_env(self, env):
1213
 
        self._install_env(env)
1214
 
        url = self.server.get_url()
1215
 
        t = self._transport(url)
1216
 
        try:
1217
 
            self.assertEqual('contents of foo\n', t.get('foo').read())
1218
 
        finally:
1219
 
            self._restore_env()
1220
 
 
1221
 
    def test_http_proxy(self):
1222
 
        self.proxied_in_env({'http_proxy': self.proxy_url})
1223
 
 
1224
 
    def test_HTTP_PROXY(self):
1225
 
        if self._testing_pycurl():
1226
 
            # pycurl does not check HTTP_PROXY for security reasons
1227
 
            # (for use in a CGI context that we do not care
1228
 
            # about. Should we ?)
1229
 
            raise tests.TestNotApplicable(
1230
 
                'pycurl does not check HTTP_PROXY for security reasons')
1231
 
        self.proxied_in_env({'HTTP_PROXY': self.proxy_url})
1232
 
 
1233
 
    def test_all_proxy(self):
1234
 
        self.proxied_in_env({'all_proxy': self.proxy_url})
1235
 
 
1236
 
    def test_ALL_PROXY(self):
1237
 
        self.proxied_in_env({'ALL_PROXY': self.proxy_url})
1238
 
 
1239
 
    def test_http_proxy_with_no_proxy(self):
1240
 
        self.not_proxied_in_env({'http_proxy': self.proxy_url,
1241
 
                                 'no_proxy': self.no_proxy_host})
1242
 
 
1243
 
    def test_HTTP_PROXY_with_NO_PROXY(self):
1244
 
        if self._testing_pycurl():
1245
 
            raise tests.TestNotApplicable(
1246
 
                'pycurl does not check HTTP_PROXY for security reasons')
1247
 
        self.not_proxied_in_env({'HTTP_PROXY': self.proxy_url,
1248
 
                                 'NO_PROXY': self.no_proxy_host})
1249
 
 
1250
 
    def test_all_proxy_with_no_proxy(self):
1251
 
        self.not_proxied_in_env({'all_proxy': self.proxy_url,
1252
 
                                 'no_proxy': self.no_proxy_host})
1253
 
 
1254
 
    def test_ALL_PROXY_with_NO_PROXY(self):
1255
 
        self.not_proxied_in_env({'ALL_PROXY': self.proxy_url,
1256
 
                                 'NO_PROXY': self.no_proxy_host})
1257
 
 
1258
 
    def test_http_proxy_without_scheme(self):
1259
 
        if self._testing_pycurl():
1260
 
            # pycurl *ignores* invalid proxy env variables. If that ever change
1261
 
            # in the future, this test will fail indicating that pycurl do not
1262
 
            # ignore anymore such variables.
1263
 
            self.not_proxied_in_env({'http_proxy': self.proxy_address})
1264
 
        else:
1265
 
            self.assertRaises(errors.InvalidURL,
1266
 
                              self.proxied_in_env,
1267
 
                              {'http_proxy': self.proxy_address})
1268
 
 
1269
 
 
1270
 
class TestRanges(http_utils.TestCaseWithWebserver):
1271
 
    """Test the Range header in GET methods."""
1272
 
 
1273
 
    def setUp(self):
1274
 
        http_utils.TestCaseWithWebserver.setUp(self)
1275
 
        self.build_tree_contents([('a', '0123456789')],)
1276
 
        server = self.get_readonly_server()
1277
 
        self.transport = self._transport(server.get_url())
1278
 
 
1279
 
    def create_transport_readonly_server(self):
1280
 
        return http_server.HttpServer(protocol_version=self._protocol_version)
1281
 
 
1282
 
    def _file_contents(self, relpath, ranges):
1283
 
        offsets = [ (start, end - start + 1) for start, end in ranges]
1284
 
        coalesce = self.transport._coalesce_offsets
1285
 
        coalesced = list(coalesce(offsets, limit=0, fudge_factor=0))
1286
 
        code, data = self.transport._get(relpath, coalesced)
1287
 
        self.assertTrue(code in (200, 206),'_get returns: %d' % code)
1288
 
        for start, end in ranges:
1289
 
            data.seek(start)
1290
 
            yield data.read(end - start + 1)
1291
 
 
1292
 
    def _file_tail(self, relpath, tail_amount):
1293
 
        code, data = self.transport._get(relpath, [], tail_amount)
1294
 
        self.assertTrue(code in (200, 206),'_get returns: %d' % code)
1295
 
        data.seek(-tail_amount, 2)
1296
 
        return data.read(tail_amount)
1297
 
 
1298
 
    def test_range_header(self):
1299
 
        # Valid ranges
1300
 
        map(self.assertEqual,['0', '234'],
1301
 
            list(self._file_contents('a', [(0,0), (2,4)])),)
1302
 
 
1303
 
    def test_range_header_tail(self):
1304
 
        self.assertEqual('789', self._file_tail('a', 3))
1305
 
 
1306
 
    def test_syntactically_invalid_range_header(self):
1307
 
        self.assertListRaises(errors.InvalidHttpRange,
1308
 
                          self._file_contents, 'a', [(4, 3)])
1309
 
 
1310
 
    def test_semantically_invalid_range_header(self):
1311
 
        self.assertListRaises(errors.InvalidHttpRange,
1312
 
                          self._file_contents, 'a', [(42, 128)])
1313
 
 
1314
 
 
1315
 
class TestHTTPRedirections(http_utils.TestCaseWithRedirectedWebserver):
1316
 
    """Test redirection between http servers."""
1317
 
 
1318
 
    def create_transport_secondary_server(self):
1319
 
        """Create the secondary server redirecting to the primary server"""
1320
 
        new = self.get_readonly_server()
1321
 
 
1322
 
        redirecting = http_utils.HTTPServerRedirecting(
1323
 
            protocol_version=self._protocol_version)
1324
 
        redirecting.redirect_to(new.host, new.port)
1325
 
        return redirecting
1326
 
 
1327
 
    def setUp(self):
1328
 
        super(TestHTTPRedirections, self).setUp()
1329
 
        self.build_tree_contents([('a', '0123456789'),
1330
 
                                  ('bundle',
1331
 
                                  '# Bazaar revision bundle v0.9\n#\n')
1332
 
                                  ],)
1333
 
        # The requests to the old server will be redirected to the new server
1334
 
        self.old_transport = self._transport(self.old_server.get_url())
1335
 
 
1336
 
    def test_redirected(self):
1337
 
        self.assertRaises(errors.RedirectRequested, self.old_transport.get, 'a')
1338
 
        t = self._transport(self.new_server.get_url())
1339
 
        self.assertEqual('0123456789', t.get('a').read())
1340
 
 
1341
 
    def test_read_redirected_bundle_from_url(self):
1342
 
        from bzrlib.bundle import read_bundle_from_url
1343
 
        url = self.old_transport.abspath('bundle')
1344
 
        bundle = self.applyDeprecated(deprecated_in((1, 12, 0)),
1345
 
                read_bundle_from_url, url)
1346
 
        # If read_bundle_from_url was successful we get an empty bundle
1347
 
        self.assertEqual([], bundle.revisions)
1348
 
 
1349
 
 
1350
 
class RedirectedRequest(_urllib2_wrappers.Request):
1351
 
    """Request following redirections. """
1352
 
 
1353
 
    init_orig = _urllib2_wrappers.Request.__init__
1354
 
 
1355
 
    def __init__(self, method, url, *args, **kwargs):
1356
 
        """Constructor.
1357
 
 
1358
 
        """
1359
 
        # Since the tests using this class will replace
1360
 
        # _urllib2_wrappers.Request, we can't just call the base class __init__
1361
 
        # or we'll loop.
1362
 
        RedirectedRequest.init_orig(self, method, url, *args, **kwargs)
1363
 
        self.follow_redirections = True
1364
 
 
1365
 
 
1366
 
def install_redirected_request(test):
1367
 
    test.original_class = _urllib2_wrappers.Request
1368
 
    def restore():
1369
 
        _urllib2_wrappers.Request = test.original_class
1370
 
    _urllib2_wrappers.Request = RedirectedRequest
1371
 
    test.addCleanup(restore)
1372
 
 
1373
 
 
1374
 
class TestHTTPSilentRedirections(http_utils.TestCaseWithRedirectedWebserver):
1375
 
    """Test redirections.
1376
 
 
1377
 
    http implementations do not redirect silently anymore (they
1378
 
    do not redirect at all in fact). The mechanism is still in
1379
 
    place at the _urllib2_wrappers.Request level and these tests
1380
 
    exercise it.
1381
 
 
1382
 
    For the pycurl implementation
1383
 
    the redirection have been deleted as we may deprecate pycurl
1384
 
    and I have no place to keep a working implementation.
1385
 
    -- vila 20070212
1386
 
    """
1387
 
 
1388
 
    def setUp(self):
1389
 
        if (features.pycurl.available()
1390
 
            and self._transport == PyCurlTransport):
1391
 
            raise tests.TestNotApplicable(
1392
 
                "pycurl doesn't redirect silently annymore")
1393
 
        super(TestHTTPSilentRedirections, self).setUp()
1394
 
        install_redirected_request(self)
1395
 
        self.build_tree_contents([('a','a'),
1396
 
                                  ('1/',),
1397
 
                                  ('1/a', 'redirected once'),
1398
 
                                  ('2/',),
1399
 
                                  ('2/a', 'redirected twice'),
1400
 
                                  ('3/',),
1401
 
                                  ('3/a', 'redirected thrice'),
1402
 
                                  ('4/',),
1403
 
                                  ('4/a', 'redirected 4 times'),
1404
 
                                  ('5/',),
1405
 
                                  ('5/a', 'redirected 5 times'),
1406
 
                                  ],)
1407
 
 
1408
 
        self.old_transport = self._transport(self.old_server.get_url())
1409
 
 
1410
 
    def create_transport_secondary_server(self):
1411
 
        """Create the secondary server, redirections are defined in the tests"""
1412
 
        return http_utils.HTTPServerRedirecting(
1413
 
            protocol_version=self._protocol_version)
1414
 
 
1415
 
    def test_one_redirection(self):
1416
 
        t = self.old_transport
1417
 
 
1418
 
        req = RedirectedRequest('GET', t.abspath('a'))
1419
 
        new_prefix = 'http://%s:%s' % (self.new_server.host,
1420
 
                                       self.new_server.port)
1421
 
        self.old_server.redirections = \
1422
 
            [('(.*)', r'%s/1\1' % (new_prefix), 301),]
1423
 
        self.assertEqual('redirected once',t._perform(req).read())
1424
 
 
1425
 
    def test_five_redirections(self):
1426
 
        t = self.old_transport
1427
 
 
1428
 
        req = RedirectedRequest('GET', t.abspath('a'))
1429
 
        old_prefix = 'http://%s:%s' % (self.old_server.host,
1430
 
                                       self.old_server.port)
1431
 
        new_prefix = 'http://%s:%s' % (self.new_server.host,
1432
 
                                       self.new_server.port)
1433
 
        self.old_server.redirections = [
1434
 
            ('/1(.*)', r'%s/2\1' % (old_prefix), 302),
1435
 
            ('/2(.*)', r'%s/3\1' % (old_prefix), 303),
1436
 
            ('/3(.*)', r'%s/4\1' % (old_prefix), 307),
1437
 
            ('/4(.*)', r'%s/5\1' % (new_prefix), 301),
1438
 
            ('(/[^/]+)', r'%s/1\1' % (old_prefix), 301),
1439
 
            ]
1440
 
        self.assertEqual('redirected 5 times',t._perform(req).read())
1441
 
 
1442
 
 
1443
 
class TestDoCatchRedirections(http_utils.TestCaseWithRedirectedWebserver):
1444
 
    """Test transport.do_catching_redirections."""
1445
 
 
1446
 
    def setUp(self):
1447
 
        super(TestDoCatchRedirections, self).setUp()
1448
 
        self.build_tree_contents([('a', '0123456789'),],)
1449
 
 
1450
 
        self.old_transport = self._transport(self.old_server.get_url())
1451
 
 
1452
 
    def get_a(self, transport):
1453
 
        return transport.get('a')
1454
 
 
1455
 
    def test_no_redirection(self):
1456
 
        t = self._transport(self.new_server.get_url())
1457
 
 
1458
 
        # We use None for redirected so that we fail if redirected
1459
 
        self.assertEqual('0123456789',
1460
 
                         transport.do_catching_redirections(
1461
 
                self.get_a, t, None).read())
1462
 
 
1463
 
    def test_one_redirection(self):
1464
 
        self.redirections = 0
1465
 
 
1466
 
        def redirected(transport, exception, redirection_notice):
1467
 
            self.redirections += 1
1468
 
            dir, file = urlutils.split(exception.target)
1469
 
            return self._transport(dir)
1470
 
 
1471
 
        self.assertEqual('0123456789',
1472
 
                         transport.do_catching_redirections(
1473
 
                self.get_a, self.old_transport, redirected).read())
1474
 
        self.assertEqual(1, self.redirections)
1475
 
 
1476
 
    def test_redirection_loop(self):
1477
 
 
1478
 
        def redirected(transport, exception, redirection_notice):
1479
 
            # By using the redirected url as a base dir for the
1480
 
            # *old* transport, we create a loop: a => a/a =>
1481
 
            # a/a/a
1482
 
            return self.old_transport.clone(exception.target)
1483
 
 
1484
 
        self.assertRaises(errors.TooManyRedirections,
1485
 
                          transport.do_catching_redirections,
1486
 
                          self.get_a, self.old_transport, redirected)
1487
 
 
1488
 
 
1489
 
class TestAuth(http_utils.TestCaseWithWebserver):
1490
 
    """Test authentication scheme"""
1491
 
 
1492
 
    _auth_header = 'Authorization'
1493
 
    _password_prompt_prefix = ''
1494
 
    _username_prompt_prefix = ''
1495
 
    # Set by load_tests
1496
 
    _auth_server = None
1497
 
 
1498
 
    def setUp(self):
1499
 
        super(TestAuth, self).setUp()
1500
 
        self.server = self.get_readonly_server()
1501
 
        self.build_tree_contents([('a', 'contents of a\n'),
1502
 
                                  ('b', 'contents of b\n'),])
1503
 
 
1504
 
    def create_transport_readonly_server(self):
1505
 
        return self._auth_server(protocol_version=self._protocol_version)
1506
 
 
1507
 
    def _testing_pycurl(self):
1508
 
        # TODO: This is duplicated for lots of the classes in this file
1509
 
        return (features.pycurl.available()
1510
 
                and self._transport == PyCurlTransport)
1511
 
 
1512
 
    def get_user_url(self, user, password):
1513
 
        """Build an url embedding user and password"""
1514
 
        url = '%s://' % self.server._url_protocol
1515
 
        if user is not None:
1516
 
            url += user
1517
 
            if password is not None:
1518
 
                url += ':' + password
1519
 
            url += '@'
1520
 
        url += '%s:%s/' % (self.server.host, self.server.port)
1521
 
        return url
1522
 
 
1523
 
    def get_user_transport(self, user, password):
1524
 
        return self._transport(self.get_user_url(user, password))
1525
 
 
1526
 
    def test_no_user(self):
1527
 
        self.server.add_user('joe', 'foo')
1528
 
        t = self.get_user_transport(None, None)
1529
 
        self.assertRaises(errors.InvalidHttpResponse, t.get, 'a')
1530
 
        # Only one 'Authentication Required' error should occur
1531
 
        self.assertEqual(1, self.server.auth_required_errors)
1532
 
 
1533
 
    def test_empty_pass(self):
1534
 
        self.server.add_user('joe', '')
1535
 
        t = self.get_user_transport('joe', '')
1536
 
        self.assertEqual('contents of a\n', t.get('a').read())
1537
 
        # Only one 'Authentication Required' error should occur
1538
 
        self.assertEqual(1, self.server.auth_required_errors)
1539
 
 
1540
 
    def test_user_pass(self):
1541
 
        self.server.add_user('joe', 'foo')
1542
 
        t = self.get_user_transport('joe', 'foo')
1543
 
        self.assertEqual('contents of a\n', t.get('a').read())
1544
 
        # Only one 'Authentication Required' error should occur
1545
 
        self.assertEqual(1, self.server.auth_required_errors)
1546
 
 
1547
 
    def test_unknown_user(self):
1548
 
        self.server.add_user('joe', 'foo')
1549
 
        t = self.get_user_transport('bill', 'foo')
1550
 
        self.assertRaises(errors.InvalidHttpResponse, t.get, 'a')
1551
 
        # Two 'Authentication Required' errors should occur (the
1552
 
        # initial 'who are you' and 'I don't know you, who are
1553
 
        # you').
1554
 
        self.assertEqual(2, self.server.auth_required_errors)
1555
 
 
1556
 
    def test_wrong_pass(self):
1557
 
        self.server.add_user('joe', 'foo')
1558
 
        t = self.get_user_transport('joe', 'bar')
1559
 
        self.assertRaises(errors.InvalidHttpResponse, t.get, 'a')
1560
 
        # Two 'Authentication Required' errors should occur (the
1561
 
        # initial 'who are you' and 'this is not you, who are you')
1562
 
        self.assertEqual(2, self.server.auth_required_errors)
1563
 
 
1564
 
    def test_prompt_for_username(self):
1565
 
        if self._testing_pycurl():
1566
 
            raise tests.TestNotApplicable(
1567
 
                'pycurl cannot prompt, it handles auth by embedding'
1568
 
                ' user:pass in urls only')
1569
 
 
1570
 
        self.server.add_user('joe', 'foo')
1571
 
        t = self.get_user_transport(None, None)
1572
 
        stdout = tests.StringIOWrapper()
1573
 
        stderr = tests.StringIOWrapper()
1574
 
        ui.ui_factory = tests.TestUIFactory(stdin='joe\nfoo\n',
1575
 
                                            stdout=stdout, stderr=stderr)
1576
 
        self.assertEqual('contents of a\n',t.get('a').read())
1577
 
        # stdin should be empty
1578
 
        self.assertEqual('', ui.ui_factory.stdin.readline())
1579
 
        stderr.seek(0)
1580
 
        expected_prompt = self._expected_username_prompt(t._unqualified_scheme)
1581
 
        self.assertEqual(expected_prompt, stderr.read(len(expected_prompt)))
1582
 
        self.assertEqual('', stdout.getvalue())
1583
 
        self._check_password_prompt(t._unqualified_scheme, 'joe',
1584
 
                                    stderr.readline())
1585
 
 
1586
 
    def test_prompt_for_password(self):
1587
 
        if self._testing_pycurl():
1588
 
            raise tests.TestNotApplicable(
1589
 
                'pycurl cannot prompt, it handles auth by embedding'
1590
 
                ' user:pass in urls only')
1591
 
 
1592
 
        self.server.add_user('joe', 'foo')
1593
 
        t = self.get_user_transport('joe', None)
1594
 
        stdout = tests.StringIOWrapper()
1595
 
        stderr = tests.StringIOWrapper()
1596
 
        ui.ui_factory = tests.TestUIFactory(stdin='foo\n',
1597
 
                                            stdout=stdout, stderr=stderr)
1598
 
        self.assertEqual('contents of a\n', t.get('a').read())
1599
 
        # stdin should be empty
1600
 
        self.assertEqual('', ui.ui_factory.stdin.readline())
1601
 
        self._check_password_prompt(t._unqualified_scheme, 'joe',
1602
 
                                    stderr.getvalue())
1603
 
        self.assertEqual('', stdout.getvalue())
1604
 
        # And we shouldn't prompt again for a different request
1605
 
        # against the same transport.
1606
 
        self.assertEqual('contents of b\n',t.get('b').read())
1607
 
        t2 = t.clone()
1608
 
        # And neither against a clone
1609
 
        self.assertEqual('contents of b\n',t2.get('b').read())
1610
 
        # Only one 'Authentication Required' error should occur
1611
 
        self.assertEqual(1, self.server.auth_required_errors)
1612
 
 
1613
 
    def _check_password_prompt(self, scheme, user, actual_prompt):
1614
 
        expected_prompt = (self._password_prompt_prefix
1615
 
                           + ("%s %s@%s:%d, Realm: '%s' password: "
1616
 
                              % (scheme.upper(),
1617
 
                                 user, self.server.host, self.server.port,
1618
 
                                 self.server.auth_realm)))
1619
 
        self.assertEqual(expected_prompt, actual_prompt)
1620
 
 
1621
 
    def _expected_username_prompt(self, scheme):
1622
 
        return (self._username_prompt_prefix
1623
 
                + "%s %s:%d, Realm: '%s' username: " % (scheme.upper(),
1624
 
                                 self.server.host, self.server.port,
1625
 
                                 self.server.auth_realm))
1626
 
 
1627
 
    def test_no_prompt_for_password_when_using_auth_config(self):
1628
 
        if self._testing_pycurl():
1629
 
            raise tests.TestNotApplicable(
1630
 
                'pycurl does not support authentication.conf'
1631
 
                ' since it cannot prompt')
1632
 
 
1633
 
        user =' joe'
1634
 
        password = 'foo'
1635
 
        stdin_content = 'bar\n'  # Not the right password
1636
 
        self.server.add_user(user, password)
1637
 
        t = self.get_user_transport(user, None)
1638
 
        ui.ui_factory = tests.TestUIFactory(stdin=stdin_content,
1639
 
                                            stderr=tests.StringIOWrapper())
1640
 
        # Create a minimal config file with the right password
1641
 
        conf = config.AuthenticationConfig()
1642
 
        conf._get_config().update(
1643
 
            {'httptest': {'scheme': 'http', 'port': self.server.port,
1644
 
                          'user': user, 'password': password}})
1645
 
        conf._save()
1646
 
        # Issue a request to the server to connect
1647
 
        self.assertEqual('contents of a\n',t.get('a').read())
1648
 
        # stdin should have  been left untouched
1649
 
        self.assertEqual(stdin_content, ui.ui_factory.stdin.readline())
1650
 
        # Only one 'Authentication Required' error should occur
1651
 
        self.assertEqual(1, self.server.auth_required_errors)
1652
 
 
1653
 
    def test_user_from_auth_conf(self):
1654
 
        if self._testing_pycurl():
1655
 
            raise tests.TestNotApplicable(
1656
 
                'pycurl does not support authentication.conf')
1657
 
        user = 'joe'
1658
 
        password = 'foo'
1659
 
        self.server.add_user(user, password)
1660
 
        # Create a minimal config file with the right password
1661
 
        conf = config.AuthenticationConfig()
1662
 
        conf._get_config().update(
1663
 
            {'httptest': {'scheme': 'http', 'port': self.server.port,
1664
 
                          'user': user, 'password': password}})
1665
 
        conf._save()
1666
 
        t = self.get_user_transport(None, None)
1667
 
        # Issue a request to the server to connect
1668
 
        self.assertEqual('contents of a\n', t.get('a').read())
1669
 
        # Only one 'Authentication Required' error should occur
1670
 
        self.assertEqual(1, self.server.auth_required_errors)
1671
 
 
1672
 
    def test_changing_nonce(self):
1673
 
        if self._auth_server not in (http_utils.HTTPDigestAuthServer,
1674
 
                                     http_utils.ProxyDigestAuthServer):
1675
 
            raise tests.TestNotApplicable('HTTP/proxy auth digest only test')
1676
 
        if self._testing_pycurl():
1677
 
            raise tests.KnownFailure(
1678
 
                'pycurl does not handle a nonce change')
1679
 
        self.server.add_user('joe', 'foo')
1680
 
        t = self.get_user_transport('joe', 'foo')
1681
 
        self.assertEqual('contents of a\n', t.get('a').read())
1682
 
        self.assertEqual('contents of b\n', t.get('b').read())
1683
 
        # Only one 'Authentication Required' error should have
1684
 
        # occured so far
1685
 
        self.assertEqual(1, self.server.auth_required_errors)
1686
 
        # The server invalidates the current nonce
1687
 
        self.server.auth_nonce = self.server.auth_nonce + '. No, now!'
1688
 
        self.assertEqual('contents of a\n', t.get('a').read())
1689
 
        # Two 'Authentication Required' errors should occur (the
1690
 
        # initial 'who are you' and a second 'who are you' with the new nonce)
1691
 
        self.assertEqual(2, self.server.auth_required_errors)
1692
 
 
1693
 
 
1694
 
 
1695
 
class TestProxyAuth(TestAuth):
1696
 
    """Test proxy authentication schemes."""
1697
 
 
1698
 
    _auth_header = 'Proxy-authorization'
1699
 
    _password_prompt_prefix = 'Proxy '
1700
 
    _username_prompt_prefix = 'Proxy '
1701
 
 
1702
 
    def setUp(self):
1703
 
        super(TestProxyAuth, self).setUp()
1704
 
        self._old_env = {}
1705
 
        self.addCleanup(self._restore_env)
1706
 
        # Override the contents to avoid false positives
1707
 
        self.build_tree_contents([('a', 'not proxied contents of a\n'),
1708
 
                                  ('b', 'not proxied contents of b\n'),
1709
 
                                  ('a-proxied', 'contents of a\n'),
1710
 
                                  ('b-proxied', 'contents of b\n'),
1711
 
                                  ])
1712
 
 
1713
 
    def get_user_transport(self, user, password):
1714
 
        self._install_env({'all_proxy': self.get_user_url(user, password)})
1715
 
        return self._transport(self.server.get_url())
1716
 
 
1717
 
    def _install_env(self, env):
1718
 
        for name, value in env.iteritems():
1719
 
            self._old_env[name] = osutils.set_or_unset_env(name, value)
1720
 
 
1721
 
    def _restore_env(self):
1722
 
        for name, value in self._old_env.iteritems():
1723
 
            osutils.set_or_unset_env(name, value)
1724
 
 
1725
 
    def test_empty_pass(self):
1726
 
        if self._testing_pycurl():
1727
 
            import pycurl
1728
 
            if pycurl.version_info()[1] < '7.16.0':
1729
 
                raise tests.KnownFailure(
1730
 
                    'pycurl < 7.16.0 does not handle empty proxy passwords')
1731
 
        super(TestProxyAuth, self).test_empty_pass()
1732
 
 
1733
 
 
1734
 
class SampleSocket(object):
1735
 
    """A socket-like object for use in testing the HTTP request handler."""
1736
 
 
1737
 
    def __init__(self, socket_read_content):
1738
 
        """Constructs a sample socket.
1739
 
 
1740
 
        :param socket_read_content: a byte sequence
1741
 
        """
1742
 
        # Use plain python StringIO so we can monkey-patch the close method to
1743
 
        # not discard the contents.
1744
 
        from StringIO import StringIO
1745
 
        self.readfile = StringIO(socket_read_content)
1746
 
        self.writefile = StringIO()
1747
 
        self.writefile.close = lambda: None
1748
 
 
1749
 
    def makefile(self, mode='r', bufsize=None):
1750
 
        if 'r' in mode:
1751
 
            return self.readfile
1752
 
        else:
1753
 
            return self.writefile
1754
 
 
1755
 
 
1756
 
class SmartHTTPTunnellingTest(tests.TestCaseWithTransport):
1757
 
 
1758
 
    def setUp(self):
1759
 
        super(SmartHTTPTunnellingTest, self).setUp()
1760
 
        # We use the VFS layer as part of HTTP tunnelling tests.
1761
 
        self._captureVar('BZR_NO_SMART_VFS', None)
1762
 
        self.transport_readonly_server = http_utils.HTTPServerWithSmarts
1763
 
 
1764
 
    def create_transport_readonly_server(self):
1765
 
        return http_utils.HTTPServerWithSmarts(
1766
 
            protocol_version=self._protocol_version)
1767
 
 
1768
 
    def test_open_bzrdir(self):
1769
 
        branch = self.make_branch('relpath')
1770
 
        http_server = self.get_readonly_server()
1771
 
        url = http_server.get_url() + 'relpath'
1772
 
        bd = bzrdir.BzrDir.open(url)
1773
 
        self.assertIsInstance(bd, _mod_remote.RemoteBzrDir)
1774
 
 
1775
 
    def test_bulk_data(self):
1776
 
        # We should be able to send and receive bulk data in a single message.
1777
 
        # The 'readv' command in the smart protocol both sends and receives
1778
 
        # bulk data, so we use that.
1779
 
        self.build_tree(['data-file'])
1780
 
        http_server = self.get_readonly_server()
1781
 
        http_transport = self._transport(http_server.get_url())
1782
 
        medium = http_transport.get_smart_medium()
1783
 
        # Since we provide the medium, the url below will be mostly ignored
1784
 
        # during the test, as long as the path is '/'.
1785
 
        remote_transport = remote.RemoteTransport('bzr://fake_host/',
1786
 
                                                  medium=medium)
1787
 
        self.assertEqual(
1788
 
            [(0, "c")], list(remote_transport.readv("data-file", [(0,1)])))
1789
 
 
1790
 
    def test_http_send_smart_request(self):
1791
 
 
1792
 
        post_body = 'hello\n'
1793
 
        expected_reply_body = 'ok\x012\n'
1794
 
 
1795
 
        http_server = self.get_readonly_server()
1796
 
        http_transport = self._transport(http_server.get_url())
1797
 
        medium = http_transport.get_smart_medium()
1798
 
        response = medium.send_http_smart_request(post_body)
1799
 
        reply_body = response.read()
1800
 
        self.assertEqual(expected_reply_body, reply_body)
1801
 
 
1802
 
    def test_smart_http_server_post_request_handler(self):
1803
 
        httpd = self.get_readonly_server()._get_httpd()
1804
 
 
1805
 
        socket = SampleSocket(
1806
 
            'POST /.bzr/smart %s \r\n' % self._protocol_version
1807
 
            # HTTP/1.1 posts must have a Content-Length (but it doesn't hurt
1808
 
            # for 1.0)
1809
 
            + 'Content-Length: 6\r\n'
1810
 
            '\r\n'
1811
 
            'hello\n')
1812
 
        # Beware: the ('localhost', 80) below is the
1813
 
        # client_address parameter, but we don't have one because
1814
 
        # we have defined a socket which is not bound to an
1815
 
        # address. The test framework never uses this client
1816
 
        # address, so far...
1817
 
        request_handler = http_utils.SmartRequestHandler(socket,
1818
 
                                                         ('localhost', 80),
1819
 
                                                         httpd)
1820
 
        response = socket.writefile.getvalue()
1821
 
        self.assertStartsWith(response, '%s 200 ' % self._protocol_version)
1822
 
        # This includes the end of the HTTP headers, and all the body.
1823
 
        expected_end_of_response = '\r\n\r\nok\x012\n'
1824
 
        self.assertEndsWith(response, expected_end_of_response)
1825
 
 
1826
 
 
1827
 
class ForbiddenRequestHandler(http_server.TestingHTTPRequestHandler):
1828
 
    """No smart server here request handler."""
1829
 
 
1830
 
    def do_POST(self):
1831
 
        self.send_error(403, "Forbidden")
1832
 
 
1833
 
 
1834
 
class SmartClientAgainstNotSmartServer(TestSpecificRequestHandler):
1835
 
    """Test smart client behaviour against an http server without smarts."""
1836
 
 
1837
 
    _req_handler_class = ForbiddenRequestHandler
1838
 
 
1839
 
    def test_probe_smart_server(self):
1840
 
        """Test error handling against server refusing smart requests."""
1841
 
        server = self.get_readonly_server()
1842
 
        t = self._transport(server.get_url())
1843
 
        # No need to build a valid smart request here, the server will not even
1844
 
        # try to interpret it.
1845
 
        self.assertRaises(errors.SmartProtocolError,
1846
 
                          t.get_smart_medium().send_http_smart_request,
1847
 
                          'whatever')
1848
 
 
1849
 
class Test_redirected_to(tests.TestCase):
1850
 
 
1851
 
    def test_redirected_to_subdir(self):
1852
 
        t = self._transport('http://www.example.com/foo')
1853
 
        r = t._redirected_to('http://www.example.com/foo',
1854
 
                             'http://www.example.com/foo/subdir')
1855
 
        self.assertIsInstance(r, type(t))
1856
 
        # Both transports share the some connection
1857
 
        self.assertEqual(t._get_connection(), r._get_connection())
1858
 
 
1859
 
    def test_redirected_to_self_with_slash(self):
1860
 
        t = self._transport('http://www.example.com/foo')
1861
 
        r = t._redirected_to('http://www.example.com/foo',
1862
 
                             'http://www.example.com/foo/')
1863
 
        self.assertIsInstance(r, type(t))
1864
 
        # Both transports share the some connection (one can argue that we
1865
 
        # should return the exact same transport here, but that seems
1866
 
        # overkill).
1867
 
        self.assertEqual(t._get_connection(), r._get_connection())
1868
 
 
1869
 
    def test_redirected_to_host(self):
1870
 
        t = self._transport('http://www.example.com/foo')
1871
 
        r = t._redirected_to('http://www.example.com/foo',
1872
 
                             'http://foo.example.com/foo/subdir')
1873
 
        self.assertIsInstance(r, type(t))
1874
 
 
1875
 
    def test_redirected_to_same_host_sibling_protocol(self):
1876
 
        t = self._transport('http://www.example.com/foo')
1877
 
        r = t._redirected_to('http://www.example.com/foo',
1878
 
                             'https://www.example.com/foo')
1879
 
        self.assertIsInstance(r, type(t))
1880
 
 
1881
 
    def test_redirected_to_same_host_different_protocol(self):
1882
 
        t = self._transport('http://www.example.com/foo')
1883
 
        r = t._redirected_to('http://www.example.com/foo',
1884
 
                             'ftp://www.example.com/foo')
1885
 
        self.assertNotEquals(type(r), type(t))
1886
 
 
1887
 
    def test_redirected_to_different_host_same_user(self):
1888
 
        t = self._transport('http://joe@www.example.com/foo')
1889
 
        r = t._redirected_to('http://www.example.com/foo',
1890
 
                             'https://foo.example.com/foo')
1891
 
        self.assertIsInstance(r, type(t))
1892
 
        self.assertEqual(t._user, r._user)
1893
 
 
1894
 
 
1895
 
class PredefinedRequestHandler(http_server.TestingHTTPRequestHandler):
1896
 
    """Request handler for a unique and pre-defined request.
1897
 
 
1898
 
    The only thing we care about here is how many bytes travel on the wire. But
1899
 
    since we want to measure it for a real http client, we have to send it
1900
 
    correct responses.
1901
 
 
1902
 
    We expect to receive a *single* request nothing more (and we won't even
1903
 
    check what request it is, we just measure the bytes read until an empty
1904
 
    line.
1905
 
    """
1906
 
 
1907
 
    def handle_one_request(self):
1908
 
        tcs = self.server.test_case_server
1909
 
        requestline = self.rfile.readline()
1910
 
        headers = self.MessageClass(self.rfile, 0)
1911
 
        # We just read: the request, the headers, an empty line indicating the
1912
 
        # end of the headers.
1913
 
        bytes_read = len(requestline)
1914
 
        for line in headers.headers:
1915
 
            bytes_read += len(line)
1916
 
        bytes_read += len('\r\n')
1917
 
        if requestline.startswith('POST'):
1918
 
            # The body should be a single line (or we don't know where it ends
1919
 
            # and we don't want to issue a blocking read)
1920
 
            body = self.rfile.readline()
1921
 
            bytes_read += len(body)
1922
 
        tcs.bytes_read = bytes_read
1923
 
 
1924
 
        # We set the bytes written *before* issuing the write, the client is
1925
 
        # supposed to consume every produced byte *before* checking that value.
1926
 
 
1927
 
        # Doing the oppposite may lead to test failure: we may be interrupted
1928
 
        # after the write but before updating the value. The client can then
1929
 
        # continue and read the value *before* we can update it. And yes,
1930
 
        # this has been observed -- vila 20090129
1931
 
        tcs.bytes_written = len(tcs.canned_response)
1932
 
        self.wfile.write(tcs.canned_response)
1933
 
 
1934
 
 
1935
 
class ActivityServerMixin(object):
1936
 
 
1937
 
    def __init__(self, protocol_version):
1938
 
        super(ActivityServerMixin, self).__init__(
1939
 
            request_handler=PredefinedRequestHandler,
1940
 
            protocol_version=protocol_version)
1941
 
        # Bytes read and written by the server
1942
 
        self.bytes_read = 0
1943
 
        self.bytes_written = 0
1944
 
        self.canned_response = None
1945
 
 
1946
 
 
1947
 
class ActivityHTTPServer(ActivityServerMixin, http_server.HttpServer):
1948
 
    pass
1949
 
 
1950
 
 
1951
 
if tests.HTTPSServerFeature.available():
1952
 
    from bzrlib.tests import https_server
1953
 
    class ActivityHTTPSServer(ActivityServerMixin, https_server.HTTPSServer):
1954
 
        pass
1955
 
 
1956
 
 
1957
 
class TestActivityMixin(object):
1958
 
    """Test socket activity reporting.
1959
 
 
1960
 
    We use a special purpose server to control the bytes sent and received and
1961
 
    be able to predict the activity on the client socket.
1962
 
    """
1963
 
 
1964
 
    def setUp(self):
1965
 
        tests.TestCase.setUp(self)
1966
 
        self.server = self._activity_server(self._protocol_version)
1967
 
        self.server.start_server()
1968
 
        self.activities = {}
1969
 
        def report_activity(t, bytes, direction):
1970
 
            count = self.activities.get(direction, 0)
1971
 
            count += bytes
1972
 
            self.activities[direction] = count
1973
 
 
1974
 
        # We override at class level because constructors may propagate the
1975
 
        # bound method and render instance overriding ineffective (an
1976
 
        # alternative would be to define a specific ui factory instead...)
1977
 
        self.orig_report_activity = self._transport._report_activity
1978
 
        self._transport._report_activity = report_activity
1979
 
 
1980
 
    def tearDown(self):
1981
 
        self._transport._report_activity = self.orig_report_activity
1982
 
        self.server.stop_server()
1983
 
        tests.TestCase.tearDown(self)
1984
 
 
1985
 
    def get_transport(self):
1986
 
        return self._transport(self.server.get_url())
1987
 
 
1988
 
    def assertActivitiesMatch(self):
1989
 
        self.assertEqual(self.server.bytes_read,
1990
 
                         self.activities.get('write', 0), 'written bytes')
1991
 
        self.assertEqual(self.server.bytes_written,
1992
 
                         self.activities.get('read', 0), 'read bytes')
1993
 
 
1994
 
    def test_get(self):
1995
 
        self.server.canned_response = '''HTTP/1.1 200 OK\r
1996
 
Date: Tue, 11 Jul 2006 04:32:56 GMT\r
1997
 
Server: Apache/2.0.54 (Fedora)\r
1998
 
Last-Modified: Sun, 23 Apr 2006 19:35:20 GMT\r
1999
 
ETag: "56691-23-38e9ae00"\r
2000
 
Accept-Ranges: bytes\r
2001
 
Content-Length: 35\r
2002
 
Connection: close\r
2003
 
Content-Type: text/plain; charset=UTF-8\r
2004
 
\r
2005
 
Bazaar-NG meta directory, format 1
2006
 
'''
2007
 
        t = self.get_transport()
2008
 
        self.assertEqual('Bazaar-NG meta directory, format 1\n',
2009
 
                         t.get('foo/bar').read())
2010
 
        self.assertActivitiesMatch()
2011
 
 
2012
 
    def test_has(self):
2013
 
        self.server.canned_response = '''HTTP/1.1 200 OK\r
2014
 
Server: SimpleHTTP/0.6 Python/2.5.2\r
2015
 
Date: Thu, 29 Jan 2009 20:21:47 GMT\r
2016
 
Content-type: application/octet-stream\r
2017
 
Content-Length: 20\r
2018
 
Last-Modified: Thu, 29 Jan 2009 20:21:47 GMT\r
2019
 
\r
2020
 
'''
2021
 
        t = self.get_transport()
2022
 
        self.assertTrue(t.has('foo/bar'))
2023
 
        self.assertActivitiesMatch()
2024
 
 
2025
 
    def test_readv(self):
2026
 
        self.server.canned_response = '''HTTP/1.1 206 Partial Content\r
2027
 
Date: Tue, 11 Jul 2006 04:49:48 GMT\r
2028
 
Server: Apache/2.0.54 (Fedora)\r
2029
 
Last-Modified: Thu, 06 Jul 2006 20:22:05 GMT\r
2030
 
ETag: "238a3c-16ec2-805c5540"\r
2031
 
Accept-Ranges: bytes\r
2032
 
Content-Length: 1534\r
2033
 
Connection: close\r
2034
 
Content-Type: multipart/byteranges; boundary=418470f848b63279b\r
2035
 
\r
2036
 
\r
2037
 
--418470f848b63279b\r
2038
 
Content-type: text/plain; charset=UTF-8\r
2039
 
Content-range: bytes 0-254/93890\r
2040
 
\r
2041
 
mbp@sourcefrog.net-20050309040815-13242001617e4a06
2042
 
mbp@sourcefrog.net-20050309040929-eee0eb3e6d1e7627
2043
 
mbp@sourcefrog.net-20050309040957-6cad07f466bb0bb8
2044
 
mbp@sourcefrog.net-20050309041501-c840e09071de3b67
2045
 
mbp@sourcefrog.net-20050309044615-c24a3250be83220a
2046
 
\r
2047
 
--418470f848b63279b\r
2048
 
Content-type: text/plain; charset=UTF-8\r
2049
 
Content-range: bytes 1000-2049/93890\r
2050
 
\r
2051
 
40-fd4ec249b6b139ab
2052
 
mbp@sourcefrog.net-20050311063625-07858525021f270b
2053
 
mbp@sourcefrog.net-20050311231934-aa3776aff5200bb9
2054
 
mbp@sourcefrog.net-20050311231953-73aeb3a131c3699a
2055
 
mbp@sourcefrog.net-20050311232353-f5e33da490872c6a
2056
 
mbp@sourcefrog.net-20050312071639-0a8f59a34a024ff0
2057
 
mbp@sourcefrog.net-20050312073432-b2c16a55e0d6e9fb
2058
 
mbp@sourcefrog.net-20050312073831-a47c3335ece1920f
2059
 
mbp@sourcefrog.net-20050312085412-13373aa129ccbad3
2060
 
mbp@sourcefrog.net-20050313052251-2bf004cb96b39933
2061
 
mbp@sourcefrog.net-20050313052856-3edd84094687cb11
2062
 
mbp@sourcefrog.net-20050313053233-e30a4f28aef48f9d
2063
 
mbp@sourcefrog.net-20050313053853-7c64085594ff3072
2064
 
mbp@sourcefrog.net-20050313054757-a86c3f5871069e22
2065
 
mbp@sourcefrog.net-20050313061422-418f1f73b94879b9
2066
 
mbp@sourcefrog.net-20050313120651-497bd231b19df600
2067
 
mbp@sourcefrog.net-20050314024931-eae0170ef25a5d1a
2068
 
mbp@sourcefrog.net-20050314025438-d52099f915fe65fc
2069
 
mbp@sourcefrog.net-20050314025539-637a636692c055cf
2070
 
mbp@sourcefrog.net-20050314025737-55eb441f430ab4ba
2071
 
mbp@sourcefrog.net-20050314025901-d74aa93bb7ee8f62
2072
 
mbp@source\r
2073
 
--418470f848b63279b--\r
2074
 
'''
2075
 
        t = self.get_transport()
2076
 
        # Remember that the request is ignored and that the ranges below
2077
 
        # doesn't have to match the canned response.
2078
 
        l = list(t.readv('/foo/bar', ((0, 255), (1000, 1050))))
2079
 
        self.assertEqual(2, len(l))
2080
 
        self.assertActivitiesMatch()
2081
 
 
2082
 
    def test_post(self):
2083
 
        self.server.canned_response = '''HTTP/1.1 200 OK\r
2084
 
Date: Tue, 11 Jul 2006 04:32:56 GMT\r
2085
 
Server: Apache/2.0.54 (Fedora)\r
2086
 
Last-Modified: Sun, 23 Apr 2006 19:35:20 GMT\r
2087
 
ETag: "56691-23-38e9ae00"\r
2088
 
Accept-Ranges: bytes\r
2089
 
Content-Length: 35\r
2090
 
Connection: close\r
2091
 
Content-Type: text/plain; charset=UTF-8\r
2092
 
\r
2093
 
lalala whatever as long as itsssss
2094
 
'''
2095
 
        t = self.get_transport()
2096
 
        # We must send a single line of body bytes, see
2097
 
        # PredefinedRequestHandler.handle_one_request
2098
 
        code, f = t._post('abc def end-of-body\n')
2099
 
        self.assertEqual('lalala whatever as long as itsssss\n', f.read())
2100
 
        self.assertActivitiesMatch()
2101
 
 
2102
 
 
2103
 
class TestActivity(tests.TestCase, TestActivityMixin):
2104
 
 
2105
 
    def setUp(self):
2106
 
        tests.TestCase.setUp(self)
2107
 
        self.server = self._activity_server(self._protocol_version)
2108
 
        self.server.start_server()
2109
 
        self.activities = {}
2110
 
        def report_activity(t, bytes, direction):
2111
 
            count = self.activities.get(direction, 0)
2112
 
            count += bytes
2113
 
            self.activities[direction] = count
2114
 
 
2115
 
        # We override at class level because constructors may propagate the
2116
 
        # bound method and render instance overriding ineffective (an
2117
 
        # alternative would be to define a specific ui factory instead...)
2118
 
        self.orig_report_activity = self._transport._report_activity
2119
 
        self._transport._report_activity = report_activity
2120
 
 
2121
 
    def tearDown(self):
2122
 
        self._transport._report_activity = self.orig_report_activity
2123
 
        self.server.stop_server()
2124
 
        tests.TestCase.tearDown(self)
2125
 
 
2126
 
 
2127
 
class TestNoReportActivity(tests.TestCase, TestActivityMixin):
2128
 
 
2129
 
    def setUp(self):
2130
 
        tests.TestCase.setUp(self)
2131
 
        # Unlike TestActivity, we are really testing ReportingFileSocket and
2132
 
        # ReportingSocket, so we don't need all the parametrization. Since
2133
 
        # ReportingFileSocket and ReportingSocket are wrappers, it's easier to
2134
 
        # test them through their use by the transport than directly (that's a
2135
 
        # bit less clean but far more simpler and effective).
2136
 
        self.server = ActivityHTTPServer('HTTP/1.1')
2137
 
        self._transport=_urllib.HttpTransport_urllib
2138
 
 
2139
 
        self.server.start_server()
2140
 
 
2141
 
        # We override at class level because constructors may propagate the
2142
 
        # bound method and render instance overriding ineffective (an
2143
 
        # alternative would be to define a specific ui factory instead...)
2144
 
        self.orig_report_activity = self._transport._report_activity
2145
 
        self._transport._report_activity = None
2146
 
 
2147
 
    def tearDown(self):
2148
 
        self._transport._report_activity = self.orig_report_activity
2149
 
        self.server.stop_server()
2150
 
        tests.TestCase.tearDown(self)
2151
 
 
2152
 
    def assertActivitiesMatch(self):
2153
 
        # Nothing to check here
2154
 
        pass
2155
 
 
2156
 
 
2157
 
class TestAuthOnRedirected(http_utils.TestCaseWithRedirectedWebserver):
2158
 
    """Test authentication on the redirected http server."""
2159
 
 
2160
 
    _auth_header = 'Authorization'
2161
 
    _password_prompt_prefix = ''
2162
 
    _username_prompt_prefix = ''
2163
 
    _auth_server = http_utils.HTTPBasicAuthServer
2164
 
    _transport = _urllib.HttpTransport_urllib
2165
 
 
2166
 
    def create_transport_readonly_server(self):
2167
 
        return self._auth_server()
2168
 
 
2169
 
    def create_transport_secondary_server(self):
2170
 
        """Create the secondary server redirecting to the primary server"""
2171
 
        new = self.get_readonly_server()
2172
 
 
2173
 
        redirecting = http_utils.HTTPServerRedirecting()
2174
 
        redirecting.redirect_to(new.host, new.port)
2175
 
        return redirecting
2176
 
 
2177
 
    def setUp(self):
2178
 
        super(TestAuthOnRedirected, self).setUp()
2179
 
        self.build_tree_contents([('a','a'),
2180
 
                                  ('1/',),
2181
 
                                  ('1/a', 'redirected once'),
2182
 
                                  ],)
2183
 
        new_prefix = 'http://%s:%s' % (self.new_server.host,
2184
 
                                       self.new_server.port)
2185
 
        self.old_server.redirections = [
2186
 
            ('(.*)', r'%s/1\1' % (new_prefix), 301),]
2187
 
        self.old_transport = self._transport(self.old_server.get_url())
2188
 
        self.new_server.add_user('joe', 'foo')
2189
 
 
2190
 
    def get_a(self, transport):
2191
 
        return transport.get('a')
2192
 
 
2193
 
    def test_auth_on_redirected_via_do_catching_redirections(self):
2194
 
        self.redirections = 0
2195
 
 
2196
 
        def redirected(transport, exception, redirection_notice):
2197
 
            self.redirections += 1
2198
 
            dir, file = urlutils.split(exception.target)
2199
 
            return self._transport(dir)
2200
 
 
2201
 
        stdout = tests.StringIOWrapper()
2202
 
        stderr = tests.StringIOWrapper()
2203
 
        ui.ui_factory = tests.TestUIFactory(stdin='joe\nfoo\n',
2204
 
                                            stdout=stdout, stderr=stderr)
2205
 
        self.assertEqual('redirected once',
2206
 
                         transport.do_catching_redirections(
2207
 
                self.get_a, self.old_transport, redirected).read())
2208
 
        self.assertEqual(1, self.redirections)
2209
 
        # stdin should be empty
2210
 
        self.assertEqual('', ui.ui_factory.stdin.readline())
2211
 
        # stdout should be empty, stderr will contains the prompts
2212
 
        self.assertEqual('', stdout.getvalue())
2213
 
 
2214
 
    def test_auth_on_redirected_via_following_redirections(self):
2215
 
        self.new_server.add_user('joe', 'foo')
2216
 
        stdout = tests.StringIOWrapper()
2217
 
        stderr = tests.StringIOWrapper()
2218
 
        ui.ui_factory = tests.TestUIFactory(stdin='joe\nfoo\n',
2219
 
                                            stdout=stdout, stderr=stderr)
2220
 
        t = self.old_transport
2221
 
        req = RedirectedRequest('GET', t.abspath('a'))
2222
 
        new_prefix = 'http://%s:%s' % (self.new_server.host,
2223
 
                                       self.new_server.port)
2224
 
        self.old_server.redirections = [
2225
 
            ('(.*)', r'%s/1\1' % (new_prefix), 301),]
2226
 
        self.assertEqual('redirected once',t._perform(req).read())
2227
 
        # stdin should be empty
2228
 
        self.assertEqual('', ui.ui_factory.stdin.readline())
2229
 
        # stdout should be empty, stderr will contains the prompts
2230
 
        self.assertEqual('', stdout.getvalue())
2231
 
 
2232