~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/tests/test_http.py

  • Committer: Ian Clatworthy
  • Date: 2007-12-11 02:07:30 UTC
  • mto: (3119.1.1 ianc-integration)
  • mto: This revision was merged to the branch mainline in revision 3120.
  • Revision ID: ian.clatworthy@internode.on.net-20071211020730-sdj4kj794dw0628e
make help topics more discoverable

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2011 Canonical Ltd
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
"""Tests for HTTP implementations.
18
 
 
19
 
This module defines a load_tests() method that parametrize tests classes for
20
 
transport implementation, http protocol versions and authentication schemes.
21
 
"""
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
 
17
# FIXME: This test should be repeated for each available http client
 
18
# implementation; at the moment we have urllib and pycurl.
22
19
 
23
20
# TODO: Should be renamed to bzrlib.transport.http.tests?
24
21
# TODO: What about renaming to bzrlib.tests.transport.http ?
25
22
 
26
 
import httplib
27
 
import SimpleHTTPServer
 
23
from cStringIO import StringIO
 
24
import os
 
25
import select
28
26
import socket
29
27
import sys
30
28
import threading
31
29
 
32
30
import bzrlib
33
31
from bzrlib import (
34
 
    bzrdir,
35
 
    cethread,
36
32
    config,
37
 
    debug,
38
33
    errors,
39
34
    osutils,
40
 
    remote as _mod_remote,
41
35
    tests,
42
 
    trace,
43
 
    transport,
44
36
    ui,
45
 
    )
46
 
from bzrlib.tests import (
47
 
    features,
48
 
    http_server,
49
 
    http_utils,
50
 
    test_server,
51
 
    )
52
 
from bzrlib.tests.scenarios import (
53
 
    load_tests_apply_scenarios,
54
 
    multiply_scenarios,
 
37
    urlutils,
 
38
    )
 
39
from bzrlib.tests.HttpServer import (
 
40
    HttpServer,
 
41
    HttpServer_PyCurl,
 
42
    HttpServer_urllib,
 
43
    )
 
44
from bzrlib.tests.HTTPTestUtil import (
 
45
    BadProtocolRequestHandler,
 
46
    BadStatusRequestHandler,
 
47
    ForbiddenRequestHandler,
 
48
    HTTPBasicAuthServer,
 
49
    HTTPDigestAuthServer,
 
50
    HTTPServerRedirecting,
 
51
    InvalidStatusRequestHandler,
 
52
    LimitedRangeHTTPServer,
 
53
    NoRangeRequestHandler,
 
54
    ProxyBasicAuthServer,
 
55
    ProxyDigestAuthServer,
 
56
    ProxyServer,
 
57
    SingleRangeRequestHandler,
 
58
    SingleOnlyRangeRequestHandler,
 
59
    TestCaseWithRedirectedWebserver,
 
60
    TestCaseWithTwoWebservers,
 
61
    TestCaseWithWebserver,
 
62
    WallRequestHandler,
55
63
    )
56
64
from bzrlib.transport import (
57
 
    http,
58
 
    remote,
 
65
    _CoalescedOffset,
 
66
    do_catching_redirections,
 
67
    get_transport,
 
68
    Transport,
59
69
    )
60
70
from bzrlib.transport.http import (
61
 
    _urllib,
 
71
    extract_auth,
 
72
    HttpTransportBase,
62
73
    _urllib2_wrappers,
63
74
    )
64
 
 
65
 
 
66
 
if features.pycurl.available():
67
 
    from bzrlib.transport.http._pycurl import PyCurlTransport
68
 
 
69
 
 
70
 
load_tests = load_tests_apply_scenarios
71
 
 
72
 
 
73
 
def vary_by_http_client_implementation():
74
 
    """Test the two libraries we can use, pycurl and urllib."""
75
 
    transport_scenarios = [
76
 
        ('urllib', dict(_transport=_urllib.HttpTransport_urllib,
77
 
                        _server=http_server.HttpServer_urllib,
78
 
                        _url_protocol='http+urllib',)),
79
 
        ]
80
 
    if features.pycurl.available():
81
 
        transport_scenarios.append(
82
 
            ('pycurl', dict(_transport=PyCurlTransport,
83
 
                            _server=http_server.HttpServer_PyCurl,
84
 
                            _url_protocol='http+pycurl',)))
85
 
    return transport_scenarios
86
 
 
87
 
 
88
 
def vary_by_http_protocol_version():
89
 
    """Test on http/1.0 and 1.1"""
90
 
    return [
91
 
        ('HTTP/1.0',  dict(_protocol_version='HTTP/1.0')),
92
 
        ('HTTP/1.1',  dict(_protocol_version='HTTP/1.1')),
93
 
        ]
94
 
 
95
 
 
96
 
def vary_by_http_auth_scheme():
97
 
    scenarios = [
98
 
        ('basic', dict(_auth_server=http_utils.HTTPBasicAuthServer)),
99
 
        ('digest', dict(_auth_server=http_utils.HTTPDigestAuthServer)),
100
 
        ('basicdigest',
101
 
            dict(_auth_server=http_utils.HTTPBasicAndDigestAuthServer)),
102
 
        ]
103
 
    # Add some attributes common to all scenarios
104
 
    for scenario_id, scenario_dict in scenarios:
105
 
        scenario_dict.update(_auth_header='Authorization',
106
 
                             _username_prompt_prefix='',
107
 
                             _password_prompt_prefix='')
108
 
    return scenarios
109
 
 
110
 
 
111
 
def vary_by_http_proxy_auth_scheme():
112
 
    scenarios = [
113
 
        ('proxy-basic', dict(_auth_server=http_utils.ProxyBasicAuthServer)),
114
 
        ('proxy-digest', dict(_auth_server=http_utils.ProxyDigestAuthServer)),
115
 
        ('proxy-basicdigest',
116
 
            dict(_auth_server=http_utils.ProxyBasicAndDigestAuthServer)),
117
 
        ]
118
 
    # Add some attributes common to all scenarios
119
 
    for scenario_id, scenario_dict in scenarios:
120
 
        scenario_dict.update(_auth_header='Proxy-Authorization',
121
 
                             _username_prompt_prefix='Proxy ',
122
 
                             _password_prompt_prefix='Proxy ')
123
 
    return scenarios
124
 
 
125
 
 
126
 
def vary_by_http_activity():
127
 
    activity_scenarios = [
128
 
        ('urllib,http', dict(_activity_server=ActivityHTTPServer,
129
 
                            _transport=_urllib.HttpTransport_urllib,)),
130
 
        ]
131
 
    if tests.HTTPSServerFeature.available():
132
 
        activity_scenarios.append(
133
 
            ('urllib,https', dict(_activity_server=ActivityHTTPSServer,
134
 
                                _transport=_urllib.HttpTransport_urllib,)),)
135
 
    if features.pycurl.available():
136
 
        activity_scenarios.append(
137
 
            ('pycurl,http', dict(_activity_server=ActivityHTTPServer,
138
 
                                _transport=PyCurlTransport,)),)
139
 
        if tests.HTTPSServerFeature.available():
140
 
            from bzrlib.tests import (
141
 
                ssl_certs,
142
 
                )
143
 
            # FIXME: Until we have a better way to handle self-signed
144
 
            # certificates (like allowing them in a test specific
145
 
            # authentication.conf for example), we need some specialized pycurl
146
 
            # transport for tests.
147
 
            class HTTPS_pycurl_transport(PyCurlTransport):
148
 
 
149
 
                def __init__(self, base, _from_transport=None):
150
 
                    super(HTTPS_pycurl_transport, self).__init__(
151
 
                        base, _from_transport)
152
 
                    self.cabundle = str(ssl_certs.build_path('ca.crt'))
153
 
 
154
 
            activity_scenarios.append(
155
 
                ('pycurl,https', dict(_activity_server=ActivityHTTPSServer,
156
 
                                    _transport=HTTPS_pycurl_transport,)),)
157
 
    return activity_scenarios
 
75
from bzrlib.transport.http._urllib import HttpTransport_urllib
 
76
from bzrlib.transport.http._urllib2_wrappers import (
 
77
    ProxyHandler,
 
78
    Request,
 
79
    )
158
80
 
159
81
 
160
82
class FakeManager(object):
168
90
 
169
91
class RecordingServer(object):
170
92
    """A fake HTTP server.
171
 
 
 
93
    
172
94
    It records the bytes sent to it, and replies with a 200.
173
95
    """
174
96
 
175
 
    def __init__(self, expect_body_tail=None, scheme=''):
 
97
    def __init__(self, expect_body_tail=None):
176
98
        """Constructor.
177
99
 
178
100
        :type expect_body_tail: str
183
105
        self.host = None
184
106
        self.port = None
185
107
        self.received_bytes = ''
186
 
        self.scheme = scheme
187
 
 
188
 
    def get_url(self):
189
 
        return '%s://%s:%s/' % (self.scheme, self.host, self.port)
190
 
 
191
 
    def start_server(self):
 
108
 
 
109
    def setUp(self):
192
110
        self._sock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
193
111
        self._sock.bind(('127.0.0.1', 0))
194
112
        self.host, self.port = self._sock.getsockname()
195
113
        self._ready = threading.Event()
196
 
        self._thread = test_server.TestThread(
197
 
            sync_event=self._ready, target=self._accept_read_and_reply)
 
114
        self._thread = threading.Thread(target=self._accept_read_and_reply)
 
115
        self._thread.setDaemon(True)
198
116
        self._thread.start()
199
 
        if 'threads' in tests.selftest_debug_flags:
200
 
            sys.stderr.write('Thread started: %s\n' % (self._thread.ident,))
201
 
        self._ready.wait()
 
117
        self._ready.wait(5)
202
118
 
203
119
    def _accept_read_and_reply(self):
204
120
        self._sock.listen(1)
205
121
        self._ready.set()
206
 
        conn, address = self._sock.accept()
207
 
        if self._expect_body_tail is not None:
 
122
        self._sock.settimeout(5)
 
123
        try:
 
124
            conn, address = self._sock.accept()
 
125
            # On win32, the accepted connection will be non-blocking to start
 
126
            # with because we're using settimeout.
 
127
            conn.setblocking(True)
208
128
            while not self.received_bytes.endswith(self._expect_body_tail):
209
129
                self.received_bytes += conn.recv(4096)
210
130
            conn.sendall('HTTP/1.1 200 OK\r\n')
211
 
        try:
 
131
        except socket.timeout:
 
132
            # Make sure the client isn't stuck waiting for us to e.g. accept.
212
133
            self._sock.close()
213
134
        except socket.error:
214
135
            # The client may have already closed the socket.
215
136
            pass
216
137
 
217
 
    def stop_server(self):
 
138
    def tearDown(self):
218
139
        try:
219
 
            # Issue a fake connection to wake up the server and allow it to
220
 
            # finish quickly
221
 
            fake_conn = osutils.connect_socket((self.host, self.port))
222
 
            fake_conn.close()
 
140
            self._sock.close()
223
141
        except socket.error:
224
142
            # We might have already closed it.  We don't care.
225
143
            pass
226
144
        self.host = None
227
145
        self.port = None
228
 
        self._thread.join()
229
 
        if 'threads' in tests.selftest_debug_flags:
230
 
            sys.stderr.write('Thread  joined: %s\n' % (self._thread.ident,))
231
 
 
232
 
 
233
 
class TestAuthHeader(tests.TestCase):
234
 
 
235
 
    def parse_header(self, header, auth_handler_class=None):
236
 
        if auth_handler_class is None:
237
 
            auth_handler_class = _urllib2_wrappers.AbstractAuthHandler
238
 
        self.auth_handler =  auth_handler_class()
239
 
        return self.auth_handler._parse_auth_header(header)
240
 
 
241
 
    def test_empty_header(self):
242
 
        scheme, remainder = self.parse_header('')
243
 
        self.assertEqual('', scheme)
244
 
        self.assertIs(None, remainder)
245
 
 
246
 
    def test_negotiate_header(self):
247
 
        scheme, remainder = self.parse_header('Negotiate')
248
 
        self.assertEqual('negotiate', scheme)
249
 
        self.assertIs(None, remainder)
250
 
 
251
 
    def test_basic_header(self):
252
 
        scheme, remainder = self.parse_header(
253
 
            'Basic realm="Thou should not pass"')
254
 
        self.assertEqual('basic', scheme)
255
 
        self.assertEqual('realm="Thou should not pass"', remainder)
256
 
 
257
 
    def test_basic_extract_realm(self):
258
 
        scheme, remainder = self.parse_header(
259
 
            'Basic realm="Thou should not pass"',
260
 
            _urllib2_wrappers.BasicAuthHandler)
261
 
        match, realm = self.auth_handler.extract_realm(remainder)
262
 
        self.assertTrue(match is not None)
263
 
        self.assertEqual('Thou should not pass', realm)
264
 
 
265
 
    def test_digest_header(self):
266
 
        scheme, remainder = self.parse_header(
267
 
            'Digest realm="Thou should not pass"')
268
 
        self.assertEqual('digest', scheme)
269
 
        self.assertEqual('realm="Thou should not pass"', remainder)
270
 
 
271
 
 
272
 
class TestHTTPRangeParsing(tests.TestCase):
273
 
 
274
 
    def setUp(self):
275
 
        super(TestHTTPRangeParsing, self).setUp()
276
 
        # We focus on range  parsing here and ignore everything else
277
 
        class RequestHandler(http_server.TestingHTTPRequestHandler):
278
 
            def setup(self): pass
279
 
            def handle(self): pass
280
 
            def finish(self): pass
281
 
 
282
 
        self.req_handler = RequestHandler(None, None, None)
283
 
 
284
 
    def assertRanges(self, ranges, header, file_size):
285
 
        self.assertEquals(ranges,
286
 
                          self.req_handler._parse_ranges(header, file_size))
287
 
 
288
 
    def test_simple_range(self):
289
 
        self.assertRanges([(0,2)], 'bytes=0-2', 12)
290
 
 
291
 
    def test_tail(self):
292
 
        self.assertRanges([(8, 11)], 'bytes=-4', 12)
293
 
 
294
 
    def test_tail_bigger_than_file(self):
295
 
        self.assertRanges([(0, 11)], 'bytes=-99', 12)
296
 
 
297
 
    def test_range_without_end(self):
298
 
        self.assertRanges([(4, 11)], 'bytes=4-', 12)
299
 
 
300
 
    def test_invalid_ranges(self):
301
 
        self.assertRanges(None, 'bytes=12-22', 12)
302
 
        self.assertRanges(None, 'bytes=1-3,12-22', 12)
303
 
        self.assertRanges(None, 'bytes=-', 12)
304
 
 
305
 
 
306
 
class TestHTTPServer(tests.TestCase):
307
 
    """Test the HTTP servers implementations."""
308
 
 
309
 
    def test_invalid_protocol(self):
310
 
        class BogusRequestHandler(http_server.TestingHTTPRequestHandler):
311
 
 
312
 
            protocol_version = 'HTTP/0.1'
313
 
 
314
 
        self.assertRaises(httplib.UnknownProtocol,
315
 
                          http_server.HttpServer, BogusRequestHandler)
316
 
 
317
 
    def test_force_invalid_protocol(self):
318
 
        self.assertRaises(httplib.UnknownProtocol,
319
 
                          http_server.HttpServer, protocol_version='HTTP/0.1')
320
 
 
321
 
    def test_server_start_and_stop(self):
322
 
        server = http_server.HttpServer()
323
 
        self.addCleanup(server.stop_server)
324
 
        server.start_server()
325
 
        self.assertTrue(server.server is not None)
326
 
        self.assertTrue(server.server.serving is not None)
327
 
        self.assertTrue(server.server.serving)
328
 
 
329
 
    def test_create_http_server_one_zero(self):
330
 
        class RequestHandlerOneZero(http_server.TestingHTTPRequestHandler):
331
 
 
332
 
            protocol_version = 'HTTP/1.0'
333
 
 
334
 
        server = http_server.HttpServer(RequestHandlerOneZero)
335
 
        self.start_server(server)
336
 
        self.assertIsInstance(server.server, http_server.TestingHTTPServer)
337
 
 
338
 
    def test_create_http_server_one_one(self):
339
 
        class RequestHandlerOneOne(http_server.TestingHTTPRequestHandler):
340
 
 
341
 
            protocol_version = 'HTTP/1.1'
342
 
 
343
 
        server = http_server.HttpServer(RequestHandlerOneOne)
344
 
        self.start_server(server)
345
 
        self.assertIsInstance(server.server,
346
 
                              http_server.TestingThreadingHTTPServer)
347
 
 
348
 
    def test_create_http_server_force_one_one(self):
349
 
        class RequestHandlerOneZero(http_server.TestingHTTPRequestHandler):
350
 
 
351
 
            protocol_version = 'HTTP/1.0'
352
 
 
353
 
        server = http_server.HttpServer(RequestHandlerOneZero,
354
 
                                        protocol_version='HTTP/1.1')
355
 
        self.start_server(server)
356
 
        self.assertIsInstance(server.server,
357
 
                              http_server.TestingThreadingHTTPServer)
358
 
 
359
 
    def test_create_http_server_force_one_zero(self):
360
 
        class RequestHandlerOneOne(http_server.TestingHTTPRequestHandler):
361
 
 
362
 
            protocol_version = 'HTTP/1.1'
363
 
 
364
 
        server = http_server.HttpServer(RequestHandlerOneOne,
365
 
                                        protocol_version='HTTP/1.0')
366
 
        self.start_server(server)
367
 
        self.assertIsInstance(server.server,
368
 
                              http_server.TestingHTTPServer)
369
146
 
370
147
 
371
148
class TestWithTransport_pycurl(object):
372
149
    """Test case to inherit from if pycurl is present"""
373
150
 
374
151
    def _get_pycurl_maybe(self):
375
 
        self.requireFeature(features.pycurl)
376
 
        return PyCurlTransport
 
152
        try:
 
153
            from bzrlib.transport.http._pycurl import PyCurlTransport
 
154
            return PyCurlTransport
 
155
        except errors.DependencyNotPresent:
 
156
            raise tests.TestSkipped('pycurl not present')
377
157
 
378
158
    _transport = property(_get_pycurl_maybe)
379
159
 
385
165
 
386
166
    def test_url_parsing(self):
387
167
        f = FakeManager()
388
 
        url = http.extract_auth('http://example.com', f)
389
 
        self.assertEqual('http://example.com', url)
390
 
        self.assertEqual(0, len(f.credentials))
391
 
        url = http.extract_auth(
392
 
            'http://user:pass@example.com/bzr/bzr.dev', f)
393
 
        self.assertEqual('http://example.com/bzr/bzr.dev', url)
394
 
        self.assertEqual(1, len(f.credentials))
395
 
        self.assertEqual([None, 'example.com', 'user', 'pass'],
396
 
                         f.credentials[0])
397
 
 
398
 
 
399
 
class TestHttpTransportUrls(tests.TestCase):
400
 
    """Test the http urls."""
401
 
 
402
 
    scenarios = vary_by_http_client_implementation()
 
168
        url = extract_auth('http://example.com', f)
 
169
        self.assertEquals('http://example.com', url)
 
170
        self.assertEquals(0, len(f.credentials))
 
171
        url = extract_auth('http://user:pass@www.bazaar-vcs.org/bzr/bzr.dev', f)
 
172
        self.assertEquals('http://www.bazaar-vcs.org/bzr/bzr.dev', url)
 
173
        self.assertEquals(1, len(f.credentials))
 
174
        self.assertEquals([None, 'www.bazaar-vcs.org', 'user', 'pass'],
 
175
                          f.credentials[0])
 
176
 
 
177
 
 
178
class TestHttpTransportUrls(object):
 
179
    """Test the http urls.
 
180
 
 
181
    This MUST be used by daughter classes that also inherit from
 
182
    TestCase.
 
183
 
 
184
    We can't inherit directly from TestCase or the
 
185
    test framework will try to create an instance which cannot
 
186
    run, its implementation being incomplete.
 
187
    """
403
188
 
404
189
    def test_abs_url(self):
405
190
        """Construction of absolute http URLs"""
406
 
        t = self._transport('http://example.com/bzr/bzr.dev/')
 
191
        t = self._transport('http://bazaar-vcs.org/bzr/bzr.dev/')
407
192
        eq = self.assertEqualDiff
408
 
        eq(t.abspath('.'), 'http://example.com/bzr/bzr.dev')
409
 
        eq(t.abspath('foo/bar'), 'http://example.com/bzr/bzr.dev/foo/bar')
410
 
        eq(t.abspath('.bzr'), 'http://example.com/bzr/bzr.dev/.bzr')
 
193
        eq(t.abspath('.'), 'http://bazaar-vcs.org/bzr/bzr.dev')
 
194
        eq(t.abspath('foo/bar'), 'http://bazaar-vcs.org/bzr/bzr.dev/foo/bar')
 
195
        eq(t.abspath('.bzr'), 'http://bazaar-vcs.org/bzr/bzr.dev/.bzr')
411
196
        eq(t.abspath('.bzr/1//2/./3'),
412
 
           'http://example.com/bzr/bzr.dev/.bzr/1/2/3')
 
197
           'http://bazaar-vcs.org/bzr/bzr.dev/.bzr/1/2/3')
413
198
 
414
199
    def test_invalid_http_urls(self):
415
200
        """Trap invalid construction of urls"""
416
 
        self._transport('http://example.com/bzr/bzr.dev/')
 
201
        t = self._transport('http://bazaar-vcs.org/bzr/bzr.dev/')
417
202
        self.assertRaises(errors.InvalidURL,
418
203
                          self._transport,
419
 
                          'http://http://example.com/bzr/bzr.dev/')
 
204
                          'http://http://bazaar-vcs.org/bzr/bzr.dev/')
420
205
 
421
206
    def test_http_root_urls(self):
422
207
        """Construction of URLs from server root"""
423
 
        t = self._transport('http://example.com/')
 
208
        t = self._transport('http://bzr.ozlabs.org/')
424
209
        eq = self.assertEqualDiff
425
210
        eq(t.abspath('.bzr/tree-version'),
426
 
           'http://example.com/.bzr/tree-version')
 
211
           'http://bzr.ozlabs.org/.bzr/tree-version')
427
212
 
428
213
    def test_http_impl_urls(self):
429
214
        """There are servers which ask for particular clients to connect"""
430
215
        server = self._server()
431
 
        server.start_server()
432
216
        try:
 
217
            server.setUp()
433
218
            url = server.get_url()
434
 
            self.assertTrue(url.startswith('%s://' % self._url_protocol))
 
219
            self.assertTrue(url.startswith('%s://' % self._qualified_prefix))
435
220
        finally:
436
 
            server.stop_server()
437
 
 
438
 
 
439
 
class TestHttps_pycurl(TestWithTransport_pycurl, tests.TestCase):
 
221
            server.tearDown()
 
222
 
 
223
 
 
224
class TestHttpUrls_urllib(TestHttpTransportUrls, tests.TestCase):
 
225
    """Test http urls with urllib"""
 
226
 
 
227
    _transport = HttpTransport_urllib
 
228
    _server = HttpServer_urllib
 
229
    _qualified_prefix = 'http+urllib'
 
230
 
 
231
 
 
232
class TestHttpUrls_pycurl(TestWithTransport_pycurl, TestHttpTransportUrls,
 
233
                          tests.TestCase):
 
234
    """Test http urls with pycurl"""
 
235
 
 
236
    _server = HttpServer_PyCurl
 
237
    _qualified_prefix = 'http+pycurl'
440
238
 
441
239
    # TODO: This should really be moved into another pycurl
442
240
    # specific test. When https tests will be implemented, take
448
246
        https by supplying a fake version_info that do not
449
247
        support it.
450
248
        """
451
 
        self.requireFeature(features.pycurl)
452
 
        # Import the module locally now that we now it's available.
453
 
        pycurl = features.pycurl.module
454
 
 
455
 
        self.overrideAttr(pycurl, 'version_info',
456
 
                          # Fake the pycurl version_info This was taken from
457
 
                          # a windows pycurl without SSL (thanks to bialix)
458
 
                          lambda : (2,
459
 
                                    '7.13.2',
460
 
                                    462082,
461
 
                                    'i386-pc-win32',
462
 
                                    2576,
463
 
                                    None,
464
 
                                    0,
465
 
                                    None,
466
 
                                    ('ftp', 'gopher', 'telnet',
467
 
                                     'dict', 'ldap', 'http', 'file'),
468
 
                                    None,
469
 
                                    0,
470
 
                                    None))
 
249
        try:
 
250
            import pycurl
 
251
        except ImportError:
 
252
            raise tests.TestSkipped('pycurl not present')
 
253
        # Now that we have pycurl imported, we can fake its version_info
 
254
        # This was taken from a windows pycurl without SSL
 
255
        # (thanks to bialix)
 
256
        pycurl.version_info = lambda : (2,
 
257
                                        '7.13.2',
 
258
                                        462082,
 
259
                                        'i386-pc-win32',
 
260
                                        2576,
 
261
                                        None,
 
262
                                        0,
 
263
                                        None,
 
264
                                        ('ftp', 'gopher', 'telnet',
 
265
                                         'dict', 'ldap', 'http', 'file'),
 
266
                                        None,
 
267
                                        0,
 
268
                                        None)
471
269
        self.assertRaises(errors.DependencyNotPresent, self._transport,
472
270
                          'https://launchpad.net')
473
271
 
474
 
 
475
 
class TestHTTPConnections(http_utils.TestCaseWithWebserver):
476
 
    """Test the http connections."""
477
 
 
478
 
    scenarios = multiply_scenarios(
479
 
        vary_by_http_client_implementation(),
480
 
        vary_by_http_protocol_version(),
481
 
        )
 
272
class TestHttpConnections(object):
 
273
    """Test the http connections.
 
274
 
 
275
    This MUST be used by daughter classes that also inherit from
 
276
    TestCaseWithWebserver.
 
277
 
 
278
    We can't inherit directly from TestCaseWithWebserver or the
 
279
    test framework will try to create an instance which cannot
 
280
    run, its implementation being incomplete.
 
281
    """
482
282
 
483
283
    def setUp(self):
484
 
        http_utils.TestCaseWithWebserver.setUp(self)
485
 
        self.build_tree(['foo/', 'foo/bar'], line_endings='binary',
 
284
        TestCaseWithWebserver.setUp(self)
 
285
        self.build_tree(['xxx', 'foo/', 'foo/bar'], line_endings='binary',
486
286
                        transport=self.get_transport())
487
287
 
488
288
    def test_http_has(self):
489
289
        server = self.get_readonly_server()
490
 
        t = self.get_readonly_transport()
 
290
        t = self._transport(server.get_url())
491
291
        self.assertEqual(t.has('foo/bar'), True)
492
292
        self.assertEqual(len(server.logs), 1)
493
293
        self.assertContainsRe(server.logs[0],
495
295
 
496
296
    def test_http_has_not_found(self):
497
297
        server = self.get_readonly_server()
498
 
        t = self.get_readonly_transport()
 
298
        t = self._transport(server.get_url())
499
299
        self.assertEqual(t.has('not-found'), False)
500
300
        self.assertContainsRe(server.logs[1],
501
301
            r'"HEAD /not-found HTTP/1.." 404 - "-" "bzr/')
502
302
 
503
303
    def test_http_get(self):
504
304
        server = self.get_readonly_server()
505
 
        t = self.get_readonly_transport()
 
305
        t = self._transport(server.get_url())
506
306
        fp = t.get('foo/bar')
507
307
        self.assertEqualDiff(
508
308
            fp.read(),
512
312
            '"GET /foo/bar HTTP/1.1" 200 - "-" "bzr/%s'
513
313
            % bzrlib.__version__) > -1)
514
314
 
 
315
    def test_get_smart_medium(self):
 
316
        # For HTTP, get_smart_medium should return the transport object.
 
317
        server = self.get_readonly_server()
 
318
        http_transport = self._transport(server.get_url())
 
319
        medium = http_transport.get_smart_medium()
 
320
        self.assertIs(medium, http_transport)
 
321
 
515
322
    def test_has_on_bogus_host(self):
516
323
        # Get a free address and don't 'accept' on it, so that we
517
324
        # can be sure there is no http handler there, but set a
527
334
            socket.setdefaulttimeout(default_timeout)
528
335
 
529
336
 
 
337
class TestHttpConnections_urllib(TestHttpConnections, TestCaseWithWebserver):
 
338
    """Test http connections with urllib"""
 
339
 
 
340
    _transport = HttpTransport_urllib
 
341
 
 
342
 
 
343
 
 
344
class TestHttpConnections_pycurl(TestWithTransport_pycurl,
 
345
                                 TestHttpConnections,
 
346
                                 TestCaseWithWebserver):
 
347
    """Test http connections with pycurl"""
 
348
 
 
349
 
530
350
class TestHttpTransportRegistration(tests.TestCase):
531
351
    """Test registrations of various http implementations"""
532
352
 
533
 
    scenarios = vary_by_http_client_implementation()
534
 
 
535
353
    def test_http_registered(self):
536
 
        t = transport.get_transport('%s://foo.com/' % self._url_protocol)
537
 
        self.assertIsInstance(t, transport.Transport)
538
 
        self.assertIsInstance(t, self._transport)
539
 
 
540
 
 
541
 
class TestPost(tests.TestCase):
542
 
 
543
 
    scenarios = multiply_scenarios(
544
 
        vary_by_http_client_implementation(),
545
 
        vary_by_http_protocol_version(),
546
 
        )
547
 
 
548
 
    def test_post_body_is_received(self):
549
 
        server = RecordingServer(expect_body_tail='end-of-body',
550
 
                                 scheme=self._url_protocol)
551
 
        self.start_server(server)
552
 
        url = server.get_url()
553
 
        # FIXME: needs a cleanup -- vila 20100611
554
 
        http_transport = transport.get_transport(url)
 
354
        # urlllib should always be present
 
355
        t = get_transport('http+urllib://bzr.google.com/')
 
356
        self.assertIsInstance(t, Transport)
 
357
        self.assertIsInstance(t, HttpTransport_urllib)
 
358
 
 
359
 
 
360
class TestPost(object):
 
361
 
 
362
    def _test_post_body_is_received(self, scheme):
 
363
        server = RecordingServer(expect_body_tail='end-of-body')
 
364
        server.setUp()
 
365
        self.addCleanup(server.tearDown)
 
366
        url = '%s://%s:%s/' % (scheme, server.host, server.port)
 
367
        try:
 
368
            http_transport = get_transport(url)
 
369
        except errors.UnsupportedProtocol:
 
370
            raise tests.TestSkipped('%s not available' % scheme)
555
371
        code, response = http_transport._post('abc def end-of-body')
556
372
        self.assertTrue(
557
373
            server.received_bytes.startswith('POST /.bzr/smart HTTP/1.'))
558
374
        self.assertTrue('content-length: 19\r' in server.received_bytes.lower())
559
 
        self.assertTrue('content-type: application/octet-stream\r'
560
 
                        in server.received_bytes.lower())
561
375
        # The transport should not be assuming that the server can accept
562
376
        # chunked encoding the first time it connects, because HTTP/1.1, so we
563
377
        # check for the literal string.
565
379
            server.received_bytes.endswith('\r\n\r\nabc def end-of-body'))
566
380
 
567
381
 
 
382
class TestPost_urllib(tests.TestCase, TestPost):
 
383
    """TestPost for urllib implementation"""
 
384
 
 
385
    _transport = HttpTransport_urllib
 
386
 
 
387
    def test_post_body_is_received_urllib(self):
 
388
        self._test_post_body_is_received('http+urllib')
 
389
 
 
390
 
 
391
class TestPost_pycurl(TestWithTransport_pycurl, tests.TestCase, TestPost):
 
392
    """TestPost for pycurl implementation"""
 
393
 
 
394
    def test_post_body_is_received_pycurl(self):
 
395
        self._test_post_body_is_received('http+pycurl')
 
396
 
 
397
 
568
398
class TestRangeHeader(tests.TestCase):
569
399
    """Test range_header method"""
570
400
 
571
401
    def check_header(self, value, ranges=[], tail=0):
572
402
        offsets = [ (start, end - start + 1) for start, end in ranges]
573
 
        coalesce = transport.Transport._coalesce_offsets
 
403
        coalesce = Transport._coalesce_offsets
574
404
        coalesced = list(coalesce(offsets, limit=0, fudge_factor=0))
575
 
        range_header = http.HttpTransportBase._range_header
 
405
        range_header = HttpTransportBase._range_header
576
406
        self.assertEqual(value, range_header(coalesced, tail))
577
407
 
578
408
    def test_range_header_single(self):
593
423
                          tail=50)
594
424
 
595
425
 
596
 
class TestSpecificRequestHandler(http_utils.TestCaseWithWebserver):
597
 
    """Tests a specific request handler.
598
 
 
599
 
    Daughter classes are expected to override _req_handler_class
600
 
    """
601
 
 
602
 
    scenarios = multiply_scenarios(
603
 
        vary_by_http_client_implementation(),
604
 
        vary_by_http_protocol_version(),
605
 
        )
606
 
 
607
 
    # Provide a useful default
608
 
    _req_handler_class = http_server.TestingHTTPRequestHandler
609
 
 
610
 
    def create_transport_readonly_server(self):
611
 
        server = http_server.HttpServer(self._req_handler_class,
612
 
                                        protocol_version=self._protocol_version)
613
 
        server._url_protocol = self._url_protocol
614
 
        return server
615
 
 
616
 
    def _testing_pycurl(self):
617
 
        # TODO: This is duplicated for lots of the classes in this file
618
 
        return (features.pycurl.available()
619
 
                and self._transport == PyCurlTransport)
620
 
 
621
 
 
622
 
class WallRequestHandler(http_server.TestingHTTPRequestHandler):
623
 
    """Whatever request comes in, close the connection"""
624
 
 
625
 
    def _handle_one_request(self):
626
 
        """Handle a single HTTP request, by abruptly closing the connection"""
627
 
        self.close_connection = 1
628
 
 
629
 
 
630
 
class TestWallServer(TestSpecificRequestHandler):
 
426
class TestWallServer(object):
631
427
    """Tests exceptions during the connection phase"""
632
428
 
633
 
    _req_handler_class = WallRequestHandler
 
429
    def create_transport_readonly_server(self):
 
430
        return HttpServer(WallRequestHandler)
634
431
 
635
432
    def test_http_has(self):
636
 
        t = self.get_readonly_transport()
 
433
        server = self.get_readonly_server()
 
434
        t = self._transport(server.get_url())
637
435
        # Unfortunately httplib (see HTTPResponse._read_status
638
436
        # for details) make no distinction between a closed
639
437
        # socket and badly formatted status line, so we can't
640
438
        # just test for ConnectionError, we have to test
641
 
        # InvalidHttpResponse too. And pycurl may raise ConnectionReset
642
 
        # instead of ConnectionError too.
643
 
        self.assertRaises(( errors.ConnectionError, errors.ConnectionReset,
644
 
                            errors.InvalidHttpResponse),
 
439
        # InvalidHttpResponse too.
 
440
        self.assertRaises((errors.ConnectionError, errors.InvalidHttpResponse),
645
441
                          t.has, 'foo/bar')
646
442
 
647
443
    def test_http_get(self):
648
 
        t = self.get_readonly_transport()
649
 
        self.assertRaises((errors.ConnectionError, errors.ConnectionReset,
650
 
                           errors.InvalidHttpResponse),
 
444
        server = self.get_readonly_server()
 
445
        t = self._transport(server.get_url())
 
446
        self.assertRaises((errors.ConnectionError, errors.InvalidHttpResponse),
651
447
                          t.get, 'foo/bar')
652
448
 
653
449
 
654
 
class BadStatusRequestHandler(http_server.TestingHTTPRequestHandler):
655
 
    """Whatever request comes in, returns a bad status"""
656
 
 
657
 
    def parse_request(self):
658
 
        """Fakes handling a single HTTP request, returns a bad status"""
659
 
        ignored = http_server.TestingHTTPRequestHandler.parse_request(self)
660
 
        self.send_response(0, "Bad status")
661
 
        self.close_connection = 1
662
 
        return False
663
 
 
664
 
 
665
 
class TestBadStatusServer(TestSpecificRequestHandler):
 
450
class TestWallServer_urllib(TestWallServer, TestCaseWithWebserver):
 
451
    """Tests "wall" server for urllib implementation"""
 
452
 
 
453
    _transport = HttpTransport_urllib
 
454
 
 
455
 
 
456
class TestWallServer_pycurl(TestWithTransport_pycurl,
 
457
                            TestWallServer,
 
458
                            TestCaseWithWebserver):
 
459
    """Tests "wall" server for pycurl implementation"""
 
460
 
 
461
 
 
462
class TestBadStatusServer(object):
666
463
    """Tests bad status from server."""
667
464
 
668
 
    _req_handler_class = BadStatusRequestHandler
 
465
    def create_transport_readonly_server(self):
 
466
        return HttpServer(BadStatusRequestHandler)
669
467
 
670
468
    def test_http_has(self):
671
 
        t = self.get_readonly_transport()
 
469
        server = self.get_readonly_server()
 
470
        t = self._transport(server.get_url())
672
471
        self.assertRaises(errors.InvalidHttpResponse, t.has, 'foo/bar')
673
472
 
674
473
    def test_http_get(self):
675
 
        t = self.get_readonly_transport()
 
474
        server = self.get_readonly_server()
 
475
        t = self._transport(server.get_url())
676
476
        self.assertRaises(errors.InvalidHttpResponse, t.get, 'foo/bar')
677
477
 
678
478
 
679
 
class InvalidStatusRequestHandler(http_server.TestingHTTPRequestHandler):
680
 
    """Whatever request comes in, returns an invalid status"""
681
 
 
682
 
    def parse_request(self):
683
 
        """Fakes handling a single HTTP request, returns a bad status"""
684
 
        ignored = http_server.TestingHTTPRequestHandler.parse_request(self)
685
 
        self.wfile.write("Invalid status line\r\n")
686
 
        # If we don't close the connection pycurl will hang. Since this is a
687
 
        # stress test we don't *have* to respect the protocol, but we don't
688
 
        # have to sabotage it too much either.
689
 
        self.close_connection = True
690
 
        return False
 
479
class TestBadStatusServer_urllib(TestBadStatusServer, TestCaseWithWebserver):
 
480
    """Tests bad status server for urllib implementation"""
 
481
 
 
482
    _transport = HttpTransport_urllib
 
483
 
 
484
 
 
485
class TestBadStatusServer_pycurl(TestWithTransport_pycurl,
 
486
                                 TestBadStatusServer,
 
487
                                 TestCaseWithWebserver):
 
488
    """Tests bad status server for pycurl implementation"""
691
489
 
692
490
 
693
491
class TestInvalidStatusServer(TestBadStatusServer):
696
494
    Both implementations raises the same error as for a bad status.
697
495
    """
698
496
 
699
 
    _req_handler_class = InvalidStatusRequestHandler
700
 
 
701
 
 
702
 
class BadProtocolRequestHandler(http_server.TestingHTTPRequestHandler):
703
 
    """Whatever request comes in, returns a bad protocol version"""
704
 
 
705
 
    def parse_request(self):
706
 
        """Fakes handling a single HTTP request, returns a bad status"""
707
 
        ignored = http_server.TestingHTTPRequestHandler.parse_request(self)
708
 
        # Returns an invalid protocol version, but curl just
709
 
        # ignores it and those cannot be tested.
710
 
        self.wfile.write("%s %d %s\r\n" % ('HTTP/0.0',
711
 
                                           404,
712
 
                                           'Look at my protocol version'))
713
 
        return False
714
 
 
715
 
 
716
 
class TestBadProtocolServer(TestSpecificRequestHandler):
 
497
    def create_transport_readonly_server(self):
 
498
        return HttpServer(InvalidStatusRequestHandler)
 
499
 
 
500
 
 
501
class TestInvalidStatusServer_urllib(TestInvalidStatusServer,
 
502
                                     TestCaseWithWebserver):
 
503
    """Tests invalid status server for urllib implementation"""
 
504
 
 
505
    _transport = HttpTransport_urllib
 
506
 
 
507
 
 
508
class TestInvalidStatusServer_pycurl(TestWithTransport_pycurl,
 
509
                                     TestInvalidStatusServer,
 
510
                                     TestCaseWithWebserver):
 
511
    """Tests invalid status server for pycurl implementation"""
 
512
 
 
513
 
 
514
class TestBadProtocolServer(object):
717
515
    """Tests bad protocol from server."""
718
516
 
719
 
    _req_handler_class = BadProtocolRequestHandler
720
 
 
721
 
    def setUp(self):
722
 
        if self._testing_pycurl():
723
 
            raise tests.TestNotApplicable(
724
 
                "pycurl doesn't check the protocol version")
725
 
        super(TestBadProtocolServer, self).setUp()
 
517
    def create_transport_readonly_server(self):
 
518
        return HttpServer(BadProtocolRequestHandler)
726
519
 
727
520
    def test_http_has(self):
728
 
        t = self.get_readonly_transport()
 
521
        server = self.get_readonly_server()
 
522
        t = self._transport(server.get_url())
729
523
        self.assertRaises(errors.InvalidHttpResponse, t.has, 'foo/bar')
730
524
 
731
525
    def test_http_get(self):
732
 
        t = self.get_readonly_transport()
 
526
        server = self.get_readonly_server()
 
527
        t = self._transport(server.get_url())
733
528
        self.assertRaises(errors.InvalidHttpResponse, t.get, 'foo/bar')
734
529
 
735
530
 
736
 
class ForbiddenRequestHandler(http_server.TestingHTTPRequestHandler):
737
 
    """Whatever request comes in, returns a 403 code"""
738
 
 
739
 
    def parse_request(self):
740
 
        """Handle a single HTTP request, by replying we cannot handle it"""
741
 
        ignored = http_server.TestingHTTPRequestHandler.parse_request(self)
742
 
        self.send_error(403)
743
 
        return False
744
 
 
745
 
 
746
 
class TestForbiddenServer(TestSpecificRequestHandler):
 
531
class TestBadProtocolServer_urllib(TestBadProtocolServer,
 
532
                                   TestCaseWithWebserver):
 
533
    """Tests bad protocol server for urllib implementation"""
 
534
 
 
535
    _transport = HttpTransport_urllib
 
536
 
 
537
# curl don't check the protocol version
 
538
#class TestBadProtocolServer_pycurl(TestWithTransport_pycurl,
 
539
#                                   TestBadProtocolServer,
 
540
#                                   TestCaseWithWebserver):
 
541
#    """Tests bad protocol server for pycurl implementation"""
 
542
 
 
543
 
 
544
class TestForbiddenServer(object):
747
545
    """Tests forbidden server"""
748
546
 
749
 
    _req_handler_class = ForbiddenRequestHandler
 
547
    def create_transport_readonly_server(self):
 
548
        return HttpServer(ForbiddenRequestHandler)
750
549
 
751
550
    def test_http_has(self):
752
 
        t = self.get_readonly_transport()
 
551
        server = self.get_readonly_server()
 
552
        t = self._transport(server.get_url())
753
553
        self.assertRaises(errors.TransportError, t.has, 'foo/bar')
754
554
 
755
555
    def test_http_get(self):
756
 
        t = self.get_readonly_transport()
 
556
        server = self.get_readonly_server()
 
557
        t = self._transport(server.get_url())
757
558
        self.assertRaises(errors.TransportError, t.get, 'foo/bar')
758
559
 
759
560
 
 
561
class TestForbiddenServer_urllib(TestForbiddenServer, TestCaseWithWebserver):
 
562
    """Tests forbidden server for urllib implementation"""
 
563
 
 
564
    _transport = HttpTransport_urllib
 
565
 
 
566
 
 
567
class TestForbiddenServer_pycurl(TestWithTransport_pycurl,
 
568
                                 TestForbiddenServer,
 
569
                                 TestCaseWithWebserver):
 
570
    """Tests forbidden server for pycurl implementation"""
 
571
 
 
572
 
760
573
class TestRecordingServer(tests.TestCase):
761
574
 
762
575
    def test_create(self):
765
578
        self.assertEqual(None, server.host)
766
579
        self.assertEqual(None, server.port)
767
580
 
768
 
    def test_setUp_and_stop(self):
 
581
    def test_setUp_and_tearDown(self):
769
582
        server = RecordingServer(expect_body_tail=None)
770
 
        server.start_server()
 
583
        server.setUp()
771
584
        try:
772
585
            self.assertNotEqual(None, server.host)
773
586
            self.assertNotEqual(None, server.port)
774
587
        finally:
775
 
            server.stop_server()
 
588
            server.tearDown()
776
589
        self.assertEqual(None, server.host)
777
590
        self.assertEqual(None, server.port)
778
591
 
779
592
    def test_send_receive_bytes(self):
780
 
        server = RecordingServer(expect_body_tail='c', scheme='http')
781
 
        self.start_server(server)
 
593
        server = RecordingServer(expect_body_tail='c')
 
594
        server.setUp()
 
595
        self.addCleanup(server.tearDown)
782
596
        sock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
783
597
        sock.connect((server.host, server.port))
784
598
        sock.sendall('abc')
787
601
        self.assertEqual('abc', server.received_bytes)
788
602
 
789
603
 
790
 
class TestRangeRequestServer(TestSpecificRequestHandler):
 
604
class TestRangeRequestServer(object):
791
605
    """Tests readv requests against server.
792
606
 
793
 
    We test against default "normal" server.
 
607
    This MUST be used by daughter classes that also inherit from
 
608
    TestCaseWithWebserver.
 
609
 
 
610
    We can't inherit directly from TestCaseWithWebserver or the
 
611
    test framework will try to create an instance which cannot
 
612
    run, its implementation being incomplete.
794
613
    """
795
614
 
796
615
    def setUp(self):
797
 
        super(TestRangeRequestServer, self).setUp()
 
616
        TestCaseWithWebserver.setUp(self)
798
617
        self.build_tree_contents([('a', '0123456789')],)
799
618
 
800
619
    def test_readv(self):
801
 
        t = self.get_readonly_transport()
 
620
        server = self.get_readonly_server()
 
621
        t = self._transport(server.get_url())
802
622
        l = list(t.readv('a', ((0, 1), (1, 1), (3, 2), (9, 1))))
803
623
        self.assertEqual(l[0], (0, '0'))
804
624
        self.assertEqual(l[1], (1, '1'))
806
626
        self.assertEqual(l[3], (9, '9'))
807
627
 
808
628
    def test_readv_out_of_order(self):
809
 
        t = self.get_readonly_transport()
 
629
        server = self.get_readonly_server()
 
630
        t = self._transport(server.get_url())
810
631
        l = list(t.readv('a', ((1, 1), (9, 1), (0, 1), (3, 2))))
811
632
        self.assertEqual(l[0], (1, '1'))
812
633
        self.assertEqual(l[1], (9, '9'))
814
635
        self.assertEqual(l[3], (3, '34'))
815
636
 
816
637
    def test_readv_invalid_ranges(self):
817
 
        t = self.get_readonly_transport()
 
638
        server = self.get_readonly_server()
 
639
        t = self._transport(server.get_url())
818
640
 
819
641
        # This is intentionally reading off the end of the file
820
642
        # since we are sure that it cannot get there
828
650
 
829
651
    def test_readv_multiple_get_requests(self):
830
652
        server = self.get_readonly_server()
831
 
        t = self.get_readonly_transport()
 
653
        t = self._transport(server.get_url())
832
654
        # force transport to issue multiple requests
833
655
        t._max_readv_combine = 1
834
656
        t._max_get_ranges = 1
838
660
        self.assertEqual(l[2], (3, '34'))
839
661
        self.assertEqual(l[3], (9, '9'))
840
662
        # The server should have issued 4 requests
841
 
        self.assertEqual(4, server.GET_request_nb)
842
 
 
843
 
    def test_readv_get_max_size(self):
844
 
        server = self.get_readonly_server()
845
 
        t = self.get_readonly_transport()
846
 
        # force transport to issue multiple requests by limiting the number of
847
 
        # bytes by request. Note that this apply to coalesced offsets only, a
848
 
        # single range will keep its size even if bigger than the limit.
849
 
        t._get_max_size = 2
850
 
        l = list(t.readv('a', ((0, 1), (1, 1), (2, 4), (6, 4))))
851
 
        self.assertEqual(l[0], (0, '0'))
852
 
        self.assertEqual(l[1], (1, '1'))
853
 
        self.assertEqual(l[2], (2, '2345'))
854
 
        self.assertEqual(l[3], (6, '6789'))
855
 
        # The server should have issued 3 requests
856
 
        self.assertEqual(3, server.GET_request_nb)
857
 
 
858
 
    def test_complete_readv_leave_pipe_clean(self):
859
 
        server = self.get_readonly_server()
860
 
        t = self.get_readonly_transport()
861
 
        # force transport to issue multiple requests
862
 
        t._get_max_size = 2
863
 
        list(t.readv('a', ((0, 1), (1, 1), (2, 4), (6, 4))))
864
 
        # The server should have issued 3 requests
865
 
        self.assertEqual(3, server.GET_request_nb)
866
 
        self.assertEqual('0123456789', t.get_bytes('a'))
867
 
        self.assertEqual(4, server.GET_request_nb)
868
 
 
869
 
    def test_incomplete_readv_leave_pipe_clean(self):
870
 
        server = self.get_readonly_server()
871
 
        t = self.get_readonly_transport()
872
 
        # force transport to issue multiple requests
873
 
        t._get_max_size = 2
874
 
        # Don't collapse readv results into a list so that we leave unread
875
 
        # bytes on the socket
876
 
        ireadv = iter(t.readv('a', ((0, 1), (1, 1), (2, 4), (6, 4))))
877
 
        self.assertEqual((0, '0'), ireadv.next())
878
 
        # The server should have issued one request so far
879
 
        self.assertEqual(1, server.GET_request_nb)
880
 
        self.assertEqual('0123456789', t.get_bytes('a'))
881
 
        # get_bytes issued an additional request, the readv pending ones are
882
 
        # lost
883
 
        self.assertEqual(2, server.GET_request_nb)
884
 
 
885
 
 
886
 
class SingleRangeRequestHandler(http_server.TestingHTTPRequestHandler):
887
 
    """Always reply to range request as if they were single.
888
 
 
889
 
    Don't be explicit about it, just to annoy the clients.
890
 
    """
891
 
 
892
 
    def get_multiple_ranges(self, file, file_size, ranges):
893
 
        """Answer as if it was a single range request and ignores the rest"""
894
 
        (start, end) = ranges[0]
895
 
        return self.get_single_range(file, file_size, start, end)
 
663
        self.assertEqual(4, self.get_readonly_server().GET_request_nb)
896
664
 
897
665
 
898
666
class TestSingleRangeRequestServer(TestRangeRequestServer):
899
667
    """Test readv against a server which accept only single range requests"""
900
668
 
901
 
    _req_handler_class = SingleRangeRequestHandler
902
 
 
903
 
 
904
 
class SingleOnlyRangeRequestHandler(http_server.TestingHTTPRequestHandler):
905
 
    """Only reply to simple range requests, errors out on multiple"""
906
 
 
907
 
    def get_multiple_ranges(self, file, file_size, ranges):
908
 
        """Refuses the multiple ranges request"""
909
 
        if len(ranges) > 1:
910
 
            file.close()
911
 
            self.send_error(416, "Requested range not satisfiable")
912
 
            return
913
 
        (start, end) = ranges[0]
914
 
        return self.get_single_range(file, file_size, start, end)
 
669
    def create_transport_readonly_server(self):
 
670
        return HttpServer(SingleRangeRequestHandler)
 
671
 
 
672
 
 
673
class TestSingleRangeRequestServer_urllib(TestSingleRangeRequestServer,
 
674
                                          TestCaseWithWebserver):
 
675
    """Tests single range requests accepting server for urllib implementation"""
 
676
 
 
677
    _transport = HttpTransport_urllib
 
678
 
 
679
 
 
680
class TestSingleRangeRequestServer_pycurl(TestWithTransport_pycurl,
 
681
                                          TestSingleRangeRequestServer,
 
682
                                          TestCaseWithWebserver):
 
683
    """Tests single range requests accepting server for pycurl implementation"""
915
684
 
916
685
 
917
686
class TestSingleOnlyRangeRequestServer(TestRangeRequestServer):
918
687
    """Test readv against a server which only accept single range requests"""
919
688
 
920
 
    _req_handler_class = SingleOnlyRangeRequestHandler
921
 
 
922
 
 
923
 
class NoRangeRequestHandler(http_server.TestingHTTPRequestHandler):
924
 
    """Ignore range requests without notice"""
925
 
 
926
 
    def do_GET(self):
927
 
        # Update the statistics
928
 
        self.server.test_case_server.GET_request_nb += 1
929
 
        # Just bypass the range handling done by TestingHTTPRequestHandler
930
 
        return SimpleHTTPServer.SimpleHTTPRequestHandler.do_GET(self)
 
689
    def create_transport_readonly_server(self):
 
690
        return HttpServer(SingleOnlyRangeRequestHandler)
 
691
 
 
692
 
 
693
class TestSingleOnlyRangeRequestServer_urllib(TestSingleOnlyRangeRequestServer,
 
694
                                              TestCaseWithWebserver):
 
695
    """Tests single range requests accepting server for urllib implementation"""
 
696
 
 
697
    _transport = HttpTransport_urllib
 
698
 
 
699
 
 
700
class TestSingleOnlyRangeRequestServer_pycurl(TestWithTransport_pycurl,
 
701
                                              TestSingleOnlyRangeRequestServer,
 
702
                                              TestCaseWithWebserver):
 
703
    """Tests single range requests accepting server for pycurl implementation"""
931
704
 
932
705
 
933
706
class TestNoRangeRequestServer(TestRangeRequestServer):
934
707
    """Test readv against a server which do not accept range requests"""
935
708
 
936
 
    _req_handler_class = NoRangeRequestHandler
937
 
 
938
 
 
939
 
class MultipleRangeWithoutContentLengthRequestHandler(
940
 
    http_server.TestingHTTPRequestHandler):
941
 
    """Reply to multiple range requests without content length header."""
942
 
 
943
 
    def get_multiple_ranges(self, file, file_size, ranges):
944
 
        self.send_response(206)
945
 
        self.send_header('Accept-Ranges', 'bytes')
946
 
        # XXX: this is strange; the 'random' name below seems undefined and
947
 
        # yet the tests pass -- mbp 2010-10-11 bug 658773
948
 
        boundary = "%d" % random.randint(0,0x7FFFFFFF)
949
 
        self.send_header("Content-Type",
950
 
                         "multipart/byteranges; boundary=%s" % boundary)
951
 
        self.end_headers()
952
 
        for (start, end) in ranges:
953
 
            self.wfile.write("--%s\r\n" % boundary)
954
 
            self.send_header("Content-type", 'application/octet-stream')
955
 
            self.send_header("Content-Range", "bytes %d-%d/%d" % (start,
956
 
                                                                  end,
957
 
                                                                  file_size))
958
 
            self.end_headers()
959
 
            self.send_range_content(file, start, end - start + 1)
960
 
        # Final boundary
961
 
        self.wfile.write("--%s\r\n" % boundary)
962
 
 
963
 
 
964
 
class TestMultipleRangeWithoutContentLengthServer(TestRangeRequestServer):
965
 
 
966
 
    _req_handler_class = MultipleRangeWithoutContentLengthRequestHandler
967
 
 
968
 
 
969
 
class TruncatedMultipleRangeRequestHandler(
970
 
    http_server.TestingHTTPRequestHandler):
971
 
    """Reply to multiple range requests truncating the last ones.
972
 
 
973
 
    This server generates responses whose Content-Length describes all the
974
 
    ranges, but fail to include the last ones leading to client short reads.
975
 
    This has been observed randomly with lighttpd (bug #179368).
 
709
    def create_transport_readonly_server(self):
 
710
        return HttpServer(NoRangeRequestHandler)
 
711
 
 
712
 
 
713
class TestNoRangeRequestServer_urllib(TestNoRangeRequestServer,
 
714
                                      TestCaseWithWebserver):
 
715
    """Tests range requests refusing server for urllib implementation"""
 
716
 
 
717
    _transport = HttpTransport_urllib
 
718
 
 
719
 
 
720
class TestNoRangeRequestServer_pycurl(TestWithTransport_pycurl,
 
721
                                      TestNoRangeRequestServer,
 
722
                                      TestCaseWithWebserver):
 
723
    """Tests range requests refusing server for pycurl implementation"""
 
724
 
 
725
 
 
726
class TestLimitedRangeRequestServer(object):
 
727
    """Tests readv requests against server that errors out on too much ranges.
 
728
 
 
729
    This MUST be used by daughter classes that also inherit from
 
730
    TestCaseWithWebserver.
 
731
 
 
732
    We can't inherit directly from TestCaseWithWebserver or the
 
733
    test framework will try to create an instance which cannot
 
734
    run, its implementation being incomplete.
976
735
    """
977
736
 
978
 
    _truncated_ranges = 2
979
 
 
980
 
    def get_multiple_ranges(self, file, file_size, ranges):
981
 
        self.send_response(206)
982
 
        self.send_header('Accept-Ranges', 'bytes')
983
 
        boundary = 'tagada'
984
 
        self.send_header('Content-Type',
985
 
                         'multipart/byteranges; boundary=%s' % boundary)
986
 
        boundary_line = '--%s\r\n' % boundary
987
 
        # Calculate the Content-Length
988
 
        content_length = 0
989
 
        for (start, end) in ranges:
990
 
            content_length += len(boundary_line)
991
 
            content_length += self._header_line_length(
992
 
                'Content-type', 'application/octet-stream')
993
 
            content_length += self._header_line_length(
994
 
                'Content-Range', 'bytes %d-%d/%d' % (start, end, file_size))
995
 
            content_length += len('\r\n') # end headers
996
 
            content_length += end - start # + 1
997
 
        content_length += len(boundary_line)
998
 
        self.send_header('Content-length', content_length)
999
 
        self.end_headers()
1000
 
 
1001
 
        # Send the multipart body
1002
 
        cur = 0
1003
 
        for (start, end) in ranges:
1004
 
            self.wfile.write(boundary_line)
1005
 
            self.send_header('Content-type', 'application/octet-stream')
1006
 
            self.send_header('Content-Range', 'bytes %d-%d/%d'
1007
 
                             % (start, end, file_size))
1008
 
            self.end_headers()
1009
 
            if cur + self._truncated_ranges >= len(ranges):
1010
 
                # Abruptly ends the response and close the connection
1011
 
                self.close_connection = 1
1012
 
                return
1013
 
            self.send_range_content(file, start, end - start + 1)
1014
 
            cur += 1
1015
 
        # Final boundary
1016
 
        self.wfile.write(boundary_line)
1017
 
 
1018
 
 
1019
 
class TestTruncatedMultipleRangeServer(TestSpecificRequestHandler):
1020
 
 
1021
 
    _req_handler_class = TruncatedMultipleRangeRequestHandler
1022
 
 
1023
 
    def setUp(self):
1024
 
        super(TestTruncatedMultipleRangeServer, self).setUp()
1025
 
        self.build_tree_contents([('a', '0123456789')],)
1026
 
 
1027
 
    def test_readv_with_short_reads(self):
1028
 
        server = self.get_readonly_server()
1029
 
        t = self.get_readonly_transport()
1030
 
        # Force separate ranges for each offset
1031
 
        t._bytes_to_read_before_seek = 0
1032
 
        ireadv = iter(t.readv('a', ((0, 1), (2, 1), (4, 2), (9, 1))))
1033
 
        self.assertEqual((0, '0'), ireadv.next())
1034
 
        self.assertEqual((2, '2'), ireadv.next())
1035
 
        if not self._testing_pycurl():
1036
 
            # Only one request have been issued so far (except for pycurl that
1037
 
            # try to read the whole response at once)
1038
 
            self.assertEqual(1, server.GET_request_nb)
1039
 
        self.assertEqual((4, '45'), ireadv.next())
1040
 
        self.assertEqual((9, '9'), ireadv.next())
1041
 
        # Both implementations issue 3 requests but:
1042
 
        # - urllib does two multiple (4 ranges, then 2 ranges) then a single
1043
 
        #   range,
1044
 
        # - pycurl does two multiple (4 ranges, 4 ranges) then a single range
1045
 
        self.assertEqual(3, server.GET_request_nb)
1046
 
        # Finally the client have tried a single range request and stays in
1047
 
        # that mode
1048
 
        self.assertEqual('single', t._range_hint)
1049
 
 
1050
 
 
1051
 
class LimitedRangeRequestHandler(http_server.TestingHTTPRequestHandler):
1052
 
    """Errors out when range specifiers exceed the limit"""
1053
 
 
1054
 
    def get_multiple_ranges(self, file, file_size, ranges):
1055
 
        """Refuses the multiple ranges request"""
1056
 
        tcs = self.server.test_case_server
1057
 
        if tcs.range_limit is not None and len(ranges) > tcs.range_limit:
1058
 
            file.close()
1059
 
            # Emulate apache behavior
1060
 
            self.send_error(400, "Bad Request")
1061
 
            return
1062
 
        return http_server.TestingHTTPRequestHandler.get_multiple_ranges(
1063
 
            self, file, file_size, ranges)
1064
 
 
1065
 
 
1066
 
class LimitedRangeHTTPServer(http_server.HttpServer):
1067
 
    """An HttpServer erroring out on requests with too much range specifiers"""
1068
 
 
1069
 
    def __init__(self, request_handler=LimitedRangeRequestHandler,
1070
 
                 protocol_version=None,
1071
 
                 range_limit=None):
1072
 
        http_server.HttpServer.__init__(self, request_handler,
1073
 
                                        protocol_version=protocol_version)
1074
 
        self.range_limit = range_limit
1075
 
 
1076
 
 
1077
 
class TestLimitedRangeRequestServer(http_utils.TestCaseWithWebserver):
1078
 
    """Tests readv requests against a server erroring out on too much ranges."""
1079
 
 
1080
 
    scenarios = multiply_scenarios(
1081
 
        vary_by_http_client_implementation(),
1082
 
        vary_by_http_protocol_version(),
1083
 
        )
1084
 
 
1085
 
    # Requests with more range specifiers will error out
1086
737
    range_limit = 3
1087
738
 
1088
739
    def create_transport_readonly_server(self):
1089
 
        return LimitedRangeHTTPServer(range_limit=self.range_limit,
1090
 
                                      protocol_version=self._protocol_version)
 
740
        # Requests with more range specifiers will error out
 
741
        return LimitedRangeHTTPServer(range_limit=self.range_limit)
 
742
 
 
743
    def get_transport(self):
 
744
        return self._transport(self.get_readonly_server().get_url())
1091
745
 
1092
746
    def setUp(self):
1093
 
        http_utils.TestCaseWithWebserver.setUp(self)
 
747
        TestCaseWithWebserver.setUp(self)
1094
748
        # We need to manipulate ranges that correspond to real chunks in the
1095
749
        # response, so we build a content appropriately.
1096
750
        filler = ''.join(['abcdefghij' for x in range(102)])
1098
752
        self.build_tree_contents([('a', content)],)
1099
753
 
1100
754
    def test_few_ranges(self):
1101
 
        t = self.get_readonly_transport()
 
755
        t = self.get_transport()
1102
756
        l = list(t.readv('a', ((0, 4), (1024, 4), )))
1103
757
        self.assertEqual(l[0], (0, '0000'))
1104
758
        self.assertEqual(l[1], (1024, '0001'))
1105
759
        self.assertEqual(1, self.get_readonly_server().GET_request_nb)
1106
760
 
1107
761
    def test_more_ranges(self):
1108
 
        t = self.get_readonly_transport()
 
762
        t = self.get_transport()
1109
763
        l = list(t.readv('a', ((0, 4), (1024, 4), (4096, 4), (8192, 4))))
1110
764
        self.assertEqual(l[0], (0, '0000'))
1111
765
        self.assertEqual(l[1], (1024, '0001'))
1112
766
        self.assertEqual(l[2], (4096, '0004'))
1113
767
        self.assertEqual(l[3], (8192, '0008'))
1114
768
        # The server will refuse to serve the first request (too much ranges),
1115
 
        # a second request will succeed.
 
769
        # a second request will succeeds.
1116
770
        self.assertEqual(2, self.get_readonly_server().GET_request_nb)
1117
771
 
1118
772
 
 
773
class TestLimitedRangeRequestServer_urllib(TestLimitedRangeRequestServer,
 
774
                                          TestCaseWithWebserver):
 
775
    """Tests limited range requests server for urllib implementation"""
 
776
 
 
777
    _transport = HttpTransport_urllib
 
778
 
 
779
 
 
780
class TestLimitedRangeRequestServer_pycurl(TestWithTransport_pycurl,
 
781
                                          TestLimitedRangeRequestServer,
 
782
                                          TestCaseWithWebserver):
 
783
    """Tests limited range requests server for pycurl implementation"""
 
784
 
 
785
 
 
786
 
1119
787
class TestHttpProxyWhiteBox(tests.TestCase):
1120
788
    """Whitebox test proxy http authorization.
1121
789
 
1122
790
    Only the urllib implementation is tested here.
1123
791
    """
1124
792
 
 
793
    def setUp(self):
 
794
        tests.TestCase.setUp(self)
 
795
        self._old_env = {}
 
796
 
 
797
    def tearDown(self):
 
798
        self._restore_env()
 
799
 
 
800
    def _install_env(self, env):
 
801
        for name, value in env.iteritems():
 
802
            self._old_env[name] = osutils.set_or_unset_env(name, value)
 
803
 
 
804
    def _restore_env(self):
 
805
        for name, value in self._old_env.iteritems():
 
806
            osutils.set_or_unset_env(name, value)
 
807
 
1125
808
    def _proxied_request(self):
1126
 
        handler = _urllib2_wrappers.ProxyHandler()
1127
 
        request = _urllib2_wrappers.Request('GET', 'http://baz/buzzle')
 
809
        handler = ProxyHandler()
 
810
        request = Request('GET','http://baz/buzzle')
1128
811
        handler.set_proxy(request, 'http')
1129
812
        return request
1130
813
 
1131
 
    def assertEvaluateProxyBypass(self, expected, host, no_proxy):
1132
 
        handler = _urllib2_wrappers.ProxyHandler()
1133
 
        self.assertEquals(expected,
1134
 
                          handler.evaluate_proxy_bypass(host, no_proxy))
1135
 
 
1136
814
    def test_empty_user(self):
1137
 
        self.overrideEnv('http_proxy', 'http://bar.com')
1138
 
        request = self._proxied_request()
1139
 
        self.assertFalse(request.headers.has_key('Proxy-authorization'))
1140
 
 
1141
 
    def test_user_with_at(self):
1142
 
        self.overrideEnv('http_proxy',
1143
 
                         'http://username@domain:password@proxy_host:1234')
 
815
        self._install_env({'http_proxy': 'http://bar.com'})
1144
816
        request = self._proxied_request()
1145
817
        self.assertFalse(request.headers.has_key('Proxy-authorization'))
1146
818
 
1147
819
    def test_invalid_proxy(self):
1148
820
        """A proxy env variable without scheme"""
1149
 
        self.overrideEnv('http_proxy', 'host:1234')
 
821
        self._install_env({'http_proxy': 'host:1234'})
1150
822
        self.assertRaises(errors.InvalidURL, self._proxied_request)
1151
823
 
1152
 
    def test_evaluate_proxy_bypass_true(self):
1153
 
        """The host is not proxied"""
1154
 
        self.assertEvaluateProxyBypass(True, 'example.com', 'example.com')
1155
 
        self.assertEvaluateProxyBypass(True, 'bzr.example.com', '*example.com')
1156
 
 
1157
 
    def test_evaluate_proxy_bypass_false(self):
1158
 
        """The host is proxied"""
1159
 
        self.assertEvaluateProxyBypass(False, 'bzr.example.com', None)
1160
 
 
1161
 
    def test_evaluate_proxy_bypass_unknown(self):
1162
 
        """The host is not explicitly proxied"""
1163
 
        self.assertEvaluateProxyBypass(None, 'example.com', 'not.example.com')
1164
 
        self.assertEvaluateProxyBypass(None, 'bzr.example.com', 'example.com')
1165
 
 
1166
 
    def test_evaluate_proxy_bypass_empty_entries(self):
1167
 
        """Ignore empty entries"""
1168
 
        self.assertEvaluateProxyBypass(None, 'example.com', '')
1169
 
        self.assertEvaluateProxyBypass(None, 'example.com', ',')
1170
 
        self.assertEvaluateProxyBypass(None, 'example.com', 'foo,,bar')
1171
 
 
1172
 
 
1173
 
class TestProxyHttpServer(http_utils.TestCaseWithTwoWebservers):
 
824
 
 
825
class TestProxyHttpServer(object):
1174
826
    """Tests proxy server.
1175
827
 
 
828
    This MUST be used by daughter classes that also inherit from
 
829
    TestCaseWithTwoWebservers.
 
830
 
 
831
    We can't inherit directly from TestCaseWithTwoWebservers or
 
832
    the test framework will try to create an instance which
 
833
    cannot run, its implementation being incomplete.
 
834
 
1176
835
    Be aware that we do not setup a real proxy here. Instead, we
1177
836
    check that the *connection* goes through the proxy by serving
1178
837
    different content (the faked proxy server append '-proxied'
1179
838
    to the file names).
1180
839
    """
1181
840
 
1182
 
    scenarios = multiply_scenarios(
1183
 
        vary_by_http_client_implementation(),
1184
 
        vary_by_http_protocol_version(),
1185
 
        )
1186
 
 
1187
841
    # FIXME: We don't have an https server available, so we don't
1188
 
    # test https connections. --vila toolongago
 
842
    # test https connections.
1189
843
 
1190
844
    def setUp(self):
1191
 
        super(TestProxyHttpServer, self).setUp()
1192
 
        self.transport_secondary_server = http_utils.ProxyServer
 
845
        TestCaseWithTwoWebservers.setUp(self)
1193
846
        self.build_tree_contents([('foo', 'contents of foo\n'),
1194
847
                                  ('foo-proxied', 'proxied contents of foo\n')])
1195
848
        # Let's setup some attributes for tests
1196
 
        server = self.get_readonly_server()
1197
 
        self.server_host_port = '%s:%d' % (server.host, server.port)
1198
 
        if self._testing_pycurl():
1199
 
            # Oh my ! pycurl does not check for the port as part of
1200
 
            # no_proxy :-( So we just test the host part
1201
 
            self.no_proxy_host = server.host
1202
 
        else:
1203
 
            self.no_proxy_host = self.server_host_port
 
849
        self.server = self.get_readonly_server()
 
850
        self.proxy_address = '%s:%d' % (self.server.host, self.server.port)
 
851
        self.no_proxy_host = self.proxy_address
1204
852
        # The secondary server is the proxy
1205
 
        self.proxy_url = self.get_secondary_url()
1206
 
 
1207
 
    def _testing_pycurl(self):
1208
 
        # TODO: This is duplicated for lots of the classes in this file
1209
 
        return (features.pycurl.available()
1210
 
                and self._transport == PyCurlTransport)
1211
 
 
1212
 
    def assertProxied(self):
1213
 
        t = self.get_readonly_transport()
1214
 
        self.assertEqual('proxied contents of foo\n', t.get('foo').read())
1215
 
 
1216
 
    def assertNotProxied(self):
1217
 
        t = self.get_readonly_transport()
1218
 
        self.assertEqual('contents of foo\n', t.get('foo').read())
 
853
        self.proxy = self.get_secondary_server()
 
854
        self.proxy_url = self.proxy.get_url()
 
855
        self._old_env = {}
 
856
 
 
857
    def create_transport_secondary_server(self):
 
858
        """Creates an http server that will serve files with
 
859
        '-proxied' appended to their names.
 
860
        """
 
861
        return ProxyServer()
 
862
 
 
863
    def _install_env(self, env):
 
864
        for name, value in env.iteritems():
 
865
            self._old_env[name] = osutils.set_or_unset_env(name, value)
 
866
 
 
867
    def _restore_env(self):
 
868
        for name, value in self._old_env.iteritems():
 
869
            osutils.set_or_unset_env(name, value)
 
870
 
 
871
    def proxied_in_env(self, env):
 
872
        self._install_env(env)
 
873
        url = self.server.get_url()
 
874
        t = self._transport(url)
 
875
        try:
 
876
            self.assertEqual(t.get('foo').read(), 'proxied contents of foo\n')
 
877
        finally:
 
878
            self._restore_env()
 
879
 
 
880
    def not_proxied_in_env(self, env):
 
881
        self._install_env(env)
 
882
        url = self.server.get_url()
 
883
        t = self._transport(url)
 
884
        try:
 
885
            self.assertEqual(t.get('foo').read(), 'contents of foo\n')
 
886
        finally:
 
887
            self._restore_env()
1219
888
 
1220
889
    def test_http_proxy(self):
1221
 
        self.overrideEnv('http_proxy', self.proxy_url)
1222
 
        self.assertProxied()
 
890
        self.proxied_in_env({'http_proxy': self.proxy_url})
1223
891
 
1224
892
    def test_HTTP_PROXY(self):
1225
 
        if self._testing_pycurl():
1226
 
            # pycurl does not check HTTP_PROXY for security reasons
1227
 
            # (for use in a CGI context that we do not care
1228
 
            # about. Should we ?)
1229
 
            raise tests.TestNotApplicable(
1230
 
                'pycurl does not check HTTP_PROXY for security reasons')
1231
 
        self.overrideEnv('HTTP_PROXY', self.proxy_url)
1232
 
        self.assertProxied()
 
893
        self.proxied_in_env({'HTTP_PROXY': self.proxy_url})
1233
894
 
1234
895
    def test_all_proxy(self):
1235
 
        self.overrideEnv('all_proxy', self.proxy_url)
1236
 
        self.assertProxied()
 
896
        self.proxied_in_env({'all_proxy': self.proxy_url})
1237
897
 
1238
898
    def test_ALL_PROXY(self):
1239
 
        self.overrideEnv('ALL_PROXY', self.proxy_url)
1240
 
        self.assertProxied()
 
899
        self.proxied_in_env({'ALL_PROXY': self.proxy_url})
1241
900
 
1242
901
    def test_http_proxy_with_no_proxy(self):
1243
 
        self.overrideEnv('no_proxy', self.no_proxy_host)
1244
 
        self.overrideEnv('http_proxy', self.proxy_url)
1245
 
        self.assertNotProxied()
 
902
        self.not_proxied_in_env({'http_proxy': self.proxy_url,
 
903
                                 'no_proxy': self.no_proxy_host})
1246
904
 
1247
905
    def test_HTTP_PROXY_with_NO_PROXY(self):
1248
 
        if self._testing_pycurl():
1249
 
            raise tests.TestNotApplicable(
1250
 
                'pycurl does not check HTTP_PROXY for security reasons')
1251
 
        self.overrideEnv('NO_PROXY', self.no_proxy_host)
1252
 
        self.overrideEnv('HTTP_PROXY', self.proxy_url)
1253
 
        self.assertNotProxied()
 
906
        self.not_proxied_in_env({'HTTP_PROXY': self.proxy_url,
 
907
                                 'NO_PROXY': self.no_proxy_host})
1254
908
 
1255
909
    def test_all_proxy_with_no_proxy(self):
1256
 
        self.overrideEnv('no_proxy', self.no_proxy_host)
1257
 
        self.overrideEnv('all_proxy', self.proxy_url)
1258
 
        self.assertNotProxied()
 
910
        self.not_proxied_in_env({'all_proxy': self.proxy_url,
 
911
                                 'no_proxy': self.no_proxy_host})
1259
912
 
1260
913
    def test_ALL_PROXY_with_NO_PROXY(self):
1261
 
        self.overrideEnv('NO_PROXY', self.no_proxy_host)
1262
 
        self.overrideEnv('ALL_PROXY', self.proxy_url)
1263
 
        self.assertNotProxied()
1264
 
 
1265
 
    def test_http_proxy_without_scheme(self):
1266
 
        self.overrideEnv('http_proxy', self.server_host_port)
1267
 
        if self._testing_pycurl():
1268
 
            # pycurl *ignores* invalid proxy env variables. If that ever change
1269
 
            # in the future, this test will fail indicating that pycurl do not
1270
 
            # ignore anymore such variables.
1271
 
            self.assertNotProxied()
1272
 
        else:
1273
 
            self.assertRaises(errors.InvalidURL, self.assertProxied)
1274
 
 
1275
 
 
1276
 
class TestRanges(http_utils.TestCaseWithWebserver):
1277
 
    """Test the Range header in GET methods."""
1278
 
 
1279
 
    scenarios = multiply_scenarios(
1280
 
        vary_by_http_client_implementation(),
1281
 
        vary_by_http_protocol_version(),
1282
 
        )
1283
 
 
1284
 
    def setUp(self):
1285
 
        http_utils.TestCaseWithWebserver.setUp(self)
 
914
        self.not_proxied_in_env({'ALL_PROXY': self.proxy_url,
 
915
                                 'NO_PROXY': self.no_proxy_host})
 
916
 
 
917
    def test_http_proxy_without_scheme(self):
 
918
        self.assertRaises(errors.InvalidURL,
 
919
                          self.proxied_in_env,
 
920
                          {'http_proxy': self.proxy_address})
 
921
 
 
922
 
 
923
class TestProxyHttpServer_urllib(TestProxyHttpServer,
 
924
                                 TestCaseWithTwoWebservers):
 
925
    """Tests proxy server for urllib implementation"""
 
926
 
 
927
    _transport = HttpTransport_urllib
 
928
 
 
929
 
 
930
class TestProxyHttpServer_pycurl(TestWithTransport_pycurl,
 
931
                                 TestProxyHttpServer,
 
932
                                 TestCaseWithTwoWebservers):
 
933
    """Tests proxy server for pycurl implementation"""
 
934
 
 
935
    def setUp(self):
 
936
        TestProxyHttpServer.setUp(self)
 
937
        # Oh my ! pycurl does not check for the port as part of
 
938
        # no_proxy :-( So we just test the host part
 
939
        self.no_proxy_host = 'localhost'
 
940
 
 
941
    def test_HTTP_PROXY(self):
 
942
        # pycurl does not check HTTP_PROXY for security reasons
 
943
        # (for use in a CGI context that we do not care
 
944
        # about. Should we ?)
 
945
        raise tests.TestNotApplicable(
 
946
            'pycurl does not check HTTP_PROXY for security reasons')
 
947
 
 
948
    def test_HTTP_PROXY_with_NO_PROXY(self):
 
949
        raise tests.TestNotApplicable(
 
950
            'pycurl does not check HTTP_PROXY for security reasons')
 
951
 
 
952
    def test_http_proxy_without_scheme(self):
 
953
        # pycurl *ignores* invalid proxy env variables. If that
 
954
        # ever change in the future, this test will fail
 
955
        # indicating that pycurl do not ignore anymore such
 
956
        # variables.
 
957
        self.not_proxied_in_env({'http_proxy': self.proxy_address})
 
958
 
 
959
 
 
960
class TestRanges(object):
 
961
    """Test the Range header in GET methods..
 
962
 
 
963
    This MUST be used by daughter classes that also inherit from
 
964
    TestCaseWithWebserver.
 
965
 
 
966
    We can't inherit directly from TestCaseWithWebserver or the
 
967
    test framework will try to create an instance which cannot
 
968
    run, its implementation being incomplete.
 
969
    """
 
970
 
 
971
    def setUp(self):
 
972
        TestCaseWithWebserver.setUp(self)
1286
973
        self.build_tree_contents([('a', '0123456789')],)
1287
 
 
1288
 
    def create_transport_readonly_server(self):
1289
 
        return http_server.HttpServer(protocol_version=self._protocol_version)
 
974
        server = self.get_readonly_server()
 
975
        self.transport = self._transport(server.get_url())
1290
976
 
1291
977
    def _file_contents(self, relpath, ranges):
1292
 
        t = self.get_readonly_transport()
1293
978
        offsets = [ (start, end - start + 1) for start, end in ranges]
1294
 
        coalesce = t._coalesce_offsets
 
979
        coalesce = self.transport._coalesce_offsets
1295
980
        coalesced = list(coalesce(offsets, limit=0, fudge_factor=0))
1296
 
        code, data = t._get(relpath, coalesced)
 
981
        code, data = self.transport._get(relpath, coalesced)
1297
982
        self.assertTrue(code in (200, 206),'_get returns: %d' % code)
1298
983
        for start, end in ranges:
1299
984
            data.seek(start)
1300
985
            yield data.read(end - start + 1)
1301
986
 
1302
987
    def _file_tail(self, relpath, tail_amount):
1303
 
        t = self.get_readonly_transport()
1304
 
        code, data = t._get(relpath, [], tail_amount)
 
988
        code, data = self.transport._get(relpath, [], tail_amount)
1305
989
        self.assertTrue(code in (200, 206),'_get returns: %d' % code)
1306
 
        data.seek(-tail_amount, 2)
 
990
        data.seek(-tail_amount + 1, 2)
1307
991
        return data.read(tail_amount)
1308
992
 
1309
993
    def test_range_header(self):
1310
994
        # Valid ranges
1311
995
        map(self.assertEqual,['0', '234'],
1312
996
            list(self._file_contents('a', [(0,0), (2,4)])),)
1313
 
 
1314
 
    def test_range_header_tail(self):
 
997
        # Tail
1315
998
        self.assertEqual('789', self._file_tail('a', 3))
1316
 
 
1317
 
    def test_syntactically_invalid_range_header(self):
1318
 
        self.assertListRaises(errors.InvalidHttpRange,
 
999
        # Syntactically invalid range
 
1000
        self.assertListRaises(errors.InvalidRange,
1319
1001
                          self._file_contents, 'a', [(4, 3)])
1320
 
 
1321
 
    def test_semantically_invalid_range_header(self):
1322
 
        self.assertListRaises(errors.InvalidHttpRange,
 
1002
        # Semantically invalid range
 
1003
        self.assertListRaises(errors.InvalidRange,
1323
1004
                          self._file_contents, 'a', [(42, 128)])
1324
1005
 
1325
1006
 
1326
 
class TestHTTPRedirections(http_utils.TestCaseWithRedirectedWebserver):
1327
 
    """Test redirection between http servers."""
1328
 
 
1329
 
    scenarios = multiply_scenarios(
1330
 
        vary_by_http_client_implementation(),
1331
 
        vary_by_http_protocol_version(),
1332
 
        )
 
1007
class TestRanges_urllib(TestRanges, TestCaseWithWebserver):
 
1008
    """Test the Range header in GET methods for urllib implementation"""
 
1009
 
 
1010
    _transport = HttpTransport_urllib
 
1011
 
 
1012
 
 
1013
class TestRanges_pycurl(TestWithTransport_pycurl,
 
1014
                        TestRanges,
 
1015
                        TestCaseWithWebserver):
 
1016
    """Test the Range header in GET methods for pycurl implementation"""
 
1017
 
 
1018
 
 
1019
class TestHTTPRedirections(object):
 
1020
    """Test redirection between http servers.
 
1021
 
 
1022
    This MUST be used by daughter classes that also inherit from
 
1023
    TestCaseWithRedirectedWebserver.
 
1024
 
 
1025
    We can't inherit directly from TestCaseWithTwoWebservers or the
 
1026
    test framework will try to create an instance which cannot
 
1027
    run, its implementation being incomplete. 
 
1028
    """
 
1029
 
 
1030
    def create_transport_secondary_server(self):
 
1031
        """Create the secondary server redirecting to the primary server"""
 
1032
        new = self.get_readonly_server()
 
1033
 
 
1034
        redirecting = HTTPServerRedirecting()
 
1035
        redirecting.redirect_to(new.host, new.port)
 
1036
        return redirecting
1333
1037
 
1334
1038
    def setUp(self):
1335
1039
        super(TestHTTPRedirections, self).setUp()
1338
1042
                                  '# Bazaar revision bundle v0.9\n#\n')
1339
1043
                                  ],)
1340
1044
 
 
1045
        self.old_transport = self._transport(self.old_server.get_url())
 
1046
 
1341
1047
    def test_redirected(self):
1342
 
        self.assertRaises(errors.RedirectRequested,
1343
 
                          self.get_old_transport().get, 'a')
1344
 
        self.assertEqual('0123456789', self.get_new_transport().get('a').read())
1345
 
 
1346
 
 
1347
 
class RedirectedRequest(_urllib2_wrappers.Request):
1348
 
    """Request following redirections. """
1349
 
 
1350
 
    init_orig = _urllib2_wrappers.Request.__init__
 
1048
        self.assertRaises(errors.RedirectRequested, self.old_transport.get, 'a')
 
1049
        t = self._transport(self.new_server.get_url())
 
1050
        self.assertEqual('0123456789', t.get('a').read())
 
1051
 
 
1052
    def test_read_redirected_bundle_from_url(self):
 
1053
        from bzrlib.bundle import read_bundle_from_url
 
1054
        url = self.old_transport.abspath('bundle')
 
1055
        bundle = read_bundle_from_url(url)
 
1056
        # If read_bundle_from_url was successful we get an empty bundle
 
1057
        self.assertEqual([], bundle.revisions)
 
1058
 
 
1059
 
 
1060
class TestHTTPRedirections_urllib(TestHTTPRedirections,
 
1061
                                  TestCaseWithRedirectedWebserver):
 
1062
    """Tests redirections for urllib implementation"""
 
1063
 
 
1064
    _transport = HttpTransport_urllib
 
1065
 
 
1066
 
 
1067
 
 
1068
class TestHTTPRedirections_pycurl(TestWithTransport_pycurl,
 
1069
                                  TestHTTPRedirections,
 
1070
                                  TestCaseWithRedirectedWebserver):
 
1071
    """Tests redirections for pycurl implementation"""
 
1072
 
 
1073
 
 
1074
class RedirectedRequest(Request):
 
1075
    """Request following redirections"""
 
1076
 
 
1077
    init_orig = Request.__init__
1351
1078
 
1352
1079
    def __init__(self, method, url, *args, **kwargs):
1353
 
        """Constructor.
1354
 
 
1355
 
        """
1356
 
        # Since the tests using this class will replace
1357
 
        # _urllib2_wrappers.Request, we can't just call the base class __init__
1358
 
        # or we'll loop.
1359
 
        RedirectedRequest.init_orig(self, method, url, *args, **kwargs)
 
1080
        RedirectedRequest.init_orig(self, method, url, args, kwargs)
1360
1081
        self.follow_redirections = True
1361
1082
 
1362
1083
 
1363
 
def install_redirected_request(test):
1364
 
    test.overrideAttr(_urllib2_wrappers, 'Request', RedirectedRequest)
1365
 
 
1366
 
 
1367
 
def cleanup_http_redirection_connections(test):
1368
 
    # Some sockets are opened but never seen by _urllib, so we trap them at
1369
 
    # the _urllib2_wrappers level to be able to clean them up.
1370
 
    def socket_disconnect(sock):
1371
 
        try:
1372
 
            sock.shutdown(socket.SHUT_RDWR)
1373
 
            sock.close()
1374
 
        except socket.error:
1375
 
            pass
1376
 
    def connect(connection):
1377
 
        test.http_connect_orig(connection)
1378
 
        test.addCleanup(socket_disconnect, connection.sock)
1379
 
    test.http_connect_orig = test.overrideAttr(
1380
 
        _urllib2_wrappers.HTTPConnection, 'connect', connect)
1381
 
    def connect(connection):
1382
 
        test.https_connect_orig(connection)
1383
 
        test.addCleanup(socket_disconnect, connection.sock)
1384
 
    test.https_connect_orig = test.overrideAttr(
1385
 
        _urllib2_wrappers.HTTPSConnection, 'connect', connect)
1386
 
 
1387
 
 
1388
 
class TestHTTPSilentRedirections(http_utils.TestCaseWithRedirectedWebserver):
1389
 
    """Test redirections.
 
1084
class TestHTTPSilentRedirections_urllib(TestCaseWithRedirectedWebserver):
 
1085
    """Test redirections provided by urllib.
1390
1086
 
1391
1087
    http implementations do not redirect silently anymore (they
1392
1088
    do not redirect at all in fact). The mechanism is still in
1399
1095
    -- vila 20070212
1400
1096
    """
1401
1097
 
1402
 
    scenarios = multiply_scenarios(
1403
 
        vary_by_http_client_implementation(),
1404
 
        vary_by_http_protocol_version(),
1405
 
        )
 
1098
    _transport = HttpTransport_urllib
1406
1099
 
1407
1100
    def setUp(self):
1408
 
        if (features.pycurl.available()
1409
 
            and self._transport == PyCurlTransport):
1410
 
            raise tests.TestNotApplicable(
1411
 
                "pycurl doesn't redirect silently anymore")
1412
 
        super(TestHTTPSilentRedirections, self).setUp()
1413
 
        install_redirected_request(self)
1414
 
        cleanup_http_redirection_connections(self)
 
1101
        super(TestHTTPSilentRedirections_urllib, self).setUp()
 
1102
        self.setup_redirected_request()
 
1103
        self.addCleanup(self.cleanup_redirected_request)
1415
1104
        self.build_tree_contents([('a','a'),
1416
1105
                                  ('1/',),
1417
1106
                                  ('1/a', 'redirected once'),
1425
1114
                                  ('5/a', 'redirected 5 times'),
1426
1115
                                  ],)
1427
1116
 
 
1117
        self.old_transport = self._transport(self.old_server.get_url())
 
1118
 
 
1119
    def setup_redirected_request(self):
 
1120
        self.original_class = _urllib2_wrappers.Request
 
1121
        _urllib2_wrappers.Request = RedirectedRequest
 
1122
 
 
1123
    def cleanup_redirected_request(self):
 
1124
        _urllib2_wrappers.Request = self.original_class
 
1125
 
 
1126
    def create_transport_secondary_server(self):
 
1127
        """Create the secondary server, redirections are defined in the tests"""
 
1128
        return HTTPServerRedirecting()
 
1129
 
1428
1130
    def test_one_redirection(self):
1429
 
        t = self.get_old_transport()
1430
 
        req = RedirectedRequest('GET', t._remote_path('a'))
 
1131
        t = self.old_transport
 
1132
 
 
1133
        req = RedirectedRequest('GET', t.abspath('a'))
 
1134
        req.follow_redirections = True
1431
1135
        new_prefix = 'http://%s:%s' % (self.new_server.host,
1432
1136
                                       self.new_server.port)
1433
1137
        self.old_server.redirections = \
1434
1138
            [('(.*)', r'%s/1\1' % (new_prefix), 301),]
1435
 
        self.assertEqual('redirected once', t._perform(req).read())
 
1139
        self.assertEquals('redirected once',t._perform(req).read())
1436
1140
 
1437
1141
    def test_five_redirections(self):
1438
 
        t = self.get_old_transport()
1439
 
        req = RedirectedRequest('GET', t._remote_path('a'))
 
1142
        t = self.old_transport
 
1143
 
 
1144
        req = RedirectedRequest('GET', t.abspath('a'))
 
1145
        req.follow_redirections = True
1440
1146
        old_prefix = 'http://%s:%s' % (self.old_server.host,
1441
1147
                                       self.old_server.port)
1442
1148
        new_prefix = 'http://%s:%s' % (self.new_server.host,
1443
1149
                                       self.new_server.port)
1444
 
        self.old_server.redirections = [
1445
 
            ('/1(.*)', r'%s/2\1' % (old_prefix), 302),
1446
 
            ('/2(.*)', r'%s/3\1' % (old_prefix), 303),
1447
 
            ('/3(.*)', r'%s/4\1' % (old_prefix), 307),
1448
 
            ('/4(.*)', r'%s/5\1' % (new_prefix), 301),
1449
 
            ('(/[^/]+)', r'%s/1\1' % (old_prefix), 301),
1450
 
            ]
1451
 
        self.assertEqual('redirected 5 times', t._perform(req).read())
1452
 
 
1453
 
 
1454
 
class TestDoCatchRedirections(http_utils.TestCaseWithRedirectedWebserver):
1455
 
    """Test transport.do_catching_redirections."""
1456
 
 
1457
 
    scenarios = multiply_scenarios(
1458
 
        vary_by_http_client_implementation(),
1459
 
        vary_by_http_protocol_version(),
1460
 
        )
 
1150
        self.old_server.redirections = \
 
1151
            [('/1(.*)', r'%s/2\1' % (old_prefix), 302),
 
1152
             ('/2(.*)', r'%s/3\1' % (old_prefix), 303),
 
1153
             ('/3(.*)', r'%s/4\1' % (old_prefix), 307),
 
1154
             ('/4(.*)', r'%s/5\1' % (new_prefix), 301),
 
1155
             ('(/[^/]+)', r'%s/1\1' % (old_prefix), 301),
 
1156
             ]
 
1157
        self.assertEquals('redirected 5 times',t._perform(req).read())
 
1158
 
 
1159
 
 
1160
class TestDoCatchRedirections(TestCaseWithRedirectedWebserver):
 
1161
    """Test transport.do_catching_redirections.
 
1162
 
 
1163
    We arbitrarily choose to use urllib transports
 
1164
    """
 
1165
 
 
1166
    _transport = HttpTransport_urllib
1461
1167
 
1462
1168
    def setUp(self):
1463
1169
        super(TestDoCatchRedirections, self).setUp()
1464
1170
        self.build_tree_contents([('a', '0123456789'),],)
1465
 
        cleanup_http_redirection_connections(self)
1466
 
 
1467
 
        self.old_transport = self.get_old_transport()
1468
 
 
1469
 
    def get_a(self, t):
1470
 
        return t.get('a')
 
1171
 
 
1172
        self.old_transport = self._transport(self.old_server.get_url())
 
1173
 
 
1174
    def get_a(self, transport):
 
1175
        return transport.get('a')
1471
1176
 
1472
1177
    def test_no_redirection(self):
1473
 
        t = self.get_new_transport()
 
1178
        t = self._transport(self.new_server.get_url())
1474
1179
 
1475
1180
        # We use None for redirected so that we fail if redirected
1476
 
        self.assertEqual('0123456789',
1477
 
                         transport.do_catching_redirections(
1478
 
                self.get_a, t, None).read())
 
1181
        self.assertEquals('0123456789',
 
1182
                          do_catching_redirections(self.get_a, t, None).read())
1479
1183
 
1480
1184
    def test_one_redirection(self):
1481
1185
        self.redirections = 0
1482
1186
 
1483
 
        def redirected(t, exception, redirection_notice):
 
1187
        def redirected(transport, exception, redirection_notice):
1484
1188
            self.redirections += 1
1485
 
            redirected_t = t._redirected_to(exception.source, exception.target)
1486
 
            return redirected_t
 
1189
            dir, file = urlutils.split(exception.target)
 
1190
            return self._transport(dir)
1487
1191
 
1488
 
        self.assertEqual('0123456789',
1489
 
                         transport.do_catching_redirections(
1490
 
                self.get_a, self.old_transport, redirected).read())
1491
 
        self.assertEqual(1, self.redirections)
 
1192
        self.assertEquals('0123456789',
 
1193
                          do_catching_redirections(self.get_a,
 
1194
                                                   self.old_transport,
 
1195
                                                   redirected
 
1196
                                                   ).read())
 
1197
        self.assertEquals(1, self.redirections)
1492
1198
 
1493
1199
    def test_redirection_loop(self):
1494
1200
 
1498
1204
            # a/a/a
1499
1205
            return self.old_transport.clone(exception.target)
1500
1206
 
1501
 
        self.assertRaises(errors.TooManyRedirections,
1502
 
                          transport.do_catching_redirections,
 
1207
        self.assertRaises(errors.TooManyRedirections, do_catching_redirections,
1503
1208
                          self.get_a, self.old_transport, redirected)
1504
1209
 
1505
1210
 
1506
 
def _setup_authentication_config(**kwargs):
1507
 
    conf = config.AuthenticationConfig()
1508
 
    conf._get_config().update({'httptest': kwargs})
1509
 
    conf._save()
1510
 
 
1511
 
 
1512
 
class TestUrllib2AuthHandler(tests.TestCaseWithTransport):
1513
 
    """Unit tests for glue by which urllib2 asks us for authentication"""
1514
 
 
1515
 
    def test_get_user_password_without_port(self):
1516
 
        """We cope if urllib2 doesn't tell us the port.
1517
 
 
1518
 
        See https://bugs.launchpad.net/bzr/+bug/654684
 
1211
class TestAuth(object):
 
1212
    """Test some authentication scheme specified by daughter class.
 
1213
 
 
1214
    This MUST be used by daughter classes that also inherit from
 
1215
    either TestCaseWithWebserver or TestCaseWithTwoWebservers.
 
1216
    """
 
1217
 
 
1218
    _password_prompt_prefix = ''
 
1219
 
 
1220
    def setUp(self):
 
1221
        """Set up the test environment
 
1222
 
 
1223
        Daughter classes should set up their own environment
 
1224
        (including self.server) and explicitely call this
 
1225
        method. This is needed because we want to reuse the same
 
1226
        tests for proxy and no-proxy accesses which have
 
1227
        different ways of setting self.server.
1519
1228
        """
1520
 
        user = 'joe'
1521
 
        password = 'foo'
1522
 
        _setup_authentication_config(scheme='http', host='localhost',
1523
 
                                     user=user, password=password)
1524
 
        handler = _urllib2_wrappers.HTTPAuthHandler()
1525
 
        got_pass = handler.get_user_password(dict(
1526
 
            user='joe',
1527
 
            protocol='http',
1528
 
            host='localhost',
1529
 
            path='/',
1530
 
            realm='Realm',
1531
 
            ))
1532
 
        self.assertEquals((user, password), got_pass)
1533
 
 
1534
 
 
1535
 
class TestAuth(http_utils.TestCaseWithWebserver):
1536
 
    """Test authentication scheme"""
1537
 
 
1538
 
    scenarios = multiply_scenarios(
1539
 
        vary_by_http_client_implementation(),
1540
 
        vary_by_http_protocol_version(),
1541
 
        vary_by_http_auth_scheme(),
1542
 
        )
1543
 
 
1544
 
    def setUp(self):
1545
 
        super(TestAuth, self).setUp()
1546
 
        self.server = self.get_readonly_server()
1547
1229
        self.build_tree_contents([('a', 'contents of a\n'),
1548
1230
                                  ('b', 'contents of b\n'),])
1549
1231
 
1550
 
    def create_transport_readonly_server(self):
1551
 
        server = self._auth_server(protocol_version=self._protocol_version)
1552
 
        server._url_protocol = self._url_protocol
1553
 
        return server
1554
 
 
1555
 
    def _testing_pycurl(self):
1556
 
        # TODO: This is duplicated for lots of the classes in this file
1557
 
        return (features.pycurl.available()
1558
 
                and self._transport == PyCurlTransport)
1559
 
 
1560
 
    def get_user_url(self, user, password):
 
1232
    def get_user_url(self, user=None, password=None):
1561
1233
        """Build an url embedding user and password"""
1562
1234
        url = '%s://' % self.server._url_protocol
1563
1235
        if user is not None:
1568
1240
        url += '%s:%s/' % (self.server.host, self.server.port)
1569
1241
        return url
1570
1242
 
1571
 
    def get_user_transport(self, user, password):
1572
 
        t = transport.get_transport(self.get_user_url(user, password))
1573
 
        return t
1574
 
 
1575
1243
    def test_no_user(self):
1576
1244
        self.server.add_user('joe', 'foo')
1577
 
        t = self.get_user_transport(None, None)
 
1245
        t = self.get_user_transport()
1578
1246
        self.assertRaises(errors.InvalidHttpResponse, t.get, 'a')
1579
1247
        # Only one 'Authentication Required' error should occur
1580
1248
        self.assertEqual(1, self.server.auth_required_errors)
1610
1278
        # initial 'who are you' and 'this is not you, who are you')
1611
1279
        self.assertEqual(2, self.server.auth_required_errors)
1612
1280
 
1613
 
    def test_prompt_for_username(self):
1614
 
        if self._testing_pycurl():
1615
 
            raise tests.TestNotApplicable(
1616
 
                'pycurl cannot prompt, it handles auth by embedding'
1617
 
                ' user:pass in urls only')
1618
 
 
1619
 
        self.server.add_user('joe', 'foo')
1620
 
        t = self.get_user_transport(None, None)
1621
 
        stdout = tests.StringIOWrapper()
1622
 
        stderr = tests.StringIOWrapper()
1623
 
        ui.ui_factory = tests.TestUIFactory(stdin='joe\nfoo\n',
1624
 
                                            stdout=stdout, stderr=stderr)
1625
 
        self.assertEqual('contents of a\n',t.get('a').read())
1626
 
        # stdin should be empty
1627
 
        self.assertEqual('', ui.ui_factory.stdin.readline())
1628
 
        stderr.seek(0)
1629
 
        expected_prompt = self._expected_username_prompt(t._unqualified_scheme)
1630
 
        self.assertEqual(expected_prompt, stderr.read(len(expected_prompt)))
1631
 
        self.assertEqual('', stdout.getvalue())
1632
 
        self._check_password_prompt(t._unqualified_scheme, 'joe',
1633
 
                                    stderr.readline())
1634
 
 
1635
1281
    def test_prompt_for_password(self):
1636
 
        if self._testing_pycurl():
1637
 
            raise tests.TestNotApplicable(
1638
 
                'pycurl cannot prompt, it handles auth by embedding'
1639
 
                ' user:pass in urls only')
1640
 
 
1641
1282
        self.server.add_user('joe', 'foo')
1642
1283
        t = self.get_user_transport('joe', None)
1643
1284
        stdout = tests.StringIOWrapper()
1644
 
        stderr = tests.StringIOWrapper()
1645
 
        ui.ui_factory = tests.TestUIFactory(stdin='foo\n',
1646
 
                                            stdout=stdout, stderr=stderr)
1647
 
        self.assertEqual('contents of a\n', t.get('a').read())
 
1285
        ui.ui_factory = tests.TestUIFactory(stdin='foo\n', stdout=stdout)
 
1286
        self.assertEqual('contents of a\n',t.get('a').read())
1648
1287
        # stdin should be empty
1649
1288
        self.assertEqual('', ui.ui_factory.stdin.readline())
1650
1289
        self._check_password_prompt(t._unqualified_scheme, 'joe',
1651
 
                                    stderr.getvalue())
1652
 
        self.assertEqual('', stdout.getvalue())
 
1290
                                    stdout.getvalue())
1653
1291
        # And we shouldn't prompt again for a different request
1654
1292
        # against the same transport.
1655
1293
        self.assertEqual('contents of b\n',t.get('b').read())
1665
1303
                              % (scheme.upper(),
1666
1304
                                 user, self.server.host, self.server.port,
1667
1305
                                 self.server.auth_realm)))
1668
 
        self.assertEqual(expected_prompt, actual_prompt)
1669
 
 
1670
 
    def _expected_username_prompt(self, scheme):
1671
 
        return (self._username_prompt_prefix
1672
 
                + "%s %s:%d, Realm: '%s' username: " % (scheme.upper(),
1673
 
                                 self.server.host, self.server.port,
1674
 
                                 self.server.auth_realm))
 
1306
        self.assertEquals(expected_prompt, actual_prompt)
1675
1307
 
1676
1308
    def test_no_prompt_for_password_when_using_auth_config(self):
1677
 
        if self._testing_pycurl():
1678
 
            raise tests.TestNotApplicable(
1679
 
                'pycurl does not support authentication.conf'
1680
 
                ' since it cannot prompt')
1681
 
 
1682
1309
        user =' joe'
1683
1310
        password = 'foo'
1684
1311
        stdin_content = 'bar\n'  # Not the right password
1685
1312
        self.server.add_user(user, password)
1686
1313
        t = self.get_user_transport(user, None)
1687
1314
        ui.ui_factory = tests.TestUIFactory(stdin=stdin_content,
1688
 
                                            stderr=tests.StringIOWrapper())
 
1315
                                            stdout=tests.StringIOWrapper())
1689
1316
        # Create a minimal config file with the right password
1690
 
        _setup_authentication_config(scheme='http', port=self.server.port,
1691
 
                                     user=user, password=password)
 
1317
        conf = config.AuthenticationConfig()
 
1318
        conf._get_config().update(
 
1319
            {'httptest': {'scheme': 'http', 'port': self.server.port,
 
1320
                          'user': user, 'password': password}})
 
1321
        conf._save()
1692
1322
        # Issue a request to the server to connect
1693
1323
        self.assertEqual('contents of a\n',t.get('a').read())
1694
1324
        # stdin should have  been left untouched
1696
1326
        # Only one 'Authentication Required' error should occur
1697
1327
        self.assertEqual(1, self.server.auth_required_errors)
1698
1328
 
1699
 
    def test_changing_nonce(self):
1700
 
        if self._auth_server not in (http_utils.HTTPDigestAuthServer,
1701
 
                                     http_utils.ProxyDigestAuthServer):
1702
 
            raise tests.TestNotApplicable('HTTP/proxy auth digest only test')
1703
 
        if self._testing_pycurl():
1704
 
            raise tests.KnownFailure(
1705
 
                'pycurl does not handle a nonce change')
1706
 
        self.server.add_user('joe', 'foo')
1707
 
        t = self.get_user_transport('joe', 'foo')
1708
 
        self.assertEqual('contents of a\n', t.get('a').read())
1709
 
        self.assertEqual('contents of b\n', t.get('b').read())
1710
 
        # Only one 'Authentication Required' error should have
1711
 
        # occured so far
1712
 
        self.assertEqual(1, self.server.auth_required_errors)
1713
 
        # The server invalidates the current nonce
1714
 
        self.server.auth_nonce = self.server.auth_nonce + '. No, now!'
1715
 
        self.assertEqual('contents of a\n', t.get('a').read())
1716
 
        # Two 'Authentication Required' errors should occur (the
1717
 
        # initial 'who are you' and a second 'who are you' with the new nonce)
1718
 
        self.assertEqual(2, self.server.auth_required_errors)
1719
 
 
1720
 
    def test_user_from_auth_conf(self):
1721
 
        if self._testing_pycurl():
1722
 
            raise tests.TestNotApplicable(
1723
 
                'pycurl does not support authentication.conf')
1724
 
        user = 'joe'
1725
 
        password = 'foo'
1726
 
        self.server.add_user(user, password)
1727
 
        _setup_authentication_config(scheme='http', port=self.server.port,
1728
 
                                     user=user, password=password)
1729
 
        t = self.get_user_transport(None, None)
1730
 
        # Issue a request to the server to connect
1731
 
        self.assertEqual('contents of a\n', t.get('a').read())
1732
 
        # Only one 'Authentication Required' error should occur
1733
 
        self.assertEqual(1, self.server.auth_required_errors)
1734
 
 
1735
 
    def test_no_credential_leaks_in_log(self):
1736
 
        self.overrideAttr(debug, 'debug_flags', set(['http']))
1737
 
        user = 'joe'
1738
 
        password = 'very-sensitive-password'
1739
 
        self.server.add_user(user, password)
1740
 
        t = self.get_user_transport(user, password)
1741
 
        # Capture the debug calls to mutter
1742
 
        self.mutters = []
1743
 
        def mutter(*args):
1744
 
            lines = args[0] % args[1:]
1745
 
            # Some calls output multiple lines, just split them now since we
1746
 
            # care about a single one later.
1747
 
            self.mutters.extend(lines.splitlines())
1748
 
        self.overrideAttr(trace, 'mutter', mutter)
1749
 
        # Issue a request to the server to connect
1750
 
        self.assertEqual(True, t.has('a'))
1751
 
        # Only one 'Authentication Required' error should occur
1752
 
        self.assertEqual(1, self.server.auth_required_errors)
1753
 
        # Since the authentification succeeded, there should be a corresponding
1754
 
        # debug line
1755
 
        sent_auth_headers = [line for line in self.mutters
1756
 
                             if line.startswith('> %s' % (self._auth_header,))]
1757
 
        self.assertLength(1, sent_auth_headers)
1758
 
        self.assertStartsWith(sent_auth_headers[0],
1759
 
                              '> %s: <masked>' % (self._auth_header,))
 
1329
 
 
1330
 
 
1331
class TestHTTPAuth(TestAuth):
 
1332
    """Test HTTP authentication schemes.
 
1333
 
 
1334
    Daughter classes MUST inherit from TestCaseWithWebserver too.
 
1335
    """
 
1336
 
 
1337
    _auth_header = 'Authorization'
 
1338
 
 
1339
    def setUp(self):
 
1340
        TestCaseWithWebserver.setUp(self)
 
1341
        self.server = self.get_readonly_server()
 
1342
        TestAuth.setUp(self)
 
1343
 
 
1344
    def get_user_transport(self, user=None, password=None):
 
1345
        return self._transport(self.get_user_url(user, password))
1760
1346
 
1761
1347
 
1762
1348
class TestProxyAuth(TestAuth):
1763
1349
    """Test proxy authentication schemes.
1764
1350
 
1765
 
    This inherits from TestAuth to tweak the setUp and filter some failing
1766
 
    tests.
 
1351
    Daughter classes MUST also inherit from TestCaseWithWebserver.
1767
1352
    """
 
1353
    _auth_header = 'Proxy-authorization'
 
1354
    _password_prompt_prefix = 'Proxy '
1768
1355
 
1769
 
    scenarios = multiply_scenarios(
1770
 
        vary_by_http_client_implementation(),
1771
 
        vary_by_http_protocol_version(),
1772
 
        vary_by_http_proxy_auth_scheme(),
1773
 
        )
1774
1356
 
1775
1357
    def setUp(self):
1776
 
        super(TestProxyAuth, self).setUp()
 
1358
        TestCaseWithWebserver.setUp(self)
 
1359
        self.server = self.get_readonly_server()
 
1360
        self._old_env = {}
 
1361
        self.addCleanup(self._restore_env)
 
1362
        TestAuth.setUp(self)
1777
1363
        # Override the contents to avoid false positives
1778
1364
        self.build_tree_contents([('a', 'not proxied contents of a\n'),
1779
1365
                                  ('b', 'not proxied contents of b\n'),
1781
1367
                                  ('b-proxied', 'contents of b\n'),
1782
1368
                                  ])
1783
1369
 
1784
 
    def get_user_transport(self, user, password):
1785
 
        self.overrideEnv('all_proxy', self.get_user_url(user, password))
1786
 
        return TestAuth.get_user_transport(self, user, password)
1787
 
 
1788
 
    def test_empty_pass(self):
1789
 
        if self._testing_pycurl():
1790
 
            import pycurl
1791
 
            if pycurl.version_info()[1] < '7.16.0':
1792
 
                raise tests.KnownFailure(
1793
 
                    'pycurl < 7.16.0 does not handle empty proxy passwords')
1794
 
        super(TestProxyAuth, self).test_empty_pass()
1795
 
 
1796
 
 
1797
 
class SampleSocket(object):
1798
 
    """A socket-like object for use in testing the HTTP request handler."""
1799
 
 
1800
 
    def __init__(self, socket_read_content):
1801
 
        """Constructs a sample socket.
1802
 
 
1803
 
        :param socket_read_content: a byte sequence
1804
 
        """
1805
 
        # Use plain python StringIO so we can monkey-patch the close method to
1806
 
        # not discard the contents.
1807
 
        from StringIO import StringIO
1808
 
        self.readfile = StringIO(socket_read_content)
1809
 
        self.writefile = StringIO()
1810
 
        self.writefile.close = lambda: None
1811
 
        self.close = lambda: None
1812
 
 
1813
 
    def makefile(self, mode='r', bufsize=None):
1814
 
        if 'r' in mode:
1815
 
            return self.readfile
1816
 
        else:
1817
 
            return self.writefile
1818
 
 
1819
 
 
1820
 
class SmartHTTPTunnellingTest(tests.TestCaseWithTransport):
1821
 
 
1822
 
    scenarios = multiply_scenarios(
1823
 
        vary_by_http_client_implementation(),
1824
 
        vary_by_http_protocol_version(),
1825
 
        )
1826
 
 
1827
 
    def setUp(self):
1828
 
        super(SmartHTTPTunnellingTest, self).setUp()
1829
 
        # We use the VFS layer as part of HTTP tunnelling tests.
1830
 
        self.overrideEnv('BZR_NO_SMART_VFS', None)
1831
 
        self.transport_readonly_server = http_utils.HTTPServerWithSmarts
1832
 
        self.http_server = self.get_readonly_server()
1833
 
 
1834
 
    def create_transport_readonly_server(self):
1835
 
        server = http_utils.HTTPServerWithSmarts(
1836
 
            protocol_version=self._protocol_version)
1837
 
        server._url_protocol = self._url_protocol
1838
 
        return server
1839
 
 
1840
 
    def test_open_bzrdir(self):
1841
 
        branch = self.make_branch('relpath')
1842
 
        url = self.http_server.get_url() + 'relpath'
1843
 
        bd = bzrdir.BzrDir.open(url)
1844
 
        self.addCleanup(bd.transport.disconnect)
1845
 
        self.assertIsInstance(bd, _mod_remote.RemoteBzrDir)
1846
 
 
1847
 
    def test_bulk_data(self):
1848
 
        # We should be able to send and receive bulk data in a single message.
1849
 
        # The 'readv' command in the smart protocol both sends and receives
1850
 
        # bulk data, so we use that.
1851
 
        self.build_tree(['data-file'])
1852
 
        http_transport = transport.get_transport(self.http_server.get_url())
1853
 
        medium = http_transport.get_smart_medium()
1854
 
        # Since we provide the medium, the url below will be mostly ignored
1855
 
        # during the test, as long as the path is '/'.
1856
 
        remote_transport = remote.RemoteTransport('bzr://fake_host/',
1857
 
                                                  medium=medium)
1858
 
        self.assertEqual(
1859
 
            [(0, "c")], list(remote_transport.readv("data-file", [(0,1)])))
1860
 
 
1861
 
    def test_http_send_smart_request(self):
1862
 
 
1863
 
        post_body = 'hello\n'
1864
 
        expected_reply_body = 'ok\x012\n'
1865
 
 
1866
 
        http_transport = transport.get_transport(self.http_server.get_url())
1867
 
        medium = http_transport.get_smart_medium()
1868
 
        response = medium.send_http_smart_request(post_body)
1869
 
        reply_body = response.read()
1870
 
        self.assertEqual(expected_reply_body, reply_body)
1871
 
 
1872
 
    def test_smart_http_server_post_request_handler(self):
1873
 
        httpd = self.http_server.server
1874
 
 
1875
 
        socket = SampleSocket(
1876
 
            'POST /.bzr/smart %s \r\n' % self._protocol_version
1877
 
            # HTTP/1.1 posts must have a Content-Length (but it doesn't hurt
1878
 
            # for 1.0)
1879
 
            + 'Content-Length: 6\r\n'
1880
 
            '\r\n'
1881
 
            'hello\n')
1882
 
        # Beware: the ('localhost', 80) below is the
1883
 
        # client_address parameter, but we don't have one because
1884
 
        # we have defined a socket which is not bound to an
1885
 
        # address. The test framework never uses this client
1886
 
        # address, so far...
1887
 
        request_handler = http_utils.SmartRequestHandler(socket,
1888
 
                                                         ('localhost', 80),
1889
 
                                                         httpd)
1890
 
        response = socket.writefile.getvalue()
1891
 
        self.assertStartsWith(response, '%s 200 ' % self._protocol_version)
1892
 
        # This includes the end of the HTTP headers, and all the body.
1893
 
        expected_end_of_response = '\r\n\r\nok\x012\n'
1894
 
        self.assertEndsWith(response, expected_end_of_response)
1895
 
 
1896
 
 
1897
 
class ForbiddenRequestHandler(http_server.TestingHTTPRequestHandler):
1898
 
    """No smart server here request handler."""
1899
 
 
1900
 
    def do_POST(self):
1901
 
        self.send_error(403, "Forbidden")
1902
 
 
1903
 
 
1904
 
class SmartClientAgainstNotSmartServer(TestSpecificRequestHandler):
1905
 
    """Test smart client behaviour against an http server without smarts."""
1906
 
 
1907
 
    _req_handler_class = ForbiddenRequestHandler
1908
 
 
1909
 
    def test_probe_smart_server(self):
1910
 
        """Test error handling against server refusing smart requests."""
1911
 
        t = self.get_readonly_transport()
1912
 
        # No need to build a valid smart request here, the server will not even
1913
 
        # try to interpret it.
1914
 
        self.assertRaises(errors.SmartProtocolError,
1915
 
                          t.get_smart_medium().send_http_smart_request,
1916
 
                          'whatever')
1917
 
 
1918
 
 
1919
 
class Test_redirected_to(tests.TestCase):
1920
 
 
1921
 
    scenarios = vary_by_http_client_implementation()
1922
 
 
1923
 
    def test_redirected_to_subdir(self):
1924
 
        t = self._transport('http://www.example.com/foo')
1925
 
        r = t._redirected_to('http://www.example.com/foo',
1926
 
                             'http://www.example.com/foo/subdir')
1927
 
        self.assertIsInstance(r, type(t))
1928
 
        # Both transports share the some connection
1929
 
        self.assertEqual(t._get_connection(), r._get_connection())
1930
 
 
1931
 
    def test_redirected_to_self_with_slash(self):
1932
 
        t = self._transport('http://www.example.com/foo')
1933
 
        r = t._redirected_to('http://www.example.com/foo',
1934
 
                             'http://www.example.com/foo/')
1935
 
        self.assertIsInstance(r, type(t))
1936
 
        # Both transports share the some connection (one can argue that we
1937
 
        # should return the exact same transport here, but that seems
1938
 
        # overkill).
1939
 
        self.assertEqual(t._get_connection(), r._get_connection())
1940
 
 
1941
 
    def test_redirected_to_host(self):
1942
 
        t = self._transport('http://www.example.com/foo')
1943
 
        r = t._redirected_to('http://www.example.com/foo',
1944
 
                             'http://foo.example.com/foo/subdir')
1945
 
        self.assertIsInstance(r, type(t))
1946
 
 
1947
 
    def test_redirected_to_same_host_sibling_protocol(self):
1948
 
        t = self._transport('http://www.example.com/foo')
1949
 
        r = t._redirected_to('http://www.example.com/foo',
1950
 
                             'https://www.example.com/foo')
1951
 
        self.assertIsInstance(r, type(t))
1952
 
 
1953
 
    def test_redirected_to_same_host_different_protocol(self):
1954
 
        t = self._transport('http://www.example.com/foo')
1955
 
        r = t._redirected_to('http://www.example.com/foo',
1956
 
                             'ftp://www.example.com/foo')
1957
 
        self.assertNotEquals(type(r), type(t))
1958
 
 
1959
 
    def test_redirected_to_different_host_same_user(self):
1960
 
        t = self._transport('http://joe@www.example.com/foo')
1961
 
        r = t._redirected_to('http://www.example.com/foo',
1962
 
                             'https://foo.example.com/foo')
1963
 
        self.assertIsInstance(r, type(t))
1964
 
        self.assertEqual(t._user, r._user)
1965
 
 
1966
 
 
1967
 
class PredefinedRequestHandler(http_server.TestingHTTPRequestHandler):
1968
 
    """Request handler for a unique and pre-defined request.
1969
 
 
1970
 
    The only thing we care about here is how many bytes travel on the wire. But
1971
 
    since we want to measure it for a real http client, we have to send it
1972
 
    correct responses.
1973
 
 
1974
 
    We expect to receive a *single* request nothing more (and we won't even
1975
 
    check what request it is, we just measure the bytes read until an empty
1976
 
    line.
1977
 
    """
1978
 
 
1979
 
    def _handle_one_request(self):
1980
 
        tcs = self.server.test_case_server
1981
 
        requestline = self.rfile.readline()
1982
 
        headers = self.MessageClass(self.rfile, 0)
1983
 
        # We just read: the request, the headers, an empty line indicating the
1984
 
        # end of the headers.
1985
 
        bytes_read = len(requestline)
1986
 
        for line in headers.headers:
1987
 
            bytes_read += len(line)
1988
 
        bytes_read += len('\r\n')
1989
 
        if requestline.startswith('POST'):
1990
 
            # The body should be a single line (or we don't know where it ends
1991
 
            # and we don't want to issue a blocking read)
1992
 
            body = self.rfile.readline()
1993
 
            bytes_read += len(body)
1994
 
        tcs.bytes_read = bytes_read
1995
 
 
1996
 
        # We set the bytes written *before* issuing the write, the client is
1997
 
        # supposed to consume every produced byte *before* checking that value.
1998
 
 
1999
 
        # Doing the oppposite may lead to test failure: we may be interrupted
2000
 
        # after the write but before updating the value. The client can then
2001
 
        # continue and read the value *before* we can update it. And yes,
2002
 
        # this has been observed -- vila 20090129
2003
 
        tcs.bytes_written = len(tcs.canned_response)
2004
 
        self.wfile.write(tcs.canned_response)
2005
 
 
2006
 
 
2007
 
class ActivityServerMixin(object):
2008
 
 
2009
 
    def __init__(self, protocol_version):
2010
 
        super(ActivityServerMixin, self).__init__(
2011
 
            request_handler=PredefinedRequestHandler,
2012
 
            protocol_version=protocol_version)
2013
 
        # Bytes read and written by the server
2014
 
        self.bytes_read = 0
2015
 
        self.bytes_written = 0
2016
 
        self.canned_response = None
2017
 
 
2018
 
 
2019
 
class ActivityHTTPServer(ActivityServerMixin, http_server.HttpServer):
2020
 
    pass
2021
 
 
2022
 
 
2023
 
if tests.HTTPSServerFeature.available():
2024
 
    from bzrlib.tests import https_server
2025
 
    class ActivityHTTPSServer(ActivityServerMixin, https_server.HTTPSServer):
2026
 
        pass
2027
 
 
2028
 
 
2029
 
class TestActivityMixin(object):
2030
 
    """Test socket activity reporting.
2031
 
 
2032
 
    We use a special purpose server to control the bytes sent and received and
2033
 
    be able to predict the activity on the client socket.
2034
 
    """
2035
 
 
2036
 
    def setUp(self):
2037
 
        tests.TestCase.setUp(self)
2038
 
        self.server = self._activity_server(self._protocol_version)
2039
 
        self.server.start_server()
2040
 
        _activities = {} # Don't close over self and create a cycle
2041
 
        def report_activity(t, bytes, direction):
2042
 
            count = _activities.get(direction, 0)
2043
 
            count += bytes
2044
 
            _activities[direction] = count
2045
 
        self.activities = _activities
2046
 
 
2047
 
        # We override at class level because constructors may propagate the
2048
 
        # bound method and render instance overriding ineffective (an
2049
 
        # alternative would be to define a specific ui factory instead...)
2050
 
        self.overrideAttr(self._transport, '_report_activity', report_activity)
2051
 
        self.addCleanup(self.server.stop_server)
2052
 
 
2053
 
    def get_transport(self):
2054
 
        t = self._transport(self.server.get_url())
2055
 
        # FIXME: Needs cleanup -- vila 20100611
2056
 
        return t
2057
 
 
2058
 
    def assertActivitiesMatch(self):
2059
 
        self.assertEqual(self.server.bytes_read,
2060
 
                         self.activities.get('write', 0), 'written bytes')
2061
 
        self.assertEqual(self.server.bytes_written,
2062
 
                         self.activities.get('read', 0), 'read bytes')
2063
 
 
2064
 
    def test_get(self):
2065
 
        self.server.canned_response = '''HTTP/1.1 200 OK\r
2066
 
Date: Tue, 11 Jul 2006 04:32:56 GMT\r
2067
 
Server: Apache/2.0.54 (Fedora)\r
2068
 
Last-Modified: Sun, 23 Apr 2006 19:35:20 GMT\r
2069
 
ETag: "56691-23-38e9ae00"\r
2070
 
Accept-Ranges: bytes\r
2071
 
Content-Length: 35\r
2072
 
Connection: close\r
2073
 
Content-Type: text/plain; charset=UTF-8\r
2074
 
\r
2075
 
Bazaar-NG meta directory, format 1
2076
 
'''
2077
 
        t = self.get_transport()
2078
 
        self.assertEqual('Bazaar-NG meta directory, format 1\n',
2079
 
                         t.get('foo/bar').read())
2080
 
        self.assertActivitiesMatch()
2081
 
 
2082
 
    def test_has(self):
2083
 
        self.server.canned_response = '''HTTP/1.1 200 OK\r
2084
 
Server: SimpleHTTP/0.6 Python/2.5.2\r
2085
 
Date: Thu, 29 Jan 2009 20:21:47 GMT\r
2086
 
Content-type: application/octet-stream\r
2087
 
Content-Length: 20\r
2088
 
Last-Modified: Thu, 29 Jan 2009 20:21:47 GMT\r
2089
 
\r
2090
 
'''
2091
 
        t = self.get_transport()
2092
 
        self.assertTrue(t.has('foo/bar'))
2093
 
        self.assertActivitiesMatch()
2094
 
 
2095
 
    def test_readv(self):
2096
 
        self.server.canned_response = '''HTTP/1.1 206 Partial Content\r
2097
 
Date: Tue, 11 Jul 2006 04:49:48 GMT\r
2098
 
Server: Apache/2.0.54 (Fedora)\r
2099
 
Last-Modified: Thu, 06 Jul 2006 20:22:05 GMT\r
2100
 
ETag: "238a3c-16ec2-805c5540"\r
2101
 
Accept-Ranges: bytes\r
2102
 
Content-Length: 1534\r
2103
 
Connection: close\r
2104
 
Content-Type: multipart/byteranges; boundary=418470f848b63279b\r
2105
 
\r
2106
 
\r
2107
 
--418470f848b63279b\r
2108
 
Content-type: text/plain; charset=UTF-8\r
2109
 
Content-range: bytes 0-254/93890\r
2110
 
\r
2111
 
mbp@sourcefrog.net-20050309040815-13242001617e4a06
2112
 
mbp@sourcefrog.net-20050309040929-eee0eb3e6d1e7627
2113
 
mbp@sourcefrog.net-20050309040957-6cad07f466bb0bb8
2114
 
mbp@sourcefrog.net-20050309041501-c840e09071de3b67
2115
 
mbp@sourcefrog.net-20050309044615-c24a3250be83220a
2116
 
\r
2117
 
--418470f848b63279b\r
2118
 
Content-type: text/plain; charset=UTF-8\r
2119
 
Content-range: bytes 1000-2049/93890\r
2120
 
\r
2121
 
40-fd4ec249b6b139ab
2122
 
mbp@sourcefrog.net-20050311063625-07858525021f270b
2123
 
mbp@sourcefrog.net-20050311231934-aa3776aff5200bb9
2124
 
mbp@sourcefrog.net-20050311231953-73aeb3a131c3699a
2125
 
mbp@sourcefrog.net-20050311232353-f5e33da490872c6a
2126
 
mbp@sourcefrog.net-20050312071639-0a8f59a34a024ff0
2127
 
mbp@sourcefrog.net-20050312073432-b2c16a55e0d6e9fb
2128
 
mbp@sourcefrog.net-20050312073831-a47c3335ece1920f
2129
 
mbp@sourcefrog.net-20050312085412-13373aa129ccbad3
2130
 
mbp@sourcefrog.net-20050313052251-2bf004cb96b39933
2131
 
mbp@sourcefrog.net-20050313052856-3edd84094687cb11
2132
 
mbp@sourcefrog.net-20050313053233-e30a4f28aef48f9d
2133
 
mbp@sourcefrog.net-20050313053853-7c64085594ff3072
2134
 
mbp@sourcefrog.net-20050313054757-a86c3f5871069e22
2135
 
mbp@sourcefrog.net-20050313061422-418f1f73b94879b9
2136
 
mbp@sourcefrog.net-20050313120651-497bd231b19df600
2137
 
mbp@sourcefrog.net-20050314024931-eae0170ef25a5d1a
2138
 
mbp@sourcefrog.net-20050314025438-d52099f915fe65fc
2139
 
mbp@sourcefrog.net-20050314025539-637a636692c055cf
2140
 
mbp@sourcefrog.net-20050314025737-55eb441f430ab4ba
2141
 
mbp@sourcefrog.net-20050314025901-d74aa93bb7ee8f62
2142
 
mbp@source\r
2143
 
--418470f848b63279b--\r
2144
 
'''
2145
 
        t = self.get_transport()
2146
 
        # Remember that the request is ignored and that the ranges below
2147
 
        # doesn't have to match the canned response.
2148
 
        l = list(t.readv('/foo/bar', ((0, 255), (1000, 1050))))
2149
 
        self.assertEqual(2, len(l))
2150
 
        self.assertActivitiesMatch()
2151
 
 
2152
 
    def test_post(self):
2153
 
        self.server.canned_response = '''HTTP/1.1 200 OK\r
2154
 
Date: Tue, 11 Jul 2006 04:32:56 GMT\r
2155
 
Server: Apache/2.0.54 (Fedora)\r
2156
 
Last-Modified: Sun, 23 Apr 2006 19:35:20 GMT\r
2157
 
ETag: "56691-23-38e9ae00"\r
2158
 
Accept-Ranges: bytes\r
2159
 
Content-Length: 35\r
2160
 
Connection: close\r
2161
 
Content-Type: text/plain; charset=UTF-8\r
2162
 
\r
2163
 
lalala whatever as long as itsssss
2164
 
'''
2165
 
        t = self.get_transport()
2166
 
        # We must send a single line of body bytes, see
2167
 
        # PredefinedRequestHandler._handle_one_request
2168
 
        code, f = t._post('abc def end-of-body\n')
2169
 
        self.assertEqual('lalala whatever as long as itsssss\n', f.read())
2170
 
        self.assertActivitiesMatch()
2171
 
 
2172
 
 
2173
 
class TestActivity(tests.TestCase, TestActivityMixin):
2174
 
 
2175
 
    scenarios = multiply_scenarios(
2176
 
        vary_by_http_activity(),
2177
 
        vary_by_http_protocol_version(),
2178
 
        )
2179
 
 
2180
 
    def setUp(self):
2181
 
        TestActivityMixin.setUp(self)
2182
 
 
2183
 
 
2184
 
class TestNoReportActivity(tests.TestCase, TestActivityMixin):
2185
 
 
2186
 
    # Unlike TestActivity, we are really testing ReportingFileSocket and
2187
 
    # ReportingSocket, so we don't need all the parametrization. Since
2188
 
    # ReportingFileSocket and ReportingSocket are wrappers, it's easier to
2189
 
    # test them through their use by the transport than directly (that's a
2190
 
    # bit less clean but far more simpler and effective).
2191
 
    _activity_server = ActivityHTTPServer
2192
 
    _protocol_version = 'HTTP/1.1'
2193
 
 
2194
 
    def setUp(self):
2195
 
        self._transport =_urllib.HttpTransport_urllib
2196
 
        TestActivityMixin.setUp(self)
2197
 
 
2198
 
    def assertActivitiesMatch(self):
2199
 
        # Nothing to check here
2200
 
        pass
2201
 
 
2202
 
 
2203
 
class TestAuthOnRedirected(http_utils.TestCaseWithRedirectedWebserver):
2204
 
    """Test authentication on the redirected http server."""
2205
 
 
2206
 
    scenarios = vary_by_http_protocol_version()
2207
 
 
2208
 
    _auth_header = 'Authorization'
2209
 
    _password_prompt_prefix = ''
2210
 
    _username_prompt_prefix = ''
2211
 
    _auth_server = http_utils.HTTPBasicAuthServer
2212
 
    _transport = _urllib.HttpTransport_urllib
2213
 
 
2214
 
    def setUp(self):
2215
 
        super(TestAuthOnRedirected, self).setUp()
2216
 
        self.build_tree_contents([('a','a'),
2217
 
                                  ('1/',),
2218
 
                                  ('1/a', 'redirected once'),
2219
 
                                  ],)
2220
 
        new_prefix = 'http://%s:%s' % (self.new_server.host,
2221
 
                                       self.new_server.port)
2222
 
        self.old_server.redirections = [
2223
 
            ('(.*)', r'%s/1\1' % (new_prefix), 301),]
2224
 
        self.old_transport = self.get_old_transport()
2225
 
        self.new_server.add_user('joe', 'foo')
2226
 
        cleanup_http_redirection_connections(self)
2227
 
 
2228
 
    def create_transport_readonly_server(self):
2229
 
        server = self._auth_server(protocol_version=self._protocol_version)
2230
 
        server._url_protocol = self._url_protocol
2231
 
        return server
2232
 
 
2233
 
    def get_a(self, t):
2234
 
        return t.get('a')
2235
 
 
2236
 
    def test_auth_on_redirected_via_do_catching_redirections(self):
2237
 
        self.redirections = 0
2238
 
 
2239
 
        def redirected(t, exception, redirection_notice):
2240
 
            self.redirections += 1
2241
 
            redirected_t = t._redirected_to(exception.source, exception.target)
2242
 
            self.addCleanup(redirected_t.disconnect)
2243
 
            return redirected_t
2244
 
 
2245
 
        stdout = tests.StringIOWrapper()
2246
 
        stderr = tests.StringIOWrapper()
2247
 
        ui.ui_factory = tests.TestUIFactory(stdin='joe\nfoo\n',
2248
 
                                            stdout=stdout, stderr=stderr)
2249
 
        self.assertEqual('redirected once',
2250
 
                         transport.do_catching_redirections(
2251
 
                self.get_a, self.old_transport, redirected).read())
2252
 
        self.assertEqual(1, self.redirections)
2253
 
        # stdin should be empty
2254
 
        self.assertEqual('', ui.ui_factory.stdin.readline())
2255
 
        # stdout should be empty, stderr will contains the prompts
2256
 
        self.assertEqual('', stdout.getvalue())
2257
 
 
2258
 
    def test_auth_on_redirected_via_following_redirections(self):
2259
 
        self.new_server.add_user('joe', 'foo')
2260
 
        stdout = tests.StringIOWrapper()
2261
 
        stderr = tests.StringIOWrapper()
2262
 
        ui.ui_factory = tests.TestUIFactory(stdin='joe\nfoo\n',
2263
 
                                            stdout=stdout, stderr=stderr)
2264
 
        t = self.old_transport
2265
 
        req = RedirectedRequest('GET', t.abspath('a'))
2266
 
        new_prefix = 'http://%s:%s' % (self.new_server.host,
2267
 
                                       self.new_server.port)
2268
 
        self.old_server.redirections = [
2269
 
            ('(.*)', r'%s/1\1' % (new_prefix), 301),]
2270
 
        self.assertEqual('redirected once', t._perform(req).read())
2271
 
        # stdin should be empty
2272
 
        self.assertEqual('', ui.ui_factory.stdin.readline())
2273
 
        # stdout should be empty, stderr will contains the prompts
2274
 
        self.assertEqual('', stdout.getvalue())
 
1370
    def get_user_transport(self, user=None, password=None):
 
1371
        self._install_env({'all_proxy': self.get_user_url(user, password)})
 
1372
        return self._transport(self.server.get_url())
 
1373
 
 
1374
    def _install_env(self, env):
 
1375
        for name, value in env.iteritems():
 
1376
            self._old_env[name] = osutils.set_or_unset_env(name, value)
 
1377
 
 
1378
    def _restore_env(self):
 
1379
        for name, value in self._old_env.iteritems():
 
1380
            osutils.set_or_unset_env(name, value)
 
1381
 
 
1382
 
 
1383
class TestHTTPBasicAuth(TestHTTPAuth, TestCaseWithWebserver):
 
1384
    """Test http basic authentication scheme"""
 
1385
 
 
1386
    _transport = HttpTransport_urllib
 
1387
 
 
1388
    def create_transport_readonly_server(self):
 
1389
        return HTTPBasicAuthServer()
 
1390
 
 
1391
 
 
1392
class TestHTTPProxyBasicAuth(TestProxyAuth, TestCaseWithWebserver):
 
1393
    """Test proxy basic authentication scheme"""
 
1394
 
 
1395
    _transport = HttpTransport_urllib
 
1396
 
 
1397
    def create_transport_readonly_server(self):
 
1398
        return ProxyBasicAuthServer()
 
1399
 
 
1400
 
 
1401
class TestDigestAuth(object):
 
1402
    """Digest Authentication specific tests"""
 
1403
 
 
1404
    def test_changing_nonce(self):
 
1405
        self.server.add_user('joe', 'foo')
 
1406
        t = self.get_user_transport('joe', 'foo')
 
1407
        self.assertEqual('contents of a\n', t.get('a').read())
 
1408
        self.assertEqual('contents of b\n', t.get('b').read())
 
1409
        # Only one 'Authentication Required' error should have
 
1410
        # occured so far
 
1411
        self.assertEqual(1, self.server.auth_required_errors)
 
1412
        # The server invalidates the current nonce
 
1413
        self.server.auth_nonce = self.server.auth_nonce + '. No, now!'
 
1414
        self.assertEqual('contents of a\n', t.get('a').read())
 
1415
        # Two 'Authentication Required' errors should occur (the
 
1416
        # initial 'who are you' and a second 'who are you' with the new nonce)
 
1417
        self.assertEqual(2, self.server.auth_required_errors)
 
1418
 
 
1419
 
 
1420
class TestHTTPDigestAuth(TestHTTPAuth, TestDigestAuth, TestCaseWithWebserver):
 
1421
    """Test http digest authentication scheme"""
 
1422
 
 
1423
    _transport = HttpTransport_urllib
 
1424
 
 
1425
    def create_transport_readonly_server(self):
 
1426
        return HTTPDigestAuthServer()
 
1427
 
 
1428
 
 
1429
class TestHTTPProxyDigestAuth(TestProxyAuth, TestDigestAuth,
 
1430
                              TestCaseWithWebserver):
 
1431
    """Test proxy digest authentication scheme"""
 
1432
 
 
1433
    _transport = HttpTransport_urllib
 
1434
 
 
1435
    def create_transport_readonly_server(self):
 
1436
        return ProxyDigestAuthServer()
2275
1437