~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/urlutils.py

  • Committer: Martin Pool
  • Date: 2005-09-01 06:32:52 UTC
  • Revision ID: mbp@sourcefrog.net-20050901063252-00fc761bf1076759
- make target to build emacs TAGS file

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006-2010 Canonical Ltd
2
 
#
3
 
# This program is free software; you can redistribute it and/or modify
4
 
# it under the terms of the GNU General Public License as published by
5
 
# the Free Software Foundation; either version 2 of the License, or
6
 
# (at your option) any later version.
7
 
#
8
 
# This program is distributed in the hope that it will be useful,
9
 
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
 
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
 
# GNU General Public License for more details.
12
 
#
13
 
# You should have received a copy of the GNU General Public License
14
 
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
"""A collection of function for handling URL operations."""
18
 
 
19
 
from __future__ import absolute_import
20
 
 
21
 
import os
22
 
import re
23
 
import sys
24
 
 
25
 
from bzrlib.lazy_import import lazy_import
26
 
lazy_import(globals(), """
27
 
from posixpath import split as _posix_split
28
 
import urlparse
29
 
 
30
 
from bzrlib import (
31
 
    errors,
32
 
    osutils,
33
 
    )
34
 
""")
35
 
 
36
 
 
37
 
def basename(url, exclude_trailing_slash=True):
38
 
    """Return the last component of a URL.
39
 
 
40
 
    :param url: The URL in question
41
 
    :param exclude_trailing_slash: If the url looks like "path/to/foo/"
42
 
        ignore the final slash and return 'foo' rather than ''
43
 
    :return: Just the final component of the URL. This can return ''
44
 
        if you don't exclude_trailing_slash, or if you are at the
45
 
        root of the URL.
46
 
    """
47
 
    return split(url, exclude_trailing_slash=exclude_trailing_slash)[1]
48
 
 
49
 
 
50
 
def dirname(url, exclude_trailing_slash=True):
51
 
    """Return the parent directory of the given path.
52
 
 
53
 
    :param url: Relative or absolute URL
54
 
    :param exclude_trailing_slash: Remove a final slash
55
 
        (treat http://host/foo/ as http://host/foo, but
56
 
        http://host/ stays http://host/)
57
 
    :return: Everything in the URL except the last path chunk
58
 
    """
59
 
    # TODO: jam 20060502 This was named dirname to be consistent
60
 
    #       with the os functions, but maybe "parent" would be better
61
 
    return split(url, exclude_trailing_slash=exclude_trailing_slash)[0]
62
 
 
63
 
 
64
 
# Private copies of quote and unquote, copied from Python's
65
 
# urllib module because urllib unconditionally imports socket, which imports
66
 
# ssl.
67
 
 
68
 
always_safe = ('ABCDEFGHIJKLMNOPQRSTUVWXYZ'
69
 
               'abcdefghijklmnopqrstuvwxyz'
70
 
               '0123456789' '_.-')
71
 
_safe_map = {}
72
 
for i, c in zip(xrange(256), str(bytearray(xrange(256)))):
73
 
    _safe_map[c] = c if (i < 128 and c in always_safe) else '%{0:02X}'.format(i)
74
 
_safe_quoters = {}
75
 
 
76
 
 
77
 
def quote(s, safe='/'):
78
 
    """quote('abc def') -> 'abc%20def'
79
 
 
80
 
    Each part of a URL, e.g. the path info, the query, etc., has a
81
 
    different set of reserved characters that must be quoted.
82
 
 
83
 
    RFC 2396 Uniform Resource Identifiers (URI): Generic Syntax lists
84
 
    the following reserved characters.
85
 
 
86
 
    reserved    = ";" | "/" | "?" | ":" | "@" | "&" | "=" | "+" |
87
 
                  "$" | ","
88
 
 
89
 
    Each of these characters is reserved in some component of a URL,
90
 
    but not necessarily in all of them.
91
 
 
92
 
    By default, the quote function is intended for quoting the path
93
 
    section of a URL.  Thus, it will not encode '/'.  This character
94
 
    is reserved, but in typical usage the quote function is being
95
 
    called on a path where the existing slash characters are used as
96
 
    reserved characters.
97
 
    """
98
 
    # fastpath
99
 
    if not s:
100
 
        if s is None:
101
 
            raise TypeError('None object cannot be quoted')
102
 
        return s
103
 
    cachekey = (safe, always_safe)
104
 
    try:
105
 
        (quoter, safe) = _safe_quoters[cachekey]
106
 
    except KeyError:
107
 
        safe_map = _safe_map.copy()
108
 
        safe_map.update([(c, c) for c in safe])
109
 
        quoter = safe_map.__getitem__
110
 
        safe = always_safe + safe
111
 
        _safe_quoters[cachekey] = (quoter, safe)
112
 
    if not s.rstrip(safe):
113
 
        return s
114
 
    return ''.join(map(quoter, s))
115
 
 
116
 
 
117
 
_hexdig = '0123456789ABCDEFabcdef'
118
 
_hextochr = dict((a + b, chr(int(a + b, 16)))
119
 
                 for a in _hexdig for b in _hexdig)
120
 
 
121
 
def unquote(s):
122
 
    """unquote('abc%20def') -> 'abc def'."""
123
 
    res = s.split('%')
124
 
    # fastpath
125
 
    if len(res) == 1:
126
 
        return s
127
 
    s = res[0]
128
 
    for item in res[1:]:
129
 
        try:
130
 
            s += _hextochr[item[:2]] + item[2:]
131
 
        except KeyError:
132
 
            s += '%' + item
133
 
        except UnicodeDecodeError:
134
 
            s += unichr(int(item[:2], 16)) + item[2:]
135
 
    return s
136
 
 
137
 
 
138
 
def escape(relpath):
139
 
    """Escape relpath to be a valid url."""
140
 
    if isinstance(relpath, unicode):
141
 
        relpath = relpath.encode('utf-8')
142
 
    # After quoting and encoding, the path should be perfectly
143
 
    # safe as a plain ASCII string, str() just enforces this
144
 
    return str(quote(relpath, safe='/~'))
145
 
 
146
 
 
147
 
def file_relpath(base, path):
148
 
    """Compute just the relative sub-portion of a url
149
 
 
150
 
    This assumes that both paths are already fully specified file:// URLs.
151
 
    """
152
 
    if len(base) < MIN_ABS_FILEURL_LENGTH:
153
 
        raise ValueError('Length of base (%r) must equal or'
154
 
            ' exceed the platform minimum url length (which is %d)' %
155
 
            (base, MIN_ABS_FILEURL_LENGTH))
156
 
    base = osutils.normpath(local_path_from_url(base))
157
 
    path = osutils.normpath(local_path_from_url(path))
158
 
    return escape(osutils.relpath(base, path))
159
 
 
160
 
 
161
 
def _find_scheme_and_separator(url):
162
 
    """Find the scheme separator (://) and the first path separator
163
 
 
164
 
    This is just a helper functions for other path utilities.
165
 
    It could probably be replaced by urlparse
166
 
    """
167
 
    m = _url_scheme_re.match(url)
168
 
    if not m:
169
 
        return None, None
170
 
 
171
 
    scheme = m.group('scheme')
172
 
    path = m.group('path')
173
 
 
174
 
    # Find the path separating slash
175
 
    # (first slash after the ://)
176
 
    first_path_slash = path.find('/')
177
 
    if first_path_slash == -1:
178
 
        return len(scheme), None
179
 
    return len(scheme), first_path_slash+m.start('path')
180
 
 
181
 
 
182
 
def is_url(url):
183
 
    """Tests whether a URL is in actual fact a URL."""
184
 
    return _url_scheme_re.match(url) is not None
185
 
 
186
 
 
187
 
def join(base, *args):
188
 
    """Create a URL by joining sections.
189
 
 
190
 
    This will normalize '..', assuming that paths are absolute
191
 
    (it assumes no symlinks in either path)
192
 
 
193
 
    If any of *args is an absolute URL, it will be treated correctly.
194
 
    Example:
195
 
        join('http://foo', 'http://bar') => 'http://bar'
196
 
        join('http://foo', 'bar') => 'http://foo/bar'
197
 
        join('http://foo', 'bar', '../baz') => 'http://foo/baz'
198
 
    """
199
 
    if not args:
200
 
        return base
201
 
    scheme_end, path_start = _find_scheme_and_separator(base)
202
 
    if scheme_end is None and path_start is None:
203
 
        path_start = 0
204
 
    elif path_start is None:
205
 
        path_start = len(base)
206
 
    path = base[path_start:]
207
 
    for arg in args:
208
 
        arg_scheme_end, arg_path_start = _find_scheme_and_separator(arg)
209
 
        if arg_scheme_end is None and arg_path_start is None:
210
 
            arg_path_start = 0
211
 
        elif arg_path_start is None:
212
 
            arg_path_start = len(arg)
213
 
        if arg_scheme_end is not None:
214
 
            base = arg
215
 
            path = arg[arg_path_start:]
216
 
            scheme_end = arg_scheme_end
217
 
            path_start = arg_path_start
218
 
        else:
219
 
            path = joinpath(path, arg)
220
 
    return base[:path_start] + path
221
 
 
222
 
 
223
 
def joinpath(base, *args):
224
 
    """Join URL path segments to a URL path segment.
225
 
 
226
 
    This is somewhat like osutils.joinpath, but intended for URLs.
227
 
 
228
 
    XXX: this duplicates some normalisation logic, and also duplicates a lot of
229
 
    path handling logic that already exists in some Transport implementations.
230
 
    We really should try to have exactly one place in the code base responsible
231
 
    for combining paths of URLs.
232
 
    """
233
 
    path = base.split('/')
234
 
    if len(path) > 1 and path[-1] == '':
235
 
        #If the path ends in a trailing /, remove it.
236
 
        path.pop()
237
 
    for arg in args:
238
 
        if arg.startswith('/'):
239
 
            path = []
240
 
        for chunk in arg.split('/'):
241
 
            if chunk == '.':
242
 
                continue
243
 
            elif chunk == '..':
244
 
                if path == ['']:
245
 
                    raise errors.InvalidURLJoin('Cannot go above root',
246
 
                            base, args)
247
 
                path.pop()
248
 
            else:
249
 
                path.append(chunk)
250
 
    if path == ['']:
251
 
        return '/'
252
 
    else:
253
 
        return '/'.join(path)
254
 
 
255
 
 
256
 
# jam 20060502 Sorted to 'l' because the final target is 'local_path_from_url'
257
 
def _posix_local_path_from_url(url):
258
 
    """Convert a url like file:///path/to/foo into /path/to/foo"""
259
 
    url = split_segment_parameters_raw(url)[0]
260
 
    file_localhost_prefix = 'file://localhost/'
261
 
    if url.startswith(file_localhost_prefix):
262
 
        path = url[len(file_localhost_prefix) - 1:]
263
 
    elif not url.startswith('file:///'):
264
 
        raise errors.InvalidURL(
265
 
            url, 'local urls must start with file:/// or file://localhost/')
266
 
    else:
267
 
        path = url[len('file://'):]
268
 
    # We only strip off 2 slashes
269
 
    return unescape(path)
270
 
 
271
 
 
272
 
def _posix_local_path_to_url(path):
273
 
    """Convert a local path like ./foo into a URL like file:///path/to/foo
274
 
 
275
 
    This also handles transforming escaping unicode characters, etc.
276
 
    """
277
 
    # importing directly from posixpath allows us to test this
278
 
    # on non-posix platforms
279
 
    return 'file://' + escape(osutils._posix_abspath(path))
280
 
 
281
 
 
282
 
def _win32_local_path_from_url(url):
283
 
    """Convert a url like file:///C:/path/to/foo into C:/path/to/foo"""
284
 
    if not url.startswith('file://'):
285
 
        raise errors.InvalidURL(url, 'local urls must start with file:///, '
286
 
                                     'UNC path urls must start with file://')
287
 
    url = split_segment_parameters_raw(url)[0]
288
 
    # We strip off all 3 slashes
289
 
    win32_url = url[len('file:'):]
290
 
    # check for UNC path: //HOST/path
291
 
    if not win32_url.startswith('///'):
292
 
        if (win32_url[2] == '/'
293
 
            or win32_url[3] in '|:'):
294
 
            raise errors.InvalidURL(url, 'Win32 UNC path urls'
295
 
                ' have form file://HOST/path')
296
 
        return unescape(win32_url)
297
 
 
298
 
    # allow empty paths so we can serve all roots
299
 
    if win32_url == '///':
300
 
        return '/'
301
 
 
302
 
    # usual local path with drive letter
303
 
    if (len(win32_url) < 6
304
 
        or win32_url[3] not in ('abcdefghijklmnopqrstuvwxyz'
305
 
                                'ABCDEFGHIJKLMNOPQRSTUVWXYZ')
306
 
        or win32_url[4] not in  '|:'
307
 
        or win32_url[5] != '/'):
308
 
        raise errors.InvalidURL(url, 'Win32 file urls start with'
309
 
                ' file:///x:/, where x is a valid drive letter')
310
 
    return win32_url[3].upper() + u':' + unescape(win32_url[5:])
311
 
 
312
 
 
313
 
def _win32_local_path_to_url(path):
314
 
    """Convert a local path like ./foo into a URL like file:///C:/path/to/foo
315
 
 
316
 
    This also handles transforming escaping unicode characters, etc.
317
 
    """
318
 
    # importing directly from ntpath allows us to test this
319
 
    # on non-win32 platform
320
 
    # FIXME: It turns out that on nt, ntpath.abspath uses nt._getfullpathname
321
 
    #       which actually strips trailing space characters.
322
 
    #       The worst part is that on linux ntpath.abspath has different
323
 
    #       semantics, since 'nt' is not an available module.
324
 
    if path == '/':
325
 
        return 'file:///'
326
 
 
327
 
    win32_path = osutils._win32_abspath(path)
328
 
    # check for UNC path \\HOST\path
329
 
    if win32_path.startswith('//'):
330
 
        return 'file:' + escape(win32_path)
331
 
    return ('file:///' + str(win32_path[0].upper()) + ':' +
332
 
        escape(win32_path[2:]))
333
 
 
334
 
 
335
 
local_path_to_url = _posix_local_path_to_url
336
 
local_path_from_url = _posix_local_path_from_url
337
 
MIN_ABS_FILEURL_LENGTH = len('file:///')
338
 
WIN32_MIN_ABS_FILEURL_LENGTH = len('file:///C:/')
339
 
 
340
 
if sys.platform == 'win32':
341
 
    local_path_to_url = _win32_local_path_to_url
342
 
    local_path_from_url = _win32_local_path_from_url
343
 
 
344
 
    MIN_ABS_FILEURL_LENGTH = WIN32_MIN_ABS_FILEURL_LENGTH
345
 
 
346
 
 
347
 
_url_scheme_re = re.compile(r'^(?P<scheme>[^:/]{2,}):(//)?(?P<path>.*)$')
348
 
_url_hex_escapes_re = re.compile(r'(%[0-9a-fA-F]{2})')
349
 
 
350
 
 
351
 
def _unescape_safe_chars(matchobj):
352
 
    """re.sub callback to convert hex-escapes to plain characters (if safe).
353
 
 
354
 
    e.g. '%7E' will be converted to '~'.
355
 
    """
356
 
    hex_digits = matchobj.group(0)[1:]
357
 
    char = chr(int(hex_digits, 16))
358
 
    if char in _url_dont_escape_characters:
359
 
        return char
360
 
    else:
361
 
        return matchobj.group(0).upper()
362
 
 
363
 
 
364
 
def normalize_url(url):
365
 
    """Make sure that a path string is in fully normalized URL form.
366
 
 
367
 
    This handles URLs which have unicode characters, spaces,
368
 
    special characters, etc.
369
 
 
370
 
    It has two basic modes of operation, depending on whether the
371
 
    supplied string starts with a url specifier (scheme://) or not.
372
 
    If it does not have a specifier it is considered a local path,
373
 
    and will be converted into a file:/// url. Non-ascii characters
374
 
    will be encoded using utf-8.
375
 
    If it does have a url specifier, it will be treated as a "hybrid"
376
 
    URL. Basically, a URL that should have URL special characters already
377
 
    escaped (like +?&# etc), but may have unicode characters, etc
378
 
    which would not be valid in a real URL.
379
 
 
380
 
    :param url: Either a hybrid URL or a local path
381
 
    :return: A normalized URL which only includes 7-bit ASCII characters.
382
 
    """
383
 
    scheme_end, path_start = _find_scheme_and_separator(url)
384
 
    if scheme_end is None:
385
 
        return local_path_to_url(url)
386
 
    prefix = url[:path_start]
387
 
    path = url[path_start:]
388
 
    if not isinstance(url, unicode):
389
 
        for c in url:
390
 
            if c not in _url_safe_characters:
391
 
                raise errors.InvalidURL(url, 'URLs can only contain specific'
392
 
                                            ' safe characters (not %r)' % c)
393
 
        path = _url_hex_escapes_re.sub(_unescape_safe_chars, path)
394
 
        return str(prefix + ''.join(path))
395
 
 
396
 
    # We have a unicode (hybrid) url
397
 
    path_chars = list(path)
398
 
 
399
 
    for i in xrange(len(path_chars)):
400
 
        if path_chars[i] not in _url_safe_characters:
401
 
            chars = path_chars[i].encode('utf-8')
402
 
            path_chars[i] = ''.join(
403
 
                ['%%%02X' % ord(c) for c in path_chars[i].encode('utf-8')])
404
 
    path = ''.join(path_chars)
405
 
    path = _url_hex_escapes_re.sub(_unescape_safe_chars, path)
406
 
    return str(prefix + path)
407
 
 
408
 
 
409
 
def relative_url(base, other):
410
 
    """Return a path to other from base.
411
 
 
412
 
    If other is unrelated to base, return other. Else return a relative path.
413
 
    This assumes no symlinks as part of the url.
414
 
    """
415
 
    dummy, base_first_slash = _find_scheme_and_separator(base)
416
 
    if base_first_slash is None:
417
 
        return other
418
 
 
419
 
    dummy, other_first_slash = _find_scheme_and_separator(other)
420
 
    if other_first_slash is None:
421
 
        return other
422
 
 
423
 
    # this takes care of differing schemes or hosts
424
 
    base_scheme = base[:base_first_slash]
425
 
    other_scheme = other[:other_first_slash]
426
 
    if base_scheme != other_scheme:
427
 
        return other
428
 
    elif sys.platform == 'win32' and base_scheme == 'file://':
429
 
        base_drive = base[base_first_slash+1:base_first_slash+3]
430
 
        other_drive = other[other_first_slash+1:other_first_slash+3]
431
 
        if base_drive != other_drive:
432
 
            return other
433
 
 
434
 
    base_path = base[base_first_slash+1:]
435
 
    other_path = other[other_first_slash+1:]
436
 
 
437
 
    if base_path.endswith('/'):
438
 
        base_path = base_path[:-1]
439
 
 
440
 
    base_sections = base_path.split('/')
441
 
    other_sections = other_path.split('/')
442
 
 
443
 
    if base_sections == ['']:
444
 
        base_sections = []
445
 
    if other_sections == ['']:
446
 
        other_sections = []
447
 
 
448
 
    output_sections = []
449
 
    for b, o in zip(base_sections, other_sections):
450
 
        if b != o:
451
 
            break
452
 
        output_sections.append(b)
453
 
 
454
 
    match_len = len(output_sections)
455
 
    output_sections = ['..' for x in base_sections[match_len:]]
456
 
    output_sections.extend(other_sections[match_len:])
457
 
 
458
 
    return "/".join(output_sections) or "."
459
 
 
460
 
 
461
 
def _win32_extract_drive_letter(url_base, path):
462
 
    """On win32 the drive letter needs to be added to the url base."""
463
 
    # Strip off the drive letter
464
 
    # path is currently /C:/foo
465
 
    if len(path) < 4 or path[2] not in ':|' or path[3] != '/':
466
 
        raise errors.InvalidURL(url_base + path,
467
 
            'win32 file:/// paths need a drive letter')
468
 
    url_base += path[0:3] # file:// + /C:
469
 
    path = path[3:] # /foo
470
 
    return url_base, path
471
 
 
472
 
 
473
 
def split(url, exclude_trailing_slash=True):
474
 
    """Split a URL into its parent directory and a child directory.
475
 
 
476
 
    :param url: A relative or absolute URL
477
 
    :param exclude_trailing_slash: Strip off a final '/' if it is part
478
 
        of the path (but not if it is part of the protocol specification)
479
 
 
480
 
    :return: (parent_url, child_dir).  child_dir may be the empty string if we're at
481
 
        the root.
482
 
    """
483
 
    scheme_loc, first_path_slash = _find_scheme_and_separator(url)
484
 
 
485
 
    if first_path_slash is None:
486
 
        # We have either a relative path, or no separating slash
487
 
        if scheme_loc is None:
488
 
            # Relative path
489
 
            if exclude_trailing_slash and url.endswith('/'):
490
 
                url = url[:-1]
491
 
            return _posix_split(url)
492
 
        else:
493
 
            # Scheme with no path
494
 
            return url, ''
495
 
 
496
 
    # We have a fully defined path
497
 
    url_base = url[:first_path_slash] # http://host, file://
498
 
    path = url[first_path_slash:] # /file/foo
499
 
 
500
 
    if sys.platform == 'win32' and url.startswith('file:///'):
501
 
        # Strip off the drive letter
502
 
        # url_base is currently file://
503
 
        # path is currently /C:/foo
504
 
        url_base, path = _win32_extract_drive_letter(url_base, path)
505
 
        # now it should be file:///C: and /foo
506
 
 
507
 
    if exclude_trailing_slash and len(path) > 1 and path.endswith('/'):
508
 
        path = path[:-1]
509
 
    head, tail = _posix_split(path)
510
 
    return url_base + head, tail
511
 
 
512
 
 
513
 
def split_segment_parameters_raw(url):
514
 
    """Split the subsegment of the last segment of a URL.
515
 
 
516
 
    :param url: A relative or absolute URL
517
 
    :return: (url, subsegments)
518
 
    """
519
 
    # GZ 2011-11-18: Dodgy removing the terminal slash like this, function
520
 
    #                operates on urls not url+segments, and Transport classes
521
 
    #                should not be blindly adding slashes in the first place. 
522
 
    lurl = strip_trailing_slash(url)
523
 
    # Segments begin at first comma after last forward slash, if one exists
524
 
    segment_start = lurl.find(",", lurl.rfind("/")+1)
525
 
    if segment_start == -1:
526
 
        return (url, [])
527
 
    return (lurl[:segment_start], lurl[segment_start+1:].split(","))
528
 
 
529
 
 
530
 
def split_segment_parameters(url):
531
 
    """Split the segment parameters of the last segment of a URL.
532
 
 
533
 
    :param url: A relative or absolute URL
534
 
    :return: (url, segment_parameters)
535
 
    """
536
 
    (base_url, subsegments) = split_segment_parameters_raw(url)
537
 
    parameters = {}
538
 
    for subsegment in subsegments:
539
 
        (key, value) = subsegment.split("=", 1)
540
 
        parameters[key] = value
541
 
    return (base_url, parameters)
542
 
 
543
 
 
544
 
def join_segment_parameters_raw(base, *subsegments):
545
 
    """Create a new URL by adding subsegments to an existing one. 
546
 
 
547
 
    This adds the specified subsegments to the last path in the specified
548
 
    base URL. The subsegments should be bytestrings.
549
 
 
550
 
    :note: You probably want to use join_segment_parameters instead.
551
 
    """
552
 
    if not subsegments:
553
 
        return base
554
 
    for subsegment in subsegments:
555
 
        if type(subsegment) is not str:
556
 
            raise TypeError("Subsegment %r is not a bytestring" % subsegment)
557
 
        if "," in subsegment:
558
 
            raise errors.InvalidURLJoin(", exists in subsegments",
559
 
                                        base, subsegments)
560
 
    return ",".join((base,) + subsegments)
561
 
 
562
 
 
563
 
def join_segment_parameters(url, parameters):
564
 
    """Create a new URL by adding segment parameters to an existing one.
565
 
 
566
 
    The parameters of the last segment in the URL will be updated; if a
567
 
    parameter with the same key already exists it will be overwritten.
568
 
 
569
 
    :param url: A URL, as string
570
 
    :param parameters: Dictionary of parameters, keys and values as bytestrings
571
 
    """
572
 
    (base, existing_parameters) = split_segment_parameters(url)
573
 
    new_parameters = {}
574
 
    new_parameters.update(existing_parameters)
575
 
    for key, value in parameters.iteritems():
576
 
        if type(key) is not str:
577
 
            raise TypeError("parameter key %r is not a bytestring" % key)
578
 
        if type(value) is not str:
579
 
            raise TypeError("parameter value %r for %s is not a bytestring" %
580
 
                (key, value))
581
 
        if "=" in key:
582
 
            raise errors.InvalidURLJoin("= exists in parameter key", url,
583
 
                parameters)
584
 
        new_parameters[key] = value
585
 
    return join_segment_parameters_raw(base, 
586
 
        *["%s=%s" % item for item in sorted(new_parameters.items())])
587
 
 
588
 
 
589
 
def _win32_strip_local_trailing_slash(url):
590
 
    """Strip slashes after the drive letter"""
591
 
    if len(url) > WIN32_MIN_ABS_FILEURL_LENGTH:
592
 
        return url[:-1]
593
 
    else:
594
 
        return url
595
 
 
596
 
 
597
 
def strip_trailing_slash(url):
598
 
    """Strip trailing slash, except for root paths.
599
 
 
600
 
    The definition of 'root path' is platform-dependent.
601
 
    This assumes that all URLs are valid netloc urls, such that they
602
 
    form:
603
 
    scheme://host/path
604
 
    It searches for ://, and then refuses to remove the next '/'.
605
 
    It can also handle relative paths
606
 
    Examples:
607
 
        path/to/foo       => path/to/foo
608
 
        path/to/foo/      => path/to/foo
609
 
        http://host/path/ => http://host/path
610
 
        http://host/path  => http://host/path
611
 
        http://host/      => http://host/
612
 
        file:///          => file:///
613
 
        file:///foo/      => file:///foo
614
 
        # This is unique on win32 platforms, and is the only URL
615
 
        # format which does it differently.
616
 
        file:///c|/       => file:///c:/
617
 
    """
618
 
    if not url.endswith('/'):
619
 
        # Nothing to do
620
 
        return url
621
 
    if sys.platform == 'win32' and url.startswith('file://'):
622
 
        return _win32_strip_local_trailing_slash(url)
623
 
 
624
 
    scheme_loc, first_path_slash = _find_scheme_and_separator(url)
625
 
    if scheme_loc is None:
626
 
        # This is a relative path, as it has no scheme
627
 
        # so just chop off the last character
628
 
        return url[:-1]
629
 
 
630
 
    if first_path_slash is None or first_path_slash == len(url)-1:
631
 
        # Don't chop off anything if the only slash is the path
632
 
        # separating slash
633
 
        return url
634
 
 
635
 
    return url[:-1]
636
 
 
637
 
 
638
 
def unescape(url):
639
 
    """Unescape relpath from url format.
640
 
 
641
 
    This returns a Unicode path from a URL
642
 
    """
643
 
    # jam 20060427 URLs are supposed to be ASCII only strings
644
 
    #       If they are passed in as unicode, unquote
645
 
    #       will return a UNICODE string, which actually contains
646
 
    #       utf-8 bytes. So we have to ensure that they are
647
 
    #       plain ASCII strings, or the final .decode will
648
 
    #       try to encode the UNICODE => ASCII, and then decode
649
 
    #       it into utf-8.
650
 
    try:
651
 
        url = str(url)
652
 
    except UnicodeError, e:
653
 
        raise errors.InvalidURL(url, 'URL was not a plain ASCII url: %s' % (e,))
654
 
 
655
 
    unquoted = unquote(url)
656
 
    try:
657
 
        unicode_path = unquoted.decode('utf-8')
658
 
    except UnicodeError, e:
659
 
        raise errors.InvalidURL(url, 'Unable to encode the URL as utf-8: %s' % (e,))
660
 
    return unicode_path
661
 
 
662
 
 
663
 
# These are characters that if escaped, should stay that way
664
 
_no_decode_chars = ';/?:@&=+$,#'
665
 
_no_decode_ords = [ord(c) for c in _no_decode_chars]
666
 
_no_decode_hex = (['%02x' % o for o in _no_decode_ords]
667
 
                + ['%02X' % o for o in _no_decode_ords])
668
 
_hex_display_map = dict(([('%02x' % o, chr(o)) for o in range(256)]
669
 
                    + [('%02X' % o, chr(o)) for o in range(256)]))
670
 
#These entries get mapped to themselves
671
 
_hex_display_map.update((hex,'%'+hex) for hex in _no_decode_hex)
672
 
 
673
 
# These characters shouldn't be percent-encoded, and it's always safe to
674
 
# unencode them if they are.
675
 
_url_dont_escape_characters = set(
676
 
   "abcdefghijklmnopqrstuvwxyz" # Lowercase alpha
677
 
   "ABCDEFGHIJKLMNOPQRSTUVWXYZ" # Uppercase alpha
678
 
   "0123456789" # Numbers
679
 
   "-._~"  # Unreserved characters
680
 
)
681
 
 
682
 
# These characters should not be escaped
683
 
_url_safe_characters = set(
684
 
   "abcdefghijklmnopqrstuvwxyz" # Lowercase alpha
685
 
   "ABCDEFGHIJKLMNOPQRSTUVWXYZ" # Uppercase alpha
686
 
   "0123456789" # Numbers
687
 
   "_.-!~*'()"  # Unreserved characters
688
 
   "/;?:@&=+$," # Reserved characters
689
 
   "%#"         # Extra reserved characters
690
 
)
691
 
 
692
 
def unescape_for_display(url, encoding):
693
 
    """Decode what you can for a URL, so that we get a nice looking path.
694
 
 
695
 
    This will turn file:// urls into local paths, and try to decode
696
 
    any portions of a http:// style url that it can.
697
 
 
698
 
    Any sections of the URL which can't be represented in the encoding or
699
 
    need to stay as escapes are left alone.
700
 
 
701
 
    :param url: A 7-bit ASCII URL
702
 
    :param encoding: The final output encoding
703
 
 
704
 
    :return: A unicode string which can be safely encoded into the
705
 
         specified encoding.
706
 
    """
707
 
    if encoding is None:
708
 
        raise ValueError('you cannot specify None for the display encoding')
709
 
    if url.startswith('file://'):
710
 
        try:
711
 
            path = local_path_from_url(url)
712
 
            path.encode(encoding)
713
 
            return path
714
 
        except UnicodeError:
715
 
            return url
716
 
 
717
 
    # Split into sections to try to decode utf-8
718
 
    res = url.split('/')
719
 
    for i in xrange(1, len(res)):
720
 
        escaped_chunks = res[i].split('%')
721
 
        for j in xrange(1, len(escaped_chunks)):
722
 
            item = escaped_chunks[j]
723
 
            try:
724
 
                escaped_chunks[j] = _hex_display_map[item[:2]] + item[2:]
725
 
            except KeyError:
726
 
                # Put back the percent symbol
727
 
                escaped_chunks[j] = '%' + item
728
 
            except UnicodeDecodeError:
729
 
                escaped_chunks[j] = unichr(int(item[:2], 16)) + item[2:]
730
 
        unescaped = ''.join(escaped_chunks)
731
 
        try:
732
 
            decoded = unescaped.decode('utf-8')
733
 
        except UnicodeDecodeError:
734
 
            # If this path segment cannot be properly utf-8 decoded
735
 
            # after doing unescaping we will just leave it alone
736
 
            pass
737
 
        else:
738
 
            try:
739
 
                decoded.encode(encoding)
740
 
            except UnicodeEncodeError:
741
 
                # If this chunk cannot be encoded in the local
742
 
                # encoding, then we should leave it alone
743
 
                pass
744
 
            else:
745
 
                # Otherwise take the url decoded one
746
 
                res[i] = decoded
747
 
    return u'/'.join(res)
748
 
 
749
 
 
750
 
def derive_to_location(from_location):
751
 
    """Derive a TO_LOCATION given a FROM_LOCATION.
752
 
 
753
 
    The normal case is a FROM_LOCATION of http://foo/bar => bar.
754
 
    The Right Thing for some logical destinations may differ though
755
 
    because no / may be present at all. In that case, the result is
756
 
    the full name without the scheme indicator, e.g. lp:foo-bar => foo-bar.
757
 
    This latter case also applies when a Windows drive
758
 
    is used without a path, e.g. c:foo-bar => foo-bar.
759
 
    If no /, path separator or : is found, the from_location is returned.
760
 
    """
761
 
    if from_location.find("/") >= 0 or from_location.find(os.sep) >= 0:
762
 
        return os.path.basename(from_location.rstrip("/\\"))
763
 
    else:
764
 
        sep = from_location.find(":")
765
 
        if sep > 0:
766
 
            return from_location[sep+1:]
767
 
        else:
768
 
            return from_location
769
 
 
770
 
 
771
 
def _is_absolute(url):
772
 
    return (osutils.pathjoin('/foo', url) == url)
773
 
 
774
 
 
775
 
def rebase_url(url, old_base, new_base):
776
 
    """Convert a relative path from an old base URL to a new base URL.
777
 
 
778
 
    The result will be a relative path.
779
 
    Absolute paths and full URLs are returned unaltered.
780
 
    """
781
 
    scheme, separator = _find_scheme_and_separator(url)
782
 
    if scheme is not None:
783
 
        return url
784
 
    if _is_absolute(url):
785
 
        return url
786
 
    old_parsed = urlparse.urlparse(old_base)
787
 
    new_parsed = urlparse.urlparse(new_base)
788
 
    if (old_parsed[:2]) != (new_parsed[:2]):
789
 
        raise errors.InvalidRebaseURLs(old_base, new_base)
790
 
    return determine_relative_path(new_parsed[2],
791
 
                                   join(old_parsed[2], url))
792
 
 
793
 
 
794
 
def determine_relative_path(from_path, to_path):
795
 
    """Determine a relative path from from_path to to_path."""
796
 
    from_segments = osutils.splitpath(from_path)
797
 
    to_segments = osutils.splitpath(to_path)
798
 
    count = -1
799
 
    for count, (from_element, to_element) in enumerate(zip(from_segments,
800
 
                                                       to_segments)):
801
 
        if from_element != to_element:
802
 
            break
803
 
    else:
804
 
        count += 1
805
 
    unique_from = from_segments[count:]
806
 
    unique_to = to_segments[count:]
807
 
    segments = (['..'] * len(unique_from) + unique_to)
808
 
    if len(segments) == 0:
809
 
        return '.'
810
 
    return osutils.pathjoin(*segments)
811
 
 
812
 
 
813
 
class URL(object):
814
 
    """Parsed URL."""
815
 
 
816
 
    def __init__(self, scheme, quoted_user, quoted_password, quoted_host,
817
 
            port, quoted_path):
818
 
        self.scheme = scheme
819
 
        self.quoted_host = quoted_host
820
 
        self.host = unquote(self.quoted_host)
821
 
        self.quoted_user = quoted_user
822
 
        if self.quoted_user is not None:
823
 
            self.user = unquote(self.quoted_user)
824
 
        else:
825
 
            self.user = None
826
 
        self.quoted_password = quoted_password
827
 
        if self.quoted_password is not None:
828
 
            self.password = unquote(self.quoted_password)
829
 
        else:
830
 
            self.password = None
831
 
        self.port = port
832
 
        self.quoted_path = _url_hex_escapes_re.sub(_unescape_safe_chars, quoted_path)
833
 
        self.path = unquote(self.quoted_path)
834
 
 
835
 
    def __eq__(self, other):
836
 
        return (isinstance(other, self.__class__) and
837
 
                self.scheme == other.scheme and
838
 
                self.host == other.host and
839
 
                self.user == other.user and
840
 
                self.password == other.password and
841
 
                self.path == other.path)
842
 
 
843
 
    def __repr__(self):
844
 
        return "<%s(%r, %r, %r, %r, %r, %r)>" % (
845
 
            self.__class__.__name__,
846
 
            self.scheme, self.quoted_user, self.quoted_password,
847
 
            self.quoted_host, self.port, self.quoted_path)
848
 
 
849
 
    @classmethod
850
 
    def from_string(cls, url):
851
 
        """Create a URL object from a string.
852
 
 
853
 
        :param url: URL as bytestring
854
 
        """
855
 
        if isinstance(url, unicode):
856
 
            raise errors.InvalidURL('should be ascii:\n%r' % url)
857
 
        url = url.encode('utf-8')
858
 
        (scheme, netloc, path, params,
859
 
         query, fragment) = urlparse.urlparse(url, allow_fragments=False)
860
 
        user = password = host = port = None
861
 
        if '@' in netloc:
862
 
            user, host = netloc.rsplit('@', 1)
863
 
            if ':' in user:
864
 
                user, password = user.split(':', 1)
865
 
        else:
866
 
            host = netloc
867
 
 
868
 
        if ':' in host and not (host[0] == '[' and host[-1] == ']'):
869
 
            # there *is* port
870
 
            host, port = host.rsplit(':',1)
871
 
            try:
872
 
                port = int(port)
873
 
            except ValueError:
874
 
                raise errors.InvalidURL('invalid port number %s in url:\n%s' %
875
 
                                        (port, url))
876
 
        if host != "" and host[0] == '[' and host[-1] == ']': #IPv6
877
 
            host = host[1:-1]
878
 
 
879
 
        return cls(scheme, user, password, host, port, path)
880
 
 
881
 
    def __str__(self):
882
 
        netloc = self.quoted_host
883
 
        if ":" in netloc:
884
 
            netloc = "[%s]" % netloc
885
 
        if self.quoted_user is not None:
886
 
            # Note that we don't put the password back even if we
887
 
            # have one so that it doesn't get accidentally
888
 
            # exposed.
889
 
            netloc = '%s@%s' % (self.quoted_user, netloc)
890
 
        if self.port is not None:
891
 
            netloc = '%s:%d' % (netloc, self.port)
892
 
        return urlparse.urlunparse(
893
 
            (self.scheme, netloc, self.quoted_path, None, None, None))
894
 
 
895
 
    @staticmethod
896
 
    def _combine_paths(base_path, relpath):
897
 
        """Transform a Transport-relative path to a remote absolute path.
898
 
 
899
 
        This does not handle substitution of ~ but does handle '..' and '.'
900
 
        components.
901
 
 
902
 
        Examples::
903
 
 
904
 
            t._combine_paths('/home/sarah', 'project/foo')
905
 
                => '/home/sarah/project/foo'
906
 
            t._combine_paths('/home/sarah', '../../etc')
907
 
                => '/etc'
908
 
            t._combine_paths('/home/sarah', '/etc')
909
 
                => '/etc'
910
 
 
911
 
        :param base_path: base path
912
 
        :param relpath: relative url string for relative part of remote path.
913
 
        :return: urlencoded string for final path.
914
 
        """
915
 
        if not isinstance(relpath, str):
916
 
            raise errors.InvalidURL(relpath)
917
 
        relpath = _url_hex_escapes_re.sub(_unescape_safe_chars, relpath)
918
 
        if relpath.startswith('/'):
919
 
            base_parts = []
920
 
        else:
921
 
            base_parts = base_path.split('/')
922
 
        if len(base_parts) > 0 and base_parts[-1] == '':
923
 
            base_parts = base_parts[:-1]
924
 
        for p in relpath.split('/'):
925
 
            if p == '..':
926
 
                if len(base_parts) == 0:
927
 
                    # In most filesystems, a request for the parent
928
 
                    # of root, just returns root.
929
 
                    continue
930
 
                base_parts.pop()
931
 
            elif p == '.':
932
 
                continue # No-op
933
 
            elif p != '':
934
 
                base_parts.append(p)
935
 
        path = '/'.join(base_parts)
936
 
        if not path.startswith('/'):
937
 
            path = '/' + path
938
 
        return path
939
 
 
940
 
    def clone(self, offset=None):
941
 
        """Return a new URL for a path relative to this URL.
942
 
 
943
 
        :param offset: A relative path, already urlencoded
944
 
        :return: `URL` instance
945
 
        """
946
 
        if offset is not None:
947
 
            relative = unescape(offset).encode('utf-8')
948
 
            path = self._combine_paths(self.path, relative)
949
 
            path = quote(path, safe="/~")
950
 
        else:
951
 
            path = self.quoted_path
952
 
        return self.__class__(self.scheme, self.quoted_user,
953
 
                self.quoted_password, self.quoted_host, self.port,
954
 
                path)
955
 
 
956
 
 
957
 
def parse_url(url):
958
 
    """Extract the server address, the credentials and the path from the url.
959
 
 
960
 
    user, password, host and path should be quoted if they contain reserved
961
 
    chars.
962
 
 
963
 
    :param url: an quoted url
964
 
    :return: (scheme, user, password, host, port, path) tuple, all fields
965
 
        are unquoted.
966
 
    """
967
 
    parsed_url = URL.from_string(url)
968
 
    return (parsed_url.scheme, parsed_url.user, parsed_url.password,
969
 
        parsed_url.host, parsed_url.port, parsed_url.path)