~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Robert Collins
  • Date: 2005-10-06 22:15:52 UTC
  • mfrom: (1185.13.2)
  • mto: This revision was merged to the branch mainline in revision 1420.
  • Revision ID: robertc@robertcollins.net-20051006221552-9b15c96fa504e0ad
mergeĀ fromĀ upstream

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
 
1
# Bazaar-NG -- distributed version control
 
2
#
 
3
# Copyright (C) 2005 by Canonical Ltd
2
4
#
3
5
# This program is free software; you can redistribute it and/or modify
4
6
# it under the terms of the GNU General Public License as published by
14
16
# along with this program; if not, write to the Free Software
15
17
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
18
 
 
19
from shutil import copyfile
 
20
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
 
21
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
17
22
from cStringIO import StringIO
 
23
import errno
18
24
import os
19
25
import re
20
 
import stat
21
 
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
22
 
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
 
26
import sha
23
27
import sys
24
28
import time
25
 
 
26
 
from bzrlib.lazy_import import lazy_import
27
 
lazy_import(globals(), """
28
 
import codecs
29
 
from datetime import datetime
30
 
import errno
31
 
from ntpath import (abspath as _nt_abspath,
32
 
                    join as _nt_join,
33
 
                    normpath as _nt_normpath,
34
 
                    realpath as _nt_realpath,
35
 
                    splitdrive as _nt_splitdrive,
36
 
                    )
37
 
import posixpath
38
 
import sha
39
 
import shutil
40
 
from shutil import (
41
 
    rmtree,
42
 
    )
43
 
import tempfile
44
 
from tempfile import (
45
 
    mkdtemp,
46
 
    )
47
 
import unicodedata
48
 
 
49
 
from bzrlib import (
50
 
    cache_utf8,
51
 
    errors,
52
 
    win32utils,
53
 
    )
54
 
""")
 
29
import types
55
30
 
56
31
import bzrlib
57
 
from bzrlib.symbol_versioning import (
58
 
    deprecated_function,
59
 
    zero_nine,
60
 
    )
 
32
from bzrlib.errors import BzrError
61
33
from bzrlib.trace import mutter
62
34
 
63
35
 
64
 
# On win32, O_BINARY is used to indicate the file should
65
 
# be opened in binary mode, rather than text mode.
66
 
# On other platforms, O_BINARY doesn't exist, because
67
 
# they always open in binary mode, so it is okay to
68
 
# OR with 0 on those platforms
69
 
O_BINARY = getattr(os, 'O_BINARY', 0)
70
 
 
71
 
 
72
36
def make_readonly(filename):
73
37
    """Make a filename read-only."""
74
38
    mod = os.stat(filename).st_mode
92
56
    Windows."""
93
57
    # TODO: I'm not really sure this is the best format either.x
94
58
    global _QUOTE_RE
95
 
    if _QUOTE_RE is None:
 
59
    if _QUOTE_RE == None:
96
60
        _QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/\\_~-])')
97
61
        
98
62
    if _QUOTE_RE.search(f):
101
65
        return f
102
66
 
103
67
 
104
 
_directory_kind = 'directory'
105
 
 
106
 
_formats = {
107
 
    stat.S_IFDIR:_directory_kind,
108
 
    stat.S_IFCHR:'chardev',
109
 
    stat.S_IFBLK:'block',
110
 
    stat.S_IFREG:'file',
111
 
    stat.S_IFIFO:'fifo',
112
 
    stat.S_IFLNK:'symlink',
113
 
    stat.S_IFSOCK:'socket',
114
 
}
115
 
 
116
 
 
117
 
def file_kind_from_stat_mode(stat_mode, _formats=_formats, _unknown='unknown'):
118
 
    """Generate a file kind from a stat mode. This is used in walkdirs.
119
 
 
120
 
    Its performance is critical: Do not mutate without careful benchmarking.
121
 
    """
122
 
    try:
123
 
        return _formats[stat_mode & 0170000]
124
 
    except KeyError:
125
 
        return _unknown
126
 
 
127
 
 
128
 
def file_kind(f, _lstat=os.lstat, _mapper=file_kind_from_stat_mode):
129
 
    try:
130
 
        return _mapper(_lstat(f).st_mode)
131
 
    except OSError, e:
132
 
        if getattr(e, 'errno', None) == errno.ENOENT:
133
 
            raise errors.NoSuchFile(f)
134
 
        raise
135
 
 
136
 
 
137
 
def get_umask():
138
 
    """Return the current umask"""
139
 
    # Assume that people aren't messing with the umask while running
140
 
    # XXX: This is not thread safe, but there is no way to get the
141
 
    #      umask without setting it
142
 
    umask = os.umask(0)
143
 
    os.umask(umask)
144
 
    return umask
 
68
def file_kind(f):
 
69
    mode = os.lstat(f)[ST_MODE]
 
70
    if S_ISREG(mode):
 
71
        return 'file'
 
72
    elif S_ISDIR(mode):
 
73
        return 'directory'
 
74
    elif S_ISLNK(mode):
 
75
        return 'symlink'
 
76
    elif S_ISCHR(mode):
 
77
        return 'chardev'
 
78
    elif S_ISBLK(mode):
 
79
        return 'block'
 
80
    elif S_ISFIFO(mode):
 
81
        return 'fifo'
 
82
    elif S_ISSOCK(mode):
 
83
        return 'socket'
 
84
    else:
 
85
        return 'unknown'
145
86
 
146
87
 
147
88
def kind_marker(kind):
148
89
    if kind == 'file':
149
90
        return ''
150
 
    elif kind == _directory_kind:
 
91
    elif kind == 'directory':
151
92
        return '/'
152
93
    elif kind == 'symlink':
153
94
        return '@'
154
95
    else:
155
 
        raise errors.BzrError('invalid file kind %r' % kind)
156
 
 
157
 
lexists = getattr(os.path, 'lexists', None)
158
 
if lexists is None:
159
 
    def lexists(f):
160
 
        try:
161
 
            if getattr(os, 'lstat') is not None:
162
 
                os.lstat(f)
163
 
            else:
164
 
                os.stat(f)
165
 
            return True
166
 
        except OSError,e:
167
 
            if e.errno == errno.ENOENT:
168
 
                return False;
169
 
            else:
170
 
                raise errors.BzrError("lstat/stat of (%r): %r" % (f, e))
171
 
 
172
 
 
173
 
def fancy_rename(old, new, rename_func, unlink_func):
174
 
    """A fancy rename, when you don't have atomic rename.
175
 
    
176
 
    :param old: The old path, to rename from
177
 
    :param new: The new path, to rename to
178
 
    :param rename_func: The potentially non-atomic rename function
179
 
    :param unlink_func: A way to delete the target file if the full rename succeeds
180
 
    """
181
 
 
182
 
    # sftp rename doesn't allow overwriting, so play tricks:
183
 
    import random
184
 
    base = os.path.basename(new)
185
 
    dirname = os.path.dirname(new)
186
 
    tmp_name = u'tmp.%s.%.9f.%d.%s' % (base, time.time(), os.getpid(), rand_chars(10))
187
 
    tmp_name = pathjoin(dirname, tmp_name)
188
 
 
189
 
    # Rename the file out of the way, but keep track if it didn't exist
190
 
    # We don't want to grab just any exception
191
 
    # something like EACCES should prevent us from continuing
192
 
    # The downside is that the rename_func has to throw an exception
193
 
    # with an errno = ENOENT, or NoSuchFile
194
 
    file_existed = False
195
 
    try:
196
 
        rename_func(new, tmp_name)
197
 
    except (errors.NoSuchFile,), e:
198
 
        pass
199
 
    except IOError, e:
200
 
        # RBC 20060103 abstraction leakage: the paramiko SFTP clients rename
201
 
        # function raises an IOError with errno is None when a rename fails.
202
 
        # This then gets caught here.
203
 
        if e.errno not in (None, errno.ENOENT, errno.ENOTDIR):
204
 
            raise
205
 
    except Exception, e:
206
 
        if (getattr(e, 'errno', None) is None
207
 
            or e.errno not in (errno.ENOENT, errno.ENOTDIR)):
208
 
            raise
209
 
    else:
210
 
        file_existed = True
211
 
 
212
 
    success = False
213
 
    try:
214
 
        # This may throw an exception, in which case success will
215
 
        # not be set.
216
 
        rename_func(old, new)
217
 
        success = True
218
 
    finally:
219
 
        if file_existed:
220
 
            # If the file used to exist, rename it back into place
221
 
            # otherwise just delete it from the tmp location
222
 
            if success:
223
 
                unlink_func(tmp_name)
224
 
            else:
225
 
                rename_func(tmp_name, new)
226
 
 
227
 
 
228
 
# In Python 2.4.2 and older, os.path.abspath and os.path.realpath
229
 
# choke on a Unicode string containing a relative path if
230
 
# os.getcwd() returns a non-sys.getdefaultencoding()-encoded
231
 
# string.
232
 
_fs_enc = sys.getfilesystemencoding() or 'utf-8'
233
 
def _posix_abspath(path):
234
 
    # jam 20060426 rather than encoding to fsencoding
235
 
    # copy posixpath.abspath, but use os.getcwdu instead
236
 
    if not posixpath.isabs(path):
237
 
        path = posixpath.join(getcwd(), path)
238
 
    return posixpath.normpath(path)
239
 
 
240
 
 
241
 
def _posix_realpath(path):
242
 
    return posixpath.realpath(path.encode(_fs_enc)).decode(_fs_enc)
243
 
 
244
 
 
245
 
def _win32_fixdrive(path):
246
 
    """Force drive letters to be consistent.
247
 
 
248
 
    win32 is inconsistent whether it returns lower or upper case
249
 
    and even if it was consistent the user might type the other
250
 
    so we force it to uppercase
251
 
    running python.exe under cmd.exe return capital C:\\
252
 
    running win32 python inside a cygwin shell returns lowercase c:\\
253
 
    """
254
 
    drive, path = _nt_splitdrive(path)
255
 
    return drive.upper() + path
256
 
 
257
 
 
258
 
def _win32_abspath(path):
259
 
    # Real _nt_abspath doesn't have a problem with a unicode cwd
260
 
    return _win32_fixdrive(_nt_abspath(unicode(path)).replace('\\', '/'))
261
 
 
262
 
 
263
 
def _win98_abspath(path):
264
 
    """Return the absolute version of a path.
265
 
    Windows 98 safe implementation (python reimplementation
266
 
    of Win32 API function GetFullPathNameW)
267
 
    """
268
 
    # Corner cases:
269
 
    #   C:\path     => C:/path
270
 
    #   C:/path     => C:/path
271
 
    #   \\HOST\path => //HOST/path
272
 
    #   //HOST/path => //HOST/path
273
 
    #   path        => C:/cwd/path
274
 
    #   /path       => C:/path
275
 
    path = unicode(path)
276
 
    # check for absolute path
277
 
    drive = _nt_splitdrive(path)[0]
278
 
    if drive == '' and path[:2] not in('//','\\\\'):
279
 
        cwd = os.getcwdu()
280
 
        # we cannot simply os.path.join cwd and path
281
 
        # because os.path.join('C:','/path') produce '/path'
282
 
        # and this is incorrect
283
 
        if path[:1] in ('/','\\'):
284
 
            cwd = _nt_splitdrive(cwd)[0]
285
 
            path = path[1:]
286
 
        path = cwd + '\\' + path
287
 
    return _win32_fixdrive(_nt_normpath(path).replace('\\', '/'))
288
 
 
289
 
if win32utils.winver == 'Windows 98':
290
 
    _win32_abspath = _win98_abspath
291
 
 
292
 
 
293
 
def _win32_realpath(path):
294
 
    # Real _nt_realpath doesn't have a problem with a unicode cwd
295
 
    return _win32_fixdrive(_nt_realpath(unicode(path)).replace('\\', '/'))
296
 
 
297
 
 
298
 
def _win32_pathjoin(*args):
299
 
    return _nt_join(*args).replace('\\', '/')
300
 
 
301
 
 
302
 
def _win32_normpath(path):
303
 
    return _win32_fixdrive(_nt_normpath(unicode(path)).replace('\\', '/'))
304
 
 
305
 
 
306
 
def _win32_getcwd():
307
 
    return _win32_fixdrive(os.getcwdu().replace('\\', '/'))
308
 
 
309
 
 
310
 
def _win32_mkdtemp(*args, **kwargs):
311
 
    return _win32_fixdrive(tempfile.mkdtemp(*args, **kwargs).replace('\\', '/'))
312
 
 
313
 
 
314
 
def _win32_rename(old, new):
315
 
    """We expect to be able to atomically replace 'new' with old.
316
 
 
317
 
    On win32, if new exists, it must be moved out of the way first,
318
 
    and then deleted. 
319
 
    """
320
 
    try:
321
 
        fancy_rename(old, new, rename_func=os.rename, unlink_func=os.unlink)
322
 
    except OSError, e:
323
 
        if e.errno in (errno.EPERM, errno.EACCES, errno.EBUSY, errno.EINVAL):
324
 
            # If we try to rename a non-existant file onto cwd, we get 
325
 
            # EPERM or EACCES instead of ENOENT, this will raise ENOENT 
326
 
            # if the old path doesn't exist, sometimes we get EACCES
327
 
            # On Linux, we seem to get EBUSY, on Mac we get EINVAL
328
 
            os.lstat(old)
329
 
        raise
330
 
 
331
 
 
332
 
def _mac_getcwd():
333
 
    return unicodedata.normalize('NFKC', os.getcwdu())
334
 
 
335
 
 
336
 
# Default is to just use the python builtins, but these can be rebound on
337
 
# particular platforms.
338
 
abspath = _posix_abspath
339
 
realpath = _posix_realpath
340
 
pathjoin = os.path.join
341
 
normpath = os.path.normpath
342
 
getcwd = os.getcwdu
343
 
rename = os.rename
344
 
dirname = os.path.dirname
345
 
basename = os.path.basename
346
 
split = os.path.split
347
 
splitext = os.path.splitext
348
 
# These were already imported into local scope
349
 
# mkdtemp = tempfile.mkdtemp
350
 
# rmtree = shutil.rmtree
351
 
 
352
 
MIN_ABS_PATHLENGTH = 1
353
 
 
354
 
 
355
 
if sys.platform == 'win32':
356
 
    abspath = _win32_abspath
357
 
    realpath = _win32_realpath
358
 
    pathjoin = _win32_pathjoin
359
 
    normpath = _win32_normpath
360
 
    getcwd = _win32_getcwd
361
 
    mkdtemp = _win32_mkdtemp
362
 
    rename = _win32_rename
363
 
 
364
 
    MIN_ABS_PATHLENGTH = 3
365
 
 
366
 
    def _win32_delete_readonly(function, path, excinfo):
367
 
        """Error handler for shutil.rmtree function [for win32]
368
 
        Helps to remove files and dirs marked as read-only.
369
 
        """
370
 
        exception = excinfo[1]
371
 
        if function in (os.remove, os.rmdir) \
372
 
            and isinstance(exception, OSError) \
373
 
            and exception.errno == errno.EACCES:
374
 
            make_writable(path)
375
 
            function(path)
376
 
        else:
377
 
            raise
378
 
 
379
 
    def rmtree(path, ignore_errors=False, onerror=_win32_delete_readonly):
380
 
        """Replacer for shutil.rmtree: could remove readonly dirs/files"""
381
 
        return shutil.rmtree(path, ignore_errors, onerror)
382
 
elif sys.platform == 'darwin':
383
 
    getcwd = _mac_getcwd
384
 
 
385
 
 
386
 
def get_terminal_encoding():
387
 
    """Find the best encoding for printing to the screen.
388
 
 
389
 
    This attempts to check both sys.stdout and sys.stdin to see
390
 
    what encoding they are in, and if that fails it falls back to
391
 
    bzrlib.user_encoding.
392
 
    The problem is that on Windows, locale.getpreferredencoding()
393
 
    is not the same encoding as that used by the console:
394
 
    http://mail.python.org/pipermail/python-list/2003-May/162357.html
395
 
 
396
 
    On my standard US Windows XP, the preferred encoding is
397
 
    cp1252, but the console is cp437
398
 
    """
399
 
    output_encoding = getattr(sys.stdout, 'encoding', None)
400
 
    if not output_encoding:
401
 
        input_encoding = getattr(sys.stdin, 'encoding', None)
402
 
        if not input_encoding:
403
 
            output_encoding = bzrlib.user_encoding
404
 
            mutter('encoding stdout as bzrlib.user_encoding %r', output_encoding)
405
 
        else:
406
 
            output_encoding = input_encoding
407
 
            mutter('encoding stdout as sys.stdin encoding %r', output_encoding)
408
 
    else:
409
 
        mutter('encoding stdout as sys.stdout encoding %r', output_encoding)
410
 
    if output_encoding == 'cp0':
411
 
        # invalid encoding (cp0 means 'no codepage' on Windows)
412
 
        output_encoding = bzrlib.user_encoding
413
 
        mutter('cp0 is invalid encoding.'
414
 
               ' encoding stdout as bzrlib.user_encoding %r', output_encoding)
415
 
    # check encoding
416
 
    try:
417
 
        codecs.lookup(output_encoding)
418
 
    except LookupError:
419
 
        sys.stderr.write('bzr: warning:'
420
 
                         ' unknown terminal encoding %s.\n'
421
 
                         '  Using encoding %s instead.\n'
422
 
                         % (output_encoding, bzrlib.user_encoding)
423
 
                        )
424
 
        output_encoding = bzrlib.user_encoding
425
 
 
426
 
    return output_encoding
427
 
 
 
96
        raise BzrError('invalid file kind %r' % kind)
 
97
 
 
98
def lexists(f):
 
99
    try:
 
100
        if hasattr(os, 'lstat'):
 
101
            os.lstat(f)
 
102
        else:
 
103
            os.stat(f)
 
104
        return True
 
105
    except OSError,e:
 
106
        if e.errno == errno.ENOENT:
 
107
            return False;
 
108
        else:
 
109
            raise BzrError("lstat/stat of (%r): %r" % (f, e))
428
110
 
429
111
def normalizepath(f):
430
 
    if getattr(os.path, 'realpath', None) is not None:
431
 
        F = realpath
 
112
    if hasattr(os.path, 'realpath'):
 
113
        F = os.path.realpath
432
114
    else:
433
 
        F = abspath
 
115
        F = os.path.abspath
434
116
    [p,e] = os.path.split(f)
435
117
    if e == "" or e == "." or e == "..":
436
118
        return F(f)
437
119
    else:
438
 
        return pathjoin(F(p), e)
439
 
 
 
120
        return os.path.join(F(p), e)
 
121
    
440
122
 
441
123
def backup_file(fn):
442
124
    """Copy a file to a backup.
449
131
        return
450
132
    bfn = fn + '~'
451
133
 
452
 
    if has_symlinks() and os.path.islink(fn):
453
 
        target = os.readlink(fn)
454
 
        os.symlink(target, bfn)
455
 
        return
456
134
    inf = file(fn, 'rb')
457
135
    try:
458
136
        content = inf.read()
465
143
    finally:
466
144
        outf.close()
467
145
 
 
146
if os.name == 'nt':
 
147
    import shutil
 
148
    rename = shutil.move
 
149
else:
 
150
    rename = os.rename
 
151
 
468
152
 
469
153
def isdir(f):
470
154
    """True if f is an accessible directory."""
491
175
def is_inside(dir, fname):
492
176
    """True if fname is inside dir.
493
177
    
494
 
    The parameters should typically be passed to osutils.normpath first, so
 
178
    The parameters should typically be passed to os.path.normpath first, so
495
179
    that . and .. and repeated slashes are eliminated, and the separators
496
180
    are canonical for the platform.
497
181
    
498
182
    The empty string as a dir name is taken as top-of-tree and matches 
499
183
    everything.
 
184
    
 
185
    >>> is_inside('src', os.path.join('src', 'foo.c'))
 
186
    True
 
187
    >>> is_inside('src', 'srccontrol')
 
188
    False
 
189
    >>> is_inside('src', os.path.join('src', 'a', 'a', 'a', 'foo.c'))
 
190
    True
 
191
    >>> is_inside('foo.c', 'foo.c')
 
192
    True
 
193
    >>> is_inside('foo.c', '')
 
194
    False
 
195
    >>> is_inside('', 'foo.c')
 
196
    True
500
197
    """
501
198
    # XXX: Most callers of this can actually do something smarter by 
502
199
    # looking at the inventory
506
203
    if dir == '':
507
204
        return True
508
205
 
509
 
    if dir[-1] != '/':
510
 
        dir += '/'
 
206
    if dir[-1] != os.sep:
 
207
        dir += os.sep
511
208
 
512
209
    return fname.startswith(dir)
513
210
 
521
218
        return False
522
219
 
523
220
 
524
 
def is_inside_or_parent_of_any(dir_list, fname):
525
 
    """True if fname is a child or a parent of any of the given files."""
526
 
    for dirname in dir_list:
527
 
        if is_inside(dirname, fname) or is_inside(fname, dirname):
528
 
            return True
529
 
    else:
530
 
        return False
531
 
 
532
 
 
533
221
def pumpfile(fromfile, tofile):
534
222
    """Copy contents of one file to another."""
535
 
    BUFSIZE = 32768
536
 
    while True:
537
 
        b = fromfile.read(BUFSIZE)
538
 
        if not b:
539
 
            break
540
 
        tofile.write(b)
541
 
 
542
 
 
543
 
def file_iterator(input_file, readsize=32768):
544
 
    while True:
545
 
        b = input_file.read(readsize)
546
 
        if len(b) == 0:
547
 
            break
548
 
        yield b
 
223
    tofile.write(fromfile.read())
549
224
 
550
225
 
551
226
def sha_file(f):
552
 
    if getattr(f, 'tell', None) is not None:
 
227
    if hasattr(f, 'tell'):
553
228
        assert f.tell() == 0
554
229
    s = sha.new()
555
230
    BUFSIZE = 128<<10
584
259
            'sha1': s.hexdigest()}
585
260
 
586
261
 
 
262
def config_dir():
 
263
    """Return per-user configuration directory.
 
264
 
 
265
    By default this is ~/.bzr.conf/
 
266
    
 
267
    TODO: Global option --config-dir to override this.
 
268
    """
 
269
    return os.path.join(os.path.expanduser("~"), ".bzr.conf")
 
270
 
 
271
 
 
272
def _auto_user_id():
 
273
    """Calculate automatic user identification.
 
274
 
 
275
    Returns (realname, email).
 
276
 
 
277
    Only used when none is set in the environment or the id file.
 
278
 
 
279
    This previously used the FQDN as the default domain, but that can
 
280
    be very slow on machines where DNS is broken.  So now we simply
 
281
    use the hostname.
 
282
    """
 
283
    import socket
 
284
 
 
285
    # XXX: Any good way to get real user name on win32?
 
286
 
 
287
    try:
 
288
        import pwd
 
289
        uid = os.getuid()
 
290
        w = pwd.getpwuid(uid)
 
291
        gecos = w.pw_gecos.decode(bzrlib.user_encoding)
 
292
        username = w.pw_name.decode(bzrlib.user_encoding)
 
293
        comma = gecos.find(',')
 
294
        if comma == -1:
 
295
            realname = gecos
 
296
        else:
 
297
            realname = gecos[:comma]
 
298
        if not realname:
 
299
            realname = username
 
300
 
 
301
    except ImportError:
 
302
        import getpass
 
303
        realname = username = getpass.getuser().decode(bzrlib.user_encoding)
 
304
 
 
305
    return realname, (username + '@' + socket.gethostname())
 
306
 
 
307
 
 
308
def _get_user_id(branch):
 
309
    """Return the full user id from a file or environment variable.
 
310
 
 
311
    e.g. "John Hacker <jhacker@foo.org>"
 
312
 
 
313
    branch
 
314
        A branch to use for a per-branch configuration, or None.
 
315
 
 
316
    The following are searched in order:
 
317
 
 
318
    1. $BZREMAIL
 
319
    2. .bzr/email for this branch.
 
320
    3. ~/.bzr.conf/email
 
321
    4. $EMAIL
 
322
    """
 
323
    v = os.environ.get('BZREMAIL')
 
324
    if v:
 
325
        return v.decode(bzrlib.user_encoding)
 
326
 
 
327
    if branch:
 
328
        try:
 
329
            return (branch.controlfile("email", "r") 
 
330
                    .read()
 
331
                    .decode(bzrlib.user_encoding)
 
332
                    .rstrip("\r\n"))
 
333
        except IOError, e:
 
334
            if e.errno != errno.ENOENT:
 
335
                raise
 
336
        except BzrError, e:
 
337
            pass
 
338
    
 
339
    try:
 
340
        return (open(os.path.join(config_dir(), "email"))
 
341
                .read()
 
342
                .decode(bzrlib.user_encoding)
 
343
                .rstrip("\r\n"))
 
344
    except IOError, e:
 
345
        if e.errno != errno.ENOENT:
 
346
            raise e
 
347
 
 
348
    v = os.environ.get('EMAIL')
 
349
    if v:
 
350
        return v.decode(bzrlib.user_encoding)
 
351
    else:    
 
352
        return None
 
353
 
 
354
 
 
355
def username(branch):
 
356
    """Return email-style username.
 
357
 
 
358
    Something similar to 'Martin Pool <mbp@sourcefrog.net>'
 
359
 
 
360
    TODO: Check it's reasonably well-formed.
 
361
    """
 
362
    v = _get_user_id(branch)
 
363
    if v:
 
364
        return v
 
365
    
 
366
    name, email = _auto_user_id()
 
367
    if name:
 
368
        return '%s <%s>' % (name, email)
 
369
    else:
 
370
        return email
 
371
 
 
372
 
 
373
def user_email(branch):
 
374
    """Return just the email component of a username."""
 
375
    e = _get_user_id(branch)
 
376
    if e:
 
377
        m = re.search(r'[\w+.-]+@[\w+.-]+', e)
 
378
        if not m:
 
379
            raise BzrError("%r doesn't seem to contain "
 
380
                           "a reasonable email address" % e)
 
381
        return m.group(0)
 
382
 
 
383
    return _auto_user_id()[1]
 
384
 
 
385
 
587
386
def compare_files(a, b):
588
387
    """Returns true if equal in contents"""
589
388
    BUFSIZE = 4096
598
397
 
599
398
def local_time_offset(t=None):
600
399
    """Return offset of local zone from GMT, either at present or at time t."""
601
 
    if t is None:
 
400
    # python2.3 localtime() can't take None
 
401
    if t == None:
602
402
        t = time.time()
603
 
    offset = datetime.fromtimestamp(t) - datetime.utcfromtimestamp(t)
604
 
    return offset.days * 86400 + offset.seconds
 
403
        
 
404
    if time.localtime(t).tm_isdst and time.daylight:
 
405
        return -time.altzone
 
406
    else:
 
407
        return -time.timezone
605
408
 
606
409
    
607
 
def format_date(t, offset=0, timezone='original', date_fmt=None, 
608
 
                show_offset=True):
 
410
def format_date(t, offset=0, timezone='original'):
609
411
    ## TODO: Perhaps a global option to use either universal or local time?
610
412
    ## Or perhaps just let people set $TZ?
611
413
    assert isinstance(t, float)
614
416
        tt = time.gmtime(t)
615
417
        offset = 0
616
418
    elif timezone == 'original':
617
 
        if offset is None:
 
419
        if offset == None:
618
420
            offset = 0
619
421
        tt = time.gmtime(t + offset)
620
422
    elif timezone == 'local':
621
423
        tt = time.localtime(t)
622
424
        offset = local_time_offset(t)
623
425
    else:
624
 
        raise errors.BzrError("unsupported timezone format %r" % timezone,
625
 
                              ['options are "utc", "original", "local"'])
626
 
    if date_fmt is None:
627
 
        date_fmt = "%a %Y-%m-%d %H:%M:%S"
628
 
    if show_offset:
629
 
        offset_str = ' %+03d%02d' % (offset / 3600, (offset / 60) % 60)
630
 
    else:
631
 
        offset_str = ''
632
 
    return (time.strftime(date_fmt, tt) +  offset_str)
 
426
        raise BzrError("unsupported timezone format %r" % timezone,
 
427
                       ['options are "utc", "original", "local"'])
 
428
 
 
429
    return (time.strftime("%a %Y-%m-%d %H:%M:%S", tt)
 
430
            + ' %+03d%02d' % (offset / 3600, (offset / 60) % 60))
633
431
 
634
432
 
635
433
def compact_date(when):
636
434
    return time.strftime('%Y%m%d%H%M%S', time.gmtime(when))
637
435
    
638
436
 
639
 
def format_delta(delta):
640
 
    """Get a nice looking string for a time delta.
641
 
 
642
 
    :param delta: The time difference in seconds, can be positive or negative.
643
 
        positive indicates time in the past, negative indicates time in the
644
 
        future. (usually time.time() - stored_time)
645
 
    :return: String formatted to show approximate resolution
646
 
    """
647
 
    delta = int(delta)
648
 
    if delta >= 0:
649
 
        direction = 'ago'
650
 
    else:
651
 
        direction = 'in the future'
652
 
        delta = -delta
653
 
 
654
 
    seconds = delta
655
 
    if seconds < 90: # print seconds up to 90 seconds
656
 
        if seconds == 1:
657
 
            return '%d second %s' % (seconds, direction,)
658
 
        else:
659
 
            return '%d seconds %s' % (seconds, direction)
660
 
 
661
 
    minutes = int(seconds / 60)
662
 
    seconds -= 60 * minutes
663
 
    if seconds == 1:
664
 
        plural_seconds = ''
665
 
    else:
666
 
        plural_seconds = 's'
667
 
    if minutes < 90: # print minutes, seconds up to 90 minutes
668
 
        if minutes == 1:
669
 
            return '%d minute, %d second%s %s' % (
670
 
                    minutes, seconds, plural_seconds, direction)
671
 
        else:
672
 
            return '%d minutes, %d second%s %s' % (
673
 
                    minutes, seconds, plural_seconds, direction)
674
 
 
675
 
    hours = int(minutes / 60)
676
 
    minutes -= 60 * hours
677
 
    if minutes == 1:
678
 
        plural_minutes = ''
679
 
    else:
680
 
        plural_minutes = 's'
681
 
 
682
 
    if hours == 1:
683
 
        return '%d hour, %d minute%s %s' % (hours, minutes,
684
 
                                            plural_minutes, direction)
685
 
    return '%d hours, %d minute%s %s' % (hours, minutes,
686
 
                                         plural_minutes, direction)
687
437
 
688
438
def filesize(f):
689
439
    """Return size of given open file."""
690
440
    return os.fstat(f.fileno())[ST_SIZE]
691
441
 
692
 
 
693
442
# Define rand_bytes based on platform.
694
443
try:
695
444
    # Python 2.4 and later have os.urandom,
699
448
except (NotImplementedError, AttributeError):
700
449
    # If python doesn't have os.urandom, or it doesn't work,
701
450
    # then try to first pull random data from /dev/urandom
702
 
    try:
 
451
    if os.path.exists("/dev/urandom"):
703
452
        rand_bytes = file('/dev/urandom', 'rb').read
704
453
    # Otherwise, use this hack as a last resort
705
 
    except (IOError, OSError):
 
454
    else:
706
455
        # not well seeded, but better than nothing
707
456
        def rand_bytes(n):
708
457
            import random
712
461
                n -= 1
713
462
            return s
714
463
 
715
 
 
716
 
ALNUM = '0123456789abcdefghijklmnopqrstuvwxyz'
717
 
def rand_chars(num):
718
 
    """Return a random string of num alphanumeric characters
719
 
    
720
 
    The result only contains lowercase chars because it may be used on 
721
 
    case-insensitive filesystems.
722
 
    """
723
 
    s = ''
724
 
    for raw_byte in rand_bytes(num):
725
 
        s += ALNUM[ord(raw_byte) % 36]
726
 
    return s
727
 
 
728
 
 
729
464
## TODO: We could later have path objects that remember their list
730
465
## decomposition (might be too tricksy though.)
731
466
 
732
467
def splitpath(p):
733
 
    """Turn string into list of parts."""
734
 
    assert isinstance(p, basestring)
 
468
    """Turn string into list of parts.
 
469
 
 
470
    >>> splitpath('a')
 
471
    ['a']
 
472
    >>> splitpath('a/b')
 
473
    ['a', 'b']
 
474
    >>> splitpath('a/./b')
 
475
    ['a', 'b']
 
476
    >>> splitpath('a/.b')
 
477
    ['a', '.b']
 
478
    >>> splitpath('a/../b')
 
479
    Traceback (most recent call last):
 
480
    ...
 
481
    BzrError: sorry, '..' not allowed in path
 
482
    """
 
483
    assert isinstance(p, types.StringTypes)
735
484
 
736
485
    # split on either delimiter because people might use either on
737
486
    # Windows
740
489
    rps = []
741
490
    for f in ps:
742
491
        if f == '..':
743
 
            raise errors.BzrError("sorry, %r not allowed in path" % f)
 
492
            raise BzrError("sorry, %r not allowed in path" % f)
744
493
        elif (f == '.') or (f == ''):
745
494
            pass
746
495
        else:
748
497
    return rps
749
498
 
750
499
def joinpath(p):
751
 
    assert isinstance(p, (list, tuple))
 
500
    assert isinstance(p, list)
752
501
    for f in p:
753
 
        if (f == '..') or (f is None) or (f == ''):
754
 
            raise errors.BzrError("sorry, %r not allowed in path" % f)
755
 
    return pathjoin(*p)
756
 
 
757
 
 
758
 
@deprecated_function(zero_nine)
 
502
        if (f == '..') or (f == None) or (f == ''):
 
503
            raise BzrError("sorry, %r not allowed in path" % f)
 
504
    return os.path.join(*p)
 
505
 
 
506
 
759
507
def appendpath(p1, p2):
760
508
    if p1 == '':
761
509
        return p2
762
510
    else:
763
 
        return pathjoin(p1, p2)
 
511
        return os.path.join(p1, p2)
764
512
    
765
513
 
 
514
def _read_config_value(name):
 
515
    """Read a config value from the file ~/.bzr.conf/<name>
 
516
    Return None if the file does not exist"""
 
517
    try:
 
518
        f = file(os.path.join(config_dir(), name), "r")
 
519
        return f.read().decode(bzrlib.user_encoding).rstrip("\r\n")
 
520
    except IOError, e:
 
521
        if e.errno == errno.ENOENT:
 
522
            return None
 
523
        raise
 
524
 
 
525
 
766
526
def split_lines(s):
767
527
    """Split s into lines, but without removing the newline characters."""
768
 
    lines = s.split('\n')
769
 
    result = [line + '\n' for line in lines[:-1]]
770
 
    if lines[-1]:
771
 
        result.append(lines[-1])
772
 
    return result
 
528
    return StringIO(s).readlines()
773
529
 
774
530
 
775
531
def hardlinks_good():
779
535
def link_or_copy(src, dest):
780
536
    """Hardlink a file, or copy it if it can't be hardlinked."""
781
537
    if not hardlinks_good():
782
 
        shutil.copyfile(src, dest)
 
538
        copyfile(src, dest)
783
539
        return
784
540
    try:
785
541
        os.link(src, dest)
786
542
    except (OSError, IOError), e:
787
543
        if e.errno != errno.EXDEV:
788
544
            raise
789
 
        shutil.copyfile(src, dest)
790
 
 
791
 
def delete_any(full_path):
792
 
    """Delete a file or directory."""
793
 
    try:
794
 
        os.unlink(full_path)
795
 
    except OSError, e:
796
 
    # We may be renaming a dangling inventory id
797
 
        if e.errno not in (errno.EISDIR, errno.EACCES, errno.EPERM):
798
 
            raise
799
 
        os.rmdir(full_path)
 
545
        copyfile(src, dest)
800
546
 
801
547
 
802
548
def has_symlinks():
803
 
    if getattr(os, 'symlink', None) is not None:
 
549
    if hasattr(os, 'symlink'):
804
550
        return True
805
551
    else:
806
552
        return False
807
 
        
808
 
 
809
 
def contains_whitespace(s):
810
 
    """True if there are any whitespace characters in s."""
811
 
    # string.whitespace can include '\xa0' in certain locales, because it is
812
 
    # considered "non-breaking-space" as part of ISO-8859-1. But it
813
 
    # 1) Isn't a breaking whitespace
814
 
    # 2) Isn't one of ' \t\r\n' which are characters we sometimes use as
815
 
    #    separators
816
 
    # 3) '\xa0' isn't unicode safe since it is >128.
817
 
 
818
 
    # This should *not* be a unicode set of characters in case the source
819
 
    # string is not a Unicode string. We can auto-up-cast the characters since
820
 
    # they are ascii, but we don't want to auto-up-cast the string in case it
821
 
    # is utf-8
822
 
    for ch in ' \t\n\r\v\f':
823
 
        if ch in s:
824
 
            return True
825
 
    else:
826
 
        return False
827
 
 
828
 
 
829
 
def contains_linebreaks(s):
830
 
    """True if there is any vertical whitespace in s."""
831
 
    for ch in '\f\n\r':
832
 
        if ch in s:
833
 
            return True
834
 
    else:
835
 
        return False
836
 
 
837
 
 
838
 
def relpath(base, path):
839
 
    """Return path relative to base, or raise exception.
840
 
 
841
 
    The path may be either an absolute path or a path relative to the
842
 
    current working directory.
843
 
 
844
 
    os.path.commonprefix (python2.4) has a bad bug that it works just
845
 
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
846
 
    avoids that problem.
847
 
    """
848
 
 
849
 
    assert len(base) >= MIN_ABS_PATHLENGTH, ('Length of base must be equal or'
850
 
        ' exceed the platform minimum length (which is %d)' % 
851
 
        MIN_ABS_PATHLENGTH)
852
 
 
853
 
    rp = abspath(path)
854
 
 
855
 
    s = []
856
 
    head = rp
857
 
    while len(head) >= len(base):
858
 
        if head == base:
859
 
            break
860
 
        head, tail = os.path.split(head)
861
 
        if tail:
862
 
            s.insert(0, tail)
863
 
    else:
864
 
        raise errors.PathNotChild(rp, base)
865
 
 
866
 
    if s:
867
 
        return pathjoin(*s)
868
 
    else:
869
 
        return ''
870
 
 
871
 
 
872
 
def safe_unicode(unicode_or_utf8_string):
873
 
    """Coerce unicode_or_utf8_string into unicode.
874
 
 
875
 
    If it is unicode, it is returned.
876
 
    Otherwise it is decoded from utf-8. If a decoding error
877
 
    occurs, it is wrapped as a If the decoding fails, the exception is wrapped 
878
 
    as a BzrBadParameter exception.
879
 
    """
880
 
    if isinstance(unicode_or_utf8_string, unicode):
881
 
        return unicode_or_utf8_string
882
 
    try:
883
 
        return unicode_or_utf8_string.decode('utf8')
884
 
    except UnicodeDecodeError:
885
 
        raise errors.BzrBadParameterNotUnicode(unicode_or_utf8_string)
886
 
 
887
 
 
888
 
def safe_utf8(unicode_or_utf8_string):
889
 
    """Coerce unicode_or_utf8_string to a utf8 string.
890
 
 
891
 
    If it is a str, it is returned.
892
 
    If it is Unicode, it is encoded into a utf-8 string.
893
 
    """
894
 
    if isinstance(unicode_or_utf8_string, str):
895
 
        # TODO: jam 20070209 This is overkill, and probably has an impact on
896
 
        #       performance if we are dealing with lots of apis that want a
897
 
        #       utf-8 revision id
898
 
        try:
899
 
            # Make sure it is a valid utf-8 string
900
 
            unicode_or_utf8_string.decode('utf-8')
901
 
        except UnicodeDecodeError:
902
 
            raise errors.BzrBadParameterNotUnicode(unicode_or_utf8_string)
903
 
        return unicode_or_utf8_string
904
 
    return unicode_or_utf8_string.encode('utf-8')
905
 
 
906
 
 
907
 
def safe_revision_id(unicode_or_utf8_string):
908
 
    """Revision ids should now be utf8, but at one point they were unicode.
909
 
 
910
 
    This is the same as safe_utf8, except it uses the cached encode functions
911
 
    to save a little bit of performance.
912
 
    """
913
 
    if unicode_or_utf8_string is None:
914
 
        return None
915
 
    if isinstance(unicode_or_utf8_string, str):
916
 
        # TODO: jam 20070209 Eventually just remove this check.
917
 
        try:
918
 
            utf8_str = cache_utf8.get_cached_utf8(unicode_or_utf8_string)
919
 
        except UnicodeDecodeError:
920
 
            raise errors.BzrBadParameterNotUnicode(unicode_or_utf8_string)
921
 
        return utf8_str
922
 
    return cache_utf8.encode(unicode_or_utf8_string)
923
 
 
924
 
 
925
 
# TODO: jam 20070217 We start by just re-using safe_revision_id, but ultimately
926
 
#       we want to use a different dictionary cache, because trapping file ids
927
 
#       and revision ids in the same dict seemed to have a noticable effect on
928
 
#       performance.
929
 
safe_file_id = safe_revision_id
930
 
 
931
 
 
932
 
_platform_normalizes_filenames = False
933
 
if sys.platform == 'darwin':
934
 
    _platform_normalizes_filenames = True
935
 
 
936
 
 
937
 
def normalizes_filenames():
938
 
    """Return True if this platform normalizes unicode filenames.
939
 
 
940
 
    Mac OSX does, Windows/Linux do not.
941
 
    """
942
 
    return _platform_normalizes_filenames
943
 
 
944
 
 
945
 
def _accessible_normalized_filename(path):
946
 
    """Get the unicode normalized path, and if you can access the file.
947
 
 
948
 
    On platforms where the system normalizes filenames (Mac OSX),
949
 
    you can access a file by any path which will normalize correctly.
950
 
    On platforms where the system does not normalize filenames 
951
 
    (Windows, Linux), you have to access a file by its exact path.
952
 
 
953
 
    Internally, bzr only supports NFC/NFKC normalization, since that is 
954
 
    the standard for XML documents.
955
 
 
956
 
    So return the normalized path, and a flag indicating if the file
957
 
    can be accessed by that path.
958
 
    """
959
 
 
960
 
    return unicodedata.normalize('NFKC', unicode(path)), True
961
 
 
962
 
 
963
 
def _inaccessible_normalized_filename(path):
964
 
    __doc__ = _accessible_normalized_filename.__doc__
965
 
 
966
 
    normalized = unicodedata.normalize('NFKC', unicode(path))
967
 
    return normalized, normalized == path
968
 
 
969
 
 
970
 
if _platform_normalizes_filenames:
971
 
    normalized_filename = _accessible_normalized_filename
972
 
else:
973
 
    normalized_filename = _inaccessible_normalized_filename
974
 
 
975
 
 
976
 
def terminal_width():
977
 
    """Return estimated terminal width."""
978
 
    if sys.platform == 'win32':
979
 
        return win32utils.get_console_size()[0]
980
 
    width = 0
981
 
    try:
982
 
        import struct, fcntl, termios
983
 
        s = struct.pack('HHHH', 0, 0, 0, 0)
984
 
        x = fcntl.ioctl(1, termios.TIOCGWINSZ, s)
985
 
        width = struct.unpack('HHHH', x)[1]
986
 
    except IOError:
987
 
        pass
988
 
    if width <= 0:
989
 
        try:
990
 
            width = int(os.environ['COLUMNS'])
991
 
        except:
992
 
            pass
993
 
    if width <= 0:
994
 
        width = 80
995
 
 
996
 
    return width
997
 
 
998
 
 
999
 
def supports_executable():
1000
 
    return sys.platform != "win32"
1001
 
 
1002
 
 
1003
 
def supports_posix_readonly():
1004
 
    """Return True if 'readonly' has POSIX semantics, False otherwise.
1005
 
 
1006
 
    Notably, a win32 readonly file cannot be deleted, unlike POSIX where the
1007
 
    directory controls creation/deletion, etc.
1008
 
 
1009
 
    And under win32, readonly means that the directory itself cannot be
1010
 
    deleted.  The contents of a readonly directory can be changed, unlike POSIX
1011
 
    where files in readonly directories cannot be added, deleted or renamed.
1012
 
    """
1013
 
    return sys.platform != "win32"
1014
 
 
1015
 
 
1016
 
def set_or_unset_env(env_variable, value):
1017
 
    """Modify the environment, setting or removing the env_variable.
1018
 
 
1019
 
    :param env_variable: The environment variable in question
1020
 
    :param value: The value to set the environment to. If None, then
1021
 
        the variable will be removed.
1022
 
    :return: The original value of the environment variable.
1023
 
    """
1024
 
    orig_val = os.environ.get(env_variable)
1025
 
    if value is None:
1026
 
        if orig_val is not None:
1027
 
            del os.environ[env_variable]
1028
 
    else:
1029
 
        if isinstance(value, unicode):
1030
 
            value = value.encode(bzrlib.user_encoding)
1031
 
        os.environ[env_variable] = value
1032
 
    return orig_val
1033
 
 
1034
 
 
1035
 
_validWin32PathRE = re.compile(r'^([A-Za-z]:[/\\])?[^:<>*"?\|]*$')
1036
 
 
1037
 
 
1038
 
def check_legal_path(path):
1039
 
    """Check whether the supplied path is legal.  
1040
 
    This is only required on Windows, so we don't test on other platforms
1041
 
    right now.
1042
 
    """
1043
 
    if sys.platform != "win32":
1044
 
        return
1045
 
    if _validWin32PathRE.match(path) is None:
1046
 
        raise errors.IllegalPath(path)
1047
 
 
1048
 
 
1049
 
def walkdirs(top, prefix=""):
1050
 
    """Yield data about all the directories in a tree.
1051
 
    
1052
 
    This yields all the data about the contents of a directory at a time.
1053
 
    After each directory has been yielded, if the caller has mutated the list
1054
 
    to exclude some directories, they are then not descended into.
1055
 
    
1056
 
    The data yielded is of the form:
1057
 
    ((directory-relpath, directory-path-from-top),
1058
 
    [(directory-relpath, basename, kind, lstat, path-from-top), ...]),
1059
 
     - directory-relpath is the relative path of the directory being returned
1060
 
       with respect to top. prefix is prepended to this.
1061
 
     - directory-path-from-root is the path including top for this directory. 
1062
 
       It is suitable for use with os functions.
1063
 
     - relpath is the relative path within the subtree being walked.
1064
 
     - basename is the basename of the path
1065
 
     - kind is the kind of the file now. If unknown then the file is not
1066
 
       present within the tree - but it may be recorded as versioned. See
1067
 
       versioned_kind.
1068
 
     - lstat is the stat data *if* the file was statted.
1069
 
     - planned, not implemented: 
1070
 
       path_from_tree_root is the path from the root of the tree.
1071
 
 
1072
 
    :param prefix: Prefix the relpaths that are yielded with 'prefix'. This 
1073
 
        allows one to walk a subtree but get paths that are relative to a tree
1074
 
        rooted higher up.
1075
 
    :return: an iterator over the dirs.
1076
 
    """
1077
 
    #TODO there is a bit of a smell where the results of the directory-
1078
 
    # summary in this, and the path from the root, may not agree 
1079
 
    # depending on top and prefix - i.e. ./foo and foo as a pair leads to
1080
 
    # potentially confusing output. We should make this more robust - but
1081
 
    # not at a speed cost. RBC 20060731
1082
 
    _lstat = os.lstat
1083
 
    _directory = _directory_kind
1084
 
    _listdir = os.listdir
1085
 
    _kind_from_mode = _formats.get
1086
 
    pending = [(safe_unicode(prefix), "", _directory, None, safe_unicode(top))]
1087
 
    while pending:
1088
 
        # 0 - relpath, 1- basename, 2- kind, 3- stat, 4-toppath
1089
 
        relroot, _, _, _, top = pending.pop()
1090
 
        if relroot:
1091
 
            relprefix = relroot + u'/'
1092
 
        else:
1093
 
            relprefix = ''
1094
 
        top_slash = top + u'/'
1095
 
 
1096
 
        dirblock = []
1097
 
        append = dirblock.append
1098
 
        for name in sorted(_listdir(top)):
1099
 
            abspath = top_slash + name
1100
 
            statvalue = _lstat(abspath)
1101
 
            kind = _kind_from_mode(statvalue.st_mode & 0170000, 'unknown')
1102
 
            append((relprefix + name, name, kind, statvalue, abspath))
1103
 
        yield (relroot, top), dirblock
1104
 
 
1105
 
        # push the user specified dirs from dirblock
1106
 
        pending.extend(d for d in reversed(dirblock) if d[2] == _directory)
1107
 
 
1108
 
 
1109
 
def _walkdirs_utf8(top, prefix=""):
1110
 
    """Yield data about all the directories in a tree.
1111
 
 
1112
 
    This yields the same information as walkdirs() only each entry is yielded
1113
 
    in utf-8. On platforms which have a filesystem encoding of utf8 the paths
1114
 
    are returned as exact byte-strings.
1115
 
 
1116
 
    :return: yields a tuple of (dir_info, [file_info])
1117
 
        dir_info is (utf8_relpath, path-from-top)
1118
 
        file_info is (utf8_relpath, utf8_name, kind, lstat, path-from-top)
1119
 
        if top is an absolute path, path-from-top is also an absolute path.
1120
 
        path-from-top might be unicode or utf8, but it is the correct path to
1121
 
        pass to os functions to affect the file in question. (such as os.lstat)
1122
 
    """
1123
 
    fs_encoding = sys.getfilesystemencoding()
1124
 
    if (sys.platform == 'win32' or
1125
 
        fs_encoding not in ('UTF-8', 'US-ASCII', 'ANSI_X3.4-1968')): # ascii
1126
 
        return _walkdirs_unicode_to_utf8(top, prefix=prefix)
1127
 
    else:
1128
 
        return _walkdirs_fs_utf8(top, prefix=prefix)
1129
 
 
1130
 
 
1131
 
def _walkdirs_fs_utf8(top, prefix=""):
1132
 
    """See _walkdirs_utf8.
1133
 
 
1134
 
    This sub-function is called when we know the filesystem is already in utf8
1135
 
    encoding. So we don't need to transcode filenames.
1136
 
    """
1137
 
    _lstat = os.lstat
1138
 
    _directory = _directory_kind
1139
 
    _listdir = os.listdir
1140
 
    _kind_from_mode = _formats.get
1141
 
 
1142
 
    # 0 - relpath, 1- basename, 2- kind, 3- stat, 4-toppath
1143
 
    # But we don't actually uses 1-3 in pending, so set them to None
1144
 
    pending = [(safe_utf8(prefix), None, None, None, safe_utf8(top))]
1145
 
    while pending:
1146
 
        relroot, _, _, _, top = pending.pop()
1147
 
        if relroot:
1148
 
            relprefix = relroot + '/'
1149
 
        else:
1150
 
            relprefix = ''
1151
 
        top_slash = top + '/'
1152
 
 
1153
 
        dirblock = []
1154
 
        append = dirblock.append
1155
 
        for name in sorted(_listdir(top)):
1156
 
            abspath = top_slash + name
1157
 
            statvalue = _lstat(abspath)
1158
 
            kind = _kind_from_mode(statvalue.st_mode & 0170000, 'unknown')
1159
 
            append((relprefix + name, name, kind, statvalue, abspath))
1160
 
        yield (relroot, top), dirblock
1161
 
 
1162
 
        # push the user specified dirs from dirblock
1163
 
        pending.extend(d for d in reversed(dirblock) if d[2] == _directory)
1164
 
 
1165
 
 
1166
 
def _walkdirs_unicode_to_utf8(top, prefix=""):
1167
 
    """See _walkdirs_utf8
1168
 
 
1169
 
    Because Win32 has a Unicode api, all of the 'path-from-top' entries will be
1170
 
    Unicode paths.
1171
 
    This is currently the fallback code path when the filesystem encoding is
1172
 
    not UTF-8. It may be better to implement an alternative so that we can
1173
 
    safely handle paths that are not properly decodable in the current
1174
 
    encoding.
1175
 
    """
1176
 
    _utf8_encode = codecs.getencoder('utf8')
1177
 
    _lstat = os.lstat
1178
 
    _directory = _directory_kind
1179
 
    _listdir = os.listdir
1180
 
    _kind_from_mode = _formats.get
1181
 
 
1182
 
    pending = [(safe_utf8(prefix), None, None, None, safe_unicode(top))]
1183
 
    while pending:
1184
 
        relroot, _, _, _, top = pending.pop()
1185
 
        if relroot:
1186
 
            relprefix = relroot + '/'
1187
 
        else:
1188
 
            relprefix = ''
1189
 
        top_slash = top + u'/'
1190
 
 
1191
 
        dirblock = []
1192
 
        append = dirblock.append
1193
 
        for name in sorted(_listdir(top)):
1194
 
            name_utf8 = _utf8_encode(name)[0]
1195
 
            abspath = top_slash + name
1196
 
            statvalue = _lstat(abspath)
1197
 
            kind = _kind_from_mode(statvalue.st_mode & 0170000, 'unknown')
1198
 
            append((relprefix + name_utf8, name_utf8, kind, statvalue, abspath))
1199
 
        yield (relroot, top), dirblock
1200
 
 
1201
 
        # push the user specified dirs from dirblock
1202
 
        pending.extend(d for d in reversed(dirblock) if d[2] == _directory)
1203
 
 
1204
 
 
1205
 
def copy_tree(from_path, to_path, handlers={}):
1206
 
    """Copy all of the entries in from_path into to_path.
1207
 
 
1208
 
    :param from_path: The base directory to copy. 
1209
 
    :param to_path: The target directory. If it does not exist, it will
1210
 
        be created.
1211
 
    :param handlers: A dictionary of functions, which takes a source and
1212
 
        destinations for files, directories, etc.
1213
 
        It is keyed on the file kind, such as 'directory', 'symlink', or 'file'
1214
 
        'file', 'directory', and 'symlink' should always exist.
1215
 
        If they are missing, they will be replaced with 'os.mkdir()',
1216
 
        'os.readlink() + os.symlink()', and 'shutil.copy2()', respectively.
1217
 
    """
1218
 
    # Now, just copy the existing cached tree to the new location
1219
 
    # We use a cheap trick here.
1220
 
    # Absolute paths are prefixed with the first parameter
1221
 
    # relative paths are prefixed with the second.
1222
 
    # So we can get both the source and target returned
1223
 
    # without any extra work.
1224
 
 
1225
 
    def copy_dir(source, dest):
1226
 
        os.mkdir(dest)
1227
 
 
1228
 
    def copy_link(source, dest):
1229
 
        """Copy the contents of a symlink"""
1230
 
        link_to = os.readlink(source)
1231
 
        os.symlink(link_to, dest)
1232
 
 
1233
 
    real_handlers = {'file':shutil.copy2,
1234
 
                     'symlink':copy_link,
1235
 
                     'directory':copy_dir,
1236
 
                    }
1237
 
    real_handlers.update(handlers)
1238
 
 
1239
 
    if not os.path.exists(to_path):
1240
 
        real_handlers['directory'](from_path, to_path)
1241
 
 
1242
 
    for dir_info, entries in walkdirs(from_path, prefix=to_path):
1243
 
        for relpath, name, kind, st, abspath in entries:
1244
 
            real_handlers[kind](abspath, relpath)
1245
 
 
1246
 
 
1247
 
def path_prefix_key(path):
1248
 
    """Generate a prefix-order path key for path.
1249
 
 
1250
 
    This can be used to sort paths in the same way that walkdirs does.
1251
 
    """
1252
 
    return (dirname(path) , path)
1253
 
 
1254
 
 
1255
 
def compare_paths_prefix_order(path_a, path_b):
1256
 
    """Compare path_a and path_b to generate the same order walkdirs uses."""
1257
 
    key_a = path_prefix_key(path_a)
1258
 
    key_b = path_prefix_key(path_b)
1259
 
    return cmp(key_a, key_b)
1260
 
 
1261
 
 
1262
 
_cached_user_encoding = None
1263
 
 
1264
 
 
1265
 
def get_user_encoding(use_cache=True):
1266
 
    """Find out what the preferred user encoding is.
1267
 
 
1268
 
    This is generally the encoding that is used for command line parameters
1269
 
    and file contents. This may be different from the terminal encoding
1270
 
    or the filesystem encoding.
1271
 
 
1272
 
    :param  use_cache:  Enable cache for detected encoding.
1273
 
                        (This parameter is turned on by default,
1274
 
                        and required only for selftesting)
1275
 
 
1276
 
    :return: A string defining the preferred user encoding
1277
 
    """
1278
 
    global _cached_user_encoding
1279
 
    if _cached_user_encoding is not None and use_cache:
1280
 
        return _cached_user_encoding
1281
 
 
1282
 
    if sys.platform == 'darwin':
1283
 
        # work around egregious python 2.4 bug
1284
 
        sys.platform = 'posix'
1285
 
        try:
1286
 
            import locale
1287
 
        finally:
1288
 
            sys.platform = 'darwin'
1289
 
    else:
1290
 
        import locale
1291
 
 
1292
 
    try:
1293
 
        user_encoding = locale.getpreferredencoding()
1294
 
    except locale.Error, e:
1295
 
        sys.stderr.write('bzr: warning: %s\n'
1296
 
                         '  Could not determine what text encoding to use.\n'
1297
 
                         '  This error usually means your Python interpreter\n'
1298
 
                         '  doesn\'t support the locale set by $LANG (%s)\n'
1299
 
                         "  Continuing with ascii encoding.\n"
1300
 
                         % (e, os.environ.get('LANG')))
1301
 
        user_encoding = 'ascii'
1302
 
 
1303
 
    # Windows returns 'cp0' to indicate there is no code page. So we'll just
1304
 
    # treat that as ASCII, and not support printing unicode characters to the
1305
 
    # console.
1306
 
    if user_encoding in (None, 'cp0'):
1307
 
        user_encoding = 'ascii'
1308
 
    else:
1309
 
        # check encoding
1310
 
        try:
1311
 
            codecs.lookup(user_encoding)
1312
 
        except LookupError:
1313
 
            sys.stderr.write('bzr: warning:'
1314
 
                             ' unknown encoding %s.'
1315
 
                             ' Continuing with ascii encoding.\n'
1316
 
                             % user_encoding
1317
 
                            )
1318
 
            user_encoding = 'ascii'
1319
 
 
1320
 
    if use_cache:
1321
 
        _cached_user_encoding = user_encoding
1322
 
 
1323
 
    return user_encoding
1324
 
 
1325
 
 
1326
 
def recv_all(socket, bytes):
1327
 
    """Receive an exact number of bytes.
1328
 
 
1329
 
    Regular Socket.recv() may return less than the requested number of bytes,
1330
 
    dependning on what's in the OS buffer.  MSG_WAITALL is not available
1331
 
    on all platforms, but this should work everywhere.  This will return
1332
 
    less than the requested amount if the remote end closes.
1333
 
 
1334
 
    This isn't optimized and is intended mostly for use in testing.
1335
 
    """
1336
 
    b = ''
1337
 
    while len(b) < bytes:
1338
 
        new = socket.recv(bytes - len(b))
1339
 
        if new == '':
1340
 
            break # eof
1341
 
        b += new
1342
 
    return b
1343
 
 
1344
 
def dereference_path(path):
1345
 
    """Determine the real path to a file.
1346
 
 
1347
 
    All parent elements are dereferenced.  But the file itself is not
1348
 
    dereferenced.
1349
 
    :param path: The original path.  May be absolute or relative.
1350
 
    :return: the real path *to* the file
1351
 
    """
1352
 
    parent, base = os.path.split(path)
1353
 
    # The pathjoin for '.' is a workaround for Python bug #1213894.
1354
 
    # (initial path components aren't dereferenced)
1355
 
    return pathjoin(realpath(pathjoin('.', parent)), base)