~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Robert Collins
  • Date: 2010-05-06 23:54:05 UTC
  • mto: This revision was merged to the branch mainline in revision 5223.
  • Revision ID: robertc@robertcollins.net-20100506235405-wii4elupfhzl3jvy
Add __str__ to the new helper classes.

Show diffs side-by-side

added added

removed removed

Lines of Context:
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
 
import errno
18
17
import os
19
18
import re
20
19
import stat
 
20
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
21
21
import sys
22
22
import time
23
23
import codecs
25
25
from bzrlib.lazy_import import lazy_import
26
26
lazy_import(globals(), """
27
27
from datetime import datetime
28
 
import getpass
29
 
import ntpath
 
28
import errno
 
29
from ntpath import (abspath as _nt_abspath,
 
30
                    join as _nt_join,
 
31
                    normpath as _nt_normpath,
 
32
                    realpath as _nt_realpath,
 
33
                    splitdrive as _nt_splitdrive,
 
34
                    )
30
35
import posixpath
31
 
# We need to import both shutil and rmtree as we export the later on posix
32
 
# and need the former on windows
33
36
import shutil
34
 
from shutil import rmtree
 
37
from shutil import (
 
38
    rmtree,
 
39
    )
35
40
import socket
36
41
import subprocess
37
 
# We need to import both tempfile and mkdtemp as we export the later on posix
38
 
# and need the former on windows
39
42
import tempfile
40
 
from tempfile import mkdtemp
 
43
from tempfile import (
 
44
    mkdtemp,
 
45
    )
41
46
import unicodedata
42
47
 
43
48
from bzrlib import (
298
303
    running python.exe under cmd.exe return capital C:\\
299
304
    running win32 python inside a cygwin shell returns lowercase c:\\
300
305
    """
301
 
    drive, path = ntpath.splitdrive(path)
 
306
    drive, path = _nt_splitdrive(path)
302
307
    return drive.upper() + path
303
308
 
304
309
 
305
310
def _win32_abspath(path):
306
 
    # Real ntpath.abspath doesn't have a problem with a unicode cwd
307
 
    return _win32_fixdrive(ntpath.abspath(unicode(path)).replace('\\', '/'))
 
311
    # Real _nt_abspath doesn't have a problem with a unicode cwd
 
312
    return _win32_fixdrive(_nt_abspath(unicode(path)).replace('\\', '/'))
308
313
 
309
314
 
310
315
def _win98_abspath(path):
321
326
    #   /path       => C:/path
322
327
    path = unicode(path)
323
328
    # check for absolute path
324
 
    drive = ntpath.splitdrive(path)[0]
 
329
    drive = _nt_splitdrive(path)[0]
325
330
    if drive == '' and path[:2] not in('//','\\\\'):
326
331
        cwd = os.getcwdu()
327
332
        # we cannot simply os.path.join cwd and path
328
333
        # because os.path.join('C:','/path') produce '/path'
329
334
        # and this is incorrect
330
335
        if path[:1] in ('/','\\'):
331
 
            cwd = ntpath.splitdrive(cwd)[0]
 
336
            cwd = _nt_splitdrive(cwd)[0]
332
337
            path = path[1:]
333
338
        path = cwd + '\\' + path
334
 
    return _win32_fixdrive(ntpath.normpath(path).replace('\\', '/'))
 
339
    return _win32_fixdrive(_nt_normpath(path).replace('\\', '/'))
335
340
 
336
341
 
337
342
def _win32_realpath(path):
338
 
    # Real ntpath.realpath doesn't have a problem with a unicode cwd
339
 
    return _win32_fixdrive(ntpath.realpath(unicode(path)).replace('\\', '/'))
 
343
    # Real _nt_realpath doesn't have a problem with a unicode cwd
 
344
    return _win32_fixdrive(_nt_realpath(unicode(path)).replace('\\', '/'))
340
345
 
341
346
 
342
347
def _win32_pathjoin(*args):
343
 
    return ntpath.join(*args).replace('\\', '/')
 
348
    return _nt_join(*args).replace('\\', '/')
344
349
 
345
350
 
346
351
def _win32_normpath(path):
347
 
    return _win32_fixdrive(ntpath.normpath(unicode(path)).replace('\\', '/'))
 
352
    return _win32_fixdrive(_nt_normpath(unicode(path)).replace('\\', '/'))
348
353
 
349
354
 
350
355
def _win32_getcwd():
355
360
    return _win32_fixdrive(tempfile.mkdtemp(*args, **kwargs).replace('\\', '/'))
356
361
 
357
362
 
 
363
def _add_rename_error_details(e, old, new):
 
364
    new_e = OSError(e.errno, "failed to rename %s to %s: %s"
 
365
        % (old, new, e.strerror))
 
366
    new_e.filename = old
 
367
    new_e.to_filename = new
 
368
    return new_e
 
369
 
 
370
 
358
371
def _win32_rename(old, new):
359
372
    """We expect to be able to atomically replace 'new' with old.
360
373
 
362
375
    and then deleted.
363
376
    """
364
377
    try:
365
 
        fancy_rename(old, new, rename_func=os.rename, unlink_func=os.unlink)
 
378
        fancy_rename(old, new, rename_func=_wrapped_rename, unlink_func=os.unlink)
366
379
    except OSError, e:
367
380
        if e.errno in (errno.EPERM, errno.EACCES, errno.EBUSY, errno.EINVAL):
368
381
            # If we try to rename a non-existant file onto cwd, we get
373
386
        raise
374
387
 
375
388
 
 
389
def _wrapped_rename(old, new):
 
390
    """Rename a file or directory"""
 
391
    try:
 
392
        os.rename(old, new)
 
393
    except (IOError, OSError), e:
 
394
        # this is eventually called by all rename-like functions, so should 
 
395
        # catch all of them
 
396
        raise _add_rename_error_details(e, old, new)
 
397
 
 
398
 
376
399
def _mac_getcwd():
377
400
    return unicodedata.normalize('NFC', os.getcwdu())
378
401
 
383
406
realpath = _posix_realpath
384
407
pathjoin = os.path.join
385
408
normpath = os.path.normpath
 
409
rename = _wrapped_rename # overridden below on win32
386
410
getcwd = os.getcwdu
387
 
rename = os.rename
388
411
dirname = os.path.dirname
389
412
basename = os.path.basename
390
413
split = os.path.split
391
414
splitext = os.path.splitext
392
 
# These were already lazily imported into local scope
 
415
# These were already imported into local scope
393
416
# mkdtemp = tempfile.mkdtemp
394
417
# rmtree = shutil.rmtree
395
418
 
435
458
    getcwd = _mac_getcwd
436
459
 
437
460
 
438
 
def get_terminal_encoding(trace=False):
 
461
def get_terminal_encoding():
439
462
    """Find the best encoding for printing to the screen.
440
463
 
441
464
    This attempts to check both sys.stdout and sys.stdin to see
447
470
 
448
471
    On my standard US Windows XP, the preferred encoding is
449
472
    cp1252, but the console is cp437
450
 
 
451
 
    :param trace: If True trace the selected encoding via mutter().
452
473
    """
453
474
    from bzrlib.trace import mutter
454
475
    output_encoding = getattr(sys.stdout, 'encoding', None)
456
477
        input_encoding = getattr(sys.stdin, 'encoding', None)
457
478
        if not input_encoding:
458
479
            output_encoding = get_user_encoding()
459
 
            if trace:
460
 
                mutter('encoding stdout as osutils.get_user_encoding() %r',
 
480
            mutter('encoding stdout as osutils.get_user_encoding() %r',
461
481
                   output_encoding)
462
482
        else:
463
483
            output_encoding = input_encoding
464
 
            if trace:
465
 
                mutter('encoding stdout as sys.stdin encoding %r',
466
 
                    output_encoding)
 
484
            mutter('encoding stdout as sys.stdin encoding %r', output_encoding)
467
485
    else:
468
 
        if trace:
469
 
            mutter('encoding stdout as sys.stdout encoding %r', output_encoding)
 
486
        mutter('encoding stdout as sys.stdout encoding %r', output_encoding)
470
487
    if output_encoding == 'cp0':
471
488
        # invalid encoding (cp0 means 'no codepage' on Windows)
472
489
        output_encoding = get_user_encoding()
473
 
        if trace:
474
 
            mutter('cp0 is invalid encoding.'
 
490
        mutter('cp0 is invalid encoding.'
475
491
               ' encoding stdout as osutils.get_user_encoding() %r',
476
492
               output_encoding)
477
493
    # check encoding
503
519
def isdir(f):
504
520
    """True if f is an accessible directory."""
505
521
    try:
506
 
        return stat.S_ISDIR(os.lstat(f)[stat.ST_MODE])
 
522
        return S_ISDIR(os.lstat(f)[ST_MODE])
507
523
    except OSError:
508
524
        return False
509
525
 
511
527
def isfile(f):
512
528
    """True if f is a regular file."""
513
529
    try:
514
 
        return stat.S_ISREG(os.lstat(f)[stat.ST_MODE])
 
530
        return S_ISREG(os.lstat(f)[ST_MODE])
515
531
    except OSError:
516
532
        return False
517
533
 
518
534
def islink(f):
519
535
    """True if f is a symlink."""
520
536
    try:
521
 
        return stat.S_ISLNK(os.lstat(f)[stat.ST_MODE])
 
537
        return S_ISLNK(os.lstat(f)[ST_MODE])
522
538
    except OSError:
523
539
        return False
524
540
 
864
880
 
865
881
def filesize(f):
866
882
    """Return size of given open file."""
867
 
    return os.fstat(f.fileno())[stat.ST_SIZE]
 
883
    return os.fstat(f.fileno())[ST_SIZE]
868
884
 
869
885
 
870
886
# Define rand_bytes based on platform.
932
948
 
933
949
def parent_directories(filename):
934
950
    """Return the list of parent directories, deepest first.
935
 
 
 
951
    
936
952
    For example, parent_directories("a/b/c") -> ["a/b", "a"].
937
953
    """
938
954
    parents = []
962
978
    # NB: This docstring is just an example, not a doctest, because doctest
963
979
    # currently can't cope with the use of lazy imports in this namespace --
964
980
    # mbp 20090729
965
 
 
 
981
    
966
982
    # This currently doesn't report the failure at the time it occurs, because
967
983
    # they tend to happen very early in startup when we can't check config
968
984
    # files etc, and also we want to report all failures but not spam the user
1038
1054
 
1039
1055
 
1040
1056
def delete_any(path):
1041
 
    """Delete a file, symlink or directory.
1042
 
 
 
1057
    """Delete a file, symlink or directory.  
 
1058
    
1043
1059
    Will delete even if readonly.
1044
1060
    """
1045
1061
    try:
1234
1250
    # but for now, we haven't optimized...
1235
1251
    return [canonical_relpath(base, p) for p in paths]
1236
1252
 
1237
 
 
1238
 
def decode_filename(filename):
1239
 
    """Decode the filename using the filesystem encoding
1240
 
 
1241
 
    If it is unicode, it is returned.
1242
 
    Otherwise it is decoded from the the filesystem's encoding. If decoding
1243
 
    fails, a errors.BadFilenameEncoding exception is raised.
1244
 
    """
1245
 
    if type(filename) is unicode:
1246
 
        return filename
1247
 
    try:
1248
 
        return filename.decode(_fs_enc)
1249
 
    except UnicodeDecodeError:
1250
 
        raise errors.BadFilenameEncoding(filename, _fs_enc)
1251
 
 
1252
 
 
1253
1253
def safe_unicode(unicode_or_utf8_string):
1254
1254
    """Coerce unicode_or_utf8_string into unicode.
1255
1255
 
1338
1338
def normalizes_filenames():
1339
1339
    """Return True if this platform normalizes unicode filenames.
1340
1340
 
1341
 
    Only Mac OSX.
 
1341
    Mac OSX does, Windows/Linux do not.
1342
1342
    """
1343
1343
    return _platform_normalizes_filenames
1344
1344
 
1349
1349
    On platforms where the system normalizes filenames (Mac OSX),
1350
1350
    you can access a file by any path which will normalize correctly.
1351
1351
    On platforms where the system does not normalize filenames
1352
 
    (everything else), you have to access a file by its exact path.
 
1352
    (Windows, Linux), you have to access a file by its exact path.
1353
1353
 
1354
1354
    Internally, bzr only supports NFC normalization, since that is
1355
1355
    the standard for XML documents.
1417
1417
terminal_width() returns None.
1418
1418
"""
1419
1419
 
1420
 
# Keep some state so that terminal_width can detect if _terminal_size has
1421
 
# returned a different size since the process started.  See docstring and
1422
 
# comments of terminal_width for details.
1423
 
# _terminal_size_state has 3 possible values: no_data, unchanged, and changed.
1424
 
_terminal_size_state = 'no_data'
1425
 
_first_terminal_size = None
1426
1420
 
1427
1421
def terminal_width():
1428
1422
    """Return terminal width.
1432
1426
    The rules are:
1433
1427
    - if BZR_COLUMNS is set, returns its value
1434
1428
    - if there is no controlling terminal, returns None
1435
 
    - query the OS, if the queried size has changed since the last query,
1436
 
      return its value,
1437
1429
    - if COLUMNS is set, returns its value,
1438
 
    - if the OS has a value (even though it's never changed), return its value.
1439
1430
 
1440
1431
    From there, we need to query the OS to get the size of the controlling
1441
1432
    terminal.
1442
1433
 
1443
 
    On Unices we query the OS by:
 
1434
    Unices:
1444
1435
    - get termios.TIOCGWINSZ
1445
1436
    - if an error occurs or a negative value is obtained, returns None
1446
1437
 
1447
 
    On Windows we query the OS by:
 
1438
    Windows:
 
1439
    
1448
1440
    - win32utils.get_console_size() decides,
1449
1441
    - returns None on error (provided default value)
1450
1442
    """
1451
 
    # Note to implementors: if changing the rules for determining the width,
1452
 
    # make sure you've considered the behaviour in these cases:
1453
 
    #  - M-x shell in emacs, where $COLUMNS is set and TIOCGWINSZ returns 0,0.
1454
 
    #  - bzr log | less, in bash, where $COLUMNS not set and TIOCGWINSZ returns
1455
 
    #    0,0.
1456
 
    #  - (add more interesting cases here, if you find any)
1457
 
    # Some programs implement "Use $COLUMNS (if set) until SIGWINCH occurs",
1458
 
    # but we don't want to register a signal handler because it is impossible
1459
 
    # to do so without risking EINTR errors in Python <= 2.6.5 (see
1460
 
    # <http://bugs.python.org/issue8354>).  Instead we check TIOCGWINSZ every
1461
 
    # time so we can notice if the reported size has changed, which should have
1462
 
    # a similar effect.
1463
1443
 
1464
1444
    # If BZR_COLUMNS is set, take it, user is always right
1465
1445
    try:
1468
1448
        pass
1469
1449
 
1470
1450
    isatty = getattr(sys.stdout, 'isatty', None)
1471
 
    if isatty is None or not isatty():
 
1451
    if  isatty is None or not isatty():
1472
1452
        # Don't guess, setting BZR_COLUMNS is the recommended way to override.
1473
1453
        return None
1474
1454
 
1475
 
    # Query the OS
1476
 
    width, height = os_size = _terminal_size(None, None)
1477
 
    global _first_terminal_size, _terminal_size_state
1478
 
    if _terminal_size_state == 'no_data':
1479
 
        _first_terminal_size = os_size
1480
 
        _terminal_size_state = 'unchanged'
1481
 
    elif (_terminal_size_state == 'unchanged' and
1482
 
          _first_terminal_size != os_size):
1483
 
        _terminal_size_state = 'changed'
1484
 
 
1485
 
    # If the OS claims to know how wide the terminal is, and this value has
1486
 
    # ever changed, use that.
1487
 
    if _terminal_size_state == 'changed':
1488
 
        if width is not None and width > 0:
1489
 
            return width
1490
 
 
1491
 
    # If COLUMNS is set, use it.
 
1455
    # If COLUMNS is set, take it, the terminal knows better (even inside a
 
1456
    # given terminal, the application can decide to set COLUMNS to a lower
 
1457
    # value (splitted screen) or a bigger value (scroll bars))
1492
1458
    try:
1493
1459
        return int(os.environ['COLUMNS'])
1494
1460
    except (KeyError, ValueError):
1495
1461
        pass
1496
1462
 
1497
 
    # Finally, use an unchanged size from the OS, if we have one.
1498
 
    if _terminal_size_state == 'unchanged':
1499
 
        if width is not None and width > 0:
1500
 
            return width
 
1463
    width, height = _terminal_size(None, None)
 
1464
    if width <= 0:
 
1465
        # Consider invalid values as meaning no width
 
1466
        return None
1501
1467
 
1502
 
    # The width could not be determined.
1503
 
    return None
 
1468
    return width
1504
1469
 
1505
1470
 
1506
1471
def _win32_terminal_size(width, height):
1533
1498
    _terminal_size = _ioctl_terminal_size
1534
1499
 
1535
1500
 
 
1501
def _terminal_size_changed(signum, frame):
 
1502
    """Set COLUMNS upon receiving a SIGnal for WINdow size CHange."""
 
1503
    width, height = _terminal_size(None, None)
 
1504
    if width is not None:
 
1505
        os.environ['COLUMNS'] = str(width)
 
1506
 
 
1507
 
 
1508
_registered_sigwinch = False
 
1509
def watch_sigwinch():
 
1510
    """Register for SIGWINCH, once and only once.
 
1511
 
 
1512
    Do nothing if the signal module is not available.
 
1513
    """
 
1514
    global _registered_sigwinch
 
1515
    if not _registered_sigwinch:
 
1516
        try:
 
1517
            import signal
 
1518
            if getattr(signal, "SIGWINCH", None) is not None:
 
1519
                set_signal_handler(signal.SIGWINCH, _terminal_size_changed)
 
1520
        except ImportError:
 
1521
            # python doesn't provide signal support, nothing we can do about it
 
1522
            pass
 
1523
        _registered_sigwinch = True
 
1524
 
 
1525
 
1536
1526
def supports_executable():
1537
1527
    return sys.platform != "win32"
1538
1528
 
1661
1651
        dirblock = []
1662
1652
        append = dirblock.append
1663
1653
        try:
1664
 
            names = sorted(map(decode_filename, _listdir(top)))
 
1654
            names = sorted(_listdir(top))
1665
1655
        except OSError, e:
1666
1656
            if not _is_error_enotdir(e):
1667
1657
                raise
1969
1959
    return user_encoding
1970
1960
 
1971
1961
 
1972
 
def get_diff_header_encoding():
1973
 
    return get_terminal_encoding()
1974
 
 
1975
 
 
1976
1962
def get_host_name():
1977
1963
    """Return the current unicode host name.
1978
1964
 
2041
2027
 
2042
2028
def send_all(sock, bytes, report_activity=None):
2043
2029
    """Send all bytes on a socket.
2044
 
 
 
2030
 
2045
2031
    Breaks large blocks in smaller chunks to avoid buffering limitations on
2046
2032
    some platforms, and catches EINTR which may be thrown if the send is
2047
2033
    interrupted by a signal.
2048
2034
 
2049
2035
    This is preferred to socket.sendall(), because it avoids portability bugs
2050
2036
    and provides activity reporting.
2051
 
 
 
2037
 
2052
2038
    :param report_activity: Call this as bytes are read, see
2053
2039
        Transport._report_activity
2054
2040
    """
2109
2095
    base = dirname(bzrlib.__file__)
2110
2096
    if getattr(sys, 'frozen', None):    # bzr.exe
2111
2097
        base = abspath(pathjoin(base, '..', '..'))
2112
 
    f = file(pathjoin(base, resource_relpath), "rU")
2113
 
    try:
2114
 
        return f.read()
2115
 
    finally:
2116
 
        f.close()
 
2098
    filename = pathjoin(base, resource_relpath)
 
2099
    return open(filename, 'rU').read()
 
2100
 
2117
2101
 
2118
2102
def file_kind_from_stat_mode_thunk(mode):
2119
2103
    global file_kind_from_stat_mode
2142
2126
 
2143
2127
def until_no_eintr(f, *a, **kw):
2144
2128
    """Run f(*a, **kw), retrying if an EINTR error occurs.
2145
 
 
 
2129
    
2146
2130
    WARNING: you must be certain that it is safe to retry the call repeatedly
2147
2131
    if EINTR does occur.  This is typically only true for low-level operations
2148
2132
    like os.read.  If in any doubt, don't use this.
2163
2147
            raise
2164
2148
 
2165
2149
 
2166
 
@deprecated_function(deprecated_in((2, 2, 0)))
2167
2150
def re_compile_checked(re_string, flags=0, where=""):
2168
2151
    """Return a compiled re, or raise a sensible error.
2169
2152
 
2179
2162
        re_obj = re.compile(re_string, flags)
2180
2163
        re_obj.search("")
2181
2164
        return re_obj
2182
 
    except errors.InvalidPattern, e:
 
2165
    except re.error, e:
2183
2166
        if where:
2184
2167
            where = ' in ' + where
2185
2168
        # despite the name 'error' is a type
2186
 
        raise errors.BzrCommandError('Invalid regular expression%s: %s'
2187
 
            % (where, e.msg))
 
2169
        raise errors.BzrCommandError('Invalid regular expression%s: %r: %s'
 
2170
            % (where, re_string, e))
2188
2171
 
2189
2172
 
2190
2173
if sys.platform == "win32":
2280
2263
if sys.platform == 'win32':
2281
2264
    def open_file(filename, mode='r', bufsize=-1):
2282
2265
        """This function is used to override the ``open`` builtin.
2283
 
 
 
2266
        
2284
2267
        But it uses O_NOINHERIT flag so the file handle is not inherited by
2285
2268
        child processes.  Deleting or renaming a closed file opened with this
2286
2269
        function is not blocking child processes.
2319
2302
        return os.fdopen(os.open(filename, flags), mode, bufsize)
2320
2303
else:
2321
2304
    open_file = open
2322
 
 
2323
 
 
2324
 
def getuser_unicode():
2325
 
    """Return the username as unicode.
2326
 
    """
2327
 
    try:
2328
 
        user_encoding = get_user_encoding()
2329
 
        username = getpass.getuser().decode(user_encoding)
2330
 
    except UnicodeDecodeError:
2331
 
        raise errors.BzrError("Can't decode username as %s." % \
2332
 
                user_encoding)
2333
 
    return username