~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

Add additional module for lsprof.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
1
# Bazaar-NG -- distributed version control
2
 
 
 
2
#
3
3
# Copyright (C) 2005 by Canonical Ltd
4
 
 
 
4
#
5
5
# This program is free software; you can redistribute it and/or modify
6
6
# it under the terms of the GNU General Public License as published by
7
7
# the Free Software Foundation; either version 2 of the License, or
8
8
# (at your option) any later version.
9
 
 
 
9
#
10
10
# This program is distributed in the hope that it will be useful,
11
11
# but WITHOUT ANY WARRANTY; without even the implied warranty of
12
12
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13
13
# GNU General Public License for more details.
14
 
 
 
14
#
15
15
# You should have received a copy of the GNU General Public License
16
16
# along with this program; if not, write to the Free Software
17
17
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18
18
 
19
 
import os, types, re, time, errno
20
 
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
 
19
from shutil import copyfile
 
20
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
 
21
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
 
22
from cStringIO import StringIO
 
23
import errno
 
24
import os
 
25
import re
 
26
import sha
 
27
import string
 
28
import sys
 
29
import time
 
30
import types
21
31
 
22
 
from errors import bailout, BzrError
23
 
from trace import mutter
24
32
import bzrlib
 
33
from bzrlib.errors import BzrError, PathNotChild
 
34
from bzrlib.trace import mutter
 
35
 
25
36
 
26
37
def make_readonly(filename):
27
38
    """Make a filename read-only."""
28
 
    # TODO: probably needs to be fixed for windows
29
39
    mod = os.stat(filename).st_mode
30
40
    mod = mod & 0777555
31
41
    os.chmod(filename, mod)
37
47
    os.chmod(filename, mod)
38
48
 
39
49
 
40
 
_QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/_~-])')
 
50
_QUOTE_RE = None
 
51
 
 
52
 
41
53
def quotefn(f):
42
 
    """Return shell-quoted filename"""
43
 
    ## We could be a bit more terse by using double-quotes etc
44
 
    f = _QUOTE_RE.sub(r'\\\1', f)
45
 
    if f[0] == '~':
46
 
        f[0:1] = r'\~' 
47
 
    return f
 
54
    """Return a quoted filename filename
 
55
 
 
56
    This previously used backslash quoting, but that works poorly on
 
57
    Windows."""
 
58
    # TODO: I'm not really sure this is the best format either.x
 
59
    global _QUOTE_RE
 
60
    if _QUOTE_RE == None:
 
61
        _QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/\\_~-])')
 
62
        
 
63
    if _QUOTE_RE.search(f):
 
64
        return '"' + f + '"'
 
65
    else:
 
66
        return f
48
67
 
49
68
 
50
69
def file_kind(f):
55
74
        return 'directory'
56
75
    elif S_ISLNK(mode):
57
76
        return 'symlink'
58
 
    else:
59
 
        raise BzrError("can't handle file kind with mode %o of %r" % (mode, f)) 
60
 
 
 
77
    elif S_ISCHR(mode):
 
78
        return 'chardev'
 
79
    elif S_ISBLK(mode):
 
80
        return 'block'
 
81
    elif S_ISFIFO(mode):
 
82
        return 'fifo'
 
83
    elif S_ISSOCK(mode):
 
84
        return 'socket'
 
85
    else:
 
86
        return 'unknown'
 
87
 
 
88
 
 
89
def kind_marker(kind):
 
90
    if kind == 'file':
 
91
        return ''
 
92
    elif kind == 'directory':
 
93
        return '/'
 
94
    elif kind == 'symlink':
 
95
        return '@'
 
96
    else:
 
97
        raise BzrError('invalid file kind %r' % kind)
 
98
 
 
99
def lexists(f):
 
100
    try:
 
101
        if hasattr(os, 'lstat'):
 
102
            os.lstat(f)
 
103
        else:
 
104
            os.stat(f)
 
105
        return True
 
106
    except OSError,e:
 
107
        if e.errno == errno.ENOENT:
 
108
            return False;
 
109
        else:
 
110
            raise BzrError("lstat/stat of (%r): %r" % (f, e))
 
111
 
 
112
def normalizepath(f):
 
113
    if hasattr(os.path, 'realpath'):
 
114
        F = os.path.realpath
 
115
    else:
 
116
        F = os.path.abspath
 
117
    [p,e] = os.path.split(f)
 
118
    if e == "" or e == "." or e == "..":
 
119
        return F(f)
 
120
    else:
 
121
        return os.path.join(F(p), e)
 
122
 
 
123
if os.name == "posix":
 
124
    # In Python 2.4.2 and older, os.path.abspath and os.path.realpath
 
125
    # choke on a Unicode string containing a relative path if
 
126
    # os.getcwd() returns a non-sys.getdefaultencoding()-encoded
 
127
    # string.
 
128
    _fs_enc = sys.getfilesystemencoding()
 
129
    def abspath(path):
 
130
        return os.path.abspath(path.encode(_fs_enc)).decode(_fs_enc)
 
131
    def realpath(path):
 
132
        return os.path.realpath(path.encode(_fs_enc)).decode(_fs_enc)
 
133
else:
 
134
    # We need to use the Unicode-aware os.path.abspath and
 
135
    # os.path.realpath on Windows systems.
 
136
    abspath = os.path.abspath
 
137
    realpath = os.path.realpath
 
138
 
 
139
def backup_file(fn):
 
140
    """Copy a file to a backup.
 
141
 
 
142
    Backups are named in GNU-style, with a ~ suffix.
 
143
 
 
144
    If the file is already a backup, it's not copied.
 
145
    """
 
146
    if fn[-1] == '~':
 
147
        return
 
148
    bfn = fn + '~'
 
149
 
 
150
    if has_symlinks() and os.path.islink(fn):
 
151
        target = os.readlink(fn)
 
152
        os.symlink(target, bfn)
 
153
        return
 
154
    inf = file(fn, 'rb')
 
155
    try:
 
156
        content = inf.read()
 
157
    finally:
 
158
        inf.close()
 
159
    
 
160
    outf = file(bfn, 'wb')
 
161
    try:
 
162
        outf.write(content)
 
163
    finally:
 
164
        outf.close()
 
165
 
 
166
if os.name == 'nt':
 
167
    import shutil
 
168
    rename = shutil.move
 
169
else:
 
170
    rename = os.rename
61
171
 
62
172
 
63
173
def isdir(f):
68
178
        return False
69
179
 
70
180
 
71
 
 
72
181
def isfile(f):
73
182
    """True if f is a regular file."""
74
183
    try:
76
185
    except OSError:
77
186
        return False
78
187
 
 
188
def islink(f):
 
189
    """True if f is a symlink."""
 
190
    try:
 
191
        return S_ISLNK(os.lstat(f)[ST_MODE])
 
192
    except OSError:
 
193
        return False
 
194
 
 
195
def is_inside(dir, fname):
 
196
    """True if fname is inside dir.
 
197
    
 
198
    The parameters should typically be passed to os.path.normpath first, so
 
199
    that . and .. and repeated slashes are eliminated, and the separators
 
200
    are canonical for the platform.
 
201
    
 
202
    The empty string as a dir name is taken as top-of-tree and matches 
 
203
    everything.
 
204
    
 
205
    >>> is_inside('src', os.path.join('src', 'foo.c'))
 
206
    True
 
207
    >>> is_inside('src', 'srccontrol')
 
208
    False
 
209
    >>> is_inside('src', os.path.join('src', 'a', 'a', 'a', 'foo.c'))
 
210
    True
 
211
    >>> is_inside('foo.c', 'foo.c')
 
212
    True
 
213
    >>> is_inside('foo.c', '')
 
214
    False
 
215
    >>> is_inside('', 'foo.c')
 
216
    True
 
217
    """
 
218
    # XXX: Most callers of this can actually do something smarter by 
 
219
    # looking at the inventory
 
220
    if dir == fname:
 
221
        return True
 
222
    
 
223
    if dir == '':
 
224
        return True
 
225
 
 
226
    if dir[-1] != os.sep:
 
227
        dir += os.sep
 
228
 
 
229
    return fname.startswith(dir)
 
230
 
 
231
 
 
232
def is_inside_any(dir_list, fname):
 
233
    """True if fname is inside any of given dirs."""
 
234
    for dirname in dir_list:
 
235
        if is_inside(dirname, fname):
 
236
            return True
 
237
    else:
 
238
        return False
 
239
 
79
240
 
80
241
def pumpfile(fromfile, tofile):
81
242
    """Copy contents of one file to another."""
82
 
    tofile.write(fromfile.read())
83
 
 
84
 
 
85
 
def uuid():
86
 
    """Return a new UUID"""
87
 
    
88
 
    ## XXX: Could alternatively read /proc/sys/kernel/random/uuid on
89
 
    ## Linux, but we need something portable for other systems;
90
 
    ## preferably an implementation in Python.
91
 
    try:
92
 
        return chomp(file('/proc/sys/kernel/random/uuid').readline())
93
 
    except IOError:
94
 
        return chomp(os.popen('uuidgen').readline())
95
 
 
96
 
 
97
 
def chomp(s):
98
 
    if s and (s[-1] == '\n'):
99
 
        return s[:-1]
100
 
    else:
101
 
        return s
 
243
    BUFSIZE = 32768
 
244
    while True:
 
245
        b = fromfile.read(BUFSIZE)
 
246
        if not b:
 
247
            break
 
248
        tofile.write(b)
102
249
 
103
250
 
104
251
def sha_file(f):
105
 
    import sha
106
 
    ## TODO: Maybe read in chunks to handle big files
107
252
    if hasattr(f, 'tell'):
108
253
        assert f.tell() == 0
109
254
    s = sha.new()
110
 
    s.update(f.read())
 
255
    BUFSIZE = 128<<10
 
256
    while True:
 
257
        b = f.read(BUFSIZE)
 
258
        if not b:
 
259
            break
 
260
        s.update(b)
 
261
    return s.hexdigest()
 
262
 
 
263
 
 
264
 
 
265
def sha_strings(strings):
 
266
    """Return the sha-1 of concatenation of strings"""
 
267
    s = sha.new()
 
268
    map(s.update, strings)
111
269
    return s.hexdigest()
112
270
 
113
271
 
114
272
def sha_string(f):
115
 
    import sha
116
273
    s = sha.new()
117
274
    s.update(f)
118
275
    return s.hexdigest()
119
276
 
120
277
 
121
 
 
122
278
def fingerprint_file(f):
123
 
    import sha
124
279
    s = sha.new()
125
280
    b = f.read()
126
281
    s.update(b)
129
284
            'sha1': s.hexdigest()}
130
285
 
131
286
 
132
 
def config_dir():
133
 
    """Return per-user configuration directory.
134
 
 
135
 
    By default this is ~/.bzr.conf/
136
 
    
137
 
    TODO: Global option --config-dir to override this.
138
 
    """
139
 
    return os.path.expanduser("~/.bzr.conf")
140
 
 
141
 
 
142
 
def _auto_user_id():
143
 
    """Calculate automatic user identification.
144
 
 
145
 
    Returns (realname, email).
146
 
 
147
 
    Only used when none is set in the environment or the id file.
148
 
 
149
 
    This previously used the FQDN as the default domain, but that can
150
 
    be very slow on machines where DNS is broken.  So now we simply
151
 
    use the hostname.
152
 
    """
153
 
    import socket
154
 
 
155
 
    # XXX: Any good way to get real user name on win32?
156
 
 
157
 
    try:
158
 
        import pwd
159
 
        uid = os.getuid()
160
 
        w = pwd.getpwuid(uid)
161
 
        gecos = w.pw_gecos.decode(bzrlib.user_encoding)
162
 
        username = w.pw_name.decode(bzrlib.user_encoding)
163
 
        comma = gecos.find(',')
164
 
        if comma == -1:
165
 
            realname = gecos
166
 
        else:
167
 
            realname = gecos[:comma]
168
 
        if not realname:
169
 
            realname = username
170
 
 
171
 
    except ImportError:
172
 
        import getpass
173
 
        realname = username = getpass.getuser().decode(bzrlib.user_encoding)
174
 
 
175
 
    return realname, (username + '@' + socket.gethostname())
176
 
 
177
 
 
178
 
def _get_user_id():
179
 
    """Return the full user id from a file or environment variable.
180
 
 
181
 
    TODO: Allow taking this from a file in the branch directory too
182
 
    for per-branch ids."""
183
 
    v = os.environ.get('BZREMAIL')
184
 
    if v:
185
 
        return v.decode(bzrlib.user_encoding)
186
 
    
187
 
    try:
188
 
        return (open(os.path.join(config_dir(), "email"))
189
 
                .read()
190
 
                .decode(bzrlib.user_encoding)
191
 
                .rstrip("\r\n"))
192
 
    except IOError, e:
193
 
        if e.errno != errno.ENOENT:
194
 
            raise e
195
 
 
196
 
    v = os.environ.get('EMAIL')
197
 
    if v:
198
 
        return v.decode(bzrlib.user_encoding)
199
 
    else:    
200
 
        return None
201
 
 
202
 
 
203
 
def username():
204
 
    """Return email-style username.
205
 
 
206
 
    Something similar to 'Martin Pool <mbp@sourcefrog.net>'
207
 
 
208
 
    TODO: Check it's reasonably well-formed.
209
 
    """
210
 
    v = _get_user_id()
211
 
    if v:
212
 
        return v
213
 
    
214
 
    name, email = _auto_user_id()
215
 
    if name:
216
 
        return '%s <%s>' % (name, email)
217
 
    else:
218
 
        return email
219
 
 
220
 
 
221
 
_EMAIL_RE = re.compile(r'[\w+.-]+@[\w+.-]+')
222
 
def user_email():
223
 
    """Return just the email component of a username."""
224
 
    e = _get_user_id()
225
 
    if e:
226
 
        m = _EMAIL_RE.search(e)
227
 
        if not m:
228
 
            bailout("%r doesn't seem to contain a reasonable email address" % e)
229
 
        return m.group(0)
230
 
 
231
 
    return _auto_user_id()[1]
232
 
    
233
 
 
234
 
 
235
287
def compare_files(a, b):
236
288
    """Returns true if equal in contents"""
237
 
    # TODO: don't read the whole thing in one go.
238
289
    BUFSIZE = 4096
239
290
    while True:
240
291
        ai = a.read(BUFSIZE)
245
296
            return True
246
297
 
247
298
 
248
 
 
249
299
def local_time_offset(t=None):
250
300
    """Return offset of local zone from GMT, either at present or at time t."""
251
301
    # python2.3 localtime() can't take None
258
308
        return -time.timezone
259
309
 
260
310
    
261
 
def format_date(t, offset=0, timezone='original'):
 
311
def format_date(t, offset=0, timezone='original', date_fmt=None, 
 
312
                show_offset=True):
262
313
    ## TODO: Perhaps a global option to use either universal or local time?
263
314
    ## Or perhaps just let people set $TZ?
264
315
    assert isinstance(t, float)
274
325
        tt = time.localtime(t)
275
326
        offset = local_time_offset(t)
276
327
    else:
277
 
        bailout("unsupported timezone format %r",
278
 
                ['options are "utc", "original", "local"'])
279
 
 
280
 
    return (time.strftime("%a %Y-%m-%d %H:%M:%S", tt)
281
 
            + ' %+03d%02d' % (offset / 3600, (offset / 60) % 60))
 
328
        raise BzrError("unsupported timezone format %r" % timezone,
 
329
                       ['options are "utc", "original", "local"'])
 
330
    if date_fmt is None:
 
331
        date_fmt = "%a %Y-%m-%d %H:%M:%S"
 
332
    if show_offset:
 
333
        offset_str = ' %+03d%02d' % (offset / 3600, (offset / 60) % 60)
 
334
    else:
 
335
        offset_str = ''
 
336
    return (time.strftime(date_fmt, tt) +  offset_str)
282
337
 
283
338
 
284
339
def compact_date(when):
290
345
    """Return size of given open file."""
291
346
    return os.fstat(f.fileno())[ST_SIZE]
292
347
 
293
 
 
294
 
if hasattr(os, 'urandom'): # python 2.4 and later
 
348
# Define rand_bytes based on platform.
 
349
try:
 
350
    # Python 2.4 and later have os.urandom,
 
351
    # but it doesn't work on some arches
 
352
    os.urandom(1)
295
353
    rand_bytes = os.urandom
296
 
else:
297
 
    # FIXME: No good on non-Linux
298
 
    _rand_file = file('/dev/urandom', 'rb')
299
 
    rand_bytes = _rand_file.read
300
 
 
 
354
except (NotImplementedError, AttributeError):
 
355
    # If python doesn't have os.urandom, or it doesn't work,
 
356
    # then try to first pull random data from /dev/urandom
 
357
    if os.path.exists("/dev/urandom"):
 
358
        rand_bytes = file('/dev/urandom', 'rb').read
 
359
    # Otherwise, use this hack as a last resort
 
360
    else:
 
361
        # not well seeded, but better than nothing
 
362
        def rand_bytes(n):
 
363
            import random
 
364
            s = ''
 
365
            while n:
 
366
                s += chr(random.randint(0, 255))
 
367
                n -= 1
 
368
            return s
301
369
 
302
370
## TODO: We could later have path objects that remember their list
303
371
## decomposition (might be too tricksy though.)
316
384
    >>> splitpath('a/../b')
317
385
    Traceback (most recent call last):
318
386
    ...
319
 
    BzrError: ("sorry, '..' not allowed in path", [])
 
387
    BzrError: sorry, '..' not allowed in path
320
388
    """
321
389
    assert isinstance(p, types.StringTypes)
322
390
 
327
395
    rps = []
328
396
    for f in ps:
329
397
        if f == '..':
330
 
            bailout("sorry, %r not allowed in path" % f)
 
398
            raise BzrError("sorry, %r not allowed in path" % f)
331
399
        elif (f == '.') or (f == ''):
332
400
            pass
333
401
        else:
338
406
    assert isinstance(p, list)
339
407
    for f in p:
340
408
        if (f == '..') or (f == None) or (f == ''):
341
 
            bailout("sorry, %r not allowed in path" % f)
 
409
            raise BzrError("sorry, %r not allowed in path" % f)
342
410
    return os.path.join(*p)
343
411
 
344
412
 
349
417
        return os.path.join(p1, p2)
350
418
    
351
419
 
352
 
def extern_command(cmd, ignore_errors = False):
353
 
    mutter('external command: %s' % `cmd`)
354
 
    if os.system(cmd):
355
 
        if not ignore_errors:
356
 
            bailout('command failed')
357
 
 
 
420
def split_lines(s):
 
421
    """Split s into lines, but without removing the newline characters."""
 
422
    return StringIO(s).readlines()
 
423
 
 
424
 
 
425
def hardlinks_good():
 
426
    return sys.platform not in ('win32', 'cygwin', 'darwin')
 
427
 
 
428
 
 
429
def link_or_copy(src, dest):
 
430
    """Hardlink a file, or copy it if it can't be hardlinked."""
 
431
    if not hardlinks_good():
 
432
        copyfile(src, dest)
 
433
        return
 
434
    try:
 
435
        os.link(src, dest)
 
436
    except (OSError, IOError), e:
 
437
        if e.errno != errno.EXDEV:
 
438
            raise
 
439
        copyfile(src, dest)
 
440
 
 
441
 
 
442
def has_symlinks():
 
443
    if hasattr(os, 'symlink'):
 
444
        return True
 
445
    else:
 
446
        return False
 
447
        
 
448
 
 
449
def contains_whitespace(s):
 
450
    """True if there are any whitespace characters in s."""
 
451
    for ch in string.whitespace:
 
452
        if ch in s:
 
453
            return True
 
454
    else:
 
455
        return False
 
456
 
 
457
 
 
458
def contains_linebreaks(s):
 
459
    """True if there is any vertical whitespace in s."""
 
460
    for ch in '\f\n\r':
 
461
        if ch in s:
 
462
            return True
 
463
    else:
 
464
        return False
 
465
 
 
466
 
 
467
def relpath(base, path):
 
468
    """Return path relative to base, or raise exception.
 
469
 
 
470
    The path may be either an absolute path or a path relative to the
 
471
    current working directory.
 
472
 
 
473
    os.path.commonprefix (python2.4) has a bad bug that it works just
 
474
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
 
475
    avoids that problem."""
 
476
    rp = abspath(path)
 
477
 
 
478
    s = []
 
479
    head = rp
 
480
    while len(head) >= len(base):
 
481
        if head == base:
 
482
            break
 
483
        head, tail = os.path.split(head)
 
484
        if tail:
 
485
            s.insert(0, tail)
 
486
    else:
 
487
        # XXX This should raise a NotChildPath exception, as its not tied
 
488
        # to branch anymore.
 
489
        raise PathNotChild(rp, base)
 
490
 
 
491
    return os.sep.join(s)
 
492
 
 
493
 
 
494
 
 
495
def terminal_width():
 
496
    """Return estimated terminal width."""
 
497
 
 
498
    # TODO: Do something smart on Windows?
 
499
 
 
500
    # TODO: Is there anything that gets a better update when the window
 
501
    # is resized while the program is running? We could use the Python termcap
 
502
    # library.
 
503
    try:
 
504
        return int(os.environ['COLUMNS'])
 
505
    except (IndexError, KeyError, ValueError):
 
506
        return 80