~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Martin Pool
  • Date: 2005-05-17 06:56:16 UTC
  • Revision ID: mbp@sourcefrog.net-20050517065616-6f23381d6184a8aa
- add space for un-merged patches

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
1
# Bazaar-NG -- distributed version control
2
 
#
 
2
 
3
3
# Copyright (C) 2005 by Canonical Ltd
4
 
#
 
4
 
5
5
# This program is free software; you can redistribute it and/or modify
6
6
# it under the terms of the GNU General Public License as published by
7
7
# the Free Software Foundation; either version 2 of the License, or
8
8
# (at your option) any later version.
9
 
#
 
9
 
10
10
# This program is distributed in the hope that it will be useful,
11
11
# but WITHOUT ANY WARRANTY; without even the implied warranty of
12
12
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13
13
# GNU General Public License for more details.
14
 
#
 
14
 
15
15
# You should have received a copy of the GNU General Public License
16
16
# along with this program; if not, write to the Free Software
17
17
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18
18
 
19
 
from shutil import copyfile
20
 
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
21
 
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
22
 
from cStringIO import StringIO
23
 
import errno
24
 
import os
25
 
import re
26
 
import sha
27
 
import string
28
 
import sys
29
 
import time
30
 
import types
 
19
import os, types, re, time, errno, sys
 
20
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
31
21
 
 
22
from errors import bailout, BzrError
 
23
from trace import mutter
32
24
import bzrlib
33
 
from bzrlib.errors import BzrError, PathNotChild
34
 
from bzrlib.trace import mutter
35
 
 
36
25
 
37
26
def make_readonly(filename):
38
27
    """Make a filename read-only."""
 
28
    # TODO: probably needs to be fixed for windows
39
29
    mod = os.stat(filename).st_mode
40
30
    mod = mod & 0777555
41
31
    os.chmod(filename, mod)
47
37
    os.chmod(filename, mod)
48
38
 
49
39
 
50
 
_QUOTE_RE = None
51
 
 
52
 
 
 
40
_QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/_~-])')
53
41
def quotefn(f):
54
 
    """Return a quoted filename filename
55
 
 
56
 
    This previously used backslash quoting, but that works poorly on
57
 
    Windows."""
58
 
    # TODO: I'm not really sure this is the best format either.x
59
 
    global _QUOTE_RE
60
 
    if _QUOTE_RE == None:
61
 
        _QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/\\_~-])')
62
 
        
63
 
    if _QUOTE_RE.search(f):
64
 
        return '"' + f + '"'
65
 
    else:
66
 
        return f
 
42
    """Return shell-quoted filename"""
 
43
    ## We could be a bit more terse by using double-quotes etc
 
44
    f = _QUOTE_RE.sub(r'\\\1', f)
 
45
    if f[0] == '~':
 
46
        f[0:1] = r'\~' 
 
47
    return f
67
48
 
68
49
 
69
50
def file_kind(f):
74
55
        return 'directory'
75
56
    elif S_ISLNK(mode):
76
57
        return 'symlink'
77
 
    elif S_ISCHR(mode):
78
 
        return 'chardev'
79
 
    elif S_ISBLK(mode):
80
 
        return 'block'
81
 
    elif S_ISFIFO(mode):
82
 
        return 'fifo'
83
 
    elif S_ISSOCK(mode):
84
 
        return 'socket'
85
58
    else:
86
 
        return 'unknown'
 
59
        raise BzrError("can't handle file kind with mode %o of %r" % (mode, f))
87
60
 
88
61
 
89
62
def kind_marker(kind):
96
69
    else:
97
70
        raise BzrError('invalid file kind %r' % kind)
98
71
 
99
 
def lexists(f):
100
 
    try:
101
 
        if hasattr(os, 'lstat'):
102
 
            os.lstat(f)
103
 
        else:
104
 
            os.stat(f)
105
 
        return True
106
 
    except OSError,e:
107
 
        if e.errno == errno.ENOENT:
108
 
            return False;
109
 
        else:
110
 
            raise BzrError("lstat/stat of (%r): %r" % (f, e))
111
 
 
112
 
def normalizepath(f):
113
 
    if hasattr(os.path, 'realpath'):
114
 
        F = os.path.realpath
115
 
    else:
116
 
        F = os.path.abspath
117
 
    [p,e] = os.path.split(f)
118
 
    if e == "" or e == "." or e == "..":
119
 
        return F(f)
120
 
    else:
121
 
        return os.path.join(F(p), e)
122
 
 
123
 
if os.name == "posix":
124
 
    # In Python 2.4.2 and older, os.path.abspath and os.path.realpath
125
 
    # choke on a Unicode string containing a relative path if
126
 
    # os.getcwd() returns a non-sys.getdefaultencoding()-encoded
127
 
    # string.
128
 
    _fs_enc = sys.getfilesystemencoding()
129
 
    def abspath(path):
130
 
        return os.path.abspath(path.encode(_fs_enc)).decode(_fs_enc)
131
 
    def realpath(path):
132
 
        return os.path.realpath(path.encode(_fs_enc)).decode(_fs_enc)
133
 
else:
134
 
    # We need to use the Unicode-aware os.path.abspath and
135
 
    # os.path.realpath on Windows systems.
136
 
    abspath = os.path.abspath
137
 
    realpath = os.path.realpath
138
 
 
139
 
def backup_file(fn):
140
 
    """Copy a file to a backup.
141
 
 
142
 
    Backups are named in GNU-style, with a ~ suffix.
143
 
 
144
 
    If the file is already a backup, it's not copied.
145
 
    """
146
 
    if fn[-1] == '~':
147
 
        return
148
 
    bfn = fn + '~'
149
 
 
150
 
    if has_symlinks() and os.path.islink(fn):
151
 
        target = os.readlink(fn)
152
 
        os.symlink(target, bfn)
153
 
        return
154
 
    inf = file(fn, 'rb')
155
 
    try:
156
 
        content = inf.read()
157
 
    finally:
158
 
        inf.close()
159
 
    
160
 
    outf = file(bfn, 'wb')
161
 
    try:
162
 
        outf.write(content)
163
 
    finally:
164
 
        outf.close()
165
 
 
166
 
if os.name == 'nt':
167
 
    import shutil
168
 
    rename = shutil.move
169
 
else:
170
 
    rename = os.rename
171
72
 
172
73
 
173
74
def isdir(f):
178
79
        return False
179
80
 
180
81
 
 
82
 
181
83
def isfile(f):
182
84
    """True if f is a regular file."""
183
85
    try:
185
87
    except OSError:
186
88
        return False
187
89
 
188
 
def islink(f):
189
 
    """True if f is a symlink."""
190
 
    try:
191
 
        return S_ISLNK(os.lstat(f)[ST_MODE])
192
 
    except OSError:
193
 
        return False
194
90
 
195
91
def is_inside(dir, fname):
196
92
    """True if fname is inside dir.
197
 
    
198
 
    The parameters should typically be passed to os.path.normpath first, so
199
 
    that . and .. and repeated slashes are eliminated, and the separators
200
 
    are canonical for the platform.
201
 
    
202
 
    The empty string as a dir name is taken as top-of-tree and matches 
203
 
    everything.
204
 
    
205
 
    >>> is_inside('src', os.path.join('src', 'foo.c'))
206
 
    True
207
 
    >>> is_inside('src', 'srccontrol')
208
 
    False
209
 
    >>> is_inside('src', os.path.join('src', 'a', 'a', 'a', 'foo.c'))
210
 
    True
211
 
    >>> is_inside('foo.c', 'foo.c')
212
 
    True
213
 
    >>> is_inside('foo.c', '')
214
 
    False
215
 
    >>> is_inside('', 'foo.c')
216
 
    True
217
93
    """
218
 
    # XXX: Most callers of this can actually do something smarter by 
219
 
    # looking at the inventory
220
 
    if dir == fname:
221
 
        return True
222
 
    
223
 
    if dir == '':
224
 
        return True
225
 
 
226
 
    if dir[-1] != os.sep:
227
 
        dir += os.sep
228
 
 
229
 
    return fname.startswith(dir)
 
94
    return os.path.commonprefix([dir, fname]) == dir
230
95
 
231
96
 
232
97
def is_inside_any(dir_list, fname):
233
98
    """True if fname is inside any of given dirs."""
 
99
    # quick scan for perfect match
 
100
    if fname in dir_list:
 
101
        return True
 
102
    
234
103
    for dirname in dir_list:
235
104
        if is_inside(dirname, fname):
236
105
            return True
240
109
 
241
110
def pumpfile(fromfile, tofile):
242
111
    """Copy contents of one file to another."""
243
 
    BUFSIZE = 32768
244
 
    while True:
245
 
        b = fromfile.read(BUFSIZE)
246
 
        if not b:
247
 
            break
248
 
        tofile.write(b)
 
112
    tofile.write(fromfile.read())
 
113
 
 
114
 
 
115
def uuid():
 
116
    """Return a new UUID"""
 
117
    try:
 
118
        return file('/proc/sys/kernel/random/uuid').readline().rstrip('\n')
 
119
    except IOError:
 
120
        return chomp(os.popen('uuidgen').readline())
249
121
 
250
122
 
251
123
def sha_file(f):
 
124
    import sha
252
125
    if hasattr(f, 'tell'):
253
126
        assert f.tell() == 0
254
127
    s = sha.new()
261
134
    return s.hexdigest()
262
135
 
263
136
 
264
 
 
265
 
def sha_strings(strings):
266
 
    """Return the sha-1 of concatenation of strings"""
267
 
    s = sha.new()
268
 
    map(s.update, strings)
269
 
    return s.hexdigest()
270
 
 
271
 
 
272
137
def sha_string(f):
 
138
    import sha
273
139
    s = sha.new()
274
140
    s.update(f)
275
141
    return s.hexdigest()
276
142
 
277
143
 
 
144
 
278
145
def fingerprint_file(f):
 
146
    import sha
279
147
    s = sha.new()
280
148
    b = f.read()
281
149
    s.update(b)
284
152
            'sha1': s.hexdigest()}
285
153
 
286
154
 
 
155
def config_dir():
 
156
    """Return per-user configuration directory.
 
157
 
 
158
    By default this is ~/.bzr.conf/
 
159
    
 
160
    TODO: Global option --config-dir to override this.
 
161
    """
 
162
    return os.path.expanduser("~/.bzr.conf")
 
163
 
 
164
 
 
165
def _auto_user_id():
 
166
    """Calculate automatic user identification.
 
167
 
 
168
    Returns (realname, email).
 
169
 
 
170
    Only used when none is set in the environment or the id file.
 
171
 
 
172
    This previously used the FQDN as the default domain, but that can
 
173
    be very slow on machines where DNS is broken.  So now we simply
 
174
    use the hostname.
 
175
    """
 
176
    import socket
 
177
 
 
178
    # XXX: Any good way to get real user name on win32?
 
179
 
 
180
    try:
 
181
        import pwd
 
182
        uid = os.getuid()
 
183
        w = pwd.getpwuid(uid)
 
184
        gecos = w.pw_gecos.decode(bzrlib.user_encoding)
 
185
        username = w.pw_name.decode(bzrlib.user_encoding)
 
186
        comma = gecos.find(',')
 
187
        if comma == -1:
 
188
            realname = gecos
 
189
        else:
 
190
            realname = gecos[:comma]
 
191
        if not realname:
 
192
            realname = username
 
193
 
 
194
    except ImportError:
 
195
        import getpass
 
196
        realname = username = getpass.getuser().decode(bzrlib.user_encoding)
 
197
 
 
198
    return realname, (username + '@' + socket.gethostname())
 
199
 
 
200
 
 
201
def _get_user_id():
 
202
    """Return the full user id from a file or environment variable.
 
203
 
 
204
    TODO: Allow taking this from a file in the branch directory too
 
205
    for per-branch ids."""
 
206
    v = os.environ.get('BZREMAIL')
 
207
    if v:
 
208
        return v.decode(bzrlib.user_encoding)
 
209
    
 
210
    try:
 
211
        return (open(os.path.join(config_dir(), "email"))
 
212
                .read()
 
213
                .decode(bzrlib.user_encoding)
 
214
                .rstrip("\r\n"))
 
215
    except IOError, e:
 
216
        if e.errno != errno.ENOENT:
 
217
            raise e
 
218
 
 
219
    v = os.environ.get('EMAIL')
 
220
    if v:
 
221
        return v.decode(bzrlib.user_encoding)
 
222
    else:    
 
223
        return None
 
224
 
 
225
 
 
226
def username():
 
227
    """Return email-style username.
 
228
 
 
229
    Something similar to 'Martin Pool <mbp@sourcefrog.net>'
 
230
 
 
231
    TODO: Check it's reasonably well-formed.
 
232
    """
 
233
    v = _get_user_id()
 
234
    if v:
 
235
        return v
 
236
    
 
237
    name, email = _auto_user_id()
 
238
    if name:
 
239
        return '%s <%s>' % (name, email)
 
240
    else:
 
241
        return email
 
242
 
 
243
 
 
244
_EMAIL_RE = re.compile(r'[\w+.-]+@[\w+.-]+')
 
245
def user_email():
 
246
    """Return just the email component of a username."""
 
247
    e = _get_user_id()
 
248
    if e:
 
249
        m = _EMAIL_RE.search(e)
 
250
        if not m:
 
251
            bailout("%r doesn't seem to contain a reasonable email address" % e)
 
252
        return m.group(0)
 
253
 
 
254
    return _auto_user_id()[1]
 
255
    
 
256
 
 
257
 
287
258
def compare_files(a, b):
288
259
    """Returns true if equal in contents"""
289
260
    BUFSIZE = 4096
296
267
            return True
297
268
 
298
269
 
 
270
 
299
271
def local_time_offset(t=None):
300
272
    """Return offset of local zone from GMT, either at present or at time t."""
301
273
    # python2.3 localtime() can't take None
308
280
        return -time.timezone
309
281
 
310
282
    
311
 
def format_date(t, offset=0, timezone='original', date_fmt=None, 
312
 
                show_offset=True):
 
283
def format_date(t, offset=0, timezone='original'):
313
284
    ## TODO: Perhaps a global option to use either universal or local time?
314
285
    ## Or perhaps just let people set $TZ?
315
286
    assert isinstance(t, float)
325
296
        tt = time.localtime(t)
326
297
        offset = local_time_offset(t)
327
298
    else:
328
 
        raise BzrError("unsupported timezone format %r" % timezone,
329
 
                       ['options are "utc", "original", "local"'])
330
 
    if date_fmt is None:
331
 
        date_fmt = "%a %Y-%m-%d %H:%M:%S"
332
 
    if show_offset:
333
 
        offset_str = ' %+03d%02d' % (offset / 3600, (offset / 60) % 60)
334
 
    else:
335
 
        offset_str = ''
336
 
    return (time.strftime(date_fmt, tt) +  offset_str)
 
299
        bailout("unsupported timezone format %r",
 
300
                ['options are "utc", "original", "local"'])
 
301
 
 
302
    return (time.strftime("%a %Y-%m-%d %H:%M:%S", tt)
 
303
            + ' %+03d%02d' % (offset / 3600, (offset / 60) % 60))
337
304
 
338
305
 
339
306
def compact_date(when):
345
312
    """Return size of given open file."""
346
313
    return os.fstat(f.fileno())[ST_SIZE]
347
314
 
348
 
# Define rand_bytes based on platform.
349
 
try:
350
 
    # Python 2.4 and later have os.urandom,
351
 
    # but it doesn't work on some arches
352
 
    os.urandom(1)
 
315
 
 
316
if hasattr(os, 'urandom'): # python 2.4 and later
353
317
    rand_bytes = os.urandom
354
 
except (NotImplementedError, AttributeError):
355
 
    # If python doesn't have os.urandom, or it doesn't work,
356
 
    # then try to first pull random data from /dev/urandom
357
 
    if os.path.exists("/dev/urandom"):
358
 
        rand_bytes = file('/dev/urandom', 'rb').read
359
 
    # Otherwise, use this hack as a last resort
360
 
    else:
361
 
        # not well seeded, but better than nothing
362
 
        def rand_bytes(n):
363
 
            import random
364
 
            s = ''
365
 
            while n:
366
 
                s += chr(random.randint(0, 255))
367
 
                n -= 1
368
 
            return s
 
318
elif sys.platform == 'linux2':
 
319
    rand_bytes = file('/dev/urandom', 'rb').read
 
320
else:
 
321
    # not well seeded, but better than nothing
 
322
    def rand_bytes(n):
 
323
        import random
 
324
        s = ''
 
325
        while n:
 
326
            s += chr(random.randint(0, 255))
 
327
            n -= 1
 
328
        return s
 
329
 
369
330
 
370
331
## TODO: We could later have path objects that remember their list
371
332
## decomposition (might be too tricksy though.)
384
345
    >>> splitpath('a/../b')
385
346
    Traceback (most recent call last):
386
347
    ...
387
 
    BzrError: sorry, '..' not allowed in path
 
348
    BzrError: ("sorry, '..' not allowed in path", [])
388
349
    """
389
350
    assert isinstance(p, types.StringTypes)
390
351
 
395
356
    rps = []
396
357
    for f in ps:
397
358
        if f == '..':
398
 
            raise BzrError("sorry, %r not allowed in path" % f)
 
359
            bailout("sorry, %r not allowed in path" % f)
399
360
        elif (f == '.') or (f == ''):
400
361
            pass
401
362
        else:
406
367
    assert isinstance(p, list)
407
368
    for f in p:
408
369
        if (f == '..') or (f == None) or (f == ''):
409
 
            raise BzrError("sorry, %r not allowed in path" % f)
 
370
            bailout("sorry, %r not allowed in path" % f)
410
371
    return os.path.join(*p)
411
372
 
412
373
 
417
378
        return os.path.join(p1, p2)
418
379
    
419
380
 
420
 
def split_lines(s):
421
 
    """Split s into lines, but without removing the newline characters."""
422
 
    return StringIO(s).readlines()
423
 
 
424
 
 
425
 
def hardlinks_good():
426
 
    return sys.platform not in ('win32', 'cygwin', 'darwin')
427
 
 
428
 
 
429
 
def link_or_copy(src, dest):
430
 
    """Hardlink a file, or copy it if it can't be hardlinked."""
431
 
    if not hardlinks_good():
432
 
        copyfile(src, dest)
433
 
        return
434
 
    try:
435
 
        os.link(src, dest)
436
 
    except (OSError, IOError), e:
437
 
        if e.errno != errno.EXDEV:
438
 
            raise
439
 
        copyfile(src, dest)
440
 
 
441
 
 
442
 
def has_symlinks():
443
 
    if hasattr(os, 'symlink'):
444
 
        return True
445
 
    else:
446
 
        return False
447
 
        
448
 
 
449
 
def contains_whitespace(s):
450
 
    """True if there are any whitespace characters in s."""
451
 
    for ch in string.whitespace:
452
 
        if ch in s:
453
 
            return True
454
 
    else:
455
 
        return False
456
 
 
457
 
 
458
 
def contains_linebreaks(s):
459
 
    """True if there is any vertical whitespace in s."""
460
 
    for ch in '\f\n\r':
461
 
        if ch in s:
462
 
            return True
463
 
    else:
464
 
        return False
465
 
 
466
 
 
467
 
def relpath(base, path):
468
 
    """Return path relative to base, or raise exception.
469
 
 
470
 
    The path may be either an absolute path or a path relative to the
471
 
    current working directory.
472
 
 
473
 
    os.path.commonprefix (python2.4) has a bad bug that it works just
474
 
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
475
 
    avoids that problem."""
476
 
    rp = abspath(path)
477
 
 
478
 
    s = []
479
 
    head = rp
480
 
    while len(head) >= len(base):
481
 
        if head == base:
482
 
            break
483
 
        head, tail = os.path.split(head)
484
 
        if tail:
485
 
            s.insert(0, tail)
486
 
    else:
487
 
        # XXX This should raise a NotChildPath exception, as its not tied
488
 
        # to branch anymore.
489
 
        raise PathNotChild(rp, base)
490
 
 
491
 
    return os.sep.join(s)
492
 
 
493
 
 
494
 
 
495
 
def terminal_width():
496
 
    """Return estimated terminal width."""
497
 
 
498
 
    # TODO: Do something smart on Windows?
499
 
 
500
 
    # TODO: Is there anything that gets a better update when the window
501
 
    # is resized while the program is running? We could use the Python termcap
502
 
    # library.
503
 
    try:
504
 
        return int(os.environ['COLUMNS'])
505
 
    except (IndexError, KeyError, ValueError):
506
 
        return 80
 
381
def extern_command(cmd, ignore_errors = False):
 
382
    mutter('external command: %s' % `cmd`)
 
383
    if os.system(cmd):
 
384
        if not ignore_errors:
 
385
            bailout('command failed')
 
386