~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Martin Pool
  • Date: 2005-04-28 07:24:55 UTC
  • Revision ID: mbp@sourcefrog.net-20050428072453-7b99afa993a1e549
todo

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
1
# Bazaar-NG -- distributed version control
2
 
#
 
2
 
3
3
# Copyright (C) 2005 by Canonical Ltd
4
 
#
 
4
 
5
5
# This program is free software; you can redistribute it and/or modify
6
6
# it under the terms of the GNU General Public License as published by
7
7
# the Free Software Foundation; either version 2 of the License, or
8
8
# (at your option) any later version.
9
 
#
 
9
 
10
10
# This program is distributed in the hope that it will be useful,
11
11
# but WITHOUT ANY WARRANTY; without even the implied warranty of
12
12
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13
13
# GNU General Public License for more details.
14
 
#
 
14
 
15
15
# You should have received a copy of the GNU General Public License
16
16
# along with this program; if not, write to the Free Software
17
17
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18
18
 
19
 
from shutil import copyfile
20
 
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
21
 
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
22
 
from cStringIO import StringIO
23
 
import errno
24
 
import os
25
 
import re
26
 
import sha
27
 
import string
28
 
import sys
29
 
import time
30
 
import types
 
19
import os, types, re, time, errno
 
20
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
31
21
 
 
22
from errors import bailout, BzrError
 
23
from trace import mutter
32
24
import bzrlib
33
 
from bzrlib.errors import BzrError, NotBranchError
34
 
from bzrlib.trace import mutter
35
 
 
36
25
 
37
26
def make_readonly(filename):
38
27
    """Make a filename read-only."""
 
28
    # TODO: probably needs to be fixed for windows
39
29
    mod = os.stat(filename).st_mode
40
30
    mod = mod & 0777555
41
31
    os.chmod(filename, mod)
47
37
    os.chmod(filename, mod)
48
38
 
49
39
 
50
 
_QUOTE_RE = None
51
 
 
52
 
 
 
40
_QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/_~-])')
53
41
def quotefn(f):
54
 
    """Return a quoted filename filename
55
 
 
56
 
    This previously used backslash quoting, but that works poorly on
57
 
    Windows."""
58
 
    # TODO: I'm not really sure this is the best format either.x
59
 
    global _QUOTE_RE
60
 
    if _QUOTE_RE == None:
61
 
        _QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/\\_~-])')
62
 
        
63
 
    if _QUOTE_RE.search(f):
64
 
        return '"' + f + '"'
65
 
    else:
66
 
        return f
 
42
    """Return shell-quoted filename"""
 
43
    ## We could be a bit more terse by using double-quotes etc
 
44
    f = _QUOTE_RE.sub(r'\\\1', f)
 
45
    if f[0] == '~':
 
46
        f[0:1] = r'\~' 
 
47
    return f
67
48
 
68
49
 
69
50
def file_kind(f):
74
55
        return 'directory'
75
56
    elif S_ISLNK(mode):
76
57
        return 'symlink'
77
 
    elif S_ISCHR(mode):
78
 
        return 'chardev'
79
 
    elif S_ISBLK(mode):
80
 
        return 'block'
81
 
    elif S_ISFIFO(mode):
82
 
        return 'fifo'
83
 
    elif S_ISSOCK(mode):
84
 
        return 'socket'
85
 
    else:
86
 
        return 'unknown'
87
 
 
88
 
 
89
 
def kind_marker(kind):
90
 
    if kind == 'file':
91
 
        return ''
92
 
    elif kind == 'directory':
93
 
        return '/'
94
 
    elif kind == 'symlink':
95
 
        return '@'
96
 
    else:
97
 
        raise BzrError('invalid file kind %r' % kind)
98
 
 
99
 
def lexists(f):
100
 
    try:
101
 
        if hasattr(os, 'lstat'):
102
 
            os.lstat(f)
103
 
        else:
104
 
            os.stat(f)
105
 
        return True
106
 
    except OSError,e:
107
 
        if e.errno == errno.ENOENT:
108
 
            return False;
109
 
        else:
110
 
            raise BzrError("lstat/stat of (%r): %r" % (f, e))
111
 
 
112
 
def normalizepath(f):
113
 
    if hasattr(os.path, 'realpath'):
114
 
        F = os.path.realpath
115
 
    else:
116
 
        F = os.path.abspath
117
 
    [p,e] = os.path.split(f)
118
 
    if e == "" or e == "." or e == "..":
119
 
        return F(f)
120
 
    else:
121
 
        return os.path.join(F(p), e)
122
 
 
123
 
if os.name == "posix":
124
 
    # In Python 2.4.2 and older, os.path.abspath and os.path.realpath
125
 
    # choke on a Unicode string containing a relative path if
126
 
    # os.getcwd() returns a non-sys.getdefaultencoding()-encoded
127
 
    # string.
128
 
    _fs_enc = sys.getfilesystemencoding()
129
 
    def abspath(path):
130
 
        return os.path.abspath(path.encode(_fs_enc)).decode(_fs_enc)
131
 
    def realpath(path):
132
 
        return os.path.realpath(path.encode(_fs_enc)).decode(_fs_enc)
133
 
else:
134
 
    # We need to use the Unicode-aware os.path.abspath and
135
 
    # os.path.realpath on Windows systems.
136
 
    abspath = os.path.abspath
137
 
    realpath = os.path.realpath
138
 
 
139
 
def backup_file(fn):
140
 
    """Copy a file to a backup.
141
 
 
142
 
    Backups are named in GNU-style, with a ~ suffix.
143
 
 
144
 
    If the file is already a backup, it's not copied.
145
 
    """
146
 
    if fn[-1] == '~':
147
 
        return
148
 
    bfn = fn + '~'
149
 
 
150
 
    if has_symlinks() and os.path.islink(fn):
151
 
        target = os.readlink(fn)
152
 
        os.symlink(target, bfn)
153
 
        return
154
 
    inf = file(fn, 'rb')
155
 
    try:
156
 
        content = inf.read()
157
 
    finally:
158
 
        inf.close()
159
 
    
160
 
    outf = file(bfn, 'wb')
161
 
    try:
162
 
        outf.write(content)
163
 
    finally:
164
 
        outf.close()
165
 
 
166
 
if os.name == 'nt':
167
 
    import shutil
168
 
    rename = shutil.move
169
 
else:
170
 
    rename = os.rename
 
58
    else:
 
59
        raise BzrError("can't handle file kind with mode %o of %r" % (mode, f)) 
 
60
 
171
61
 
172
62
 
173
63
def isdir(f):
178
68
        return False
179
69
 
180
70
 
 
71
 
181
72
def isfile(f):
182
73
    """True if f is a regular file."""
183
74
    try:
185
76
    except OSError:
186
77
        return False
187
78
 
188
 
def islink(f):
189
 
    """True if f is a symlink."""
190
 
    try:
191
 
        return S_ISLNK(os.lstat(f)[ST_MODE])
192
 
    except OSError:
193
 
        return False
194
 
 
195
 
def is_inside(dir, fname):
196
 
    """True if fname is inside dir.
197
 
    
198
 
    The parameters should typically be passed to os.path.normpath first, so
199
 
    that . and .. and repeated slashes are eliminated, and the separators
200
 
    are canonical for the platform.
201
 
    
202
 
    The empty string as a dir name is taken as top-of-tree and matches 
203
 
    everything.
204
 
    
205
 
    >>> is_inside('src', os.path.join('src', 'foo.c'))
206
 
    True
207
 
    >>> is_inside('src', 'srccontrol')
208
 
    False
209
 
    >>> is_inside('src', os.path.join('src', 'a', 'a', 'a', 'foo.c'))
210
 
    True
211
 
    >>> is_inside('foo.c', 'foo.c')
212
 
    True
213
 
    >>> is_inside('foo.c', '')
214
 
    False
215
 
    >>> is_inside('', 'foo.c')
216
 
    True
217
 
    """
218
 
    # XXX: Most callers of this can actually do something smarter by 
219
 
    # looking at the inventory
220
 
    if dir == fname:
221
 
        return True
222
 
    
223
 
    if dir == '':
224
 
        return True
225
 
 
226
 
    if dir[-1] != os.sep:
227
 
        dir += os.sep
228
 
 
229
 
    return fname.startswith(dir)
230
 
 
231
 
 
232
 
def is_inside_any(dir_list, fname):
233
 
    """True if fname is inside any of given dirs."""
234
 
    for dirname in dir_list:
235
 
        if is_inside(dirname, fname):
236
 
            return True
237
 
    else:
238
 
        return False
239
 
 
240
79
 
241
80
def pumpfile(fromfile, tofile):
242
81
    """Copy contents of one file to another."""
243
82
    tofile.write(fromfile.read())
244
83
 
245
84
 
 
85
def uuid():
 
86
    """Return a new UUID"""
 
87
    
 
88
    ## XXX: Could alternatively read /proc/sys/kernel/random/uuid on
 
89
    ## Linux, but we need something portable for other systems;
 
90
    ## preferably an implementation in Python.
 
91
    try:
 
92
        return chomp(file('/proc/sys/kernel/random/uuid').readline())
 
93
    except IOError:
 
94
        return chomp(os.popen('uuidgen').readline())
 
95
 
 
96
 
 
97
def chomp(s):
 
98
    if s and (s[-1] == '\n'):
 
99
        return s[:-1]
 
100
    else:
 
101
        return s
 
102
 
 
103
 
246
104
def sha_file(f):
 
105
    import sha
 
106
    ## TODO: Maybe read in chunks to handle big files
247
107
    if hasattr(f, 'tell'):
248
108
        assert f.tell() == 0
249
109
    s = sha.new()
250
 
    BUFSIZE = 128<<10
251
 
    while True:
252
 
        b = f.read(BUFSIZE)
253
 
        if not b:
254
 
            break
255
 
        s.update(b)
256
 
    return s.hexdigest()
257
 
 
258
 
 
259
 
 
260
 
def sha_strings(strings):
261
 
    """Return the sha-1 of concatenation of strings"""
262
 
    s = sha.new()
263
 
    map(s.update, strings)
 
110
    s.update(f.read())
264
111
    return s.hexdigest()
265
112
 
266
113
 
267
114
def sha_string(f):
 
115
    import sha
268
116
    s = sha.new()
269
117
    s.update(f)
270
118
    return s.hexdigest()
271
119
 
272
120
 
 
121
 
273
122
def fingerprint_file(f):
 
123
    import sha
274
124
    s = sha.new()
275
125
    b = f.read()
276
126
    s.update(b)
279
129
            'sha1': s.hexdigest()}
280
130
 
281
131
 
 
132
def config_dir():
 
133
    """Return per-user configuration directory.
 
134
 
 
135
    By default this is ~/.bzr.conf/
 
136
    
 
137
    TODO: Global option --config-dir to override this.
 
138
    """
 
139
    return os.path.expanduser("~/.bzr.conf")
 
140
 
 
141
 
 
142
def _auto_user_id():
 
143
    """Calculate automatic user identification.
 
144
 
 
145
    Returns (realname, email).
 
146
 
 
147
    Only used when none is set in the environment or the id file.
 
148
 
 
149
    This previously used the FQDN as the default domain, but that can
 
150
    be very slow on machines where DNS is broken.  So now we simply
 
151
    use the hostname.
 
152
    """
 
153
    import socket
 
154
 
 
155
    # XXX: Any good way to get real user name on win32?
 
156
 
 
157
    try:
 
158
        import pwd
 
159
        uid = os.getuid()
 
160
        w = pwd.getpwuid(uid)
 
161
        gecos = w.pw_gecos.decode(bzrlib.user_encoding)
 
162
        username = w.pw_name.decode(bzrlib.user_encoding)
 
163
        comma = gecos.find(',')
 
164
        if comma == -1:
 
165
            realname = gecos
 
166
        else:
 
167
            realname = gecos[:comma]
 
168
        if not realname:
 
169
            realname = username
 
170
 
 
171
    except ImportError:
 
172
        import getpass
 
173
        realname = username = getpass.getuser().decode(bzrlib.user_encoding)
 
174
 
 
175
    return realname, (username + '@' + socket.gethostname())
 
176
 
 
177
 
 
178
def _get_user_id():
 
179
    """Return the full user id from a file or environment variable.
 
180
 
 
181
    TODO: Allow taking this from a file in the branch directory too
 
182
    for per-branch ids."""
 
183
    v = os.environ.get('BZREMAIL')
 
184
    if v:
 
185
        return v.decode(bzrlib.user_encoding)
 
186
    
 
187
    try:
 
188
        return (open(os.path.join(config_dir(), "email"))
 
189
                .read()
 
190
                .decode(bzrlib.user_encoding)
 
191
                .rstrip("\r\n"))
 
192
    except IOError, e:
 
193
        if e.errno != errno.ENOENT:
 
194
            raise e
 
195
 
 
196
    v = os.environ.get('EMAIL')
 
197
    if v:
 
198
        return v.decode(bzrlib.user_encoding)
 
199
    else:    
 
200
        return None
 
201
 
 
202
 
 
203
def username():
 
204
    """Return email-style username.
 
205
 
 
206
    Something similar to 'Martin Pool <mbp@sourcefrog.net>'
 
207
 
 
208
    TODO: Check it's reasonably well-formed.
 
209
    """
 
210
    v = _get_user_id()
 
211
    if v:
 
212
        return v
 
213
    
 
214
    name, email = _auto_user_id()
 
215
    if name:
 
216
        return '%s <%s>' % (name, email)
 
217
    else:
 
218
        return email
 
219
 
 
220
 
 
221
_EMAIL_RE = re.compile(r'[\w+.-]+@[\w+.-]+')
 
222
def user_email():
 
223
    """Return just the email component of a username."""
 
224
    e = _get_user_id()
 
225
    if e:
 
226
        m = _EMAIL_RE.search(e)
 
227
        if not m:
 
228
            bailout("%r doesn't seem to contain a reasonable email address" % e)
 
229
        return m.group(0)
 
230
 
 
231
    return _auto_user_id()[1]
 
232
    
 
233
 
 
234
 
282
235
def compare_files(a, b):
283
236
    """Returns true if equal in contents"""
 
237
    # TODO: don't read the whole thing in one go.
284
238
    BUFSIZE = 4096
285
239
    while True:
286
240
        ai = a.read(BUFSIZE)
291
245
            return True
292
246
 
293
247
 
 
248
 
294
249
def local_time_offset(t=None):
295
250
    """Return offset of local zone from GMT, either at present or at time t."""
296
251
    # python2.3 localtime() can't take None
303
258
        return -time.timezone
304
259
 
305
260
    
306
 
def format_date(t, offset=0, timezone='original', date_fmt=None, 
307
 
                show_offset=True):
 
261
def format_date(t, offset=0, timezone='original'):
308
262
    ## TODO: Perhaps a global option to use either universal or local time?
309
263
    ## Or perhaps just let people set $TZ?
310
264
    assert isinstance(t, float)
320
274
        tt = time.localtime(t)
321
275
        offset = local_time_offset(t)
322
276
    else:
323
 
        raise BzrError("unsupported timezone format %r" % timezone,
324
 
                       ['options are "utc", "original", "local"'])
325
 
    if date_fmt is None:
326
 
        date_fmt = "%a %Y-%m-%d %H:%M:%S"
327
 
    if show_offset:
328
 
        offset_str = ' %+03d%02d' % (offset / 3600, (offset / 60) % 60)
329
 
    else:
330
 
        offset_str = ''
331
 
    return (time.strftime(date_fmt, tt) +  offset_str)
 
277
        bailout("unsupported timezone format %r",
 
278
                ['options are "utc", "original", "local"'])
 
279
 
 
280
    return (time.strftime("%a %Y-%m-%d %H:%M:%S", tt)
 
281
            + ' %+03d%02d' % (offset / 3600, (offset / 60) % 60))
332
282
 
333
283
 
334
284
def compact_date(when):
340
290
    """Return size of given open file."""
341
291
    return os.fstat(f.fileno())[ST_SIZE]
342
292
 
343
 
# Define rand_bytes based on platform.
344
 
try:
345
 
    # Python 2.4 and later have os.urandom,
346
 
    # but it doesn't work on some arches
347
 
    os.urandom(1)
 
293
 
 
294
if hasattr(os, 'urandom'): # python 2.4 and later
348
295
    rand_bytes = os.urandom
349
 
except (NotImplementedError, AttributeError):
350
 
    # If python doesn't have os.urandom, or it doesn't work,
351
 
    # then try to first pull random data from /dev/urandom
352
 
    if os.path.exists("/dev/urandom"):
353
 
        rand_bytes = file('/dev/urandom', 'rb').read
354
 
    # Otherwise, use this hack as a last resort
355
 
    else:
356
 
        # not well seeded, but better than nothing
357
 
        def rand_bytes(n):
358
 
            import random
359
 
            s = ''
360
 
            while n:
361
 
                s += chr(random.randint(0, 255))
362
 
                n -= 1
363
 
            return s
 
296
else:
 
297
    # FIXME: No good on non-Linux
 
298
    _rand_file = file('/dev/urandom', 'rb')
 
299
    rand_bytes = _rand_file.read
 
300
 
364
301
 
365
302
## TODO: We could later have path objects that remember their list
366
303
## decomposition (might be too tricksy though.)
379
316
    >>> splitpath('a/../b')
380
317
    Traceback (most recent call last):
381
318
    ...
382
 
    BzrError: sorry, '..' not allowed in path
 
319
    BzrError: ("sorry, '..' not allowed in path", [])
383
320
    """
384
321
    assert isinstance(p, types.StringTypes)
385
322
 
390
327
    rps = []
391
328
    for f in ps:
392
329
        if f == '..':
393
 
            raise BzrError("sorry, %r not allowed in path" % f)
 
330
            bailout("sorry, %r not allowed in path" % f)
394
331
        elif (f == '.') or (f == ''):
395
332
            pass
396
333
        else:
401
338
    assert isinstance(p, list)
402
339
    for f in p:
403
340
        if (f == '..') or (f == None) or (f == ''):
404
 
            raise BzrError("sorry, %r not allowed in path" % f)
 
341
            bailout("sorry, %r not allowed in path" % f)
405
342
    return os.path.join(*p)
406
343
 
407
344
 
412
349
        return os.path.join(p1, p2)
413
350
    
414
351
 
415
 
def split_lines(s):
416
 
    """Split s into lines, but without removing the newline characters."""
417
 
    return StringIO(s).readlines()
418
 
 
419
 
 
420
 
def hardlinks_good():
421
 
    return sys.platform not in ('win32', 'cygwin', 'darwin')
422
 
 
423
 
 
424
 
def link_or_copy(src, dest):
425
 
    """Hardlink a file, or copy it if it can't be hardlinked."""
426
 
    if not hardlinks_good():
427
 
        copyfile(src, dest)
428
 
        return
429
 
    try:
430
 
        os.link(src, dest)
431
 
    except (OSError, IOError), e:
432
 
        if e.errno != errno.EXDEV:
433
 
            raise
434
 
        copyfile(src, dest)
435
 
 
436
 
 
437
 
def has_symlinks():
438
 
    if hasattr(os, 'symlink'):
439
 
        return True
440
 
    else:
441
 
        return False
442
 
        
443
 
 
444
 
def contains_whitespace(s):
445
 
    """True if there are any whitespace characters in s."""
446
 
    for ch in string.whitespace:
447
 
        if ch in s:
448
 
            return True
449
 
    else:
450
 
        return False
451
 
 
452
 
 
453
 
def contains_linebreaks(s):
454
 
    """True if there is any vertical whitespace in s."""
455
 
    for ch in '\f\n\r':
456
 
        if ch in s:
457
 
            return True
458
 
    else:
459
 
        return False
460
 
 
461
 
 
462
 
def relpath(base, path):
463
 
    """Return path relative to base, or raise exception.
464
 
 
465
 
    The path may be either an absolute path or a path relative to the
466
 
    current working directory.
467
 
 
468
 
    os.path.commonprefix (python2.4) has a bad bug that it works just
469
 
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
470
 
    avoids that problem."""
471
 
    rp = abspath(path)
472
 
 
473
 
    s = []
474
 
    head = rp
475
 
    while len(head) >= len(base):
476
 
        if head == base:
477
 
            break
478
 
        head, tail = os.path.split(head)
479
 
        if tail:
480
 
            s.insert(0, tail)
481
 
    else:
482
 
        # XXX This should raise a NotChildPath exception, as its not tied
483
 
        # to branch anymore.
484
 
        raise NotBranchError("path %r is not within branch %r" % (rp, base))
485
 
 
486
 
    return os.sep.join(s)
 
352
def extern_command(cmd, ignore_errors = False):
 
353
    mutter('external command: %s' % `cmd`)
 
354
    if os.system(cmd):
 
355
        if not ignore_errors:
 
356
            bailout('command failed')
 
357