~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Martin Pool
  • Date: 2005-07-07 10:22:02 UTC
  • Revision ID: mbp@sourcefrog.net-20050707102201-2d2a13a25098b101
- rearrange and clear up merged weave

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
1
# Bazaar-NG -- distributed version control
2
 
#
 
2
 
3
3
# Copyright (C) 2005 by Canonical Ltd
4
 
#
 
4
 
5
5
# This program is free software; you can redistribute it and/or modify
6
6
# it under the terms of the GNU General Public License as published by
7
7
# the Free Software Foundation; either version 2 of the License, or
8
8
# (at your option) any later version.
9
 
#
 
9
 
10
10
# This program is distributed in the hope that it will be useful,
11
11
# but WITHOUT ANY WARRANTY; without even the implied warranty of
12
12
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13
13
# GNU General Public License for more details.
14
 
#
 
14
 
15
15
# You should have received a copy of the GNU General Public License
16
16
# along with this program; if not, write to the Free Software
17
17
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18
18
 
19
 
from shutil import copyfile
20
 
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
21
 
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
22
 
from cStringIO import StringIO
23
 
import errno
24
 
import os
25
 
import re
26
 
import sha
27
 
import string
28
 
import sys
29
 
import time
30
 
import types
 
19
import os, types, re, time, errno, sys
 
20
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
31
21
 
 
22
from bzrlib.errors import BzrError
 
23
from bzrlib.trace import mutter
32
24
import bzrlib
33
 
from bzrlib.errors import BzrError, NotBranchError
34
 
from bzrlib.trace import mutter
35
 
 
36
25
 
37
26
def make_readonly(filename):
38
27
    """Make a filename read-only."""
 
28
    # TODO: probably needs to be fixed for windows
39
29
    mod = os.stat(filename).st_mode
40
30
    mod = mod & 0777555
41
31
    os.chmod(filename, mod)
47
37
    os.chmod(filename, mod)
48
38
 
49
39
 
50
 
_QUOTE_RE = None
51
 
 
52
 
 
 
40
_QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/_~-])')
53
41
def quotefn(f):
54
42
    """Return a quoted filename filename
55
43
 
56
44
    This previously used backslash quoting, but that works poorly on
57
45
    Windows."""
58
46
    # TODO: I'm not really sure this is the best format either.x
59
 
    global _QUOTE_RE
60
 
    if _QUOTE_RE == None:
61
 
        _QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/\\_~-])')
62
 
        
63
47
    if _QUOTE_RE.search(f):
64
48
        return '"' + f + '"'
65
49
    else:
74
58
        return 'directory'
75
59
    elif S_ISLNK(mode):
76
60
        return 'symlink'
77
 
    elif S_ISCHR(mode):
78
 
        return 'chardev'
79
 
    elif S_ISBLK(mode):
80
 
        return 'block'
81
 
    elif S_ISFIFO(mode):
82
 
        return 'fifo'
83
 
    elif S_ISSOCK(mode):
84
 
        return 'socket'
85
61
    else:
86
 
        return 'unknown'
 
62
        raise BzrError("can't handle file kind with mode %o of %r" % (mode, f))
87
63
 
88
64
 
89
65
def kind_marker(kind):
96
72
    else:
97
73
        raise BzrError('invalid file kind %r' % kind)
98
74
 
99
 
def lexists(f):
100
 
    try:
101
 
        if hasattr(os, 'lstat'):
102
 
            os.lstat(f)
103
 
        else:
104
 
            os.stat(f)
105
 
        return True
106
 
    except OSError,e:
107
 
        if e.errno == errno.ENOENT:
108
 
            return False;
109
 
        else:
110
 
            raise BzrError("lstat/stat of (%r): %r" % (f, e))
111
 
 
112
 
def normalizepath(f):
113
 
    if hasattr(os.path, 'realpath'):
114
 
        F = os.path.realpath
115
 
    else:
116
 
        F = os.path.abspath
117
 
    [p,e] = os.path.split(f)
118
 
    if e == "" or e == "." or e == "..":
119
 
        return F(f)
120
 
    else:
121
 
        return os.path.join(F(p), e)
122
 
 
123
 
if os.name == "posix":
124
 
    # In Python 2.4.2 and older, os.path.abspath and os.path.realpath
125
 
    # choke on a Unicode string containing a relative path if
126
 
    # os.getcwd() returns a non-sys.getdefaultencoding()-encoded
127
 
    # string.
128
 
    _fs_enc = sys.getfilesystemencoding()
129
 
    def abspath(path):
130
 
        return os.path.abspath(path.encode(_fs_enc)).decode(_fs_enc)
131
 
    def realpath(path):
132
 
        return os.path.realpath(path.encode(_fs_enc)).decode(_fs_enc)
133
 
else:
134
 
    # We need to use the Unicode-aware os.path.abspath and
135
 
    # os.path.realpath on Windows systems.
136
 
    abspath = os.path.abspath
137
 
    realpath = os.path.realpath
 
75
 
138
76
 
139
77
def backup_file(fn):
140
78
    """Copy a file to a backup.
143
81
 
144
82
    If the file is already a backup, it's not copied.
145
83
    """
 
84
    import os
146
85
    if fn[-1] == '~':
147
86
        return
148
87
    bfn = fn + '~'
149
88
 
150
 
    if has_symlinks() and os.path.islink(fn):
151
 
        target = os.readlink(fn)
152
 
        os.symlink(target, bfn)
153
 
        return
154
89
    inf = file(fn, 'rb')
155
90
    try:
156
91
        content = inf.read()
163
98
    finally:
164
99
        outf.close()
165
100
 
166
 
if os.name == 'nt':
167
 
    import shutil
168
 
    rename = shutil.move
169
 
else:
170
 
    rename = os.rename
 
101
 
171
102
 
172
103
 
173
104
def isdir(f):
178
109
        return False
179
110
 
180
111
 
 
112
 
181
113
def isfile(f):
182
114
    """True if f is a regular file."""
183
115
    try:
185
117
    except OSError:
186
118
        return False
187
119
 
188
 
def islink(f):
189
 
    """True if f is a symlink."""
190
 
    try:
191
 
        return S_ISLNK(os.lstat(f)[ST_MODE])
192
 
    except OSError:
193
 
        return False
194
120
 
195
121
def is_inside(dir, fname):
196
122
    """True if fname is inside dir.
197
 
    
198
 
    The parameters should typically be passed to os.path.normpath first, so
199
 
    that . and .. and repeated slashes are eliminated, and the separators
200
 
    are canonical for the platform.
201
 
    
202
 
    The empty string as a dir name is taken as top-of-tree and matches 
203
 
    everything.
204
 
    
205
 
    >>> is_inside('src', os.path.join('src', 'foo.c'))
206
 
    True
207
 
    >>> is_inside('src', 'srccontrol')
208
 
    False
209
 
    >>> is_inside('src', os.path.join('src', 'a', 'a', 'a', 'foo.c'))
210
 
    True
211
 
    >>> is_inside('foo.c', 'foo.c')
212
 
    True
213
 
    >>> is_inside('foo.c', '')
214
 
    False
215
 
    >>> is_inside('', 'foo.c')
216
 
    True
217
123
    """
218
 
    # XXX: Most callers of this can actually do something smarter by 
219
 
    # looking at the inventory
220
 
    if dir == fname:
221
 
        return True
222
 
    
223
 
    if dir == '':
224
 
        return True
225
 
 
226
 
    if dir[-1] != os.sep:
227
 
        dir += os.sep
228
 
 
229
 
    return fname.startswith(dir)
 
124
    return os.path.commonprefix([dir, fname]) == dir
230
125
 
231
126
 
232
127
def is_inside_any(dir_list, fname):
233
128
    """True if fname is inside any of given dirs."""
 
129
    # quick scan for perfect match
 
130
    if fname in dir_list:
 
131
        return True
 
132
    
234
133
    for dirname in dir_list:
235
134
        if is_inside(dirname, fname):
236
135
            return True
243
142
    tofile.write(fromfile.read())
244
143
 
245
144
 
 
145
def uuid():
 
146
    """Return a new UUID"""
 
147
    try:
 
148
        return file('/proc/sys/kernel/random/uuid').readline().rstrip('\n')
 
149
    except IOError:
 
150
        return chomp(os.popen('uuidgen').readline())
 
151
 
 
152
 
246
153
def sha_file(f):
 
154
    import sha
247
155
    if hasattr(f, 'tell'):
248
156
        assert f.tell() == 0
249
157
    s = sha.new()
256
164
    return s.hexdigest()
257
165
 
258
166
 
259
 
 
260
 
def sha_strings(strings):
261
 
    """Return the sha-1 of concatenation of strings"""
262
 
    s = sha.new()
263
 
    map(s.update, strings)
264
 
    return s.hexdigest()
265
 
 
266
 
 
267
167
def sha_string(f):
 
168
    import sha
268
169
    s = sha.new()
269
170
    s.update(f)
270
171
    return s.hexdigest()
271
172
 
272
173
 
 
174
 
273
175
def fingerprint_file(f):
 
176
    import sha
274
177
    s = sha.new()
275
178
    b = f.read()
276
179
    s.update(b)
279
182
            'sha1': s.hexdigest()}
280
183
 
281
184
 
 
185
def config_dir():
 
186
    """Return per-user configuration directory.
 
187
 
 
188
    By default this is ~/.bzr.conf/
 
189
    
 
190
    TODO: Global option --config-dir to override this.
 
191
    """
 
192
    return os.path.expanduser("~/.bzr.conf")
 
193
 
 
194
 
 
195
def _auto_user_id():
 
196
    """Calculate automatic user identification.
 
197
 
 
198
    Returns (realname, email).
 
199
 
 
200
    Only used when none is set in the environment or the id file.
 
201
 
 
202
    This previously used the FQDN as the default domain, but that can
 
203
    be very slow on machines where DNS is broken.  So now we simply
 
204
    use the hostname.
 
205
    """
 
206
    import socket
 
207
 
 
208
    # XXX: Any good way to get real user name on win32?
 
209
 
 
210
    try:
 
211
        import pwd
 
212
        uid = os.getuid()
 
213
        w = pwd.getpwuid(uid)
 
214
        gecos = w.pw_gecos.decode(bzrlib.user_encoding)
 
215
        username = w.pw_name.decode(bzrlib.user_encoding)
 
216
        comma = gecos.find(',')
 
217
        if comma == -1:
 
218
            realname = gecos
 
219
        else:
 
220
            realname = gecos[:comma]
 
221
        if not realname:
 
222
            realname = username
 
223
 
 
224
    except ImportError:
 
225
        import getpass
 
226
        realname = username = getpass.getuser().decode(bzrlib.user_encoding)
 
227
 
 
228
    return realname, (username + '@' + socket.gethostname())
 
229
 
 
230
 
 
231
def _get_user_id():
 
232
    """Return the full user id from a file or environment variable.
 
233
 
 
234
    TODO: Allow taking this from a file in the branch directory too
 
235
    for per-branch ids."""
 
236
    v = os.environ.get('BZREMAIL')
 
237
    if v:
 
238
        return v.decode(bzrlib.user_encoding)
 
239
    
 
240
    try:
 
241
        return (open(os.path.join(config_dir(), "email"))
 
242
                .read()
 
243
                .decode(bzrlib.user_encoding)
 
244
                .rstrip("\r\n"))
 
245
    except IOError, e:
 
246
        if e.errno != errno.ENOENT:
 
247
            raise e
 
248
 
 
249
    v = os.environ.get('EMAIL')
 
250
    if v:
 
251
        return v.decode(bzrlib.user_encoding)
 
252
    else:    
 
253
        return None
 
254
 
 
255
 
 
256
def username():
 
257
    """Return email-style username.
 
258
 
 
259
    Something similar to 'Martin Pool <mbp@sourcefrog.net>'
 
260
 
 
261
    TODO: Check it's reasonably well-formed.
 
262
    """
 
263
    v = _get_user_id()
 
264
    if v:
 
265
        return v
 
266
    
 
267
    name, email = _auto_user_id()
 
268
    if name:
 
269
        return '%s <%s>' % (name, email)
 
270
    else:
 
271
        return email
 
272
 
 
273
 
 
274
_EMAIL_RE = re.compile(r'[\w+.-]+@[\w+.-]+')
 
275
def user_email():
 
276
    """Return just the email component of a username."""
 
277
    e = _get_user_id()
 
278
    if e:
 
279
        m = _EMAIL_RE.search(e)
 
280
        if not m:
 
281
            raise BzrError("%r doesn't seem to contain a reasonable email address" % e)
 
282
        return m.group(0)
 
283
 
 
284
    return _auto_user_id()[1]
 
285
    
 
286
 
 
287
 
282
288
def compare_files(a, b):
283
289
    """Returns true if equal in contents"""
284
290
    BUFSIZE = 4096
291
297
            return True
292
298
 
293
299
 
 
300
 
294
301
def local_time_offset(t=None):
295
302
    """Return offset of local zone from GMT, either at present or at time t."""
296
303
    # python2.3 localtime() can't take None
303
310
        return -time.timezone
304
311
 
305
312
    
306
 
def format_date(t, offset=0, timezone='original', date_fmt=None, 
307
 
                show_offset=True):
 
313
def format_date(t, offset=0, timezone='original'):
308
314
    ## TODO: Perhaps a global option to use either universal or local time?
309
315
    ## Or perhaps just let people set $TZ?
310
316
    assert isinstance(t, float)
320
326
        tt = time.localtime(t)
321
327
        offset = local_time_offset(t)
322
328
    else:
323
 
        raise BzrError("unsupported timezone format %r" % timezone,
324
 
                       ['options are "utc", "original", "local"'])
325
 
    if date_fmt is None:
326
 
        date_fmt = "%a %Y-%m-%d %H:%M:%S"
327
 
    if show_offset:
328
 
        offset_str = ' %+03d%02d' % (offset / 3600, (offset / 60) % 60)
329
 
    else:
330
 
        offset_str = ''
331
 
    return (time.strftime(date_fmt, tt) +  offset_str)
 
329
        raise BzrError("unsupported timezone format %r",
 
330
                ['options are "utc", "original", "local"'])
 
331
 
 
332
    return (time.strftime("%a %Y-%m-%d %H:%M:%S", tt)
 
333
            + ' %+03d%02d' % (offset / 3600, (offset / 60) % 60))
332
334
 
333
335
 
334
336
def compact_date(when):
340
342
    """Return size of given open file."""
341
343
    return os.fstat(f.fileno())[ST_SIZE]
342
344
 
343
 
# Define rand_bytes based on platform.
344
 
try:
345
 
    # Python 2.4 and later have os.urandom,
346
 
    # but it doesn't work on some arches
347
 
    os.urandom(1)
 
345
 
 
346
if hasattr(os, 'urandom'): # python 2.4 and later
348
347
    rand_bytes = os.urandom
349
 
except (NotImplementedError, AttributeError):
350
 
    # If python doesn't have os.urandom, or it doesn't work,
351
 
    # then try to first pull random data from /dev/urandom
352
 
    if os.path.exists("/dev/urandom"):
353
 
        rand_bytes = file('/dev/urandom', 'rb').read
354
 
    # Otherwise, use this hack as a last resort
355
 
    else:
356
 
        # not well seeded, but better than nothing
357
 
        def rand_bytes(n):
358
 
            import random
359
 
            s = ''
360
 
            while n:
361
 
                s += chr(random.randint(0, 255))
362
 
                n -= 1
363
 
            return s
 
348
elif sys.platform == 'linux2':
 
349
    rand_bytes = file('/dev/urandom', 'rb').read
 
350
else:
 
351
    # not well seeded, but better than nothing
 
352
    def rand_bytes(n):
 
353
        import random
 
354
        s = ''
 
355
        while n:
 
356
            s += chr(random.randint(0, 255))
 
357
            n -= 1
 
358
        return s
 
359
 
364
360
 
365
361
## TODO: We could later have path objects that remember their list
366
362
## decomposition (might be too tricksy though.)
412
408
        return os.path.join(p1, p2)
413
409
    
414
410
 
415
 
def split_lines(s):
416
 
    """Split s into lines, but without removing the newline characters."""
417
 
    return StringIO(s).readlines()
418
 
 
419
 
 
420
 
def hardlinks_good():
421
 
    return sys.platform not in ('win32', 'cygwin', 'darwin')
422
 
 
423
 
 
424
 
def link_or_copy(src, dest):
425
 
    """Hardlink a file, or copy it if it can't be hardlinked."""
426
 
    if not hardlinks_good():
427
 
        copyfile(src, dest)
428
 
        return
 
411
def extern_command(cmd, ignore_errors = False):
 
412
    mutter('external command: %s' % `cmd`)
 
413
    if os.system(cmd):
 
414
        if not ignore_errors:
 
415
            raise BzrError('command failed')
 
416
 
 
417
 
 
418
def _read_config_value(name):
 
419
    """Read a config value from the file ~/.bzr.conf/<name>
 
420
    Return None if the file does not exist"""
429
421
    try:
430
 
        os.link(src, dest)
431
 
    except (OSError, IOError), e:
432
 
        if e.errno != errno.EXDEV:
433
 
            raise
434
 
        copyfile(src, dest)
435
 
 
436
 
 
437
 
def has_symlinks():
438
 
    if hasattr(os, 'symlink'):
439
 
        return True
440
 
    else:
441
 
        return False
 
422
        f = file(os.path.join(config_dir(), name), "r")
 
423
        return f.read().decode(bzrlib.user_encoding).rstrip("\r\n")
 
424
    except IOError, e:
 
425
        if e.errno == errno.ENOENT:
 
426
            return None
 
427
        raise
 
428
 
 
429
 
 
430
def _get_editor():
 
431
    """Return a sequence of possible editor binaries for the current platform"""
 
432
    e = _read_config_value("editor")
 
433
    if e is not None:
 
434
        yield e
442
435
        
443
 
 
444
 
def contains_whitespace(s):
445
 
    """True if there are any whitespace characters in s."""
446
 
    for ch in string.whitespace:
447
 
        if ch in s:
448
 
            return True
449
 
    else:
450
 
        return False
451
 
 
452
 
 
453
 
def contains_linebreaks(s):
454
 
    """True if there is any vertical whitespace in s."""
455
 
    for ch in '\f\n\r':
456
 
        if ch in s:
457
 
            return True
458
 
    else:
459
 
        return False
460
 
 
461
 
 
462
 
def relpath(base, path):
463
 
    """Return path relative to base, or raise exception.
464
 
 
465
 
    The path may be either an absolute path or a path relative to the
466
 
    current working directory.
467
 
 
468
 
    os.path.commonprefix (python2.4) has a bad bug that it works just
469
 
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
470
 
    avoids that problem."""
471
 
    rp = abspath(path)
472
 
 
473
 
    s = []
474
 
    head = rp
475
 
    while len(head) >= len(base):
476
 
        if head == base:
 
436
    if os.name == "windows":
 
437
        yield "notepad.exe"
 
438
    elif os.name == "posix":
 
439
        try:
 
440
            yield os.environ["EDITOR"]
 
441
        except KeyError:
 
442
            yield "/usr/bin/vi"
 
443
 
 
444
 
 
445
def _run_editor(filename):
 
446
    """Try to execute an editor to edit the commit message. Returns True on success,
 
447
    False on failure"""
 
448
    for e in _get_editor():
 
449
        x = os.spawnvp(os.P_WAIT, e, (e, filename))
 
450
        if x == 0:
 
451
            return True
 
452
        elif x == 127:
 
453
            continue
 
454
        else:
477
455
            break
478
 
        head, tail = os.path.split(head)
479
 
        if tail:
480
 
            s.insert(0, tail)
481
 
    else:
482
 
        # XXX This should raise a NotChildPath exception, as its not tied
483
 
        # to branch anymore.
484
 
        raise NotBranchError("path %r is not within branch %r" % (rp, base))
485
 
 
486
 
    return os.sep.join(s)
 
456
    raise BzrError("Could not start any editor. Please specify $EDITOR or use ~/.bzr.conf/editor")
 
457
    return False
 
458
                          
 
459
 
 
460
def get_text_message(infotext, ignoreline = "default"):
 
461
    import tempfile
 
462
    
 
463
    if ignoreline == "default":
 
464
        ignoreline = "-- This line and the following will be ignored --"
 
465
        
 
466
    try:
 
467
        tmp_fileno, msgfilename = tempfile.mkstemp()
 
468
        msgfile = os.close(tmp_fileno)
 
469
        if infotext is not None and infotext != "":
 
470
            hasinfo = True
 
471
            msgfile = file(msgfilename, "w")
 
472
            msgfile.write("\n\n%s\n\n%s" % (ignoreline, infotext))
 
473
            msgfile.close()
 
474
        else:
 
475
            hasinfo = False
 
476
 
 
477
        if not _run_editor(msgfilename):
 
478
            return None
 
479
        
 
480
        started = False
 
481
        msg = []
 
482
        lastline, nlines = 0, 0
 
483
        for line in file(msgfilename, "r"):
 
484
            stripped_line = line.strip()
 
485
            # strip empty line before the log message starts
 
486
            if not started:
 
487
                if stripped_line != "":
 
488
                    started = True
 
489
                else:
 
490
                    continue
 
491
            # check for the ignore line only if there
 
492
            # is additional information at the end
 
493
            if hasinfo and stripped_line == ignoreline:
 
494
                break
 
495
            nlines += 1
 
496
            # keep track of the last line that had some content
 
497
            if stripped_line != "":
 
498
                lastline = nlines
 
499
            msg.append(line)
 
500
            
 
501
        if len(msg) == 0:
 
502
            return None
 
503
        # delete empty lines at the end
 
504
        del msg[lastline:]
 
505
        # add a newline at the end, if needed
 
506
        if not msg[-1].endswith("\n"):
 
507
            return "%s%s" % ("".join(msg), "\n")
 
508
        else:
 
509
            return "".join(msg)
 
510
    finally:
 
511
        # delete the msg file in any case
 
512
        try: os.unlink(msgfilename)
 
513
        except IOError: pass