~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Robert Collins
  • Date: 2005-10-14 01:56:08 UTC
  • mto: This revision was merged to the branch mainline in revision 1453.
  • Revision ID: robertc@lifelesslap.robertcollins.net-20051014015608-2970671a76324ad8
first stage major overhaul of configs, giving use BranchConfigs, LocationConfigs and GlobalConfigs

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
1
# Bazaar-NG -- distributed version control
2
 
 
 
2
#
3
3
# Copyright (C) 2005 by Canonical Ltd
4
 
 
 
4
#
5
5
# This program is free software; you can redistribute it and/or modify
6
6
# it under the terms of the GNU General Public License as published by
7
7
# the Free Software Foundation; either version 2 of the License, or
8
8
# (at your option) any later version.
9
 
 
 
9
#
10
10
# This program is distributed in the hope that it will be useful,
11
11
# but WITHOUT ANY WARRANTY; without even the implied warranty of
12
12
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13
13
# GNU General Public License for more details.
14
 
 
 
14
#
15
15
# You should have received a copy of the GNU General Public License
16
16
# along with this program; if not, write to the Free Software
17
17
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18
18
 
19
 
import os, types, re, time, errno, sys
20
 
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
 
19
from shutil import copyfile
 
20
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
 
21
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
 
22
from cStringIO import StringIO
 
23
import errno
 
24
import os
 
25
import re
 
26
import sha
 
27
import sys
 
28
import time
 
29
import types
21
30
 
22
 
from errors import bailout, BzrError
23
 
from trace import mutter
24
31
import bzrlib
 
32
from bzrlib.errors import BzrError
 
33
from bzrlib.trace import mutter
 
34
 
25
35
 
26
36
def make_readonly(filename):
27
37
    """Make a filename read-only."""
28
 
    # TODO: probably needs to be fixed for windows
29
38
    mod = os.stat(filename).st_mode
30
39
    mod = mod & 0777555
31
40
    os.chmod(filename, mod)
37
46
    os.chmod(filename, mod)
38
47
 
39
48
 
40
 
_QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/_~-])')
 
49
_QUOTE_RE = None
 
50
 
 
51
 
41
52
def quotefn(f):
42
 
    """Return shell-quoted filename"""
43
 
    ## We could be a bit more terse by using double-quotes etc
44
 
    f = _QUOTE_RE.sub(r'\\\1', f)
45
 
    if f[0] == '~':
46
 
        f[0:1] = r'\~' 
47
 
    return f
 
53
    """Return a quoted filename filename
 
54
 
 
55
    This previously used backslash quoting, but that works poorly on
 
56
    Windows."""
 
57
    # TODO: I'm not really sure this is the best format either.x
 
58
    global _QUOTE_RE
 
59
    if _QUOTE_RE == None:
 
60
        _QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/\\_~-])')
 
61
        
 
62
    if _QUOTE_RE.search(f):
 
63
        return '"' + f + '"'
 
64
    else:
 
65
        return f
48
66
 
49
67
 
50
68
def file_kind(f):
55
73
        return 'directory'
56
74
    elif S_ISLNK(mode):
57
75
        return 'symlink'
 
76
    elif S_ISCHR(mode):
 
77
        return 'chardev'
 
78
    elif S_ISBLK(mode):
 
79
        return 'block'
 
80
    elif S_ISFIFO(mode):
 
81
        return 'fifo'
 
82
    elif S_ISSOCK(mode):
 
83
        return 'socket'
58
84
    else:
59
 
        raise BzrError("can't handle file kind with mode %o of %r" % (mode, f))
 
85
        return 'unknown'
60
86
 
61
87
 
62
88
def kind_marker(kind):
69
95
    else:
70
96
        raise BzrError('invalid file kind %r' % kind)
71
97
 
 
98
def lexists(f):
 
99
    try:
 
100
        if hasattr(os, 'lstat'):
 
101
            os.lstat(f)
 
102
        else:
 
103
            os.stat(f)
 
104
        return True
 
105
    except OSError,e:
 
106
        if e.errno == errno.ENOENT:
 
107
            return False;
 
108
        else:
 
109
            raise BzrError("lstat/stat of (%r): %r" % (f, e))
 
110
 
 
111
def normalizepath(f):
 
112
    if hasattr(os.path, 'realpath'):
 
113
        F = os.path.realpath
 
114
    else:
 
115
        F = os.path.abspath
 
116
    [p,e] = os.path.split(f)
 
117
    if e == "" or e == "." or e == "..":
 
118
        return F(f)
 
119
    else:
 
120
        return os.path.join(F(p), e)
 
121
    
 
122
 
 
123
def backup_file(fn):
 
124
    """Copy a file to a backup.
 
125
 
 
126
    Backups are named in GNU-style, with a ~ suffix.
 
127
 
 
128
    If the file is already a backup, it's not copied.
 
129
    """
 
130
    if fn[-1] == '~':
 
131
        return
 
132
    bfn = fn + '~'
 
133
 
 
134
    if has_symlinks() and os.path.islink(fn):
 
135
        target = os.readlink(fn)
 
136
        os.symlink(target, bfn)
 
137
        return
 
138
    inf = file(fn, 'rb')
 
139
    try:
 
140
        content = inf.read()
 
141
    finally:
 
142
        inf.close()
 
143
    
 
144
    outf = file(bfn, 'wb')
 
145
    try:
 
146
        outf.write(content)
 
147
    finally:
 
148
        outf.close()
 
149
 
 
150
if os.name == 'nt':
 
151
    import shutil
 
152
    rename = shutil.move
 
153
else:
 
154
    rename = os.rename
72
155
 
73
156
 
74
157
def isdir(f):
79
162
        return False
80
163
 
81
164
 
82
 
 
83
165
def isfile(f):
84
166
    """True if f is a regular file."""
85
167
    try:
87
169
    except OSError:
88
170
        return False
89
171
 
 
172
def islink(f):
 
173
    """True if f is a symlink."""
 
174
    try:
 
175
        return S_ISLNK(os.lstat(f)[ST_MODE])
 
176
    except OSError:
 
177
        return False
90
178
 
91
179
def is_inside(dir, fname):
92
180
    """True if fname is inside dir.
 
181
    
 
182
    The parameters should typically be passed to os.path.normpath first, so
 
183
    that . and .. and repeated slashes are eliminated, and the separators
 
184
    are canonical for the platform.
 
185
    
 
186
    The empty string as a dir name is taken as top-of-tree and matches 
 
187
    everything.
 
188
    
 
189
    >>> is_inside('src', os.path.join('src', 'foo.c'))
 
190
    True
 
191
    >>> is_inside('src', 'srccontrol')
 
192
    False
 
193
    >>> is_inside('src', os.path.join('src', 'a', 'a', 'a', 'foo.c'))
 
194
    True
 
195
    >>> is_inside('foo.c', 'foo.c')
 
196
    True
 
197
    >>> is_inside('foo.c', '')
 
198
    False
 
199
    >>> is_inside('', 'foo.c')
 
200
    True
93
201
    """
94
 
    return os.path.commonprefix([dir, fname]) == dir
 
202
    # XXX: Most callers of this can actually do something smarter by 
 
203
    # looking at the inventory
 
204
    if dir == fname:
 
205
        return True
 
206
    
 
207
    if dir == '':
 
208
        return True
 
209
 
 
210
    if dir[-1] != os.sep:
 
211
        dir += os.sep
 
212
 
 
213
    return fname.startswith(dir)
95
214
 
96
215
 
97
216
def is_inside_any(dir_list, fname):
98
217
    """True if fname is inside any of given dirs."""
99
 
    # quick scan for perfect match
100
 
    if fname in dir_list:
101
 
        return True
102
 
    
103
218
    for dirname in dir_list:
104
219
        if is_inside(dirname, fname):
105
220
            return True
112
227
    tofile.write(fromfile.read())
113
228
 
114
229
 
115
 
def uuid():
116
 
    """Return a new UUID"""
117
 
    try:
118
 
        return file('/proc/sys/kernel/random/uuid').readline().rstrip('\n')
119
 
    except IOError:
120
 
        return chomp(os.popen('uuidgen').readline())
121
 
 
122
 
 
123
230
def sha_file(f):
124
 
    import sha
125
231
    if hasattr(f, 'tell'):
126
232
        assert f.tell() == 0
127
233
    s = sha.new()
134
240
    return s.hexdigest()
135
241
 
136
242
 
 
243
 
 
244
def sha_strings(strings):
 
245
    """Return the sha-1 of concatenation of strings"""
 
246
    s = sha.new()
 
247
    map(s.update, strings)
 
248
    return s.hexdigest()
 
249
 
 
250
 
137
251
def sha_string(f):
138
 
    import sha
139
252
    s = sha.new()
140
253
    s.update(f)
141
254
    return s.hexdigest()
142
255
 
143
256
 
144
 
 
145
257
def fingerprint_file(f):
146
 
    import sha
147
258
    s = sha.new()
148
259
    b = f.read()
149
260
    s.update(b)
152
263
            'sha1': s.hexdigest()}
153
264
 
154
265
 
155
 
def config_dir():
156
 
    """Return per-user configuration directory.
157
 
 
158
 
    By default this is ~/.bzr.conf/
159
 
    
160
 
    TODO: Global option --config-dir to override this.
161
 
    """
162
 
    return os.path.expanduser("~/.bzr.conf")
163
 
 
164
 
 
165
 
def _auto_user_id():
166
 
    """Calculate automatic user identification.
167
 
 
168
 
    Returns (realname, email).
169
 
 
170
 
    Only used when none is set in the environment or the id file.
171
 
 
172
 
    This previously used the FQDN as the default domain, but that can
173
 
    be very slow on machines where DNS is broken.  So now we simply
174
 
    use the hostname.
175
 
    """
176
 
    import socket
177
 
 
178
 
    # XXX: Any good way to get real user name on win32?
179
 
 
180
 
    try:
181
 
        import pwd
182
 
        uid = os.getuid()
183
 
        w = pwd.getpwuid(uid)
184
 
        gecos = w.pw_gecos.decode(bzrlib.user_encoding)
185
 
        username = w.pw_name.decode(bzrlib.user_encoding)
186
 
        comma = gecos.find(',')
187
 
        if comma == -1:
188
 
            realname = gecos
189
 
        else:
190
 
            realname = gecos[:comma]
191
 
        if not realname:
192
 
            realname = username
193
 
 
194
 
    except ImportError:
195
 
        import getpass
196
 
        realname = username = getpass.getuser().decode(bzrlib.user_encoding)
197
 
 
198
 
    return realname, (username + '@' + socket.gethostname())
199
 
 
200
 
 
201
 
def _get_user_id():
202
 
    """Return the full user id from a file or environment variable.
203
 
 
204
 
    TODO: Allow taking this from a file in the branch directory too
205
 
    for per-branch ids."""
206
 
    v = os.environ.get('BZREMAIL')
207
 
    if v:
208
 
        return v.decode(bzrlib.user_encoding)
209
 
    
210
 
    try:
211
 
        return (open(os.path.join(config_dir(), "email"))
212
 
                .read()
213
 
                .decode(bzrlib.user_encoding)
214
 
                .rstrip("\r\n"))
215
 
    except IOError, e:
216
 
        if e.errno != errno.ENOENT:
217
 
            raise e
218
 
 
219
 
    v = os.environ.get('EMAIL')
220
 
    if v:
221
 
        return v.decode(bzrlib.user_encoding)
222
 
    else:    
223
 
        return None
224
 
 
225
 
 
226
 
def username():
227
 
    """Return email-style username.
228
 
 
229
 
    Something similar to 'Martin Pool <mbp@sourcefrog.net>'
230
 
 
231
 
    TODO: Check it's reasonably well-formed.
232
 
    """
233
 
    v = _get_user_id()
234
 
    if v:
235
 
        return v
236
 
    
237
 
    name, email = _auto_user_id()
238
 
    if name:
239
 
        return '%s <%s>' % (name, email)
240
 
    else:
241
 
        return email
242
 
 
243
 
 
244
 
_EMAIL_RE = re.compile(r'[\w+.-]+@[\w+.-]+')
245
 
def user_email():
246
 
    """Return just the email component of a username."""
247
 
    e = _get_user_id()
248
 
    if e:
249
 
        m = _EMAIL_RE.search(e)
250
 
        if not m:
251
 
            bailout("%r doesn't seem to contain a reasonable email address" % e)
252
 
        return m.group(0)
253
 
 
254
 
    return _auto_user_id()[1]
255
 
    
256
 
 
257
 
 
258
266
def compare_files(a, b):
259
267
    """Returns true if equal in contents"""
260
268
    BUFSIZE = 4096
267
275
            return True
268
276
 
269
277
 
270
 
 
271
278
def local_time_offset(t=None):
272
279
    """Return offset of local zone from GMT, either at present or at time t."""
273
280
    # python2.3 localtime() can't take None
296
303
        tt = time.localtime(t)
297
304
        offset = local_time_offset(t)
298
305
    else:
299
 
        bailout("unsupported timezone format %r",
300
 
                ['options are "utc", "original", "local"'])
 
306
        raise BzrError("unsupported timezone format %r" % timezone,
 
307
                       ['options are "utc", "original", "local"'])
301
308
 
302
309
    return (time.strftime("%a %Y-%m-%d %H:%M:%S", tt)
303
310
            + ' %+03d%02d' % (offset / 3600, (offset / 60) % 60))
312
319
    """Return size of given open file."""
313
320
    return os.fstat(f.fileno())[ST_SIZE]
314
321
 
315
 
 
316
 
if hasattr(os, 'urandom'): # python 2.4 and later
 
322
# Define rand_bytes based on platform.
 
323
try:
 
324
    # Python 2.4 and later have os.urandom,
 
325
    # but it doesn't work on some arches
 
326
    os.urandom(1)
317
327
    rand_bytes = os.urandom
318
 
elif sys.platform == 'linux2':
319
 
    rand_bytes = file('/dev/urandom', 'rb').read
320
 
else:
321
 
    # not well seeded, but better than nothing
322
 
    def rand_bytes(n):
323
 
        import random
324
 
        s = ''
325
 
        while n:
326
 
            s += chr(random.randint(0, 255))
327
 
            n -= 1
328
 
        return s
329
 
 
 
328
except (NotImplementedError, AttributeError):
 
329
    # If python doesn't have os.urandom, or it doesn't work,
 
330
    # then try to first pull random data from /dev/urandom
 
331
    if os.path.exists("/dev/urandom"):
 
332
        rand_bytes = file('/dev/urandom', 'rb').read
 
333
    # Otherwise, use this hack as a last resort
 
334
    else:
 
335
        # not well seeded, but better than nothing
 
336
        def rand_bytes(n):
 
337
            import random
 
338
            s = ''
 
339
            while n:
 
340
                s += chr(random.randint(0, 255))
 
341
                n -= 1
 
342
            return s
330
343
 
331
344
## TODO: We could later have path objects that remember their list
332
345
## decomposition (might be too tricksy though.)
345
358
    >>> splitpath('a/../b')
346
359
    Traceback (most recent call last):
347
360
    ...
348
 
    BzrError: ("sorry, '..' not allowed in path", [])
 
361
    BzrError: sorry, '..' not allowed in path
349
362
    """
350
363
    assert isinstance(p, types.StringTypes)
351
364
 
356
369
    rps = []
357
370
    for f in ps:
358
371
        if f == '..':
359
 
            bailout("sorry, %r not allowed in path" % f)
 
372
            raise BzrError("sorry, %r not allowed in path" % f)
360
373
        elif (f == '.') or (f == ''):
361
374
            pass
362
375
        else:
367
380
    assert isinstance(p, list)
368
381
    for f in p:
369
382
        if (f == '..') or (f == None) or (f == ''):
370
 
            bailout("sorry, %r not allowed in path" % f)
 
383
            raise BzrError("sorry, %r not allowed in path" % f)
371
384
    return os.path.join(*p)
372
385
 
373
386
 
378
391
        return os.path.join(p1, p2)
379
392
    
380
393
 
381
 
def extern_command(cmd, ignore_errors = False):
382
 
    mutter('external command: %s' % `cmd`)
383
 
    if os.system(cmd):
384
 
        if not ignore_errors:
385
 
            bailout('command failed')
386
 
 
 
394
def split_lines(s):
 
395
    """Split s into lines, but without removing the newline characters."""
 
396
    return StringIO(s).readlines()
 
397
 
 
398
 
 
399
def hardlinks_good():
 
400
    return sys.platform not in ('win32', 'cygwin', 'darwin')
 
401
 
 
402
 
 
403
def link_or_copy(src, dest):
 
404
    """Hardlink a file, or copy it if it can't be hardlinked."""
 
405
    if not hardlinks_good():
 
406
        copyfile(src, dest)
 
407
        return
 
408
    try:
 
409
        os.link(src, dest)
 
410
    except (OSError, IOError), e:
 
411
        if e.errno != errno.EXDEV:
 
412
            raise
 
413
        copyfile(src, dest)
 
414
 
 
415
 
 
416
def has_symlinks():
 
417
    if hasattr(os, 'symlink'):
 
418
        return True
 
419
    else:
 
420
        return False