~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lock.py

  • Committer: Jelmer Vernooij
  • Date: 2011-11-30 20:02:16 UTC
  • mto: This revision was merged to the branch mainline in revision 6333.
  • Revision ID: jelmer@samba.org-20111130200216-aoju21pdl20d1gkd
Consistently pass tree path when exporting.

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2005-2010 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
 
 
18
"""Locking using OS file locks or file existence.
 
19
 
 
20
Note: This method of locking is generally deprecated in favour of LockDir, but
 
21
is used to lock local WorkingTrees, and by some old formats.  It's accessed
 
22
through Transport.lock_read(), etc.
 
23
 
 
24
This module causes two methods, lock() and unlock() to be defined in
 
25
any way that works on the current platform.
 
26
 
 
27
It is not specified whether these locks are reentrant (i.e. can be
 
28
taken repeatedly by a single process) or whether they exclude
 
29
different threads in a single process.  That reentrancy is provided by
 
30
LockableFiles.
 
31
 
 
32
This defines two classes: ReadLock and WriteLock, which can be
 
33
implemented in different ways on different platforms.  Both have an
 
34
unlock() method.
 
35
"""
 
36
 
 
37
import errno
 
38
import os
 
39
import sys
 
40
import warnings
 
41
 
 
42
from bzrlib import (
 
43
    debug,
 
44
    errors,
 
45
    osutils,
 
46
    trace,
 
47
    )
 
48
from bzrlib.hooks import Hooks
 
49
from bzrlib.i18n import gettext
 
50
 
 
51
class LockHooks(Hooks):
 
52
 
 
53
    def __init__(self):
 
54
        Hooks.__init__(self, "bzrlib.lock", "Lock.hooks")
 
55
        self.add_hook('lock_acquired',
 
56
            "Called with a bzrlib.lock.LockResult when a physical lock is "
 
57
            "acquired.", (1, 8))
 
58
        self.add_hook('lock_released',
 
59
            "Called with a bzrlib.lock.LockResult when a physical lock is "
 
60
            "released.", (1, 8))
 
61
        self.add_hook('lock_broken',
 
62
            "Called with a bzrlib.lock.LockResult when a physical lock is "
 
63
            "broken.", (1, 15))
 
64
 
 
65
 
 
66
class Lock(object):
 
67
    """Base class for locks.
 
68
 
 
69
    :cvar hooks: Hook dictionary for operations on locks.
 
70
    """
 
71
 
 
72
    hooks = LockHooks()
 
73
 
 
74
 
 
75
class LockResult(object):
 
76
    """Result of an operation on a lock; passed to a hook"""
 
77
 
 
78
    def __init__(self, lock_url, details=None):
 
79
        """Create a lock result for lock with optional details about the lock."""
 
80
        self.lock_url = lock_url
 
81
        self.details = details
 
82
 
 
83
    def __eq__(self, other):
 
84
        return self.lock_url == other.lock_url and self.details == other.details
 
85
 
 
86
    def __repr__(self):
 
87
        return '%s(%s, %s)' % (self.__class__.__name__,
 
88
                             self.lock_url, self.details)
 
89
 
 
90
 
 
91
class LogicalLockResult(object):
 
92
    """The result of a lock_read/lock_write/lock_tree_write call on lockables.
 
93
 
 
94
    :ivar unlock: A callable which will unlock the lock.
 
95
    """
 
96
 
 
97
    def __init__(self, unlock):
 
98
        self.unlock = unlock
 
99
 
 
100
    def __repr__(self):
 
101
        return "LogicalLockResult(%s)" % (self.unlock)
 
102
 
 
103
 
 
104
 
 
105
def cant_unlock_not_held(locked_object):
 
106
    """An attempt to unlock failed because the object was not locked.
 
107
 
 
108
    This provides a policy point from which we can generate either a warning 
 
109
    or an exception.
 
110
    """
 
111
    # This is typically masking some other error and called from a finally
 
112
    # block, so it's useful to have the option not to generate a new error
 
113
    # here.  You can use -Werror to make it fatal.  It should possibly also
 
114
    # raise LockNotHeld.
 
115
    if 'unlock' in debug.debug_flags:
 
116
        warnings.warn("%r is already unlocked" % (locked_object,),
 
117
            stacklevel=3)
 
118
    else:
 
119
        raise errors.LockNotHeld(locked_object)
 
120
 
 
121
 
 
122
try:
 
123
    import fcntl
 
124
    have_fcntl = True
 
125
except ImportError:
 
126
    have_fcntl = False
 
127
 
 
128
have_pywin32 = False
 
129
have_ctypes_win32 = False
 
130
if sys.platform == 'win32':
 
131
    import msvcrt
 
132
    try:
 
133
        import win32file, pywintypes, winerror
 
134
        have_pywin32 = True
 
135
    except ImportError:
 
136
        pass
 
137
 
 
138
    try:
 
139
        import ctypes
 
140
        have_ctypes_win32 = True
 
141
    except ImportError:
 
142
        pass
 
143
 
 
144
 
 
145
class _OSLock(object):
 
146
 
 
147
    def __init__(self):
 
148
        self.f = None
 
149
        self.filename = None
 
150
 
 
151
    def _open(self, filename, filemode):
 
152
        self.filename = osutils.realpath(filename)
 
153
        try:
 
154
            self.f = open(self.filename, filemode)
 
155
            return self.f
 
156
        except IOError, e:
 
157
            if e.errno in (errno.EACCES, errno.EPERM):
 
158
                raise errors.LockFailed(self.filename, str(e))
 
159
            if e.errno != errno.ENOENT:
 
160
                raise
 
161
 
 
162
            # maybe this is an old branch (before may 2005)
 
163
            trace.mutter("trying to create missing lock %r", self.filename)
 
164
 
 
165
            self.f = open(self.filename, 'wb+')
 
166
            return self.f
 
167
 
 
168
    def _clear_f(self):
 
169
        """Clear the self.f attribute cleanly."""
 
170
        if self.f:
 
171
            self.f.close()
 
172
            self.f = None
 
173
 
 
174
    def unlock(self):
 
175
        raise NotImplementedError()
 
176
 
 
177
 
 
178
_lock_classes = []
 
179
 
 
180
 
 
181
if have_fcntl:
 
182
 
 
183
    class _fcntl_FileLock(_OSLock):
 
184
 
 
185
        def _unlock(self):
 
186
            fcntl.lockf(self.f, fcntl.LOCK_UN)
 
187
            self._clear_f()
 
188
 
 
189
 
 
190
    class _fcntl_WriteLock(_fcntl_FileLock):
 
191
 
 
192
        _open_locks = set()
 
193
 
 
194
        def __init__(self, filename):
 
195
            super(_fcntl_WriteLock, self).__init__()
 
196
            # Check we can grab a lock before we actually open the file.
 
197
            self.filename = osutils.realpath(filename)
 
198
            if self.filename in _fcntl_WriteLock._open_locks:
 
199
                self._clear_f()
 
200
                raise errors.LockContention(self.filename)
 
201
            if self.filename in _fcntl_ReadLock._open_locks:
 
202
                if 'strict_locks' in debug.debug_flags:
 
203
                    self._clear_f()
 
204
                    raise errors.LockContention(self.filename)
 
205
                else:
 
206
                    trace.mutter('Write lock taken w/ an open read lock on: %s'
 
207
                                 % (self.filename,))
 
208
 
 
209
            self._open(self.filename, 'rb+')
 
210
            # reserve a slot for this lock - even if the lockf call fails,
 
211
            # at this point unlock() will be called, because self.f is set.
 
212
            # TODO: make this fully threadsafe, if we decide we care.
 
213
            _fcntl_WriteLock._open_locks.add(self.filename)
 
214
            try:
 
215
                # LOCK_NB will cause IOError to be raised if we can't grab a
 
216
                # lock right away.
 
217
                fcntl.lockf(self.f, fcntl.LOCK_EX | fcntl.LOCK_NB)
 
218
            except IOError, e:
 
219
                if e.errno in (errno.EAGAIN, errno.EACCES):
 
220
                    # We couldn't grab the lock
 
221
                    self.unlock()
 
222
                # we should be more precise about whats a locking
 
223
                # error and whats a random-other error
 
224
                raise errors.LockContention(self.filename, e)
 
225
 
 
226
        def unlock(self):
 
227
            _fcntl_WriteLock._open_locks.remove(self.filename)
 
228
            self._unlock()
 
229
 
 
230
 
 
231
    class _fcntl_ReadLock(_fcntl_FileLock):
 
232
 
 
233
        _open_locks = {}
 
234
 
 
235
        def __init__(self, filename):
 
236
            super(_fcntl_ReadLock, self).__init__()
 
237
            self.filename = osutils.realpath(filename)
 
238
            if self.filename in _fcntl_WriteLock._open_locks:
 
239
                if 'strict_locks' in debug.debug_flags:
 
240
                    # We raise before calling _open so we don't need to
 
241
                    # _clear_f
 
242
                    raise errors.LockContention(self.filename)
 
243
                else:
 
244
                    trace.mutter('Read lock taken w/ an open write lock on: %s'
 
245
                                 % (self.filename,))
 
246
            _fcntl_ReadLock._open_locks.setdefault(self.filename, 0)
 
247
            _fcntl_ReadLock._open_locks[self.filename] += 1
 
248
            self._open(filename, 'rb')
 
249
            try:
 
250
                # LOCK_NB will cause IOError to be raised if we can't grab a
 
251
                # lock right away.
 
252
                fcntl.lockf(self.f, fcntl.LOCK_SH | fcntl.LOCK_NB)
 
253
            except IOError, e:
 
254
                # we should be more precise about whats a locking
 
255
                # error and whats a random-other error
 
256
                raise errors.LockContention(self.filename, e)
 
257
 
 
258
        def unlock(self):
 
259
            count = _fcntl_ReadLock._open_locks[self.filename]
 
260
            if count == 1:
 
261
                del _fcntl_ReadLock._open_locks[self.filename]
 
262
            else:
 
263
                _fcntl_ReadLock._open_locks[self.filename] = count - 1
 
264
            self._unlock()
 
265
 
 
266
        def temporary_write_lock(self):
 
267
            """Try to grab a write lock on the file.
 
268
 
 
269
            On platforms that support it, this will upgrade to a write lock
 
270
            without unlocking the file.
 
271
            Otherwise, this will release the read lock, and try to acquire a
 
272
            write lock.
 
273
 
 
274
            :return: A token which can be used to switch back to a read lock.
 
275
            """
 
276
            if self.filename in _fcntl_WriteLock._open_locks:
 
277
                raise AssertionError('file already locked: %r'
 
278
                    % (self.filename,))
 
279
            try:
 
280
                wlock = _fcntl_TemporaryWriteLock(self)
 
281
            except errors.LockError:
 
282
                # We didn't unlock, so we can just return 'self'
 
283
                return False, self
 
284
            return True, wlock
 
285
 
 
286
 
 
287
    class _fcntl_TemporaryWriteLock(_OSLock):
 
288
        """A token used when grabbing a temporary_write_lock.
 
289
 
 
290
        Call restore_read_lock() when you are done with the write lock.
 
291
        """
 
292
 
 
293
        def __init__(self, read_lock):
 
294
            super(_fcntl_TemporaryWriteLock, self).__init__()
 
295
            self._read_lock = read_lock
 
296
            self.filename = read_lock.filename
 
297
 
 
298
            count = _fcntl_ReadLock._open_locks[self.filename]
 
299
            if count > 1:
 
300
                # Something else also has a read-lock, so we cannot grab a
 
301
                # write lock.
 
302
                raise errors.LockContention(self.filename)
 
303
 
 
304
            if self.filename in _fcntl_WriteLock._open_locks:
 
305
                raise AssertionError('file already locked: %r'
 
306
                    % (self.filename,))
 
307
 
 
308
            # See if we can open the file for writing. Another process might
 
309
            # have a read lock. We don't use self._open() because we don't want
 
310
            # to create the file if it exists. That would have already been
 
311
            # done by _fcntl_ReadLock
 
312
            try:
 
313
                new_f = open(self.filename, 'rb+')
 
314
            except IOError, e:
 
315
                if e.errno in (errno.EACCES, errno.EPERM):
 
316
                    raise errors.LockFailed(self.filename, str(e))
 
317
                raise
 
318
            try:
 
319
                # LOCK_NB will cause IOError to be raised if we can't grab a
 
320
                # lock right away.
 
321
                fcntl.lockf(new_f, fcntl.LOCK_EX | fcntl.LOCK_NB)
 
322
            except IOError, e:
 
323
                # TODO: Raise a more specific error based on the type of error
 
324
                raise errors.LockContention(self.filename, e)
 
325
            _fcntl_WriteLock._open_locks.add(self.filename)
 
326
 
 
327
            self.f = new_f
 
328
 
 
329
        def restore_read_lock(self):
 
330
            """Restore the original ReadLock."""
 
331
            # For fcntl, since we never released the read lock, just release the
 
332
            # write lock, and return the original lock.
 
333
            fcntl.lockf(self.f, fcntl.LOCK_UN)
 
334
            self._clear_f()
 
335
            _fcntl_WriteLock._open_locks.remove(self.filename)
 
336
            # Avoid reference cycles
 
337
            read_lock = self._read_lock
 
338
            self._read_lock = None
 
339
            return read_lock
 
340
 
 
341
 
 
342
    _lock_classes.append(('fcntl', _fcntl_WriteLock, _fcntl_ReadLock))
 
343
 
 
344
 
 
345
if have_pywin32 and sys.platform == 'win32':
 
346
    if os.path.supports_unicode_filenames:
 
347
        # for Windows NT/2K/XP/etc
 
348
        win32file_CreateFile = win32file.CreateFileW
 
349
    else:
 
350
        # for Windows 98
 
351
        win32file_CreateFile = win32file.CreateFile
 
352
 
 
353
    class _w32c_FileLock(_OSLock):
 
354
 
 
355
        def _open(self, filename, access, share, cflags, pymode):
 
356
            self.filename = osutils.realpath(filename)
 
357
            try:
 
358
                self._handle = win32file_CreateFile(filename, access, share,
 
359
                    None, win32file.OPEN_ALWAYS,
 
360
                    win32file.FILE_ATTRIBUTE_NORMAL, None)
 
361
            except pywintypes.error, e:
 
362
                if e.args[0] == winerror.ERROR_ACCESS_DENIED:
 
363
                    raise errors.LockFailed(filename, e)
 
364
                if e.args[0] == winerror.ERROR_SHARING_VIOLATION:
 
365
                    raise errors.LockContention(filename, e)
 
366
                raise
 
367
            fd = win32file._open_osfhandle(self._handle, cflags)
 
368
            self.f = os.fdopen(fd, pymode)
 
369
            return self.f
 
370
 
 
371
        def unlock(self):
 
372
            self._clear_f()
 
373
            self._handle = None
 
374
 
 
375
 
 
376
    class _w32c_ReadLock(_w32c_FileLock):
 
377
        def __init__(self, filename):
 
378
            super(_w32c_ReadLock, self).__init__()
 
379
            self._open(filename, win32file.GENERIC_READ,
 
380
                win32file.FILE_SHARE_READ, os.O_RDONLY, "rb")
 
381
 
 
382
        def temporary_write_lock(self):
 
383
            """Try to grab a write lock on the file.
 
384
 
 
385
            On platforms that support it, this will upgrade to a write lock
 
386
            without unlocking the file.
 
387
            Otherwise, this will release the read lock, and try to acquire a
 
388
            write lock.
 
389
 
 
390
            :return: A token which can be used to switch back to a read lock.
 
391
            """
 
392
            # I can't find a way to upgrade a read lock to a write lock without
 
393
            # unlocking first. So here, we do just that.
 
394
            self.unlock()
 
395
            try:
 
396
                wlock = _w32c_WriteLock(self.filename)
 
397
            except errors.LockError:
 
398
                return False, _w32c_ReadLock(self.filename)
 
399
            return True, wlock
 
400
 
 
401
 
 
402
    class _w32c_WriteLock(_w32c_FileLock):
 
403
        def __init__(self, filename):
 
404
            super(_w32c_WriteLock, self).__init__()
 
405
            self._open(filename,
 
406
                win32file.GENERIC_READ | win32file.GENERIC_WRITE, 0,
 
407
                os.O_RDWR, "rb+")
 
408
 
 
409
        def restore_read_lock(self):
 
410
            """Restore the original ReadLock."""
 
411
            # For win32 we had to completely let go of the original lock, so we
 
412
            # just unlock and create a new read lock.
 
413
            self.unlock()
 
414
            return _w32c_ReadLock(self.filename)
 
415
 
 
416
 
 
417
    _lock_classes.append(('pywin32', _w32c_WriteLock, _w32c_ReadLock))
 
418
 
 
419
 
 
420
if have_ctypes_win32:
 
421
    from ctypes.wintypes import DWORD, LPCSTR, LPCWSTR
 
422
    LPSECURITY_ATTRIBUTES = ctypes.c_void_p # used as NULL no need to declare
 
423
    HANDLE = ctypes.c_int # rather than unsigned as in ctypes.wintypes
 
424
    if os.path.supports_unicode_filenames:
 
425
        _function_name = "CreateFileW"
 
426
        LPTSTR = LPCWSTR
 
427
    else:
 
428
        _function_name = "CreateFileA"
 
429
        class LPTSTR(LPCSTR):
 
430
            def __new__(cls, obj):
 
431
                return LPCSTR.__new__(cls, obj.encode("mbcs"))
 
432
 
 
433
    # CreateFile <http://msdn.microsoft.com/en-us/library/aa363858.aspx>
 
434
    _CreateFile = ctypes.WINFUNCTYPE(
 
435
            HANDLE,                # return value
 
436
            LPTSTR,                # lpFileName
 
437
            DWORD,                 # dwDesiredAccess
 
438
            DWORD,                 # dwShareMode
 
439
            LPSECURITY_ATTRIBUTES, # lpSecurityAttributes
 
440
            DWORD,                 # dwCreationDisposition
 
441
            DWORD,                 # dwFlagsAndAttributes
 
442
            HANDLE                 # hTemplateFile
 
443
        )((_function_name, ctypes.windll.kernel32))
 
444
 
 
445
    INVALID_HANDLE_VALUE = -1
 
446
 
 
447
    GENERIC_READ = 0x80000000
 
448
    GENERIC_WRITE = 0x40000000
 
449
    FILE_SHARE_READ = 1
 
450
    OPEN_ALWAYS = 4
 
451
    FILE_ATTRIBUTE_NORMAL = 128
 
452
 
 
453
    ERROR_ACCESS_DENIED = 5
 
454
    ERROR_SHARING_VIOLATION = 32
 
455
 
 
456
    class _ctypes_FileLock(_OSLock):
 
457
 
 
458
        def _open(self, filename, access, share, cflags, pymode):
 
459
            self.filename = osutils.realpath(filename)
 
460
            handle = _CreateFile(filename, access, share, None, OPEN_ALWAYS,
 
461
                FILE_ATTRIBUTE_NORMAL, 0)
 
462
            if handle in (INVALID_HANDLE_VALUE, 0):
 
463
                e = ctypes.WinError()
 
464
                if e.args[0] == ERROR_ACCESS_DENIED:
 
465
                    raise errors.LockFailed(filename, e)
 
466
                if e.args[0] == ERROR_SHARING_VIOLATION:
 
467
                    raise errors.LockContention(filename, e)
 
468
                raise e
 
469
            fd = msvcrt.open_osfhandle(handle, cflags)
 
470
            self.f = os.fdopen(fd, pymode)
 
471
            return self.f
 
472
 
 
473
        def unlock(self):
 
474
            self._clear_f()
 
475
 
 
476
 
 
477
    class _ctypes_ReadLock(_ctypes_FileLock):
 
478
        def __init__(self, filename):
 
479
            super(_ctypes_ReadLock, self).__init__()
 
480
            self._open(filename, GENERIC_READ, FILE_SHARE_READ, os.O_RDONLY,
 
481
                "rb")
 
482
 
 
483
        def temporary_write_lock(self):
 
484
            """Try to grab a write lock on the file.
 
485
 
 
486
            On platforms that support it, this will upgrade to a write lock
 
487
            without unlocking the file.
 
488
            Otherwise, this will release the read lock, and try to acquire a
 
489
            write lock.
 
490
 
 
491
            :return: A token which can be used to switch back to a read lock.
 
492
            """
 
493
            # I can't find a way to upgrade a read lock to a write lock without
 
494
            # unlocking first. So here, we do just that.
 
495
            self.unlock()
 
496
            try:
 
497
                wlock = _ctypes_WriteLock(self.filename)
 
498
            except errors.LockError:
 
499
                return False, _ctypes_ReadLock(self.filename)
 
500
            return True, wlock
 
501
 
 
502
    class _ctypes_WriteLock(_ctypes_FileLock):
 
503
        def __init__(self, filename):
 
504
            super(_ctypes_WriteLock, self).__init__()
 
505
            self._open(filename, GENERIC_READ | GENERIC_WRITE, 0, os.O_RDWR,
 
506
                "rb+")
 
507
 
 
508
        def restore_read_lock(self):
 
509
            """Restore the original ReadLock."""
 
510
            # For win32 we had to completely let go of the original lock, so we
 
511
            # just unlock and create a new read lock.
 
512
            self.unlock()
 
513
            return _ctypes_ReadLock(self.filename)
 
514
 
 
515
 
 
516
    _lock_classes.append(('ctypes', _ctypes_WriteLock, _ctypes_ReadLock))
 
517
 
 
518
 
 
519
if len(_lock_classes) == 0:
 
520
    raise NotImplementedError(
 
521
        "We must have one of fcntl, pywin32, or ctypes available"
 
522
        " to support OS locking."
 
523
        )
 
524
 
 
525
 
 
526
# We default to using the first available lock class.
 
527
_lock_type, WriteLock, ReadLock = _lock_classes[0]
 
528
 
 
529
 
 
530
class _RelockDebugMixin(object):
 
531
    """Mixin support for -Drelock flag.
 
532
 
 
533
    Add this as a base class then call self._note_lock with 'r' or 'w' when
 
534
    acquiring a read- or write-lock.  If this object was previously locked (and
 
535
    locked the same way), and -Drelock is set, then this will trace.note a
 
536
    message about it.
 
537
    """
 
538
 
 
539
    _prev_lock = None
 
540
 
 
541
    def _note_lock(self, lock_type):
 
542
        if 'relock' in debug.debug_flags and self._prev_lock == lock_type:
 
543
            if lock_type == 'r':
 
544
                type_name = 'read'
 
545
            else:
 
546
                type_name = 'write'
 
547
            trace.note(gettext('{0!r} was {1} locked again'), self, type_name)
 
548
        self._prev_lock = lock_type
 
549