~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lock.py

new encoder, allows non monotonically increasing sequence matches for moar compression.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
2
 
#
3
 
# This program is free software; you can redistribute it and/or modify
4
 
# it under the terms of the GNU General Public License as published by
5
 
# the Free Software Foundation; either version 2 of the License, or
6
 
# (at your option) any later version.
7
 
#
8
 
# This program is distributed in the hope that it will be useful,
9
 
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
 
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
 
# GNU General Public License for more details.
12
 
#
13
 
# You should have received a copy of the GNU General Public License
14
 
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
 
18
 
"""Locking using OS file locks or file existence.
19
 
 
20
 
Note: This method of locking is generally deprecated in favour of LockDir, but
21
 
is used to lock local WorkingTrees, and by some old formats.  It's accessed
22
 
through Transport.lock_read(), etc.
23
 
 
24
 
This module causes two methods, lock() and unlock() to be defined in
25
 
any way that works on the current platform.
26
 
 
27
 
It is not specified whether these locks are reentrant (i.e. can be
28
 
taken repeatedly by a single process) or whether they exclude
29
 
different threads in a single process.  That reentrancy is provided by
30
 
LockableFiles.
31
 
 
32
 
This defines two classes: ReadLock and WriteLock, which can be
33
 
implemented in different ways on different platforms.  Both have an
34
 
unlock() method.
35
 
"""
36
 
 
37
 
import errno
38
 
import os
39
 
import sys
40
 
import warnings
41
 
 
42
 
from bzrlib import (
43
 
    debug,
44
 
    errors,
45
 
    osutils,
46
 
    trace,
47
 
    )
48
 
from bzrlib.hooks import Hooks
49
 
from bzrlib.i18n import gettext
50
 
 
51
 
class LockHooks(Hooks):
52
 
 
53
 
    def __init__(self):
54
 
        Hooks.__init__(self, "bzrlib.lock", "Lock.hooks")
55
 
        self.add_hook('lock_acquired',
56
 
            "Called with a bzrlib.lock.LockResult when a physical lock is "
57
 
            "acquired.", (1, 8))
58
 
        self.add_hook('lock_released',
59
 
            "Called with a bzrlib.lock.LockResult when a physical lock is "
60
 
            "released.", (1, 8))
61
 
        self.add_hook('lock_broken',
62
 
            "Called with a bzrlib.lock.LockResult when a physical lock is "
63
 
            "broken.", (1, 15))
64
 
 
65
 
 
66
 
class Lock(object):
67
 
    """Base class for locks.
68
 
 
69
 
    :cvar hooks: Hook dictionary for operations on locks.
70
 
    """
71
 
 
72
 
    hooks = LockHooks()
73
 
 
74
 
 
75
 
class LockResult(object):
76
 
    """Result of an operation on a lock; passed to a hook"""
77
 
 
78
 
    def __init__(self, lock_url, details=None):
79
 
        """Create a lock result for lock with optional details about the lock."""
80
 
        self.lock_url = lock_url
81
 
        self.details = details
82
 
 
83
 
    def __eq__(self, other):
84
 
        return self.lock_url == other.lock_url and self.details == other.details
85
 
 
86
 
    def __repr__(self):
87
 
        return '%s(%s, %s)' % (self.__class__.__name__,
88
 
                             self.lock_url, self.details)
89
 
 
90
 
 
91
 
class LogicalLockResult(object):
92
 
    """The result of a lock_read/lock_write/lock_tree_write call on lockables.
93
 
 
94
 
    :ivar unlock: A callable which will unlock the lock.
95
 
    """
96
 
 
97
 
    def __init__(self, unlock):
98
 
        self.unlock = unlock
99
 
 
100
 
    def __repr__(self):
101
 
        return "LogicalLockResult(%s)" % (self.unlock)
102
 
 
103
 
 
104
 
 
105
 
def cant_unlock_not_held(locked_object):
106
 
    """An attempt to unlock failed because the object was not locked.
107
 
 
108
 
    This provides a policy point from which we can generate either a warning 
109
 
    or an exception.
110
 
    """
111
 
    # This is typically masking some other error and called from a finally
112
 
    # block, so it's useful to have the option not to generate a new error
113
 
    # here.  You can use -Werror to make it fatal.  It should possibly also
114
 
    # raise LockNotHeld.
115
 
    if 'unlock' in debug.debug_flags:
116
 
        warnings.warn("%r is already unlocked" % (locked_object,),
117
 
            stacklevel=3)
118
 
    else:
119
 
        raise errors.LockNotHeld(locked_object)
120
 
 
121
 
 
122
 
try:
123
 
    import fcntl
124
 
    have_fcntl = True
125
 
except ImportError:
126
 
    have_fcntl = False
127
 
 
128
 
have_pywin32 = False
129
 
have_ctypes_win32 = False
130
 
if sys.platform == 'win32':
131
 
    import msvcrt
132
 
    try:
133
 
        import win32file, pywintypes, winerror
134
 
        have_pywin32 = True
135
 
    except ImportError:
136
 
        pass
137
 
 
138
 
    try:
139
 
        import ctypes
140
 
        have_ctypes_win32 = True
141
 
    except ImportError:
142
 
        pass
143
 
 
144
 
 
145
 
class _OSLock(object):
146
 
 
147
 
    def __init__(self):
148
 
        self.f = None
149
 
        self.filename = None
150
 
 
151
 
    def _open(self, filename, filemode):
152
 
        self.filename = osutils.realpath(filename)
153
 
        try:
154
 
            self.f = open(self.filename, filemode)
155
 
            return self.f
156
 
        except IOError, e:
157
 
            if e.errno in (errno.EACCES, errno.EPERM):
158
 
                raise errors.LockFailed(self.filename, str(e))
159
 
            if e.errno != errno.ENOENT:
160
 
                raise
161
 
 
162
 
            # maybe this is an old branch (before may 2005)
163
 
            trace.mutter("trying to create missing lock %r", self.filename)
164
 
 
165
 
            self.f = open(self.filename, 'wb+')
166
 
            return self.f
167
 
 
168
 
    def _clear_f(self):
169
 
        """Clear the self.f attribute cleanly."""
170
 
        if self.f:
171
 
            self.f.close()
172
 
            self.f = None
173
 
 
174
 
    def unlock(self):
175
 
        raise NotImplementedError()
176
 
 
177
 
 
178
 
_lock_classes = []
179
 
 
180
 
 
181
 
if have_fcntl:
182
 
 
183
 
    class _fcntl_FileLock(_OSLock):
184
 
 
185
 
        def _unlock(self):
186
 
            fcntl.lockf(self.f, fcntl.LOCK_UN)
187
 
            self._clear_f()
188
 
 
189
 
 
190
 
    class _fcntl_WriteLock(_fcntl_FileLock):
191
 
 
192
 
        _open_locks = set()
193
 
 
194
 
        def __init__(self, filename):
195
 
            super(_fcntl_WriteLock, self).__init__()
196
 
            # Check we can grab a lock before we actually open the file.
197
 
            self.filename = osutils.realpath(filename)
198
 
            if self.filename in _fcntl_WriteLock._open_locks:
199
 
                self._clear_f()
200
 
                raise errors.LockContention(self.filename)
201
 
            if self.filename in _fcntl_ReadLock._open_locks:
202
 
                if 'strict_locks' in debug.debug_flags:
203
 
                    self._clear_f()
204
 
                    raise errors.LockContention(self.filename)
205
 
                else:
206
 
                    trace.mutter('Write lock taken w/ an open read lock on: %s'
207
 
                                 % (self.filename,))
208
 
 
209
 
            self._open(self.filename, 'rb+')
210
 
            # reserve a slot for this lock - even if the lockf call fails,
211
 
            # at this point unlock() will be called, because self.f is set.
212
 
            # TODO: make this fully threadsafe, if we decide we care.
213
 
            _fcntl_WriteLock._open_locks.add(self.filename)
214
 
            try:
215
 
                # LOCK_NB will cause IOError to be raised if we can't grab a
216
 
                # lock right away.
217
 
                fcntl.lockf(self.f, fcntl.LOCK_EX | fcntl.LOCK_NB)
218
 
            except IOError, e:
219
 
                if e.errno in (errno.EAGAIN, errno.EACCES):
220
 
                    # We couldn't grab the lock
221
 
                    self.unlock()
222
 
                # we should be more precise about whats a locking
223
 
                # error and whats a random-other error
224
 
                raise errors.LockContention(self.filename, e)
225
 
 
226
 
        def unlock(self):
227
 
            _fcntl_WriteLock._open_locks.remove(self.filename)
228
 
            self._unlock()
229
 
 
230
 
 
231
 
    class _fcntl_ReadLock(_fcntl_FileLock):
232
 
 
233
 
        _open_locks = {}
234
 
 
235
 
        def __init__(self, filename):
236
 
            super(_fcntl_ReadLock, self).__init__()
237
 
            self.filename = osutils.realpath(filename)
238
 
            if self.filename in _fcntl_WriteLock._open_locks:
239
 
                if 'strict_locks' in debug.debug_flags:
240
 
                    # We raise before calling _open so we don't need to
241
 
                    # _clear_f
242
 
                    raise errors.LockContention(self.filename)
243
 
                else:
244
 
                    trace.mutter('Read lock taken w/ an open write lock on: %s'
245
 
                                 % (self.filename,))
246
 
            _fcntl_ReadLock._open_locks.setdefault(self.filename, 0)
247
 
            _fcntl_ReadLock._open_locks[self.filename] += 1
248
 
            self._open(filename, 'rb')
249
 
            try:
250
 
                # LOCK_NB will cause IOError to be raised if we can't grab a
251
 
                # lock right away.
252
 
                fcntl.lockf(self.f, fcntl.LOCK_SH | fcntl.LOCK_NB)
253
 
            except IOError, e:
254
 
                # we should be more precise about whats a locking
255
 
                # error and whats a random-other error
256
 
                raise errors.LockContention(self.filename, e)
257
 
 
258
 
        def unlock(self):
259
 
            count = _fcntl_ReadLock._open_locks[self.filename]
260
 
            if count == 1:
261
 
                del _fcntl_ReadLock._open_locks[self.filename]
262
 
            else:
263
 
                _fcntl_ReadLock._open_locks[self.filename] = count - 1
264
 
            self._unlock()
265
 
 
266
 
        def temporary_write_lock(self):
267
 
            """Try to grab a write lock on the file.
268
 
 
269
 
            On platforms that support it, this will upgrade to a write lock
270
 
            without unlocking the file.
271
 
            Otherwise, this will release the read lock, and try to acquire a
272
 
            write lock.
273
 
 
274
 
            :return: A token which can be used to switch back to a read lock.
275
 
            """
276
 
            if self.filename in _fcntl_WriteLock._open_locks:
277
 
                raise AssertionError('file already locked: %r'
278
 
                    % (self.filename,))
279
 
            try:
280
 
                wlock = _fcntl_TemporaryWriteLock(self)
281
 
            except errors.LockError:
282
 
                # We didn't unlock, so we can just return 'self'
283
 
                return False, self
284
 
            return True, wlock
285
 
 
286
 
 
287
 
    class _fcntl_TemporaryWriteLock(_OSLock):
288
 
        """A token used when grabbing a temporary_write_lock.
289
 
 
290
 
        Call restore_read_lock() when you are done with the write lock.
291
 
        """
292
 
 
293
 
        def __init__(self, read_lock):
294
 
            super(_fcntl_TemporaryWriteLock, self).__init__()
295
 
            self._read_lock = read_lock
296
 
            self.filename = read_lock.filename
297
 
 
298
 
            count = _fcntl_ReadLock._open_locks[self.filename]
299
 
            if count > 1:
300
 
                # Something else also has a read-lock, so we cannot grab a
301
 
                # write lock.
302
 
                raise errors.LockContention(self.filename)
303
 
 
304
 
            if self.filename in _fcntl_WriteLock._open_locks:
305
 
                raise AssertionError('file already locked: %r'
306
 
                    % (self.filename,))
307
 
 
308
 
            # See if we can open the file for writing. Another process might
309
 
            # have a read lock. We don't use self._open() because we don't want
310
 
            # to create the file if it exists. That would have already been
311
 
            # done by _fcntl_ReadLock
312
 
            try:
313
 
                new_f = open(self.filename, 'rb+')
314
 
            except IOError, e:
315
 
                if e.errno in (errno.EACCES, errno.EPERM):
316
 
                    raise errors.LockFailed(self.filename, str(e))
317
 
                raise
318
 
            try:
319
 
                # LOCK_NB will cause IOError to be raised if we can't grab a
320
 
                # lock right away.
321
 
                fcntl.lockf(new_f, fcntl.LOCK_EX | fcntl.LOCK_NB)
322
 
            except IOError, e:
323
 
                # TODO: Raise a more specific error based on the type of error
324
 
                raise errors.LockContention(self.filename, e)
325
 
            _fcntl_WriteLock._open_locks.add(self.filename)
326
 
 
327
 
            self.f = new_f
328
 
 
329
 
        def restore_read_lock(self):
330
 
            """Restore the original ReadLock."""
331
 
            # For fcntl, since we never released the read lock, just release the
332
 
            # write lock, and return the original lock.
333
 
            fcntl.lockf(self.f, fcntl.LOCK_UN)
334
 
            self._clear_f()
335
 
            _fcntl_WriteLock._open_locks.remove(self.filename)
336
 
            # Avoid reference cycles
337
 
            read_lock = self._read_lock
338
 
            self._read_lock = None
339
 
            return read_lock
340
 
 
341
 
 
342
 
    _lock_classes.append(('fcntl', _fcntl_WriteLock, _fcntl_ReadLock))
343
 
 
344
 
 
345
 
if have_pywin32 and sys.platform == 'win32':
346
 
    if os.path.supports_unicode_filenames:
347
 
        # for Windows NT/2K/XP/etc
348
 
        win32file_CreateFile = win32file.CreateFileW
349
 
    else:
350
 
        # for Windows 98
351
 
        win32file_CreateFile = win32file.CreateFile
352
 
 
353
 
    class _w32c_FileLock(_OSLock):
354
 
 
355
 
        def _open(self, filename, access, share, cflags, pymode):
356
 
            self.filename = osutils.realpath(filename)
357
 
            try:
358
 
                self._handle = win32file_CreateFile(filename, access, share,
359
 
                    None, win32file.OPEN_ALWAYS,
360
 
                    win32file.FILE_ATTRIBUTE_NORMAL, None)
361
 
            except pywintypes.error, e:
362
 
                if e.args[0] == winerror.ERROR_ACCESS_DENIED:
363
 
                    raise errors.LockFailed(filename, e)
364
 
                if e.args[0] == winerror.ERROR_SHARING_VIOLATION:
365
 
                    raise errors.LockContention(filename, e)
366
 
                raise
367
 
            fd = win32file._open_osfhandle(self._handle, cflags)
368
 
            self.f = os.fdopen(fd, pymode)
369
 
            return self.f
370
 
 
371
 
        def unlock(self):
372
 
            self._clear_f()
373
 
            self._handle = None
374
 
 
375
 
 
376
 
    class _w32c_ReadLock(_w32c_FileLock):
377
 
        def __init__(self, filename):
378
 
            super(_w32c_ReadLock, self).__init__()
379
 
            self._open(filename, win32file.GENERIC_READ,
380
 
                win32file.FILE_SHARE_READ, os.O_RDONLY, "rb")
381
 
 
382
 
        def temporary_write_lock(self):
383
 
            """Try to grab a write lock on the file.
384
 
 
385
 
            On platforms that support it, this will upgrade to a write lock
386
 
            without unlocking the file.
387
 
            Otherwise, this will release the read lock, and try to acquire a
388
 
            write lock.
389
 
 
390
 
            :return: A token which can be used to switch back to a read lock.
391
 
            """
392
 
            # I can't find a way to upgrade a read lock to a write lock without
393
 
            # unlocking first. So here, we do just that.
394
 
            self.unlock()
395
 
            try:
396
 
                wlock = _w32c_WriteLock(self.filename)
397
 
            except errors.LockError:
398
 
                return False, _w32c_ReadLock(self.filename)
399
 
            return True, wlock
400
 
 
401
 
 
402
 
    class _w32c_WriteLock(_w32c_FileLock):
403
 
        def __init__(self, filename):
404
 
            super(_w32c_WriteLock, self).__init__()
405
 
            self._open(filename,
406
 
                win32file.GENERIC_READ | win32file.GENERIC_WRITE, 0,
407
 
                os.O_RDWR, "rb+")
408
 
 
409
 
        def restore_read_lock(self):
410
 
            """Restore the original ReadLock."""
411
 
            # For win32 we had to completely let go of the original lock, so we
412
 
            # just unlock and create a new read lock.
413
 
            self.unlock()
414
 
            return _w32c_ReadLock(self.filename)
415
 
 
416
 
 
417
 
    _lock_classes.append(('pywin32', _w32c_WriteLock, _w32c_ReadLock))
418
 
 
419
 
 
420
 
if have_ctypes_win32:
421
 
    from ctypes.wintypes import DWORD, LPCSTR, LPCWSTR
422
 
    LPSECURITY_ATTRIBUTES = ctypes.c_void_p # used as NULL no need to declare
423
 
    HANDLE = ctypes.c_int # rather than unsigned as in ctypes.wintypes
424
 
    if os.path.supports_unicode_filenames:
425
 
        _function_name = "CreateFileW"
426
 
        LPTSTR = LPCWSTR
427
 
    else:
428
 
        _function_name = "CreateFileA"
429
 
        class LPTSTR(LPCSTR):
430
 
            def __new__(cls, obj):
431
 
                return LPCSTR.__new__(cls, obj.encode("mbcs"))
432
 
 
433
 
    # CreateFile <http://msdn.microsoft.com/en-us/library/aa363858.aspx>
434
 
    _CreateFile = ctypes.WINFUNCTYPE(
435
 
            HANDLE,                # return value
436
 
            LPTSTR,                # lpFileName
437
 
            DWORD,                 # dwDesiredAccess
438
 
            DWORD,                 # dwShareMode
439
 
            LPSECURITY_ATTRIBUTES, # lpSecurityAttributes
440
 
            DWORD,                 # dwCreationDisposition
441
 
            DWORD,                 # dwFlagsAndAttributes
442
 
            HANDLE                 # hTemplateFile
443
 
        )((_function_name, ctypes.windll.kernel32))
444
 
 
445
 
    INVALID_HANDLE_VALUE = -1
446
 
 
447
 
    GENERIC_READ = 0x80000000
448
 
    GENERIC_WRITE = 0x40000000
449
 
    FILE_SHARE_READ = 1
450
 
    OPEN_ALWAYS = 4
451
 
    FILE_ATTRIBUTE_NORMAL = 128
452
 
 
453
 
    ERROR_ACCESS_DENIED = 5
454
 
    ERROR_SHARING_VIOLATION = 32
455
 
 
456
 
    class _ctypes_FileLock(_OSLock):
457
 
 
458
 
        def _open(self, filename, access, share, cflags, pymode):
459
 
            self.filename = osutils.realpath(filename)
460
 
            handle = _CreateFile(filename, access, share, None, OPEN_ALWAYS,
461
 
                FILE_ATTRIBUTE_NORMAL, 0)
462
 
            if handle in (INVALID_HANDLE_VALUE, 0):
463
 
                e = ctypes.WinError()
464
 
                if e.args[0] == ERROR_ACCESS_DENIED:
465
 
                    raise errors.LockFailed(filename, e)
466
 
                if e.args[0] == ERROR_SHARING_VIOLATION:
467
 
                    raise errors.LockContention(filename, e)
468
 
                raise e
469
 
            fd = msvcrt.open_osfhandle(handle, cflags)
470
 
            self.f = os.fdopen(fd, pymode)
471
 
            return self.f
472
 
 
473
 
        def unlock(self):
474
 
            self._clear_f()
475
 
 
476
 
 
477
 
    class _ctypes_ReadLock(_ctypes_FileLock):
478
 
        def __init__(self, filename):
479
 
            super(_ctypes_ReadLock, self).__init__()
480
 
            self._open(filename, GENERIC_READ, FILE_SHARE_READ, os.O_RDONLY,
481
 
                "rb")
482
 
 
483
 
        def temporary_write_lock(self):
484
 
            """Try to grab a write lock on the file.
485
 
 
486
 
            On platforms that support it, this will upgrade to a write lock
487
 
            without unlocking the file.
488
 
            Otherwise, this will release the read lock, and try to acquire a
489
 
            write lock.
490
 
 
491
 
            :return: A token which can be used to switch back to a read lock.
492
 
            """
493
 
            # I can't find a way to upgrade a read lock to a write lock without
494
 
            # unlocking first. So here, we do just that.
495
 
            self.unlock()
496
 
            try:
497
 
                wlock = _ctypes_WriteLock(self.filename)
498
 
            except errors.LockError:
499
 
                return False, _ctypes_ReadLock(self.filename)
500
 
            return True, wlock
501
 
 
502
 
    class _ctypes_WriteLock(_ctypes_FileLock):
503
 
        def __init__(self, filename):
504
 
            super(_ctypes_WriteLock, self).__init__()
505
 
            self._open(filename, GENERIC_READ | GENERIC_WRITE, 0, os.O_RDWR,
506
 
                "rb+")
507
 
 
508
 
        def restore_read_lock(self):
509
 
            """Restore the original ReadLock."""
510
 
            # For win32 we had to completely let go of the original lock, so we
511
 
            # just unlock and create a new read lock.
512
 
            self.unlock()
513
 
            return _ctypes_ReadLock(self.filename)
514
 
 
515
 
 
516
 
    _lock_classes.append(('ctypes', _ctypes_WriteLock, _ctypes_ReadLock))
517
 
 
518
 
 
519
 
if len(_lock_classes) == 0:
520
 
    raise NotImplementedError(
521
 
        "We must have one of fcntl, pywin32, or ctypes available"
522
 
        " to support OS locking."
523
 
        )
524
 
 
525
 
 
526
 
# We default to using the first available lock class.
527
 
_lock_type, WriteLock, ReadLock = _lock_classes[0]
528
 
 
529
 
 
530
 
class _RelockDebugMixin(object):
531
 
    """Mixin support for -Drelock flag.
532
 
 
533
 
    Add this as a base class then call self._note_lock with 'r' or 'w' when
534
 
    acquiring a read- or write-lock.  If this object was previously locked (and
535
 
    locked the same way), and -Drelock is set, then this will trace.note a
536
 
    message about it.
537
 
    """
538
 
 
539
 
    _prev_lock = None
540
 
 
541
 
    def _note_lock(self, lock_type):
542
 
        if 'relock' in debug.debug_flags and self._prev_lock == lock_type:
543
 
            if lock_type == 'r':
544
 
                type_name = 'read'
545
 
            else:
546
 
                type_name = 'write'
547
 
            trace.note(gettext('{0!r} was {1} locked again'), self, type_name)
548
 
        self._prev_lock = lock_type
549