~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lockdir.py

  • Committer: Martin Pool
  • Date: 2006-03-21 12:26:54 UTC
  • mto: This revision was merged to the branch mainline in revision 1621.
  • Revision ID: mbp@sourcefrog.net-20060321122654-514047ed65795a17
New developer commands 'weave-list' and 'weave-join'.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006, 2007 Canonical Ltd
2
 
#
 
1
# Copyright (C) 2006 Canonical Ltd
 
2
 
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
#
 
7
 
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
#
 
12
 
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
88
88
>>> t = MemoryTransport()
89
89
>>> l = LockDir(t, 'sample-lock')
90
90
>>> l.create()
91
 
>>> token = l.wait_lock()
 
91
>>> l.wait_lock()
92
92
>>> # do something here
93
93
>>> l.unlock()
94
94
 
95
95
"""
96
96
 
97
 
 
98
 
# TODO: We sometimes have the problem that our attempt to rename '1234' to
99
 
# 'held' fails because the transport server moves into an existing directory,
100
 
# rather than failing the rename.  If we made the info file name the same as
101
 
# the locked directory name we would avoid this problem because moving into
102
 
# the held directory would implicitly clash.  However this would not mesh with
103
 
# the existing locking code and needs a new format of the containing object.
104
 
# -- robertc, mbp 20070628
105
 
 
106
97
import os
107
98
import time
108
 
from cStringIO import StringIO
 
99
from warnings import warn
 
100
from StringIO import StringIO
109
101
 
110
 
from bzrlib import (
111
 
    debug,
112
 
    errors,
113
 
    )
114
102
import bzrlib.config
115
103
from bzrlib.errors import (
116
104
        DirectoryNotEmpty,
118
106
        LockBreakMismatch,
119
107
        LockBroken,
120
108
        LockContention,
 
109
        LockError,
121
110
        LockNotHeld,
122
111
        NoSuchFile,
123
 
        PathError,
124
 
        ResourceBusy,
125
112
        UnlockableTransport,
126
113
        )
127
 
from bzrlib.trace import mutter, note
128
114
from bzrlib.transport import Transport
129
 
from bzrlib.osutils import rand_chars, format_delta
130
 
from bzrlib.rio import read_stanza, Stanza
131
 
import bzrlib.ui
132
 
 
 
115
from bzrlib.osutils import rand_chars
 
116
from bzrlib.rio import RioWriter, read_stanza, Stanza
133
117
 
134
118
# XXX: At the moment there is no consideration of thread safety on LockDir
135
119
# objects.  This should perhaps be updated - e.g. if two threads try to take a
136
120
# lock at the same time they should *both* get it.  But then that's unlikely
137
121
# to be a good idea.
138
122
 
 
123
# TODO: Transport could offer a simpler put() method that avoids the
 
124
# rename-into-place for cases like creating the lock template, where there is
 
125
# no chance that the file already exists.
 
126
 
139
127
# TODO: Perhaps store some kind of note like the bzr command line in the lock
140
128
# info?
141
129
 
145
133
# TODO: Make sure to pass the right file and directory mode bits to all
146
134
# files/dirs created.
147
135
 
148
 
 
149
136
_DEFAULT_TIMEOUT_SECONDS = 300
150
 
_DEFAULT_POLL_SECONDS = 1.0
151
 
 
 
137
_DEFAULT_POLL_SECONDS = 0.5
152
138
 
153
139
class LockDir(object):
154
140
    """Write-lock guarding access to data."""
170
156
        self.transport = transport
171
157
        self.path = path
172
158
        self._lock_held = False
173
 
        self._locked_via_token = False
174
159
        self._fake_read_lock = False
175
160
        self._held_dir = path + '/held'
176
161
        self._held_info_path = self._held_dir + self.__INFO_NAME
177
162
        self._file_modebits = file_modebits
178
163
        self._dir_modebits = dir_modebits
179
 
 
180
 
        self._report_function = note
 
164
        self.nonce = rand_chars(20)
181
165
 
182
166
    def __repr__(self):
183
167
        return '%s(%s%s)' % (self.__class__.__name__,
186
170
 
187
171
    is_held = property(lambda self: self._lock_held)
188
172
 
189
 
    def create(self, mode=None):
 
173
    def create(self):
190
174
        """Create the on-disk lock.
191
175
 
192
176
        This is typically only called when the object/directory containing the 
194
178
        """
195
179
        if self.transport.is_readonly():
196
180
            raise UnlockableTransport(self.transport)
197
 
        self._trace("create lock directory")
198
 
        self.transport.mkdir(self.path, mode=mode)
 
181
        self.transport.mkdir(self.path)
199
182
 
200
 
    def _attempt_lock(self):
201
 
        """Make the pending directory and attempt to rename into place.
 
183
    def attempt_lock(self):
 
184
        """Take the lock; fail if it's already held.
202
185
        
203
 
        If the rename succeeds, we read back the info file to check that we
204
 
        really got the lock.
205
 
 
206
 
        If we fail to acquire the lock, this method is responsible for
207
 
        cleaning up the pending directory if possible.  (But it doesn't do
208
 
        that yet.)
209
 
 
210
 
        :returns: The nonce of the lock, if it was successfully acquired.
211
 
 
212
 
        :raises LockContention: If the lock is held by someone else.  The exception
213
 
            contains the info of the current holder of the lock.
 
186
        If you wish to block until the lock can be obtained, call wait_lock()
 
187
        instead.
214
188
        """
215
 
        self._trace("lock_write...")
216
 
        start_time = time.time()
217
 
        tmpname = self._create_pending_dir()
 
189
        if self._fake_read_lock:
 
190
            raise LockContention(self)
 
191
        if self.transport.is_readonly():
 
192
            raise UnlockableTransport(self.transport)
218
193
        try:
 
194
            tmpname = '%s/pending.%s.tmp' % (self.path, rand_chars(20))
 
195
            self.transport.mkdir(tmpname)
 
196
            sio = StringIO()
 
197
            self._prepare_info(sio)
 
198
            sio.seek(0)
 
199
            self.transport.put(tmpname + self.__INFO_NAME, sio)
219
200
            self.transport.rename(tmpname, self._held_dir)
220
 
        except (PathError, DirectoryNotEmpty, FileExists, ResourceBusy), e:
221
 
            self._trace("... contention, %s", e)
222
 
            self._remove_pending_dir(tmpname)
223
 
            raise LockContention(self)
224
 
        except Exception, e:
225
 
            self._trace("... lock failed, %s", e)
226
 
            self._remove_pending_dir(tmpname)
227
 
            raise
228
 
        # We must check we really got the lock, because Launchpad's sftp
229
 
        # server at one time had a bug were the rename would successfully
230
 
        # move the new directory into the existing directory, which was
231
 
        # incorrect.  It's possible some other servers or filesystems will
232
 
        # have a similar bug allowing someone to think they got the lock
233
 
        # when it's already held.
234
 
        info = self.peek()
235
 
        self._trace("after locking, info=%r", info)
236
 
        if info['nonce'] != self.nonce:
237
 
            self._trace("rename succeeded, "
238
 
                "but lock is still held by someone else")
239
 
            raise LockContention(self)
240
 
        self._lock_held = True
241
 
        self._trace("... lock succeeded after %dms",
242
 
                (time.time() - start_time) * 1000)
243
 
        return self.nonce
244
 
 
245
 
    def _remove_pending_dir(self, tmpname):
246
 
        """Remove the pending directory
247
 
 
248
 
        This is called if we failed to rename into place, so that the pending 
249
 
        dirs don't clutter up the lockdir.
250
 
        """
251
 
        self._trace("remove %s", tmpname)
252
 
        try:
253
 
            self.transport.delete(tmpname + self.__INFO_NAME)
254
 
            self.transport.rmdir(tmpname)
255
 
        except PathError, e:
256
 
            note("error removing pending lock: %s", e)
257
 
 
258
 
    def _create_pending_dir(self):
259
 
        tmpname = '%s/%s.tmp' % (self.path, rand_chars(10))
260
 
        try:
261
 
            self.transport.mkdir(tmpname)
262
 
        except NoSuchFile:
263
 
            # This may raise a FileExists exception
264
 
            # which is okay, it will be caught later and determined
265
 
            # to be a LockContention.
266
 
            self._trace("lock directory does not exist, creating it")
267
 
            self.create(mode=self._dir_modebits)
268
 
            # After creating the lock directory, try again
269
 
            self.transport.mkdir(tmpname)
270
 
        self.nonce = rand_chars(20)
271
 
        info_bytes = self._prepare_info()
272
 
        # We use put_file_non_atomic because we just created a new unique
273
 
        # directory so we don't have to worry about files existing there.
274
 
        # We'll rename the whole directory into place to get atomic
275
 
        # properties
276
 
        self.transport.put_bytes_non_atomic(tmpname + self.__INFO_NAME,
277
 
                                            info_bytes)
278
 
        return tmpname
 
201
            self._lock_held = True
 
202
            self.confirm()
 
203
            return
 
204
        except (DirectoryNotEmpty, FileExists), e:
 
205
            pass
 
206
        # fall through to here on contention
 
207
        raise LockContention(self)
279
208
 
280
209
    def unlock(self):
281
210
        """Release a held lock
285
214
            return
286
215
        if not self._lock_held:
287
216
            raise LockNotHeld(self)
288
 
        if self._locked_via_token:
289
 
            self._locked_via_token = False
290
 
            self._lock_held = False
291
 
        else:
292
 
            # rename before deleting, because we can't atomically remove the
293
 
            # whole tree
294
 
            start_time = time.time()
295
 
            self._trace("unlocking")
296
 
            tmpname = '%s/releasing.%s.tmp' % (self.path, rand_chars(20))
297
 
            # gotta own it to unlock
298
 
            self.confirm()
299
 
            self.transport.rename(self._held_dir, tmpname)
300
 
            self._lock_held = False
301
 
            self.transport.delete(tmpname + self.__INFO_NAME)
302
 
            try:
303
 
                self.transport.rmdir(tmpname)
304
 
            except DirectoryNotEmpty, e:
305
 
                # There might have been junk left over by a rename that moved
306
 
                # another locker within the 'held' directory.  do a slower
307
 
                # deletion where we list the directory and remove everything
308
 
                # within it.
309
 
                #
310
 
                # Maybe this should be broader to allow for ftp servers with
311
 
                # non-specific error messages?
312
 
                self._trace("doing recursive deletion of non-empty directory "
313
 
                        "%s", tmpname)
314
 
                self.transport.delete_tree(tmpname)
315
 
            self._trace("... unlock succeeded after %dms",
316
 
                    (time.time() - start_time) * 1000)
317
 
 
318
 
    def break_lock(self):
319
 
        """Break a lock not held by this instance of LockDir.
320
 
 
321
 
        This is a UI centric function: it uses the bzrlib.ui.ui_factory to
322
 
        prompt for input if a lock is detected and there is any doubt about
323
 
        it possibly being still active.
324
 
        """
325
 
        self._check_not_locked()
326
 
        holder_info = self.peek()
327
 
        if holder_info is not None:
328
 
            lock_info = '\n'.join(self._format_lock_info(holder_info))
329
 
            if bzrlib.ui.ui_factory.get_boolean("Break %s" % lock_info):
330
 
                self.force_break(holder_info)
331
 
        
 
217
        # rename before deleting, because we can't atomically remove the whole
 
218
        # tree
 
219
        tmpname = '%s/releasing.%s.tmp' % (self.path, rand_chars(20))
 
220
        self.transport.rename(self._held_dir, tmpname)
 
221
        self._lock_held = False
 
222
        self.transport.delete(tmpname + self.__INFO_NAME)
 
223
        self.transport.rmdir(tmpname)
 
224
 
332
225
    def force_break(self, dead_holder_info):
333
226
        """Release a lock held by another process.
334
227
 
347
240
        """
348
241
        if not isinstance(dead_holder_info, dict):
349
242
            raise ValueError("dead_holder_info: %r" % dead_holder_info)
350
 
        self._check_not_locked()
 
243
        if self._lock_held:
 
244
            raise AssertionError("can't break own lock: %r" % self)
351
245
        current_info = self.peek()
352
246
        if current_info is None:
353
247
            # must have been recently released
366
260
        self.transport.delete(broken_info_path)
367
261
        self.transport.rmdir(tmpname)
368
262
 
369
 
    def _check_not_locked(self):
370
 
        """If the lock is held by this instance, raise an error."""
371
 
        if self._lock_held:
372
 
            raise AssertionError("can't break own lock: %r" % self)
373
 
 
374
263
    def confirm(self):
375
264
        """Make sure that the lock is still held by this locker.
376
265
 
407
296
        """
408
297
        try:
409
298
            info = self._read_info_file(self._held_info_path)
410
 
            self._trace("peek -> held")
411
299
            assert isinstance(info, dict), \
412
300
                    "bad parse result %r" % info
413
301
            return info
414
302
        except NoSuchFile, e:
415
 
            self._trace("peek -> not held")
 
303
            return None
416
304
 
417
 
    def _prepare_info(self):
 
305
    def _prepare_info(self, outf):
418
306
        """Write information about a pending lock to a temporary file.
419
307
        """
420
308
        import socket
421
309
        # XXX: is creating this here inefficient?
422
310
        config = bzrlib.config.GlobalConfig()
423
 
        try:
424
 
            user = config.user_email()
425
 
        except errors.NoEmailInUsername:
426
 
            user = config.username()
427
311
        s = Stanza(hostname=socket.gethostname(),
428
312
                   pid=str(os.getpid()),
429
313
                   start_time=str(int(time.time())),
430
314
                   nonce=self.nonce,
431
 
                   user=user,
 
315
                   user=config.user_email(),
432
316
                   )
433
 
        return s.to_string()
 
317
        RioWriter(outf).write_stanza(s)
434
318
 
435
319
    def _parse_info(self, info_file):
436
320
        return read_stanza(info_file.readlines()).as_dict()
437
321
 
438
 
    def attempt_lock(self):
439
 
        """Take the lock; fail if it's already held.
440
 
        
441
 
        If you wish to block until the lock can be obtained, call wait_lock()
442
 
        instead.
443
 
 
444
 
        :return: The lock token.
445
 
        :raises LockContention: if the lock is held by someone else.
446
 
        """
447
 
        if self._fake_read_lock:
448
 
            raise LockContention(self)
449
 
        if self.transport.is_readonly():
450
 
            raise UnlockableTransport(self.transport)
451
 
        return self._attempt_lock()
452
 
 
453
 
    def wait_lock(self, timeout=None, poll=None, max_attempts=None):
 
322
    def wait_lock(self, timeout=_DEFAULT_TIMEOUT_SECONDS,
 
323
                  poll=_DEFAULT_POLL_SECONDS):
454
324
        """Wait a certain period for a lock.
455
325
 
456
326
        If the lock can be acquired within the bounded time, it
458
328
        is raised.  Either way, this function should return within
459
329
        approximately `timeout` seconds.  (It may be a bit more if
460
330
        a transport operation takes a long time to complete.)
461
 
 
462
 
        :param timeout: Approximate maximum amount of time to wait for the
463
 
        lock, in seconds.
464
 
         
465
 
        :param poll: Delay in seconds between retrying the lock.
466
 
 
467
 
        :param max_attempts: Maximum number of times to try to lock.
468
 
 
469
 
        :return: The lock token.
470
331
        """
471
 
        if timeout is None:
472
 
            timeout = _DEFAULT_TIMEOUT_SECONDS
473
 
        if poll is None:
474
 
            poll = _DEFAULT_POLL_SECONDS
475
 
        # XXX: the transport interface doesn't let us guard against operations
476
 
        # there taking a long time, so the total elapsed time or poll interval
477
 
        # may be more than was requested.
 
332
        # XXX: the transport interface doesn't let us guard 
 
333
        # against operations there taking a long time.
478
334
        deadline = time.time() + timeout
479
 
        deadline_str = None
480
 
        last_info = None
481
 
        attempt_count = 0
482
335
        while True:
483
 
            attempt_count += 1
484
336
            try:
485
 
                return self.attempt_lock()
 
337
                self.attempt_lock()
 
338
                return
486
339
            except LockContention:
487
 
                # possibly report the blockage, then try again
488
340
                pass
489
 
            # TODO: In a few cases, we find out that there's contention by
490
 
            # reading the held info and observing that it's not ours.  In
491
 
            # those cases it's a bit redundant to read it again.  However,
492
 
            # the normal case (??) is that the rename fails and so we
493
 
            # don't know who holds the lock.  For simplicity we peek
494
 
            # always.
495
 
            new_info = self.peek()
496
 
            if new_info is not None and new_info != last_info:
497
 
                if last_info is None:
498
 
                    start = 'Unable to obtain'
499
 
                else:
500
 
                    start = 'Lock owner changed for'
501
 
                last_info = new_info
502
 
                formatted_info = self._format_lock_info(new_info)
503
 
                if deadline_str is None:
504
 
                    deadline_str = time.strftime('%H:%M:%S',
505
 
                                                 time.localtime(deadline))
506
 
                self._report_function('%s %s\n'
507
 
                                      '%s\n' # held by
508
 
                                      '%s\n' # locked ... ago
509
 
                                      'Will continue to try until %s\n',
510
 
                                      start,
511
 
                                      formatted_info[0],
512
 
                                      formatted_info[1],
513
 
                                      formatted_info[2],
514
 
                                      deadline_str)
515
 
 
516
 
            if (max_attempts is not None) and (attempt_count >= max_attempts):
517
 
                self._trace("exceeded %d attempts")
518
 
                raise LockContention(self)
519
341
            if time.time() + poll < deadline:
520
 
                self._trace("waiting %ss", poll)
521
342
                time.sleep(poll)
522
343
            else:
523
 
                self._trace("timeout after waiting %ss", timeout)
524
344
                raise LockContention(self)
525
 
    
526
 
    def leave_in_place(self):
527
 
        self._locked_via_token = True
528
 
 
529
 
    def dont_leave_in_place(self):
530
 
        self._locked_via_token = False
531
 
 
532
 
    def lock_write(self, token=None):
533
 
        """Wait for and acquire the lock.
534
 
        
535
 
        :param token: if this is already locked, then lock_write will fail
536
 
            unless the token matches the existing lock.
537
 
        :returns: a token if this instance supports tokens, otherwise None.
538
 
        :raises TokenLockingNotSupported: when a token is given but this
539
 
            instance doesn't support using token locks.
540
 
        :raises MismatchedToken: if the specified token doesn't match the token
541
 
            of the existing lock.
542
 
 
543
 
        A token should be passed in if you know that you have locked the object
544
 
        some other way, and need to synchronise this object's state with that
545
 
        fact.
546
 
         
547
 
        XXX: docstring duplicated from LockableFiles.lock_write.
548
 
        """
549
 
        if token is not None:
550
 
            self.validate_token(token)
551
 
            self.nonce = token
552
 
            self._lock_held = True
553
 
            self._locked_via_token = True
554
 
            return token
555
 
        else:
556
 
            return self.wait_lock()
 
345
 
 
346
    def lock_write(self):
 
347
        """Wait for and acquire the lock."""
 
348
        self.attempt_lock()
557
349
 
558
350
    def lock_read(self):
559
 
        """Compatibility-mode shared lock.
 
351
        """Compatability-mode shared lock.
560
352
 
561
353
        LockDir doesn't support shared read-only locks, so this 
562
354
        just pretends that the lock is taken but really does nothing.
570
362
            raise LockContention(self)
571
363
        self._fake_read_lock = True
572
364
 
573
 
    def _format_lock_info(self, info):
574
 
        """Turn the contents of peek() into something for the user"""
575
 
        lock_url = self.transport.abspath(self.path)
576
 
        delta = time.time() - int(info['start_time'])
577
 
        return [
578
 
            'lock %s' % (lock_url,),
579
 
            'held by %(user)s on host %(hostname)s [process #%(pid)s]' % info,
580
 
            'locked %s' % (format_delta(delta),),
581
 
            ]
582
 
 
583
 
    def validate_token(self, token):
584
 
        if token is not None:
585
 
            info = self.peek()
586
 
            if info is None:
587
 
                # Lock isn't held
588
 
                lock_token = None
589
 
            else:
590
 
                lock_token = info.get('nonce')
591
 
            if token != lock_token:
592
 
                raise errors.TokenMismatch(token, lock_token)
593
 
            else:
594
 
                self._trace("revalidated by token %r", token)
595
 
 
596
 
    def _trace(self, format, *args):
597
 
        if 'lock' not in debug.debug_flags:
598
 
            return
599
 
        mutter(str(self) + ": " + (format % args))
 
365
    def wait(self, timeout=20, poll=0.5):
 
366
        """Wait a certain period for a lock to be released."""
 
367
        # XXX: the transport interface doesn't let us guard 
 
368
        # against operations there taking a long time.
 
369
        deadline = time.time() + timeout
 
370
        while True:
 
371
            if self.peek():
 
372
                return
 
373
            if time.time() + poll < deadline:
 
374
                time.sleep(poll)
 
375
            else:
 
376
                raise LockContention(self)
 
377