~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lockdir.py

  • Committer: Jelmer Vernooij
  • Date: 2010-12-20 11:57:14 UTC
  • mto: This revision was merged to the branch mainline in revision 5577.
  • Revision ID: jelmer@samba.org-20101220115714-2ru3hfappjweeg7q
Don't use no-plugins.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006, 2007 Canonical Ltd
 
1
# Copyright (C) 2006-2010 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
17
"""On-disk mutex protecting a resource
18
18
 
21
21
internal locks (such as flock etc) because they can be seen across all
22
22
transports, including http.
23
23
 
24
 
Objects can be read if there is only physical read access; therefore 
 
24
Objects can be read if there is only physical read access; therefore
25
25
readers can never be required to create a lock, though they will
26
26
check whether a writer is using the lock.  Writers can't detect
27
27
whether anyone else is reading from the resource as they write.
56
56
 
57
57
The desired characteristics are:
58
58
 
59
 
* Locks are not reentrant.  (That is, a client that tries to take a 
 
59
* Locks are not reentrant.  (That is, a client that tries to take a
60
60
  lock it already holds may deadlock or fail.)
61
61
* Stale locks can be guessed at by a heuristic
62
62
* Lost locks can be broken by any client
78
78
and deadlocks will likely occur if the locks are aliased.
79
79
 
80
80
In the future we may add a "freshen" method which can be called
81
 
by a lock holder to check that their lock has not been broken, and to 
 
81
by a lock holder to check that their lock has not been broken, and to
82
82
update the timestamp within it.
83
83
 
84
84
Example usage:
105
105
 
106
106
import os
107
107
import time
108
 
from cStringIO import StringIO
109
108
 
110
109
from bzrlib import (
111
110
    debug,
112
111
    errors,
 
112
    lock,
 
113
    osutils,
113
114
    )
114
115
import bzrlib.config
 
116
from bzrlib.decorators import only_raises
115
117
from bzrlib.errors import (
116
118
        DirectoryNotEmpty,
117
119
        FileExists,
118
120
        LockBreakMismatch,
119
121
        LockBroken,
120
122
        LockContention,
 
123
        LockCorrupt,
121
124
        LockFailed,
122
125
        LockNotHeld,
123
126
        NoSuchFile,
124
127
        PathError,
125
128
        ResourceBusy,
126
129
        TransportError,
127
 
        UnlockableTransport,
128
130
        )
129
131
from bzrlib.trace import mutter, note
130
 
from bzrlib.transport import Transport
131
 
from bzrlib.osutils import rand_chars, format_delta
132
 
from bzrlib.rio import read_stanza, Stanza
 
132
from bzrlib.osutils import format_delta, rand_chars, get_host_name
133
133
import bzrlib.ui
134
134
 
 
135
from bzrlib.lazy_import import lazy_import
 
136
lazy_import(globals(), """
 
137
from bzrlib import rio
 
138
""")
135
139
 
136
140
# XXX: At the moment there is no consideration of thread safety on LockDir
137
141
# objects.  This should perhaps be updated - e.g. if two threads try to take a
148
152
# files/dirs created.
149
153
 
150
154
 
151
 
_DEFAULT_TIMEOUT_SECONDS = 300
 
155
_DEFAULT_TIMEOUT_SECONDS = 30
152
156
_DEFAULT_POLL_SECONDS = 1.0
153
157
 
154
158
 
155
 
class LockDir(object):
156
 
    """Write-lock guarding access to data."""
 
159
class LockDir(lock.Lock):
 
160
    """Write-lock guarding access to data.
 
161
    """
157
162
 
158
163
    __INFO_NAME = '/info'
159
164
 
164
169
 
165
170
        :param transport: Transport which will contain the lock
166
171
 
167
 
        :param path: Path to the lock within the base directory of the 
 
172
        :param path: Path to the lock within the base directory of the
168
173
            transport.
169
174
        """
170
 
        assert isinstance(transport, Transport), \
171
 
            ("not a transport: %r" % transport)
172
175
        self.transport = transport
173
176
        self.path = path
174
177
        self._lock_held = False
191
194
    def create(self, mode=None):
192
195
        """Create the on-disk lock.
193
196
 
194
 
        This is typically only called when the object/directory containing the 
 
197
        This is typically only called when the object/directory containing the
195
198
        directory is first created.  The lock is not held when it's created.
196
199
        """
197
200
        self._trace("create lock directory")
203
206
 
204
207
    def _attempt_lock(self):
205
208
        """Make the pending directory and attempt to rename into place.
206
 
        
 
209
 
207
210
        If the rename succeeds, we read back the info file to check that we
208
211
        really got the lock.
209
212
 
240
243
        # incorrect.  It's possible some other servers or filesystems will
241
244
        # have a similar bug allowing someone to think they got the lock
242
245
        # when it's already held.
 
246
        #
 
247
        # See <https://bugs.launchpad.net/bzr/+bug/498378> for one case.
 
248
        #
 
249
        # Strictly the check is unnecessary and a waste of time for most
 
250
        # people, but probably worth trapping if something is wrong.
243
251
        info = self.peek()
244
252
        self._trace("after locking, info=%r", info)
245
 
        if info['nonce'] != self.nonce:
 
253
        if info is None:
 
254
            raise LockFailed(self, "lock was renamed into place, but "
 
255
                "now is missing!")
 
256
        if info.get('nonce') != self.nonce:
246
257
            self._trace("rename succeeded, "
247
258
                "but lock is still held by someone else")
248
259
            raise LockContention(self)
254
265
    def _remove_pending_dir(self, tmpname):
255
266
        """Remove the pending directory
256
267
 
257
 
        This is called if we failed to rename into place, so that the pending 
 
268
        This is called if we failed to rename into place, so that the pending
258
269
        dirs don't clutter up the lockdir.
259
270
        """
260
271
        self._trace("remove %s", tmpname)
286
297
                                            info_bytes)
287
298
        return tmpname
288
299
 
 
300
    @only_raises(LockNotHeld, LockBroken)
289
301
    def unlock(self):
290
302
        """Release a held lock
291
303
        """
293
305
            self._fake_read_lock = False
294
306
            return
295
307
        if not self._lock_held:
296
 
            raise LockNotHeld(self)
 
308
            return lock.cant_unlock_not_held(self)
297
309
        if self._locked_via_token:
298
310
            self._locked_via_token = False
299
311
            self._lock_held = False
300
312
        else:
 
313
            old_nonce = self.nonce
301
314
            # rename before deleting, because we can't atomically remove the
302
315
            # whole tree
303
316
            start_time = time.time()
323
336
                self.transport.delete_tree(tmpname)
324
337
            self._trace("... unlock succeeded after %dms",
325
338
                    (time.time() - start_time) * 1000)
 
339
            result = lock.LockResult(self.transport.abspath(self.path),
 
340
                                     old_nonce)
 
341
            for hook in self.hooks['lock_released']:
 
342
                hook(result)
326
343
 
327
344
    def break_lock(self):
328
345
        """Break a lock not held by this instance of LockDir.
330
347
        This is a UI centric function: it uses the bzrlib.ui.ui_factory to
331
348
        prompt for input if a lock is detected and there is any doubt about
332
349
        it possibly being still active.
 
350
 
 
351
        :returns: LockResult for the broken lock.
333
352
        """
334
353
        self._check_not_locked()
335
 
        holder_info = self.peek()
 
354
        try:
 
355
            holder_info = self.peek()
 
356
        except LockCorrupt, e:
 
357
            # The lock info is corrupt.
 
358
            if bzrlib.ui.ui_factory.get_boolean("Break (corrupt %r)" % (self,)):
 
359
                self.force_break_corrupt(e.file_data)
 
360
            return
336
361
        if holder_info is not None:
337
362
            lock_info = '\n'.join(self._format_lock_info(holder_info))
338
 
            if bzrlib.ui.ui_factory.get_boolean("Break %s" % lock_info):
339
 
                self.force_break(holder_info)
340
 
        
 
363
            if bzrlib.ui.ui_factory.confirm_action(
 
364
                "Break %(lock_info)s", 'bzrlib.lockdir.break', 
 
365
                dict(lock_info=lock_info)):
 
366
                result = self.force_break(holder_info)
 
367
                bzrlib.ui.ui_factory.show_message(
 
368
                    "Broke lock %s" % result.lock_url)
 
369
 
341
370
    def force_break(self, dead_holder_info):
342
371
        """Release a lock held by another process.
343
372
 
351
380
        LockBreakMismatch is raised.
352
381
 
353
382
        After the lock is broken it will not be held by any process.
354
 
        It is possible that another process may sneak in and take the 
 
383
        It is possible that another process may sneak in and take the
355
384
        lock before the breaking process acquires it.
 
385
 
 
386
        :returns: LockResult for the broken lock.
356
387
        """
357
388
        if not isinstance(dead_holder_info, dict):
358
389
            raise ValueError("dead_holder_info: %r" % dead_holder_info)
366
397
        tmpname = '%s/broken.%s.tmp' % (self.path, rand_chars(20))
367
398
        self.transport.rename(self._held_dir, tmpname)
368
399
        # check that we actually broke the right lock, not someone else;
369
 
        # there's a small race window between checking it and doing the 
 
400
        # there's a small race window between checking it and doing the
370
401
        # rename.
371
402
        broken_info_path = tmpname + self.__INFO_NAME
372
403
        broken_info = self._read_info_file(broken_info_path)
374
405
            raise LockBreakMismatch(self, broken_info, dead_holder_info)
375
406
        self.transport.delete(broken_info_path)
376
407
        self.transport.rmdir(tmpname)
 
408
        result = lock.LockResult(self.transport.abspath(self.path),
 
409
                                 current_info.get('nonce'))
 
410
        for hook in self.hooks['lock_broken']:
 
411
            hook(result)
 
412
        return result
 
413
 
 
414
    def force_break_corrupt(self, corrupt_info_lines):
 
415
        """Release a lock that has been corrupted.
 
416
        
 
417
        This is very similar to force_break, it except it doesn't assume that
 
418
        self.peek() can work.
 
419
        
 
420
        :param corrupt_info_lines: the lines of the corrupted info file, used
 
421
            to check that the lock hasn't changed between reading the (corrupt)
 
422
            info file and calling force_break_corrupt.
 
423
        """
 
424
        # XXX: this copes with unparseable info files, but what about missing
 
425
        # info files?  Or missing lock dirs?
 
426
        self._check_not_locked()
 
427
        tmpname = '%s/broken.%s.tmp' % (self.path, rand_chars(20))
 
428
        self.transport.rename(self._held_dir, tmpname)
 
429
        # check that we actually broke the right lock, not someone else;
 
430
        # there's a small race window between checking it and doing the
 
431
        # rename.
 
432
        broken_info_path = tmpname + self.__INFO_NAME
 
433
        f = self.transport.get(broken_info_path)
 
434
        broken_lines = f.readlines()
 
435
        if broken_lines != corrupt_info_lines:
 
436
            raise LockBreakMismatch(self, broken_lines, corrupt_info_lines)
 
437
        self.transport.delete(broken_info_path)
 
438
        self.transport.rmdir(tmpname)
 
439
        result = lock.LockResult(self.transport.abspath(self.path))
 
440
        for hook in self.hooks['lock_broken']:
 
441
            hook(result)
377
442
 
378
443
    def _check_not_locked(self):
379
444
        """If the lock is held by this instance, raise an error."""
387
452
        or if the lock has been affected by a bug.
388
453
 
389
454
        If the lock is not thought to be held, raises LockNotHeld.  If
390
 
        the lock is thought to be held but has been broken, raises 
 
455
        the lock is thought to be held but has been broken, raises
391
456
        LockBroken.
392
457
        """
393
458
        if not self._lock_held:
399
464
        if info.get('nonce') != self.nonce:
400
465
            # there is a lock, but not ours
401
466
            raise LockBroken(self)
402
 
        
 
467
 
403
468
    def _read_info_file(self, path):
404
469
        """Read one given info file.
405
470
 
406
471
        peek() reads the info file of the lock holder, if any.
407
472
        """
408
 
        return self._parse_info(self.transport.get(path))
 
473
        return self._parse_info(self.transport.get_bytes(path))
409
474
 
410
475
    def peek(self):
411
476
        """Check if the lock is held by anyone.
412
 
        
413
 
        If it is held, this returns the lock info structure as a rio Stanza,
 
477
 
 
478
        If it is held, this returns the lock info structure as a dict
414
479
        which contains some information about the current lock holder.
415
480
        Otherwise returns None.
416
481
        """
417
482
        try:
418
483
            info = self._read_info_file(self._held_info_path)
419
484
            self._trace("peek -> held")
420
 
            assert isinstance(info, dict), \
421
 
                    "bad parse result %r" % info
422
485
            return info
423
486
        except NoSuchFile, e:
424
487
            self._trace("peek -> not held")
426
489
    def _prepare_info(self):
427
490
        """Write information about a pending lock to a temporary file.
428
491
        """
429
 
        import socket
430
492
        # XXX: is creating this here inefficient?
431
493
        config = bzrlib.config.GlobalConfig()
432
494
        try:
433
 
            user = config.user_email()
434
 
        except errors.NoEmailInUsername:
435
495
            user = config.username()
436
 
        s = Stanza(hostname=socket.gethostname(),
 
496
        except errors.NoWhoami:
 
497
            user = osutils.getuser_unicode()
 
498
        s = rio.Stanza(hostname=get_host_name(),
437
499
                   pid=str(os.getpid()),
438
500
                   start_time=str(int(time.time())),
439
501
                   nonce=self.nonce,
441
503
                   )
442
504
        return s.to_string()
443
505
 
444
 
    def _parse_info(self, info_file):
445
 
        return read_stanza(info_file.readlines()).as_dict()
 
506
    def _parse_info(self, info_bytes):
 
507
        lines = osutils.split_lines(info_bytes)
 
508
        try:
 
509
            stanza = rio.read_stanza(lines)
 
510
        except ValueError, e:
 
511
            mutter('Corrupt lock info file: %r', lines)
 
512
            raise LockCorrupt("could not parse lock info file: " + str(e),
 
513
                              lines)
 
514
        if stanza is None:
 
515
            # see bug 185013; we fairly often end up with the info file being
 
516
            # empty after an interruption; we could log a message here but
 
517
            # there may not be much we can say
 
518
            return {}
 
519
        else:
 
520
            return stanza.as_dict()
446
521
 
447
522
    def attempt_lock(self):
448
523
        """Take the lock; fail if it's already held.
449
 
        
 
524
 
450
525
        If you wish to block until the lock can be obtained, call wait_lock()
451
526
        instead.
452
527
 
455
530
        """
456
531
        if self._fake_read_lock:
457
532
            raise LockContention(self)
458
 
        return self._attempt_lock()
 
533
        result = self._attempt_lock()
 
534
        hook_result = lock.LockResult(self.transport.abspath(self.path),
 
535
                self.nonce)
 
536
        for hook in self.hooks['lock_acquired']:
 
537
            hook(hook_result)
 
538
        return result
459
539
 
460
540
    def wait_lock(self, timeout=None, poll=None, max_attempts=None):
461
541
        """Wait a certain period for a lock.
468
548
 
469
549
        :param timeout: Approximate maximum amount of time to wait for the
470
550
        lock, in seconds.
471
 
         
 
551
 
472
552
        :param poll: Delay in seconds between retrying the lock.
473
553
 
474
554
        :param max_attempts: Maximum number of times to try to lock.
510
590
                if deadline_str is None:
511
591
                    deadline_str = time.strftime('%H:%M:%S',
512
592
                                                 time.localtime(deadline))
513
 
                self._report_function('%s %s\n'
514
 
                                      '%s\n' # held by
515
 
                                      '%s\n' # locked ... ago
516
 
                                      'Will continue to try until %s\n',
517
 
                                      start,
518
 
                                      formatted_info[0],
519
 
                                      formatted_info[1],
520
 
                                      formatted_info[2],
521
 
                                      deadline_str)
522
 
 
 
593
                # As local lock urls are correct we display them.
 
594
                # We avoid displaying remote lock urls.
 
595
                lock_url = self.transport.abspath(self.path)
 
596
                if lock_url.startswith('file://'):
 
597
                    lock_url = lock_url.split('.bzr/')[0]
 
598
                else:
 
599
                    lock_url = ''
 
600
                user, hostname, pid, time_ago = formatted_info
 
601
                msg = ('%s lock %s '        # lock_url
 
602
                    'held by '              # start
 
603
                    '%s\n'                  # user
 
604
                    'at %s '                # hostname
 
605
                    '[process #%s], '       # pid
 
606
                    'acquired %s.')         # time ago
 
607
                msg_args = [start, lock_url, user, hostname, pid, time_ago]
 
608
                if timeout > 0:
 
609
                    msg += ('\nWill continue to try until %s, unless '
 
610
                        'you press Ctrl-C.')
 
611
                    msg_args.append(deadline_str)
 
612
                msg += '\nSee "bzr help break-lock" for more.'
 
613
                self._report_function(msg, *msg_args)
523
614
            if (max_attempts is not None) and (attempt_count >= max_attempts):
524
615
                self._trace("exceeded %d attempts")
525
616
                raise LockContention(self)
527
618
                self._trace("waiting %ss", poll)
528
619
                time.sleep(poll)
529
620
            else:
 
621
                # As timeout is always 0 for remote locks
 
622
                # this block is applicable only for local
 
623
                # lock contention
530
624
                self._trace("timeout after waiting %ss", timeout)
531
 
                raise LockContention(self)
532
 
    
 
625
                raise LockContention('(local)', lock_url)
 
626
 
533
627
    def leave_in_place(self):
534
628
        self._locked_via_token = True
535
629
 
538
632
 
539
633
    def lock_write(self, token=None):
540
634
        """Wait for and acquire the lock.
541
 
        
 
635
 
542
636
        :param token: if this is already locked, then lock_write will fail
543
637
            unless the token matches the existing lock.
544
638
        :returns: a token if this instance supports tokens, otherwise None.
550
644
        A token should be passed in if you know that you have locked the object
551
645
        some other way, and need to synchronise this object's state with that
552
646
        fact.
553
 
         
 
647
 
554
648
        XXX: docstring duplicated from LockableFiles.lock_write.
555
649
        """
556
650
        if token is not None:
565
659
    def lock_read(self):
566
660
        """Compatibility-mode shared lock.
567
661
 
568
 
        LockDir doesn't support shared read-only locks, so this 
 
662
        LockDir doesn't support shared read-only locks, so this
569
663
        just pretends that the lock is taken but really does nothing.
570
664
        """
571
 
        # At the moment Branches are commonly locked for read, but 
 
665
        # At the moment Branches are commonly locked for read, but
572
666
        # we can't rely on that remotely.  Once this is cleaned up,
573
 
        # reenable this warning to prevent it coming back in 
 
667
        # reenable this warning to prevent it coming back in
574
668
        # -- mbp 20060303
575
669
        ## warn("LockDir.lock_read falls back to write lock")
576
670
        if self._lock_held or self._fake_read_lock:
579
673
 
580
674
    def _format_lock_info(self, info):
581
675
        """Turn the contents of peek() into something for the user"""
582
 
        lock_url = self.transport.abspath(self.path)
583
 
        delta = time.time() - int(info['start_time'])
 
676
        start_time = info.get('start_time')
 
677
        if start_time is None:
 
678
            time_ago = '(unknown)'
 
679
        else:
 
680
            time_ago = format_delta(time.time() - int(info['start_time']))
 
681
        user = info.get('user', '<unknown>')
 
682
        hostname = info.get('hostname', '<unknown>')
 
683
        pid = info.get('pid', '<unknown>')
584
684
        return [
585
 
            'lock %s' % (lock_url,),
586
 
            'held by %(user)s on host %(hostname)s [process #%(pid)s]' % info,
587
 
            'locked %s' % (format_delta(delta),),
 
685
            user,
 
686
            hostname,
 
687
            pid,
 
688
            time_ago,
588
689
            ]
589
690
 
590
691
    def validate_token(self, token):