~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lockdir.py

  • Committer: Jelmer Vernooij
  • Date: 2012-01-24 13:14:06 UTC
  • mto: (6445.4.5 nested-trees-spec)
  • mto: This revision was merged to the branch mainline in revision 6518.
  • Revision ID: jelmer@samba.org-20120124131406-wedftkorbpv37bm0
Import nested tree doc from devnotes.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006-2010 Canonical Ltd
 
1
# Copyright (C) 2006-2011 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
92
92
>>> # do something here
93
93
>>> l.unlock()
94
94
 
 
95
Some classes of stale locks can be predicted by checking: the host name is the
 
96
same as the local host name; the user name is the same as the local user; the
 
97
process id no longer exists.  The check on user name is not strictly necessary
 
98
but helps protect against colliding host names.
95
99
"""
96
100
 
 
101
from __future__ import absolute_import
 
102
 
97
103
 
98
104
# TODO: We sometimes have the problem that our attempt to rename '1234' to
99
105
# 'held' fails because the transport server moves into an existing directory,
107
113
import time
108
114
 
109
115
from bzrlib import (
 
116
    config,
110
117
    debug,
111
118
    errors,
112
119
    lock,
113
120
    osutils,
 
121
    ui,
 
122
    urlutils,
114
123
    )
115
 
import bzrlib.config
116
124
from bzrlib.decorators import only_raises
117
125
from bzrlib.errors import (
118
126
        DirectoryNotEmpty,
120
128
        LockBreakMismatch,
121
129
        LockBroken,
122
130
        LockContention,
 
131
        LockCorrupt,
123
132
        LockFailed,
124
133
        LockNotHeld,
125
134
        NoSuchFile,
129
138
        )
130
139
from bzrlib.trace import mutter, note
131
140
from bzrlib.osutils import format_delta, rand_chars, get_host_name
132
 
import bzrlib.ui
 
141
from bzrlib.i18n import gettext
133
142
 
134
143
from bzrlib.lazy_import import lazy_import
135
144
lazy_import(globals(), """
161
170
 
162
171
    __INFO_NAME = '/info'
163
172
 
164
 
    def __init__(self, transport, path, file_modebits=0644, dir_modebits=0755):
 
173
    def __init__(self, transport, path, file_modebits=0644, dir_modebits=0755,
 
174
        extra_holder_info=None):
165
175
        """Create a new LockDir object.
166
176
 
167
177
        The LockDir is initially unlocked - this just creates the object.
170
180
 
171
181
        :param path: Path to the lock within the base directory of the
172
182
            transport.
 
183
 
 
184
        :param extra_holder_info: If passed, {str:str} dict of extra or
 
185
            updated information to insert into the info file when the lock is
 
186
            taken.
173
187
        """
174
188
        self.transport = transport
175
189
        self.path = path
180
194
        self._held_info_path = self._held_dir + self.__INFO_NAME
181
195
        self._file_modebits = file_modebits
182
196
        self._dir_modebits = dir_modebits
183
 
 
184
197
        self._report_function = note
 
198
        self.extra_holder_info = extra_holder_info
 
199
        self._warned_about_lock_holder = None
185
200
 
186
201
    def __repr__(self):
187
202
        return '%s(%s%s)' % (self.__class__.__name__,
202
217
        except (TransportError, PathError), e:
203
218
            raise LockFailed(self, e)
204
219
 
205
 
 
206
220
    def _attempt_lock(self):
207
221
        """Make the pending directory and attempt to rename into place.
208
222
 
215
229
 
216
230
        :returns: The nonce of the lock, if it was successfully acquired.
217
231
 
218
 
        :raises LockContention: If the lock is held by someone else.  The exception
219
 
            contains the info of the current holder of the lock.
 
232
        :raises LockContention: If the lock is held by someone else.  The
 
233
            exception contains the info of the current holder of the lock.
220
234
        """
221
235
        self._trace("lock_write...")
222
236
        start_time = time.time()
225
239
        except (errors.TransportError, PathError), e:
226
240
            self._trace("... failed to create pending dir, %s", e)
227
241
            raise LockFailed(self, e)
228
 
        try:
229
 
            self.transport.rename(tmpname, self._held_dir)
230
 
        except (errors.TransportError, PathError, DirectoryNotEmpty,
231
 
                FileExists, ResourceBusy), e:
232
 
            self._trace("... contention, %s", e)
233
 
            self._remove_pending_dir(tmpname)
234
 
            raise LockContention(self)
235
 
        except Exception, e:
236
 
            self._trace("... lock failed, %s", e)
237
 
            self._remove_pending_dir(tmpname)
238
 
            raise
 
242
        while True:
 
243
            try:
 
244
                self.transport.rename(tmpname, self._held_dir)
 
245
                break
 
246
            except (errors.TransportError, PathError, DirectoryNotEmpty,
 
247
                    FileExists, ResourceBusy), e:
 
248
                self._trace("... contention, %s", e)
 
249
                other_holder = self.peek()
 
250
                self._trace("other holder is %r" % other_holder)
 
251
                try:
 
252
                    self._handle_lock_contention(other_holder)
 
253
                except:
 
254
                    self._remove_pending_dir(tmpname)
 
255
                    raise
 
256
            except Exception, e:
 
257
                self._trace("... lock failed, %s", e)
 
258
                self._remove_pending_dir(tmpname)
 
259
                raise
239
260
        # We must check we really got the lock, because Launchpad's sftp
240
261
        # server at one time had a bug were the rename would successfully
241
262
        # move the new directory into the existing directory, which was
261
282
                (time.time() - start_time) * 1000)
262
283
        return self.nonce
263
284
 
 
285
    def _handle_lock_contention(self, other_holder):
 
286
        """A lock we want to take is held by someone else.
 
287
 
 
288
        This function can: tell the user about it; possibly detect that it's
 
289
        safe or appropriate to steal the lock, or just raise an exception.
 
290
 
 
291
        If this function returns (without raising an exception) the lock will
 
292
        be attempted again.
 
293
 
 
294
        :param other_holder: A LockHeldInfo for the current holder; note that
 
295
            it might be None if the lock can be seen to be held but the info
 
296
            can't be read.
 
297
        """
 
298
        if (other_holder is not None):
 
299
            if other_holder.is_lock_holder_known_dead():
 
300
                if self.get_config().get('locks.steal_dead'):
 
301
                    ui.ui_factory.show_user_warning(
 
302
                        'locks_steal_dead',
 
303
                        lock_url=urlutils.join(self.transport.base, self.path),
 
304
                        other_holder_info=unicode(other_holder))
 
305
                    self.force_break(other_holder)
 
306
                    self._trace("stole lock from dead holder")
 
307
                    return
 
308
        raise LockContention(self)
 
309
 
264
310
    def _remove_pending_dir(self, tmpname):
265
311
        """Remove the pending directory
266
312
 
272
318
            self.transport.delete(tmpname + self.__INFO_NAME)
273
319
            self.transport.rmdir(tmpname)
274
320
        except PathError, e:
275
 
            note("error removing pending lock: %s", e)
 
321
            note(gettext("error removing pending lock: %s"), e)
276
322
 
277
323
    def _create_pending_dir(self):
278
324
        tmpname = '%s/%s.tmp' % (self.path, rand_chars(10))
286
332
            self.create(mode=self._dir_modebits)
287
333
            # After creating the lock directory, try again
288
334
            self.transport.mkdir(tmpname)
289
 
        self.nonce = rand_chars(20)
290
 
        info_bytes = self._prepare_info()
 
335
        info = LockHeldInfo.for_this_process(self.extra_holder_info)
 
336
        self.nonce = info.get('nonce')
291
337
        # We use put_file_non_atomic because we just created a new unique
292
338
        # directory so we don't have to worry about files existing there.
293
339
        # We'll rename the whole directory into place to get atomic
294
340
        # properties
295
341
        self.transport.put_bytes_non_atomic(tmpname + self.__INFO_NAME,
296
 
                                            info_bytes)
 
342
            info.to_bytes())
297
343
        return tmpname
298
344
 
299
345
    @only_raises(LockNotHeld, LockBroken)
343
389
    def break_lock(self):
344
390
        """Break a lock not held by this instance of LockDir.
345
391
 
346
 
        This is a UI centric function: it uses the bzrlib.ui.ui_factory to
 
392
        This is a UI centric function: it uses the ui.ui_factory to
347
393
        prompt for input if a lock is detected and there is any doubt about
348
 
        it possibly being still active.
 
394
        it possibly being still active.  force_break is the non-interactive
 
395
        version.
 
396
 
 
397
        :returns: LockResult for the broken lock.
349
398
        """
350
399
        self._check_not_locked()
351
 
        holder_info = self.peek()
 
400
        try:
 
401
            holder_info = self.peek()
 
402
        except LockCorrupt, e:
 
403
            # The lock info is corrupt.
 
404
            if ui.ui_factory.get_boolean(u"Break (corrupt %r)" % (self,)):
 
405
                self.force_break_corrupt(e.file_data)
 
406
            return
352
407
        if holder_info is not None:
353
 
            lock_info = '\n'.join(self._format_lock_info(holder_info))
354
 
            if bzrlib.ui.ui_factory.get_boolean("Break %s" % lock_info):
355
 
                self.force_break(holder_info)
 
408
            if ui.ui_factory.confirm_action(
 
409
                u"Break %(lock_info)s",
 
410
                'bzrlib.lockdir.break',
 
411
                dict(lock_info=unicode(holder_info))):
 
412
                result = self.force_break(holder_info)
 
413
                ui.ui_factory.show_message(
 
414
                    "Broke lock %s" % result.lock_url)
356
415
 
357
416
    def force_break(self, dead_holder_info):
358
417
        """Release a lock held by another process.
361
420
        it still thinks it has the lock there will be two concurrent writers.
362
421
        In general the user's approval should be sought for lock breaks.
363
422
 
364
 
        dead_holder_info must be the result of a previous LockDir.peek() call;
365
 
        this is used to check that it's still held by the same process that
366
 
        the user decided was dead.  If this is not the current holder,
367
 
        LockBreakMismatch is raised.
368
 
 
369
423
        After the lock is broken it will not be held by any process.
370
424
        It is possible that another process may sneak in and take the
371
425
        lock before the breaking process acquires it.
 
426
 
 
427
        :param dead_holder_info:
 
428
            Must be the result of a previous LockDir.peek() call; this is used
 
429
            to check that it's still held by the same process that the user
 
430
            decided was dead.  If this is not the current holder,
 
431
            LockBreakMismatch is raised.
 
432
 
 
433
        :returns: LockResult for the broken lock.
372
434
        """
373
 
        if not isinstance(dead_holder_info, dict):
 
435
        if not isinstance(dead_holder_info, LockHeldInfo):
374
436
            raise ValueError("dead_holder_info: %r" % dead_holder_info)
375
437
        self._check_not_locked()
376
438
        current_info = self.peek()
394
456
                                 current_info.get('nonce'))
395
457
        for hook in self.hooks['lock_broken']:
396
458
            hook(result)
 
459
        return result
 
460
 
 
461
    def force_break_corrupt(self, corrupt_info_lines):
 
462
        """Release a lock that has been corrupted.
 
463
 
 
464
        This is very similar to force_break, it except it doesn't assume that
 
465
        self.peek() can work.
 
466
 
 
467
        :param corrupt_info_lines: the lines of the corrupted info file, used
 
468
            to check that the lock hasn't changed between reading the (corrupt)
 
469
            info file and calling force_break_corrupt.
 
470
        """
 
471
        # XXX: this copes with unparseable info files, but what about missing
 
472
        # info files?  Or missing lock dirs?
 
473
        self._check_not_locked()
 
474
        tmpname = '%s/broken.%s.tmp' % (self.path, rand_chars(20))
 
475
        self.transport.rename(self._held_dir, tmpname)
 
476
        # check that we actually broke the right lock, not someone else;
 
477
        # there's a small race window between checking it and doing the
 
478
        # rename.
 
479
        broken_info_path = tmpname + self.__INFO_NAME
 
480
        broken_content = self.transport.get_bytes(broken_info_path)
 
481
        broken_lines = osutils.split_lines(broken_content)
 
482
        if broken_lines != corrupt_info_lines:
 
483
            raise LockBreakMismatch(self, broken_lines, corrupt_info_lines)
 
484
        self.transport.delete(broken_info_path)
 
485
        self.transport.rmdir(tmpname)
 
486
        result = lock.LockResult(self.transport.abspath(self.path))
 
487
        for hook in self.hooks['lock_broken']:
 
488
            hook(result)
397
489
 
398
490
    def _check_not_locked(self):
399
491
        """If the lock is held by this instance, raise an error."""
425
517
 
426
518
        peek() reads the info file of the lock holder, if any.
427
519
        """
428
 
        return self._parse_info(self.transport.get_bytes(path))
 
520
        return LockHeldInfo.from_info_file_bytes(
 
521
            self.transport.get_bytes(path))
429
522
 
430
523
    def peek(self):
431
524
        """Check if the lock is held by anyone.
444
537
    def _prepare_info(self):
445
538
        """Write information about a pending lock to a temporary file.
446
539
        """
447
 
        # XXX: is creating this here inefficient?
448
 
        config = bzrlib.config.GlobalConfig()
449
 
        try:
450
 
            user = config.username()
451
 
        except errors.NoWhoami:
452
 
            user = osutils.getuser_unicode()
453
 
        s = rio.Stanza(hostname=get_host_name(),
454
 
                   pid=str(os.getpid()),
455
 
                   start_time=str(int(time.time())),
456
 
                   nonce=self.nonce,
457
 
                   user=user,
458
 
                   )
459
 
        return s.to_string()
460
 
 
461
 
    def _parse_info(self, info_bytes):
462
 
        stanza = rio.read_stanza(osutils.split_lines(info_bytes))
463
 
        if stanza is None:
464
 
            # see bug 185013; we fairly often end up with the info file being
465
 
            # empty after an interruption; we could log a message here but
466
 
            # there may not be much we can say
467
 
            return {}
468
 
        else:
469
 
            return stanza.as_dict()
470
540
 
471
541
    def attempt_lock(self):
472
542
        """Take the lock; fail if it's already held.
486
556
            hook(hook_result)
487
557
        return result
488
558
 
 
559
    def lock_url_for_display(self):
 
560
        """Give a nicely-printable representation of the URL of this lock."""
 
561
        # As local lock urls are correct we display them.
 
562
        # We avoid displaying remote lock urls.
 
563
        lock_url = self.transport.abspath(self.path)
 
564
        if lock_url.startswith('file://'):
 
565
            lock_url = lock_url.split('.bzr/')[0]
 
566
        else:
 
567
            lock_url = ''
 
568
        return lock_url
 
569
 
489
570
    def wait_lock(self, timeout=None, poll=None, max_attempts=None):
490
571
        """Wait a certain period for a lock.
491
572
 
515
596
        deadline_str = None
516
597
        last_info = None
517
598
        attempt_count = 0
 
599
        lock_url = self.lock_url_for_display()
518
600
        while True:
519
601
            attempt_count += 1
520
602
            try:
531
613
            new_info = self.peek()
532
614
            if new_info is not None and new_info != last_info:
533
615
                if last_info is None:
534
 
                    start = 'Unable to obtain'
 
616
                    start = gettext('Unable to obtain')
535
617
                else:
536
 
                    start = 'Lock owner changed for'
 
618
                    start = gettext('Lock owner changed for')
537
619
                last_info = new_info
538
 
                formatted_info = self._format_lock_info(new_info)
 
620
                msg = gettext('{0} lock {1} {2}.').format(start, lock_url,
 
621
                                                                    new_info)
539
622
                if deadline_str is None:
540
623
                    deadline_str = time.strftime('%H:%M:%S',
541
 
                                                 time.localtime(deadline))
542
 
                # As local lock urls are correct we display them.
543
 
                # We avoid displaying remote lock urls.
544
 
                lock_url = self.transport.abspath(self.path)
545
 
                if lock_url.startswith('file://'):
546
 
                    lock_url = lock_url.split('.bzr/')[0]
547
 
                else:
548
 
                    lock_url = ''
549
 
                user, hostname, pid, time_ago = formatted_info
550
 
                msg = ('%s lock %s '        # lock_url
551
 
                    'held by '              # start
552
 
                    '%s\n'                  # user
553
 
                    'at %s '                # hostname
554
 
                    '[process #%s], '       # pid
555
 
                    'acquired %s.')         # time ago
556
 
                msg_args = [start, lock_url, user, hostname, pid, time_ago]
 
624
                                                    time.localtime(deadline))
557
625
                if timeout > 0:
558
 
                    msg += ('\nWill continue to try until %s, unless '
559
 
                        'you press Ctrl-C.')
560
 
                    msg_args.append(deadline_str)
561
 
                msg += '\nSee "bzr help break-lock" for more.'
562
 
                self._report_function(msg, *msg_args)
 
626
                    msg += '\n' + gettext(
 
627
                             'Will continue to try until %s, unless '
 
628
                             'you press Ctrl-C.') % deadline_str
 
629
                msg += '\n' + gettext('See "bzr help break-lock" for more.')
 
630
                self._report_function(msg)
563
631
            if (max_attempts is not None) and (attempt_count >= max_attempts):
564
632
                self._trace("exceeded %d attempts")
565
633
                raise LockContention(self)
620
688
            raise LockContention(self)
621
689
        self._fake_read_lock = True
622
690
 
623
 
    def _format_lock_info(self, info):
624
 
        """Turn the contents of peek() into something for the user"""
625
 
        start_time = info.get('start_time')
626
 
        if start_time is None:
627
 
            time_ago = '(unknown)'
628
 
        else:
629
 
            time_ago = format_delta(time.time() - int(info['start_time']))
630
 
        user = info.get('user', '<unknown>')
631
 
        hostname = info.get('hostname', '<unknown>')
632
 
        pid = info.get('pid', '<unknown>')
633
 
        return [
634
 
            user,
635
 
            hostname,
636
 
            pid,
637
 
            time_ago,
638
 
            ]
639
 
 
640
691
    def validate_token(self, token):
641
692
        if token is not None:
642
693
            info = self.peek()
654
705
        if 'lock' not in debug.debug_flags:
655
706
            return
656
707
        mutter(str(self) + ": " + (format % args))
 
708
 
 
709
    def get_config(self):
 
710
        """Get the configuration that governs this lockdir."""
 
711
        # XXX: This really should also use the locationconfig at least, but
 
712
        # that seems a bit hard to hook up at the moment. -- mbp 20110329
 
713
        # FIXME: The above is still true ;) -- vila 20110811
 
714
        return config.GlobalStack()
 
715
 
 
716
 
 
717
class LockHeldInfo(object):
 
718
    """The information recorded about a held lock.
 
719
 
 
720
    This information is recorded into the lock when it's taken, and it can be
 
721
    read back by any process with access to the lockdir.  It can be used, for
 
722
    example, to tell the user who holds the lock, or to try to detect whether
 
723
    the lock holder is still alive.
 
724
 
 
725
    Prior to bzr 2.4 a simple dict was used instead of an object.
 
726
    """
 
727
 
 
728
    def __init__(self, info_dict):
 
729
        self.info_dict = info_dict
 
730
 
 
731
    def __repr__(self):
 
732
        """Return a debugging representation of this object."""
 
733
        return "%s(%r)" % (self.__class__.__name__, self.info_dict)
 
734
 
 
735
    def __unicode__(self):
 
736
        """Return a user-oriented description of this object."""
 
737
        d = self.to_readable_dict()
 
738
        return ( gettext(
 
739
            u'held by %(user)s on %(hostname)s (process #%(pid)s), '
 
740
            u'acquired %(time_ago)s') % d)
 
741
 
 
742
    def to_readable_dict(self):
 
743
        """Turn the holder info into a dict of human-readable attributes.
 
744
 
 
745
        For example, the start time is presented relative to the current time,
 
746
        rather than as seconds since the epoch.
 
747
 
 
748
        Returns a list of [user, hostname, pid, time_ago] all as readable
 
749
        strings.
 
750
        """
 
751
        start_time = self.info_dict.get('start_time')
 
752
        if start_time is None:
 
753
            time_ago = '(unknown)'
 
754
        else:
 
755
            time_ago = format_delta(
 
756
                time.time() - int(self.info_dict['start_time']))
 
757
        user = self.info_dict.get('user', '<unknown>')
 
758
        hostname = self.info_dict.get('hostname', '<unknown>')
 
759
        pid = self.info_dict.get('pid', '<unknown>')
 
760
        return dict(
 
761
            user=user,
 
762
            hostname=hostname,
 
763
            pid=pid,
 
764
            time_ago=time_ago)
 
765
 
 
766
    def get(self, field_name):
 
767
        """Return the contents of a field from the lock info, or None."""
 
768
        return self.info_dict.get(field_name)
 
769
 
 
770
    @classmethod
 
771
    def for_this_process(cls, extra_holder_info):
 
772
        """Return a new LockHeldInfo for a lock taken by this process.
 
773
        """
 
774
        info = dict(
 
775
            hostname=get_host_name(),
 
776
            pid=str(os.getpid()),
 
777
            nonce=rand_chars(20),
 
778
            start_time=str(int(time.time())),
 
779
            user=get_username_for_lock_info(),
 
780
            )
 
781
        if extra_holder_info is not None:
 
782
            info.update(extra_holder_info)
 
783
        return cls(info)
 
784
 
 
785
    def to_bytes(self):
 
786
        s = rio.Stanza(**self.info_dict)
 
787
        return s.to_string()
 
788
 
 
789
    @classmethod
 
790
    def from_info_file_bytes(cls, info_file_bytes):
 
791
        """Construct from the contents of the held file."""
 
792
        lines = osutils.split_lines(info_file_bytes)
 
793
        try:
 
794
            stanza = rio.read_stanza(lines)
 
795
        except ValueError, e:
 
796
            mutter('Corrupt lock info file: %r', lines)
 
797
            raise LockCorrupt("could not parse lock info file: " + str(e),
 
798
                lines)
 
799
        if stanza is None:
 
800
            # see bug 185013; we fairly often end up with the info file being
 
801
            # empty after an interruption; we could log a message here but
 
802
            # there may not be much we can say
 
803
            return cls({})
 
804
        else:
 
805
            return cls(stanza.as_dict())
 
806
 
 
807
    def __cmp__(self, other):
 
808
        """Value comparison of lock holders."""
 
809
        return (
 
810
            cmp(type(self), type(other))
 
811
            or cmp(self.info_dict, other.info_dict))
 
812
 
 
813
    def is_locked_by_this_process(self):
 
814
        """True if this process seems to be the current lock holder."""
 
815
        return (
 
816
            self.get('hostname') == get_host_name()
 
817
            and self.get('pid') == str(os.getpid())
 
818
            and self.get('user') == get_username_for_lock_info())
 
819
 
 
820
    def is_lock_holder_known_dead(self):
 
821
        """True if the lock holder process is known to be dead.
 
822
 
 
823
        False if it's either known to be still alive, or if we just can't tell.
 
824
 
 
825
        We can be fairly sure the lock holder is dead if it declared the same
 
826
        hostname and there is no process with the given pid alive.  If people
 
827
        have multiple machines with the same hostname this may cause trouble.
 
828
 
 
829
        This doesn't check whether the lock holder is in fact the same process
 
830
        calling this method.  (In that case it will return true.)
 
831
        """
 
832
        if self.get('hostname') != get_host_name():
 
833
            return False
 
834
        if self.get('hostname') == 'localhost':
 
835
            # Too ambiguous.
 
836
            return False
 
837
        if self.get('user') != get_username_for_lock_info():
 
838
            # Could well be another local process by a different user, but
 
839
            # just to be safe we won't conclude about this either.
 
840
            return False
 
841
        pid_str = self.info_dict.get('pid', None)
 
842
        if not pid_str:
 
843
            mutter("no pid recorded in %r" % (self, ))
 
844
            return False
 
845
        try:
 
846
            pid = int(pid_str)
 
847
        except ValueError:
 
848
            mutter("can't parse pid %r from %r"
 
849
                % (pid_str, self))
 
850
            return False
 
851
        return osutils.is_local_pid_dead(pid)
 
852
 
 
853
 
 
854
def get_username_for_lock_info():
 
855
    """Get a username suitable for putting into a lock.
 
856
 
 
857
    It's ok if what's written here is not a proper email address as long
 
858
    as it gives some clue who the user is.
 
859
    """
 
860
    try:
 
861
        return config.GlobalConfig().username()
 
862
    except errors.NoWhoami:
 
863
        return osutils.getuser_unicode()