~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lockdir.py

Merge bzr.dev, update to use new hooks.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006-2010 Canonical Ltd
 
1
# Copyright (C) 2006-2011 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
92
92
>>> # do something here
93
93
>>> l.unlock()
94
94
 
 
95
Some classes of stale locks can be predicted by checking: the host name is the
 
96
same as the local host name; the user name is the same as the local user; the
 
97
process id no longer exists.  The check on user name is not strictly necessary
 
98
but helps protect against colliding host names.
95
99
"""
96
100
 
97
101
 
103
107
# the existing locking code and needs a new format of the containing object.
104
108
# -- robertc, mbp 20070628
105
109
 
 
110
import errno
106
111
import os
107
112
import time
108
113
 
109
114
from bzrlib import (
 
115
    config,
110
116
    debug,
111
117
    errors,
112
118
    lock,
113
119
    osutils,
 
120
    ui,
 
121
    urlutils,
114
122
    )
115
 
import bzrlib.config
116
123
from bzrlib.decorators import only_raises
117
124
from bzrlib.errors import (
118
125
        DirectoryNotEmpty,
130
137
        )
131
138
from bzrlib.trace import mutter, note
132
139
from bzrlib.osutils import format_delta, rand_chars, get_host_name
133
 
import bzrlib.ui
 
140
from bzrlib.i18n import gettext
134
141
 
135
142
from bzrlib.lazy_import import lazy_import
136
143
lazy_import(globals(), """
162
169
 
163
170
    __INFO_NAME = '/info'
164
171
 
165
 
    def __init__(self, transport, path, file_modebits=0644, dir_modebits=0755):
 
172
    def __init__(self, transport, path, file_modebits=0644, dir_modebits=0755,
 
173
        extra_holder_info=None):
166
174
        """Create a new LockDir object.
167
175
 
168
176
        The LockDir is initially unlocked - this just creates the object.
171
179
 
172
180
        :param path: Path to the lock within the base directory of the
173
181
            transport.
 
182
 
 
183
        :param extra_holder_info: If passed, {str:str} dict of extra or
 
184
            updated information to insert into the info file when the lock is
 
185
            taken.
174
186
        """
175
187
        self.transport = transport
176
188
        self.path = path
181
193
        self._held_info_path = self._held_dir + self.__INFO_NAME
182
194
        self._file_modebits = file_modebits
183
195
        self._dir_modebits = dir_modebits
184
 
 
185
196
        self._report_function = note
 
197
        self.extra_holder_info = extra_holder_info
 
198
        self._warned_about_lock_holder = None
186
199
 
187
200
    def __repr__(self):
188
201
        return '%s(%s%s)' % (self.__class__.__name__,
203
216
        except (TransportError, PathError), e:
204
217
            raise LockFailed(self, e)
205
218
 
206
 
 
207
219
    def _attempt_lock(self):
208
220
        """Make the pending directory and attempt to rename into place.
209
221
 
216
228
 
217
229
        :returns: The nonce of the lock, if it was successfully acquired.
218
230
 
219
 
        :raises LockContention: If the lock is held by someone else.  The exception
220
 
            contains the info of the current holder of the lock.
 
231
        :raises LockContention: If the lock is held by someone else.  The
 
232
            exception contains the info of the current holder of the lock.
221
233
        """
222
234
        self._trace("lock_write...")
223
235
        start_time = time.time()
226
238
        except (errors.TransportError, PathError), e:
227
239
            self._trace("... failed to create pending dir, %s", e)
228
240
            raise LockFailed(self, e)
229
 
        try:
230
 
            self.transport.rename(tmpname, self._held_dir)
231
 
        except (errors.TransportError, PathError, DirectoryNotEmpty,
232
 
                FileExists, ResourceBusy), e:
233
 
            self._trace("... contention, %s", e)
234
 
            self._remove_pending_dir(tmpname)
235
 
            raise LockContention(self)
236
 
        except Exception, e:
237
 
            self._trace("... lock failed, %s", e)
238
 
            self._remove_pending_dir(tmpname)
239
 
            raise
 
241
        while True:
 
242
            try:
 
243
                self.transport.rename(tmpname, self._held_dir)
 
244
                break
 
245
            except (errors.TransportError, PathError, DirectoryNotEmpty,
 
246
                    FileExists, ResourceBusy), e:
 
247
                self._trace("... contention, %s", e)
 
248
                other_holder = self.peek()
 
249
                self._trace("other holder is %r" % other_holder)
 
250
                try:
 
251
                    self._handle_lock_contention(other_holder)
 
252
                except:
 
253
                    self._remove_pending_dir(tmpname)
 
254
                    raise
 
255
            except Exception, e:
 
256
                self._trace("... lock failed, %s", e)
 
257
                self._remove_pending_dir(tmpname)
 
258
                raise
240
259
        # We must check we really got the lock, because Launchpad's sftp
241
260
        # server at one time had a bug were the rename would successfully
242
261
        # move the new directory into the existing directory, which was
262
281
                (time.time() - start_time) * 1000)
263
282
        return self.nonce
264
283
 
 
284
    def _handle_lock_contention(self, other_holder):
 
285
        """A lock we want to take is held by someone else.
 
286
 
 
287
        This function can: tell the user about it; possibly detect that it's
 
288
        safe or appropriate to steal the lock, or just raise an exception.
 
289
 
 
290
        If this function returns (without raising an exception) the lock will
 
291
        be attempted again.
 
292
 
 
293
        :param other_holder: A LockHeldInfo for the current holder; note that
 
294
            it might be None if the lock can be seen to be held but the info
 
295
            can't be read.
 
296
        """
 
297
        if (other_holder is not None):
 
298
            if other_holder.is_lock_holder_known_dead():
 
299
                if self.get_config().get('locks.steal_dead'):
 
300
                    ui.ui_factory.show_user_warning(
 
301
                        'locks_steal_dead',
 
302
                        lock_url=urlutils.join(self.transport.base, self.path),
 
303
                        other_holder_info=unicode(other_holder))
 
304
                    self.force_break(other_holder)
 
305
                    self._trace("stole lock from dead holder")
 
306
                    return
 
307
        raise LockContention(self)
 
308
 
265
309
    def _remove_pending_dir(self, tmpname):
266
310
        """Remove the pending directory
267
311
 
273
317
            self.transport.delete(tmpname + self.__INFO_NAME)
274
318
            self.transport.rmdir(tmpname)
275
319
        except PathError, e:
276
 
            note("error removing pending lock: %s", e)
 
320
            note(gettext("error removing pending lock: %s"), e)
277
321
 
278
322
    def _create_pending_dir(self):
279
323
        tmpname = '%s/%s.tmp' % (self.path, rand_chars(10))
287
331
            self.create(mode=self._dir_modebits)
288
332
            # After creating the lock directory, try again
289
333
            self.transport.mkdir(tmpname)
290
 
        self.nonce = rand_chars(20)
291
 
        info_bytes = self._prepare_info()
 
334
        info = LockHeldInfo.for_this_process(self.extra_holder_info)
 
335
        self.nonce = info.get('nonce')
292
336
        # We use put_file_non_atomic because we just created a new unique
293
337
        # directory so we don't have to worry about files existing there.
294
338
        # We'll rename the whole directory into place to get atomic
295
339
        # properties
296
340
        self.transport.put_bytes_non_atomic(tmpname + self.__INFO_NAME,
297
 
                                            info_bytes)
 
341
            info.to_bytes())
298
342
        return tmpname
299
343
 
300
344
    @only_raises(LockNotHeld, LockBroken)
344
388
    def break_lock(self):
345
389
        """Break a lock not held by this instance of LockDir.
346
390
 
347
 
        This is a UI centric function: it uses the bzrlib.ui.ui_factory to
 
391
        This is a UI centric function: it uses the ui.ui_factory to
348
392
        prompt for input if a lock is detected and there is any doubt about
349
 
        it possibly being still active.
 
393
        it possibly being still active.  force_break is the non-interactive
 
394
        version.
 
395
 
 
396
        :returns: LockResult for the broken lock.
350
397
        """
351
398
        self._check_not_locked()
352
399
        try:
353
400
            holder_info = self.peek()
354
401
        except LockCorrupt, e:
355
402
            # The lock info is corrupt.
356
 
            if bzrlib.ui.ui_factory.get_boolean("Break (corrupt %r)" % (self,)):
 
403
            if ui.ui_factory.get_boolean(u"Break (corrupt %r)" % (self,)):
357
404
                self.force_break_corrupt(e.file_data)
358
405
            return
359
406
        if holder_info is not None:
360
 
            lock_info = '\n'.join(self._format_lock_info(holder_info))
361
 
            if bzrlib.ui.ui_factory.confirm_action(
362
 
                "Break %(lock_info)s", 'bzrlib.lockdir.break', 
363
 
                dict(lock_info=lock_info)):
364
 
                self.force_break(holder_info)
 
407
            if ui.ui_factory.confirm_action(
 
408
                u"Break %(lock_info)s",
 
409
                'bzrlib.lockdir.break',
 
410
                dict(lock_info=unicode(holder_info))):
 
411
                result = self.force_break(holder_info)
 
412
                ui.ui_factory.show_message(
 
413
                    "Broke lock %s" % result.lock_url)
365
414
 
366
415
    def force_break(self, dead_holder_info):
367
416
        """Release a lock held by another process.
370
419
        it still thinks it has the lock there will be two concurrent writers.
371
420
        In general the user's approval should be sought for lock breaks.
372
421
 
373
 
        dead_holder_info must be the result of a previous LockDir.peek() call;
374
 
        this is used to check that it's still held by the same process that
375
 
        the user decided was dead.  If this is not the current holder,
376
 
        LockBreakMismatch is raised.
377
 
 
378
422
        After the lock is broken it will not be held by any process.
379
423
        It is possible that another process may sneak in and take the
380
424
        lock before the breaking process acquires it.
 
425
 
 
426
        :param dead_holder_info:
 
427
            Must be the result of a previous LockDir.peek() call; this is used
 
428
            to check that it's still held by the same process that the user
 
429
            decided was dead.  If this is not the current holder,
 
430
            LockBreakMismatch is raised.
 
431
 
 
432
        :returns: LockResult for the broken lock.
381
433
        """
382
 
        if not isinstance(dead_holder_info, dict):
 
434
        if not isinstance(dead_holder_info, LockHeldInfo):
383
435
            raise ValueError("dead_holder_info: %r" % dead_holder_info)
384
436
        self._check_not_locked()
385
437
        current_info = self.peek()
403
455
                                 current_info.get('nonce'))
404
456
        for hook in self.hooks['lock_broken']:
405
457
            hook(result)
 
458
        return result
406
459
 
407
460
    def force_break_corrupt(self, corrupt_info_lines):
408
461
        """Release a lock that has been corrupted.
409
 
        
 
462
 
410
463
        This is very similar to force_break, it except it doesn't assume that
411
464
        self.peek() can work.
412
 
        
 
465
 
413
466
        :param corrupt_info_lines: the lines of the corrupted info file, used
414
467
            to check that the lock hasn't changed between reading the (corrupt)
415
468
            info file and calling force_break_corrupt.
423
476
        # there's a small race window between checking it and doing the
424
477
        # rename.
425
478
        broken_info_path = tmpname + self.__INFO_NAME
426
 
        f = self.transport.get(broken_info_path)
427
 
        broken_lines = f.readlines()
 
479
        broken_content = self.transport.get_bytes(broken_info_path)
 
480
        broken_lines = osutils.split_lines(broken_content)
428
481
        if broken_lines != corrupt_info_lines:
429
482
            raise LockBreakMismatch(self, broken_lines, corrupt_info_lines)
430
483
        self.transport.delete(broken_info_path)
463
516
 
464
517
        peek() reads the info file of the lock holder, if any.
465
518
        """
466
 
        return self._parse_info(self.transport.get_bytes(path))
 
519
        return LockHeldInfo.from_info_file_bytes(
 
520
            self.transport.get_bytes(path))
467
521
 
468
522
    def peek(self):
469
523
        """Check if the lock is held by anyone.
482
536
    def _prepare_info(self):
483
537
        """Write information about a pending lock to a temporary file.
484
538
        """
485
 
        # XXX: is creating this here inefficient?
486
 
        config = bzrlib.config.GlobalConfig()
487
 
        try:
488
 
            user = config.username()
489
 
        except errors.NoWhoami:
490
 
            user = osutils.getuser_unicode()
491
 
        s = rio.Stanza(hostname=get_host_name(),
492
 
                   pid=str(os.getpid()),
493
 
                   start_time=str(int(time.time())),
494
 
                   nonce=self.nonce,
495
 
                   user=user,
496
 
                   )
497
 
        return s.to_string()
498
 
 
499
 
    def _parse_info(self, info_bytes):
500
 
        lines = osutils.split_lines(info_bytes)
501
 
        try:
502
 
            stanza = rio.read_stanza(lines)
503
 
        except ValueError, e:
504
 
            mutter('Corrupt lock info file: %r', lines)
505
 
            raise LockCorrupt("could not parse lock info file: " + str(e),
506
 
                              lines)
507
 
        if stanza is None:
508
 
            # see bug 185013; we fairly often end up with the info file being
509
 
            # empty after an interruption; we could log a message here but
510
 
            # there may not be much we can say
511
 
            return {}
512
 
        else:
513
 
            return stanza.as_dict()
514
539
 
515
540
    def attempt_lock(self):
516
541
        """Take the lock; fail if it's already held.
530
555
            hook(hook_result)
531
556
        return result
532
557
 
 
558
    def lock_url_for_display(self):
 
559
        """Give a nicely-printable representation of the URL of this lock."""
 
560
        # As local lock urls are correct we display them.
 
561
        # We avoid displaying remote lock urls.
 
562
        lock_url = self.transport.abspath(self.path)
 
563
        if lock_url.startswith('file://'):
 
564
            lock_url = lock_url.split('.bzr/')[0]
 
565
        else:
 
566
            lock_url = ''
 
567
        return lock_url
 
568
 
533
569
    def wait_lock(self, timeout=None, poll=None, max_attempts=None):
534
570
        """Wait a certain period for a lock.
535
571
 
559
595
        deadline_str = None
560
596
        last_info = None
561
597
        attempt_count = 0
 
598
        lock_url = self.lock_url_for_display()
562
599
        while True:
563
600
            attempt_count += 1
564
601
            try:
575
612
            new_info = self.peek()
576
613
            if new_info is not None and new_info != last_info:
577
614
                if last_info is None:
578
 
                    start = 'Unable to obtain'
 
615
                    start = gettext('Unable to obtain')
579
616
                else:
580
 
                    start = 'Lock owner changed for'
 
617
                    start = gettext('Lock owner changed for')
581
618
                last_info = new_info
582
 
                formatted_info = self._format_lock_info(new_info)
 
619
                msg = gettext('{0} lock {1} {2}.').format(start, lock_url,
 
620
                                                                    new_info)
583
621
                if deadline_str is None:
584
622
                    deadline_str = time.strftime('%H:%M:%S',
585
 
                                                 time.localtime(deadline))
586
 
                # As local lock urls are correct we display them.
587
 
                # We avoid displaying remote lock urls.
588
 
                lock_url = self.transport.abspath(self.path)
589
 
                if lock_url.startswith('file://'):
590
 
                    lock_url = lock_url.split('.bzr/')[0]
591
 
                else:
592
 
                    lock_url = ''
593
 
                user, hostname, pid, time_ago = formatted_info
594
 
                msg = ('%s lock %s '        # lock_url
595
 
                    'held by '              # start
596
 
                    '%s\n'                  # user
597
 
                    'at %s '                # hostname
598
 
                    '[process #%s], '       # pid
599
 
                    'acquired %s.')         # time ago
600
 
                msg_args = [start, lock_url, user, hostname, pid, time_ago]
 
623
                                                    time.localtime(deadline))
601
624
                if timeout > 0:
602
 
                    msg += ('\nWill continue to try until %s, unless '
603
 
                        'you press Ctrl-C.')
604
 
                    msg_args.append(deadline_str)
605
 
                msg += '\nSee "bzr help break-lock" for more.'
606
 
                self._report_function(msg, *msg_args)
 
625
                    msg += '\n' + gettext(
 
626
                             'Will continue to try until %s, unless '
 
627
                             'you press Ctrl-C.') % deadline_str
 
628
                msg += '\n' + gettext('See "bzr help break-lock" for more.')
 
629
                self._report_function(msg)
607
630
            if (max_attempts is not None) and (attempt_count >= max_attempts):
608
631
                self._trace("exceeded %d attempts")
609
632
                raise LockContention(self)
664
687
            raise LockContention(self)
665
688
        self._fake_read_lock = True
666
689
 
667
 
    def _format_lock_info(self, info):
668
 
        """Turn the contents of peek() into something for the user"""
669
 
        start_time = info.get('start_time')
670
 
        if start_time is None:
671
 
            time_ago = '(unknown)'
672
 
        else:
673
 
            time_ago = format_delta(time.time() - int(info['start_time']))
674
 
        user = info.get('user', '<unknown>')
675
 
        hostname = info.get('hostname', '<unknown>')
676
 
        pid = info.get('pid', '<unknown>')
677
 
        return [
678
 
            user,
679
 
            hostname,
680
 
            pid,
681
 
            time_ago,
682
 
            ]
683
 
 
684
690
    def validate_token(self, token):
685
691
        if token is not None:
686
692
            info = self.peek()
698
704
        if 'lock' not in debug.debug_flags:
699
705
            return
700
706
        mutter(str(self) + ": " + (format % args))
 
707
 
 
708
    def get_config(self):
 
709
        """Get the configuration that governs this lockdir."""
 
710
        # XXX: This really should also use the locationconfig at least, but
 
711
        # that seems a bit hard to hook up at the moment. -- mbp 20110329
 
712
        # FIXME: The above is still true ;) -- vila 20110811
 
713
        return config.GlobalStack()
 
714
 
 
715
 
 
716
class LockHeldInfo(object):
 
717
    """The information recorded about a held lock.
 
718
 
 
719
    This information is recorded into the lock when it's taken, and it can be
 
720
    read back by any process with access to the lockdir.  It can be used, for
 
721
    example, to tell the user who holds the lock, or to try to detect whether
 
722
    the lock holder is still alive.
 
723
 
 
724
    Prior to bzr 2.4 a simple dict was used instead of an object.
 
725
    """
 
726
 
 
727
    def __init__(self, info_dict):
 
728
        self.info_dict = info_dict
 
729
 
 
730
    def __repr__(self):
 
731
        """Return a debugging representation of this object."""
 
732
        return "%s(%r)" % (self.__class__.__name__, self.info_dict)
 
733
 
 
734
    def __unicode__(self):
 
735
        """Return a user-oriented description of this object."""
 
736
        d = self.to_readable_dict()
 
737
        return ( gettext(
 
738
            u'held by %(user)s on %(hostname)s (process #%(pid)s), '
 
739
            u'acquired %(time_ago)s') % d)
 
740
 
 
741
    def to_readable_dict(self):
 
742
        """Turn the holder info into a dict of human-readable attributes.
 
743
 
 
744
        For example, the start time is presented relative to the current time,
 
745
        rather than as seconds since the epoch.
 
746
 
 
747
        Returns a list of [user, hostname, pid, time_ago] all as readable
 
748
        strings.
 
749
        """
 
750
        start_time = self.info_dict.get('start_time')
 
751
        if start_time is None:
 
752
            time_ago = '(unknown)'
 
753
        else:
 
754
            time_ago = format_delta(
 
755
                time.time() - int(self.info_dict['start_time']))
 
756
        user = self.info_dict.get('user', '<unknown>')
 
757
        hostname = self.info_dict.get('hostname', '<unknown>')
 
758
        pid = self.info_dict.get('pid', '<unknown>')
 
759
        return dict(
 
760
            user=user,
 
761
            hostname=hostname,
 
762
            pid=pid,
 
763
            time_ago=time_ago)
 
764
 
 
765
    def get(self, field_name):
 
766
        """Return the contents of a field from the lock info, or None."""
 
767
        return self.info_dict.get(field_name)
 
768
 
 
769
    @classmethod
 
770
    def for_this_process(cls, extra_holder_info):
 
771
        """Return a new LockHeldInfo for a lock taken by this process.
 
772
        """
 
773
        info = dict(
 
774
            hostname=get_host_name(),
 
775
            pid=str(os.getpid()),
 
776
            nonce=rand_chars(20),
 
777
            start_time=str(int(time.time())),
 
778
            user=get_username_for_lock_info(),
 
779
            )
 
780
        if extra_holder_info is not None:
 
781
            info.update(extra_holder_info)
 
782
        return cls(info)
 
783
 
 
784
    def to_bytes(self):
 
785
        s = rio.Stanza(**self.info_dict)
 
786
        return s.to_string()
 
787
 
 
788
    @classmethod
 
789
    def from_info_file_bytes(cls, info_file_bytes):
 
790
        """Construct from the contents of the held file."""
 
791
        lines = osutils.split_lines(info_file_bytes)
 
792
        try:
 
793
            stanza = rio.read_stanza(lines)
 
794
        except ValueError, e:
 
795
            mutter('Corrupt lock info file: %r', lines)
 
796
            raise LockCorrupt("could not parse lock info file: " + str(e),
 
797
                lines)
 
798
        if stanza is None:
 
799
            # see bug 185013; we fairly often end up with the info file being
 
800
            # empty after an interruption; we could log a message here but
 
801
            # there may not be much we can say
 
802
            return cls({})
 
803
        else:
 
804
            return cls(stanza.as_dict())
 
805
 
 
806
    def __cmp__(self, other):
 
807
        """Value comparison of lock holders."""
 
808
        return (
 
809
            cmp(type(self), type(other))
 
810
            or cmp(self.info_dict, other.info_dict))
 
811
 
 
812
    def is_locked_by_this_process(self):
 
813
        """True if this process seems to be the current lock holder."""
 
814
        return (
 
815
            self.get('hostname') == get_host_name()
 
816
            and self.get('pid') == str(os.getpid())
 
817
            and self.get('user') == get_username_for_lock_info())
 
818
 
 
819
    def is_lock_holder_known_dead(self):
 
820
        """True if the lock holder process is known to be dead.
 
821
 
 
822
        False if it's either known to be still alive, or if we just can't tell.
 
823
 
 
824
        We can be fairly sure the lock holder is dead if it declared the same
 
825
        hostname and there is no process with the given pid alive.  If people
 
826
        have multiple machines with the same hostname this may cause trouble.
 
827
 
 
828
        This doesn't check whether the lock holder is in fact the same process
 
829
        calling this method.  (In that case it will return true.)
 
830
        """
 
831
        if self.get('hostname') != get_host_name():
 
832
            return False
 
833
        if self.get('hostname') == 'localhost':
 
834
            # Too ambiguous.
 
835
            return False
 
836
        if self.get('user') != get_username_for_lock_info():
 
837
            # Could well be another local process by a different user, but
 
838
            # just to be safe we won't conclude about this either.
 
839
            return False
 
840
        pid_str = self.info_dict.get('pid', None)
 
841
        if not pid_str:
 
842
            mutter("no pid recorded in %r" % (self, ))
 
843
            return False
 
844
        try:
 
845
            pid = int(pid_str)
 
846
        except ValueError:
 
847
            mutter("can't parse pid %r from %r"
 
848
                % (pid_str, self))
 
849
            return False
 
850
        return osutils.is_local_pid_dead(pid)
 
851
 
 
852
 
 
853
def get_username_for_lock_info():
 
854
    """Get a username suitable for putting into a lock.
 
855
 
 
856
    It's ok if what's written here is not a proper email address as long
 
857
    as it gives some clue who the user is.
 
858
    """
 
859
    try:
 
860
        return config.GlobalConfig().username()
 
861
    except errors.NoWhoami:
 
862
        return osutils.getuser_unicode()