~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lockdir.py

Merge the 2.1.0b3 release.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006-2011 Canonical Ltd
 
1
# Copyright (C) 2006, 2007, 2008 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
92
92
>>> # do something here
93
93
>>> l.unlock()
94
94
 
95
 
Some classes of stale locks can be predicted by checking: the host name is the
96
 
same as the local host name; the user name is the same as the local user; the
97
 
process id no longer exists.  The check on user name is not strictly necessary
98
 
but helps protect against colliding host names.
99
95
"""
100
96
 
101
97
 
107
103
# the existing locking code and needs a new format of the containing object.
108
104
# -- robertc, mbp 20070628
109
105
 
110
 
import errno
111
106
import os
112
107
import time
113
108
 
114
109
from bzrlib import (
115
 
    config,
116
110
    debug,
117
111
    errors,
118
112
    lock,
119
 
    osutils,
120
 
    ui,
121
 
    urlutils,
122
113
    )
 
114
import bzrlib.config
123
115
from bzrlib.decorators import only_raises
124
116
from bzrlib.errors import (
125
117
        DirectoryNotEmpty,
127
119
        LockBreakMismatch,
128
120
        LockBroken,
129
121
        LockContention,
130
 
        LockCorrupt,
131
122
        LockFailed,
132
123
        LockNotHeld,
133
124
        NoSuchFile,
137
128
        )
138
129
from bzrlib.trace import mutter, note
139
130
from bzrlib.osutils import format_delta, rand_chars, get_host_name
 
131
import bzrlib.ui
140
132
 
141
133
from bzrlib.lazy_import import lazy_import
142
134
lazy_import(globals(), """
158
150
# files/dirs created.
159
151
 
160
152
 
161
 
_DEFAULT_TIMEOUT_SECONDS = 30
 
153
_DEFAULT_TIMEOUT_SECONDS = 300
162
154
_DEFAULT_POLL_SECONDS = 1.0
163
155
 
164
156
 
168
160
 
169
161
    __INFO_NAME = '/info'
170
162
 
171
 
    def __init__(self, transport, path, file_modebits=0644, dir_modebits=0755,
172
 
        extra_holder_info=None):
 
163
    def __init__(self, transport, path, file_modebits=0644, dir_modebits=0755):
173
164
        """Create a new LockDir object.
174
165
 
175
166
        The LockDir is initially unlocked - this just creates the object.
178
169
 
179
170
        :param path: Path to the lock within the base directory of the
180
171
            transport.
181
 
 
182
 
        :param extra_holder_info: If passed, {str:str} dict of extra or
183
 
            updated information to insert into the info file when the lock is
184
 
            taken.
185
172
        """
186
173
        self.transport = transport
187
174
        self.path = path
192
179
        self._held_info_path = self._held_dir + self.__INFO_NAME
193
180
        self._file_modebits = file_modebits
194
181
        self._dir_modebits = dir_modebits
 
182
 
195
183
        self._report_function = note
196
 
        self.extra_holder_info = extra_holder_info
197
 
        self._warned_about_lock_holder = None
198
184
 
199
185
    def __repr__(self):
200
186
        return '%s(%s%s)' % (self.__class__.__name__,
215
201
        except (TransportError, PathError), e:
216
202
            raise LockFailed(self, e)
217
203
 
 
204
 
218
205
    def _attempt_lock(self):
219
206
        """Make the pending directory and attempt to rename into place.
220
207
 
227
214
 
228
215
        :returns: The nonce of the lock, if it was successfully acquired.
229
216
 
230
 
        :raises LockContention: If the lock is held by someone else.  The
231
 
            exception contains the info of the current holder of the lock.
 
217
        :raises LockContention: If the lock is held by someone else.  The exception
 
218
            contains the info of the current holder of the lock.
232
219
        """
233
220
        self._trace("lock_write...")
234
221
        start_time = time.time()
237
224
        except (errors.TransportError, PathError), e:
238
225
            self._trace("... failed to create pending dir, %s", e)
239
226
            raise LockFailed(self, e)
240
 
        while True:
241
 
            try:
242
 
                self.transport.rename(tmpname, self._held_dir)
243
 
                break
244
 
            except (errors.TransportError, PathError, DirectoryNotEmpty,
245
 
                    FileExists, ResourceBusy), e:
246
 
                self._trace("... contention, %s", e)
247
 
                other_holder = self.peek()
248
 
                self._trace("other holder is %r" % other_holder)
249
 
                try:
250
 
                    self._handle_lock_contention(other_holder)
251
 
                except:
252
 
                    self._remove_pending_dir(tmpname)
253
 
                    raise
254
 
            except Exception, e:
255
 
                self._trace("... lock failed, %s", e)
256
 
                self._remove_pending_dir(tmpname)
257
 
                raise
 
227
        try:
 
228
            self.transport.rename(tmpname, self._held_dir)
 
229
        except (errors.TransportError, PathError, DirectoryNotEmpty,
 
230
                FileExists, ResourceBusy), e:
 
231
            self._trace("... contention, %s", e)
 
232
            self._remove_pending_dir(tmpname)
 
233
            raise LockContention(self)
 
234
        except Exception, e:
 
235
            self._trace("... lock failed, %s", e)
 
236
            self._remove_pending_dir(tmpname)
 
237
            raise
258
238
        # We must check we really got the lock, because Launchpad's sftp
259
239
        # server at one time had a bug were the rename would successfully
260
240
        # move the new directory into the existing directory, which was
261
241
        # incorrect.  It's possible some other servers or filesystems will
262
242
        # have a similar bug allowing someone to think they got the lock
263
243
        # when it's already held.
264
 
        #
265
 
        # See <https://bugs.launchpad.net/bzr/+bug/498378> for one case.
266
 
        #
267
 
        # Strictly the check is unnecessary and a waste of time for most
268
 
        # people, but probably worth trapping if something is wrong.
269
244
        info = self.peek()
270
245
        self._trace("after locking, info=%r", info)
271
 
        if info is None:
272
 
            raise LockFailed(self, "lock was renamed into place, but "
273
 
                "now is missing!")
274
 
        if info.get('nonce') != self.nonce:
 
246
        if info['nonce'] != self.nonce:
275
247
            self._trace("rename succeeded, "
276
248
                "but lock is still held by someone else")
277
249
            raise LockContention(self)
280
252
                (time.time() - start_time) * 1000)
281
253
        return self.nonce
282
254
 
283
 
    def _handle_lock_contention(self, other_holder):
284
 
        """A lock we want to take is held by someone else.
285
 
 
286
 
        This function can: tell the user about it; possibly detect that it's
287
 
        safe or appropriate to steal the lock, or just raise an exception.
288
 
 
289
 
        If this function returns (without raising an exception) the lock will
290
 
        be attempted again.
291
 
 
292
 
        :param other_holder: A LockHeldInfo for the current holder; note that
293
 
            it might be None if the lock can be seen to be held but the info
294
 
            can't be read.
295
 
        """
296
 
        if (other_holder is not None):
297
 
            if other_holder.is_lock_holder_known_dead():
298
 
                if self.get_config().get('locks.steal_dead'):
299
 
                    ui.ui_factory.show_user_warning(
300
 
                        'locks_steal_dead',
301
 
                        lock_url=urlutils.join(self.transport.base, self.path),
302
 
                        other_holder_info=unicode(other_holder))
303
 
                    self.force_break(other_holder)
304
 
                    self._trace("stole lock from dead holder")
305
 
                    return
306
 
        raise LockContention(self)
307
 
 
308
255
    def _remove_pending_dir(self, tmpname):
309
256
        """Remove the pending directory
310
257
 
330
277
            self.create(mode=self._dir_modebits)
331
278
            # After creating the lock directory, try again
332
279
            self.transport.mkdir(tmpname)
333
 
        info = LockHeldInfo.for_this_process(self.extra_holder_info)
334
 
        self.nonce = info.get('nonce')
 
280
        self.nonce = rand_chars(20)
 
281
        info_bytes = self._prepare_info()
335
282
        # We use put_file_non_atomic because we just created a new unique
336
283
        # directory so we don't have to worry about files existing there.
337
284
        # We'll rename the whole directory into place to get atomic
338
285
        # properties
339
286
        self.transport.put_bytes_non_atomic(tmpname + self.__INFO_NAME,
340
 
            info.to_bytes())
 
287
                                            info_bytes)
341
288
        return tmpname
342
289
 
343
290
    @only_raises(LockNotHeld, LockBroken)
387
334
    def break_lock(self):
388
335
        """Break a lock not held by this instance of LockDir.
389
336
 
390
 
        This is a UI centric function: it uses the ui.ui_factory to
 
337
        This is a UI centric function: it uses the bzrlib.ui.ui_factory to
391
338
        prompt for input if a lock is detected and there is any doubt about
392
 
        it possibly being still active.  force_break is the non-interactive
393
 
        version.
394
 
 
395
 
        :returns: LockResult for the broken lock.
 
339
        it possibly being still active.
396
340
        """
397
341
        self._check_not_locked()
398
 
        try:
399
 
            holder_info = self.peek()
400
 
        except LockCorrupt, e:
401
 
            # The lock info is corrupt.
402
 
            if ui.ui_factory.get_boolean(u"Break (corrupt %r)" % (self,)):
403
 
                self.force_break_corrupt(e.file_data)
404
 
            return
 
342
        holder_info = self.peek()
405
343
        if holder_info is not None:
406
 
            if ui.ui_factory.confirm_action(
407
 
                u"Break %(lock_info)s",
408
 
                'bzrlib.lockdir.break',
409
 
                dict(lock_info=unicode(holder_info))):
410
 
                result = self.force_break(holder_info)
411
 
                ui.ui_factory.show_message(
412
 
                    "Broke lock %s" % result.lock_url)
 
344
            lock_info = '\n'.join(self._format_lock_info(holder_info))
 
345
            if bzrlib.ui.ui_factory.get_boolean("Break %s" % lock_info):
 
346
                self.force_break(holder_info)
413
347
 
414
348
    def force_break(self, dead_holder_info):
415
349
        """Release a lock held by another process.
418
352
        it still thinks it has the lock there will be two concurrent writers.
419
353
        In general the user's approval should be sought for lock breaks.
420
354
 
 
355
        dead_holder_info must be the result of a previous LockDir.peek() call;
 
356
        this is used to check that it's still held by the same process that
 
357
        the user decided was dead.  If this is not the current holder,
 
358
        LockBreakMismatch is raised.
 
359
 
421
360
        After the lock is broken it will not be held by any process.
422
361
        It is possible that another process may sneak in and take the
423
362
        lock before the breaking process acquires it.
424
 
 
425
 
        :param dead_holder_info:
426
 
            Must be the result of a previous LockDir.peek() call; this is used
427
 
            to check that it's still held by the same process that the user
428
 
            decided was dead.  If this is not the current holder,
429
 
            LockBreakMismatch is raised.
430
 
 
431
 
        :returns: LockResult for the broken lock.
432
363
        """
433
 
        if not isinstance(dead_holder_info, LockHeldInfo):
 
364
        if not isinstance(dead_holder_info, dict):
434
365
            raise ValueError("dead_holder_info: %r" % dead_holder_info)
435
366
        self._check_not_locked()
436
367
        current_info = self.peek()
454
385
                                 current_info.get('nonce'))
455
386
        for hook in self.hooks['lock_broken']:
456
387
            hook(result)
457
 
        return result
458
 
 
459
 
    def force_break_corrupt(self, corrupt_info_lines):
460
 
        """Release a lock that has been corrupted.
461
 
 
462
 
        This is very similar to force_break, it except it doesn't assume that
463
 
        self.peek() can work.
464
 
 
465
 
        :param corrupt_info_lines: the lines of the corrupted info file, used
466
 
            to check that the lock hasn't changed between reading the (corrupt)
467
 
            info file and calling force_break_corrupt.
468
 
        """
469
 
        # XXX: this copes with unparseable info files, but what about missing
470
 
        # info files?  Or missing lock dirs?
471
 
        self._check_not_locked()
472
 
        tmpname = '%s/broken.%s.tmp' % (self.path, rand_chars(20))
473
 
        self.transport.rename(self._held_dir, tmpname)
474
 
        # check that we actually broke the right lock, not someone else;
475
 
        # there's a small race window between checking it and doing the
476
 
        # rename.
477
 
        broken_info_path = tmpname + self.__INFO_NAME
478
 
        broken_content = self.transport.get_bytes(broken_info_path)
479
 
        broken_lines = osutils.split_lines(broken_content)
480
 
        if broken_lines != corrupt_info_lines:
481
 
            raise LockBreakMismatch(self, broken_lines, corrupt_info_lines)
482
 
        self.transport.delete(broken_info_path)
483
 
        self.transport.rmdir(tmpname)
484
 
        result = lock.LockResult(self.transport.abspath(self.path))
485
 
        for hook in self.hooks['lock_broken']:
486
 
            hook(result)
487
388
 
488
389
    def _check_not_locked(self):
489
390
        """If the lock is held by this instance, raise an error."""
515
416
 
516
417
        peek() reads the info file of the lock holder, if any.
517
418
        """
518
 
        return LockHeldInfo.from_info_file_bytes(
519
 
            self.transport.get_bytes(path))
 
419
        return self._parse_info(self.transport.get(path))
520
420
 
521
421
    def peek(self):
522
422
        """Check if the lock is held by anyone.
523
423
 
524
 
        If it is held, this returns the lock info structure as a dict
 
424
        If it is held, this returns the lock info structure as a rio Stanza,
525
425
        which contains some information about the current lock holder.
526
426
        Otherwise returns None.
527
427
        """
535
435
    def _prepare_info(self):
536
436
        """Write information about a pending lock to a temporary file.
537
437
        """
 
438
        # XXX: is creating this here inefficient?
 
439
        config = bzrlib.config.GlobalConfig()
 
440
        try:
 
441
            user = config.user_email()
 
442
        except errors.NoEmailInUsername:
 
443
            user = config.username()
 
444
        s = rio.Stanza(hostname=get_host_name(),
 
445
                   pid=str(os.getpid()),
 
446
                   start_time=str(int(time.time())),
 
447
                   nonce=self.nonce,
 
448
                   user=user,
 
449
                   )
 
450
        return s.to_string()
 
451
 
 
452
    def _parse_info(self, info_file):
 
453
        return rio.read_stanza(info_file.readlines()).as_dict()
538
454
 
539
455
    def attempt_lock(self):
540
456
        """Take the lock; fail if it's already held.
554
470
            hook(hook_result)
555
471
        return result
556
472
 
557
 
    def lock_url_for_display(self):
558
 
        """Give a nicely-printable representation of the URL of this lock."""
559
 
        # As local lock urls are correct we display them.
560
 
        # We avoid displaying remote lock urls.
561
 
        lock_url = self.transport.abspath(self.path)
562
 
        if lock_url.startswith('file://'):
563
 
            lock_url = lock_url.split('.bzr/')[0]
564
 
        else:
565
 
            lock_url = ''
566
 
        return lock_url
567
 
 
568
473
    def wait_lock(self, timeout=None, poll=None, max_attempts=None):
569
474
        """Wait a certain period for a lock.
570
475
 
594
499
        deadline_str = None
595
500
        last_info = None
596
501
        attempt_count = 0
597
 
        lock_url = self.lock_url_for_display()
598
502
        while True:
599
503
            attempt_count += 1
600
504
            try:
615
519
                else:
616
520
                    start = 'Lock owner changed for'
617
521
                last_info = new_info
618
 
                msg = u'%s lock %s %s.' % (start, lock_url, new_info)
 
522
                formatted_info = self._format_lock_info(new_info)
619
523
                if deadline_str is None:
620
524
                    deadline_str = time.strftime('%H:%M:%S',
621
 
                                                    time.localtime(deadline))
622
 
                if timeout > 0:
623
 
                    msg += ('\nWill continue to try until %s, unless '
624
 
                        'you press Ctrl-C.'
625
 
                        % deadline_str)
626
 
                msg += '\nSee "bzr help break-lock" for more.'
627
 
                self._report_function(msg)
 
525
                                                 time.localtime(deadline))
 
526
                lock_url = self.transport.abspath(self.path)
 
527
                self._report_function('%s %s\n'
 
528
                                      '%s\n' # held by
 
529
                                      '%s\n' # locked ... ago
 
530
                                      'Will continue to try until %s, unless '
 
531
                                      'you press Ctrl-C\n'
 
532
                                      'If you\'re sure that it\'s not being '
 
533
                                      'modified, use bzr break-lock %s',
 
534
                                      start,
 
535
                                      formatted_info[0],
 
536
                                      formatted_info[1],
 
537
                                      formatted_info[2],
 
538
                                      deadline_str,
 
539
                                      lock_url)
 
540
 
628
541
            if (max_attempts is not None) and (attempt_count >= max_attempts):
629
542
                self._trace("exceeded %d attempts")
630
543
                raise LockContention(self)
632
545
                self._trace("waiting %ss", poll)
633
546
                time.sleep(poll)
634
547
            else:
635
 
                # As timeout is always 0 for remote locks
636
 
                # this block is applicable only for local
637
 
                # lock contention
638
548
                self._trace("timeout after waiting %ss", timeout)
639
 
                raise LockContention('(local)', lock_url)
 
549
                raise LockContention(self)
640
550
 
641
551
    def leave_in_place(self):
642
552
        self._locked_via_token = True
685
595
            raise LockContention(self)
686
596
        self._fake_read_lock = True
687
597
 
 
598
    def _format_lock_info(self, info):
 
599
        """Turn the contents of peek() into something for the user"""
 
600
        lock_url = self.transport.abspath(self.path)
 
601
        delta = time.time() - int(info['start_time'])
 
602
        return [
 
603
            'lock %s' % (lock_url,),
 
604
            'held by %(user)s on host %(hostname)s [process #%(pid)s]' % info,
 
605
            'locked %s' % (format_delta(delta),),
 
606
            ]
 
607
 
688
608
    def validate_token(self, token):
689
609
        if token is not None:
690
610
            info = self.peek()
702
622
        if 'lock' not in debug.debug_flags:
703
623
            return
704
624
        mutter(str(self) + ": " + (format % args))
705
 
 
706
 
    def get_config(self):
707
 
        """Get the configuration that governs this lockdir."""
708
 
        # XXX: This really should also use the locationconfig at least, but
709
 
        # that seems a bit hard to hook up at the moment. -- mbp 20110329
710
 
        # FIXME: The above is still true ;) -- vila 20110811
711
 
        return config.GlobalStack()
712
 
 
713
 
 
714
 
class LockHeldInfo(object):
715
 
    """The information recorded about a held lock.
716
 
 
717
 
    This information is recorded into the lock when it's taken, and it can be
718
 
    read back by any process with access to the lockdir.  It can be used, for
719
 
    example, to tell the user who holds the lock, or to try to detect whether
720
 
    the lock holder is still alive.
721
 
 
722
 
    Prior to bzr 2.4 a simple dict was used instead of an object.
723
 
    """
724
 
 
725
 
    def __init__(self, info_dict):
726
 
        self.info_dict = info_dict
727
 
 
728
 
    def __repr__(self):
729
 
        """Return a debugging representation of this object."""
730
 
        return "%s(%r)" % (self.__class__.__name__, self.info_dict)
731
 
 
732
 
    def __unicode__(self):
733
 
        """Return a user-oriented description of this object."""
734
 
        d = self.to_readable_dict()
735
 
        return (
736
 
            u'held by %(user)s on %(hostname)s (process #%(pid)s), '
737
 
            u'acquired %(time_ago)s' % d)
738
 
 
739
 
    def to_readable_dict(self):
740
 
        """Turn the holder info into a dict of human-readable attributes.
741
 
 
742
 
        For example, the start time is presented relative to the current time,
743
 
        rather than as seconds since the epoch.
744
 
 
745
 
        Returns a list of [user, hostname, pid, time_ago] all as readable
746
 
        strings.
747
 
        """
748
 
        start_time = self.info_dict.get('start_time')
749
 
        if start_time is None:
750
 
            time_ago = '(unknown)'
751
 
        else:
752
 
            time_ago = format_delta(
753
 
                time.time() - int(self.info_dict['start_time']))
754
 
        user = self.info_dict.get('user', '<unknown>')
755
 
        hostname = self.info_dict.get('hostname', '<unknown>')
756
 
        pid = self.info_dict.get('pid', '<unknown>')
757
 
        return dict(
758
 
            user=user,
759
 
            hostname=hostname,
760
 
            pid=pid,
761
 
            time_ago=time_ago)
762
 
 
763
 
    def get(self, field_name):
764
 
        """Return the contents of a field from the lock info, or None."""
765
 
        return self.info_dict.get(field_name)
766
 
 
767
 
    @classmethod
768
 
    def for_this_process(cls, extra_holder_info):
769
 
        """Return a new LockHeldInfo for a lock taken by this process.
770
 
        """
771
 
        info = dict(
772
 
            hostname=get_host_name(),
773
 
            pid=str(os.getpid()),
774
 
            nonce=rand_chars(20),
775
 
            start_time=str(int(time.time())),
776
 
            user=get_username_for_lock_info(),
777
 
            )
778
 
        if extra_holder_info is not None:
779
 
            info.update(extra_holder_info)
780
 
        return cls(info)
781
 
 
782
 
    def to_bytes(self):
783
 
        s = rio.Stanza(**self.info_dict)
784
 
        return s.to_string()
785
 
 
786
 
    @classmethod
787
 
    def from_info_file_bytes(cls, info_file_bytes):
788
 
        """Construct from the contents of the held file."""
789
 
        lines = osutils.split_lines(info_file_bytes)
790
 
        try:
791
 
            stanza = rio.read_stanza(lines)
792
 
        except ValueError, e:
793
 
            mutter('Corrupt lock info file: %r', lines)
794
 
            raise LockCorrupt("could not parse lock info file: " + str(e),
795
 
                lines)
796
 
        if stanza is None:
797
 
            # see bug 185013; we fairly often end up with the info file being
798
 
            # empty after an interruption; we could log a message here but
799
 
            # there may not be much we can say
800
 
            return cls({})
801
 
        else:
802
 
            return cls(stanza.as_dict())
803
 
 
804
 
    def __cmp__(self, other):
805
 
        """Value comparison of lock holders."""
806
 
        return (
807
 
            cmp(type(self), type(other))
808
 
            or cmp(self.info_dict, other.info_dict))
809
 
 
810
 
    def is_locked_by_this_process(self):
811
 
        """True if this process seems to be the current lock holder."""
812
 
        return (
813
 
            self.get('hostname') == get_host_name()
814
 
            and self.get('pid') == str(os.getpid())
815
 
            and self.get('user') == get_username_for_lock_info())
816
 
 
817
 
    def is_lock_holder_known_dead(self):
818
 
        """True if the lock holder process is known to be dead.
819
 
 
820
 
        False if it's either known to be still alive, or if we just can't tell.
821
 
 
822
 
        We can be fairly sure the lock holder is dead if it declared the same
823
 
        hostname and there is no process with the given pid alive.  If people
824
 
        have multiple machines with the same hostname this may cause trouble.
825
 
 
826
 
        This doesn't check whether the lock holder is in fact the same process
827
 
        calling this method.  (In that case it will return true.)
828
 
        """
829
 
        if self.get('hostname') != get_host_name():
830
 
            return False
831
 
        if self.get('hostname') == 'localhost':
832
 
            # Too ambiguous.
833
 
            return False
834
 
        if self.get('user') != get_username_for_lock_info():
835
 
            # Could well be another local process by a different user, but
836
 
            # just to be safe we won't conclude about this either.
837
 
            return False
838
 
        pid_str = self.info_dict.get('pid', None)
839
 
        if not pid_str:
840
 
            mutter("no pid recorded in %r" % (self, ))
841
 
            return False
842
 
        try:
843
 
            pid = int(pid_str)
844
 
        except ValueError:
845
 
            mutter("can't parse pid %r from %r"
846
 
                % (pid_str, self))
847
 
            return False
848
 
        return osutils.is_local_pid_dead(pid)
849
 
 
850
 
 
851
 
def get_username_for_lock_info():
852
 
    """Get a username suitable for putting into a lock.
853
 
 
854
 
    It's ok if what's written here is not a proper email address as long
855
 
    as it gives some clue who the user is.
856
 
    """
857
 
    try:
858
 
        return config.GlobalConfig().username()
859
 
    except errors.NoWhoami:
860
 
        return osutils.getuser_unicode()