~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lockdir.py

  • Committer: John Arbash Meinel
  • Date: 2011-04-20 15:06:17 UTC
  • mto: This revision was merged to the branch mainline in revision 5836.
  • Revision ID: john@arbash-meinel.com-20110420150617-i41caxgemg32tq1r
Start adding tests that _worth_saving_limit works as expected.

Show diffs side-by-side

added added

removed removed

Lines of Context:
92
92
>>> # do something here
93
93
>>> l.unlock()
94
94
 
95
 
Some classes of stale locks can be predicted by checking: the host name is the
96
 
same as the local host name; the user name is the same as the local user; the
97
 
process id no longer exists.  The check on user name is not strictly necessary
98
 
but helps protect against colliding host names.
99
95
"""
100
96
 
101
 
from __future__ import absolute_import
102
 
 
103
97
 
104
98
# TODO: We sometimes have the problem that our attempt to rename '1234' to
105
99
# 'held' fails because the transport server moves into an existing directory,
113
107
import time
114
108
 
115
109
from bzrlib import (
116
 
    config,
117
110
    debug,
118
111
    errors,
119
112
    lock,
120
113
    osutils,
121
 
    ui,
122
 
    urlutils,
123
114
    )
 
115
import bzrlib.config
124
116
from bzrlib.decorators import only_raises
125
117
from bzrlib.errors import (
126
118
        DirectoryNotEmpty,
138
130
        )
139
131
from bzrlib.trace import mutter, note
140
132
from bzrlib.osutils import format_delta, rand_chars, get_host_name
141
 
from bzrlib.i18n import gettext
 
133
import bzrlib.ui
142
134
 
143
135
from bzrlib.lazy_import import lazy_import
144
136
lazy_import(globals(), """
170
162
 
171
163
    __INFO_NAME = '/info'
172
164
 
173
 
    def __init__(self, transport, path, file_modebits=0644, dir_modebits=0755,
174
 
        extra_holder_info=None):
 
165
    def __init__(self, transport, path, file_modebits=0644, dir_modebits=0755):
175
166
        """Create a new LockDir object.
176
167
 
177
168
        The LockDir is initially unlocked - this just creates the object.
180
171
 
181
172
        :param path: Path to the lock within the base directory of the
182
173
            transport.
183
 
 
184
 
        :param extra_holder_info: If passed, {str:str} dict of extra or
185
 
            updated information to insert into the info file when the lock is
186
 
            taken.
187
174
        """
188
175
        self.transport = transport
189
176
        self.path = path
194
181
        self._held_info_path = self._held_dir + self.__INFO_NAME
195
182
        self._file_modebits = file_modebits
196
183
        self._dir_modebits = dir_modebits
 
184
 
197
185
        self._report_function = note
198
 
        self.extra_holder_info = extra_holder_info
199
 
        self._warned_about_lock_holder = None
200
186
 
201
187
    def __repr__(self):
202
188
        return '%s(%s%s)' % (self.__class__.__name__,
217
203
        except (TransportError, PathError), e:
218
204
            raise LockFailed(self, e)
219
205
 
 
206
 
220
207
    def _attempt_lock(self):
221
208
        """Make the pending directory and attempt to rename into place.
222
209
 
229
216
 
230
217
        :returns: The nonce of the lock, if it was successfully acquired.
231
218
 
232
 
        :raises LockContention: If the lock is held by someone else.  The
233
 
            exception contains the info of the current holder of the lock.
 
219
        :raises LockContention: If the lock is held by someone else.  The exception
 
220
            contains the info of the current holder of the lock.
234
221
        """
235
222
        self._trace("lock_write...")
236
223
        start_time = time.time()
239
226
        except (errors.TransportError, PathError), e:
240
227
            self._trace("... failed to create pending dir, %s", e)
241
228
            raise LockFailed(self, e)
242
 
        while True:
243
 
            try:
244
 
                self.transport.rename(tmpname, self._held_dir)
245
 
                break
246
 
            except (errors.TransportError, PathError, DirectoryNotEmpty,
247
 
                    FileExists, ResourceBusy), e:
248
 
                self._trace("... contention, %s", e)
249
 
                other_holder = self.peek()
250
 
                self._trace("other holder is %r" % other_holder)
251
 
                try:
252
 
                    self._handle_lock_contention(other_holder)
253
 
                except:
254
 
                    self._remove_pending_dir(tmpname)
255
 
                    raise
256
 
            except Exception, e:
257
 
                self._trace("... lock failed, %s", e)
258
 
                self._remove_pending_dir(tmpname)
259
 
                raise
 
229
        try:
 
230
            self.transport.rename(tmpname, self._held_dir)
 
231
        except (errors.TransportError, PathError, DirectoryNotEmpty,
 
232
                FileExists, ResourceBusy), e:
 
233
            self._trace("... contention, %s", e)
 
234
            self._remove_pending_dir(tmpname)
 
235
            raise LockContention(self)
 
236
        except Exception, e:
 
237
            self._trace("... lock failed, %s", e)
 
238
            self._remove_pending_dir(tmpname)
 
239
            raise
260
240
        # We must check we really got the lock, because Launchpad's sftp
261
241
        # server at one time had a bug were the rename would successfully
262
242
        # move the new directory into the existing directory, which was
282
262
                (time.time() - start_time) * 1000)
283
263
        return self.nonce
284
264
 
285
 
    def _handle_lock_contention(self, other_holder):
286
 
        """A lock we want to take is held by someone else.
287
 
 
288
 
        This function can: tell the user about it; possibly detect that it's
289
 
        safe or appropriate to steal the lock, or just raise an exception.
290
 
 
291
 
        If this function returns (without raising an exception) the lock will
292
 
        be attempted again.
293
 
 
294
 
        :param other_holder: A LockHeldInfo for the current holder; note that
295
 
            it might be None if the lock can be seen to be held but the info
296
 
            can't be read.
297
 
        """
298
 
        if (other_holder is not None):
299
 
            if other_holder.is_lock_holder_known_dead():
300
 
                if self.get_config().get('locks.steal_dead'):
301
 
                    ui.ui_factory.show_user_warning(
302
 
                        'locks_steal_dead',
303
 
                        lock_url=urlutils.join(self.transport.base, self.path),
304
 
                        other_holder_info=unicode(other_holder))
305
 
                    self.force_break(other_holder)
306
 
                    self._trace("stole lock from dead holder")
307
 
                    return
308
 
        raise LockContention(self)
309
 
 
310
265
    def _remove_pending_dir(self, tmpname):
311
266
        """Remove the pending directory
312
267
 
318
273
            self.transport.delete(tmpname + self.__INFO_NAME)
319
274
            self.transport.rmdir(tmpname)
320
275
        except PathError, e:
321
 
            note(gettext("error removing pending lock: %s"), e)
 
276
            note("error removing pending lock: %s", e)
322
277
 
323
278
    def _create_pending_dir(self):
324
279
        tmpname = '%s/%s.tmp' % (self.path, rand_chars(10))
332
287
            self.create(mode=self._dir_modebits)
333
288
            # After creating the lock directory, try again
334
289
            self.transport.mkdir(tmpname)
335
 
        info = LockHeldInfo.for_this_process(self.extra_holder_info)
336
 
        self.nonce = info.get('nonce')
 
290
        self.nonce = rand_chars(20)
 
291
        info_bytes = self._prepare_info()
337
292
        # We use put_file_non_atomic because we just created a new unique
338
293
        # directory so we don't have to worry about files existing there.
339
294
        # We'll rename the whole directory into place to get atomic
340
295
        # properties
341
296
        self.transport.put_bytes_non_atomic(tmpname + self.__INFO_NAME,
342
 
            info.to_bytes())
 
297
                                            info_bytes)
343
298
        return tmpname
344
299
 
345
300
    @only_raises(LockNotHeld, LockBroken)
389
344
    def break_lock(self):
390
345
        """Break a lock not held by this instance of LockDir.
391
346
 
392
 
        This is a UI centric function: it uses the ui.ui_factory to
 
347
        This is a UI centric function: it uses the bzrlib.ui.ui_factory to
393
348
        prompt for input if a lock is detected and there is any doubt about
394
 
        it possibly being still active.  force_break is the non-interactive
395
 
        version.
 
349
        it possibly being still active.
396
350
 
397
351
        :returns: LockResult for the broken lock.
398
352
        """
401
355
            holder_info = self.peek()
402
356
        except LockCorrupt, e:
403
357
            # The lock info is corrupt.
404
 
            if ui.ui_factory.get_boolean(u"Break (corrupt %r)" % (self,)):
 
358
            if bzrlib.ui.ui_factory.get_boolean("Break (corrupt %r)" % (self,)):
405
359
                self.force_break_corrupt(e.file_data)
406
360
            return
407
361
        if holder_info is not None:
408
 
            if ui.ui_factory.confirm_action(
409
 
                u"Break %(lock_info)s",
410
 
                'bzrlib.lockdir.break',
411
 
                dict(lock_info=unicode(holder_info))):
 
362
            lock_info = '\n'.join(self._format_lock_info(holder_info))
 
363
            if bzrlib.ui.ui_factory.confirm_action(
 
364
                "Break %(lock_info)s", 'bzrlib.lockdir.break', 
 
365
                dict(lock_info=lock_info)):
412
366
                result = self.force_break(holder_info)
413
 
                ui.ui_factory.show_message(
 
367
                bzrlib.ui.ui_factory.show_message(
414
368
                    "Broke lock %s" % result.lock_url)
415
369
 
416
370
    def force_break(self, dead_holder_info):
420
374
        it still thinks it has the lock there will be two concurrent writers.
421
375
        In general the user's approval should be sought for lock breaks.
422
376
 
 
377
        dead_holder_info must be the result of a previous LockDir.peek() call;
 
378
        this is used to check that it's still held by the same process that
 
379
        the user decided was dead.  If this is not the current holder,
 
380
        LockBreakMismatch is raised.
 
381
 
423
382
        After the lock is broken it will not be held by any process.
424
383
        It is possible that another process may sneak in and take the
425
384
        lock before the breaking process acquires it.
426
385
 
427
 
        :param dead_holder_info:
428
 
            Must be the result of a previous LockDir.peek() call; this is used
429
 
            to check that it's still held by the same process that the user
430
 
            decided was dead.  If this is not the current holder,
431
 
            LockBreakMismatch is raised.
432
 
 
433
386
        :returns: LockResult for the broken lock.
434
387
        """
435
 
        if not isinstance(dead_holder_info, LockHeldInfo):
 
388
        if not isinstance(dead_holder_info, dict):
436
389
            raise ValueError("dead_holder_info: %r" % dead_holder_info)
437
390
        self._check_not_locked()
438
391
        current_info = self.peek()
460
413
 
461
414
    def force_break_corrupt(self, corrupt_info_lines):
462
415
        """Release a lock that has been corrupted.
463
 
 
 
416
        
464
417
        This is very similar to force_break, it except it doesn't assume that
465
418
        self.peek() can work.
466
 
 
 
419
        
467
420
        :param corrupt_info_lines: the lines of the corrupted info file, used
468
421
            to check that the lock hasn't changed between reading the (corrupt)
469
422
            info file and calling force_break_corrupt.
517
470
 
518
471
        peek() reads the info file of the lock holder, if any.
519
472
        """
520
 
        return LockHeldInfo.from_info_file_bytes(
521
 
            self.transport.get_bytes(path))
 
473
        return self._parse_info(self.transport.get_bytes(path))
522
474
 
523
475
    def peek(self):
524
476
        """Check if the lock is held by anyone.
537
489
    def _prepare_info(self):
538
490
        """Write information about a pending lock to a temporary file.
539
491
        """
 
492
        # XXX: is creating this here inefficient?
 
493
        config = bzrlib.config.GlobalConfig()
 
494
        try:
 
495
            user = config.username()
 
496
        except errors.NoWhoami:
 
497
            user = osutils.getuser_unicode()
 
498
        s = rio.Stanza(hostname=get_host_name(),
 
499
                   pid=str(os.getpid()),
 
500
                   start_time=str(int(time.time())),
 
501
                   nonce=self.nonce,
 
502
                   user=user,
 
503
                   )
 
504
        return s.to_string()
 
505
 
 
506
    def _parse_info(self, info_bytes):
 
507
        lines = osutils.split_lines(info_bytes)
 
508
        try:
 
509
            stanza = rio.read_stanza(lines)
 
510
        except ValueError, e:
 
511
            mutter('Corrupt lock info file: %r', lines)
 
512
            raise LockCorrupt("could not parse lock info file: " + str(e),
 
513
                              lines)
 
514
        if stanza is None:
 
515
            # see bug 185013; we fairly often end up with the info file being
 
516
            # empty after an interruption; we could log a message here but
 
517
            # there may not be much we can say
 
518
            return {}
 
519
        else:
 
520
            return stanza.as_dict()
540
521
 
541
522
    def attempt_lock(self):
542
523
        """Take the lock; fail if it's already held.
613
594
            new_info = self.peek()
614
595
            if new_info is not None and new_info != last_info:
615
596
                if last_info is None:
616
 
                    start = gettext('Unable to obtain')
 
597
                    start = 'Unable to obtain'
617
598
                else:
618
 
                    start = gettext('Lock owner changed for')
 
599
                    start = 'Lock owner changed for'
619
600
                last_info = new_info
620
 
                msg = gettext('{0} lock {1} {2}.').format(start, lock_url,
621
 
                                                                    new_info)
 
601
                formatted_info = self._format_lock_info(new_info)
622
602
                if deadline_str is None:
623
603
                    deadline_str = time.strftime('%H:%M:%S',
624
 
                                                    time.localtime(deadline))
 
604
                                                 time.localtime(deadline))
 
605
                user, hostname, pid, time_ago = formatted_info
 
606
                msg = ('%s lock %s '        # lock_url
 
607
                    'held by '              # start
 
608
                    '%s\n'                  # user
 
609
                    'at %s '                # hostname
 
610
                    '[process #%s], '       # pid
 
611
                    'acquired %s.')         # time ago
 
612
                msg_args = [start, lock_url, user, hostname, pid, time_ago]
625
613
                if timeout > 0:
626
 
                    msg += '\n' + gettext(
627
 
                             'Will continue to try until %s, unless '
628
 
                             'you press Ctrl-C.') % deadline_str
629
 
                msg += '\n' + gettext('See "bzr help break-lock" for more.')
630
 
                self._report_function(msg)
 
614
                    msg += ('\nWill continue to try until %s, unless '
 
615
                        'you press Ctrl-C.')
 
616
                    msg_args.append(deadline_str)
 
617
                msg += '\nSee "bzr help break-lock" for more.'
 
618
                self._report_function(msg, *msg_args)
631
619
            if (max_attempts is not None) and (attempt_count >= max_attempts):
632
620
                self._trace("exceeded %d attempts")
633
621
                raise LockContention(self)
688
676
            raise LockContention(self)
689
677
        self._fake_read_lock = True
690
678
 
 
679
    def _format_lock_info(self, info):
 
680
        """Turn the contents of peek() into something for the user"""
 
681
        start_time = info.get('start_time')
 
682
        if start_time is None:
 
683
            time_ago = '(unknown)'
 
684
        else:
 
685
            time_ago = format_delta(time.time() - int(info['start_time']))
 
686
        user = info.get('user', '<unknown>')
 
687
        hostname = info.get('hostname', '<unknown>')
 
688
        pid = info.get('pid', '<unknown>')
 
689
        return [
 
690
            user,
 
691
            hostname,
 
692
            pid,
 
693
            time_ago,
 
694
            ]
 
695
 
691
696
    def validate_token(self, token):
692
697
        if token is not None:
693
698
            info = self.peek()
705
710
        if 'lock' not in debug.debug_flags:
706
711
            return
707
712
        mutter(str(self) + ": " + (format % args))
708
 
 
709
 
    def get_config(self):
710
 
        """Get the configuration that governs this lockdir."""
711
 
        # XXX: This really should also use the locationconfig at least, but
712
 
        # that seems a bit hard to hook up at the moment. -- mbp 20110329
713
 
        # FIXME: The above is still true ;) -- vila 20110811
714
 
        return config.GlobalStack()
715
 
 
716
 
 
717
 
class LockHeldInfo(object):
718
 
    """The information recorded about a held lock.
719
 
 
720
 
    This information is recorded into the lock when it's taken, and it can be
721
 
    read back by any process with access to the lockdir.  It can be used, for
722
 
    example, to tell the user who holds the lock, or to try to detect whether
723
 
    the lock holder is still alive.
724
 
 
725
 
    Prior to bzr 2.4 a simple dict was used instead of an object.
726
 
    """
727
 
 
728
 
    def __init__(self, info_dict):
729
 
        self.info_dict = info_dict
730
 
 
731
 
    def __repr__(self):
732
 
        """Return a debugging representation of this object."""
733
 
        return "%s(%r)" % (self.__class__.__name__, self.info_dict)
734
 
 
735
 
    def __unicode__(self):
736
 
        """Return a user-oriented description of this object."""
737
 
        d = self.to_readable_dict()
738
 
        return ( gettext(
739
 
            u'held by %(user)s on %(hostname)s (process #%(pid)s), '
740
 
            u'acquired %(time_ago)s') % d)
741
 
 
742
 
    def to_readable_dict(self):
743
 
        """Turn the holder info into a dict of human-readable attributes.
744
 
 
745
 
        For example, the start time is presented relative to the current time,
746
 
        rather than as seconds since the epoch.
747
 
 
748
 
        Returns a list of [user, hostname, pid, time_ago] all as readable
749
 
        strings.
750
 
        """
751
 
        start_time = self.info_dict.get('start_time')
752
 
        if start_time is None:
753
 
            time_ago = '(unknown)'
754
 
        else:
755
 
            time_ago = format_delta(
756
 
                time.time() - int(self.info_dict['start_time']))
757
 
        user = self.info_dict.get('user', '<unknown>')
758
 
        hostname = self.info_dict.get('hostname', '<unknown>')
759
 
        pid = self.info_dict.get('pid', '<unknown>')
760
 
        return dict(
761
 
            user=user,
762
 
            hostname=hostname,
763
 
            pid=pid,
764
 
            time_ago=time_ago)
765
 
 
766
 
    def get(self, field_name):
767
 
        """Return the contents of a field from the lock info, or None."""
768
 
        return self.info_dict.get(field_name)
769
 
 
770
 
    @classmethod
771
 
    def for_this_process(cls, extra_holder_info):
772
 
        """Return a new LockHeldInfo for a lock taken by this process.
773
 
        """
774
 
        info = dict(
775
 
            hostname=get_host_name(),
776
 
            pid=str(os.getpid()),
777
 
            nonce=rand_chars(20),
778
 
            start_time=str(int(time.time())),
779
 
            user=get_username_for_lock_info(),
780
 
            )
781
 
        if extra_holder_info is not None:
782
 
            info.update(extra_holder_info)
783
 
        return cls(info)
784
 
 
785
 
    def to_bytes(self):
786
 
        s = rio.Stanza(**self.info_dict)
787
 
        return s.to_string()
788
 
 
789
 
    @classmethod
790
 
    def from_info_file_bytes(cls, info_file_bytes):
791
 
        """Construct from the contents of the held file."""
792
 
        lines = osutils.split_lines(info_file_bytes)
793
 
        try:
794
 
            stanza = rio.read_stanza(lines)
795
 
        except ValueError, e:
796
 
            mutter('Corrupt lock info file: %r', lines)
797
 
            raise LockCorrupt("could not parse lock info file: " + str(e),
798
 
                lines)
799
 
        if stanza is None:
800
 
            # see bug 185013; we fairly often end up with the info file being
801
 
            # empty after an interruption; we could log a message here but
802
 
            # there may not be much we can say
803
 
            return cls({})
804
 
        else:
805
 
            return cls(stanza.as_dict())
806
 
 
807
 
    def __cmp__(self, other):
808
 
        """Value comparison of lock holders."""
809
 
        return (
810
 
            cmp(type(self), type(other))
811
 
            or cmp(self.info_dict, other.info_dict))
812
 
 
813
 
    def is_locked_by_this_process(self):
814
 
        """True if this process seems to be the current lock holder."""
815
 
        return (
816
 
            self.get('hostname') == get_host_name()
817
 
            and self.get('pid') == str(os.getpid())
818
 
            and self.get('user') == get_username_for_lock_info())
819
 
 
820
 
    def is_lock_holder_known_dead(self):
821
 
        """True if the lock holder process is known to be dead.
822
 
 
823
 
        False if it's either known to be still alive, or if we just can't tell.
824
 
 
825
 
        We can be fairly sure the lock holder is dead if it declared the same
826
 
        hostname and there is no process with the given pid alive.  If people
827
 
        have multiple machines with the same hostname this may cause trouble.
828
 
 
829
 
        This doesn't check whether the lock holder is in fact the same process
830
 
        calling this method.  (In that case it will return true.)
831
 
        """
832
 
        if self.get('hostname') != get_host_name():
833
 
            return False
834
 
        if self.get('hostname') == 'localhost':
835
 
            # Too ambiguous.
836
 
            return False
837
 
        if self.get('user') != get_username_for_lock_info():
838
 
            # Could well be another local process by a different user, but
839
 
            # just to be safe we won't conclude about this either.
840
 
            return False
841
 
        pid_str = self.info_dict.get('pid', None)
842
 
        if not pid_str:
843
 
            mutter("no pid recorded in %r" % (self, ))
844
 
            return False
845
 
        try:
846
 
            pid = int(pid_str)
847
 
        except ValueError:
848
 
            mutter("can't parse pid %r from %r"
849
 
                % (pid_str, self))
850
 
            return False
851
 
        return osutils.is_local_pid_dead(pid)
852
 
 
853
 
 
854
 
def get_username_for_lock_info():
855
 
    """Get a username suitable for putting into a lock.
856
 
 
857
 
    It's ok if what's written here is not a proper email address as long
858
 
    as it gives some clue who the user is.
859
 
    """
860
 
    try:
861
 
        return config.GlobalStack().get('email')
862
 
    except errors.NoWhoami:
863
 
        return osutils.getuser_unicode()