~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lockdir.py

  • Committer: Martin Pool
  • Date: 2006-03-06 04:43:59 UTC
  • mto: This revision was merged to the branch mainline in revision 1593.
  • Revision ID: mbp@sourcefrog.net-20060306044359-f977728599659b6d
Add tests that MetaDir repositories use LockDirs

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006, 2007, 2008 Canonical Ltd
2
 
#
 
1
# Copyright (C) 2006 Canonical Ltd
 
2
 
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
#
 
7
 
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
#
 
12
 
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
88
88
>>> t = MemoryTransport()
89
89
>>> l = LockDir(t, 'sample-lock')
90
90
>>> l.create()
91
 
>>> token = l.wait_lock()
 
91
>>> l.wait_lock()
92
92
>>> # do something here
93
93
>>> l.unlock()
94
94
 
95
95
"""
96
96
 
97
 
 
98
 
# TODO: We sometimes have the problem that our attempt to rename '1234' to
99
 
# 'held' fails because the transport server moves into an existing directory,
100
 
# rather than failing the rename.  If we made the info file name the same as
101
 
# the locked directory name we would avoid this problem because moving into
102
 
# the held directory would implicitly clash.  However this would not mesh with
103
 
# the existing locking code and needs a new format of the containing object.
104
 
# -- robertc, mbp 20070628
105
 
 
106
97
import os
107
98
import time
 
99
from warnings import warn
 
100
from StringIO import StringIO
108
101
 
109
 
from bzrlib import (
110
 
    debug,
111
 
    errors,
112
 
    lock,
113
 
    )
114
102
import bzrlib.config
115
103
from bzrlib.errors import (
116
104
        DirectoryNotEmpty,
118
106
        LockBreakMismatch,
119
107
        LockBroken,
120
108
        LockContention,
121
 
        LockFailed,
 
109
        LockError,
122
110
        LockNotHeld,
123
111
        NoSuchFile,
124
 
        PathError,
125
 
        ResourceBusy,
126
 
        TransportError,
 
112
        UnlockableTransport,
127
113
        )
128
 
from bzrlib.hooks import Hooks
129
 
from bzrlib.trace import mutter, note
130
 
from bzrlib.osutils import format_delta, rand_chars, get_host_name
131
 
import bzrlib.ui
132
 
 
133
 
from bzrlib.lazy_import import lazy_import
134
 
lazy_import(globals(), """
135
 
from bzrlib import rio
136
 
""")
 
114
from bzrlib.transport import Transport
 
115
from bzrlib.osutils import rand_chars
 
116
from bzrlib.rio import RioWriter, read_stanza, Stanza
137
117
 
138
118
# XXX: At the moment there is no consideration of thread safety on LockDir
139
119
# objects.  This should perhaps be updated - e.g. if two threads try to take a
140
120
# lock at the same time they should *both* get it.  But then that's unlikely
141
121
# to be a good idea.
142
122
 
 
123
# TODO: Transport could offer a simpler put() method that avoids the
 
124
# rename-into-place for cases like creating the lock template, where there is
 
125
# no chance that the file already exists.
 
126
 
143
127
# TODO: Perhaps store some kind of note like the bzr command line in the lock
144
128
# info?
145
129
 
149
133
# TODO: Make sure to pass the right file and directory mode bits to all
150
134
# files/dirs created.
151
135
 
152
 
 
153
136
_DEFAULT_TIMEOUT_SECONDS = 300
154
 
_DEFAULT_POLL_SECONDS = 1.0
155
 
 
156
 
 
157
 
class LockDir(lock.Lock):
158
 
    """Write-lock guarding access to data.
159
 
    """
 
137
_DEFAULT_POLL_SECONDS = 0.5
 
138
 
 
139
class LockDir(object):
 
140
    """Write-lock guarding access to data."""
160
141
 
161
142
    __INFO_NAME = '/info'
162
143
 
170
151
        :param path: Path to the lock within the base directory of the 
171
152
            transport.
172
153
        """
 
154
        assert isinstance(transport, Transport), \
 
155
            ("not a transport: %r" % transport)
173
156
        self.transport = transport
174
157
        self.path = path
175
158
        self._lock_held = False
176
 
        self._locked_via_token = False
177
159
        self._fake_read_lock = False
178
160
        self._held_dir = path + '/held'
179
161
        self._held_info_path = self._held_dir + self.__INFO_NAME
180
162
        self._file_modebits = file_modebits
181
163
        self._dir_modebits = dir_modebits
182
 
 
183
 
        self._report_function = note
 
164
        self.nonce = rand_chars(20)
184
165
 
185
166
    def __repr__(self):
186
167
        return '%s(%s%s)' % (self.__class__.__name__,
189
170
 
190
171
    is_held = property(lambda self: self._lock_held)
191
172
 
192
 
    def create(self, mode=None):
 
173
    def create(self):
193
174
        """Create the on-disk lock.
194
175
 
195
176
        This is typically only called when the object/directory containing the 
196
177
        directory is first created.  The lock is not held when it's created.
197
178
        """
198
 
        self._trace("create lock directory")
199
 
        try:
200
 
            self.transport.mkdir(self.path, mode=mode)
201
 
        except (TransportError, PathError), e:
202
 
            raise LockFailed(self, e)
203
 
 
204
 
 
205
 
    def _attempt_lock(self):
206
 
        """Make the pending directory and attempt to rename into place.
 
179
        if self.transport.is_readonly():
 
180
            raise UnlockableTransport(self.transport)
 
181
        self.transport.mkdir(self.path)
 
182
 
 
183
    def attempt_lock(self):
 
184
        """Take the lock; fail if it's already held.
207
185
        
208
 
        If the rename succeeds, we read back the info file to check that we
209
 
        really got the lock.
210
 
 
211
 
        If we fail to acquire the lock, this method is responsible for
212
 
        cleaning up the pending directory if possible.  (But it doesn't do
213
 
        that yet.)
214
 
 
215
 
        :returns: The nonce of the lock, if it was successfully acquired.
216
 
 
217
 
        :raises LockContention: If the lock is held by someone else.  The exception
218
 
            contains the info of the current holder of the lock.
 
186
        If you wish to block until the lock can be obtained, call wait_lock()
 
187
        instead.
219
188
        """
220
 
        self._trace("lock_write...")
221
 
        start_time = time.time()
222
 
        try:
223
 
            tmpname = self._create_pending_dir()
224
 
        except (errors.TransportError, PathError), e:
225
 
            self._trace("... failed to create pending dir, %s", e)
226
 
            raise LockFailed(self, e)
227
 
        try:
 
189
        if self._fake_read_lock:
 
190
            raise LockContention(self)
 
191
        if self.transport.is_readonly():
 
192
            raise UnlockableTransport(self.transport)
 
193
        try:
 
194
            tmpname = '%s/pending.%s.tmp' % (self.path, rand_chars(20))
 
195
            self.transport.mkdir(tmpname)
 
196
            sio = StringIO()
 
197
            self._prepare_info(sio)
 
198
            sio.seek(0)
 
199
            self.transport.put(tmpname + self.__INFO_NAME, sio)
228
200
            self.transport.rename(tmpname, self._held_dir)
229
 
        except (errors.TransportError, PathError, DirectoryNotEmpty,
230
 
                FileExists, ResourceBusy), e:
231
 
            self._trace("... contention, %s", e)
232
 
            self._remove_pending_dir(tmpname)
233
 
            raise LockContention(self)
234
 
        except Exception, e:
235
 
            self._trace("... lock failed, %s", e)
236
 
            self._remove_pending_dir(tmpname)
237
 
            raise
238
 
        # We must check we really got the lock, because Launchpad's sftp
239
 
        # server at one time had a bug were the rename would successfully
240
 
        # move the new directory into the existing directory, which was
241
 
        # incorrect.  It's possible some other servers or filesystems will
242
 
        # have a similar bug allowing someone to think they got the lock
243
 
        # when it's already held.
244
 
        info = self.peek()
245
 
        self._trace("after locking, info=%r", info)
246
 
        if info['nonce'] != self.nonce:
247
 
            self._trace("rename succeeded, "
248
 
                "but lock is still held by someone else")
249
 
            raise LockContention(self)
250
 
        self._lock_held = True
251
 
        self._trace("... lock succeeded after %dms",
252
 
                (time.time() - start_time) * 1000)
253
 
        return self.nonce
254
 
 
255
 
    def _remove_pending_dir(self, tmpname):
256
 
        """Remove the pending directory
257
 
 
258
 
        This is called if we failed to rename into place, so that the pending 
259
 
        dirs don't clutter up the lockdir.
260
 
        """
261
 
        self._trace("remove %s", tmpname)
262
 
        try:
263
 
            self.transport.delete(tmpname + self.__INFO_NAME)
264
 
            self.transport.rmdir(tmpname)
265
 
        except PathError, e:
266
 
            note("error removing pending lock: %s", e)
267
 
 
268
 
    def _create_pending_dir(self):
269
 
        tmpname = '%s/%s.tmp' % (self.path, rand_chars(10))
270
 
        try:
271
 
            self.transport.mkdir(tmpname)
272
 
        except NoSuchFile:
273
 
            # This may raise a FileExists exception
274
 
            # which is okay, it will be caught later and determined
275
 
            # to be a LockContention.
276
 
            self._trace("lock directory does not exist, creating it")
277
 
            self.create(mode=self._dir_modebits)
278
 
            # After creating the lock directory, try again
279
 
            self.transport.mkdir(tmpname)
280
 
        self.nonce = rand_chars(20)
281
 
        info_bytes = self._prepare_info()
282
 
        # We use put_file_non_atomic because we just created a new unique
283
 
        # directory so we don't have to worry about files existing there.
284
 
        # We'll rename the whole directory into place to get atomic
285
 
        # properties
286
 
        self.transport.put_bytes_non_atomic(tmpname + self.__INFO_NAME,
287
 
                                            info_bytes)
288
 
        return tmpname
 
201
            self._lock_held = True
 
202
            self.confirm()
 
203
            return
 
204
        except (DirectoryNotEmpty, FileExists), e:
 
205
            pass
 
206
        # fall through to here on contention
 
207
        raise LockContention(self)
289
208
 
290
209
    def unlock(self):
291
210
        """Release a held lock
295
214
            return
296
215
        if not self._lock_held:
297
216
            raise LockNotHeld(self)
298
 
        if self._locked_via_token:
299
 
            self._locked_via_token = False
300
 
            self._lock_held = False
301
 
        else:
302
 
            old_nonce = self.nonce
303
 
            # rename before deleting, because we can't atomically remove the
304
 
            # whole tree
305
 
            start_time = time.time()
306
 
            self._trace("unlocking")
307
 
            tmpname = '%s/releasing.%s.tmp' % (self.path, rand_chars(20))
308
 
            # gotta own it to unlock
309
 
            self.confirm()
310
 
            self.transport.rename(self._held_dir, tmpname)
311
 
            self._lock_held = False
312
 
            self.transport.delete(tmpname + self.__INFO_NAME)
313
 
            try:
314
 
                self.transport.rmdir(tmpname)
315
 
            except DirectoryNotEmpty, e:
316
 
                # There might have been junk left over by a rename that moved
317
 
                # another locker within the 'held' directory.  do a slower
318
 
                # deletion where we list the directory and remove everything
319
 
                # within it.
320
 
                #
321
 
                # Maybe this should be broader to allow for ftp servers with
322
 
                # non-specific error messages?
323
 
                self._trace("doing recursive deletion of non-empty directory "
324
 
                        "%s", tmpname)
325
 
                self.transport.delete_tree(tmpname)
326
 
            self._trace("... unlock succeeded after %dms",
327
 
                    (time.time() - start_time) * 1000)
328
 
            result = lock.LockResult(self.transport.abspath(self.path),
329
 
                old_nonce)
330
 
            for hook in self.hooks['lock_released']:
331
 
                hook(result)
332
 
 
333
 
    def break_lock(self):
334
 
        """Break a lock not held by this instance of LockDir.
335
 
 
336
 
        This is a UI centric function: it uses the bzrlib.ui.ui_factory to
337
 
        prompt for input if a lock is detected and there is any doubt about
338
 
        it possibly being still active.
339
 
        """
340
 
        self._check_not_locked()
341
 
        holder_info = self.peek()
342
 
        if holder_info is not None:
343
 
            lock_info = '\n'.join(self._format_lock_info(holder_info))
344
 
            if bzrlib.ui.ui_factory.get_boolean("Break %s" % lock_info):
345
 
                self.force_break(holder_info)
346
 
        
 
217
        # rename before deleting, because we can't atomically remove the whole
 
218
        # tree
 
219
        tmpname = '%s/releasing.%s.tmp' % (self.path, rand_chars(20))
 
220
        self.transport.rename(self._held_dir, tmpname)
 
221
        self._lock_held = False
 
222
        self.transport.delete(tmpname + self.__INFO_NAME)
 
223
        self.transport.rmdir(tmpname)
 
224
 
347
225
    def force_break(self, dead_holder_info):
348
226
        """Release a lock held by another process.
349
227
 
362
240
        """
363
241
        if not isinstance(dead_holder_info, dict):
364
242
            raise ValueError("dead_holder_info: %r" % dead_holder_info)
365
 
        self._check_not_locked()
 
243
        if self._lock_held:
 
244
            raise AssertionError("can't break own lock: %r" % self)
366
245
        current_info = self.peek()
367
246
        if current_info is None:
368
247
            # must have been recently released
381
260
        self.transport.delete(broken_info_path)
382
261
        self.transport.rmdir(tmpname)
383
262
 
384
 
    def _check_not_locked(self):
385
 
        """If the lock is held by this instance, raise an error."""
386
 
        if self._lock_held:
387
 
            raise AssertionError("can't break own lock: %r" % self)
388
 
 
389
263
    def confirm(self):
390
264
        """Make sure that the lock is still held by this locker.
391
265
 
422
296
        """
423
297
        try:
424
298
            info = self._read_info_file(self._held_info_path)
425
 
            self._trace("peek -> held")
 
299
            assert isinstance(info, dict), \
 
300
                    "bad parse result %r" % info
426
301
            return info
427
302
        except NoSuchFile, e:
428
 
            self._trace("peek -> not held")
 
303
            return None
429
304
 
430
 
    def _prepare_info(self):
 
305
    def _prepare_info(self, outf):
431
306
        """Write information about a pending lock to a temporary file.
432
307
        """
 
308
        import socket
433
309
        # XXX: is creating this here inefficient?
434
310
        config = bzrlib.config.GlobalConfig()
435
 
        try:
436
 
            user = config.user_email()
437
 
        except errors.NoEmailInUsername:
438
 
            user = config.username()
439
 
        s = rio.Stanza(hostname=get_host_name(),
 
311
        s = Stanza(hostname=socket.gethostname(),
440
312
                   pid=str(os.getpid()),
441
313
                   start_time=str(int(time.time())),
442
314
                   nonce=self.nonce,
443
 
                   user=user,
 
315
                   user=config.user_email(),
444
316
                   )
445
 
        return s.to_string()
 
317
        RioWriter(outf).write_stanza(s)
446
318
 
447
319
    def _parse_info(self, info_file):
448
 
        return rio.read_stanza(info_file.readlines()).as_dict()
449
 
 
450
 
    def attempt_lock(self):
451
 
        """Take the lock; fail if it's already held.
452
 
        
453
 
        If you wish to block until the lock can be obtained, call wait_lock()
454
 
        instead.
455
 
 
456
 
        :return: The lock token.
457
 
        :raises LockContention: if the lock is held by someone else.
458
 
        """
459
 
        if self._fake_read_lock:
460
 
            raise LockContention(self)
461
 
        result = self._attempt_lock()
462
 
        hook_result = lock.LockResult(self.transport.abspath(self.path),
463
 
                self.nonce)
464
 
        for hook in self.hooks['lock_acquired']:
465
 
            hook(hook_result)
466
 
        return result
467
 
 
468
 
    def wait_lock(self, timeout=None, poll=None, max_attempts=None):
 
320
        return read_stanza(info_file.readlines()).as_dict()
 
321
 
 
322
    def wait_lock(self, timeout=_DEFAULT_TIMEOUT_SECONDS,
 
323
                  poll=_DEFAULT_POLL_SECONDS):
469
324
        """Wait a certain period for a lock.
470
325
 
471
326
        If the lock can be acquired within the bounded time, it
473
328
        is raised.  Either way, this function should return within
474
329
        approximately `timeout` seconds.  (It may be a bit more if
475
330
        a transport operation takes a long time to complete.)
476
 
 
477
 
        :param timeout: Approximate maximum amount of time to wait for the
478
 
        lock, in seconds.
479
 
         
480
 
        :param poll: Delay in seconds between retrying the lock.
481
 
 
482
 
        :param max_attempts: Maximum number of times to try to lock.
483
 
 
484
 
        :return: The lock token.
485
331
        """
486
 
        if timeout is None:
487
 
            timeout = _DEFAULT_TIMEOUT_SECONDS
488
 
        if poll is None:
489
 
            poll = _DEFAULT_POLL_SECONDS
490
 
        # XXX: the transport interface doesn't let us guard against operations
491
 
        # there taking a long time, so the total elapsed time or poll interval
492
 
        # may be more than was requested.
 
332
        # XXX: the transport interface doesn't let us guard 
 
333
        # against operations there taking a long time.
493
334
        deadline = time.time() + timeout
494
 
        deadline_str = None
495
 
        last_info = None
496
 
        attempt_count = 0
497
335
        while True:
498
 
            attempt_count += 1
499
336
            try:
500
 
                return self.attempt_lock()
 
337
                self.attempt_lock()
 
338
                return
501
339
            except LockContention:
502
 
                # possibly report the blockage, then try again
503
340
                pass
504
 
            # TODO: In a few cases, we find out that there's contention by
505
 
            # reading the held info and observing that it's not ours.  In
506
 
            # those cases it's a bit redundant to read it again.  However,
507
 
            # the normal case (??) is that the rename fails and so we
508
 
            # don't know who holds the lock.  For simplicity we peek
509
 
            # always.
510
 
            new_info = self.peek()
511
 
            if new_info is not None and new_info != last_info:
512
 
                if last_info is None:
513
 
                    start = 'Unable to obtain'
514
 
                else:
515
 
                    start = 'Lock owner changed for'
516
 
                last_info = new_info
517
 
                formatted_info = self._format_lock_info(new_info)
518
 
                if deadline_str is None:
519
 
                    deadline_str = time.strftime('%H:%M:%S',
520
 
                                                 time.localtime(deadline))
521
 
                lock_url = self.transport.abspath(self.path)
522
 
                self._report_function('%s %s\n'
523
 
                                      '%s\n' # held by
524
 
                                      '%s\n' # locked ... ago
525
 
                                      'Will continue to try until %s, unless '
526
 
                                      'you press Ctrl-C\n'
527
 
                                      'If you\'re sure that it\'s not being '
528
 
                                      'modified, use bzr break-lock %s',
529
 
                                      start,
530
 
                                      formatted_info[0],
531
 
                                      formatted_info[1],
532
 
                                      formatted_info[2],
533
 
                                      deadline_str,
534
 
                                      lock_url)
535
 
 
536
 
            if (max_attempts is not None) and (attempt_count >= max_attempts):
537
 
                self._trace("exceeded %d attempts")
538
 
                raise LockContention(self)
539
341
            if time.time() + poll < deadline:
540
 
                self._trace("waiting %ss", poll)
541
342
                time.sleep(poll)
542
343
            else:
543
 
                self._trace("timeout after waiting %ss", timeout)
544
344
                raise LockContention(self)
545
 
    
546
 
    def leave_in_place(self):
547
 
        self._locked_via_token = True
548
 
 
549
 
    def dont_leave_in_place(self):
550
 
        self._locked_via_token = False
551
 
 
552
 
    def lock_write(self, token=None):
553
 
        """Wait for and acquire the lock.
554
 
        
555
 
        :param token: if this is already locked, then lock_write will fail
556
 
            unless the token matches the existing lock.
557
 
        :returns: a token if this instance supports tokens, otherwise None.
558
 
        :raises TokenLockingNotSupported: when a token is given but this
559
 
            instance doesn't support using token locks.
560
 
        :raises MismatchedToken: if the specified token doesn't match the token
561
 
            of the existing lock.
562
 
 
563
 
        A token should be passed in if you know that you have locked the object
564
 
        some other way, and need to synchronise this object's state with that
565
 
        fact.
566
 
         
567
 
        XXX: docstring duplicated from LockableFiles.lock_write.
568
 
        """
569
 
        if token is not None:
570
 
            self.validate_token(token)
571
 
            self.nonce = token
572
 
            self._lock_held = True
573
 
            self._locked_via_token = True
574
 
            return token
575
 
        else:
576
 
            return self.wait_lock()
 
345
 
 
346
    def lock_write(self):
 
347
        """Wait for and acquire the lock."""
 
348
        self.attempt_lock()
577
349
 
578
350
    def lock_read(self):
579
 
        """Compatibility-mode shared lock.
 
351
        """Compatability-mode shared lock.
580
352
 
581
353
        LockDir doesn't support shared read-only locks, so this 
582
354
        just pretends that the lock is taken but really does nothing.
590
362
            raise LockContention(self)
591
363
        self._fake_read_lock = True
592
364
 
593
 
    def _format_lock_info(self, info):
594
 
        """Turn the contents of peek() into something for the user"""
595
 
        lock_url = self.transport.abspath(self.path)
596
 
        delta = time.time() - int(info['start_time'])
597
 
        return [
598
 
            'lock %s' % (lock_url,),
599
 
            'held by %(user)s on host %(hostname)s [process #%(pid)s]' % info,
600
 
            'locked %s' % (format_delta(delta),),
601
 
            ]
602
 
 
603
 
    def validate_token(self, token):
604
 
        if token is not None:
605
 
            info = self.peek()
606
 
            if info is None:
607
 
                # Lock isn't held
608
 
                lock_token = None
609
 
            else:
610
 
                lock_token = info.get('nonce')
611
 
            if token != lock_token:
612
 
                raise errors.TokenMismatch(token, lock_token)
613
 
            else:
614
 
                self._trace("revalidated by token %r", token)
615
 
 
616
 
    def _trace(self, format, *args):
617
 
        if 'lock' not in debug.debug_flags:
618
 
            return
619
 
        mutter(str(self) + ": " + (format % args))
 
365
    def wait(self, timeout=20, poll=0.5):
 
366
        """Wait a certain period for a lock to be released."""
 
367
        # XXX: the transport interface doesn't let us guard 
 
368
        # against operations there taking a long time.
 
369
        deadline = time.time() + timeout
 
370
        while True:
 
371
            if self.peek():
 
372
                return
 
373
            if time.time() + poll < deadline:
 
374
                time.sleep(poll)
 
375
            else:
 
376
                raise LockContention(self)
 
377