~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lockdir.py

  • Committer: John Arbash Meinel
  • Date: 2006-07-27 18:14:48 UTC
  • mto: (1946.2.6 reduce-knit-churn)
  • mto: This revision was merged to the branch mainline in revision 1887.
  • Revision ID: john@arbash-meinel.com-20060727181448-62962f823be5d3cc
minor typo fix

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006, 2007 Canonical Ltd
2
 
#
 
1
# Copyright (C) 2006 Canonical Ltd
 
2
 
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
#
 
7
 
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
#
 
12
 
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
88
88
>>> t = MemoryTransport()
89
89
>>> l = LockDir(t, 'sample-lock')
90
90
>>> l.create()
91
 
>>> token = l.wait_lock()
 
91
>>> l.wait_lock()
92
92
>>> # do something here
93
93
>>> l.unlock()
94
94
 
95
95
"""
96
96
 
97
 
 
98
 
# TODO: We sometimes have the problem that our attempt to rename '1234' to
99
 
# 'held' fails because the transport server moves into an existing directory,
100
 
# rather than failing the rename.  If we made the info file name the same as
101
 
# the locked directory name we would avoid this problem because moving into
102
 
# the held directory would implicitly clash.  However this would not mesh with
103
 
# the existing locking code and needs a new format of the containing object.
104
 
# -- robertc, mbp 20070628
105
 
 
106
97
import os
107
98
import time
108
 
from cStringIO import StringIO
 
99
from StringIO import StringIO
109
100
 
110
 
from bzrlib import (
111
 
    debug,
112
 
    errors,
113
 
    )
114
101
import bzrlib.config
115
102
from bzrlib.errors import (
116
103
        DirectoryNotEmpty,
124
111
        ResourceBusy,
125
112
        UnlockableTransport,
126
113
        )
127
 
from bzrlib.trace import mutter, note
 
114
from bzrlib.trace import mutter
128
115
from bzrlib.transport import Transport
129
 
from bzrlib.osutils import rand_chars, format_delta
130
 
from bzrlib.rio import read_stanza, Stanza
131
 
import bzrlib.ui
132
 
 
 
116
from bzrlib.osutils import rand_chars
 
117
from bzrlib.rio import RioWriter, read_stanza, Stanza
133
118
 
134
119
# XXX: At the moment there is no consideration of thread safety on LockDir
135
120
# objects.  This should perhaps be updated - e.g. if two threads try to take a
145
130
# TODO: Make sure to pass the right file and directory mode bits to all
146
131
# files/dirs created.
147
132
 
148
 
 
149
133
_DEFAULT_TIMEOUT_SECONDS = 300
150
 
_DEFAULT_POLL_SECONDS = 1.0
151
 
 
 
134
_DEFAULT_POLL_SECONDS = 0.5
152
135
 
153
136
class LockDir(object):
154
137
    """Write-lock guarding access to data."""
170
153
        self.transport = transport
171
154
        self.path = path
172
155
        self._lock_held = False
173
 
        self._locked_via_token = False
174
156
        self._fake_read_lock = False
175
157
        self._held_dir = path + '/held'
176
158
        self._held_info_path = self._held_dir + self.__INFO_NAME
177
159
        self._file_modebits = file_modebits
178
160
        self._dir_modebits = dir_modebits
179
 
 
180
 
        self._report_function = note
 
161
        self.nonce = rand_chars(20)
181
162
 
182
163
    def __repr__(self):
183
164
        return '%s(%s%s)' % (self.__class__.__name__,
194
175
        """
195
176
        if self.transport.is_readonly():
196
177
            raise UnlockableTransport(self.transport)
197
 
        self._trace("create lock directory")
198
178
        self.transport.mkdir(self.path, mode=mode)
199
179
 
200
 
    def _attempt_lock(self):
201
 
        """Make the pending directory and attempt to rename into place.
 
180
    def attempt_lock(self):
 
181
        """Take the lock; fail if it's already held.
202
182
        
203
 
        If the rename succeeds, we read back the info file to check that we
204
 
        really got the lock.
205
 
 
206
 
        If we fail to acquire the lock, this method is responsible for
207
 
        cleaning up the pending directory if possible.  (But it doesn't do
208
 
        that yet.)
209
 
 
210
 
        :returns: The nonce of the lock, if it was successfully acquired.
211
 
 
212
 
        :raises LockContention: If the lock is held by someone else.  The exception
213
 
            contains the info of the current holder of the lock.
 
183
        If you wish to block until the lock can be obtained, call wait_lock()
 
184
        instead.
214
185
        """
215
 
        self._trace("lock_write...")
216
 
        start_time = time.time()
217
 
        tmpname = self._create_pending_dir()
 
186
        if self._fake_read_lock:
 
187
            raise LockContention(self)
 
188
        if self.transport.is_readonly():
 
189
            raise UnlockableTransport(self.transport)
218
190
        try:
 
191
            tmpname = '%s/pending.%s.tmp' % (self.path, rand_chars(20))
 
192
            self.transport.mkdir(tmpname)
 
193
            sio = StringIO()
 
194
            self._prepare_info(sio)
 
195
            sio.seek(0)
 
196
            # append will create a new file; we use append rather than put
 
197
            # because we don't want to write to a temporary file and rename
 
198
            # into place, because that's going to happen to the whole
 
199
            # directory
 
200
            self.transport.append(tmpname + self.__INFO_NAME, sio)
219
201
            self.transport.rename(tmpname, self._held_dir)
 
202
            self._lock_held = True
 
203
            self.confirm()
220
204
        except (PathError, DirectoryNotEmpty, FileExists, ResourceBusy), e:
221
 
            self._trace("... contention, %s", e)
222
 
            self._remove_pending_dir(tmpname)
223
 
            raise LockContention(self)
224
 
        except Exception, e:
225
 
            self._trace("... lock failed, %s", e)
226
 
            self._remove_pending_dir(tmpname)
227
 
            raise
228
 
        # We must check we really got the lock, because Launchpad's sftp
229
 
        # server at one time had a bug were the rename would successfully
230
 
        # move the new directory into the existing directory, which was
231
 
        # incorrect.  It's possible some other servers or filesystems will
232
 
        # have a similar bug allowing someone to think they got the lock
233
 
        # when it's already held.
234
 
        info = self.peek()
235
 
        self._trace("after locking, info=%r", info)
236
 
        if info['nonce'] != self.nonce:
237
 
            self._trace("rename succeeded, "
238
 
                "but lock is still held by someone else")
239
 
            raise LockContention(self)
240
 
        self._lock_held = True
241
 
        self._trace("... lock succeeded after %dms",
242
 
                (time.time() - start_time) * 1000)
243
 
        return self.nonce
244
 
 
245
 
    def _remove_pending_dir(self, tmpname):
246
 
        """Remove the pending directory
247
 
 
248
 
        This is called if we failed to rename into place, so that the pending 
249
 
        dirs don't clutter up the lockdir.
250
 
        """
251
 
        self._trace("remove %s", tmpname)
252
 
        try:
253
 
            self.transport.delete(tmpname + self.__INFO_NAME)
254
 
            self.transport.rmdir(tmpname)
255
 
        except PathError, e:
256
 
            note("error removing pending lock: %s", e)
257
 
 
258
 
    def _create_pending_dir(self):
259
 
        tmpname = '%s/%s.tmp' % (self.path, rand_chars(10))
260
 
        try:
261
 
            self.transport.mkdir(tmpname)
262
 
        except NoSuchFile:
263
 
            # This may raise a FileExists exception
264
 
            # which is okay, it will be caught later and determined
265
 
            # to be a LockContention.
266
 
            self._trace("lock directory does not exist, creating it")
267
 
            self.create(mode=self._dir_modebits)
268
 
            # After creating the lock directory, try again
269
 
            self.transport.mkdir(tmpname)
270
 
        self.nonce = rand_chars(20)
271
 
        info_bytes = self._prepare_info()
272
 
        # We use put_file_non_atomic because we just created a new unique
273
 
        # directory so we don't have to worry about files existing there.
274
 
        # We'll rename the whole directory into place to get atomic
275
 
        # properties
276
 
        self.transport.put_bytes_non_atomic(tmpname + self.__INFO_NAME,
277
 
                                            info_bytes)
278
 
        return tmpname
 
205
            mutter("contention on %r: %s", self, e)
 
206
            raise LockContention(self)
279
207
 
280
208
    def unlock(self):
281
209
        """Release a held lock
285
213
            return
286
214
        if not self._lock_held:
287
215
            raise LockNotHeld(self)
288
 
        if self._locked_via_token:
289
 
            self._locked_via_token = False
290
 
            self._lock_held = False
291
 
        else:
292
 
            # rename before deleting, because we can't atomically remove the
293
 
            # whole tree
294
 
            start_time = time.time()
295
 
            self._trace("unlocking")
296
 
            tmpname = '%s/releasing.%s.tmp' % (self.path, rand_chars(20))
297
 
            # gotta own it to unlock
298
 
            self.confirm()
299
 
            self.transport.rename(self._held_dir, tmpname)
300
 
            self._lock_held = False
301
 
            self.transport.delete(tmpname + self.__INFO_NAME)
302
 
            try:
303
 
                self.transport.rmdir(tmpname)
304
 
            except DirectoryNotEmpty, e:
305
 
                # There might have been junk left over by a rename that moved
306
 
                # another locker within the 'held' directory.  do a slower
307
 
                # deletion where we list the directory and remove everything
308
 
                # within it.
309
 
                #
310
 
                # Maybe this should be broader to allow for ftp servers with
311
 
                # non-specific error messages?
312
 
                self._trace("doing recursive deletion of non-empty directory "
313
 
                        "%s", tmpname)
314
 
                self.transport.delete_tree(tmpname)
315
 
            self._trace("... unlock succeeded after %dms",
316
 
                    (time.time() - start_time) * 1000)
 
216
        # rename before deleting, because we can't atomically remove the whole
 
217
        # tree
 
218
        tmpname = '%s/releasing.%s.tmp' % (self.path, rand_chars(20))
 
219
        # gotta own it to unlock
 
220
        self.confirm()
 
221
        self.transport.rename(self._held_dir, tmpname)
 
222
        self._lock_held = False
 
223
        self.transport.delete(tmpname + self.__INFO_NAME)
 
224
        self.transport.rmdir(tmpname)
317
225
 
318
226
    def break_lock(self):
319
227
        """Break a lock not held by this instance of LockDir.
325
233
        self._check_not_locked()
326
234
        holder_info = self.peek()
327
235
        if holder_info is not None:
328
 
            lock_info = '\n'.join(self._format_lock_info(holder_info))
329
 
            if bzrlib.ui.ui_factory.get_boolean("Break %s" % lock_info):
 
236
            if bzrlib.ui.ui_factory.get_boolean(
 
237
                "Break lock %s held by %s@%s [process #%s]" % (
 
238
                    self.transport,
 
239
                    holder_info["user"],
 
240
                    holder_info["hostname"],
 
241
                    holder_info["pid"])):
330
242
                self.force_break(holder_info)
331
243
        
332
244
    def force_break(self, dead_holder_info):
407
319
        """
408
320
        try:
409
321
            info = self._read_info_file(self._held_info_path)
410
 
            self._trace("peek -> held")
411
322
            assert isinstance(info, dict), \
412
323
                    "bad parse result %r" % info
413
324
            return info
414
325
        except NoSuchFile, e:
415
 
            self._trace("peek -> not held")
 
326
            return None
416
327
 
417
 
    def _prepare_info(self):
 
328
    def _prepare_info(self, outf):
418
329
        """Write information about a pending lock to a temporary file.
419
330
        """
420
331
        import socket
421
332
        # XXX: is creating this here inefficient?
422
333
        config = bzrlib.config.GlobalConfig()
423
 
        try:
424
 
            user = config.user_email()
425
 
        except errors.NoEmailInUsername:
426
 
            user = config.username()
427
334
        s = Stanza(hostname=socket.gethostname(),
428
335
                   pid=str(os.getpid()),
429
336
                   start_time=str(int(time.time())),
430
337
                   nonce=self.nonce,
431
 
                   user=user,
 
338
                   user=config.user_email(),
432
339
                   )
433
 
        return s.to_string()
 
340
        RioWriter(outf).write_stanza(s)
434
341
 
435
342
    def _parse_info(self, info_file):
436
343
        return read_stanza(info_file.readlines()).as_dict()
437
344
 
438
 
    def attempt_lock(self):
439
 
        """Take the lock; fail if it's already held.
440
 
        
441
 
        If you wish to block until the lock can be obtained, call wait_lock()
442
 
        instead.
443
 
 
444
 
        :return: The lock token.
445
 
        :raises LockContention: if the lock is held by someone else.
446
 
        """
447
 
        if self._fake_read_lock:
448
 
            raise LockContention(self)
449
 
        if self.transport.is_readonly():
450
 
            raise UnlockableTransport(self.transport)
451
 
        return self._attempt_lock()
452
 
 
453
 
    def wait_lock(self, timeout=None, poll=None, max_attempts=None):
 
345
    def wait_lock(self, timeout=_DEFAULT_TIMEOUT_SECONDS,
 
346
                  poll=_DEFAULT_POLL_SECONDS):
454
347
        """Wait a certain period for a lock.
455
348
 
456
349
        If the lock can be acquired within the bounded time, it
458
351
        is raised.  Either way, this function should return within
459
352
        approximately `timeout` seconds.  (It may be a bit more if
460
353
        a transport operation takes a long time to complete.)
461
 
 
462
 
        :param timeout: Approximate maximum amount of time to wait for the
463
 
        lock, in seconds.
464
 
         
465
 
        :param poll: Delay in seconds between retrying the lock.
466
 
 
467
 
        :param max_attempts: Maximum number of times to try to lock.
468
 
 
469
 
        :return: The lock token.
470
354
        """
471
 
        if timeout is None:
472
 
            timeout = _DEFAULT_TIMEOUT_SECONDS
473
 
        if poll is None:
474
 
            poll = _DEFAULT_POLL_SECONDS
475
 
        # XXX: the transport interface doesn't let us guard against operations
476
 
        # there taking a long time, so the total elapsed time or poll interval
477
 
        # may be more than was requested.
 
355
        # XXX: the transport interface doesn't let us guard 
 
356
        # against operations there taking a long time.
478
357
        deadline = time.time() + timeout
479
 
        deadline_str = None
480
 
        last_info = None
481
 
        attempt_count = 0
482
358
        while True:
483
 
            attempt_count += 1
484
359
            try:
485
 
                return self.attempt_lock()
 
360
                self.attempt_lock()
 
361
                return
486
362
            except LockContention:
487
 
                # possibly report the blockage, then try again
488
363
                pass
489
 
            # TODO: In a few cases, we find out that there's contention by
490
 
            # reading the held info and observing that it's not ours.  In
491
 
            # those cases it's a bit redundant to read it again.  However,
492
 
            # the normal case (??) is that the rename fails and so we
493
 
            # don't know who holds the lock.  For simplicity we peek
494
 
            # always.
495
 
            new_info = self.peek()
496
 
            if new_info is not None and new_info != last_info:
497
 
                if last_info is None:
498
 
                    start = 'Unable to obtain'
499
 
                else:
500
 
                    start = 'Lock owner changed for'
501
 
                last_info = new_info
502
 
                formatted_info = self._format_lock_info(new_info)
503
 
                if deadline_str is None:
504
 
                    deadline_str = time.strftime('%H:%M:%S',
505
 
                                                 time.localtime(deadline))
506
 
                self._report_function('%s %s\n'
507
 
                                      '%s\n' # held by
508
 
                                      '%s\n' # locked ... ago
509
 
                                      'Will continue to try until %s\n',
510
 
                                      start,
511
 
                                      formatted_info[0],
512
 
                                      formatted_info[1],
513
 
                                      formatted_info[2],
514
 
                                      deadline_str)
515
 
 
516
 
            if (max_attempts is not None) and (attempt_count >= max_attempts):
517
 
                self._trace("exceeded %d attempts")
518
 
                raise LockContention(self)
519
364
            if time.time() + poll < deadline:
520
 
                self._trace("waiting %ss", poll)
521
365
                time.sleep(poll)
522
366
            else:
523
 
                self._trace("timeout after waiting %ss", timeout)
524
367
                raise LockContention(self)
525
 
    
526
 
    def leave_in_place(self):
527
 
        self._locked_via_token = True
528
 
 
529
 
    def dont_leave_in_place(self):
530
 
        self._locked_via_token = False
531
 
 
532
 
    def lock_write(self, token=None):
533
 
        """Wait for and acquire the lock.
534
 
        
535
 
        :param token: if this is already locked, then lock_write will fail
536
 
            unless the token matches the existing lock.
537
 
        :returns: a token if this instance supports tokens, otherwise None.
538
 
        :raises TokenLockingNotSupported: when a token is given but this
539
 
            instance doesn't support using token locks.
540
 
        :raises MismatchedToken: if the specified token doesn't match the token
541
 
            of the existing lock.
542
 
 
543
 
        A token should be passed in if you know that you have locked the object
544
 
        some other way, and need to synchronise this object's state with that
545
 
        fact.
546
 
         
547
 
        XXX: docstring duplicated from LockableFiles.lock_write.
548
 
        """
549
 
        if token is not None:
550
 
            self.validate_token(token)
551
 
            self.nonce = token
552
 
            self._lock_held = True
553
 
            self._locked_via_token = True
554
 
            return token
555
 
        else:
556
 
            return self.wait_lock()
 
368
 
 
369
    def lock_write(self):
 
370
        """Wait for and acquire the lock."""
 
371
        self.attempt_lock()
557
372
 
558
373
    def lock_read(self):
559
374
        """Compatibility-mode shared lock.
570
385
            raise LockContention(self)
571
386
        self._fake_read_lock = True
572
387
 
573
 
    def _format_lock_info(self, info):
574
 
        """Turn the contents of peek() into something for the user"""
575
 
        lock_url = self.transport.abspath(self.path)
576
 
        delta = time.time() - int(info['start_time'])
577
 
        return [
578
 
            'lock %s' % (lock_url,),
579
 
            'held by %(user)s on host %(hostname)s [process #%(pid)s]' % info,
580
 
            'locked %s' % (format_delta(delta),),
581
 
            ]
582
 
 
583
 
    def validate_token(self, token):
584
 
        if token is not None:
585
 
            info = self.peek()
586
 
            if info is None:
587
 
                # Lock isn't held
588
 
                lock_token = None
589
 
            else:
590
 
                lock_token = info.get('nonce')
591
 
            if token != lock_token:
592
 
                raise errors.TokenMismatch(token, lock_token)
593
 
            else:
594
 
                self._trace("revalidated by token %r", token)
595
 
 
596
 
    def _trace(self, format, *args):
597
 
        if 'lock' not in debug.debug_flags:
598
 
            return
599
 
        mutter(str(self) + ": " + (format % args))
 
388
    def wait(self, timeout=20, poll=0.5):
 
389
        """Wait a certain period for a lock to be released."""
 
390
        # XXX: the transport interface doesn't let us guard 
 
391
        # against operations there taking a long time.
 
392
        deadline = time.time() + timeout
 
393
        while True:
 
394
            if self.peek():
 
395
                return
 
396
            if time.time() + poll < deadline:
 
397
                time.sleep(poll)
 
398
            else:
 
399
                raise LockContention(self)
 
400