~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lockdir.py

  • Committer: Martin Pool
  • Date: 2006-05-18 08:29:34 UTC
  • mto: This revision was merged to the branch mainline in revision 1717.
  • Revision ID: mbp@sourcefrog.net-20060518082934-4511c14f6ea1587a
Fix unbound local when handling failure to write message template

http://bugs.debian.org/cgi-bin/bugreport.cgi?bug=352707
(Bob Tanner)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006, 2007, 2008 Canonical Ltd
2
 
#
 
1
# Copyright (C) 2006 Canonical Ltd
 
2
 
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
#
 
7
 
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
#
 
12
 
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
88
88
>>> t = MemoryTransport()
89
89
>>> l = LockDir(t, 'sample-lock')
90
90
>>> l.create()
91
 
>>> token = l.wait_lock()
 
91
>>> l.wait_lock()
92
92
>>> # do something here
93
93
>>> l.unlock()
94
94
 
95
95
"""
96
96
 
97
 
 
98
 
# TODO: We sometimes have the problem that our attempt to rename '1234' to
99
 
# 'held' fails because the transport server moves into an existing directory,
100
 
# rather than failing the rename.  If we made the info file name the same as
101
 
# the locked directory name we would avoid this problem because moving into
102
 
# the held directory would implicitly clash.  However this would not mesh with
103
 
# the existing locking code and needs a new format of the containing object.
104
 
# -- robertc, mbp 20070628
105
 
 
106
97
import os
107
98
import time
 
99
from warnings import warn
 
100
from StringIO import StringIO
108
101
 
109
 
from bzrlib import (
110
 
    debug,
111
 
    errors,
112
 
    lock,
113
 
    )
114
102
import bzrlib.config
115
103
from bzrlib.errors import (
116
104
        DirectoryNotEmpty,
118
106
        LockBreakMismatch,
119
107
        LockBroken,
120
108
        LockContention,
121
 
        LockFailed,
 
109
        LockError,
122
110
        LockNotHeld,
123
111
        NoSuchFile,
124
112
        PathError,
125
113
        ResourceBusy,
126
 
        TransportError,
 
114
        UnlockableTransport,
127
115
        )
128
 
from bzrlib.hooks import Hooks
129
 
from bzrlib.trace import mutter, note
130
 
from bzrlib.osutils import format_delta, rand_chars, get_host_name
131
 
import bzrlib.ui
132
 
 
133
 
from bzrlib.lazy_import import lazy_import
134
 
lazy_import(globals(), """
135
 
from bzrlib import rio
136
 
""")
 
116
from bzrlib.trace import mutter
 
117
from bzrlib.transport import Transport
 
118
from bzrlib.osutils import rand_chars
 
119
from bzrlib.rio import RioWriter, read_stanza, Stanza
137
120
 
138
121
# XXX: At the moment there is no consideration of thread safety on LockDir
139
122
# objects.  This should perhaps be updated - e.g. if two threads try to take a
149
132
# TODO: Make sure to pass the right file and directory mode bits to all
150
133
# files/dirs created.
151
134
 
152
 
 
153
135
_DEFAULT_TIMEOUT_SECONDS = 300
154
 
_DEFAULT_POLL_SECONDS = 1.0
155
 
 
156
 
 
157
 
class LockDir(lock.Lock):
158
 
    """Write-lock guarding access to data.
159
 
    """
 
136
_DEFAULT_POLL_SECONDS = 0.5
 
137
 
 
138
class LockDir(object):
 
139
    """Write-lock guarding access to data."""
160
140
 
161
141
    __INFO_NAME = '/info'
162
142
 
170
150
        :param path: Path to the lock within the base directory of the 
171
151
            transport.
172
152
        """
 
153
        assert isinstance(transport, Transport), \
 
154
            ("not a transport: %r" % transport)
173
155
        self.transport = transport
174
156
        self.path = path
175
157
        self._lock_held = False
176
 
        self._locked_via_token = False
177
158
        self._fake_read_lock = False
178
159
        self._held_dir = path + '/held'
179
160
        self._held_info_path = self._held_dir + self.__INFO_NAME
180
161
        self._file_modebits = file_modebits
181
162
        self._dir_modebits = dir_modebits
182
 
 
183
 
        self._report_function = note
 
163
        self.nonce = rand_chars(20)
184
164
 
185
165
    def __repr__(self):
186
166
        return '%s(%s%s)' % (self.__class__.__name__,
195
175
        This is typically only called when the object/directory containing the 
196
176
        directory is first created.  The lock is not held when it's created.
197
177
        """
198
 
        self._trace("create lock directory")
199
 
        try:
200
 
            self.transport.mkdir(self.path, mode=mode)
201
 
        except (TransportError, PathError), e:
202
 
            raise LockFailed(self, e)
203
 
 
204
 
 
205
 
    def _attempt_lock(self):
206
 
        """Make the pending directory and attempt to rename into place.
 
178
        if self.transport.is_readonly():
 
179
            raise UnlockableTransport(self.transport)
 
180
        self.transport.mkdir(self.path, mode=mode)
 
181
 
 
182
    def attempt_lock(self):
 
183
        """Take the lock; fail if it's already held.
207
184
        
208
 
        If the rename succeeds, we read back the info file to check that we
209
 
        really got the lock.
210
 
 
211
 
        If we fail to acquire the lock, this method is responsible for
212
 
        cleaning up the pending directory if possible.  (But it doesn't do
213
 
        that yet.)
214
 
 
215
 
        :returns: The nonce of the lock, if it was successfully acquired.
216
 
 
217
 
        :raises LockContention: If the lock is held by someone else.  The exception
218
 
            contains the info of the current holder of the lock.
 
185
        If you wish to block until the lock can be obtained, call wait_lock()
 
186
        instead.
219
187
        """
220
 
        self._trace("lock_write...")
221
 
        start_time = time.time()
222
 
        try:
223
 
            tmpname = self._create_pending_dir()
224
 
        except (errors.TransportError, PathError), e:
225
 
            self._trace("... failed to create pending dir, %s", e)
226
 
            raise LockFailed(self, e)
227
 
        try:
 
188
        if self._fake_read_lock:
 
189
            raise LockContention(self)
 
190
        if self.transport.is_readonly():
 
191
            raise UnlockableTransport(self.transport)
 
192
        try:
 
193
            tmpname = '%s/pending.%s.tmp' % (self.path, rand_chars(20))
 
194
            self.transport.mkdir(tmpname)
 
195
            sio = StringIO()
 
196
            self._prepare_info(sio)
 
197
            sio.seek(0)
 
198
            # append will create a new file; we use append rather than put
 
199
            # because we don't want to write to a temporary file and rename
 
200
            # into place, because that's going to happen to the whole
 
201
            # directory
 
202
            self.transport.append(tmpname + self.__INFO_NAME, sio)
228
203
            self.transport.rename(tmpname, self._held_dir)
229
 
        except (errors.TransportError, PathError, DirectoryNotEmpty,
230
 
                FileExists, ResourceBusy), e:
231
 
            self._trace("... contention, %s", e)
232
 
            self._remove_pending_dir(tmpname)
233
 
            raise LockContention(self)
234
 
        except Exception, e:
235
 
            self._trace("... lock failed, %s", e)
236
 
            self._remove_pending_dir(tmpname)
237
 
            raise
238
 
        # We must check we really got the lock, because Launchpad's sftp
239
 
        # server at one time had a bug were the rename would successfully
240
 
        # move the new directory into the existing directory, which was
241
 
        # incorrect.  It's possible some other servers or filesystems will
242
 
        # have a similar bug allowing someone to think they got the lock
243
 
        # when it's already held.
244
 
        info = self.peek()
245
 
        self._trace("after locking, info=%r", info)
246
 
        if info['nonce'] != self.nonce:
247
 
            self._trace("rename succeeded, "
248
 
                "but lock is still held by someone else")
249
 
            raise LockContention(self)
250
 
        self._lock_held = True
251
 
        self._trace("... lock succeeded after %dms",
252
 
                (time.time() - start_time) * 1000)
253
 
        return self.nonce
254
 
 
255
 
    def _remove_pending_dir(self, tmpname):
256
 
        """Remove the pending directory
257
 
 
258
 
        This is called if we failed to rename into place, so that the pending 
259
 
        dirs don't clutter up the lockdir.
260
 
        """
261
 
        self._trace("remove %s", tmpname)
262
 
        try:
263
 
            self.transport.delete(tmpname + self.__INFO_NAME)
264
 
            self.transport.rmdir(tmpname)
265
 
        except PathError, e:
266
 
            note("error removing pending lock: %s", e)
267
 
 
268
 
    def _create_pending_dir(self):
269
 
        tmpname = '%s/%s.tmp' % (self.path, rand_chars(10))
270
 
        try:
271
 
            self.transport.mkdir(tmpname)
272
 
        except NoSuchFile:
273
 
            # This may raise a FileExists exception
274
 
            # which is okay, it will be caught later and determined
275
 
            # to be a LockContention.
276
 
            self._trace("lock directory does not exist, creating it")
277
 
            self.create(mode=self._dir_modebits)
278
 
            # After creating the lock directory, try again
279
 
            self.transport.mkdir(tmpname)
280
 
        self.nonce = rand_chars(20)
281
 
        info_bytes = self._prepare_info()
282
 
        # We use put_file_non_atomic because we just created a new unique
283
 
        # directory so we don't have to worry about files existing there.
284
 
        # We'll rename the whole directory into place to get atomic
285
 
        # properties
286
 
        self.transport.put_bytes_non_atomic(tmpname + self.__INFO_NAME,
287
 
                                            info_bytes)
288
 
        return tmpname
 
204
            self._lock_held = True
 
205
            self.confirm()
 
206
        except (PathError, DirectoryNotEmpty, FileExists, ResourceBusy), e:
 
207
            mutter("contention on %r: %s", self, e)
 
208
            raise LockContention(self)
289
209
 
290
210
    def unlock(self):
291
211
        """Release a held lock
295
215
            return
296
216
        if not self._lock_held:
297
217
            raise LockNotHeld(self)
298
 
        if self._locked_via_token:
299
 
            self._locked_via_token = False
300
 
            self._lock_held = False
301
 
        else:
302
 
            old_nonce = self.nonce
303
 
            # rename before deleting, because we can't atomically remove the
304
 
            # whole tree
305
 
            start_time = time.time()
306
 
            self._trace("unlocking")
307
 
            tmpname = '%s/releasing.%s.tmp' % (self.path, rand_chars(20))
308
 
            # gotta own it to unlock
309
 
            self.confirm()
310
 
            self.transport.rename(self._held_dir, tmpname)
311
 
            self._lock_held = False
312
 
            self.transport.delete(tmpname + self.__INFO_NAME)
313
 
            try:
314
 
                self.transport.rmdir(tmpname)
315
 
            except DirectoryNotEmpty, e:
316
 
                # There might have been junk left over by a rename that moved
317
 
                # another locker within the 'held' directory.  do a slower
318
 
                # deletion where we list the directory and remove everything
319
 
                # within it.
320
 
                #
321
 
                # Maybe this should be broader to allow for ftp servers with
322
 
                # non-specific error messages?
323
 
                self._trace("doing recursive deletion of non-empty directory "
324
 
                        "%s", tmpname)
325
 
                self.transport.delete_tree(tmpname)
326
 
            self._trace("... unlock succeeded after %dms",
327
 
                    (time.time() - start_time) * 1000)
328
 
            result = lock.LockResult(self.transport.abspath(self.path),
329
 
                old_nonce)
330
 
            for hook in self.hooks['lock_released']:
331
 
                hook(result)
 
218
        # rename before deleting, because we can't atomically remove the whole
 
219
        # tree
 
220
        tmpname = '%s/releasing.%s.tmp' % (self.path, rand_chars(20))
 
221
        # gotta own it to unlock
 
222
        self.confirm()
 
223
        self.transport.rename(self._held_dir, tmpname)
 
224
        self._lock_held = False
 
225
        self.transport.delete(tmpname + self.__INFO_NAME)
 
226
        self.transport.rmdir(tmpname)
332
227
 
333
228
    def break_lock(self):
334
229
        """Break a lock not held by this instance of LockDir.
340
235
        self._check_not_locked()
341
236
        holder_info = self.peek()
342
237
        if holder_info is not None:
343
 
            lock_info = '\n'.join(self._format_lock_info(holder_info))
344
 
            if bzrlib.ui.ui_factory.get_boolean("Break %s" % lock_info):
 
238
            if bzrlib.ui.ui_factory.get_boolean(
 
239
                "Break lock %s held by %s@%s [process #%s]" % (
 
240
                    self.transport,
 
241
                    holder_info["user"],
 
242
                    holder_info["hostname"],
 
243
                    holder_info["pid"])):
345
244
                self.force_break(holder_info)
346
245
        
347
246
    def force_break(self, dead_holder_info):
422
321
        """
423
322
        try:
424
323
            info = self._read_info_file(self._held_info_path)
425
 
            self._trace("peek -> held")
 
324
            assert isinstance(info, dict), \
 
325
                    "bad parse result %r" % info
426
326
            return info
427
327
        except NoSuchFile, e:
428
 
            self._trace("peek -> not held")
 
328
            return None
429
329
 
430
 
    def _prepare_info(self):
 
330
    def _prepare_info(self, outf):
431
331
        """Write information about a pending lock to a temporary file.
432
332
        """
 
333
        import socket
433
334
        # XXX: is creating this here inefficient?
434
335
        config = bzrlib.config.GlobalConfig()
435
 
        try:
436
 
            user = config.user_email()
437
 
        except errors.NoEmailInUsername:
438
 
            user = config.username()
439
 
        s = rio.Stanza(hostname=get_host_name(),
 
336
        s = Stanza(hostname=socket.gethostname(),
440
337
                   pid=str(os.getpid()),
441
338
                   start_time=str(int(time.time())),
442
339
                   nonce=self.nonce,
443
 
                   user=user,
 
340
                   user=config.user_email(),
444
341
                   )
445
 
        return s.to_string()
 
342
        RioWriter(outf).write_stanza(s)
446
343
 
447
344
    def _parse_info(self, info_file):
448
 
        return rio.read_stanza(info_file.readlines()).as_dict()
449
 
 
450
 
    def attempt_lock(self):
451
 
        """Take the lock; fail if it's already held.
452
 
        
453
 
        If you wish to block until the lock can be obtained, call wait_lock()
454
 
        instead.
455
 
 
456
 
        :return: The lock token.
457
 
        :raises LockContention: if the lock is held by someone else.
458
 
        """
459
 
        if self._fake_read_lock:
460
 
            raise LockContention(self)
461
 
        result = self._attempt_lock()
462
 
        hook_result = lock.LockResult(self.transport.abspath(self.path),
463
 
                self.nonce)
464
 
        for hook in self.hooks['lock_acquired']:
465
 
            hook(hook_result)
466
 
        return result
467
 
 
468
 
    def wait_lock(self, timeout=None, poll=None, max_attempts=None):
 
345
        return read_stanza(info_file.readlines()).as_dict()
 
346
 
 
347
    def wait_lock(self, timeout=_DEFAULT_TIMEOUT_SECONDS,
 
348
                  poll=_DEFAULT_POLL_SECONDS):
469
349
        """Wait a certain period for a lock.
470
350
 
471
351
        If the lock can be acquired within the bounded time, it
473
353
        is raised.  Either way, this function should return within
474
354
        approximately `timeout` seconds.  (It may be a bit more if
475
355
        a transport operation takes a long time to complete.)
476
 
 
477
 
        :param timeout: Approximate maximum amount of time to wait for the
478
 
        lock, in seconds.
479
 
         
480
 
        :param poll: Delay in seconds between retrying the lock.
481
 
 
482
 
        :param max_attempts: Maximum number of times to try to lock.
483
 
 
484
 
        :return: The lock token.
485
356
        """
486
 
        if timeout is None:
487
 
            timeout = _DEFAULT_TIMEOUT_SECONDS
488
 
        if poll is None:
489
 
            poll = _DEFAULT_POLL_SECONDS
490
 
        # XXX: the transport interface doesn't let us guard against operations
491
 
        # there taking a long time, so the total elapsed time or poll interval
492
 
        # may be more than was requested.
 
357
        # XXX: the transport interface doesn't let us guard 
 
358
        # against operations there taking a long time.
493
359
        deadline = time.time() + timeout
494
 
        deadline_str = None
495
 
        last_info = None
496
 
        attempt_count = 0
497
360
        while True:
498
 
            attempt_count += 1
499
361
            try:
500
 
                return self.attempt_lock()
 
362
                self.attempt_lock()
 
363
                return
501
364
            except LockContention:
502
 
                # possibly report the blockage, then try again
503
365
                pass
504
 
            # TODO: In a few cases, we find out that there's contention by
505
 
            # reading the held info and observing that it's not ours.  In
506
 
            # those cases it's a bit redundant to read it again.  However,
507
 
            # the normal case (??) is that the rename fails and so we
508
 
            # don't know who holds the lock.  For simplicity we peek
509
 
            # always.
510
 
            new_info = self.peek()
511
 
            if new_info is not None and new_info != last_info:
512
 
                if last_info is None:
513
 
                    start = 'Unable to obtain'
514
 
                else:
515
 
                    start = 'Lock owner changed for'
516
 
                last_info = new_info
517
 
                formatted_info = self._format_lock_info(new_info)
518
 
                if deadline_str is None:
519
 
                    deadline_str = time.strftime('%H:%M:%S',
520
 
                                                 time.localtime(deadline))
521
 
                lock_url = self.transport.abspath(self.path)
522
 
                self._report_function('%s %s\n'
523
 
                                      '%s\n' # held by
524
 
                                      '%s\n' # locked ... ago
525
 
                                      'Will continue to try until %s, unless '
526
 
                                      'you press Ctrl-C\n'
527
 
                                      'If you\'re sure that it\'s not being '
528
 
                                      'modified, use bzr break-lock %s',
529
 
                                      start,
530
 
                                      formatted_info[0],
531
 
                                      formatted_info[1],
532
 
                                      formatted_info[2],
533
 
                                      deadline_str,
534
 
                                      lock_url)
535
 
 
536
 
            if (max_attempts is not None) and (attempt_count >= max_attempts):
537
 
                self._trace("exceeded %d attempts")
538
 
                raise LockContention(self)
539
366
            if time.time() + poll < deadline:
540
 
                self._trace("waiting %ss", poll)
541
367
                time.sleep(poll)
542
368
            else:
543
 
                self._trace("timeout after waiting %ss", timeout)
544
369
                raise LockContention(self)
545
 
    
546
 
    def leave_in_place(self):
547
 
        self._locked_via_token = True
548
 
 
549
 
    def dont_leave_in_place(self):
550
 
        self._locked_via_token = False
551
 
 
552
 
    def lock_write(self, token=None):
553
 
        """Wait for and acquire the lock.
554
 
        
555
 
        :param token: if this is already locked, then lock_write will fail
556
 
            unless the token matches the existing lock.
557
 
        :returns: a token if this instance supports tokens, otherwise None.
558
 
        :raises TokenLockingNotSupported: when a token is given but this
559
 
            instance doesn't support using token locks.
560
 
        :raises MismatchedToken: if the specified token doesn't match the token
561
 
            of the existing lock.
562
 
 
563
 
        A token should be passed in if you know that you have locked the object
564
 
        some other way, and need to synchronise this object's state with that
565
 
        fact.
566
 
         
567
 
        XXX: docstring duplicated from LockableFiles.lock_write.
568
 
        """
569
 
        if token is not None:
570
 
            self.validate_token(token)
571
 
            self.nonce = token
572
 
            self._lock_held = True
573
 
            self._locked_via_token = True
574
 
            return token
575
 
        else:
576
 
            return self.wait_lock()
 
370
 
 
371
    def lock_write(self):
 
372
        """Wait for and acquire the lock."""
 
373
        self.attempt_lock()
577
374
 
578
375
    def lock_read(self):
579
 
        """Compatibility-mode shared lock.
 
376
        """Compatability-mode shared lock.
580
377
 
581
378
        LockDir doesn't support shared read-only locks, so this 
582
379
        just pretends that the lock is taken but really does nothing.
590
387
            raise LockContention(self)
591
388
        self._fake_read_lock = True
592
389
 
593
 
    def _format_lock_info(self, info):
594
 
        """Turn the contents of peek() into something for the user"""
595
 
        lock_url = self.transport.abspath(self.path)
596
 
        delta = time.time() - int(info['start_time'])
597
 
        return [
598
 
            'lock %s' % (lock_url,),
599
 
            'held by %(user)s on host %(hostname)s [process #%(pid)s]' % info,
600
 
            'locked %s' % (format_delta(delta),),
601
 
            ]
602
 
 
603
 
    def validate_token(self, token):
604
 
        if token is not None:
605
 
            info = self.peek()
606
 
            if info is None:
607
 
                # Lock isn't held
608
 
                lock_token = None
609
 
            else:
610
 
                lock_token = info.get('nonce')
611
 
            if token != lock_token:
612
 
                raise errors.TokenMismatch(token, lock_token)
613
 
            else:
614
 
                self._trace("revalidated by token %r", token)
615
 
 
616
 
    def _trace(self, format, *args):
617
 
        if 'lock' not in debug.debug_flags:
618
 
            return
619
 
        mutter(str(self) + ": " + (format % args))
 
390
    def wait(self, timeout=20, poll=0.5):
 
391
        """Wait a certain period for a lock to be released."""
 
392
        # XXX: the transport interface doesn't let us guard 
 
393
        # against operations there taking a long time.
 
394
        deadline = time.time() + timeout
 
395
        while True:
 
396
            if self.peek():
 
397
                return
 
398
            if time.time() + poll < deadline:
 
399
                time.sleep(poll)
 
400
            else:
 
401
                raise LockContention(self)
 
402