~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/lockable_files.py

(vila) Fix test failures blocking package builds. (Vincent Ladeuil)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
import bzrlib
2
 
import bzrlib.errors as errors
3
 
from bzrlib.errors import LockError, ReadOnlyError
4
 
from bzrlib.trace import mutter
5
 
import bzrlib.transactions as transactions
6
 
from osutils import file_iterator
 
1
# Copyright (C) 2005-2011 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
from __future__ import absolute_import
 
18
 
 
19
from bzrlib.lazy_import import lazy_import
 
20
lazy_import(globals(), """
 
21
import warnings
 
22
 
 
23
from bzrlib import (
 
24
    counted_lock,
 
25
    errors,
 
26
    lock,
 
27
    osutils,
 
28
    transactions,
 
29
    urlutils,
 
30
    )
 
31
""")
 
32
 
 
33
from bzrlib.decorators import (
 
34
    only_raises,
 
35
    )
 
36
 
7
37
 
8
38
class LockableFiles(object):
9
 
    """Object representing a set of lockable files
10
 
 
11
 
    _lock_mode
12
 
        None, or 'r' or 'w'
13
 
 
14
 
    _lock_count
15
 
        If _lock_mode is true, a positive count of the number of times the
16
 
        lock has been taken.
17
 
 
18
 
    _lock
19
 
        Lock object from bzrlib.lock.
 
39
    """Object representing a set of related files locked within the same scope.
 
40
 
 
41
    This coordinates access to the lock along with providing a transaction.
 
42
 
 
43
    LockableFiles manage a lock count and can be locked repeatedly by
 
44
    a single caller.  (The underlying lock implementation generally does not
 
45
    support this.)
 
46
 
 
47
    Instances of this class are often called control_files.
 
48
 
 
49
    This class is now deprecated; code should move to using the Transport
 
50
    directly for file operations and using the lock or CountedLock for
 
51
    locking.
 
52
 
 
53
    :ivar _lock: The real underlying lock (e.g. a LockDir)
 
54
    :ivar _lock_count: If _lock_mode is true, a positive count of the number
 
55
        of times the lock has been taken (and not yet released) *by this
 
56
        process*, through this particular object instance.
 
57
    :ivar _lock_mode: None, or 'r' or 'w'
20
58
    """
21
59
 
22
 
    _lock_mode = None
23
 
    _lock_count = None
24
 
    _lock = None
25
 
    # If set to False (by a plugin, etc) BzrBranch will not set the
26
 
    # mode on created files or directories
27
 
    _set_file_mode = True
28
 
    _set_dir_mode = True
 
60
    def __init__(self, transport, lock_name, lock_class):
 
61
        """Create a LockableFiles group
29
62
 
30
 
    def __init__(self, transport, lock_name):
31
 
        object.__init__(self)
 
63
        :param transport: Transport pointing to the directory holding the
 
64
            control files and lock.
 
65
        :param lock_name: Name of the lock guarding these files.
 
66
        :param lock_class: Class of lock strategy to use: typically
 
67
            either LockDir or TransportLock.
 
68
        """
32
69
        self._transport = transport
33
70
        self.lock_name = lock_name
34
71
        self._transaction = None
 
72
        self._lock_mode = None
 
73
        self._lock_count = 0
35
74
        self._find_modes()
36
 
 
37
 
    def __del__(self):
38
 
        if self._lock_mode or self._lock:
39
 
            # XXX: This should show something every time, and be suitable for
40
 
            # headless operation and embedding
41
 
            from warnings import warn
42
 
            warn("file group %r was not explicitly unlocked" % self)
43
 
            self._lock.unlock()
 
75
        esc_name = self._escape(lock_name)
 
76
        self._lock = lock_class(transport, esc_name,
 
77
                                file_modebits=self._file_mode,
 
78
                                dir_modebits=self._dir_mode)
 
79
        self._counted_lock = counted_lock.CountedLock(self._lock)
 
80
 
 
81
    def create_lock(self):
 
82
        """Create the lock.
 
83
 
 
84
        This should normally be called only when the LockableFiles directory
 
85
        is first created on disk.
 
86
        """
 
87
        self._lock.create(mode=self._dir_mode)
 
88
 
 
89
    def __repr__(self):
 
90
        return '%s(%r)' % (self.__class__.__name__,
 
91
                           self._transport)
 
92
 
 
93
    def __str__(self):
 
94
        return 'LockableFiles(%s, %s)' % (self.lock_name, self._transport.base)
 
95
 
 
96
    def break_lock(self):
 
97
        """Break the lock of this lockable files group if it is held.
 
98
 
 
99
        The current ui factory will be used to prompt for user conformation.
 
100
        """
 
101
        self._lock.break_lock()
44
102
 
45
103
    def _escape(self, file_or_path):
 
104
        """DEPRECATED: Do not use outside this class"""
46
105
        if not isinstance(file_or_path, basestring):
47
106
            file_or_path = '/'.join(file_or_path)
48
107
        if file_or_path == '':
49
108
            return u''
50
 
        return bzrlib.transport.urlescape(unicode(file_or_path))
 
109
        return urlutils.escape(osutils.safe_unicode(file_or_path))
51
110
 
52
111
    def _find_modes(self):
53
 
        """Determine the appropriate modes for files and directories."""
 
112
        """Determine the appropriate modes for files and directories.
 
113
 
 
114
        :deprecated: Replaced by BzrDir._find_creation_modes.
 
115
        """
 
116
        # XXX: The properties created by this can be removed or deprecated
 
117
        # once all the _get_text_store methods etc no longer use them.
 
118
        # -- mbp 20080512
54
119
        try:
55
 
            try:
56
 
                st = self._transport.stat(u'.')
57
 
            except errors.NoSuchFile:
58
 
                # The .bzr/ directory doesn't exist, try to
59
 
                # inherit the permissions from the parent directory
60
 
                # but only try 1 level up
61
 
                temp_transport = self._transport.clone('..')
62
 
                st = temp_transport.stat(u'.')
63
 
        except (errors.TransportNotPossible, errors.NoSuchFile):
 
120
            st = self._transport.stat('.')
 
121
        except errors.TransportNotPossible:
64
122
            self._dir_mode = 0755
65
123
            self._file_mode = 0644
66
124
        else:
67
 
            self._dir_mode = st.st_mode & 07777
 
125
            # Check the directory mode, but also make sure the created
 
126
            # directories and files are read-write for this user. This is
 
127
            # mostly a workaround for filesystems which lie about being able to
 
128
            # write to a directory (cygwin & win32)
 
129
            self._dir_mode = (st.st_mode & 07777) | 00700
68
130
            # Remove the sticky and execute bits for files
69
131
            self._file_mode = self._dir_mode & ~07111
70
 
        if not self._set_dir_mode:
71
 
            self._dir_mode = None
72
 
        if not self._set_file_mode:
73
 
            self._file_mode = None
74
 
 
75
 
    def controlfilename(self, file_or_path):
76
 
        """Return location relative to branch."""
77
 
        return self._transport.abspath(self._escape(file_or_path))
78
 
 
79
 
    def controlfile(self, file_or_path, mode='r'):
80
 
        """Open a control file for this branch.
81
 
 
82
 
        There are two classes of file in the control directory: text
83
 
        and binary.  binary files are untranslated byte streams.  Text
84
 
        control files are stored with Unix newlines and in UTF-8, even
85
 
        if the platform or locale defaults are different.
86
 
 
87
 
        Controlfiles should almost never be opened in write mode but
88
 
        rather should be atomically copied and replaced using atomicfile.
89
 
        """
90
 
        import codecs
91
 
 
92
 
        relpath = self._escape(file_or_path)
93
 
        #TODO: codecs.open() buffers linewise, so it was overloaded with
94
 
        # a much larger buffer, do we need to do the same for getreader/getwriter?
95
 
        if mode == 'rb': 
96
 
            return self._transport.get(relpath)
97
 
        elif mode == 'wb':
98
 
            raise BzrError("Branch.controlfile(mode='wb') is not supported, use put[_utf8]")
99
 
        elif mode == 'r':
100
 
            # XXX: Do we really want errors='replace'?   Perhaps it should be
101
 
            # an error, or at least reported, if there's incorrectly-encoded
102
 
            # data inside a file.
103
 
            # <https://launchpad.net/products/bzr/+bug/3823>
104
 
            return codecs.getreader('utf-8')(self._transport.get(relpath), errors='replace')
105
 
        elif mode == 'w':
106
 
            raise BzrError("Branch.controlfile(mode='w') is not supported, use put[_utf8]")
107
 
        else:
108
 
            raise BzrError("invalid controlfile mode %r" % mode)
109
 
 
110
 
    def put(self, path, file):
111
 
        """Write a file.
112
 
        
113
 
        :param path: The path to put the file, relative to the .bzr control
114
 
                     directory
115
 
        :param f: A file-like or string object whose contents should be copied.
116
 
        """
117
 
        if not self._lock_mode == 'w':
118
 
            raise ReadOnlyError()
119
 
        self._transport.put(self._escape(path), file, mode=self._file_mode)
120
 
 
121
 
    def put_utf8(self, path, file, mode=None):
122
 
        """Write a file, encoding as utf-8.
123
 
 
124
 
        :param path: The path to put the file, relative to the .bzr control
125
 
                     directory
126
 
        :param f: A file-like or string object whose contents should be copied.
127
 
        """
128
 
        import codecs
129
 
        from iterablefile import IterableFile
130
 
        ctrl_files = []
131
 
        if hasattr(file, 'read'):
132
 
            iterator = file_iterator(file)
133
 
        else:
134
 
            iterator = file
135
 
        # IterableFile would not be needed if Transport.put took iterables
136
 
        # instead of files.  ADHB 2005-12-25
137
 
        # RBC 20060103 surely its not needed anyway, with codecs transcode
138
 
        # file support ?
139
 
        # JAM 20060103 We definitely don't want encode(..., 'replace')
140
 
        # these are valuable files which should have exact contents.
141
 
        encoded_file = IterableFile(b.encode('utf-8') for b in 
142
 
                                    iterator)
143
 
        self.put(path, encoded_file)
144
 
 
145
 
    def lock_write(self):
146
 
        mutter("lock write: %s (%s)", self, self._lock_count)
147
 
        # TODO: Upgrade locking to support using a Transport,
148
 
        # and potentially a remote locking protocol
 
132
 
 
133
    def leave_in_place(self):
 
134
        """Set this LockableFiles to not clear the physical lock on unlock."""
 
135
        self._lock.leave_in_place()
 
136
 
 
137
    def dont_leave_in_place(self):
 
138
        """Set this LockableFiles to clear the physical lock on unlock."""
 
139
        self._lock.dont_leave_in_place()
 
140
 
 
141
    def lock_write(self, token=None):
 
142
        """Lock this group of files for writing.
 
143
 
 
144
        :param token: if this is already locked, then lock_write will fail
 
145
            unless the token matches the existing lock.
 
146
        :returns: a token if this instance supports tokens, otherwise None.
 
147
        :raises TokenLockingNotSupported: when a token is given but this
 
148
            instance doesn't support using token locks.
 
149
        :raises MismatchedToken: if the specified token doesn't match the token
 
150
            of the existing lock.
 
151
 
 
152
        A token should be passed in if you know that you have locked the object
 
153
        some other way, and need to synchronise this object's state with that
 
154
        fact.
 
155
        """
149
156
        if self._lock_mode:
150
 
            if self._lock_mode != 'w':
151
 
                raise LockError("can't upgrade to a write lock from %r" %
152
 
                                self._lock_mode)
 
157
            if (self._lock_mode != 'w'
 
158
                or not self.get_transaction().writeable()):
 
159
                raise errors.ReadOnlyError(self)
 
160
            self._lock.validate_token(token)
153
161
            self._lock_count += 1
 
162
            return self._token_from_lock
154
163
        else:
155
 
            self._lock = self._transport.lock_write(
156
 
                    self._escape(self.lock_name))
 
164
            token_from_lock = self._lock.lock_write(token=token)
 
165
            #traceback.print_stack()
157
166
            self._lock_mode = 'w'
158
167
            self._lock_count = 1
159
 
            self._set_transaction(transactions.PassThroughTransaction())
 
168
            self._set_write_transaction()
 
169
            self._token_from_lock = token_from_lock
 
170
            return token_from_lock
160
171
 
161
172
    def lock_read(self):
162
 
        mutter("lock read: %s (%s)", self, self._lock_count)
163
173
        if self._lock_mode:
164
 
            assert self._lock_mode in ('r', 'w'), \
165
 
                   "invalid lock mode %r" % self._lock_mode
 
174
            if self._lock_mode not in ('r', 'w'):
 
175
                raise ValueError("invalid lock mode %r" % (self._lock_mode,))
166
176
            self._lock_count += 1
167
177
        else:
168
 
            self._lock = self._transport.lock_read(
169
 
                    self._escape(self.lock_name))
 
178
            self._lock.lock_read()
 
179
            #traceback.print_stack()
170
180
            self._lock_mode = 'r'
171
181
            self._lock_count = 1
172
 
            self._set_transaction(transactions.ReadOnlyTransaction())
173
 
            # 5K may be excessive, but hey, its a knob.
174
 
            self.get_transaction().set_cache_size(5000)
175
 
                        
 
182
            self._set_read_transaction()
 
183
 
 
184
    def _set_read_transaction(self):
 
185
        """Setup a read transaction."""
 
186
        self._set_transaction(transactions.ReadOnlyTransaction())
 
187
        # 5K may be excessive, but hey, its a knob.
 
188
        self.get_transaction().set_cache_size(5000)
 
189
 
 
190
    def _set_write_transaction(self):
 
191
        """Setup a write transaction."""
 
192
        self._set_transaction(transactions.WriteTransaction())
 
193
 
 
194
    @only_raises(errors.LockNotHeld, errors.LockBroken)
176
195
    def unlock(self):
177
 
        mutter("unlock: %s (%s)", self, self._lock_count)
178
196
        if not self._lock_mode:
179
 
            raise LockError('branch %r is not locked' % (self))
180
 
 
 
197
            return lock.cant_unlock_not_held(self)
181
198
        if self._lock_count > 1:
182
199
            self._lock_count -= 1
183
200
        else:
 
201
            #traceback.print_stack()
184
202
            self._finish_transaction()
185
 
            self._lock.unlock()
186
 
            self._lock = None
187
 
            self._lock_mode = self._lock_count = None
 
203
            try:
 
204
                self._lock.unlock()
 
205
            finally:
 
206
                self._lock_mode = self._lock_count = None
 
207
 
 
208
    def is_locked(self):
 
209
        """Return true if this LockableFiles group is locked"""
 
210
        return self._lock_count >= 1
 
211
 
 
212
    def get_physical_lock_status(self):
 
213
        """Return physical lock status.
 
214
 
 
215
        Returns true if a lock is held on the transport. If no lock is held, or
 
216
        the underlying locking mechanism does not support querying lock
 
217
        status, false is returned.
 
218
        """
 
219
        try:
 
220
            return self._lock.peek() is not None
 
221
        except NotImplementedError:
 
222
            return False
188
223
 
189
224
    def get_transaction(self):
190
225
        """Return the current active transaction.
212
247
        transaction = self._transaction
213
248
        self._transaction = None
214
249
        transaction.finish()
 
250
 
 
251
 
 
252
class TransportLock(object):
 
253
    """Locking method which uses transport-dependent locks.
 
254
 
 
255
    On the local filesystem these transform into OS-managed locks.
 
256
 
 
257
    These do not guard against concurrent access via different
 
258
    transports.
 
259
 
 
260
    This is suitable for use only in WorkingTrees (which are at present
 
261
    always local).
 
262
    """
 
263
    def __init__(self, transport, escaped_name, file_modebits, dir_modebits):
 
264
        self._transport = transport
 
265
        self._escaped_name = escaped_name
 
266
        self._file_modebits = file_modebits
 
267
        self._dir_modebits = dir_modebits
 
268
 
 
269
    def break_lock(self):
 
270
        raise NotImplementedError(self.break_lock)
 
271
 
 
272
    def leave_in_place(self):
 
273
        raise NotImplementedError(self.leave_in_place)
 
274
 
 
275
    def dont_leave_in_place(self):
 
276
        raise NotImplementedError(self.dont_leave_in_place)
 
277
 
 
278
    def lock_write(self, token=None):
 
279
        if token is not None:
 
280
            raise errors.TokenLockingNotSupported(self)
 
281
        self._lock = self._transport.lock_write(self._escaped_name)
 
282
 
 
283
    def lock_read(self):
 
284
        self._lock = self._transport.lock_read(self._escaped_name)
 
285
 
 
286
    def unlock(self):
 
287
        self._lock.unlock()
 
288
        self._lock = None
 
289
 
 
290
    def peek(self):
 
291
        raise NotImplementedError()
 
292
 
 
293
    def create(self, mode=None):
 
294
        """Create lock mechanism"""
 
295
        # for old-style locks, create the file now
 
296
        self._transport.put_bytes(self._escaped_name, '',
 
297
                            mode=self._file_modebits)
 
298
 
 
299
    def validate_token(self, token):
 
300
        if token is not None:
 
301
            raise errors.TokenLockingNotSupported(self)