~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/transport/memory.py

Don't encode unicode messages to UTF-8 in mutter() (the stream writer does it).

Use a codec wrapped log file in tests to match the real environment.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006 Canonical Ltd
2
 
#
 
1
# Copyright (C) 2005 Canonical Ltd
 
2
 
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
#
 
7
 
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
#
 
12
 
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
 
 
17
 
"""Implementation of Transport that uses memory for its storage.
18
 
 
19
 
The contents of the transport will be lost when the object is discarded,
20
 
so this is primarily useful for testing.
21
 
"""
 
16
"""Implementation of Transport that uses memory for its storage."""
22
17
 
23
18
import os
24
19
import errno
25
 
import re
26
 
from stat import S_IFREG, S_IFDIR
27
20
from cStringIO import StringIO
28
 
import warnings
29
21
 
30
 
from bzrlib.errors import TransportError, NoSuchFile, FileExists, LockError
31
22
from bzrlib.trace import mutter
32
 
from bzrlib.transport import (Transport, register_transport, Server)
33
 
import bzrlib.urlutils as urlutils
34
 
 
 
23
from bzrlib.transport import Transport, \
 
24
    TransportError, NoSuchFile, FileExists
35
25
 
36
26
 
37
27
class MemoryStat(object):
38
28
 
39
 
    def __init__(self, size, is_dir, perms):
 
29
    def __init__(self, size):
40
30
        self.st_size = size
41
 
        if not is_dir:
42
 
            if perms is None:
43
 
                perms = 0644
44
 
            self.st_mode = S_IFREG | perms
45
 
        else:
46
 
            if perms is None:
47
 
                perms = 0755
48
 
            self.st_mode = S_IFDIR | perms
49
31
 
50
32
 
51
33
class MemoryTransport(Transport):
52
 
    """This is an in memory file system for transient data storage."""
 
34
    """This is the transport agent for local filesystem access."""
53
35
 
54
 
    def __init__(self, url=""):
 
36
    def __init__(self):
55
37
        """Set the 'base' path where files will be stored."""
56
 
        if url == "":
57
 
            url = "memory:///"
58
 
        if url[-1] != '/':
59
 
            url = url + '/'
60
 
        super(MemoryTransport, self).__init__(url)
61
 
        split = url.find(':') + 3
62
 
        self._scheme = url[:split]
63
 
        self._cwd = url[split:]
64
 
        # dictionaries from absolute path to file mode
65
 
        self._dirs = {'/':None}
 
38
        super(MemoryTransport, self).__init__('in-memory:')
 
39
        self._dirs = set()
66
40
        self._files = {}
67
 
        self._locks = {}
68
41
 
69
42
    def clone(self, offset=None):
70
43
        """See Transport.clone()."""
71
 
        path = self._combine_paths(self._cwd, offset)
72
 
        if len(path) == 0 or path[-1] != '/':
73
 
            path += '/'
74
 
        url = self._scheme + path
75
 
        result = MemoryTransport(url)
76
 
        result._dirs = self._dirs
77
 
        result._files = self._files
78
 
        result._locks = self._locks
79
 
        return result
 
44
        return self
80
45
 
81
46
    def abspath(self, relpath):
82
47
        """See Transport.abspath()."""
83
 
        # while a little slow, this is sufficiently fast to not matter in our
84
 
        # current environment - XXX RBC 20060404 move the clone '..' handling
85
 
        # into here and call abspath from clone
86
 
        temp_t = self.clone(relpath)
87
 
        if temp_t.base.count('/') == 3:
88
 
            return temp_t.base
89
 
        else:
90
 
            return temp_t.base[:-1]
91
 
 
92
 
    def append_file(self, relpath, f, mode=None):
93
 
        """See Transport.append_file()."""
94
 
        _abspath = self._abspath(relpath)
95
 
        self._check_parent(_abspath)
96
 
        orig_content, orig_mode = self._files.get(_abspath, ("", None))
97
 
        if mode is None:
98
 
            mode = orig_mode
99
 
        self._files[_abspath] = (orig_content + f.read(), mode)
100
 
        return len(orig_content)
101
 
 
102
 
    def _check_parent(self, _abspath):
103
 
        dir = os.path.dirname(_abspath)
104
 
        if dir != '/':
 
48
        return self.base + relpath
 
49
 
 
50
    def append(self, relpath, f):
 
51
        """See Transport.append()."""
 
52
        self._check_parent(relpath)
 
53
        self._files[relpath] = self._files.get(relpath, "") + f.read()
 
54
 
 
55
    def _check_parent(self, relpath):
 
56
        dir = os.path.dirname(relpath)
 
57
        if dir != '':
105
58
            if not dir in self._dirs:
106
 
                raise NoSuchFile(_abspath)
 
59
                raise NoSuchFile(relpath)
107
60
 
108
61
    def has(self, relpath):
109
62
        """See Transport.has()."""
110
 
        _abspath = self._abspath(relpath)
111
 
        return (_abspath in self._files) or (_abspath in self._dirs)
112
 
 
113
 
    def delete(self, relpath):
114
 
        """See Transport.delete()."""
115
 
        _abspath = self._abspath(relpath)
116
 
        if not _abspath in self._files:
117
 
            raise NoSuchFile(relpath)
118
 
        del self._files[_abspath]
 
63
        return relpath in self._files
119
64
 
120
65
    def get(self, relpath):
121
66
        """See Transport.get()."""
122
 
        _abspath = self._abspath(relpath)
123
 
        if not _abspath in self._files:
 
67
        if not relpath in self._files:
124
68
            raise NoSuchFile(relpath)
125
 
        return StringIO(self._files[_abspath][0])
126
 
 
127
 
    def put_file(self, relpath, f, mode=None):
128
 
        """See Transport.put_file()."""
129
 
        _abspath = self._abspath(relpath)
130
 
        self._check_parent(_abspath)
131
 
        bytes = f.read()
132
 
        if type(bytes) is not str:
133
 
            # Although not strictly correct, we raise UnicodeEncodeError to be
134
 
            # compatible with other transports.
135
 
            raise UnicodeEncodeError(
136
 
                'undefined', bytes, 0, 1,
137
 
                'put_file must be given a file of bytes, not unicode.')
138
 
        self._files[_abspath] = (bytes, mode)
139
 
 
140
 
    def mkdir(self, relpath, mode=None):
 
69
        return StringIO(self._files[relpath])
 
70
 
 
71
    def put(self, relpath, f):
 
72
        """See Transport.put()."""
 
73
        self._check_parent(relpath)
 
74
        self._files[relpath] = f.read()
 
75
 
 
76
    def mkdir(self, relpath):
141
77
        """See Transport.mkdir()."""
142
 
        _abspath = self._abspath(relpath)
143
 
        self._check_parent(_abspath)
144
 
        if _abspath in self._dirs:
 
78
        self._check_parent(relpath)
 
79
        if relpath in self._dirs:
145
80
            raise FileExists(relpath)
146
 
        self._dirs[_abspath]=mode
 
81
        self._dirs.add(relpath)
147
82
 
148
83
    def listable(self):
149
84
        """See Transport.listable."""
150
85
        return True
151
86
 
152
87
    def iter_files_recursive(self):
153
 
        for file in self._files:
154
 
            if file.startswith(self._cwd):
155
 
                yield urlutils.escape(file[len(self._cwd):])
156
 
    
157
 
    def list_dir(self, relpath):
158
 
        """See Transport.list_dir()."""
159
 
        _abspath = self._abspath(relpath)
160
 
        if _abspath != '/' and _abspath not in self._dirs:
161
 
            raise NoSuchFile(relpath)
162
 
        result = []
163
 
 
164
 
        if not _abspath.endswith('/'):
165
 
            _abspath += '/'
166
 
 
167
 
        for path_group in self._files, self._dirs:
168
 
            for path in path_group:
169
 
                if path.startswith(_abspath):
170
 
                    trailing = path[len(_abspath):]
171
 
                    if trailing and '/' not in trailing:
172
 
                        result.append(trailing)
173
 
        return map(urlutils.escape, result)
174
 
 
175
 
    def rename(self, rel_from, rel_to):
176
 
        """Rename a file or directory; fail if the destination exists"""
177
 
        abs_from = self._abspath(rel_from)
178
 
        abs_to = self._abspath(rel_to)
179
 
        def replace(x):
180
 
            if x == abs_from:
181
 
                x = abs_to
182
 
            elif x.startswith(abs_from + '/'):
183
 
                x = abs_to + x[len(abs_from):]
184
 
            return x
185
 
        def do_renames(container):
186
 
            for path in container:
187
 
                new_path = replace(path)
188
 
                if new_path != path:
189
 
                    if new_path in container:
190
 
                        raise FileExists(new_path)
191
 
                    container[new_path] = container[path]
192
 
                    del container[path]
193
 
        do_renames(self._files)
194
 
        do_renames(self._dirs)
195
 
    
196
 
    def rmdir(self, relpath):
197
 
        """See Transport.rmdir."""
198
 
        _abspath = self._abspath(relpath)
199
 
        if _abspath in self._files:
200
 
            self._translate_error(IOError(errno.ENOTDIR, relpath), relpath)
201
 
        for path in self._files:
202
 
            if path.startswith(_abspath + '/'):
203
 
                self._translate_error(IOError(errno.ENOTEMPTY, relpath),
204
 
                                      relpath)
205
 
        for path in self._dirs:
206
 
            if path.startswith(_abspath + '/') and path != _abspath:
207
 
                self._translate_error(IOError(errno.ENOTEMPTY, relpath), relpath)
208
 
        if not _abspath in self._dirs:
209
 
            raise NoSuchFile(relpath)
210
 
        del self._dirs[_abspath]
211
 
 
 
88
        return iter(self._files)
 
89
    
 
90
#    def list_dir(self, relpath):
 
91
#    TODO if needed
 
92
    
212
93
    def stat(self, relpath):
213
94
        """See Transport.stat()."""
214
 
        _abspath = self._abspath(relpath)
215
 
        if _abspath in self._files:
216
 
            return MemoryStat(len(self._files[_abspath][0]), False, 
217
 
                              self._files[_abspath][1])
218
 
        elif _abspath in self._dirs:
219
 
            return MemoryStat(0, True, self._dirs[_abspath])
220
 
        else:
221
 
            raise NoSuchFile(_abspath)
222
 
 
223
 
    def lock_read(self, relpath):
224
 
        """See Transport.lock_read()."""
225
 
        return _MemoryLock(self._abspath(relpath), self)
226
 
 
227
 
    def lock_write(self, relpath):
228
 
        """See Transport.lock_write()."""
229
 
        return _MemoryLock(self._abspath(relpath), self)
230
 
 
231
 
    def _abspath(self, relpath):
232
 
        """Generate an internal absolute path."""
233
 
        relpath = urlutils.unescape(relpath)
234
 
        if relpath.find('..') != -1:
235
 
            raise AssertionError('relpath contains ..')
236
 
        if relpath == '':
237
 
            return '/'
238
 
        if relpath[0] == '/':
239
 
            return relpath
240
 
        if relpath == '.':
241
 
            if (self._cwd == '/'):
242
 
                return self._cwd
243
 
            return self._cwd[:-1]
244
 
        if relpath.endswith('/'):
245
 
            relpath = relpath[:-1]
246
 
        if relpath.startswith('./'):
247
 
            relpath = relpath[2:]
248
 
        return self._cwd + relpath
249
 
 
250
 
 
251
 
class _MemoryLock(object):
252
 
    """This makes a lock."""
253
 
 
254
 
    def __init__(self, path, transport):
255
 
        assert isinstance(transport, MemoryTransport)
256
 
        self.path = path
257
 
        self.transport = transport
258
 
        if self.path in self.transport._locks:
259
 
            raise LockError('File %r already locked' % (self.path,))
260
 
        self.transport._locks[self.path] = self
261
 
 
262
 
    def __del__(self):
263
 
        # Should this warn, or actually try to cleanup?
264
 
        if self.transport:
265
 
            warnings.warn("MemoryLock %r not explicitly unlocked" % (self.path,))
266
 
            self.unlock()
267
 
 
268
 
    def unlock(self):
269
 
        del self.transport._locks[self.path]
270
 
        self.transport = None
271
 
 
272
 
 
273
 
class MemoryServer(Server):
274
 
    """Server for the MemoryTransport for testing with."""
275
 
 
276
 
    def setUp(self):
277
 
        """See bzrlib.transport.Server.setUp."""
278
 
        self._dirs = {'/':None}
279
 
        self._files = {}
280
 
        self._locks = {}
281
 
        self._scheme = "memory+%s:///" % id(self)
282
 
        def memory_factory(url):
283
 
            result = MemoryTransport(url)
284
 
            result._dirs = self._dirs
285
 
            result._files = self._files
286
 
            result._locks = self._locks
287
 
            return result
288
 
        register_transport(self._scheme, memory_factory)
289
 
 
290
 
    def tearDown(self):
291
 
        """See bzrlib.transport.Server.tearDown."""
292
 
        # unregister this server
293
 
 
294
 
    def get_url(self):
295
 
        """See bzrlib.transport.Server.get_url."""
296
 
        return self._scheme
297
 
 
298
 
 
299
 
def get_test_permutations():
300
 
    """Return the permutations to be used in testing."""
301
 
    return [(MemoryTransport, MemoryServer),
302
 
            ]
 
95
        return MemoryStat(len(self._files[relpath]))
 
96
 
 
97
#    def lock_read(self, relpath):
 
98
#   TODO if needed
 
99
#
 
100
#    def lock_write(self, relpath):
 
101
#   TODO if needed