~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/transport/memory.py

  • Committer: Martin Pool
  • Date: 2006-01-13 06:31:42 UTC
  • Revision ID: mbp@sourcefrog.net-20060113063142-8e706dc1483c69e1
Bump version to 0.8pre

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
2
 
#
 
1
# Copyright (C) 2005 Canonical Ltd
 
2
 
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
#
 
7
 
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
#
 
12
 
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
"""Implementation of Transport that uses memory for its storage.
18
 
 
19
 
The contents of the transport will be lost when the object is discarded,
20
 
so this is primarily useful for testing.
21
 
"""
22
 
 
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
"""Implementation of Transport that uses memory for its storage."""
 
17
 
 
18
from copy import copy
23
19
import os
24
20
import errno
25
 
import re
26
 
from stat import S_IFREG, S_IFDIR
 
21
from stat import *
27
22
from cStringIO import StringIO
28
 
import warnings
29
23
 
30
 
from bzrlib import (
31
 
    transport,
32
 
    urlutils,
33
 
    )
34
 
from bzrlib.errors import (
35
 
    FileExists,
36
 
    LockError,
37
 
    InProcessTransport,
38
 
    NoSuchFile,
39
 
    TransportError,
40
 
    )
41
24
from bzrlib.trace import mutter
42
 
from bzrlib.transport import (
43
 
    AppendBasedFileStream,
44
 
    _file_streams,
45
 
    LateReadError,
46
 
    )
47
 
 
48
 
 
 
25
from bzrlib.errors import TransportError, NoSuchFile, FileExists
 
26
from bzrlib.transport import Transport, register_transport, Server
49
27
 
50
28
class MemoryStat(object):
51
29
 
52
30
    def __init__(self, size, is_dir, perms):
53
31
        self.st_size = size
 
32
        if perms is None:
 
33
            perms = 0644
54
34
        if not is_dir:
55
 
            if perms is None:
56
 
                perms = 0644
57
35
            self.st_mode = S_IFREG | perms
58
36
        else:
59
 
            if perms is None:
60
 
                perms = 0755
61
37
            self.st_mode = S_IFDIR | perms
62
38
 
63
39
 
64
 
class MemoryTransport(transport.Transport):
65
 
    """This is an in memory file system for transient data storage."""
 
40
class MemoryTransport(Transport):
 
41
    """This is the transport agent for local filesystem access."""
66
42
 
67
43
    def __init__(self, url=""):
68
44
        """Set the 'base' path where files will be stored."""
69
45
        if url == "":
70
 
            url = "memory:///"
 
46
            url = "memory:/"
71
47
        if url[-1] != '/':
72
48
            url = url + '/'
73
49
        super(MemoryTransport, self).__init__(url)
74
 
        split = url.find(':') + 3
75
 
        self._scheme = url[:split]
76
 
        self._cwd = url[split:]
77
 
        # dictionaries from absolute path to file mode
78
 
        self._dirs = {'/':None}
 
50
        self._cwd = url[url.find(':') + 1:]
 
51
        self._dirs = {}
79
52
        self._files = {}
80
 
        self._locks = {}
81
53
 
82
54
    def clone(self, offset=None):
83
55
        """See Transport.clone()."""
84
 
        path = self._combine_paths(self._cwd, offset)
85
 
        if len(path) == 0 or path[-1] != '/':
86
 
            path += '/'
87
 
        url = self._scheme + path
88
 
        result = self.__class__(url)
 
56
        if offset is None:
 
57
            return copy(self)
 
58
        segments = offset.split('/')
 
59
        cwdsegments = self._cwd.split('/')[:-1]
 
60
        while len(segments):
 
61
            segment = segments.pop(0)
 
62
            if segment == '.':
 
63
                continue
 
64
            if segment == '..':
 
65
                if len(cwdsegments) > 1:
 
66
                    cwdsegments.pop()
 
67
                continue
 
68
            cwdsegments.append(segment)
 
69
        url = self.base[:self.base.find(':') + 1] + '/'.join(cwdsegments) + '/'
 
70
        result = MemoryTransport(url)
89
71
        result._dirs = self._dirs
90
72
        result._files = self._files
91
 
        result._locks = self._locks
92
73
        return result
93
74
 
94
75
    def abspath(self, relpath):
95
76
        """See Transport.abspath()."""
96
 
        # while a little slow, this is sufficiently fast to not matter in our
97
 
        # current environment - XXX RBC 20060404 move the clone '..' handling
98
 
        # into here and call abspath from clone
99
 
        temp_t = self.clone(relpath)
100
 
        if temp_t.base.count('/') == 3:
101
 
            return temp_t.base
102
 
        else:
103
 
            return temp_t.base[:-1]
 
77
        return self.base[:-1] + self._abspath(relpath)
104
78
 
105
 
    def append_file(self, relpath, f, mode=None):
106
 
        """See Transport.append_file()."""
 
79
    def append(self, relpath, f):
 
80
        """See Transport.append()."""
107
81
        _abspath = self._abspath(relpath)
108
82
        self._check_parent(_abspath)
109
83
        orig_content, orig_mode = self._files.get(_abspath, ("", None))
110
 
        if mode is None:
111
 
            mode = orig_mode
112
 
        self._files[_abspath] = (orig_content + f.read(), mode)
113
 
        return len(orig_content)
 
84
        self._files[_abspath] = (orig_content + f.read(), orig_mode)
114
85
 
115
86
    def _check_parent(self, _abspath):
116
87
        dir = os.path.dirname(_abspath)
121
92
    def has(self, relpath):
122
93
        """See Transport.has()."""
123
94
        _abspath = self._abspath(relpath)
124
 
        return (_abspath in self._files) or (_abspath in self._dirs)
 
95
        return _abspath in self._files or _abspath in self._dirs
125
96
 
126
97
    def delete(self, relpath):
127
98
        """See Transport.delete()."""
130
101
            raise NoSuchFile(relpath)
131
102
        del self._files[_abspath]
132
103
 
133
 
    def external_url(self):
134
 
        """See bzrlib.transport.Transport.external_url."""
135
 
        # MemoryTransport's are only accessible in-process
136
 
        # so we raise here
137
 
        raise InProcessTransport(self)
138
 
 
139
104
    def get(self, relpath):
140
105
        """See Transport.get()."""
141
106
        _abspath = self._abspath(relpath)
142
107
        if not _abspath in self._files:
143
 
            if _abspath in self._dirs:
144
 
                return LateReadError(relpath)
145
 
            else:
146
 
                raise NoSuchFile(relpath)
 
108
            raise NoSuchFile(relpath)
147
109
        return StringIO(self._files[_abspath][0])
148
110
 
149
 
    def put_file(self, relpath, f, mode=None):
150
 
        """See Transport.put_file()."""
 
111
    def put(self, relpath, f, mode=None):
 
112
        """See Transport.put()."""
151
113
        _abspath = self._abspath(relpath)
152
114
        self._check_parent(_abspath)
153
 
        bytes = f.read()
154
 
        if type(bytes) is not str:
155
 
            # Although not strictly correct, we raise UnicodeEncodeError to be
156
 
            # compatible with other transports.
157
 
            raise UnicodeEncodeError(
158
 
                'undefined', bytes, 0, 1,
159
 
                'put_file must be given a file of bytes, not unicode.')
160
 
        self._files[_abspath] = (bytes, mode)
161
 
        return len(bytes)
 
115
        self._files[_abspath] = (f.read(), mode)
162
116
 
163
117
    def mkdir(self, relpath, mode=None):
164
118
        """See Transport.mkdir()."""
168
122
            raise FileExists(relpath)
169
123
        self._dirs[_abspath]=mode
170
124
 
171
 
    def open_write_stream(self, relpath, mode=None):
172
 
        """See Transport.open_write_stream."""
173
 
        self.put_bytes(relpath, "", mode)
174
 
        result = AppendBasedFileStream(self, relpath)
175
 
        _file_streams[self.abspath(relpath)] = result
176
 
        return result
177
 
 
178
125
    def listable(self):
179
126
        """See Transport.listable."""
180
127
        return True
182
129
    def iter_files_recursive(self):
183
130
        for file in self._files:
184
131
            if file.startswith(self._cwd):
185
 
                yield urlutils.escape(file[len(self._cwd):])
186
 
 
 
132
                yield file[len(self._cwd):]
 
133
    
187
134
    def list_dir(self, relpath):
188
135
        """See Transport.list_dir()."""
189
136
        _abspath = self._abspath(relpath)
190
137
        if _abspath != '/' and _abspath not in self._dirs:
191
138
            raise NoSuchFile(relpath)
192
139
        result = []
193
 
 
194
 
        if not _abspath.endswith('/'):
195
 
            _abspath += '/'
196
 
 
197
 
        for path_group in self._files, self._dirs:
198
 
            for path in path_group:
199
 
                if path.startswith(_abspath):
200
 
                    trailing = path[len(_abspath):]
201
 
                    if trailing and '/' not in trailing:
202
 
                        result.append(trailing)
203
 
        return map(urlutils.escape, result)
204
 
 
205
 
    def rename(self, rel_from, rel_to):
206
 
        """Rename a file or directory; fail if the destination exists"""
207
 
        abs_from = self._abspath(rel_from)
208
 
        abs_to = self._abspath(rel_to)
209
 
        def replace(x):
210
 
            if x == abs_from:
211
 
                x = abs_to
212
 
            elif x.startswith(abs_from + '/'):
213
 
                x = abs_to + x[len(abs_from):]
214
 
            return x
215
 
        def do_renames(container):
216
 
            for path in container:
217
 
                new_path = replace(path)
218
 
                if new_path != path:
219
 
                    if new_path in container:
220
 
                        raise FileExists(new_path)
221
 
                    container[new_path] = container[path]
222
 
                    del container[path]
223
 
        do_renames(self._files)
224
 
        do_renames(self._dirs)
225
 
 
226
 
    def rmdir(self, relpath):
227
 
        """See Transport.rmdir."""
228
 
        _abspath = self._abspath(relpath)
229
 
        if _abspath in self._files:
230
 
            self._translate_error(IOError(errno.ENOTDIR, relpath), relpath)
231
140
        for path in self._files:
232
 
            if path.startswith(_abspath + '/'):
233
 
                self._translate_error(IOError(errno.ENOTEMPTY, relpath),
234
 
                                      relpath)
 
141
            if (path.startswith(_abspath) and 
 
142
                path[len(_abspath) + 1:].find('/') == -1 and
 
143
                len(path) > len(_abspath)):
 
144
                result.append(path[len(_abspath) + 1:])
235
145
        for path in self._dirs:
236
 
            if path.startswith(_abspath + '/') and path != _abspath:
237
 
                self._translate_error(IOError(errno.ENOTEMPTY, relpath), relpath)
238
 
        if not _abspath in self._dirs:
239
 
            raise NoSuchFile(relpath)
240
 
        del self._dirs[_abspath]
241
 
 
 
146
            if (path.startswith(_abspath) and 
 
147
                path[len(_abspath) + 1:].find('/') == -1 and
 
148
                len(path) > len(_abspath)):
 
149
                result.append(path[len(_abspath) + 1:])
 
150
        return result
 
151
    
242
152
    def stat(self, relpath):
243
153
        """See Transport.stat()."""
244
154
        _abspath = self._abspath(relpath)
245
155
        if _abspath in self._files:
246
 
            return MemoryStat(len(self._files[_abspath][0]), False,
 
156
            return MemoryStat(len(self._files[_abspath][0]), False, 
247
157
                              self._files[_abspath][1])
 
158
        elif _abspath == '':
 
159
            return MemoryStat(0, True, None)
248
160
        elif _abspath in self._dirs:
249
161
            return MemoryStat(0, True, self._dirs[_abspath])
250
162
        else:
251
 
            raise NoSuchFile(_abspath)
252
 
 
253
 
    def lock_read(self, relpath):
254
 
        """See Transport.lock_read()."""
255
 
        return _MemoryLock(self._abspath(relpath), self)
256
 
 
257
 
    def lock_write(self, relpath):
258
 
        """See Transport.lock_write()."""
259
 
        return _MemoryLock(self._abspath(relpath), self)
 
163
            raise NoSuchFile(relpath)
 
164
 
 
165
#    def lock_read(self, relpath):
 
166
#   TODO if needed
 
167
#
 
168
#    def lock_write(self, relpath):
 
169
#   TODO if needed
260
170
 
261
171
    def _abspath(self, relpath):
262
172
        """Generate an internal absolute path."""
263
 
        relpath = urlutils.unescape(relpath)
264
 
        if relpath[:1] == '/':
265
 
            return relpath
266
 
        cwd_parts = self._cwd.split('/')
267
 
        rel_parts = relpath.split('/')
268
 
        r = []
269
 
        for i in cwd_parts + rel_parts:
270
 
            if i == '..':
271
 
                if not r:
272
 
                    raise ValueError("illegal relpath %r under %r"
273
 
                        % (relpath, self._cwd))
274
 
                r = r[:-1]
275
 
            elif i == '.' or i == '':
276
 
                pass
277
 
            else:
278
 
                r.append(i)
279
 
        return '/' + '/'.join(r)
280
 
 
281
 
 
282
 
class _MemoryLock(object):
283
 
    """This makes a lock."""
284
 
 
285
 
    def __init__(self, path, transport):
286
 
        self.path = path
287
 
        self.transport = transport
288
 
        if self.path in self.transport._locks:
289
 
            raise LockError('File %r already locked' % (self.path,))
290
 
        self.transport._locks[self.path] = self
291
 
 
292
 
    def __del__(self):
293
 
        # Should this warn, or actually try to cleanup?
294
 
        if self.transport:
295
 
            warnings.warn("MemoryLock %r not explicitly unlocked" % (self.path,))
296
 
            self.unlock()
297
 
 
298
 
    def unlock(self):
299
 
        del self.transport._locks[self.path]
300
 
        self.transport = None
301
 
 
302
 
 
303
 
class MemoryServer(transport.Server):
 
173
        if relpath.find('..') != -1:
 
174
            raise AssertionError('relpath contains ..')
 
175
        if relpath == '.':
 
176
            return self._cwd[:-1]
 
177
        if relpath.endswith('/'):
 
178
            relpath = relpath[:-1]
 
179
        return self._cwd + relpath
 
180
 
 
181
 
 
182
class MemoryServer(Server):
304
183
    """Server for the MemoryTransport for testing with."""
305
184
 
306
 
    def start_server(self):
307
 
        self._dirs = {'/':None}
308
 
        self._files = {}
309
 
        self._locks = {}
310
 
        self._scheme = "memory+%s:///" % id(self)
311
 
        def memory_factory(url):
312
 
            from bzrlib.transport import memory
313
 
            result = memory.MemoryTransport(url)
314
 
            result._dirs = self._dirs
315
 
            result._files = self._files
316
 
            result._locks = self._locks
317
 
            return result
318
 
        self._memory_factory = memory_factory
319
 
        transport.register_transport(self._scheme, self._memory_factory)
 
185
    def setUp(self):
 
186
        """See bzrlib.transport.Server.setUp."""
 
187
        self._scheme = "memory+%s:" % id(self)
 
188
        register_transport(self._scheme, MemoryTransport)
320
189
 
321
 
    def stop_server(self):
 
190
    def tearDown(self):
 
191
        """See bzrlib.transport.Server.tearDown."""
322
192
        # unregister this server
323
 
        transport.unregister_transport(self._scheme, self._memory_factory)
324
193
 
325
194
    def get_url(self):
326
195
        """See bzrlib.transport.Server.get_url."""
327
196
        return self._scheme
328
197
 
329
 
    def get_bogus_url(self):
330
 
        raise NotImplementedError
331
 
 
332
198
 
333
199
def get_test_permutations():
334
200
    """Return the permutations to be used in testing."""