~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/store/text.py

[merge] from robert and fix up tests

Show diffs side-by-side

added added

removed removed

Lines of Context:
21
21
do any sort of delta compression.
22
22
"""
23
23
 
24
 
import os, tempfile
25
 
 
26
24
import bzrlib.store
27
25
from bzrlib.store import hash_prefix
28
26
from bzrlib.trace import mutter
29
 
from bzrlib.errors import BzrError, FileExists
 
27
from bzrlib.errors import BzrError
30
28
 
31
29
from cStringIO import StringIO
32
 
from stat import ST_SIZE
33
30
 
34
31
 
35
32
class TextStore(bzrlib.store.TransportStore):
42
39
    Files are stored uncompressed, with no delta compression.
43
40
    """
44
41
 
45
 
    def __init__(self, transport, prefixed=False):
46
 
        super(TextStore, self).__init__(transport)
47
 
        self._prefixed = prefixed
48
 
 
49
 
    def _check_fileid(self, fileid):
50
 
        if not isinstance(fileid, basestring):
51
 
            raise TypeError('Fileids should be a string type: %s %r' % (type(fileid), fileid))
52
 
        if '\\' in fileid or '/' in fileid:
53
 
            raise ValueError("invalid store id %r" % fileid)
54
 
 
55
 
    def _relpath(self, fileid):
56
 
        self._check_fileid(fileid)
57
 
        if self._prefixed:
58
 
            return hash_prefix(fileid) + fileid
59
 
        else:
60
 
            return fileid
61
 
 
62
 
    def add(self, f, fileid):
63
 
        """Add contents of a file into the store.
64
 
 
65
 
        f -- A file-like object, or string
66
 
        """
67
 
        mutter("add store entry %r" % (fileid))
68
 
            
69
 
        fn = self._relpath(fileid)
70
 
        if self._transport.has(fn):
71
 
            raise BzrError("store %r already contains id %r" % (self._transport.base, fileid))
72
 
 
73
 
        if self._prefixed:
74
 
            try:
75
 
                self._transport.mkdir(hash_prefix(fileid))
76
 
            except FileExists:
77
 
                pass
78
 
 
 
42
    def _add(self, fn, f):
79
43
        self._transport.put(fn, f)
80
44
 
81
 
    def __contains__(self, fileid):
82
 
        """"""
83
 
        fn = self._relpath(fileid)
84
 
        return self._transport.has(fn)
85
 
 
86
 
    def has(self, fileids, pb=None):
87
 
        """Return True/False for each entry in fileids.
88
 
 
89
 
        :param fileids: A List or generator yielding file ids.
90
 
        :return: A generator or list returning True/False for each entry.
91
 
        """
92
 
        relpaths = (self._relpath(fid) for fid in fileids)
93
 
        return self._transport.has_multi(relpaths, pb=pb)
94
 
 
95
 
    def get(self, fileids, permit_failure=False, pb=None):
96
 
        """Return a set of files, one for each requested entry.
97
 
        
98
 
        TODO: Write some tests to make sure that permit_failure is
99
 
              handled correctly.
100
 
 
101
 
        TODO: What should the exception be for a missing file?
102
 
              KeyError, or NoSuchFile?
103
 
        """
104
 
 
105
 
        # This next code gets a bit hairy because it can allow
106
 
        # to not request a file which doesn't seem to exist.
107
 
        # Also, the same fileid may be requested twice, so we
108
 
        # can't just build up a map.
109
 
        rel_paths = [self._relpath(fid) for fid in fileids]
110
 
        is_requested = []
111
 
 
112
 
        if permit_failure:
113
 
            existing_paths = []
114
 
            for path, has in zip(rel_paths,
115
 
                    self._transport.has_multi(rel_paths)):
116
 
                if has:
117
 
                    existing_paths.append(path)
118
 
                    is_requested.append(True)
119
 
                else:
120
 
                    is_requested.append(False)
121
 
            #mutter('Retrieving %s out of %s' % (existing_paths, rel_paths))
122
 
        else:
123
 
            #mutter('Retrieving all %s' % (rel_paths, ))
124
 
            existing_paths = rel_paths
125
 
            is_requested = [True for x in rel_paths]
126
 
 
127
 
        count = 0
128
 
        for f in self._transport.get_multi(existing_paths, pb=pb):
129
 
            assert count < len(is_requested)
130
 
            while not is_requested[count]:
131
 
                yield None
132
 
                count += 1
133
 
            yield f
134
 
            count += 1
135
 
 
136
 
        while count < len(is_requested):
137
 
            yield None
138
 
            count += 1
139
 
 
140
 
    def __iter__(self):
141
 
        for relpath, st in self._iter_relpaths():
142
 
            yield os.path.basename(relpath)
143
 
 
144
 
    def __len__(self):
145
 
        return len(list(self._iter_relpath()))
146
 
 
147
 
    def total_size(self):
148
 
        """Return (count, bytes)
149
 
 
150
 
        This is the (compressed) size stored on disk, not the size of
151
 
        the content."""
152
 
        total = 0
153
 
        count = 0
154
 
        for relpath, st in self._iter_relpaths():
155
 
            count += 1
156
 
            total += st[ST_SIZE]
157
 
                
158
 
        return count, total
159
 
 
160
 
 
161
 
class ScratchTextStore(TextStore):
162
 
    """Self-destructing test subclass of TextStore.
163
 
 
164
 
    The Store only exists for the lifetime of the Python object.
165
 
    Obviously you should not put anything precious in it.
166
 
    """
167
 
    def __init__(self):
168
 
        from transport import transport
169
 
        super(ScratchTextStore, self).__init__(transport(tempfile.mkdtemp()))
170
 
 
171
 
    def __del__(self):
172
 
        self._transport.delete_multi(self._transport.list_dir('.'))
173
 
        os.rmdir(self._transport.base)
174
 
        mutter("%r destroyed" % self)
175
 
 
 
45
    def _get(self, fn):
 
46
        return self._transport.get(fn)
 
47
 
 
48
 
 
49
def ScratchTextStore():
 
50
    return TextStore(ScratchTransport())