~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/store/text.py

  • Committer: Robert Collins
  • Date: 2005-10-08 00:39:04 UTC
  • mfrom: (1185.1.52)
  • Revision ID: robertc@robertcollins.net-20051008003904-aaffaea2778efe3e
merge in martins reweave, integrated to fetch, and a bugfix for commit and upgrade with executable files

Show diffs side-by-side

added added

removed removed

Lines of Context:
21
21
do any sort of delta compression.
22
22
"""
23
23
 
 
24
import os, tempfile
 
25
 
24
26
import bzrlib.store
25
 
from bzrlib.store import hash_prefix
26
27
from bzrlib.trace import mutter
27
28
from bzrlib.errors import BzrError
28
29
 
29
30
from cStringIO import StringIO
 
31
from stat import ST_SIZE
30
32
 
31
33
 
32
34
class TextStore(bzrlib.store.TransportStore):
39
41
    Files are stored uncompressed, with no delta compression.
40
42
    """
41
43
 
42
 
    def _add(self, fn, f):
 
44
    def __init__(self, transport):
 
45
        super(TextStore, self).__init__(transport)
 
46
 
 
47
    def _check_fileid(self, fileid):
 
48
        if not isinstance(fileid, basestring):
 
49
            raise TypeError('Fileids should be a string type: %s %r' % (type(fileid), fileid))
 
50
        if '\\' in fileid or '/' in fileid:
 
51
            raise ValueError("invalid store id %r" % fileid)
 
52
 
 
53
    def _relpath(self, fileid):
 
54
        self._check_fileid(fileid)
 
55
        return fileid
 
56
 
 
57
    def add(self, f, fileid):
 
58
        """Add contents of a file into the store.
 
59
 
 
60
        f -- A file-like object, or string
 
61
        """
 
62
        mutter("add store entry %r" % (fileid))
 
63
            
 
64
        fn = self._relpath(fileid)
 
65
        if self._transport.has(fn):
 
66
            raise BzrError("store %r already contains id %r" % (self._transport.base, fileid))
 
67
 
43
68
        self._transport.put(fn, f)
44
69
 
45
 
    def _get(self, fn):
46
 
        return self._transport.get(fn)
47
 
 
48
 
 
49
 
def ScratchTextStore():
50
 
    return TextStore(ScratchTransport())
 
70
    def _do_copy(self, other, to_copy, pb, permit_failure=False):
 
71
        if isinstance(other, TextStore):
 
72
            return self._copy_multi_text(other, to_copy, pb,
 
73
                    permit_failure=permit_failure)
 
74
        return super(TextStore, self)._do_copy(other, to_copy,
 
75
                pb, permit_failure=permit_failure)
 
76
 
 
77
    def _copy_multi_text(self, other, to_copy, pb,
 
78
            permit_failure=False):
 
79
        # Because of _transport, we can no longer assume
 
80
        # that they are on the same filesystem, we can, however
 
81
        # assume that we only need to copy the exact bytes,
 
82
        # we don't need to process the files.
 
83
 
 
84
        failed = set()
 
85
        if permit_failure:
 
86
            new_to_copy = set()
 
87
            for fileid, has in zip(to_copy, other.has(to_copy)):
 
88
                if has:
 
89
                    new_to_copy.add(fileid)
 
90
                else:
 
91
                    failed.add(fileid)
 
92
            to_copy = new_to_copy
 
93
            #mutter('_copy_multi_text copying %s, failed %s' % (to_copy, failed))
 
94
 
 
95
        paths = [self._relpath(fileid) for fileid in to_copy]
 
96
        count = other._transport.copy_to(paths, self._transport, pb=pb)
 
97
        assert count == len(to_copy)
 
98
        return count, failed
 
99
 
 
100
    def __contains__(self, fileid):
 
101
        """"""
 
102
        fn = self._relpath(fileid)
 
103
        return self._transport.has(fn)
 
104
 
 
105
    def has(self, fileids, pb=None):
 
106
        """Return True/False for each entry in fileids.
 
107
 
 
108
        :param fileids: A List or generator yielding file ids.
 
109
        :return: A generator or list returning True/False for each entry.
 
110
        """
 
111
        relpaths = (self._relpath(fid) for fid in fileids)
 
112
        return self._transport.has_multi(relpaths, pb=pb)
 
113
 
 
114
    def get(self, fileids, permit_failure=False, pb=None):
 
115
        """Return a set of files, one for each requested entry.
 
116
        
 
117
        TODO: Write some tests to make sure that permit_failure is
 
118
              handled correctly.
 
119
 
 
120
        TODO: What should the exception be for a missing file?
 
121
              KeyError, or NoSuchFile?
 
122
        """
 
123
 
 
124
        # This next code gets a bit hairy because it can allow
 
125
        # to not request a file which doesn't seem to exist.
 
126
        # Also, the same fileid may be requested twice, so we
 
127
        # can't just build up a map.
 
128
        rel_paths = [self._relpath(fid) for fid in fileids]
 
129
        is_requested = []
 
130
 
 
131
        if permit_failure:
 
132
            existing_paths = []
 
133
            for path, has in zip(rel_paths,
 
134
                    self._transport.has_multi(rel_paths)):
 
135
                if has:
 
136
                    existing_paths.append(path)
 
137
                    is_requested.append(True)
 
138
                else:
 
139
                    is_requested.append(False)
 
140
            #mutter('Retrieving %s out of %s' % (existing_paths, rel_paths))
 
141
        else:
 
142
            #mutter('Retrieving all %s' % (rel_paths, ))
 
143
            existing_paths = rel_paths
 
144
            is_requested = [True for x in rel_paths]
 
145
 
 
146
        count = 0
 
147
        for f in self._transport.get_multi(existing_paths, pb=pb):
 
148
            assert count < len(is_requested)
 
149
            while not is_requested[count]:
 
150
                yield None
 
151
                count += 1
 
152
            yield f
 
153
            count += 1
 
154
 
 
155
        while count < len(is_requested):
 
156
            yield None
 
157
            count += 1
 
158
 
 
159
    def __iter__(self):
 
160
        # TODO: case-insensitive?
 
161
        for f in self._transport.list_dir('.'):
 
162
            yield f
 
163
 
 
164
    def __len__(self):
 
165
        return len([f for f in self._transport.list_dir('.')])
 
166
 
 
167
 
 
168
    def __getitem__(self, fileid):
 
169
        """Returns a file reading from a particular entry."""
 
170
        fn = self._relpath(fileid)
 
171
        # This will throw if the file doesn't exist.
 
172
        try:
 
173
            f = self._transport.get(fn)
 
174
        except:
 
175
            raise KeyError('This store (%s) does not contain %s' % (self, fileid))
 
176
 
 
177
        return f
 
178
            
 
179
 
 
180
    def total_size(self):
 
181
        """Return (count, bytes)
 
182
 
 
183
        This is the (compressed) size stored on disk, not the size of
 
184
        the content."""
 
185
        total = 0
 
186
        count = 0
 
187
        relpaths = [self._relpath(fid) for fid in self]
 
188
        for st in self._transport.stat_multi(relpaths):
 
189
            count += 1
 
190
            total += st[ST_SIZE]
 
191
                
 
192
        return count, total
 
193
 
 
194
 
 
195
class ScratchTextStore(TextStore):
 
196
    """Self-destructing test subclass of TextStore.
 
197
 
 
198
    The Store only exists for the lifetime of the Python object.
 
199
    Obviously you should not put anything precious in it.
 
200
    """
 
201
    def __init__(self):
 
202
        from transport import transport
 
203
        super(ScratchTextStore, self).__init__(transport(tempfile.mkdtemp()))
 
204
 
 
205
    def __del__(self):
 
206
        self._transport.delete_multi(self._transport.list_dir('.'))
 
207
        os.rmdir(self._transport.base)
 
208
        mutter("%r destroyed" % self)
 
209