← Back to branch summary

~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/store/text.py

  • Committer: v.ladeuil+lp at free
  • Date: 2006-09-21 07:59:29 UTC
  • mto: (2051.1.1 jam-integration)
  • mto: This revision was merged to the branch mainline in revision 2052.
  • Revision ID: v.ladeuil+lp@free.fr-20060921075929-3572272c52c8e14f
Fix bug #61606 by providing cloning hint do daughter classes.

* bzrlib/transport/http/__init__.py:
(HttpTransportBase.clone): We can't decide for the class daughters how
the cloning occurs. We just give them the hint.

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrlib/store/text.py
1
1
# Copyright (C) 2005 by Canonical Development Ltd
2
 
 
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
"""
18
 
A store that keeps the full text of every version.
 
17
"""A store that keeps the full text of every version.
19
18
 
20
19
This store keeps uncompressed versions of the full text. It does not
21
20
do any sort of delta compression.
22
21
"""
23
22
 
24
 
import os, tempfile
25
 
 
 
23
import os
26
24
import bzrlib.store
27
 
from bzrlib.store import hash_prefix
28
25
from bzrlib.trace import mutter
29
 
from bzrlib.errors import BzrError, FileExists
 
26
from bzrlib.errors import BzrError, NoSuchFile, FileExists
30
27
 
 
28
import gzip
31
29
from cStringIO import StringIO
32
 
from stat import ST_SIZE
33
30
 
34
31
 
35
32
class TextStore(bzrlib.store.TransportStore):
42
39
    Files are stored uncompressed, with no delta compression.
43
40
    """
44
41
 
45
 
    def __init__(self, transport, prefixed=False):
46
 
        super(TextStore, self).__init__(transport)
47
 
        self._prefixed = prefixed
48
 
 
49
 
    def _check_fileid(self, fileid):
50
 
        if not isinstance(fileid, basestring):
51
 
            raise TypeError('Fileids should be a string type: %s %r' % (type(fileid), fileid))
52
 
        if '\\' in fileid or '/' in fileid:
53
 
            raise ValueError("invalid store id %r" % fileid)
54
 
 
55
 
    def _relpath(self, fileid):
56
 
        self._check_fileid(fileid)
57
 
        if self._prefixed:
58
 
            return hash_prefix(fileid) + fileid
59
 
        else:
60
 
            return fileid
61
 
 
62
 
    def add(self, f, fileid):
63
 
        """Add contents of a file into the store.
64
 
 
65
 
        f -- A file-like object, or string
66
 
        """
67
 
        mutter("add store entry %r" % (fileid))
 
42
    def _add_compressed(self, fn, f):
 
43
        from cStringIO import StringIO
 
44
        from bzrlib.osutils import pumpfile
 
45
        
 
46
        if isinstance(f, basestring):
 
47
            f = StringIO(f)
68
48
            
69
 
        fn = self._relpath(fileid)
70
 
        if self._transport.has(fn):
71
 
            raise BzrError("store %r already contains id %r" % (self._transport.base, fileid))
72
 
 
73
 
        if self._prefixed:
74
 
            try:
75
 
                self._transport.mkdir(hash_prefix(fileid))
76
 
            except FileExists:
77
 
                pass
78
 
 
79
 
        self._transport.put(fn, f)
80
 
 
81
 
    def __contains__(self, fileid):
82
 
        """"""
83
 
        fn = self._relpath(fileid)
84
 
        return self._transport.has(fn)
85
 
 
86
 
    def has(self, fileids, pb=None):
87
 
        """Return True/False for each entry in fileids.
88
 
 
89
 
        :param fileids: A List or generator yielding file ids.
90
 
        :return: A generator or list returning True/False for each entry.
91
 
        """
92
 
        relpaths = (self._relpath(fid) for fid in fileids)
93
 
        return self._transport.has_multi(relpaths, pb=pb)
94
 
 
95
 
    def get(self, fileids, permit_failure=False, pb=None):
96
 
        """Return a set of files, one for each requested entry.
97
 
        
98
 
        TODO: Write some tests to make sure that permit_failure is
99
 
              handled correctly.
100
 
 
101
 
        TODO: What should the exception be for a missing file?
102
 
              KeyError, or NoSuchFile?
103
 
        """
104
 
 
105
 
        # This next code gets a bit hairy because it can allow
106
 
        # to not request a file which doesn't seem to exist.
107
 
        # Also, the same fileid may be requested twice, so we
108
 
        # can't just build up a map.
109
 
        rel_paths = [self._relpath(fid) for fid in fileids]
110
 
        is_requested = []
111
 
 
112
 
        if permit_failure:
113
 
            existing_paths = []
114
 
            for path, has in zip(rel_paths,
115
 
                    self._transport.has_multi(rel_paths)):
116
 
                if has:
117
 
                    existing_paths.append(path)
118
 
                    is_requested.append(True)
119
 
                else:
120
 
                    is_requested.append(False)
121
 
            #mutter('Retrieving %s out of %s' % (existing_paths, rel_paths))
122
 
        else:
123
 
            #mutter('Retrieving all %s' % (rel_paths, ))
124
 
            existing_paths = rel_paths
125
 
            is_requested = [True for x in rel_paths]
126
 
 
127
 
        count = 0
128
 
        for f in self._transport.get_multi(existing_paths, pb=pb):
129
 
            assert count < len(is_requested)
130
 
            while not is_requested[count]:
131
 
                yield None
132
 
                count += 1
133
 
            yield f
134
 
            count += 1
135
 
 
136
 
        while count < len(is_requested):
137
 
            yield None
138
 
            count += 1
139
 
 
140
 
    def __iter__(self):
141
 
        for relpath, st in self._iter_relpaths():
142
 
            yield os.path.basename(relpath)
143
 
 
144
 
    def __len__(self):
145
 
        return len(list(self._iter_relpath()))
146
 
 
147
 
    def total_size(self):
148
 
        """Return (count, bytes)
149
 
 
150
 
        This is the (compressed) size stored on disk, not the size of
151
 
        the content."""
152
 
        total = 0
153
 
        count = 0
154
 
        for relpath, st in self._iter_relpaths():
155
 
            count += 1
156
 
            total += st[ST_SIZE]
157
 
                
158
 
        return count, total
159
 
 
160
 
 
161
 
class ScratchTextStore(TextStore):
162
 
    """Self-destructing test subclass of TextStore.
163
 
 
164
 
    The Store only exists for the lifetime of the Python object.
165
 
    Obviously you should not put anything precious in it.
166
 
    """
167
 
    def __init__(self):
168
 
        from transport import transport
169
 
        super(ScratchTextStore, self).__init__(transport(tempfile.mkdtemp()))
170
 
 
171
 
    def __del__(self):
172
 
        self._transport.delete_multi(self._transport.list_dir('.'))
173
 
        os.rmdir(self._transport.base)
174
 
        mutter("%r destroyed" % self)
175
 
 
 
49
        sio = StringIO()
 
50
        gf = gzip.GzipFile(mode='wb', fileobj=sio)
 
51
        # if pumpfile handles files that don't fit in ram,
 
52
        # so will this function
 
53
        pumpfile(f, gf)
 
54
        gf.close()
 
55
        sio.seek(0)
 
56
        self._try_put(fn, sio)
 
57
 
 
58
    def _add(self, fn, f):
 
59
        if self._compressed:
 
60
            self._add_compressed(fn, f)
 
61
        else:
 
62
            self._try_put(fn, f)
 
63
 
 
64
    def _try_put(self, fn, f):
 
65
        try:
 
66
            self._transport.put_file(fn, f, mode=self._file_mode)
 
67
        except NoSuchFile:
 
68
            if not self._prefixed:
 
69
                raise
 
70
            try:
 
71
                self._transport.mkdir(os.path.dirname(fn), mode=self._dir_mode)
 
72
            except FileExists:
 
73
                pass
 
74
            self._transport.put_file(fn, f, mode=self._file_mode)
 
75
 
 
76
    def _get(self, fn):
 
77
        if fn.endswith('.gz'):
 
78
            return self._get_compressed(fn)
 
79
        else:
 
80
            return self._transport.get(fn)
 
81
 
 
82
    def _copy_one(self, fileid, suffix, other, pb):
 
83
        # TODO: Once the copy_to interface is improved to allow a source
 
84
        #       and destination targets, then we can always do the copy
 
85
        #       as long as other is a TextStore
 
86
        if not (isinstance(other, TextStore)
 
87
            and other._prefixed == self._prefixed):
 
88
            return super(TextStore, self)._copy_one(fileid, suffix, other, pb)
 
89
 
 
90
        mutter('_copy_one: %r, %r', fileid, suffix)
 
91
        path = other._get_name(fileid, suffix)
 
92
        if path is None:
 
93
            raise KeyError(fileid + '-' + str(suffix))
 
94
 
 
95
        try:
 
96
            result = other._transport.copy_to([path], self._transport,
 
97
                                              mode=self._file_mode)
 
98
        except NoSuchFile:
 
99
            if not self._prefixed:
 
100
                raise
 
101
            try:
 
102
                self._transport.mkdir(self.hash_prefix(fileid)[:-1], mode=self._dir_mode)
 
103
            except FileExists:
 
104
                pass
 
105
            result = other._transport.copy_to([path], self._transport,
 
106
                                              mode=self._file_mode)
 
107
 
 
108
        if result != 1:
 
109
            raise BzrError('Unable to copy file: %r' % (path,))
 
110
 
 
111
    def _get_compressed(self, filename):
 
112
        """Returns a file reading from a particular entry."""
 
113
        f = self._transport.get(filename)
 
114
        # gzip.GzipFile.read() requires a tell() function
 
115
        # but some transports return objects that cannot seek
 
116
        # so buffer them in a StringIO instead
 
117
        if getattr(f, 'tell', None) is not None:
 
118
            return gzip.GzipFile(mode='rb', fileobj=f)
 
119
        else:
 
120
            from cStringIO import StringIO
 
121
            sio = StringIO(f.read())
 
122
            return gzip.GzipFile(mode='rb', fileobj=sio)