← Back to branch summary

~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/store.py

  • Committer: Martin Pool
  • Date: 2005-05-30 05:10:41 UTC
  • Revision ID: mbp@sourcefrog.net-20050530051041-151c592d94481593
- better error reporting from smart_add

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrlib/store.py
1
 
#! /usr/bin/env python
2
 
# -*- coding: UTF-8 -*-
 
1
 
3
2
 
4
3
# This program is free software; you can redistribute it and/or modify
5
4
# it under the terms of the GNU General Public License as published by
23
22
__copyright__ = "Copyright (C) 2005 Canonical Ltd."
24
23
__author__ = "Martin Pool <mbp@canonical.com>"
25
24
 
26
 
import os, tempfile, types, osutils
 
25
import os, tempfile, types, osutils, gzip, errno
 
26
from stat import ST_SIZE
27
27
from StringIO import StringIO
28
28
from trace import mutter
29
29
 
30
 
 
31
30
######################################################################
32
31
# stores
33
32
 
35
34
    pass
36
35
 
37
36
 
38
 
class ImmutableStore:
 
37
class ImmutableStore(object):
39
38
    """Store that holds files indexed by unique names.
40
39
 
41
40
    Files can be added, but not modified once they are in.  Typically
58
57
    >>> st['123123'].read()
59
58
    'goodbye'
60
59
 
61
 
    :todo: Atomic add by writing to a temporary file and renaming.
 
60
    TODO: Atomic add by writing to a temporary file and renaming.
62
61
 
63
 
    :todo: Perhaps automatically transform to/from XML in a method?
 
62
    TODO: Perhaps automatically transform to/from XML in a method?
64
63
           Would just need to tell the constructor what class to
65
64
           use...
66
65
 
67
 
    :todo: Even within a simple disk store like this, we could
 
66
    TODO: Even within a simple disk store like this, we could
68
67
           gzip the files.  But since many are less than one disk
69
68
           block, that might not help a lot.
70
69
 
75
74
        self._basedir = basedir
76
75
 
77
76
    def _path(self, id):
 
77
        assert '/' not in id
78
78
        return os.path.join(self._basedir, id)
79
79
 
80
80
    def __repr__(self):
81
81
        return "%s(%r)" % (self.__class__.__name__, self._basedir)
82
82
 
83
 
    def add(self, f, fileid):
 
83
    def add(self, f, fileid, compressed=True):
84
84
        """Add contents of a file into the store.
85
85
 
86
 
        :param f: An open file, or file-like object."""
 
86
        f -- An open file, or file-like object."""
87
87
        # FIXME: Only works on smallish files
88
88
        # TODO: Can be optimized by copying at the same time as
89
89
        # computing the sum.
92
92
            content = f
93
93
        else:
94
94
            content = f.read()
95
 
        if fileid not in self:
96
 
            filename = self._path(fileid)
97
 
            f = file(filename, 'wb')
98
 
            f.write(content)
99
 
            f.flush()
100
 
            os.fsync(f.fileno())
101
 
            f.close()
102
 
            osutils.make_readonly(filename)
 
95
 
 
96
        p = self._path(fileid)
 
97
        if os.access(p, os.F_OK) or os.access(p + '.gz', os.F_OK):
 
98
            bailout("store %r already contains id %r" % (self._basedir, fileid))
 
99
 
 
100
        if compressed:
 
101
            f = gzip.GzipFile(p + '.gz', 'wb')
 
102
            os.chmod(p + '.gz', 0444)
 
103
        else:
 
104
            f = file(p, 'wb')
 
105
            os.chmod(p, 0444)
 
106
            
 
107
        f.write(content)
 
108
        f.close()
103
109
 
104
110
 
105
111
    def __contains__(self, fileid):
106
112
        """"""
107
 
        return os.access(self._path(fileid), os.R_OK)
 
113
        p = self._path(fileid)
 
114
        return (os.access(p, os.R_OK)
 
115
                or os.access(p + '.gz', os.R_OK))
108
116
 
 
117
    # TODO: Guard against the same thing being stored twice, compressed and uncompresse
109
118
 
110
119
    def __iter__(self):
111
 
        return iter(os.listdir(self._basedir))
 
120
        for f in os.listdir(self._basedir):
 
121
            if f[-3:] == '.gz':
 
122
                # TODO: case-insensitive?
 
123
                yield f[:-3]
 
124
            else:
 
125
                yield f
 
126
 
 
127
    def __len__(self):
 
128
        return len(os.listdir(self._basedir))
112
129
 
113
130
    def __getitem__(self, fileid):
114
131
        """Returns a file reading from a particular entry."""
115
 
        return file(self._path(fileid), 'rb')
116
 
 
117
 
    def delete_all(self):
118
 
        for fileid in self:
119
 
            self.delete(fileid)
120
 
 
121
 
    def delete(self, fileid):
122
 
        """Remove nominated store entry.
123
 
 
124
 
        Most stores will be add-only."""
125
 
        filename = self._path(fileid)
126
 
        ## osutils.make_writable(filename)
127
 
        os.remove(filename)
128
 
 
129
 
    def destroy(self):
130
 
        """Remove store; only allowed if it is empty."""
131
 
        os.rmdir(self._basedir)
132
 
        mutter("%r destroyed" % self)
 
132
        p = self._path(fileid)
 
133
        try:
 
134
            return gzip.GzipFile(p + '.gz', 'rb')
 
135
        except IOError, e:
 
136
            if e.errno == errno.ENOENT:
 
137
                return file(p, 'rb')
 
138
            else:
 
139
                raise e
 
140
 
 
141
    def total_size(self):
 
142
        """Return (count, bytes)
 
143
 
 
144
        This is the (compressed) size stored on disk, not the size of
 
145
        the content."""
 
146
        total = 0
 
147
        count = 0
 
148
        for fid in self:
 
149
            count += 1
 
150
            p = self._path(fid)
 
151
            try:
 
152
                total += os.stat(p)[ST_SIZE]
 
153
            except OSError:
 
154
                total += os.stat(p + '.gz')[ST_SIZE]
 
155
                
 
156
        return count, total
 
157
 
133
158
 
134
159
 
135
160
 
143
168
        ImmutableStore.__init__(self, tempfile.mkdtemp())
144
169
 
145
170
    def __del__(self):
146
 
        self.delete_all()
147
 
        self.destroy()
 
171
        for f in os.listdir(self._basedir):
 
172
            fpath = os.path.join(self._basedir, f)
 
173
            # needed on windows, and maybe some other filesystems
 
174
            os.chmod(fpath, 0600)
 
175
            os.remove(fpath)
 
176
        os.rmdir(self._basedir)
 
177
        mutter("%r destroyed" % self)