~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/rio.py

  • Committer: mbp at sourcefrog
  • Date: 2005-03-24 00:44:18 UTC
  • Revision ID: mbp@sourcefrog.net-20050324004418-b4a050f656c07f5f
show space usage for various stores in the info command

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 Canonical Ltd
2
 
#
3
 
# This program is free software; you can redistribute it and/or modify
4
 
# it under the terms of the GNU General Public License as published by
5
 
# the Free Software Foundation; either version 2 of the License, or
6
 
# (at your option) any later version.
7
 
#
8
 
# This program is distributed in the hope that it will be useful,
9
 
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
 
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
 
# GNU General Public License for more details.
12
 
#
13
 
# You should have received a copy of the GNU General Public License
14
 
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
# \subsection{\emph{rio} - simple text metaformat}
18
 
#
19
 
# \emph{r} stands for `restricted', `reproducible', or `rfc822-like'.
20
 
#
21
 
# The stored data consists of a series of \emph{stanzas}, each of which contains
22
 
# \emph{fields} identified by an ascii name, with Unicode or string contents.
23
 
# The field tag is constrained to alphanumeric characters.
24
 
# There may be more than one field in a stanza with the same name.
25
 
#
26
 
# The format itself does not deal with character encoding issues, though
27
 
# the result will normally be written in Unicode.
28
 
#
29
 
# The format is intended to be simple enough that there is exactly one character
30
 
# stream representation of an object and vice versa, and that this relation
31
 
# will continue to hold for future versions of bzr.
32
 
 
33
 
import re
34
 
 
35
 
from bzrlib.iterablefile import IterableFile
36
 
 
37
 
# XXX: some redundancy is allowing to write stanzas in isolation as well as
38
 
# through a writer object.
39
 
 
40
 
class RioWriter(object):
41
 
    def __init__(self, to_file):
42
 
        self._soft_nl = False
43
 
        self._to_file = to_file
44
 
 
45
 
    def write_stanza(self, stanza):
46
 
        if self._soft_nl:
47
 
            self._to_file.write('\n')
48
 
        stanza.write(self._to_file)
49
 
        self._soft_nl = True
50
 
 
51
 
 
52
 
class RioReader(object):
53
 
    """Read stanzas from a file as a sequence
54
 
 
55
 
    to_file can be anything that can be enumerated as a sequence of
56
 
    lines (with newlines.)
57
 
    """
58
 
    def __init__(self, from_file):
59
 
        self._from_file = from_file
60
 
 
61
 
    def __iter__(self):
62
 
        while True:
63
 
            s = read_stanza(self._from_file)
64
 
            if s is None:
65
 
                break
66
 
            else:
67
 
                yield s
68
 
 
69
 
 
70
 
def rio_file(stanzas, header=None):
71
 
    """Produce a rio IterableFile from an iterable of stanzas"""
72
 
    def str_iter():
73
 
        if header is not None:
74
 
            yield header + '\n'
75
 
        first_stanza = True
76
 
        for s in stanzas:
77
 
            if first_stanza is not True:
78
 
                yield '\n'
79
 
            for line in s.to_lines():
80
 
                yield line
81
 
            first_stanza = False
82
 
    return IterableFile(str_iter())
83
 
 
84
 
 
85
 
def read_stanzas(from_file):
86
 
    while True:
87
 
        s = read_stanza(from_file)
88
 
        if s is None:
89
 
            break
90
 
        else:
91
 
            yield s
92
 
 
93
 
class Stanza(object):
94
 
    """One stanza for rio.
95
 
 
96
 
    Each stanza contains a set of named fields.
97
 
 
98
 
    Names must be non-empty ascii alphanumeric plus _.  Names can be repeated
99
 
    within a stanza.  Names are case-sensitive.  The ordering of fields is
100
 
    preserved.
101
 
 
102
 
    Each field value must be either an int or a string.
103
 
    """
104
 
 
105
 
    __slots__ = ['items']
106
 
 
107
 
    def __init__(self, **kwargs):
108
 
        """Construct a new Stanza.
109
 
 
110
 
        The keyword arguments, if any, are added in sorted order to the stanza.
111
 
        """
112
 
        self.items = []
113
 
        if kwargs:
114
 
            for tag, value in sorted(kwargs.items()):
115
 
                self.add(tag, value)
116
 
 
117
 
    def add(self, tag, value):
118
 
        """Append a name and value to the stanza."""
119
 
        if not valid_tag(tag):
120
 
            raise ValueError("invalid tag %r" % (tag,))
121
 
        if isinstance(value, str):
122
 
            value = unicode(value)
123
 
        elif isinstance(value, unicode):
124
 
            pass
125
 
        ## elif isinstance(value, (int, long)):
126
 
        ##    value = str(value)           # XXX: python2.4 without L-suffix
127
 
        else:
128
 
            raise TypeError("invalid type for rio value: %r of type %s"
129
 
                            % (value, type(value)))
130
 
        self.items.append((tag, value))
131
 
 
132
 
    @classmethod
133
 
    def from_pairs(cls, pairs):
134
 
        ret = cls()
135
 
        ret.items = pairs
136
 
        return ret
137
 
 
138
 
    def __contains__(self, find_tag):
139
 
        """True if there is any field in this stanza with the given tag."""
140
 
        for tag, value in self.items:
141
 
            if tag == find_tag:
142
 
                return True
143
 
        return False
144
 
 
145
 
    def __len__(self):
146
 
        """Return number of pairs in the stanza."""
147
 
        return len(self.items)
148
 
 
149
 
    def __eq__(self, other):
150
 
        if not isinstance(other, Stanza):
151
 
            return False
152
 
        return self.items == other.items
153
 
 
154
 
    def __ne__(self, other):
155
 
        return not self.__eq__(other)
156
 
 
157
 
    def __repr__(self):
158
 
        return "Stanza(%r)" % self.items
159
 
 
160
 
    def iter_pairs(self):
161
 
        """Return iterator of tag, value pairs."""
162
 
        return iter(self.items)
163
 
 
164
 
    def to_lines(self):
165
 
        """Generate sequence of lines for external version of this file.
166
 
 
167
 
        The lines are always utf-8 encoded strings.
168
 
        """
169
 
        if not self.items:
170
 
            # max() complains if sequence is empty
171
 
            return []
172
 
        result = []
173
 
        for tag, value in self.items:
174
 
            if value == '':
175
 
                result.append(tag + ': \n')
176
 
            elif '\n' in value:
177
 
                # don't want splitlines behaviour on empty lines
178
 
                val_lines = value.split('\n')
179
 
                result.append(tag + ': ' + val_lines[0].encode('utf-8') + '\n')
180
 
                for line in val_lines[1:]:
181
 
                    result.append('\t' + line.encode('utf-8') + '\n')
182
 
            else:
183
 
                result.append(tag + ': ' + value.encode('utf-8') + '\n')
184
 
        return result
185
 
 
186
 
    def to_string(self):
187
 
        """Return stanza as a single string"""
188
 
        return ''.join(self.to_lines())
189
 
 
190
 
    def to_unicode(self):
191
 
        """Return stanza as a single Unicode string.
192
 
 
193
 
        This is most useful when adding a Stanza to a parent Stanza
194
 
        """
195
 
        if not self.items:
196
 
            return u''
197
 
 
198
 
        result = []
199
 
        for tag, value in self.items:
200
 
            if value == u'':
201
 
                result.append(tag + u': \n')
202
 
            elif u'\n' in value:
203
 
                # don't want splitlines behaviour on empty lines
204
 
                val_lines = value.split(u'\n')
205
 
                result.append(tag + u': ' + val_lines[0] + u'\n')
206
 
                for line in val_lines[1:]:
207
 
                    result.append(u'\t' + line + u'\n')
208
 
            else:
209
 
                result.append(tag + u': ' + value + u'\n')
210
 
        return u''.join(result)
211
 
 
212
 
    def write(self, to_file):
213
 
        """Write stanza to a file"""
214
 
        to_file.writelines(self.to_lines())
215
 
 
216
 
    def get(self, tag):
217
 
        """Return the value for a field wih given tag.
218
 
 
219
 
        If there is more than one value, only the first is returned.  If the
220
 
        tag is not present, KeyError is raised.
221
 
        """
222
 
        for t, v in self.items:
223
 
            if t == tag:
224
 
                return v
225
 
        else:
226
 
            raise KeyError(tag)
227
 
 
228
 
    __getitem__ = get
229
 
 
230
 
    def get_all(self, tag):
231
 
        r = []
232
 
        for t, v in self.items:
233
 
            if t == tag:
234
 
                r.append(v)
235
 
        return r
236
 
 
237
 
    def as_dict(self):
238
 
        """Return a dict containing the unique values of the stanza.
239
 
        """
240
 
        d = {}
241
 
        for tag, value in self.items:
242
 
            d[tag] = value
243
 
        return d
244
 
 
245
 
 
246
 
def valid_tag(tag):
247
 
    return _valid_tag(tag)
248
 
 
249
 
 
250
 
def read_stanza(line_iter):
251
 
    """Return new Stanza read from list of lines or a file
252
 
 
253
 
    Returns one Stanza that was read, or returns None at end of file.  If a
254
 
    blank line follows the stanza, it is consumed.  It's not an error for
255
 
    there to be no blank at end of file.  If there is a blank file at the
256
 
    start of the input this is really an empty stanza and that is returned.
257
 
 
258
 
    Only the stanza lines and the trailing blank (if any) are consumed
259
 
    from the line_iter.
260
 
 
261
 
    The raw lines must be in utf-8 encoding.
262
 
    """
263
 
    return _read_stanza_utf8(line_iter)
264
 
 
265
 
 
266
 
def read_stanza_unicode(unicode_iter):
267
 
    """Read a Stanza from a list of lines or a file.
268
 
 
269
 
    The lines should already be in unicode form. This returns a single
270
 
    stanza that was read. If there is a blank line at the end of the Stanza,
271
 
    it is consumed. It is not an error for there to be no blank line at
272
 
    the end of the iterable. If there is a blank line at the beginning,
273
 
    this is treated as an empty Stanza and None is returned.
274
 
 
275
 
    Only the stanza lines and the trailing blank (if any) are consumed
276
 
    from the unicode_iter
277
 
 
278
 
    :param unicode_iter: A iterable, yeilding Unicode strings. See read_stanza
279
 
        if you have a utf-8 encoded string.
280
 
    :return: A Stanza object if there are any lines in the file.
281
 
        None otherwise
282
 
    """
283
 
    return _read_stanza_unicode(unicode_iter)
284
 
 
285
 
def to_patch_lines(stanza, max_width=72):
286
 
    """Convert a stanza into RIO-Patch format lines.
287
 
 
288
 
    RIO-Patch is a RIO variant designed to be e-mailed as part of a patch.
289
 
    It resists common forms of damage such as newline conversion or the removal
290
 
    of trailing whitespace, yet is also reasonably easy to read.
291
 
 
292
 
    :param max_width: The maximum number of characters per physical line.
293
 
    :return: a list of lines
294
 
    """
295
 
    if max_width <= 6:
296
 
        raise ValueError(max_width)
297
 
    max_rio_width = max_width - 4
298
 
    lines = []
299
 
    for pline in stanza.to_lines():
300
 
        for line in pline.split('\n')[:-1]:
301
 
            line = re.sub('\\\\', '\\\\\\\\', line)
302
 
            while len(line) > 0:
303
 
                partline = line[:max_rio_width]
304
 
                line = line[max_rio_width:]
305
 
                if len(line) > 0 and line[0] != [' ']:
306
 
                    break_index = -1
307
 
                    break_index = partline.rfind(' ', -20)
308
 
                    if break_index < 3:
309
 
                        break_index = partline.rfind('-', -20)
310
 
                        break_index += 1
311
 
                    if break_index < 3:
312
 
                        break_index = partline.rfind('/', -20)
313
 
                    if break_index >= 3:
314
 
                        line = partline[break_index:] + line
315
 
                        partline = partline[:break_index]
316
 
                if len(line) > 0:
317
 
                    line = '  ' + line
318
 
                partline = re.sub('\r', '\\\\r', partline)
319
 
                blank_line = False
320
 
                if len(line) > 0:
321
 
                    partline += '\\'
322
 
                elif re.search(' $', partline):
323
 
                    partline += '\\'
324
 
                    blank_line = True
325
 
                lines.append('# ' + partline + '\n')
326
 
                if blank_line:
327
 
                    lines.append('#   \n')
328
 
    return lines
329
 
 
330
 
 
331
 
def _patch_stanza_iter(line_iter):
332
 
    map = {'\\\\': '\\',
333
 
           '\\r' : '\r',
334
 
           '\\\n': ''}
335
 
    def mapget(match):
336
 
        return map[match.group(0)]
337
 
 
338
 
    last_line = None
339
 
    for line in line_iter:
340
 
        if line.startswith('# '):
341
 
            line = line[2:]
342
 
        elif line.startswith('#'):
343
 
            line = line[1:]
344
 
        else:
345
 
            raise ValueError("bad line %r" % (line,))
346
 
        if last_line is not None and len(line) > 2:
347
 
            line = line[2:]
348
 
        line = re.sub('\r', '', line)
349
 
        line = re.sub('\\\\(.|\n)', mapget, line)
350
 
        if last_line is None:
351
 
            last_line = line
352
 
        else:
353
 
            last_line += line
354
 
        if last_line[-1] == '\n':
355
 
            yield last_line
356
 
            last_line = None
357
 
    if last_line is not None:
358
 
        yield last_line
359
 
 
360
 
 
361
 
def read_patch_stanza(line_iter):
362
 
    """Convert an iterable of RIO-Patch format lines into a Stanza.
363
 
 
364
 
    RIO-Patch is a RIO variant designed to be e-mailed as part of a patch.
365
 
    It resists common forms of damage such as newline conversion or the removal
366
 
    of trailing whitespace, yet is also reasonably easy to read.
367
 
 
368
 
    :return: a Stanza
369
 
    """
370
 
    return read_stanza(_patch_stanza_iter(line_iter))
371
 
 
372
 
 
373
 
try:
374
 
    from bzrlib._rio_pyx import (
375
 
        _read_stanza_utf8,
376
 
        _read_stanza_unicode,
377
 
        _valid_tag,
378
 
        )
379
 
except ImportError:
380
 
    from bzrlib._rio_py import (
381
 
       _read_stanza_utf8,
382
 
       _read_stanza_unicode,
383
 
       _valid_tag,
384
 
       )