← Back to branch summary

~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/rio.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2006-09-20 13:59:17 UTC
  • mfrom: (1551.8.25 Aaron's mergeable stuff)
  • Revision ID: pqm@pqm.ubuntu.com-20060920135917-9b085ce8e1ba0d18
Fix deprecated use of pending_merges

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrlib/rio.py
1
 
# Copyright (C) 2005 Canonical Ltd
2
 
#
3
 
# This program is free software; you can redistribute it and/or modify
4
 
# it under the terms of the GNU General Public License as published by
5
 
# the Free Software Foundation; either version 2 of the License, or
6
 
# (at your option) any later version.
7
 
#
8
 
# This program is distributed in the hope that it will be useful,
9
 
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
 
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
 
# GNU General Public License for more details.
12
 
#
13
 
# You should have received a copy of the GNU General Public License
14
 
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
from __future__ import absolute_import
 
1
# Copyright (C) 2005 by Canonical Ltd
 
2
#
 
3
# Distributed under the GNU General Public Licence v2
18
4
 
19
5
# \subsection{\emph{rio} - simple text metaformat}
20
 
#
 
6
# 
21
7
# \emph{r} stands for `restricted', `reproducible', or `rfc822-like'.
22
 
#
 
8
# 
23
9
# The stored data consists of a series of \emph{stanzas}, each of which contains
24
10
# \emph{fields} identified by an ascii name, with Unicode or string contents.
25
 
# The field tag is constrained to alphanumeric characters.
 
11
# The field tag is constrained to alphanumeric characters.  
26
12
# There may be more than one field in a stanza with the same name.
27
 
#
 
13
# 
28
14
# The format itself does not deal with character encoding issues, though
29
15
# the result will normally be written in Unicode.
30
 
#
 
16
# 
31
17
# The format is intended to be simple enough that there is exactly one character
32
18
# stream representation of an object and vice versa, and that this relation
33
19
# will continue to hold for future versions of bzr.
34
20
 
35
21
import re
36
22
 
37
 
from bzrlib import osutils
38
23
from bzrlib.iterablefile import IterableFile
39
24
 
40
25
# XXX: some redundancy is allowing to write stanzas in isolation as well as
41
 
# through a writer object.
 
26
# through a writer object.  
42
27
 
43
28
class RioWriter(object):
44
29
    def __init__(self, to_file):
47
32
 
48
33
    def write_stanza(self, stanza):
49
34
        if self._soft_nl:
50
 
            self._to_file.write('\n')
 
35
            print >>self._to_file
51
36
        stanza.write(self._to_file)
52
37
        self._soft_nl = True
53
38
 
54
39
 
55
40
class RioReader(object):
56
41
    """Read stanzas from a file as a sequence
57
 
 
58
 
    to_file can be anything that can be enumerated as a sequence of
 
42
    
 
43
    to_file can be anything that can be enumerated as a sequence of 
59
44
    lines (with newlines.)
60
45
    """
61
46
    def __init__(self, from_file):
96
81
class Stanza(object):
97
82
    """One stanza for rio.
98
83
 
99
 
    Each stanza contains a set of named fields.
100
 
 
 
84
    Each stanza contains a set of named fields.  
 
85
    
101
86
    Names must be non-empty ascii alphanumeric plus _.  Names can be repeated
102
87
    within a stanza.  Names are case-sensitive.  The ordering of fields is
103
88
    preserved.
119
104
 
120
105
    def add(self, tag, value):
121
106
        """Append a name and value to the stanza."""
122
 
        if not valid_tag(tag):
123
 
            raise ValueError("invalid tag %r" % (tag,))
 
107
        assert valid_tag(tag), \
 
108
            ("invalid tag %r" % tag)
124
109
        if isinstance(value, str):
125
110
            value = unicode(value)
126
111
        elif isinstance(value, unicode):
131
116
            raise TypeError("invalid type for rio value: %r of type %s"
132
117
                            % (value, type(value)))
133
118
        self.items.append((tag, value))
134
 
 
135
 
    @classmethod
136
 
    def from_pairs(cls, pairs):
137
 
        ret = cls()
138
 
        ret.items = pairs
139
 
        return ret
140
 
 
 
119
        
141
120
    def __contains__(self, find_tag):
142
121
        """True if there is any field in this stanza with the given tag."""
143
122
        for tag, value in self.items:
166
145
 
167
146
    def to_lines(self):
168
147
        """Generate sequence of lines for external version of this file.
169
 
 
 
148
        
170
149
        The lines are always utf-8 encoded strings.
171
150
        """
172
151
        if not self.items:
174
153
            return []
175
154
        result = []
176
155
        for tag, value in self.items:
 
156
            assert isinstance(tag, str), type(tag)
 
157
            assert isinstance(value, unicode)
177
158
            if value == '':
178
159
                result.append(tag + ': \n')
179
160
            elif '\n' in value:
190
171
        """Return stanza as a single string"""
191
172
        return ''.join(self.to_lines())
192
173
 
193
 
    def to_unicode(self):
194
 
        """Return stanza as a single Unicode string.
195
 
 
196
 
        This is most useful when adding a Stanza to a parent Stanza
197
 
        """
198
 
        if not self.items:
199
 
            return u''
200
 
 
201
 
        result = []
202
 
        for tag, value in self.items:
203
 
            if value == u'':
204
 
                result.append(tag + u': \n')
205
 
            elif u'\n' in value:
206
 
                # don't want splitlines behaviour on empty lines
207
 
                val_lines = value.split(u'\n')
208
 
                result.append(tag + u': ' + val_lines[0] + u'\n')
209
 
                for line in val_lines[1:]:
210
 
                    result.append(u'\t' + line + u'\n')
211
 
            else:
212
 
                result.append(tag + u': ' + value + u'\n')
213
 
        return u''.join(result)
214
 
 
215
174
    def write(self, to_file):
216
175
        """Write stanza to a file"""
217
176
        to_file.writelines(self.to_lines())
242
201
        """
243
202
        d = {}
244
203
        for tag, value in self.items:
 
204
            assert tag not in d
245
205
            d[tag] = value
246
206
        return d
247
 
 
248
 
 
 
207
         
 
208
_tag_re = re.compile(r'^[-a-zA-Z0-9_]+$')
249
209
def valid_tag(tag):
250
 
    return _valid_tag(tag)
 
210
    return bool(_tag_re.match(tag))
251
211
 
252
212
 
253
213
def read_stanza(line_iter):
254
214
    """Return new Stanza read from list of lines or a file
255
 
 
 
215
    
256
216
    Returns one Stanza that was read, or returns None at end of file.  If a
257
217
    blank line follows the stanza, it is consumed.  It's not an error for
258
218
    there to be no blank at end of file.  If there is a blank file at the
259
 
    start of the input this is really an empty stanza and that is returned.
 
219
    start of the input this is really an empty stanza and that is returned. 
260
220
 
261
221
    Only the stanza lines and the trailing blank (if any) are consumed
262
222
    from the line_iter.
263
223
 
264
224
    The raw lines must be in utf-8 encoding.
265
225
    """
266
 
    return _read_stanza_utf8(line_iter)
267
 
 
268
 
 
269
 
def read_stanza_unicode(unicode_iter):
270
 
    """Read a Stanza from a list of lines or a file.
271
 
 
272
 
    The lines should already be in unicode form. This returns a single
273
 
    stanza that was read. If there is a blank line at the end of the Stanza,
274
 
    it is consumed. It is not an error for there to be no blank line at
275
 
    the end of the iterable. If there is a blank line at the beginning,
276
 
    this is treated as an empty Stanza and None is returned.
277
 
 
278
 
    Only the stanza lines and the trailing blank (if any) are consumed
279
 
    from the unicode_iter
280
 
 
281
 
    :param unicode_iter: A iterable, yeilding Unicode strings. See read_stanza
282
 
        if you have a utf-8 encoded string.
283
 
    :return: A Stanza object if there are any lines in the file.
284
 
        None otherwise
285
 
    """
286
 
    return _read_stanza_unicode(unicode_iter)
287
 
 
288
 
 
289
 
def to_patch_lines(stanza, max_width=72):
290
 
    """Convert a stanza into RIO-Patch format lines.
291
 
 
292
 
    RIO-Patch is a RIO variant designed to be e-mailed as part of a patch.
293
 
    It resists common forms of damage such as newline conversion or the removal
294
 
    of trailing whitespace, yet is also reasonably easy to read.
295
 
 
296
 
    :param max_width: The maximum number of characters per physical line.
297
 
    :return: a list of lines
298
 
    """
299
 
    if max_width <= 6:
300
 
        raise ValueError(max_width)
301
 
    max_rio_width = max_width - 4
302
 
    lines = []
303
 
    for pline in stanza.to_lines():
304
 
        for line in pline.split('\n')[:-1]:
305
 
            line = re.sub('\\\\', '\\\\\\\\', line)
306
 
            while len(line) > 0:
307
 
                partline = line[:max_rio_width]
308
 
                line = line[max_rio_width:]
309
 
                if len(line) > 0 and line[0] != [' ']:
310
 
                    break_index = -1
311
 
                    break_index = partline.rfind(' ', -20)
312
 
                    if break_index < 3:
313
 
                        break_index = partline.rfind('-', -20)
314
 
                        break_index += 1
315
 
                    if break_index < 3:
316
 
                        break_index = partline.rfind('/', -20)
317
 
                    if break_index >= 3:
318
 
                        line = partline[break_index:] + line
319
 
                        partline = partline[:break_index]
320
 
                if len(line) > 0:
321
 
                    line = '  ' + line
322
 
                partline = re.sub('\r', '\\\\r', partline)
323
 
                blank_line = False
324
 
                if len(line) > 0:
325
 
                    partline += '\\'
326
 
                elif re.search(' $', partline):
327
 
                    partline += '\\'
328
 
                    blank_line = True
329
 
                lines.append('# ' + partline + '\n')
330
 
                if blank_line:
331
 
                    lines.append('#   \n')
332
 
    return lines
333
 
 
334
 
 
335
 
def _patch_stanza_iter(line_iter):
336
 
    map = {'\\\\': '\\',
337
 
           '\\r' : '\r',
338
 
           '\\\n': ''}
339
 
    def mapget(match):
340
 
        return map[match.group(0)]
341
 
 
342
 
    last_line = None
 
226
    items = []
 
227
    stanza = Stanza()
 
228
    tag = None
 
229
    accum_value = None
343
230
    for line in line_iter:
344
 
        if line.startswith('# '):
345
 
            line = line[2:]
346
 
        elif line.startswith('#'):
347
 
            line = line[1:]
348
 
        else:
349
 
            raise ValueError("bad line %r" % (line,))
350
 
        if last_line is not None and len(line) > 2:
351
 
            line = line[2:]
352
 
        line = re.sub('\r', '', line)
353
 
        line = re.sub('\\\\(.|\n)', mapget, line)
354
 
        if last_line is None:
355
 
            last_line = line
356
 
        else:
357
 
            last_line += line
358
 
        if last_line[-1] == '\n':
359
 
            yield last_line
360
 
            last_line = None
361
 
    if last_line is not None:
362
 
        yield last_line
363
 
 
364
 
 
365
 
def read_patch_stanza(line_iter):
366
 
    """Convert an iterable of RIO-Patch format lines into a Stanza.
367
 
 
368
 
    RIO-Patch is a RIO variant designed to be e-mailed as part of a patch.
369
 
    It resists common forms of damage such as newline conversion or the removal
370
 
    of trailing whitespace, yet is also reasonably easy to read.
371
 
 
372
 
    :return: a Stanza
373
 
    """
374
 
    return read_stanza(_patch_stanza_iter(line_iter))
375
 
 
376
 
 
377
 
try:
378
 
    from bzrlib._rio_pyx import (
379
 
        _read_stanza_utf8,
380
 
        _read_stanza_unicode,
381
 
        _valid_tag,
382
 
        )
383
 
except ImportError, e:
384
 
    osutils.failed_to_load_extension(e)
385
 
    from bzrlib._rio_py import (
386
 
       _read_stanza_utf8,
387
 
       _read_stanza_unicode,
388
 
       _valid_tag,
389
 
       )
 
231
        if line is None or line == '':
 
232
            break       # end of file
 
233
        if line == '\n':
 
234
            break       # end of stanza
 
235
        line = line.decode('utf-8')
 
236
        assert line[-1] == '\n'
 
237
        real_l = line
 
238
        if line[0] == '\t': # continues previous value
 
239
            if tag is None:
 
240
                raise ValueError('invalid continuation line %r' % real_l)
 
241
            accum_value += '\n' + line[1:-1]
 
242
        else: # new tag:value line
 
243
            if tag is not None:
 
244
                stanza.add(tag, accum_value)
 
245
            try:
 
246
                colon_index = line.index(': ')
 
247
            except ValueError:
 
248
                raise ValueError('tag/value separator not found in line %r' % real_l)
 
249
            tag = str(line[:colon_index])
 
250
            assert valid_tag(tag), \
 
251
                    "invalid rio tag %r" % tag
 
252
            accum_value = line[colon_index+2:-1]
 
253
    if tag is not None: # add last tag-value
 
254
        stanza.add(tag, accum_value)
 
255
        return stanza
 
256
    else:     # didn't see any content
 
257
        return None