← Back to branch summary

~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/rio.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2009-08-27 02:27:19 UTC
  • mfrom: (4634.3.19 gc-batching)
  • Revision ID: pqm@pqm.ubuntu.com-20090827022719-bl2yoqhpj3fcfczu
(andrew) Fix #402657: 2a fetch over dumb transport reads one group at
        a time.

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrlib/rio.py
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
17
# \subsection{\emph{rio} - simple text metaformat}
18
 
# 
 
18
#
19
19
# \emph{r} stands for `restricted', `reproducible', or `rfc822-like'.
20
 
# 
 
20
#
21
21
# The stored data consists of a series of \emph{stanzas}, each of which contains
22
22
# \emph{fields} identified by an ascii name, with Unicode or string contents.
23
 
# The field tag is constrained to alphanumeric characters.  
 
23
# The field tag is constrained to alphanumeric characters.
24
24
# There may be more than one field in a stanza with the same name.
25
 
# 
 
25
#
26
26
# The format itself does not deal with character encoding issues, though
27
27
# the result will normally be written in Unicode.
28
 
# 
 
28
#
29
29
# The format is intended to be simple enough that there is exactly one character
30
30
# stream representation of an object and vice versa, and that this relation
31
31
# will continue to hold for future versions of bzr.
35
35
from bzrlib.iterablefile import IterableFile
36
36
 
37
37
# XXX: some redundancy is allowing to write stanzas in isolation as well as
38
 
# through a writer object.  
 
38
# through a writer object.
39
39
 
40
40
class RioWriter(object):
41
41
    def __init__(self, to_file):
51
51
 
52
52
class RioReader(object):
53
53
    """Read stanzas from a file as a sequence
54
 
    
55
 
    to_file can be anything that can be enumerated as a sequence of 
 
54
 
 
55
    to_file can be anything that can be enumerated as a sequence of
56
56
    lines (with newlines.)
57
57
    """
58
58
    def __init__(self, from_file):
93
93
class Stanza(object):
94
94
    """One stanza for rio.
95
95
 
96
 
    Each stanza contains a set of named fields.  
97
 
    
 
96
    Each stanza contains a set of named fields.
 
97
 
98
98
    Names must be non-empty ascii alphanumeric plus _.  Names can be repeated
99
99
    within a stanza.  Names are case-sensitive.  The ordering of fields is
100
100
    preserved.
128
128
            raise TypeError("invalid type for rio value: %r of type %s"
129
129
                            % (value, type(value)))
130
130
        self.items.append((tag, value))
131
 
        
 
131
 
 
132
    @classmethod
 
133
    def from_pairs(cls, pairs):
 
134
        ret = cls()
 
135
        ret.items = pairs
 
136
        return ret
 
137
 
132
138
    def __contains__(self, find_tag):
133
139
        """True if there is any field in this stanza with the given tag."""
134
140
        for tag, value in self.items:
157
163
 
158
164
    def to_lines(self):
159
165
        """Generate sequence of lines for external version of this file.
160
 
        
 
166
 
161
167
        The lines are always utf-8 encoded strings.
162
168
        """
163
169
        if not self.items:
191
197
 
192
198
        result = []
193
199
        for tag, value in self.items:
194
 
            if value == '':
195
 
                result.append(tag + ': \n')
196
 
            elif '\n' in value:
 
200
            if value == u'':
 
201
                result.append(tag + u': \n')
 
202
            elif u'\n' in value:
197
203
                # don't want splitlines behaviour on empty lines
198
 
                val_lines = value.split('\n')
199
 
                result.append(tag + ': ' + val_lines[0] + '\n')
 
204
                val_lines = value.split(u'\n')
 
205
                result.append(tag + u': ' + val_lines[0] + u'\n')
200
206
                for line in val_lines[1:]:
201
 
                    result.append('\t' + line + '\n')
 
207
                    result.append(u'\t' + line + u'\n')
202
208
            else:
203
 
                result.append(tag + ': ' + value + '\n')
 
209
                result.append(tag + u': ' + value + u'\n')
204
210
        return u''.join(result)
205
211
 
206
212
    def write(self, to_file):
235
241
        for tag, value in self.items:
236
242
            d[tag] = value
237
243
        return d
238
 
         
239
 
_tag_re = re.compile(r'^[-a-zA-Z0-9_]+$')
 
244
 
 
245
 
240
246
def valid_tag(tag):
241
 
    return bool(_tag_re.match(tag))
 
247
    return _valid_tag(tag)
242
248
 
243
249
 
244
250
def read_stanza(line_iter):
245
251
    """Return new Stanza read from list of lines or a file
246
 
    
 
252
 
247
253
    Returns one Stanza that was read, or returns None at end of file.  If a
248
254
    blank line follows the stanza, it is consumed.  It's not an error for
249
255
    there to be no blank at end of file.  If there is a blank file at the
250
 
    start of the input this is really an empty stanza and that is returned. 
 
256
    start of the input this is really an empty stanza and that is returned.
251
257
 
252
258
    Only the stanza lines and the trailing blank (if any) are consumed
253
259
    from the line_iter.
254
260
 
255
261
    The raw lines must be in utf-8 encoding.
256
262
    """
257
 
    unicode_iter = (line.decode('utf-8') for line in line_iter)
258
 
    return read_stanza_unicode(unicode_iter)
 
263
    return _read_stanza_utf8(line_iter)
259
264
 
260
265
 
261
266
def read_stanza_unicode(unicode_iter):
275
280
    :return: A Stanza object if there are any lines in the file.
276
281
        None otherwise
277
282
    """
278
 
    stanza = Stanza()
279
 
    tag = None
280
 
    accum_value = None
281
 
    
282
 
    # TODO: jam 20060922 This code should raise real errors rather than
283
 
    #       using 'assert' to process user input, or raising ValueError
284
 
    #       rather than a more specific error.
285
 
 
286
 
    for line in unicode_iter:
287
 
        if line is None or line == '':
288
 
            break       # end of file
289
 
        if line == '\n':
290
 
            break       # end of stanza
291
 
        real_l = line
292
 
        if line[0] == '\t': # continues previous value
293
 
            if tag is None:
294
 
                raise ValueError('invalid continuation line %r' % real_l)
295
 
            accum_value += '\n' + line[1:-1]
296
 
        else: # new tag:value line
297
 
            if tag is not None:
298
 
                stanza.add(tag, accum_value)
299
 
            try:
300
 
                colon_index = line.index(': ')
301
 
            except ValueError:
302
 
                raise ValueError('tag/value separator not found in line %r'
303
 
                                 % real_l)
304
 
            tag = str(line[:colon_index])
305
 
            if not valid_tag(tag):
306
 
                raise ValueError("invalid rio tag %r" % (tag,))
307
 
            accum_value = line[colon_index+2:-1]
308
 
 
309
 
    if tag is not None: # add last tag-value
310
 
        stanza.add(tag, accum_value)
311
 
        return stanza
312
 
    else:     # didn't see any content
313
 
        return None    
 
283
    return _read_stanza_unicode(unicode_iter)
314
284
 
315
285
 
316
286
def to_patch_lines(stanza, max_width=72):
399
369
    :return: a Stanza
400
370
    """
401
371
    return read_stanza(_patch_stanza_iter(line_iter))
 
372
 
 
373
 
 
374
try:
 
375
    from bzrlib._rio_pyx import (
 
376
        _read_stanza_utf8,
 
377
        _read_stanza_unicode,
 
378
        _valid_tag,
 
379
        )
 
380
except ImportError:
 
381
    from bzrlib._rio_py import (
 
382
       _read_stanza_utf8,
 
383
       _read_stanza_unicode,
 
384
       _valid_tag,
 
385
       )