← Back to branch summary

~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/index.py

(jam) Switch from Transport.get() to .get_bytes(),
        close open file handles.

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrlib/index.py
40
40
    debug,
41
41
    errors,
42
42
    )
 
43
from bzrlib.static_tuple import StaticTuple
43
44
 
44
45
_HEADER_READV = (0, 200)
45
46
_OPTION_KEY_ELEMENTS = "key_elements="
92
93
        :param key_elements: The number of bytestrings in each key.
93
94
        """
94
95
        self.reference_lists = reference_lists
95
 
        self._keys = set()
96
96
        # A dict of {key: (absent, ref_lists, value)}
97
97
        self._nodes = {}
 
98
        # Keys that are referenced but not actually present in this index
 
99
        self._absent_keys = set()
98
100
        self._nodes_by_key = None
99
101
        self._key_length = key_elements
100
102
        self._optimize_for_size = False
102
104
 
103
105
    def _check_key(self, key):
104
106
        """Raise BadIndexKey if key is not a valid key for this index."""
105
 
        if type(key) != tuple:
 
107
        if type(key) not in (tuple, StaticTuple):
106
108
            raise errors.BadIndexKey(key)
107
109
        if self._key_length != len(key):
108
110
            raise errors.BadIndexKey(key)
164
166
            return
165
167
        key_dict = self._nodes_by_key
166
168
        if self.reference_lists:
167
 
            key_value = key, value, node_refs
 
169
            key_value = StaticTuple(key, value, node_refs)
168
170
        else:
169
 
            key_value = key, value
 
171
            key_value = StaticTuple(key, value)
170
172
        for subkey in key[:-1]:
171
173
            key_dict = key_dict.setdefault(subkey, {})
172
174
        key_dict[key[-1]] = key_value
188
190
                                This may contain duplicates if the same key is
189
191
                                referenced in multiple lists.
190
192
        """
 
193
        as_st = StaticTuple.from_sequence
191
194
        self._check_key(key)
192
195
        if _newline_null_re.search(value) is not None:
193
196
            raise errors.BadIndexValue(value)
202
205
                if reference not in self._nodes:
203
206
                    self._check_key(reference)
204
207
                    absent_references.append(reference)
205
 
            node_refs.append(tuple(reference_list))
206
 
        return tuple(node_refs), absent_references
 
208
            reference_list = as_st([as_st(ref).intern()
 
209
                                    for ref in reference_list])
 
210
            node_refs.append(reference_list)
 
211
        return as_st(node_refs), absent_references
207
212
 
208
213
    def add_node(self, key, value, references=()):
209
214
        """Add a node to the index.
224
229
            # There may be duplicates, but I don't think it is worth worrying
225
230
            # about
226
231
            self._nodes[reference] = ('a', (), '')
 
232
        self._absent_keys.update(absent_references)
 
233
        self._absent_keys.discard(key)
227
234
        self._nodes[key] = ('', node_refs, value)
228
 
        self._keys.add(key)
229
235
        if self._nodes_by_key is not None and self._key_length > 1:
230
236
            self._update_nodes_by_key(key, value, node_refs)
231
237
 
 
238
    def clear_cache(self):
 
239
        """See GraphIndex.clear_cache()
 
240
 
 
241
        This is a no-op, but we need the api to conform to a generic 'Index'
 
242
        abstraction.
 
243
        """
 
244
        
232
245
    def finish(self):
233
246
        lines = [_SIGNATURE]
234
247
        lines.append(_OPTION_NODE_REFS + str(self.reference_lists) + '\n')
235
248
        lines.append(_OPTION_KEY_ELEMENTS + str(self._key_length) + '\n')
236
 
        lines.append(_OPTION_LEN + str(len(self._keys)) + '\n')
 
249
        key_count = len(self._nodes) - len(self._absent_keys)
 
250
        lines.append(_OPTION_LEN + str(key_count) + '\n')
237
251
        prefix_length = sum(len(x) for x in lines)
238
252
        # references are byte offsets. To avoid having to do nasty
239
253
        # polynomial work to resolve offsets (references to later in the
441
455
        trailers = 0
442
456
        pos = stream.tell()
443
457
        lines = stream.read().split('\n')
 
458
        stream.close()
444
459
        del lines[-1]
445
460
        _, _, _, trailers = self._parse_lines(lines, pos)
446
461
        for key, absent, references, value in self._keys_by_offset.itervalues():
453
468
                node_value = value
454
469
            self._nodes[key] = node_value
455
470
        # cache the keys for quick set intersections
456
 
        self._keys = set(self._nodes)
457
471
        if trailers != 1:
458
472
            # there must be one line - the empty trailer line.
459
473
            raise errors.BadIndexData(self)
460
474
 
 
475
    def clear_cache(self):
 
476
        """Clear out any cached/memoized values.
 
477
 
 
478
        This can be called at any time, but generally it is used when we have
 
479
        extracted some information, but don't expect to be requesting any more
 
480
        from this index.
 
481
        """
 
482
 
461
483
    def external_references(self, ref_list_num):
462
484
        """Return references that are not present in this index.
463
485
        """
466
488
            raise ValueError('No ref list %d, index has %d ref lists'
467
489
                % (ref_list_num, self.node_ref_lists))
468
490
        refs = set()
469
 
        for key, (value, ref_lists) in self._nodes.iteritems():
 
491
        nodes = self._nodes
 
492
        for key, (value, ref_lists) in nodes.iteritems():
470
493
            ref_list = ref_lists[ref_list_num]
471
 
            refs.update(ref_list)
472
 
        return refs - self._keys
 
494
            refs.update([ref for ref in ref_list if ref not in nodes])
 
495
        return refs
473
496
 
474
497
    def _get_nodes_by_key(self):
475
498
        if self._nodes_by_key is None:
602
625
 
603
626
    def _iter_entries_from_total_buffer(self, keys):
604
627
        """Iterate over keys when the entire index is parsed."""
605
 
        keys = keys.intersection(self._keys)
 
628
        # Note: See the note in BTreeBuilder.iter_entries for why we don't use
 
629
        #       .intersection() here
 
630
        nodes = self._nodes
 
631
        keys = [key for key in keys if key in nodes]
606
632
        if self.node_ref_lists:
607
633
            for key in keys:
608
 
                value, node_refs = self._nodes[key]
 
634
                value, node_refs = nodes[key]
609
635
                yield self, key, value, node_refs
610
636
        else:
611
637
            for key in keys:
612
 
                yield self, key, self._nodes[key]
 
638
                yield self, key, nodes[key]
613
639
 
614
640
    def iter_entries(self, keys):
615
641
        """Iterate over keys within the index.
1152
1178
            self._parsed_key_map.insert(index + 1, new_key)
1153
1179
 
1154
1180
    def _read_and_parse(self, readv_ranges):
1155
 
        """Read the the ranges and parse the resulting data.
 
1181
        """Read the ranges and parse the resulting data.
1156
1182
 
1157
1183
        :param readv_ranges: A prepared readv range list.
1158
1184
        """
1223
1249
                self.__class__.__name__,
1224
1250
                ', '.join(map(repr, self._indices)))
1225
1251
 
 
1252
    def clear_cache(self):
 
1253
        """See GraphIndex.clear_cache()"""
 
1254
        for index in self._indices:
 
1255
            index.clear_cache()
 
1256
 
1226
1257
    def get_parent_map(self, keys):
1227
1258
        """See graph.StackedParentsProvider.get_parent_map"""
1228
1259
        search_keys = set(keys)
1484
1515
            defined order for the result iteration - it will be in the most
1485
1516
            efficient order for the index (keys iteration order in this case).
1486
1517
        """
1487
 
        keys = set(keys)
 
1518
        # Note: See BTreeBuilder.iter_entries for an explanation of why we
 
1519
        #       aren't using set().intersection() here
 
1520
        nodes = self._nodes
 
1521
        keys = [key for key in keys if key in nodes]
1488
1522
        if self.reference_lists:
1489
 
            for key in keys.intersection(self._keys):
1490
 
                node = self._nodes[key]
 
1523
            for key in keys:
 
1524
                node = nodes[key]
1491
1525
                if not node[0]:
1492
1526
                    yield self, key, node[2], node[1]
1493
1527
        else:
1494
 
            for key in keys.intersection(self._keys):
1495
 
                node = self._nodes[key]
 
1528
            for key in keys:
 
1529
                node = nodes[key]
1496
1530
                if not node[0]:
1497
1531
                    yield self, key, node[2]
1498
1532
 
1572
1606
 
1573
1607
        For InMemoryGraphIndex the estimate is exact.
1574
1608
        """
1575
 
        return len(self._keys)
 
1609
        return len(self._nodes) - len(self._absent_keys)
1576
1610
 
1577
1611
    def validate(self):
1578
1612
        """In memory index's have no known corruption at the moment."""