~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/graph.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2011-05-16 17:33:27 UTC
  • mfrom: (5755.2.10 2.4-max-entries-gc-602614)
  • Revision ID: pqm@pqm.ubuntu.com-20110516173327-5ehst0ttceohsf5w
(jameinel) Add bzr.groupcompress.max_bytes_to_index to limit peak memory
 when delta-compressing large files (bug #602614) (John A Meinel)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2007-2010 Canonical Ltd
 
1
# Copyright (C) 2007-2011 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
23
23
    revision,
24
24
    trace,
25
25
    )
26
 
from bzrlib.symbol_versioning import deprecated_function, deprecated_in
27
26
 
28
27
STEP_UNIQUE_SEARCHER_EVERY = 5
29
28
 
64
63
        ancestry = self.ancestry
65
64
        return dict((k, ancestry[k]) for k in keys if k in ancestry)
66
65
 
67
 
@deprecated_function(deprecated_in((1, 16, 0)))
68
 
def _StackedParentsProvider(*args, **kwargs):
69
 
    return StackedParentsProvider(*args, **kwargs)
70
66
 
71
67
class StackedParentsProvider(object):
72
68
    """A parents provider which stacks (or unions) multiple providers.
183
179
            self.missing_keys.add(key)
184
180
 
185
181
 
 
182
class CallableToParentsProviderAdapter(object):
 
183
    """A parents provider that adapts any callable to the parents provider API.
 
184
 
 
185
    i.e. it accepts calls to self.get_parent_map and relays them to the
 
186
    callable it was constructed with.
 
187
    """
 
188
 
 
189
    def __init__(self, a_callable):
 
190
        self.callable = a_callable
 
191
 
 
192
    def __repr__(self):
 
193
        return "%s(%r)" % (self.__class__.__name__, self.callable)
 
194
 
 
195
    def get_parent_map(self, keys):
 
196
        return self.callable(keys)
 
197
 
 
198
 
186
199
class Graph(object):
187
200
    """Provide incremental access to revision graphs.
188
201
 
1536
1549
            return revs, ghosts
1537
1550
 
1538
1551
 
1539
 
class SearchResult(object):
 
1552
class AbstractSearchResult(object):
 
1553
    """The result of a search, describing a set of keys.
 
1554
    
 
1555
    Search results are typically used as the 'fetch_spec' parameter when
 
1556
    fetching revisions.
 
1557
 
 
1558
    :seealso: AbstractSearch
 
1559
    """
 
1560
 
 
1561
    def get_recipe(self):
 
1562
        """Return a recipe that can be used to replay this search.
 
1563
 
 
1564
        The recipe allows reconstruction of the same results at a later date.
 
1565
 
 
1566
        :return: A tuple of (search_kind_str, *details).  The details vary by
 
1567
            kind of search result.
 
1568
        """
 
1569
        raise NotImplementedError(self.get_recipe)
 
1570
 
 
1571
    def get_network_struct(self):
 
1572
        """Return a tuple that can be transmitted via the HPSS protocol."""
 
1573
        raise NotImplementedError(self.get_network_struct)
 
1574
 
 
1575
    def get_keys(self):
 
1576
        """Return the keys found in this search.
 
1577
 
 
1578
        :return: A set of keys.
 
1579
        """
 
1580
        raise NotImplementedError(self.get_keys)
 
1581
 
 
1582
    def is_empty(self):
 
1583
        """Return false if the search lists 1 or more revisions."""
 
1584
        raise NotImplementedError(self.is_empty)
 
1585
 
 
1586
    def refine(self, seen, referenced):
 
1587
        """Create a new search by refining this search.
 
1588
 
 
1589
        :param seen: Revisions that have been satisfied.
 
1590
        :param referenced: Revision references observed while satisfying some
 
1591
            of this search.
 
1592
        :return: A search result.
 
1593
        """
 
1594
        raise NotImplementedError(self.refine)
 
1595
 
 
1596
 
 
1597
class AbstractSearch(object):
 
1598
    """A search that can be executed, producing a search result.
 
1599
 
 
1600
    :seealso: AbstractSearchResult
 
1601
    """
 
1602
 
 
1603
    def execute(self):
 
1604
        """Construct a network-ready search result from this search description.
 
1605
 
 
1606
        This may take some time to search repositories, etc.
 
1607
 
 
1608
        :return: A search result (an object that implements
 
1609
            AbstractSearchResult's API).
 
1610
        """
 
1611
        raise NotImplementedError(self.execute)
 
1612
 
 
1613
 
 
1614
class SearchResult(AbstractSearchResult):
1540
1615
    """The result of a breadth first search.
1541
1616
 
1542
1617
    A SearchResult provides the ability to reconstruct the search or access a
1557
1632
        self._recipe = ('search', start_keys, exclude_keys, key_count)
1558
1633
        self._keys = frozenset(keys)
1559
1634
 
 
1635
    def __repr__(self):
 
1636
        kind, start_keys, exclude_keys, key_count = self._recipe
 
1637
        if len(start_keys) > 5:
 
1638
            start_keys_repr = repr(list(start_keys)[:5])[:-1] + ', ...]'
 
1639
        else:
 
1640
            start_keys_repr = repr(start_keys)
 
1641
        if len(exclude_keys) > 5:
 
1642
            exclude_keys_repr = repr(list(exclude_keys)[:5])[:-1] + ', ...]'
 
1643
        else:
 
1644
            exclude_keys_repr = repr(exclude_keys)
 
1645
        return '<%s %s:(%s, %s, %d)>' % (self.__class__.__name__,
 
1646
            kind, start_keys_repr, exclude_keys_repr, key_count)
 
1647
 
1560
1648
    def get_recipe(self):
1561
1649
        """Return a recipe that can be used to replay this search.
1562
1650
 
1580
1668
        """
1581
1669
        return self._recipe
1582
1670
 
 
1671
    def get_network_struct(self):
 
1672
        start_keys = ' '.join(self._recipe[1])
 
1673
        stop_keys = ' '.join(self._recipe[2])
 
1674
        count = str(self._recipe[3])
 
1675
        return (self._recipe[0], '\n'.join((start_keys, stop_keys, count)))
 
1676
 
1583
1677
    def get_keys(self):
1584
1678
        """Return the keys found in this search.
1585
1679
 
1617
1711
        return SearchResult(pending_refs, exclude, count, keys)
1618
1712
 
1619
1713
 
1620
 
class PendingAncestryResult(object):
 
1714
class PendingAncestryResult(AbstractSearchResult):
1621
1715
    """A search result that will reconstruct the ancestry for some graph heads.
1622
1716
 
1623
1717
    Unlike SearchResult, this doesn't hold the complete search result in
1634
1728
        self.heads = frozenset(heads)
1635
1729
        self.repo = repo
1636
1730
 
 
1731
    def __repr__(self):
 
1732
        if len(self.heads) > 5:
 
1733
            heads_repr = repr(list(self.heads)[:5])[:-1]
 
1734
            heads_repr += ', <%d more>...]' % (len(self.heads) - 5,)
 
1735
        else:
 
1736
            heads_repr = repr(self.heads)
 
1737
        return '<%s heads:%s repo:%r>' % (
 
1738
            self.__class__.__name__, heads_repr, self.repo)
 
1739
 
1637
1740
    def get_recipe(self):
1638
1741
        """Return a recipe that can be used to replay this search.
1639
1742
 
1647
1750
        """
1648
1751
        return ('proxy-search', self.heads, set(), -1)
1649
1752
 
 
1753
    def get_network_struct(self):
 
1754
        parts = ['ancestry-of']
 
1755
        parts.extend(self.heads)
 
1756
        return parts
 
1757
 
1650
1758
    def get_keys(self):
1651
1759
        """See SearchResult.get_keys.
1652
1760
 
1679
1787
        return PendingAncestryResult(referenced - seen, self.repo)
1680
1788
 
1681
1789
 
 
1790
class EmptySearchResult(AbstractSearchResult):
 
1791
    """An empty search result."""
 
1792
 
 
1793
    def is_empty(self):
 
1794
        return True
 
1795
    
 
1796
 
 
1797
class EverythingResult(AbstractSearchResult):
 
1798
    """A search result that simply requests everything in the repository."""
 
1799
 
 
1800
    def __init__(self, repo):
 
1801
        self._repo = repo
 
1802
 
 
1803
    def __repr__(self):
 
1804
        return '%s(%r)' % (self.__class__.__name__, self._repo)
 
1805
 
 
1806
    def get_recipe(self):
 
1807
        raise NotImplementedError(self.get_recipe)
 
1808
 
 
1809
    def get_network_struct(self):
 
1810
        return ('everything',)
 
1811
 
 
1812
    def get_keys(self):
 
1813
        if 'evil' in debug.debug_flags:
 
1814
            from bzrlib import remote
 
1815
            if isinstance(self._repo, remote.RemoteRepository):
 
1816
                # warn developers (not users) not to do this
 
1817
                trace.mutter_callsite(
 
1818
                    2, "EverythingResult(RemoteRepository).get_keys() is slow.")
 
1819
        return self._repo.all_revision_ids()
 
1820
 
 
1821
    def is_empty(self):
 
1822
        # It's ok for this to wrongly return False: the worst that can happen
 
1823
        # is that RemoteStreamSource will initiate a get_stream on an empty
 
1824
        # repository.  And almost all repositories are non-empty.
 
1825
        return False
 
1826
 
 
1827
    def refine(self, seen, referenced):
 
1828
        heads = set(self._repo.all_revision_ids())
 
1829
        heads.difference_update(seen)
 
1830
        heads.update(referenced)
 
1831
        return PendingAncestryResult(heads, self._repo)
 
1832
 
 
1833
 
 
1834
class EverythingNotInOther(AbstractSearch):
 
1835
    """Find all revisions in that are in one repo but not the other."""
 
1836
 
 
1837
    def __init__(self, to_repo, from_repo, find_ghosts=False):
 
1838
        self.to_repo = to_repo
 
1839
        self.from_repo = from_repo
 
1840
        self.find_ghosts = find_ghosts
 
1841
 
 
1842
    def execute(self):
 
1843
        return self.to_repo.search_missing_revision_ids(
 
1844
            self.from_repo, find_ghosts=self.find_ghosts)
 
1845
 
 
1846
 
 
1847
class NotInOtherForRevs(AbstractSearch):
 
1848
    """Find all revisions missing in one repo for a some specific heads."""
 
1849
 
 
1850
    def __init__(self, to_repo, from_repo, required_ids, if_present_ids=None,
 
1851
            find_ghosts=False):
 
1852
        """Constructor.
 
1853
 
 
1854
        :param required_ids: revision IDs of heads that must be found, or else
 
1855
            the search will fail with NoSuchRevision.  All revisions in their
 
1856
            ancestry not already in the other repository will be included in
 
1857
            the search result.
 
1858
        :param if_present_ids: revision IDs of heads that may be absent in the
 
1859
            source repository.  If present, then their ancestry not already
 
1860
            found in other will be included in the search result.
 
1861
        """
 
1862
        self.to_repo = to_repo
 
1863
        self.from_repo = from_repo
 
1864
        self.find_ghosts = find_ghosts
 
1865
        self.required_ids = required_ids
 
1866
        self.if_present_ids = if_present_ids
 
1867
 
 
1868
    def __repr__(self):
 
1869
        if len(self.required_ids) > 5:
 
1870
            reqd_revs_repr = repr(list(self.required_ids)[:5])[:-1] + ', ...]'
 
1871
        else:
 
1872
            reqd_revs_repr = repr(self.required_ids)
 
1873
        if self.if_present_ids and len(self.if_present_ids) > 5:
 
1874
            ifp_revs_repr = repr(list(self.if_present_ids)[:5])[:-1] + ', ...]'
 
1875
        else:
 
1876
            ifp_revs_repr = repr(self.if_present_ids)
 
1877
 
 
1878
        return "<%s from:%r to:%r find_ghosts:%r req'd:%r if-present:%r>" % (
 
1879
            self.__class__.__name__, self.from_repo, self.to_repo,
 
1880
            self.find_ghosts, reqd_revs_repr, ifp_revs_repr)
 
1881
 
 
1882
    def execute(self):
 
1883
        return self.to_repo.search_missing_revision_ids(
 
1884
            self.from_repo, revision_ids=self.required_ids,
 
1885
            if_present_ids=self.if_present_ids, find_ghosts=self.find_ghosts)
 
1886
 
 
1887
 
1682
1888
def collapse_linear_regions(parent_map):
1683
1889
    """Collapse regions of the graph that are 'linear'.
1684
1890
 
1770
1976
    def merge_sort(self, tip_revision):
1771
1977
        return self._graph.merge_sort((tip_revision,))
1772
1978
 
 
1979
    def add_node(self, revision, parents):
 
1980
        self._graph.add_node((revision,), [(p,) for p in parents])
 
1981
 
1773
1982
 
1774
1983
_counters = [0,0,0,0,0,0,0]
1775
1984
try: