~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/plugins/launchpad/lp_api_lite.py

  • Committer: Patch Queue Manager
  • Date: 2016-04-21 04:10:52 UTC
  • mfrom: (6616.1.1 fix-en-user-guide)
  • Revision ID: pqm@pqm.ubuntu.com-20160421041052-clcye7ns1qcl2n7w
(richard-wilbur) Ensure build of English use guide always uses English text
 even when user's locale specifies a different language. (Jelmer Vernooij)

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2011 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
"""Tools for dealing with the Launchpad API without using launchpadlib.
 
18
 
 
19
The api itself is a RESTful interface, so we can make HTTP queries directly.
 
20
loading launchpadlib itself has a fairly high overhead (just calling
 
21
Launchpad.login_anonymously() takes a 500ms once the WADL is cached, and 5+s to
 
22
get the WADL.
 
23
"""
 
24
 
 
25
from __future__ import absolute_import
 
26
 
 
27
try:
 
28
    # Use simplejson if available, much faster, and can be easily installed in
 
29
    # older versions of python
 
30
    import simplejson as json
 
31
except ImportError:
 
32
    # Is present since python 2.6
 
33
    try:
 
34
        import json
 
35
    except ImportError:
 
36
        json = None
 
37
 
 
38
import time
 
39
import urllib
 
40
import urllib2
 
41
 
 
42
from bzrlib import (
 
43
    revision,
 
44
    trace,
 
45
    )
 
46
 
 
47
 
 
48
class LatestPublication(object):
 
49
    """Encapsulate how to find the latest publication for a given project."""
 
50
 
 
51
    LP_API_ROOT = 'https://api.launchpad.net/1.0'
 
52
 
 
53
    def __init__(self, archive, series, project):
 
54
        self._archive = archive
 
55
        self._project = project
 
56
        self._setup_series_and_pocket(series)
 
57
 
 
58
    def _setup_series_and_pocket(self, series):
 
59
        """Parse the 'series' info into a series and a pocket.
 
60
 
 
61
        eg::
 
62
            _setup_series_and_pocket('natty-proposed')
 
63
            => _series == 'natty'
 
64
               _pocket == 'Proposed'
 
65
        """
 
66
        self._series = series
 
67
        self._pocket = None
 
68
        if self._series is not None and '-' in self._series:
 
69
            self._series, self._pocket = self._series.split('-', 1)
 
70
            self._pocket = self._pocket.title()
 
71
        else:
 
72
            self._pocket = 'Release'
 
73
 
 
74
    def _archive_URL(self):
 
75
        """Return the Launchpad 'Archive' URL that we will query.
 
76
        This is everything in the URL except the query parameters.
 
77
        """
 
78
        return '%s/%s/+archive/primary' % (self.LP_API_ROOT, self._archive)
 
79
 
 
80
    def _publication_status(self):
 
81
        """Handle the 'status' field.
 
82
        It seems that Launchpad tracks all 'debian' packages as 'Pending', while
 
83
        for 'ubuntu' we care about the 'Published' packages.
 
84
        """
 
85
        if self._archive == 'debian':
 
86
            # Launchpad only tracks debian packages as "Pending", it doesn't mark
 
87
            # them Published
 
88
            return 'Pending'
 
89
        return 'Published'
 
90
 
 
91
    def _query_params(self):
 
92
        """Get the parameters defining our query.
 
93
        This defines the actions we are making against the archive.
 
94
        :return: A dict of query parameters.
 
95
        """
 
96
        params = {'ws.op': 'getPublishedSources',
 
97
                  'exact_match': 'true',
 
98
                  # If we need to use "" shouldn't we quote the project somehow?
 
99
                  'source_name': '"%s"' % (self._project,),
 
100
                  'status': self._publication_status(),
 
101
                  # We only need the latest one, the results seem to be properly
 
102
                  # most-recent-debian-version sorted
 
103
                  'ws.size': '1',
 
104
        }
 
105
        if self._series is not None:
 
106
            params['distro_series'] = '/%s/%s' % (self._archive, self._series)
 
107
        if self._pocket is not None:
 
108
            params['pocket'] = self._pocket
 
109
        return params
 
110
 
 
111
    def _query_URL(self):
 
112
        """Create the full URL that we need to query, including parameters."""
 
113
        params = self._query_params()
 
114
        # We sort to give deterministic results for testing
 
115
        encoded = urllib.urlencode(sorted(params.items()))
 
116
        return '%s?%s' % (self._archive_URL(), encoded)
 
117
 
 
118
    def _get_lp_info(self):
 
119
        """Place an actual HTTP query against the Launchpad service."""
 
120
        if json is None:
 
121
            return None
 
122
        query_URL = self._query_URL()
 
123
        try:
 
124
            req = urllib2.Request(query_URL)
 
125
            response = urllib2.urlopen(req)
 
126
            json_info = response.read()
 
127
        # TODO: We haven't tested the HTTPError
 
128
        except (urllib2.URLError, urllib2.HTTPError), e:
 
129
            trace.mutter('failed to place query to %r' % (query_URL,))
 
130
            trace.log_exception_quietly()
 
131
            return None
 
132
        return json_info
 
133
 
 
134
    def _parse_json_info(self, json_info):
 
135
        """Parse the json response from Launchpad into objects."""
 
136
        if json is None:
 
137
            return None
 
138
        try:
 
139
            return json.loads(json_info)
 
140
        except Exception:
 
141
            trace.mutter('Failed to parse json info: %r' % (json_info,))
 
142
            trace.log_exception_quietly()
 
143
            return None
 
144
 
 
145
    def get_latest_version(self):
 
146
        """Get the latest published version for the given package."""
 
147
        json_info = self._get_lp_info()
 
148
        if json_info is None:
 
149
            return None
 
150
        info = self._parse_json_info(json_info)
 
151
        if info is None:
 
152
            return None
 
153
        try:
 
154
            entries = info['entries']
 
155
            if len(entries) == 0:
 
156
                return None
 
157
            return entries[0]['source_package_version']
 
158
        except KeyError:
 
159
            trace.log_exception_quietly()
 
160
            return None
 
161
 
 
162
    def place(self):
 
163
        """Text-form for what location this represents.
 
164
 
 
165
        Example::
 
166
            ubuntu, natty => Ubuntu Natty
 
167
            ubuntu, natty-proposed => Ubuntu Natty Proposed
 
168
        :return: A string representing the location we are checking.
 
169
        """
 
170
        place = self._archive
 
171
        if self._series is not None:
 
172
            place = '%s %s' % (place, self._series)
 
173
        if self._pocket is not None and self._pocket != 'Release':
 
174
            place = '%s %s' % (place, self._pocket)
 
175
        return place.title()
 
176
 
 
177
 
 
178
def get_latest_publication(archive, series, project):
 
179
    """Get the most recent publication for a given project.
 
180
 
 
181
    :param archive: Either 'ubuntu' or 'debian'
 
182
    :param series: Something like 'natty', 'sid', etc. Can be set as None. Can
 
183
        also include a pocket such as 'natty-proposed'.
 
184
    :param project: Something like 'bzr'
 
185
    :return: A version string indicating the most-recent version published in
 
186
        Launchpad. Might return None if there is an error.
 
187
    """
 
188
    lp = LatestPublication(archive, series, project)
 
189
    return lp.get_latest_version()
 
190
 
 
191
 
 
192
def get_most_recent_tag(tag_dict, the_branch):
 
193
    """Get the most recent revision that has been tagged."""
 
194
    # Note: this assumes that a given rev won't get tagged multiple times. But
 
195
    #       it should be valid for the package importer branches that we care
 
196
    #       about
 
197
    reverse_dict = dict((rev, tag) for tag, rev in tag_dict.iteritems())
 
198
    the_branch.lock_read()
 
199
    try:
 
200
        last_rev = the_branch.last_revision()
 
201
        graph = the_branch.repository.get_graph()
 
202
        stop_revisions = (None, revision.NULL_REVISION)
 
203
        for rev_id in graph.iter_lefthand_ancestry(last_rev, stop_revisions):
 
204
            if rev_id in reverse_dict:
 
205
                return reverse_dict[rev_id]
 
206
    finally:
 
207
        the_branch.unlock()
 
208
 
 
209
 
 
210
def _get_newest_versions(the_branch, latest_pub):
 
211
    """Get information about how 'fresh' this packaging branch is.
 
212
 
 
213
    :param the_branch: The Branch to check
 
214
    :param latest_pub: The LatestPublication used to check most recent
 
215
        published version.
 
216
    :return: (latest_ver, branch_latest_ver)
 
217
    """
 
218
    t = time.time()
 
219
    latest_ver = latest_pub.get_latest_version()
 
220
    t_latest_ver = time.time() - t
 
221
    trace.mutter('LatestPublication.get_latest_version took: %.3fs'
 
222
                 % (t_latest_ver,))
 
223
    if latest_ver is None:
 
224
        return None, None
 
225
    t = time.time()
 
226
    tags = the_branch.tags.get_tag_dict()
 
227
    t_tag_dict = time.time() - t
 
228
    trace.mutter('LatestPublication.get_tag_dict took: %.3fs' % (t_tag_dict,))
 
229
    if latest_ver in tags:
 
230
        # branch might have a newer tag, but we don't really care
 
231
        return latest_ver, latest_ver
 
232
    else:
 
233
        best_tag = get_most_recent_tag(tags, the_branch)
 
234
        return latest_ver, best_tag
 
235
 
 
236
 
 
237
def _report_freshness(latest_ver, branch_latest_ver, place, verbosity,
 
238
                      report_func):
 
239
    """Report if the branch is up-to-date."""
 
240
    if latest_ver is None:
 
241
        if verbosity == 'all':
 
242
            report_func('Most recent %s version: MISSING' % (place,))
 
243
        elif verbosity == 'short':
 
244
            report_func('%s is MISSING a version' % (place,))
 
245
        return
 
246
    elif latest_ver == branch_latest_ver:
 
247
        if verbosity == 'minimal':
 
248
            return
 
249
        elif verbosity == 'short':
 
250
            report_func('%s is CURRENT in %s' % (latest_ver, place))
 
251
        else:
 
252
            report_func('Most recent %s version: %s\n'
 
253
                       'Packaging branch status: CURRENT'
 
254
                       % (place, latest_ver))
 
255
    else:
 
256
        if verbosity in ('minimal', 'short'):
 
257
            if branch_latest_ver is None:
 
258
                branch_latest_ver = 'Branch'
 
259
            report_func('%s is OUT-OF-DATE, %s has %s'
 
260
                        % (branch_latest_ver, place, latest_ver))
 
261
        else:
 
262
            report_func('Most recent %s version: %s\n'
 
263
                        'Packaging branch version: %s\n'
 
264
                        'Packaging branch status: OUT-OF-DATE'
 
265
                        % (place, latest_ver, branch_latest_ver))
 
266
 
 
267
 
 
268
def report_freshness(the_branch, verbosity, latest_pub):
 
269
    """Report to the user how up-to-date the packaging branch is.
 
270
 
 
271
    :param the_branch: A Branch object
 
272
    :param verbosity: Can be one of:
 
273
        off: Do not print anything, and skip all checks.
 
274
        all: Print all information that we have in a verbose manner, this
 
275
             includes misses, etc.
 
276
        short: Print information, but only one-line summaries
 
277
        minimal: Only print a one-line summary when the package branch is
 
278
                 out-of-date
 
279
    :param latest_pub: A LatestPublication instance
 
280
    """
 
281
    if verbosity == 'off':
 
282
        return
 
283
    if verbosity is None:
 
284
        verbosity = 'all'
 
285
    latest_ver, branch_ver = _get_newest_versions(the_branch, latest_pub)
 
286
    place = latest_pub.place()
 
287
    _report_freshness(latest_ver, branch_ver, place, verbosity,
 
288
                      trace.note)