~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/plugin.py

  • Committer: Jelmer Vernooij
  • Date: 2011-12-05 14:12:23 UTC
  • mto: This revision was merged to the branch mainline in revision 6348.
  • Revision ID: jelmer@samba.org-20111205141223-8qxae4h37satlzgq
Move more functionality to vf_search.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2004, 2005, 2007, 2008, 2010 Canonical Ltd
 
1
# Copyright (C) 2005-2011 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
36
36
from bzrlib import osutils
37
37
 
38
38
from bzrlib.lazy_import import lazy_import
39
 
 
40
39
lazy_import(globals(), """
41
40
import imp
42
41
import re
49
48
    errors,
50
49
    trace,
51
50
    )
 
51
from bzrlib.i18n import gettext
52
52
from bzrlib import plugins as _mod_plugins
53
53
""")
54
54
 
55
 
from bzrlib.symbol_versioning import (
56
 
    deprecated_function,
57
 
    deprecated_in,
58
 
    )
59
 
 
60
55
 
61
56
DEFAULT_PLUGIN_PATH = None
62
57
_loaded = False
63
58
_plugins_disabled = False
64
59
 
65
60
 
 
61
plugin_warnings = {}
 
62
# Map from plugin name, to list of string warnings about eg plugin
 
63
# dependencies.
 
64
 
 
65
 
66
66
def are_plugins_disabled():
67
67
    return _plugins_disabled
68
68
 
69
69
 
70
 
@deprecated_function(deprecated_in((2, 0, 0)))
71
 
def get_default_plugin_path():
72
 
    """Get the DEFAULT_PLUGIN_PATH"""
73
 
    global DEFAULT_PLUGIN_PATH
74
 
    if DEFAULT_PLUGIN_PATH is None:
75
 
        DEFAULT_PLUGIN_PATH = osutils.pathjoin(config.config_dir(), 'plugins')
76
 
    return DEFAULT_PLUGIN_PATH
77
 
 
78
 
 
79
70
def disable_plugins():
80
71
    """Disable loading plugins.
81
72
 
86
77
    load_plugins([])
87
78
 
88
79
 
 
80
def describe_plugins(show_paths=False):
 
81
    """Generate text description of plugins.
 
82
 
 
83
    Includes both those that have loaded, and those that failed to 
 
84
    load.
 
85
 
 
86
    :param show_paths: If true,
 
87
    :returns: Iterator of text lines (including newlines.)
 
88
    """
 
89
    from inspect import getdoc
 
90
    loaded_plugins = plugins()
 
91
    all_names = sorted(list(set(
 
92
        loaded_plugins.keys() + plugin_warnings.keys())))
 
93
    for name in all_names:
 
94
        if name in loaded_plugins:
 
95
            plugin = loaded_plugins[name]
 
96
            version = plugin.__version__
 
97
            if version == 'unknown':
 
98
                version = ''
 
99
            yield '%s %s\n' % (name, version)
 
100
            d = getdoc(plugin.module)
 
101
            if d:
 
102
                doc = d.split('\n')[0]
 
103
            else:
 
104
                doc = '(no description)'
 
105
            yield ("  %s\n" % doc)
 
106
            if show_paths:
 
107
                yield ("   %s\n" % plugin.path())
 
108
            del plugin
 
109
        else:
 
110
            yield "%s (failed to load)\n" % name
 
111
        if name in plugin_warnings:
 
112
            for line in plugin_warnings[name]:
 
113
                yield "  ** " + line + '\n'
 
114
        yield '\n'
 
115
 
 
116
 
89
117
def _strip_trailing_sep(path):
90
118
    return path.rstrip("\\/")
91
119
 
92
120
 
 
121
def _get_specific_plugin_paths(paths):
 
122
    """Returns the plugin paths from a string describing the associations.
 
123
 
 
124
    :param paths: A string describing the paths associated with the plugins.
 
125
 
 
126
    :returns: A list of (plugin name, path) tuples.
 
127
 
 
128
    For example, if paths is my_plugin@/test/my-test:her_plugin@/production/her,
 
129
    [('my_plugin', '/test/my-test'), ('her_plugin', '/production/her')] 
 
130
    will be returned.
 
131
 
 
132
    Note that ':' in the example above depends on the os.
 
133
    """
 
134
    if not paths:
 
135
        return []
 
136
    specs = []
 
137
    for spec in paths.split(os.pathsep):
 
138
        try:
 
139
            name, path = spec.split('@')
 
140
        except ValueError:
 
141
            raise errors.BzrCommandError(gettext(
 
142
                '"%s" is not a valid <plugin_name>@<plugin_path> description ')
 
143
                % spec)
 
144
        specs.append((name, path))
 
145
    return specs
 
146
 
 
147
 
93
148
def set_plugins_path(path=None):
94
149
    """Set the path for plugins to be loaded from.
95
150
 
100
155
    if path is None:
101
156
        path = get_standard_plugins_path()
102
157
    _mod_plugins.__path__ = path
 
158
    PluginImporter.reset()
 
159
    # Set up a blacklist for disabled plugins
 
160
    disabled_plugins = os.environ.get('BZR_DISABLE_PLUGINS', None)
 
161
    if disabled_plugins is not None:
 
162
        for name in disabled_plugins.split(os.pathsep):
 
163
            PluginImporter.blacklist.add('bzrlib.plugins.' + name)
 
164
    # Set up a the specific paths for plugins
 
165
    for plugin_name, plugin_path in _get_specific_plugin_paths(os.environ.get(
 
166
            'BZR_PLUGINS_AT', None)):
 
167
            PluginImporter.specific_paths[
 
168
                'bzrlib.plugins.%s' % plugin_name] = plugin_path
103
169
    return path
104
170
 
105
171
 
188
254
    paths = []
189
255
    for p in env_paths + defaults:
190
256
        if p.startswith('+'):
191
 
            # Resolve reference if they are known
 
257
            # Resolve references if they are known
192
258
            try:
193
259
                p = refs[p[1:]]
194
260
            except KeyError:
195
 
                # Leave them untouched otherwise, user may have paths starting
196
 
                # with '+'...
 
261
                # Leave them untouched so user can still use paths starting
 
262
                # with '+'
197
263
                pass
198
264
        _append_new_path(paths, p)
199
265
 
207
273
    """Load bzrlib plugins.
208
274
 
209
275
    The environment variable BZR_PLUGIN_PATH is considered a delimited
210
 
    set of paths to look through. Each entry is searched for *.py
 
276
    set of paths to look through. Each entry is searched for `*.py`
211
277
    files (and whatever other extensions are used in the platform,
212
 
    such as *.pyd).
 
278
    such as `*.pyd`).
213
279
 
214
 
    load_from_dirs() provides the underlying mechanism and is called with
 
280
    load_from_path() provides the underlying mechanism and is called with
215
281
    the default directory list to provide the normal behaviour.
216
282
 
217
283
    :param path: The list of paths to search for plugins.  By default,
240
306
 
241
307
    The python module path for bzrlib.plugins will be modified to be 'dirs'.
242
308
    """
 
309
    # Explicitly load the plugins with a specific path
 
310
    for fullname, path in PluginImporter.specific_paths.iteritems():
 
311
        name = fullname[len('bzrlib.plugins.'):]
 
312
        _load_plugin_module(name, path)
 
313
 
243
314
    # We need to strip the trailing separators here as well as in the
244
315
    # set_plugins_path function because calling code can pass anything in to
245
316
    # this function, and since it sets plugins.__path__, it should set it to
259
330
load_from_dirs = load_from_path
260
331
 
261
332
 
 
333
def _find_plugin_module(dir, name):
 
334
    """Check if there is a valid python module that can be loaded as a plugin.
 
335
 
 
336
    :param dir: The directory where the search is performed.
 
337
    :param path: An existing file path, either a python file or a package
 
338
        directory.
 
339
 
 
340
    :return: (name, path, description) name is the module name, path is the
 
341
        file to load and description is the tuple returned by
 
342
        imp.get_suffixes().
 
343
    """
 
344
    path = osutils.pathjoin(dir, name)
 
345
    if os.path.isdir(path):
 
346
        # Check for a valid __init__.py file, valid suffixes depends on -O and
 
347
        # can be .py, .pyc and .pyo
 
348
        for suffix, mode, kind in imp.get_suffixes():
 
349
            if kind not in (imp.PY_SOURCE, imp.PY_COMPILED):
 
350
                # We don't recognize compiled modules (.so, .dll, etc)
 
351
                continue
 
352
            init_path = osutils.pathjoin(path, '__init__' + suffix)
 
353
            if os.path.isfile(init_path):
 
354
                return name, init_path, (suffix, mode, kind)
 
355
    else:
 
356
        for suffix, mode, kind in imp.get_suffixes():
 
357
            if name.endswith(suffix):
 
358
                # Clean up the module name
 
359
                name = name[:-len(suffix)]
 
360
                if kind == imp.C_EXTENSION and name.endswith('module'):
 
361
                    name = name[:-len('module')]
 
362
                return name, path, (suffix, mode, kind)
 
363
    # There is no python module here
 
364
    return None, None, (None, None, None)
 
365
 
 
366
 
 
367
def record_plugin_warning(plugin_name, warning_message):
 
368
    trace.mutter(warning_message)
 
369
    plugin_warnings.setdefault(plugin_name, []).append(warning_message)
 
370
 
 
371
 
 
372
def _load_plugin_module(name, dir):
 
373
    """Load plugin name from dir.
 
374
 
 
375
    :param name: The plugin name in the bzrlib.plugins namespace.
 
376
    :param dir: The directory the plugin is loaded from for error messages.
 
377
    """
 
378
    if ('bzrlib.plugins.%s' % name) in PluginImporter.blacklist:
 
379
        return
 
380
    try:
 
381
        exec "import bzrlib.plugins.%s" % name in {}
 
382
    except KeyboardInterrupt:
 
383
        raise
 
384
    except errors.IncompatibleAPI, e:
 
385
        warning_message = (
 
386
            "Unable to load plugin %r. It requested API version "
 
387
            "%s of module %s but the minimum exported version is %s, and "
 
388
            "the maximum is %s" %
 
389
            (name, e.wanted, e.api, e.minimum, e.current))
 
390
        record_plugin_warning(name, warning_message)
 
391
    except Exception, e:
 
392
        trace.warning("%s" % e)
 
393
        if re.search('\.|-| ', name):
 
394
            sanitised_name = re.sub('[-. ]', '_', name)
 
395
            if sanitised_name.startswith('bzr_'):
 
396
                sanitised_name = sanitised_name[len('bzr_'):]
 
397
            trace.warning("Unable to load %r in %r as a plugin because the "
 
398
                    "file path isn't a valid module name; try renaming "
 
399
                    "it to %r." % (name, dir, sanitised_name))
 
400
        else:
 
401
            record_plugin_warning(
 
402
                name,
 
403
                'Unable to load plugin %r from %r' % (name, dir))
 
404
        trace.log_exception_quietly()
 
405
        if 'error' in debug.debug_flags:
 
406
            trace.print_exception(sys.exc_info(), sys.stderr)
 
407
 
 
408
 
262
409
def load_from_dir(d):
263
410
    """Load the plugins in directory d.
264
411
 
265
412
    d must be in the plugins module path already.
 
413
    This function is called once for each directory in the module path.
266
414
    """
267
 
    # Get the list of valid python suffixes for __init__.py?
268
 
    # this includes .py, .pyc, and .pyo (depending on if we are running -O)
269
 
    # but it doesn't include compiled modules (.so, .dll, etc)
270
 
    valid_suffixes = [suffix for suffix, mod_type, flags in imp.get_suffixes()
271
 
                              if flags in (imp.PY_SOURCE, imp.PY_COMPILED)]
272
 
    package_entries = ['__init__'+suffix for suffix in valid_suffixes]
273
415
    plugin_names = set()
274
 
    for f in os.listdir(d):
275
 
        path = osutils.pathjoin(d, f)
276
 
        if os.path.isdir(path):
277
 
            for entry in package_entries:
278
 
                # This directory should be a package, and thus added to
279
 
                # the list
280
 
                if os.path.isfile(osutils.pathjoin(path, entry)):
281
 
                    break
282
 
            else: # This directory is not a package
283
 
                continue
284
 
        else:
285
 
            for suffix_info in imp.get_suffixes():
286
 
                if f.endswith(suffix_info[0]):
287
 
                    f = f[:-len(suffix_info[0])]
288
 
                    if suffix_info[2] == imp.C_EXTENSION and f.endswith('module'):
289
 
                        f = f[:-len('module')]
290
 
                    break
 
416
    for p in os.listdir(d):
 
417
        name, path, desc = _find_plugin_module(d, p)
 
418
        if name is not None:
 
419
            if name == '__init__':
 
420
                # We do nothing with the __init__.py file in directories from
 
421
                # the bzrlib.plugins module path, we may want to, one day
 
422
                # -- vila 20100316.
 
423
                continue # We don't load __init__.py in the plugins dirs
 
424
            elif getattr(_mod_plugins, name, None) is not None:
 
425
                # The module has already been loaded from another directory
 
426
                # during a previous call.
 
427
                # FIXME: There should be a better way to report masked plugins
 
428
                # -- vila 20100316
 
429
                trace.mutter('Plugin name %s already loaded', name)
291
430
            else:
292
 
                continue
293
 
        if f == '__init__':
294
 
            continue # We don't load __init__.py again in the plugin dir
295
 
        elif getattr(_mod_plugins, f, None):
296
 
            trace.mutter('Plugin name %s already loaded', f)
297
 
        else:
298
 
            # trace.mutter('add plugin name %s', f)
299
 
            plugin_names.add(f)
 
431
                plugin_names.add(name)
300
432
 
301
433
    for name in plugin_names:
302
 
        try:
303
 
            exec "import bzrlib.plugins.%s" % name in {}
304
 
        except KeyboardInterrupt:
305
 
            raise
306
 
        except errors.IncompatibleAPI, e:
307
 
            trace.warning("Unable to load plugin %r. It requested API version "
308
 
                "%s of module %s but the minimum exported version is %s, and "
309
 
                "the maximum is %s" %
310
 
                (name, e.wanted, e.api, e.minimum, e.current))
311
 
        except Exception, e:
312
 
            trace.warning("%s" % e)
313
 
            ## import pdb; pdb.set_trace()
314
 
            if re.search('\.|-| ', name):
315
 
                sanitised_name = re.sub('[-. ]', '_', name)
316
 
                if sanitised_name.startswith('bzr_'):
317
 
                    sanitised_name = sanitised_name[len('bzr_'):]
318
 
                trace.warning("Unable to load %r in %r as a plugin because the "
319
 
                        "file path isn't a valid module name; try renaming "
320
 
                        "it to %r." % (name, d, sanitised_name))
321
 
            else:
322
 
                trace.warning('Unable to load plugin %r from %r' % (name, d))
323
 
            trace.log_exception_quietly()
324
 
            if 'error' in debug.debug_flags:
325
 
                trace.print_exception(sys.exc_info(), sys.stderr)
 
434
        _load_plugin_module(name, d)
326
435
 
327
436
 
328
437
def plugins():
337
446
    return result
338
447
 
339
448
 
 
449
def format_concise_plugin_list():
 
450
    """Return a string holding a concise list of plugins and their version.
 
451
    """
 
452
    items = []
 
453
    for name, a_plugin in sorted(plugins().items()):
 
454
        items.append("%s[%s]" %
 
455
            (name, a_plugin.__version__))
 
456
    return ', '.join(items)
 
457
 
 
458
 
 
459
 
340
460
class PluginsHelpIndex(object):
341
461
    """A help index that returns help topics for plugins."""
342
462
 
387
507
            result = self.module.__doc__
388
508
        if result[-1] != '\n':
389
509
            result += '\n'
390
 
        # there is code duplicated here and in bzrlib/help_topic.py's
391
 
        # matching Topic code. This should probably be factored in
392
 
        # to a helper function and a common base class.
393
 
        if additional_see_also is not None:
394
 
            see_also = sorted(set(additional_see_also))
395
 
        else:
396
 
            see_also = None
397
 
        if see_also:
398
 
            result += 'See also: '
399
 
            result += ', '.join(see_also)
400
 
            result += '\n'
 
510
        from bzrlib import help_topics
 
511
        result += help_topics._format_see_also(additional_see_also)
401
512
        return result
402
513
 
403
514
    def get_help_topic(self):
404
 
        """Return the modules help topic - its __name__ after bzrlib.plugins.."""
 
515
        """Return the module help topic: its basename."""
405
516
        return self.module.__name__[len('bzrlib.plugins.'):]
406
517
 
407
518
 
485
596
        return version_string
486
597
 
487
598
    __version__ = property(_get__version__)
 
599
 
 
600
 
 
601
class _PluginImporter(object):
 
602
    """An importer tailored to bzr specific needs.
 
603
 
 
604
    This is a singleton that takes care of:
 
605
    - disabled plugins specified in 'blacklist',
 
606
    - plugins that needs to be loaded from specific directories.
 
607
    """
 
608
 
 
609
    def __init__(self):
 
610
        self.reset()
 
611
 
 
612
    def reset(self):
 
613
        self.blacklist = set()
 
614
        self.specific_paths = {}
 
615
 
 
616
    def find_module(self, fullname, parent_path=None):
 
617
        """Search a plugin module.
 
618
 
 
619
        Disabled plugins raise an import error, plugins with specific paths
 
620
        returns a specific loader.
 
621
 
 
622
        :return: None if the plugin doesn't need special handling, self
 
623
            otherwise.
 
624
        """
 
625
        if not fullname.startswith('bzrlib.plugins.'):
 
626
            return None
 
627
        if fullname in self.blacklist:
 
628
            raise ImportError('%s is disabled' % fullname)
 
629
        if fullname in self.specific_paths:
 
630
            return self
 
631
        return None
 
632
 
 
633
    def load_module(self, fullname):
 
634
        """Load a plugin from a specific directory (or file)."""
 
635
        # We are called only for specific paths
 
636
        plugin_path = self.specific_paths[fullname]
 
637
        loading_path = None
 
638
        if os.path.isdir(plugin_path):
 
639
            for suffix, mode, kind in imp.get_suffixes():
 
640
                if kind not in (imp.PY_SOURCE, imp.PY_COMPILED):
 
641
                    # We don't recognize compiled modules (.so, .dll, etc)
 
642
                    continue
 
643
                init_path = osutils.pathjoin(plugin_path, '__init__' + suffix)
 
644
                if os.path.isfile(init_path):
 
645
                    # We've got a module here and load_module needs specific
 
646
                    # parameters.
 
647
                    loading_path = plugin_path
 
648
                    suffix = ''
 
649
                    mode = ''
 
650
                    kind = imp.PKG_DIRECTORY
 
651
                    break
 
652
        else:
 
653
            for suffix, mode, kind in imp.get_suffixes():
 
654
                if plugin_path.endswith(suffix):
 
655
                    loading_path = plugin_path
 
656
                    break
 
657
        if loading_path is None:
 
658
            raise ImportError('%s cannot be loaded from %s'
 
659
                              % (fullname, plugin_path))
 
660
        if kind is imp.PKG_DIRECTORY:
 
661
            f = None
 
662
        else:
 
663
            f = open(loading_path, mode)
 
664
        try:
 
665
            mod = imp.load_module(fullname, f, loading_path,
 
666
                                  (suffix, mode, kind))
 
667
            mod.__package__ = fullname
 
668
            return mod
 
669
        finally:
 
670
            if f is not None:
 
671
                f.close()
 
672
 
 
673
 
 
674
# Install a dedicated importer for plugins requiring special handling
 
675
PluginImporter = _PluginImporter()
 
676
sys.meta_path.append(PluginImporter)