~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/plugin.py

  • Committer: John Arbash Meinel
  • Date: 2010-01-05 04:30:07 UTC
  • mfrom: (4932 +trunk)
  • mto: This revision was merged to the branch mainline in revision 4934.
  • Revision ID: john@arbash-meinel.com-20100105043007-ehgbldqd3q0gtyws
Merge bzr.dev, resolve conflicts.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2011 Canonical Ltd
 
1
# Copyright (C) 2004, 2005, 2007, 2008 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
36
36
from bzrlib import osutils
37
37
 
38
38
from bzrlib.lazy_import import lazy_import
 
39
 
39
40
lazy_import(globals(), """
40
41
import imp
41
42
import re
48
49
    errors,
49
50
    trace,
50
51
    )
51
 
from bzrlib.i18n import gettext
52
52
from bzrlib import plugins as _mod_plugins
53
53
""")
54
54
 
 
55
from bzrlib.symbol_versioning import (
 
56
    deprecated_function,
 
57
    deprecated_in,
 
58
    )
 
59
 
55
60
 
56
61
DEFAULT_PLUGIN_PATH = None
57
62
_loaded = False
58
 
_plugins_disabled = False
59
 
 
60
 
 
61
 
plugin_warnings = {}
62
 
# Map from plugin name, to list of string warnings about eg plugin
63
 
# dependencies.
64
 
 
65
 
 
66
 
def are_plugins_disabled():
67
 
    return _plugins_disabled
 
63
 
 
64
@deprecated_function(deprecated_in((2, 0, 0)))
 
65
def get_default_plugin_path():
 
66
    """Get the DEFAULT_PLUGIN_PATH"""
 
67
    global DEFAULT_PLUGIN_PATH
 
68
    if DEFAULT_PLUGIN_PATH is None:
 
69
        DEFAULT_PLUGIN_PATH = osutils.pathjoin(config.config_dir(), 'plugins')
 
70
    return DEFAULT_PLUGIN_PATH
68
71
 
69
72
 
70
73
def disable_plugins():
72
75
 
73
76
    Future calls to load_plugins() will be ignored.
74
77
    """
75
 
    global _plugins_disabled
76
 
    _plugins_disabled = True
77
78
    load_plugins([])
78
79
 
79
80
 
80
 
def describe_plugins(show_paths=False):
81
 
    """Generate text description of plugins.
82
 
 
83
 
    Includes both those that have loaded, and those that failed to 
84
 
    load.
85
 
 
86
 
    :param show_paths: If true,
87
 
    :returns: Iterator of text lines (including newlines.)
88
 
    """
89
 
    from inspect import getdoc
90
 
    loaded_plugins = plugins()
91
 
    all_names = sorted(list(set(
92
 
        loaded_plugins.keys() + plugin_warnings.keys())))
93
 
    for name in all_names:
94
 
        if name in loaded_plugins:
95
 
            plugin = loaded_plugins[name]
96
 
            version = plugin.__version__
97
 
            if version == 'unknown':
98
 
                version = ''
99
 
            yield '%s %s\n' % (name, version)
100
 
            d = getdoc(plugin.module)
101
 
            if d:
102
 
                doc = d.split('\n')[0]
103
 
            else:
104
 
                doc = '(no description)'
105
 
            yield ("  %s\n" % doc)
106
 
            if show_paths:
107
 
                yield ("   %s\n" % plugin.path())
108
 
            del plugin
109
 
        else:
110
 
            yield "%s (failed to load)\n" % name
111
 
        if name in plugin_warnings:
112
 
            for line in plugin_warnings[name]:
113
 
                yield "  ** " + line + '\n'
114
 
        yield '\n'
115
 
 
116
 
 
117
81
def _strip_trailing_sep(path):
118
82
    return path.rstrip("\\/")
119
83
 
120
84
 
121
 
def _get_specific_plugin_paths(paths):
122
 
    """Returns the plugin paths from a string describing the associations.
123
 
 
124
 
    :param paths: A string describing the paths associated with the plugins.
125
 
 
126
 
    :returns: A list of (plugin name, path) tuples.
127
 
 
128
 
    For example, if paths is my_plugin@/test/my-test:her_plugin@/production/her,
129
 
    [('my_plugin', '/test/my-test'), ('her_plugin', '/production/her')] 
130
 
    will be returned.
131
 
 
132
 
    Note that ':' in the example above depends on the os.
133
 
    """
134
 
    if not paths:
135
 
        return []
136
 
    specs = []
137
 
    for spec in paths.split(os.pathsep):
138
 
        try:
139
 
            name, path = spec.split('@')
140
 
        except ValueError:
141
 
            raise errors.BzrCommandError(gettext(
142
 
                '"%s" is not a valid <plugin_name>@<plugin_path> description ')
143
 
                % spec)
144
 
        specs.append((name, path))
145
 
    return specs
146
 
 
147
 
 
148
85
def set_plugins_path(path=None):
149
86
    """Set the path for plugins to be loaded from.
150
87
 
155
92
    if path is None:
156
93
        path = get_standard_plugins_path()
157
94
    _mod_plugins.__path__ = path
158
 
    PluginImporter.reset()
159
 
    # Set up a blacklist for disabled plugins
160
 
    disabled_plugins = os.environ.get('BZR_DISABLE_PLUGINS', None)
161
 
    if disabled_plugins is not None:
162
 
        for name in disabled_plugins.split(os.pathsep):
163
 
            PluginImporter.blacklist.add('bzrlib.plugins.' + name)
164
 
    # Set up a the specific paths for plugins
165
 
    for plugin_name, plugin_path in _get_specific_plugin_paths(os.environ.get(
166
 
            'BZR_PLUGINS_AT', None)):
167
 
            PluginImporter.specific_paths[
168
 
                'bzrlib.plugins.%s' % plugin_name] = plugin_path
169
95
    return path
170
96
 
171
97
 
254
180
    paths = []
255
181
    for p in env_paths + defaults:
256
182
        if p.startswith('+'):
257
 
            # Resolve references if they are known
 
183
            # Resolve reference if they are known
258
184
            try:
259
185
                p = refs[p[1:]]
260
186
            except KeyError:
261
 
                # Leave them untouched so user can still use paths starting
262
 
                # with '+'
 
187
                # Leave them untouched otherwise, user may have paths starting
 
188
                # with '+'...
263
189
                pass
264
190
        _append_new_path(paths, p)
265
191
 
273
199
    """Load bzrlib plugins.
274
200
 
275
201
    The environment variable BZR_PLUGIN_PATH is considered a delimited
276
 
    set of paths to look through. Each entry is searched for `*.py`
 
202
    set of paths to look through. Each entry is searched for *.py
277
203
    files (and whatever other extensions are used in the platform,
278
 
    such as `*.pyd`).
 
204
    such as *.pyd).
279
205
 
280
 
    load_from_path() provides the underlying mechanism and is called with
 
206
    load_from_dirs() provides the underlying mechanism and is called with
281
207
    the default directory list to provide the normal behaviour.
282
208
 
283
209
    :param path: The list of paths to search for plugins.  By default,
306
232
 
307
233
    The python module path for bzrlib.plugins will be modified to be 'dirs'.
308
234
    """
309
 
    # Explicitly load the plugins with a specific path
310
 
    for fullname, path in PluginImporter.specific_paths.iteritems():
311
 
        name = fullname[len('bzrlib.plugins.'):]
312
 
        _load_plugin_module(name, path)
313
 
 
314
235
    # We need to strip the trailing separators here as well as in the
315
236
    # set_plugins_path function because calling code can pass anything in to
316
237
    # this function, and since it sets plugins.__path__, it should set it to
330
251
load_from_dirs = load_from_path
331
252
 
332
253
 
333
 
def _find_plugin_module(dir, name):
334
 
    """Check if there is a valid python module that can be loaded as a plugin.
335
 
 
336
 
    :param dir: The directory where the search is performed.
337
 
    :param path: An existing file path, either a python file or a package
338
 
        directory.
339
 
 
340
 
    :return: (name, path, description) name is the module name, path is the
341
 
        file to load and description is the tuple returned by
342
 
        imp.get_suffixes().
343
 
    """
344
 
    path = osutils.pathjoin(dir, name)
345
 
    if os.path.isdir(path):
346
 
        # Check for a valid __init__.py file, valid suffixes depends on -O and
347
 
        # can be .py, .pyc and .pyo
348
 
        for suffix, mode, kind in imp.get_suffixes():
349
 
            if kind not in (imp.PY_SOURCE, imp.PY_COMPILED):
350
 
                # We don't recognize compiled modules (.so, .dll, etc)
351
 
                continue
352
 
            init_path = osutils.pathjoin(path, '__init__' + suffix)
353
 
            if os.path.isfile(init_path):
354
 
                return name, init_path, (suffix, mode, kind)
355
 
    else:
356
 
        for suffix, mode, kind in imp.get_suffixes():
357
 
            if name.endswith(suffix):
358
 
                # Clean up the module name
359
 
                name = name[:-len(suffix)]
360
 
                if kind == imp.C_EXTENSION and name.endswith('module'):
361
 
                    name = name[:-len('module')]
362
 
                return name, path, (suffix, mode, kind)
363
 
    # There is no python module here
364
 
    return None, None, (None, None, None)
365
 
 
366
 
 
367
 
def record_plugin_warning(plugin_name, warning_message):
368
 
    trace.mutter(warning_message)
369
 
    plugin_warnings.setdefault(plugin_name, []).append(warning_message)
370
 
 
371
 
 
372
 
def _load_plugin_module(name, dir):
373
 
    """Load plugin name from dir.
374
 
 
375
 
    :param name: The plugin name in the bzrlib.plugins namespace.
376
 
    :param dir: The directory the plugin is loaded from for error messages.
377
 
    """
378
 
    if ('bzrlib.plugins.%s' % name) in PluginImporter.blacklist:
379
 
        return
380
 
    try:
381
 
        exec "import bzrlib.plugins.%s" % name in {}
382
 
    except KeyboardInterrupt:
383
 
        raise
384
 
    except errors.IncompatibleAPI, e:
385
 
        warning_message = (
386
 
            "Unable to load plugin %r. It requested API version "
387
 
            "%s of module %s but the minimum exported version is %s, and "
388
 
            "the maximum is %s" %
389
 
            (name, e.wanted, e.api, e.minimum, e.current))
390
 
        record_plugin_warning(name, warning_message)
391
 
    except Exception, e:
392
 
        trace.warning("%s" % e)
393
 
        if re.search('\.|-| ', name):
394
 
            sanitised_name = re.sub('[-. ]', '_', name)
395
 
            if sanitised_name.startswith('bzr_'):
396
 
                sanitised_name = sanitised_name[len('bzr_'):]
397
 
            trace.warning("Unable to load %r in %r as a plugin because the "
398
 
                    "file path isn't a valid module name; try renaming "
399
 
                    "it to %r." % (name, dir, sanitised_name))
400
 
        else:
401
 
            record_plugin_warning(
402
 
                name,
403
 
                'Unable to load plugin %r from %r' % (name, dir))
404
 
        trace.log_exception_quietly()
405
 
        if 'error' in debug.debug_flags:
406
 
            trace.print_exception(sys.exc_info(), sys.stderr)
407
 
 
408
 
 
409
254
def load_from_dir(d):
410
255
    """Load the plugins in directory d.
411
256
 
412
257
    d must be in the plugins module path already.
413
 
    This function is called once for each directory in the module path.
414
258
    """
 
259
    # Get the list of valid python suffixes for __init__.py?
 
260
    # this includes .py, .pyc, and .pyo (depending on if we are running -O)
 
261
    # but it doesn't include compiled modules (.so, .dll, etc)
 
262
    valid_suffixes = [suffix for suffix, mod_type, flags in imp.get_suffixes()
 
263
                              if flags in (imp.PY_SOURCE, imp.PY_COMPILED)]
 
264
    package_entries = ['__init__'+suffix for suffix in valid_suffixes]
415
265
    plugin_names = set()
416
 
    for p in os.listdir(d):
417
 
        name, path, desc = _find_plugin_module(d, p)
418
 
        if name is not None:
419
 
            if name == '__init__':
420
 
                # We do nothing with the __init__.py file in directories from
421
 
                # the bzrlib.plugins module path, we may want to, one day
422
 
                # -- vila 20100316.
423
 
                continue # We don't load __init__.py in the plugins dirs
424
 
            elif getattr(_mod_plugins, name, None) is not None:
425
 
                # The module has already been loaded from another directory
426
 
                # during a previous call.
427
 
                # FIXME: There should be a better way to report masked plugins
428
 
                # -- vila 20100316
429
 
                trace.mutter('Plugin name %s already loaded', name)
 
266
    for f in os.listdir(d):
 
267
        path = osutils.pathjoin(d, f)
 
268
        if os.path.isdir(path):
 
269
            for entry in package_entries:
 
270
                # This directory should be a package, and thus added to
 
271
                # the list
 
272
                if os.path.isfile(osutils.pathjoin(path, entry)):
 
273
                    break
 
274
            else: # This directory is not a package
 
275
                continue
 
276
        else:
 
277
            for suffix_info in imp.get_suffixes():
 
278
                if f.endswith(suffix_info[0]):
 
279
                    f = f[:-len(suffix_info[0])]
 
280
                    if suffix_info[2] == imp.C_EXTENSION and f.endswith('module'):
 
281
                        f = f[:-len('module')]
 
282
                    break
430
283
            else:
431
 
                plugin_names.add(name)
 
284
                continue
 
285
        if f == '__init__':
 
286
            continue # We don't load __init__.py again in the plugin dir
 
287
        elif getattr(_mod_plugins, f, None):
 
288
            trace.mutter('Plugin name %s already loaded', f)
 
289
        else:
 
290
            # trace.mutter('add plugin name %s', f)
 
291
            plugin_names.add(f)
432
292
 
433
293
    for name in plugin_names:
434
 
        _load_plugin_module(name, d)
 
294
        try:
 
295
            exec "import bzrlib.plugins.%s" % name in {}
 
296
        except KeyboardInterrupt:
 
297
            raise
 
298
        except errors.IncompatibleAPI, e:
 
299
            trace.warning("Unable to load plugin %r. It requested API version "
 
300
                "%s of module %s but the minimum exported version is %s, and "
 
301
                "the maximum is %s" %
 
302
                (name, e.wanted, e.api, e.minimum, e.current))
 
303
        except Exception, e:
 
304
            trace.warning("%s" % e)
 
305
            ## import pdb; pdb.set_trace()
 
306
            if re.search('\.|-| ', name):
 
307
                sanitised_name = re.sub('[-. ]', '_', name)
 
308
                if sanitised_name.startswith('bzr_'):
 
309
                    sanitised_name = sanitised_name[len('bzr_'):]
 
310
                trace.warning("Unable to load %r in %r as a plugin because the "
 
311
                        "file path isn't a valid module name; try renaming "
 
312
                        "it to %r." % (name, d, sanitised_name))
 
313
            else:
 
314
                trace.warning('Unable to load plugin %r from %r' % (name, d))
 
315
            trace.log_exception_quietly()
 
316
            if 'error' in debug.debug_flags:
 
317
                trace.print_exception(sys.exc_info(), sys.stderr)
435
318
 
436
319
 
437
320
def plugins():
446
329
    return result
447
330
 
448
331
 
449
 
def format_concise_plugin_list():
450
 
    """Return a string holding a concise list of plugins and their version.
451
 
    """
452
 
    items = []
453
 
    for name, a_plugin in sorted(plugins().items()):
454
 
        items.append("%s[%s]" %
455
 
            (name, a_plugin.__version__))
456
 
    return ', '.join(items)
457
 
 
458
 
 
459
 
 
460
332
class PluginsHelpIndex(object):
461
333
    """A help index that returns help topics for plugins."""
462
334
 
507
379
            result = self.module.__doc__
508
380
        if result[-1] != '\n':
509
381
            result += '\n'
510
 
        from bzrlib import help_topics
511
 
        result += help_topics._format_see_also(additional_see_also)
 
382
        # there is code duplicated here and in bzrlib/help_topic.py's
 
383
        # matching Topic code. This should probably be factored in
 
384
        # to a helper function and a common base class.
 
385
        if additional_see_also is not None:
 
386
            see_also = sorted(set(additional_see_also))
 
387
        else:
 
388
            see_also = None
 
389
        if see_also:
 
390
            result += 'See also: '
 
391
            result += ', '.join(see_also)
 
392
            result += '\n'
512
393
        return result
513
394
 
514
395
    def get_help_topic(self):
515
 
        """Return the module help topic: its basename."""
 
396
        """Return the modules help topic - its __name__ after bzrlib.plugins.."""
516
397
        return self.module.__name__[len('bzrlib.plugins.'):]
517
398
 
518
399
 
596
477
        return version_string
597
478
 
598
479
    __version__ = property(_get__version__)
599
 
 
600
 
 
601
 
class _PluginImporter(object):
602
 
    """An importer tailored to bzr specific needs.
603
 
 
604
 
    This is a singleton that takes care of:
605
 
    - disabled plugins specified in 'blacklist',
606
 
    - plugins that needs to be loaded from specific directories.
607
 
    """
608
 
 
609
 
    def __init__(self):
610
 
        self.reset()
611
 
 
612
 
    def reset(self):
613
 
        self.blacklist = set()
614
 
        self.specific_paths = {}
615
 
 
616
 
    def find_module(self, fullname, parent_path=None):
617
 
        """Search a plugin module.
618
 
 
619
 
        Disabled plugins raise an import error, plugins with specific paths
620
 
        returns a specific loader.
621
 
 
622
 
        :return: None if the plugin doesn't need special handling, self
623
 
            otherwise.
624
 
        """
625
 
        if not fullname.startswith('bzrlib.plugins.'):
626
 
            return None
627
 
        if fullname in self.blacklist:
628
 
            raise ImportError('%s is disabled' % fullname)
629
 
        if fullname in self.specific_paths:
630
 
            return self
631
 
        return None
632
 
 
633
 
    def load_module(self, fullname):
634
 
        """Load a plugin from a specific directory."""
635
 
        # We are called only for specific paths
636
 
        plugin_path = self.specific_paths[fullname]
637
 
        loading_path = None
638
 
        if os.path.isdir(plugin_path):
639
 
            for suffix, mode, kind in imp.get_suffixes():
640
 
                if kind not in (imp.PY_SOURCE, imp.PY_COMPILED):
641
 
                    # We don't recognize compiled modules (.so, .dll, etc)
642
 
                    continue
643
 
                init_path = osutils.pathjoin(plugin_path, '__init__' + suffix)
644
 
                if os.path.isfile(init_path):
645
 
                    # We've got a module here and load_module needs specific
646
 
                    # parameters.
647
 
                    loading_path = plugin_path
648
 
                    suffix = ''
649
 
                    mode = ''
650
 
                    kind = imp.PKG_DIRECTORY
651
 
                    break
652
 
        else:
653
 
            for suffix, mode, kind in imp.get_suffixes():
654
 
                if plugin_path.endswith(suffix):
655
 
                    loading_path = plugin_path
656
 
                    break
657
 
        if loading_path is None:
658
 
            raise ImportError('%s cannot be loaded from %s'
659
 
                              % (fullname, plugin_path))
660
 
        if kind is imp.PKG_DIRECTORY:
661
 
            f = None
662
 
        else:
663
 
            f = open(loading_path, mode)
664
 
        try:
665
 
            mod = imp.load_module(fullname, f, loading_path,
666
 
                                  (suffix, mode, kind))
667
 
            mod.__package__ = fullname
668
 
            return mod
669
 
        finally:
670
 
            if f is not None:
671
 
                f.close()
672
 
 
673
 
 
674
 
# Install a dedicated importer for plugins requiring special handling
675
 
PluginImporter = _PluginImporter()
676
 
sys.meta_path.append(PluginImporter)