~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/plugin.py

  • Committer: Aaron Bentley
  • Date: 2007-01-16 13:12:54 UTC
  • mto: (2230.3.47 branch6)
  • mto: This revision was merged to the branch mainline in revision 2290.
  • Revision ID: aaron.bentley@utoronto.ca-20070116131254-sjruli93timappd4
work in progress bind stuff

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2004, 2005, 2007, 2008 Canonical Ltd
 
1
# Copyright (C) 2004, 2005 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
 
18
 
"""bzr python plugin support.
19
 
 
20
 
When load_plugins() is invoked, any python module in any directory in
21
 
$BZR_PLUGIN_PATH will be imported.  The module will be imported as
22
 
'bzrlib.plugins.$BASENAME(PLUGIN)'.  In the plugin's main body, it should
23
 
update any bzrlib registries it wants to extend.
24
 
 
25
 
See the plugin-api developer documentation for information about writing
26
 
plugins.
27
 
 
28
 
BZR_PLUGIN_PATH is also honoured for any plugins imported via
29
 
'import bzrlib.plugins.PLUGINNAME', as long as set_plugins_path has been
30
 
called.
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
 
17
 
 
18
"""bzr python plugin support
 
19
 
 
20
Any python module in $BZR_PLUGIN_PATH will be imported upon initialization of
 
21
bzrlib. The module will be imported as 'bzrlib.plugins.$BASENAME(PLUGIN)'.
 
22
In the plugin's main body, it should update any bzrlib registries it wants to
 
23
extend; for example, to add new commands, import bzrlib.commands and add your
 
24
new command to the plugin_cmds variable.
31
25
"""
32
26
 
 
27
# TODO: Refactor this to make it more testable.  The main problem at the
 
28
# moment is that loading plugins affects the global process state -- for bzr
 
29
# in general use it's a reasonable assumption that all plugins are loaded at
 
30
# startup and then stay loaded, but this is less good for testing.
 
31
 
32
# Several specific issues:
 
33
#  - plugins can't be unloaded and will continue to effect later tests
 
34
#  - load_plugins does nothing if called a second time
 
35
#  - plugin hooks can't be removed
 
36
#
 
37
# Our options are either to remove these restrictions, or work around them by
 
38
# loading the plugins into a different space than the one running the tests.
 
39
# That could be either a separate Python interpreter or perhaps a new
 
40
# namespace inside this interpreter.
 
41
 
33
42
import os
34
43
import sys
35
44
 
36
 
from bzrlib import osutils
37
 
 
38
45
from bzrlib.lazy_import import lazy_import
39
 
 
40
46
lazy_import(globals(), """
41
47
import imp
42
 
import re
43
48
import types
44
49
 
45
50
from bzrlib import (
46
 
    _format_version_tuple,
47
51
    config,
48
 
    debug,
49
 
    errors,
50
 
    trace,
 
52
    osutils,
 
53
    plugins,
51
54
    )
52
 
from bzrlib import plugins as _mod_plugins
53
55
""")
54
56
 
55
 
from bzrlib.symbol_versioning import deprecated_function
 
57
from bzrlib.trace import mutter, warning, log_exception_quietly
56
58
 
57
59
 
58
60
DEFAULT_PLUGIN_PATH = None
59
 
_loaded = False
 
61
 
60
62
 
61
63
def get_default_plugin_path():
62
64
    """Get the DEFAULT_PLUGIN_PATH"""
66
68
    return DEFAULT_PLUGIN_PATH
67
69
 
68
70
 
 
71
_loaded = False
 
72
 
 
73
 
 
74
def all_plugins():
 
75
    """Return a dictionary of the plugins."""
 
76
    result = {}
 
77
    for name, plugin in plugins.__dict__.items():
 
78
        if isinstance(plugin, types.ModuleType):
 
79
            result[name] = plugin
 
80
    return result
 
81
 
 
82
 
69
83
def disable_plugins():
70
84
    """Disable loading plugins.
71
85
 
72
86
    Future calls to load_plugins() will be ignored.
73
87
    """
74
 
    load_plugins([])
75
 
 
76
 
 
77
 
def _strip_trailing_sep(path):
78
 
    return path.rstrip("\\/")
79
 
 
80
 
 
81
 
def set_plugins_path(path=None):
82
 
    """Set the path for plugins to be loaded from.
83
 
 
84
 
    :param path: The list of paths to search for plugins.  By default,
85
 
        path will be determined using get_standard_plugins_path.
86
 
        if path is [], no plugins can be loaded.
87
 
    """
88
 
    if path is None:
89
 
        path = get_standard_plugins_path()
90
 
    _mod_plugins.__path__ = path
91
 
    return path
92
 
 
93
 
 
94
 
def get_standard_plugins_path():
95
 
    """Determine a plugin path suitable for general use."""
96
 
    path = os.environ.get('BZR_PLUGIN_PATH',
97
 
                          get_default_plugin_path()).split(os.pathsep)
98
 
    # Get rid of trailing slashes, since Python can't handle them when
99
 
    # it tries to import modules.
100
 
    path = map(_strip_trailing_sep, path)
101
 
    bzr_exe = bool(getattr(sys, 'frozen', None))
102
 
    if bzr_exe:    # expand path for bzr.exe
103
 
        # We need to use relative path to system-wide plugin
104
 
        # directory because bzrlib from standalone bzr.exe
105
 
        # could be imported by another standalone program
106
 
        # (e.g. bzr-config; or TortoiseBzr/Olive if/when they
107
 
        # will become standalone exe). [bialix 20071123]
108
 
        # __file__ typically is
109
 
        # C:\Program Files\Bazaar\lib\library.zip\bzrlib\plugin.pyc
110
 
        # then plugins directory is
111
 
        # C:\Program Files\Bazaar\plugins
112
 
        # so relative path is ../../../plugins
113
 
        path.append(osutils.abspath(osutils.pathjoin(
114
 
            osutils.dirname(__file__), '../../../plugins')))
115
 
    if not bzr_exe:     # don't look inside library.zip
116
 
        # search the plugin path before the bzrlib installed dir
117
 
        path.append(os.path.dirname(_mod_plugins.__file__))
118
 
    # search the arch independent path if we can determine that and
119
 
    # the plugin is found nowhere else
120
 
    if sys.platform != 'win32':
121
 
        try:
122
 
            from distutils.sysconfig import get_python_lib
123
 
        except ImportError:
124
 
            # If distutuils is not available, we just won't add that path
125
 
            pass
126
 
        else:
127
 
            archless_path = osutils.pathjoin(get_python_lib(), 'bzrlib',
128
 
                    'plugins')
129
 
            if archless_path not in path:
130
 
                path.append(archless_path)
131
 
    return path
132
 
 
133
 
 
134
 
def load_plugins(path=None):
 
88
    # TODO: jam 20060131 This should probably also disable
 
89
    #       load_from_dirs()
 
90
    global _loaded
 
91
    _loaded = True
 
92
 
 
93
 
 
94
def load_plugins():
135
95
    """Load bzrlib plugins.
136
96
 
137
97
    The environment variable BZR_PLUGIN_PATH is considered a delimited
141
101
 
142
102
    load_from_dirs() provides the underlying mechanism and is called with
143
103
    the default directory list to provide the normal behaviour.
144
 
 
145
 
    :param path: The list of paths to search for plugins.  By default,
146
 
        path will be determined using get_standard_plugins_path.
147
 
        if path is [], no plugins can be loaded.
148
104
    """
149
105
    global _loaded
150
106
    if _loaded:
152
108
        return
153
109
    _loaded = True
154
110
 
155
 
    # scan for all plugins in the path.
156
 
    load_from_path(set_plugins_path(path))
157
 
 
158
 
 
159
 
def load_from_path(dirs):
 
111
    dirs = os.environ.get('BZR_PLUGIN_PATH',
 
112
                          get_default_plugin_path()).split(os.pathsep)
 
113
    dirs.insert(0, os.path.dirname(plugins.__file__))
 
114
 
 
115
    load_from_dirs(dirs)
 
116
    load_from_zips(dirs)
 
117
 
 
118
 
 
119
def load_from_dirs(dirs):
160
120
    """Load bzrlib plugins found in each dir in dirs.
161
121
 
162
122
    Loading a plugin means importing it into the python interpreter.
165
125
 
166
126
    Plugins are loaded into bzrlib.plugins.NAME, and can be found there
167
127
    for future reference.
168
 
 
169
 
    The python module path for bzrlib.plugins will be modified to be 'dirs'.
170
 
    """
171
 
    # We need to strip the trailing separators here as well as in the
172
 
    # set_plugins_path function because calling code can pass anything in to
173
 
    # this function, and since it sets plugins.__path__, it should set it to
174
 
    # something that will be valid for Python to use (in case people try to
175
 
    # run "import bzrlib.plugins.PLUGINNAME" after calling this function).
176
 
    _mod_plugins.__path__ = map(_strip_trailing_sep, dirs)
177
 
    for d in dirs:
178
 
        if not d:
179
 
            continue
180
 
        trace.mutter('looking for plugins in %s', d)
181
 
        if os.path.isdir(d):
182
 
            load_from_dir(d)
183
 
 
184
 
 
185
 
# backwards compatability: load_from_dirs was the old name
186
 
# This was changed in 0.15
187
 
load_from_dirs = load_from_path
188
 
 
189
 
 
190
 
def load_from_dir(d):
191
 
    """Load the plugins in directory d.
192
 
 
193
 
    d must be in the plugins module path already.
194
128
    """
195
129
    # Get the list of valid python suffixes for __init__.py?
196
130
    # this includes .py, .pyc, and .pyo (depending on if we are running -O)
198
132
    valid_suffixes = [suffix for suffix, mod_type, flags in imp.get_suffixes()
199
133
                              if flags in (imp.PY_SOURCE, imp.PY_COMPILED)]
200
134
    package_entries = ['__init__'+suffix for suffix in valid_suffixes]
201
 
    plugin_names = set()
202
 
    for f in os.listdir(d):
203
 
        path = osutils.pathjoin(d, f)
204
 
        if os.path.isdir(path):
205
 
            for entry in package_entries:
206
 
                # This directory should be a package, and thus added to
207
 
                # the list
208
 
                if os.path.isfile(osutils.pathjoin(path, entry)):
209
 
                    break
210
 
            else: # This directory is not a package
211
 
                continue
212
 
        else:
213
 
            for suffix_info in imp.get_suffixes():
214
 
                if f.endswith(suffix_info[0]):
215
 
                    f = f[:-len(suffix_info[0])]
216
 
                    if suffix_info[2] == imp.C_EXTENSION and f.endswith('module'):
217
 
                        f = f[:-len('module')]
218
 
                    break
219
 
            else:
220
 
                continue
221
 
        if f == '__init__':
222
 
            continue # We don't load __init__.py again in the plugin dir
223
 
        elif getattr(_mod_plugins, f, None):
224
 
            trace.mutter('Plugin name %s already loaded', f)
225
 
        else:
226
 
            # trace.mutter('add plugin name %s', f)
227
 
            plugin_names.add(f)
228
 
 
229
 
    for name in plugin_names:
230
 
        try:
231
 
            exec "import bzrlib.plugins.%s" % name in {}
232
 
        except KeyboardInterrupt:
233
 
            raise
234
 
        except errors.IncompatibleAPI, e:
235
 
            trace.warning("Unable to load plugin %r. It requested API version "
236
 
                "%s of module %s but the minimum exported version is %s, and "
237
 
                "the maximum is %s" %
238
 
                (name, e.wanted, e.api, e.minimum, e.current))
239
 
        except Exception, e:
240
 
            trace.warning("%s" % e)
241
 
            ## import pdb; pdb.set_trace()
242
 
            if re.search('\.|-| ', name):
243
 
                sanitised_name = re.sub('[-. ]', '_', name)
244
 
                if sanitised_name.startswith('bzr_'):
245
 
                    sanitised_name = sanitised_name[len('bzr_'):]
246
 
                trace.warning("Unable to load %r in %r as a plugin because the "
247
 
                        "file path isn't a valid module name; try renaming "
248
 
                        "it to %r." % (name, d, sanitised_name))
249
 
            else:
250
 
                trace.warning('Unable to load plugin %r from %r' % (name, d))
251
 
            trace.log_exception_quietly()
252
 
            if 'error' in debug.debug_flags:
253
 
                trace.print_exception(sys.exc_info(), sys.stderr)
254
 
 
255
 
 
256
 
def plugins():
257
 
    """Return a dictionary of the plugins.
258
 
 
259
 
    Each item in the dictionary is a PlugIn object.
260
 
    """
261
 
    result = {}
262
 
    for name, plugin in _mod_plugins.__dict__.items():
263
 
        if isinstance(plugin, types.ModuleType):
264
 
            result[name] = PlugIn(name, plugin)
265
 
    return result
266
 
 
267
 
 
268
 
class PluginsHelpIndex(object):
269
 
    """A help index that returns help topics for plugins."""
270
 
 
271
 
    def __init__(self):
272
 
        self.prefix = 'plugins/'
273
 
 
274
 
    def get_topics(self, topic):
275
 
        """Search for topic in the loaded plugins.
276
 
 
277
 
        This will not trigger loading of new plugins.
278
 
 
279
 
        :param topic: A topic to search for.
280
 
        :return: A list which is either empty or contains a single
281
 
            RegisteredTopic entry.
282
 
        """
283
 
        if not topic:
284
 
            return []
285
 
        if topic.startswith(self.prefix):
286
 
            topic = topic[len(self.prefix):]
287
 
        plugin_module_name = 'bzrlib.plugins.%s' % topic
288
 
        try:
289
 
            module = sys.modules[plugin_module_name]
290
 
        except KeyError:
291
 
            return []
292
 
        else:
293
 
            return [ModuleHelpTopic(module)]
294
 
 
295
 
 
296
 
class ModuleHelpTopic(object):
297
 
    """A help topic which returns the docstring for a module."""
298
 
 
299
 
    def __init__(self, module):
300
 
        """Constructor.
301
 
 
302
 
        :param module: The module for which help should be generated.
303
 
        """
304
 
        self.module = module
305
 
 
306
 
    def get_help_text(self, additional_see_also=None, verbose=True):
307
 
        """Return a string with the help for this topic.
308
 
 
309
 
        :param additional_see_also: Additional help topics to be
310
 
            cross-referenced.
311
 
        """
312
 
        if not self.module.__doc__:
313
 
            result = "Plugin '%s' has no docstring.\n" % self.module.__name__
314
 
        else:
315
 
            result = self.module.__doc__
316
 
        if result[-1] != '\n':
317
 
            result += '\n'
318
 
        # there is code duplicated here and in bzrlib/help_topic.py's
319
 
        # matching Topic code. This should probably be factored in
320
 
        # to a helper function and a common base class.
321
 
        if additional_see_also is not None:
322
 
            see_also = sorted(set(additional_see_also))
323
 
        else:
324
 
            see_also = None
325
 
        if see_also:
326
 
            result += 'See also: '
327
 
            result += ', '.join(see_also)
328
 
            result += '\n'
329
 
        return result
330
 
 
331
 
    def get_help_topic(self):
332
 
        """Return the modules help topic - its __name__ after bzrlib.plugins.."""
333
 
        return self.module.__name__[len('bzrlib.plugins.'):]
334
 
 
335
 
 
336
 
class PlugIn(object):
337
 
    """The bzrlib representation of a plugin.
338
 
 
339
 
    The PlugIn object provides a way to manipulate a given plugin module.
340
 
    """
341
 
 
342
 
    def __init__(self, name, module):
343
 
        """Construct a plugin for module."""
344
 
        self.name = name
345
 
        self.module = module
346
 
 
347
 
    def path(self):
348
 
        """Get the path that this plugin was loaded from."""
349
 
        if getattr(self.module, '__path__', None) is not None:
350
 
            return os.path.abspath(self.module.__path__[0])
351
 
        elif getattr(self.module, '__file__', None) is not None:
352
 
            path = os.path.abspath(self.module.__file__)
353
 
            if path[-4:] in ('.pyc', '.pyo'):
354
 
                pypath = path[:-4] + '.py'
355
 
                if os.path.isfile(pypath):
356
 
                    path = pypath
357
 
            return path
358
 
        else:
359
 
            return repr(self.module)
360
 
 
361
 
    def __str__(self):
362
 
        return "<%s.%s object at %s, name=%s, module=%s>" % (
363
 
            self.__class__.__module__, self.__class__.__name__, id(self),
364
 
            self.name, self.module)
365
 
 
366
 
    __repr__ = __str__
367
 
 
368
 
    def test_suite(self):
369
 
        """Return the plugin's test suite."""
370
 
        if getattr(self.module, 'test_suite', None) is not None:
371
 
            return self.module.test_suite()
372
 
        else:
373
 
            return None
374
 
 
375
 
    def load_plugin_tests(self, loader):
376
 
        """Return the adapted plugin's test suite.
377
 
 
378
 
        :param loader: The custom loader that should be used to load additional
379
 
            tests.
380
 
 
381
 
        """
382
 
        if getattr(self.module, 'load_tests', None) is not None:
383
 
            return loader.loadTestsFromModule(self.module)
384
 
        else:
385
 
            return None
386
 
 
387
 
    def version_info(self):
388
 
        """Return the plugin's version_tuple or None if unknown."""
389
 
        version_info = getattr(self.module, 'version_info', None)
390
 
        if version_info is not None:
391
 
            try:
392
 
                if isinstance(version_info, types.StringType):
393
 
                    version_info = version_info.split('.')
394
 
                elif len(version_info) == 3:
395
 
                    version_info = tuple(version_info) + ('final', 0)
396
 
            except TypeError, e:
397
 
                # The given version_info isn't even iteratible
398
 
                trace.log_exception_quietly()
399
 
                version_info = (version_info,)
400
 
        return version_info
401
 
 
402
 
    def _get__version__(self):
403
 
        version_info = self.version_info()
404
 
        if version_info is None or len(version_info) == 0:
405
 
            return "unknown"
406
 
        try:
407
 
            version_string = _format_version_tuple(version_info)
408
 
        except (ValueError, TypeError, IndexError), e:
409
 
            trace.log_exception_quietly()
410
 
            # try to return something usefull for bad plugins, in stead of
411
 
            # stack tracing.
412
 
            version_string = '.'.join(map(str, version_info))
413
 
        return version_string
414
 
 
415
 
    __version__ = property(_get__version__)
 
135
    for d in dirs:
 
136
        if not d:
 
137
            continue
 
138
        mutter('looking for plugins in %s', d)
 
139
        plugin_names = set()
 
140
        if not os.path.isdir(d):
 
141
            continue
 
142
        for f in os.listdir(d):
 
143
            path = osutils.pathjoin(d, f)
 
144
            if os.path.isdir(path):
 
145
                for entry in package_entries:
 
146
                    # This directory should be a package, and thus added to
 
147
                    # the list
 
148
                    if os.path.isfile(osutils.pathjoin(path, entry)):
 
149
                        break
 
150
                else: # This directory is not a package
 
151
                    continue
 
152
            else:
 
153
                for suffix_info in imp.get_suffixes():
 
154
                    if f.endswith(suffix_info[0]):
 
155
                        f = f[:-len(suffix_info[0])]
 
156
                        if suffix_info[2] == imp.C_EXTENSION and f.endswith('module'):
 
157
                            f = f[:-len('module')]
 
158
                        break
 
159
                else:
 
160
                    continue
 
161
            if getattr(plugins, f, None):
 
162
                mutter('Plugin name %s already loaded', f)
 
163
            else:
 
164
                # mutter('add plugin name %s', f)
 
165
                plugin_names.add(f)
 
166
 
 
167
        plugin_names = list(plugin_names)
 
168
        plugin_names.sort()
 
169
        for name in plugin_names:
 
170
            try:
 
171
                plugin_info = imp.find_module(name, [d])
 
172
                # mutter('load plugin %r', plugin_info)
 
173
                try:
 
174
                    plugin = imp.load_module('bzrlib.plugins.' + name,
 
175
                                             *plugin_info)
 
176
                    setattr(plugins, name, plugin)
 
177
                finally:
 
178
                    if plugin_info[0] is not None:
 
179
                        plugin_info[0].close()
 
180
                # mutter('loaded succesfully')
 
181
            except KeyboardInterrupt:
 
182
                raise
 
183
            except Exception, e:
 
184
                ## import pdb; pdb.set_trace()
 
185
                warning('Unable to load plugin %r from %r' % (name, d))
 
186
                log_exception_quietly()
 
187
 
 
188
 
 
189
def load_from_zips(zips):
 
190
    """Load bzr plugins from zip archives with zipimport.
 
191
    It's similar to load_from_dirs but plugins searched inside archives.
 
192
    """
 
193
    import zipfile
 
194
    import zipimport
 
195
 
 
196
    valid_suffixes = ('.py', '.pyc', '.pyo')    # only python modules/packages
 
197
                                                # is allowed
 
198
    for zip_name in zips:
 
199
        if '.zip' not in zip_name:
 
200
            continue
 
201
        try:
 
202
            ziobj = zipimport.zipimporter(zip_name)
 
203
        except zipimport.ZipImportError:
 
204
            # not a valid zip
 
205
            continue
 
206
        mutter('Looking for plugins in %r', zip_name)
 
207
 
 
208
        # use zipfile to get list of files/dirs inside zip
 
209
        z = zipfile.ZipFile(ziobj.archive)
 
210
        namelist = z.namelist()
 
211
        z.close()
 
212
 
 
213
        if ziobj.prefix:
 
214
            prefix = ziobj.prefix.replace('\\','/')
 
215
            ix = len(prefix)
 
216
            namelist = [name[ix:]
 
217
                        for name in namelist
 
218
                        if name.startswith(prefix)]
 
219
 
 
220
        mutter('Names in archive: %r', namelist)
 
221
 
 
222
        for name in namelist:
 
223
            if not name or name.endswith('/'):
 
224
                continue
 
225
 
 
226
            # '/' is used to separate pathname components inside zip archives
 
227
            ix = name.rfind('/')
 
228
            if ix == -1:
 
229
                head, tail = '', name
 
230
            else:
 
231
                head, tail = name.rsplit('/',1)
 
232
            if '/' in head:
 
233
                # we don't need looking in subdirectories
 
234
                continue
 
235
 
 
236
            base, suffix = osutils.splitext(tail)
 
237
            if suffix not in valid_suffixes:
 
238
                continue
 
239
 
 
240
            if base == '__init__':
 
241
                # package
 
242
                plugin_name = head
 
243
            elif head == '':
 
244
                # module
 
245
                plugin_name = base
 
246
            else:
 
247
                continue
 
248
 
 
249
            if not plugin_name:
 
250
                continue
 
251
            if getattr(plugins, plugin_name, None):
 
252
                mutter('Plugin name %s already loaded', plugin_name)
 
253
                continue
 
254
 
 
255
            try:
 
256
                plugin = ziobj.load_module(plugin_name)
 
257
                setattr(plugins, plugin_name, plugin)
 
258
                mutter('Load plugin %s from zip %r', plugin_name, zip_name)
 
259
            except zipimport.ZipImportError, e:
 
260
                mutter('Unable to load plugin %r from %r: %s',
 
261
                       plugin_name, zip_name, str(e))
 
262
                continue
 
263
            except KeyboardInterrupt:
 
264
                raise
 
265
            except Exception, e:
 
266
                ## import pdb; pdb.set_trace()
 
267
                warning('Unable to load plugin %r from %r'
 
268
                        % (name, zip_name))
 
269
                log_exception_quietly()