← Back to branch summary

~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/smart/server.py

  • Committer: Daniel Watkins
  • Date: 2007-08-02 18:04:35 UTC
  • mto: This revision was merged to the branch mainline in revision 2705.
  • Revision ID: d.m.watkins@warwick.ac.uk-20070802180435-cs6xalg5tkze209b
tests.blackbox.test_aliases now uses internals where appropriate.

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrlib/smart/server.py
1
 
# Copyright (C) 2006, 2007, 2008 Canonical Ltd
 
1
# Copyright (C) 2006, 2007 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
"""Server for smart-server protocol."""
18
18
 
19
19
import errno
20
 
import os.path
21
20
import socket
22
 
import sys
23
21
import threading
24
22
 
25
 
from bzrlib.hooks import HookPoint, Hooks
 
23
from bzrlib.hooks import Hooks
26
24
from bzrlib import (
27
25
    errors,
28
26
    trace,
29
27
    transport,
30
28
)
31
 
from bzrlib.lazy_import import lazy_import
32
 
lazy_import(globals(), """
33
 
from bzrlib.smart import medium
34
 
from bzrlib.transport import (
35
 
    chroot,
36
 
    get_transport,
37
 
    pathfilter,
38
 
    )
39
 
from bzrlib import (
40
 
    urlutils,
41
 
    )
42
 
""")
 
29
from bzrlib.smart.medium import SmartServerSocketStreamMedium
43
30
 
44
31
 
45
32
class SmartTCPServer(object):
51
38
    hooks: An instance of SmartServerHooks.
52
39
    """
53
40
 
54
 
    def __init__(self, backing_transport, host='127.0.0.1', port=0,
55
 
                 root_client_path='/'):
 
41
    def __init__(self, backing_transport, host='127.0.0.1', port=0):
56
42
        """Construct a new server.
57
43
 
58
44
        To actually start it running, call either start_background_thread or
59
45
        serve.
60
46
 
61
 
        :param backing_transport: The transport to serve.
62
47
        :param host: Name of the interface to listen on.
63
48
        :param port: TCP port to listen on, or 0 to allocate a transient port.
64
 
        :param root_client_path: The client path that will correspond to root
65
 
            of backing_transport.
66
49
        """
67
50
        # let connections timeout so that we get a chance to terminate
68
51
        # Keep a reference to the exceptions we want to catch because the socket
71
54
        from socket import error as socket_error
72
55
        self._socket_error = socket_error
73
56
        self._socket_timeout = socket_timeout
74
 
        addrs = socket.getaddrinfo(host, port, socket.AF_UNSPEC,
75
 
            socket.SOCK_STREAM, 0, socket.AI_PASSIVE)[0]
76
 
 
77
 
        (family, socktype, proto, canonname, sockaddr) = addrs
78
 
 
79
 
        self._server_socket = socket.socket(family, socktype, proto)
80
 
        # SO_REUSERADDR has a different meaning on Windows
81
 
        if sys.platform != 'win32':
82
 
            self._server_socket.setsockopt(socket.SOL_SOCKET,
83
 
                socket.SO_REUSEADDR, 1)
84
 
        try:
85
 
            self._server_socket.bind(sockaddr)
86
 
        except self._socket_error, message:
87
 
            raise errors.CannotBindAddress(host, port, message)
 
57
        self._server_socket = socket.socket()
 
58
        self._server_socket.bind((host, port))
88
59
        self._sockname = self._server_socket.getsockname()
89
60
        self.port = self._sockname[1]
90
61
        self._server_socket.listen(1)
92
63
        self.backing_transport = backing_transport
93
64
        self._started = threading.Event()
94
65
        self._stopped = threading.Event()
95
 
        self.root_client_path = root_client_path
96
66
 
97
 
    def serve(self, thread_name_suffix=''):
 
67
    def serve(self):
98
68
        self._should_terminate = False
99
69
        # for hooks we are letting code know that a server has started (and
100
70
        # later stopped).
107
77
        # We need all three because:
108
78
        #  * other machines see the first
109
79
        #  * local commits on this machine should be able to be mapped to
110
 
        #    this server
 
80
        #    this server 
111
81
        #  * commits the server does itself need to be mapped across to this
112
82
        #    server.
113
83
        # The latter two urls are different aliases to the servers url,
114
 
        # so we group those in a list - as there might be more aliases
 
84
        # so we group those in a list - as there might be more aliases 
115
85
        # in the future.
116
86
        backing_urls = [self.backing_transport.base]
117
87
        try:
120
90
            pass
121
91
        for hook in SmartTCPServer.hooks['server_started']:
122
92
            hook(backing_urls, self.get_url())
123
 
        for hook in SmartTCPServer.hooks['server_started_ex']:
124
 
            hook(backing_urls, self)
125
93
        self._started.set()
126
94
        try:
127
95
            try:
138
106
                        if e.args[0] != errno.EBADF:
139
107
                            trace.warning("listening socket error: %s", e)
140
108
                    else:
141
 
                        self.serve_conn(conn, thread_name_suffix)
 
109
                        self.serve_conn(conn)
142
110
            except KeyboardInterrupt:
143
111
                # dont log when CTRL-C'd.
144
112
                raise
145
113
            except Exception, e:
146
 
                trace.report_exception(sys.exc_info(), sys.stderr)
 
114
                trace.error("Unhandled smart server error.")
 
115
                trace.log_exception_quietly()
147
116
                raise
148
117
        finally:
149
118
            self._stopped.set()
160
129
        """Return the url of the server"""
161
130
        return "bzr://%s:%d/" % self._sockname
162
131
 
163
 
    def serve_conn(self, conn, thread_name_suffix):
 
132
    def serve_conn(self, conn):
164
133
        # For WIN32, where the timeout value from the listening socket
165
 
        # propagates to the newly accepted socket.
 
134
        # propogates to the newly accepted socket.
166
135
        conn.setblocking(True)
167
136
        conn.setsockopt(socket.IPPROTO_TCP, socket.TCP_NODELAY, 1)
168
 
        handler = medium.SmartServerSocketStreamMedium(
169
 
            conn, self.backing_transport, self.root_client_path)
170
 
        thread_name = 'smart-server-child' + thread_name_suffix
171
 
        connection_thread = threading.Thread(
172
 
            None, handler.serve, name=thread_name)
 
137
        handler = SmartServerSocketStreamMedium(conn, self.backing_transport)
 
138
        connection_thread = threading.Thread(None, handler.serve, name='smart-server-child')
173
139
        connection_thread.setDaemon(True)
174
140
        connection_thread.start()
175
141
 
176
 
    def start_background_thread(self, thread_name_suffix=''):
 
142
    def start_background_thread(self):
177
143
        self._started.clear()
178
144
        self._server_thread = threading.Thread(None,
179
 
                self.serve, args=(thread_name_suffix,),
 
145
                self.serve,
180
146
                name='server-' + self.get_url())
181
147
        self._server_thread.setDaemon(True)
182
148
        self._server_thread.start()
188
154
        self._should_terminate = True
189
155
        # close the socket - gives error to connections from here on in,
190
156
        # rather than a connection reset error to connections made during
191
 
        # the period between setting _should_terminate = True and
 
157
        # the period between setting _should_terminate = True and 
192
158
        # the current request completing/aborting. It may also break out the
193
159
        # main loop if it was currently in accept() (on some platforms).
194
160
        try:
218
184
        notified.
219
185
        """
220
186
        Hooks.__init__(self)
221
 
        self.create_hook(HookPoint('server_started',
222
 
            "Called by the bzr server when it starts serving a directory. "
223
 
            "server_started is called with (backing urls, public url), "
224
 
            "where backing_url is a list of URLs giving the "
225
 
            "server-specific directory locations, and public_url is the "
226
 
            "public URL for the directory being served.", (0, 16), None))
227
 
        self.create_hook(HookPoint('server_started_ex',
228
 
            "Called by the bzr server when it starts serving a directory. "
229
 
            "server_started is called with (backing_urls, server_obj).",
230
 
            (1, 17), None))
231
 
        self.create_hook(HookPoint('server_stopped',
232
 
            "Called by the bzr server when it stops serving a directory. "
233
 
            "server_stopped is called with the same parameters as the "
234
 
            "server_started hook: (backing_urls, public_url).", (0, 16), None))
 
187
        # Introduced in 0.16:
 
188
        # invoked whenever the server starts serving a directory.
 
189
        # The api signature is (backing urls, public url).
 
190
        self['server_started'] = []
 
191
        # Introduced in 0.16:
 
192
        # invoked whenever the server stops serving a directory.
 
193
        # The api signature is (backing urls, public url).
 
194
        self['server_stopped'] = []
235
195
 
236
196
SmartTCPServer.hooks = SmartServerHooks()
237
197
 
238
198
 
239
199
class SmartTCPServer_for_testing(SmartTCPServer):
240
200
    """Server suitable for use by transport tests.
241
 
 
 
201
    
242
202
    This server is backed by the process's cwd.
243
203
    """
244
204
 
245
 
    def __init__(self, thread_name_suffix=''):
 
205
    def __init__(self):
246
206
        SmartTCPServer.__init__(self, None)
247
 
        self.client_path_extra = None
248
 
        self.thread_name_suffix = thread_name_suffix
249
 
 
 
207
        
250
208
    def get_backing_transport(self, backing_transport_server):
251
209
        """Get a backing transport from a server we are decorating."""
252
210
        return transport.get_transport(backing_transport_server.get_url())
253
211
 
254
 
    def start_server(self, backing_transport_server=None,
255
 
              client_path_extra='/extra/'):
256
 
        """Set up server for testing.
257
 
 
258
 
        :param backing_transport_server: backing server to use.  If not
259
 
            specified, a LocalURLServer at the current working directory will
260
 
            be used.
261
 
        :param client_path_extra: a path segment starting with '/' to append to
262
 
            the root URL for this server.  For instance, a value of '/foo/bar/'
263
 
            will mean the root of the backing transport will be published at a
264
 
            URL like `bzr://127.0.0.1:nnnn/foo/bar/`, rather than
265
 
            `bzr://127.0.0.1:nnnn/`.  Default value is `extra`, so that tests
266
 
            by default will fail unless they do the necessary path translation.
267
 
        """
268
 
        if not client_path_extra.startswith('/'):
269
 
            raise ValueError(client_path_extra)
 
212
    def setUp(self, backing_transport_server=None):
 
213
        """Set up server for testing"""
270
214
        from bzrlib.transport.chroot import ChrootServer
271
215
        if backing_transport_server is None:
272
216
            from bzrlib.transport.local import LocalURLServer
273
217
            backing_transport_server = LocalURLServer()
274
218
        self.chroot_server = ChrootServer(
275
219
            self.get_backing_transport(backing_transport_server))
276
 
        self.chroot_server.start_server()
 
220
        self.chroot_server.setUp()
277
221
        self.backing_transport = transport.get_transport(
278
222
            self.chroot_server.get_url())
279
 
        self.root_client_path = self.client_path_extra = client_path_extra
280
 
        self.start_background_thread(self.thread_name_suffix)
 
223
        self.start_background_thread()
281
224
 
282
 
    def stop_server(self):
 
225
    def tearDown(self):
283
226
        self.stop_background_thread()
284
 
        self.chroot_server.stop_server()
285
 
 
286
 
    def get_url(self):
287
 
        url = super(SmartTCPServer_for_testing, self).get_url()
288
 
        return url[:-1] + self.client_path_extra
 
227
        self.chroot_server.tearDown()
289
228
 
290
229
    def get_bogus_url(self):
291
230
        """Return a URL which will fail to connect"""
300
239
        url = 'readonly+' + backing_transport_server.get_url()
301
240
        return transport.get_transport(url)
302
241
 
303
 
 
304
 
class SmartTCPServer_for_testing_v2_only(SmartTCPServer_for_testing):
305
 
    """A variation of SmartTCPServer_for_testing that limits the client to
306
 
    using RPCs in protocol v2 (i.e. bzr <= 1.5).
307
 
    """
308
 
 
309
 
    def get_url(self):
310
 
        url = super(SmartTCPServer_for_testing_v2_only, self).get_url()
311
 
        url = 'bzr-v2://' + url[len('bzr://'):]
312
 
        return url
313
 
 
314
 
 
315
 
class ReadonlySmartTCPServer_for_testing_v2_only(SmartTCPServer_for_testing_v2_only):
316
 
    """Get a readonly server for testing."""
317
 
 
318
 
    def get_backing_transport(self, backing_transport_server):
319
 
        """Get a backing transport from a server we are decorating."""
320
 
        url = 'readonly+' + backing_transport_server.get_url()
321
 
        return transport.get_transport(url)
322
 
 
323
 
 
324
 
def _local_path_for_transport(transport):
325
 
    """Return a local path for transport, if reasonably possible.
326
 
    
327
 
    This function works even if transport's url has a "readonly+" prefix,
328
 
    unlike local_path_from_url.
329
 
    
330
 
    This essentially recovers the --directory argument the user passed to "bzr
331
 
    serve" from the transport passed to serve_bzr.
332
 
    """
333
 
    try:
334
 
        base_url = transport.external_url()
335
 
    except (errors.InProcessTransport, NotImplementedError):
336
 
        return None
337
 
    else:
338
 
        # Strip readonly prefix
339
 
        if base_url.startswith('readonly+'):
340
 
            base_url = base_url[len('readonly+'):]
341
 
        try:
342
 
            return urlutils.local_path_from_url(base_url)
343
 
        except errors.InvalidURL:
344
 
            return None
345
 
 
346
 
 
347
 
class BzrServerFactory(object):
348
 
    """Helper class for serve_bzr."""
349
 
 
350
 
    def __init__(self, userdir_expander=None, get_base_path=None):
351
 
        self.cleanups = []
352
 
        self.base_path = None
353
 
        self.backing_transport = None
354
 
        if userdir_expander is None:
355
 
            userdir_expander = os.path.expanduser
356
 
        self.userdir_expander = userdir_expander
357
 
        if get_base_path is None:
358
 
            get_base_path = _local_path_for_transport
359
 
        self.get_base_path = get_base_path
360
 
 
361
 
    def _expand_userdirs(self, path):
362
 
        """Translate /~/ or /~user/ to e.g. /home/foo, using
363
 
        self.userdir_expander (os.path.expanduser by default).
364
 
 
365
 
        If the translated path would fall outside base_path, or the path does
366
 
        not start with ~, then no translation is applied.
367
 
 
368
 
        If the path is inside, it is adjusted to be relative to the base path.
369
 
 
370
 
        e.g. if base_path is /home, and the expanded path is /home/joe, then
371
 
        the translated path is joe.
372
 
        """
373
 
        result = path
374
 
        if path.startswith('~'):
375
 
            expanded = self.userdir_expander(path)
376
 
            if not expanded.endswith('/'):
377
 
                expanded += '/'
378
 
            if expanded.startswith(self.base_path):
379
 
                result = expanded[len(self.base_path):]
380
 
        return result
381
 
 
382
 
    def _make_expand_userdirs_filter(self, transport):
383
 
        return pathfilter.PathFilteringServer(transport, self._expand_userdirs)
384
 
 
385
 
    def _make_backing_transport(self, transport):
386
 
        """Chroot transport, and decorate with userdir expander."""
387
 
        self.base_path = self.get_base_path(transport)
388
 
        chroot_server = chroot.ChrootServer(transport)
389
 
        chroot_server.start_server()
390
 
        self.cleanups.append(chroot_server.stop_server)
391
 
        transport = get_transport(chroot_server.get_url())
392
 
        if self.base_path is not None:
393
 
            # Decorate the server's backing transport with a filter that can
394
 
            # expand homedirs.
395
 
            expand_userdirs = self._make_expand_userdirs_filter(transport)
396
 
            expand_userdirs.start_server()
397
 
            self.cleanups.append(expand_userdirs.stop_server)
398
 
            transport = get_transport(expand_userdirs.get_url())
399
 
        self.transport = transport
400
 
 
401
 
    def _make_smart_server(self, host, port, inet):
402
 
        if inet:
403
 
            smart_server = medium.SmartServerPipeStreamMedium(
404
 
                sys.stdin, sys.stdout, self.transport)
405
 
        else:
406
 
            if host is None:
407
 
                host = medium.BZR_DEFAULT_INTERFACE
408
 
            if port is None:
409
 
                port = medium.BZR_DEFAULT_PORT
410
 
            smart_server = SmartTCPServer(self.transport, host=host, port=port)
411
 
            trace.note('listening on port: %s' % smart_server.port)
412
 
        self.smart_server = smart_server
413
 
 
414
 
    def _change_globals(self):
415
 
        from bzrlib import lockdir, ui
416
 
        # For the duration of this server, no UI output is permitted. note
417
 
        # that this may cause problems with blackbox tests. This should be
418
 
        # changed with care though, as we dont want to use bandwidth sending
419
 
        # progress over stderr to smart server clients!
420
 
        old_factory = ui.ui_factory
421
 
        old_lockdir_timeout = lockdir._DEFAULT_TIMEOUT_SECONDS
422
 
        def restore_default_ui_factory_and_lockdir_timeout():
423
 
            ui.ui_factory = old_factory
424
 
            lockdir._DEFAULT_TIMEOUT_SECONDS = old_lockdir_timeout
425
 
        self.cleanups.append(restore_default_ui_factory_and_lockdir_timeout)
426
 
        ui.ui_factory = ui.SilentUIFactory()
427
 
        lockdir._DEFAULT_TIMEOUT_SECONDS = 0
428
 
 
429
 
    def set_up(self, transport, host, port, inet):
430
 
        self._make_backing_transport(transport)
431
 
        self._make_smart_server(host, port, inet)
432
 
        self._change_globals()
433
 
 
434
 
    def tear_down(self):
435
 
        for cleanup in reversed(self.cleanups):
436
 
            cleanup()
437
 
 
438
 
 
439
 
def serve_bzr(transport, host=None, port=None, inet=False):
440
 
    """This is the default implementation of 'bzr serve'.
441
 
    
442
 
    It creates a TCP or pipe smart server on 'transport, and runs it.  The
443
 
    transport will be decorated with a chroot and pathfilter (using
444
 
    os.path.expanduser).
445
 
    """
446
 
    bzr_server = BzrServerFactory()
447
 
    try:
448
 
        bzr_server.set_up(transport, host, port, inet)
449
 
        bzr_server.smart_server.serve()
450
 
    finally:
451
 
        bzr_server.tear_down()
452