~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/smart/medium.py

  • Committer: Vincent Ladeuil
  • Date: 2011-01-12 00:58:05 UTC
  • mfrom: (5582.7.1 675652-bzr-columns-0)
  • mto: This revision was merged to the branch mainline in revision 5598.
  • Revision ID: v.ladeuil+lp@free.fr-20110112005805-tzclc2wogqef8zty
Accept 0 to mean no limit for BZR_COLUMNS

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006-2011 Canonical Ltd
 
1
# Copyright (C) 2006-2010 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
24
24
bzrlib/transport/smart/__init__.py.
25
25
"""
26
26
 
27
 
import errno
28
27
import os
29
28
import sys
30
 
import time
31
29
import urllib
32
30
 
33
31
import bzrlib
34
32
from bzrlib.lazy_import import lazy_import
35
33
lazy_import(globals(), """
36
 
import select
37
34
import socket
38
35
import thread
39
36
import weakref
41
38
from bzrlib import (
42
39
    debug,
43
40
    errors,
 
41
    symbol_versioning,
44
42
    trace,
45
43
    ui,
46
44
    urlutils,
47
45
    )
48
 
from bzrlib.i18n import gettext
49
 
from bzrlib.smart import client, protocol, request, signals, vfs
 
46
from bzrlib.smart import client, protocol, request, vfs
50
47
from bzrlib.transport import ssh
51
48
""")
52
49
from bzrlib import osutils
179
176
        ui.ui_factory.report_transport_activity(self, bytes, direction)
180
177
 
181
178
 
182
 
_bad_file_descriptor = (errno.EBADF,)
183
 
if sys.platform == 'win32':
184
 
    # Given on Windows if you pass a closed socket to select.select. Probably
185
 
    # also given if you pass a file handle to select.
186
 
    WSAENOTSOCK = 10038
187
 
    _bad_file_descriptor += (WSAENOTSOCK,)
188
 
 
189
 
 
190
179
class SmartServerStreamMedium(SmartMedium):
191
180
    """Handles smart commands coming over a stream.
192
181
 
205
194
        the stream.  See also the _push_back method.
206
195
    """
207
196
 
208
 
    _timer = time.time
209
 
 
210
 
    def __init__(self, backing_transport, root_client_path='/', timeout=None):
 
197
    def __init__(self, backing_transport, root_client_path='/'):
211
198
        """Construct new server.
212
199
 
213
200
        :param backing_transport: Transport for the directory served.
216
203
        self.backing_transport = backing_transport
217
204
        self.root_client_path = root_client_path
218
205
        self.finished = False
219
 
        if timeout is None:
220
 
            raise AssertionError('You must supply a timeout.')
221
 
        self._client_timeout = timeout
222
 
        self._client_poll_timeout = min(timeout / 10.0, 1.0)
223
206
        SmartMedium.__init__(self)
224
207
 
225
208
    def serve(self):
231
214
            while not self.finished:
232
215
                server_protocol = self._build_protocol()
233
216
                self._serve_one_request(server_protocol)
234
 
        except errors.ConnectionTimeout, e:
235
 
            trace.note('%s' % (e,))
236
 
            trace.log_exception_quietly()
237
 
            self._disconnect_client()
238
 
            # We reported it, no reason to make a big fuss.
239
 
            return
240
217
        except Exception, e:
241
218
            stderr.write("%s terminating on exception %s\n" % (self, e))
242
219
            raise
243
 
        self._disconnect_client()
244
 
 
245
 
    def _stop_gracefully(self):
246
 
        """When we finish this message, stop looking for more."""
247
 
        trace.mutter('Stopping %s' % (self,))
248
 
        self.finished = True
249
 
 
250
 
    def _disconnect_client(self):
251
 
        """Close the current connection. We stopped due to a timeout/etc."""
252
 
        # The default implementation is a no-op, because that is all we used to
253
 
        # do when disconnecting from a client. I suppose we never had the
254
 
        # *server* initiate a disconnect, before
255
 
 
256
 
    def _wait_for_bytes_with_timeout(self, timeout_seconds):
257
 
        """Wait for more bytes to be read, but timeout if none available.
258
 
 
259
 
        This allows us to detect idle connections, and stop trying to read from
260
 
        them, without setting the socket itself to non-blocking. This also
261
 
        allows us to specify when we watch for idle timeouts.
262
 
 
263
 
        :return: Did we timeout? (True if we timed out, False if there is data
264
 
            to be read)
265
 
        """
266
 
        raise NotImplementedError(self._wait_for_bytes_with_timeout)
267
220
 
268
221
    def _build_protocol(self):
269
222
        """Identifies the version of the incoming request, and returns an
274
227
 
275
228
        :returns: a SmartServerRequestProtocol.
276
229
        """
277
 
        self._wait_for_bytes_with_timeout(self._client_timeout)
278
 
        if self.finished:
279
 
            # We're stopping, so don't try to do any more work
280
 
            return None
281
230
        bytes = self._get_line()
282
231
        protocol_factory, unused_bytes = _get_protocol_factory_for_bytes(bytes)
283
232
        protocol = protocol_factory(
285
234
        protocol.accept_bytes(unused_bytes)
286
235
        return protocol
287
236
 
288
 
    def _wait_on_descriptor(self, fd, timeout_seconds):
289
 
        """select() on a file descriptor, waiting for nonblocking read()
290
 
 
291
 
        This will raise a ConnectionTimeout exception if we do not get a
292
 
        readable handle before timeout_seconds.
293
 
        :return: None
294
 
        """
295
 
        t_end = self._timer() + timeout_seconds
296
 
        poll_timeout = min(timeout_seconds, self._client_poll_timeout)
297
 
        rs = xs = None
298
 
        while not rs and not xs and self._timer() < t_end:
299
 
            if self.finished:
300
 
                return
301
 
            try:
302
 
                rs, _, xs = select.select([fd], [], [fd], poll_timeout)
303
 
            except (select.error, socket.error) as e:
304
 
                err = getattr(e, 'errno', None)
305
 
                if err is None and getattr(e, 'args', None) is not None:
306
 
                    # select.error doesn't have 'errno', it just has args[0]
307
 
                    err = e.args[0]
308
 
                if err in _bad_file_descriptor:
309
 
                    return # Not a socket indicates read() will fail
310
 
                elif err == errno.EINTR:
311
 
                    # Interrupted, keep looping.
312
 
                    continue
313
 
                raise
314
 
        if rs or xs:
315
 
            return
316
 
        raise errors.ConnectionTimeout('disconnecting client after %.1f seconds'
317
 
                                       % (timeout_seconds,))
318
 
 
319
237
    def _serve_one_request(self, protocol):
320
238
        """Read one request from input, process, send back a response.
321
239
 
322
240
        :param protocol: a SmartServerRequestProtocol.
323
241
        """
324
 
        if protocol is None:
325
 
            return
326
242
        try:
327
243
            self._serve_one_request_unguarded(protocol)
328
244
        except KeyboardInterrupt:
344
260
 
345
261
class SmartServerSocketStreamMedium(SmartServerStreamMedium):
346
262
 
347
 
    def __init__(self, sock, backing_transport, root_client_path='/',
348
 
                 timeout=None):
 
263
    def __init__(self, sock, backing_transport, root_client_path='/'):
349
264
        """Constructor.
350
265
 
351
266
        :param sock: the socket the server will read from.  It will be put
352
267
            into blocking mode.
353
268
        """
354
269
        SmartServerStreamMedium.__init__(
355
 
            self, backing_transport, root_client_path=root_client_path,
356
 
            timeout=timeout)
 
270
            self, backing_transport, root_client_path=root_client_path)
357
271
        sock.setblocking(True)
358
272
        self.socket = sock
359
 
        # Get the getpeername now, as we might be closed later when we care.
360
 
        try:
361
 
            self._client_info = sock.getpeername()
362
 
        except socket.error:
363
 
            self._client_info = '<unknown>'
364
 
 
365
 
    def __str__(self):
366
 
        return '%s(client=%s)' % (self.__class__.__name__, self._client_info)
367
 
 
368
 
    def __repr__(self):
369
 
        return '%s.%s(client=%s)' % (self.__module__, self.__class__.__name__,
370
 
            self._client_info)
371
273
 
372
274
    def _serve_one_request_unguarded(self, protocol):
373
275
        while protocol.next_read_size():
382
284
 
383
285
        self._push_back(protocol.unused_data)
384
286
 
385
 
    def _disconnect_client(self):
386
 
        """Close the current connection. We stopped due to a timeout/etc."""
387
 
        self.socket.close()
388
 
 
389
 
    def _wait_for_bytes_with_timeout(self, timeout_seconds):
390
 
        """Wait for more bytes to be read, but timeout if none available.
391
 
 
392
 
        This allows us to detect idle connections, and stop trying to read from
393
 
        them, without setting the socket itself to non-blocking. This also
394
 
        allows us to specify when we watch for idle timeouts.
395
 
 
396
 
        :return: None, this will raise ConnectionTimeout if we time out before
397
 
            data is available.
398
 
        """
399
 
        return self._wait_on_descriptor(self.socket, timeout_seconds)
400
 
 
401
287
    def _read_bytes(self, desired_count):
402
288
        return osutils.read_bytes_from_socket(
403
289
            self.socket, self._report_activity)
420
306
 
421
307
class SmartServerPipeStreamMedium(SmartServerStreamMedium):
422
308
 
423
 
    def __init__(self, in_file, out_file, backing_transport, timeout=None):
 
309
    def __init__(self, in_file, out_file, backing_transport):
424
310
        """Construct new server.
425
311
 
426
312
        :param in_file: Python file from which requests can be read.
427
313
        :param out_file: Python file to write responses.
428
314
        :param backing_transport: Transport for the directory served.
429
315
        """
430
 
        SmartServerStreamMedium.__init__(self, backing_transport,
431
 
            timeout=timeout)
 
316
        SmartServerStreamMedium.__init__(self, backing_transport)
432
317
        if sys.platform == 'win32':
433
318
            # force binary mode for files
434
319
            import msvcrt
439
324
        self._in = in_file
440
325
        self._out = out_file
441
326
 
442
 
    def serve(self):
443
 
        """See SmartServerStreamMedium.serve"""
444
 
        # This is the regular serve, except it adds signal trapping for soft
445
 
        # shutdown.
446
 
        stop_gracefully = self._stop_gracefully
447
 
        signals.register_on_hangup(id(self), stop_gracefully)
448
 
        try:
449
 
            return super(SmartServerPipeStreamMedium, self).serve()
450
 
        finally:
451
 
            signals.unregister_on_hangup(id(self))
452
 
 
453
327
    def _serve_one_request_unguarded(self, protocol):
454
328
        while True:
455
329
            # We need to be careful not to read past the end of the current
468
342
                return
469
343
            protocol.accept_bytes(bytes)
470
344
 
471
 
    def _disconnect_client(self):
472
 
        self._in.close()
473
 
        self._out.flush()
474
 
        self._out.close()
475
 
 
476
 
    def _wait_for_bytes_with_timeout(self, timeout_seconds):
477
 
        """Wait for more bytes to be read, but timeout if none available.
478
 
 
479
 
        This allows us to detect idle connections, and stop trying to read from
480
 
        them, without setting the socket itself to non-blocking. This also
481
 
        allows us to specify when we watch for idle timeouts.
482
 
 
483
 
        :return: None, this will raise ConnectionTimeout if we time out before
484
 
            data is available.
485
 
        """
486
 
        if (getattr(self._in, 'fileno', None) is None
487
 
            or sys.platform == 'win32'):
488
 
            # You can't select() file descriptors on Windows.
489
 
            return
490
 
        return self._wait_on_descriptor(self._in, timeout_seconds)
491
 
 
492
345
    def _read_bytes(self, desired_count):
493
346
        return self._in.read(desired_count)
494
347
 
638
491
        return self._medium._get_line()
639
492
 
640
493
 
641
 
class _VfsRefuser(object):
642
 
    """An object that refuses all VFS requests.
643
 
 
644
 
    """
645
 
 
646
 
    def __init__(self):
647
 
        client._SmartClient.hooks.install_named_hook(
648
 
            'call', self.check_vfs, 'vfs refuser')
649
 
 
650
 
    def check_vfs(self, params):
651
 
        try:
652
 
            request_method = request.request_handlers.get(params.method)
653
 
        except KeyError:
654
 
            # A method we don't know about doesn't count as a VFS method.
655
 
            return
656
 
        if issubclass(request_method, vfs.VfsRequest):
657
 
            raise errors.HpssVfsRequestNotAllowed(params.method, params.args)
658
 
 
659
 
 
660
494
class _DebugCounter(object):
661
495
    """An object that counts the HPSS calls made to each client medium.
662
496
 
709
543
        value['count'] = 0
710
544
        value['vfs_count'] = 0
711
545
        if count != 0:
712
 
            trace.note(gettext('HPSS calls: {0} ({1} vfs) {2}').format(
713
 
                       count, vfs_count, medium_repr))
 
546
            trace.note('HPSS calls: %d (%d vfs) %s',
 
547
                       count, vfs_count, medium_repr)
714
548
 
715
549
    def flush_all(self):
716
550
        for ref in list(self.counts.keys()):
717
551
            self.done(ref)
718
552
 
719
553
_debug_counter = None
720
 
_vfs_refuser = None
721
554
 
722
555
 
723
556
class SmartClientMedium(SmartMedium):
740
573
            if _debug_counter is None:
741
574
                _debug_counter = _DebugCounter()
742
575
            _debug_counter.track(self)
743
 
        if 'hpss_client_no_vfs' in debug.debug_flags:
744
 
            global _vfs_refuser
745
 
            if _vfs_refuser is None:
746
 
                _vfs_refuser = _VfsRefuser()
747
576
 
748
577
    def _is_remote_before(self, version_tuple):
749
578
        """Is it possible the remote side supports RPCs for a given version?