~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/smart/medium.py

(gz) Fix test failure on alpha by correcting format string for
 gc_chk_sha1_record (Martin [gz])

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2006-2011 Canonical Ltd
 
1
# Copyright (C) 2006-2010 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
24
24
bzrlib/transport/smart/__init__.py.
25
25
"""
26
26
 
27
 
import errno
28
27
import os
29
28
import sys
30
 
import time
31
29
import urllib
32
30
 
33
31
import bzrlib
34
32
from bzrlib.lazy_import import lazy_import
35
33
lazy_import(globals(), """
36
 
import select
37
34
import socket
38
35
import thread
39
36
import weakref
41
38
from bzrlib import (
42
39
    debug,
43
40
    errors,
 
41
    symbol_versioning,
44
42
    trace,
45
43
    ui,
46
44
    urlutils,
47
45
    )
48
 
from bzrlib.i18n import gettext
49
 
from bzrlib.smart import client, protocol, request, signals, vfs
 
46
from bzrlib.smart import client, protocol, request, vfs
50
47
from bzrlib.transport import ssh
51
48
""")
52
49
from bzrlib import osutils
179
176
        ui.ui_factory.report_transport_activity(self, bytes, direction)
180
177
 
181
178
 
182
 
_bad_file_descriptor = (errno.EBADF,)
183
 
if sys.platform == 'win32':
184
 
    # Given on Windows if you pass a closed socket to select.select. Probably
185
 
    # also given if you pass a file handle to select.
186
 
    WSAENOTSOCK = 10038
187
 
    _bad_file_descriptor += (WSAENOTSOCK,)
188
 
 
189
 
 
190
179
class SmartServerStreamMedium(SmartMedium):
191
180
    """Handles smart commands coming over a stream.
192
181
 
205
194
        the stream.  See also the _push_back method.
206
195
    """
207
196
 
208
 
    _timer = time.time
209
 
 
210
 
    def __init__(self, backing_transport, root_client_path='/', timeout=None):
 
197
    def __init__(self, backing_transport, root_client_path='/'):
211
198
        """Construct new server.
212
199
 
213
200
        :param backing_transport: Transport for the directory served.
216
203
        self.backing_transport = backing_transport
217
204
        self.root_client_path = root_client_path
218
205
        self.finished = False
219
 
        if timeout is None:
220
 
            raise AssertionError('You must supply a timeout.')
221
 
        self._client_timeout = timeout
222
 
        self._client_poll_timeout = min(timeout / 10.0, 1.0)
223
206
        SmartMedium.__init__(self)
224
207
 
225
208
    def serve(self):
230
213
        try:
231
214
            while not self.finished:
232
215
                server_protocol = self._build_protocol()
233
 
                # TODO: This seems inelegant:
234
 
                if server_protocol is None:
235
 
                    # We could 'continue' only to notice that self.finished is
236
 
                    # True...
237
 
                    break
238
216
                self._serve_one_request(server_protocol)
239
 
        except errors.ConnectionTimeout, e:
240
 
            trace.note('%s' % (e,))
241
 
            trace.log_exception_quietly()
242
 
            self._disconnect_client()
243
 
            # We reported it, no reason to make a big fuss.
244
 
            return
245
217
        except Exception, e:
246
218
            stderr.write("%s terminating on exception %s\n" % (self, e))
247
219
            raise
248
 
        self._disconnect_client()
249
 
 
250
 
    def _stop_gracefully(self):
251
 
        """When we finish this message, stop looking for more."""
252
 
        trace.mutter('Stopping %s' % (self,))
253
 
        self.finished = True
254
 
 
255
 
    def _disconnect_client(self):
256
 
        """Close the current connection. We stopped due to a timeout/etc."""
257
 
        # The default implementation is a no-op, because that is all we used to
258
 
        # do when disconnecting from a client. I suppose we never had the
259
 
        # *server* initiate a disconnect, before
260
 
 
261
 
    def _wait_for_bytes_with_timeout(self, timeout_seconds):
262
 
        """Wait for more bytes to be read, but timeout if none available.
263
 
 
264
 
        This allows us to detect idle connections, and stop trying to read from
265
 
        them, without setting the socket itself to non-blocking. This also
266
 
        allows us to specify when we watch for idle timeouts.
267
 
 
268
 
        :return: Did we timeout? (True if we timed out, False if there is data
269
 
            to be read)
270
 
        """
271
 
        raise NotImplementedError(self._wait_for_bytes_with_timeout)
272
220
 
273
221
    def _build_protocol(self):
274
222
        """Identifies the version of the incoming request, and returns an
279
227
 
280
228
        :returns: a SmartServerRequestProtocol.
281
229
        """
282
 
        self._wait_for_bytes_with_timeout(self._client_timeout)
283
 
        if self.finished:
284
 
            # We're stopping, so don't try to do any more work
285
 
            return None
286
230
        bytes = self._get_line()
287
231
        protocol_factory, unused_bytes = _get_protocol_factory_for_bytes(bytes)
288
232
        protocol = protocol_factory(
290
234
        protocol.accept_bytes(unused_bytes)
291
235
        return protocol
292
236
 
293
 
    def _wait_on_descriptor(self, fd, timeout_seconds):
294
 
        """select() on a file descriptor, waiting for nonblocking read()
295
 
 
296
 
        This will raise a ConnectionTimeout exception if we do not get a
297
 
        readable handle before timeout_seconds.
298
 
        :return: None
299
 
        """
300
 
        t_end = self._timer() + timeout_seconds
301
 
        poll_timeout = min(timeout_seconds, self._client_poll_timeout)
302
 
        rs = xs = None
303
 
        while not rs and not xs and self._timer() < t_end:
304
 
            if self.finished:
305
 
                return
306
 
            try:
307
 
                rs, _, xs = select.select([fd], [], [fd], poll_timeout)
308
 
            except (select.error, socket.error) as e:
309
 
                err = getattr(e, 'errno', None)
310
 
                if err is None and getattr(e, 'args', None) is not None:
311
 
                    # select.error doesn't have 'errno', it just has args[0]
312
 
                    err = e.args[0]
313
 
                if err in _bad_file_descriptor:
314
 
                    return # Not a socket indicates read() will fail
315
 
                elif err == errno.EINTR:
316
 
                    # Interrupted, keep looping.
317
 
                    continue
318
 
                raise
319
 
        if rs or xs:
320
 
            return
321
 
        raise errors.ConnectionTimeout('disconnecting client after %.1f seconds'
322
 
                                       % (timeout_seconds,))
323
 
 
324
237
    def _serve_one_request(self, protocol):
325
238
        """Read one request from input, process, send back a response.
326
239
 
347
260
 
348
261
class SmartServerSocketStreamMedium(SmartServerStreamMedium):
349
262
 
350
 
    def __init__(self, sock, backing_transport, root_client_path='/',
351
 
                 timeout=None):
 
263
    def __init__(self, sock, backing_transport, root_client_path='/'):
352
264
        """Constructor.
353
265
 
354
266
        :param sock: the socket the server will read from.  It will be put
355
267
            into blocking mode.
356
268
        """
357
269
        SmartServerStreamMedium.__init__(
358
 
            self, backing_transport, root_client_path=root_client_path,
359
 
            timeout=timeout)
 
270
            self, backing_transport, root_client_path=root_client_path)
360
271
        sock.setblocking(True)
361
272
        self.socket = sock
362
 
        # Get the getpeername now, as we might be closed later when we care.
363
 
        try:
364
 
            self._client_info = sock.getpeername()
365
 
        except socket.error:
366
 
            self._client_info = '<unknown>'
367
 
 
368
 
    def __str__(self):
369
 
        return '%s(client=%s)' % (self.__class__.__name__, self._client_info)
370
 
 
371
 
    def __repr__(self):
372
 
        return '%s.%s(client=%s)' % (self.__module__, self.__class__.__name__,
373
 
            self._client_info)
374
273
 
375
274
    def _serve_one_request_unguarded(self, protocol):
376
275
        while protocol.next_read_size():
385
284
 
386
285
        self._push_back(protocol.unused_data)
387
286
 
388
 
    def _disconnect_client(self):
389
 
        """Close the current connection. We stopped due to a timeout/etc."""
390
 
        self.socket.close()
391
 
 
392
 
    def _wait_for_bytes_with_timeout(self, timeout_seconds):
393
 
        """Wait for more bytes to be read, but timeout if none available.
394
 
 
395
 
        This allows us to detect idle connections, and stop trying to read from
396
 
        them, without setting the socket itself to non-blocking. This also
397
 
        allows us to specify when we watch for idle timeouts.
398
 
 
399
 
        :return: None, this will raise ConnectionTimeout if we time out before
400
 
            data is available.
401
 
        """
402
 
        return self._wait_on_descriptor(self.socket, timeout_seconds)
403
 
 
404
287
    def _read_bytes(self, desired_count):
405
288
        return osutils.read_bytes_from_socket(
406
289
            self.socket, self._report_activity)
423
306
 
424
307
class SmartServerPipeStreamMedium(SmartServerStreamMedium):
425
308
 
426
 
    def __init__(self, in_file, out_file, backing_transport, timeout=None):
 
309
    def __init__(self, in_file, out_file, backing_transport):
427
310
        """Construct new server.
428
311
 
429
312
        :param in_file: Python file from which requests can be read.
430
313
        :param out_file: Python file to write responses.
431
314
        :param backing_transport: Transport for the directory served.
432
315
        """
433
 
        SmartServerStreamMedium.__init__(self, backing_transport,
434
 
            timeout=timeout)
 
316
        SmartServerStreamMedium.__init__(self, backing_transport)
435
317
        if sys.platform == 'win32':
436
318
            # force binary mode for files
437
319
            import msvcrt
442
324
        self._in = in_file
443
325
        self._out = out_file
444
326
 
445
 
    def serve(self):
446
 
        """See SmartServerStreamMedium.serve"""
447
 
        # This is the regular serve, except it adds signal trapping for soft
448
 
        # shutdown.
449
 
        stop_gracefully = self._stop_gracefully
450
 
        signals.register_on_hangup(id(self), stop_gracefully)
451
 
        try:
452
 
            return super(SmartServerPipeStreamMedium, self).serve()
453
 
        finally:
454
 
            signals.unregister_on_hangup(id(self))
455
 
 
456
327
    def _serve_one_request_unguarded(self, protocol):
457
328
        while True:
458
329
            # We need to be careful not to read past the end of the current
471
342
                return
472
343
            protocol.accept_bytes(bytes)
473
344
 
474
 
    def _disconnect_client(self):
475
 
        self._in.close()
476
 
        self._out.flush()
477
 
        self._out.close()
478
 
 
479
 
    def _wait_for_bytes_with_timeout(self, timeout_seconds):
480
 
        """Wait for more bytes to be read, but timeout if none available.
481
 
 
482
 
        This allows us to detect idle connections, and stop trying to read from
483
 
        them, without setting the socket itself to non-blocking. This also
484
 
        allows us to specify when we watch for idle timeouts.
485
 
 
486
 
        :return: None, this will raise ConnectionTimeout if we time out before
487
 
            data is available.
488
 
        """
489
 
        if (getattr(self._in, 'fileno', None) is None
490
 
            or sys.platform == 'win32'):
491
 
            # You can't select() file descriptors on Windows.
492
 
            return
493
 
        return self._wait_on_descriptor(self._in, timeout_seconds)
494
 
 
495
345
    def _read_bytes(self, desired_count):
496
346
        return self._in.read(desired_count)
497
347
 
641
491
        return self._medium._get_line()
642
492
 
643
493
 
644
 
class _VfsRefuser(object):
645
 
    """An object that refuses all VFS requests.
646
 
 
647
 
    """
648
 
 
649
 
    def __init__(self):
650
 
        client._SmartClient.hooks.install_named_hook(
651
 
            'call', self.check_vfs, 'vfs refuser')
652
 
 
653
 
    def check_vfs(self, params):
654
 
        try:
655
 
            request_method = request.request_handlers.get(params.method)
656
 
        except KeyError:
657
 
            # A method we don't know about doesn't count as a VFS method.
658
 
            return
659
 
        if issubclass(request_method, vfs.VfsRequest):
660
 
            raise errors.HpssVfsRequestNotAllowed(params.method, params.args)
661
 
 
662
 
 
663
494
class _DebugCounter(object):
664
495
    """An object that counts the HPSS calls made to each client medium.
665
496
 
712
543
        value['count'] = 0
713
544
        value['vfs_count'] = 0
714
545
        if count != 0:
715
 
            trace.note(gettext('HPSS calls: {0} ({1} vfs) {2}').format(
716
 
                       count, vfs_count, medium_repr))
 
546
            trace.note('HPSS calls: %d (%d vfs) %s',
 
547
                       count, vfs_count, medium_repr)
717
548
 
718
549
    def flush_all(self):
719
550
        for ref in list(self.counts.keys()):
720
551
            self.done(ref)
721
552
 
722
553
_debug_counter = None
723
 
_vfs_refuser = None
724
554
 
725
555
 
726
556
class SmartClientMedium(SmartMedium):
743
573
            if _debug_counter is None:
744
574
                _debug_counter = _DebugCounter()
745
575
            _debug_counter.track(self)
746
 
        if 'hpss_client_no_vfs' in debug.debug_flags:
747
 
            global _vfs_refuser
748
 
            if _vfs_refuser is None:
749
 
                _vfs_refuser = _VfsRefuser()
750
576
 
751
577
    def _is_remote_before(self, version_tuple):
752
578
        """Is it possible the remote side supports RPCs for a given version?