~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/transport/ssh.py

(vila) Fix test failures blocking package builds. (Vincent Ladeuil)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 Robey Pointer <robey@lag.net>
 
1
# Copyright (C) 2006-2011 Robey Pointer <robey@lag.net>
2
2
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
3
3
#
4
4
# This program is free software; you can redistribute it and/or modify
17
17
 
18
18
"""Foundation SSH support for SFTP and smart server."""
19
19
 
 
20
from __future__ import absolute_import
 
21
 
20
22
import errno
21
23
import getpass
22
24
import logging
94
96
            try:
95
97
                vendor = self._ssh_vendors[vendor_name]
96
98
            except KeyError:
97
 
                raise errors.UnknownSSH(vendor_name)
 
99
                vendor = self._get_vendor_from_path(vendor_name)
 
100
                if vendor is None:
 
101
                    raise errors.UnknownSSH(vendor_name)
 
102
                vendor.executable_path = vendor_name
98
103
            return vendor
99
104
        return None
100
105
 
110
115
            stdout = stderr = ''
111
116
        return stdout + stderr
112
117
 
113
 
    def _get_vendor_by_version_string(self, version, args):
 
118
    def _get_vendor_by_version_string(self, version, progname):
114
119
        """Return the vendor or None based on output from the subprocess.
115
120
 
116
121
        :param version: The output of 'ssh -V' like command.
123
128
        elif 'SSH Secure Shell' in version:
124
129
            trace.mutter('ssh implementation is SSH Corp.')
125
130
            vendor = SSHCorpSubprocessVendor()
126
 
        elif 'plink' in version and args[0] == 'plink':
 
131
        elif 'lsh' in version:
 
132
            trace.mutter('ssh implementation is GNU lsh.')
 
133
            vendor = LSHSubprocessVendor()
 
134
        # As plink user prompts are not handled currently, don't auto-detect
 
135
        # it by inspection below, but keep this vendor detection for if a path
 
136
        # is given in BZR_SSH. See https://bugs.launchpad.net/bugs/414743
 
137
        elif 'plink' in version and progname == 'plink':
127
138
            # Checking if "plink" was the executed argument as Windows
128
 
            # sometimes reports 'ssh -V' incorrectly with 'plink' in it's
 
139
            # sometimes reports 'ssh -V' incorrectly with 'plink' in its
129
140
            # version.  See https://bugs.launchpad.net/bzr/+bug/107155
130
141
            trace.mutter("ssh implementation is Putty's plink.")
131
142
            vendor = PLinkSubprocessVendor()
133
144
 
134
145
    def _get_vendor_by_inspection(self):
135
146
        """Return the vendor or None by checking for known SSH implementations."""
136
 
        for args in (['ssh', '-V'], ['plink', '-V']):
137
 
            version = self._get_ssh_version_string(args)
138
 
            vendor = self._get_vendor_by_version_string(version, args)
139
 
            if vendor is not None:
140
 
                return vendor
141
 
        return None
 
147
        version = self._get_ssh_version_string(['ssh', '-V'])
 
148
        return self._get_vendor_by_version_string(version, "ssh")
 
149
 
 
150
    def _get_vendor_from_path(self, path):
 
151
        """Return the vendor or None using the program at the given path"""
 
152
        version = self._get_ssh_version_string([path, '-V'])
 
153
        return self._get_vendor_by_version_string(version, 
 
154
            os.path.splitext(os.path.basename(path))[0])
142
155
 
143
156
    def get_vendor(self, environment=None):
144
157
        """Find out what version of SSH is on the system.
165
178
register_ssh_vendor = _ssh_vendor_manager.register_vendor
166
179
 
167
180
 
168
 
def _ignore_sigint():
 
181
def _ignore_signals():
169
182
    # TODO: This should possibly ignore SIGHUP as well, but bzr currently
170
183
    # doesn't handle it itself.
171
184
    # <https://launchpad.net/products/bzr/+bug/41433/+index>
172
185
    import signal
173
186
    signal.signal(signal.SIGINT, signal.SIG_IGN)
 
187
    # GZ 2010-02-19: Perhaps make this check if breakin is installed instead
 
188
    if signal.getsignal(signal.SIGQUIT) != signal.SIG_DFL:
 
189
        signal.signal(signal.SIGQUIT, signal.SIG_IGN)
174
190
 
175
191
 
176
192
class SocketAsChannelAdapter(object):
228
244
    def connect_ssh(self, username, password, host, port, command):
229
245
        """Make an SSH connection.
230
246
 
231
 
        :returns: something with a `close` method, and a `get_filelike_channels`
232
 
            method that returns a pair of (read, write) filelike objects.
 
247
        :returns: an SSHConnection.
233
248
        """
234
249
        raise NotImplementedError(self.connect_ssh)
235
250
 
258
273
register_ssh_vendor('loopback', LoopbackVendor())
259
274
 
260
275
 
261
 
class _ParamikoSSHConnection(object):
262
 
    def __init__(self, channel):
263
 
        self.channel = channel
264
 
 
265
 
    def get_filelike_channels(self):
266
 
        return self.channel.makefile('rb'), self.channel.makefile('wb')
267
 
 
268
 
    def close(self):
269
 
        return self.channel.close()
270
 
 
271
 
 
272
276
class ParamikoVendor(SSHVendor):
273
277
    """Vendor that uses paramiko."""
274
278
 
337
341
            self._raise_connection_error(host, port=port, orig_error=e,
338
342
                                         msg='Unable to invoke remote bzr')
339
343
 
 
344
_ssh_connection_errors = (EOFError, OSError, IOError, socket.error)
340
345
if paramiko is not None:
341
346
    vendor = ParamikoVendor()
342
347
    register_ssh_vendor('paramiko', vendor)
343
348
    register_ssh_vendor('none', vendor)
344
349
    register_default_ssh_vendor(vendor)
345
 
    _sftp_connection_errors = (EOFError, paramiko.SSHException)
 
350
    _ssh_connection_errors += (paramiko.SSHException,)
346
351
    del vendor
347
 
else:
348
 
    _sftp_connection_errors = (EOFError,)
349
352
 
350
353
 
351
354
class SubprocessVendor(SSHVendor):
352
355
    """Abstract base class for vendors that use pipes to a subprocess."""
353
356
 
 
357
    # In general stderr should be inherited from the parent process so prompts
 
358
    # are visible on the terminal. This can be overriden to another file for
 
359
    # tests, but beware of using PIPE which may hang due to not being read.
 
360
    _stderr_target = None
 
361
 
354
362
    def _connect(self, argv):
355
 
        proc = subprocess.Popen(argv,
356
 
                                stdin=subprocess.PIPE,
357
 
                                stdout=subprocess.PIPE,
 
363
        # Attempt to make a socketpair to use as stdin/stdout for the SSH
 
364
        # subprocess.  We prefer sockets to pipes because they support
 
365
        # non-blocking short reads, allowing us to optimistically read 64k (or
 
366
        # whatever) chunks.
 
367
        try:
 
368
            my_sock, subproc_sock = socket.socketpair()
 
369
            osutils.set_fd_cloexec(my_sock)
 
370
        except (AttributeError, socket.error):
 
371
            # This platform doesn't support socketpair(), so just use ordinary
 
372
            # pipes instead.
 
373
            stdin = stdout = subprocess.PIPE
 
374
            my_sock, subproc_sock = None, None
 
375
        else:
 
376
            stdin = stdout = subproc_sock
 
377
        proc = subprocess.Popen(argv, stdin=stdin, stdout=stdout,
 
378
                                stderr=self._stderr_target,
358
379
                                **os_specific_subprocess_params())
359
 
        return SSHSubprocess(proc)
 
380
        if subproc_sock is not None:
 
381
            subproc_sock.close()
 
382
        return SSHSubprocessConnection(proc, sock=my_sock)
360
383
 
361
384
    def connect_sftp(self, username, password, host, port):
362
385
        try:
364
387
                                                  subsystem='sftp')
365
388
            sock = self._connect(argv)
366
389
            return SFTPClient(SocketAsChannelAdapter(sock))
367
 
        except _sftp_connection_errors, e:
368
 
            self._raise_connection_error(host, port=port, orig_error=e)
369
 
        except (OSError, IOError), e:
370
 
            # If the machine is fast enough, ssh can actually exit
371
 
            # before we try and send it the sftp request, which
372
 
            # raises a Broken Pipe
373
 
            if e.errno not in (errno.EPIPE,):
374
 
                raise
 
390
        except _ssh_connection_errors, e:
375
391
            self._raise_connection_error(host, port=port, orig_error=e)
376
392
 
377
393
    def connect_ssh(self, username, password, host, port, command):
379
395
            argv = self._get_vendor_specific_argv(username, host, port,
380
396
                                                  command=command)
381
397
            return self._connect(argv)
382
 
        except (EOFError), e:
383
 
            self._raise_connection_error(host, port=port, orig_error=e)
384
 
        except (OSError, IOError), e:
385
 
            # If the machine is fast enough, ssh can actually exit
386
 
            # before we try and send it the sftp request, which
387
 
            # raises a Broken Pipe
388
 
            if e.errno not in (errno.EPIPE,):
389
 
                raise
 
398
        except _ssh_connection_errors, e:
390
399
            self._raise_connection_error(host, port=port, orig_error=e)
391
400
 
392
401
    def _get_vendor_specific_argv(self, username, host, port, subsystem=None,
401
410
class OpenSSHSubprocessVendor(SubprocessVendor):
402
411
    """SSH vendor that uses the 'ssh' executable from OpenSSH."""
403
412
 
 
413
    executable_path = 'ssh'
 
414
 
404
415
    def _get_vendor_specific_argv(self, username, host, port, subsystem=None,
405
416
                                  command=None):
406
 
        args = ['ssh',
 
417
        args = [self.executable_path,
407
418
                '-oForwardX11=no', '-oForwardAgent=no',
408
 
                '-oClearAllForwardings=yes', '-oProtocol=2',
 
419
                '-oClearAllForwardings=yes',
409
420
                '-oNoHostAuthenticationForLocalhost=yes']
410
421
        if port is not None:
411
422
            args.extend(['-p', str(port)])
423
434
class SSHCorpSubprocessVendor(SubprocessVendor):
424
435
    """SSH vendor that uses the 'ssh' executable from SSH Corporation."""
425
436
 
 
437
    executable_path = 'ssh'
 
438
 
426
439
    def _get_vendor_specific_argv(self, username, host, port, subsystem=None,
427
440
                                  command=None):
428
 
        args = ['ssh', '-x']
 
441
        args = [self.executable_path, '-x']
429
442
        if port is not None:
430
443
            args.extend(['-p', str(port)])
431
444
        if username is not None:
436
449
            args.extend([host] + command)
437
450
        return args
438
451
 
439
 
register_ssh_vendor('ssh', SSHCorpSubprocessVendor())
 
452
register_ssh_vendor('sshcorp', SSHCorpSubprocessVendor())
 
453
 
 
454
 
 
455
class LSHSubprocessVendor(SubprocessVendor):
 
456
    """SSH vendor that uses the 'lsh' executable from GNU"""
 
457
 
 
458
    executable_path = 'lsh'
 
459
 
 
460
    def _get_vendor_specific_argv(self, username, host, port, subsystem=None,
 
461
                                  command=None):
 
462
        args = [self.executable_path]
 
463
        if port is not None:
 
464
            args.extend(['-p', str(port)])
 
465
        if username is not None:
 
466
            args.extend(['-l', username])
 
467
        if subsystem is not None:
 
468
            args.extend(['--subsystem', subsystem, host])
 
469
        else:
 
470
            args.extend([host] + command)
 
471
        return args
 
472
 
 
473
register_ssh_vendor('lsh', LSHSubprocessVendor())
440
474
 
441
475
 
442
476
class PLinkSubprocessVendor(SubprocessVendor):
443
477
    """SSH vendor that uses the 'plink' executable from Putty."""
444
478
 
 
479
    executable_path = 'plink'
 
480
 
445
481
    def _get_vendor_specific_argv(self, username, host, port, subsystem=None,
446
482
                                  command=None):
447
 
        args = ['plink', '-x', '-a', '-ssh', '-2', '-batch']
 
483
        args = [self.executable_path, '-x', '-a', '-ssh', '-2', '-batch']
448
484
        if port is not None:
449
485
            args.extend(['-P', str(port)])
450
486
        if username is not None:
501
537
    except paramiko.SSHException, e:
502
538
        # Don't know what happened, but just ignore it
503
539
        pass
504
 
    if 'password' not in supported_auth_types:
 
540
    # We treat 'keyboard-interactive' and 'password' auth methods identically,
 
541
    # because Paramiko's auth_password method will automatically try
 
542
    # 'keyboard-interactive' auth (using the password as the response) if
 
543
    # 'password' auth is not available.  Apparently some Debian and Gentoo
 
544
    # OpenSSH servers require this.
 
545
    # XXX: It's possible for a server to require keyboard-interactive auth that
 
546
    # requires something other than a single password, but we currently don't
 
547
    # support that.
 
548
    if ('password' not in supported_auth_types and
 
549
        'keyboard-interactive' not in supported_auth_types):
505
550
        raise errors.ConnectionError('Unable to authenticate to SSH host as'
506
551
            '\n  %s@%s\nsupported auth types: %s'
507
552
            % (username, host, supported_auth_types))
536
581
        return True
537
582
    except paramiko.PasswordRequiredException:
538
583
        password = ui.ui_factory.get_password(
539
 
            prompt='SSH %(filename)s password', filename=filename)
 
584
            prompt=u'SSH %(filename)s password',
 
585
            filename=filename.decode(osutils._fs_enc))
540
586
        try:
541
587
            key = pkey_class.from_private_key_file(filename, password)
542
588
            paramiko_transport.auth_publickey(username, key)
611
657
        # Running it in a separate process group is not good because then it
612
658
        # can't get non-echoed input of a password or passphrase.
613
659
        # <https://launchpad.net/products/bzr/+bug/40508>
614
 
        return {'preexec_fn': _ignore_sigint,
 
660
        return {'preexec_fn': _ignore_signals,
615
661
                'close_fds': True,
616
662
                }
617
663
 
618
 
 
619
 
class SSHSubprocess(object):
620
 
    """A socket-like object that talks to an ssh subprocess via pipes."""
621
 
 
622
 
    def __init__(self, proc):
 
664
import weakref
 
665
_subproc_weakrefs = set()
 
666
 
 
667
def _close_ssh_proc(proc, sock):
 
668
    """Carefully close stdin/stdout and reap the SSH process.
 
669
 
 
670
    If the pipes are already closed and/or the process has already been
 
671
    wait()ed on, that's ok, and no error is raised.  The goal is to do our best
 
672
    to clean up (whether or not a clean up was already tried).
 
673
    """
 
674
    funcs = []
 
675
    for closeable in (proc.stdin, proc.stdout, sock):
 
676
        # We expect that either proc (a subprocess.Popen) will have stdin and
 
677
        # stdout streams to close, or that we will have been passed a socket to
 
678
        # close, with the option not in use being None.
 
679
        if closeable is not None:
 
680
            funcs.append(closeable.close)
 
681
    funcs.append(proc.wait)
 
682
    for func in funcs:
 
683
        try:
 
684
            func()
 
685
        except OSError:
 
686
            # It's ok for the pipe to already be closed, or the process to
 
687
            # already be finished.
 
688
            continue
 
689
 
 
690
 
 
691
class SSHConnection(object):
 
692
    """Abstract base class for SSH connections."""
 
693
 
 
694
    def get_sock_or_pipes(self):
 
695
        """Returns a (kind, io_object) pair.
 
696
 
 
697
        If kind == 'socket', then io_object is a socket.
 
698
 
 
699
        If kind == 'pipes', then io_object is a pair of file-like objects
 
700
        (read_from, write_to).
 
701
        """
 
702
        raise NotImplementedError(self.get_sock_or_pipes)
 
703
 
 
704
    def close(self):
 
705
        raise NotImplementedError(self.close)
 
706
 
 
707
 
 
708
class SSHSubprocessConnection(SSHConnection):
 
709
    """A connection to an ssh subprocess via pipes or a socket.
 
710
 
 
711
    This class is also socket-like enough to be used with
 
712
    SocketAsChannelAdapter (it has 'send' and 'recv' methods).
 
713
    """
 
714
 
 
715
    def __init__(self, proc, sock=None):
 
716
        """Constructor.
 
717
 
 
718
        :param proc: a subprocess.Popen
 
719
        :param sock: if proc.stdin/out is a socket from a socketpair, then sock
 
720
            should bzrlib's half of that socketpair.  If not passed, proc's
 
721
            stdin/out is assumed to be ordinary pipes.
 
722
        """
623
723
        self.proc = proc
 
724
        self._sock = sock
 
725
        # Add a weakref to proc that will attempt to do the same as self.close
 
726
        # to avoid leaving processes lingering indefinitely.
 
727
        def terminate(ref):
 
728
            _subproc_weakrefs.remove(ref)
 
729
            _close_ssh_proc(proc, sock)
 
730
        _subproc_weakrefs.add(weakref.ref(self, terminate))
624
731
 
625
732
    def send(self, data):
626
 
        return os.write(self.proc.stdin.fileno(), data)
 
733
        if self._sock is not None:
 
734
            return self._sock.send(data)
 
735
        else:
 
736
            return os.write(self.proc.stdin.fileno(), data)
627
737
 
628
738
    def recv(self, count):
629
 
        return os.read(self.proc.stdout.fileno(), count)
630
 
 
631
 
    def close(self):
632
 
        self.proc.stdin.close()
633
 
        self.proc.stdout.close()
634
 
        self.proc.wait()
635
 
 
636
 
    def get_filelike_channels(self):
637
 
        return (self.proc.stdout, self.proc.stdin)
 
739
        if self._sock is not None:
 
740
            return self._sock.recv(count)
 
741
        else:
 
742
            return os.read(self.proc.stdout.fileno(), count)
 
743
 
 
744
    def close(self):
 
745
        _close_ssh_proc(self.proc, self._sock)
 
746
 
 
747
    def get_sock_or_pipes(self):
 
748
        if self._sock is not None:
 
749
            return 'socket', self._sock
 
750
        else:
 
751
            return 'pipes', (self.proc.stdout, self.proc.stdin)
 
752
 
 
753
 
 
754
class _ParamikoSSHConnection(SSHConnection):
 
755
    """An SSH connection via paramiko."""
 
756
 
 
757
    def __init__(self, channel):
 
758
        self.channel = channel
 
759
 
 
760
    def get_sock_or_pipes(self):
 
761
        return ('socket', self.channel)
 
762
 
 
763
    def close(self):
 
764
        return self.channel.close()
 
765
 
638
766