~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/transport/sftp.py

  • Committer: Martin Pool
  • Date: 2006-08-10 01:16:16 UTC
  • mto: (1904.1.2 0.9)
  • mto: This revision was merged to the branch mainline in revision 1913.
  • Revision ID: mbp@sourcefrog.net-20060810011616-d74881eba696e746
compare_trees is deprecated in 0.9 not 0.10

Show diffs side-by-side

added added

removed removed

Lines of Context:
17
17
 
18
18
"""Implementation of Transport over SFTP, using paramiko."""
19
19
 
20
 
# TODO: Remove the transport-based lock_read and lock_write methods.  They'll
21
 
# then raise TransportNotPossible, which will break remote access to any
22
 
# formats which rely on OS-level locks.  That should be fine as those formats
23
 
# are pretty old, but these combinations may have to be removed from the test
24
 
# suite.  Those formats all date back to 0.7; so we should be able to remove
25
 
# these methods when we officially drop support for those formats.
26
 
 
27
20
import errno
 
21
import getpass
 
22
import itertools
28
23
import os
29
24
import random
 
25
import re
30
26
import select
31
27
import socket
32
28
import stat
 
29
import subprocess
33
30
import sys
34
31
import time
35
32
import urllib
36
33
import urlparse
37
34
import weakref
38
35
 
39
 
from bzrlib import (
40
 
    errors,
41
 
    urlutils,
42
 
    )
43
 
from bzrlib.errors import (FileExists,
44
 
                           NoSuchFile, PathNotChild,
 
36
from bzrlib.config import config_dir, ensure_config_dir_exists
 
37
from bzrlib.errors import (ConnectionError,
 
38
                           FileExists, 
 
39
                           TransportNotPossible, NoSuchFile, PathNotChild,
45
40
                           TransportError,
46
 
                           LockError,
 
41
                           LockError, 
47
42
                           PathError,
48
43
                           ParamikoNotPresent,
49
44
                           )
50
45
from bzrlib.osutils import pathjoin, fancy_rename, getcwd
51
 
from bzrlib.trace import mutter, warning
 
46
from bzrlib.trace import mutter, warning, error
52
47
from bzrlib.transport import (
53
48
    register_urlparse_netloc_protocol,
54
49
    Server,
55
50
    split_url,
56
 
    ssh,
57
51
    Transport,
58
52
    )
 
53
import bzrlib.ui
 
54
import bzrlib.urlutils as urlutils
59
55
 
60
56
try:
61
57
    import paramiko
67
63
                               CMD_HANDLE, CMD_OPEN)
68
64
    from paramiko.sftp_attr import SFTPAttributes
69
65
    from paramiko.sftp_file import SFTPFile
 
66
    from paramiko.sftp_client import SFTPClient
70
67
 
71
68
 
72
69
register_urlparse_netloc_protocol('sftp')
73
70
 
74
71
 
 
72
def _ignore_sigint():
 
73
    # TODO: This should possibly ignore SIGHUP as well, but bzr currently
 
74
    # doesn't handle it itself.
 
75
    # <https://launchpad.net/products/bzr/+bug/41433/+index>
 
76
    import signal
 
77
    signal.signal(signal.SIGINT, signal.SIG_IGN)
 
78
    
 
79
 
 
80
def os_specific_subprocess_params():
 
81
    """Get O/S specific subprocess parameters."""
 
82
    if sys.platform == 'win32':
 
83
        # setting the process group and closing fds is not supported on 
 
84
        # win32
 
85
        return {}
 
86
    else:
 
87
        # We close fds other than the pipes as the child process does not need 
 
88
        # them to be open.
 
89
        #
 
90
        # We also set the child process to ignore SIGINT.  Normally the signal
 
91
        # would be sent to every process in the foreground process group, but
 
92
        # this causes it to be seen only by bzr and not by ssh.  Python will
 
93
        # generate a KeyboardInterrupt in bzr, and we will then have a chance
 
94
        # to release locks or do other cleanup over ssh before the connection
 
95
        # goes away.  
 
96
        # <https://launchpad.net/products/bzr/+bug/5987>
 
97
        #
 
98
        # Running it in a separate process group is not good because then it
 
99
        # can't get non-echoed input of a password or passphrase.
 
100
        # <https://launchpad.net/products/bzr/+bug/40508>
 
101
        return {'preexec_fn': _ignore_sigint,
 
102
                'close_fds': True,
 
103
                }
 
104
 
 
105
 
 
106
_paramiko_version = getattr(paramiko, '__version_info__', (0, 0, 0))
 
107
# don't use prefetch unless paramiko version >= 1.5.5 (there were bugs earlier)
 
108
_default_do_prefetch = (_paramiko_version >= (1, 5, 5))
 
109
 
 
110
# Paramiko 1.5 tries to open a socket.AF_UNIX in order to connect
 
111
# to ssh-agent. That attribute doesn't exist on win32 (it does in cygwin)
 
112
# so we get an AttributeError exception. So we will not try to
 
113
# connect to an agent if we are on win32 and using Paramiko older than 1.6
 
114
_use_ssh_agent = (sys.platform != 'win32' or _paramiko_version >= (1, 6, 0))
 
115
 
 
116
 
 
117
_ssh_vendor = None
 
118
def _get_ssh_vendor():
 
119
    """Find out what version of SSH is on the system."""
 
120
    global _ssh_vendor
 
121
    if _ssh_vendor is not None:
 
122
        return _ssh_vendor
 
123
 
 
124
    _ssh_vendor = 'none'
 
125
 
 
126
    if 'BZR_SSH' in os.environ:
 
127
        _ssh_vendor = os.environ['BZR_SSH']
 
128
        if _ssh_vendor == 'paramiko':
 
129
            _ssh_vendor = 'none'
 
130
        return _ssh_vendor
 
131
 
 
132
    try:
 
133
        p = subprocess.Popen(['ssh', '-V'],
 
134
                             stdin=subprocess.PIPE,
 
135
                             stdout=subprocess.PIPE,
 
136
                             stderr=subprocess.PIPE,
 
137
                             **os_specific_subprocess_params())
 
138
        returncode = p.returncode
 
139
        stdout, stderr = p.communicate()
 
140
    except OSError:
 
141
        returncode = -1
 
142
        stdout = stderr = ''
 
143
    if 'OpenSSH' in stderr:
 
144
        mutter('ssh implementation is OpenSSH')
 
145
        _ssh_vendor = 'openssh'
 
146
    elif 'SSH Secure Shell' in stderr:
 
147
        mutter('ssh implementation is SSH Corp.')
 
148
        _ssh_vendor = 'ssh'
 
149
 
 
150
    if _ssh_vendor != 'none':
 
151
        return _ssh_vendor
 
152
 
 
153
    # XXX: 20051123 jamesh
 
154
    # A check for putty's plink or lsh would go here.
 
155
 
 
156
    mutter('falling back to paramiko implementation')
 
157
    return _ssh_vendor
 
158
 
 
159
 
 
160
class SFTPSubprocess:
 
161
    """A socket-like object that talks to an ssh subprocess via pipes."""
 
162
    def __init__(self, hostname, vendor, port=None, user=None):
 
163
        assert vendor in ['openssh', 'ssh']
 
164
        if vendor == 'openssh':
 
165
            args = ['ssh',
 
166
                    '-oForwardX11=no', '-oForwardAgent=no',
 
167
                    '-oClearAllForwardings=yes', '-oProtocol=2',
 
168
                    '-oNoHostAuthenticationForLocalhost=yes']
 
169
            if port is not None:
 
170
                args.extend(['-p', str(port)])
 
171
            if user is not None:
 
172
                args.extend(['-l', user])
 
173
            args.extend(['-s', hostname, 'sftp'])
 
174
        elif vendor == 'ssh':
 
175
            args = ['ssh', '-x']
 
176
            if port is not None:
 
177
                args.extend(['-p', str(port)])
 
178
            if user is not None:
 
179
                args.extend(['-l', user])
 
180
            args.extend(['-s', 'sftp', hostname])
 
181
 
 
182
        self.proc = subprocess.Popen(args,
 
183
                                     stdin=subprocess.PIPE,
 
184
                                     stdout=subprocess.PIPE,
 
185
                                     **os_specific_subprocess_params())
 
186
 
 
187
    def send(self, data):
 
188
        return os.write(self.proc.stdin.fileno(), data)
 
189
 
 
190
    def recv_ready(self):
 
191
        # TODO: jam 20051215 this function is necessary to support the
 
192
        # pipelined() function. In reality, it probably should use
 
193
        # poll() or select() to actually return if there is data
 
194
        # available, otherwise we probably don't get any benefit
 
195
        return True
 
196
 
 
197
    def recv(self, count):
 
198
        return os.read(self.proc.stdout.fileno(), count)
 
199
 
 
200
    def close(self):
 
201
        self.proc.stdin.close()
 
202
        self.proc.stdout.close()
 
203
        self.proc.wait()
 
204
 
 
205
 
 
206
class LoopbackSFTP(object):
 
207
    """Simple wrapper for a socket that pretends to be a paramiko Channel."""
 
208
 
 
209
    def __init__(self, sock):
 
210
        self.__socket = sock
 
211
 
 
212
    def send(self, data):
 
213
        return self.__socket.send(data)
 
214
 
 
215
    def recv(self, n):
 
216
        return self.__socket.recv(n)
 
217
 
 
218
    def recv_ready(self):
 
219
        return True
 
220
 
 
221
    def close(self):
 
222
        self.__socket.close()
 
223
 
 
224
 
 
225
SYSTEM_HOSTKEYS = {}
 
226
BZR_HOSTKEYS = {}
 
227
 
75
228
# This is a weakref dictionary, so that we can reuse connections
76
229
# that are still active. Long term, it might be nice to have some
77
230
# sort of expiration policy, such as disconnect if inactive for
78
231
# X seconds. But that requires a lot more fanciness.
79
232
_connected_hosts = weakref.WeakValueDictionary()
80
233
 
81
 
 
82
 
_paramiko_version = getattr(paramiko, '__version_info__', (0, 0, 0))
83
 
# don't use prefetch unless paramiko version >= 1.5.5 (there were bugs earlier)
84
 
_default_do_prefetch = (_paramiko_version >= (1, 5, 5))
85
 
 
86
 
 
87
234
def clear_connection_cache():
88
235
    """Remove all hosts from the SFTP connection cache.
89
236
 
92
239
    _connected_hosts.clear()
93
240
 
94
241
 
 
242
def load_host_keys():
 
243
    """
 
244
    Load system host keys (probably doesn't work on windows) and any
 
245
    "discovered" keys from previous sessions.
 
246
    """
 
247
    global SYSTEM_HOSTKEYS, BZR_HOSTKEYS
 
248
    try:
 
249
        SYSTEM_HOSTKEYS = paramiko.util.load_host_keys(os.path.expanduser('~/.ssh/known_hosts'))
 
250
    except Exception, e:
 
251
        mutter('failed to load system host keys: ' + str(e))
 
252
    bzr_hostkey_path = pathjoin(config_dir(), 'ssh_host_keys')
 
253
    try:
 
254
        BZR_HOSTKEYS = paramiko.util.load_host_keys(bzr_hostkey_path)
 
255
    except Exception, e:
 
256
        mutter('failed to load bzr host keys: ' + str(e))
 
257
        save_host_keys()
 
258
 
 
259
 
 
260
def save_host_keys():
 
261
    """
 
262
    Save "discovered" host keys in $(config)/ssh_host_keys/.
 
263
    """
 
264
    global SYSTEM_HOSTKEYS, BZR_HOSTKEYS
 
265
    bzr_hostkey_path = pathjoin(config_dir(), 'ssh_host_keys')
 
266
    ensure_config_dir_exists()
 
267
 
 
268
    try:
 
269
        f = open(bzr_hostkey_path, 'w')
 
270
        f.write('# SSH host keys collected by bzr\n')
 
271
        for hostname, keys in BZR_HOSTKEYS.iteritems():
 
272
            for keytype, key in keys.iteritems():
 
273
                f.write('%s %s %s\n' % (hostname, keytype, key.get_base64()))
 
274
        f.close()
 
275
    except IOError, e:
 
276
        mutter('failed to save bzr host keys: ' + str(e))
 
277
 
 
278
 
95
279
class SFTPLock(object):
96
 
    """This fakes a lock in a remote location.
97
 
    
98
 
    A present lock is indicated just by the existence of a file.  This
99
 
    doesn't work well on all transports and they are only used in 
100
 
    deprecated storage formats.
101
 
    """
102
 
    
 
280
    """This fakes a lock in a remote location."""
103
281
    __slots__ = ['path', 'lock_path', 'lock_file', 'transport']
104
 
 
105
282
    def __init__(self, path, transport):
106
283
        assert isinstance(transport, SFTPTransport)
107
284
 
134
311
            pass
135
312
 
136
313
 
137
 
class SFTPUrlHandling(Transport):
138
 
    """Mix-in that does common handling of SSH/SFTP URLs."""
139
 
 
140
 
    def __init__(self, base):
141
 
        self._parse_url(base)
142
 
        base = self._unparse_url(self._path)
143
 
        if base[-1] != '/':
144
 
            base += '/'
145
 
        super(SFTPUrlHandling, self).__init__(base)
146
 
 
147
 
    def _parse_url(self, url):
148
 
        (self._scheme,
149
 
         self._username, self._password,
150
 
         self._host, self._port, self._path) = self._split_url(url)
151
 
 
152
 
    def _unparse_url(self, path):
153
 
        """Return a URL for a path relative to this transport.
154
 
        """
155
 
        path = urllib.quote(path)
156
 
        # handle homedir paths
157
 
        if not path.startswith('/'):
158
 
            path = "/~/" + path
159
 
        netloc = urllib.quote(self._host)
160
 
        if self._username is not None:
161
 
            netloc = '%s@%s' % (urllib.quote(self._username), netloc)
162
 
        if self._port is not None:
163
 
            netloc = '%s:%d' % (netloc, self._port)
164
 
        return urlparse.urlunparse((self._scheme, netloc, path, '', '', ''))
165
 
 
166
 
    def _split_url(self, url):
167
 
        (scheme, username, password, host, port, path) = split_url(url)
168
 
        ## assert scheme == 'sftp'
169
 
 
170
 
        # the initial slash should be removed from the path, and treated
171
 
        # as a homedir relative path (the path begins with a double slash
172
 
        # if it is absolute).
173
 
        # see draft-ietf-secsh-scp-sftp-ssh-uri-03.txt
174
 
        # RBC 20060118 we are not using this as its too user hostile. instead
175
 
        # we are following lftp and using /~/foo to mean '~/foo'.
176
 
        # handle homedir paths
177
 
        if path.startswith('/~/'):
178
 
            path = path[3:]
179
 
        elif path == '/~':
180
 
            path = ''
181
 
        return (scheme, username, password, host, port, path)
182
 
 
183
 
    def abspath(self, relpath):
184
 
        """Return the full url to the given relative path.
185
 
        
186
 
        @param relpath: the relative path or path components
187
 
        @type relpath: str or list
188
 
        """
189
 
        return self._unparse_url(self._remote_path(relpath))
190
 
    
191
 
    def _remote_path(self, relpath):
192
 
        """Return the path to be passed along the sftp protocol for relpath.
193
 
        
194
 
        :param relpath: is a urlencoded string.
195
 
        """
196
 
        return self._combine_paths(self._path, relpath)
197
 
 
198
 
 
199
 
class SFTPTransport(SFTPUrlHandling):
200
 
    """Transport implementation for SFTP access."""
 
314
class SFTPTransport (Transport):
 
315
    """Transport implementation for SFTP access"""
201
316
 
202
317
    _do_prefetch = _default_do_prefetch
203
318
    # TODO: jam 20060717 Conceivably these could be configurable, either
218
333
    _max_request_size = 32768
219
334
 
220
335
    def __init__(self, base, clone_from=None):
 
336
        assert base.startswith('sftp://')
 
337
        self._parse_url(base)
 
338
        base = self._unparse_url()
 
339
        if base[-1] != '/':
 
340
            base += '/'
221
341
        super(SFTPTransport, self).__init__(base)
222
342
        if clone_from is None:
223
343
            self._sftp_connect()
243
363
        else:
244
364
            return SFTPTransport(self.abspath(offset), self)
245
365
 
 
366
    def abspath(self, relpath):
 
367
        """
 
368
        Return the full url to the given relative path.
 
369
        
 
370
        @param relpath: the relative path or path components
 
371
        @type relpath: str or list
 
372
        """
 
373
        return self._unparse_url(self._remote_path(relpath))
 
374
    
246
375
    def _remote_path(self, relpath):
247
376
        """Return the path to be passed along the sftp protocol for relpath.
248
377
        
249
378
        relpath is a urlencoded string.
250
 
 
251
 
        :return: a path prefixed with / for regular abspath-based urls, or a
252
 
            path that does not begin with / for urls which begin with /~/.
253
379
        """
254
 
        # how does this work? 
255
 
        # it processes relpath with respect to 
256
 
        # our state:
257
 
        # firstly we create a path to evaluate: 
258
 
        # if relpath is an abspath or homedir path, its the entire thing
259
 
        # otherwise we join our base with relpath
260
 
        # then we eliminate all empty segments (double //'s) outside the first
261
 
        # two elements of the list. This avoids problems with trailing 
262
 
        # slashes, or other abnormalities.
263
 
        # finally we evaluate the entire path in a single pass
264
 
        # '.'s are stripped,
265
 
        # '..' result in popping the left most already 
266
 
        # processed path (which can never be empty because of the check for
267
 
        # abspath and homedir meaning that its not, or that we've used our
268
 
        # path. If the pop would pop the root, we ignore it.
269
 
 
270
 
        # Specific case examinations:
271
 
        # remove the special casefor ~: if the current root is ~/ popping of it
272
 
        # = / thus our seed for a ~ based path is ['', '~']
273
 
        # and if we end up with [''] then we had basically ('', '..') (which is
274
 
        # '/..' so we append '' if the length is one, and assert that the first
275
 
        # element is still ''. Lastly, if we end with ['', '~'] as a prefix for
276
 
        # the output, we've got a homedir path, so we strip that prefix before
277
 
        # '/' joining the resulting list.
278
 
        #
279
 
        # case one: '/' -> ['', ''] cannot shrink
280
 
        # case two: '/' + '../foo' -> ['', 'foo'] (take '', '', '..', 'foo')
281
 
        #           and pop the second '' for the '..', append 'foo'
282
 
        # case three: '/~/' -> ['', '~', ''] 
283
 
        # case four: '/~/' + '../foo' -> ['', '~', '', '..', 'foo'],
284
 
        #           and we want to get '/foo' - the empty path in the middle
285
 
        #           needs to be stripped, then normal path manipulation will 
286
 
        #           work.
287
 
        # case five: '/..' ['', '..'], we want ['', '']
288
 
        #            stripping '' outside the first two is ok
289
 
        #            ignore .. if its too high up
290
 
        #
291
 
        # lastly this code is possibly reusable by FTP, but not reusable by
292
 
        # local paths: ~ is resolvable correctly, nor by HTTP or the smart
293
 
        # server: ~ is resolved remotely.
294
 
        # 
295
 
        # however, a version of this that acts on self.base is possible to be
296
 
        # written which manipulates the URL in canonical form, and would be
297
 
        # reusable for all transports, if a flag for allowing ~/ at all was
298
 
        # provided.
 
380
        # FIXME: share the common code across transports
299
381
        assert isinstance(relpath, basestring)
300
 
        relpath = urlutils.unescape(relpath)
301
 
 
302
 
        # case 1)
303
 
        if relpath.startswith('/'):
304
 
            # abspath - normal split is fine.
305
 
            current_path = relpath.split('/')
306
 
        elif relpath.startswith('~/'):
307
 
            # root is homedir based: normal split and prefix '' to remote the
308
 
            # special case
309
 
            current_path = [''].extend(relpath.split('/'))
310
 
        else:
311
 
            # root is from the current directory:
312
 
            if self._path.startswith('/'):
313
 
                # abspath, take the regular split
314
 
                current_path = []
315
 
            else:
316
 
                # homedir based, add the '', '~' not present in self._path
317
 
                current_path = ['', '~']
318
 
            # add our current dir
319
 
            current_path.extend(self._path.split('/'))
320
 
            # add the users relpath
321
 
            current_path.extend(relpath.split('/'))
322
 
        # strip '' segments that are not in the first one - the leading /.
323
 
        to_process = current_path[:1]
324
 
        for segment in current_path[1:]:
325
 
            if segment != '':
326
 
                to_process.append(segment)
327
 
 
328
 
        # process '.' and '..' segments into output_path.
329
 
        output_path = []
330
 
        for segment in to_process:
331
 
            if segment == '..':
332
 
                # directory pop. Remove a directory 
333
 
                # as long as we are not at the root
334
 
                if len(output_path) > 1:
335
 
                    output_path.pop()
336
 
                # else: pass
337
 
                # cannot pop beyond the root, so do nothing
338
 
            elif segment == '.':
339
 
                continue # strip the '.' from the output.
340
 
            else:
341
 
                # this will append '' to output_path for the root elements,
342
 
                # which is appropriate: its why we strip '' in the first pass.
343
 
                output_path.append(segment)
344
 
 
345
 
        # check output special cases:
346
 
        if output_path == ['']:
347
 
            # [''] -> ['', '']
348
 
            output_path = ['', '']
349
 
        elif output_path[:2] == ['', '~']:
350
 
            # ['', '~', ...] -> ...
351
 
            output_path = output_path[2:]
352
 
        path = '/'.join(output_path)
 
382
        relpath = urlutils.unescape(relpath).split('/')
 
383
        basepath = self._path.split('/')
 
384
        if len(basepath) > 0 and basepath[-1] == '':
 
385
            basepath = basepath[:-1]
 
386
 
 
387
        for p in relpath:
 
388
            if p == '..':
 
389
                if len(basepath) == 0:
 
390
                    # In most filesystems, a request for the parent
 
391
                    # of root, just returns root.
 
392
                    continue
 
393
                basepath.pop()
 
394
            elif p == '.':
 
395
                continue # No-op
 
396
            else:
 
397
                basepath.append(p)
 
398
 
 
399
        path = '/'.join(basepath)
 
400
        # mutter('relpath => remotepath %s => %s', relpath, path)
353
401
        return path
354
402
 
355
403
    def relpath(self, abspath):
356
 
        scheme, username, password, host, port, path = self._split_url(abspath)
 
404
        username, password, host, port, path = self._split_url(abspath)
357
405
        error = []
358
406
        if (username != self._username):
359
407
            error.append('username mismatch')
407
455
            fp = self._sftp.file(path, mode='rb')
408
456
            readv = getattr(fp, 'readv', None)
409
457
            if readv:
410
 
                return self._sftp_readv(fp, offsets, relpath)
 
458
                return self._sftp_readv(fp, offsets)
411
459
            mutter('seek and read %s offsets', len(offsets))
412
 
            return self._seek_and_read(fp, offsets, relpath)
 
460
            return self._seek_and_read(fp, offsets)
413
461
        except (IOError, paramiko.SSHException), e:
414
462
            self._translate_io_exception(e, path, ': error retrieving')
415
463
 
416
 
    def _sftp_readv(self, fp, offsets, relpath='<unknown>'):
 
464
    def _sftp_readv(self, fp, offsets):
417
465
        """Use the readv() member of fp to do async readv.
418
466
 
419
467
        And then read them using paramiko.readv(). paramiko.readv()
506
554
                yield cur_offset_and_size[0], this_data
507
555
                cur_offset_and_size = offset_stack.next()
508
556
 
509
 
            # We read a coalesced entry, so mark it as done
510
 
            cur_coalesced = None
511
557
            # Now that we've read all of the data for this coalesced section
512
558
            # on to the next
513
559
            cur_coalesced = cur_coalesced_stack.next()
514
560
 
515
 
        if cur_coalesced is not None:
516
 
            raise errors.ShortReadvError(relpath, cur_coalesced.start,
517
 
                cur_coalesced.length, len(data))
518
 
 
519
 
    def put_file(self, relpath, f, mode=None):
 
561
    def put(self, relpath, f, mode=None):
520
562
        """
521
 
        Copy the file-like object into the location.
 
563
        Copy the file-like or string object into the location.
522
564
 
523
565
        :param relpath: Location to put the contents, relative to base.
524
 
        :param f:       File-like object.
 
566
        :param f:       File-like or string object.
525
567
        :param mode: The final mode for the file
526
568
        """
527
569
        final_path = self._remote_path(relpath)
539
581
                self._pump(f, fout)
540
582
            except (IOError, paramiko.SSHException), e:
541
583
                self._translate_io_exception(e, tmp_abspath)
542
 
            # XXX: This doesn't truly help like we would like it to.
543
 
            #      The problem is that openssh strips sticky bits. So while we
544
 
            #      can properly set group write permission, we lose the group
545
 
            #      sticky bit. So it is probably best to stop chmodding, and
546
 
            #      just tell users that they need to set the umask correctly.
547
 
            #      The attr.st_mode = mode, in _sftp_open_exclusive
548
 
            #      will handle when the user wants the final mode to be more 
549
 
            #      restrictive. And then we avoid a round trip. Unless 
550
 
            #      paramiko decides to expose an async chmod()
551
 
 
552
 
            # This is designed to chmod() right before we close.
553
 
            # Because we set_pipelined() earlier, theoretically we might 
554
 
            # avoid the round trip for fout.close()
555
584
            if mode is not None:
556
585
                self._sftp.chmod(tmp_abspath, mode)
557
586
            fout.close()
575
604
            # raise the original with its traceback if we can.
576
605
            raise
577
606
 
578
 
    def _put_non_atomic_helper(self, relpath, writer, mode=None,
579
 
                               create_parent_dir=False,
580
 
                               dir_mode=None):
581
 
        abspath = self._remote_path(relpath)
582
 
 
583
 
        # TODO: jam 20060816 paramiko doesn't publicly expose a way to
584
 
        #       set the file mode at create time. If it does, use it.
585
 
        #       But for now, we just chmod later anyway.
586
 
 
587
 
        def _open_and_write_file():
588
 
            """Try to open the target file, raise error on failure"""
589
 
            fout = None
590
 
            try:
591
 
                try:
592
 
                    fout = self._sftp.file(abspath, mode='wb')
593
 
                    fout.set_pipelined(True)
594
 
                    writer(fout)
595
 
                except (paramiko.SSHException, IOError), e:
596
 
                    self._translate_io_exception(e, abspath,
597
 
                                                 ': unable to open')
598
 
 
599
 
                # This is designed to chmod() right before we close.
600
 
                # Because we set_pipelined() earlier, theoretically we might 
601
 
                # avoid the round trip for fout.close()
602
 
                if mode is not None:
603
 
                    self._sftp.chmod(abspath, mode)
604
 
            finally:
605
 
                if fout is not None:
606
 
                    fout.close()
607
 
 
608
 
        if not create_parent_dir:
609
 
            _open_and_write_file()
610
 
            return
611
 
 
612
 
        # Try error handling to create the parent directory if we need to
613
 
        try:
614
 
            _open_and_write_file()
615
 
        except NoSuchFile:
616
 
            # Try to create the parent directory, and then go back to
617
 
            # writing the file
618
 
            parent_dir = os.path.dirname(abspath)
619
 
            self._mkdir(parent_dir, dir_mode)
620
 
            _open_and_write_file()
621
 
 
622
 
    def put_file_non_atomic(self, relpath, f, mode=None,
623
 
                            create_parent_dir=False,
624
 
                            dir_mode=None):
625
 
        """Copy the file-like object into the target location.
626
 
 
627
 
        This function is not strictly safe to use. It is only meant to
628
 
        be used when you already know that the target does not exist.
629
 
        It is not safe, because it will open and truncate the remote
630
 
        file. So there may be a time when the file has invalid contents.
631
 
 
632
 
        :param relpath: The remote location to put the contents.
633
 
        :param f:       File-like object.
634
 
        :param mode:    Possible access permissions for new file.
635
 
                        None means do not set remote permissions.
636
 
        :param create_parent_dir: If we cannot create the target file because
637
 
                        the parent directory does not exist, go ahead and
638
 
                        create it, and then try again.
639
 
        """
640
 
        def writer(fout):
641
 
            self._pump(f, fout)
642
 
        self._put_non_atomic_helper(relpath, writer, mode=mode,
643
 
                                    create_parent_dir=create_parent_dir,
644
 
                                    dir_mode=dir_mode)
645
 
 
646
 
    def put_bytes_non_atomic(self, relpath, bytes, mode=None,
647
 
                             create_parent_dir=False,
648
 
                             dir_mode=None):
649
 
        def writer(fout):
650
 
            fout.write(bytes)
651
 
        self._put_non_atomic_helper(relpath, writer, mode=mode,
652
 
                                    create_parent_dir=create_parent_dir,
653
 
                                    dir_mode=dir_mode)
654
 
 
655
607
    def iter_files_recursive(self):
656
608
        """Walk the relative paths of all files in this transport."""
657
609
        queue = list(self.list_dir('.'))
658
610
        while queue:
659
 
            relpath = queue.pop(0)
 
611
            relpath = urllib.quote(queue.pop(0))
660
612
            st = self.stat(relpath)
661
613
            if stat.S_ISDIR(st.st_mode):
662
614
                for i, basename in enumerate(self.list_dir(relpath)):
664
616
            else:
665
617
                yield relpath
666
618
 
667
 
    def _mkdir(self, abspath, mode=None):
668
 
        if mode is None:
669
 
            local_mode = 0777
670
 
        else:
671
 
            local_mode = mode
672
 
        try:
673
 
            self._sftp.mkdir(abspath, local_mode)
674
 
            if mode is not None:
675
 
                self._sftp.chmod(abspath, mode=mode)
676
 
        except (paramiko.SSHException, IOError), e:
677
 
            self._translate_io_exception(e, abspath, ': unable to mkdir',
678
 
                failure_exc=FileExists)
679
 
 
680
619
    def mkdir(self, relpath, mode=None):
681
620
        """Create a directory at the given path."""
682
 
        self._mkdir(self._remote_path(relpath), mode=mode)
 
621
        path = self._remote_path(relpath)
 
622
        try:
 
623
            # In the paramiko documentation, it says that passing a mode flag 
 
624
            # will filtered against the server umask.
 
625
            # StubSFTPServer does not do this, which would be nice, because it is
 
626
            # what we really want :)
 
627
            # However, real servers do use umask, so we really should do it that way
 
628
            self._sftp.mkdir(path)
 
629
            if mode is not None:
 
630
                self._sftp.chmod(path, mode=mode)
 
631
        except (paramiko.SSHException, IOError), e:
 
632
            self._translate_io_exception(e, path, ': unable to mkdir',
 
633
                failure_exc=FileExists)
683
634
 
684
635
    def _translate_io_exception(self, e, path, more_info='', 
685
636
                                failure_exc=PathError):
697
648
        """
698
649
        # paramiko seems to generate detailless errors.
699
650
        self._translate_error(e, path, raise_generic=False)
700
 
        if getattr(e, 'args', None) is not None:
 
651
        if hasattr(e, 'args'):
701
652
            if (e.args == ('No such file or directory',) or
702
653
                e.args == ('No such file',)):
703
654
                raise NoSuchFile(path, str(e) + more_info)
707
658
            if (e.args == ('Failure',)):
708
659
                raise failure_exc(path, str(e) + more_info)
709
660
            mutter('Raising exception with args %s', e.args)
710
 
        if getattr(e, 'errno', None) is not None:
 
661
        if hasattr(e, 'errno'):
711
662
            mutter('Raising exception with errno %s', e.errno)
712
663
        raise e
713
664
 
714
 
    def append_file(self, relpath, f, mode=None):
 
665
    def append(self, relpath, f, mode=None):
715
666
        """
716
667
        Append the text in the file-like object into the final
717
668
        location.
771
722
        Return a list of all files at the given location.
772
723
        """
773
724
        # does anything actually use this?
774
 
        # -- Unknown
775
 
        # This is at least used by copy_tree for remote upgrades.
776
 
        # -- David Allouche 2006-08-11
777
725
        path = self._remote_path(relpath)
778
726
        try:
779
 
            entries = self._sftp.listdir(path)
 
727
            return self._sftp.listdir(path)
780
728
        except (IOError, paramiko.SSHException), e:
781
729
            self._translate_io_exception(e, path, ': failed to list_dir')
782
 
        return [urlutils.escape(entry) for entry in entries]
783
730
 
784
731
    def rmdir(self, relpath):
785
732
        """See Transport.rmdir."""
823
770
        # that we have taken the lock.
824
771
        return SFTPLock(relpath, self)
825
772
 
 
773
    def _unparse_url(self, path=None):
 
774
        if path is None:
 
775
            path = self._path
 
776
        path = urllib.quote(path)
 
777
        # handle homedir paths
 
778
        if not path.startswith('/'):
 
779
            path = "/~/" + path
 
780
        netloc = urllib.quote(self._host)
 
781
        if self._username is not None:
 
782
            netloc = '%s@%s' % (urllib.quote(self._username), netloc)
 
783
        if self._port is not None:
 
784
            netloc = '%s:%d' % (netloc, self._port)
 
785
        return urlparse.urlunparse(('sftp', netloc, path, '', '', ''))
 
786
 
 
787
    def _split_url(self, url):
 
788
        (scheme, username, password, host, port, path) = split_url(url)
 
789
        assert scheme == 'sftp'
 
790
 
 
791
        # the initial slash should be removed from the path, and treated
 
792
        # as a homedir relative path (the path begins with a double slash
 
793
        # if it is absolute).
 
794
        # see draft-ietf-secsh-scp-sftp-ssh-uri-03.txt
 
795
        # RBC 20060118 we are not using this as its too user hostile. instead
 
796
        # we are following lftp and using /~/foo to mean '~/foo'.
 
797
        # handle homedir paths
 
798
        if path.startswith('/~/'):
 
799
            path = path[3:]
 
800
        elif path == '/~':
 
801
            path = ''
 
802
        return (username, password, host, port, path)
 
803
 
 
804
    def _parse_url(self, url):
 
805
        (self._username, self._password,
 
806
         self._host, self._port, self._path) = self._split_url(url)
 
807
 
826
808
    def _sftp_connect(self):
827
809
        """Connect to the remote sftp server.
828
810
        After this, self._sftp should have a valid connection (or
830
812
 
831
813
        TODO: Raise a more reasonable ConnectionFailed exception
832
814
        """
833
 
        self._sftp = _sftp_connect(self._host, self._port, self._username,
834
 
                self._password)
 
815
        global _connected_hosts
 
816
 
 
817
        idx = (self._host, self._port, self._username)
 
818
        try:
 
819
            self._sftp = _connected_hosts[idx]
 
820
            return
 
821
        except KeyError:
 
822
            pass
 
823
        
 
824
        vendor = _get_ssh_vendor()
 
825
        if vendor == 'loopback':
 
826
            sock = socket.socket()
 
827
            try:
 
828
                sock.connect((self._host, self._port))
 
829
            except socket.error, e:
 
830
                raise ConnectionError('Unable to connect to SSH host %s:%s: %s'
 
831
                                      % (self._host, self._port, e))
 
832
            self._sftp = SFTPClient(LoopbackSFTP(sock))
 
833
        elif vendor != 'none':
 
834
            try:
 
835
                sock = SFTPSubprocess(self._host, vendor, self._port,
 
836
                                      self._username)
 
837
                self._sftp = SFTPClient(sock)
 
838
            except (EOFError, paramiko.SSHException), e:
 
839
                raise ConnectionError('Unable to connect to SSH host %s:%s: %s'
 
840
                                      % (self._host, self._port, e))
 
841
            except (OSError, IOError), e:
 
842
                # If the machine is fast enough, ssh can actually exit
 
843
                # before we try and send it the sftp request, which
 
844
                # raises a Broken Pipe
 
845
                if e.errno not in (errno.EPIPE,):
 
846
                    raise
 
847
                raise ConnectionError('Unable to connect to SSH host %s:%s: %s'
 
848
                                      % (self._host, self._port, e))
 
849
        else:
 
850
            self._paramiko_connect()
 
851
 
 
852
        _connected_hosts[idx] = self._sftp
 
853
 
 
854
    def _paramiko_connect(self):
 
855
        global SYSTEM_HOSTKEYS, BZR_HOSTKEYS
 
856
        
 
857
        load_host_keys()
 
858
 
 
859
        try:
 
860
            t = paramiko.Transport((self._host, self._port or 22))
 
861
            t.set_log_channel('bzr.paramiko')
 
862
            t.start_client()
 
863
        except (paramiko.SSHException, socket.error), e:
 
864
            raise ConnectionError('Unable to reach SSH host %s:%s: %s' 
 
865
                                  % (self._host, self._port, e))
 
866
            
 
867
        server_key = t.get_remote_server_key()
 
868
        server_key_hex = paramiko.util.hexify(server_key.get_fingerprint())
 
869
        keytype = server_key.get_name()
 
870
        if SYSTEM_HOSTKEYS.has_key(self._host) and SYSTEM_HOSTKEYS[self._host].has_key(keytype):
 
871
            our_server_key = SYSTEM_HOSTKEYS[self._host][keytype]
 
872
            our_server_key_hex = paramiko.util.hexify(our_server_key.get_fingerprint())
 
873
        elif BZR_HOSTKEYS.has_key(self._host) and BZR_HOSTKEYS[self._host].has_key(keytype):
 
874
            our_server_key = BZR_HOSTKEYS[self._host][keytype]
 
875
            our_server_key_hex = paramiko.util.hexify(our_server_key.get_fingerprint())
 
876
        else:
 
877
            warning('Adding %s host key for %s: %s' % (keytype, self._host, server_key_hex))
 
878
            if not BZR_HOSTKEYS.has_key(self._host):
 
879
                BZR_HOSTKEYS[self._host] = {}
 
880
            BZR_HOSTKEYS[self._host][keytype] = server_key
 
881
            our_server_key = server_key
 
882
            our_server_key_hex = paramiko.util.hexify(our_server_key.get_fingerprint())
 
883
            save_host_keys()
 
884
        if server_key != our_server_key:
 
885
            filename1 = os.path.expanduser('~/.ssh/known_hosts')
 
886
            filename2 = pathjoin(config_dir(), 'ssh_host_keys')
 
887
            raise TransportError('Host keys for %s do not match!  %s != %s' % \
 
888
                (self._host, our_server_key_hex, server_key_hex),
 
889
                ['Try editing %s or %s' % (filename1, filename2)])
 
890
 
 
891
        self._sftp_auth(t)
 
892
        
 
893
        try:
 
894
            self._sftp = t.open_sftp_client()
 
895
        except paramiko.SSHException, e:
 
896
            raise ConnectionError('Unable to start sftp client %s:%d' %
 
897
                                  (self._host, self._port), e)
 
898
 
 
899
    def _sftp_auth(self, transport):
 
900
        # paramiko requires a username, but it might be none if nothing was supplied
 
901
        # use the local username, just in case.
 
902
        # We don't override self._username, because if we aren't using paramiko,
 
903
        # the username might be specified in ~/.ssh/config and we don't want to
 
904
        # force it to something else
 
905
        # Also, it would mess up the self.relpath() functionality
 
906
        username = self._username or getpass.getuser()
 
907
 
 
908
        if _use_ssh_agent:
 
909
            agent = paramiko.Agent()
 
910
            for key in agent.get_keys():
 
911
                mutter('Trying SSH agent key %s' % paramiko.util.hexify(key.get_fingerprint()))
 
912
                try:
 
913
                    transport.auth_publickey(username, key)
 
914
                    return
 
915
                except paramiko.SSHException, e:
 
916
                    pass
 
917
        
 
918
        # okay, try finding id_rsa or id_dss?  (posix only)
 
919
        if self._try_pkey_auth(transport, paramiko.RSAKey, username, 'id_rsa'):
 
920
            return
 
921
        if self._try_pkey_auth(transport, paramiko.DSSKey, username, 'id_dsa'):
 
922
            return
 
923
 
 
924
        if self._password:
 
925
            try:
 
926
                transport.auth_password(username, self._password)
 
927
                return
 
928
            except paramiko.SSHException, e:
 
929
                pass
 
930
 
 
931
            # FIXME: Don't keep a password held in memory if you can help it
 
932
            #self._password = None
 
933
 
 
934
        # give up and ask for a password
 
935
        password = bzrlib.ui.ui_factory.get_password(
 
936
                prompt='SSH %(user)s@%(host)s password',
 
937
                user=username, host=self._host)
 
938
        try:
 
939
            transport.auth_password(username, password)
 
940
        except paramiko.SSHException, e:
 
941
            raise ConnectionError('Unable to authenticate to SSH host as %s@%s' %
 
942
                                  (username, self._host), e)
 
943
 
 
944
    def _try_pkey_auth(self, transport, pkey_class, username, filename):
 
945
        filename = os.path.expanduser('~/.ssh/' + filename)
 
946
        try:
 
947
            key = pkey_class.from_private_key_file(filename)
 
948
            transport.auth_publickey(username, key)
 
949
            return True
 
950
        except paramiko.PasswordRequiredException:
 
951
            password = bzrlib.ui.ui_factory.get_password(
 
952
                    prompt='SSH %(filename)s password',
 
953
                    filename=filename)
 
954
            try:
 
955
                key = pkey_class.from_private_key_file(filename, password)
 
956
                transport.auth_publickey(username, key)
 
957
                return True
 
958
            except paramiko.SSHException:
 
959
                mutter('SSH authentication via %s key failed.' % (os.path.basename(filename),))
 
960
        except paramiko.SSHException:
 
961
            mutter('SSH authentication via %s key failed.' % (os.path.basename(filename),))
 
962
        except IOError:
 
963
            pass
 
964
        return False
835
965
 
836
966
    def _sftp_open_exclusive(self, abspath, mode=None):
837
967
        """Open a remote path exclusively.
847
977
        :param abspath: The remote absolute path where the file should be opened
848
978
        :param mode: The mode permissions bits for the new file
849
979
        """
850
 
        # TODO: jam 20060816 Paramiko >= 1.6.2 (probably earlier) supports
851
 
        #       using the 'x' flag to indicate SFTP_FLAG_EXCL.
852
 
        #       However, there is no way to set the permission mode at open 
853
 
        #       time using the sftp_client.file() functionality.
854
980
        path = self._sftp._adjust_cwd(abspath)
855
981
        # mutter('sftp abspath %s => %s', abspath, path)
856
982
        attr = SFTPAttributes()
868
994
            self._translate_io_exception(e, abspath, ': unable to open',
869
995
                failure_exc=FileExists)
870
996
 
871
 
    def _can_roundtrip_unix_modebits(self):
872
 
        if sys.platform == 'win32':
873
 
            # anyone else?
874
 
            return False
875
 
        else:
876
 
            return True
877
997
 
878
998
# ------------- server test implementation --------------
 
999
import socket
879
1000
import threading
880
1001
 
881
1002
from bzrlib.tests.stub_sftp import StubServer, StubSFTPServer
944
1065
                        x)
945
1066
 
946
1067
 
947
 
class SocketDelay(object):
948
 
    """A socket decorator to make TCP appear slower.
949
 
 
950
 
    This changes recv, send, and sendall to add a fixed latency to each python
951
 
    call if a new roundtrip is detected. That is, when a recv is called and the
952
 
    flag new_roundtrip is set, latency is charged. Every send and send_all
953
 
    sets this flag.
954
 
 
955
 
    In addition every send, sendall and recv sleeps a bit per character send to
956
 
    simulate bandwidth.
957
 
 
958
 
    Not all methods are implemented, this is deliberate as this class is not a
959
 
    replacement for the builtin sockets layer. fileno is not implemented to
960
 
    prevent the proxy being bypassed. 
961
 
    """
962
 
 
963
 
    simulated_time = 0
964
 
    _proxied_arguments = dict.fromkeys([
965
 
        "close", "getpeername", "getsockname", "getsockopt", "gettimeout",
966
 
        "setblocking", "setsockopt", "settimeout", "shutdown"])
967
 
 
968
 
    def __init__(self, sock, latency, bandwidth=1.0, 
969
 
                 really_sleep=True):
970
 
        """ 
971
 
        :param bandwith: simulated bandwith (MegaBit)
972
 
        :param really_sleep: If set to false, the SocketDelay will just
973
 
        increase a counter, instead of calling time.sleep. This is useful for
974
 
        unittesting the SocketDelay.
975
 
        """
976
 
        self.sock = sock
977
 
        self.latency = latency
978
 
        self.really_sleep = really_sleep
979
 
        self.time_per_byte = 1 / (bandwidth / 8.0 * 1024 * 1024) 
980
 
        self.new_roundtrip = False
981
 
 
982
 
    def sleep(self, s):
983
 
        if self.really_sleep:
984
 
            time.sleep(s)
985
 
        else:
986
 
            SocketDelay.simulated_time += s
987
 
 
988
 
    def __getattr__(self, attr):
989
 
        if attr in SocketDelay._proxied_arguments:
990
 
            return getattr(self.sock, attr)
991
 
        raise AttributeError("'SocketDelay' object has no attribute %r" %
992
 
                             attr)
993
 
 
994
 
    def dup(self):
995
 
        return SocketDelay(self.sock.dup(), self.latency, self.time_per_byte,
996
 
                           self._sleep)
997
 
 
998
 
    def recv(self, *args):
999
 
        data = self.sock.recv(*args)
1000
 
        if data and self.new_roundtrip:
1001
 
            self.new_roundtrip = False
1002
 
            self.sleep(self.latency)
1003
 
        self.sleep(len(data) * self.time_per_byte)
1004
 
        return data
1005
 
 
1006
 
    def sendall(self, data, flags=0):
1007
 
        if not self.new_roundtrip:
1008
 
            self.new_roundtrip = True
1009
 
            self.sleep(self.latency)
1010
 
        self.sleep(len(data) * self.time_per_byte)
1011
 
        return self.sock.sendall(data, flags)
1012
 
 
1013
 
    def send(self, data, flags=0):
1014
 
        if not self.new_roundtrip:
1015
 
            self.new_roundtrip = True
1016
 
            self.sleep(self.latency)
1017
 
        bytes_sent = self.sock.send(data, flags)
1018
 
        self.sleep(bytes_sent * self.time_per_byte)
1019
 
        return bytes_sent
1020
 
 
1021
 
 
1022
1068
class SFTPServer(Server):
1023
1069
    """Common code for SFTP server facilities."""
1024
1070
 
1025
 
    def __init__(self, server_interface=StubServer):
 
1071
    def __init__(self):
1026
1072
        self._original_vendor = None
1027
1073
        self._homedir = None
1028
1074
        self._server_homedir = None
1029
1075
        self._listener = None
1030
1076
        self._root = None
1031
 
        self._vendor = ssh.ParamikoVendor()
1032
 
        self._server_interface = server_interface
 
1077
        self._vendor = 'none'
1033
1078
        # sftp server logs
1034
1079
        self.logs = []
1035
 
        self.add_latency = 0
1036
1080
 
1037
1081
    def _get_sftp_url(self, path):
1038
1082
        """Calculate an sftp url to this server for path."""
1042
1086
        """StubServer uses this to log when a new server is created."""
1043
1087
        self.logs.append(message)
1044
1088
 
1045
 
    def _run_server_entry(self, sock):
1046
 
        """Entry point for all implementations of _run_server.
1047
 
        
1048
 
        If self.add_latency is > 0.000001 then sock is given a latency adding
1049
 
        decorator.
1050
 
        """
1051
 
        if self.add_latency > 0.000001:
1052
 
            sock = SocketDelay(sock, self.add_latency)
1053
 
        return self._run_server(sock)
1054
 
 
1055
1089
    def _run_server(self, s):
1056
1090
        ssh_server = paramiko.Transport(s)
1057
1091
        key_file = pathjoin(self._homedir, 'test_rsa.key')
1060
1094
        f.close()
1061
1095
        host_key = paramiko.RSAKey.from_private_key_file(key_file)
1062
1096
        ssh_server.add_server_key(host_key)
1063
 
        server = self._server_interface(self)
 
1097
        server = StubServer(self)
1064
1098
        ssh_server.set_subsystem_handler('sftp', paramiko.SFTPServer,
1065
1099
                                         StubSFTPServer, root=self._root,
1066
1100
                                         home=self._server_homedir)
1069
1103
        event.wait(5.0)
1070
1104
    
1071
1105
    def setUp(self):
1072
 
        self._original_vendor = ssh._ssh_vendor
1073
 
        ssh._ssh_vendor = self._vendor
 
1106
        global _ssh_vendor
 
1107
        self._original_vendor = _ssh_vendor
 
1108
        _ssh_vendor = self._vendor
1074
1109
        if sys.platform == 'win32':
1075
1110
            # Win32 needs to use the UNICODE api
1076
1111
            self._homedir = getcwd()
1082
1117
        self._root = '/'
1083
1118
        if sys.platform == 'win32':
1084
1119
            self._root = ''
1085
 
        self._listener = SocketListener(self._run_server_entry)
 
1120
        self._listener = SocketListener(self._run_server)
1086
1121
        self._listener.setDaemon(True)
1087
1122
        self._listener.start()
1088
1123
 
1089
1124
    def tearDown(self):
1090
1125
        """See bzrlib.transport.Server.tearDown."""
 
1126
        global _ssh_vendor
1091
1127
        self._listener.stop()
1092
 
        ssh._ssh_vendor = self._original_vendor
 
1128
        _ssh_vendor = self._original_vendor
1093
1129
 
1094
1130
    def get_bogus_url(self):
1095
1131
        """See bzrlib.transport.Server.get_bogus_url."""
1114
1150
 
1115
1151
    def __init__(self):
1116
1152
        super(SFTPServerWithoutSSH, self).__init__()
1117
 
        self._vendor = ssh.LoopbackVendor()
 
1153
        self._vendor = 'loopback'
1118
1154
 
1119
1155
    def _run_server(self, sock):
1120
 
        # Re-import these as locals, so that they're still accessible during
1121
 
        # interpreter shutdown (when all module globals get set to None, leading
1122
 
        # to confusing errors like "'NoneType' object has no attribute 'error'".
1123
1156
        class FakeChannel(object):
1124
1157
            def get_transport(self):
1125
1158
                return self
1175
1208
        super(SFTPSiblingAbsoluteServer, self).setUp()
1176
1209
 
1177
1210
 
1178
 
def _sftp_connect(host, port, username, password):
1179
 
    """Connect to the remote sftp server.
1180
 
 
1181
 
    :raises: a TransportError 'could not connect'.
1182
 
 
1183
 
    :returns: an paramiko.sftp_client.SFTPClient
1184
 
 
1185
 
    TODO: Raise a more reasonable ConnectionFailed exception
1186
 
    """
1187
 
    idx = (host, port, username)
1188
 
    try:
1189
 
        return _connected_hosts[idx]
1190
 
    except KeyError:
1191
 
        pass
1192
 
    
1193
 
    sftp = _sftp_connect_uncached(host, port, username, password)
1194
 
    _connected_hosts[idx] = sftp
1195
 
    return sftp
1196
 
 
1197
 
def _sftp_connect_uncached(host, port, username, password):
1198
 
    vendor = ssh._get_ssh_vendor()
1199
 
    sftp = vendor.connect_sftp(username, password, host, port)
1200
 
    return sftp
1201
 
 
1202
 
 
1203
1211
def get_test_permutations():
1204
1212
    """Return the permutations to be used in testing."""
1205
1213
    return [(SFTPTransport, SFTPAbsoluteServer),