~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/transport/sftp.py

  • Committer: wang
  • Date: 2006-10-29 13:41:32 UTC
  • mto: (2104.4.1 wang_65714)
  • mto: This revision was merged to the branch mainline in revision 2109.
  • Revision ID: wang@ubuntu-20061029134132-3d7f4216f20c4aef
Replace python's difflib by patiencediff because the worst case 
performance is cubic for difflib and people commiting large data 
files are often hurt by this. The worst case performance of patience is 
quadratic. Fix bug 65714.

Show diffs side-by-side

added added

removed removed

Lines of Context:
17
17
 
18
18
"""Implementation of Transport over SFTP, using paramiko."""
19
19
 
 
20
# TODO: Remove the transport-based lock_read and lock_write methods.  They'll
 
21
# then raise TransportNotPossible, which will break remote access to any
 
22
# formats which rely on OS-level locks.  That should be fine as those formats
 
23
# are pretty old, but these combinations may have to be removed from the test
 
24
# suite.  Those formats all date back to 0.7; so we should be able to remove
 
25
# these methods when we officially drop support for those formats.
 
26
 
20
27
import errno
21
 
import getpass
22
 
import itertools
23
28
import os
24
29
import random
25
 
import re
26
30
import select
27
31
import socket
28
32
import stat
29
 
import subprocess
30
33
import sys
31
34
import time
32
35
import urllib
33
36
import urlparse
34
37
import weakref
35
38
 
36
 
from bzrlib.config import config_dir, ensure_config_dir_exists
37
 
from bzrlib.errors import (ConnectionError,
38
 
                           FileExists, 
39
 
                           TransportNotPossible, NoSuchFile, PathNotChild,
 
39
from bzrlib import (
 
40
    errors,
 
41
    urlutils,
 
42
    )
 
43
from bzrlib.errors import (FileExists,
 
44
                           NoSuchFile, PathNotChild,
40
45
                           TransportError,
41
 
                           LockError, 
 
46
                           LockError,
42
47
                           PathError,
43
48
                           ParamikoNotPresent,
44
49
                           )
45
50
from bzrlib.osutils import pathjoin, fancy_rename, getcwd
46
 
from bzrlib.trace import mutter, warning, error
 
51
from bzrlib.trace import mutter, warning
47
52
from bzrlib.transport import (
48
53
    register_urlparse_netloc_protocol,
49
54
    Server,
50
55
    split_url,
 
56
    ssh,
51
57
    Transport,
52
58
    )
53
 
import bzrlib.ui
54
 
import bzrlib.urlutils as urlutils
55
59
 
56
60
try:
57
61
    import paramiko
63
67
                               CMD_HANDLE, CMD_OPEN)
64
68
    from paramiko.sftp_attr import SFTPAttributes
65
69
    from paramiko.sftp_file import SFTPFile
66
 
    from paramiko.sftp_client import SFTPClient
67
70
 
68
71
 
69
72
register_urlparse_netloc_protocol('sftp')
70
73
 
71
74
 
72
 
def _ignore_sigint():
73
 
    # TODO: This should possibly ignore SIGHUP as well, but bzr currently
74
 
    # doesn't handle it itself.
75
 
    # <https://launchpad.net/products/bzr/+bug/41433/+index>
76
 
    import signal
77
 
    signal.signal(signal.SIGINT, signal.SIG_IGN)
78
 
    
79
 
 
80
 
def os_specific_subprocess_params():
81
 
    """Get O/S specific subprocess parameters."""
82
 
    if sys.platform == 'win32':
83
 
        # setting the process group and closing fds is not supported on 
84
 
        # win32
85
 
        return {}
86
 
    else:
87
 
        # We close fds other than the pipes as the child process does not need 
88
 
        # them to be open.
89
 
        #
90
 
        # We also set the child process to ignore SIGINT.  Normally the signal
91
 
        # would be sent to every process in the foreground process group, but
92
 
        # this causes it to be seen only by bzr and not by ssh.  Python will
93
 
        # generate a KeyboardInterrupt in bzr, and we will then have a chance
94
 
        # to release locks or do other cleanup over ssh before the connection
95
 
        # goes away.  
96
 
        # <https://launchpad.net/products/bzr/+bug/5987>
97
 
        #
98
 
        # Running it in a separate process group is not good because then it
99
 
        # can't get non-echoed input of a password or passphrase.
100
 
        # <https://launchpad.net/products/bzr/+bug/40508>
101
 
        return {'preexec_fn': _ignore_sigint,
102
 
                'close_fds': True,
103
 
                }
104
 
 
105
 
 
106
 
_paramiko_version = getattr(paramiko, '__version_info__', (0, 0, 0))
107
 
# don't use prefetch unless paramiko version >= 1.5.5 (there were bugs earlier)
108
 
_default_do_prefetch = (_paramiko_version >= (1, 5, 5))
109
 
 
110
 
# Paramiko 1.5 tries to open a socket.AF_UNIX in order to connect
111
 
# to ssh-agent. That attribute doesn't exist on win32 (it does in cygwin)
112
 
# so we get an AttributeError exception. So we will not try to
113
 
# connect to an agent if we are on win32 and using Paramiko older than 1.6
114
 
_use_ssh_agent = (sys.platform != 'win32' or _paramiko_version >= (1, 6, 0))
115
 
 
116
 
 
117
 
_ssh_vendor = None
118
 
def _get_ssh_vendor():
119
 
    """Find out what version of SSH is on the system."""
120
 
    global _ssh_vendor
121
 
    if _ssh_vendor is not None:
122
 
        return _ssh_vendor
123
 
 
124
 
    _ssh_vendor = 'none'
125
 
 
126
 
    if 'BZR_SSH' in os.environ:
127
 
        _ssh_vendor = os.environ['BZR_SSH']
128
 
        if _ssh_vendor == 'paramiko':
129
 
            _ssh_vendor = 'none'
130
 
        return _ssh_vendor
131
 
 
132
 
    try:
133
 
        p = subprocess.Popen(['ssh', '-V'],
134
 
                             stdin=subprocess.PIPE,
135
 
                             stdout=subprocess.PIPE,
136
 
                             stderr=subprocess.PIPE,
137
 
                             **os_specific_subprocess_params())
138
 
        returncode = p.returncode
139
 
        stdout, stderr = p.communicate()
140
 
    except OSError:
141
 
        returncode = -1
142
 
        stdout = stderr = ''
143
 
    if 'OpenSSH' in stderr:
144
 
        mutter('ssh implementation is OpenSSH')
145
 
        _ssh_vendor = 'openssh'
146
 
    elif 'SSH Secure Shell' in stderr:
147
 
        mutter('ssh implementation is SSH Corp.')
148
 
        _ssh_vendor = 'ssh'
149
 
 
150
 
    if _ssh_vendor != 'none':
151
 
        return _ssh_vendor
152
 
 
153
 
    # XXX: 20051123 jamesh
154
 
    # A check for putty's plink or lsh would go here.
155
 
 
156
 
    mutter('falling back to paramiko implementation')
157
 
    return _ssh_vendor
158
 
 
159
 
 
160
 
class SFTPSubprocess:
161
 
    """A socket-like object that talks to an ssh subprocess via pipes."""
162
 
    def __init__(self, hostname, vendor, port=None, user=None):
163
 
        assert vendor in ['openssh', 'ssh']
164
 
        if vendor == 'openssh':
165
 
            args = ['ssh',
166
 
                    '-oForwardX11=no', '-oForwardAgent=no',
167
 
                    '-oClearAllForwardings=yes', '-oProtocol=2',
168
 
                    '-oNoHostAuthenticationForLocalhost=yes']
169
 
            if port is not None:
170
 
                args.extend(['-p', str(port)])
171
 
            if user is not None:
172
 
                args.extend(['-l', user])
173
 
            args.extend(['-s', hostname, 'sftp'])
174
 
        elif vendor == 'ssh':
175
 
            args = ['ssh', '-x']
176
 
            if port is not None:
177
 
                args.extend(['-p', str(port)])
178
 
            if user is not None:
179
 
                args.extend(['-l', user])
180
 
            args.extend(['-s', 'sftp', hostname])
181
 
 
182
 
        self.proc = subprocess.Popen(args,
183
 
                                     stdin=subprocess.PIPE,
184
 
                                     stdout=subprocess.PIPE,
185
 
                                     **os_specific_subprocess_params())
186
 
 
187
 
    def send(self, data):
188
 
        return os.write(self.proc.stdin.fileno(), data)
189
 
 
190
 
    def recv_ready(self):
191
 
        # TODO: jam 20051215 this function is necessary to support the
192
 
        # pipelined() function. In reality, it probably should use
193
 
        # poll() or select() to actually return if there is data
194
 
        # available, otherwise we probably don't get any benefit
195
 
        return True
196
 
 
197
 
    def recv(self, count):
198
 
        return os.read(self.proc.stdout.fileno(), count)
199
 
 
200
 
    def close(self):
201
 
        self.proc.stdin.close()
202
 
        self.proc.stdout.close()
203
 
        self.proc.wait()
204
 
 
205
 
 
206
 
class LoopbackSFTP(object):
207
 
    """Simple wrapper for a socket that pretends to be a paramiko Channel."""
208
 
 
209
 
    def __init__(self, sock):
210
 
        self.__socket = sock
211
 
 
212
 
    def send(self, data):
213
 
        return self.__socket.send(data)
214
 
 
215
 
    def recv(self, n):
216
 
        return self.__socket.recv(n)
217
 
 
218
 
    def recv_ready(self):
219
 
        return True
220
 
 
221
 
    def close(self):
222
 
        self.__socket.close()
223
 
 
224
 
 
225
 
SYSTEM_HOSTKEYS = {}
226
 
BZR_HOSTKEYS = {}
227
 
 
228
75
# This is a weakref dictionary, so that we can reuse connections
229
76
# that are still active. Long term, it might be nice to have some
230
77
# sort of expiration policy, such as disconnect if inactive for
231
78
# X seconds. But that requires a lot more fanciness.
232
79
_connected_hosts = weakref.WeakValueDictionary()
233
80
 
 
81
 
 
82
_paramiko_version = getattr(paramiko, '__version_info__', (0, 0, 0))
 
83
# don't use prefetch unless paramiko version >= 1.5.5 (there were bugs earlier)
 
84
_default_do_prefetch = (_paramiko_version >= (1, 5, 5))
 
85
 
 
86
 
234
87
def clear_connection_cache():
235
88
    """Remove all hosts from the SFTP connection cache.
236
89
 
239
92
    _connected_hosts.clear()
240
93
 
241
94
 
242
 
def load_host_keys():
243
 
    """
244
 
    Load system host keys (probably doesn't work on windows) and any
245
 
    "discovered" keys from previous sessions.
246
 
    """
247
 
    global SYSTEM_HOSTKEYS, BZR_HOSTKEYS
248
 
    try:
249
 
        SYSTEM_HOSTKEYS = paramiko.util.load_host_keys(os.path.expanduser('~/.ssh/known_hosts'))
250
 
    except Exception, e:
251
 
        mutter('failed to load system host keys: ' + str(e))
252
 
    bzr_hostkey_path = pathjoin(config_dir(), 'ssh_host_keys')
253
 
    try:
254
 
        BZR_HOSTKEYS = paramiko.util.load_host_keys(bzr_hostkey_path)
255
 
    except Exception, e:
256
 
        mutter('failed to load bzr host keys: ' + str(e))
257
 
        save_host_keys()
258
 
 
259
 
 
260
 
def save_host_keys():
261
 
    """
262
 
    Save "discovered" host keys in $(config)/ssh_host_keys/.
263
 
    """
264
 
    global SYSTEM_HOSTKEYS, BZR_HOSTKEYS
265
 
    bzr_hostkey_path = pathjoin(config_dir(), 'ssh_host_keys')
266
 
    ensure_config_dir_exists()
267
 
 
268
 
    try:
269
 
        f = open(bzr_hostkey_path, 'w')
270
 
        f.write('# SSH host keys collected by bzr\n')
271
 
        for hostname, keys in BZR_HOSTKEYS.iteritems():
272
 
            for keytype, key in keys.iteritems():
273
 
                f.write('%s %s %s\n' % (hostname, keytype, key.get_base64()))
274
 
        f.close()
275
 
    except IOError, e:
276
 
        mutter('failed to save bzr host keys: ' + str(e))
277
 
 
278
 
 
279
95
class SFTPLock(object):
280
 
    """This fakes a lock in a remote location."""
 
96
    """This fakes a lock in a remote location.
 
97
    
 
98
    A present lock is indicated just by the existence of a file.  This
 
99
    doesn't work well on all transports and they are only used in 
 
100
    deprecated storage formats.
 
101
    """
 
102
    
281
103
    __slots__ = ['path', 'lock_path', 'lock_file', 'transport']
 
104
 
282
105
    def __init__(self, path, transport):
283
106
        assert isinstance(transport, SFTPTransport)
284
107
 
311
134
            pass
312
135
 
313
136
 
314
 
class SFTPTransport (Transport):
315
 
    """Transport implementation for SFTP access"""
 
137
class SFTPUrlHandling(Transport):
 
138
    """Mix-in that does common handling of SSH/SFTP URLs."""
 
139
 
 
140
    def __init__(self, base):
 
141
        self._parse_url(base)
 
142
        base = self._unparse_url(self._path)
 
143
        if base[-1] != '/':
 
144
            base += '/'
 
145
        super(SFTPUrlHandling, self).__init__(base)
 
146
 
 
147
    def _parse_url(self, url):
 
148
        (self._scheme,
 
149
         self._username, self._password,
 
150
         self._host, self._port, self._path) = self._split_url(url)
 
151
 
 
152
    def _unparse_url(self, path):
 
153
        """Return a URL for a path relative to this transport.
 
154
        """
 
155
        path = urllib.quote(path)
 
156
        # handle homedir paths
 
157
        if not path.startswith('/'):
 
158
            path = "/~/" + path
 
159
        netloc = urllib.quote(self._host)
 
160
        if self._username is not None:
 
161
            netloc = '%s@%s' % (urllib.quote(self._username), netloc)
 
162
        if self._port is not None:
 
163
            netloc = '%s:%d' % (netloc, self._port)
 
164
        return urlparse.urlunparse((self._scheme, netloc, path, '', '', ''))
 
165
 
 
166
    def _split_url(self, url):
 
167
        (scheme, username, password, host, port, path) = split_url(url)
 
168
        ## assert scheme == 'sftp'
 
169
 
 
170
        # the initial slash should be removed from the path, and treated
 
171
        # as a homedir relative path (the path begins with a double slash
 
172
        # if it is absolute).
 
173
        # see draft-ietf-secsh-scp-sftp-ssh-uri-03.txt
 
174
        # RBC 20060118 we are not using this as its too user hostile. instead
 
175
        # we are following lftp and using /~/foo to mean '~/foo'.
 
176
        # handle homedir paths
 
177
        if path.startswith('/~/'):
 
178
            path = path[3:]
 
179
        elif path == '/~':
 
180
            path = ''
 
181
        return (scheme, username, password, host, port, path)
 
182
 
 
183
    def abspath(self, relpath):
 
184
        """Return the full url to the given relative path.
 
185
        
 
186
        @param relpath: the relative path or path components
 
187
        @type relpath: str or list
 
188
        """
 
189
        return self._unparse_url(self._remote_path(relpath))
 
190
    
 
191
    def _remote_path(self, relpath):
 
192
        """Return the path to be passed along the sftp protocol for relpath.
 
193
        
 
194
        :param relpath: is a urlencoded string.
 
195
        """
 
196
        return self._combine_paths(self._path, relpath)
 
197
 
 
198
 
 
199
class SFTPTransport(SFTPUrlHandling):
 
200
    """Transport implementation for SFTP access."""
316
201
 
317
202
    _do_prefetch = _default_do_prefetch
318
203
    # TODO: jam 20060717 Conceivably these could be configurable, either
333
218
    _max_request_size = 32768
334
219
 
335
220
    def __init__(self, base, clone_from=None):
336
 
        assert base.startswith('sftp://')
337
 
        self._parse_url(base)
338
 
        base = self._unparse_url()
339
 
        if base[-1] != '/':
340
 
            base += '/'
341
221
        super(SFTPTransport, self).__init__(base)
342
222
        if clone_from is None:
343
223
            self._sftp_connect()
363
243
        else:
364
244
            return SFTPTransport(self.abspath(offset), self)
365
245
 
366
 
    def abspath(self, relpath):
367
 
        """
368
 
        Return the full url to the given relative path.
369
 
        
370
 
        @param relpath: the relative path or path components
371
 
        @type relpath: str or list
372
 
        """
373
 
        return self._unparse_url(self._remote_path(relpath))
374
 
    
375
246
    def _remote_path(self, relpath):
376
247
        """Return the path to be passed along the sftp protocol for relpath.
377
248
        
378
249
        relpath is a urlencoded string.
 
250
 
 
251
        :return: a path prefixed with / for regular abspath-based urls, or a
 
252
            path that does not begin with / for urls which begin with /~/.
379
253
        """
380
 
        # FIXME: share the common code across transports
 
254
        # how does this work? 
 
255
        # it processes relpath with respect to 
 
256
        # our state:
 
257
        # firstly we create a path to evaluate: 
 
258
        # if relpath is an abspath or homedir path, its the entire thing
 
259
        # otherwise we join our base with relpath
 
260
        # then we eliminate all empty segments (double //'s) outside the first
 
261
        # two elements of the list. This avoids problems with trailing 
 
262
        # slashes, or other abnormalities.
 
263
        # finally we evaluate the entire path in a single pass
 
264
        # '.'s are stripped,
 
265
        # '..' result in popping the left most already 
 
266
        # processed path (which can never be empty because of the check for
 
267
        # abspath and homedir meaning that its not, or that we've used our
 
268
        # path. If the pop would pop the root, we ignore it.
 
269
 
 
270
        # Specific case examinations:
 
271
        # remove the special casefor ~: if the current root is ~/ popping of it
 
272
        # = / thus our seed for a ~ based path is ['', '~']
 
273
        # and if we end up with [''] then we had basically ('', '..') (which is
 
274
        # '/..' so we append '' if the length is one, and assert that the first
 
275
        # element is still ''. Lastly, if we end with ['', '~'] as a prefix for
 
276
        # the output, we've got a homedir path, so we strip that prefix before
 
277
        # '/' joining the resulting list.
 
278
        #
 
279
        # case one: '/' -> ['', ''] cannot shrink
 
280
        # case two: '/' + '../foo' -> ['', 'foo'] (take '', '', '..', 'foo')
 
281
        #           and pop the second '' for the '..', append 'foo'
 
282
        # case three: '/~/' -> ['', '~', ''] 
 
283
        # case four: '/~/' + '../foo' -> ['', '~', '', '..', 'foo'],
 
284
        #           and we want to get '/foo' - the empty path in the middle
 
285
        #           needs to be stripped, then normal path manipulation will 
 
286
        #           work.
 
287
        # case five: '/..' ['', '..'], we want ['', '']
 
288
        #            stripping '' outside the first two is ok
 
289
        #            ignore .. if its too high up
 
290
        #
 
291
        # lastly this code is possibly reusable by FTP, but not reusable by
 
292
        # local paths: ~ is resolvable correctly, nor by HTTP or the smart
 
293
        # server: ~ is resolved remotely.
 
294
        # 
 
295
        # however, a version of this that acts on self.base is possible to be
 
296
        # written which manipulates the URL in canonical form, and would be
 
297
        # reusable for all transports, if a flag for allowing ~/ at all was
 
298
        # provided.
381
299
        assert isinstance(relpath, basestring)
382
 
        relpath = urlutils.unescape(relpath).split('/')
383
 
        basepath = self._path.split('/')
384
 
        if len(basepath) > 0 and basepath[-1] == '':
385
 
            basepath = basepath[:-1]
386
 
 
387
 
        for p in relpath:
388
 
            if p == '..':
389
 
                if len(basepath) == 0:
390
 
                    # In most filesystems, a request for the parent
391
 
                    # of root, just returns root.
392
 
                    continue
393
 
                basepath.pop()
394
 
            elif p == '.':
395
 
                continue # No-op
396
 
            else:
397
 
                basepath.append(p)
398
 
 
399
 
        path = '/'.join(basepath)
400
 
        # mutter('relpath => remotepath %s => %s', relpath, path)
 
300
        relpath = urlutils.unescape(relpath)
 
301
 
 
302
        # case 1)
 
303
        if relpath.startswith('/'):
 
304
            # abspath - normal split is fine.
 
305
            current_path = relpath.split('/')
 
306
        elif relpath.startswith('~/'):
 
307
            # root is homedir based: normal split and prefix '' to remote the
 
308
            # special case
 
309
            current_path = [''].extend(relpath.split('/'))
 
310
        else:
 
311
            # root is from the current directory:
 
312
            if self._path.startswith('/'):
 
313
                # abspath, take the regular split
 
314
                current_path = []
 
315
            else:
 
316
                # homedir based, add the '', '~' not present in self._path
 
317
                current_path = ['', '~']
 
318
            # add our current dir
 
319
            current_path.extend(self._path.split('/'))
 
320
            # add the users relpath
 
321
            current_path.extend(relpath.split('/'))
 
322
        # strip '' segments that are not in the first one - the leading /.
 
323
        to_process = current_path[:1]
 
324
        for segment in current_path[1:]:
 
325
            if segment != '':
 
326
                to_process.append(segment)
 
327
 
 
328
        # process '.' and '..' segments into output_path.
 
329
        output_path = []
 
330
        for segment in to_process:
 
331
            if segment == '..':
 
332
                # directory pop. Remove a directory 
 
333
                # as long as we are not at the root
 
334
                if len(output_path) > 1:
 
335
                    output_path.pop()
 
336
                # else: pass
 
337
                # cannot pop beyond the root, so do nothing
 
338
            elif segment == '.':
 
339
                continue # strip the '.' from the output.
 
340
            else:
 
341
                # this will append '' to output_path for the root elements,
 
342
                # which is appropriate: its why we strip '' in the first pass.
 
343
                output_path.append(segment)
 
344
 
 
345
        # check output special cases:
 
346
        if output_path == ['']:
 
347
            # [''] -> ['', '']
 
348
            output_path = ['', '']
 
349
        elif output_path[:2] == ['', '~']:
 
350
            # ['', '~', ...] -> ...
 
351
            output_path = output_path[2:]
 
352
        path = '/'.join(output_path)
401
353
        return path
402
354
 
403
355
    def relpath(self, abspath):
404
 
        username, password, host, port, path = self._split_url(abspath)
 
356
        scheme, username, password, host, port, path = self._split_url(abspath)
405
357
        error = []
406
358
        if (username != self._username):
407
359
            error.append('username mismatch')
455
407
            fp = self._sftp.file(path, mode='rb')
456
408
            readv = getattr(fp, 'readv', None)
457
409
            if readv:
458
 
                return self._sftp_readv(fp, offsets)
 
410
                return self._sftp_readv(fp, offsets, relpath)
459
411
            mutter('seek and read %s offsets', len(offsets))
460
 
            return self._seek_and_read(fp, offsets)
 
412
            return self._seek_and_read(fp, offsets, relpath)
461
413
        except (IOError, paramiko.SSHException), e:
462
414
            self._translate_io_exception(e, path, ': error retrieving')
463
415
 
464
 
    def _sftp_readv(self, fp, offsets):
 
416
    def _sftp_readv(self, fp, offsets, relpath='<unknown>'):
465
417
        """Use the readv() member of fp to do async readv.
466
418
 
467
419
        And then read them using paramiko.readv(). paramiko.readv()
554
506
                yield cur_offset_and_size[0], this_data
555
507
                cur_offset_and_size = offset_stack.next()
556
508
 
 
509
            # We read a coalesced entry, so mark it as done
 
510
            cur_coalesced = None
557
511
            # Now that we've read all of the data for this coalesced section
558
512
            # on to the next
559
513
            cur_coalesced = cur_coalesced_stack.next()
560
514
 
561
 
    def put(self, relpath, f, mode=None):
 
515
        if cur_coalesced is not None:
 
516
            raise errors.ShortReadvError(relpath, cur_coalesced.start,
 
517
                cur_coalesced.length, len(data))
 
518
 
 
519
    def put_file(self, relpath, f, mode=None):
562
520
        """
563
 
        Copy the file-like or string object into the location.
 
521
        Copy the file-like object into the location.
564
522
 
565
523
        :param relpath: Location to put the contents, relative to base.
566
 
        :param f:       File-like or string object.
 
524
        :param f:       File-like object.
567
525
        :param mode: The final mode for the file
568
526
        """
569
527
        final_path = self._remote_path(relpath)
581
539
                self._pump(f, fout)
582
540
            except (IOError, paramiko.SSHException), e:
583
541
                self._translate_io_exception(e, tmp_abspath)
 
542
            # XXX: This doesn't truly help like we would like it to.
 
543
            #      The problem is that openssh strips sticky bits. So while we
 
544
            #      can properly set group write permission, we lose the group
 
545
            #      sticky bit. So it is probably best to stop chmodding, and
 
546
            #      just tell users that they need to set the umask correctly.
 
547
            #      The attr.st_mode = mode, in _sftp_open_exclusive
 
548
            #      will handle when the user wants the final mode to be more 
 
549
            #      restrictive. And then we avoid a round trip. Unless 
 
550
            #      paramiko decides to expose an async chmod()
 
551
 
 
552
            # This is designed to chmod() right before we close.
 
553
            # Because we set_pipelined() earlier, theoretically we might 
 
554
            # avoid the round trip for fout.close()
584
555
            if mode is not None:
585
556
                self._sftp.chmod(tmp_abspath, mode)
586
557
            fout.close()
604
575
            # raise the original with its traceback if we can.
605
576
            raise
606
577
 
 
578
    def _put_non_atomic_helper(self, relpath, writer, mode=None,
 
579
                               create_parent_dir=False,
 
580
                               dir_mode=None):
 
581
        abspath = self._remote_path(relpath)
 
582
 
 
583
        # TODO: jam 20060816 paramiko doesn't publicly expose a way to
 
584
        #       set the file mode at create time. If it does, use it.
 
585
        #       But for now, we just chmod later anyway.
 
586
 
 
587
        def _open_and_write_file():
 
588
            """Try to open the target file, raise error on failure"""
 
589
            fout = None
 
590
            try:
 
591
                try:
 
592
                    fout = self._sftp.file(abspath, mode='wb')
 
593
                    fout.set_pipelined(True)
 
594
                    writer(fout)
 
595
                except (paramiko.SSHException, IOError), e:
 
596
                    self._translate_io_exception(e, abspath,
 
597
                                                 ': unable to open')
 
598
 
 
599
                # This is designed to chmod() right before we close.
 
600
                # Because we set_pipelined() earlier, theoretically we might 
 
601
                # avoid the round trip for fout.close()
 
602
                if mode is not None:
 
603
                    self._sftp.chmod(abspath, mode)
 
604
            finally:
 
605
                if fout is not None:
 
606
                    fout.close()
 
607
 
 
608
        if not create_parent_dir:
 
609
            _open_and_write_file()
 
610
            return
 
611
 
 
612
        # Try error handling to create the parent directory if we need to
 
613
        try:
 
614
            _open_and_write_file()
 
615
        except NoSuchFile:
 
616
            # Try to create the parent directory, and then go back to
 
617
            # writing the file
 
618
            parent_dir = os.path.dirname(abspath)
 
619
            self._mkdir(parent_dir, dir_mode)
 
620
            _open_and_write_file()
 
621
 
 
622
    def put_file_non_atomic(self, relpath, f, mode=None,
 
623
                            create_parent_dir=False,
 
624
                            dir_mode=None):
 
625
        """Copy the file-like object into the target location.
 
626
 
 
627
        This function is not strictly safe to use. It is only meant to
 
628
        be used when you already know that the target does not exist.
 
629
        It is not safe, because it will open and truncate the remote
 
630
        file. So there may be a time when the file has invalid contents.
 
631
 
 
632
        :param relpath: The remote location to put the contents.
 
633
        :param f:       File-like object.
 
634
        :param mode:    Possible access permissions for new file.
 
635
                        None means do not set remote permissions.
 
636
        :param create_parent_dir: If we cannot create the target file because
 
637
                        the parent directory does not exist, go ahead and
 
638
                        create it, and then try again.
 
639
        """
 
640
        def writer(fout):
 
641
            self._pump(f, fout)
 
642
        self._put_non_atomic_helper(relpath, writer, mode=mode,
 
643
                                    create_parent_dir=create_parent_dir,
 
644
                                    dir_mode=dir_mode)
 
645
 
 
646
    def put_bytes_non_atomic(self, relpath, bytes, mode=None,
 
647
                             create_parent_dir=False,
 
648
                             dir_mode=None):
 
649
        def writer(fout):
 
650
            fout.write(bytes)
 
651
        self._put_non_atomic_helper(relpath, writer, mode=mode,
 
652
                                    create_parent_dir=create_parent_dir,
 
653
                                    dir_mode=dir_mode)
 
654
 
607
655
    def iter_files_recursive(self):
608
656
        """Walk the relative paths of all files in this transport."""
609
657
        queue = list(self.list_dir('.'))
610
658
        while queue:
611
 
            relpath = urllib.quote(queue.pop(0))
 
659
            relpath = queue.pop(0)
612
660
            st = self.stat(relpath)
613
661
            if stat.S_ISDIR(st.st_mode):
614
662
                for i, basename in enumerate(self.list_dir(relpath)):
616
664
            else:
617
665
                yield relpath
618
666
 
 
667
    def _mkdir(self, abspath, mode=None):
 
668
        if mode is None:
 
669
            local_mode = 0777
 
670
        else:
 
671
            local_mode = mode
 
672
        try:
 
673
            self._sftp.mkdir(abspath, local_mode)
 
674
            if mode is not None:
 
675
                self._sftp.chmod(abspath, mode=mode)
 
676
        except (paramiko.SSHException, IOError), e:
 
677
            self._translate_io_exception(e, abspath, ': unable to mkdir',
 
678
                failure_exc=FileExists)
 
679
 
619
680
    def mkdir(self, relpath, mode=None):
620
681
        """Create a directory at the given path."""
621
 
        path = self._remote_path(relpath)
622
 
        try:
623
 
            # In the paramiko documentation, it says that passing a mode flag 
624
 
            # will filtered against the server umask.
625
 
            # StubSFTPServer does not do this, which would be nice, because it is
626
 
            # what we really want :)
627
 
            # However, real servers do use umask, so we really should do it that way
628
 
            self._sftp.mkdir(path)
629
 
            if mode is not None:
630
 
                self._sftp.chmod(path, mode=mode)
631
 
        except (paramiko.SSHException, IOError), e:
632
 
            self._translate_io_exception(e, path, ': unable to mkdir',
633
 
                failure_exc=FileExists)
 
682
        self._mkdir(self._remote_path(relpath), mode=mode)
634
683
 
635
684
    def _translate_io_exception(self, e, path, more_info='', 
636
685
                                failure_exc=PathError):
648
697
        """
649
698
        # paramiko seems to generate detailless errors.
650
699
        self._translate_error(e, path, raise_generic=False)
651
 
        if hasattr(e, 'args'):
 
700
        if getattr(e, 'args', None) is not None:
652
701
            if (e.args == ('No such file or directory',) or
653
702
                e.args == ('No such file',)):
654
703
                raise NoSuchFile(path, str(e) + more_info)
658
707
            if (e.args == ('Failure',)):
659
708
                raise failure_exc(path, str(e) + more_info)
660
709
            mutter('Raising exception with args %s', e.args)
661
 
        if hasattr(e, 'errno'):
 
710
        if getattr(e, 'errno', None) is not None:
662
711
            mutter('Raising exception with errno %s', e.errno)
663
712
        raise e
664
713
 
665
 
    def append(self, relpath, f, mode=None):
 
714
    def append_file(self, relpath, f, mode=None):
666
715
        """
667
716
        Append the text in the file-like object into the final
668
717
        location.
722
771
        Return a list of all files at the given location.
723
772
        """
724
773
        # does anything actually use this?
 
774
        # -- Unknown
 
775
        # This is at least used by copy_tree for remote upgrades.
 
776
        # -- David Allouche 2006-08-11
725
777
        path = self._remote_path(relpath)
726
778
        try:
727
 
            return self._sftp.listdir(path)
 
779
            entries = self._sftp.listdir(path)
728
780
        except (IOError, paramiko.SSHException), e:
729
781
            self._translate_io_exception(e, path, ': failed to list_dir')
 
782
        return [urlutils.escape(entry) for entry in entries]
730
783
 
731
784
    def rmdir(self, relpath):
732
785
        """See Transport.rmdir."""
770
823
        # that we have taken the lock.
771
824
        return SFTPLock(relpath, self)
772
825
 
773
 
    def _unparse_url(self, path=None):
774
 
        if path is None:
775
 
            path = self._path
776
 
        path = urllib.quote(path)
777
 
        # handle homedir paths
778
 
        if not path.startswith('/'):
779
 
            path = "/~/" + path
780
 
        netloc = urllib.quote(self._host)
781
 
        if self._username is not None:
782
 
            netloc = '%s@%s' % (urllib.quote(self._username), netloc)
783
 
        if self._port is not None:
784
 
            netloc = '%s:%d' % (netloc, self._port)
785
 
        return urlparse.urlunparse(('sftp', netloc, path, '', '', ''))
786
 
 
787
 
    def _split_url(self, url):
788
 
        (scheme, username, password, host, port, path) = split_url(url)
789
 
        assert scheme == 'sftp'
790
 
 
791
 
        # the initial slash should be removed from the path, and treated
792
 
        # as a homedir relative path (the path begins with a double slash
793
 
        # if it is absolute).
794
 
        # see draft-ietf-secsh-scp-sftp-ssh-uri-03.txt
795
 
        # RBC 20060118 we are not using this as its too user hostile. instead
796
 
        # we are following lftp and using /~/foo to mean '~/foo'.
797
 
        # handle homedir paths
798
 
        if path.startswith('/~/'):
799
 
            path = path[3:]
800
 
        elif path == '/~':
801
 
            path = ''
802
 
        return (username, password, host, port, path)
803
 
 
804
 
    def _parse_url(self, url):
805
 
        (self._username, self._password,
806
 
         self._host, self._port, self._path) = self._split_url(url)
807
 
 
808
826
    def _sftp_connect(self):
809
827
        """Connect to the remote sftp server.
810
828
        After this, self._sftp should have a valid connection (or
812
830
 
813
831
        TODO: Raise a more reasonable ConnectionFailed exception
814
832
        """
815
 
        global _connected_hosts
816
 
 
817
 
        idx = (self._host, self._port, self._username)
818
 
        try:
819
 
            self._sftp = _connected_hosts[idx]
820
 
            return
821
 
        except KeyError:
822
 
            pass
823
 
        
824
 
        vendor = _get_ssh_vendor()
825
 
        if vendor == 'loopback':
826
 
            sock = socket.socket()
827
 
            try:
828
 
                sock.connect((self._host, self._port))
829
 
            except socket.error, e:
830
 
                raise ConnectionError('Unable to connect to SSH host %s:%s: %s'
831
 
                                      % (self._host, self._port, e))
832
 
            self._sftp = SFTPClient(LoopbackSFTP(sock))
833
 
        elif vendor != 'none':
834
 
            try:
835
 
                sock = SFTPSubprocess(self._host, vendor, self._port,
836
 
                                      self._username)
837
 
                self._sftp = SFTPClient(sock)
838
 
            except (EOFError, paramiko.SSHException), e:
839
 
                raise ConnectionError('Unable to connect to SSH host %s:%s: %s'
840
 
                                      % (self._host, self._port, e))
841
 
            except (OSError, IOError), e:
842
 
                # If the machine is fast enough, ssh can actually exit
843
 
                # before we try and send it the sftp request, which
844
 
                # raises a Broken Pipe
845
 
                if e.errno not in (errno.EPIPE,):
846
 
                    raise
847
 
                raise ConnectionError('Unable to connect to SSH host %s:%s: %s'
848
 
                                      % (self._host, self._port, e))
849
 
        else:
850
 
            self._paramiko_connect()
851
 
 
852
 
        _connected_hosts[idx] = self._sftp
853
 
 
854
 
    def _paramiko_connect(self):
855
 
        global SYSTEM_HOSTKEYS, BZR_HOSTKEYS
856
 
        
857
 
        load_host_keys()
858
 
 
859
 
        try:
860
 
            t = paramiko.Transport((self._host, self._port or 22))
861
 
            t.set_log_channel('bzr.paramiko')
862
 
            t.start_client()
863
 
        except (paramiko.SSHException, socket.error), e:
864
 
            raise ConnectionError('Unable to reach SSH host %s:%s: %s' 
865
 
                                  % (self._host, self._port, e))
866
 
            
867
 
        server_key = t.get_remote_server_key()
868
 
        server_key_hex = paramiko.util.hexify(server_key.get_fingerprint())
869
 
        keytype = server_key.get_name()
870
 
        if SYSTEM_HOSTKEYS.has_key(self._host) and SYSTEM_HOSTKEYS[self._host].has_key(keytype):
871
 
            our_server_key = SYSTEM_HOSTKEYS[self._host][keytype]
872
 
            our_server_key_hex = paramiko.util.hexify(our_server_key.get_fingerprint())
873
 
        elif BZR_HOSTKEYS.has_key(self._host) and BZR_HOSTKEYS[self._host].has_key(keytype):
874
 
            our_server_key = BZR_HOSTKEYS[self._host][keytype]
875
 
            our_server_key_hex = paramiko.util.hexify(our_server_key.get_fingerprint())
876
 
        else:
877
 
            warning('Adding %s host key for %s: %s' % (keytype, self._host, server_key_hex))
878
 
            if not BZR_HOSTKEYS.has_key(self._host):
879
 
                BZR_HOSTKEYS[self._host] = {}
880
 
            BZR_HOSTKEYS[self._host][keytype] = server_key
881
 
            our_server_key = server_key
882
 
            our_server_key_hex = paramiko.util.hexify(our_server_key.get_fingerprint())
883
 
            save_host_keys()
884
 
        if server_key != our_server_key:
885
 
            filename1 = os.path.expanduser('~/.ssh/known_hosts')
886
 
            filename2 = pathjoin(config_dir(), 'ssh_host_keys')
887
 
            raise TransportError('Host keys for %s do not match!  %s != %s' % \
888
 
                (self._host, our_server_key_hex, server_key_hex),
889
 
                ['Try editing %s or %s' % (filename1, filename2)])
890
 
 
891
 
        self._sftp_auth(t)
892
 
        
893
 
        try:
894
 
            self._sftp = t.open_sftp_client()
895
 
        except paramiko.SSHException, e:
896
 
            raise ConnectionError('Unable to start sftp client %s:%d' %
897
 
                                  (self._host, self._port), e)
898
 
 
899
 
    def _sftp_auth(self, transport):
900
 
        # paramiko requires a username, but it might be none if nothing was supplied
901
 
        # use the local username, just in case.
902
 
        # We don't override self._username, because if we aren't using paramiko,
903
 
        # the username might be specified in ~/.ssh/config and we don't want to
904
 
        # force it to something else
905
 
        # Also, it would mess up the self.relpath() functionality
906
 
        username = self._username or getpass.getuser()
907
 
 
908
 
        if _use_ssh_agent:
909
 
            agent = paramiko.Agent()
910
 
            for key in agent.get_keys():
911
 
                mutter('Trying SSH agent key %s' % paramiko.util.hexify(key.get_fingerprint()))
912
 
                try:
913
 
                    transport.auth_publickey(username, key)
914
 
                    return
915
 
                except paramiko.SSHException, e:
916
 
                    pass
917
 
        
918
 
        # okay, try finding id_rsa or id_dss?  (posix only)
919
 
        if self._try_pkey_auth(transport, paramiko.RSAKey, username, 'id_rsa'):
920
 
            return
921
 
        if self._try_pkey_auth(transport, paramiko.DSSKey, username, 'id_dsa'):
922
 
            return
923
 
 
924
 
        if self._password:
925
 
            try:
926
 
                transport.auth_password(username, self._password)
927
 
                return
928
 
            except paramiko.SSHException, e:
929
 
                pass
930
 
 
931
 
            # FIXME: Don't keep a password held in memory if you can help it
932
 
            #self._password = None
933
 
 
934
 
        # give up and ask for a password
935
 
        password = bzrlib.ui.ui_factory.get_password(
936
 
                prompt='SSH %(user)s@%(host)s password',
937
 
                user=username, host=self._host)
938
 
        try:
939
 
            transport.auth_password(username, password)
940
 
        except paramiko.SSHException, e:
941
 
            raise ConnectionError('Unable to authenticate to SSH host as %s@%s' %
942
 
                                  (username, self._host), e)
943
 
 
944
 
    def _try_pkey_auth(self, transport, pkey_class, username, filename):
945
 
        filename = os.path.expanduser('~/.ssh/' + filename)
946
 
        try:
947
 
            key = pkey_class.from_private_key_file(filename)
948
 
            transport.auth_publickey(username, key)
949
 
            return True
950
 
        except paramiko.PasswordRequiredException:
951
 
            password = bzrlib.ui.ui_factory.get_password(
952
 
                    prompt='SSH %(filename)s password',
953
 
                    filename=filename)
954
 
            try:
955
 
                key = pkey_class.from_private_key_file(filename, password)
956
 
                transport.auth_publickey(username, key)
957
 
                return True
958
 
            except paramiko.SSHException:
959
 
                mutter('SSH authentication via %s key failed.' % (os.path.basename(filename),))
960
 
        except paramiko.SSHException:
961
 
            mutter('SSH authentication via %s key failed.' % (os.path.basename(filename),))
962
 
        except IOError:
963
 
            pass
964
 
        return False
 
833
        self._sftp = _sftp_connect(self._host, self._port, self._username,
 
834
                self._password)
965
835
 
966
836
    def _sftp_open_exclusive(self, abspath, mode=None):
967
837
        """Open a remote path exclusively.
977
847
        :param abspath: The remote absolute path where the file should be opened
978
848
        :param mode: The mode permissions bits for the new file
979
849
        """
 
850
        # TODO: jam 20060816 Paramiko >= 1.6.2 (probably earlier) supports
 
851
        #       using the 'x' flag to indicate SFTP_FLAG_EXCL.
 
852
        #       However, there is no way to set the permission mode at open 
 
853
        #       time using the sftp_client.file() functionality.
980
854
        path = self._sftp._adjust_cwd(abspath)
981
855
        # mutter('sftp abspath %s => %s', abspath, path)
982
856
        attr = SFTPAttributes()
994
868
            self._translate_io_exception(e, abspath, ': unable to open',
995
869
                failure_exc=FileExists)
996
870
 
 
871
    def _can_roundtrip_unix_modebits(self):
 
872
        if sys.platform == 'win32':
 
873
            # anyone else?
 
874
            return False
 
875
        else:
 
876
            return True
997
877
 
998
878
# ------------- server test implementation --------------
999
 
import socket
1000
879
import threading
1001
880
 
1002
881
from bzrlib.tests.stub_sftp import StubServer, StubSFTPServer
1065
944
                        x)
1066
945
 
1067
946
 
 
947
class SocketDelay(object):
 
948
    """A socket decorator to make TCP appear slower.
 
949
 
 
950
    This changes recv, send, and sendall to add a fixed latency to each python
 
951
    call if a new roundtrip is detected. That is, when a recv is called and the
 
952
    flag new_roundtrip is set, latency is charged. Every send and send_all
 
953
    sets this flag.
 
954
 
 
955
    In addition every send, sendall and recv sleeps a bit per character send to
 
956
    simulate bandwidth.
 
957
 
 
958
    Not all methods are implemented, this is deliberate as this class is not a
 
959
    replacement for the builtin sockets layer. fileno is not implemented to
 
960
    prevent the proxy being bypassed. 
 
961
    """
 
962
 
 
963
    simulated_time = 0
 
964
    _proxied_arguments = dict.fromkeys([
 
965
        "close", "getpeername", "getsockname", "getsockopt", "gettimeout",
 
966
        "setblocking", "setsockopt", "settimeout", "shutdown"])
 
967
 
 
968
    def __init__(self, sock, latency, bandwidth=1.0, 
 
969
                 really_sleep=True):
 
970
        """ 
 
971
        :param bandwith: simulated bandwith (MegaBit)
 
972
        :param really_sleep: If set to false, the SocketDelay will just
 
973
        increase a counter, instead of calling time.sleep. This is useful for
 
974
        unittesting the SocketDelay.
 
975
        """
 
976
        self.sock = sock
 
977
        self.latency = latency
 
978
        self.really_sleep = really_sleep
 
979
        self.time_per_byte = 1 / (bandwidth / 8.0 * 1024 * 1024) 
 
980
        self.new_roundtrip = False
 
981
 
 
982
    def sleep(self, s):
 
983
        if self.really_sleep:
 
984
            time.sleep(s)
 
985
        else:
 
986
            SocketDelay.simulated_time += s
 
987
 
 
988
    def __getattr__(self, attr):
 
989
        if attr in SocketDelay._proxied_arguments:
 
990
            return getattr(self.sock, attr)
 
991
        raise AttributeError("'SocketDelay' object has no attribute %r" %
 
992
                             attr)
 
993
 
 
994
    def dup(self):
 
995
        return SocketDelay(self.sock.dup(), self.latency, self.time_per_byte,
 
996
                           self._sleep)
 
997
 
 
998
    def recv(self, *args):
 
999
        data = self.sock.recv(*args)
 
1000
        if data and self.new_roundtrip:
 
1001
            self.new_roundtrip = False
 
1002
            self.sleep(self.latency)
 
1003
        self.sleep(len(data) * self.time_per_byte)
 
1004
        return data
 
1005
 
 
1006
    def sendall(self, data, flags=0):
 
1007
        if not self.new_roundtrip:
 
1008
            self.new_roundtrip = True
 
1009
            self.sleep(self.latency)
 
1010
        self.sleep(len(data) * self.time_per_byte)
 
1011
        return self.sock.sendall(data, flags)
 
1012
 
 
1013
    def send(self, data, flags=0):
 
1014
        if not self.new_roundtrip:
 
1015
            self.new_roundtrip = True
 
1016
            self.sleep(self.latency)
 
1017
        bytes_sent = self.sock.send(data, flags)
 
1018
        self.sleep(bytes_sent * self.time_per_byte)
 
1019
        return bytes_sent
 
1020
 
 
1021
 
1068
1022
class SFTPServer(Server):
1069
1023
    """Common code for SFTP server facilities."""
1070
1024
 
1071
 
    def __init__(self):
 
1025
    def __init__(self, server_interface=StubServer):
1072
1026
        self._original_vendor = None
1073
1027
        self._homedir = None
1074
1028
        self._server_homedir = None
1075
1029
        self._listener = None
1076
1030
        self._root = None
1077
 
        self._vendor = 'none'
 
1031
        self._vendor = ssh.ParamikoVendor()
 
1032
        self._server_interface = server_interface
1078
1033
        # sftp server logs
1079
1034
        self.logs = []
 
1035
        self.add_latency = 0
1080
1036
 
1081
1037
    def _get_sftp_url(self, path):
1082
1038
        """Calculate an sftp url to this server for path."""
1086
1042
        """StubServer uses this to log when a new server is created."""
1087
1043
        self.logs.append(message)
1088
1044
 
 
1045
    def _run_server_entry(self, sock):
 
1046
        """Entry point for all implementations of _run_server.
 
1047
        
 
1048
        If self.add_latency is > 0.000001 then sock is given a latency adding
 
1049
        decorator.
 
1050
        """
 
1051
        if self.add_latency > 0.000001:
 
1052
            sock = SocketDelay(sock, self.add_latency)
 
1053
        return self._run_server(sock)
 
1054
 
1089
1055
    def _run_server(self, s):
1090
1056
        ssh_server = paramiko.Transport(s)
1091
1057
        key_file = pathjoin(self._homedir, 'test_rsa.key')
1094
1060
        f.close()
1095
1061
        host_key = paramiko.RSAKey.from_private_key_file(key_file)
1096
1062
        ssh_server.add_server_key(host_key)
1097
 
        server = StubServer(self)
 
1063
        server = self._server_interface(self)
1098
1064
        ssh_server.set_subsystem_handler('sftp', paramiko.SFTPServer,
1099
1065
                                         StubSFTPServer, root=self._root,
1100
1066
                                         home=self._server_homedir)
1103
1069
        event.wait(5.0)
1104
1070
    
1105
1071
    def setUp(self):
1106
 
        global _ssh_vendor
1107
 
        self._original_vendor = _ssh_vendor
1108
 
        _ssh_vendor = self._vendor
 
1072
        self._original_vendor = ssh._ssh_vendor
 
1073
        ssh._ssh_vendor = self._vendor
1109
1074
        if sys.platform == 'win32':
1110
1075
            # Win32 needs to use the UNICODE api
1111
1076
            self._homedir = getcwd()
1117
1082
        self._root = '/'
1118
1083
        if sys.platform == 'win32':
1119
1084
            self._root = ''
1120
 
        self._listener = SocketListener(self._run_server)
 
1085
        self._listener = SocketListener(self._run_server_entry)
1121
1086
        self._listener.setDaemon(True)
1122
1087
        self._listener.start()
1123
1088
 
1124
1089
    def tearDown(self):
1125
1090
        """See bzrlib.transport.Server.tearDown."""
1126
 
        global _ssh_vendor
1127
1091
        self._listener.stop()
1128
 
        _ssh_vendor = self._original_vendor
 
1092
        ssh._ssh_vendor = self._original_vendor
1129
1093
 
1130
1094
    def get_bogus_url(self):
1131
1095
        """See bzrlib.transport.Server.get_bogus_url."""
1150
1114
 
1151
1115
    def __init__(self):
1152
1116
        super(SFTPServerWithoutSSH, self).__init__()
1153
 
        self._vendor = 'loopback'
 
1117
        self._vendor = ssh.LoopbackVendor()
1154
1118
 
1155
1119
    def _run_server(self, sock):
 
1120
        # Re-import these as locals, so that they're still accessible during
 
1121
        # interpreter shutdown (when all module globals get set to None, leading
 
1122
        # to confusing errors like "'NoneType' object has no attribute 'error'".
1156
1123
        class FakeChannel(object):
1157
1124
            def get_transport(self):
1158
1125
                return self
1208
1175
        super(SFTPSiblingAbsoluteServer, self).setUp()
1209
1176
 
1210
1177
 
 
1178
def _sftp_connect(host, port, username, password):
 
1179
    """Connect to the remote sftp server.
 
1180
 
 
1181
    :raises: a TransportError 'could not connect'.
 
1182
 
 
1183
    :returns: an paramiko.sftp_client.SFTPClient
 
1184
 
 
1185
    TODO: Raise a more reasonable ConnectionFailed exception
 
1186
    """
 
1187
    idx = (host, port, username)
 
1188
    try:
 
1189
        return _connected_hosts[idx]
 
1190
    except KeyError:
 
1191
        pass
 
1192
    
 
1193
    sftp = _sftp_connect_uncached(host, port, username, password)
 
1194
    _connected_hosts[idx] = sftp
 
1195
    return sftp
 
1196
 
 
1197
def _sftp_connect_uncached(host, port, username, password):
 
1198
    vendor = ssh._get_ssh_vendor()
 
1199
    sftp = vendor.connect_sftp(username, password, host, port)
 
1200
    return sftp
 
1201
 
 
1202
 
1211
1203
def get_test_permutations():
1212
1204
    """Return the permutations to be used in testing."""
1213
1205
    return [(SFTPTransport, SFTPAbsoluteServer),