~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/transport/sftp.py

  • Committer: Robert Collins
  • Date: 2006-02-15 08:11:37 UTC
  • mto: (1534.1.24 integration)
  • mto: This revision was merged to the branch mainline in revision 1554.
  • Revision ID: robertc@robertcollins.net-20060215081137-4c27377517e96dd1
Make format 4/5/6 branches share a single LockableFiles instance across wt/branch/repository.

Show diffs side-by-side

added added

removed removed

Lines of Context:
19
19
import errno
20
20
import getpass
21
21
import os
 
22
import random
22
23
import re
23
24
import stat
 
25
import subprocess
24
26
import sys
 
27
import time
25
28
import urllib
 
29
import urlparse
 
30
import weakref
26
31
 
27
 
from bzrlib.errors import (FileExists, 
28
 
                           TransportNotPossible, NoSuchFile, NonRelativePath,
29
 
                           TransportError)
30
 
from bzrlib.config import config_dir
 
32
from bzrlib.config import config_dir, ensure_config_dir_exists
 
33
from bzrlib.errors import (ConnectionError,
 
34
                           FileExists, 
 
35
                           TransportNotPossible, NoSuchFile, PathNotChild,
 
36
                           TransportError,
 
37
                           LockError, ParamikoNotPresent
 
38
                           )
 
39
from bzrlib.osutils import pathjoin, fancy_rename
31
40
from bzrlib.trace import mutter, warning, error
32
 
from bzrlib.transport import Transport, register_transport
 
41
from bzrlib.transport import Transport, Server, urlescape
 
42
import bzrlib.ui
33
43
 
34
44
try:
35
45
    import paramiko
36
 
except ImportError:
37
 
    error('The SFTP transport requires paramiko.')
38
 
    raise
 
46
except ImportError, e:
 
47
    raise ParamikoNotPresent(e)
 
48
else:
 
49
    from paramiko.sftp import (SFTP_FLAG_WRITE, SFTP_FLAG_CREATE,
 
50
                               SFTP_FLAG_EXCL, SFTP_FLAG_TRUNC,
 
51
                               CMD_HANDLE, CMD_OPEN)
 
52
    from paramiko.sftp_attr import SFTPAttributes
 
53
    from paramiko.sftp_file import SFTPFile
 
54
    from paramiko.sftp_client import SFTPClient
 
55
 
 
56
if 'sftp' not in urlparse.uses_netloc:
 
57
    urlparse.uses_netloc.append('sftp')
 
58
 
 
59
# don't use prefetch unless paramiko version >= 1.5.2 (there were bugs earlier)
 
60
_default_do_prefetch = False
 
61
if getattr(paramiko, '__version_info__', (0, 0, 0)) >= (1, 5, 2):
 
62
    _default_do_prefetch = True
 
63
 
 
64
 
 
65
_close_fds = True
 
66
if sys.platform == 'win32':
 
67
    # close_fds not supported on win32
 
68
    _close_fds = False
 
69
 
 
70
_ssh_vendor = None
 
71
 
 
72
def _get_ssh_vendor():
 
73
    """Find out what version of SSH is on the system."""
 
74
    global _ssh_vendor
 
75
    if _ssh_vendor is not None:
 
76
        return _ssh_vendor
 
77
 
 
78
    _ssh_vendor = 'none'
 
79
 
 
80
    if 'BZR_SSH' in os.environ:
 
81
        _ssh_vendor = os.environ['BZR_SSH']
 
82
        if _ssh_vendor == 'paramiko':
 
83
            _ssh_vendor = 'none'
 
84
        return _ssh_vendor
 
85
 
 
86
    try:
 
87
        p = subprocess.Popen(['ssh', '-V'],
 
88
                             close_fds=_close_fds,
 
89
                             stdin=subprocess.PIPE,
 
90
                             stdout=subprocess.PIPE,
 
91
                             stderr=subprocess.PIPE)
 
92
        returncode = p.returncode
 
93
        stdout, stderr = p.communicate()
 
94
    except OSError:
 
95
        returncode = -1
 
96
        stdout = stderr = ''
 
97
    if 'OpenSSH' in stderr:
 
98
        mutter('ssh implementation is OpenSSH')
 
99
        _ssh_vendor = 'openssh'
 
100
    elif 'SSH Secure Shell' in stderr:
 
101
        mutter('ssh implementation is SSH Corp.')
 
102
        _ssh_vendor = 'ssh'
 
103
 
 
104
    if _ssh_vendor != 'none':
 
105
        return _ssh_vendor
 
106
 
 
107
    # XXX: 20051123 jamesh
 
108
    # A check for putty's plink or lsh would go here.
 
109
 
 
110
    mutter('falling back to paramiko implementation')
 
111
    return _ssh_vendor
 
112
 
 
113
 
 
114
class SFTPSubprocess:
 
115
    """A socket-like object that talks to an ssh subprocess via pipes."""
 
116
    def __init__(self, hostname, vendor, port=None, user=None):
 
117
        assert vendor in ['openssh', 'ssh']
 
118
        if vendor == 'openssh':
 
119
            args = ['ssh',
 
120
                    '-oForwardX11=no', '-oForwardAgent=no',
 
121
                    '-oClearAllForwardings=yes', '-oProtocol=2',
 
122
                    '-oNoHostAuthenticationForLocalhost=yes']
 
123
            if port is not None:
 
124
                args.extend(['-p', str(port)])
 
125
            if user is not None:
 
126
                args.extend(['-l', user])
 
127
            args.extend(['-s', hostname, 'sftp'])
 
128
        elif vendor == 'ssh':
 
129
            args = ['ssh', '-x']
 
130
            if port is not None:
 
131
                args.extend(['-p', str(port)])
 
132
            if user is not None:
 
133
                args.extend(['-l', user])
 
134
            args.extend(['-s', 'sftp', hostname])
 
135
 
 
136
        self.proc = subprocess.Popen(args, close_fds=_close_fds,
 
137
                                     stdin=subprocess.PIPE,
 
138
                                     stdout=subprocess.PIPE)
 
139
 
 
140
    def send(self, data):
 
141
        return os.write(self.proc.stdin.fileno(), data)
 
142
 
 
143
    def recv_ready(self):
 
144
        # TODO: jam 20051215 this function is necessary to support the
 
145
        # pipelined() function. In reality, it probably should use
 
146
        # poll() or select() to actually return if there is data
 
147
        # available, otherwise we probably don't get any benefit
 
148
        return True
 
149
 
 
150
    def recv(self, count):
 
151
        return os.read(self.proc.stdout.fileno(), count)
 
152
 
 
153
    def close(self):
 
154
        self.proc.stdin.close()
 
155
        self.proc.stdout.close()
 
156
        self.proc.wait()
 
157
 
 
158
 
 
159
class LoopbackSFTP(object):
 
160
    """Simple wrapper for a socket that pretends to be a paramiko Channel."""
 
161
 
 
162
    def __init__(self, sock):
 
163
        self.__socket = sock
 
164
 
 
165
    def send(self, data):
 
166
        return self.__socket.send(data)
 
167
 
 
168
    def recv(self, n):
 
169
        return self.__socket.recv(n)
 
170
 
 
171
    def recv_ready(self):
 
172
        return True
 
173
 
 
174
    def close(self):
 
175
        self.__socket.close()
39
176
 
40
177
 
41
178
SYSTEM_HOSTKEYS = {}
42
179
BZR_HOSTKEYS = {}
43
180
 
 
181
# This is a weakref dictionary, so that we can reuse connections
 
182
# that are still active. Long term, it might be nice to have some
 
183
# sort of expiration policy, such as disconnect if inactive for
 
184
# X seconds. But that requires a lot more fanciness.
 
185
_connected_hosts = weakref.WeakValueDictionary()
 
186
 
 
187
 
44
188
def load_host_keys():
45
189
    """
46
190
    Load system host keys (probably doesn't work on windows) and any
51
195
        SYSTEM_HOSTKEYS = paramiko.util.load_host_keys(os.path.expanduser('~/.ssh/known_hosts'))
52
196
    except Exception, e:
53
197
        mutter('failed to load system host keys: ' + str(e))
54
 
    bzr_hostkey_path = os.path.join(config_dir(), 'ssh_host_keys')
 
198
    bzr_hostkey_path = pathjoin(config_dir(), 'ssh_host_keys')
55
199
    try:
56
200
        BZR_HOSTKEYS = paramiko.util.load_host_keys(bzr_hostkey_path)
57
201
    except Exception, e:
58
202
        mutter('failed to load bzr host keys: ' + str(e))
59
203
        save_host_keys()
60
204
 
 
205
 
61
206
def save_host_keys():
62
207
    """
63
208
    Save "discovered" host keys in $(config)/ssh_host_keys/.
64
209
    """
65
210
    global SYSTEM_HOSTKEYS, BZR_HOSTKEYS
66
 
    bzr_hostkey_path = os.path.join(config_dir(), 'ssh_host_keys')
67
 
    if not os.path.isdir(config_dir()):
68
 
        os.mkdir(config_dir())
 
211
    bzr_hostkey_path = pathjoin(config_dir(), 'ssh_host_keys')
 
212
    ensure_config_dir_exists()
 
213
 
69
214
    try:
70
215
        f = open(bzr_hostkey_path, 'w')
71
216
        f.write('# SSH host keys collected by bzr\n')
77
222
        mutter('failed to save bzr host keys: ' + str(e))
78
223
 
79
224
 
80
 
 
81
 
class SFTPTransportError (TransportError):
82
 
    pass
83
 
 
 
225
class SFTPLock(object):
 
226
    """This fakes a lock in a remote location."""
 
227
    __slots__ = ['path', 'lock_path', 'lock_file', 'transport']
 
228
    def __init__(self, path, transport):
 
229
        assert isinstance(transport, SFTPTransport)
 
230
 
 
231
        self.lock_file = None
 
232
        self.path = path
 
233
        self.lock_path = path + '.write-lock'
 
234
        self.transport = transport
 
235
        try:
 
236
            # RBC 20060103 FIXME should we be using private methods here ?
 
237
            abspath = transport._remote_path(self.lock_path)
 
238
            self.lock_file = transport._sftp_open_exclusive(abspath)
 
239
        except FileExists:
 
240
            raise LockError('File %r already locked' % (self.path,))
 
241
 
 
242
    def __del__(self):
 
243
        """Should this warn, or actually try to cleanup?"""
 
244
        if self.lock_file:
 
245
            warning("SFTPLock %r not explicitly unlocked" % (self.path,))
 
246
            self.unlock()
 
247
 
 
248
    def unlock(self):
 
249
        if not self.lock_file:
 
250
            return
 
251
        self.lock_file.close()
 
252
        self.lock_file = None
 
253
        try:
 
254
            self.transport.delete(self.lock_path)
 
255
        except (NoSuchFile,):
 
256
            # What specific errors should we catch here?
 
257
            pass
84
258
 
85
259
class SFTPTransport (Transport):
86
260
    """
87
261
    Transport implementation for SFTP access.
88
262
    """
 
263
    _do_prefetch = _default_do_prefetch
89
264
 
90
 
    _url_matcher = re.compile(r'^sftp://([^:@]*(:[^@]*)?@)?(.*?)(:\d+)?(/.*)?$')
91
 
    
92
265
    def __init__(self, base, clone_from=None):
93
266
        assert base.startswith('sftp://')
 
267
        self._parse_url(base)
 
268
        base = self._unparse_url()
 
269
        if base[-1] != '/':
 
270
            base = base + '/'
94
271
        super(SFTPTransport, self).__init__(base)
95
 
        self._parse_url(base)
96
272
        if clone_from is None:
97
273
            self._sftp_connect()
98
274
        else:
124
300
        @param relpath: the relative path or path components
125
301
        @type relpath: str or list
126
302
        """
127
 
        return self._unparse_url(self._abspath(relpath))
 
303
        return self._unparse_url(self._remote_path(relpath))
128
304
    
129
 
    def _abspath(self, relpath):
130
 
        """Return the absolute path segment without the SFTP URL."""
 
305
    def _remote_path(self, relpath):
 
306
        """Return the path to be passed along the sftp protocol for relpath.
 
307
        
 
308
        relpath is a urlencoded string.
 
309
        """
131
310
        # FIXME: share the common code across transports
132
311
        assert isinstance(relpath, basestring)
133
 
        relpath = [urllib.unquote(relpath)]
 
312
        relpath = urllib.unquote(relpath).split('/')
134
313
        basepath = self._path.split('/')
135
314
        if len(basepath) > 0 and basepath[-1] == '':
136
315
            basepath = basepath[:-1]
148
327
                basepath.append(p)
149
328
 
150
329
        path = '/'.join(basepath)
151
 
        if len(path) and path[0] != '/':
152
 
            path = '/' + path
153
330
        return path
154
331
 
155
332
    def relpath(self, abspath):
156
 
        # FIXME: this is identical to HttpTransport -- share it
157
 
        if not abspath.startswith(self.base):
158
 
            raise NonRelativePath('path %r is not under base URL %r'
159
 
                           % (abspath, self.base))
160
 
        pl = len(self.base)
161
 
        return abspath[pl:].lstrip('/')
 
333
        username, password, host, port, path = self._split_url(abspath)
 
334
        error = []
 
335
        if (username != self._username):
 
336
            error.append('username mismatch')
 
337
        if (host != self._host):
 
338
            error.append('host mismatch')
 
339
        if (port != self._port):
 
340
            error.append('port mismatch')
 
341
        if (not path.startswith(self._path)):
 
342
            error.append('path mismatch')
 
343
        if error:
 
344
            extra = ': ' + ', '.join(error)
 
345
            raise PathNotChild(abspath, self.base, extra=extra)
 
346
        pl = len(self._path)
 
347
        return path[pl:].strip('/')
162
348
 
163
349
    def has(self, relpath):
164
350
        """
165
351
        Does the target location exist?
166
352
        """
167
353
        try:
168
 
            self._sftp.stat(self._abspath(relpath))
 
354
            self._sftp.stat(self._remote_path(relpath))
169
355
            return True
170
356
        except IOError:
171
357
            return False
177
363
        :param relpath: The relative path to the file
178
364
        """
179
365
        try:
180
 
            path = self._abspath(relpath)
181
 
            return self._sftp.file(path)
182
 
        except (IOError, paramiko.SSHException), x:
183
 
            raise NoSuchFile('Error retrieving %s: %s' % (path, str(x)), x)
 
366
            path = self._remote_path(relpath)
 
367
            f = self._sftp.file(path, mode='rb')
 
368
            if self._do_prefetch and (getattr(f, 'prefetch', None) is not None):
 
369
                f.prefetch()
 
370
            return f
 
371
        except (IOError, paramiko.SSHException), e:
 
372
            self._translate_io_exception(e, path, ': error retrieving')
184
373
 
185
374
    def get_partial(self, relpath, start, length=None):
186
375
        """
194
383
                 Some implementations may return objects which can be read
195
384
                 past this length, but this is not guaranteed.
196
385
        """
 
386
        # TODO: implement get_partial_multi to help with knit support
197
387
        f = self.get(relpath)
198
388
        f.seek(start)
 
389
        if self._do_prefetch and hasattr(f, 'prefetch'):
 
390
            f.prefetch()
199
391
        return f
200
392
 
201
 
    def put(self, relpath, f):
 
393
    def put(self, relpath, f, mode=None):
202
394
        """
203
395
        Copy the file-like or string object into the location.
204
396
 
205
397
        :param relpath: Location to put the contents, relative to base.
206
398
        :param f:       File-like or string object.
 
399
        :param mode: The final mode for the file
207
400
        """
208
 
        # FIXME: should do something atomic or locking here, this is unsafe
209
 
        try:
210
 
            path = self._abspath(relpath)
211
 
            fout = self._sftp.file(path, 'wb')
212
 
        except IOError, e:
213
 
            self._translate_io_exception(e, relpath)
214
 
        except (IOError, paramiko.SSHException), x:
215
 
            raise SFTPTransportError('Unable to write file %r' % (path,), x)
216
 
        try:
217
 
            self._pump(f, fout)
218
 
        finally:
 
401
        final_path = self._remote_path(relpath)
 
402
        self._put(final_path, f, mode=mode)
 
403
 
 
404
    def _put(self, abspath, f, mode=None):
 
405
        """Helper function so both put() and copy_abspaths can reuse the code"""
 
406
        tmp_abspath = '%s.tmp.%.9f.%d.%d' % (abspath, time.time(),
 
407
                        os.getpid(), random.randint(0,0x7FFFFFFF))
 
408
        fout = self._sftp_open_exclusive(tmp_abspath, mode=mode)
 
409
        closed = False
 
410
        try:
 
411
            try:
 
412
                fout.set_pipelined(True)
 
413
                self._pump(f, fout)
 
414
            except (IOError, paramiko.SSHException), e:
 
415
                self._translate_io_exception(e, tmp_abspath)
 
416
            if mode is not None:
 
417
                self._sftp.chmod(tmp_abspath, mode)
219
418
            fout.close()
 
419
            closed = True
 
420
            self._rename(tmp_abspath, abspath)
 
421
        except Exception, e:
 
422
            # If we fail, try to clean up the temporary file
 
423
            # before we throw the exception
 
424
            # but don't let another exception mess things up
 
425
            # Write out the traceback, because otherwise
 
426
            # the catch and throw destroys it
 
427
            import traceback
 
428
            mutter(traceback.format_exc())
 
429
            try:
 
430
                if not closed:
 
431
                    fout.close()
 
432
                self._sftp.remove(tmp_abspath)
 
433
            except:
 
434
                # raise the saved except
 
435
                raise e
 
436
            # raise the original with its traceback if we can.
 
437
            raise
220
438
 
221
439
    def iter_files_recursive(self):
222
440
        """Walk the relative paths of all files in this transport."""
230
448
            else:
231
449
                yield relpath
232
450
 
233
 
    def mkdir(self, relpath):
 
451
    def mkdir(self, relpath, mode=None):
234
452
        """Create a directory at the given path."""
235
453
        try:
236
 
            path = self._abspath(relpath)
 
454
            path = self._remote_path(relpath)
 
455
            # In the paramiko documentation, it says that passing a mode flag 
 
456
            # will filtered against the server umask.
 
457
            # StubSFTPServer does not do this, which would be nice, because it is
 
458
            # what we really want :)
 
459
            # However, real servers do use umask, so we really should do it that way
237
460
            self._sftp.mkdir(path)
238
 
        except IOError, e:
239
 
            self._translate_io_exception(e, relpath)
240
 
        except (IOError, paramiko.SSHException), x:
241
 
            raise SFTPTransportError('Unable to mkdir %r' % (path,), x)
242
 
 
243
 
    def _translate_io_exception(self, e, relpath):
 
461
            if mode is not None:
 
462
                self._sftp.chmod(path, mode=mode)
 
463
        except (paramiko.SSHException, IOError), e:
 
464
            self._translate_io_exception(e, path, ': unable to mkdir',
 
465
                failure_exc=FileExists)
 
466
 
 
467
    def _translate_io_exception(self, e, path, more_info='', failure_exc=NoSuchFile):
 
468
        """Translate a paramiko or IOError into a friendlier exception.
 
469
 
 
470
        :param e: The original exception
 
471
        :param path: The path in question when the error is raised
 
472
        :param more_info: Extra information that can be included,
 
473
                          such as what was going on
 
474
        :param failure_exc: Paramiko has the super fun ability to raise completely
 
475
                           opaque errors that just set "e.args = ('Failure',)" with
 
476
                           no more information.
 
477
                           This sometimes means FileExists, but it also sometimes
 
478
                           means NoSuchFile
 
479
        """
244
480
        # paramiko seems to generate detailless errors.
245
 
        if (e.errno == errno.ENOENT or
246
 
            e.args == ('No such file or directory',) or
247
 
            e.args == ('No such file',)):
248
 
            raise NoSuchFile(relpath)
249
 
        if (e.args == ('mkdir failed',)):
250
 
            raise FileExists(relpath)
251
 
        # strange but true, for the paramiko server.
252
 
        if (e.args == ('Failure',)):
253
 
            raise FileExists(relpath)
254
 
        raise
 
481
        self._translate_error(e, path, raise_generic=False)
 
482
        if hasattr(e, 'args'):
 
483
            if (e.args == ('No such file or directory',) or
 
484
                e.args == ('No such file',)):
 
485
                raise NoSuchFile(path, str(e) + more_info)
 
486
            if (e.args == ('mkdir failed',)):
 
487
                raise FileExists(path, str(e) + more_info)
 
488
            # strange but true, for the paramiko server.
 
489
            if (e.args == ('Failure',)):
 
490
                raise failure_exc(path, str(e) + more_info)
 
491
            mutter('Raising exception with args %s', e.args)
 
492
        if hasattr(e, 'errno'):
 
493
            mutter('Raising exception with errno %s', e.errno)
 
494
        raise e
255
495
 
256
496
    def append(self, relpath, f):
257
497
        """
259
499
        location.
260
500
        """
261
501
        try:
262
 
            path = self._abspath(relpath)
 
502
            path = self._remote_path(relpath)
263
503
            fout = self._sftp.file(path, 'ab')
264
504
            self._pump(f, fout)
265
 
        except (IOError, paramiko.SSHException), x:
266
 
            raise SFTPTransportError('Unable to append file %r' % (path,), x)
 
505
        except (IOError, paramiko.SSHException), e:
 
506
            self._translate_io_exception(e, relpath, ': unable to append')
267
507
 
268
 
    def copy(self, rel_from, rel_to):
269
 
        """Copy the item at rel_from to the location at rel_to"""
270
 
        path_from = self._abspath(rel_from)
271
 
        path_to = self._abspath(rel_to)
 
508
    def _rename(self, abs_from, abs_to):
 
509
        """Do a fancy rename on the remote server.
 
510
        
 
511
        Using the implementation provided by osutils.
 
512
        """
272
513
        try:
273
 
            fin = self._sftp.file(path_from, 'rb')
274
 
            try:
275
 
                fout = self._sftp.file(path_to, 'wb')
276
 
                try:
277
 
                    fout.set_pipelined(True)
278
 
                    self._pump(fin, fout)
279
 
                finally:
280
 
                    fout.close()
281
 
            finally:
282
 
                fin.close()
283
 
        except (IOError, paramiko.SSHException), x:
284
 
            raise SFTPTransportError('Unable to copy %r to %r' % (path_from, path_to), x)
 
514
            fancy_rename(abs_from, abs_to,
 
515
                    rename_func=self._sftp.rename,
 
516
                    unlink_func=self._sftp.remove)
 
517
        except (IOError, paramiko.SSHException), e:
 
518
            self._translate_io_exception(e, abs_from, ': unable to rename to %r' % (abs_to))
285
519
 
286
520
    def move(self, rel_from, rel_to):
287
521
        """Move the item at rel_from to the location at rel_to"""
288
 
        path_from = self._abspath(rel_from)
289
 
        path_to = self._abspath(rel_to)
290
 
        try:
291
 
            self._sftp.rename(path_from, path_to)
292
 
        except (IOError, paramiko.SSHException), x:
293
 
            raise SFTPTransportError('Unable to move %r to %r' % (path_from, path_to), x)
 
522
        path_from = self._remote_path(rel_from)
 
523
        path_to = self._remote_path(rel_to)
 
524
        self._rename(path_from, path_to)
294
525
 
295
526
    def delete(self, relpath):
296
527
        """Delete the item at relpath"""
297
 
        path = self._abspath(relpath)
 
528
        path = self._remote_path(relpath)
298
529
        try:
299
530
            self._sftp.remove(path)
300
 
        except (IOError, paramiko.SSHException), x:
301
 
            raise SFTPTransportError('Unable to delete %r' % (path,), x)
 
531
        except (IOError, paramiko.SSHException), e:
 
532
            self._translate_io_exception(e, path, ': unable to delete')
302
533
            
303
534
    def listable(self):
304
535
        """Return True if this store supports listing."""
309
540
        Return a list of all files at the given location.
310
541
        """
311
542
        # does anything actually use this?
312
 
        path = self._abspath(relpath)
 
543
        path = self._remote_path(relpath)
313
544
        try:
314
545
            return self._sftp.listdir(path)
315
 
        except (IOError, paramiko.SSHException), x:
316
 
            raise SFTPTransportError('Unable to list folder %r' % (path,), x)
 
546
        except (IOError, paramiko.SSHException), e:
 
547
            self._translate_io_exception(e, path, ': failed to list_dir')
 
548
 
 
549
    def rmdir(self, relpath):
 
550
        """See Transport.rmdir."""
 
551
        path = self._remote_path(relpath)
 
552
        try:
 
553
            return self._sftp.rmdir(path)
 
554
        except (IOError, paramiko.SSHException), e:
 
555
            self._translate_io_exception(e, path, ': failed to rmdir')
317
556
 
318
557
    def stat(self, relpath):
319
558
        """Return the stat information for a file."""
320
 
        path = self._abspath(relpath)
 
559
        path = self._remote_path(relpath)
321
560
        try:
322
561
            return self._sftp.stat(path)
323
 
        except (IOError, paramiko.SSHException), x:
324
 
            raise SFTPTransportError('Unable to stat %r' % (path,), x)
 
562
        except (IOError, paramiko.SSHException), e:
 
563
            self._translate_io_exception(e, path, ': unable to stat')
325
564
 
326
565
    def lock_read(self, relpath):
327
566
        """
328
567
        Lock the given file for shared (read) access.
329
 
        :return: A lock object, which should be passed to Transport.unlock()
 
568
        :return: A lock object, which has an unlock() member function
330
569
        """
331
570
        # FIXME: there should be something clever i can do here...
332
571
        class BogusLock(object):
341
580
        Lock the given file for exclusive (write) access.
342
581
        WARNING: many transports do not support this, so trying avoid using it
343
582
 
344
 
        :return: A lock object, which should be passed to Transport.unlock()
 
583
        :return: A lock object, which has an unlock() member function
345
584
        """
346
 
        # FIXME: there should be something clever i can do here...
347
 
        class BogusLock(object):
348
 
            def __init__(self, path):
349
 
                self.path = path
350
 
            def unlock(self):
351
 
                pass
352
 
        return BogusLock(relpath)
353
 
 
 
585
        # This is a little bit bogus, but basically, we create a file
 
586
        # which should not already exist, and if it does, we assume
 
587
        # that there is a lock, and if it doesn't, the we assume
 
588
        # that we have taken the lock.
 
589
        return SFTPLock(relpath, self)
354
590
 
355
591
    def _unparse_url(self, path=None):
356
592
        if path is None:
357
593
            path = self._path
358
 
        if self._port == 22:
359
 
            return 'sftp://%s@%s%s' % (self._username, self._host, path)
360
 
        return 'sftp://%s@%s:%d%s' % (self._username, self._host, self._port, path)
 
594
        path = urllib.quote(path)
 
595
        # handle homedir paths
 
596
        if not path.startswith('/'):
 
597
            path = "/~/" + path
 
598
        netloc = urllib.quote(self._host)
 
599
        if self._username is not None:
 
600
            netloc = '%s@%s' % (urllib.quote(self._username), netloc)
 
601
        if self._port is not None:
 
602
            netloc = '%s:%d' % (netloc, self._port)
 
603
 
 
604
        return urlparse.urlunparse(('sftp', netloc, path, '', '', ''))
 
605
 
 
606
    def _split_url(self, url):
 
607
        if isinstance(url, unicode):
 
608
            url = url.encode('utf-8')
 
609
        (scheme, netloc, path, params,
 
610
         query, fragment) = urlparse.urlparse(url, allow_fragments=False)
 
611
        assert scheme == 'sftp'
 
612
        username = password = host = port = None
 
613
        if '@' in netloc:
 
614
            username, host = netloc.split('@', 1)
 
615
            if ':' in username:
 
616
                username, password = username.split(':', 1)
 
617
                password = urllib.unquote(password)
 
618
            username = urllib.unquote(username)
 
619
        else:
 
620
            host = netloc
 
621
 
 
622
        if ':' in host:
 
623
            host, port = host.rsplit(':', 1)
 
624
            try:
 
625
                port = int(port)
 
626
            except ValueError:
 
627
                # TODO: Should this be ConnectionError?
 
628
                raise TransportError('%s: invalid port number' % port)
 
629
        host = urllib.unquote(host)
 
630
 
 
631
        path = urllib.unquote(path)
 
632
 
 
633
        # the initial slash should be removed from the path, and treated
 
634
        # as a homedir relative path (the path begins with a double slash
 
635
        # if it is absolute).
 
636
        # see draft-ietf-secsh-scp-sftp-ssh-uri-03.txt
 
637
        # RBC 20060118 we are not using this as its too user hostile. instead
 
638
        # we are following lftp and using /~/foo to mean '~/foo'.
 
639
        # handle homedir paths
 
640
        if path.startswith('/~/'):
 
641
            path = path[3:]
 
642
        elif path == '/~':
 
643
            path = ''
 
644
        return (username, password, host, port, path)
361
645
 
362
646
    def _parse_url(self, url):
363
 
        assert url[:7] == 'sftp://'
364
 
        m = self._url_matcher.match(url)
365
 
        if m is None:
366
 
            raise SFTPTransportError('Unable to parse SFTP URL %r' % (url,))
367
 
        self._username, self._password, self._host, self._port, self._path = m.groups()
368
 
        if self._username is None:
369
 
            self._username = getpass.getuser()
370
 
        else:
371
 
            self._username = self._username[:-1]
372
 
        if self._password:
373
 
            self._password = self._password[1:]
374
 
            self._username = self._username[len(self._password)+1:]
375
 
        if self._port is None:
376
 
            self._port = 22
377
 
        else:
378
 
            self._port = int(self._port[1:])
379
 
        if (self._path is None) or (self._path == ''):
380
 
            self._path = '/'
 
647
        (self._username, self._password,
 
648
         self._host, self._port, self._path) = self._split_url(url)
381
649
 
382
650
    def _sftp_connect(self):
 
651
        """Connect to the remote sftp server.
 
652
        After this, self._sftp should have a valid connection (or
 
653
        we raise an TransportError 'could not connect').
 
654
 
 
655
        TODO: Raise a more reasonable ConnectionFailed exception
 
656
        """
 
657
        global _connected_hosts
 
658
 
 
659
        idx = (self._host, self._port, self._username)
 
660
        try:
 
661
            self._sftp = _connected_hosts[idx]
 
662
            return
 
663
        except KeyError:
 
664
            pass
 
665
        
 
666
        vendor = _get_ssh_vendor()
 
667
        if vendor == 'loopback':
 
668
            sock = socket.socket()
 
669
            sock.connect((self._host, self._port))
 
670
            self._sftp = SFTPClient(LoopbackSFTP(sock))
 
671
        elif vendor != 'none':
 
672
            sock = SFTPSubprocess(self._host, vendor, self._port,
 
673
                                  self._username)
 
674
            self._sftp = SFTPClient(sock)
 
675
        else:
 
676
            self._paramiko_connect()
 
677
 
 
678
        _connected_hosts[idx] = self._sftp
 
679
 
 
680
    def _paramiko_connect(self):
383
681
        global SYSTEM_HOSTKEYS, BZR_HOSTKEYS
384
682
        
385
683
        load_host_keys()
386
 
        
 
684
 
387
685
        try:
388
 
            t = paramiko.Transport((self._host, self._port))
 
686
            t = paramiko.Transport((self._host, self._port or 22))
 
687
            t.set_log_channel('bzr.paramiko')
389
688
            t.start_client()
390
 
        except paramiko.SSHException:
391
 
            raise SFTPTransportError('Unable to reach SSH host %s:%d' % (self._host, self._port))
 
689
        except paramiko.SSHException, e:
 
690
            raise ConnectionError('Unable to reach SSH host %s:%d' %
 
691
                                  (self._host, self._port), e)
392
692
            
393
693
        server_key = t.get_remote_server_key()
394
694
        server_key_hex = paramiko.util.hexify(server_key.get_fingerprint())
409
709
            save_host_keys()
410
710
        if server_key != our_server_key:
411
711
            filename1 = os.path.expanduser('~/.ssh/known_hosts')
412
 
            filename2 = os.path.join(config_dir(), 'ssh_host_keys')
413
 
            raise SFTPTransportError('Host keys for %s do not match!  %s != %s' % \
 
712
            filename2 = pathjoin(config_dir(), 'ssh_host_keys')
 
713
            raise TransportError('Host keys for %s do not match!  %s != %s' % \
414
714
                (self._host, our_server_key_hex, server_key_hex),
415
715
                ['Try editing %s or %s' % (filename1, filename2)])
416
716
 
417
 
        self._sftp_auth(t, self._username, self._host)
 
717
        self._sftp_auth(t)
418
718
        
419
719
        try:
420
720
            self._sftp = t.open_sftp_client()
421
 
        except paramiko.SSHException:
422
 
            raise BzrError('Unable to find path %s on SFTP server %s' % \
423
 
                (self._path, self._host))
424
 
 
425
 
    def _sftp_auth(self, transport, username, host):
426
 
        agent = paramiko.Agent()
427
 
        for key in agent.get_keys():
428
 
            mutter('Trying SSH agent key %s' % paramiko.util.hexify(key.get_fingerprint()))
429
 
            try:
430
 
                transport.auth_publickey(self._username, key)
431
 
                return
432
 
            except paramiko.SSHException, e:
433
 
                pass
 
721
        except paramiko.SSHException, e:
 
722
            raise ConnectionError('Unable to start sftp client %s:%d' %
 
723
                                  (self._host, self._port), e)
 
724
 
 
725
    def _sftp_auth(self, transport):
 
726
        # paramiko requires a username, but it might be none if nothing was supplied
 
727
        # use the local username, just in case.
 
728
        # We don't override self._username, because if we aren't using paramiko,
 
729
        # the username might be specified in ~/.ssh/config and we don't want to
 
730
        # force it to something else
 
731
        # Also, it would mess up the self.relpath() functionality
 
732
        username = self._username or getpass.getuser()
 
733
 
 
734
        # Paramiko tries to open a socket.AF_UNIX in order to connect
 
735
        # to ssh-agent. That attribute doesn't exist on win32 (it does in cygwin)
 
736
        # so we get an AttributeError exception. For now, just don't try to
 
737
        # connect to an agent if we are on win32
 
738
        if sys.platform != 'win32':
 
739
            agent = paramiko.Agent()
 
740
            for key in agent.get_keys():
 
741
                mutter('Trying SSH agent key %s' % paramiko.util.hexify(key.get_fingerprint()))
 
742
                try:
 
743
                    transport.auth_publickey(username, key)
 
744
                    return
 
745
                except paramiko.SSHException, e:
 
746
                    pass
434
747
        
435
748
        # okay, try finding id_rsa or id_dss?  (posix only)
436
 
        if self._try_pkey_auth(transport, paramiko.RSAKey, 'id_rsa'):
 
749
        if self._try_pkey_auth(transport, paramiko.RSAKey, username, 'id_rsa'):
437
750
            return
438
 
        if self._try_pkey_auth(transport, paramiko.DSSKey, 'id_dsa'):
 
751
        if self._try_pkey_auth(transport, paramiko.DSSKey, username, 'id_dsa'):
439
752
            return
440
753
 
441
754
        if self._password:
442
755
            try:
443
 
                transport.auth_password(self._username, self._password)
 
756
                transport.auth_password(username, self._password)
444
757
                return
445
758
            except paramiko.SSHException, e:
446
759
                pass
447
760
 
 
761
            # FIXME: Don't keep a password held in memory if you can help it
 
762
            #self._password = None
 
763
 
448
764
        # give up and ask for a password
449
 
        password = getpass.getpass('SSH %s@%s password: ' % (self._username, self._host))
 
765
        password = bzrlib.ui.ui_factory.get_password(
 
766
                prompt='SSH %(user)s@%(host)s password',
 
767
                user=username, host=self._host)
450
768
        try:
451
 
            transport.auth_password(self._username, password)
452
 
        except paramiko.SSHException:
453
 
            raise SFTPTransportError('Unable to authenticate to SSH host as %s@%s' % \
454
 
                (self._username, self._host))
 
769
            transport.auth_password(username, password)
 
770
        except paramiko.SSHException, e:
 
771
            raise ConnectionError('Unable to authenticate to SSH host as %s@%s' %
 
772
                                  (username, self._host), e)
455
773
 
456
 
    def _try_pkey_auth(self, transport, pkey_class, filename):
 
774
    def _try_pkey_auth(self, transport, pkey_class, username, filename):
457
775
        filename = os.path.expanduser('~/.ssh/' + filename)
458
776
        try:
459
777
            key = pkey_class.from_private_key_file(filename)
460
 
            transport.auth_publickey(self._username, key)
 
778
            transport.auth_publickey(username, key)
461
779
            return True
462
780
        except paramiko.PasswordRequiredException:
463
 
            password = getpass.getpass('SSH %s password: ' % (os.path.basename(filename),))
 
781
            password = bzrlib.ui.ui_factory.get_password(
 
782
                    prompt='SSH %(filename)s password',
 
783
                    filename=filename)
464
784
            try:
465
785
                key = pkey_class.from_private_key_file(filename, password)
466
 
                transport.auth_publickey(self._username, key)
 
786
                transport.auth_publickey(username, key)
467
787
                return True
468
788
            except paramiko.SSHException:
469
789
                mutter('SSH authentication via %s key failed.' % (os.path.basename(filename),))
472
792
        except IOError:
473
793
            pass
474
794
        return False
 
795
 
 
796
    def _sftp_open_exclusive(self, abspath, mode=None):
 
797
        """Open a remote path exclusively.
 
798
 
 
799
        SFTP supports O_EXCL (SFTP_FLAG_EXCL), which fails if
 
800
        the file already exists. However it does not expose this
 
801
        at the higher level of SFTPClient.open(), so we have to
 
802
        sneak away with it.
 
803
 
 
804
        WARNING: This breaks the SFTPClient abstraction, so it
 
805
        could easily break against an updated version of paramiko.
 
806
 
 
807
        :param abspath: The remote absolute path where the file should be opened
 
808
        :param mode: The mode permissions bits for the new file
 
809
        """
 
810
        path = self._sftp._adjust_cwd(abspath)
 
811
        attr = SFTPAttributes()
 
812
        if mode is not None:
 
813
            attr.st_mode = mode
 
814
        omode = (SFTP_FLAG_WRITE | SFTP_FLAG_CREATE 
 
815
                | SFTP_FLAG_TRUNC | SFTP_FLAG_EXCL)
 
816
        try:
 
817
            t, msg = self._sftp._request(CMD_OPEN, path, omode, attr)
 
818
            if t != CMD_HANDLE:
 
819
                raise TransportError('Expected an SFTP handle')
 
820
            handle = msg.get_string()
 
821
            return SFTPFile(self._sftp, handle, 'wb', -1)
 
822
        except (paramiko.SSHException, IOError), e:
 
823
            self._translate_io_exception(e, abspath, ': unable to open',
 
824
                failure_exc=FileExists)
 
825
 
 
826
 
 
827
# ------------- server test implementation --------------
 
828
import socket
 
829
import threading
 
830
 
 
831
from bzrlib.tests.stub_sftp import StubServer, StubSFTPServer
 
832
 
 
833
STUB_SERVER_KEY = """
 
834
-----BEGIN RSA PRIVATE KEY-----
 
835
MIICWgIBAAKBgQDTj1bqB4WmayWNPB+8jVSYpZYk80Ujvj680pOTh2bORBjbIAyz
 
836
oWGW+GUjzKxTiiPvVmxFgx5wdsFvF03v34lEVVhMpouqPAYQ15N37K/ir5XY+9m/
 
837
d8ufMCkjeXsQkKqFbAlQcnWMCRnOoPHS3I4vi6hmnDDeeYTSRvfLbW0fhwIBIwKB
 
838
gBIiOqZYaoqbeD9OS9z2K9KR2atlTxGxOJPXiP4ESqP3NVScWNwyZ3NXHpyrJLa0
 
839
EbVtzsQhLn6rF+TzXnOlcipFvjsem3iYzCpuChfGQ6SovTcOjHV9z+hnpXvQ/fon
 
840
soVRZY65wKnF7IAoUwTmJS9opqgrN6kRgCd3DASAMd1bAkEA96SBVWFt/fJBNJ9H
 
841
tYnBKZGw0VeHOYmVYbvMSstssn8un+pQpUm9vlG/bp7Oxd/m+b9KWEh2xPfv6zqU
 
842
avNwHwJBANqzGZa/EpzF4J8pGti7oIAPUIDGMtfIcmqNXVMckrmzQ2vTfqtkEZsA
 
843
4rE1IERRyiJQx6EJsz21wJmGV9WJQ5kCQQDwkS0uXqVdFzgHO6S++tjmjYcxwr3g
 
844
H0CoFYSgbddOT6miqRskOQF3DZVkJT3kyuBgU2zKygz52ukQZMqxCb1fAkASvuTv
 
845
qfpH87Qq5kQhNKdbbwbmd2NxlNabazPijWuphGTdW0VfJdWfklyS2Kr+iqrs/5wV
 
846
HhathJt636Eg7oIjAkA8ht3MQ+XSl9yIJIS8gVpbPxSw5OMfw0PjVE7tBdQruiSc
 
847
nvuQES5C9BMHjF39LZiGH1iLQy7FgdHyoP+eodI7
 
848
-----END RSA PRIVATE KEY-----
 
849
"""
 
850
    
 
851
 
 
852
class SingleListener(threading.Thread):
 
853
 
 
854
    def __init__(self, callback):
 
855
        threading.Thread.__init__(self)
 
856
        self._callback = callback
 
857
        self._socket = socket.socket()
 
858
        self._socket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
 
859
        self._socket.bind(('localhost', 0))
 
860
        self._socket.listen(1)
 
861
        self.port = self._socket.getsockname()[1]
 
862
        self.stop_event = threading.Event()
 
863
 
 
864
    def run(self):
 
865
        s, _ = self._socket.accept()
 
866
        # now close the listen socket
 
867
        self._socket.close()
 
868
        try:
 
869
            self._callback(s, self.stop_event)
 
870
        except socket.error:
 
871
            pass #Ignore socket errors
 
872
        except Exception, x:
 
873
            # probably a failed test
 
874
            warning('Exception from within unit test server thread: %r' % x)
 
875
 
 
876
    def stop(self):
 
877
        self.stop_event.set()
 
878
        # use a timeout here, because if the test fails, the server thread may
 
879
        # never notice the stop_event.
 
880
        self.join(5.0)
 
881
 
 
882
 
 
883
class SFTPServer(Server):
 
884
    """Common code for SFTP server facilities."""
 
885
 
 
886
    def __init__(self):
 
887
        self._original_vendor = None
 
888
        self._homedir = None
 
889
        self._server_homedir = None
 
890
        self._listener = None
 
891
        self._root = None
 
892
        self._vendor = 'none'
 
893
        # sftp server logs
 
894
        self.logs = []
 
895
 
 
896
    def _get_sftp_url(self, path):
 
897
        """Calculate an sftp url to this server for path."""
 
898
        return 'sftp://foo:bar@localhost:%d/%s' % (self._listener.port, path)
 
899
 
 
900
    def log(self, message):
 
901
        """StubServer uses this to log when a new server is created."""
 
902
        self.logs.append(message)
 
903
 
 
904
    def _run_server(self, s, stop_event):
 
905
        ssh_server = paramiko.Transport(s)
 
906
        key_file = os.path.join(self._homedir, 'test_rsa.key')
 
907
        file(key_file, 'w').write(STUB_SERVER_KEY)
 
908
        host_key = paramiko.RSAKey.from_private_key_file(key_file)
 
909
        ssh_server.add_server_key(host_key)
 
910
        server = StubServer(self)
 
911
        ssh_server.set_subsystem_handler('sftp', paramiko.SFTPServer,
 
912
                                         StubSFTPServer, root=self._root,
 
913
                                         home=self._server_homedir)
 
914
        event = threading.Event()
 
915
        ssh_server.start_server(event, server)
 
916
        event.wait(5.0)
 
917
        stop_event.wait(30.0)
 
918
    
 
919
    def setUp(self):
 
920
        global _ssh_vendor
 
921
        self._original_vendor = _ssh_vendor
 
922
        _ssh_vendor = self._vendor
 
923
        self._homedir = os.getcwdu()
 
924
        if self._server_homedir is None:
 
925
            self._server_homedir = self._homedir
 
926
        self._root = '/'
 
927
        # FIXME WINDOWS: _root should be _server_homedir[0]:/
 
928
        self._listener = SingleListener(self._run_server)
 
929
        self._listener.setDaemon(True)
 
930
        self._listener.start()
 
931
 
 
932
    def tearDown(self):
 
933
        """See bzrlib.transport.Server.tearDown."""
 
934
        global _ssh_vendor
 
935
        self._listener.stop()
 
936
        _ssh_vendor = self._original_vendor
 
937
 
 
938
 
 
939
class SFTPFullAbsoluteServer(SFTPServer):
 
940
    """A test server for sftp transports, using absolute urls and ssh."""
 
941
 
 
942
    def get_url(self):
 
943
        """See bzrlib.transport.Server.get_url."""
 
944
        return self._get_sftp_url(urlescape(self._homedir[1:]))
 
945
 
 
946
 
 
947
class SFTPServerWithoutSSH(SFTPServer):
 
948
    """An SFTP server that uses a simple TCP socket pair rather than SSH."""
 
949
 
 
950
    def __init__(self):
 
951
        super(SFTPServerWithoutSSH, self).__init__()
 
952
        self._vendor = 'loopback'
 
953
 
 
954
    def _run_server(self, sock, stop_event):
 
955
        class FakeChannel(object):
 
956
            def get_transport(self):
 
957
                return self
 
958
            def get_log_channel(self):
 
959
                return 'paramiko'
 
960
            def get_name(self):
 
961
                return '1'
 
962
            def get_hexdump(self):
 
963
                return False
 
964
 
 
965
        server = paramiko.SFTPServer(FakeChannel(), 'sftp', StubServer(self), StubSFTPServer,
 
966
                                     root=self._root, home=self._server_homedir)
 
967
        server.start_subsystem('sftp', None, sock)
 
968
        server.finish_subsystem()
 
969
 
 
970
 
 
971
class SFTPAbsoluteServer(SFTPServerWithoutSSH):
 
972
    """A test server for sftp transports, using absolute urls."""
 
973
 
 
974
    def get_url(self):
 
975
        """See bzrlib.transport.Server.get_url."""
 
976
        return self._get_sftp_url(urlescape(self._homedir[1:]))
 
977
 
 
978
 
 
979
class SFTPHomeDirServer(SFTPServerWithoutSSH):
 
980
    """A test server for sftp transports, using homedir relative urls."""
 
981
 
 
982
    def get_url(self):
 
983
        """See bzrlib.transport.Server.get_url."""
 
984
        return self._get_sftp_url("~/")
 
985
 
 
986
 
 
987
class SFTPSiblingAbsoluteServer(SFTPAbsoluteServer):
 
988
    """A test servere for sftp transports, using absolute urls to non-home."""
 
989
 
 
990
    def setUp(self):
 
991
        self._server_homedir = '/dev/noone/runs/tests/here'
 
992
        super(SFTPSiblingAbsoluteServer, self).setUp()
 
993
 
 
994
 
 
995
def get_test_permutations():
 
996
    """Return the permutations to be used in testing."""
 
997
    return [(SFTPTransport, SFTPAbsoluteServer),
 
998
            (SFTPTransport, SFTPHomeDirServer),
 
999
            (SFTPTransport, SFTPSiblingAbsoluteServer),
 
1000
            ]