~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/transport/local.py

  • Committer: Alexander Belchenko
  • Date: 2006-08-01 18:27:42 UTC
  • mto: (1711.2.111 jam-integration)
  • mto: This revision was merged to the branch mainline in revision 1906.
  • Revision ID: bialix@ukr.net-20060801182742-b28d2edf7eea75d1
English

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2011 Canonical Ltd
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
"""Transport for the local filesystem.
18
18
 
20
20
"""
21
21
 
22
22
import os
23
 
from stat import ST_MODE, S_ISDIR, S_IMODE
 
23
import shutil
24
24
import sys
25
 
 
26
 
from bzrlib.lazy_import import lazy_import
27
 
lazy_import(globals(), """
28
 
import errno
29
 
import shutil
30
 
 
31
 
from bzrlib import (
32
 
    atomicfile,
33
 
    osutils,
34
 
    urlutils,
35
 
    symbol_versioning,
36
 
    )
37
 
from bzrlib.transport import LateReadError
38
 
""")
39
 
 
40
 
from bzrlib import transport
41
 
 
42
 
 
43
 
_append_flags = os.O_CREAT | os.O_APPEND | os.O_WRONLY | osutils.O_BINARY | osutils.O_NOINHERIT
44
 
_put_non_atomic_flags = os.O_CREAT | os.O_TRUNC | os.O_WRONLY | osutils.O_BINARY | osutils.O_NOINHERIT
45
 
 
46
 
 
47
 
class LocalTransport(transport.Transport):
 
25
from stat import ST_MODE, S_ISDIR, ST_SIZE
 
26
import tempfile
 
27
 
 
28
from bzrlib.osutils import (abspath, realpath, normpath, pathjoin, rename, 
 
29
                            check_legal_path, rmtree)
 
30
from bzrlib.symbol_versioning import warn
 
31
from bzrlib.trace import mutter
 
32
from bzrlib.transport import Transport, Server
 
33
import bzrlib.urlutils as urlutils
 
34
 
 
35
 
 
36
class LocalTransport(Transport):
48
37
    """This is the transport agent for local filesystem access."""
49
38
 
50
39
    def __init__(self, base):
51
40
        """Set the base path where files will be stored."""
52
41
        if not base.startswith('file://'):
53
 
            symbol_versioning.warn(
54
 
                "Instantiating LocalTransport with a filesystem path"
 
42
            warn("Instantiating LocalTransport with a filesystem path"
55
43
                " is deprecated as of bzr 0.8."
56
44
                " Please use bzrlib.transport.get_transport()"
57
45
                " or pass in a file:// url.",
61
49
            base = urlutils.local_path_to_url(base)
62
50
        if base[-1] != '/':
63
51
            base = base + '/'
64
 
 
65
 
        # Special case : windows has no "root", but does have
66
 
        # multiple lettered drives inside it. #240910
67
 
        if sys.platform == 'win32' and base == 'file:///':
68
 
            base = ''
69
 
            self._local_base = ''
70
 
            super(LocalTransport, self).__init__(base)
71
 
            return
72
 
 
73
52
        super(LocalTransport, self).__init__(base)
74
53
        self._local_base = urlutils.local_path_from_url(base)
 
54
        ## mutter("_local_base: %r => %r", base, self._local_base)
 
55
 
 
56
    def should_cache(self):
 
57
        return False
75
58
 
76
59
    def clone(self, offset=None):
77
60
        """Return a new LocalTransport with root at self.base + offset
78
 
        Because the local filesystem does not require a connection,
 
61
        Because the local filesystem does not require a connection, 
79
62
        we can just return a new object.
80
63
        """
81
64
        if offset is None:
82
65
            return LocalTransport(self.base)
83
66
        else:
84
 
            abspath = self.abspath(offset)
85
 
            if abspath == 'file://':
86
 
                # fix upwalk for UNC path
87
 
                # when clone from //HOST/path updir recursively
88
 
                # we should stop at least at //HOST part
89
 
                abspath = self.base
90
 
            return LocalTransport(abspath)
 
67
            return LocalTransport(self.abspath(offset))
91
68
 
92
69
    def _abspath(self, relative_reference):
93
70
        """Return a path for use in os calls.
97
74
         - relative_reference is url escaped.
98
75
        """
99
76
        if relative_reference in ('.', ''):
100
 
            # _local_base normally has a trailing slash; strip it so that stat
101
 
            # on a transport pointing to a symlink reads the link not the
102
 
            # referent but be careful of / and c:\
103
 
            return osutils.split(self._local_base)[0]
 
77
            return self._local_base
104
78
        return self._local_base + urlutils.unescape(relative_reference)
105
79
 
106
80
    def abspath(self, relpath):
107
81
        """Return the full url to the given relative URL."""
108
82
        # TODO: url escape the result. RBC 20060523.
 
83
        assert isinstance(relpath, basestring), (type(relpath), relpath)
109
84
        # jam 20060426 Using normpath on the real path, because that ensures
110
85
        #       proper handling of stuff like
111
 
        path = osutils.normpath(osutils.pathjoin(
112
 
                    self._local_base, urlutils.unescape(relpath)))
113
 
        # on windows, our _local_base may or may not have a drive specified
114
 
        # (ie, it may be "/" or "c:/foo").
115
 
        # If 'relpath' is '/' we *always* get back an abspath without
116
 
        # the drive letter - but if our transport already has a drive letter,
117
 
        # we want our abspaths to have a drive letter too - so handle that
118
 
        # here.
119
 
        if (sys.platform == "win32" and self._local_base[1:2] == ":"
120
 
            and path == '/'):
121
 
            path = self._local_base[:3]
122
 
 
 
86
        path = normpath(pathjoin(self._local_base, urlutils.unescape(relpath)))
123
87
        return urlutils.local_path_to_url(path)
124
88
 
125
89
    def local_abspath(self, relpath):
128
92
        This function only exists for the LocalTransport, since it is
129
93
        the only one that has direct local access.
130
94
        This is mostly for stuff like WorkingTree which needs to know
131
 
        the local working directory.  The returned path will always contain
132
 
        forward slashes as the path separator, regardless of the platform.
133
 
 
 
95
        the local working directory.
 
96
        
134
97
        This function is quite expensive: it calls realpath which resolves
135
98
        symlinks.
136
99
        """
145
108
            abspath = u'.'
146
109
 
147
110
        return urlutils.file_relpath(
148
 
            urlutils.strip_trailing_slash(self.base),
 
111
            urlutils.strip_trailing_slash(self.base), 
149
112
            urlutils.strip_trailing_slash(abspath))
150
113
 
151
114
    def has(self, relpath):
156
119
 
157
120
        :param relpath: The relative path to the file
158
121
        """
159
 
        canonical_url = self.abspath(relpath)
160
 
        if canonical_url in transport._file_streams:
161
 
            transport._file_streams[canonical_url].flush()
162
 
        try:
163
 
            path = self._abspath(relpath)
164
 
            return osutils.open_file(path, 'rb')
165
 
        except (IOError, OSError),e:
166
 
            if e.errno == errno.EISDIR:
167
 
                return LateReadError(relpath)
168
 
            self._translate_error(e, path)
169
 
 
170
 
    def put_file(self, relpath, f, mode=None):
171
 
        """Copy the file-like object into the location.
172
 
 
173
 
        :param relpath: Location to put the contents, relative to base.
174
 
        :param f:       File-like object.
175
 
        :param mode: The mode for the newly created file,
176
 
                     None means just use the default
177
 
        """
178
 
 
179
 
        path = relpath
180
 
        try:
181
 
            path = self._abspath(relpath)
182
 
            osutils.check_legal_path(path)
183
 
            fp = atomicfile.AtomicFile(path, 'wb', new_mode=mode)
184
 
        except (IOError, OSError),e:
185
 
            self._translate_error(e, path)
186
 
        try:
187
 
            length = self._pump(f, fp)
188
 
            fp.commit()
189
 
        finally:
190
 
            fp.close()
191
 
        return length
192
 
 
193
 
    def put_bytes(self, relpath, bytes, mode=None):
194
 
        """Copy the string into the location.
195
 
 
196
 
        :param relpath: Location to put the contents, relative to base.
197
 
        :param bytes:   String
198
 
        """
199
 
 
200
 
        path = relpath
201
 
        try:
202
 
            path = self._abspath(relpath)
203
 
            osutils.check_legal_path(path)
204
 
            fp = atomicfile.AtomicFile(path, 'wb', new_mode=mode)
205
 
        except (IOError, OSError),e:
206
 
            self._translate_error(e, path)
207
 
        try:
208
 
            if bytes:
209
 
                fp.write(bytes)
210
 
            fp.commit()
211
 
        finally:
212
 
            fp.close()
213
 
 
214
 
    def _put_non_atomic_helper(self, relpath, writer,
215
 
                               mode=None,
216
 
                               create_parent_dir=False,
217
 
                               dir_mode=None):
218
 
        """Common functionality information for the put_*_non_atomic.
219
 
 
220
 
        This tracks all the create_parent_dir stuff.
221
 
 
222
 
        :param relpath: the path we are putting to.
223
 
        :param writer: A function that takes an os level file descriptor
224
 
            and writes whatever data it needs to write there.
225
 
        :param mode: The final file mode.
226
 
        :param create_parent_dir: Should we be creating the parent directory
227
 
            if it doesn't exist?
228
 
        """
229
 
        abspath = self._abspath(relpath)
230
 
        if mode is None:
231
 
            # os.open() will automatically use the umask
232
 
            local_mode = 0666
233
 
        else:
234
 
            local_mode = mode
235
 
        try:
236
 
            fd = os.open(abspath, _put_non_atomic_flags, local_mode)
237
 
        except (IOError, OSError),e:
238
 
            # We couldn't create the file, maybe we need to create
239
 
            # the parent directory, and try again
240
 
            if (not create_parent_dir
241
 
                or e.errno not in (errno.ENOENT,errno.ENOTDIR)):
242
 
                self._translate_error(e, relpath)
243
 
            parent_dir = os.path.dirname(abspath)
244
 
            if not parent_dir:
245
 
                self._translate_error(e, relpath)
246
 
            self._mkdir(parent_dir, mode=dir_mode)
247
 
            # We created the parent directory, lets try to open the
248
 
            # file again
249
 
            try:
250
 
                fd = os.open(abspath, _put_non_atomic_flags, local_mode)
251
 
            except (IOError, OSError), e:
252
 
                self._translate_error(e, relpath)
253
 
        try:
254
 
            st = os.fstat(fd)
255
 
            if mode is not None and mode != S_IMODE(st.st_mode):
256
 
                # Because of umask, we may still need to chmod the file.
257
 
                # But in the general case, we won't have to
258
 
                os.chmod(abspath, mode)
259
 
            writer(fd)
260
 
        finally:
261
 
            os.close(fd)
262
 
 
263
 
    def put_file_non_atomic(self, relpath, f, mode=None,
264
 
                            create_parent_dir=False,
265
 
                            dir_mode=None):
266
 
        """Copy the file-like object into the target location.
267
 
 
268
 
        This function is not strictly safe to use. It is only meant to
269
 
        be used when you already know that the target does not exist.
270
 
        It is not safe, because it will open and truncate the remote
271
 
        file. So there may be a time when the file has invalid contents.
272
 
 
273
 
        :param relpath: The remote location to put the contents.
274
 
        :param f:       File-like object.
275
 
        :param mode:    Possible access permissions for new file.
276
 
                        None means do not set remote permissions.
277
 
        :param create_parent_dir: If we cannot create the target file because
278
 
                        the parent directory does not exist, go ahead and
279
 
                        create it, and then try again.
280
 
        """
281
 
        def writer(fd):
282
 
            self._pump_to_fd(f, fd)
283
 
        self._put_non_atomic_helper(relpath, writer, mode=mode,
284
 
                                    create_parent_dir=create_parent_dir,
285
 
                                    dir_mode=dir_mode)
286
 
 
287
 
    def put_bytes_non_atomic(self, relpath, bytes, mode=None,
288
 
                             create_parent_dir=False, dir_mode=None):
289
 
        def writer(fd):
290
 
            if bytes:
291
 
                os.write(fd, bytes)
292
 
        self._put_non_atomic_helper(relpath, writer, mode=mode,
293
 
                                    create_parent_dir=create_parent_dir,
294
 
                                    dir_mode=dir_mode)
 
122
        try:
 
123
            path = self._abspath(relpath)
 
124
            return open(path, 'rb')
 
125
        except (IOError, OSError),e:
 
126
            self._translate_error(e, path)
 
127
 
 
128
    def put(self, relpath, f, mode=None):
 
129
        """Copy the file-like or string object into the location.
 
130
 
 
131
        :param relpath: Location to put the contents, relative to base.
 
132
        :param f:       File-like or string object.
 
133
        """
 
134
        from bzrlib.atomicfile import AtomicFile
 
135
 
 
136
        path = relpath
 
137
        try:
 
138
            path = self._abspath(relpath)
 
139
            check_legal_path(path)
 
140
            fp = AtomicFile(path, 'wb', new_mode=mode)
 
141
        except (IOError, OSError),e:
 
142
            self._translate_error(e, path)
 
143
        try:
 
144
            self._pump(f, fp)
 
145
            fp.commit()
 
146
        finally:
 
147
            fp.close()
295
148
 
296
149
    def iter_files_recursive(self):
297
150
        """Iter the relative paths of files in the transports sub-tree."""
305
158
            else:
306
159
                yield relpath
307
160
 
308
 
    def _mkdir(self, abspath, mode=None):
309
 
        """Create a real directory, filtering through mode"""
310
 
        if mode is None:
311
 
            # os.mkdir() will filter through umask
312
 
            local_mode = 0777
313
 
        else:
314
 
            local_mode = mode
315
 
        try:
316
 
            os.mkdir(abspath, local_mode)
317
 
            if mode is not None:
318
 
                # It is probably faster to just do the chmod, rather than
319
 
                # doing a stat, and then trying to compare
320
 
                os.chmod(abspath, mode)
321
 
        except (IOError, OSError),e:
322
 
            self._translate_error(e, abspath)
323
 
 
324
161
    def mkdir(self, relpath, mode=None):
325
162
        """Create a directory at the given path."""
326
 
        self._mkdir(self._abspath(relpath), mode=mode)
327
 
 
328
 
    def open_write_stream(self, relpath, mode=None):
329
 
        """See Transport.open_write_stream."""
330
 
        # initialise the file
331
 
        self.put_bytes_non_atomic(relpath, "", mode=mode)
332
 
        abspath = self._abspath(relpath)
333
 
        handle = osutils.open_file(abspath, 'wb')
334
 
        if mode is not None:
335
 
            self._check_mode_and_size(abspath, handle.fileno(), mode)
336
 
        transport._file_streams[self.abspath(relpath)] = handle
337
 
        return transport.FileFileStream(self, relpath, handle)
338
 
 
339
 
    def _get_append_file(self, relpath, mode=None):
340
 
        """Call os.open() for the given relpath"""
341
 
        file_abspath = self._abspath(relpath)
342
 
        if mode is None:
343
 
            # os.open() will automatically use the umask
344
 
            local_mode = 0666
345
 
        else:
346
 
            local_mode = mode
 
163
        path = relpath
347
164
        try:
348
 
            return file_abspath, os.open(file_abspath, _append_flags, local_mode)
 
165
            path = self._abspath(relpath)
 
166
            os.mkdir(path)
 
167
            if mode is not None:
 
168
                os.chmod(path, mode)
349
169
        except (IOError, OSError),e:
350
 
            self._translate_error(e, relpath)
351
 
 
352
 
    def _check_mode_and_size(self, file_abspath, fd, mode=None):
353
 
        """Check the mode of the file, and return the current size"""
354
 
        st = os.fstat(fd)
355
 
        if mode is not None and mode != S_IMODE(st.st_mode):
356
 
            # Because of umask, we may still need to chmod the file.
357
 
            # But in the general case, we won't have to
358
 
            os.chmod(file_abspath, mode)
359
 
        return st.st_size
360
 
 
361
 
    def append_file(self, relpath, f, mode=None):
 
170
            self._translate_error(e, path)
 
171
 
 
172
    def append(self, relpath, f, mode=None):
362
173
        """Append the text in the file-like object into the final location."""
363
 
        file_abspath, fd = self._get_append_file(relpath, mode=mode)
364
 
        try:
365
 
            result = self._check_mode_and_size(file_abspath, fd, mode=mode)
366
 
            self._pump_to_fd(f, fd)
367
 
        finally:
368
 
            os.close(fd)
369
 
        return result
370
 
 
371
 
    def append_bytes(self, relpath, bytes, mode=None):
372
 
        """Append the text in the string into the final location."""
373
 
        file_abspath, fd = self._get_append_file(relpath, mode=mode)
374
 
        try:
375
 
            result = self._check_mode_and_size(file_abspath, fd, mode=mode)
376
 
            if bytes:
377
 
                os.write(fd, bytes)
378
 
        finally:
379
 
            os.close(fd)
380
 
        return result
381
 
 
382
 
    def _pump_to_fd(self, fromfile, to_fd):
383
 
        """Copy contents of one file to another."""
384
 
        BUFSIZE = 32768
385
 
        while True:
386
 
            b = fromfile.read(BUFSIZE)
387
 
            if not b:
388
 
                break
389
 
            os.write(to_fd, b)
 
174
        abspath = self._abspath(relpath)
 
175
        fp = None
 
176
        try:
 
177
            try:
 
178
                fp = open(abspath, 'ab')
 
179
                # FIXME should we really be chmodding every time ? RBC 20060523
 
180
                if mode is not None:
 
181
                    os.chmod(abspath, mode)
 
182
            except (IOError, OSError),e:
 
183
                self._translate_error(e, relpath)
 
184
            # win32 workaround (tell on an unwritten file returns 0)
 
185
            fp.seek(0, 2)
 
186
            result = fp.tell()
 
187
            self._pump(f, fp)
 
188
        finally:
 
189
            if fp is not None:
 
190
                fp.close()
 
191
        return result
390
192
 
391
193
    def copy(self, rel_from, rel_to):
392
194
        """Copy the item at rel_from to the location at rel_to"""
400
202
 
401
203
    def rename(self, rel_from, rel_to):
402
204
        path_from = self._abspath(rel_from)
403
 
        path_to = self._abspath(rel_to)
404
205
        try:
405
 
            # *don't* call bzrlib.osutils.rename, because we want to
406
 
            # detect conflicting names on rename, and osutils.rename tries to
407
 
            # mask cross-platform differences there
408
 
            os.rename(path_from, path_to)
 
206
            # *don't* call bzrlib.osutils.rename, because we want to 
 
207
            # detect errors on rename
 
208
            os.rename(path_from, self._abspath(rel_to))
409
209
        except (IOError, OSError),e:
410
210
            # TODO: What about path_to?
411
211
            self._translate_error(e, path_from)
417
217
 
418
218
        try:
419
219
            # this version will delete the destination if necessary
420
 
            osutils.rename(path_from, path_to)
 
220
            rename(path_from, path_to)
421
221
        except (IOError, OSError),e:
422
222
            # TODO: What about path_to?
423
223
            self._translate_error(e, path_from)
431
231
        except (IOError, OSError),e:
432
232
            self._translate_error(e, path)
433
233
 
434
 
    def external_url(self):
435
 
        """See bzrlib.transport.Transport.external_url."""
436
 
        # File URL's are externally usable.
437
 
        return self.base
438
 
 
439
234
    def copy_to(self, relpaths, other, mode=None, pb=None):
440
235
        """Copy a set of entries from self into another Transport.
441
236
 
473
268
        """
474
269
        path = self._abspath(relpath)
475
270
        try:
476
 
            entries = os.listdir(path)
 
271
            return [urlutils.escape(entry) for entry in os.listdir(path)]
477
272
        except (IOError, OSError), e:
478
273
            self._translate_error(e, path)
479
 
        return [urlutils.escape(entry) for entry in entries]
480
274
 
481
275
    def stat(self, relpath):
482
276
        """Return the stat information for a file.
484
278
        path = relpath
485
279
        try:
486
280
            path = self._abspath(relpath)
487
 
            return os.lstat(path)
 
281
            return os.stat(path)
488
282
        except (IOError, OSError),e:
489
283
            self._translate_error(e, path)
490
284
 
518
312
        except (IOError, OSError),e:
519
313
            self._translate_error(e, path)
520
314
 
521
 
    if osutils.host_os_dereferences_symlinks():
522
 
        def readlink(self, relpath):
523
 
            """See Transport.readlink."""
524
 
            return osutils.readlink(self._abspath(relpath))
525
 
 
526
 
    if osutils.hardlinks_good():
527
 
        def hardlink(self, source, link_name):
528
 
            """See Transport.link."""
529
 
            try:
530
 
                os.link(self._abspath(source), self._abspath(link_name))
531
 
            except (IOError, OSError), e:
532
 
                self._translate_error(e, source)
533
 
 
534
 
    if osutils.has_symlinks():
535
 
        def symlink(self, source, link_name):
536
 
            """See Transport.symlink."""
537
 
            abs_link_dirpath = urlutils.dirname(self.abspath(link_name))
538
 
            source_rel = urlutils.file_relpath(
539
 
                urlutils.strip_trailing_slash(abs_link_dirpath),
540
 
                urlutils.strip_trailing_slash(self.abspath(source))
541
 
            )
542
 
 
543
 
            try:
544
 
                os.symlink(source_rel, self._abspath(link_name))
545
 
            except (IOError, OSError), e:
546
 
                self._translate_error(e, source_rel)
547
 
 
548
315
    def _can_roundtrip_unix_modebits(self):
549
316
        if sys.platform == 'win32':
550
317
            # anyone else?
553
320
            return True
554
321
 
555
322
 
556
 
class EmulatedWin32LocalTransport(LocalTransport):
557
 
    """Special transport for testing Win32 [UNC] paths on non-windows"""
558
 
 
559
 
    def __init__(self, base):
560
 
        if base[-1] != '/':
561
 
            base = base + '/'
562
 
        super(LocalTransport, self).__init__(base)
563
 
        self._local_base = urlutils._win32_local_path_from_url(base)
564
 
 
565
 
    def abspath(self, relpath):
566
 
        path = osutils.normpath(osutils.pathjoin(
567
 
                    self._local_base, urlutils.unescape(relpath)))
568
 
        return urlutils._win32_local_path_to_url(path)
569
 
 
570
 
    def clone(self, offset=None):
571
 
        """Return a new LocalTransport with root at self.base + offset
572
 
        Because the local filesystem does not require a connection,
573
 
        we can just return a new object.
574
 
        """
575
 
        if offset is None:
576
 
            return EmulatedWin32LocalTransport(self.base)
577
 
        else:
578
 
            abspath = self.abspath(offset)
579
 
            if abspath == 'file://':
580
 
                # fix upwalk for UNC path
581
 
                # when clone from //HOST/path updir recursively
582
 
                # we should stop at least at //HOST part
583
 
                abspath = self.base
584
 
            return EmulatedWin32LocalTransport(abspath)
 
323
class LocalRelpathServer(Server):
 
324
    """A pretend server for local transports, using relpaths."""
 
325
 
 
326
    def get_url(self):
 
327
        """See Transport.Server.get_url."""
 
328
        return "."
 
329
 
 
330
 
 
331
class LocalAbspathServer(Server):
 
332
    """A pretend server for local transports, using absolute paths."""
 
333
 
 
334
    def get_url(self):
 
335
        """See Transport.Server.get_url."""
 
336
        return os.path.abspath("")
 
337
 
 
338
 
 
339
class LocalURLServer(Server):
 
340
    """A pretend server for local transports, using file:// urls."""
 
341
 
 
342
    def get_url(self):
 
343
        """See Transport.Server.get_url."""
 
344
        return urlutils.local_path_to_url('')
585
345
 
586
346
 
587
347
def get_test_permutations():
588
348
    """Return the permutations to be used in testing."""
589
 
    from bzrlib.tests import test_server
590
 
    return [(LocalTransport, test_server.LocalURLServer),]
 
349
    return [(LocalTransport, LocalRelpathServer),
 
350
            (LocalTransport, LocalAbspathServer),
 
351
            (LocalTransport, LocalURLServer),
 
352
            ]