~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/transport/local.py

  • Committer: John Arbash Meinel
  • Date: 2006-07-31 19:15:36 UTC
  • mto: (1900.2.1 bzr.merge.54651)
  • mto: This revision was merged to the branch mainline in revision 1903.
  • Revision ID: john@arbash-meinel.com-20060731191536-ca772e434471e8cf
internal_diff always adds a trailing \n, make sure external_diff does too

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
"""Transport for the local filesystem.
18
18
 
20
20
"""
21
21
 
22
22
import os
23
 
from stat import ST_MODE, S_ISDIR, ST_SIZE, S_IMODE
 
23
import shutil
24
24
import sys
25
 
 
26
 
from bzrlib.lazy_import import lazy_import
27
 
lazy_import(globals(), """
28
 
import errno
29
 
import shutil
30
 
 
31
 
from bzrlib import (
32
 
    atomicfile,
33
 
    osutils,
34
 
    urlutils,
35
 
    symbol_versioning,
36
 
    transport,
37
 
    )
 
25
from stat import ST_MODE, S_ISDIR, ST_SIZE
 
26
import tempfile
 
27
 
 
28
from bzrlib.osutils import (abspath, realpath, normpath, pathjoin, rename, 
 
29
                            check_legal_path, rmtree)
 
30
from bzrlib.symbol_versioning import warn
38
31
from bzrlib.trace import mutter
39
 
from bzrlib.transport import LateReadError
40
 
""")
41
 
 
42
 
from bzrlib import transport
43
 
 
44
 
 
45
 
_append_flags = os.O_CREAT | os.O_APPEND | os.O_WRONLY | osutils.O_BINARY | osutils.O_NOINHERIT
46
 
_put_non_atomic_flags = os.O_CREAT | os.O_TRUNC | os.O_WRONLY | osutils.O_BINARY | osutils.O_NOINHERIT
47
 
 
48
 
 
49
 
class LocalTransport(transport.Transport):
 
32
from bzrlib.transport import Transport, Server
 
33
import bzrlib.urlutils as urlutils
 
34
 
 
35
 
 
36
class LocalTransport(Transport):
50
37
    """This is the transport agent for local filesystem access."""
51
38
 
52
39
    def __init__(self, base):
53
40
        """Set the base path where files will be stored."""
54
41
        if not base.startswith('file://'):
55
 
            symbol_versioning.warn(
56
 
                "Instantiating LocalTransport with a filesystem path"
 
42
            warn("Instantiating LocalTransport with a filesystem path"
57
43
                " is deprecated as of bzr 0.8."
58
44
                " Please use bzrlib.transport.get_transport()"
59
45
                " or pass in a file:// url.",
63
49
            base = urlutils.local_path_to_url(base)
64
50
        if base[-1] != '/':
65
51
            base = base + '/'
66
 
 
67
 
        # Special case : windows has no "root", but does have
68
 
        # multiple lettered drives inside it. #240910
69
 
        if sys.platform == 'win32' and base == 'file:///':
70
 
            base = ''
71
 
            self._local_base = ''
72
 
            super(LocalTransport, self).__init__(base)
73
 
            return
74
 
 
75
52
        super(LocalTransport, self).__init__(base)
76
53
        self._local_base = urlutils.local_path_from_url(base)
 
54
        ## mutter("_local_base: %r => %r", base, self._local_base)
 
55
 
 
56
    def should_cache(self):
 
57
        return False
77
58
 
78
59
    def clone(self, offset=None):
79
60
        """Return a new LocalTransport with root at self.base + offset
80
 
        Because the local filesystem does not require a connection,
 
61
        Because the local filesystem does not require a connection, 
81
62
        we can just return a new object.
82
63
        """
83
64
        if offset is None:
84
65
            return LocalTransport(self.base)
85
66
        else:
86
 
            abspath = self.abspath(offset)
87
 
            if abspath == 'file://':
88
 
                # fix upwalk for UNC path
89
 
                # when clone from //HOST/path updir recursively
90
 
                # we should stop at least at //HOST part
91
 
                abspath = self.base
92
 
            return LocalTransport(abspath)
 
67
            return LocalTransport(self.abspath(offset))
93
68
 
94
69
    def _abspath(self, relative_reference):
95
70
        """Return a path for use in os calls.
105
80
    def abspath(self, relpath):
106
81
        """Return the full url to the given relative URL."""
107
82
        # TODO: url escape the result. RBC 20060523.
 
83
        assert isinstance(relpath, basestring), (type(relpath), relpath)
108
84
        # jam 20060426 Using normpath on the real path, because that ensures
109
85
        #       proper handling of stuff like
110
 
        path = osutils.normpath(osutils.pathjoin(
111
 
                    self._local_base, urlutils.unescape(relpath)))
112
 
        # on windows, our _local_base may or may not have a drive specified
113
 
        # (ie, it may be "/" or "c:/foo").
114
 
        # If 'relpath' is '/' we *always* get back an abspath without
115
 
        # the drive letter - but if our transport already has a drive letter,
116
 
        # we want our abspaths to have a drive letter too - so handle that
117
 
        # here.
118
 
        if (sys.platform == "win32" and self._local_base[1:2] == ":"
119
 
            and path == '/'):
120
 
            path = self._local_base[:3]
121
 
 
 
86
        path = normpath(pathjoin(self._local_base, urlutils.unescape(relpath)))
122
87
        return urlutils.local_path_to_url(path)
123
88
 
124
89
    def local_abspath(self, relpath):
127
92
        This function only exists for the LocalTransport, since it is
128
93
        the only one that has direct local access.
129
94
        This is mostly for stuff like WorkingTree which needs to know
130
 
        the local working directory.  The returned path will always contain
131
 
        forward slashes as the path separator, regardless of the platform.
132
 
 
 
95
        the local working directory.
 
96
        
133
97
        This function is quite expensive: it calls realpath which resolves
134
98
        symlinks.
135
99
        """
144
108
            abspath = u'.'
145
109
 
146
110
        return urlutils.file_relpath(
147
 
            urlutils.strip_trailing_slash(self.base),
 
111
            urlutils.strip_trailing_slash(self.base), 
148
112
            urlutils.strip_trailing_slash(abspath))
149
113
 
150
114
    def has(self, relpath):
155
119
 
156
120
        :param relpath: The relative path to the file
157
121
        """
158
 
        canonical_url = self.abspath(relpath)
159
 
        if canonical_url in transport._file_streams:
160
 
            transport._file_streams[canonical_url].flush()
161
 
        try:
162
 
            path = self._abspath(relpath)
163
 
            return osutils.open_file(path, 'rb')
164
 
        except (IOError, OSError),e:
165
 
            if e.errno == errno.EISDIR:
166
 
                return LateReadError(relpath)
167
 
            self._translate_error(e, path)
168
 
 
169
 
    def put_file(self, relpath, f, mode=None):
170
 
        """Copy the file-like object into the location.
171
 
 
172
 
        :param relpath: Location to put the contents, relative to base.
173
 
        :param f:       File-like object.
174
 
        :param mode: The mode for the newly created file,
175
 
                     None means just use the default
176
 
        """
177
 
 
178
 
        path = relpath
179
 
        try:
180
 
            path = self._abspath(relpath)
181
 
            osutils.check_legal_path(path)
182
 
            fp = atomicfile.AtomicFile(path, 'wb', new_mode=mode)
183
 
        except (IOError, OSError),e:
184
 
            self._translate_error(e, path)
185
 
        try:
186
 
            length = self._pump(f, fp)
187
 
            fp.commit()
188
 
        finally:
189
 
            fp.close()
190
 
        return length
191
 
 
192
 
    def put_bytes(self, relpath, bytes, mode=None):
193
 
        """Copy the string into the location.
194
 
 
195
 
        :param relpath: Location to put the contents, relative to base.
196
 
        :param bytes:   String
197
 
        """
198
 
 
199
 
        path = relpath
200
 
        try:
201
 
            path = self._abspath(relpath)
202
 
            osutils.check_legal_path(path)
203
 
            fp = atomicfile.AtomicFile(path, 'wb', new_mode=mode)
204
 
        except (IOError, OSError),e:
205
 
            self._translate_error(e, path)
206
 
        try:
207
 
            if bytes:
208
 
                fp.write(bytes)
209
 
            fp.commit()
210
 
        finally:
211
 
            fp.close()
212
 
 
213
 
    def _put_non_atomic_helper(self, relpath, writer,
214
 
                               mode=None,
215
 
                               create_parent_dir=False,
216
 
                               dir_mode=None):
217
 
        """Common functionality information for the put_*_non_atomic.
218
 
 
219
 
        This tracks all the create_parent_dir stuff.
220
 
 
221
 
        :param relpath: the path we are putting to.
222
 
        :param writer: A function that takes an os level file descriptor
223
 
            and writes whatever data it needs to write there.
224
 
        :param mode: The final file mode.
225
 
        :param create_parent_dir: Should we be creating the parent directory
226
 
            if it doesn't exist?
227
 
        """
228
 
        abspath = self._abspath(relpath)
229
 
        if mode is None:
230
 
            # os.open() will automatically use the umask
231
 
            local_mode = 0666
232
 
        else:
233
 
            local_mode = mode
234
 
        try:
235
 
            fd = os.open(abspath, _put_non_atomic_flags, local_mode)
236
 
        except (IOError, OSError),e:
237
 
            # We couldn't create the file, maybe we need to create
238
 
            # the parent directory, and try again
239
 
            if (not create_parent_dir
240
 
                or e.errno not in (errno.ENOENT,errno.ENOTDIR)):
241
 
                self._translate_error(e, relpath)
242
 
            parent_dir = os.path.dirname(abspath)
243
 
            if not parent_dir:
244
 
                self._translate_error(e, relpath)
245
 
            self._mkdir(parent_dir, mode=dir_mode)
246
 
            # We created the parent directory, lets try to open the
247
 
            # file again
248
 
            try:
249
 
                fd = os.open(abspath, _put_non_atomic_flags, local_mode)
250
 
            except (IOError, OSError), e:
251
 
                self._translate_error(e, relpath)
252
 
        try:
253
 
            st = os.fstat(fd)
254
 
            if mode is not None and mode != S_IMODE(st.st_mode):
255
 
                # Because of umask, we may still need to chmod the file.
256
 
                # But in the general case, we won't have to
257
 
                os.chmod(abspath, mode)
258
 
            writer(fd)
259
 
        finally:
260
 
            os.close(fd)
261
 
 
262
 
    def put_file_non_atomic(self, relpath, f, mode=None,
263
 
                            create_parent_dir=False,
264
 
                            dir_mode=None):
265
 
        """Copy the file-like object into the target location.
266
 
 
267
 
        This function is not strictly safe to use. It is only meant to
268
 
        be used when you already know that the target does not exist.
269
 
        It is not safe, because it will open and truncate the remote
270
 
        file. So there may be a time when the file has invalid contents.
271
 
 
272
 
        :param relpath: The remote location to put the contents.
273
 
        :param f:       File-like object.
274
 
        :param mode:    Possible access permissions for new file.
275
 
                        None means do not set remote permissions.
276
 
        :param create_parent_dir: If we cannot create the target file because
277
 
                        the parent directory does not exist, go ahead and
278
 
                        create it, and then try again.
279
 
        """
280
 
        def writer(fd):
281
 
            self._pump_to_fd(f, fd)
282
 
        self._put_non_atomic_helper(relpath, writer, mode=mode,
283
 
                                    create_parent_dir=create_parent_dir,
284
 
                                    dir_mode=dir_mode)
285
 
 
286
 
    def put_bytes_non_atomic(self, relpath, bytes, mode=None,
287
 
                             create_parent_dir=False, dir_mode=None):
288
 
        def writer(fd):
289
 
            if bytes:
290
 
                os.write(fd, bytes)
291
 
        self._put_non_atomic_helper(relpath, writer, mode=mode,
292
 
                                    create_parent_dir=create_parent_dir,
293
 
                                    dir_mode=dir_mode)
 
122
        try:
 
123
            path = self._abspath(relpath)
 
124
            return open(path, 'rb')
 
125
        except (IOError, OSError),e:
 
126
            self._translate_error(e, path)
 
127
 
 
128
    def put(self, relpath, f, mode=None):
 
129
        """Copy the file-like or string object into the location.
 
130
 
 
131
        :param relpath: Location to put the contents, relative to base.
 
132
        :param f:       File-like or string object.
 
133
        """
 
134
        from bzrlib.atomicfile import AtomicFile
 
135
 
 
136
        path = relpath
 
137
        try:
 
138
            path = self._abspath(relpath)
 
139
            check_legal_path(path)
 
140
            fp = AtomicFile(path, 'wb', new_mode=mode)
 
141
        except (IOError, OSError),e:
 
142
            self._translate_error(e, path)
 
143
        try:
 
144
            self._pump(f, fp)
 
145
            fp.commit()
 
146
        finally:
 
147
            fp.close()
294
148
 
295
149
    def iter_files_recursive(self):
296
150
        """Iter the relative paths of files in the transports sub-tree."""
304
158
            else:
305
159
                yield relpath
306
160
 
307
 
    def _mkdir(self, abspath, mode=None):
308
 
        """Create a real directory, filtering through mode"""
309
 
        if mode is None:
310
 
            # os.mkdir() will filter through umask
311
 
            local_mode = 0777
312
 
        else:
313
 
            local_mode = mode
314
 
        try:
315
 
            os.mkdir(abspath, local_mode)
316
 
            if mode is not None:
317
 
                # It is probably faster to just do the chmod, rather than
318
 
                # doing a stat, and then trying to compare
319
 
                os.chmod(abspath, mode)
320
 
        except (IOError, OSError),e:
321
 
            self._translate_error(e, abspath)
322
 
 
323
161
    def mkdir(self, relpath, mode=None):
324
162
        """Create a directory at the given path."""
325
 
        self._mkdir(self._abspath(relpath), mode=mode)
326
 
 
327
 
    def open_write_stream(self, relpath, mode=None):
328
 
        """See Transport.open_write_stream."""
329
 
        # initialise the file
330
 
        self.put_bytes_non_atomic(relpath, "", mode=mode)
331
 
        abspath = self._abspath(relpath)
332
 
        handle = osutils.open_file(abspath, 'wb')
333
 
        if mode is not None:
334
 
            self._check_mode_and_size(abspath, handle.fileno(), mode)
335
 
        transport._file_streams[self.abspath(relpath)] = handle
336
 
        return transport.FileFileStream(self, relpath, handle)
337
 
 
338
 
    def _get_append_file(self, relpath, mode=None):
339
 
        """Call os.open() for the given relpath"""
340
 
        file_abspath = self._abspath(relpath)
341
 
        if mode is None:
342
 
            # os.open() will automatically use the umask
343
 
            local_mode = 0666
344
 
        else:
345
 
            local_mode = mode
 
163
        path = relpath
346
164
        try:
347
 
            return file_abspath, os.open(file_abspath, _append_flags, local_mode)
 
165
            path = self._abspath(relpath)
 
166
            os.mkdir(path)
 
167
            if mode is not None:
 
168
                os.chmod(path, mode)
348
169
        except (IOError, OSError),e:
349
 
            self._translate_error(e, relpath)
350
 
 
351
 
    def _check_mode_and_size(self, file_abspath, fd, mode=None):
352
 
        """Check the mode of the file, and return the current size"""
353
 
        st = os.fstat(fd)
354
 
        if mode is not None and mode != S_IMODE(st.st_mode):
355
 
            # Because of umask, we may still need to chmod the file.
356
 
            # But in the general case, we won't have to
357
 
            os.chmod(file_abspath, mode)
358
 
        return st.st_size
359
 
 
360
 
    def append_file(self, relpath, f, mode=None):
 
170
            self._translate_error(e, path)
 
171
 
 
172
    def append(self, relpath, f, mode=None):
361
173
        """Append the text in the file-like object into the final location."""
362
 
        file_abspath, fd = self._get_append_file(relpath, mode=mode)
363
 
        try:
364
 
            result = self._check_mode_and_size(file_abspath, fd, mode=mode)
365
 
            self._pump_to_fd(f, fd)
366
 
        finally:
367
 
            os.close(fd)
368
 
        return result
369
 
 
370
 
    def append_bytes(self, relpath, bytes, mode=None):
371
 
        """Append the text in the string into the final location."""
372
 
        file_abspath, fd = self._get_append_file(relpath, mode=mode)
373
 
        try:
374
 
            result = self._check_mode_and_size(file_abspath, fd, mode=mode)
375
 
            if bytes:
376
 
                os.write(fd, bytes)
377
 
        finally:
378
 
            os.close(fd)
379
 
        return result
380
 
 
381
 
    def _pump_to_fd(self, fromfile, to_fd):
382
 
        """Copy contents of one file to another."""
383
 
        BUFSIZE = 32768
384
 
        while True:
385
 
            b = fromfile.read(BUFSIZE)
386
 
            if not b:
387
 
                break
388
 
            os.write(to_fd, b)
 
174
        abspath = self._abspath(relpath)
 
175
        fp = None
 
176
        try:
 
177
            try:
 
178
                fp = open(abspath, 'ab')
 
179
                # FIXME should we really be chmodding every time ? RBC 20060523
 
180
                if mode is not None:
 
181
                    os.chmod(abspath, mode)
 
182
            except (IOError, OSError),e:
 
183
                self._translate_error(e, relpath)
 
184
            # win32 workaround (tell on an unwritten file returns 0)
 
185
            fp.seek(0, 2)
 
186
            result = fp.tell()
 
187
            self._pump(f, fp)
 
188
        finally:
 
189
            if fp is not None:
 
190
                fp.close()
 
191
        return result
389
192
 
390
193
    def copy(self, rel_from, rel_to):
391
194
        """Copy the item at rel_from to the location at rel_to"""
399
202
 
400
203
    def rename(self, rel_from, rel_to):
401
204
        path_from = self._abspath(rel_from)
402
 
        path_to = self._abspath(rel_to)
403
205
        try:
404
 
            # *don't* call bzrlib.osutils.rename, because we want to
405
 
            # detect conflicting names on rename, and osutils.rename tries to
406
 
            # mask cross-platform differences there; however we do update the
407
 
            # exception to include the filenames
408
 
            os.rename(path_from, path_to)
 
206
            # *don't* call bzrlib.osutils.rename, because we want to 
 
207
            # detect errors on rename
 
208
            os.rename(path_from, self._abspath(rel_to))
409
209
        except (IOError, OSError),e:
410
210
            # TODO: What about path_to?
411
 
            self._translate_error(
412
 
                osutils._add_rename_error_details(e, path_from, path_to),
413
 
                path_from)
 
211
            self._translate_error(e, path_from)
414
212
 
415
213
    def move(self, rel_from, rel_to):
416
214
        """Move the item at rel_from to the location at rel_to"""
419
217
 
420
218
        try:
421
219
            # this version will delete the destination if necessary
422
 
            osutils.rename(path_from, path_to)
 
220
            rename(path_from, path_to)
423
221
        except (IOError, OSError),e:
424
222
            # TODO: What about path_to?
425
223
            self._translate_error(e, path_from)
433
231
        except (IOError, OSError),e:
434
232
            self._translate_error(e, path)
435
233
 
436
 
    def external_url(self):
437
 
        """See bzrlib.transport.Transport.external_url."""
438
 
        # File URL's are externally usable.
439
 
        return self.base
440
 
 
441
234
    def copy_to(self, relpaths, other, mode=None, pb=None):
442
235
        """Copy a set of entries from self into another Transport.
443
236
 
475
268
        """
476
269
        path = self._abspath(relpath)
477
270
        try:
478
 
            entries = os.listdir(path)
 
271
            return [urlutils.escape(entry) for entry in os.listdir(path)]
479
272
        except (IOError, OSError), e:
480
273
            self._translate_error(e, path)
481
 
        return [urlutils.escape(entry) for entry in entries]
482
274
 
483
275
    def stat(self, relpath):
484
276
        """Return the stat information for a file.
486
278
        path = relpath
487
279
        try:
488
280
            path = self._abspath(relpath)
489
 
            return os.lstat(path)
 
281
            return os.stat(path)
490
282
        except (IOError, OSError),e:
491
283
            self._translate_error(e, path)
492
284
 
520
312
        except (IOError, OSError),e:
521
313
            self._translate_error(e, path)
522
314
 
523
 
    if osutils.host_os_dereferences_symlinks():
524
 
        def readlink(self, relpath):
525
 
            """See Transport.readlink."""
526
 
            return osutils.readlink(self._abspath(relpath))
527
 
 
528
 
    if osutils.hardlinks_good():
529
 
        def hardlink(self, source, link_name):
530
 
            """See Transport.link."""
531
 
            try:
532
 
                os.link(self._abspath(source), self._abspath(link_name))
533
 
            except (IOError, OSError), e:
534
 
                self._translate_error(e, source)
535
 
 
536
 
    if osutils.has_symlinks():
537
 
        def symlink(self, source, link_name):
538
 
            """See Transport.symlink."""
539
 
            abs_link_dirpath = urlutils.dirname(self.abspath(link_name))
540
 
            source_rel = urlutils.file_relpath(
541
 
                urlutils.strip_trailing_slash(abs_link_dirpath),
542
 
                urlutils.strip_trailing_slash(self.abspath(source))
543
 
            )
544
 
 
545
 
            try:
546
 
                os.symlink(source_rel, self._abspath(link_name))
547
 
            except (IOError, OSError), e:
548
 
                self._translate_error(e, source_rel)
549
 
 
550
315
    def _can_roundtrip_unix_modebits(self):
551
316
        if sys.platform == 'win32':
552
317
            # anyone else?
555
320
            return True
556
321
 
557
322
 
558
 
class EmulatedWin32LocalTransport(LocalTransport):
559
 
    """Special transport for testing Win32 [UNC] paths on non-windows"""
560
 
 
561
 
    def __init__(self, base):
562
 
        if base[-1] != '/':
563
 
            base = base + '/'
564
 
        super(LocalTransport, self).__init__(base)
565
 
        self._local_base = urlutils._win32_local_path_from_url(base)
566
 
 
567
 
    def abspath(self, relpath):
568
 
        path = osutils.normpath(osutils.pathjoin(
569
 
                    self._local_base, urlutils.unescape(relpath)))
570
 
        return urlutils._win32_local_path_to_url(path)
571
 
 
572
 
    def clone(self, offset=None):
573
 
        """Return a new LocalTransport with root at self.base + offset
574
 
        Because the local filesystem does not require a connection,
575
 
        we can just return a new object.
576
 
        """
577
 
        if offset is None:
578
 
            return EmulatedWin32LocalTransport(self.base)
579
 
        else:
580
 
            abspath = self.abspath(offset)
581
 
            if abspath == 'file://':
582
 
                # fix upwalk for UNC path
583
 
                # when clone from //HOST/path updir recursively
584
 
                # we should stop at least at //HOST part
585
 
                abspath = self.base
586
 
            return EmulatedWin32LocalTransport(abspath)
 
323
class LocalRelpathServer(Server):
 
324
    """A pretend server for local transports, using relpaths."""
 
325
 
 
326
    def get_url(self):
 
327
        """See Transport.Server.get_url."""
 
328
        return "."
 
329
 
 
330
 
 
331
class LocalAbspathServer(Server):
 
332
    """A pretend server for local transports, using absolute paths."""
 
333
 
 
334
    def get_url(self):
 
335
        """See Transport.Server.get_url."""
 
336
        return os.path.abspath("")
 
337
 
 
338
 
 
339
class LocalURLServer(Server):
 
340
    """A pretend server for local transports, using file:// urls."""
 
341
 
 
342
    def get_url(self):
 
343
        """See Transport.Server.get_url."""
 
344
        return urlutils.local_path_to_url('')
587
345
 
588
346
 
589
347
def get_test_permutations():
590
348
    """Return the permutations to be used in testing."""
591
 
    from bzrlib.tests import test_server
592
 
    return [(LocalTransport, test_server.LocalURLServer),]
 
349
    return [(LocalTransport, LocalRelpathServer),
 
350
            (LocalTransport, LocalAbspathServer),
 
351
            (LocalTransport, LocalURLServer),
 
352
            ]