~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/transport/local.py

  • Committer: Robert Collins
  • Date: 2006-09-04 08:00:00 UTC
  • mto: (1981.1.1 integration)
  • mto: This revision was merged to the branch mainline in revision 1982.
  • Revision ID: robertc@robertcollins.net-20060904080000-1152da5eed765694
(robertc) adds a convenience method "merge_from_branch" to WorkingTree.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
"""Transport for the local filesystem.
18
18
 
20
20
"""
21
21
 
22
22
import os
 
23
import shutil
 
24
import sys
23
25
from stat import ST_MODE, S_ISDIR, ST_SIZE, S_IMODE
24
 
import sys
25
 
 
26
 
from bzrlib.lazy_import import lazy_import
27
 
lazy_import(globals(), """
28
 
import errno
29
 
import shutil
 
26
import tempfile
30
27
 
31
28
from bzrlib import (
32
 
    atomicfile,
33
29
    osutils,
34
30
    urlutils,
35
 
    symbol_versioning,
36
 
    transport,
37
31
    )
 
32
from bzrlib.osutils import (abspath, realpath, normpath, pathjoin, rename,
 
33
                            check_legal_path, rmtree)
 
34
from bzrlib.symbol_versioning import warn
38
35
from bzrlib.trace import mutter
39
 
from bzrlib.transport import LateReadError
40
 
""")
41
 
 
42
 
from bzrlib import transport
43
 
 
44
 
 
45
 
_append_flags = os.O_CREAT | os.O_APPEND | os.O_WRONLY | osutils.O_BINARY | osutils.O_NOINHERIT
46
 
_put_non_atomic_flags = os.O_CREAT | os.O_TRUNC | os.O_WRONLY | osutils.O_BINARY | osutils.O_NOINHERIT
47
 
 
48
 
 
49
 
class LocalTransport(transport.Transport):
 
36
from bzrlib.transport import Transport, Server
 
37
 
 
38
 
 
39
_append_flags = os.O_CREAT | os.O_APPEND | os.O_WRONLY | osutils.O_BINARY
 
40
 
 
41
 
 
42
class LocalTransport(Transport):
50
43
    """This is the transport agent for local filesystem access."""
51
44
 
52
45
    def __init__(self, base):
53
46
        """Set the base path where files will be stored."""
54
47
        if not base.startswith('file://'):
55
 
            symbol_versioning.warn(
56
 
                "Instantiating LocalTransport with a filesystem path"
 
48
            warn("Instantiating LocalTransport with a filesystem path"
57
49
                " is deprecated as of bzr 0.8."
58
50
                " Please use bzrlib.transport.get_transport()"
59
51
                " or pass in a file:// url.",
63
55
            base = urlutils.local_path_to_url(base)
64
56
        if base[-1] != '/':
65
57
            base = base + '/'
66
 
 
67
 
        # Special case : windows has no "root", but does have
68
 
        # multiple lettered drives inside it. #240910
69
 
        if sys.platform == 'win32' and base == 'file:///':
70
 
            base = ''
71
 
            self._local_base = ''
72
 
            super(LocalTransport, self).__init__(base)
73
 
            return
74
 
 
75
58
        super(LocalTransport, self).__init__(base)
76
59
        self._local_base = urlutils.local_path_from_url(base)
77
60
 
 
61
    def should_cache(self):
 
62
        return False
 
63
 
78
64
    def clone(self, offset=None):
79
65
        """Return a new LocalTransport with root at self.base + offset
80
 
        Because the local filesystem does not require a connection,
 
66
        Because the local filesystem does not require a connection, 
81
67
        we can just return a new object.
82
68
        """
83
69
        if offset is None:
84
70
            return LocalTransport(self.base)
85
71
        else:
86
 
            abspath = self.abspath(offset)
87
 
            if abspath == 'file://':
88
 
                # fix upwalk for UNC path
89
 
                # when clone from //HOST/path updir recursively
90
 
                # we should stop at least at //HOST part
91
 
                abspath = self.base
92
 
            return LocalTransport(abspath)
 
72
            return LocalTransport(self.abspath(offset))
93
73
 
94
74
    def _abspath(self, relative_reference):
95
75
        """Return a path for use in os calls.
105
85
    def abspath(self, relpath):
106
86
        """Return the full url to the given relative URL."""
107
87
        # TODO: url escape the result. RBC 20060523.
 
88
        assert isinstance(relpath, basestring), (type(relpath), relpath)
108
89
        # jam 20060426 Using normpath on the real path, because that ensures
109
90
        #       proper handling of stuff like
110
 
        path = osutils.normpath(osutils.pathjoin(
111
 
                    self._local_base, urlutils.unescape(relpath)))
112
 
        # on windows, our _local_base may or may not have a drive specified
113
 
        # (ie, it may be "/" or "c:/foo").
114
 
        # If 'relpath' is '/' we *always* get back an abspath without
115
 
        # the drive letter - but if our transport already has a drive letter,
116
 
        # we want our abspaths to have a drive letter too - so handle that
117
 
        # here.
118
 
        if (sys.platform == "win32" and self._local_base[1:2] == ":"
119
 
            and path == '/'):
120
 
            path = self._local_base[:3]
121
 
 
 
91
        path = normpath(pathjoin(self._local_base, urlutils.unescape(relpath)))
122
92
        return urlutils.local_path_to_url(path)
123
93
 
124
94
    def local_abspath(self, relpath):
127
97
        This function only exists for the LocalTransport, since it is
128
98
        the only one that has direct local access.
129
99
        This is mostly for stuff like WorkingTree which needs to know
130
 
        the local working directory.  The returned path will always contain
131
 
        forward slashes as the path separator, regardless of the platform.
132
 
 
 
100
        the local working directory.
 
101
        
133
102
        This function is quite expensive: it calls realpath which resolves
134
103
        symlinks.
135
104
        """
144
113
            abspath = u'.'
145
114
 
146
115
        return urlutils.file_relpath(
147
 
            urlutils.strip_trailing_slash(self.base),
 
116
            urlutils.strip_trailing_slash(self.base), 
148
117
            urlutils.strip_trailing_slash(abspath))
149
118
 
150
119
    def has(self, relpath):
155
124
 
156
125
        :param relpath: The relative path to the file
157
126
        """
158
 
        canonical_url = self.abspath(relpath)
159
 
        if canonical_url in transport._file_streams:
160
 
            transport._file_streams[canonical_url].flush()
161
 
        try:
162
 
            path = self._abspath(relpath)
163
 
            return osutils.open_file(path, 'rb')
164
 
        except (IOError, OSError),e:
165
 
            if e.errno == errno.EISDIR:
166
 
                return LateReadError(relpath)
167
 
            self._translate_error(e, path)
168
 
 
169
 
    def put_file(self, relpath, f, mode=None):
170
 
        """Copy the file-like object into the location.
171
 
 
172
 
        :param relpath: Location to put the contents, relative to base.
173
 
        :param f:       File-like object.
174
 
        :param mode: The mode for the newly created file,
175
 
                     None means just use the default
176
 
        """
177
 
 
178
 
        path = relpath
179
 
        try:
180
 
            path = self._abspath(relpath)
181
 
            osutils.check_legal_path(path)
182
 
            fp = atomicfile.AtomicFile(path, 'wb', new_mode=mode)
183
 
        except (IOError, OSError),e:
184
 
            self._translate_error(e, path)
185
 
        try:
186
 
            length = self._pump(f, fp)
187
 
            fp.commit()
188
 
        finally:
189
 
            fp.close()
190
 
        return length
191
 
 
192
 
    def put_bytes(self, relpath, bytes, mode=None):
193
 
        """Copy the string into the location.
194
 
 
195
 
        :param relpath: Location to put the contents, relative to base.
196
 
        :param bytes:   String
197
 
        """
198
 
 
199
 
        path = relpath
200
 
        try:
201
 
            path = self._abspath(relpath)
202
 
            osutils.check_legal_path(path)
203
 
            fp = atomicfile.AtomicFile(path, 'wb', new_mode=mode)
204
 
        except (IOError, OSError),e:
205
 
            self._translate_error(e, path)
206
 
        try:
207
 
            if bytes:
208
 
                fp.write(bytes)
209
 
            fp.commit()
210
 
        finally:
211
 
            fp.close()
212
 
 
213
 
    def _put_non_atomic_helper(self, relpath, writer,
214
 
                               mode=None,
215
 
                               create_parent_dir=False,
216
 
                               dir_mode=None):
217
 
        """Common functionality information for the put_*_non_atomic.
218
 
 
219
 
        This tracks all the create_parent_dir stuff.
220
 
 
221
 
        :param relpath: the path we are putting to.
222
 
        :param writer: A function that takes an os level file descriptor
223
 
            and writes whatever data it needs to write there.
224
 
        :param mode: The final file mode.
225
 
        :param create_parent_dir: Should we be creating the parent directory
226
 
            if it doesn't exist?
227
 
        """
228
 
        abspath = self._abspath(relpath)
229
 
        if mode is None:
230
 
            # os.open() will automatically use the umask
231
 
            local_mode = 0666
232
 
        else:
233
 
            local_mode = mode
234
 
        try:
235
 
            fd = os.open(abspath, _put_non_atomic_flags, local_mode)
236
 
        except (IOError, OSError),e:
237
 
            # We couldn't create the file, maybe we need to create
238
 
            # the parent directory, and try again
239
 
            if (not create_parent_dir
240
 
                or e.errno not in (errno.ENOENT,errno.ENOTDIR)):
241
 
                self._translate_error(e, relpath)
242
 
            parent_dir = os.path.dirname(abspath)
243
 
            if not parent_dir:
244
 
                self._translate_error(e, relpath)
245
 
            self._mkdir(parent_dir, mode=dir_mode)
246
 
            # We created the parent directory, lets try to open the
247
 
            # file again
248
 
            try:
249
 
                fd = os.open(abspath, _put_non_atomic_flags, local_mode)
250
 
            except (IOError, OSError), e:
251
 
                self._translate_error(e, relpath)
252
 
        try:
253
 
            st = os.fstat(fd)
254
 
            if mode is not None and mode != S_IMODE(st.st_mode):
255
 
                # Because of umask, we may still need to chmod the file.
256
 
                # But in the general case, we won't have to
257
 
                os.chmod(abspath, mode)
258
 
            writer(fd)
259
 
        finally:
260
 
            os.close(fd)
261
 
 
262
 
    def put_file_non_atomic(self, relpath, f, mode=None,
263
 
                            create_parent_dir=False,
264
 
                            dir_mode=None):
265
 
        """Copy the file-like object into the target location.
266
 
 
267
 
        This function is not strictly safe to use. It is only meant to
268
 
        be used when you already know that the target does not exist.
269
 
        It is not safe, because it will open and truncate the remote
270
 
        file. So there may be a time when the file has invalid contents.
271
 
 
272
 
        :param relpath: The remote location to put the contents.
273
 
        :param f:       File-like object.
274
 
        :param mode:    Possible access permissions for new file.
275
 
                        None means do not set remote permissions.
276
 
        :param create_parent_dir: If we cannot create the target file because
277
 
                        the parent directory does not exist, go ahead and
278
 
                        create it, and then try again.
279
 
        """
280
 
        def writer(fd):
281
 
            self._pump_to_fd(f, fd)
282
 
        self._put_non_atomic_helper(relpath, writer, mode=mode,
283
 
                                    create_parent_dir=create_parent_dir,
284
 
                                    dir_mode=dir_mode)
285
 
 
286
 
    def put_bytes_non_atomic(self, relpath, bytes, mode=None,
287
 
                             create_parent_dir=False, dir_mode=None):
288
 
        def writer(fd):
289
 
            if bytes:
290
 
                os.write(fd, bytes)
291
 
        self._put_non_atomic_helper(relpath, writer, mode=mode,
292
 
                                    create_parent_dir=create_parent_dir,
293
 
                                    dir_mode=dir_mode)
 
127
        try:
 
128
            path = self._abspath(relpath)
 
129
            return open(path, 'rb')
 
130
        except (IOError, OSError),e:
 
131
            self._translate_error(e, path)
 
132
 
 
133
    def put(self, relpath, f, mode=None):
 
134
        """Copy the file-like or string object into the location.
 
135
 
 
136
        :param relpath: Location to put the contents, relative to base.
 
137
        :param f:       File-like or string object.
 
138
        """
 
139
        from bzrlib.atomicfile import AtomicFile
 
140
 
 
141
        path = relpath
 
142
        try:
 
143
            path = self._abspath(relpath)
 
144
            check_legal_path(path)
 
145
            fp = AtomicFile(path, 'wb', new_mode=mode)
 
146
        except (IOError, OSError),e:
 
147
            self._translate_error(e, path)
 
148
        try:
 
149
            self._pump(f, fp)
 
150
            fp.commit()
 
151
        finally:
 
152
            fp.close()
294
153
 
295
154
    def iter_files_recursive(self):
296
155
        """Iter the relative paths of files in the transports sub-tree."""
304
163
            else:
305
164
                yield relpath
306
165
 
307
 
    def _mkdir(self, abspath, mode=None):
308
 
        """Create a real directory, filtering through mode"""
309
 
        if mode is None:
310
 
            # os.mkdir() will filter through umask
311
 
            local_mode = 0777
312
 
        else:
313
 
            local_mode = mode
 
166
    def mkdir(self, relpath, mode=None):
 
167
        """Create a directory at the given path."""
 
168
        path = relpath
314
169
        try:
315
 
            os.mkdir(abspath, local_mode)
 
170
            if mode is None:
 
171
                # os.mkdir() will filter through umask
 
172
                local_mode = 0777
 
173
            else:
 
174
                local_mode = mode
 
175
            path = self._abspath(relpath)
 
176
            os.mkdir(path, local_mode)
316
177
            if mode is not None:
317
178
                # It is probably faster to just do the chmod, rather than
318
179
                # doing a stat, and then trying to compare
319
 
                os.chmod(abspath, mode)
 
180
                os.chmod(path, mode)
320
181
        except (IOError, OSError),e:
321
 
            self._translate_error(e, abspath)
322
 
 
323
 
    def mkdir(self, relpath, mode=None):
324
 
        """Create a directory at the given path."""
325
 
        self._mkdir(self._abspath(relpath), mode=mode)
326
 
 
327
 
    def open_write_stream(self, relpath, mode=None):
328
 
        """See Transport.open_write_stream."""
329
 
        # initialise the file
330
 
        self.put_bytes_non_atomic(relpath, "", mode=mode)
 
182
            self._translate_error(e, path)
 
183
 
 
184
    def append(self, relpath, f, mode=None):
 
185
        """Append the text in the file-like object into the final location."""
331
186
        abspath = self._abspath(relpath)
332
 
        handle = osutils.open_file(abspath, 'wb')
333
 
        if mode is not None:
334
 
            self._check_mode_and_size(abspath, handle.fileno(), mode)
335
 
        transport._file_streams[self.abspath(relpath)] = handle
336
 
        return transport.FileFileStream(self, relpath, handle)
337
 
 
338
 
    def _get_append_file(self, relpath, mode=None):
339
 
        """Call os.open() for the given relpath"""
340
 
        file_abspath = self._abspath(relpath)
341
187
        if mode is None:
342
188
            # os.open() will automatically use the umask
343
189
            local_mode = 0666
344
190
        else:
345
191
            local_mode = mode
346
192
        try:
347
 
            return file_abspath, os.open(file_abspath, _append_flags, local_mode)
 
193
            fd = os.open(abspath, _append_flags, local_mode)
348
194
        except (IOError, OSError),e:
349
195
            self._translate_error(e, relpath)
350
 
 
351
 
    def _check_mode_and_size(self, file_abspath, fd, mode=None):
352
 
        """Check the mode of the file, and return the current size"""
353
 
        st = os.fstat(fd)
354
 
        if mode is not None and mode != S_IMODE(st.st_mode):
355
 
            # Because of umask, we may still need to chmod the file.
356
 
            # But in the general case, we won't have to
357
 
            os.chmod(file_abspath, mode)
358
 
        return st.st_size
359
 
 
360
 
    def append_file(self, relpath, f, mode=None):
361
 
        """Append the text in the file-like object into the final location."""
362
 
        file_abspath, fd = self._get_append_file(relpath, mode=mode)
363
196
        try:
364
 
            result = self._check_mode_and_size(file_abspath, fd, mode=mode)
 
197
            st = os.fstat(fd)
 
198
            result = st.st_size
 
199
            if mode is not None and mode != S_IMODE(st.st_mode):
 
200
                # Because of umask, we may still need to chmod the file.
 
201
                # But in the general case, we won't have to
 
202
                os.chmod(abspath, mode)
365
203
            self._pump_to_fd(f, fd)
366
204
        finally:
367
205
            os.close(fd)
368
206
        return result
369
207
 
370
 
    def append_bytes(self, relpath, bytes, mode=None):
371
 
        """Append the text in the string into the final location."""
372
 
        file_abspath, fd = self._get_append_file(relpath, mode=mode)
373
 
        try:
374
 
            result = self._check_mode_and_size(file_abspath, fd, mode=mode)
375
 
            if bytes:
376
 
                os.write(fd, bytes)
377
 
        finally:
378
 
            os.close(fd)
379
 
        return result
380
 
 
381
208
    def _pump_to_fd(self, fromfile, to_fd):
382
209
        """Copy contents of one file to another."""
383
210
        BUFSIZE = 32768
399
226
 
400
227
    def rename(self, rel_from, rel_to):
401
228
        path_from = self._abspath(rel_from)
402
 
        path_to = self._abspath(rel_to)
403
229
        try:
404
 
            # *don't* call bzrlib.osutils.rename, because we want to
405
 
            # detect conflicting names on rename, and osutils.rename tries to
406
 
            # mask cross-platform differences there; however we do update the
407
 
            # exception to include the filenames
408
 
            os.rename(path_from, path_to)
 
230
            # *don't* call bzrlib.osutils.rename, because we want to 
 
231
            # detect errors on rename
 
232
            os.rename(path_from, self._abspath(rel_to))
409
233
        except (IOError, OSError),e:
410
234
            # TODO: What about path_to?
411
 
            self._translate_error(
412
 
                osutils._add_rename_error_details(e, path_from, path_to),
413
 
                path_from)
 
235
            self._translate_error(e, path_from)
414
236
 
415
237
    def move(self, rel_from, rel_to):
416
238
        """Move the item at rel_from to the location at rel_to"""
419
241
 
420
242
        try:
421
243
            # this version will delete the destination if necessary
422
 
            osutils.rename(path_from, path_to)
 
244
            rename(path_from, path_to)
423
245
        except (IOError, OSError),e:
424
246
            # TODO: What about path_to?
425
247
            self._translate_error(e, path_from)
433
255
        except (IOError, OSError),e:
434
256
            self._translate_error(e, path)
435
257
 
436
 
    def external_url(self):
437
 
        """See bzrlib.transport.Transport.external_url."""
438
 
        # File URL's are externally usable.
439
 
        return self.base
440
 
 
441
258
    def copy_to(self, relpaths, other, mode=None, pb=None):
442
259
        """Copy a set of entries from self into another Transport.
443
260
 
486
303
        path = relpath
487
304
        try:
488
305
            path = self._abspath(relpath)
489
 
            return os.lstat(path)
 
306
            return os.stat(path)
490
307
        except (IOError, OSError),e:
491
308
            self._translate_error(e, path)
492
309
 
520
337
        except (IOError, OSError),e:
521
338
            self._translate_error(e, path)
522
339
 
523
 
    if osutils.host_os_dereferences_symlinks():
524
 
        def readlink(self, relpath):
525
 
            """See Transport.readlink."""
526
 
            return osutils.readlink(self._abspath(relpath))
527
 
 
528
 
    if osutils.hardlinks_good():
529
 
        def hardlink(self, source, link_name):
530
 
            """See Transport.link."""
531
 
            try:
532
 
                os.link(self._abspath(source), self._abspath(link_name))
533
 
            except (IOError, OSError), e:
534
 
                self._translate_error(e, source)
535
 
 
536
 
    if osutils.has_symlinks():
537
 
        def symlink(self, source, link_name):
538
 
            """See Transport.symlink."""
539
 
            abs_link_dirpath = urlutils.dirname(self.abspath(link_name))
540
 
            source_rel = urlutils.file_relpath(
541
 
                urlutils.strip_trailing_slash(abs_link_dirpath),
542
 
                urlutils.strip_trailing_slash(self.abspath(source))
543
 
            )
544
 
 
545
 
            try:
546
 
                os.symlink(source_rel, self._abspath(link_name))
547
 
            except (IOError, OSError), e:
548
 
                self._translate_error(e, source_rel)
549
 
 
550
340
    def _can_roundtrip_unix_modebits(self):
551
341
        if sys.platform == 'win32':
552
342
            # anyone else?
555
345
            return True
556
346
 
557
347
 
558
 
class EmulatedWin32LocalTransport(LocalTransport):
559
 
    """Special transport for testing Win32 [UNC] paths on non-windows"""
560
 
 
561
 
    def __init__(self, base):
562
 
        if base[-1] != '/':
563
 
            base = base + '/'
564
 
        super(LocalTransport, self).__init__(base)
565
 
        self._local_base = urlutils._win32_local_path_from_url(base)
566
 
 
567
 
    def abspath(self, relpath):
568
 
        path = osutils.normpath(osutils.pathjoin(
569
 
                    self._local_base, urlutils.unescape(relpath)))
570
 
        return urlutils._win32_local_path_to_url(path)
571
 
 
572
 
    def clone(self, offset=None):
573
 
        """Return a new LocalTransport with root at self.base + offset
574
 
        Because the local filesystem does not require a connection,
575
 
        we can just return a new object.
576
 
        """
577
 
        if offset is None:
578
 
            return EmulatedWin32LocalTransport(self.base)
579
 
        else:
580
 
            abspath = self.abspath(offset)
581
 
            if abspath == 'file://':
582
 
                # fix upwalk for UNC path
583
 
                # when clone from //HOST/path updir recursively
584
 
                # we should stop at least at //HOST part
585
 
                abspath = self.base
586
 
            return EmulatedWin32LocalTransport(abspath)
 
348
class LocalRelpathServer(Server):
 
349
    """A pretend server for local transports, using relpaths."""
 
350
 
 
351
    def get_url(self):
 
352
        """See Transport.Server.get_url."""
 
353
        return "."
 
354
 
 
355
 
 
356
class LocalAbspathServer(Server):
 
357
    """A pretend server for local transports, using absolute paths."""
 
358
 
 
359
    def get_url(self):
 
360
        """See Transport.Server.get_url."""
 
361
        return os.path.abspath("")
 
362
 
 
363
 
 
364
class LocalURLServer(Server):
 
365
    """A pretend server for local transports, using file:// urls."""
 
366
 
 
367
    def get_url(self):
 
368
        """See Transport.Server.get_url."""
 
369
        return urlutils.local_path_to_url('')
587
370
 
588
371
 
589
372
def get_test_permutations():
590
373
    """Return the permutations to be used in testing."""
591
 
    from bzrlib.tests import test_server
592
 
    return [(LocalTransport, test_server.LocalURLServer),]
 
374
    return [(LocalTransport, LocalRelpathServer),
 
375
            (LocalTransport, LocalAbspathServer),
 
376
            (LocalTransport, LocalURLServer),
 
377
            ]