~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/transport/local.py

  • Committer: Jelmer Vernooij
  • Date: 2011-02-26 15:39:49 UTC
  • mto: (5691.1.1 bzr.dev)
  • mto: This revision was merged to the branch mainline in revision 5692.
  • Revision ID: jelmer@samba.org-20110226153949-o0fk909b30g7z570
Fix the use of "bzr tags" in branches with ghosts in their mainline /and/ tags on revisions not in the branch ancestry.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006 Canonical Ltd
 
1
# Copyright (C) 2005-2010 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
17
"""Transport for the local filesystem.
18
18
 
20
20
"""
21
21
 
22
22
import os
 
23
from stat import ST_MODE, S_ISDIR, ST_SIZE, S_IMODE
 
24
import sys
 
25
 
 
26
from bzrlib.lazy_import import lazy_import
 
27
lazy_import(globals(), """
 
28
import errno
23
29
import shutil
24
 
import sys
25
 
from stat import ST_MODE, S_ISDIR, ST_SIZE, S_IMODE
26
 
import tempfile
27
30
 
28
31
from bzrlib import (
 
32
    atomicfile,
29
33
    osutils,
30
34
    urlutils,
 
35
    symbol_versioning,
 
36
    transport,
31
37
    )
32
 
from bzrlib.osutils import (abspath, realpath, normpath, pathjoin, rename,
33
 
                            check_legal_path, rmtree)
34
 
from bzrlib.symbol_versioning import warn
35
38
from bzrlib.trace import mutter
36
 
from bzrlib.transport import Transport, Server
37
 
 
38
 
 
39
 
_append_flags = os.O_CREAT | os.O_APPEND | os.O_WRONLY | osutils.O_BINARY
40
 
 
41
 
 
42
 
class LocalTransport(Transport):
 
39
from bzrlib.transport import LateReadError
 
40
""")
 
41
 
 
42
from bzrlib import transport
 
43
 
 
44
 
 
45
_append_flags = os.O_CREAT | os.O_APPEND | os.O_WRONLY | osutils.O_BINARY | osutils.O_NOINHERIT
 
46
_put_non_atomic_flags = os.O_CREAT | os.O_TRUNC | os.O_WRONLY | osutils.O_BINARY | osutils.O_NOINHERIT
 
47
 
 
48
 
 
49
class LocalTransport(transport.Transport):
43
50
    """This is the transport agent for local filesystem access."""
44
51
 
45
52
    def __init__(self, base):
46
53
        """Set the base path where files will be stored."""
47
54
        if not base.startswith('file://'):
48
 
            warn("Instantiating LocalTransport with a filesystem path"
 
55
            symbol_versioning.warn(
 
56
                "Instantiating LocalTransport with a filesystem path"
49
57
                " is deprecated as of bzr 0.8."
50
58
                " Please use bzrlib.transport.get_transport()"
51
59
                " or pass in a file:// url.",
55
63
            base = urlutils.local_path_to_url(base)
56
64
        if base[-1] != '/':
57
65
            base = base + '/'
 
66
 
 
67
        # Special case : windows has no "root", but does have
 
68
        # multiple lettered drives inside it. #240910
 
69
        if sys.platform == 'win32' and base == 'file:///':
 
70
            base = ''
 
71
            self._local_base = ''
 
72
            super(LocalTransport, self).__init__(base)
 
73
            return
 
74
 
58
75
        super(LocalTransport, self).__init__(base)
59
76
        self._local_base = urlutils.local_path_from_url(base)
60
77
 
61
 
    def should_cache(self):
62
 
        return False
63
 
 
64
78
    def clone(self, offset=None):
65
79
        """Return a new LocalTransport with root at self.base + offset
66
 
        Because the local filesystem does not require a connection, 
 
80
        Because the local filesystem does not require a connection,
67
81
        we can just return a new object.
68
82
        """
69
83
        if offset is None:
70
84
            return LocalTransport(self.base)
71
85
        else:
72
 
            return LocalTransport(self.abspath(offset))
 
86
            abspath = self.abspath(offset)
 
87
            if abspath == 'file://':
 
88
                # fix upwalk for UNC path
 
89
                # when clone from //HOST/path updir recursively
 
90
                # we should stop at least at //HOST part
 
91
                abspath = self.base
 
92
            return LocalTransport(abspath)
73
93
 
74
94
    def _abspath(self, relative_reference):
75
95
        """Return a path for use in os calls.
79
99
         - relative_reference is url escaped.
80
100
        """
81
101
        if relative_reference in ('.', ''):
82
 
            return self._local_base
 
102
            # _local_base normally has a trailing slash; strip it so that stat
 
103
            # on a transport pointing to a symlink reads the link not the
 
104
            # referent but be careful of / and c:\
 
105
            return osutils.split(self._local_base)[0]
83
106
        return self._local_base + urlutils.unescape(relative_reference)
84
107
 
85
108
    def abspath(self, relpath):
86
109
        """Return the full url to the given relative URL."""
87
110
        # TODO: url escape the result. RBC 20060523.
88
 
        assert isinstance(relpath, basestring), (type(relpath), relpath)
89
111
        # jam 20060426 Using normpath on the real path, because that ensures
90
112
        #       proper handling of stuff like
91
 
        path = normpath(pathjoin(self._local_base, urlutils.unescape(relpath)))
 
113
        path = osutils.normpath(osutils.pathjoin(
 
114
                    self._local_base, urlutils.unescape(relpath)))
 
115
        # on windows, our _local_base may or may not have a drive specified
 
116
        # (ie, it may be "/" or "c:/foo").
 
117
        # If 'relpath' is '/' we *always* get back an abspath without
 
118
        # the drive letter - but if our transport already has a drive letter,
 
119
        # we want our abspaths to have a drive letter too - so handle that
 
120
        # here.
 
121
        if (sys.platform == "win32" and self._local_base[1:2] == ":"
 
122
            and path == '/'):
 
123
            path = self._local_base[:3]
 
124
 
92
125
        return urlutils.local_path_to_url(path)
93
126
 
94
127
    def local_abspath(self, relpath):
97
130
        This function only exists for the LocalTransport, since it is
98
131
        the only one that has direct local access.
99
132
        This is mostly for stuff like WorkingTree which needs to know
100
 
        the local working directory.
101
 
        
 
133
        the local working directory.  The returned path will always contain
 
134
        forward slashes as the path separator, regardless of the platform.
 
135
 
102
136
        This function is quite expensive: it calls realpath which resolves
103
137
        symlinks.
104
138
        """
113
147
            abspath = u'.'
114
148
 
115
149
        return urlutils.file_relpath(
116
 
            urlutils.strip_trailing_slash(self.base), 
 
150
            urlutils.strip_trailing_slash(self.base),
117
151
            urlutils.strip_trailing_slash(abspath))
118
152
 
119
153
    def has(self, relpath):
124
158
 
125
159
        :param relpath: The relative path to the file
126
160
        """
127
 
        try:
128
 
            path = self._abspath(relpath)
129
 
            return open(path, 'rb')
130
 
        except (IOError, OSError),e:
131
 
            self._translate_error(e, path)
132
 
 
133
 
    def put(self, relpath, f, mode=None):
134
 
        """Copy the file-like or string object into the location.
135
 
 
136
 
        :param relpath: Location to put the contents, relative to base.
137
 
        :param f:       File-like or string object.
138
 
        """
139
 
        from bzrlib.atomicfile import AtomicFile
140
 
 
141
 
        path = relpath
142
 
        try:
143
 
            path = self._abspath(relpath)
144
 
            check_legal_path(path)
145
 
            fp = AtomicFile(path, 'wb', new_mode=mode)
146
 
        except (IOError, OSError),e:
147
 
            self._translate_error(e, path)
148
 
        try:
149
 
            self._pump(f, fp)
150
 
            fp.commit()
151
 
        finally:
152
 
            fp.close()
 
161
        canonical_url = self.abspath(relpath)
 
162
        if canonical_url in transport._file_streams:
 
163
            transport._file_streams[canonical_url].flush()
 
164
        try:
 
165
            path = self._abspath(relpath)
 
166
            return osutils.open_file(path, 'rb')
 
167
        except (IOError, OSError),e:
 
168
            if e.errno == errno.EISDIR:
 
169
                return LateReadError(relpath)
 
170
            self._translate_error(e, path)
 
171
 
 
172
    def put_file(self, relpath, f, mode=None):
 
173
        """Copy the file-like object into the location.
 
174
 
 
175
        :param relpath: Location to put the contents, relative to base.
 
176
        :param f:       File-like object.
 
177
        :param mode: The mode for the newly created file,
 
178
                     None means just use the default
 
179
        """
 
180
 
 
181
        path = relpath
 
182
        try:
 
183
            path = self._abspath(relpath)
 
184
            osutils.check_legal_path(path)
 
185
            fp = atomicfile.AtomicFile(path, 'wb', new_mode=mode)
 
186
        except (IOError, OSError),e:
 
187
            self._translate_error(e, path)
 
188
        try:
 
189
            length = self._pump(f, fp)
 
190
            fp.commit()
 
191
        finally:
 
192
            fp.close()
 
193
        return length
 
194
 
 
195
    def put_bytes(self, relpath, bytes, mode=None):
 
196
        """Copy the string into the location.
 
197
 
 
198
        :param relpath: Location to put the contents, relative to base.
 
199
        :param bytes:   String
 
200
        """
 
201
 
 
202
        path = relpath
 
203
        try:
 
204
            path = self._abspath(relpath)
 
205
            osutils.check_legal_path(path)
 
206
            fp = atomicfile.AtomicFile(path, 'wb', new_mode=mode)
 
207
        except (IOError, OSError),e:
 
208
            self._translate_error(e, path)
 
209
        try:
 
210
            if bytes:
 
211
                fp.write(bytes)
 
212
            fp.commit()
 
213
        finally:
 
214
            fp.close()
 
215
 
 
216
    def _put_non_atomic_helper(self, relpath, writer,
 
217
                               mode=None,
 
218
                               create_parent_dir=False,
 
219
                               dir_mode=None):
 
220
        """Common functionality information for the put_*_non_atomic.
 
221
 
 
222
        This tracks all the create_parent_dir stuff.
 
223
 
 
224
        :param relpath: the path we are putting to.
 
225
        :param writer: A function that takes an os level file descriptor
 
226
            and writes whatever data it needs to write there.
 
227
        :param mode: The final file mode.
 
228
        :param create_parent_dir: Should we be creating the parent directory
 
229
            if it doesn't exist?
 
230
        """
 
231
        abspath = self._abspath(relpath)
 
232
        if mode is None:
 
233
            # os.open() will automatically use the umask
 
234
            local_mode = 0666
 
235
        else:
 
236
            local_mode = mode
 
237
        try:
 
238
            fd = os.open(abspath, _put_non_atomic_flags, local_mode)
 
239
        except (IOError, OSError),e:
 
240
            # We couldn't create the file, maybe we need to create
 
241
            # the parent directory, and try again
 
242
            if (not create_parent_dir
 
243
                or e.errno not in (errno.ENOENT,errno.ENOTDIR)):
 
244
                self._translate_error(e, relpath)
 
245
            parent_dir = os.path.dirname(abspath)
 
246
            if not parent_dir:
 
247
                self._translate_error(e, relpath)
 
248
            self._mkdir(parent_dir, mode=dir_mode)
 
249
            # We created the parent directory, lets try to open the
 
250
            # file again
 
251
            try:
 
252
                fd = os.open(abspath, _put_non_atomic_flags, local_mode)
 
253
            except (IOError, OSError), e:
 
254
                self._translate_error(e, relpath)
 
255
        try:
 
256
            st = os.fstat(fd)
 
257
            if mode is not None and mode != S_IMODE(st.st_mode):
 
258
                # Because of umask, we may still need to chmod the file.
 
259
                # But in the general case, we won't have to
 
260
                os.chmod(abspath, mode)
 
261
            writer(fd)
 
262
        finally:
 
263
            os.close(fd)
 
264
 
 
265
    def put_file_non_atomic(self, relpath, f, mode=None,
 
266
                            create_parent_dir=False,
 
267
                            dir_mode=None):
 
268
        """Copy the file-like object into the target location.
 
269
 
 
270
        This function is not strictly safe to use. It is only meant to
 
271
        be used when you already know that the target does not exist.
 
272
        It is not safe, because it will open and truncate the remote
 
273
        file. So there may be a time when the file has invalid contents.
 
274
 
 
275
        :param relpath: The remote location to put the contents.
 
276
        :param f:       File-like object.
 
277
        :param mode:    Possible access permissions for new file.
 
278
                        None means do not set remote permissions.
 
279
        :param create_parent_dir: If we cannot create the target file because
 
280
                        the parent directory does not exist, go ahead and
 
281
                        create it, and then try again.
 
282
        """
 
283
        def writer(fd):
 
284
            self._pump_to_fd(f, fd)
 
285
        self._put_non_atomic_helper(relpath, writer, mode=mode,
 
286
                                    create_parent_dir=create_parent_dir,
 
287
                                    dir_mode=dir_mode)
 
288
 
 
289
    def put_bytes_non_atomic(self, relpath, bytes, mode=None,
 
290
                             create_parent_dir=False, dir_mode=None):
 
291
        def writer(fd):
 
292
            if bytes:
 
293
                os.write(fd, bytes)
 
294
        self._put_non_atomic_helper(relpath, writer, mode=mode,
 
295
                                    create_parent_dir=create_parent_dir,
 
296
                                    dir_mode=dir_mode)
153
297
 
154
298
    def iter_files_recursive(self):
155
299
        """Iter the relative paths of files in the transports sub-tree."""
163
307
            else:
164
308
                yield relpath
165
309
 
166
 
    def mkdir(self, relpath, mode=None):
167
 
        """Create a directory at the given path."""
168
 
        path = relpath
 
310
    def _mkdir(self, abspath, mode=None):
 
311
        """Create a real directory, filtering through mode"""
 
312
        if mode is None:
 
313
            # os.mkdir() will filter through umask
 
314
            local_mode = 0777
 
315
        else:
 
316
            local_mode = mode
169
317
        try:
170
 
            if mode is None:
171
 
                # os.mkdir() will filter through umask
172
 
                local_mode = 0777
173
 
            else:
174
 
                local_mode = mode
175
 
            path = self._abspath(relpath)
176
 
            os.mkdir(path, local_mode)
 
318
            os.mkdir(abspath, local_mode)
177
319
            if mode is not None:
178
320
                # It is probably faster to just do the chmod, rather than
179
321
                # doing a stat, and then trying to compare
180
 
                os.chmod(path, mode)
181
 
        except (IOError, OSError),e:
182
 
            self._translate_error(e, path)
183
 
 
184
 
    def append(self, relpath, f, mode=None):
 
322
                os.chmod(abspath, mode)
 
323
        except (IOError, OSError),e:
 
324
            self._translate_error(e, abspath)
 
325
 
 
326
    def mkdir(self, relpath, mode=None):
 
327
        """Create a directory at the given path."""
 
328
        self._mkdir(self._abspath(relpath), mode=mode)
 
329
 
 
330
    def open_write_stream(self, relpath, mode=None):
 
331
        """See Transport.open_write_stream."""
 
332
        # initialise the file
 
333
        self.put_bytes_non_atomic(relpath, "", mode=mode)
 
334
        abspath = self._abspath(relpath)
 
335
        handle = osutils.open_file(abspath, 'wb')
 
336
        if mode is not None:
 
337
            self._check_mode_and_size(abspath, handle.fileno(), mode)
 
338
        transport._file_streams[self.abspath(relpath)] = handle
 
339
        return transport.FileFileStream(self, relpath, handle)
 
340
 
 
341
    def _get_append_file(self, relpath, mode=None):
 
342
        """Call os.open() for the given relpath"""
 
343
        file_abspath = self._abspath(relpath)
 
344
        if mode is None:
 
345
            # os.open() will automatically use the umask
 
346
            local_mode = 0666
 
347
        else:
 
348
            local_mode = mode
 
349
        try:
 
350
            return file_abspath, os.open(file_abspath, _append_flags, local_mode)
 
351
        except (IOError, OSError),e:
 
352
            self._translate_error(e, relpath)
 
353
 
 
354
    def _check_mode_and_size(self, file_abspath, fd, mode=None):
 
355
        """Check the mode of the file, and return the current size"""
 
356
        st = os.fstat(fd)
 
357
        if mode is not None and mode != S_IMODE(st.st_mode):
 
358
            # Because of umask, we may still need to chmod the file.
 
359
            # But in the general case, we won't have to
 
360
            os.chmod(file_abspath, mode)
 
361
        return st.st_size
 
362
 
 
363
    def append_file(self, relpath, f, mode=None):
185
364
        """Append the text in the file-like object into the final location."""
186
 
        abspath = self._abspath(relpath)
187
 
        if mode is None:
188
 
            # os.open() will automatically use the umask
189
 
            local_mode = 0666
190
 
        else:
191
 
            local_mode = mode
192
 
        try:
193
 
            fd = os.open(abspath, _append_flags, local_mode)
194
 
        except (IOError, OSError),e:
195
 
            self._translate_error(e, relpath)
196
 
        try:
197
 
            st = os.fstat(fd)
198
 
            result = st.st_size
199
 
            if mode is not None and mode != S_IMODE(st.st_mode):
200
 
                # Because of umask, we may still need to chmod the file.
201
 
                # But in the general case, we won't have to
202
 
                os.chmod(abspath, mode)
 
365
        file_abspath, fd = self._get_append_file(relpath, mode=mode)
 
366
        try:
 
367
            result = self._check_mode_and_size(file_abspath, fd, mode=mode)
203
368
            self._pump_to_fd(f, fd)
204
369
        finally:
205
370
            os.close(fd)
206
371
        return result
207
372
 
 
373
    def append_bytes(self, relpath, bytes, mode=None):
 
374
        """Append the text in the string into the final location."""
 
375
        file_abspath, fd = self._get_append_file(relpath, mode=mode)
 
376
        try:
 
377
            result = self._check_mode_and_size(file_abspath, fd, mode=mode)
 
378
            if bytes:
 
379
                os.write(fd, bytes)
 
380
        finally:
 
381
            os.close(fd)
 
382
        return result
 
383
 
208
384
    def _pump_to_fd(self, fromfile, to_fd):
209
385
        """Copy contents of one file to another."""
210
386
        BUFSIZE = 32768
226
402
 
227
403
    def rename(self, rel_from, rel_to):
228
404
        path_from = self._abspath(rel_from)
 
405
        path_to = self._abspath(rel_to)
229
406
        try:
230
 
            # *don't* call bzrlib.osutils.rename, because we want to 
231
 
            # detect errors on rename
232
 
            os.rename(path_from, self._abspath(rel_to))
 
407
            # *don't* call bzrlib.osutils.rename, because we want to
 
408
            # detect conflicting names on rename, and osutils.rename tries to
 
409
            # mask cross-platform differences there
 
410
            os.rename(path_from, path_to)
233
411
        except (IOError, OSError),e:
234
412
            # TODO: What about path_to?
235
413
            self._translate_error(e, path_from)
241
419
 
242
420
        try:
243
421
            # this version will delete the destination if necessary
244
 
            rename(path_from, path_to)
 
422
            osutils.rename(path_from, path_to)
245
423
        except (IOError, OSError),e:
246
424
            # TODO: What about path_to?
247
425
            self._translate_error(e, path_from)
255
433
        except (IOError, OSError),e:
256
434
            self._translate_error(e, path)
257
435
 
 
436
    def external_url(self):
 
437
        """See bzrlib.transport.Transport.external_url."""
 
438
        # File URL's are externally usable.
 
439
        return self.base
 
440
 
258
441
    def copy_to(self, relpaths, other, mode=None, pb=None):
259
442
        """Copy a set of entries from self into another Transport.
260
443
 
303
486
        path = relpath
304
487
        try:
305
488
            path = self._abspath(relpath)
306
 
            return os.stat(path)
 
489
            return os.lstat(path)
307
490
        except (IOError, OSError),e:
308
491
            self._translate_error(e, path)
309
492
 
337
520
        except (IOError, OSError),e:
338
521
            self._translate_error(e, path)
339
522
 
 
523
    if osutils.host_os_dereferences_symlinks():
 
524
        def readlink(self, relpath):
 
525
            """See Transport.readlink."""
 
526
            return osutils.readlink(self._abspath(relpath))
 
527
 
 
528
    if osutils.hardlinks_good():
 
529
        def hardlink(self, source, link_name):
 
530
            """See Transport.link."""
 
531
            try:
 
532
                os.link(self._abspath(source), self._abspath(link_name))
 
533
            except (IOError, OSError), e:
 
534
                self._translate_error(e, source)
 
535
 
 
536
    if osutils.has_symlinks():
 
537
        def symlink(self, source, link_name):
 
538
            """See Transport.symlink."""
 
539
            abs_link_dirpath = urlutils.dirname(self.abspath(link_name))
 
540
            source_rel = urlutils.file_relpath(
 
541
                urlutils.strip_trailing_slash(abs_link_dirpath),
 
542
                urlutils.strip_trailing_slash(self.abspath(source))
 
543
            )
 
544
 
 
545
            try:
 
546
                os.symlink(source_rel, self._abspath(link_name))
 
547
            except (IOError, OSError), e:
 
548
                self._translate_error(e, source_rel)
 
549
 
340
550
    def _can_roundtrip_unix_modebits(self):
341
551
        if sys.platform == 'win32':
342
552
            # anyone else?
345
555
            return True
346
556
 
347
557
 
348
 
class LocalRelpathServer(Server):
349
 
    """A pretend server for local transports, using relpaths."""
350
 
 
351
 
    def get_url(self):
352
 
        """See Transport.Server.get_url."""
353
 
        return "."
354
 
 
355
 
 
356
 
class LocalAbspathServer(Server):
357
 
    """A pretend server for local transports, using absolute paths."""
358
 
 
359
 
    def get_url(self):
360
 
        """See Transport.Server.get_url."""
361
 
        return os.path.abspath("")
362
 
 
363
 
 
364
 
class LocalURLServer(Server):
365
 
    """A pretend server for local transports, using file:// urls."""
366
 
 
367
 
    def get_url(self):
368
 
        """See Transport.Server.get_url."""
369
 
        return urlutils.local_path_to_url('')
 
558
class EmulatedWin32LocalTransport(LocalTransport):
 
559
    """Special transport for testing Win32 [UNC] paths on non-windows"""
 
560
 
 
561
    def __init__(self, base):
 
562
        if base[-1] != '/':
 
563
            base = base + '/'
 
564
        super(LocalTransport, self).__init__(base)
 
565
        self._local_base = urlutils._win32_local_path_from_url(base)
 
566
 
 
567
    def abspath(self, relpath):
 
568
        path = osutils.normpath(osutils.pathjoin(
 
569
                    self._local_base, urlutils.unescape(relpath)))
 
570
        return urlutils._win32_local_path_to_url(path)
 
571
 
 
572
    def clone(self, offset=None):
 
573
        """Return a new LocalTransport with root at self.base + offset
 
574
        Because the local filesystem does not require a connection,
 
575
        we can just return a new object.
 
576
        """
 
577
        if offset is None:
 
578
            return EmulatedWin32LocalTransport(self.base)
 
579
        else:
 
580
            abspath = self.abspath(offset)
 
581
            if abspath == 'file://':
 
582
                # fix upwalk for UNC path
 
583
                # when clone from //HOST/path updir recursively
 
584
                # we should stop at least at //HOST part
 
585
                abspath = self.base
 
586
            return EmulatedWin32LocalTransport(abspath)
370
587
 
371
588
 
372
589
def get_test_permutations():
373
590
    """Return the permutations to be used in testing."""
374
 
    return [(LocalTransport, LocalRelpathServer),
375
 
            (LocalTransport, LocalAbspathServer),
376
 
            (LocalTransport, LocalURLServer),
377
 
            ]
 
591
    from bzrlib.tests import test_server
 
592
    return [(LocalTransport, test_server.LocalURLServer),]