~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/add.py

  • Committer: Launchpad Translations on behalf of bzr-core
  • Date: 2012-05-29 04:30:47 UTC
  • mto: (6581.1.1 trunk)
  • mto: This revision was merged to the branch mainline in revision 6582.
  • Revision ID: launchpad_translations_on_behalf_of_bzr-core-20120529043047-mmj2hkq63ke8kl81
Launchpad automatic translations update.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006 Canonical Ltd
 
1
# Copyright (C) 2005-2010 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
 
 
17
 
import errno
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
"""Helper functions for adding files to working trees."""
 
18
 
 
19
from __future__ import absolute_import
 
20
 
 
21
import sys
18
22
import os
19
 
from os.path import dirname
20
 
import sys
21
 
 
22
 
import bzrlib.errors as errors
23
 
from bzrlib.inventory import InventoryEntry
24
 
from bzrlib.trace import mutter, note, warning
25
 
from bzrlib.errors import NotBranchError
26
 
import bzrlib.osutils
27
 
from bzrlib.workingtree import WorkingTree
28
 
 
29
 
 
30
 
def glob_expand_for_win32(file_list):
31
 
    if not file_list:
32
 
        return
33
 
    import glob
34
 
    expanded_file_list = []
35
 
    for possible_glob in file_list:
36
 
        glob_files = glob.glob(possible_glob)
37
 
       
38
 
        if glob_files == []:
39
 
            # special case to let the normal code path handle
40
 
            # files that do not exists
41
 
            expanded_file_list.append(possible_glob)
42
 
        else:
43
 
            expanded_file_list += glob_files
44
 
    return expanded_file_list
45
 
 
46
 
 
47
 
def _prepare_file_list(file_list):
48
 
    """Prepare a file list for use by smart_add_*."""
49
 
    if sys.platform == 'win32':
50
 
        file_list = glob_expand_for_win32(file_list)
51
 
    if not file_list:
52
 
        file_list = [u'.']
53
 
    file_list = list(file_list)
54
 
    return file_list
55
 
 
 
23
 
 
24
from bzrlib import (
 
25
    osutils,
 
26
    ui, 
 
27
    )
 
28
from bzrlib.i18n import gettext
56
29
 
57
30
class AddAction(object):
58
31
    """A class which defines what action to take when adding a file."""
59
32
 
60
33
    def __init__(self, to_file=None, should_print=None):
 
34
        """Initialize an action which prints added files to an output stream.
 
35
 
 
36
        :param to_file: The stream to write into. This is expected to take
 
37
            Unicode paths. If not supplied, it will default to ``sys.stdout``.
 
38
        :param should_print: If False, printing will be suppressed.
 
39
        """
61
40
        self._to_file = to_file
62
41
        if to_file is None:
63
42
            self._to_file = sys.stdout
65
44
        if should_print is not None:
66
45
            self.should_print = should_print
67
46
 
68
 
    def __call__(self, inv, parent_ie, path, kind, _quote=bzrlib.osutils.quotefn):
 
47
    def __call__(self, inv, parent_ie, path, kind, _quote=osutils.quotefn):
69
48
        """Add path to inventory.
70
49
 
71
50
        The default action does nothing.
74
53
        :param path: The FastPath being added
75
54
        :param kind: The kind of the object being added.
76
55
        """
77
 
        if not self.should_print:
78
 
            return
79
 
        self._to_file.write('added %s\n' % _quote(path.raw_path))
80
 
 
81
 
 
82
 
# TODO: jam 20050105 These could be used for compatibility
83
 
#       however, they bind against the current stdout, not the
84
 
#       one which exists at the time they are called, so they
85
 
#       don't work for the test suite.
86
 
# deprecated
87
 
add_action_add = AddAction()
88
 
add_action_null = add_action_add
89
 
add_action_add_and_print = AddAction(should_print=True)
90
 
add_action_print = add_action_add_and_print
91
 
 
92
 
 
93
 
def smart_add(file_list, recurse=True, action=None, save=True):
94
 
    """Add files to version, optionally recursing into directories.
95
 
 
96
 
    This is designed more towards DWIM for humans than API simplicity.
97
 
    For the specific behaviour see the help for cmd_add().
98
 
 
99
 
    Returns the number of files added.
100
 
    Please see smart_add_tree for more detail.
101
 
    """
102
 
    file_list = _prepare_file_list(file_list)
103
 
    tree = WorkingTree.open_containing(file_list[0])[0]
104
 
    return smart_add_tree(tree, file_list, recurse, action=action)
105
 
 
106
 
 
107
 
class FastPath(object):
108
 
    """A path object with fast accessors for things like basename."""
109
 
 
110
 
    __slots__ = ['raw_path', 'base_path']
111
 
 
112
 
    def __init__(self, path, base_path=None):
113
 
        """Construct a FastPath from path."""
114
 
        if base_path is None:
115
 
            self.base_path = bzrlib.osutils.basename(path)
116
 
        else:
117
 
            self.base_path = base_path
118
 
        self.raw_path = path
119
 
 
120
 
    def __cmp__(self, other):
121
 
        return cmp(self.raw_path, other.raw_path)
122
 
 
123
 
    def __hash__(self):
124
 
        return hash(self.raw_path)
125
 
 
126
 
 
127
 
def smart_add_tree(tree, file_list, recurse=True, action=None, save=True):
128
 
    """Add files to version, optionally recursing into directories.
129
 
 
130
 
    This is designed more towards DWIM for humans than API simplicity.
131
 
    For the specific behaviour see the help for cmd_add().
132
 
 
133
 
    This calls reporter with each (path, kind, file_id) of added files.
134
 
 
135
 
    Returns the number of files added.
136
 
    
137
 
    :param save: Save the inventory after completing the adds. If False this
138
 
    provides dry-run functionality by doing the add and not saving the
139
 
    inventory.  Note that the modified inventory is left in place, allowing 
140
 
    further dry-run tasks to take place. To restore the original inventory
141
 
    call tree.read_working_inventory().
142
 
    """
143
 
    assert isinstance(recurse, bool)
144
 
    if action is None:
145
 
        action = AddAction()
146
 
    
147
 
    prepared_list = _prepare_file_list(file_list)
148
 
    mutter("smart add of %r, originally %r", prepared_list, file_list)
149
 
    inv = tree.read_working_inventory()
150
 
    added = []
151
 
    ignored = {}
152
 
    dirs_to_add = []
153
 
    user_dirs = set()
154
 
 
155
 
    # validate user file paths and convert all paths to tree 
156
 
    # relative : its cheaper to make a tree relative path an abspath
157
 
    # than to convert an abspath to tree relative.
158
 
    for filepath in prepared_list:
159
 
        rf = FastPath(tree.relpath(filepath))
160
 
        # validate user parameters. Our recursive code avoids adding new files
161
 
        # that need such validation 
162
 
        if tree.is_control_filename(rf.raw_path):
163
 
            raise errors.ForbiddenControlFileError(filename=rf)
164
 
        
165
 
        abspath = tree.abspath(rf.raw_path)
166
 
        kind = bzrlib.osutils.file_kind(abspath)
167
 
        if kind == 'directory':
168
 
            # schedule the dir for scanning
169
 
            user_dirs.add(rf)
170
 
        else:
171
 
            if not InventoryEntry.versionable_kind(kind):
172
 
                raise errors.BadFileKindError(filename=abspath, kind=kind)
173
 
        # ensure the named path is added, so that ignore rules in the later directory
174
 
        # walk dont skip it.
175
 
        # we dont have a parent ie known yet.: use the relatively slower inventory 
176
 
        # probing method
177
 
        versioned = inv.has_filename(rf.raw_path)
178
 
        if versioned:
179
 
            continue
180
 
        added.extend(__add_one_and_parent(tree, inv, None, rf, kind, action))
181
 
 
182
 
    if not recurse:
183
 
        # no need to walk any directories at all.
184
 
        if len(added) > 0 and save:
185
 
            tree._write_inventory(inv)
186
 
        return added, ignored
187
 
 
188
 
    # only walk the minimal parents needed: we have user_dirs to override
189
 
    # ignores.
190
 
    prev_dir = None
191
 
 
192
 
    is_inside = bzrlib.osutils.is_inside_or_parent_of_any
193
 
    for path in sorted(user_dirs):
194
 
        if (prev_dir is None or not is_inside([prev_dir], path.raw_path)):
195
 
            dirs_to_add.append((path, None))
196
 
        prev_dir = path.raw_path
197
 
 
198
 
    # this will eventually be *just* directories, right now it starts off with 
199
 
    # just directories.
200
 
    for directory, parent_ie in dirs_to_add:
201
 
        # directory is tree-relative
202
 
        abspath = tree.abspath(directory.raw_path)
203
 
 
204
 
        # get the contents of this directory.
205
 
 
206
 
        # find the kind of the path being added.
207
 
        kind = bzrlib.osutils.file_kind(abspath)
208
 
 
209
 
        if not InventoryEntry.versionable_kind(kind):
210
 
            warning("skipping %s (can't add file of kind '%s')", abspath, kind)
211
 
            continue
212
 
 
213
 
        if parent_ie is not None:
214
 
            versioned = directory.base_path in parent_ie.children
215
 
        else:
216
 
            # without the parent ie, use the relatively slower inventory 
217
 
            # probing method
218
 
            versioned = inv.has_filename(directory.raw_path)
219
 
 
220
 
        if kind == 'directory':
221
 
            try:
222
 
                sub_branch = bzrlib.bzrdir.BzrDir.open(abspath)
223
 
                sub_tree = True
224
 
            except NotBranchError:
225
 
                sub_tree = False
226
 
            except errors.UnsupportedFormatError:
227
 
                sub_tree = True
228
 
        else:
229
 
            sub_tree = False
230
 
 
231
 
        if directory.raw_path == '':
232
 
            # mutter("tree root doesn't need to be added")
233
 
            sub_tree = False
234
 
        elif versioned:
235
 
            pass
236
 
            # mutter("%r is already versioned", abspath)
237
 
        elif sub_tree:
238
 
            mutter("%r is a nested bzr tree", abspath)
239
 
        else:
240
 
            __add_one(tree, inv, parent_ie, directory, kind, action)
241
 
            added.append(directory.raw_path)
242
 
 
243
 
        if kind == 'directory' and not sub_tree:
244
 
            if parent_ie is not None:
245
 
                # must be present:
246
 
                this_ie = parent_ie.children[directory.base_path]
247
 
            else:
248
 
                # without the parent ie, use the relatively slower inventory 
249
 
                # probing method
250
 
                this_id = inv.path2id(directory.raw_path)
251
 
                if this_id is None:
252
 
                    this_ie = None
253
 
                else:
254
 
                    this_ie = inv[this_id]
255
 
 
256
 
            for subf in os.listdir(abspath):
257
 
                # here we could use TreeDirectory rather than 
258
 
                # string concatenation.
259
 
                subp = bzrlib.osutils.pathjoin(directory.raw_path, subf)
260
 
                # TODO: is_control_filename is very slow. Make it faster. 
261
 
                # TreeDirectory.is_control_filename could also make this 
262
 
                # faster - its impossible for a non root dir to have a 
263
 
                # control file.
264
 
                if tree.is_control_filename(subp):
265
 
                    mutter("skip control directory %r", subp)
266
 
                elif subf in this_ie.children:
267
 
                    # recurse into this already versioned subdir.
268
 
                    dirs_to_add.append((FastPath(subp, subf), this_ie))
269
 
                else:
270
 
                    # user selection overrides ignoes
271
 
                    # ignore while selecting files - if we globbed in the
272
 
                    # outer loop we would ignore user files.
273
 
                    ignore_glob = tree.is_ignored(subp)
274
 
                    if ignore_glob is not None:
275
 
                        # mutter("skip ignored sub-file %r", subp)
276
 
                        ignored.setdefault(ignore_glob, []).append(subp)
277
 
                    else:
278
 
                        #mutter("queue to add sub-file %r", subp)
279
 
                        dirs_to_add.append((FastPath(subp, subf), this_ie))
280
 
 
281
 
    if len(added) > 0 and save:
282
 
        tree._write_inventory(inv)
283
 
    return added, ignored
284
 
 
285
 
 
286
 
def __add_one_and_parent(tree, inv, parent_ie, path, kind, action):
287
 
    """Add a new entry to the inventory and automatically add unversioned parents.
288
 
 
289
 
    :param inv: Inventory which will receive the new entry.
290
 
    :param parent_ie: Parent inventory entry if known, or None.  If
291
 
    None, the parent is looked up by name and used if present, otherwise
292
 
    it is recursively added.
293
 
    :param kind: Kind of new entry (file, directory, etc)
294
 
    :param action: callback(inv, parent_ie, path, kind); return ignored.
295
 
    :returns: A list of paths which have been added.
296
 
    """
297
 
    # Nothing to do if path is already versioned.
298
 
    # This is safe from infinite recursion because the tree root is
299
 
    # always versioned.
300
 
    if parent_ie is not None:
301
 
        # we have a parent ie already
302
 
        added = []
303
 
    else:
304
 
        # slower but does not need parent_ie
305
 
        if inv.has_filename(path.raw_path):
306
 
            return []
307
 
        # its really not there : add the parent
308
 
        # note that the dirname use leads to some extra str copying etc but as
309
 
        # there are a limited number of dirs we can be nested under, it should
310
 
        # generally find it very fast and not recurse after that.
311
 
        added = __add_one_and_parent(tree, inv, None, FastPath(dirname(path.raw_path)), 'directory', action)
312
 
        parent_id = inv.path2id(dirname(path.raw_path))
313
 
        parent_ie = inv[parent_id]
314
 
    __add_one(tree, inv, parent_ie, path, kind, action)
315
 
    return added + [path.raw_path]
316
 
 
317
 
 
318
 
def __add_one(tree, inv, parent_ie, path, kind, action):
319
 
    """Add a new entry to the inventory.
320
 
 
321
 
    :param inv: Inventory which will receive the new entry.
322
 
    :param parent_ie: Parent inventory entry.
323
 
    :param kind: Kind of new entry (file, directory, etc)
324
 
    :param action: callback(inv, parent_ie, path, kind); return ignored.
325
 
    :returns: None
326
 
    """
327
 
    action(inv, parent_ie, path, kind)
328
 
    entry = bzrlib.inventory.make_entry(kind, path.base_path, parent_ie.file_id)
329
 
    inv.add(entry)
 
56
        if self.should_print:
 
57
            self._to_file.write('adding %s\n' % _quote(path))
 
58
        return None
 
59
 
 
60
    def skip_file(self, tree, path, kind, stat_value = None):
 
61
        """Test whether the given file should be skipped or not.
 
62
        
 
63
        The default action never skips. Note this is only called during
 
64
        recursive adds
 
65
        
 
66
        :param tree: The tree we are working in
 
67
        :param path: The path being added
 
68
        :param kind: The kind of object being added.
 
69
        :param stat: Stat result for this file, if available already
 
70
        :return bool. True if the file should be skipped (not added)
 
71
        """
 
72
        return False
 
73
 
 
74
 
 
75
class AddWithSkipLargeAction(AddAction):
 
76
    """A class that can decide to skip a file if it's considered too large"""
 
77
 
 
78
    _maxSize = None
 
79
 
 
80
    def skip_file(self, tree, path, kind, stat_value = None):
 
81
        if kind != 'file':
 
82
            return False
 
83
        opt_name = 'add.maximum_file_size'
 
84
        if self._maxSize is None:
 
85
            config = tree.get_config_stack()
 
86
            self._maxSize = config.get(opt_name)
 
87
        if stat_value is None:
 
88
            file_size = os.path.getsize(path);
 
89
        else:
 
90
            file_size = stat_value.st_size;
 
91
        if self._maxSize > 0 and file_size > self._maxSize:
 
92
            ui.ui_factory.show_warning(gettext(
 
93
                "skipping {0} (larger than {1} of {2} bytes)").format(
 
94
                path, opt_name,  self._maxSize))
 
95
            return True
 
96
        return False
 
97
 
 
98
 
 
99
class AddFromBaseAction(AddAction):
 
100
    """This class will try to extract file ids from another tree."""
 
101
 
 
102
    def __init__(self, base_tree, base_path, to_file=None, should_print=None):
 
103
        super(AddFromBaseAction, self).__init__(to_file=to_file,
 
104
                                                should_print=should_print)
 
105
        self.base_tree = base_tree
 
106
        self.base_path = base_path
 
107
 
 
108
    def __call__(self, inv, parent_ie, path, kind):
 
109
        # Place the parent call
 
110
        # Now check to see if we can extract an id for this file
 
111
        file_id, base_path = self._get_base_file_id(path, parent_ie)
 
112
        if file_id is not None:
 
113
            if self.should_print:
 
114
                self._to_file.write('adding %s w/ file id from %s\n'
 
115
                                    % (path, base_path))
 
116
        else:
 
117
            # we aren't doing anything special, so let the default
 
118
            # reporter happen
 
119
            file_id = super(AddFromBaseAction, self).__call__(
 
120
                        inv, parent_ie, path, kind)
 
121
        return file_id
 
122
 
 
123
    def _get_base_file_id(self, path, parent_ie):
 
124
        """Look for a file id in the base branch.
 
125
 
 
126
        First, if the base tree has the parent directory,
 
127
        we look for a file with the same name in that directory.
 
128
        Else, we look for an entry in the base tree with the same path.
 
129
        """
 
130
 
 
131
        if self.base_tree.has_id(parent_ie.file_id):
 
132
            # FIXME: Handle nested trees
 
133
            base_parent_ie = self.base_tree.root_inventory[parent_ie.file_id]
 
134
            base_child_ie = base_parent_ie.children.get(
 
135
                osutils.basename(path))
 
136
            if base_child_ie is not None:
 
137
                return (base_child_ie.file_id,
 
138
                        self.base_tree.id2path(base_child_ie.file_id))
 
139
        full_base_path = osutils.pathjoin(self.base_path, path)
 
140
        # This may return None, but it is our last attempt
 
141
        return self.base_tree.path2id(full_base_path), full_base_path