~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/add.py

Merge bzr.dev

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
 
17
import errno
 
18
import os
17
19
from os.path import dirname
 
20
import sys
18
21
 
 
22
import bzrlib.bzrdir
19
23
import bzrlib.errors as errors
20
24
from bzrlib.inventory import InventoryEntry
21
25
from bzrlib.trace import mutter, note, warning
23
27
import bzrlib.osutils
24
28
from bzrlib.workingtree import WorkingTree
25
29
 
 
30
 
26
31
def glob_expand_for_win32(file_list):
27
32
    if not file_list:
28
33
        return
42
47
 
43
48
def _prepare_file_list(file_list):
44
49
    """Prepare a file list for use by smart_add_*."""
45
 
    import sys
46
50
    if sys.platform == 'win32':
47
51
        file_list = glob_expand_for_win32(file_list)
48
52
    if not file_list:
51
55
    return file_list
52
56
 
53
57
 
54
 
def add_action_null(inv, parent_ie, path, kind):
55
 
    """Absorb add actions and do nothing."""
56
 
    pass
57
 
 
58
 
 
59
 
def add_action_print(inv, parent_ie, path, kind):
60
 
    """Print a line to stdout for each file that would be added."""
61
 
    print "added", bzrlib.osutils.quotefn(path)
62
 
 
63
 
 
64
 
def add_action_add(inv, parent_ie, path, kind):
65
 
    """Add each file to the given inventory. Produce no output."""
66
 
    if parent_ie is not None:
67
 
        entry = bzrlib.inventory.make_entry(
68
 
            kind, bzrlib.osutils.basename(path),  parent_ie.file_id)
69
 
        inv.add(entry)
70
 
    else:
71
 
        entry = inv.add_path(path, kind=kind)
72
 
    # mutter("added %r kind %r file_id={%s}" % (path, kind, entry.file_id))
73
 
 
74
 
 
75
 
def add_action_add_and_print(inv, parent_ie, path, kind):
76
 
    """Add each file to the given inventory, and print a line to stdout."""
77
 
    add_action_add(inv, parent_ie, path, kind)
78
 
    add_action_print(inv, parent_ie, path, kind)
79
 
 
80
 
 
81
 
def smart_add(file_list, recurse=True, action=add_action_add):
 
58
class AddAction(object):
 
59
    """A class which defines what action to take when adding a file."""
 
60
 
 
61
    def __init__(self, to_file=None, should_print=None):
 
62
        self._to_file = to_file
 
63
        if to_file is None:
 
64
            self._to_file = sys.stdout
 
65
        self.should_print = False
 
66
        if should_print is not None:
 
67
            self.should_print = should_print
 
68
 
 
69
    def __call__(self, inv, parent_ie, path, kind, _quote=bzrlib.osutils.quotefn):
 
70
        """Add path to inventory.
 
71
 
 
72
        The default action does nothing.
 
73
 
 
74
        :param inv: The inventory we are working with.
 
75
        :param path: The FastPath being added
 
76
        :param kind: The kind of the object being added.
 
77
        """
 
78
        if self.should_print:
 
79
            self._to_file.write('added %s\n' % _quote(path.raw_path))
 
80
        return None
 
81
 
 
82
 
 
83
class AddFromBaseAction(AddAction):
 
84
    """This class will try to extract file ids from another tree."""
 
85
 
 
86
    def __init__(self, base_tree, base_path, to_file=None, should_print=None):
 
87
        super(AddFromBaseAction, self).__init__(to_file=to_file,
 
88
                                                should_print=should_print)
 
89
        self.base_tree = base_tree
 
90
        self.base_path = base_path
 
91
 
 
92
    def __call__(self, inv, parent_ie, path, kind):
 
93
        # Place the parent call
 
94
        # Now check to see if we can extract an id for this file
 
95
        file_id, base_path = self._get_base_file_id(path, parent_ie)
 
96
        if file_id is not None:
 
97
            if self.should_print:
 
98
                self._to_file.write('added %s w/ file id from %s\n'
 
99
                                    % (path.raw_path, base_path))
 
100
        else:
 
101
            # we aren't doing anything special, so let the default
 
102
            # reporter happen
 
103
            file_id = super(AddFromBaseAction, self).__call__(
 
104
                        inv, parent_ie, path, kind)
 
105
        return file_id
 
106
 
 
107
    def _get_base_file_id(self, path, parent_ie):
 
108
        """Look for a file id in the base branch.
 
109
 
 
110
        First, if the base tree has the parent directory,
 
111
        we look for a file with the same name in that directory.
 
112
        Else, we look for an entry in the base tree with the same path.
 
113
        """
 
114
 
 
115
        if (parent_ie.file_id in self.base_tree):
 
116
            base_parent_ie = self.base_tree.inventory[parent_ie.file_id]
 
117
            base_child_ie = base_parent_ie.children.get(path.base_path)
 
118
            if base_child_ie is not None:
 
119
                return (base_child_ie.file_id,
 
120
                        self.base_tree.id2path(base_child_ie.file_id))
 
121
        full_base_path = bzrlib.osutils.pathjoin(self.base_path, path.raw_path)
 
122
        # This may return None, but it is our last attempt
 
123
        return self.base_tree.path2id(full_base_path), full_base_path
 
124
 
 
125
 
 
126
# TODO: jam 20050105 These could be used for compatibility
 
127
#       however, they bind against the current stdout, not the
 
128
#       one which exists at the time they are called, so they
 
129
#       don't work for the test suite.
 
130
# deprecated
 
131
add_action_add = AddAction()
 
132
add_action_null = add_action_add
 
133
add_action_add_and_print = AddAction(should_print=True)
 
134
add_action_print = add_action_add_and_print
 
135
 
 
136
 
 
137
def smart_add(file_list, recurse=True, action=None, save=True):
82
138
    """Add files to version, optionally recursing into directories.
83
139
 
84
140
    This is designed more towards DWIM for humans than API simplicity.
85
141
    For the specific behaviour see the help for cmd_add().
86
142
 
87
143
    Returns the number of files added.
 
144
    Please see smart_add_tree for more detail.
88
145
    """
89
146
    file_list = _prepare_file_list(file_list)
90
147
    tree = WorkingTree.open_containing(file_list[0])[0]
91
 
    return smart_add_tree(tree, file_list, recurse, action)
92
 
 
93
 
 
94
 
def smart_add_tree(tree, file_list, recurse=True, action=add_action_add):
 
148
    return smart_add_tree(tree, file_list, recurse, action=action, save=save)
 
149
 
 
150
 
 
151
class FastPath(object):
 
152
    """A path object with fast accessors for things like basename."""
 
153
 
 
154
    __slots__ = ['raw_path', 'base_path']
 
155
 
 
156
    def __init__(self, path, base_path=None):
 
157
        """Construct a FastPath from path."""
 
158
        if base_path is None:
 
159
            self.base_path = bzrlib.osutils.basename(path)
 
160
        else:
 
161
            self.base_path = base_path
 
162
        self.raw_path = path
 
163
 
 
164
    def __cmp__(self, other):
 
165
        return cmp(self.raw_path, other.raw_path)
 
166
 
 
167
    def __hash__(self):
 
168
        return hash(self.raw_path)
 
169
 
 
170
 
 
171
def smart_add_tree(tree, file_list, recurse=True, action=None, save=True):
 
172
    tree.lock_tree_write()
 
173
    try:
 
174
        return _smart_add_tree(tree=tree, file_list=file_list, recurse=recurse,
 
175
                               action=action, save=save)
 
176
    finally:
 
177
        tree.unlock()
 
178
 
 
179
def _smart_add_tree(tree, file_list, recurse=True, action=None, save=True):
95
180
    """Add files to version, optionally recursing into directories.
96
181
 
97
182
    This is designed more towards DWIM for humans than API simplicity.
100
185
    This calls reporter with each (path, kind, file_id) of added files.
101
186
 
102
187
    Returns the number of files added.
 
188
    
 
189
    :param save: Save the inventory after completing the adds. If False this
 
190
    provides dry-run functionality by doing the add and not saving the
 
191
    inventory.  Note that the modified inventory is left in place, allowing 
 
192
    further dry-run tasks to take place. To restore the original inventory
 
193
    call tree.read_working_inventory().
103
194
    """
104
 
    import os, errno
105
 
    from bzrlib.errors import BadFileKindError, ForbiddenFileError
106
195
    assert isinstance(recurse, bool)
 
196
    if action is None:
 
197
        action = AddAction()
107
198
    
108
199
    prepared_list = _prepare_file_list(file_list)
109
200
    mutter("smart add of %r, originally %r", prepared_list, file_list)
110
201
    inv = tree.read_working_inventory()
111
202
    added = []
112
203
    ignored = {}
113
 
    user_files = set()
114
 
    files_to_add = []
 
204
    dirs_to_add = []
 
205
    user_dirs = set()
115
206
 
116
207
    # validate user file paths and convert all paths to tree 
117
208
    # relative : its cheaper to make a tree relative path an abspath
118
209
    # than to convert an abspath to tree relative.
119
210
    for filepath in prepared_list:
120
 
        rf = tree.relpath(filepath)
121
 
        user_files.add(rf)
122
 
        files_to_add.append((rf, None))
 
211
        rf = FastPath(tree.relpath(filepath))
123
212
        # validate user parameters. Our recursive code avoids adding new files
124
213
        # that need such validation 
125
 
        if tree.is_control_filename(rf):
126
 
            raise ForbiddenFileError('cannot add control file %s' % filepath)
127
 
 
128
 
    for filepath, parent_ie in files_to_add:
129
 
        # filepath is tree-relative
130
 
        abspath = tree.abspath(filepath)
131
 
 
132
 
        # find the kind of the path being added. This is not
133
 
        # currently determined when we list directories 
134
 
        # recursively, but in theory we can determine while 
135
 
        # doing the directory listing on *some* platformans.
136
 
        # TODO: a safe, portable, clean interface which will 
137
 
        # be faster than os.listdir() + stat. Specifically,
138
 
        # readdir - dirent.d_type supplies the file type when
139
 
        # it is defined. (Apparently Mac OSX has the field but
140
 
        # does not fill it in ?!) Robert C, Martin P.
141
 
        try:
142
 
            kind = bzrlib.osutils.file_kind(abspath)
143
 
        except OSError, e:
144
 
            if hasattr(e, 'errno') and e.errno == errno.ENOENT:
145
 
                raise errors.NoSuchFile(abspath)
146
 
            raise
147
 
 
148
 
        # we need to call this to determine the inventory kind to create.
 
214
        if tree.is_control_filename(rf.raw_path):
 
215
            raise errors.ForbiddenControlFileError(filename=rf.raw_path)
 
216
        
 
217
        abspath = tree.abspath(rf.raw_path)
 
218
        kind = bzrlib.osutils.file_kind(abspath)
 
219
        if kind == 'directory':
 
220
            # schedule the dir for scanning
 
221
            user_dirs.add(rf)
 
222
        else:
 
223
            if not InventoryEntry.versionable_kind(kind):
 
224
                raise errors.BadFileKindError(filename=abspath, kind=kind)
 
225
        # ensure the named path is added, so that ignore rules in the later directory
 
226
        # walk dont skip it.
 
227
        # we dont have a parent ie known yet.: use the relatively slower inventory 
 
228
        # probing method
 
229
        versioned = inv.has_filename(rf.raw_path)
 
230
        if versioned:
 
231
            continue
 
232
        added.extend(__add_one_and_parent(tree, inv, None, rf, kind, action))
 
233
 
 
234
    if not recurse:
 
235
        # no need to walk any directories at all.
 
236
        if len(added) > 0 and save:
 
237
            tree._write_inventory(inv)
 
238
        return added, ignored
 
239
 
 
240
    # only walk the minimal parents needed: we have user_dirs to override
 
241
    # ignores.
 
242
    prev_dir = None
 
243
 
 
244
    is_inside = bzrlib.osutils.is_inside_or_parent_of_any
 
245
    for path in sorted(user_dirs):
 
246
        if (prev_dir is None or not is_inside([prev_dir], path.raw_path)):
 
247
            dirs_to_add.append((path, None))
 
248
        prev_dir = path.raw_path
 
249
 
 
250
    # this will eventually be *just* directories, right now it starts off with 
 
251
    # just directories.
 
252
    for directory, parent_ie in dirs_to_add:
 
253
        # directory is tree-relative
 
254
        abspath = tree.abspath(directory.raw_path)
 
255
 
 
256
        # get the contents of this directory.
 
257
 
 
258
        # find the kind of the path being added.
 
259
        kind = bzrlib.osutils.file_kind(abspath)
 
260
 
149
261
        if not InventoryEntry.versionable_kind(kind):
150
 
            if filepath in user_files:
151
 
                raise BadFileKindError("cannot add %s of type %s" % (abspath, kind))
152
 
            else:
153
 
                warning("skipping %s (can't add file of kind '%s')", abspath, kind)
154
 
                continue
 
262
            warning("skipping %s (can't add file of kind '%s')", abspath, kind)
 
263
            continue
155
264
 
156
265
        if parent_ie is not None:
157
 
            versioned = bzrlib.osutils.basename(filepath) in parent_ie.children
 
266
            versioned = directory.base_path in parent_ie.children
158
267
        else:
159
268
            # without the parent ie, use the relatively slower inventory 
160
269
            # probing method
161
 
            versioned = inv.has_filename(filepath)
 
270
            versioned = inv.has_filename(directory.raw_path)
162
271
 
163
272
        if kind == 'directory':
164
273
            try:
171
280
        else:
172
281
            sub_tree = False
173
282
 
174
 
        if filepath == '':
 
283
        if directory.raw_path == '':
175
284
            # mutter("tree root doesn't need to be added")
176
285
            sub_tree = False
177
286
        elif versioned:
178
287
            pass
179
288
            # mutter("%r is already versioned", abspath)
180
289
        elif sub_tree:
 
290
            # XXX: This is wrong; people *might* reasonably be trying to add
 
291
            # subtrees as subtrees.  This should probably only be done in formats 
 
292
            # which can represent subtrees, and even then perhaps only when
 
293
            # the user asked to add subtrees.  At the moment you can add them
 
294
            # specially through 'join --reference', which is perhaps
 
295
            # reasonable: adding a new reference is a special operation and
 
296
            # can have a special behaviour.  mbp 20070306
181
297
            mutter("%r is a nested bzr tree", abspath)
182
298
        else:
183
 
            added.extend(__add_one(tree, inv, parent_ie, filepath, kind, action))
 
299
            __add_one(tree, inv, parent_ie, directory, kind, action)
 
300
            added.append(directory.raw_path)
184
301
 
185
 
        if kind == 'directory' and recurse and not sub_tree:
186
 
            try:
187
 
                if parent_ie is not None:
188
 
                    # must be present:
189
 
                    this_ie = parent_ie.children[bzrlib.osutils.basename(filepath)]
 
302
        if kind == 'directory' and not sub_tree:
 
303
            if parent_ie is not None:
 
304
                # must be present:
 
305
                this_ie = parent_ie.children[directory.base_path]
 
306
            else:
 
307
                # without the parent ie, use the relatively slower inventory 
 
308
                # probing method
 
309
                this_id = inv.path2id(directory.raw_path)
 
310
                if this_id is None:
 
311
                    this_ie = None
190
312
                else:
191
 
                    # without the parent ie, use the relatively slower inventory 
192
 
                    # probing method
193
 
                    this_id = inv.path2id(filepath)
194
 
                    if this_id is None:
195
 
                        this_ie = None
196
 
                    else:
197
 
                        this_ie = inv[this_id]
198
 
            except KeyError:
199
 
                this_ie = None
 
313
                    this_ie = inv[this_id]
200
314
 
201
 
            for subf in os.listdir(abspath):
 
315
            for subf in sorted(os.listdir(abspath)):
202
316
                # here we could use TreeDirectory rather than 
203
317
                # string concatenation.
204
 
                subp = bzrlib.osutils.pathjoin(filepath, subf)
 
318
                subp = bzrlib.osutils.pathjoin(directory.raw_path, subf)
205
319
                # TODO: is_control_filename is very slow. Make it faster. 
206
320
                # TreeDirectory.is_control_filename could also make this 
207
321
                # faster - its impossible for a non root dir to have a 
208
322
                # control file.
209
323
                if tree.is_control_filename(subp):
210
324
                    mutter("skip control directory %r", subp)
 
325
                elif subf in this_ie.children:
 
326
                    # recurse into this already versioned subdir.
 
327
                    dirs_to_add.append((FastPath(subp, subf), this_ie))
211
328
                else:
 
329
                    # user selection overrides ignoes
212
330
                    # ignore while selecting files - if we globbed in the
213
331
                    # outer loop we would ignore user files.
214
332
                    ignore_glob = tree.is_ignored(subp)
215
333
                    if ignore_glob is not None:
216
334
                        # mutter("skip ignored sub-file %r", subp)
217
 
                        if ignore_glob not in ignored:
218
 
                            ignored[ignore_glob] = []
219
 
                        ignored[ignore_glob].append(subp)
 
335
                        ignored.setdefault(ignore_glob, []).append(subp)
220
336
                    else:
221
337
                        #mutter("queue to add sub-file %r", subp)
222
 
                        files_to_add.append((subp, this_ie))
 
338
                        dirs_to_add.append((FastPath(subp, subf), this_ie))
223
339
 
224
 
    if len(added) > 0:
 
340
    if len(added) > 0 and save:
225
341
        tree._write_inventory(inv)
226
342
    return added, ignored
227
343
 
228
344
 
229
 
def __add_one(tree, inv, parent_ie, path, kind, action):
 
345
def __add_one_and_parent(tree, inv, parent_ie, path, kind, action):
230
346
    """Add a new entry to the inventory and automatically add unversioned parents.
231
347
 
232
 
    Actual adding of the entry is delegated to the action callback.
233
 
 
234
348
    :param inv: Inventory which will receive the new entry.
235
349
    :param parent_ie: Parent inventory entry if known, or None.  If
236
350
    None, the parent is looked up by name and used if present, otherwise
239
353
    :param action: callback(inv, parent_ie, path, kind); return ignored.
240
354
    :returns: A list of paths which have been added.
241
355
    """
242
 
 
243
356
    # Nothing to do if path is already versioned.
244
357
    # This is safe from infinite recursion because the tree root is
245
358
    # always versioned.
248
361
        added = []
249
362
    else:
250
363
        # slower but does not need parent_ie
251
 
        if inv.has_filename(path):
 
364
        if inv.has_filename(path.raw_path):
252
365
            return []
253
 
        # add parent
254
 
        added = __add_one(tree, inv, None, dirname(path), 'directory', action)
255
 
        parent_id = inv.path2id(dirname(path))
256
 
        if parent_id is not None:
257
 
            parent_ie = inv[inv.path2id(dirname(path))]
258
 
        else:
259
 
            parent_ie = None
260
 
    action(inv, parent_ie, path, kind)
261
 
 
262
 
    return added + [path]
 
366
        # its really not there : add the parent
 
367
        # note that the dirname use leads to some extra str copying etc but as
 
368
        # there are a limited number of dirs we can be nested under, it should
 
369
        # generally find it very fast and not recurse after that.
 
370
        added = __add_one_and_parent(tree, inv, None, FastPath(dirname(path.raw_path)), 'directory', action)
 
371
        parent_id = inv.path2id(dirname(path.raw_path))
 
372
        parent_ie = inv[parent_id]
 
373
    __add_one(tree, inv, parent_ie, path, kind, action)
 
374
    return added + [path.raw_path]
 
375
 
 
376
 
 
377
def __add_one(tree, inv, parent_ie, path, kind, action):
 
378
    """Add a new entry to the inventory.
 
379
 
 
380
    :param inv: Inventory which will receive the new entry.
 
381
    :param parent_ie: Parent inventory entry.
 
382
    :param kind: Kind of new entry (file, directory, etc)
 
383
    :param action: callback(inv, parent_ie, path, kind); return a file_id 
 
384
        or None to generate a new file id
 
385
    :returns: None
 
386
    """
 
387
    file_id = action(inv, parent_ie, path, kind)
 
388
    entry = bzrlib.inventory.make_entry(kind, path.base_path, parent_ie.file_id,
 
389
                                        file_id=file_id)
 
390
    inv.add(entry)