~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/add.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2006-12-20 18:52:55 UTC
  • mfrom: (2204.2.1 bzr.dev)
  • Revision ID: pqm@pqm.ubuntu.com-20061220185255-86cd0a40a9c2e76e
(Wouter van Heyst) Mention the revisionspec topic in the revision option help (#31633).

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
import os, sys
18
 
import bzrlib
19
 
 
20
 
from osutils import quotefn, appendpath
21
 
from errors import bailout
22
 
from trace import mutter, note
23
 
 
24
 
def smart_add(file_list, verbose=False, recurse=True):
25
 
    """Add files to version, optionall recursing into directories.
26
 
 
27
 
    This is designed more towards DWIM for humans than API simplicity.
28
 
    For the specific behaviour see the help for cmd_add().
29
 
    """
30
 
    assert file_list
31
 
    assert not isinstance(file_list, basestring)
32
 
    b = bzrlib.branch.Branch(file_list[0], find_root=True)
33
 
    inv = b.read_working_inventory()
34
 
    tree = b.working_tree()
35
 
    count = 0
36
 
 
37
 
    for f in file_list:
38
 
        rf = b.relpath(f)
39
 
        af = b.abspath(rf)
40
 
 
41
 
        ## TODO: It's OK to add root but only in recursive mode
42
 
 
43
 
        bzrlib.mutter("smart add of %r" % f)
 
17
import errno
 
18
import os
 
19
from os.path import dirname
 
20
import sys
 
21
 
 
22
import bzrlib.bzrdir
 
23
import bzrlib.errors as errors
 
24
from bzrlib.inventory import InventoryEntry
 
25
from bzrlib.trace import mutter, note, warning
 
26
from bzrlib.errors import NotBranchError
 
27
import bzrlib.osutils
 
28
from bzrlib.workingtree import WorkingTree
 
29
 
 
30
 
 
31
def glob_expand_for_win32(file_list):
 
32
    if not file_list:
 
33
        return
 
34
    import glob
 
35
    expanded_file_list = []
 
36
    for possible_glob in file_list:
 
37
        glob_files = glob.glob(possible_glob)
 
38
       
 
39
        if glob_files == []:
 
40
            # special case to let the normal code path handle
 
41
            # files that do not exists
 
42
            expanded_file_list.append(possible_glob)
 
43
        else:
 
44
            expanded_file_list += glob_files
 
45
    return expanded_file_list
 
46
 
 
47
 
 
48
def _prepare_file_list(file_list):
 
49
    """Prepare a file list for use by smart_add_*."""
 
50
    if sys.platform == 'win32':
 
51
        file_list = glob_expand_for_win32(file_list)
 
52
    if not file_list:
 
53
        file_list = [u'.']
 
54
    file_list = list(file_list)
 
55
    return file_list
 
56
 
 
57
 
 
58
class AddAction(object):
 
59
    """A class which defines what action to take when adding a file."""
 
60
 
 
61
    def __init__(self, to_file=None, should_print=None):
 
62
        self._to_file = to_file
 
63
        if to_file is None:
 
64
            self._to_file = sys.stdout
 
65
        self.should_print = False
 
66
        if should_print is not None:
 
67
            self.should_print = should_print
 
68
 
 
69
    def __call__(self, inv, parent_ie, path, kind, _quote=bzrlib.osutils.quotefn):
 
70
        """Add path to inventory.
 
71
 
 
72
        The default action does nothing.
 
73
 
 
74
        :param inv: The inventory we are working with.
 
75
        :param path: The FastPath being added
 
76
        :param kind: The kind of the object being added.
 
77
        """
 
78
        if self.should_print:
 
79
            self._to_file.write('added %s\n' % _quote(path.raw_path))
 
80
        return None
 
81
 
 
82
 
 
83
class AddFromBaseAction(AddAction):
 
84
    """This class will try to extract file ids from another tree."""
 
85
 
 
86
    def __init__(self, base_tree, base_path, to_file=None, should_print=None):
 
87
        super(AddFromBaseAction, self).__init__(to_file=to_file,
 
88
                                                should_print=should_print)
 
89
        self.base_tree = base_tree
 
90
        self.base_path = base_path
 
91
 
 
92
    def __call__(self, inv, parent_ie, path, kind):
 
93
        # Place the parent call
 
94
        # Now check to see if we can extract an id for this file
 
95
        file_id, base_path = self._get_base_file_id(path, parent_ie)
 
96
        if file_id is not None:
 
97
            if self.should_print:
 
98
                self._to_file.write('added %s w/ file id from %s\n'
 
99
                                    % (path.raw_path, base_path))
 
100
        else:
 
101
            # we aren't doing anything special, so let the default
 
102
            # reporter happen
 
103
            file_id = super(AddFromBaseAction, self).__call__(
 
104
                        inv, parent_ie, path, kind)
 
105
        return file_id
 
106
 
 
107
    def _get_base_file_id(self, path, parent_ie):
 
108
        """Look for a file id in the base branch.
 
109
 
 
110
        First, if the base tree has the parent directory,
 
111
        we look for a file with the same name in that directory.
 
112
        Else, we look for an entry in the base tree with the same path.
 
113
        """
 
114
 
 
115
        if (parent_ie.file_id in self.base_tree):
 
116
            base_parent_ie = self.base_tree.inventory[parent_ie.file_id]
 
117
            base_child_ie = base_parent_ie.children.get(path.base_path)
 
118
            if base_child_ie is not None:
 
119
                return (base_child_ie.file_id,
 
120
                        self.base_tree.id2path(base_child_ie.file_id))
 
121
        full_base_path = bzrlib.osutils.pathjoin(self.base_path, path.raw_path)
 
122
        # This may return None, but it is our last attempt
 
123
        return self.base_tree.path2id(full_base_path), full_base_path
 
124
 
 
125
 
 
126
# TODO: jam 20050105 These could be used for compatibility
 
127
#       however, they bind against the current stdout, not the
 
128
#       one which exists at the time they are called, so they
 
129
#       don't work for the test suite.
 
130
# deprecated
 
131
add_action_add = AddAction()
 
132
add_action_null = add_action_add
 
133
add_action_add_and_print = AddAction(should_print=True)
 
134
add_action_print = add_action_add_and_print
 
135
 
 
136
 
 
137
def smart_add(file_list, recurse=True, action=None, save=True):
 
138
    """Add files to version, optionally recursing into directories.
 
139
 
 
140
    This is designed more towards DWIM for humans than API simplicity.
 
141
    For the specific behaviour see the help for cmd_add().
 
142
 
 
143
    Returns the number of files added.
 
144
    Please see smart_add_tree for more detail.
 
145
    """
 
146
    file_list = _prepare_file_list(file_list)
 
147
    tree = WorkingTree.open_containing(file_list[0])[0]
 
148
    return smart_add_tree(tree, file_list, recurse, action=action, save=save)
 
149
 
 
150
 
 
151
class FastPath(object):
 
152
    """A path object with fast accessors for things like basename."""
 
153
 
 
154
    __slots__ = ['raw_path', 'base_path']
 
155
 
 
156
    def __init__(self, path, base_path=None):
 
157
        """Construct a FastPath from path."""
 
158
        if base_path is None:
 
159
            self.base_path = bzrlib.osutils.basename(path)
 
160
        else:
 
161
            self.base_path = base_path
 
162
        self.raw_path = path
 
163
 
 
164
    def __cmp__(self, other):
 
165
        return cmp(self.raw_path, other.raw_path)
 
166
 
 
167
    def __hash__(self):
 
168
        return hash(self.raw_path)
 
169
 
 
170
 
 
171
def smart_add_tree(tree, file_list, recurse=True, action=None, save=True):
 
172
    """Add files to version, optionally recursing into directories.
 
173
 
 
174
    This is designed more towards DWIM for humans than API simplicity.
 
175
    For the specific behaviour see the help for cmd_add().
 
176
 
 
177
    This calls reporter with each (path, kind, file_id) of added files.
 
178
 
 
179
    Returns the number of files added.
 
180
    
 
181
    :param save: Save the inventory after completing the adds. If False this
 
182
    provides dry-run functionality by doing the add and not saving the
 
183
    inventory.  Note that the modified inventory is left in place, allowing 
 
184
    further dry-run tasks to take place. To restore the original inventory
 
185
    call tree.read_working_inventory().
 
186
    """
 
187
    assert isinstance(recurse, bool)
 
188
    if action is None:
 
189
        action = AddAction()
 
190
    
 
191
    prepared_list = _prepare_file_list(file_list)
 
192
    mutter("smart add of %r, originally %r", prepared_list, file_list)
 
193
    inv = tree.read_working_inventory()
 
194
    added = []
 
195
    ignored = {}
 
196
    dirs_to_add = []
 
197
    user_dirs = set()
 
198
 
 
199
    # validate user file paths and convert all paths to tree 
 
200
    # relative : its cheaper to make a tree relative path an abspath
 
201
    # than to convert an abspath to tree relative.
 
202
    for filepath in prepared_list:
 
203
        rf = FastPath(tree.relpath(filepath))
 
204
        # validate user parameters. Our recursive code avoids adding new files
 
205
        # that need such validation 
 
206
        if tree.is_control_filename(rf.raw_path):
 
207
            raise errors.ForbiddenControlFileError(filename=rf)
44
208
        
45
 
        if bzrlib.branch.is_control_file(af):
46
 
            bailout("cannot add control file %r" % af)
47
 
 
48
 
        kind = bzrlib.osutils.file_kind(f)
49
 
 
50
 
        if kind != 'file' and kind != 'directory':
51
 
            bailout("can't add file of kind %r" % kind)
52
 
            
53
 
        versioned = (inv.path2id(rf) != None)
54
 
 
55
 
        if rf == '':
56
 
            mutter("branch root doesn't need to be added")
 
209
        abspath = tree.abspath(rf.raw_path)
 
210
        kind = bzrlib.osutils.file_kind(abspath)
 
211
        if kind == 'directory':
 
212
            # schedule the dir for scanning
 
213
            user_dirs.add(rf)
 
214
        else:
 
215
            if not InventoryEntry.versionable_kind(kind):
 
216
                raise errors.BadFileKindError(filename=abspath, kind=kind)
 
217
        # ensure the named path is added, so that ignore rules in the later directory
 
218
        # walk dont skip it.
 
219
        # we dont have a parent ie known yet.: use the relatively slower inventory 
 
220
        # probing method
 
221
        versioned = inv.has_filename(rf.raw_path)
 
222
        if versioned:
 
223
            continue
 
224
        added.extend(__add_one_and_parent(tree, inv, None, rf, kind, action))
 
225
 
 
226
    if not recurse:
 
227
        # no need to walk any directories at all.
 
228
        if len(added) > 0 and save:
 
229
            tree._write_inventory(inv)
 
230
        return added, ignored
 
231
 
 
232
    # only walk the minimal parents needed: we have user_dirs to override
 
233
    # ignores.
 
234
    prev_dir = None
 
235
 
 
236
    is_inside = bzrlib.osutils.is_inside_or_parent_of_any
 
237
    for path in sorted(user_dirs):
 
238
        if (prev_dir is None or not is_inside([prev_dir], path.raw_path)):
 
239
            dirs_to_add.append((path, None))
 
240
        prev_dir = path.raw_path
 
241
 
 
242
    # this will eventually be *just* directories, right now it starts off with 
 
243
    # just directories.
 
244
    for directory, parent_ie in dirs_to_add:
 
245
        # directory is tree-relative
 
246
        abspath = tree.abspath(directory.raw_path)
 
247
 
 
248
        # get the contents of this directory.
 
249
 
 
250
        # find the kind of the path being added.
 
251
        kind = bzrlib.osutils.file_kind(abspath)
 
252
 
 
253
        if not InventoryEntry.versionable_kind(kind):
 
254
            warning("skipping %s (can't add file of kind '%s')", abspath, kind)
 
255
            continue
 
256
 
 
257
        if parent_ie is not None:
 
258
            versioned = directory.base_path in parent_ie.children
 
259
        else:
 
260
            # without the parent ie, use the relatively slower inventory 
 
261
            # probing method
 
262
            versioned = inv.has_filename(directory.raw_path)
 
263
 
 
264
        if kind == 'directory':
 
265
            try:
 
266
                sub_branch = bzrlib.bzrdir.BzrDir.open(abspath)
 
267
                sub_tree = True
 
268
            except NotBranchError:
 
269
                sub_tree = False
 
270
            except errors.UnsupportedFormatError:
 
271
                sub_tree = True
 
272
        else:
 
273
            sub_tree = False
 
274
 
 
275
        if directory.raw_path == '':
 
276
            # mutter("tree root doesn't need to be added")
 
277
            sub_tree = False
57
278
        elif versioned:
58
 
            mutter("%r is already versioned" % f)
 
279
            pass
 
280
            # mutter("%r is already versioned", abspath)
 
281
        elif sub_tree:
 
282
            mutter("%r is a nested bzr tree", abspath)
59
283
        else:
60
 
            file_id = bzrlib.branch.gen_file_id(rf)
61
 
            inv.add_path(rf, kind=kind, file_id=file_id)
62
 
            bzrlib.mutter("added %r kind %r file_id={%s}" % (rf, kind, file_id))
63
 
            count += 1 
64
 
            if verbose:
65
 
                bzrlib.textui.show_status('A', kind, quotefn(f))
66
 
 
67
 
        if kind == 'directory' and recurse:
68
 
            for subf in os.listdir(af):
69
 
                subp = appendpath(rf, subf)
70
 
                if subf == bzrlib.BZRDIR:
71
 
                    mutter("skip control directory %r" % subp)
72
 
                elif tree.is_ignored(subp):
73
 
                    mutter("skip ignored sub-file %r" % subp)
74
 
                else:
75
 
                    mutter("queue to add sub-file %r" % (subp))
76
 
                    file_list.append(subp)
77
 
 
78
 
    if count > 0:
79
 
        if verbose:
80
 
            note('added %d' % count)
81
 
        b._write_inventory(inv)
 
284
            __add_one(tree, inv, parent_ie, directory, kind, action)
 
285
            added.append(directory.raw_path)
 
286
 
 
287
        if kind == 'directory' and not sub_tree:
 
288
            if parent_ie is not None:
 
289
                # must be present:
 
290
                this_ie = parent_ie.children[directory.base_path]
 
291
            else:
 
292
                # without the parent ie, use the relatively slower inventory 
 
293
                # probing method
 
294
                this_id = inv.path2id(directory.raw_path)
 
295
                if this_id is None:
 
296
                    this_ie = None
 
297
                else:
 
298
                    this_ie = inv[this_id]
 
299
 
 
300
            for subf in sorted(os.listdir(abspath)):
 
301
                # here we could use TreeDirectory rather than 
 
302
                # string concatenation.
 
303
                subp = bzrlib.osutils.pathjoin(directory.raw_path, subf)
 
304
                # TODO: is_control_filename is very slow. Make it faster. 
 
305
                # TreeDirectory.is_control_filename could also make this 
 
306
                # faster - its impossible for a non root dir to have a 
 
307
                # control file.
 
308
                if tree.is_control_filename(subp):
 
309
                    mutter("skip control directory %r", subp)
 
310
                elif subf in this_ie.children:
 
311
                    # recurse into this already versioned subdir.
 
312
                    dirs_to_add.append((FastPath(subp, subf), this_ie))
 
313
                else:
 
314
                    # user selection overrides ignoes
 
315
                    # ignore while selecting files - if we globbed in the
 
316
                    # outer loop we would ignore user files.
 
317
                    ignore_glob = tree.is_ignored(subp)
 
318
                    if ignore_glob is not None:
 
319
                        # mutter("skip ignored sub-file %r", subp)
 
320
                        ignored.setdefault(ignore_glob, []).append(subp)
 
321
                    else:
 
322
                        #mutter("queue to add sub-file %r", subp)
 
323
                        dirs_to_add.append((FastPath(subp, subf), this_ie))
 
324
 
 
325
    if len(added) > 0 and save:
 
326
        tree._write_inventory(inv)
 
327
    return added, ignored
 
328
 
 
329
 
 
330
def __add_one_and_parent(tree, inv, parent_ie, path, kind, action):
 
331
    """Add a new entry to the inventory and automatically add unversioned parents.
 
332
 
 
333
    :param inv: Inventory which will receive the new entry.
 
334
    :param parent_ie: Parent inventory entry if known, or None.  If
 
335
    None, the parent is looked up by name and used if present, otherwise
 
336
    it is recursively added.
 
337
    :param kind: Kind of new entry (file, directory, etc)
 
338
    :param action: callback(inv, parent_ie, path, kind); return ignored.
 
339
    :returns: A list of paths which have been added.
 
340
    """
 
341
    # Nothing to do if path is already versioned.
 
342
    # This is safe from infinite recursion because the tree root is
 
343
    # always versioned.
 
344
    if parent_ie is not None:
 
345
        # we have a parent ie already
 
346
        added = []
 
347
    else:
 
348
        # slower but does not need parent_ie
 
349
        if inv.has_filename(path.raw_path):
 
350
            return []
 
351
        # its really not there : add the parent
 
352
        # note that the dirname use leads to some extra str copying etc but as
 
353
        # there are a limited number of dirs we can be nested under, it should
 
354
        # generally find it very fast and not recurse after that.
 
355
        added = __add_one_and_parent(tree, inv, None, FastPath(dirname(path.raw_path)), 'directory', action)
 
356
        parent_id = inv.path2id(dirname(path.raw_path))
 
357
        parent_ie = inv[parent_id]
 
358
    __add_one(tree, inv, parent_ie, path, kind, action)
 
359
    return added + [path.raw_path]
 
360
 
 
361
 
 
362
def __add_one(tree, inv, parent_ie, path, kind, action):
 
363
    """Add a new entry to the inventory.
 
364
 
 
365
    :param inv: Inventory which will receive the new entry.
 
366
    :param parent_ie: Parent inventory entry.
 
367
    :param kind: Kind of new entry (file, directory, etc)
 
368
    :param action: callback(inv, parent_ie, path, kind); return a file_id 
 
369
        or None to generate a new file id
 
370
    :returns: None
 
371
    """
 
372
    file_id = action(inv, parent_ie, path, kind)
 
373
    entry = bzrlib.inventory.make_entry(kind, path.base_path, parent_ie.file_id,
 
374
                                        file_id=file_id)
 
375
    inv.add(entry)