~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/add.py

  • Committer: John Arbash Meinel
  • Date: 2006-07-21 19:49:48 UTC
  • mto: This revision was merged to the branch mainline in revision 1882.
  • Revision ID: john@arbash-meinel.com-20060721194948-5378854eeb7d2cad
some test cleanups

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
import os, sys
18
 
import bzrlib
19
 
 
20
 
from osutils import quotefn, appendpath
21
 
from errors import bailout
22
 
from trace import mutter, note
23
 
 
24
 
def smart_add(file_list, verbose=False, recurse=True):
25
 
    """Add files to version, optionall recursing into directories.
26
 
 
27
 
    This is designed more towards DWIM for humans than API simplicity.
28
 
    For the specific behaviour see the help for cmd_add().
29
 
    """
30
 
    assert file_list
31
 
    assert not isinstance(file_list, basestring)
32
 
    b = bzrlib.branch.Branch(file_list[0], find_root=True)
33
 
    inv = b.read_working_inventory()
34
 
    tree = b.working_tree()
35
 
    count = 0
36
 
 
37
 
    for f in file_list:
38
 
        rf = b.relpath(f)
39
 
        af = b.abspath(rf)
40
 
 
41
 
        ## TODO: It's OK to add root but only in recursive mode
42
 
 
43
 
        bzrlib.mutter("smart add of %r" % f)
 
17
import errno
 
18
import os
 
19
from os.path import dirname
 
20
import sys
 
21
 
 
22
import bzrlib.errors as errors
 
23
from bzrlib.inventory import InventoryEntry
 
24
from bzrlib.trace import mutter, note, warning
 
25
from bzrlib.errors import NotBranchError
 
26
import bzrlib.osutils
 
27
from bzrlib.workingtree import WorkingTree
 
28
 
 
29
 
 
30
def glob_expand_for_win32(file_list):
 
31
    if not file_list:
 
32
        return
 
33
    import glob
 
34
    expanded_file_list = []
 
35
    for possible_glob in file_list:
 
36
        glob_files = glob.glob(possible_glob)
 
37
       
 
38
        if glob_files == []:
 
39
            # special case to let the normal code path handle
 
40
            # files that do not exists
 
41
            expanded_file_list.append(possible_glob)
 
42
        else:
 
43
            expanded_file_list += glob_files
 
44
    return expanded_file_list
 
45
 
 
46
 
 
47
def _prepare_file_list(file_list):
 
48
    """Prepare a file list for use by smart_add_*."""
 
49
    if sys.platform == 'win32':
 
50
        file_list = glob_expand_for_win32(file_list)
 
51
    if not file_list:
 
52
        file_list = [u'.']
 
53
    file_list = list(file_list)
 
54
    return file_list
 
55
 
 
56
 
 
57
class AddAction(object):
 
58
    """A class which defines what action to take when adding a file."""
 
59
 
 
60
    def __init__(self, to_file=None, should_print=None):
 
61
        self._to_file = to_file
 
62
        if to_file is None:
 
63
            self._to_file = sys.stdout
 
64
        self.should_print = False
 
65
        if should_print is not None:
 
66
            self.should_print = should_print
 
67
 
 
68
    def __call__(self, inv, parent_ie, path, kind, _quote=bzrlib.osutils.quotefn):
 
69
        """Add path to inventory.
 
70
 
 
71
        The default action does nothing.
 
72
 
 
73
        :param inv: The inventory we are working with.
 
74
        :param path: The FastPath being added
 
75
        :param kind: The kind of the object being added.
 
76
        """
 
77
        if not self.should_print:
 
78
            return
 
79
        self._to_file.write('added %s\n' % _quote(path.raw_path))
 
80
 
 
81
 
 
82
# TODO: jam 20050105 These could be used for compatibility
 
83
#       however, they bind against the current stdout, not the
 
84
#       one which exists at the time they are called, so they
 
85
#       don't work for the test suite.
 
86
# deprecated
 
87
add_action_add = AddAction()
 
88
add_action_null = add_action_add
 
89
add_action_add_and_print = AddAction(should_print=True)
 
90
add_action_print = add_action_add_and_print
 
91
 
 
92
 
 
93
def smart_add(file_list, recurse=True, action=None, save=True):
 
94
    """Add files to version, optionally recursing into directories.
 
95
 
 
96
    This is designed more towards DWIM for humans than API simplicity.
 
97
    For the specific behaviour see the help for cmd_add().
 
98
 
 
99
    Returns the number of files added.
 
100
    Please see smart_add_tree for more detail.
 
101
    """
 
102
    file_list = _prepare_file_list(file_list)
 
103
    tree = WorkingTree.open_containing(file_list[0])[0]
 
104
    return smart_add_tree(tree, file_list, recurse, action=action)
 
105
 
 
106
 
 
107
class FastPath(object):
 
108
    """A path object with fast accessors for things like basename."""
 
109
 
 
110
    __slots__ = ['raw_path', 'base_path']
 
111
 
 
112
    def __init__(self, path, base_path=None):
 
113
        """Construct a FastPath from path."""
 
114
        if base_path is None:
 
115
            self.base_path = bzrlib.osutils.basename(path)
 
116
        else:
 
117
            self.base_path = base_path
 
118
        self.raw_path = path
 
119
 
 
120
    def __cmp__(self, other):
 
121
        return cmp(self.raw_path, other.raw_path)
 
122
 
 
123
    def __hash__(self):
 
124
        return hash(self.raw_path)
 
125
 
 
126
 
 
127
def smart_add_tree(tree, file_list, recurse=True, action=None, save=True):
 
128
    """Add files to version, optionally recursing into directories.
 
129
 
 
130
    This is designed more towards DWIM for humans than API simplicity.
 
131
    For the specific behaviour see the help for cmd_add().
 
132
 
 
133
    This calls reporter with each (path, kind, file_id) of added files.
 
134
 
 
135
    Returns the number of files added.
 
136
    
 
137
    :param save: Save the inventory after completing the adds. If False this
 
138
    provides dry-run functionality by doing the add and not saving the
 
139
    inventory.  Note that the modified inventory is left in place, allowing 
 
140
    further dry-run tasks to take place. To restore the original inventory
 
141
    call tree.read_working_inventory().
 
142
    """
 
143
    assert isinstance(recurse, bool)
 
144
    if action is None:
 
145
        action = AddAction()
 
146
    
 
147
    prepared_list = _prepare_file_list(file_list)
 
148
    mutter("smart add of %r, originally %r", prepared_list, file_list)
 
149
    inv = tree.read_working_inventory()
 
150
    added = []
 
151
    ignored = {}
 
152
    dirs_to_add = []
 
153
    user_dirs = set()
 
154
 
 
155
    # validate user file paths and convert all paths to tree 
 
156
    # relative : its cheaper to make a tree relative path an abspath
 
157
    # than to convert an abspath to tree relative.
 
158
    for filepath in prepared_list:
 
159
        rf = FastPath(tree.relpath(filepath))
 
160
        # validate user parameters. Our recursive code avoids adding new files
 
161
        # that need such validation 
 
162
        if tree.is_control_filename(rf.raw_path):
 
163
            raise errors.ForbiddenControlFileError(filename=rf)
44
164
        
45
 
        if bzrlib.branch.is_control_file(af):
46
 
            bailout("cannot add control file %r" % af)
47
 
 
48
 
        kind = bzrlib.osutils.file_kind(f)
49
 
 
50
 
        if kind != 'file' and kind != 'directory':
51
 
            bailout("can't add file of kind %r" % kind)
52
 
            
53
 
        versioned = (inv.path2id(rf) != None)
54
 
 
55
 
        if rf == '':
56
 
            mutter("branch root doesn't need to be added")
 
165
        abspath = tree.abspath(rf.raw_path)
 
166
        kind = bzrlib.osutils.file_kind(abspath)
 
167
        if kind == 'directory':
 
168
            # schedule the dir for scanning
 
169
            user_dirs.add(rf)
 
170
        else:
 
171
            if not InventoryEntry.versionable_kind(kind):
 
172
                raise errors.BadFileKindError(filename=abspath, kind=kind)
 
173
        # ensure the named path is added, so that ignore rules in the later directory
 
174
        # walk dont skip it.
 
175
        # we dont have a parent ie known yet.: use the relatively slower inventory 
 
176
        # probing method
 
177
        versioned = inv.has_filename(rf.raw_path)
 
178
        if versioned:
 
179
            continue
 
180
        added.extend(__add_one_and_parent(tree, inv, None, rf, kind, action))
 
181
 
 
182
    if not recurse:
 
183
        # no need to walk any directories at all.
 
184
        if len(added) > 0 and save:
 
185
            tree._write_inventory(inv)
 
186
        return added, ignored
 
187
 
 
188
    # only walk the minimal parents needed: we have user_dirs to override
 
189
    # ignores.
 
190
    prev_dir = None
 
191
 
 
192
    is_inside = bzrlib.osutils.is_inside_or_parent_of_any
 
193
    for path in sorted(user_dirs):
 
194
        if (prev_dir is None or not is_inside([prev_dir], path.raw_path)):
 
195
            dirs_to_add.append((path, None))
 
196
        prev_dir = path.raw_path
 
197
 
 
198
    # this will eventually be *just* directories, right now it starts off with 
 
199
    # just directories.
 
200
    for directory, parent_ie in dirs_to_add:
 
201
        # directory is tree-relative
 
202
        abspath = tree.abspath(directory.raw_path)
 
203
 
 
204
        # get the contents of this directory.
 
205
 
 
206
        # find the kind of the path being added.
 
207
        kind = bzrlib.osutils.file_kind(abspath)
 
208
 
 
209
        if not InventoryEntry.versionable_kind(kind):
 
210
            warning("skipping %s (can't add file of kind '%s')", abspath, kind)
 
211
            continue
 
212
 
 
213
        if parent_ie is not None:
 
214
            versioned = directory.base_path in parent_ie.children
 
215
        else:
 
216
            # without the parent ie, use the relatively slower inventory 
 
217
            # probing method
 
218
            versioned = inv.has_filename(directory.raw_path)
 
219
 
 
220
        if kind == 'directory':
 
221
            try:
 
222
                sub_branch = bzrlib.bzrdir.BzrDir.open(abspath)
 
223
                sub_tree = True
 
224
            except NotBranchError:
 
225
                sub_tree = False
 
226
            except errors.UnsupportedFormatError:
 
227
                sub_tree = True
 
228
        else:
 
229
            sub_tree = False
 
230
 
 
231
        if directory.raw_path == '':
 
232
            # mutter("tree root doesn't need to be added")
 
233
            sub_tree = False
57
234
        elif versioned:
58
 
            mutter("%r is already versioned" % f)
 
235
            pass
 
236
            # mutter("%r is already versioned", abspath)
 
237
        elif sub_tree:
 
238
            mutter("%r is a nested bzr tree", abspath)
59
239
        else:
60
 
            file_id = bzrlib.branch.gen_file_id(rf)
61
 
            inv.add_path(rf, kind=kind, file_id=file_id)
62
 
            bzrlib.mutter("added %r kind %r file_id={%s}" % (rf, kind, file_id))
63
 
            count += 1 
64
 
            if verbose:
65
 
                bzrlib.textui.show_status('A', kind, quotefn(f))
66
 
 
67
 
        if kind == 'directory' and recurse:
68
 
            for subf in os.listdir(af):
69
 
                subp = appendpath(rf, subf)
70
 
                if subf == bzrlib.BZRDIR:
71
 
                    mutter("skip control directory %r" % subp)
72
 
                elif tree.is_ignored(subp):
73
 
                    mutter("skip ignored sub-file %r" % subp)
74
 
                else:
75
 
                    mutter("queue to add sub-file %r" % (subp))
76
 
                    file_list.append(subp)
77
 
 
78
 
    if count > 0:
79
 
        if verbose:
80
 
            note('added %d' % count)
81
 
        b._write_inventory(inv)
 
240
            __add_one(tree, inv, parent_ie, directory, kind, action)
 
241
            added.append(directory.raw_path)
 
242
 
 
243
        if kind == 'directory' and not sub_tree:
 
244
            if parent_ie is not None:
 
245
                # must be present:
 
246
                this_ie = parent_ie.children[directory.base_path]
 
247
            else:
 
248
                # without the parent ie, use the relatively slower inventory 
 
249
                # probing method
 
250
                this_id = inv.path2id(directory.raw_path)
 
251
                if this_id is None:
 
252
                    this_ie = None
 
253
                else:
 
254
                    this_ie = inv[this_id]
 
255
 
 
256
            for subf in os.listdir(abspath):
 
257
                # here we could use TreeDirectory rather than 
 
258
                # string concatenation.
 
259
                subp = bzrlib.osutils.pathjoin(directory.raw_path, subf)
 
260
                # TODO: is_control_filename is very slow. Make it faster. 
 
261
                # TreeDirectory.is_control_filename could also make this 
 
262
                # faster - its impossible for a non root dir to have a 
 
263
                # control file.
 
264
                if tree.is_control_filename(subp):
 
265
                    mutter("skip control directory %r", subp)
 
266
                elif subf in this_ie.children:
 
267
                    # recurse into this already versioned subdir.
 
268
                    dirs_to_add.append((FastPath(subp, subf), this_ie))
 
269
                else:
 
270
                    # user selection overrides ignoes
 
271
                    # ignore while selecting files - if we globbed in the
 
272
                    # outer loop we would ignore user files.
 
273
                    ignore_glob = tree.is_ignored(subp)
 
274
                    if ignore_glob is not None:
 
275
                        # mutter("skip ignored sub-file %r", subp)
 
276
                        ignored.setdefault(ignore_glob, []).append(subp)
 
277
                    else:
 
278
                        #mutter("queue to add sub-file %r", subp)
 
279
                        dirs_to_add.append((FastPath(subp, subf), this_ie))
 
280
 
 
281
    if len(added) > 0 and save:
 
282
        tree._write_inventory(inv)
 
283
    return added, ignored
 
284
 
 
285
 
 
286
def __add_one_and_parent(tree, inv, parent_ie, path, kind, action):
 
287
    """Add a new entry to the inventory and automatically add unversioned parents.
 
288
 
 
289
    :param inv: Inventory which will receive the new entry.
 
290
    :param parent_ie: Parent inventory entry if known, or None.  If
 
291
    None, the parent is looked up by name and used if present, otherwise
 
292
    it is recursively added.
 
293
    :param kind: Kind of new entry (file, directory, etc)
 
294
    :param action: callback(inv, parent_ie, path, kind); return ignored.
 
295
    :returns: A list of paths which have been added.
 
296
    """
 
297
    # Nothing to do if path is already versioned.
 
298
    # This is safe from infinite recursion because the tree root is
 
299
    # always versioned.
 
300
    if parent_ie is not None:
 
301
        # we have a parent ie already
 
302
        added = []
 
303
    else:
 
304
        # slower but does not need parent_ie
 
305
        if inv.has_filename(path.raw_path):
 
306
            return []
 
307
        # its really not there : add the parent
 
308
        # note that the dirname use leads to some extra str copying etc but as
 
309
        # there are a limited number of dirs we can be nested under, it should
 
310
        # generally find it very fast and not recurse after that.
 
311
        added = __add_one_and_parent(tree, inv, None, FastPath(dirname(path.raw_path)), 'directory', action)
 
312
        parent_id = inv.path2id(dirname(path.raw_path))
 
313
        parent_ie = inv[parent_id]
 
314
    __add_one(tree, inv, parent_ie, path, kind, action)
 
315
    return added + [path.raw_path]
 
316
 
 
317
 
 
318
def __add_one(tree, inv, parent_ie, path, kind, action):
 
319
    """Add a new entry to the inventory.
 
320
 
 
321
    :param inv: Inventory which will receive the new entry.
 
322
    :param parent_ie: Parent inventory entry.
 
323
    :param kind: Kind of new entry (file, directory, etc)
 
324
    :param action: callback(inv, parent_ie, path, kind); return ignored.
 
325
    :returns: None
 
326
    """
 
327
    action(inv, parent_ie, path, kind)
 
328
    entry = bzrlib.inventory.make_entry(kind, path.base_path, parent_ie.file_id)
 
329
    inv.add(entry)