~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/add.py

  • Committer: Martin Pool
  • Date: 2006-06-20 07:55:43 UTC
  • mfrom: (1798 +trunk)
  • mto: This revision was merged to the branch mainline in revision 1799.
  • Revision ID: mbp@sourcefrog.net-20060620075543-b10f6575d4a4fa32
[merge] bzr.dev

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005 Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
 
17
import errno
 
18
import os
17
19
from os.path import dirname
 
20
import sys
18
21
 
19
22
import bzrlib.errors as errors
20
23
from bzrlib.inventory import InventoryEntry
23
26
import bzrlib.osutils
24
27
from bzrlib.workingtree import WorkingTree
25
28
 
 
29
 
26
30
def glob_expand_for_win32(file_list):
27
31
    if not file_list:
28
32
        return
42
46
 
43
47
def _prepare_file_list(file_list):
44
48
    """Prepare a file list for use by smart_add_*."""
45
 
    import sys
46
49
    if sys.platform == 'win32':
47
50
        file_list = glob_expand_for_win32(file_list)
48
51
    if not file_list:
51
54
    return file_list
52
55
 
53
56
 
54
 
def add_action_null(inv, parent_ie, path, kind):
55
 
    """Absorb add actions and do nothing."""
56
 
    pass
57
 
 
58
 
 
59
 
def add_action_print(inv, parent_ie, path, kind):
60
 
    """Print a line to stdout for each file that would be added."""
61
 
    print "added", bzrlib.osutils.quotefn(path)
62
 
 
63
 
 
64
 
def add_action_add(inv, parent_ie, path, kind):
65
 
    """Add each file to the given inventory. Produce no output."""
66
 
    if parent_ie is not None:
67
 
        entry = bzrlib.inventory.make_entry(
68
 
            kind, bzrlib.osutils.basename(path),  parent_ie.file_id)
69
 
        inv.add(entry)
70
 
    else:
71
 
        entry = inv.add_path(path, kind=kind)
72
 
    # mutter("added %r kind %r file_id={%s}" % (path, kind, entry.file_id))
73
 
 
74
 
 
75
 
def add_action_add_and_print(inv, parent_ie, path, kind):
76
 
    """Add each file to the given inventory, and print a line to stdout."""
77
 
    add_action_add(inv, parent_ie, path, kind)
78
 
    add_action_print(inv, parent_ie, path, kind)
79
 
 
80
 
 
81
 
def smart_add(file_list, recurse=True, action=add_action_add):
 
57
class AddAction(object):
 
58
    """A class which defines what action to take when adding a file."""
 
59
 
 
60
    def __init__(self, to_file=None, should_print=None):
 
61
        self._to_file = to_file
 
62
        if to_file is None:
 
63
            self._to_file = sys.stdout
 
64
        self.should_print = False
 
65
        if should_print is not None:
 
66
            self.should_print = should_print
 
67
 
 
68
    def __call__(self, inv, parent_ie, path, kind, _quote=bzrlib.osutils.quotefn):
 
69
        """Add path to inventory.
 
70
 
 
71
        The default action does nothing.
 
72
 
 
73
        :param inv: The inventory we are working with.
 
74
        :param path: The FastPath being added
 
75
        :param kind: The kind of the object being added.
 
76
        """
 
77
        if not self.should_print:
 
78
            return
 
79
        self._to_file.write('added %s\n' % _quote(path.raw_path))
 
80
 
 
81
 
 
82
# TODO: jam 20050105 These could be used for compatibility
 
83
#       however, they bind against the current stdout, not the
 
84
#       one which exists at the time they are called, so they
 
85
#       don't work for the test suite.
 
86
# deprecated
 
87
add_action_add = AddAction()
 
88
add_action_null = add_action_add
 
89
add_action_add_and_print = AddAction(should_print=True)
 
90
add_action_print = add_action_add_and_print
 
91
 
 
92
 
 
93
def smart_add(file_list, recurse=True, action=None, save=True):
82
94
    """Add files to version, optionally recursing into directories.
83
95
 
84
96
    This is designed more towards DWIM for humans than API simplicity.
85
97
    For the specific behaviour see the help for cmd_add().
86
98
 
87
99
    Returns the number of files added.
 
100
    Please see smart_add_tree for more detail.
88
101
    """
89
102
    file_list = _prepare_file_list(file_list)
90
103
    tree = WorkingTree.open_containing(file_list[0])[0]
91
 
    return smart_add_tree(tree, file_list, recurse, action)
92
 
 
93
 
 
94
 
def smart_add_tree(tree, file_list, recurse=True, action=add_action_add):
 
104
    return smart_add_tree(tree, file_list, recurse, action=action)
 
105
 
 
106
 
 
107
class FastPath(object):
 
108
    """A path object with fast accessors for things like basename."""
 
109
 
 
110
    __slots__ = ['raw_path', 'base_path']
 
111
 
 
112
    def __init__(self, path, base_path=None):
 
113
        """Construct a FastPath from path."""
 
114
        if base_path is None:
 
115
            self.base_path = bzrlib.osutils.basename(path)
 
116
        else:
 
117
            self.base_path = base_path
 
118
        self.raw_path = path
 
119
 
 
120
 
 
121
def smart_add_tree(tree, file_list, recurse=True, action=None, save=True):
95
122
    """Add files to version, optionally recursing into directories.
96
123
 
97
124
    This is designed more towards DWIM for humans than API simplicity.
100
127
    This calls reporter with each (path, kind, file_id) of added files.
101
128
 
102
129
    Returns the number of files added.
 
130
    
 
131
    :param save: Save the inventory after completing the adds. If False this
 
132
    provides dry-run functionality by doing the add and not saving the
 
133
    inventory.  Note that the modified inventory is left in place, allowing 
 
134
    further dry-run tasks to take place. To restore the original inventory
 
135
    call tree.read_working_inventory().
103
136
    """
104
 
    import os, errno
105
 
    from bzrlib.errors import BadFileKindError, ForbiddenFileError
106
137
    assert isinstance(recurse, bool)
 
138
    if action is None:
 
139
        action = AddAction()
107
140
    
108
141
    prepared_list = _prepare_file_list(file_list)
109
142
    mutter("smart add of %r, originally %r", prepared_list, file_list)
110
143
    inv = tree.read_working_inventory()
111
144
    added = []
112
145
    ignored = {}
113
 
    user_files = set()
114
 
    files_to_add = []
 
146
    dirs_to_add = []
 
147
    user_dirs = set()
115
148
 
116
149
    # validate user file paths and convert all paths to tree 
117
150
    # relative : its cheaper to make a tree relative path an abspath
118
151
    # than to convert an abspath to tree relative.
119
152
    for filepath in prepared_list:
120
 
        rf = tree.relpath(filepath)
121
 
        user_files.add(rf)
122
 
        files_to_add.append((rf, None))
 
153
        rf = FastPath(tree.relpath(filepath))
123
154
        # validate user parameters. Our recursive code avoids adding new files
124
155
        # that need such validation 
125
 
        if tree.is_control_filename(rf):
126
 
            raise ForbiddenFileError('cannot add control file %s' % filepath)
127
 
 
128
 
    for filepath, parent_ie in files_to_add:
129
 
        # filepath is tree-relative
130
 
        abspath = tree.abspath(filepath)
131
 
 
132
 
        # find the kind of the path being added. This is not
133
 
        # currently determined when we list directories 
134
 
        # recursively, but in theory we can determine while 
135
 
        # doing the directory listing on *some* platformans.
136
 
        # TODO: a safe, portable, clean interface which will 
137
 
        # be faster than os.listdir() + stat. Specifically,
138
 
        # readdir - dirent.d_type supplies the file type when
139
 
        # it is defined. (Apparently Mac OSX has the field but
140
 
        # does not fill it in ?!) Robert C, Martin P.
141
 
        try:
142
 
            kind = bzrlib.osutils.file_kind(abspath)
143
 
        except OSError, e:
144
 
            if hasattr(e, 'errno') and e.errno == errno.ENOENT:
145
 
                raise errors.NoSuchFile(abspath)
146
 
            raise
147
 
 
148
 
        # we need to call this to determine the inventory kind to create.
 
156
        if tree.is_control_filename(rf.raw_path):
 
157
            raise errors.ForbiddenControlFileError(filename=rf)
 
158
        
 
159
        abspath = tree.abspath(rf.raw_path)
 
160
        kind = bzrlib.osutils.file_kind(abspath)
 
161
        if kind == 'directory':
 
162
            # schedule the dir for scanning
 
163
            user_dirs.add(rf.raw_path)
 
164
        else:
 
165
            if not InventoryEntry.versionable_kind(kind):
 
166
                raise errors.BadFileKindError(filename=abspath, kind=kind)
 
167
        # ensure the named path is added, so that ignore rules in the later directory
 
168
        # walk dont skip it.
 
169
        # we dont have a parent ie known yet.: use the relatively slower inventory 
 
170
        # probing method
 
171
        versioned = inv.has_filename(rf.raw_path)
 
172
        if versioned:
 
173
            continue
 
174
        added.extend(__add_one_and_parent(tree, inv, None, rf, kind, action))
 
175
 
 
176
    if not recurse:
 
177
        # no need to walk any directories at all.
 
178
        if len(added) > 0 and save:
 
179
            tree._write_inventory(inv)
 
180
        return added, ignored
 
181
 
 
182
    # only walk the minimal parents needed: we have user_dirs to override
 
183
    # ignores.
 
184
    prev_dir = None
 
185
    for path in sorted(user_dirs):
 
186
        if (prev_dir is None or not
 
187
            bzrlib.osutils.is_inside_or_parent_of_any([prev_dir], path)):
 
188
            dirs_to_add.append((rf, None))
 
189
        prev_dir = path
 
190
 
 
191
    # this will eventually be *just* directories, right now it starts off with 
 
192
    # just directories.
 
193
    for directory, parent_ie in dirs_to_add:
 
194
        # directory is tree-relative
 
195
        abspath = tree.abspath(directory.raw_path)
 
196
 
 
197
        # get the contents of this directory.
 
198
 
 
199
        # find the kind of the path being added.
 
200
        kind = bzrlib.osutils.file_kind(abspath)
 
201
 
149
202
        if not InventoryEntry.versionable_kind(kind):
150
 
            if filepath in user_files:
151
 
                raise BadFileKindError("cannot add %s of type %s" % (abspath, kind))
152
 
            else:
153
 
                warning("skipping %s (can't add file of kind '%s')", abspath, kind)
154
 
                continue
 
203
            warning("skipping %s (can't add file of kind '%s')", abspath, kind)
 
204
            continue
155
205
 
156
206
        if parent_ie is not None:
157
 
            versioned = bzrlib.osutils.basename(filepath) in parent_ie.children
 
207
            versioned = directory.base_path in parent_ie.children
158
208
        else:
159
209
            # without the parent ie, use the relatively slower inventory 
160
210
            # probing method
161
 
            versioned = inv.has_filename(filepath)
 
211
            versioned = inv.has_filename(directory.raw_path)
162
212
 
163
213
        if kind == 'directory':
164
214
            try:
171
221
        else:
172
222
            sub_tree = False
173
223
 
174
 
        if filepath == '':
 
224
        if directory.raw_path == '':
175
225
            # mutter("tree root doesn't need to be added")
176
226
            sub_tree = False
177
227
        elif versioned:
180
230
        elif sub_tree:
181
231
            mutter("%r is a nested bzr tree", abspath)
182
232
        else:
183
 
            added.extend(__add_one(tree, inv, parent_ie, filepath, kind, action))
 
233
            __add_one(tree, inv, parent_ie, directory, kind, action)
 
234
            added.append(directory.raw_path)
184
235
 
185
 
        if kind == 'directory' and recurse and not sub_tree:
186
 
            try:
187
 
                if parent_ie is not None:
188
 
                    # must be present:
189
 
                    this_ie = parent_ie.children[bzrlib.osutils.basename(filepath)]
 
236
        if kind == 'directory' and not sub_tree:
 
237
            if parent_ie is not None:
 
238
                # must be present:
 
239
                this_ie = parent_ie.children[directory.base_path]
 
240
            else:
 
241
                # without the parent ie, use the relatively slower inventory 
 
242
                # probing method
 
243
                this_id = inv.path2id(directory.raw_path)
 
244
                if this_id is None:
 
245
                    this_ie = None
190
246
                else:
191
 
                    # without the parent ie, use the relatively slower inventory 
192
 
                    # probing method
193
 
                    this_id = inv.path2id(filepath)
194
 
                    if this_id is None:
195
 
                        this_ie = None
196
 
                    else:
197
 
                        this_ie = inv[this_id]
198
 
            except KeyError:
199
 
                this_ie = None
 
247
                    this_ie = inv[this_id]
200
248
 
201
249
            for subf in os.listdir(abspath):
202
250
                # here we could use TreeDirectory rather than 
203
251
                # string concatenation.
204
 
                subp = bzrlib.osutils.pathjoin(filepath, subf)
 
252
                subp = bzrlib.osutils.pathjoin(directory.raw_path, subf)
205
253
                # TODO: is_control_filename is very slow. Make it faster. 
206
254
                # TreeDirectory.is_control_filename could also make this 
207
255
                # faster - its impossible for a non root dir to have a 
208
256
                # control file.
209
257
                if tree.is_control_filename(subp):
210
258
                    mutter("skip control directory %r", subp)
 
259
                elif subf in this_ie.children:
 
260
                    # recurse into this already versioned subdir.
 
261
                    dirs_to_add.append((FastPath(subp, subf), this_ie))
211
262
                else:
 
263
                    # user selection overrides ignoes
212
264
                    # ignore while selecting files - if we globbed in the
213
265
                    # outer loop we would ignore user files.
214
266
                    ignore_glob = tree.is_ignored(subp)
219
271
                        ignored[ignore_glob].append(subp)
220
272
                    else:
221
273
                        #mutter("queue to add sub-file %r", subp)
222
 
                        files_to_add.append((subp, this_ie))
 
274
                        dirs_to_add.append((FastPath(subp, subf), this_ie))
223
275
 
224
 
    if len(added) > 0:
 
276
    if len(added) > 0 and save:
225
277
        tree._write_inventory(inv)
226
278
    return added, ignored
227
279
 
228
280
 
229
 
def __add_one(tree, inv, parent_ie, path, kind, action):
 
281
def __add_one_and_parent(tree, inv, parent_ie, path, kind, action):
230
282
    """Add a new entry to the inventory and automatically add unversioned parents.
231
283
 
232
 
    Actual adding of the entry is delegated to the action callback.
233
 
 
234
284
    :param inv: Inventory which will receive the new entry.
235
285
    :param parent_ie: Parent inventory entry if known, or None.  If
236
286
    None, the parent is looked up by name and used if present, otherwise
239
289
    :param action: callback(inv, parent_ie, path, kind); return ignored.
240
290
    :returns: A list of paths which have been added.
241
291
    """
242
 
 
243
292
    # Nothing to do if path is already versioned.
244
293
    # This is safe from infinite recursion because the tree root is
245
294
    # always versioned.
248
297
        added = []
249
298
    else:
250
299
        # slower but does not need parent_ie
251
 
        if inv.has_filename(path):
 
300
        if inv.has_filename(path.raw_path):
252
301
            return []
253
 
        # add parent
254
 
        added = __add_one(tree, inv, None, dirname(path), 'directory', action)
255
 
        parent_id = inv.path2id(dirname(path))
256
 
        if parent_id is not None:
257
 
            parent_ie = inv[inv.path2id(dirname(path))]
258
 
        else:
259
 
            parent_ie = None
 
302
        # its really not there : add the parent
 
303
        # note that the dirname use leads to some extra str copying etc but as
 
304
        # there are a limited number of dirs we can be nested under, it should
 
305
        # generally find it very fast and not recurse after that.
 
306
        added = __add_one_and_parent(tree, inv, None, FastPath(dirname(path.raw_path)), 'directory', action)
 
307
        parent_id = inv.path2id(dirname(path.raw_path))
 
308
        parent_ie = inv[parent_id]
 
309
    __add_one(tree, inv, parent_ie, path, kind, action)
 
310
    return added + [path.raw_path]
 
311
 
 
312
 
 
313
def __add_one(tree, inv, parent_ie, path, kind, action):
 
314
    """Add a new entry to the inventory.
 
315
 
 
316
    :param inv: Inventory which will receive the new entry.
 
317
    :param parent_ie: Parent inventory entry.
 
318
    :param kind: Kind of new entry (file, directory, etc)
 
319
    :param action: callback(inv, parent_ie, path, kind); return ignored.
 
320
    :returns: None
 
321
    """
260
322
    action(inv, parent_ie, path, kind)
261
 
 
262
 
    return added + [path]
 
323
    entry = bzrlib.inventory.make_entry(kind, path.base_path, parent_ie.file_id)
 
324
    inv.add(entry)