~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/add.py

  • Committer: Martin Pool
  • Date: 2005-09-30 03:38:47 UTC
  • mfrom: (1393.2.4)
  • mto: (1185.14.2)
  • mto: This revision was merged to the branch mainline in revision 1396.
  • Revision ID: mbp@sourcefrog.net-20050930033847-e78ce2a6670c1a29
- merge Transport from John into newformat

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006 Canonical Ltd
2
 
#
 
1
# Copyright (C) 2005 Canonical Ltd
 
2
 
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
#
 
7
 
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
#
 
12
 
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
import errno
18
 
import os
19
 
from os.path import dirname
20
 
import sys
21
 
 
22
 
import bzrlib.errors as errors
23
 
from bzrlib.inventory import InventoryEntry
24
17
from bzrlib.trace import mutter, note, warning
25
18
from bzrlib.errors import NotBranchError
26
 
import bzrlib.osutils
27
 
from bzrlib.workingtree import WorkingTree
28
 
 
 
19
from bzrlib.branch import Branch
 
20
from bzrlib.osutils import quotefn
 
21
from os.path import dirname
29
22
 
30
23
def glob_expand_for_win32(file_list):
31
 
    if not file_list:
32
 
        return
33
24
    import glob
34
25
    expanded_file_list = []
35
26
    for possible_glob in file_list:
44
35
    return expanded_file_list
45
36
 
46
37
 
 
38
def add_reporter_null(path, kind, entry):
 
39
    """Absorb add reports and do nothing."""
 
40
    pass
 
41
 
 
42
def add_reporter_print(path, kind, entry):
 
43
    """Print a line to stdout for each file that's added."""
 
44
    print "added", quotefn(path)
 
45
    
47
46
def _prepare_file_list(file_list):
48
47
    """Prepare a file list for use by smart_add_*."""
 
48
    import sys
49
49
    if sys.platform == 'win32':
50
50
        file_list = glob_expand_for_win32(file_list)
51
51
    if not file_list:
52
 
        file_list = [u'.']
 
52
        file_list = ['.']
53
53
    file_list = list(file_list)
54
54
    return file_list
55
55
 
56
56
 
57
 
class AddAction(object):
58
 
    """A class which defines what action to take when adding a file."""
59
 
 
60
 
    def __init__(self, to_file=None, should_print=None):
61
 
        self._to_file = to_file
62
 
        if to_file is None:
63
 
            self._to_file = sys.stdout
64
 
        self.should_print = False
65
 
        if should_print is not None:
66
 
            self.should_print = should_print
67
 
 
68
 
    def __call__(self, inv, parent_ie, path, kind, _quote=bzrlib.osutils.quotefn):
69
 
        """Add path to inventory.
70
 
 
71
 
        The default action does nothing.
72
 
 
73
 
        :param inv: The inventory we are working with.
74
 
        :param path: The FastPath being added
75
 
        :param kind: The kind of the object being added.
76
 
        """
77
 
        if not self.should_print:
78
 
            return
79
 
        self._to_file.write('added %s\n' % _quote(path.raw_path))
80
 
 
81
 
 
82
 
# TODO: jam 20050105 These could be used for compatibility
83
 
#       however, they bind against the current stdout, not the
84
 
#       one which exists at the time they are called, so they
85
 
#       don't work for the test suite.
86
 
# deprecated
87
 
add_action_add = AddAction()
88
 
add_action_null = add_action_add
89
 
add_action_add_and_print = AddAction(should_print=True)
90
 
add_action_print = add_action_add_and_print
91
 
 
92
 
 
93
 
def smart_add(file_list, recurse=True, action=None, save=True):
 
57
def smart_add(file_list, recurse=True, reporter=add_reporter_null):
94
58
    """Add files to version, optionally recursing into directories.
95
59
 
96
60
    This is designed more towards DWIM for humans than API simplicity.
97
61
    For the specific behaviour see the help for cmd_add().
98
62
 
99
63
    Returns the number of files added.
100
 
    Please see smart_add_tree for more detail.
101
64
    """
102
65
    file_list = _prepare_file_list(file_list)
103
 
    tree = WorkingTree.open_containing(file_list[0])[0]
104
 
    return smart_add_tree(tree, file_list, recurse, action=action)
105
 
 
106
 
 
107
 
class FastPath(object):
108
 
    """A path object with fast accessors for things like basename."""
109
 
 
110
 
    __slots__ = ['raw_path', 'base_path']
111
 
 
112
 
    def __init__(self, path, base_path=None):
113
 
        """Construct a FastPath from path."""
114
 
        if base_path is None:
115
 
            self.base_path = bzrlib.osutils.basename(path)
116
 
        else:
117
 
            self.base_path = base_path
118
 
        self.raw_path = path
119
 
 
120
 
 
121
 
def smart_add_tree(tree, file_list, recurse=True, action=None, save=True):
 
66
    b = Branch.open_containing(file_list[0])
 
67
    return smart_add_branch(b, file_list, recurse, reporter)
 
68
 
 
69
        
 
70
def smart_add_branch(branch, file_list, recurse=True, reporter=add_reporter_null):
122
71
    """Add files to version, optionally recursing into directories.
123
72
 
124
73
    This is designed more towards DWIM for humans than API simplicity.
125
74
    For the specific behaviour see the help for cmd_add().
126
75
 
127
 
    This calls reporter with each (path, kind, file_id) of added files.
 
76
    This yields a sequence of (path, kind, file_id) for added files.
128
77
 
129
78
    Returns the number of files added.
130
 
    
131
 
    :param save: Save the inventory after completing the adds. If False this
132
 
    provides dry-run functionality by doing the add and not saving the
133
 
    inventory.  Note that the modified inventory is left in place, allowing 
134
 
    further dry-run tasks to take place. To restore the original inventory
135
 
    call tree.read_working_inventory().
136
79
    """
 
80
    import os
 
81
    from bzrlib.errors import BadFileKindError, ForbiddenFileError
 
82
    import bzrlib.branch
 
83
 
137
84
    assert isinstance(recurse, bool)
138
 
    if action is None:
139
 
        action = AddAction()
140
 
    
141
 
    prepared_list = _prepare_file_list(file_list)
142
 
    mutter("smart add of %r, originally %r", prepared_list, file_list)
143
 
    inv = tree.read_working_inventory()
144
 
    added = []
145
 
    ignored = {}
146
 
    dirs_to_add = []
147
 
    user_dirs = set()
148
 
 
149
 
    # validate user file paths and convert all paths to tree 
150
 
    # relative : its cheaper to make a tree relative path an abspath
151
 
    # than to convert an abspath to tree relative.
152
 
    for filepath in prepared_list:
153
 
        rf = FastPath(tree.relpath(filepath))
154
 
        # validate user parameters. Our recursive code avoids adding new files
155
 
        # that need such validation 
156
 
        if tree.is_control_filename(rf.raw_path):
157
 
            raise errors.ForbiddenControlFileError(filename=rf)
 
85
 
 
86
    file_list = _prepare_file_list(file_list)
 
87
    user_list = file_list[:]
 
88
    inv = branch.read_working_inventory()
 
89
    tree = branch.working_tree()
 
90
    count = 0
 
91
 
 
92
    for f in file_list:
 
93
        rf = branch.relpath(f)
 
94
        af = branch.abspath(rf)
 
95
 
 
96
        kind = bzrlib.osutils.file_kind(af)
 
97
 
 
98
        if kind != 'file' and kind != 'directory':
 
99
            if f in user_list:
 
100
                raise BadFileKindError("cannot add %s of type %s" % (f, kind))
 
101
            else:
 
102
                warning("skipping %s (can't add file of kind '%s')", f, kind)
 
103
                continue
 
104
 
 
105
        mutter("smart add of %r, abs=%r" % (f, af))
158
106
        
159
 
        abspath = tree.abspath(rf.raw_path)
160
 
        kind = bzrlib.osutils.file_kind(abspath)
161
 
        if kind == 'directory':
162
 
            # schedule the dir for scanning
163
 
            user_dirs.add(rf.raw_path)
164
 
        else:
165
 
            if not InventoryEntry.versionable_kind(kind):
166
 
                raise errors.BadFileKindError(filename=abspath, kind=kind)
167
 
        # ensure the named path is added, so that ignore rules in the later directory
168
 
        # walk dont skip it.
169
 
        # we dont have a parent ie known yet.: use the relatively slower inventory 
170
 
        # probing method
171
 
        versioned = inv.has_filename(rf.raw_path)
172
 
        if versioned:
173
 
            continue
174
 
        added.extend(__add_one_and_parent(tree, inv, None, rf, kind, action))
175
 
 
176
 
    if not recurse:
177
 
        # no need to walk any directories at all.
178
 
        if len(added) > 0 and save:
179
 
            tree._write_inventory(inv)
180
 
        return added, ignored
181
 
 
182
 
    # only walk the minimal parents needed: we have user_dirs to override
183
 
    # ignores.
184
 
    prev_dir = None
185
 
    for path in sorted(user_dirs):
186
 
        if (prev_dir is None or not
187
 
            bzrlib.osutils.is_inside_or_parent_of_any([prev_dir], path)):
188
 
            dirs_to_add.append((rf, None))
189
 
        prev_dir = path
190
 
 
191
 
    # this will eventually be *just* directories, right now it starts off with 
192
 
    # just directories.
193
 
    for directory, parent_ie in dirs_to_add:
194
 
        # directory is tree-relative
195
 
        abspath = tree.abspath(directory.raw_path)
196
 
 
197
 
        # get the contents of this directory.
198
 
 
199
 
        # find the kind of the path being added.
200
 
        kind = bzrlib.osutils.file_kind(abspath)
201
 
 
202
 
        if not InventoryEntry.versionable_kind(kind):
203
 
            warning("skipping %s (can't add file of kind '%s')", abspath, kind)
204
 
            continue
205
 
 
206
 
        if parent_ie is not None:
207
 
            versioned = directory.base_path in parent_ie.children
208
 
        else:
209
 
            # without the parent ie, use the relatively slower inventory 
210
 
            # probing method
211
 
            versioned = inv.has_filename(directory.raw_path)
 
107
        if bzrlib.branch.is_control_file(af):
 
108
            raise ForbiddenFileError('cannot add control file %s' % f)
 
109
            
 
110
        versioned = (inv.path2id(rf) != None)
212
111
 
213
112
        if kind == 'directory':
214
113
            try:
215
 
                sub_branch = bzrlib.bzrdir.BzrDir.open(abspath)
 
114
                sub_branch = Branch.open(af)
216
115
                sub_tree = True
217
116
            except NotBranchError:
218
117
                sub_tree = False
219
 
            except errors.UnsupportedFormatError:
220
 
                sub_tree = True
221
118
        else:
222
119
            sub_tree = False
223
120
 
224
 
        if directory.raw_path == '':
225
 
            # mutter("tree root doesn't need to be added")
 
121
        if rf == '':
 
122
            mutter("branch root doesn't need to be added")
226
123
            sub_tree = False
227
124
        elif versioned:
228
 
            pass
229
 
            # mutter("%r is already versioned", abspath)
 
125
            mutter("%r is already versioned" % f)
230
126
        elif sub_tree:
231
 
            mutter("%r is a nested bzr tree", abspath)
 
127
            mutter("%r is a bzr tree" %f)
232
128
        else:
233
 
            __add_one(tree, inv, parent_ie, directory, kind, action)
234
 
            added.append(directory.raw_path)
235
 
 
236
 
        if kind == 'directory' and not sub_tree:
237
 
            if parent_ie is not None:
238
 
                # must be present:
239
 
                this_ie = parent_ie.children[directory.base_path]
240
 
            else:
241
 
                # without the parent ie, use the relatively slower inventory 
242
 
                # probing method
243
 
                this_id = inv.path2id(directory.raw_path)
244
 
                if this_id is None:
245
 
                    this_ie = None
246
 
                else:
247
 
                    this_ie = inv[this_id]
248
 
 
249
 
            for subf in os.listdir(abspath):
250
 
                # here we could use TreeDirectory rather than 
251
 
                # string concatenation.
252
 
                subp = bzrlib.osutils.pathjoin(directory.raw_path, subf)
253
 
                # TODO: is_control_filename is very slow. Make it faster. 
254
 
                # TreeDirectory.is_control_filename could also make this 
255
 
                # faster - its impossible for a non root dir to have a 
256
 
                # control file.
257
 
                if tree.is_control_filename(subp):
258
 
                    mutter("skip control directory %r", subp)
259
 
                elif subf in this_ie.children:
260
 
                    # recurse into this already versioned subdir.
261
 
                    dirs_to_add.append((FastPath(subp, subf), this_ie))
262
 
                else:
263
 
                    # user selection overrides ignoes
264
 
                    # ignore while selecting files - if we globbed in the
265
 
                    # outer loop we would ignore user files.
266
 
                    ignore_glob = tree.is_ignored(subp)
267
 
                    if ignore_glob is not None:
268
 
                        # mutter("skip ignored sub-file %r", subp)
269
 
                        if ignore_glob not in ignored:
270
 
                            ignored[ignore_glob] = []
271
 
                        ignored[ignore_glob].append(subp)
272
 
                    else:
273
 
                        #mutter("queue to add sub-file %r", subp)
274
 
                        dirs_to_add.append((FastPath(subp, subf), this_ie))
275
 
 
276
 
    if len(added) > 0 and save:
277
 
        tree._write_inventory(inv)
278
 
    return added, ignored
279
 
 
280
 
 
281
 
def __add_one_and_parent(tree, inv, parent_ie, path, kind, action):
282
 
    """Add a new entry to the inventory and automatically add unversioned parents.
283
 
 
284
 
    :param inv: Inventory which will receive the new entry.
285
 
    :param parent_ie: Parent inventory entry if known, or None.  If
286
 
    None, the parent is looked up by name and used if present, otherwise
287
 
    it is recursively added.
288
 
    :param kind: Kind of new entry (file, directory, etc)
289
 
    :param action: callback(inv, parent_ie, path, kind); return ignored.
290
 
    :returns: A list of paths which have been added.
291
 
    """
 
129
            count += __add_one(branch, inv, rf, kind, reporter)
 
130
 
 
131
        if kind == 'directory' and recurse and not sub_tree:
 
132
            for subf in os.listdir(af):
 
133
                subp = os.path.join(rf, subf)
 
134
                if subf == bzrlib.BZRDIR:
 
135
                    mutter("skip control directory %r" % subp)
 
136
                elif tree.is_ignored(subp):
 
137
                    mutter("skip ignored sub-file %r" % subp)
 
138
                else:
 
139
                    mutter("queue to add sub-file %r" % subp)
 
140
                    file_list.append(branch.abspath(subp))
 
141
 
 
142
 
 
143
    mutter('added %d entries', count)
 
144
    
 
145
    if count > 0:
 
146
        branch._write_inventory(inv)
 
147
 
 
148
    return count
 
149
 
 
150
def __add_one(branch, inv, path, kind, reporter):
 
151
    """Add a file or directory, automatically add unversioned parents."""
 
152
 
292
153
    # Nothing to do if path is already versioned.
293
 
    # This is safe from infinite recursion because the tree root is
 
154
    # This is safe from infinite recursion because the branch root is
294
155
    # always versioned.
295
 
    if parent_ie is not None:
296
 
        # we have a parent ie already
297
 
        added = []
298
 
    else:
299
 
        # slower but does not need parent_ie
300
 
        if inv.has_filename(path.raw_path):
301
 
            return []
302
 
        # its really not there : add the parent
303
 
        # note that the dirname use leads to some extra str copying etc but as
304
 
        # there are a limited number of dirs we can be nested under, it should
305
 
        # generally find it very fast and not recurse after that.
306
 
        added = __add_one_and_parent(tree, inv, None, FastPath(dirname(path.raw_path)), 'directory', action)
307
 
        parent_id = inv.path2id(dirname(path.raw_path))
308
 
        parent_ie = inv[parent_id]
309
 
    __add_one(tree, inv, parent_ie, path, kind, action)
310
 
    return added + [path.raw_path]
311
 
 
312
 
 
313
 
def __add_one(tree, inv, parent_ie, path, kind, action):
314
 
    """Add a new entry to the inventory.
315
 
 
316
 
    :param inv: Inventory which will receive the new entry.
317
 
    :param parent_ie: Parent inventory entry.
318
 
    :param kind: Kind of new entry (file, directory, etc)
319
 
    :param action: callback(inv, parent_ie, path, kind); return ignored.
320
 
    :returns: None
321
 
    """
322
 
    action(inv, parent_ie, path, kind)
323
 
    entry = bzrlib.inventory.make_entry(kind, path.base_path, parent_ie.file_id)
324
 
    inv.add(entry)
 
156
    if inv.path2id(path) != None:
 
157
        return 0
 
158
 
 
159
    # add parent
 
160
    count = __add_one(branch, inv, dirname(path), 'directory', reporter)
 
161
 
 
162
    entry = inv.add_path(path, kind=kind)
 
163
    mutter("added %r kind %r file_id={%s}" % (path, kind, entry.file_id))
 
164
    reporter(path, kind, entry)
 
165
 
 
166
    return count + 1