~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/commit.py

  • Committer: John Arbash Meinel
  • Date: 2008-10-04 14:10:13 UTC
  • mto: This revision was merged to the branch mainline in revision 3805.
  • Revision ID: john@arbash-meinel.com-20081004141013-yskxjlwtuy2k18ue
Playing around with expanding requests for btree index nodes into neighboring nodes.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2011 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
 
18
18
# The newly committed revision is going to have a shape corresponding
49
49
# TODO: Change the parameter 'rev_id' to 'revision_id' to be consistent with
50
50
# the rest of the code; add a deprecation of the old name.
51
51
 
 
52
import os
 
53
import re
 
54
import sys
 
55
import time
 
56
 
 
57
from cStringIO import StringIO
 
58
 
52
59
from bzrlib import (
53
60
    debug,
54
61
    errors,
55
 
    trace,
 
62
    revision,
56
63
    tree,
57
 
    ui,
58
64
    )
59
65
from bzrlib.branch import Branch
60
 
from bzrlib.cleanup import OperationWithCleanups
61
66
import bzrlib.config
62
67
from bzrlib.errors import (BzrError, PointlessCommit,
63
68
                           ConflictsInTree,
64
69
                           StrictCommitFailed
65
70
                           )
66
71
from bzrlib.osutils import (get_user_encoding,
67
 
                            is_inside_any,
 
72
                            kind_marker, isdir,isfile, is_inside_any,
 
73
                            is_inside_or_parent_of_any,
68
74
                            minimum_path_selection,
 
75
                            quotefn, sha_file, split_lines,
69
76
                            splitpath,
70
77
                            )
71
 
from bzrlib.trace import mutter, note, is_quiet
72
 
from bzrlib.inventory import Inventory, InventoryEntry, make_entry
 
78
from bzrlib.testament import Testament
 
79
from bzrlib.trace import mutter, note, warning, is_quiet
 
80
from bzrlib.inventory import InventoryEntry, make_entry
73
81
from bzrlib import symbol_versioning
 
82
from bzrlib.symbol_versioning import (deprecated_passed,
 
83
        deprecated_function,
 
84
        DEPRECATED_PARAMETER)
 
85
from bzrlib.workingtree import WorkingTree
74
86
from bzrlib.urlutils import unescape_for_display
 
87
import bzrlib.ui
75
88
 
76
89
 
77
90
class NullCommitReporter(object):
90
103
    def completed(self, revno, rev_id):
91
104
        pass
92
105
 
93
 
    def deleted(self, path):
 
106
    def deleted(self, file_id):
 
107
        pass
 
108
 
 
109
    def escaped(self, escape_count, message):
94
110
        pass
95
111
 
96
112
    def missing(self, path):
113
129
        note(format, *args)
114
130
 
115
131
    def snapshot_change(self, change, path):
116
 
        if path == '' and change in ('added', 'modified'):
 
132
        if change == 'unchanged':
 
133
            return
 
134
        if change == 'added' and path == '':
117
135
            return
118
136
        self._note("%s %s", change, path)
119
137
 
131
149
 
132
150
    def completed(self, revno, rev_id):
133
151
        self._note('Committed revision %d.', revno)
134
 
        # self._note goes to the console too; so while we want to log the
135
 
        # rev_id, we can't trivially only log it. (See bug 526425). Long
136
 
        # term we should rearrange the reporting structure, but for now
137
 
        # we just mutter seperately. We mutter the revid and revno together
138
 
        # so that concurrent bzr invocations won't lead to confusion.
139
 
        mutter('Committed revid %s as revno %d.', rev_id, revno)
140
 
 
141
 
    def deleted(self, path):
142
 
        self._note('deleted %s', path)
 
152
 
 
153
    def deleted(self, file_id):
 
154
        self._note('deleted %s', file_id)
 
155
 
 
156
    def escaped(self, escape_count, message):
 
157
        self._note("replaced %d control characters in message", escape_count)
143
158
 
144
159
    def missing(self, path):
145
160
        self._note('missing %s', path)
173
188
        self.reporter = reporter
174
189
        self.config = config
175
190
 
176
 
    @staticmethod
177
 
    def update_revprops(revprops, branch, authors=None, author=None,
178
 
                        local=False, possible_master_transports=None):
179
 
        if revprops is None:
180
 
            revprops = {}
181
 
        if possible_master_transports is None:
182
 
            possible_master_transports = []
183
 
        if not 'branch-nick' in revprops:
184
 
            revprops['branch-nick'] = branch._get_nick(
185
 
                local,
186
 
                possible_master_transports)
187
 
        if authors is not None:
188
 
            if author is not None:
189
 
                raise AssertionError('Specifying both author and authors '
190
 
                        'is not allowed. Specify just authors instead')
191
 
            if 'author' in revprops or 'authors' in revprops:
192
 
                # XXX: maybe we should just accept one of them?
193
 
                raise AssertionError('author property given twice')
194
 
            if authors:
195
 
                for individual in authors:
196
 
                    if '\n' in individual:
197
 
                        raise AssertionError('\\n is not a valid character '
198
 
                                'in an author identity')
199
 
                revprops['authors'] = '\n'.join(authors)
200
 
        if author is not None:
201
 
            symbol_versioning.warn('The parameter author was deprecated'
202
 
                   ' in version 1.13. Use authors instead',
203
 
                   DeprecationWarning)
204
 
            if 'author' in revprops or 'authors' in revprops:
205
 
                # XXX: maybe we should just accept one of them?
206
 
                raise AssertionError('author property given twice')
207
 
            if '\n' in author:
208
 
                raise AssertionError('\\n is not a valid character '
209
 
                        'in an author identity')
210
 
            revprops['authors'] = author
211
 
        return revprops
212
 
 
213
191
    def commit(self,
214
192
               message=None,
215
193
               timestamp=None,
227
205
               config=None,
228
206
               message_callback=None,
229
207
               recursive='down',
230
 
               exclude=None,
231
 
               possible_master_transports=None,
232
 
               lossy=False):
 
208
               exclude=None):
233
209
        """Commit working copy as a new revision.
234
210
 
235
211
        :param message: the commit message (it or message_callback is required)
236
 
        :param message_callback: A callback: message = message_callback(cmt_obj)
237
212
 
238
213
        :param timestamp: if not None, seconds-since-epoch for a
239
214
            postdated/predated commit.
240
215
 
241
 
        :param specific_files: If not None, commit only those files. An empty
242
 
            list means 'commit no files'.
 
216
        :param specific_files: If true, commit only those files.
243
217
 
244
218
        :param rev_id: If set, use this as the new revision id.
245
219
            Useful for test or import commands that need to tightly
261
235
            pending changes of any sort during this commit.
262
236
        :param exclude: None or a list of relative paths to exclude from the
263
237
            commit. Pending changes to excluded files will be ignored by the
264
 
            commit.
265
 
        :param lossy: When committing to a foreign VCS, ignore any
266
 
            data that can not be natively represented.
 
238
            commit. 
267
239
        """
268
 
        operation = OperationWithCleanups(self._commit)
269
 
        self.revprops = revprops or {}
270
 
        # XXX: Can be set on __init__ or passed in - this is a bit ugly.
271
 
        self.config = config or self.config
272
 
        return operation.run(
273
 
               message=message,
274
 
               timestamp=timestamp,
275
 
               timezone=timezone,
276
 
               committer=committer,
277
 
               specific_files=specific_files,
278
 
               rev_id=rev_id,
279
 
               allow_pointless=allow_pointless,
280
 
               strict=strict,
281
 
               verbose=verbose,
282
 
               working_tree=working_tree,
283
 
               local=local,
284
 
               reporter=reporter,
285
 
               message_callback=message_callback,
286
 
               recursive=recursive,
287
 
               exclude=exclude,
288
 
               possible_master_transports=possible_master_transports,
289
 
               lossy=lossy)
290
 
 
291
 
    def _commit(self, operation, message, timestamp, timezone, committer,
292
 
            specific_files, rev_id, allow_pointless, strict, verbose,
293
 
            working_tree, local, reporter, message_callback, recursive,
294
 
            exclude, possible_master_transports, lossy):
295
240
        mutter('preparing to commit')
296
241
 
297
242
        if working_tree is None:
312
257
                               " parameter is required for commit().")
313
258
 
314
259
        self.bound_branch = None
 
260
        self.any_entries_changed = False
315
261
        self.any_entries_deleted = False
316
262
        if exclude is not None:
317
263
            self.exclude = sorted(
320
266
            self.exclude = []
321
267
        self.local = local
322
268
        self.master_branch = None
 
269
        self.master_locked = False
323
270
        self.recursive = recursive
324
271
        self.rev_id = None
325
 
        # self.specific_files is None to indicate no filter, or any iterable to
326
 
        # indicate a filter - [] means no files at all, as per iter_changes.
327
272
        if specific_files is not None:
328
273
            self.specific_files = sorted(
329
274
                minimum_path_selection(specific_files))
330
275
        else:
331
276
            self.specific_files = None
332
 
 
 
277
        self.specific_file_ids = None
333
278
        self.allow_pointless = allow_pointless
 
279
        self.revprops = revprops
334
280
        self.message_callback = message_callback
335
281
        self.timestamp = timestamp
336
282
        self.timezone = timezone
337
283
        self.committer = committer
338
284
        self.strict = strict
339
285
        self.verbose = verbose
 
286
        # accumulates an inventory delta to the basis entry, so we can make
 
287
        # just the necessary updates to the workingtree's cached basis.
 
288
        self._basis_delta = []
340
289
 
341
290
        self.work_tree.lock_write()
342
 
        operation.add_cleanup(self.work_tree.unlock)
343
 
        self.parents = self.work_tree.get_parent_ids()
344
 
        # We can use record_iter_changes IFF iter_changes is compatible with
345
 
        # the command line parameters, and the repository has fast delta
346
 
        # generation. See bug 347649.
347
 
        self.use_record_iter_changes = (
348
 
            not self.exclude and 
349
 
            not self.branch.repository._format.supports_tree_reference and
350
 
            (self.branch.repository._format.fast_deltas or
351
 
             len(self.parents) < 2))
352
 
        self.pb = ui.ui_factory.nested_progress_bar()
353
 
        operation.add_cleanup(self.pb.finished)
 
291
        self.pb = bzrlib.ui.ui_factory.nested_progress_bar()
354
292
        self.basis_revid = self.work_tree.last_revision()
355
293
        self.basis_tree = self.work_tree.basis_tree()
356
294
        self.basis_tree.lock_read()
357
 
        operation.add_cleanup(self.basis_tree.unlock)
358
 
        # Cannot commit with conflicts present.
359
 
        if len(self.work_tree.conflicts()) > 0:
360
 
            raise ConflictsInTree
361
 
 
362
 
        # Setup the bound branch variables as needed.
363
 
        self._check_bound_branch(operation, possible_master_transports)
364
 
 
365
 
        # Check that the working tree is up to date
366
 
        old_revno, new_revno = self._check_out_of_date_tree()
367
 
 
368
 
        # Complete configuration setup
369
 
        if reporter is not None:
370
 
            self.reporter = reporter
371
 
        elif self.reporter is None:
372
 
            self.reporter = self._select_reporter()
373
 
        if self.config is None:
374
 
            self.config = self.branch.get_config()
375
 
 
376
 
        self._set_specific_file_ids()
377
 
 
378
 
        # Setup the progress bar. As the number of files that need to be
379
 
        # committed in unknown, progress is reported as stages.
380
 
        # We keep track of entries separately though and include that
381
 
        # information in the progress bar during the relevant stages.
382
 
        self.pb_stage_name = ""
383
 
        self.pb_stage_count = 0
384
 
        self.pb_stage_total = 5
385
 
        if self.bound_branch:
386
 
            # 2 extra stages: "Uploading data to master branch" and "Merging
387
 
            # tags to master branch"
388
 
            self.pb_stage_total += 2
389
 
        self.pb.show_pct = False
390
 
        self.pb.show_spinner = False
391
 
        self.pb.show_eta = False
392
 
        self.pb.show_count = True
393
 
        self.pb.show_bar = True
394
 
 
395
 
        self._gather_parents()
396
 
        # After a merge, a selected file commit is not supported.
397
 
        # See 'bzr help merge' for an explanation as to why.
398
 
        if len(self.parents) > 1 and self.specific_files is not None:
399
 
            raise errors.CannotCommitSelectedFileMerge(self.specific_files)
400
 
        # Excludes are a form of selected file commit.
401
 
        if len(self.parents) > 1 and self.exclude:
402
 
            raise errors.CannotCommitSelectedFileMerge(self.exclude)
403
 
 
404
 
        # Collect the changes
405
 
        self._set_progress_stage("Collecting changes", counter=True)
406
 
        self._lossy = lossy
407
 
        self.builder = self.branch.get_commit_builder(self.parents,
408
 
            self.config, timestamp, timezone, committer, self.revprops,
409
 
            rev_id, lossy=lossy)
410
 
        if not self.builder.supports_record_entry_contents and self.exclude:
411
 
            self.builder.abort()
412
 
            raise errors.ExcludesUnsupported(self.branch.repository)
413
 
 
414
295
        try:
415
 
            self.builder.will_record_deletes()
416
 
            # find the location being committed to
417
 
            if self.bound_branch:
418
 
                master_location = self.master_branch.base
419
 
            else:
420
 
                master_location = self.branch.base
421
 
 
422
 
            # report the start of the commit
423
 
            self.reporter.started(new_revno, self.rev_id, master_location)
424
 
 
425
 
            self._update_builder_with_changes()
426
 
            self._check_pointless()
427
 
 
428
 
            # TODO: Now the new inventory is known, check for conflicts.
429
 
            # ADHB 2006-08-08: If this is done, populate_new_inv should not add
430
 
            # weave lines, because nothing should be recorded until it is known
431
 
            # that commit will succeed.
432
 
            self._set_progress_stage("Saving data locally")
433
 
            self.builder.finish_inventory()
434
 
 
435
 
            # Prompt the user for a commit message if none provided
436
 
            message = message_callback(self)
437
 
            self.message = message
438
 
 
439
 
            # Add revision data to the local branch
440
 
            self.rev_id = self.builder.commit(self.message)
441
 
 
442
 
        except Exception, e:
443
 
            mutter("aborting commit write group because of exception:")
444
 
            trace.log_exception_quietly()
445
 
            self.builder.abort()
446
 
            raise
447
 
 
448
 
        self._process_pre_hooks(old_revno, new_revno)
449
 
 
450
 
        # Upload revision data to the master.
451
 
        # this will propagate merged revisions too if needed.
452
 
        if self.bound_branch:
453
 
            self._set_progress_stage("Uploading data to master branch")
454
 
            # 'commit' to the master first so a timeout here causes the
455
 
            # local branch to be out of date
456
 
            (new_revno, self.rev_id) = self.master_branch.import_last_revision_info_and_tags(
457
 
                self.branch, new_revno, self.rev_id, lossy=lossy)
458
 
            if lossy:
459
 
                self.branch.fetch(self.master_branch, self.rev_id)
460
 
 
461
 
        # and now do the commit locally.
462
 
        self.branch.set_last_revision_info(new_revno, self.rev_id)
463
 
 
464
 
        # Merge local tags to remote
465
 
        if self.bound_branch:
466
 
            self._set_progress_stage("Merging tags to master branch")
467
 
            tag_conflicts = self.branch.tags.merge_to(self.master_branch.tags)
468
 
            if tag_conflicts:
469
 
                warning_lines = ['    ' + name for name, _, _ in tag_conflicts]
470
 
                note("Conflicting tags in bound branch:\n" +
471
 
                    "\n".join(warning_lines))
472
 
 
473
 
        # Make the working tree be up to date with the branch. This
474
 
        # includes automatic changes scheduled to be made to the tree, such
475
 
        # as updating its basis and unversioning paths that were missing.
476
 
        self.work_tree.unversion(self.deleted_ids)
477
 
        self._set_progress_stage("Updating the working tree")
478
 
        self.work_tree.update_basis_by_delta(self.rev_id,
479
 
             self.builder.get_basis_delta())
480
 
        self.reporter.completed(new_revno, self.rev_id)
481
 
        self._process_post_hooks(old_revno, new_revno)
 
296
            # Cannot commit with conflicts present.
 
297
            if len(self.work_tree.conflicts()) > 0:
 
298
                raise ConflictsInTree
 
299
 
 
300
            # Setup the bound branch variables as needed.
 
301
            self._check_bound_branch()
 
302
 
 
303
            # Check that the working tree is up to date
 
304
            old_revno, new_revno = self._check_out_of_date_tree()
 
305
 
 
306
            # Complete configuration setup
 
307
            if reporter is not None:
 
308
                self.reporter = reporter
 
309
            elif self.reporter is None:
 
310
                self.reporter = self._select_reporter()
 
311
            if self.config is None:
 
312
                self.config = self.branch.get_config()
 
313
 
 
314
            # If provided, ensure the specified files are versioned
 
315
            if self.specific_files is not None:
 
316
                # Note: This routine is being called because it raises
 
317
                # PathNotVersionedError as a side effect of finding the IDs. We
 
318
                # later use the ids we found as input to the working tree
 
319
                # inventory iterator, so we only consider those ids rather than
 
320
                # examining the whole tree again.
 
321
                # XXX: Dont we have filter_unversioned to do this more
 
322
                # cheaply?
 
323
                self.specific_file_ids = tree.find_ids_across_trees(
 
324
                    specific_files, [self.basis_tree, self.work_tree])
 
325
 
 
326
            # Setup the progress bar. As the number of files that need to be
 
327
            # committed in unknown, progress is reported as stages.
 
328
            # We keep track of entries separately though and include that
 
329
            # information in the progress bar during the relevant stages.
 
330
            self.pb_stage_name = ""
 
331
            self.pb_stage_count = 0
 
332
            self.pb_stage_total = 5
 
333
            if self.bound_branch:
 
334
                self.pb_stage_total += 1
 
335
            self.pb.show_pct = False
 
336
            self.pb.show_spinner = False
 
337
            self.pb.show_eta = False
 
338
            self.pb.show_count = True
 
339
            self.pb.show_bar = True
 
340
 
 
341
            self.basis_inv = self.basis_tree.inventory
 
342
            self._gather_parents()
 
343
            # After a merge, a selected file commit is not supported.
 
344
            # See 'bzr help merge' for an explanation as to why.
 
345
            if len(self.parents) > 1 and self.specific_files:
 
346
                raise errors.CannotCommitSelectedFileMerge(self.specific_files)
 
347
            # Excludes are a form of selected file commit.
 
348
            if len(self.parents) > 1 and self.exclude:
 
349
                raise errors.CannotCommitSelectedFileMerge(self.exclude)
 
350
 
 
351
            # Collect the changes
 
352
            self._set_progress_stage("Collecting changes",
 
353
                    entries_title="Directory")
 
354
            self.builder = self.branch.get_commit_builder(self.parents,
 
355
                self.config, timestamp, timezone, committer, revprops, rev_id)
 
356
            
 
357
            try:
 
358
                # find the location being committed to
 
359
                if self.bound_branch:
 
360
                    master_location = self.master_branch.base
 
361
                else:
 
362
                    master_location = self.branch.base
 
363
 
 
364
                # report the start of the commit
 
365
                self.reporter.started(new_revno, self.rev_id, master_location)
 
366
 
 
367
                self._update_builder_with_changes()
 
368
                self._report_and_accumulate_deletes()
 
369
                self._check_pointless()
 
370
 
 
371
                # TODO: Now the new inventory is known, check for conflicts.
 
372
                # ADHB 2006-08-08: If this is done, populate_new_inv should not add
 
373
                # weave lines, because nothing should be recorded until it is known
 
374
                # that commit will succeed.
 
375
                self._set_progress_stage("Saving data locally")
 
376
                self.builder.finish_inventory()
 
377
 
 
378
                # Prompt the user for a commit message if none provided
 
379
                message = message_callback(self)
 
380
                self.message = message
 
381
                self._escape_commit_message()
 
382
 
 
383
                # Add revision data to the local branch
 
384
                self.rev_id = self.builder.commit(self.message)
 
385
 
 
386
            except:
 
387
                self.builder.abort()
 
388
                raise
 
389
 
 
390
            self._process_pre_hooks(old_revno, new_revno)
 
391
 
 
392
            # Upload revision data to the master.
 
393
            # this will propagate merged revisions too if needed.
 
394
            if self.bound_branch:
 
395
                if not self.master_branch.repository.has_same_location(
 
396
                        self.branch.repository):
 
397
                    self._set_progress_stage("Uploading data to master branch")
 
398
                    self.master_branch.repository.fetch(self.branch.repository,
 
399
                        revision_id=self.rev_id)
 
400
                # now the master has the revision data
 
401
                # 'commit' to the master first so a timeout here causes the
 
402
                # local branch to be out of date
 
403
                self.master_branch.set_last_revision_info(new_revno,
 
404
                                                          self.rev_id)
 
405
 
 
406
            # and now do the commit locally.
 
407
            self.branch.set_last_revision_info(new_revno, self.rev_id)
 
408
 
 
409
            # Make the working tree up to date with the branch
 
410
            self._set_progress_stage("Updating the working tree")
 
411
            self.work_tree.update_basis_by_delta(self.rev_id,
 
412
                 self._basis_delta)
 
413
            self.reporter.completed(new_revno, self.rev_id)
 
414
            self._process_post_hooks(old_revno, new_revno)
 
415
        finally:
 
416
            self._cleanup()
482
417
        return self.rev_id
483
418
 
484
419
    def _select_reporter(self):
493
428
        # A merge with no effect on files
494
429
        if len(self.parents) > 1:
495
430
            return
496
 
        if self.builder.any_changes():
 
431
        # TODO: we could simplify this by using self._basis_delta.
 
432
 
 
433
        # The initial commit adds a root directory, but this in itself is not
 
434
        # a worthwhile commit.
 
435
        if (self.basis_revid == revision.NULL_REVISION and
 
436
            len(self.builder.new_inventory) == 1):
 
437
            raise PointlessCommit()
 
438
        # If length == 1, then we only have the root entry. Which means
 
439
        # that there is no real difference (only the root could be different)
 
440
        # unless deletes occured, in which case the length is irrelevant.
 
441
        if (self.any_entries_deleted or 
 
442
            (len(self.builder.new_inventory) != 1 and
 
443
             self.any_entries_changed)):
497
444
            return
498
445
        raise PointlessCommit()
499
446
 
500
 
    def _check_bound_branch(self, operation, possible_master_transports=None):
 
447
    def _check_bound_branch(self):
501
448
        """Check to see if the local branch is bound.
502
449
 
503
450
        If it is bound, then most of the commit will actually be
508
455
            raise errors.LocalRequiresBoundBranch()
509
456
 
510
457
        if not self.local:
511
 
            self.master_branch = self.branch.get_master_branch(
512
 
                possible_master_transports)
 
458
            self.master_branch = self.branch.get_master_branch()
513
459
 
514
460
        if not self.master_branch:
515
461
            # make this branch the reference branch for out of date checks.
526
472
        #       commits to the remote branch if they would fit.
527
473
        #       But for now, just require remote to be identical
528
474
        #       to local.
529
 
 
 
475
        
530
476
        # Make sure the local branch is identical to the master
531
477
        master_info = self.master_branch.last_revision_info()
532
478
        local_info = self.branch.last_revision_info()
538
484
        # so grab the lock
539
485
        self.bound_branch = self.branch
540
486
        self.master_branch.lock_write()
541
 
        operation.add_cleanup(self.master_branch.unlock)
 
487
        self.master_locked = True
542
488
 
543
489
    def _check_out_of_date_tree(self):
544
490
        """Check that the working tree is up to date.
589
535
    def _process_hooks(self, hook_name, old_revno, new_revno):
590
536
        if not Branch.hooks[hook_name]:
591
537
            return
592
 
 
 
538
        
593
539
        # new style commit hooks:
594
540
        if not self.bound_branch:
595
541
            hook_master = self.branch
604
550
            old_revid = self.parents[0]
605
551
        else:
606
552
            old_revid = bzrlib.revision.NULL_REVISION
607
 
 
 
553
        
608
554
        if hook_name == "pre_commit":
609
555
            future_tree = self.builder.revision_tree()
610
556
            tree_delta = future_tree.changes_from(self.basis_tree,
611
557
                                             include_root=True)
612
 
 
 
558
        
613
559
        for hook in Branch.hooks[hook_name]:
614
560
            # show the running hook in the progress bar. As hooks may
615
561
            # end up doing nothing (e.g. because they are not configured by
629
575
                     old_revno, old_revid, new_revno, self.rev_id,
630
576
                     tree_delta, future_tree)
631
577
 
 
578
    def _cleanup(self):
 
579
        """Cleanup any open locks, progress bars etc."""
 
580
        cleanups = [self._cleanup_bound_branch,
 
581
                    self.basis_tree.unlock,
 
582
                    self.work_tree.unlock,
 
583
                    self.pb.finished]
 
584
        found_exception = None
 
585
        for cleanup in cleanups:
 
586
            try:
 
587
                cleanup()
 
588
            # we want every cleanup to run no matter what.
 
589
            # so we have a catchall here, but we will raise the
 
590
            # last encountered exception up the stack: and
 
591
            # typically this will be useful enough.
 
592
            except Exception, e:
 
593
                found_exception = e
 
594
        if found_exception is not None: 
 
595
            # don't do a plan raise, because the last exception may have been
 
596
            # trashed, e is our sure-to-work exception even though it loses the
 
597
            # full traceback. XXX: RBC 20060421 perhaps we could check the
 
598
            # exc_info and if its the same one do a plain raise otherwise 
 
599
            # 'raise e' as we do now.
 
600
            raise e
 
601
 
 
602
    def _cleanup_bound_branch(self):
 
603
        """Executed at the end of a try/finally to cleanup a bound branch.
 
604
 
 
605
        If the branch wasn't bound, this is a no-op.
 
606
        If it was, it resents self.branch to the local branch, instead
 
607
        of being the master.
 
608
        """
 
609
        if not self.bound_branch:
 
610
            return
 
611
        if self.master_locked:
 
612
            self.master_branch.unlock()
 
613
 
 
614
    def _escape_commit_message(self):
 
615
        """Replace xml-incompatible control characters."""
 
616
        # FIXME: RBC 20060419 this should be done by the revision
 
617
        # serialiser not by commit. Then we can also add an unescaper
 
618
        # in the deserializer and start roundtripping revision messages
 
619
        # precisely. See repository_implementations/test_repository.py
 
620
        
 
621
        # Python strings can include characters that can't be
 
622
        # represented in well-formed XML; escape characters that
 
623
        # aren't listed in the XML specification
 
624
        # (http://www.w3.org/TR/REC-xml/#NT-Char).
 
625
        self.message, escape_count = re.subn(
 
626
            u'[^\x09\x0A\x0D\u0020-\uD7FF\uE000-\uFFFD]+',
 
627
            lambda match: match.group(0).encode('unicode_escape'),
 
628
            self.message)
 
629
        if escape_count:
 
630
            self.reporter.escaped(escape_count, self.message)
 
631
 
632
632
    def _gather_parents(self):
633
633
        """Record the parents of a merge for merge detection."""
634
 
        # TODO: Make sure that this list doesn't contain duplicate
 
634
        # TODO: Make sure that this list doesn't contain duplicate 
635
635
        # entries and the order is preserved when doing this.
636
 
        if self.use_record_iter_changes:
637
 
            return
638
 
        self.basis_inv = self.basis_tree.inventory
 
636
        self.parents = self.work_tree.get_parent_ids()
639
637
        self.parent_invs = [self.basis_inv]
640
638
        for revision in self.parents[1:]:
641
639
            if self.branch.repository.has_revision(revision):
648
646
    def _update_builder_with_changes(self):
649
647
        """Update the commit builder with the data about what has changed.
650
648
        """
 
649
        # Build the revision inventory.
 
650
        #
 
651
        # This starts by creating a new empty inventory. Depending on
 
652
        # which files are selected for commit, and what is present in the
 
653
        # current tree, the new inventory is populated. inventory entries 
 
654
        # which are candidates for modification have their revision set to
 
655
        # None; inventory entries that are carried over untouched have their
 
656
        # revision set to their prior value.
 
657
        #
 
658
        # ESEPARATIONOFCONCERNS: this function is diffing and using the diff
 
659
        # results to create a new inventory at the same time, which results
 
660
        # in bugs like #46635.  Any reason not to use/enhance Tree.changes_from?
 
661
        # ADHB 11-07-2006
 
662
 
651
663
        exclude = self.exclude
652
 
        specific_files = self.specific_files
 
664
        specific_files = self.specific_files or []
653
665
        mutter("Selecting files for commit with filter %s", specific_files)
654
666
 
655
 
        self._check_strict()
656
 
        if self.use_record_iter_changes:
657
 
            iter_changes = self.work_tree.iter_changes(self.basis_tree,
658
 
                specific_files=specific_files)
659
 
            iter_changes = self._filter_iter_changes(iter_changes)
660
 
            for file_id, path, fs_hash in self.builder.record_iter_changes(
661
 
                self.work_tree, self.basis_revid, iter_changes):
662
 
                self.work_tree._observed_sha1(file_id, path, fs_hash)
663
 
        else:
664
 
            # Build the new inventory
665
 
            self._populate_from_inventory()
666
 
            self._record_unselected()
667
 
            self._report_and_accumulate_deletes()
668
 
 
669
 
    def _filter_iter_changes(self, iter_changes):
670
 
        """Process iter_changes.
671
 
 
672
 
        This method reports on the changes in iter_changes to the user, and 
673
 
        converts 'missing' entries in the iter_changes iterator to 'deleted'
674
 
        entries. 'missing' entries have their
675
 
 
676
 
        :param iter_changes: An iter_changes to process.
677
 
        :return: A generator of changes.
678
 
        """
679
 
        reporter = self.reporter
680
 
        report_changes = reporter.is_verbose()
681
 
        deleted_ids = []
682
 
        for change in iter_changes:
683
 
            if report_changes:
684
 
                old_path = change[1][0]
685
 
                new_path = change[1][1]
686
 
                versioned = change[3][1]
687
 
            kind = change[6][1]
688
 
            versioned = change[3][1]
689
 
            if kind is None and versioned:
690
 
                # 'missing' path
691
 
                if report_changes:
692
 
                    reporter.missing(new_path)
693
 
                deleted_ids.append(change[0])
694
 
                # Reset the new path (None) and new versioned flag (False)
695
 
                change = (change[0], (change[1][0], None), change[2],
696
 
                    (change[3][0], False)) + change[4:]
697
 
            elif kind == 'tree-reference':
698
 
                if self.recursive == 'down':
699
 
                    self._commit_nested_tree(change[0], change[1][1])
700
 
            if change[3][0] or change[3][1]:
701
 
                yield change
702
 
                if report_changes:
703
 
                    if new_path is None:
704
 
                        reporter.deleted(old_path)
705
 
                    elif old_path is None:
706
 
                        reporter.snapshot_change('added', new_path)
707
 
                    elif old_path != new_path:
708
 
                        reporter.renamed('renamed', old_path, new_path)
709
 
                    else:
710
 
                        if (new_path or 
711
 
                            self.work_tree.branch.repository._format.rich_root_data):
712
 
                            # Don't report on changes to '' in non rich root
713
 
                            # repositories.
714
 
                            reporter.snapshot_change('modified', new_path)
715
 
            self._next_progress_entry()
716
 
        # Unversion IDs that were found to be deleted
717
 
        self.deleted_ids = deleted_ids
718
 
 
719
 
    def _record_unselected(self):
 
667
        # Build the new inventory
 
668
        self._populate_from_inventory()
 
669
 
720
670
        # If specific files are selected, then all un-selected files must be
721
671
        # recorded in their previous state. For more details, see
722
672
        # https://lists.ubuntu.com/archives/bazaar/2007q3/028476.html.
723
 
        if self.specific_files or self.exclude:
724
 
            specific_files = self.specific_files or []
 
673
        if specific_files or exclude:
725
674
            for path, old_ie in self.basis_inv.iter_entries():
726
 
                if self.builder.new_inventory.has_id(old_ie.file_id):
 
675
                if old_ie.file_id in self.builder.new_inventory:
727
676
                    # already added - skip.
728
677
                    continue
729
678
                if (is_inside_any(specific_files, path)
730
 
                    and not is_inside_any(self.exclude, path)):
 
679
                    and not is_inside_any(exclude, path)):
731
680
                    # was inside the selected path, and not excluded - if not
732
681
                    # present it has been deleted so skip.
733
682
                    continue
734
683
                # From here down it was either not selected, or was excluded:
 
684
                if old_ie.kind == 'directory':
 
685
                    self._next_progress_entry()
735
686
                # We preserve the entry unaltered.
736
687
                ie = old_ie.copy()
737
688
                # Note: specific file commits after a merge are currently
739
690
                # required after that changes.
740
691
                if len(self.parents) > 1:
741
692
                    ie.revision = None
742
 
                self.builder.record_entry_contents(ie, self.parent_invs, path,
743
 
                    self.basis_tree, None)
 
693
                delta, version_recorded, _ = self.builder.record_entry_contents(
 
694
                    ie, self.parent_invs, path, self.basis_tree, None)
 
695
                if version_recorded:
 
696
                    self.any_entries_changed = True
 
697
                if delta:
 
698
                    self._basis_delta.append(delta)
744
699
 
745
700
    def _report_and_accumulate_deletes(self):
746
 
        if (isinstance(self.basis_inv, Inventory)
747
 
            and isinstance(self.builder.new_inventory, Inventory)):
748
 
            # the older Inventory classes provide a _byid dict, and building a
749
 
            # set from the keys of this dict is substantially faster than even
750
 
            # getting a set of ids from the inventory
751
 
            #
752
 
            # <lifeless> set(dict) is roughly the same speed as
753
 
            # set(iter(dict)) and both are significantly slower than
754
 
            # set(dict.keys())
755
 
            deleted_ids = set(self.basis_inv._byid.keys()) - \
756
 
               set(self.builder.new_inventory._byid.keys())
757
 
        else:
758
 
            deleted_ids = set(self.basis_inv) - set(self.builder.new_inventory)
 
701
        # XXX: Could the list of deleted paths and ids be instead taken from
 
702
        # _populate_from_inventory?
 
703
        deleted_ids = set(self.basis_inv._byid.keys()) - \
 
704
            set(self.builder.new_inventory._byid.keys())
759
705
        if deleted_ids:
760
706
            self.any_entries_deleted = True
761
707
            deleted = [(self.basis_tree.id2path(file_id), file_id)
763
709
            deleted.sort()
764
710
            # XXX: this is not quite directory-order sorting
765
711
            for path, file_id in deleted:
766
 
                self.builder.record_delete(path, file_id)
 
712
                self._basis_delta.append((path, None, file_id, None))
767
713
                self.reporter.deleted(path)
768
714
 
769
 
    def _check_strict(self):
770
 
        # XXX: when we use iter_changes this would likely be faster if
771
 
        # iter_changes would check for us (even in the presence of
772
 
        # selected_files).
 
715
    def _populate_from_inventory(self):
 
716
        """Populate the CommitBuilder by walking the working tree inventory."""
773
717
        if self.strict:
774
718
            # raise an exception as soon as we find a single unknown.
775
719
            for unknown in self.work_tree.unknowns():
776
720
                raise StrictCommitFailed()
777
 
 
778
 
    def _populate_from_inventory(self):
779
 
        """Populate the CommitBuilder by walking the working tree inventory."""
780
 
        # Build the revision inventory.
781
 
        #
782
 
        # This starts by creating a new empty inventory. Depending on
783
 
        # which files are selected for commit, and what is present in the
784
 
        # current tree, the new inventory is populated. inventory entries
785
 
        # which are candidates for modification have their revision set to
786
 
        # None; inventory entries that are carried over untouched have their
787
 
        # revision set to their prior value.
788
 
        #
789
 
        # ESEPARATIONOFCONCERNS: this function is diffing and using the diff
790
 
        # results to create a new inventory at the same time, which results
791
 
        # in bugs like #46635.  Any reason not to use/enhance Tree.changes_from?
792
 
        # ADHB 11-07-2006
793
 
 
 
721
        
794
722
        specific_files = self.specific_files
795
723
        exclude = self.exclude
796
724
        report_changes = self.reporter.is_verbose()
810
738
            name = existing_ie.name
811
739
            parent_id = existing_ie.parent_id
812
740
            kind = existing_ie.kind
 
741
            if kind == 'directory':
 
742
                self._next_progress_entry()
813
743
            # Skip files that have been deleted from the working tree.
814
744
            # The deleted path ids are also recorded so they can be explicitly
815
745
            # unversioned later.
833
763
                # _update_builder_with_changes.
834
764
                continue
835
765
            content_summary = self.work_tree.path_content_summary(path)
836
 
            kind = content_summary[0]
837
766
            # Note that when a filter of specific files is given, we must only
838
767
            # skip/record deleted files matching that filter.
839
768
            if not specific_files or is_inside_any(specific_files, path):
840
 
                if kind == 'missing':
 
769
                if content_summary[0] == 'missing':
841
770
                    if not deleted_paths:
842
771
                        # path won't have been split yet.
843
772
                        path_segments = splitpath(path)
845
774
                    for segment in path_segments:
846
775
                        deleted_dict = deleted_dict.setdefault(segment, {})
847
776
                    self.reporter.missing(path)
848
 
                    self._next_progress_entry()
849
777
                    deleted_ids.append(file_id)
850
778
                    continue
851
779
            # TODO: have the builder do the nested commit just-in-time IF and
852
780
            # only if needed.
853
 
            if kind == 'tree-reference':
 
781
            if content_summary[0] == 'tree-reference':
854
782
                # enforce repository nested tree policy.
855
783
                if (not self.work_tree.supports_tree_reference() or
856
784
                    # repository does not support it either.
857
785
                    not self.branch.repository._format.supports_tree_reference):
858
 
                    kind = 'directory'
859
 
                    content_summary = (kind, None, None, None)
860
 
                elif self.recursive == 'down':
 
786
                    content_summary = ('directory',) + content_summary[1:]
 
787
            kind = content_summary[0]
 
788
            # TODO: specific_files filtering before nested tree processing
 
789
            if kind == 'tree-reference':
 
790
                if self.recursive == 'down':
861
791
                    nested_revision_id = self._commit_nested_tree(
862
792
                        file_id, path)
863
 
                    content_summary = (kind, None, None, nested_revision_id)
 
793
                    content_summary = content_summary[:3] + (
 
794
                        nested_revision_id,)
864
795
                else:
865
 
                    nested_revision_id = self.work_tree.get_reference_revision(file_id)
866
 
                    content_summary = (kind, None, None, nested_revision_id)
 
796
                    content_summary = content_summary[:3] + (
 
797
                        self.work_tree.get_reference_revision(file_id),)
867
798
 
868
799
            # Record an entry for this item
869
800
            # Note: I don't particularly want to have the existing_ie
875
806
                content_summary)
876
807
 
877
808
        # Unversion IDs that were found to be deleted
878
 
        self.deleted_ids = deleted_ids
 
809
        self.work_tree.unversion(deleted_ids)
879
810
 
880
811
    def _commit_nested_tree(self, file_id, path):
881
812
        "Commit a nested tree."
883
814
        # FIXME: be more comprehensive here:
884
815
        # this works when both trees are in --trees repository,
885
816
        # but when both are bound to a different repository,
886
 
        # it fails; a better way of approaching this is to
 
817
        # it fails; a better way of approaching this is to 
887
818
        # finally implement the explicit-caches approach design
888
819
        # a while back - RBC 20070306.
889
820
        if sub_tree.branch.repository.has_same_location(
915
846
            ie.revision = None
916
847
        # For carried over entries we don't care about the fs hash - the repo
917
848
        # isn't generating a sha, so we're not saving computation time.
918
 
        _, _, fs_hash = self.builder.record_entry_contents(
 
849
        delta, version_recorded, fs_hash = self.builder.record_entry_contents(
919
850
            ie, self.parent_invs, path, self.work_tree, content_summary)
 
851
        if delta:
 
852
            self._basis_delta.append(delta)
 
853
        if version_recorded:
 
854
            self.any_entries_changed = True
920
855
        if report_changes:
921
856
            self._report_change(ie, path)
922
857
        if fs_hash:
934
869
        else:
935
870
            basis_ie = None
936
871
        change = ie.describe_change(basis_ie, ie)
937
 
        if change in (InventoryEntry.RENAMED,
 
872
        if change in (InventoryEntry.RENAMED, 
938
873
            InventoryEntry.MODIFIED_AND_RENAMED):
939
874
            old_path = self.basis_inv.id2path(ie.file_id)
940
875
            self.reporter.renamed(change, old_path, path)
941
 
            self._next_progress_entry()
942
876
        else:
943
 
            if change == 'unchanged':
944
 
                return
945
877
            self.reporter.snapshot_change(change, path)
946
 
            self._next_progress_entry()
947
878
 
948
 
    def _set_progress_stage(self, name, counter=False):
 
879
    def _set_progress_stage(self, name, entries_title=None):
949
880
        """Set the progress stage and emit an update to the progress bar."""
950
881
        self.pb_stage_name = name
951
882
        self.pb_stage_count += 1
952
 
        if counter:
 
883
        self.pb_entries_title = entries_title
 
884
        if entries_title is not None:
953
885
            self.pb_entries_count = 0
954
 
        else:
955
 
            self.pb_entries_count = None
 
886
            self.pb_entries_total = '?'
956
887
        self._emit_progress()
957
888
 
958
889
    def _next_progress_entry(self):
961
892
        self._emit_progress()
962
893
 
963
894
    def _emit_progress(self):
964
 
        if self.pb_entries_count is not None:
965
 
            text = "%s [%d] - Stage" % (self.pb_stage_name,
966
 
                self.pb_entries_count)
 
895
        if self.pb_entries_title:
 
896
            if self.pb_entries_total == '?':
 
897
                text = "%s [%s %d] - Stage" % (self.pb_stage_name,
 
898
                    self.pb_entries_title, self.pb_entries_count)
 
899
            else:
 
900
                text = "%s [%s %d/%s] - Stage" % (self.pb_stage_name,
 
901
                    self.pb_entries_title, self.pb_entries_count,
 
902
                    str(self.pb_entries_total))
967
903
        else:
968
 
            text = "%s - Stage" % (self.pb_stage_name, )
 
904
            text = "%s - Stage" % (self.pb_stage_name)
969
905
        self.pb.update(text, self.pb_stage_count, self.pb_stage_total)
970
906
 
971
 
    def _set_specific_file_ids(self):
972
 
        """populate self.specific_file_ids if we will use it."""
973
 
        if not self.use_record_iter_changes:
974
 
            # If provided, ensure the specified files are versioned
975
 
            if self.specific_files is not None:
976
 
                # Note: This routine is being called because it raises
977
 
                # PathNotVersionedError as a side effect of finding the IDs. We
978
 
                # later use the ids we found as input to the working tree
979
 
                # inventory iterator, so we only consider those ids rather than
980
 
                # examining the whole tree again.
981
 
                # XXX: Dont we have filter_unversioned to do this more
982
 
                # cheaply?
983
 
                self.specific_file_ids = tree.find_ids_across_trees(
984
 
                    self.specific_files, [self.basis_tree, self.work_tree])
985
 
            else:
986
 
                self.specific_file_ids = None