~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/commit.py

  • Committer: Robert Collins
  • Date: 2010-04-08 04:34:03 UTC
  • mfrom: (5138 +trunk)
  • mto: This revision was merged to the branch mainline in revision 5139.
  • Revision ID: robertc@robertcollins.net-20100408043403-56z0d07vdqrx7f3t
Update bugfix for 528114 to trunk.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
 
1
# Copyright (C) 2005-2010 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
17
 
18
18
# The newly committed revision is going to have a shape corresponding
60
60
    debug,
61
61
    errors,
62
62
    revision,
 
63
    trace,
63
64
    tree,
 
65
    xml_serializer,
64
66
    )
65
67
from bzrlib.branch import Branch
 
68
from bzrlib.cleanup import OperationWithCleanups
66
69
import bzrlib.config
67
70
from bzrlib.errors import (BzrError, PointlessCommit,
68
71
                           ConflictsInTree,
69
72
                           StrictCommitFailed
70
73
                           )
71
 
from bzrlib.osutils import (kind_marker, isdir,isfile, is_inside_any,
 
74
from bzrlib.osutils import (get_user_encoding,
 
75
                            kind_marker, isdir,isfile, is_inside_any,
72
76
                            is_inside_or_parent_of_any,
73
77
                            minimum_path_selection,
74
78
                            quotefn, sha_file, split_lines,
76
80
                            )
77
81
from bzrlib.testament import Testament
78
82
from bzrlib.trace import mutter, note, warning, is_quiet
79
 
from bzrlib.xml5 import serializer_v5
80
 
from bzrlib.inventory import InventoryEntry, make_entry
 
83
from bzrlib.inventory import Inventory, InventoryEntry, make_entry
81
84
from bzrlib import symbol_versioning
82
85
from bzrlib.symbol_versioning import (deprecated_passed,
83
86
        deprecated_function,
103
106
    def completed(self, revno, rev_id):
104
107
        pass
105
108
 
106
 
    def deleted(self, file_id):
107
 
        pass
108
 
 
109
 
    def escaped(self, escape_count, message):
 
109
    def deleted(self, path):
110
110
        pass
111
111
 
112
112
    def missing(self, path):
129
129
        note(format, *args)
130
130
 
131
131
    def snapshot_change(self, change, path):
132
 
        if change == 'unchanged':
133
 
            return
134
 
        if change == 'added' and path == '':
 
132
        if path == '' and change in ('added', 'modified'):
135
133
            return
136
134
        self._note("%s %s", change, path)
137
135
 
149
147
 
150
148
    def completed(self, revno, rev_id):
151
149
        self._note('Committed revision %d.', revno)
152
 
 
153
 
    def deleted(self, file_id):
154
 
        self._note('deleted %s', file_id)
155
 
 
156
 
    def escaped(self, escape_count, message):
157
 
        self._note("replaced %d control characters in message", escape_count)
 
150
        # self._note goes to the console too; so while we want to log the
 
151
        # rev_id, we can't trivially only log it. (See bug 526425). Long
 
152
        # term we should rearrange the reporting structure, but for now
 
153
        # we just mutter seperately. We mutter the revid and revno together
 
154
        # so that concurrent bzr invocations won't lead to confusion.
 
155
        mutter('Committed revid %s as revno %d.', rev_id, revno)
 
156
 
 
157
    def deleted(self, path):
 
158
        self._note('deleted %s', path)
158
159
 
159
160
    def missing(self, path):
160
161
        self._note('missing %s', path)
204
205
               reporter=None,
205
206
               config=None,
206
207
               message_callback=None,
207
 
               recursive='down'):
 
208
               recursive='down',
 
209
               exclude=None,
 
210
               possible_master_transports=None):
208
211
        """Commit working copy as a new revision.
209
212
 
210
213
        :param message: the commit message (it or message_callback is required)
 
214
        :param message_callback: A callback: message = message_callback(cmt_obj)
211
215
 
212
216
        :param timestamp: if not None, seconds-since-epoch for a
213
217
            postdated/predated commit.
214
218
 
215
 
        :param specific_files: If true, commit only those files.
 
219
        :param specific_files: If not None, commit only those files. An empty
 
220
            list means 'commit no files'.
216
221
 
217
222
        :param rev_id: If set, use this as the new revision id.
218
223
            Useful for test or import commands that need to tightly
232
237
        :param verbose: if True and the reporter is not None, report everything
233
238
        :param recursive: If set to 'down', commit in any subtrees that have
234
239
            pending changes of any sort during this commit.
 
240
        :param exclude: None or a list of relative paths to exclude from the
 
241
            commit. Pending changes to excluded files will be ignored by the
 
242
            commit.
235
243
        """
 
244
        operation = OperationWithCleanups(self._commit)
 
245
        self.revprops = revprops or {}
 
246
        return operation.run(
 
247
               message=message,
 
248
               timestamp=timestamp,
 
249
               timezone=timezone,
 
250
               committer=committer,
 
251
               specific_files=specific_files,
 
252
               rev_id=rev_id,
 
253
               allow_pointless=allow_pointless,
 
254
               strict=strict,
 
255
               verbose=verbose,
 
256
               working_tree=working_tree,
 
257
               local=local,
 
258
               reporter=reporter,
 
259
               config=config,
 
260
               message_callback=message_callback,
 
261
               recursive=recursive,
 
262
               exclude=exclude,
 
263
               possible_master_transports=possible_master_transports)
 
264
 
 
265
    def _commit(self, operation, message, timestamp, timezone, committer,
 
266
            specific_files, rev_id, allow_pointless, strict, verbose,
 
267
            working_tree, local, reporter, config, message_callback, recursive,
 
268
            exclude, possible_master_transports):
236
269
        mutter('preparing to commit')
237
270
 
238
271
        if working_tree is None:
246
279
        if message_callback is None:
247
280
            if message is not None:
248
281
                if isinstance(message, str):
249
 
                    message = message.decode(bzrlib.user_encoding)
 
282
                    message = message.decode(get_user_encoding())
250
283
                message_callback = lambda x: message
251
284
            else:
252
285
                raise BzrError("The message or message_callback keyword"
253
286
                               " parameter is required for commit().")
254
287
 
255
288
        self.bound_branch = None
256
 
        self.any_entries_changed = False
257
289
        self.any_entries_deleted = False
 
290
        if exclude is not None:
 
291
            self.exclude = sorted(
 
292
                minimum_path_selection(exclude))
 
293
        else:
 
294
            self.exclude = []
258
295
        self.local = local
259
296
        self.master_branch = None
260
 
        self.master_locked = False
261
297
        self.recursive = recursive
262
298
        self.rev_id = None
 
299
        # self.specific_files is None to indicate no filter, or any iterable to
 
300
        # indicate a filter - [] means no files at all, as per iter_changes.
263
301
        if specific_files is not None:
264
302
            self.specific_files = sorted(
265
303
                minimum_path_selection(specific_files))
266
304
        else:
267
305
            self.specific_files = None
268
 
        self.specific_file_ids = None
 
306
            
269
307
        self.allow_pointless = allow_pointless
270
 
        self.revprops = revprops
271
308
        self.message_callback = message_callback
272
309
        self.timestamp = timestamp
273
310
        self.timezone = timezone
274
311
        self.committer = committer
275
312
        self.strict = strict
276
313
        self.verbose = verbose
277
 
        # accumulates an inventory delta to the basis entry, so we can make
278
 
        # just the necessary updates to the workingtree's cached basis.
279
 
        self._basis_delta = []
280
314
 
281
315
        self.work_tree.lock_write()
 
316
        operation.add_cleanup(self.work_tree.unlock)
 
317
        self.parents = self.work_tree.get_parent_ids()
 
318
        # We can use record_iter_changes IFF iter_changes is compatible with
 
319
        # the command line parameters, and the repository has fast delta
 
320
        # generation. See bug 347649.
 
321
        self.use_record_iter_changes = (
 
322
            not self.exclude and 
 
323
            not self.branch.repository._format.supports_tree_reference and
 
324
            (self.branch.repository._format.fast_deltas or
 
325
             len(self.parents) < 2))
282
326
        self.pb = bzrlib.ui.ui_factory.nested_progress_bar()
 
327
        operation.add_cleanup(self.pb.finished)
283
328
        self.basis_revid = self.work_tree.last_revision()
284
329
        self.basis_tree = self.work_tree.basis_tree()
285
330
        self.basis_tree.lock_read()
 
331
        operation.add_cleanup(self.basis_tree.unlock)
 
332
        # Cannot commit with conflicts present.
 
333
        if len(self.work_tree.conflicts()) > 0:
 
334
            raise ConflictsInTree
 
335
 
 
336
        # Setup the bound branch variables as needed.
 
337
        self._check_bound_branch(operation, possible_master_transports)
 
338
 
 
339
        # Check that the working tree is up to date
 
340
        old_revno, new_revno = self._check_out_of_date_tree()
 
341
 
 
342
        # Complete configuration setup
 
343
        if reporter is not None:
 
344
            self.reporter = reporter
 
345
        elif self.reporter is None:
 
346
            self.reporter = self._select_reporter()
 
347
        if self.config is None:
 
348
            self.config = self.branch.get_config()
 
349
 
 
350
        self._set_specific_file_ids()
 
351
 
 
352
        # Setup the progress bar. As the number of files that need to be
 
353
        # committed in unknown, progress is reported as stages.
 
354
        # We keep track of entries separately though and include that
 
355
        # information in the progress bar during the relevant stages.
 
356
        self.pb_stage_name = ""
 
357
        self.pb_stage_count = 0
 
358
        self.pb_stage_total = 5
 
359
        if self.bound_branch:
 
360
            self.pb_stage_total += 1
 
361
        self.pb.show_pct = False
 
362
        self.pb.show_spinner = False
 
363
        self.pb.show_eta = False
 
364
        self.pb.show_count = True
 
365
        self.pb.show_bar = True
 
366
 
 
367
        self._gather_parents()
 
368
        # After a merge, a selected file commit is not supported.
 
369
        # See 'bzr help merge' for an explanation as to why.
 
370
        if len(self.parents) > 1 and self.specific_files is not None:
 
371
            raise errors.CannotCommitSelectedFileMerge(self.specific_files)
 
372
        # Excludes are a form of selected file commit.
 
373
        if len(self.parents) > 1 and self.exclude:
 
374
            raise errors.CannotCommitSelectedFileMerge(self.exclude)
 
375
 
 
376
        # Collect the changes
 
377
        self._set_progress_stage("Collecting changes", counter=True)
 
378
        self.builder = self.branch.get_commit_builder(self.parents,
 
379
            self.config, timestamp, timezone, committer, self.revprops, rev_id)
 
380
 
286
381
        try:
287
 
            # Cannot commit with conflicts present.
288
 
            if len(self.work_tree.conflicts()) > 0:
289
 
                raise ConflictsInTree
290
 
 
291
 
            # Setup the bound branch variables as needed.
292
 
            self._check_bound_branch()
293
 
 
294
 
            # Check that the working tree is up to date
295
 
            old_revno, new_revno = self._check_out_of_date_tree()
296
 
 
297
 
            # Complete configuration setup
298
 
            if reporter is not None:
299
 
                self.reporter = reporter
300
 
            elif self.reporter is None:
301
 
                self.reporter = self._select_reporter()
302
 
            if self.config is None:
303
 
                self.config = self.branch.get_config()
304
 
 
305
 
            # If provided, ensure the specified files are versioned
306
 
            if self.specific_files is not None:
307
 
                # Note: This routine is being called because it raises
308
 
                # PathNotVersionedError as a side effect of finding the IDs. We
309
 
                # later use the ids we found as input to the working tree
310
 
                # inventory iterator, so we only consider those ids rather than
311
 
                # examining the whole tree again.
312
 
                # XXX: Dont we have filter_unversioned to do this more
313
 
                # cheaply?
314
 
                self.specific_file_ids = tree.find_ids_across_trees(
315
 
                    specific_files, [self.basis_tree, self.work_tree])
316
 
 
317
 
            # Setup the progress bar. As the number of files that need to be
318
 
            # committed in unknown, progress is reported as stages.
319
 
            # We keep track of entries separately though and include that
320
 
            # information in the progress bar during the relevant stages.
321
 
            self.pb_stage_name = ""
322
 
            self.pb_stage_count = 0
323
 
            self.pb_stage_total = 5
324
 
            if self.bound_branch:
325
 
                self.pb_stage_total += 1
326
 
            self.pb.show_pct = False
327
 
            self.pb.show_spinner = False
328
 
            self.pb.show_eta = False
329
 
            self.pb.show_count = True
330
 
            self.pb.show_bar = True
331
 
 
332
 
            # After a merge, a selected file commit is not supported.
333
 
            # See 'bzr help merge' for an explanation as to why.
334
 
            self.basis_inv = self.basis_tree.inventory
335
 
            self._gather_parents()
336
 
            if len(self.parents) > 1 and self.specific_files:
337
 
                raise errors.CannotCommitSelectedFileMerge(self.specific_files)
338
 
 
339
 
            # Collect the changes
340
 
            self._set_progress_stage("Collecting changes",
341
 
                    entries_title="Directory")
342
 
            self.builder = self.branch.get_commit_builder(self.parents,
343
 
                self.config, timestamp, timezone, committer, revprops, rev_id)
344
 
            
345
 
            try:
346
 
                # find the location being committed to
347
 
                if self.bound_branch:
348
 
                    master_location = self.master_branch.base
349
 
                else:
350
 
                    master_location = self.branch.base
351
 
 
352
 
                # report the start of the commit
353
 
                self.reporter.started(new_revno, self.rev_id, master_location)
354
 
 
355
 
                self._update_builder_with_changes()
356
 
                self._report_and_accumulate_deletes()
357
 
                self._check_pointless()
358
 
 
359
 
                # TODO: Now the new inventory is known, check for conflicts.
360
 
                # ADHB 2006-08-08: If this is done, populate_new_inv should not add
361
 
                # weave lines, because nothing should be recorded until it is known
362
 
                # that commit will succeed.
363
 
                self._set_progress_stage("Saving data locally")
364
 
                self.builder.finish_inventory()
365
 
 
366
 
                # Prompt the user for a commit message if none provided
367
 
                message = message_callback(self)
368
 
                self.message = message
369
 
                self._escape_commit_message()
370
 
 
371
 
                # Add revision data to the local branch
372
 
                self.rev_id = self.builder.commit(self.message)
373
 
 
374
 
            except:
375
 
                self.builder.abort()
376
 
                raise
377
 
 
378
 
            self._process_pre_hooks(old_revno, new_revno)
379
 
 
380
 
            # Upload revision data to the master.
381
 
            # this will propagate merged revisions too if needed.
382
 
            if self.bound_branch:
383
 
                if not self.master_branch.repository.has_same_location(
384
 
                        self.branch.repository):
385
 
                    self._set_progress_stage("Uploading data to master branch")
386
 
                    self.master_branch.repository.fetch(self.branch.repository,
387
 
                        revision_id=self.rev_id)
388
 
                # now the master has the revision data
389
 
                # 'commit' to the master first so a timeout here causes the
390
 
                # local branch to be out of date
391
 
                self.master_branch.set_last_revision_info(new_revno,
392
 
                                                          self.rev_id)
393
 
 
394
 
            # and now do the commit locally.
395
 
            self.branch.set_last_revision_info(new_revno, self.rev_id)
396
 
 
397
 
            # Make the working tree up to date with the branch
398
 
            self._set_progress_stage("Updating the working tree")
399
 
            self.work_tree.update_basis_by_delta(self.rev_id,
400
 
                 self._basis_delta)
401
 
            self.reporter.completed(new_revno, self.rev_id)
402
 
            self._process_post_hooks(old_revno, new_revno)
403
 
        finally:
404
 
            self._cleanup()
 
382
            self.builder.will_record_deletes()
 
383
            # find the location being committed to
 
384
            if self.bound_branch:
 
385
                master_location = self.master_branch.base
 
386
            else:
 
387
                master_location = self.branch.base
 
388
 
 
389
            # report the start of the commit
 
390
            self.reporter.started(new_revno, self.rev_id, master_location)
 
391
 
 
392
            self._update_builder_with_changes()
 
393
            self._check_pointless()
 
394
 
 
395
            # TODO: Now the new inventory is known, check for conflicts.
 
396
            # ADHB 2006-08-08: If this is done, populate_new_inv should not add
 
397
            # weave lines, because nothing should be recorded until it is known
 
398
            # that commit will succeed.
 
399
            self._set_progress_stage("Saving data locally")
 
400
            self.builder.finish_inventory()
 
401
 
 
402
            # Prompt the user for a commit message if none provided
 
403
            message = message_callback(self)
 
404
            self.message = message
 
405
 
 
406
            # Add revision data to the local branch
 
407
            self.rev_id = self.builder.commit(self.message)
 
408
 
 
409
        except Exception, e:
 
410
            mutter("aborting commit write group because of exception:")
 
411
            trace.log_exception_quietly()
 
412
            note("aborting commit write group: %r" % (e,))
 
413
            self.builder.abort()
 
414
            raise
 
415
 
 
416
        self._process_pre_hooks(old_revno, new_revno)
 
417
 
 
418
        # Upload revision data to the master.
 
419
        # this will propagate merged revisions too if needed.
 
420
        if self.bound_branch:
 
421
            self._set_progress_stage("Uploading data to master branch")
 
422
            # 'commit' to the master first so a timeout here causes the
 
423
            # local branch to be out of date
 
424
            self.master_branch.import_last_revision_info(
 
425
                self.branch.repository, new_revno, self.rev_id)
 
426
 
 
427
        # and now do the commit locally.
 
428
        self.branch.set_last_revision_info(new_revno, self.rev_id)
 
429
 
 
430
        # Make the working tree be up to date with the branch. This
 
431
        # includes automatic changes scheduled to be made to the tree, such
 
432
        # as updating its basis and unversioning paths that were missing.
 
433
        self.work_tree.unversion(self.deleted_ids)
 
434
        self._set_progress_stage("Updating the working tree")
 
435
        self.work_tree.update_basis_by_delta(self.rev_id,
 
436
             self.builder.get_basis_delta())
 
437
        self.reporter.completed(new_revno, self.rev_id)
 
438
        self._process_post_hooks(old_revno, new_revno)
405
439
        return self.rev_id
406
440
 
407
441
    def _select_reporter(self):
416
450
        # A merge with no effect on files
417
451
        if len(self.parents) > 1:
418
452
            return
419
 
        # TODO: we could simplify this by using self._basis_delta.
 
453
        # TODO: we could simplify this by using self.builder.basis_delta.
420
454
 
421
455
        # The initial commit adds a root directory, but this in itself is not
422
456
        # a worthwhile commit.
423
457
        if (self.basis_revid == revision.NULL_REVISION and
424
 
            len(self.builder.new_inventory) == 1):
 
458
            ((self.builder.new_inventory is not None and
 
459
             len(self.builder.new_inventory) == 1) or
 
460
            len(self.builder._basis_delta) == 1)):
425
461
            raise PointlessCommit()
426
 
        # If length == 1, then we only have the root entry. Which means
427
 
        # that there is no real difference (only the root could be different)
428
 
        # unless deletes occured, in which case the length is irrelevant.
429
 
        if (self.any_entries_deleted or 
430
 
            (len(self.builder.new_inventory) != 1 and
431
 
             self.any_entries_changed)):
 
462
        if self.builder.any_changes():
432
463
            return
433
464
        raise PointlessCommit()
434
465
 
435
 
    def _check_bound_branch(self):
 
466
    def _check_bound_branch(self, operation, possible_master_transports=None):
436
467
        """Check to see if the local branch is bound.
437
468
 
438
469
        If it is bound, then most of the commit will actually be
443
474
            raise errors.LocalRequiresBoundBranch()
444
475
 
445
476
        if not self.local:
446
 
            self.master_branch = self.branch.get_master_branch()
 
477
            self.master_branch = self.branch.get_master_branch(
 
478
                possible_master_transports)
447
479
 
448
480
        if not self.master_branch:
449
481
            # make this branch the reference branch for out of date checks.
460
492
        #       commits to the remote branch if they would fit.
461
493
        #       But for now, just require remote to be identical
462
494
        #       to local.
463
 
        
 
495
 
464
496
        # Make sure the local branch is identical to the master
465
497
        master_info = self.master_branch.last_revision_info()
466
498
        local_info = self.branch.last_revision_info()
472
504
        # so grab the lock
473
505
        self.bound_branch = self.branch
474
506
        self.master_branch.lock_write()
475
 
        self.master_locked = True
 
507
        operation.add_cleanup(self.master_branch.unlock)
476
508
 
477
509
    def _check_out_of_date_tree(self):
478
510
        """Check that the working tree is up to date.
523
555
    def _process_hooks(self, hook_name, old_revno, new_revno):
524
556
        if not Branch.hooks[hook_name]:
525
557
            return
526
 
        
 
558
 
527
559
        # new style commit hooks:
528
560
        if not self.bound_branch:
529
561
            hook_master = self.branch
538
570
            old_revid = self.parents[0]
539
571
        else:
540
572
            old_revid = bzrlib.revision.NULL_REVISION
541
 
        
 
573
 
542
574
        if hook_name == "pre_commit":
543
575
            future_tree = self.builder.revision_tree()
544
576
            tree_delta = future_tree.changes_from(self.basis_tree,
545
577
                                             include_root=True)
546
 
        
 
578
 
547
579
        for hook in Branch.hooks[hook_name]:
548
580
            # show the running hook in the progress bar. As hooks may
549
581
            # end up doing nothing (e.g. because they are not configured by
563
595
                     old_revno, old_revid, new_revno, self.rev_id,
564
596
                     tree_delta, future_tree)
565
597
 
566
 
    def _cleanup(self):
567
 
        """Cleanup any open locks, progress bars etc."""
568
 
        cleanups = [self._cleanup_bound_branch,
569
 
                    self.basis_tree.unlock,
570
 
                    self.work_tree.unlock,
571
 
                    self.pb.finished]
572
 
        found_exception = None
573
 
        for cleanup in cleanups:
574
 
            try:
575
 
                cleanup()
576
 
            # we want every cleanup to run no matter what.
577
 
            # so we have a catchall here, but we will raise the
578
 
            # last encountered exception up the stack: and
579
 
            # typically this will be useful enough.
580
 
            except Exception, e:
581
 
                found_exception = e
582
 
        if found_exception is not None: 
583
 
            # don't do a plan raise, because the last exception may have been
584
 
            # trashed, e is our sure-to-work exception even though it loses the
585
 
            # full traceback. XXX: RBC 20060421 perhaps we could check the
586
 
            # exc_info and if its the same one do a plain raise otherwise 
587
 
            # 'raise e' as we do now.
588
 
            raise e
589
 
 
590
 
    def _cleanup_bound_branch(self):
591
 
        """Executed at the end of a try/finally to cleanup a bound branch.
592
 
 
593
 
        If the branch wasn't bound, this is a no-op.
594
 
        If it was, it resents self.branch to the local branch, instead
595
 
        of being the master.
596
 
        """
597
 
        if not self.bound_branch:
598
 
            return
599
 
        if self.master_locked:
600
 
            self.master_branch.unlock()
601
 
 
602
 
    def _escape_commit_message(self):
603
 
        """Replace xml-incompatible control characters."""
604
 
        # FIXME: RBC 20060419 this should be done by the revision
605
 
        # serialiser not by commit. Then we can also add an unescaper
606
 
        # in the deserializer and start roundtripping revision messages
607
 
        # precisely. See repository_implementations/test_repository.py
608
 
        
609
 
        # Python strings can include characters that can't be
610
 
        # represented in well-formed XML; escape characters that
611
 
        # aren't listed in the XML specification
612
 
        # (http://www.w3.org/TR/REC-xml/#NT-Char).
613
 
        self.message, escape_count = re.subn(
614
 
            u'[^\x09\x0A\x0D\u0020-\uD7FF\uE000-\uFFFD]+',
615
 
            lambda match: match.group(0).encode('unicode_escape'),
616
 
            self.message)
617
 
        if escape_count:
618
 
            self.reporter.escaped(escape_count, self.message)
619
 
 
620
598
    def _gather_parents(self):
621
599
        """Record the parents of a merge for merge detection."""
622
 
        # TODO: Make sure that this list doesn't contain duplicate 
 
600
        # TODO: Make sure that this list doesn't contain duplicate
623
601
        # entries and the order is preserved when doing this.
624
 
        self.parents = self.work_tree.get_parent_ids()
 
602
        if self.use_record_iter_changes:
 
603
            return
 
604
        self.basis_inv = self.basis_tree.inventory
625
605
        self.parent_invs = [self.basis_inv]
626
606
        for revision in self.parents[1:]:
627
607
            if self.branch.repository.has_revision(revision):
634
614
    def _update_builder_with_changes(self):
635
615
        """Update the commit builder with the data about what has changed.
636
616
        """
637
 
        # Build the revision inventory.
638
 
        #
639
 
        # This starts by creating a new empty inventory. Depending on
640
 
        # which files are selected for commit, and what is present in the
641
 
        # current tree, the new inventory is populated. inventory entries 
642
 
        # which are candidates for modification have their revision set to
643
 
        # None; inventory entries that are carried over untouched have their
644
 
        # revision set to their prior value.
645
 
        #
646
 
        # ESEPARATIONOFCONCERNS: this function is diffing and using the diff
647
 
        # results to create a new inventory at the same time, which results
648
 
        # in bugs like #46635.  Any reason not to use/enhance Tree.changes_from?
649
 
        # ADHB 11-07-2006
650
 
 
 
617
        exclude = self.exclude
651
618
        specific_files = self.specific_files
652
619
        mutter("Selecting files for commit with filter %s", specific_files)
653
620
 
654
 
        # Build the new inventory
655
 
        self._populate_from_inventory(specific_files)
656
 
 
 
621
        self._check_strict()
 
622
        if self.use_record_iter_changes:
 
623
            iter_changes = self.work_tree.iter_changes(self.basis_tree,
 
624
                specific_files=specific_files)
 
625
            iter_changes = self._filter_iter_changes(iter_changes)
 
626
            for file_id, path, fs_hash in self.builder.record_iter_changes(
 
627
                self.work_tree, self.basis_revid, iter_changes):
 
628
                self.work_tree._observed_sha1(file_id, path, fs_hash)
 
629
        else:
 
630
            # Build the new inventory
 
631
            self._populate_from_inventory()
 
632
            self._record_unselected()
 
633
            self._report_and_accumulate_deletes()
 
634
 
 
635
    def _filter_iter_changes(self, iter_changes):
 
636
        """Process iter_changes.
 
637
 
 
638
        This method reports on the changes in iter_changes to the user, and 
 
639
        converts 'missing' entries in the iter_changes iterator to 'deleted'
 
640
        entries. 'missing' entries have their
 
641
 
 
642
        :param iter_changes: An iter_changes to process.
 
643
        :return: A generator of changes.
 
644
        """
 
645
        reporter = self.reporter
 
646
        report_changes = reporter.is_verbose()
 
647
        deleted_ids = []
 
648
        for change in iter_changes:
 
649
            if report_changes:
 
650
                old_path = change[1][0]
 
651
                new_path = change[1][1]
 
652
                versioned = change[3][1]
 
653
            kind = change[6][1]
 
654
            versioned = change[3][1]
 
655
            if kind is None and versioned:
 
656
                # 'missing' path
 
657
                if report_changes:
 
658
                    reporter.missing(new_path)
 
659
                deleted_ids.append(change[0])
 
660
                # Reset the new path (None) and new versioned flag (False)
 
661
                change = (change[0], (change[1][0], None), change[2],
 
662
                    (change[3][0], False)) + change[4:]
 
663
            elif kind == 'tree-reference':
 
664
                if self.recursive == 'down':
 
665
                    self._commit_nested_tree(change[0], change[1][1])
 
666
            if change[3][0] or change[3][1]:
 
667
                yield change
 
668
                if report_changes:
 
669
                    if new_path is None:
 
670
                        reporter.deleted(old_path)
 
671
                    elif old_path is None:
 
672
                        reporter.snapshot_change('added', new_path)
 
673
                    elif old_path != new_path:
 
674
                        reporter.renamed('renamed', old_path, new_path)
 
675
                    else:
 
676
                        if (new_path or 
 
677
                            self.work_tree.branch.repository._format.rich_root_data):
 
678
                            # Don't report on changes to '' in non rich root
 
679
                            # repositories.
 
680
                            reporter.snapshot_change('modified', new_path)
 
681
            self._next_progress_entry()
 
682
        # Unversion IDs that were found to be deleted
 
683
        self.deleted_ids = deleted_ids
 
684
 
 
685
    def _record_unselected(self):
657
686
        # If specific files are selected, then all un-selected files must be
658
687
        # recorded in their previous state. For more details, see
659
688
        # https://lists.ubuntu.com/archives/bazaar/2007q3/028476.html.
660
 
        if specific_files:
 
689
        if self.specific_files or self.exclude:
 
690
            specific_files = self.specific_files or []
661
691
            for path, old_ie in self.basis_inv.iter_entries():
662
692
                if old_ie.file_id in self.builder.new_inventory:
663
693
                    # already added - skip.
664
694
                    continue
665
 
                if is_inside_any(specific_files, path):
666
 
                    # was inside the selected path, if not present it has been
667
 
                    # deleted so skip.
 
695
                if (is_inside_any(specific_files, path)
 
696
                    and not is_inside_any(self.exclude, path)):
 
697
                    # was inside the selected path, and not excluded - if not
 
698
                    # present it has been deleted so skip.
668
699
                    continue
669
 
                if old_ie.kind == 'directory':
670
 
                    self._next_progress_entry()
671
 
                # not in final inv yet, was not in the selected files, so is an
672
 
                # entry to be preserved unaltered.
 
700
                # From here down it was either not selected, or was excluded:
 
701
                # We preserve the entry unaltered.
673
702
                ie = old_ie.copy()
674
703
                # Note: specific file commits after a merge are currently
675
704
                # prohibited. This test is for sanity/safety in case it's
676
705
                # required after that changes.
677
706
                if len(self.parents) > 1:
678
707
                    ie.revision = None
679
 
                delta, version_recorded = self.builder.record_entry_contents(
680
 
                    ie, self.parent_invs, path, self.basis_tree, None)
681
 
                if version_recorded:
682
 
                    self.any_entries_changed = True
683
 
                if delta: self._basis_delta.append(delta)
 
708
                self.builder.record_entry_contents(ie, self.parent_invs, path,
 
709
                    self.basis_tree, None)
684
710
 
685
711
    def _report_and_accumulate_deletes(self):
686
 
        # XXX: Could the list of deleted paths and ids be instead taken from
687
 
        # _populate_from_inventory?
688
 
        deleted_ids = set(self.basis_inv._byid.keys()) - \
689
 
            set(self.builder.new_inventory._byid.keys())
 
712
        if (isinstance(self.basis_inv, Inventory)
 
713
            and isinstance(self.builder.new_inventory, Inventory)):
 
714
            # the older Inventory classes provide a _byid dict, and building a
 
715
            # set from the keys of this dict is substantially faster than even
 
716
            # getting a set of ids from the inventory
 
717
            #
 
718
            # <lifeless> set(dict) is roughly the same speed as
 
719
            # set(iter(dict)) and both are significantly slower than
 
720
            # set(dict.keys())
 
721
            deleted_ids = set(self.basis_inv._byid.keys()) - \
 
722
               set(self.builder.new_inventory._byid.keys())
 
723
        else:
 
724
            deleted_ids = set(self.basis_inv) - set(self.builder.new_inventory)
690
725
        if deleted_ids:
691
726
            self.any_entries_deleted = True
692
727
            deleted = [(self.basis_tree.id2path(file_id), file_id)
694
729
            deleted.sort()
695
730
            # XXX: this is not quite directory-order sorting
696
731
            for path, file_id in deleted:
697
 
                self._basis_delta.append((path, None, file_id, None))
 
732
                self.builder.record_delete(path, file_id)
698
733
                self.reporter.deleted(path)
699
734
 
700
 
    def _populate_from_inventory(self, specific_files):
701
 
        """Populate the CommitBuilder by walking the working tree inventory."""
 
735
    def _check_strict(self):
 
736
        # XXX: when we use iter_changes this would likely be faster if
 
737
        # iter_changes would check for us (even in the presence of
 
738
        # selected_files).
702
739
        if self.strict:
703
740
            # raise an exception as soon as we find a single unknown.
704
741
            for unknown in self.work_tree.unknowns():
705
742
                raise StrictCommitFailed()
706
 
               
 
743
 
 
744
    def _populate_from_inventory(self):
 
745
        """Populate the CommitBuilder by walking the working tree inventory."""
 
746
        # Build the revision inventory.
 
747
        #
 
748
        # This starts by creating a new empty inventory. Depending on
 
749
        # which files are selected for commit, and what is present in the
 
750
        # current tree, the new inventory is populated. inventory entries
 
751
        # which are candidates for modification have their revision set to
 
752
        # None; inventory entries that are carried over untouched have their
 
753
        # revision set to their prior value.
 
754
        #
 
755
        # ESEPARATIONOFCONCERNS: this function is diffing and using the diff
 
756
        # results to create a new inventory at the same time, which results
 
757
        # in bugs like #46635.  Any reason not to use/enhance Tree.changes_from?
 
758
        # ADHB 11-07-2006
 
759
 
 
760
        specific_files = self.specific_files
 
761
        exclude = self.exclude
707
762
        report_changes = self.reporter.is_verbose()
708
763
        deleted_ids = []
709
764
        # A tree of paths that have been deleted. E.g. if foo/bar has been
712
767
        # XXX: Note that entries may have the wrong kind because the entry does
713
768
        # not reflect the status on disk.
714
769
        work_inv = self.work_tree.inventory
 
770
        # NB: entries will include entries within the excluded ids/paths
 
771
        # because iter_entries_by_dir has no 'exclude' facility today.
715
772
        entries = work_inv.iter_entries_by_dir(
716
773
            specific_file_ids=self.specific_file_ids, yield_parents=True)
717
774
        for path, existing_ie in entries:
719
776
            name = existing_ie.name
720
777
            parent_id = existing_ie.parent_id
721
778
            kind = existing_ie.kind
722
 
            if kind == 'directory':
723
 
                self._next_progress_entry()
724
779
            # Skip files that have been deleted from the working tree.
725
780
            # The deleted path ids are also recorded so they can be explicitly
726
781
            # unversioned later.
739
794
                if deleted_dict is not None:
740
795
                    # the path has a deleted parent, do not add it.
741
796
                    continue
 
797
            if exclude and is_inside_any(exclude, path):
 
798
                # Skip excluded paths. Excluded paths are processed by
 
799
                # _update_builder_with_changes.
 
800
                continue
742
801
            content_summary = self.work_tree.path_content_summary(path)
 
802
            kind = content_summary[0]
743
803
            # Note that when a filter of specific files is given, we must only
744
804
            # skip/record deleted files matching that filter.
745
805
            if not specific_files or is_inside_any(specific_files, path):
746
 
                if content_summary[0] == 'missing':
 
806
                if kind == 'missing':
747
807
                    if not deleted_paths:
748
808
                        # path won't have been split yet.
749
809
                        path_segments = splitpath(path)
751
811
                    for segment in path_segments:
752
812
                        deleted_dict = deleted_dict.setdefault(segment, {})
753
813
                    self.reporter.missing(path)
 
814
                    self._next_progress_entry()
754
815
                    deleted_ids.append(file_id)
755
816
                    continue
756
817
            # TODO: have the builder do the nested commit just-in-time IF and
757
818
            # only if needed.
758
 
            if content_summary[0] == 'tree-reference':
 
819
            if kind == 'tree-reference':
759
820
                # enforce repository nested tree policy.
760
821
                if (not self.work_tree.supports_tree_reference() or
761
822
                    # repository does not support it either.
762
823
                    not self.branch.repository._format.supports_tree_reference):
763
 
                    content_summary = ('directory',) + content_summary[1:]
764
 
            kind = content_summary[0]
765
 
            # TODO: specific_files filtering before nested tree processing
766
 
            if kind == 'tree-reference':
767
 
                if self.recursive == 'down':
 
824
                    kind = 'directory'
 
825
                    content_summary = (kind, None, None, None)
 
826
                elif self.recursive == 'down':
768
827
                    nested_revision_id = self._commit_nested_tree(
769
828
                        file_id, path)
770
 
                    content_summary = content_summary[:3] + (
771
 
                        nested_revision_id,)
 
829
                    content_summary = (kind, None, None, nested_revision_id)
772
830
                else:
773
 
                    content_summary = content_summary[:3] + (
774
 
                        self.work_tree.get_reference_revision(file_id),)
 
831
                    nested_revision_id = self.work_tree.get_reference_revision(file_id)
 
832
                    content_summary = (kind, None, None, nested_revision_id)
775
833
 
776
834
            # Record an entry for this item
777
835
            # Note: I don't particularly want to have the existing_ie
783
841
                content_summary)
784
842
 
785
843
        # Unversion IDs that were found to be deleted
786
 
        self.work_tree.unversion(deleted_ids)
 
844
        self.deleted_ids = deleted_ids
787
845
 
788
846
    def _commit_nested_tree(self, file_id, path):
789
847
        "Commit a nested tree."
791
849
        # FIXME: be more comprehensive here:
792
850
        # this works when both trees are in --trees repository,
793
851
        # but when both are bound to a different repository,
794
 
        # it fails; a better way of approaching this is to 
 
852
        # it fails; a better way of approaching this is to
795
853
        # finally implement the explicit-caches approach design
796
854
        # a while back - RBC 20070306.
797
855
        if sub_tree.branch.repository.has_same_location(
821
879
        else:
822
880
            ie = existing_ie.copy()
823
881
            ie.revision = None
824
 
        delta, version_recorded = self.builder.record_entry_contents(ie,
825
 
            self.parent_invs, path, self.work_tree, content_summary)
826
 
        if delta:
827
 
            self._basis_delta.append(delta)
828
 
        if version_recorded:
829
 
            self.any_entries_changed = True
 
882
        # For carried over entries we don't care about the fs hash - the repo
 
883
        # isn't generating a sha, so we're not saving computation time.
 
884
        _, _, fs_hash = self.builder.record_entry_contents(
 
885
            ie, self.parent_invs, path, self.work_tree, content_summary)
830
886
        if report_changes:
831
887
            self._report_change(ie, path)
 
888
        if fs_hash:
 
889
            self.work_tree._observed_sha1(ie.file_id, path, fs_hash)
832
890
        return ie
833
891
 
834
892
    def _report_change(self, ie, path):
842
900
        else:
843
901
            basis_ie = None
844
902
        change = ie.describe_change(basis_ie, ie)
845
 
        if change in (InventoryEntry.RENAMED, 
 
903
        if change in (InventoryEntry.RENAMED,
846
904
            InventoryEntry.MODIFIED_AND_RENAMED):
847
905
            old_path = self.basis_inv.id2path(ie.file_id)
848
906
            self.reporter.renamed(change, old_path, path)
 
907
            self._next_progress_entry()
849
908
        else:
 
909
            if change == 'unchanged':
 
910
                return
850
911
            self.reporter.snapshot_change(change, path)
 
912
            self._next_progress_entry()
851
913
 
852
 
    def _set_progress_stage(self, name, entries_title=None):
 
914
    def _set_progress_stage(self, name, counter=False):
853
915
        """Set the progress stage and emit an update to the progress bar."""
854
916
        self.pb_stage_name = name
855
917
        self.pb_stage_count += 1
856
 
        self.pb_entries_title = entries_title
857
 
        if entries_title is not None:
 
918
        if counter:
858
919
            self.pb_entries_count = 0
859
 
            self.pb_entries_total = '?'
 
920
        else:
 
921
            self.pb_entries_count = None
860
922
        self._emit_progress()
861
923
 
862
924
    def _next_progress_entry(self):
865
927
        self._emit_progress()
866
928
 
867
929
    def _emit_progress(self):
868
 
        if self.pb_entries_title:
869
 
            if self.pb_entries_total == '?':
870
 
                text = "%s [%s %d] - Stage" % (self.pb_stage_name,
871
 
                    self.pb_entries_title, self.pb_entries_count)
872
 
            else:
873
 
                text = "%s [%s %d/%s] - Stage" % (self.pb_stage_name,
874
 
                    self.pb_entries_title, self.pb_entries_count,
875
 
                    str(self.pb_entries_total))
 
930
        if self.pb_entries_count is not None:
 
931
            text = "%s [%d] - Stage" % (self.pb_stage_name,
 
932
                self.pb_entries_count)
876
933
        else:
877
 
            text = "%s - Stage" % (self.pb_stage_name)
 
934
            text = "%s - Stage" % (self.pb_stage_name, )
878
935
        self.pb.update(text, self.pb_stage_count, self.pb_stage_total)
879
936
 
 
937
    def _set_specific_file_ids(self):
 
938
        """populate self.specific_file_ids if we will use it."""
 
939
        if not self.use_record_iter_changes:
 
940
            # If provided, ensure the specified files are versioned
 
941
            if self.specific_files is not None:
 
942
                # Note: This routine is being called because it raises
 
943
                # PathNotVersionedError as a side effect of finding the IDs. We
 
944
                # later use the ids we found as input to the working tree
 
945
                # inventory iterator, so we only consider those ids rather than
 
946
                # examining the whole tree again.
 
947
                # XXX: Dont we have filter_unversioned to do this more
 
948
                # cheaply?
 
949
                self.specific_file_ids = tree.find_ids_across_trees(
 
950
                    self.specific_files, [self.basis_tree, self.work_tree])
 
951
            else:
 
952
                self.specific_file_ids = None