~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/commit.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2008-04-07 07:52:50 UTC
  • mfrom: (3340.1.1 208418-1.4)
  • Revision ID: pqm@pqm.ubuntu.com-20080407075250-phs53xnslo8boaeo
Return the correct knit serialisation method in _StreamAccess.
        (Andrew Bennetts, Martin Pool, Robert Collins)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006, 2007, 2008 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
 
18
18
# The newly committed revision is going to have a shape corresponding
60
60
    debug,
61
61
    errors,
62
62
    revision,
63
 
    trace,
64
63
    tree,
65
 
    xml_serializer,
66
64
    )
67
65
from bzrlib.branch import Branch
68
 
from bzrlib.cleanup import OperationWithCleanups
69
66
import bzrlib.config
70
67
from bzrlib.errors import (BzrError, PointlessCommit,
71
68
                           ConflictsInTree,
72
69
                           StrictCommitFailed
73
70
                           )
74
 
from bzrlib.osutils import (get_user_encoding,
75
 
                            kind_marker, isdir,isfile, is_inside_any,
 
71
from bzrlib.osutils import (kind_marker, isdir,isfile, is_inside_any,
76
72
                            is_inside_or_parent_of_any,
77
73
                            minimum_path_selection,
78
74
                            quotefn, sha_file, split_lines,
80
76
                            )
81
77
from bzrlib.testament import Testament
82
78
from bzrlib.trace import mutter, note, warning, is_quiet
83
 
from bzrlib.inventory import Inventory, InventoryEntry, make_entry
 
79
from bzrlib.xml5 import serializer_v5
 
80
from bzrlib.inventory import InventoryEntry, make_entry
84
81
from bzrlib import symbol_versioning
85
82
from bzrlib.symbol_versioning import (deprecated_passed,
86
83
        deprecated_function,
106
103
    def completed(self, revno, rev_id):
107
104
        pass
108
105
 
109
 
    def deleted(self, path):
 
106
    def deleted(self, file_id):
 
107
        pass
 
108
 
 
109
    def escaped(self, escape_count, message):
110
110
        pass
111
111
 
112
112
    def missing(self, path):
129
129
        note(format, *args)
130
130
 
131
131
    def snapshot_change(self, change, path):
132
 
        if path == '' and change in ('added', 'modified'):
 
132
        if change == 'unchanged':
 
133
            return
 
134
        if change == 'added' and path == '':
133
135
            return
134
136
        self._note("%s %s", change, path)
135
137
 
148
150
    def completed(self, revno, rev_id):
149
151
        self._note('Committed revision %d.', revno)
150
152
 
151
 
    def deleted(self, path):
152
 
        self._note('deleted %s', path)
 
153
    def deleted(self, file_id):
 
154
        self._note('deleted %s', file_id)
 
155
 
 
156
    def escaped(self, escape_count, message):
 
157
        self._note("replaced %d control characters in message", escape_count)
153
158
 
154
159
    def missing(self, path):
155
160
        self._note('missing %s', path)
199
204
               reporter=None,
200
205
               config=None,
201
206
               message_callback=None,
202
 
               recursive='down',
203
 
               exclude=None,
204
 
               possible_master_transports=None):
 
207
               recursive='down'):
205
208
        """Commit working copy as a new revision.
206
209
 
207
210
        :param message: the commit message (it or message_callback is required)
208
 
        :param message_callback: A callback: message = message_callback(cmt_obj)
209
211
 
210
212
        :param timestamp: if not None, seconds-since-epoch for a
211
213
            postdated/predated commit.
212
214
 
213
 
        :param specific_files: If not None, commit only those files. An empty
214
 
            list means 'commit no files'.
 
215
        :param specific_files: If true, commit only those files.
215
216
 
216
217
        :param rev_id: If set, use this as the new revision id.
217
218
            Useful for test or import commands that need to tightly
231
232
        :param verbose: if True and the reporter is not None, report everything
232
233
        :param recursive: If set to 'down', commit in any subtrees that have
233
234
            pending changes of any sort during this commit.
234
 
        :param exclude: None or a list of relative paths to exclude from the
235
 
            commit. Pending changes to excluded files will be ignored by the
236
 
            commit.
237
235
        """
238
 
        operation = OperationWithCleanups(self._commit)
239
 
        return operation.run(
240
 
               message=message,
241
 
               timestamp=timestamp,
242
 
               timezone=timezone,
243
 
               committer=committer,
244
 
               specific_files=specific_files,
245
 
               rev_id=rev_id,
246
 
               allow_pointless=allow_pointless,
247
 
               strict=strict,
248
 
               verbose=verbose,
249
 
               revprops=revprops,
250
 
               working_tree=working_tree,
251
 
               local=local,
252
 
               reporter=reporter,
253
 
               config=config,
254
 
               message_callback=message_callback,
255
 
               recursive=recursive,
256
 
               exclude=exclude,
257
 
               possible_master_transports=possible_master_transports)
258
 
 
259
 
    def _commit(self, operation, message, timestamp, timezone, committer,
260
 
            specific_files, rev_id, allow_pointless, strict, verbose, revprops,
261
 
            working_tree, local, reporter, config, message_callback, recursive,
262
 
            exclude, possible_master_transports):
263
236
        mutter('preparing to commit')
264
237
 
265
238
        if working_tree is None:
273
246
        if message_callback is None:
274
247
            if message is not None:
275
248
                if isinstance(message, str):
276
 
                    message = message.decode(get_user_encoding())
 
249
                    message = message.decode(bzrlib.user_encoding)
277
250
                message_callback = lambda x: message
278
251
            else:
279
252
                raise BzrError("The message or message_callback keyword"
280
253
                               " parameter is required for commit().")
281
254
 
282
255
        self.bound_branch = None
 
256
        self.any_entries_changed = False
283
257
        self.any_entries_deleted = False
284
 
        if exclude is not None:
285
 
            self.exclude = sorted(
286
 
                minimum_path_selection(exclude))
287
 
        else:
288
 
            self.exclude = []
289
258
        self.local = local
290
259
        self.master_branch = None
 
260
        self.master_locked = False
291
261
        self.recursive = recursive
292
262
        self.rev_id = None
293
 
        # self.specific_files is None to indicate no filter, or any iterable to
294
 
        # indicate a filter - [] means no files at all, as per iter_changes.
295
263
        if specific_files is not None:
296
264
            self.specific_files = sorted(
297
265
                minimum_path_selection(specific_files))
298
266
        else:
299
267
            self.specific_files = None
300
 
            
 
268
        self.specific_file_ids = None
301
269
        self.allow_pointless = allow_pointless
302
270
        self.revprops = revprops
303
271
        self.message_callback = message_callback
306
274
        self.committer = committer
307
275
        self.strict = strict
308
276
        self.verbose = verbose
 
277
        # accumulates an inventory delta to the basis entry, so we can make
 
278
        # just the necessary updates to the workingtree's cached basis.
 
279
        self._basis_delta = []
309
280
 
310
281
        self.work_tree.lock_write()
311
 
        operation.add_cleanup(self.work_tree.unlock)
312
 
        self.parents = self.work_tree.get_parent_ids()
313
 
        # We can use record_iter_changes IFF iter_changes is compatible with
314
 
        # the command line parameters, and the repository has fast delta
315
 
        # generation. See bug 347649.
316
 
        self.use_record_iter_changes = (
317
 
            not self.exclude and 
318
 
            not self.branch.repository._format.supports_tree_reference and
319
 
            (self.branch.repository._format.fast_deltas or
320
 
             len(self.parents) < 2))
321
282
        self.pb = bzrlib.ui.ui_factory.nested_progress_bar()
322
 
        operation.add_cleanup(self.pb.finished)
323
283
        self.basis_revid = self.work_tree.last_revision()
324
284
        self.basis_tree = self.work_tree.basis_tree()
325
285
        self.basis_tree.lock_read()
326
 
        operation.add_cleanup(self.basis_tree.unlock)
327
 
        # Cannot commit with conflicts present.
328
 
        if len(self.work_tree.conflicts()) > 0:
329
 
            raise ConflictsInTree
330
 
 
331
 
        # Setup the bound branch variables as needed.
332
 
        self._check_bound_branch(operation, possible_master_transports)
333
 
 
334
 
        # Check that the working tree is up to date
335
 
        old_revno, new_revno = self._check_out_of_date_tree()
336
 
 
337
 
        # Complete configuration setup
338
 
        if reporter is not None:
339
 
            self.reporter = reporter
340
 
        elif self.reporter is None:
341
 
            self.reporter = self._select_reporter()
342
 
        if self.config is None:
343
 
            self.config = self.branch.get_config()
344
 
 
345
 
        self._set_specific_file_ids()
346
 
 
347
 
        # Setup the progress bar. As the number of files that need to be
348
 
        # committed in unknown, progress is reported as stages.
349
 
        # We keep track of entries separately though and include that
350
 
        # information in the progress bar during the relevant stages.
351
 
        self.pb_stage_name = ""
352
 
        self.pb_stage_count = 0
353
 
        self.pb_stage_total = 5
354
 
        if self.bound_branch:
355
 
            self.pb_stage_total += 1
356
 
        self.pb.show_pct = False
357
 
        self.pb.show_spinner = False
358
 
        self.pb.show_eta = False
359
 
        self.pb.show_count = True
360
 
        self.pb.show_bar = True
361
 
 
362
 
        self._gather_parents()
363
 
        # After a merge, a selected file commit is not supported.
364
 
        # See 'bzr help merge' for an explanation as to why.
365
 
        if len(self.parents) > 1 and self.specific_files is not None:
366
 
            raise errors.CannotCommitSelectedFileMerge(self.specific_files)
367
 
        # Excludes are a form of selected file commit.
368
 
        if len(self.parents) > 1 and self.exclude:
369
 
            raise errors.CannotCommitSelectedFileMerge(self.exclude)
370
 
 
371
 
        # Collect the changes
372
 
        self._set_progress_stage("Collecting changes", counter=True)
373
 
        self.builder = self.branch.get_commit_builder(self.parents,
374
 
            self.config, timestamp, timezone, committer, revprops, rev_id)
375
 
 
376
286
        try:
377
 
            self.builder.will_record_deletes()
378
 
            # find the location being committed to
379
 
            if self.bound_branch:
380
 
                master_location = self.master_branch.base
381
 
            else:
382
 
                master_location = self.branch.base
383
 
 
384
 
            # report the start of the commit
385
 
            self.reporter.started(new_revno, self.rev_id, master_location)
386
 
 
387
 
            self._update_builder_with_changes()
388
 
            self._check_pointless()
389
 
 
390
 
            # TODO: Now the new inventory is known, check for conflicts.
391
 
            # ADHB 2006-08-08: If this is done, populate_new_inv should not add
392
 
            # weave lines, because nothing should be recorded until it is known
393
 
            # that commit will succeed.
394
 
            self._set_progress_stage("Saving data locally")
395
 
            self.builder.finish_inventory()
396
 
 
397
 
            # Prompt the user for a commit message if none provided
398
 
            message = message_callback(self)
399
 
            self.message = message
400
 
 
401
 
            # Add revision data to the local branch
402
 
            self.rev_id = self.builder.commit(self.message)
403
 
 
404
 
        except Exception, e:
405
 
            mutter("aborting commit write group because of exception:")
406
 
            trace.log_exception_quietly()
407
 
            note("aborting commit write group: %r" % (e,))
408
 
            self.builder.abort()
409
 
            raise
410
 
 
411
 
        self._process_pre_hooks(old_revno, new_revno)
412
 
 
413
 
        # Upload revision data to the master.
414
 
        # this will propagate merged revisions too if needed.
415
 
        if self.bound_branch:
416
 
            self._set_progress_stage("Uploading data to master branch")
417
 
            # 'commit' to the master first so a timeout here causes the
418
 
            # local branch to be out of date
419
 
            self.master_branch.import_last_revision_info(
420
 
                self.branch.repository, new_revno, self.rev_id)
421
 
 
422
 
        # and now do the commit locally.
423
 
        self.branch.set_last_revision_info(new_revno, self.rev_id)
424
 
 
425
 
        # Make the working tree be up to date with the branch. This
426
 
        # includes automatic changes scheduled to be made to the tree, such
427
 
        # as updating its basis and unversioning paths that were missing.
428
 
        self.work_tree.unversion(self.deleted_ids)
429
 
        self._set_progress_stage("Updating the working tree")
430
 
        self.work_tree.update_basis_by_delta(self.rev_id,
431
 
             self.builder.get_basis_delta())
432
 
        self.reporter.completed(new_revno, self.rev_id)
433
 
        self._process_post_hooks(old_revno, new_revno)
 
287
            # Cannot commit with conflicts present.
 
288
            if len(self.work_tree.conflicts()) > 0:
 
289
                raise ConflictsInTree
 
290
 
 
291
            # Setup the bound branch variables as needed.
 
292
            self._check_bound_branch()
 
293
 
 
294
            # Check that the working tree is up to date
 
295
            old_revno, new_revno = self._check_out_of_date_tree()
 
296
 
 
297
            # Complete configuration setup
 
298
            if reporter is not None:
 
299
                self.reporter = reporter
 
300
            elif self.reporter is None:
 
301
                self.reporter = self._select_reporter()
 
302
            if self.config is None:
 
303
                self.config = self.branch.get_config()
 
304
 
 
305
            # If provided, ensure the specified files are versioned
 
306
            if self.specific_files is not None:
 
307
                # Note: This routine is being called because it raises
 
308
                # PathNotVersionedError as a side effect of finding the IDs. We
 
309
                # later use the ids we found as input to the working tree
 
310
                # inventory iterator, so we only consider those ids rather than
 
311
                # examining the whole tree again.
 
312
                # XXX: Dont we have filter_unversioned to do this more
 
313
                # cheaply?
 
314
                self.specific_file_ids = tree.find_ids_across_trees(
 
315
                    specific_files, [self.basis_tree, self.work_tree])
 
316
 
 
317
            # Setup the progress bar. As the number of files that need to be
 
318
            # committed in unknown, progress is reported as stages.
 
319
            # We keep track of entries separately though and include that
 
320
            # information in the progress bar during the relevant stages.
 
321
            self.pb_stage_name = ""
 
322
            self.pb_stage_count = 0
 
323
            self.pb_stage_total = 5
 
324
            if self.bound_branch:
 
325
                self.pb_stage_total += 1
 
326
            self.pb.show_pct = False
 
327
            self.pb.show_spinner = False
 
328
            self.pb.show_eta = False
 
329
            self.pb.show_count = True
 
330
            self.pb.show_bar = True
 
331
 
 
332
            # After a merge, a selected file commit is not supported.
 
333
            # See 'bzr help merge' for an explanation as to why.
 
334
            self.basis_inv = self.basis_tree.inventory
 
335
            self._gather_parents()
 
336
            if len(self.parents) > 1 and self.specific_files:
 
337
                raise errors.CannotCommitSelectedFileMerge(self.specific_files)
 
338
 
 
339
            # Collect the changes
 
340
            self._set_progress_stage("Collecting changes",
 
341
                    entries_title="Directory")
 
342
            self.builder = self.branch.get_commit_builder(self.parents,
 
343
                self.config, timestamp, timezone, committer, revprops, rev_id)
 
344
            
 
345
            try:
 
346
                # find the location being committed to
 
347
                if self.bound_branch:
 
348
                    master_location = self.master_branch.base
 
349
                else:
 
350
                    master_location = self.branch.base
 
351
 
 
352
                # report the start of the commit
 
353
                self.reporter.started(new_revno, self.rev_id, master_location)
 
354
 
 
355
                self._update_builder_with_changes()
 
356
                self._report_and_accumulate_deletes()
 
357
                self._check_pointless()
 
358
 
 
359
                # TODO: Now the new inventory is known, check for conflicts.
 
360
                # ADHB 2006-08-08: If this is done, populate_new_inv should not add
 
361
                # weave lines, because nothing should be recorded until it is known
 
362
                # that commit will succeed.
 
363
                self._set_progress_stage("Saving data locally")
 
364
                self.builder.finish_inventory()
 
365
 
 
366
                # Prompt the user for a commit message if none provided
 
367
                message = message_callback(self)
 
368
                assert isinstance(message, unicode), type(message)
 
369
                self.message = message
 
370
                self._escape_commit_message()
 
371
 
 
372
                # Add revision data to the local branch
 
373
                self.rev_id = self.builder.commit(self.message)
 
374
 
 
375
            except:
 
376
                self.builder.abort()
 
377
                raise
 
378
 
 
379
            self._process_pre_hooks(old_revno, new_revno)
 
380
 
 
381
            # Upload revision data to the master.
 
382
            # this will propagate merged revisions too if needed.
 
383
            if self.bound_branch:
 
384
                if not self.master_branch.repository.has_same_location(
 
385
                        self.branch.repository):
 
386
                    self._set_progress_stage("Uploading data to master branch")
 
387
                    self.master_branch.repository.fetch(self.branch.repository,
 
388
                        revision_id=self.rev_id)
 
389
                # now the master has the revision data
 
390
                # 'commit' to the master first so a timeout here causes the
 
391
                # local branch to be out of date
 
392
                self.master_branch.set_last_revision_info(new_revno,
 
393
                                                          self.rev_id)
 
394
 
 
395
            # and now do the commit locally.
 
396
            self.branch.set_last_revision_info(new_revno, self.rev_id)
 
397
 
 
398
            # Make the working tree up to date with the branch
 
399
            self._set_progress_stage("Updating the working tree")
 
400
            self.work_tree.update_basis_by_delta(self.rev_id,
 
401
                 self._basis_delta)
 
402
            self.reporter.completed(new_revno, self.rev_id)
 
403
            self._process_post_hooks(old_revno, new_revno)
 
404
        finally:
 
405
            self._cleanup()
434
406
        return self.rev_id
435
407
 
436
408
    def _select_reporter(self):
445
417
        # A merge with no effect on files
446
418
        if len(self.parents) > 1:
447
419
            return
448
 
        # TODO: we could simplify this by using self.builder.basis_delta.
 
420
        # TODO: we could simplify this by using self._basis_delta.
449
421
 
450
422
        # The initial commit adds a root directory, but this in itself is not
451
423
        # a worthwhile commit.
452
424
        if (self.basis_revid == revision.NULL_REVISION and
453
 
            ((self.builder.new_inventory is not None and
454
 
             len(self.builder.new_inventory) == 1) or
455
 
            len(self.builder._basis_delta) == 1)):
 
425
            len(self.builder.new_inventory) == 1):
456
426
            raise PointlessCommit()
457
 
        if self.builder.any_changes():
 
427
        # If length == 1, then we only have the root entry. Which means
 
428
        # that there is no real difference (only the root could be different)
 
429
        # unless deletes occured, in which case the length is irrelevant.
 
430
        if (self.any_entries_deleted or 
 
431
            (len(self.builder.new_inventory) != 1 and
 
432
             self.any_entries_changed)):
458
433
            return
459
434
        raise PointlessCommit()
460
435
 
461
 
    def _check_bound_branch(self, operation, possible_master_transports=None):
 
436
    def _check_bound_branch(self):
462
437
        """Check to see if the local branch is bound.
463
438
 
464
439
        If it is bound, then most of the commit will actually be
469
444
            raise errors.LocalRequiresBoundBranch()
470
445
 
471
446
        if not self.local:
472
 
            self.master_branch = self.branch.get_master_branch(
473
 
                possible_master_transports)
 
447
            self.master_branch = self.branch.get_master_branch()
474
448
 
475
449
        if not self.master_branch:
476
450
            # make this branch the reference branch for out of date checks.
487
461
        #       commits to the remote branch if they would fit.
488
462
        #       But for now, just require remote to be identical
489
463
        #       to local.
490
 
 
 
464
        
491
465
        # Make sure the local branch is identical to the master
492
466
        master_info = self.master_branch.last_revision_info()
493
467
        local_info = self.branch.last_revision_info()
499
473
        # so grab the lock
500
474
        self.bound_branch = self.branch
501
475
        self.master_branch.lock_write()
502
 
        operation.add_cleanup(self.master_branch.unlock)
 
476
        self.master_locked = True
503
477
 
504
478
    def _check_out_of_date_tree(self):
505
479
        """Check that the working tree is up to date.
550
524
    def _process_hooks(self, hook_name, old_revno, new_revno):
551
525
        if not Branch.hooks[hook_name]:
552
526
            return
553
 
 
 
527
        
554
528
        # new style commit hooks:
555
529
        if not self.bound_branch:
556
530
            hook_master = self.branch
565
539
            old_revid = self.parents[0]
566
540
        else:
567
541
            old_revid = bzrlib.revision.NULL_REVISION
568
 
 
 
542
        
569
543
        if hook_name == "pre_commit":
570
544
            future_tree = self.builder.revision_tree()
571
545
            tree_delta = future_tree.changes_from(self.basis_tree,
572
546
                                             include_root=True)
573
 
 
 
547
        
574
548
        for hook in Branch.hooks[hook_name]:
575
549
            # show the running hook in the progress bar. As hooks may
576
550
            # end up doing nothing (e.g. because they are not configured by
590
564
                     old_revno, old_revid, new_revno, self.rev_id,
591
565
                     tree_delta, future_tree)
592
566
 
 
567
    def _cleanup(self):
 
568
        """Cleanup any open locks, progress bars etc."""
 
569
        cleanups = [self._cleanup_bound_branch,
 
570
                    self.basis_tree.unlock,
 
571
                    self.work_tree.unlock,
 
572
                    self.pb.finished]
 
573
        found_exception = None
 
574
        for cleanup in cleanups:
 
575
            try:
 
576
                cleanup()
 
577
            # we want every cleanup to run no matter what.
 
578
            # so we have a catchall here, but we will raise the
 
579
            # last encountered exception up the stack: and
 
580
            # typically this will be useful enough.
 
581
            except Exception, e:
 
582
                found_exception = e
 
583
        if found_exception is not None: 
 
584
            # don't do a plan raise, because the last exception may have been
 
585
            # trashed, e is our sure-to-work exception even though it loses the
 
586
            # full traceback. XXX: RBC 20060421 perhaps we could check the
 
587
            # exc_info and if its the same one do a plain raise otherwise 
 
588
            # 'raise e' as we do now.
 
589
            raise e
 
590
 
 
591
    def _cleanup_bound_branch(self):
 
592
        """Executed at the end of a try/finally to cleanup a bound branch.
 
593
 
 
594
        If the branch wasn't bound, this is a no-op.
 
595
        If it was, it resents self.branch to the local branch, instead
 
596
        of being the master.
 
597
        """
 
598
        if not self.bound_branch:
 
599
            return
 
600
        if self.master_locked:
 
601
            self.master_branch.unlock()
 
602
 
 
603
    def _escape_commit_message(self):
 
604
        """Replace xml-incompatible control characters."""
 
605
        # FIXME: RBC 20060419 this should be done by the revision
 
606
        # serialiser not by commit. Then we can also add an unescaper
 
607
        # in the deserializer and start roundtripping revision messages
 
608
        # precisely. See repository_implementations/test_repository.py
 
609
        
 
610
        # Python strings can include characters that can't be
 
611
        # represented in well-formed XML; escape characters that
 
612
        # aren't listed in the XML specification
 
613
        # (http://www.w3.org/TR/REC-xml/#NT-Char).
 
614
        self.message, escape_count = re.subn(
 
615
            u'[^\x09\x0A\x0D\u0020-\uD7FF\uE000-\uFFFD]+',
 
616
            lambda match: match.group(0).encode('unicode_escape'),
 
617
            self.message)
 
618
        if escape_count:
 
619
            self.reporter.escaped(escape_count, self.message)
 
620
 
593
621
    def _gather_parents(self):
594
622
        """Record the parents of a merge for merge detection."""
595
 
        # TODO: Make sure that this list doesn't contain duplicate
 
623
        # TODO: Make sure that this list doesn't contain duplicate 
596
624
        # entries and the order is preserved when doing this.
597
 
        if self.use_record_iter_changes:
598
 
            return
599
 
        self.basis_inv = self.basis_tree.inventory
 
625
        self.parents = self.work_tree.get_parent_ids()
600
626
        self.parent_invs = [self.basis_inv]
601
627
        for revision in self.parents[1:]:
602
628
            if self.branch.repository.has_revision(revision):
609
635
    def _update_builder_with_changes(self):
610
636
        """Update the commit builder with the data about what has changed.
611
637
        """
612
 
        exclude = self.exclude
 
638
        # Build the revision inventory.
 
639
        #
 
640
        # This starts by creating a new empty inventory. Depending on
 
641
        # which files are selected for commit, and what is present in the
 
642
        # current tree, the new inventory is populated. inventory entries 
 
643
        # which are candidates for modification have their revision set to
 
644
        # None; inventory entries that are carried over untouched have their
 
645
        # revision set to their prior value.
 
646
        #
 
647
        # ESEPARATIONOFCONCERNS: this function is diffing and using the diff
 
648
        # results to create a new inventory at the same time, which results
 
649
        # in bugs like #46635.  Any reason not to use/enhance Tree.changes_from?
 
650
        # ADHB 11-07-2006
 
651
 
613
652
        specific_files = self.specific_files
614
653
        mutter("Selecting files for commit with filter %s", specific_files)
615
654
 
616
 
        self._check_strict()
617
 
        if self.use_record_iter_changes:
618
 
            iter_changes = self.work_tree.iter_changes(self.basis_tree,
619
 
                specific_files=specific_files)
620
 
            iter_changes = self._filter_iter_changes(iter_changes)
621
 
            for file_id, path, fs_hash in self.builder.record_iter_changes(
622
 
                self.work_tree, self.basis_revid, iter_changes):
623
 
                self.work_tree._observed_sha1(file_id, path, fs_hash)
624
 
        else:
625
 
            # Build the new inventory
626
 
            self._populate_from_inventory()
627
 
            self._record_unselected()
628
 
            self._report_and_accumulate_deletes()
629
 
 
630
 
    def _filter_iter_changes(self, iter_changes):
631
 
        """Process iter_changes.
632
 
 
633
 
        This method reports on the changes in iter_changes to the user, and 
634
 
        converts 'missing' entries in the iter_changes iterator to 'deleted'
635
 
        entries. 'missing' entries have their
636
 
 
637
 
        :param iter_changes: An iter_changes to process.
638
 
        :return: A generator of changes.
639
 
        """
640
 
        reporter = self.reporter
641
 
        report_changes = reporter.is_verbose()
642
 
        deleted_ids = []
643
 
        for change in iter_changes:
644
 
            if report_changes:
645
 
                old_path = change[1][0]
646
 
                new_path = change[1][1]
647
 
                versioned = change[3][1]
648
 
            kind = change[6][1]
649
 
            versioned = change[3][1]
650
 
            if kind is None and versioned:
651
 
                # 'missing' path
652
 
                if report_changes:
653
 
                    reporter.missing(new_path)
654
 
                deleted_ids.append(change[0])
655
 
                # Reset the new path (None) and new versioned flag (False)
656
 
                change = (change[0], (change[1][0], None), change[2],
657
 
                    (change[3][0], False)) + change[4:]
658
 
            elif kind == 'tree-reference':
659
 
                if self.recursive == 'down':
660
 
                    self._commit_nested_tree(change[0], change[1][1])
661
 
            if change[3][0] or change[3][1]:
662
 
                yield change
663
 
                if report_changes:
664
 
                    if new_path is None:
665
 
                        reporter.deleted(old_path)
666
 
                    elif old_path is None:
667
 
                        reporter.snapshot_change('added', new_path)
668
 
                    elif old_path != new_path:
669
 
                        reporter.renamed('renamed', old_path, new_path)
670
 
                    else:
671
 
                        if (new_path or 
672
 
                            self.work_tree.branch.repository._format.rich_root_data):
673
 
                            # Don't report on changes to '' in non rich root
674
 
                            # repositories.
675
 
                            reporter.snapshot_change('modified', new_path)
676
 
            self._next_progress_entry()
677
 
        # Unversion IDs that were found to be deleted
678
 
        self.deleted_ids = deleted_ids
679
 
 
680
 
    def _record_unselected(self):
 
655
        # Build the new inventory
 
656
        self._populate_from_inventory(specific_files)
 
657
 
681
658
        # If specific files are selected, then all un-selected files must be
682
659
        # recorded in their previous state. For more details, see
683
660
        # https://lists.ubuntu.com/archives/bazaar/2007q3/028476.html.
684
 
        if self.specific_files or self.exclude:
685
 
            specific_files = self.specific_files or []
 
661
        if specific_files:
686
662
            for path, old_ie in self.basis_inv.iter_entries():
687
663
                if old_ie.file_id in self.builder.new_inventory:
688
664
                    # already added - skip.
689
665
                    continue
690
 
                if (is_inside_any(specific_files, path)
691
 
                    and not is_inside_any(self.exclude, path)):
692
 
                    # was inside the selected path, and not excluded - if not
693
 
                    # present it has been deleted so skip.
 
666
                if is_inside_any(specific_files, path):
 
667
                    # was inside the selected path, if not present it has been
 
668
                    # deleted so skip.
694
669
                    continue
695
 
                # From here down it was either not selected, or was excluded:
696
 
                # We preserve the entry unaltered.
 
670
                if old_ie.kind == 'directory':
 
671
                    self._next_progress_entry()
 
672
                # not in final inv yet, was not in the selected files, so is an
 
673
                # entry to be preserved unaltered.
697
674
                ie = old_ie.copy()
698
675
                # Note: specific file commits after a merge are currently
699
676
                # prohibited. This test is for sanity/safety in case it's
700
677
                # required after that changes.
701
678
                if len(self.parents) > 1:
702
679
                    ie.revision = None
703
 
                self.builder.record_entry_contents(ie, self.parent_invs, path,
704
 
                    self.basis_tree, None)
 
680
                delta, version_recorded = self.builder.record_entry_contents(
 
681
                    ie, self.parent_invs, path, self.basis_tree, None)
 
682
                if version_recorded:
 
683
                    self.any_entries_changed = True
 
684
                if delta: self._basis_delta.append(delta)
705
685
 
706
686
    def _report_and_accumulate_deletes(self):
707
 
        if (isinstance(self.basis_inv, Inventory)
708
 
            and isinstance(self.builder.new_inventory, Inventory)):
709
 
            # the older Inventory classes provide a _byid dict, and building a
710
 
            # set from the keys of this dict is substantially faster than even
711
 
            # getting a set of ids from the inventory
712
 
            #
713
 
            # <lifeless> set(dict) is roughly the same speed as
714
 
            # set(iter(dict)) and both are significantly slower than
715
 
            # set(dict.keys())
716
 
            deleted_ids = set(self.basis_inv._byid.keys()) - \
717
 
               set(self.builder.new_inventory._byid.keys())
718
 
        else:
719
 
            deleted_ids = set(self.basis_inv) - set(self.builder.new_inventory)
 
687
        # XXX: Could the list of deleted paths and ids be instead taken from
 
688
        # _populate_from_inventory?
 
689
        deleted_ids = set(self.basis_inv._byid.keys()) - \
 
690
            set(self.builder.new_inventory._byid.keys())
720
691
        if deleted_ids:
721
692
            self.any_entries_deleted = True
722
693
            deleted = [(self.basis_tree.id2path(file_id), file_id)
724
695
            deleted.sort()
725
696
            # XXX: this is not quite directory-order sorting
726
697
            for path, file_id in deleted:
727
 
                self.builder.record_delete(path, file_id)
 
698
                self._basis_delta.append((path, None, file_id, None))
728
699
                self.reporter.deleted(path)
729
700
 
730
 
    def _check_strict(self):
731
 
        # XXX: when we use iter_changes this would likely be faster if
732
 
        # iter_changes would check for us (even in the presence of
733
 
        # selected_files).
 
701
    def _populate_from_inventory(self, specific_files):
 
702
        """Populate the CommitBuilder by walking the working tree inventory."""
734
703
        if self.strict:
735
704
            # raise an exception as soon as we find a single unknown.
736
705
            for unknown in self.work_tree.unknowns():
737
706
                raise StrictCommitFailed()
738
 
 
739
 
    def _populate_from_inventory(self):
740
 
        """Populate the CommitBuilder by walking the working tree inventory."""
741
 
        # Build the revision inventory.
742
 
        #
743
 
        # This starts by creating a new empty inventory. Depending on
744
 
        # which files are selected for commit, and what is present in the
745
 
        # current tree, the new inventory is populated. inventory entries
746
 
        # which are candidates for modification have their revision set to
747
 
        # None; inventory entries that are carried over untouched have their
748
 
        # revision set to their prior value.
749
 
        #
750
 
        # ESEPARATIONOFCONCERNS: this function is diffing and using the diff
751
 
        # results to create a new inventory at the same time, which results
752
 
        # in bugs like #46635.  Any reason not to use/enhance Tree.changes_from?
753
 
        # ADHB 11-07-2006
754
 
 
755
 
        specific_files = self.specific_files
756
 
        exclude = self.exclude
 
707
               
757
708
        report_changes = self.reporter.is_verbose()
758
709
        deleted_ids = []
759
710
        # A tree of paths that have been deleted. E.g. if foo/bar has been
762
713
        # XXX: Note that entries may have the wrong kind because the entry does
763
714
        # not reflect the status on disk.
764
715
        work_inv = self.work_tree.inventory
765
 
        # NB: entries will include entries within the excluded ids/paths
766
 
        # because iter_entries_by_dir has no 'exclude' facility today.
767
716
        entries = work_inv.iter_entries_by_dir(
768
717
            specific_file_ids=self.specific_file_ids, yield_parents=True)
769
718
        for path, existing_ie in entries:
771
720
            name = existing_ie.name
772
721
            parent_id = existing_ie.parent_id
773
722
            kind = existing_ie.kind
 
723
            if kind == 'directory':
 
724
                self._next_progress_entry()
774
725
            # Skip files that have been deleted from the working tree.
775
726
            # The deleted path ids are also recorded so they can be explicitly
776
727
            # unversioned later.
789
740
                if deleted_dict is not None:
790
741
                    # the path has a deleted parent, do not add it.
791
742
                    continue
792
 
            if exclude and is_inside_any(exclude, path):
793
 
                # Skip excluded paths. Excluded paths are processed by
794
 
                # _update_builder_with_changes.
795
 
                continue
796
743
            content_summary = self.work_tree.path_content_summary(path)
797
 
            kind = content_summary[0]
798
744
            # Note that when a filter of specific files is given, we must only
799
745
            # skip/record deleted files matching that filter.
800
746
            if not specific_files or is_inside_any(specific_files, path):
801
 
                if kind == 'missing':
 
747
                if content_summary[0] == 'missing':
802
748
                    if not deleted_paths:
803
749
                        # path won't have been split yet.
804
750
                        path_segments = splitpath(path)
806
752
                    for segment in path_segments:
807
753
                        deleted_dict = deleted_dict.setdefault(segment, {})
808
754
                    self.reporter.missing(path)
809
 
                    self._next_progress_entry()
810
755
                    deleted_ids.append(file_id)
811
756
                    continue
812
757
            # TODO: have the builder do the nested commit just-in-time IF and
813
758
            # only if needed.
814
 
            if kind == 'tree-reference':
 
759
            if content_summary[0] == 'tree-reference':
815
760
                # enforce repository nested tree policy.
816
761
                if (not self.work_tree.supports_tree_reference() or
817
762
                    # repository does not support it either.
818
763
                    not self.branch.repository._format.supports_tree_reference):
819
 
                    kind = 'directory'
820
 
                    content_summary = (kind, None, None, None)
821
 
                elif self.recursive == 'down':
 
764
                    content_summary = ('directory',) + content_summary[1:]
 
765
            kind = content_summary[0]
 
766
            # TODO: specific_files filtering before nested tree processing
 
767
            if kind == 'tree-reference':
 
768
                if self.recursive == 'down':
822
769
                    nested_revision_id = self._commit_nested_tree(
823
770
                        file_id, path)
824
 
                    content_summary = (kind, None, None, nested_revision_id)
 
771
                    content_summary = content_summary[:3] + (
 
772
                        nested_revision_id,)
825
773
                else:
826
 
                    nested_revision_id = self.work_tree.get_reference_revision(file_id)
827
 
                    content_summary = (kind, None, None, nested_revision_id)
 
774
                    content_summary = content_summary[:3] + (
 
775
                        self.work_tree.get_reference_revision(file_id),)
828
776
 
829
777
            # Record an entry for this item
830
778
            # Note: I don't particularly want to have the existing_ie
836
784
                content_summary)
837
785
 
838
786
        # Unversion IDs that were found to be deleted
839
 
        self.deleted_ids = deleted_ids
 
787
        self.work_tree.unversion(deleted_ids)
840
788
 
841
789
    def _commit_nested_tree(self, file_id, path):
842
790
        "Commit a nested tree."
844
792
        # FIXME: be more comprehensive here:
845
793
        # this works when both trees are in --trees repository,
846
794
        # but when both are bound to a different repository,
847
 
        # it fails; a better way of approaching this is to
 
795
        # it fails; a better way of approaching this is to 
848
796
        # finally implement the explicit-caches approach design
849
797
        # a while back - RBC 20070306.
850
798
        if sub_tree.branch.repository.has_same_location(
874
822
        else:
875
823
            ie = existing_ie.copy()
876
824
            ie.revision = None
877
 
        # For carried over entries we don't care about the fs hash - the repo
878
 
        # isn't generating a sha, so we're not saving computation time.
879
 
        _, _, fs_hash = self.builder.record_entry_contents(
880
 
            ie, self.parent_invs, path, self.work_tree, content_summary)
 
825
        delta, version_recorded = self.builder.record_entry_contents(ie,
 
826
            self.parent_invs, path, self.work_tree, content_summary)
 
827
        if delta:
 
828
            self._basis_delta.append(delta)
 
829
        if version_recorded:
 
830
            self.any_entries_changed = True
881
831
        if report_changes:
882
832
            self._report_change(ie, path)
883
 
        if fs_hash:
884
 
            self.work_tree._observed_sha1(ie.file_id, path, fs_hash)
885
833
        return ie
886
834
 
887
835
    def _report_change(self, ie, path):
895
843
        else:
896
844
            basis_ie = None
897
845
        change = ie.describe_change(basis_ie, ie)
898
 
        if change in (InventoryEntry.RENAMED,
 
846
        if change in (InventoryEntry.RENAMED, 
899
847
            InventoryEntry.MODIFIED_AND_RENAMED):
900
848
            old_path = self.basis_inv.id2path(ie.file_id)
901
849
            self.reporter.renamed(change, old_path, path)
902
 
            self._next_progress_entry()
903
850
        else:
904
 
            if change == 'unchanged':
905
 
                return
906
851
            self.reporter.snapshot_change(change, path)
907
 
            self._next_progress_entry()
908
852
 
909
 
    def _set_progress_stage(self, name, counter=False):
 
853
    def _set_progress_stage(self, name, entries_title=None):
910
854
        """Set the progress stage and emit an update to the progress bar."""
911
855
        self.pb_stage_name = name
912
856
        self.pb_stage_count += 1
913
 
        if counter:
 
857
        self.pb_entries_title = entries_title
 
858
        if entries_title is not None:
914
859
            self.pb_entries_count = 0
915
 
        else:
916
 
            self.pb_entries_count = None
 
860
            self.pb_entries_total = '?'
917
861
        self._emit_progress()
918
862
 
919
863
    def _next_progress_entry(self):
922
866
        self._emit_progress()
923
867
 
924
868
    def _emit_progress(self):
925
 
        if self.pb_entries_count is not None:
926
 
            text = "%s [%d] - Stage" % (self.pb_stage_name,
927
 
                self.pb_entries_count)
 
869
        if self.pb_entries_title:
 
870
            if self.pb_entries_total == '?':
 
871
                text = "%s [%s %d] - Stage" % (self.pb_stage_name,
 
872
                    self.pb_entries_title, self.pb_entries_count)
 
873
            else:
 
874
                text = "%s [%s %d/%s] - Stage" % (self.pb_stage_name,
 
875
                    self.pb_entries_title, self.pb_entries_count,
 
876
                    str(self.pb_entries_total))
928
877
        else:
929
 
            text = "%s - Stage" % (self.pb_stage_name, )
 
878
            text = "%s - Stage" % (self.pb_stage_name)
930
879
        self.pb.update(text, self.pb_stage_count, self.pb_stage_total)
931
880
 
932
 
    def _set_specific_file_ids(self):
933
 
        """populate self.specific_file_ids if we will use it."""
934
 
        if not self.use_record_iter_changes:
935
 
            # If provided, ensure the specified files are versioned
936
 
            if self.specific_files is not None:
937
 
                # Note: This routine is being called because it raises
938
 
                # PathNotVersionedError as a side effect of finding the IDs. We
939
 
                # later use the ids we found as input to the working tree
940
 
                # inventory iterator, so we only consider those ids rather than
941
 
                # examining the whole tree again.
942
 
                # XXX: Dont we have filter_unversioned to do this more
943
 
                # cheaply?
944
 
                self.specific_file_ids = tree.find_ids_across_trees(
945
 
                    self.specific_files, [self.basis_tree, self.work_tree])
946
 
            else:
947
 
                self.specific_file_ids = None