~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/diff.py

  • Committer: mbp at sourcefrog
  • Date: 2005-04-09 05:49:27 UTC
  • Revision ID: mbp@sourcefrog.net-20050409054927-721ecf60a1ed0dc21dde4705
Revfile: new command total-text-size

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2004, 2005, 2006 Canonical Ltd.
2
 
#
 
1
#! /usr/bin/env python
 
2
# -*- coding: UTF-8 -*-
 
3
 
3
4
# This program is free software; you can redistribute it and/or modify
4
5
# it under the terms of the GNU General Public License as published by
5
6
# the Free Software Foundation; either version 2 of the License, or
6
7
# (at your option) any later version.
7
 
#
 
8
 
8
9
# This program is distributed in the hope that it will be useful,
9
10
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
11
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
12
# GNU General Public License for more details.
12
 
#
 
13
 
13
14
# You should have received a copy of the GNU General Public License
14
15
# along with this program; if not, write to the Free Software
15
16
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
17
 
17
 
import errno
18
 
import os
19
 
import re
20
 
import subprocess
21
 
import sys
22
 
import tempfile
23
 
import time
24
 
 
25
 
# compatability - plugins import compare_trees from diff!!!
26
 
# deprecated as of 0.10
27
 
from bzrlib.delta import compare_trees
28
 
from bzrlib.errors import BzrError
29
 
import bzrlib.errors as errors
30
 
import bzrlib.osutils
31
 
from bzrlib.patiencediff import unified_diff
32
 
import bzrlib.patiencediff
33
 
from bzrlib.symbol_versioning import (deprecated_function,
34
 
        zero_eight)
35
 
from bzrlib.textfile import check_text_lines
36
 
from bzrlib.trace import mutter, warning
37
 
 
38
 
 
39
 
# TODO: Rather than building a changeset object, we should probably
40
 
# invoke callbacks on an object.  That object can either accumulate a
41
 
# list, write them out directly, etc etc.
42
 
 
43
 
def internal_diff(old_filename, oldlines, new_filename, newlines, to_file,
44
 
                  allow_binary=False, sequence_matcher=None,
45
 
                  path_encoding='utf8'):
46
 
    # FIXME: difflib is wrong if there is no trailing newline.
47
 
    # The syntax used by patch seems to be "\ No newline at
48
 
    # end of file" following the last diff line from that
49
 
    # file.  This is not trivial to insert into the
50
 
    # unified_diff output and it might be better to just fix
51
 
    # or replace that function.
52
 
 
53
 
    # In the meantime we at least make sure the patch isn't
54
 
    # mangled.
55
 
 
56
 
 
57
 
    # Special workaround for Python2.3, where difflib fails if
58
 
    # both sequences are empty.
59
 
    if not oldlines and not newlines:
60
 
        return
61
 
    
62
 
    if allow_binary is False:
63
 
        check_text_lines(oldlines)
64
 
        check_text_lines(newlines)
65
 
 
66
 
    if sequence_matcher is None:
67
 
        sequence_matcher = bzrlib.patiencediff.PatienceSequenceMatcher
68
 
    ud = unified_diff(oldlines, newlines,
69
 
                      fromfile=old_filename.encode(path_encoding),
70
 
                      tofile=new_filename.encode(path_encoding),
71
 
                      sequencematcher=sequence_matcher)
72
 
 
73
 
    ud = list(ud)
74
 
    # work-around for difflib being too smart for its own good
75
 
    # if /dev/null is "1,0", patch won't recognize it as /dev/null
76
 
    if not oldlines:
77
 
        ud[2] = ud[2].replace('-1,0', '-0,0')
78
 
    elif not newlines:
79
 
        ud[2] = ud[2].replace('+1,0', '+0,0')
80
 
    # work around for difflib emitting random spaces after the label
81
 
    ud[0] = ud[0][:-2] + '\n'
82
 
    ud[1] = ud[1][:-2] + '\n'
83
 
 
84
 
    for line in ud:
85
 
        to_file.write(line)
86
 
        if not line.endswith('\n'):
87
 
            to_file.write("\n\\ No newline at end of file\n")
88
 
    print >>to_file
89
 
 
90
 
 
91
 
def external_diff(old_filename, oldlines, new_filename, newlines, to_file,
92
 
                  diff_opts):
93
 
    """Display a diff by calling out to the external diff program."""
94
 
    # make sure our own output is properly ordered before the diff
95
 
    to_file.flush()
96
 
 
97
 
    oldtmp_fd, old_abspath = tempfile.mkstemp(prefix='bzr-diff-old-')
98
 
    newtmp_fd, new_abspath = tempfile.mkstemp(prefix='bzr-diff-new-')
99
 
    oldtmpf = os.fdopen(oldtmp_fd, 'wb')
100
 
    newtmpf = os.fdopen(newtmp_fd, 'wb')
101
 
 
102
 
    try:
103
 
        # TODO: perhaps a special case for comparing to or from the empty
104
 
        # sequence; can just use /dev/null on Unix
105
 
 
106
 
        # TODO: if either of the files being compared already exists as a
107
 
        # regular named file (e.g. in the working directory) then we can
108
 
        # compare directly to that, rather than copying it.
109
 
 
110
 
        oldtmpf.writelines(oldlines)
111
 
        newtmpf.writelines(newlines)
112
 
 
113
 
        oldtmpf.close()
114
 
        newtmpf.close()
115
 
 
116
 
        if not diff_opts:
117
 
            diff_opts = []
118
 
        diffcmd = ['diff',
119
 
                   '--label', old_filename,
120
 
                   old_abspath,
121
 
                   '--label', new_filename,
122
 
                   new_abspath,
123
 
                   '--binary',
124
 
                  ]
125
 
 
126
 
        # diff only allows one style to be specified; they don't override.
127
 
        # note that some of these take optargs, and the optargs can be
128
 
        # directly appended to the options.
129
 
        # this is only an approximate parser; it doesn't properly understand
130
 
        # the grammar.
131
 
        for s in ['-c', '-u', '-C', '-U',
132
 
                  '-e', '--ed',
133
 
                  '-q', '--brief',
134
 
                  '--normal',
135
 
                  '-n', '--rcs',
136
 
                  '-y', '--side-by-side',
137
 
                  '-D', '--ifdef']:
138
 
            for j in diff_opts:
139
 
                if j.startswith(s):
140
 
                    break
141
 
            else:
142
 
                continue
143
 
            break
144
 
        else:
145
 
            diffcmd.append('-u')
146
 
                  
147
 
        if diff_opts:
148
 
            diffcmd.extend(diff_opts)
149
 
 
150
 
        try:
151
 
            pipe = subprocess.Popen(diffcmd,
152
 
                                    stdin=subprocess.PIPE,
153
 
                                    stdout=subprocess.PIPE)
154
 
        except OSError, e:
155
 
            if e.errno == errno.ENOENT:
156
 
                raise errors.NoDiff(str(e))
157
 
            raise
158
 
        pipe.stdin.close()
159
 
 
160
 
        first_line = pipe.stdout.readline()
161
 
        to_file.write(first_line)
162
 
        bzrlib.osutils.pumpfile(pipe.stdout, to_file)
163
 
        rc = pipe.wait()
164
 
        
165
 
        if rc == 2:
166
 
            # 'diff' gives retcode == 2 for all sorts of errors
167
 
            # one of those is 'Binary files differ'.
168
 
            # Bad options could also be the problem.
169
 
            # 'Binary files' is not a real error, so we suppress that error
170
 
            m = re.match('^binary files.*differ$', first_line, re.I)
171
 
            if not m:
172
 
                raise BzrError('external diff failed with exit code 2;'
173
 
                               ' command: %r' % (diffcmd,))
174
 
        elif rc not in (0, 1):
175
 
            # returns 1 if files differ; that's OK
176
 
            if rc < 0:
177
 
                msg = 'signal %d' % (-rc)
178
 
            else:
179
 
                msg = 'exit code %d' % rc
180
 
                
181
 
            raise BzrError('external diff failed with %s; command: %r' 
182
 
                           % (rc, diffcmd))
183
 
 
184
 
        # internal_diff() adds a trailing newline, add one here for consistency
185
 
        to_file.write('\n')
186
 
 
187
 
    finally:
188
 
        oldtmpf.close()                 # and delete
189
 
        newtmpf.close()
190
 
        # Clean up. Warn in case the files couldn't be deleted
191
 
        # (in case windows still holds the file open, but not
192
 
        # if the files have already been deleted)
193
 
        try:
194
 
            os.remove(old_abspath)
195
 
        except OSError, e:
196
 
            if e.errno not in (errno.ENOENT,):
197
 
                warning('Failed to delete temporary file: %s %s',
198
 
                        old_abspath, e)
199
 
        try:
200
 
            os.remove(new_abspath)
201
 
        except OSError:
202
 
            if e.errno not in (errno.ENOENT,):
203
 
                warning('Failed to delete temporary file: %s %s',
204
 
                        new_abspath, e)
205
 
 
206
 
 
207
 
@deprecated_function(zero_eight)
208
 
def show_diff(b, from_spec, specific_files, external_diff_options=None,
209
 
              revision2=None, output=None, b2=None):
210
 
    """Shortcut for showing the diff to the working tree.
211
 
 
212
 
    Please use show_diff_trees instead.
213
 
 
214
 
    b
215
 
        Branch.
216
 
 
217
 
    revision
218
 
        None for 'basis tree', or otherwise the old revision to compare against.
219
 
    
220
 
    The more general form is show_diff_trees(), where the caller
221
 
    supplies any two trees.
222
 
    """
223
 
    if output is None:
224
 
        output = sys.stdout
225
 
 
226
 
    if from_spec is None:
227
 
        old_tree = b.bzrdir.open_workingtree()
228
 
        if b2 is None:
229
 
            old_tree = old_tree = old_tree.basis_tree()
230
 
    else:
231
 
        old_tree = b.repository.revision_tree(from_spec.in_history(b).rev_id)
232
 
 
233
 
    if revision2 is None:
234
 
        if b2 is None:
235
 
            new_tree = b.bzrdir.open_workingtree()
236
 
        else:
237
 
            new_tree = b2.bzrdir.open_workingtree()
238
 
    else:
239
 
        new_tree = b.repository.revision_tree(revision2.in_history(b).rev_id)
240
 
 
241
 
    return show_diff_trees(old_tree, new_tree, output, specific_files,
242
 
                           external_diff_options)
243
 
 
244
 
 
245
 
def diff_cmd_helper(tree, specific_files, external_diff_options, 
246
 
                    old_revision_spec=None, new_revision_spec=None,
247
 
                    old_label='a/', new_label='b/'):
248
 
    """Helper for cmd_diff.
249
 
 
250
 
   tree 
251
 
        A WorkingTree
252
 
 
253
 
    specific_files
254
 
        The specific files to compare, or None
255
 
 
256
 
    external_diff_options
257
 
        If non-None, run an external diff, and pass it these options
258
 
 
259
 
    old_revision_spec
260
 
        If None, use basis tree as old revision, otherwise use the tree for
261
 
        the specified revision. 
262
 
 
263
 
    new_revision_spec
264
 
        If None, use working tree as new revision, otherwise use the tree for
265
 
        the specified revision.
266
 
    
267
 
    The more general form is show_diff_trees(), where the caller
268
 
    supplies any two trees.
269
 
    """
270
 
    def spec_tree(spec):
271
 
        if tree:
272
 
            revision = spec.in_store(tree.branch)
273
 
        else:
274
 
            revision = spec.in_store(None)
275
 
        revision_id = revision.rev_id
276
 
        branch = revision.branch
277
 
        return branch.repository.revision_tree(revision_id)
278
 
    if old_revision_spec is None:
279
 
        old_tree = tree.basis_tree()
280
 
    else:
281
 
        old_tree = spec_tree(old_revision_spec)
282
 
 
283
 
    if new_revision_spec is None:
284
 
        new_tree = tree
285
 
    else:
286
 
        new_tree = spec_tree(new_revision_spec)
287
 
    if new_tree is not tree:
288
 
        extra_trees = (tree,)
289
 
    else:
290
 
        extra_trees = None
291
 
 
292
 
    return show_diff_trees(old_tree, new_tree, sys.stdout, specific_files,
293
 
                           external_diff_options,
294
 
                           old_label=old_label, new_label=new_label,
295
 
                           extra_trees=extra_trees)
296
 
 
297
 
 
298
 
def show_diff_trees(old_tree, new_tree, to_file, specific_files=None,
299
 
                    external_diff_options=None,
300
 
                    old_label='a/', new_label='b/',
301
 
                    extra_trees=None):
302
 
    """Show in text form the changes from one tree to another.
303
 
 
304
 
    to_files
305
 
        If set, include only changes to these files.
306
 
 
307
 
    external_diff_options
308
 
        If set, use an external GNU diff and pass these options.
309
 
 
310
 
    extra_trees
311
 
        If set, more Trees to use for looking up file ids
312
 
    """
313
 
    old_tree.lock_read()
314
 
    try:
315
 
        new_tree.lock_read()
316
 
        try:
317
 
            return _show_diff_trees(old_tree, new_tree, to_file,
318
 
                                    specific_files, external_diff_options,
319
 
                                    old_label=old_label, new_label=new_label,
320
 
                                    extra_trees=extra_trees)
321
 
        finally:
322
 
            new_tree.unlock()
323
 
    finally:
324
 
        old_tree.unlock()
325
 
 
326
 
 
327
 
def _show_diff_trees(old_tree, new_tree, to_file,
328
 
                     specific_files, external_diff_options, 
329
 
                     old_label='a/', new_label='b/', extra_trees=None):
330
 
 
331
 
    # GNU Patch uses the epoch date to detect files that are being added
332
 
    # or removed in a diff.
333
 
    EPOCH_DATE = '1970-01-01 00:00:00 +0000'
334
 
 
335
 
    # TODO: Generation of pseudo-diffs for added/deleted files could
336
 
    # be usefully made into a much faster special case.
337
 
 
338
 
    if external_diff_options:
339
 
        assert isinstance(external_diff_options, basestring)
340
 
        opts = external_diff_options.split()
341
 
        def diff_file(olab, olines, nlab, nlines, to_file):
342
 
            external_diff(olab, olines, nlab, nlines, to_file, opts)
343
 
    else:
344
 
        diff_file = internal_diff
345
 
    
346
 
    delta = new_tree.changes_from(old_tree,
347
 
        specific_files=specific_files,
348
 
        extra_trees=extra_trees, require_versioned=True)
349
 
 
350
 
    has_changes = 0
351
 
    for path, file_id, kind in delta.removed:
352
 
        has_changes = 1
353
 
        print >>to_file, '=== removed %s %r' % (kind, path.encode('utf8'))
354
 
        old_name = '%s%s\t%s' % (old_label, path,
355
 
                                 _patch_header_date(old_tree, file_id, path))
356
 
        new_name = '%s%s\t%s' % (new_label, path, EPOCH_DATE)
357
 
        old_tree.inventory[file_id].diff(diff_file, old_name, old_tree,
358
 
                                         new_name, None, None, to_file)
359
 
    for path, file_id, kind in delta.added:
360
 
        has_changes = 1
361
 
        print >>to_file, '=== added %s %r' % (kind, path.encode('utf8'))
362
 
        old_name = '%s%s\t%s' % (old_label, path, EPOCH_DATE)
363
 
        new_name = '%s%s\t%s' % (new_label, path,
364
 
                                 _patch_header_date(new_tree, file_id, path))
365
 
        new_tree.inventory[file_id].diff(diff_file, new_name, new_tree,
366
 
                                         old_name, None, None, to_file, 
367
 
                                         reverse=True)
368
 
    for (old_path, new_path, file_id, kind,
369
 
         text_modified, meta_modified) in delta.renamed:
370
 
        has_changes = 1
371
 
        prop_str = get_prop_change(meta_modified)
372
 
        print >>to_file, '=== renamed %s %r => %r%s' % (
373
 
                    kind, old_path.encode('utf8'),
374
 
                    new_path.encode('utf8'), prop_str)
375
 
        old_name = '%s%s\t%s' % (old_label, old_path,
376
 
                                 _patch_header_date(old_tree, file_id,
377
 
                                                    old_path))
378
 
        new_name = '%s%s\t%s' % (new_label, new_path,
379
 
                                 _patch_header_date(new_tree, file_id,
380
 
                                                    new_path))
381
 
        _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
382
 
                                    new_name, new_tree,
383
 
                                    text_modified, kind, to_file, diff_file)
384
 
    for path, file_id, kind, text_modified, meta_modified in delta.modified:
385
 
        has_changes = 1
386
 
        prop_str = get_prop_change(meta_modified)
387
 
        print >>to_file, '=== modified %s %r%s' % (kind, path.encode('utf8'), prop_str)
388
 
        old_name = '%s%s\t%s' % (old_label, path,
389
 
                                 _patch_header_date(old_tree, file_id, path))
390
 
        new_name = '%s%s\t%s' % (new_label, path,
391
 
                                 _patch_header_date(new_tree, file_id, path))
392
 
        if text_modified:
393
 
            _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
394
 
                                        new_name, new_tree,
395
 
                                        True, kind, to_file, diff_file)
396
 
 
397
 
    return has_changes
398
 
 
399
 
 
400
 
def _patch_header_date(tree, file_id, path):
401
 
    """Returns a timestamp suitable for use in a patch header."""
402
 
    tm = time.gmtime(tree.get_file_mtime(file_id, path))
403
 
    return time.strftime('%Y-%m-%d %H:%M:%S +0000', tm)
404
 
 
405
 
 
406
 
def _raise_if_nonexistent(paths, old_tree, new_tree):
407
 
    """Complain if paths are not in either inventory or tree.
408
 
 
409
 
    It's OK with the files exist in either tree's inventory, or 
410
 
    if they exist in the tree but are not versioned.
411
 
    
412
 
    This can be used by operations such as bzr status that can accept
413
 
    unknown or ignored files.
414
 
    """
415
 
    mutter("check paths: %r", paths)
416
 
    if not paths:
417
 
        return
418
 
    s = old_tree.filter_unversioned_files(paths)
419
 
    s = new_tree.filter_unversioned_files(s)
420
 
    s = [path for path in s if not new_tree.has_filename(path)]
421
 
    if s:
422
 
        raise errors.PathsDoNotExist(sorted(s))
423
 
 
424
 
 
425
 
def get_prop_change(meta_modified):
426
 
    if meta_modified:
427
 
        return " (properties changed)"
428
 
    else:
429
 
        return  ""
430
 
 
431
 
 
432
 
def _maybe_diff_file_or_symlink(old_path, old_tree, file_id,
433
 
                                new_path, new_tree, text_modified,
434
 
                                kind, to_file, diff_file):
435
 
    if text_modified:
436
 
        new_entry = new_tree.inventory[file_id]
437
 
        old_tree.inventory[file_id].diff(diff_file,
438
 
                                         old_path, old_tree,
439
 
                                         new_path, new_entry, 
440
 
                                         new_tree, to_file)
 
18
from sets import Set
 
19
 
 
20
from trace import mutter
 
21
 
 
22
 
 
23
 
 
24
 
 
25
 
 
26
 
 
27
def diff_trees(old_tree, new_tree):
 
28
    """Compute diff between two trees.
 
29
 
 
30
    They may be in different branches and may be working or historical
 
31
    trees.
 
32
 
 
33
    Yields a sequence of (state, id, old_name, new_name, kind).
 
34
    Each filename and each id is listed only once.
 
35
    """
 
36
 
 
37
    ## TODO: Compare files before diffing; only mention those that have changed
 
38
 
 
39
    ## TODO: Set nice names in the headers, maybe include diffstat
 
40
 
 
41
    ## TODO: Perhaps make this a generator rather than using
 
42
    ## a callback object?
 
43
 
 
44
    ## TODO: Allow specifying a list of files to compare, rather than
 
45
    ## doing the whole tree?  (Not urgent.)
 
46
 
 
47
    ## TODO: Allow diffing any two inventories, not just the
 
48
    ## current one against one.  We mgiht need to specify two
 
49
    ## stores to look for the files if diffing two branches.  That
 
50
    ## might imply this shouldn't be primarily a Branch method.
 
51
 
 
52
    ## XXX: This doesn't report on unknown files; that can be done
 
53
    ## from a separate method.
 
54
 
 
55
    old_it = old_tree.list_files()
 
56
    new_it = new_tree.list_files()
 
57
 
 
58
    def next(it):
 
59
        try:
 
60
            return it.next()
 
61
        except StopIteration:
 
62
            return None
 
63
 
 
64
    old_item = next(old_it)
 
65
    new_item = next(new_it)
 
66
 
 
67
    # We step through the two sorted iterators in parallel, trying to
 
68
    # keep them lined up.
 
69
 
 
70
    while (old_item != None) or (new_item != None):
 
71
        # OK, we still have some remaining on both, but they may be
 
72
        # out of step.        
 
73
        if old_item != None:
 
74
            old_name, old_class, old_kind, old_id = old_item
 
75
        else:
 
76
            old_name = None
 
77
            
 
78
        if new_item != None:
 
79
            new_name, new_class, new_kind, new_id = new_item
 
80
        else:
 
81
            new_name = None
 
82
 
 
83
        mutter("   diff pairwise %r" % (old_item,))
 
84
        mutter("                 %r" % (new_item,))
 
85
 
 
86
        if old_item:
 
87
            # can't handle the old tree being a WorkingTree
 
88
            assert old_class == 'V'
 
89
 
 
90
        if new_item and (new_class != 'V'):
 
91
            yield new_class, None, None, new_name, new_kind
 
92
            new_item = next(new_it)
 
93
        elif (not new_item) or (old_item and (old_name < new_name)):
 
94
            mutter("     extra entry in old-tree sequence")
 
95
            if new_tree.has_id(old_id):
 
96
                # will be mentioned as renamed under new name
 
97
                pass
 
98
            else:
 
99
                yield 'D', old_id, old_name, None, old_kind
 
100
            old_item = next(old_it)
 
101
        elif (not old_item) or (new_item and (new_name < old_name)):
 
102
            mutter("     extra entry in new-tree sequence")
 
103
            if old_tree.has_id(new_id):
 
104
                yield 'R', new_id, old_tree.id2path(new_id), new_name, new_kind
 
105
            else:
 
106
                yield 'A', new_id, None, new_name, new_kind
 
107
            new_item = next(new_it)
 
108
        elif old_id != new_id:
 
109
            assert old_name == new_name
 
110
            # both trees have a file of this name, but it is not the
 
111
            # same file.  in other words, the old filename has been
 
112
            # overwritten by either a newly-added or a renamed file.
 
113
            # (should we return something about the overwritten file?)
 
114
            if old_tree.has_id(new_id):
 
115
                # renaming, overlying a deleted file
 
116
                yield 'R', new_id, old_tree.id2path(new_id), new_name, new_kind
 
117
            else:
 
118
                yield 'A', new_id, None, new_name, new_kind
 
119
 
 
120
            new_item = next(new_it)
 
121
            old_item = next(old_it)
 
122
        else:
 
123
            assert old_id == new_id
 
124
            assert old_id != None
 
125
            assert old_name == new_name
 
126
            assert old_kind == new_kind
 
127
 
 
128
            if old_kind == 'directory':
 
129
                yield '.', new_id, old_name, new_name, new_kind
 
130
            elif old_tree.get_file_size(old_id) != new_tree.get_file_size(old_id):
 
131
                mutter("    file size has changed, must be different")
 
132
                yield 'M', new_id, old_name, new_name, new_kind
 
133
            elif old_tree.get_file_sha1(old_id) == new_tree.get_file_sha1(old_id):
 
134
                mutter("      SHA1 indicates they're identical")
 
135
                ## assert compare_files(old_tree.get_file(i), new_tree.get_file(i))
 
136
                yield '.', new_id, old_name, new_name, new_kind
 
137
            else:
 
138
                mutter("      quick compare shows different")
 
139
                yield 'M', new_id, old_name, new_name, new_kind
 
140
 
 
141
            new_item = next(new_it)
 
142
            old_item = next(old_it)
 
143
 
 
144