~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/diff.py

  • Committer: Martin Pool
  • Date: 2005-05-05 06:38:18 UTC
  • Revision ID: mbp@sourcefrog.net-20050505063818-3eb3260343878325
- do upload CHANGELOG to web server, even though it's autogenerated

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2004, 2005, 2006 Canonical Ltd.
 
1
#! /usr/bin/env python
 
2
# -*- coding: UTF-8 -*-
2
3
 
3
4
# This program is free software; you can redistribute it and/or modify
4
5
# it under the terms of the GNU General Public License as published by
14
15
# along with this program; if not, write to the Free Software
15
16
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
17
 
17
 
from bzrlib.delta import compare_trees
18
 
from bzrlib.errors import BzrError
19
 
import bzrlib.errors as errors
20
 
from bzrlib.symbol_versioning import *
21
 
from bzrlib.textfile import check_text_lines
22
 
from bzrlib.trace import mutter
23
 
 
24
 
# TODO: Rather than building a changeset object, we should probably
25
 
# invoke callbacks on an object.  That object can either accumulate a
26
 
# list, write them out directly, etc etc.
27
 
 
28
 
def internal_diff(old_filename, oldlines, new_filename, newlines, to_file,
29
 
                  allow_binary=False):
30
 
    import difflib
31
 
    
32
 
    # FIXME: difflib is wrong if there is no trailing newline.
33
 
    # The syntax used by patch seems to be "\ No newline at
34
 
    # end of file" following the last diff line from that
35
 
    # file.  This is not trivial to insert into the
36
 
    # unified_diff output and it might be better to just fix
37
 
    # or replace that function.
38
 
 
39
 
    # In the meantime we at least make sure the patch isn't
40
 
    # mangled.
41
 
 
42
 
 
43
 
    # Special workaround for Python2.3, where difflib fails if
44
 
    # both sequences are empty.
45
 
    if not oldlines and not newlines:
46
 
        return
47
 
    
48
 
    if allow_binary is False:
49
 
        check_text_lines(oldlines)
50
 
        check_text_lines(newlines)
51
 
 
52
 
    ud = difflib.unified_diff(oldlines, newlines,
53
 
                              fromfile=old_filename+'\t', 
54
 
                              tofile=new_filename+'\t')
55
 
 
56
 
    ud = list(ud)
57
 
    # work-around for difflib being too smart for its own good
58
 
    # if /dev/null is "1,0", patch won't recognize it as /dev/null
59
 
    if not oldlines:
60
 
        ud[2] = ud[2].replace('-1,0', '-0,0')
61
 
    elif not newlines:
62
 
        ud[2] = ud[2].replace('+1,0', '+0,0')
63
 
    # work around for difflib emitting random spaces after the label
64
 
    ud[0] = ud[0][:-2] + '\n'
65
 
    ud[1] = ud[1][:-2] + '\n'
66
 
 
67
 
    for line in ud:
68
 
        to_file.write(line)
69
 
        if not line.endswith('\n'):
70
 
            to_file.write("\n\\ No newline at end of file\n")
71
 
    print >>to_file
72
 
 
73
 
 
74
 
def external_diff(old_filename, oldlines, new_filename, newlines, to_file,
75
 
                  diff_opts):
76
 
    """Display a diff by calling out to the external diff program."""
77
 
    import sys
78
 
    
79
 
    if to_file != sys.stdout:
80
 
        raise NotImplementedError("sorry, can't send external diff other than to stdout yet",
81
 
                                  to_file)
82
 
 
83
 
    # make sure our own output is properly ordered before the diff
84
 
    to_file.flush()
85
 
 
86
 
    from tempfile import NamedTemporaryFile
87
 
    import os
88
 
 
89
 
    oldtmpf = NamedTemporaryFile()
90
 
    newtmpf = NamedTemporaryFile()
91
 
 
92
 
    try:
93
 
        # TODO: perhaps a special case for comparing to or from the empty
94
 
        # sequence; can just use /dev/null on Unix
95
 
 
96
 
        # TODO: if either of the files being compared already exists as a
97
 
        # regular named file (e.g. in the working directory) then we can
98
 
        # compare directly to that, rather than copying it.
99
 
 
100
 
        oldtmpf.writelines(oldlines)
101
 
        newtmpf.writelines(newlines)
102
 
 
103
 
        oldtmpf.flush()
104
 
        newtmpf.flush()
105
 
 
106
 
        if not diff_opts:
107
 
            diff_opts = []
108
 
        diffcmd = ['diff',
109
 
                   '--label', old_filename+'\t',
110
 
                   oldtmpf.name,
111
 
                   '--label', new_filename+'\t',
112
 
                   newtmpf.name]
113
 
 
114
 
        # diff only allows one style to be specified; they don't override.
115
 
        # note that some of these take optargs, and the optargs can be
116
 
        # directly appended to the options.
117
 
        # this is only an approximate parser; it doesn't properly understand
118
 
        # the grammar.
119
 
        for s in ['-c', '-u', '-C', '-U',
120
 
                  '-e', '--ed',
121
 
                  '-q', '--brief',
122
 
                  '--normal',
123
 
                  '-n', '--rcs',
124
 
                  '-y', '--side-by-side',
125
 
                  '-D', '--ifdef']:
126
 
            for j in diff_opts:
127
 
                if j.startswith(s):
128
 
                    break
129
 
            else:
130
 
                continue
131
 
            break
132
 
        else:
133
 
            diffcmd.append('-u')
134
 
                  
135
 
        if diff_opts:
136
 
            diffcmd.extend(diff_opts)
137
 
 
138
 
        rc = os.spawnvp(os.P_WAIT, 'diff', diffcmd)
139
 
        
140
 
        if rc != 0 and rc != 1:
141
 
            # returns 1 if files differ; that's OK
142
 
            if rc < 0:
143
 
                msg = 'signal %d' % (-rc)
144
 
            else:
145
 
                msg = 'exit code %d' % rc
146
 
                
147
 
            raise BzrError('external diff failed with %s; command: %r' % (rc, diffcmd))
148
 
    finally:
149
 
        oldtmpf.close()                 # and delete
150
 
        newtmpf.close()
151
 
 
152
 
 
153
 
@deprecated_function(zero_eight)
154
 
def show_diff(b, from_spec, specific_files, external_diff_options=None,
155
 
              revision2=None, output=None, b2=None):
156
 
    """Shortcut for showing the diff to the working tree.
157
 
 
158
 
    Please use show_diff_trees instead.
159
 
 
160
 
    b
161
 
        Branch.
162
 
 
163
 
    revision
164
 
        None for 'basis tree', or otherwise the old revision to compare against.
165
 
    
166
 
    The more general form is show_diff_trees(), where the caller
167
 
    supplies any two trees.
168
 
    """
169
 
    if output is None:
170
 
        import sys
171
 
        output = sys.stdout
172
 
 
173
 
    if from_spec is None:
174
 
        old_tree = b.bzrdir.open_workingtree()
175
 
        if b2 is None:
176
 
            old_tree = old_tree = old_tree.basis_tree()
177
 
    else:
178
 
        old_tree = b.repository.revision_tree(from_spec.in_history(b).rev_id)
179
 
 
180
 
    if revision2 is None:
181
 
        if b2 is None:
182
 
            new_tree = b.bzrdir.open_workingtree()
183
 
        else:
184
 
            new_tree = b2.bzrdir.open_workingtree()
185
 
    else:
186
 
        new_tree = b.repository.revision_tree(revision2.in_history(b).rev_id)
187
 
 
188
 
    return show_diff_trees(old_tree, new_tree, output, specific_files,
189
 
                           external_diff_options)
190
 
 
191
 
 
192
 
def diff_cmd_helper(tree, specific_files, external_diff_options, 
193
 
                    old_revision_spec=None, new_revision_spec=None,
194
 
                    old_label='a/', new_label='b/'):
195
 
    """Helper for cmd_diff.
196
 
 
197
 
   tree 
198
 
        A WorkingTree
199
 
 
200
 
    specific_files
201
 
        The specific files to compare, or None
202
 
 
203
 
    external_diff_options
204
 
        If non-None, run an external diff, and pass it these options
205
 
 
206
 
    old_revision_spec
207
 
        If None, use basis tree as old revision, otherwise use the tree for
208
 
        the specified revision. 
209
 
 
210
 
    new_revision_spec
211
 
        If None, use working tree as new revision, otherwise use the tree for
212
 
        the specified revision.
213
 
    
214
 
    The more general form is show_diff_trees(), where the caller
215
 
    supplies any two trees.
216
 
    """
217
 
    import sys
218
 
    output = sys.stdout
219
 
    def spec_tree(spec):
220
 
        revision_id = spec.in_store(tree.branch).rev_id
221
 
        return tree.branch.repository.revision_tree(revision_id)
222
 
    if old_revision_spec is None:
223
 
        old_tree = tree.basis_tree()
224
 
    else:
225
 
        old_tree = spec_tree(old_revision_spec)
226
 
 
227
 
    if new_revision_spec is None:
228
 
        new_tree = tree
229
 
    else:
230
 
        new_tree = spec_tree(new_revision_spec)
231
 
 
232
 
    return show_diff_trees(old_tree, new_tree, sys.stdout, specific_files,
233
 
                           external_diff_options,
234
 
                           old_label=old_label, new_label=new_label)
235
 
 
236
 
 
237
 
def show_diff_trees(old_tree, new_tree, to_file, specific_files=None,
238
 
                    external_diff_options=None,
239
 
                    old_label='a/', new_label='b/'):
240
 
    """Show in text form the changes from one tree to another.
241
 
 
242
 
    to_files
243
 
        If set, include only changes to these files.
244
 
 
245
 
    external_diff_options
246
 
        If set, use an external GNU diff and pass these options.
247
 
    """
248
 
    old_tree.lock_read()
249
 
    try:
250
 
        new_tree.lock_read()
 
18
from sets import Set
 
19
 
 
20
from trace import mutter
 
21
from errors import BzrError
 
22
 
 
23
 
 
24
def diff_trees(old_tree, new_tree):
 
25
    """Compute diff between two trees.
 
26
 
 
27
    They may be in different branches and may be working or historical
 
28
    trees.
 
29
 
 
30
    Yields a sequence of (state, id, old_name, new_name, kind).
 
31
    Each filename and each id is listed only once.
 
32
    """
 
33
 
 
34
    ## TODO: Compare files before diffing; only mention those that have changed
 
35
 
 
36
    ## TODO: Set nice names in the headers, maybe include diffstat
 
37
 
 
38
    ## TODO: Perhaps make this a generator rather than using
 
39
    ## a callback object?
 
40
 
 
41
    ## TODO: Allow specifying a list of files to compare, rather than
 
42
    ## doing the whole tree?  (Not urgent.)
 
43
 
 
44
    ## TODO: Allow diffing any two inventories, not just the
 
45
    ## current one against one.  We mgiht need to specify two
 
46
    ## stores to look for the files if diffing two branches.  That
 
47
    ## might imply this shouldn't be primarily a Branch method.
 
48
 
 
49
    ## XXX: This doesn't report on unknown files; that can be done
 
50
    ## from a separate method.
 
51
 
 
52
    old_it = old_tree.list_files()
 
53
    new_it = new_tree.list_files()
 
54
 
 
55
    def next(it):
251
56
        try:
252
 
            return _show_diff_trees(old_tree, new_tree, to_file,
253
 
                                    specific_files, external_diff_options,
254
 
                                    old_label=old_label, new_label=new_label)
255
 
        finally:
256
 
            new_tree.unlock()
257
 
    finally:
258
 
        old_tree.unlock()
259
 
 
260
 
 
261
 
def _show_diff_trees(old_tree, new_tree, to_file,
262
 
                     specific_files, external_diff_options, 
263
 
                     old_label='a/', new_label='b/' ):
 
57
            return it.next()
 
58
        except StopIteration:
 
59
            return None
 
60
 
 
61
    old_item = next(old_it)
 
62
    new_item = next(new_it)
 
63
 
 
64
    # We step through the two sorted iterators in parallel, trying to
 
65
    # keep them lined up.
 
66
 
 
67
    while (old_item != None) or (new_item != None):
 
68
        # OK, we still have some remaining on both, but they may be
 
69
        # out of step.        
 
70
        if old_item != None:
 
71
            old_name, old_class, old_kind, old_id = old_item
 
72
        else:
 
73
            old_name = None
 
74
            
 
75
        if new_item != None:
 
76
            new_name, new_class, new_kind, new_id = new_item
 
77
        else:
 
78
            new_name = None
 
79
 
 
80
        mutter("   diff pairwise %r" % (old_item,))
 
81
        mutter("                 %r" % (new_item,))
 
82
 
 
83
        if old_item:
 
84
            # can't handle the old tree being a WorkingTree
 
85
            assert old_class == 'V'
 
86
 
 
87
        if new_item and (new_class != 'V'):
 
88
            yield new_class, None, None, new_name, new_kind
 
89
            new_item = next(new_it)
 
90
        elif (not new_item) or (old_item and (old_name < new_name)):
 
91
            mutter("     extra entry in old-tree sequence")
 
92
            if new_tree.has_id(old_id):
 
93
                # will be mentioned as renamed under new name
 
94
                pass
 
95
            else:
 
96
                yield 'D', old_id, old_name, None, old_kind
 
97
            old_item = next(old_it)
 
98
        elif (not old_item) or (new_item and (new_name < old_name)):
 
99
            mutter("     extra entry in new-tree sequence")
 
100
            if old_tree.has_id(new_id):
 
101
                yield 'R', new_id, old_tree.id2path(new_id), new_name, new_kind
 
102
            else:
 
103
                yield 'A', new_id, None, new_name, new_kind
 
104
            new_item = next(new_it)
 
105
        elif old_id != new_id:
 
106
            assert old_name == new_name
 
107
            # both trees have a file of this name, but it is not the
 
108
            # same file.  in other words, the old filename has been
 
109
            # overwritten by either a newly-added or a renamed file.
 
110
            # (should we return something about the overwritten file?)
 
111
            if old_tree.has_id(new_id):
 
112
                # renaming, overlying a deleted file
 
113
                yield 'R', new_id, old_tree.id2path(new_id), new_name, new_kind
 
114
            else:
 
115
                yield 'A', new_id, None, new_name, new_kind
 
116
 
 
117
            new_item = next(new_it)
 
118
            old_item = next(old_it)
 
119
        else:
 
120
            assert old_id == new_id
 
121
            assert old_id != None
 
122
            assert old_name == new_name
 
123
            assert old_kind == new_kind
 
124
 
 
125
            if old_kind == 'directory':
 
126
                yield '.', new_id, old_name, new_name, new_kind
 
127
            elif old_tree.get_file_size(old_id) != new_tree.get_file_size(old_id):
 
128
                mutter("    file size has changed, must be different")
 
129
                yield 'M', new_id, old_name, new_name, new_kind
 
130
            elif old_tree.get_file_sha1(old_id) == new_tree.get_file_sha1(old_id):
 
131
                mutter("      SHA1 indicates they're identical")
 
132
                ## assert compare_files(old_tree.get_file(i), new_tree.get_file(i))
 
133
                yield '.', new_id, old_name, new_name, new_kind
 
134
            else:
 
135
                mutter("      quick compare shows different")
 
136
                yield 'M', new_id, old_name, new_name, new_kind
 
137
 
 
138
            new_item = next(new_it)
 
139
            old_item = next(old_it)
 
140
 
 
141
 
 
142
 
 
143
def show_diff(b, revision, file_list):
 
144
    import difflib, sys, types
 
145
    
 
146
    if revision == None:
 
147
        old_tree = b.basis_tree()
 
148
    else:
 
149
        old_tree = b.revision_tree(b.lookup_revision(revision))
 
150
        
 
151
    new_tree = b.working_tree()
 
152
 
 
153
    # TODO: Options to control putting on a prefix or suffix, perhaps as a format string
 
154
    old_label = ''
 
155
    new_label = ''
264
156
 
265
157
    DEVNULL = '/dev/null'
266
158
    # Windows users, don't panic about this filename -- it is a
270
162
    # TODO: Generation of pseudo-diffs for added/deleted files could
271
163
    # be usefully made into a much faster special case.
272
164
 
273
 
    _raise_if_doubly_unversioned(specific_files, old_tree, new_tree)
274
 
 
275
 
    if external_diff_options:
276
 
        assert isinstance(external_diff_options, basestring)
277
 
        opts = external_diff_options.split()
278
 
        def diff_file(olab, olines, nlab, nlines, to_file):
279
 
            external_diff(olab, olines, nlab, nlines, to_file, opts)
280
 
    else:
281
 
        diff_file = internal_diff
282
 
    
283
 
    delta = compare_trees(old_tree, new_tree, want_unchanged=False,
284
 
                          specific_files=specific_files)
285
 
 
286
 
    has_changes = 0
287
 
    for path, file_id, kind in delta.removed:
288
 
        has_changes = 1
289
 
        print >>to_file, '=== removed %s %r' % (kind, old_label + path)
290
 
        old_tree.inventory[file_id].diff(diff_file, old_label + path, old_tree,
291
 
                                         DEVNULL, None, None, to_file)
292
 
    for path, file_id, kind in delta.added:
293
 
        has_changes = 1
294
 
        print >>to_file, '=== added %s %r' % (kind, new_label + path)
295
 
        new_tree.inventory[file_id].diff(diff_file, new_label + path, new_tree,
296
 
                                         DEVNULL, None, None, to_file, 
297
 
                                         reverse=True)
298
 
    for (old_path, new_path, file_id, kind,
299
 
         text_modified, meta_modified) in delta.renamed:
300
 
        has_changes = 1
301
 
        prop_str = get_prop_change(meta_modified)
302
 
        print >>to_file, '=== renamed %s %r => %r%s' % (
303
 
                    kind, old_label + old_path, new_label + new_path, prop_str)
304
 
        _maybe_diff_file_or_symlink(old_label, old_path, old_tree, file_id,
305
 
                                    new_label, new_path, new_tree,
306
 
                                    text_modified, kind, to_file, diff_file)
307
 
    for path, file_id, kind, text_modified, meta_modified in delta.modified:
308
 
        has_changes = 1
309
 
        prop_str = get_prop_change(meta_modified)
310
 
        print >>to_file, '=== modified %s %r%s' % (kind, old_label + path,
311
 
                    prop_str)
312
 
        if text_modified:
313
 
            _maybe_diff_file_or_symlink(old_label, path, old_tree, file_id,
314
 
                                        new_label, path, new_tree,
315
 
                                        True, kind, to_file, diff_file)
316
 
 
317
 
    return has_changes
318
 
 
319
 
 
320
 
def _raise_if_doubly_unversioned(specific_files, old_tree, new_tree):
321
 
    """Complain if paths are not versioned in either tree."""
322
 
    if not specific_files:
323
 
        return
324
 
    old_unversioned = old_tree.filter_unversioned_files(specific_files)
325
 
    new_unversioned = new_tree.filter_unversioned_files(specific_files)
326
 
    unversioned = old_unversioned.intersection(new_unversioned)
327
 
    if unversioned:
328
 
        raise errors.PathsNotVersionedError(sorted(unversioned))
329
 
    
330
 
 
331
 
def _raise_if_nonexistent(paths, old_tree, new_tree):
332
 
    """Complain if paths are not in either inventory or tree.
333
 
 
334
 
    It's OK with the files exist in either tree's inventory, or 
335
 
    if they exist in the tree but are not versioned.
336
 
    
337
 
    This can be used by operations such as bzr status that can accept
338
 
    unknown or ignored files.
339
 
    """
340
 
    mutter("check paths: %r", paths)
341
 
    if not paths:
342
 
        return
343
 
    s = old_tree.filter_unversioned_files(paths)
344
 
    s = new_tree.filter_unversioned_files(s)
345
 
    s = [path for path in s if not new_tree.has_filename(path)]
346
 
    if s:
347
 
        raise errors.PathsDoNotExist(sorted(s))
348
 
 
349
 
 
350
 
def get_prop_change(meta_modified):
351
 
    if meta_modified:
352
 
        return " (properties changed)"
353
 
    else:
354
 
        return  ""
355
 
 
356
 
 
357
 
def _maybe_diff_file_or_symlink(old_label, old_path, old_tree, file_id,
358
 
                                new_label, new_path, new_tree, text_modified,
359
 
                                kind, to_file, diff_file):
360
 
    if text_modified:
361
 
        new_entry = new_tree.inventory[file_id]
362
 
        old_tree.inventory[file_id].diff(diff_file,
363
 
                                         old_label + old_path, old_tree,
364
 
                                         new_label + new_path, new_entry, 
365
 
                                         new_tree, to_file)
 
165
    # TODO: Better to return them in sorted order I think.
 
166
 
 
167
    if file_list:
 
168
        file_list = [b.relpath(f) for f in file_list]
 
169
 
 
170
    # FIXME: If given a file list, compare only those files rather
 
171
    # than comparing everything and then throwing stuff away.
 
172
    
 
173
    for file_state, fid, old_name, new_name, kind in diff_trees(old_tree, new_tree):
 
174
 
 
175
        if file_list and (new_name not in file_list):
 
176
            continue
 
177
        
 
178
        # Don't show this by default; maybe do it if an option is passed
 
179
        # idlabel = '      {%s}' % fid
 
180
        idlabel = ''
 
181
 
 
182
        # FIXME: Something about the diff format makes patch unhappy
 
183
        # with newly-added files.
 
184
 
 
185
        def diffit(oldlines, newlines, **kw):
 
186
            
 
187
            # FIXME: difflib is wrong if there is no trailing newline.
 
188
            # The syntax used by patch seems to be "\ No newline at
 
189
            # end of file" following the last diff line from that
 
190
            # file.  This is not trivial to insert into the
 
191
            # unified_diff output and it might be better to just fix
 
192
            # or replace that function.
 
193
 
 
194
            # In the meantime we at least make sure the patch isn't
 
195
            # mangled.
 
196
            
 
197
 
 
198
            # Special workaround for Python2.3, where difflib fails if
 
199
            # both sequences are empty.
 
200
            if not oldlines and not newlines:
 
201
                return
 
202
 
 
203
            nonl = False
 
204
 
 
205
            if oldlines and (oldlines[-1][-1] != '\n'):
 
206
                oldlines[-1] += '\n'
 
207
                nonl = True
 
208
            if newlines and (newlines[-1][-1] != '\n'):
 
209
                newlines[-1] += '\n'
 
210
                nonl = True
 
211
 
 
212
            ud = difflib.unified_diff(oldlines, newlines, **kw)
 
213
            sys.stdout.writelines(ud)
 
214
            if nonl:
 
215
                print "\\ No newline at end of file"
 
216
            sys.stdout.write('\n')
 
217
        
 
218
        if file_state in ['.', '?', 'I']:
 
219
            continue
 
220
        elif file_state == 'A':
 
221
            print '*** added %s %r' % (kind, new_name)
 
222
            if kind == 'file':
 
223
                diffit([],
 
224
                       new_tree.get_file(fid).readlines(),
 
225
                       fromfile=DEVNULL,
 
226
                       tofile=new_label + new_name + idlabel)
 
227
        elif file_state == 'D':
 
228
            assert isinstance(old_name, types.StringTypes)
 
229
            print '*** deleted %s %r' % (kind, old_name)
 
230
            if kind == 'file':
 
231
                diffit(old_tree.get_file(fid).readlines(), [],
 
232
                       fromfile=old_label + old_name + idlabel,
 
233
                       tofile=DEVNULL)
 
234
        elif file_state in ['M', 'R']:
 
235
            if file_state == 'M':
 
236
                assert kind == 'file'
 
237
                assert old_name == new_name
 
238
                print '*** modified %s %r' % (kind, new_name)
 
239
            elif file_state == 'R':
 
240
                print '*** renamed %s %r => %r' % (kind, old_name, new_name)
 
241
 
 
242
            if kind == 'file':
 
243
                diffit(old_tree.get_file(fid).readlines(),
 
244
                       new_tree.get_file(fid).readlines(),
 
245
                       fromfile=old_label + old_name + idlabel,
 
246
                       tofile=new_label + new_name)
 
247
        else:
 
248
            raise BzrError("can't represent state %s {%s}" % (file_state, fid))
 
249
 
 
250