~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/diff.py

  • Committer: John Arbash Meinel
  • Date: 2006-09-20 23:43:18 UTC
  • mto: This revision was merged to the branch mainline in revision 2027.
  • Revision ID: john@arbash-meinel.com-20060920234318-05de23e98f7e7876
Move out export tests from test_too_much, refactor
and re-enable doc tests for export.get_root_name()

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
#! /usr/bin/env python
2
 
# -*- coding: UTF-8 -*-
3
 
 
 
1
# Copyright (C) 2004, 2005, 2006 Canonical Ltd.
 
2
#
4
3
# This program is free software; you can redistribute it and/or modify
5
4
# it under the terms of the GNU General Public License as published by
6
5
# the Free Software Foundation; either version 2 of the License, or
7
6
# (at your option) any later version.
8
 
 
 
7
#
9
8
# This program is distributed in the hope that it will be useful,
10
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
11
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12
11
# GNU General Public License for more details.
13
 
 
 
12
#
14
13
# You should have received a copy of the GNU General Public License
15
14
# along with this program; if not, write to the Free Software
16
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
17
16
 
18
 
from bzrlib.trace import mutter
 
17
import errno
 
18
import os
 
19
import re
 
20
import subprocess
 
21
import sys
 
22
import tempfile
 
23
import time
 
24
 
 
25
from bzrlib import (
 
26
    errors,
 
27
    osutils,
 
28
    )
 
29
# compatability - plugins import compare_trees from diff!!!
 
30
# deprecated as of 0.10
 
31
from bzrlib.delta import compare_trees
19
32
from bzrlib.errors import BzrError
20
 
from bzrlib.delta import compare_trees
 
33
from bzrlib.patiencediff import unified_diff
 
34
import bzrlib.patiencediff
 
35
from bzrlib.symbol_versioning import (deprecated_function,
 
36
        zero_eight)
 
37
from bzrlib.textfile import check_text_lines
 
38
from bzrlib.trace import mutter, warning
 
39
 
21
40
 
22
41
# TODO: Rather than building a changeset object, we should probably
23
42
# invoke callbacks on an object.  That object can either accumulate a
24
43
# list, write them out directly, etc etc.
25
44
 
26
 
def internal_diff(old_label, oldlines, new_label, newlines, to_file):
27
 
    import difflib
28
 
    
 
45
def internal_diff(old_filename, oldlines, new_filename, newlines, to_file,
 
46
                  allow_binary=False, sequence_matcher=None,
 
47
                  path_encoding='utf8'):
29
48
    # FIXME: difflib is wrong if there is no trailing newline.
30
49
    # The syntax used by patch seems to be "\ No newline at
31
50
    # end of file" following the last diff line from that
41
60
    # both sequences are empty.
42
61
    if not oldlines and not newlines:
43
62
        return
44
 
 
45
 
    ud = difflib.unified_diff(oldlines, newlines,
46
 
                              fromfile=old_label, tofile=new_label)
47
 
 
 
63
    
 
64
    if allow_binary is False:
 
65
        check_text_lines(oldlines)
 
66
        check_text_lines(newlines)
 
67
 
 
68
    if sequence_matcher is None:
 
69
        sequence_matcher = bzrlib.patiencediff.PatienceSequenceMatcher
 
70
    ud = unified_diff(oldlines, newlines,
 
71
                      fromfile=old_filename.encode(path_encoding),
 
72
                      tofile=new_filename.encode(path_encoding),
 
73
                      sequencematcher=sequence_matcher)
 
74
 
 
75
    ud = list(ud)
48
76
    # work-around for difflib being too smart for its own good
49
77
    # if /dev/null is "1,0", patch won't recognize it as /dev/null
50
78
    if not oldlines:
51
 
        ud = list(ud)
52
79
        ud[2] = ud[2].replace('-1,0', '-0,0')
53
80
    elif not newlines:
54
 
        ud = list(ud)
55
81
        ud[2] = ud[2].replace('+1,0', '+0,0')
 
82
    # work around for difflib emitting random spaces after the label
 
83
    ud[0] = ud[0][:-2] + '\n'
 
84
    ud[1] = ud[1][:-2] + '\n'
56
85
 
57
86
    for line in ud:
58
87
        to_file.write(line)
61
90
    print >>to_file
62
91
 
63
92
 
64
 
 
65
 
 
66
 
def external_diff(old_label, oldlines, new_label, newlines, to_file,
 
93
def _set_lang_C():
 
94
    """Set the env var LANG=C"""
 
95
    osutils.set_or_unset_env('LANG', 'C')
 
96
    osutils.set_or_unset_env('LC_ALL', None)
 
97
    osutils.set_or_unset_env('LC_CTYPE', None)
 
98
    osutils.set_or_unset_env('LANGUAGE', None)
 
99
 
 
100
 
 
101
def _spawn_external_diff(diffcmd, capture_errors=True):
 
102
    """Spawn the externall diff process, and return the child handle.
 
103
 
 
104
    :param diffcmd: The command list to spawn
 
105
    :param capture_errors: Capture stderr as well as setting LANG=C.
 
106
        This lets us read and understand the output of diff, and respond 
 
107
        to any errors.
 
108
    :return: A Popen object.
 
109
    """
 
110
    if capture_errors:
 
111
        if sys.platform == 'win32':
 
112
            # Win32 doesn't support preexec_fn, but that is
 
113
            # okay, because it doesn't support LANG either.
 
114
            preexec_fn = None
 
115
        else:
 
116
            preexec_fn = _set_lang_C
 
117
        stderr = subprocess.PIPE
 
118
    else:
 
119
        preexec_fn = None
 
120
        stderr = None
 
121
 
 
122
    try:
 
123
        pipe = subprocess.Popen(diffcmd,
 
124
                                stdin=subprocess.PIPE,
 
125
                                stdout=subprocess.PIPE,
 
126
                                stderr=stderr,
 
127
                                preexec_fn=preexec_fn)
 
128
    except OSError, e:
 
129
        if e.errno == errno.ENOENT:
 
130
            raise errors.NoDiff(str(e))
 
131
        raise
 
132
 
 
133
    return pipe
 
134
 
 
135
 
 
136
def external_diff(old_filename, oldlines, new_filename, newlines, to_file,
67
137
                  diff_opts):
68
138
    """Display a diff by calling out to the external diff program."""
69
 
    import sys
70
 
    
71
 
    if to_file != sys.stdout:
72
 
        raise NotImplementedError("sorry, can't send external diff other than to stdout yet",
73
 
                                  to_file)
74
 
 
75
139
    # make sure our own output is properly ordered before the diff
76
140
    to_file.flush()
77
141
 
78
 
    from tempfile import NamedTemporaryFile
79
 
    import os
80
 
 
81
 
    oldtmpf = NamedTemporaryFile()
82
 
    newtmpf = NamedTemporaryFile()
 
142
    oldtmp_fd, old_abspath = tempfile.mkstemp(prefix='bzr-diff-old-')
 
143
    newtmp_fd, new_abspath = tempfile.mkstemp(prefix='bzr-diff-new-')
 
144
    oldtmpf = os.fdopen(oldtmp_fd, 'wb')
 
145
    newtmpf = os.fdopen(newtmp_fd, 'wb')
83
146
 
84
147
    try:
85
148
        # TODO: perhaps a special case for comparing to or from the empty
92
155
        oldtmpf.writelines(oldlines)
93
156
        newtmpf.writelines(newlines)
94
157
 
95
 
        oldtmpf.flush()
96
 
        newtmpf.flush()
 
158
        oldtmpf.close()
 
159
        newtmpf.close()
97
160
 
98
161
        if not diff_opts:
99
162
            diff_opts = []
100
163
        diffcmd = ['diff',
101
 
                   '--label', old_label,
102
 
                   oldtmpf.name,
103
 
                   '--label', new_label,
104
 
                   newtmpf.name]
 
164
                   '--label', old_filename,
 
165
                   old_abspath,
 
166
                   '--label', new_filename,
 
167
                   new_abspath,
 
168
                   '--binary',
 
169
                  ]
105
170
 
106
171
        # diff only allows one style to be specified; they don't override.
107
172
        # note that some of these take optargs, and the optargs can be
127
192
        if diff_opts:
128
193
            diffcmd.extend(diff_opts)
129
194
 
130
 
        rc = os.spawnvp(os.P_WAIT, 'diff', diffcmd)
 
195
        pipe = _spawn_external_diff(diffcmd, capture_errors=True)
 
196
        out,err = pipe.communicate()
 
197
        rc = pipe.returncode
131
198
        
132
 
        if rc != 0 and rc != 1:
 
199
        # internal_diff() adds a trailing newline, add one here for consistency
 
200
        out += '\n'
 
201
        if rc == 2:
 
202
            # 'diff' gives retcode == 2 for all sorts of errors
 
203
            # one of those is 'Binary files differ'.
 
204
            # Bad options could also be the problem.
 
205
            # 'Binary files' is not a real error, so we suppress that error.
 
206
            lang_c_out = out
 
207
 
 
208
            # Since we got here, we want to make sure to give an i18n error
 
209
            pipe = _spawn_external_diff(diffcmd, capture_errors=False)
 
210
            out, err = pipe.communicate()
 
211
 
 
212
            # Write out the new i18n diff response
 
213
            to_file.write(out+'\n')
 
214
            if pipe.returncode != 2:
 
215
                raise BzrError('external diff failed with exit code 2'
 
216
                               ' when run with LANG=C, but not when run'
 
217
                               ' natively: %r' % (diffcmd,))
 
218
 
 
219
            first_line = lang_c_out.split('\n', 1)[0]
 
220
            # Starting with diffutils 2.8.4 the word "binary" was dropped.
 
221
            m = re.match('^(binary )?files.*differ$', first_line, re.I)
 
222
            if m is None:
 
223
                raise BzrError('external diff failed with exit code 2;'
 
224
                               ' command: %r' % (diffcmd,))
 
225
            else:
 
226
                # Binary files differ, just return
 
227
                return
 
228
 
 
229
        # If we got to here, we haven't written out the output of diff
 
230
        # do so now
 
231
        to_file.write(out)
 
232
        if rc not in (0, 1):
133
233
            # returns 1 if files differ; that's OK
134
234
            if rc < 0:
135
235
                msg = 'signal %d' % (-rc)
136
236
            else:
137
237
                msg = 'exit code %d' % rc
138
238
                
139
 
            raise BzrError('external diff failed with %s; command: %r' % (rc, diffcmd))
 
239
            raise BzrError('external diff failed with %s; command: %r' 
 
240
                           % (rc, diffcmd))
 
241
 
 
242
 
140
243
    finally:
141
244
        oldtmpf.close()                 # and delete
142
245
        newtmpf.close()
143
 
    
144
 
 
145
 
 
146
 
def show_diff(b, revision, specific_files, external_diff_options=None,
147
 
              revision2=None):
 
246
        # Clean up. Warn in case the files couldn't be deleted
 
247
        # (in case windows still holds the file open, but not
 
248
        # if the files have already been deleted)
 
249
        try:
 
250
            os.remove(old_abspath)
 
251
        except OSError, e:
 
252
            if e.errno not in (errno.ENOENT,):
 
253
                warning('Failed to delete temporary file: %s %s',
 
254
                        old_abspath, e)
 
255
        try:
 
256
            os.remove(new_abspath)
 
257
        except OSError:
 
258
            if e.errno not in (errno.ENOENT,):
 
259
                warning('Failed to delete temporary file: %s %s',
 
260
                        new_abspath, e)
 
261
 
 
262
 
 
263
@deprecated_function(zero_eight)
 
264
def show_diff(b, from_spec, specific_files, external_diff_options=None,
 
265
              revision2=None, output=None, b2=None):
148
266
    """Shortcut for showing the diff to the working tree.
149
267
 
 
268
    Please use show_diff_trees instead.
 
269
 
150
270
    b
151
271
        Branch.
152
272
 
153
273
    revision
154
 
        None for each, or otherwise the old revision to compare against.
155
 
    
156
 
    The more general form is show_diff_trees(), where the caller
157
 
    supplies any two trees.
158
 
    """
159
 
    import sys
160
 
 
161
 
    if revision == None:
162
 
        old_tree = b.basis_tree()
163
 
    else:
164
 
        old_tree = b.revision_tree(b.lookup_revision(revision))
165
 
 
166
 
    if revision2 == None:
167
 
        new_tree = b.working_tree()
168
 
    else:
169
 
        new_tree = b.revision_tree(b.lookup_revision(revision2))
170
 
 
171
 
    show_diff_trees(old_tree, new_tree, sys.stdout, specific_files,
172
 
                    external_diff_options)
173
 
 
 
274
        None for 'basis tree', or otherwise the old revision to compare against.
 
275
    
 
276
    The more general form is show_diff_trees(), where the caller
 
277
    supplies any two trees.
 
278
    """
 
279
    if output is None:
 
280
        output = sys.stdout
 
281
 
 
282
    if from_spec is None:
 
283
        old_tree = b.bzrdir.open_workingtree()
 
284
        if b2 is None:
 
285
            old_tree = old_tree = old_tree.basis_tree()
 
286
    else:
 
287
        old_tree = b.repository.revision_tree(from_spec.in_history(b).rev_id)
 
288
 
 
289
    if revision2 is None:
 
290
        if b2 is None:
 
291
            new_tree = b.bzrdir.open_workingtree()
 
292
        else:
 
293
            new_tree = b2.bzrdir.open_workingtree()
 
294
    else:
 
295
        new_tree = b.repository.revision_tree(revision2.in_history(b).rev_id)
 
296
 
 
297
    return show_diff_trees(old_tree, new_tree, output, specific_files,
 
298
                           external_diff_options)
 
299
 
 
300
 
 
301
def diff_cmd_helper(tree, specific_files, external_diff_options, 
 
302
                    old_revision_spec=None, new_revision_spec=None,
 
303
                    old_label='a/', new_label='b/'):
 
304
    """Helper for cmd_diff.
 
305
 
 
306
   tree 
 
307
        A WorkingTree
 
308
 
 
309
    specific_files
 
310
        The specific files to compare, or None
 
311
 
 
312
    external_diff_options
 
313
        If non-None, run an external diff, and pass it these options
 
314
 
 
315
    old_revision_spec
 
316
        If None, use basis tree as old revision, otherwise use the tree for
 
317
        the specified revision. 
 
318
 
 
319
    new_revision_spec
 
320
        If None, use working tree as new revision, otherwise use the tree for
 
321
        the specified revision.
 
322
    
 
323
    The more general form is show_diff_trees(), where the caller
 
324
    supplies any two trees.
 
325
    """
 
326
    def spec_tree(spec):
 
327
        if tree:
 
328
            revision = spec.in_store(tree.branch)
 
329
        else:
 
330
            revision = spec.in_store(None)
 
331
        revision_id = revision.rev_id
 
332
        branch = revision.branch
 
333
        return branch.repository.revision_tree(revision_id)
 
334
    if old_revision_spec is None:
 
335
        old_tree = tree.basis_tree()
 
336
    else:
 
337
        old_tree = spec_tree(old_revision_spec)
 
338
 
 
339
    if new_revision_spec is None:
 
340
        new_tree = tree
 
341
    else:
 
342
        new_tree = spec_tree(new_revision_spec)
 
343
    if new_tree is not tree:
 
344
        extra_trees = (tree,)
 
345
    else:
 
346
        extra_trees = None
 
347
 
 
348
    return show_diff_trees(old_tree, new_tree, sys.stdout, specific_files,
 
349
                           external_diff_options,
 
350
                           old_label=old_label, new_label=new_label,
 
351
                           extra_trees=extra_trees)
174
352
 
175
353
 
176
354
def show_diff_trees(old_tree, new_tree, to_file, specific_files=None,
177
 
                    external_diff_options=None):
 
355
                    external_diff_options=None,
 
356
                    old_label='a/', new_label='b/',
 
357
                    extra_trees=None):
178
358
    """Show in text form the changes from one tree to another.
179
359
 
180
360
    to_files
182
362
 
183
363
    external_diff_options
184
364
        If set, use an external GNU diff and pass these options.
 
365
 
 
366
    extra_trees
 
367
        If set, more Trees to use for looking up file ids
185
368
    """
186
 
 
187
 
    # TODO: Options to control putting on a prefix or suffix, perhaps as a format string
188
 
    old_label = ''
189
 
    new_label = ''
190
 
 
191
 
    DEVNULL = '/dev/null'
192
 
    # Windows users, don't panic about this filename -- it is a
193
 
    # special signal to GNU patch that the file should be created or
194
 
    # deleted respectively.
 
369
    old_tree.lock_read()
 
370
    try:
 
371
        new_tree.lock_read()
 
372
        try:
 
373
            return _show_diff_trees(old_tree, new_tree, to_file,
 
374
                                    specific_files, external_diff_options,
 
375
                                    old_label=old_label, new_label=new_label,
 
376
                                    extra_trees=extra_trees)
 
377
        finally:
 
378
            new_tree.unlock()
 
379
    finally:
 
380
        old_tree.unlock()
 
381
 
 
382
 
 
383
def _show_diff_trees(old_tree, new_tree, to_file,
 
384
                     specific_files, external_diff_options, 
 
385
                     old_label='a/', new_label='b/', extra_trees=None):
 
386
 
 
387
    # GNU Patch uses the epoch date to detect files that are being added
 
388
    # or removed in a diff.
 
389
    EPOCH_DATE = '1970-01-01 00:00:00 +0000'
195
390
 
196
391
    # TODO: Generation of pseudo-diffs for added/deleted files could
197
392
    # be usefully made into a much faster special case.
204
399
    else:
205
400
        diff_file = internal_diff
206
401
    
207
 
 
208
 
    delta = compare_trees(old_tree, new_tree, want_unchanged=False,
209
 
                          specific_files=specific_files)
210
 
 
 
402
    delta = new_tree.changes_from(old_tree,
 
403
        specific_files=specific_files,
 
404
        extra_trees=extra_trees, require_versioned=True)
 
405
 
 
406
    has_changes = 0
211
407
    for path, file_id, kind in delta.removed:
212
 
        print >>to_file, '*** removed %s %r' % (kind, path)
213
 
        if kind == 'file':
214
 
            diff_file(old_label + path,
215
 
                      old_tree.get_file(file_id).readlines(),
216
 
                      DEVNULL, 
217
 
                      [],
218
 
                      to_file)
219
 
 
 
408
        has_changes = 1
 
409
        print >>to_file, '=== removed %s %r' % (kind, path.encode('utf8'))
 
410
        old_name = '%s%s\t%s' % (old_label, path,
 
411
                                 _patch_header_date(old_tree, file_id, path))
 
412
        new_name = '%s%s\t%s' % (new_label, path, EPOCH_DATE)
 
413
        old_tree.inventory[file_id].diff(diff_file, old_name, old_tree,
 
414
                                         new_name, None, None, to_file)
220
415
    for path, file_id, kind in delta.added:
221
 
        print >>to_file, '*** added %s %r' % (kind, path)
222
 
        if kind == 'file':
223
 
            diff_file(DEVNULL,
224
 
                      [],
225
 
                      new_label + path,
226
 
                      new_tree.get_file(file_id).readlines(),
227
 
                      to_file)
228
 
 
229
 
    for old_path, new_path, file_id, kind, text_modified in delta.renamed:
230
 
        print >>to_file, '*** renamed %s %r => %r' % (kind, old_path, new_path)
 
416
        has_changes = 1
 
417
        print >>to_file, '=== added %s %r' % (kind, path.encode('utf8'))
 
418
        old_name = '%s%s\t%s' % (old_label, path, EPOCH_DATE)
 
419
        new_name = '%s%s\t%s' % (new_label, path,
 
420
                                 _patch_header_date(new_tree, file_id, path))
 
421
        new_tree.inventory[file_id].diff(diff_file, new_name, new_tree,
 
422
                                         old_name, None, None, to_file, 
 
423
                                         reverse=True)
 
424
    for (old_path, new_path, file_id, kind,
 
425
         text_modified, meta_modified) in delta.renamed:
 
426
        has_changes = 1
 
427
        prop_str = get_prop_change(meta_modified)
 
428
        print >>to_file, '=== renamed %s %r => %r%s' % (
 
429
                    kind, old_path.encode('utf8'),
 
430
                    new_path.encode('utf8'), prop_str)
 
431
        old_name = '%s%s\t%s' % (old_label, old_path,
 
432
                                 _patch_header_date(old_tree, file_id,
 
433
                                                    old_path))
 
434
        new_name = '%s%s\t%s' % (new_label, new_path,
 
435
                                 _patch_header_date(new_tree, file_id,
 
436
                                                    new_path))
 
437
        _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
 
438
                                    new_name, new_tree,
 
439
                                    text_modified, kind, to_file, diff_file)
 
440
    for path, file_id, kind, text_modified, meta_modified in delta.modified:
 
441
        has_changes = 1
 
442
        prop_str = get_prop_change(meta_modified)
 
443
        print >>to_file, '=== modified %s %r%s' % (kind, path.encode('utf8'), prop_str)
 
444
        old_name = '%s%s\t%s' % (old_label, path,
 
445
                                 _patch_header_date(old_tree, file_id, path))
 
446
        new_name = '%s%s\t%s' % (new_label, path,
 
447
                                 _patch_header_date(new_tree, file_id, path))
231
448
        if text_modified:
232
 
            diff_file(old_label + old_path,
233
 
                      old_tree.get_file(file_id).readlines(),
234
 
                      new_label + new_path,
235
 
                      new_tree.get_file(file_id).readlines(),
236
 
                      to_file)
237
 
 
238
 
    for path, file_id, kind in delta.modified:
239
 
        print >>to_file, '*** modified %s %r' % (kind, path)
240
 
        if kind == 'file':
241
 
            diff_file(old_label + path,
242
 
                      old_tree.get_file(file_id).readlines(),
243
 
                      new_label + path,
244
 
                      new_tree.get_file(file_id).readlines(),
245
 
                      to_file)
246
 
 
247
 
 
248
 
 
249
 
 
250
 
 
 
449
            _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
 
450
                                        new_name, new_tree,
 
451
                                        True, kind, to_file, diff_file)
 
452
 
 
453
    return has_changes
 
454
 
 
455
 
 
456
def _patch_header_date(tree, file_id, path):
 
457
    """Returns a timestamp suitable for use in a patch header."""
 
458
    tm = time.gmtime(tree.get_file_mtime(file_id, path))
 
459
    return time.strftime('%Y-%m-%d %H:%M:%S +0000', tm)
 
460
 
 
461
 
 
462
def _raise_if_nonexistent(paths, old_tree, new_tree):
 
463
    """Complain if paths are not in either inventory or tree.
 
464
 
 
465
    It's OK with the files exist in either tree's inventory, or 
 
466
    if they exist in the tree but are not versioned.
 
467
    
 
468
    This can be used by operations such as bzr status that can accept
 
469
    unknown or ignored files.
 
470
    """
 
471
    mutter("check paths: %r", paths)
 
472
    if not paths:
 
473
        return
 
474
    s = old_tree.filter_unversioned_files(paths)
 
475
    s = new_tree.filter_unversioned_files(s)
 
476
    s = [path for path in s if not new_tree.has_filename(path)]
 
477
    if s:
 
478
        raise errors.PathsDoNotExist(sorted(s))
 
479
 
 
480
 
 
481
def get_prop_change(meta_modified):
 
482
    if meta_modified:
 
483
        return " (properties changed)"
 
484
    else:
 
485
        return  ""
 
486
 
 
487
 
 
488
def _maybe_diff_file_or_symlink(old_path, old_tree, file_id,
 
489
                                new_path, new_tree, text_modified,
 
490
                                kind, to_file, diff_file):
 
491
    if text_modified:
 
492
        new_entry = new_tree.inventory[file_id]
 
493
        old_tree.inventory[file_id].diff(diff_file,
 
494
                                         old_path, old_tree,
 
495
                                         new_path, new_entry, 
 
496
                                         new_tree, to_file)