~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/diff.py

  • Committer: Martin Pool
  • Date: 2005-09-30 05:56:05 UTC
  • mto: (1185.14.2)
  • mto: This revision was merged to the branch mainline in revision 1396.
  • Revision ID: mbp@sourcefrog.net-20050930055605-a2c534529b392a7d
- fix upgrade for transport changes

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2004, 2005, 2006 Canonical Ltd.
2
 
#
 
1
# -*- coding: UTF-8 -*-
 
2
 
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
#
 
7
 
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
#
 
12
 
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
import os
18
 
import re
19
 
import sys
20
 
 
21
 
from bzrlib.lazy_import import lazy_import
22
 
lazy_import(globals(), """
23
 
import errno
24
 
import subprocess
25
 
import tempfile
26
 
import time
27
 
 
28
 
from bzrlib import (
29
 
    errors,
30
 
    osutils,
31
 
    patiencediff,
32
 
    textfile,
33
 
    )
34
 
""")
35
 
 
36
 
# compatability - plugins import compare_trees from diff!!!
37
 
# deprecated as of 0.10
 
17
from bzrlib.trace import mutter
 
18
from bzrlib.errors import BzrError
38
19
from bzrlib.delta import compare_trees
39
 
from bzrlib.symbol_versioning import (
40
 
        deprecated_function,
41
 
        zero_eight,
42
 
        )
43
 
from bzrlib.trace import mutter, warning
44
 
 
45
20
 
46
21
# TODO: Rather than building a changeset object, we should probably
47
22
# invoke callbacks on an object.  That object can either accumulate a
48
23
# list, write them out directly, etc etc.
49
24
 
50
 
def internal_diff(old_filename, oldlines, new_filename, newlines, to_file,
51
 
                  allow_binary=False, sequence_matcher=None,
52
 
                  path_encoding='utf8'):
 
25
def internal_diff(old_label, oldlines, new_label, newlines, to_file):
 
26
    import difflib
 
27
    
53
28
    # FIXME: difflib is wrong if there is no trailing newline.
54
29
    # The syntax used by patch seems to be "\ No newline at
55
30
    # end of file" following the last diff line from that
65
40
    # both sequences are empty.
66
41
    if not oldlines and not newlines:
67
42
        return
68
 
    
69
 
    if allow_binary is False:
70
 
        textfile.check_text_lines(oldlines)
71
 
        textfile.check_text_lines(newlines)
72
43
 
73
 
    if sequence_matcher is None:
74
 
        sequence_matcher = patiencediff.PatienceSequenceMatcher
75
 
    ud = patiencediff.unified_diff(oldlines, newlines,
76
 
                      fromfile=old_filename.encode(path_encoding),
77
 
                      tofile=new_filename.encode(path_encoding),
78
 
                      sequencematcher=sequence_matcher)
 
44
    ud = difflib.unified_diff(oldlines, newlines,
 
45
                              fromfile=old_label, tofile=new_label)
79
46
 
80
47
    ud = list(ud)
81
48
    # work-around for difflib being too smart for its own good
95
62
    print >>to_file
96
63
 
97
64
 
98
 
def _set_lang_C():
99
 
    """Set the env vars LANG=C and LC_ALL=C."""
100
 
    osutils.set_or_unset_env('LANG', 'C')
101
 
    osutils.set_or_unset_env('LC_ALL', 'C')
102
 
    osutils.set_or_unset_env('LC_CTYPE', None)
103
 
    osutils.set_or_unset_env('LANGUAGE', None)
104
 
 
105
 
 
106
 
def _spawn_external_diff(diffcmd, capture_errors=True):
107
 
    """Spawn the externall diff process, and return the child handle.
108
 
 
109
 
    :param diffcmd: The command list to spawn
110
 
    :param capture_errors: Capture stderr as well as setting LANG=C
111
 
        and LC_ALL=C. This lets us read and understand the output of diff,
112
 
        and respond to any errors.
113
 
    :return: A Popen object.
114
 
    """
115
 
    if capture_errors:
116
 
        if sys.platform == 'win32':
117
 
            # Win32 doesn't support preexec_fn, but that is
118
 
            # okay, because it doesn't support LANG and LC_ALL either.
119
 
            preexec_fn = None
120
 
        else:
121
 
            preexec_fn = _set_lang_C
122
 
        stderr = subprocess.PIPE
123
 
    else:
124
 
        preexec_fn = None
125
 
        stderr = None
126
 
 
127
 
    try:
128
 
        pipe = subprocess.Popen(diffcmd,
129
 
                                stdin=subprocess.PIPE,
130
 
                                stdout=subprocess.PIPE,
131
 
                                stderr=stderr,
132
 
                                preexec_fn=preexec_fn)
133
 
    except OSError, e:
134
 
        if e.errno == errno.ENOENT:
135
 
            raise errors.NoDiff(str(e))
136
 
        raise
137
 
 
138
 
    return pipe
139
 
 
140
 
 
141
 
def external_diff(old_filename, oldlines, new_filename, newlines, to_file,
 
65
 
 
66
 
 
67
def external_diff(old_label, oldlines, new_label, newlines, to_file,
142
68
                  diff_opts):
143
69
    """Display a diff by calling out to the external diff program."""
 
70
    import sys
 
71
    
 
72
    if to_file != sys.stdout:
 
73
        raise NotImplementedError("sorry, can't send external diff other than to stdout yet",
 
74
                                  to_file)
 
75
 
144
76
    # make sure our own output is properly ordered before the diff
145
77
    to_file.flush()
146
78
 
147
 
    oldtmp_fd, old_abspath = tempfile.mkstemp(prefix='bzr-diff-old-')
148
 
    newtmp_fd, new_abspath = tempfile.mkstemp(prefix='bzr-diff-new-')
149
 
    oldtmpf = os.fdopen(oldtmp_fd, 'wb')
150
 
    newtmpf = os.fdopen(newtmp_fd, 'wb')
 
79
    from tempfile import NamedTemporaryFile
 
80
    import os
 
81
 
 
82
    oldtmpf = NamedTemporaryFile()
 
83
    newtmpf = NamedTemporaryFile()
151
84
 
152
85
    try:
153
86
        # TODO: perhaps a special case for comparing to or from the empty
160
93
        oldtmpf.writelines(oldlines)
161
94
        newtmpf.writelines(newlines)
162
95
 
163
 
        oldtmpf.close()
164
 
        newtmpf.close()
 
96
        oldtmpf.flush()
 
97
        newtmpf.flush()
165
98
 
166
99
        if not diff_opts:
167
100
            diff_opts = []
168
101
        diffcmd = ['diff',
169
 
                   '--label', old_filename,
170
 
                   old_abspath,
171
 
                   '--label', new_filename,
172
 
                   new_abspath,
173
 
                   '--binary',
174
 
                  ]
 
102
                   '--label', old_label,
 
103
                   oldtmpf.name,
 
104
                   '--label', new_label,
 
105
                   newtmpf.name]
175
106
 
176
107
        # diff only allows one style to be specified; they don't override.
177
108
        # note that some of these take optargs, and the optargs can be
197
128
        if diff_opts:
198
129
            diffcmd.extend(diff_opts)
199
130
 
200
 
        pipe = _spawn_external_diff(diffcmd, capture_errors=True)
201
 
        out,err = pipe.communicate()
202
 
        rc = pipe.returncode
 
131
        rc = os.spawnvp(os.P_WAIT, 'diff', diffcmd)
203
132
        
204
 
        # internal_diff() adds a trailing newline, add one here for consistency
205
 
        out += '\n'
206
 
        if rc == 2:
207
 
            # 'diff' gives retcode == 2 for all sorts of errors
208
 
            # one of those is 'Binary files differ'.
209
 
            # Bad options could also be the problem.
210
 
            # 'Binary files' is not a real error, so we suppress that error.
211
 
            lang_c_out = out
212
 
 
213
 
            # Since we got here, we want to make sure to give an i18n error
214
 
            pipe = _spawn_external_diff(diffcmd, capture_errors=False)
215
 
            out, err = pipe.communicate()
216
 
 
217
 
            # Write out the new i18n diff response
218
 
            to_file.write(out+'\n')
219
 
            if pipe.returncode != 2:
220
 
                raise errors.BzrError(
221
 
                               'external diff failed with exit code 2'
222
 
                               ' when run with LANG=C and LC_ALL=C,'
223
 
                               ' but not when run natively: %r' % (diffcmd,))
224
 
 
225
 
            first_line = lang_c_out.split('\n', 1)[0]
226
 
            # Starting with diffutils 2.8.4 the word "binary" was dropped.
227
 
            m = re.match('^(binary )?files.*differ$', first_line, re.I)
228
 
            if m is None:
229
 
                raise errors.BzrError('external diff failed with exit code 2;'
230
 
                                      ' command: %r' % (diffcmd,))
231
 
            else:
232
 
                # Binary files differ, just return
233
 
                return
234
 
 
235
 
        # If we got to here, we haven't written out the output of diff
236
 
        # do so now
237
 
        to_file.write(out)
238
 
        if rc not in (0, 1):
 
133
        if rc != 0 and rc != 1:
239
134
            # returns 1 if files differ; that's OK
240
135
            if rc < 0:
241
136
                msg = 'signal %d' % (-rc)
242
137
            else:
243
138
                msg = 'exit code %d' % rc
244
139
                
245
 
            raise errors.BzrError('external diff failed with %s; command: %r' 
246
 
                                  % (rc, diffcmd))
247
 
 
248
 
 
 
140
            raise BzrError('external diff failed with %s; command: %r' % (rc, diffcmd))
249
141
    finally:
250
142
        oldtmpf.close()                 # and delete
251
143
        newtmpf.close()
252
 
        # Clean up. Warn in case the files couldn't be deleted
253
 
        # (in case windows still holds the file open, but not
254
 
        # if the files have already been deleted)
255
 
        try:
256
 
            os.remove(old_abspath)
257
 
        except OSError, e:
258
 
            if e.errno not in (errno.ENOENT,):
259
 
                warning('Failed to delete temporary file: %s %s',
260
 
                        old_abspath, e)
261
 
        try:
262
 
            os.remove(new_abspath)
263
 
        except OSError:
264
 
            if e.errno not in (errno.ENOENT,):
265
 
                warning('Failed to delete temporary file: %s %s',
266
 
                        new_abspath, e)
267
 
 
268
 
 
269
 
@deprecated_function(zero_eight)
270
 
def show_diff(b, from_spec, specific_files, external_diff_options=None,
271
 
              revision2=None, output=None, b2=None):
 
144
    
 
145
 
 
146
 
 
147
def show_diff(b, revision, specific_files, external_diff_options=None,
 
148
              revision2=None, output=None):
272
149
    """Shortcut for showing the diff to the working tree.
273
150
 
274
 
    Please use show_diff_trees instead.
275
 
 
276
151
    b
277
152
        Branch.
278
153
 
279
154
    revision
280
 
        None for 'basis tree', or otherwise the old revision to compare against.
 
155
        None for each, or otherwise the old revision to compare against.
281
156
    
282
157
    The more general form is show_diff_trees(), where the caller
283
158
    supplies any two trees.
284
159
    """
285
160
    if output is None:
 
161
        import sys
286
162
        output = sys.stdout
287
163
 
288
 
    if from_spec is None:
289
 
        old_tree = b.bzrdir.open_workingtree()
290
 
        if b2 is None:
291
 
            old_tree = old_tree = old_tree.basis_tree()
 
164
    if revision is None:
 
165
        old_tree = b.basis_tree()
292
166
    else:
293
 
        old_tree = b.repository.revision_tree(from_spec.in_history(b).rev_id)
 
167
        old_tree = b.revision_tree(revision.in_history(b).rev_id)
294
168
 
295
169
    if revision2 is None:
296
 
        if b2 is None:
297
 
            new_tree = b.bzrdir.open_workingtree()
298
 
        else:
299
 
            new_tree = b2.bzrdir.open_workingtree()
300
 
    else:
301
 
        new_tree = b.repository.revision_tree(revision2.in_history(b).rev_id)
302
 
 
303
 
    return show_diff_trees(old_tree, new_tree, output, specific_files,
304
 
                           external_diff_options)
305
 
 
306
 
 
307
 
def diff_cmd_helper(tree, specific_files, external_diff_options, 
308
 
                    old_revision_spec=None, new_revision_spec=None,
309
 
                    revision_specs=None,
310
 
                    old_label='a/', new_label='b/'):
311
 
    """Helper for cmd_diff.
312
 
 
313
 
    :param tree:
314
 
        A WorkingTree
315
 
 
316
 
    :param specific_files:
317
 
        The specific files to compare, or None
318
 
 
319
 
    :param external_diff_options:
320
 
        If non-None, run an external diff, and pass it these options
321
 
 
322
 
    :param old_revision_spec:
323
 
        If None, use basis tree as old revision, otherwise use the tree for
324
 
        the specified revision. 
325
 
 
326
 
    :param new_revision_spec:
327
 
        If None, use working tree as new revision, otherwise use the tree for
328
 
        the specified revision.
329
 
    
330
 
    :param revision_specs: 
331
 
        Zero, one or two RevisionSpecs from the command line, saying what revisions 
332
 
        to compare.  This can be passed as an alternative to the old_revision_spec 
333
 
        and new_revision_spec parameters.
334
 
 
335
 
    The more general form is show_diff_trees(), where the caller
336
 
    supplies any two trees.
337
 
    """
338
 
 
339
 
    # TODO: perhaps remove the old parameters old_revision_spec and
340
 
    # new_revision_spec, since this is only really for use from cmd_diff and
341
 
    # it now always passes through a sequence of revision_specs -- mbp
342
 
    # 20061221
343
 
 
344
 
    def spec_tree(spec):
345
 
        if tree:
346
 
            revision = spec.in_store(tree.branch)
347
 
        else:
348
 
            revision = spec.in_store(None)
349
 
        revision_id = revision.rev_id
350
 
        branch = revision.branch
351
 
        return branch.repository.revision_tree(revision_id)
352
 
 
353
 
    if revision_specs is not None:
354
 
        assert (old_revision_spec is None
355
 
                and new_revision_spec is None)
356
 
        if len(revision_specs) > 0:
357
 
            old_revision_spec = revision_specs[0]
358
 
        if len(revision_specs) > 1:
359
 
            new_revision_spec = revision_specs[1]
360
 
 
361
 
    if old_revision_spec is None:
362
 
        old_tree = tree.basis_tree()
363
 
    else:
364
 
        old_tree = spec_tree(old_revision_spec)
365
 
 
366
 
    if (new_revision_spec is None
367
 
        or new_revision_spec.spec is None):
368
 
        new_tree = tree
369
 
    else:
370
 
        new_tree = spec_tree(new_revision_spec)
371
 
 
372
 
    if new_tree is not tree:
373
 
        extra_trees = (tree,)
374
 
    else:
375
 
        extra_trees = None
376
 
 
377
 
    return show_diff_trees(old_tree, new_tree, sys.stdout, specific_files,
378
 
                           external_diff_options,
379
 
                           old_label=old_label, new_label=new_label,
380
 
                           extra_trees=extra_trees)
 
170
        new_tree = b.working_tree()
 
171
    else:
 
172
        new_tree = b.revision_tree(revision2.in_history(b).rev_id)
 
173
 
 
174
    show_diff_trees(old_tree, new_tree, output, specific_files,
 
175
                    external_diff_options)
 
176
 
381
177
 
382
178
 
383
179
def show_diff_trees(old_tree, new_tree, to_file, specific_files=None,
384
 
                    external_diff_options=None,
385
 
                    old_label='a/', new_label='b/',
386
 
                    extra_trees=None):
 
180
                    external_diff_options=None):
387
181
    """Show in text form the changes from one tree to another.
388
182
 
389
183
    to_files
391
185
 
392
186
    external_diff_options
393
187
        If set, use an external GNU diff and pass these options.
394
 
 
395
 
    extra_trees
396
 
        If set, more Trees to use for looking up file ids
397
188
    """
398
 
    old_tree.lock_read()
399
 
    try:
400
 
        new_tree.lock_read()
401
 
        try:
402
 
            return _show_diff_trees(old_tree, new_tree, to_file,
403
 
                                    specific_files, external_diff_options,
404
 
                                    old_label=old_label, new_label=new_label,
405
 
                                    extra_trees=extra_trees)
406
 
        finally:
407
 
            new_tree.unlock()
408
 
    finally:
409
 
        old_tree.unlock()
410
 
 
411
 
 
412
 
def _show_diff_trees(old_tree, new_tree, to_file,
413
 
                     specific_files, external_diff_options, 
414
 
                     old_label='a/', new_label='b/', extra_trees=None):
415
 
 
416
 
    # GNU Patch uses the epoch date to detect files that are being added
417
 
    # or removed in a diff.
418
 
    EPOCH_DATE = '1970-01-01 00:00:00 +0000'
 
189
 
 
190
    # TODO: Options to control putting on a prefix or suffix, perhaps as a format string
 
191
    old_label = ''
 
192
    new_label = ''
 
193
 
 
194
    DEVNULL = '/dev/null'
 
195
    # Windows users, don't panic about this filename -- it is a
 
196
    # special signal to GNU patch that the file should be created or
 
197
    # deleted respectively.
419
198
 
420
199
    # TODO: Generation of pseudo-diffs for added/deleted files could
421
200
    # be usefully made into a much faster special case.
428
207
    else:
429
208
        diff_file = internal_diff
430
209
    
431
 
    delta = new_tree.changes_from(old_tree,
432
 
        specific_files=specific_files,
433
 
        extra_trees=extra_trees, require_versioned=True)
434
 
 
435
 
    has_changes = 0
 
210
 
 
211
    delta = compare_trees(old_tree, new_tree, want_unchanged=False,
 
212
                          specific_files=specific_files)
 
213
 
436
214
    for path, file_id, kind in delta.removed:
437
 
        has_changes = 1
438
 
        print >>to_file, '=== removed %s %r' % (kind, path.encode('utf8'))
439
 
        old_name = '%s%s\t%s' % (old_label, path,
440
 
                                 _patch_header_date(old_tree, file_id, path))
441
 
        new_name = '%s%s\t%s' % (new_label, path, EPOCH_DATE)
442
 
        old_tree.inventory[file_id].diff(diff_file, old_name, old_tree,
443
 
                                         new_name, None, None, to_file)
 
215
        print >>to_file, '=== removed %s %r' % (kind, path)
 
216
        if kind == 'file':
 
217
            diff_file(old_label + path,
 
218
                      old_tree.get_file(file_id).readlines(),
 
219
                      DEVNULL, 
 
220
                      [],
 
221
                      to_file)
 
222
 
444
223
    for path, file_id, kind in delta.added:
445
 
        has_changes = 1
446
 
        print >>to_file, '=== added %s %r' % (kind, path.encode('utf8'))
447
 
        old_name = '%s%s\t%s' % (old_label, path, EPOCH_DATE)
448
 
        new_name = '%s%s\t%s' % (new_label, path,
449
 
                                 _patch_header_date(new_tree, file_id, path))
450
 
        new_tree.inventory[file_id].diff(diff_file, new_name, new_tree,
451
 
                                         old_name, None, None, to_file, 
452
 
                                         reverse=True)
453
 
    for (old_path, new_path, file_id, kind,
454
 
         text_modified, meta_modified) in delta.renamed:
455
 
        has_changes = 1
456
 
        prop_str = get_prop_change(meta_modified)
457
 
        print >>to_file, '=== renamed %s %r => %r%s' % (
458
 
                    kind, old_path.encode('utf8'),
459
 
                    new_path.encode('utf8'), prop_str)
460
 
        old_name = '%s%s\t%s' % (old_label, old_path,
461
 
                                 _patch_header_date(old_tree, file_id,
462
 
                                                    old_path))
463
 
        new_name = '%s%s\t%s' % (new_label, new_path,
464
 
                                 _patch_header_date(new_tree, file_id,
465
 
                                                    new_path))
466
 
        _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
467
 
                                    new_name, new_tree,
468
 
                                    text_modified, kind, to_file, diff_file)
469
 
    for path, file_id, kind, text_modified, meta_modified in delta.modified:
470
 
        has_changes = 1
471
 
        prop_str = get_prop_change(meta_modified)
472
 
        print >>to_file, '=== modified %s %r%s' % (kind, path.encode('utf8'), prop_str)
473
 
        old_name = '%s%s\t%s' % (old_label, path,
474
 
                                 _patch_header_date(old_tree, file_id, path))
475
 
        new_name = '%s%s\t%s' % (new_label, path,
476
 
                                 _patch_header_date(new_tree, file_id, path))
 
224
        print >>to_file, '=== added %s %r' % (kind, path)
 
225
        if kind == 'file':
 
226
            diff_file(DEVNULL,
 
227
                      [],
 
228
                      new_label + path,
 
229
                      new_tree.get_file(file_id).readlines(),
 
230
                      to_file)
 
231
 
 
232
    for old_path, new_path, file_id, kind, text_modified in delta.renamed:
 
233
        print >>to_file, '=== renamed %s %r => %r' % (kind, old_path, new_path)
477
234
        if text_modified:
478
 
            _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
479
 
                                        new_name, new_tree,
480
 
                                        True, kind, to_file, diff_file)
481
 
 
482
 
    return has_changes
483
 
 
484
 
 
485
 
def _patch_header_date(tree, file_id, path):
486
 
    """Returns a timestamp suitable for use in a patch header."""
487
 
    tm = time.gmtime(tree.get_file_mtime(file_id, path))
488
 
    return time.strftime('%Y-%m-%d %H:%M:%S +0000', tm)
489
 
 
490
 
 
491
 
def _raise_if_nonexistent(paths, old_tree, new_tree):
492
 
    """Complain if paths are not in either inventory or tree.
493
 
 
494
 
    It's OK with the files exist in either tree's inventory, or 
495
 
    if they exist in the tree but are not versioned.
496
 
    
497
 
    This can be used by operations such as bzr status that can accept
498
 
    unknown or ignored files.
499
 
    """
500
 
    mutter("check paths: %r", paths)
501
 
    if not paths:
502
 
        return
503
 
    s = old_tree.filter_unversioned_files(paths)
504
 
    s = new_tree.filter_unversioned_files(s)
505
 
    s = [path for path in s if not new_tree.has_filename(path)]
506
 
    if s:
507
 
        raise errors.PathsDoNotExist(sorted(s))
508
 
 
509
 
 
510
 
def get_prop_change(meta_modified):
511
 
    if meta_modified:
512
 
        return " (properties changed)"
513
 
    else:
514
 
        return  ""
515
 
 
516
 
 
517
 
def _maybe_diff_file_or_symlink(old_path, old_tree, file_id,
518
 
                                new_path, new_tree, text_modified,
519
 
                                kind, to_file, diff_file):
520
 
    if text_modified:
521
 
        new_entry = new_tree.inventory[file_id]
522
 
        old_tree.inventory[file_id].diff(diff_file,
523
 
                                         old_path, old_tree,
524
 
                                         new_path, new_entry, 
525
 
                                         new_tree, to_file)
 
235
            diff_file(old_label + old_path,
 
236
                      old_tree.get_file(file_id).readlines(),
 
237
                      new_label + new_path,
 
238
                      new_tree.get_file(file_id).readlines(),
 
239
                      to_file)
 
240
 
 
241
    for path, file_id, kind in delta.modified:
 
242
        print >>to_file, '=== modified %s %r' % (kind, path)
 
243
        if kind == 'file':
 
244
            diff_file(old_label + path,
 
245
                      old_tree.get_file(file_id).readlines(),
 
246
                      new_label + path,
 
247
                      new_tree.get_file(file_id).readlines(),
 
248
                      to_file)
 
249
 
 
250
 
 
251
 
 
252
 
 
253