~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to bzrlib/diff.py

- improved handling of non-ascii branch names and test
  patch from Joel Rosdahl

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2004, 2005, 2006 Canonical Ltd.
2
 
#
 
1
# -*- coding: UTF-8 -*-
 
2
 
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
#
 
7
 
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
#
 
12
 
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
import os
18
 
import re
19
 
import sys
20
 
 
21
 
from bzrlib.lazy_import import lazy_import
22
 
lazy_import(globals(), """
23
 
import errno
24
 
import subprocess
25
 
import tempfile
26
 
import time
27
 
 
28
 
from bzrlib import (
29
 
    errors,
30
 
    osutils,
31
 
    patiencediff,
32
 
    textfile,
33
 
    )
34
 
""")
35
 
 
36
 
# compatability - plugins import compare_trees from diff!!!
37
 
# deprecated as of 0.10
 
17
from bzrlib.trace import mutter
 
18
from bzrlib.errors import BzrError
38
19
from bzrlib.delta import compare_trees
39
 
from bzrlib.symbol_versioning import (
40
 
        deprecated_function,
41
 
        zero_eight,
42
 
        )
43
 
from bzrlib.trace import mutter, warning
44
 
 
45
20
 
46
21
# TODO: Rather than building a changeset object, we should probably
47
22
# invoke callbacks on an object.  That object can either accumulate a
48
23
# list, write them out directly, etc etc.
49
24
 
50
 
def internal_diff(old_filename, oldlines, new_filename, newlines, to_file,
51
 
                  allow_binary=False, sequence_matcher=None,
52
 
                  path_encoding='utf8'):
 
25
def internal_diff(old_label, oldlines, new_label, newlines, to_file):
 
26
    import difflib
 
27
    
53
28
    # FIXME: difflib is wrong if there is no trailing newline.
54
29
    # The syntax used by patch seems to be "\ No newline at
55
30
    # end of file" following the last diff line from that
65
40
    # both sequences are empty.
66
41
    if not oldlines and not newlines:
67
42
        return
68
 
    
69
 
    if allow_binary is False:
70
 
        textfile.check_text_lines(oldlines)
71
 
        textfile.check_text_lines(newlines)
72
43
 
73
 
    if sequence_matcher is None:
74
 
        sequence_matcher = patiencediff.PatienceSequenceMatcher
75
 
    ud = patiencediff.unified_diff(oldlines, newlines,
76
 
                      fromfile=old_filename.encode(path_encoding),
77
 
                      tofile=new_filename.encode(path_encoding),
78
 
                      sequencematcher=sequence_matcher)
 
44
    ud = difflib.unified_diff(oldlines, newlines,
 
45
                              fromfile=old_label, tofile=new_label)
79
46
 
80
47
    ud = list(ud)
81
48
    # work-around for difflib being too smart for its own good
95
62
    print >>to_file
96
63
 
97
64
 
98
 
def _set_lang_C():
99
 
    """Set the env vars LANG=C and LC_ALL=C."""
100
 
    osutils.set_or_unset_env('LANG', 'C')
101
 
    osutils.set_or_unset_env('LC_ALL', 'C')
102
 
    osutils.set_or_unset_env('LC_CTYPE', None)
103
 
    osutils.set_or_unset_env('LANGUAGE', None)
104
 
 
105
 
 
106
 
def _spawn_external_diff(diffcmd, capture_errors=True):
107
 
    """Spawn the externall diff process, and return the child handle.
108
 
 
109
 
    :param diffcmd: The command list to spawn
110
 
    :param capture_errors: Capture stderr as well as setting LANG=C
111
 
        and LC_ALL=C. This lets us read and understand the output of diff,
112
 
        and respond to any errors.
113
 
    :return: A Popen object.
114
 
    """
115
 
    if capture_errors:
116
 
        if sys.platform == 'win32':
117
 
            # Win32 doesn't support preexec_fn, but that is
118
 
            # okay, because it doesn't support LANG and LC_ALL either.
119
 
            preexec_fn = None
120
 
        else:
121
 
            preexec_fn = _set_lang_C
122
 
        stderr = subprocess.PIPE
123
 
    else:
124
 
        preexec_fn = None
125
 
        stderr = None
126
 
 
127
 
    try:
128
 
        pipe = subprocess.Popen(diffcmd,
129
 
                                stdin=subprocess.PIPE,
130
 
                                stdout=subprocess.PIPE,
131
 
                                stderr=stderr,
132
 
                                preexec_fn=preexec_fn)
133
 
    except OSError, e:
134
 
        if e.errno == errno.ENOENT:
135
 
            raise errors.NoDiff(str(e))
136
 
        raise
137
 
 
138
 
    return pipe
139
 
 
140
 
 
141
 
def external_diff(old_filename, oldlines, new_filename, newlines, to_file,
 
65
def external_diff(old_label, oldlines, new_label, newlines, to_file,
142
66
                  diff_opts):
143
67
    """Display a diff by calling out to the external diff program."""
 
68
    import sys
 
69
    
 
70
    if to_file != sys.stdout:
 
71
        raise NotImplementedError("sorry, can't send external diff other than to stdout yet",
 
72
                                  to_file)
 
73
 
144
74
    # make sure our own output is properly ordered before the diff
145
75
    to_file.flush()
146
76
 
147
 
    oldtmp_fd, old_abspath = tempfile.mkstemp(prefix='bzr-diff-old-')
148
 
    newtmp_fd, new_abspath = tempfile.mkstemp(prefix='bzr-diff-new-')
149
 
    oldtmpf = os.fdopen(oldtmp_fd, 'wb')
150
 
    newtmpf = os.fdopen(newtmp_fd, 'wb')
 
77
    from tempfile import NamedTemporaryFile
 
78
    import os
 
79
 
 
80
    oldtmpf = NamedTemporaryFile()
 
81
    newtmpf = NamedTemporaryFile()
151
82
 
152
83
    try:
153
84
        # TODO: perhaps a special case for comparing to or from the empty
160
91
        oldtmpf.writelines(oldlines)
161
92
        newtmpf.writelines(newlines)
162
93
 
163
 
        oldtmpf.close()
164
 
        newtmpf.close()
 
94
        oldtmpf.flush()
 
95
        newtmpf.flush()
165
96
 
166
97
        if not diff_opts:
167
98
            diff_opts = []
168
99
        diffcmd = ['diff',
169
 
                   '--label', old_filename,
170
 
                   old_abspath,
171
 
                   '--label', new_filename,
172
 
                   new_abspath,
173
 
                   '--binary',
174
 
                  ]
 
100
                   '--label', old_label,
 
101
                   oldtmpf.name,
 
102
                   '--label', new_label,
 
103
                   newtmpf.name]
175
104
 
176
105
        # diff only allows one style to be specified; they don't override.
177
106
        # note that some of these take optargs, and the optargs can be
197
126
        if diff_opts:
198
127
            diffcmd.extend(diff_opts)
199
128
 
200
 
        pipe = _spawn_external_diff(diffcmd, capture_errors=True)
201
 
        out,err = pipe.communicate()
202
 
        rc = pipe.returncode
 
129
        rc = os.spawnvp(os.P_WAIT, 'diff', diffcmd)
203
130
        
204
 
        # internal_diff() adds a trailing newline, add one here for consistency
205
 
        out += '\n'
206
 
        if rc == 2:
207
 
            # 'diff' gives retcode == 2 for all sorts of errors
208
 
            # one of those is 'Binary files differ'.
209
 
            # Bad options could also be the problem.
210
 
            # 'Binary files' is not a real error, so we suppress that error.
211
 
            lang_c_out = out
212
 
 
213
 
            # Since we got here, we want to make sure to give an i18n error
214
 
            pipe = _spawn_external_diff(diffcmd, capture_errors=False)
215
 
            out, err = pipe.communicate()
216
 
 
217
 
            # Write out the new i18n diff response
218
 
            to_file.write(out+'\n')
219
 
            if pipe.returncode != 2:
220
 
                raise errors.BzrError(
221
 
                               'external diff failed with exit code 2'
222
 
                               ' when run with LANG=C and LC_ALL=C,'
223
 
                               ' but not when run natively: %r' % (diffcmd,))
224
 
 
225
 
            first_line = lang_c_out.split('\n', 1)[0]
226
 
            # Starting with diffutils 2.8.4 the word "binary" was dropped.
227
 
            m = re.match('^(binary )?files.*differ$', first_line, re.I)
228
 
            if m is None:
229
 
                raise errors.BzrError('external diff failed with exit code 2;'
230
 
                                      ' command: %r' % (diffcmd,))
231
 
            else:
232
 
                # Binary files differ, just return
233
 
                return
234
 
 
235
 
        # If we got to here, we haven't written out the output of diff
236
 
        # do so now
237
 
        to_file.write(out)
238
 
        if rc not in (0, 1):
 
131
        if rc != 0 and rc != 1:
239
132
            # returns 1 if files differ; that's OK
240
133
            if rc < 0:
241
134
                msg = 'signal %d' % (-rc)
242
135
            else:
243
136
                msg = 'exit code %d' % rc
244
137
                
245
 
            raise errors.BzrError('external diff failed with %s; command: %r' 
246
 
                                  % (rc, diffcmd))
247
 
 
248
 
 
 
138
            raise BzrError('external diff failed with %s; command: %r' % (rc, diffcmd))
249
139
    finally:
250
140
        oldtmpf.close()                 # and delete
251
141
        newtmpf.close()
252
 
        # Clean up. Warn in case the files couldn't be deleted
253
 
        # (in case windows still holds the file open, but not
254
 
        # if the files have already been deleted)
255
 
        try:
256
 
            os.remove(old_abspath)
257
 
        except OSError, e:
258
 
            if e.errno not in (errno.ENOENT,):
259
 
                warning('Failed to delete temporary file: %s %s',
260
 
                        old_abspath, e)
261
 
        try:
262
 
            os.remove(new_abspath)
263
 
        except OSError:
264
 
            if e.errno not in (errno.ENOENT,):
265
 
                warning('Failed to delete temporary file: %s %s',
266
 
                        new_abspath, e)
267
 
 
268
 
 
269
 
@deprecated_function(zero_eight)
 
142
 
270
143
def show_diff(b, from_spec, specific_files, external_diff_options=None,
271
 
              revision2=None, output=None, b2=None):
 
144
              revision2=None, output=None):
272
145
    """Shortcut for showing the diff to the working tree.
273
146
 
274
 
    Please use show_diff_trees instead.
275
 
 
276
147
    b
277
148
        Branch.
278
149
 
283
154
    supplies any two trees.
284
155
    """
285
156
    if output is None:
 
157
        import sys
286
158
        output = sys.stdout
287
159
 
288
160
    if from_spec is None:
289
 
        old_tree = b.bzrdir.open_workingtree()
290
 
        if b2 is None:
291
 
            old_tree = old_tree = old_tree.basis_tree()
 
161
        old_tree = b.basis_tree()
292
162
    else:
293
 
        old_tree = b.repository.revision_tree(from_spec.in_history(b).rev_id)
 
163
        old_tree = b.revision_tree(from_spec.in_history(b).rev_id)
294
164
 
295
165
    if revision2 is None:
296
 
        if b2 is None:
297
 
            new_tree = b.bzrdir.open_workingtree()
298
 
        else:
299
 
            new_tree = b2.bzrdir.open_workingtree()
300
 
    else:
301
 
        new_tree = b.repository.revision_tree(revision2.in_history(b).rev_id)
302
 
 
303
 
    return show_diff_trees(old_tree, new_tree, output, specific_files,
304
 
                           external_diff_options)
305
 
 
306
 
 
307
 
def diff_cmd_helper(tree, specific_files, external_diff_options, 
308
 
                    old_revision_spec=None, new_revision_spec=None,
309
 
                    revision_specs=None,
310
 
                    old_label='a/', new_label='b/'):
311
 
    """Helper for cmd_diff.
312
 
 
313
 
    :param tree:
314
 
        A WorkingTree
315
 
 
316
 
    :param specific_files:
317
 
        The specific files to compare, or None
318
 
 
319
 
    :param external_diff_options:
320
 
        If non-None, run an external diff, and pass it these options
321
 
 
322
 
    :param old_revision_spec:
323
 
        If None, use basis tree as old revision, otherwise use the tree for
324
 
        the specified revision. 
325
 
 
326
 
    :param new_revision_spec:
327
 
        If None, use working tree as new revision, otherwise use the tree for
328
 
        the specified revision.
329
 
    
330
 
    :param revision_specs: 
331
 
        Zero, one or two RevisionSpecs from the command line, saying what revisions 
332
 
        to compare.  This can be passed as an alternative to the old_revision_spec 
333
 
        and new_revision_spec parameters.
334
 
 
335
 
    The more general form is show_diff_trees(), where the caller
336
 
    supplies any two trees.
337
 
    """
338
 
 
339
 
    # TODO: perhaps remove the old parameters old_revision_spec and
340
 
    # new_revision_spec, since this is only really for use from cmd_diff and
341
 
    # it now always passes through a sequence of revision_specs -- mbp
342
 
    # 20061221
343
 
 
344
 
    def spec_tree(spec):
345
 
        if tree:
346
 
            revision = spec.in_store(tree.branch)
347
 
        else:
348
 
            revision = spec.in_store(None)
349
 
        revision_id = revision.rev_id
350
 
        branch = revision.branch
351
 
        return branch.repository.revision_tree(revision_id)
352
 
 
353
 
    if revision_specs is not None:
354
 
        assert (old_revision_spec is None
355
 
                and new_revision_spec is None)
356
 
        if len(revision_specs) > 0:
357
 
            old_revision_spec = revision_specs[0]
358
 
        if len(revision_specs) > 1:
359
 
            new_revision_spec = revision_specs[1]
360
 
 
361
 
    if old_revision_spec is None:
362
 
        old_tree = tree.basis_tree()
363
 
    else:
364
 
        old_tree = spec_tree(old_revision_spec)
365
 
 
366
 
    if (new_revision_spec is None
367
 
        or new_revision_spec.spec is None):
368
 
        new_tree = tree
369
 
    else:
370
 
        new_tree = spec_tree(new_revision_spec)
371
 
 
372
 
    if new_tree is not tree:
373
 
        extra_trees = (tree,)
374
 
    else:
375
 
        extra_trees = None
376
 
 
377
 
    return show_diff_trees(old_tree, new_tree, sys.stdout, specific_files,
378
 
                           external_diff_options,
379
 
                           old_label=old_label, new_label=new_label,
380
 
                           extra_trees=extra_trees)
 
166
        new_tree = b.working_tree()
 
167
    else:
 
168
        new_tree = b.revision_tree(revision2.in_history(b).rev_id)
 
169
 
 
170
    show_diff_trees(old_tree, new_tree, output, specific_files,
 
171
                    external_diff_options)
 
172
 
381
173
 
382
174
 
383
175
def show_diff_trees(old_tree, new_tree, to_file, specific_files=None,
384
 
                    external_diff_options=None,
385
 
                    old_label='a/', new_label='b/',
386
 
                    extra_trees=None):
 
176
                    external_diff_options=None):
387
177
    """Show in text form the changes from one tree to another.
388
178
 
389
179
    to_files
391
181
 
392
182
    external_diff_options
393
183
        If set, use an external GNU diff and pass these options.
394
 
 
395
 
    extra_trees
396
 
        If set, more Trees to use for looking up file ids
397
184
    """
398
 
    old_tree.lock_read()
399
 
    try:
400
 
        new_tree.lock_read()
401
 
        try:
402
 
            return _show_diff_trees(old_tree, new_tree, to_file,
403
 
                                    specific_files, external_diff_options,
404
 
                                    old_label=old_label, new_label=new_label,
405
 
                                    extra_trees=extra_trees)
406
 
        finally:
407
 
            new_tree.unlock()
408
 
    finally:
409
 
        old_tree.unlock()
410
 
 
411
 
 
412
 
def _show_diff_trees(old_tree, new_tree, to_file,
413
 
                     specific_files, external_diff_options, 
414
 
                     old_label='a/', new_label='b/', extra_trees=None):
415
 
 
416
 
    # GNU Patch uses the epoch date to detect files that are being added
417
 
    # or removed in a diff.
418
 
    EPOCH_DATE = '1970-01-01 00:00:00 +0000'
 
185
 
 
186
    # TODO: Options to control putting on a prefix or suffix, perhaps as a format string
 
187
    old_label = ''
 
188
    new_label = ''
 
189
 
 
190
    DEVNULL = '/dev/null'
 
191
    # Windows users, don't panic about this filename -- it is a
 
192
    # special signal to GNU patch that the file should be created or
 
193
    # deleted respectively.
419
194
 
420
195
    # TODO: Generation of pseudo-diffs for added/deleted files could
421
196
    # be usefully made into a much faster special case.
428
203
    else:
429
204
        diff_file = internal_diff
430
205
    
431
 
    delta = new_tree.changes_from(old_tree,
432
 
        specific_files=specific_files,
433
 
        extra_trees=extra_trees, require_versioned=True)
434
 
 
435
 
    has_changes = 0
 
206
 
 
207
    delta = compare_trees(old_tree, new_tree, want_unchanged=False,
 
208
                          specific_files=specific_files)
 
209
 
436
210
    for path, file_id, kind in delta.removed:
437
 
        has_changes = 1
438
 
        print >>to_file, '=== removed %s %r' % (kind, path.encode('utf8'))
439
 
        old_name = '%s%s\t%s' % (old_label, path,
440
 
                                 _patch_header_date(old_tree, file_id, path))
441
 
        new_name = '%s%s\t%s' % (new_label, path, EPOCH_DATE)
442
 
        old_tree.inventory[file_id].diff(diff_file, old_name, old_tree,
443
 
                                         new_name, None, None, to_file)
 
211
        print >>to_file, '=== removed %s %r' % (kind, path)
 
212
        old_tree.inventory[file_id].diff(diff_file, old_label + path, old_tree,
 
213
                                         DEVNULL, None, None, to_file)
444
214
    for path, file_id, kind in delta.added:
445
 
        has_changes = 1
446
 
        print >>to_file, '=== added %s %r' % (kind, path.encode('utf8'))
447
 
        old_name = '%s%s\t%s' % (old_label, path, EPOCH_DATE)
448
 
        new_name = '%s%s\t%s' % (new_label, path,
449
 
                                 _patch_header_date(new_tree, file_id, path))
450
 
        new_tree.inventory[file_id].diff(diff_file, new_name, new_tree,
451
 
                                         old_name, None, None, to_file, 
 
215
        print >>to_file, '=== added %s %r' % (kind, path)
 
216
        new_tree.inventory[file_id].diff(diff_file, new_label + path, new_tree,
 
217
                                         DEVNULL, None, None, to_file, 
452
218
                                         reverse=True)
453
219
    for (old_path, new_path, file_id, kind,
454
220
         text_modified, meta_modified) in delta.renamed:
455
 
        has_changes = 1
456
221
        prop_str = get_prop_change(meta_modified)
457
222
        print >>to_file, '=== renamed %s %r => %r%s' % (
458
 
                    kind, old_path.encode('utf8'),
459
 
                    new_path.encode('utf8'), prop_str)
460
 
        old_name = '%s%s\t%s' % (old_label, old_path,
461
 
                                 _patch_header_date(old_tree, file_id,
462
 
                                                    old_path))
463
 
        new_name = '%s%s\t%s' % (new_label, new_path,
464
 
                                 _patch_header_date(new_tree, file_id,
465
 
                                                    new_path))
466
 
        _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
467
 
                                    new_name, new_tree,
 
223
                          kind, old_path, new_path, prop_str)
 
224
        _maybe_diff_file_or_symlink(old_label, old_path, old_tree, file_id,
 
225
                                    new_label, new_path, new_tree,
468
226
                                    text_modified, kind, to_file, diff_file)
469
227
    for path, file_id, kind, text_modified, meta_modified in delta.modified:
470
 
        has_changes = 1
471
228
        prop_str = get_prop_change(meta_modified)
472
 
        print >>to_file, '=== modified %s %r%s' % (kind, path.encode('utf8'), prop_str)
473
 
        old_name = '%s%s\t%s' % (old_label, path,
474
 
                                 _patch_header_date(old_tree, file_id, path))
475
 
        new_name = '%s%s\t%s' % (new_label, path,
476
 
                                 _patch_header_date(new_tree, file_id, path))
 
229
        print >>to_file, '=== modified %s %r%s' % (kind, path, prop_str)
477
230
        if text_modified:
478
 
            _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
479
 
                                        new_name, new_tree,
 
231
            _maybe_diff_file_or_symlink(old_label, path, old_tree, file_id,
 
232
                                        new_label, path, new_tree,
480
233
                                        True, kind, to_file, diff_file)
481
 
 
482
 
    return has_changes
483
 
 
484
 
 
485
 
def _patch_header_date(tree, file_id, path):
486
 
    """Returns a timestamp suitable for use in a patch header."""
487
 
    tm = time.gmtime(tree.get_file_mtime(file_id, path))
488
 
    return time.strftime('%Y-%m-%d %H:%M:%S +0000', tm)
489
 
 
490
 
 
491
 
def _raise_if_nonexistent(paths, old_tree, new_tree):
492
 
    """Complain if paths are not in either inventory or tree.
493
 
 
494
 
    It's OK with the files exist in either tree's inventory, or 
495
 
    if they exist in the tree but are not versioned.
496
234
    
497
 
    This can be used by operations such as bzr status that can accept
498
 
    unknown or ignored files.
499
 
    """
500
 
    mutter("check paths: %r", paths)
501
 
    if not paths:
502
 
        return
503
 
    s = old_tree.filter_unversioned_files(paths)
504
 
    s = new_tree.filter_unversioned_files(s)
505
 
    s = [path for path in s if not new_tree.has_filename(path)]
506
 
    if s:
507
 
        raise errors.PathsDoNotExist(sorted(s))
508
 
 
509
235
 
510
236
def get_prop_change(meta_modified):
511
237
    if meta_modified:
514
240
        return  ""
515
241
 
516
242
 
517
 
def _maybe_diff_file_or_symlink(old_path, old_tree, file_id,
518
 
                                new_path, new_tree, text_modified,
 
243
def _maybe_diff_file_or_symlink(old_label, old_path, old_tree, file_id,
 
244
                                new_label, new_path, new_tree, text_modified,
519
245
                                kind, to_file, diff_file):
520
246
    if text_modified:
521
247
        new_entry = new_tree.inventory[file_id]
522
248
        old_tree.inventory[file_id].diff(diff_file,
523
 
                                         old_path, old_tree,
524
 
                                         new_path, new_entry, 
 
249
                                         old_label + old_path, old_tree,
 
250
                                         new_label + new_path, new_entry, 
525
251
                                         new_tree, to_file)