← Back to branch summary

~abentley/bzrtools/bzrtools.dev

« back to all changes in this revision

Viewing changes to bzrtools.py

  • Committer: Aaron Bentley
  • Date: 2005-09-23 23:51:13 UTC
  • mto: This revision was merged to the branch mainline in revision 200.
  • Revision ID: aaron.bentley@utoronto.ca-20050923235113-2a97a0590cbca8c9
Added more file exclusions

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrtools.py
14
14
#    You should have received a copy of the GNU General Public License
15
15
#    along with this program; if not, write to the Free Software
16
16
#    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
17
 
import codecs
18
 
import errno
 
17
import bzrlib
 
18
import bzrlib.errors
19
19
import os
20
 
import re
 
20
import os.path
 
21
import sys
21
22
import tempfile
22
23
import shutil
23
24
from subprocess import Popen, PIPE
24
 
import sys
25
 
 
26
 
import bzrlib
27
 
import bzrlib.errors
28
 
from bzrlib.errors import (BzrCommandError, NotBranchError, NoSuchFile,
29
 
                           UnsupportedFormatError, TransportError, 
30
 
                           NoWorkingTree, PermissionDenied)
31
 
from bzrlib.bzrdir import BzrDir, BzrDirFormat
32
 
 
33
 
def temp_tree():
 
25
import codecs
 
26
 
 
27
def temp_branch():
34
28
    dirname = tempfile.mkdtemp("temp-branch")
35
 
    return BzrDir.create_standalone_workingtree(dirname)
36
 
 
37
 
def rm_tree(tree):
38
 
    shutil.rmtree(tree.basedir)
39
 
 
40
 
def is_clean(cur_tree):
 
29
    return bzrlib.branch.Branch.initialize(dirname)
 
30
 
 
31
def rm_branch(br):
 
32
    shutil.rmtree(br.base)
 
33
 
 
34
def is_clean(cur_branch):
41
35
    """
42
36
    Return true if no files are modifed or unknown
43
37
    >>> import bzrlib.add
44
 
    >>> tree = temp_tree()
45
 
    >>> is_clean(tree)
 
38
    >>> br = temp_branch()
 
39
    >>> is_clean(br)
46
40
    (True, [])
47
 
    >>> fooname = os.path.join(tree.basedir, "foo")
 
41
    >>> fooname = os.path.join(br.base, "foo")
48
42
    >>> file(fooname, "wb").write("bar")
49
 
    >>> is_clean(tree)
50
 
    (True, [u'foo'])
51
 
    >>> bzrlib.add.smart_add_tree(tree, [tree.basedir])
52
 
    ([u'foo'], {})
53
 
    >>> is_clean(tree)
 
43
    >>> is_clean(br)
 
44
    (True, ['foo'])
 
45
    >>> bzrlib.add.smart_add_branch(br, [br.base])
 
46
    1
 
47
    >>> is_clean(br)
54
48
    (False, [])
55
 
    >>> tree.commit("added file", rev_id='commit-id')
56
 
    'commit-id'
57
 
    >>> is_clean(tree)
 
49
    >>> br.commit("added file")
 
50
    added foo
 
51
    >>> is_clean(br)
58
52
    (True, [])
59
 
    >>> rm_tree(tree)
 
53
    >>> rm_branch(br)
60
54
    """
61
55
    from bzrlib.diff import compare_trees
62
 
    old_tree = cur_tree.basis_tree()
63
 
    new_tree = cur_tree
 
56
    old_tree = cur_branch.basis_tree()
 
57
    new_tree = cur_branch.working_tree()
64
58
    non_source = []
65
 
    for path, file_class, kind, file_id, entry in new_tree.list_files():
 
59
    for path, file_class, kind, file_id in new_tree.list_files():
66
60
        if file_class in ('?', 'I'):
67
61
            non_source.append(path)
68
62
    delta = compare_trees(old_tree, new_tree, want_unchanged=False)
69
 
    return not delta.has_changed(), non_source
70
 
 
71
 
def set_push_data(tree, location):
72
 
    tree.branch.control_files.put_utf8("x-push-data", "%s\n" % location)
73
 
 
74
 
def get_push_data(tree):
75
 
    """
76
 
    >>> tree = temp_tree()
77
 
    >>> get_push_data(tree) is None
 
63
    if len(delta.added) > 0 or len(delta.removed) > 0 or \
 
64
        len(delta.modified) > 0:
 
65
        return False, non_source
 
66
    return True, non_source 
 
67
 
 
68
def set_pull_data(br, location, rev_id):
 
69
    pull_file = file (br.controlfilename("x-pull-data"), "wb")
 
70
    pull_file.write("%s\n%s\n" % (location, rev_id))
 
71
 
 
72
def get_pull_data(br):
 
73
    """
 
74
    >>> br = temp_branch()
 
75
    >>> get_pull_data(br)
 
76
    (None, None)
 
77
    >>> set_pull_data(br, 'http://somewhere', '888-777')
 
78
    >>> get_pull_data(br)
 
79
    ('http://somewhere', '888-777')
 
80
    >>> rm_branch(br)
 
81
    """
 
82
    filename = br.controlfilename("x-pull-data")
 
83
    if not os.path.exists(filename):
 
84
        return (None, None)
 
85
    pull_file = file (filename, "rb")
 
86
    location, rev_id = [f.rstrip('\n') for f in pull_file]
 
87
    return location, rev_id
 
88
 
 
89
def set_push_data(br, location):
 
90
    push_file = file (br.controlfilename("x-push-data"), "wb")
 
91
    push_file.write("%s\n" % location)
 
92
 
 
93
def get_push_data(br):
 
94
    """
 
95
    >>> br = temp_branch()
 
96
    >>> get_push_data(br) is None
78
97
    True
79
 
    >>> set_push_data(tree, 'http://somewhere')
80
 
    >>> get_push_data(tree)
81
 
    u'http://somewhere'
82
 
    >>> rm_tree(tree)
 
98
    >>> set_push_data(br, 'http://somewhere')
 
99
    >>> get_push_data(br)
 
100
    'http://somewhere'
 
101
    >>> rm_branch(br)
83
102
    """
84
 
    try:
85
 
        location = tree.branch.control_files.get_utf8('x-push-data').read()
86
 
    except NoSuchFile:
 
103
    filename = br.controlfilename("x-push-data")
 
104
    if not os.path.exists(filename):
87
105
        return None
88
 
    return location.rstrip('\n')
 
106
    push_file = file (filename, "rb")
 
107
    (location,) = [f.rstrip('\n') for f in push_file]
 
108
    return location
89
109
 
90
110
"""
91
111
>>> shell_escape('hello')
109
129
    def __init__(self, status):
110
130
        Exception.__init__(self, "Unknown status: %d" % status)
111
131
 
112
 
class NoRsync(Exception):
113
 
    def __init__(self, rsync_name):
114
 
        Exception.__init__(self, "%s not found." % rsync_name)
115
 
 
116
 
def rsync(source, target, ssh=False, excludes=(), silent=False, 
117
 
          rsync_name="rsync"):
118
 
    """
119
 
    >>> new_dir = tempfile.mkdtemp()
120
 
    >>> old_dir = os.getcwd()
121
 
    >>> os.chdir(new_dir)
122
 
    >>> rsync("a", "b", silent=True)
123
 
    Traceback (most recent call last):
124
 
    RsyncNoFile: No such file...
125
 
    >>> rsync(new_dir + "/a", new_dir + "/b", excludes=("*.py",), silent=True)
126
 
    Traceback (most recent call last):
127
 
    RsyncNoFile: No such file...
128
 
    >>> rsync(new_dir + "/a", new_dir + "/b", excludes=("*.py",), silent=True, rsync_name="rsyncc")
129
 
    Traceback (most recent call last):
130
 
    NoRsync: rsyncc not found.
131
 
    >>> os.chdir(old_dir)
132
 
    >>> os.rmdir(new_dir)
133
 
    """
134
 
    cmd = [rsync_name, "-av", "--delete"]
 
132
def rsync(source, target, ssh=False, excludes=(), silent=False):
 
133
    """
 
134
    >>> real_system = os.system
 
135
    >>> os.system = sys.stdout.write
 
136
    >>> rsync("a", "b")
 
137
    ['rsync', '-av', '--delete', 'a', 'b']
 
138
    >>> rsync("a", "b", excludes=("*.py",))
 
139
    ['rsync', '-av', '--delete', '--exclude-from', '-', 'a', 'b']
 
140
    >>> os.system = real_system
 
141
    """
 
142
    cmd = ["rsync", "-av", "--delete"]
135
143
    if ssh:
136
144
        cmd.extend(('-e', 'ssh'))
137
145
    if len(excludes) > 0:
143
151
    else:
144
152
        stderr = None
145
153
        stdout = None
146
 
    try:
147
 
        proc = Popen(cmd, stdin=PIPE, stderr=stderr, stdout=stdout)
148
 
    except OSError, e:
149
 
        if e.errno == errno.ENOENT:
150
 
            raise NoRsync(rsync_name)
151
 
            
 
154
    proc = Popen(cmd, stdin=PIPE, stderr=stderr, stdout=stdout)
152
155
    proc.stdin.write('\n'.join(excludes)+'\n')
153
156
    proc.stdin.close()
154
157
    if silent:
157
160
        proc.stdout.read()
158
161
        proc.stdout.close()
159
162
    proc.wait()
160
 
    if proc.returncode == 12:
161
 
        raise RsyncStreamIO()
162
 
    elif proc.returncode == 23:
 
163
    if proc.returncode == 23:
163
164
        raise RsyncNoFile(source)
164
165
    elif proc.returncode != 0:
165
166
        raise RsyncUnknownStatus(proc.returncode)
182
183
        proc.stderr.read()
183
184
        proc.stderr.close()
184
185
    proc.wait()
185
 
    if proc.returncode == 12:
186
 
        raise RsyncStreamIO()
187
 
    elif proc.returncode == 23:
 
186
    if proc.returncode == 23:
188
187
        raise RsyncNoFile(source)
189
188
    elif proc.returncode != 0:
190
189
        raise RsyncUnknownStatus(proc.returncode)
191
190
    return [l.split(' ')[-1].rstrip('\n') for l in result.splitlines(True)]
192
191
 
193
 
exclusions = ('.bzr/x-push-data', '.bzr/branch/x-push/data', '.bzr/parent', 
194
 
              '.bzr/branch/parent', '.bzr/x-pull-data', '.bzr/x-pull',
195
 
              '.bzr/pull', '.bzr/stat-cache', '.bzr/x-rsync-data',
196
 
              '.bzr/basis-inventory', '.bzr/inventory.backup.weave')
 
192
exclusions = ('.bzr/x-push-data', '.bzr/parent', '.bzr/x-pull-data', 
 
193
              '.bzr/pull', '.bzr/stat-cache', '.bzr/x-rsync-data')
197
194
 
198
195
 
199
196
def read_revision_history(fname):
204
201
    def __init__(self, path):
205
202
        Exception.__init__(self, "No such file %s" % path)
206
203
 
207
 
class RsyncStreamIO(Exception):
208
 
    def __init__(self):
209
 
        Exception.__init__(self, "Error in rsync protocol data stream.")
210
 
 
211
204
def get_revision_history(location):
212
205
    tempdir = tempfile.mkdtemp('push')
213
206
    try:
214
207
        history_fname = os.path.join(tempdir, 'revision-history')
215
 
        try:
216
 
            cmd = rsync(location+'.bzr/revision-history', history_fname,
217
 
                        silent=True)
218
 
        except RsyncNoFile:
219
 
            cmd = rsync(location+'.bzr/branch/revision-history', history_fname,
220
 
                        silent=True)
 
208
        cmd = rsync(location+'.bzr/revision-history', history_fname,
 
209
                    silent=True)
221
210
        history = read_revision_history(history_fname)
222
211
    finally:
223
212
        shutil.rmtree(tempdir)
240
229
    except RsyncNoFile:
241
230
        return True
242
231
 
243
 
def rspush(tree, location=None, overwrite=False, working_tree=True):
244
 
    push_location = get_push_data(tree)
 
232
def push(cur_branch, location=None, overwrite=False):
 
233
    push_location = get_push_data(cur_branch)
245
234
    if location is not None:
246
235
        if not location.endswith('/'):
247
236
            location += '/'
248
237
        push_location = location
249
238
    
250
239
    if push_location is None:
251
 
        raise BzrCommandError("No rspush location known or specified.")
252
 
 
253
 
    if (push_location.find('://') != -1 or
254
 
        push_location.find(':') == -1):
255
 
        raise BzrCommandError("Invalid rsync path %r." % push_location)
256
 
 
257
 
    if working_tree:
258
 
        clean, non_source = is_clean(tree)
259
 
        if not clean:
260
 
            print """Error: This tree has uncommitted changes or unknown (?) files.
261
 
    Use "bzr status" to list them."""
262
 
            sys.exit(1)
263
 
        final_exclusions = non_source[:]
264
 
    else:
265
 
        wt = tree
266
 
        final_exclusions = []
267
 
        for path, status, kind, file_id, entry in wt.list_files():
268
 
            final_exclusions.append(path)
269
 
 
270
 
    final_exclusions.extend(exclusions)
 
240
        print "No push location saved.  Please specify one on the command line."
 
241
        sys.exit(1)
 
242
 
 
243
    clean, non_source = is_clean(cur_branch)
 
244
    if not clean:
 
245
        print """Error: This tree has uncommitted changes or unknown (?) files.
 
246
Use "bzr status" to list them."""
 
247
        sys.exit(1)
 
248
    non_source.extend(exclusions)
271
249
    if not overwrite:
272
250
        try:
273
 
            if not history_subset(push_location, tree.branch):
 
251
            if not history_subset(push_location, cur_branch):
274
252
                raise bzrlib.errors.BzrCommandError("Local branch is not a"
275
253
                                                    " newer version of remote"
276
254
                                                    " branch.")
279
257
                raise bzrlib.errors.BzrCommandError("Remote location is not a"
280
258
                                                    " bzr branch (or empty"
281
259
                                                    " directory)")
282
 
        except RsyncStreamIO:
283
 
            raise bzrlib.errors.BzrCommandError("Rsync could not use the"
284
 
                " specified location.  Please ensure that"
285
 
                ' "%s" is of the form "machine:/path".' % push_location)
286
260
    print "Pushing to %s" % push_location
287
 
    rsync(tree.basedir+'/', push_location, ssh=True, 
288
 
          excludes=final_exclusions)
289
 
 
290
 
    set_push_data(tree, push_location)
291
 
 
292
 
 
293
 
def short_committer(committer):
294
 
    new_committer = re.sub('<.*>', '', committer).strip(' ')
295
 
    if len(new_committer) < 2:
296
 
        return committer
297
 
    return new_committer
298
 
 
299
 
 
300
 
def apache_ls(t):
301
 
    """Screen-scrape Apache listings"""
302
 
    apache_dir = '<img border="0" src="/icons/folder.gif" alt="[dir]">'\
303
 
        ' <a href="'
304
 
    lines = t.get('.')
305
 
    expr = re.compile('<a[^>]*href="([^>]*)"[^>]*>', flags=re.I)
306
 
    for line in lines:
307
 
        match = expr.search(line)
308
 
        if match is None:
309
 
            continue
310
 
        url = match.group(1)
311
 
        if url.startswith('http://') or url.startswith('/') or '../' in url:
312
 
            continue
313
 
        if '?' in url:
314
 
            continue
315
 
        yield url.rstrip('/')
316
 
 
317
 
 
318
 
def iter_branches(t, lister=None):
319
 
    """Iterate through all the branches under a transport"""
320
 
    for bzrdir in iter_bzrdirs(t, lister):
321
 
        try:
322
 
            branch = bzrdir.open_branch()
323
 
            if branch.bzrdir is bzrdir:
324
 
                yield branch
325
 
        except (NotBranchError, UnsupportedFormatError):
326
 
            pass
327
 
 
328
 
 
329
 
def iter_branch_tree(t, lister=None):
330
 
    for bzrdir in iter_bzrdirs(t, lister):
331
 
        try:
332
 
            wt = bzrdir.open_workingtree()
333
 
            yield wt.branch, wt
334
 
        except NoWorkingTree, UnsupportedFormatError:
335
 
            try:
336
 
                branch = bzrdir.open_branch()
337
 
                if branch.bzrdir is bzrdir:
338
 
                    yield branch, None
339
 
            except (NotBranchError, UnsupportedFormatError):
340
 
                continue
341
 
 
342
 
 
343
 
def iter_bzrdirs(t, lister=None):
344
 
    if lister is None:
345
 
        def lister(t):
346
 
            return t.list_dir('.')
347
 
    try:
348
 
        bzrdir = bzrdir_from_transport(t)
349
 
        yield bzrdir
350
 
    except (NotBranchError, UnsupportedFormatError, TransportError,
351
 
            PermissionDenied):
352
 
        pass
353
 
    try:
354
 
        for directory in lister(t):
355
 
            if directory == ".bzr":
356
 
                continue
357
 
            try:
358
 
                subt = t.clone(directory)
359
 
            except UnicodeDecodeError:
360
 
                continue
361
 
            for bzrdir in iter_bzrdirs(subt, lister):
362
 
                yield bzrdir
363
 
    except (NoSuchFile, PermissionDenied, TransportError):
364
 
        pass
365
 
 
366
 
    
367
 
def bzrdir_from_transport(t):
368
 
    """Open a bzrdir from a transport (not a location)"""
369
 
    format = BzrDirFormat.find_format(t)
370
 
    BzrDir._check_supported(format, False)
371
 
    return format.open(t)
372
 
 
 
261
    rsync(cur_branch.base+'/', push_location, ssh=True, excludes=non_source)
 
262
 
 
263
    set_push_data(cur_branch, push_location)
373
264
 
374
265
def run_tests():
375
266
    import doctest