~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to doc/developers/HACKING.txt

  • Committer: Martin Pool
  • Date: 2008-04-30 12:55:04 UTC
  • mto: This revision was merged to the branch mainline in revision 3404.
  • Revision ID: mbp@sourcefrog.net-20080430125504-82xdxgfirosev448
Deprecate LockableFiles.get_utf8

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
============================
2
 
Guidelines for modifying bzr
3
 
============================
 
1
======================
 
2
Bazaar Developer Guide
 
3
======================
 
4
 
 
5
This document describes the Bazaar internals and the development process.  
 
6
It's meant for people interested in developing Bazaar, and some parts will
 
7
also be useful to people developing Bazaar plugins.
 
8
 
 
9
If you have any questions or something seems to be incorrect, unclear or
 
10
missing, please talk to us in ``irc://irc.freenode.net/#bzr``, or write to
 
11
the Bazaar mailing list.  To propose a correction or addition to this
 
12
document, send a merge request or new text to the mailing list.
 
13
 
 
14
The current version of this document is available in the file 
 
15
``doc/developers/HACKING.txt`` in the source tree, or at
 
16
http://doc.bazaar-vcs.org/bzr.dev/en/developer-guide/HACKING.html
4
17
 
5
18
.. contents::
6
19
 
7
 
(The current version of this document is available in the file ``HACKING``
8
 
in the source tree, or at http://bazaar-ng.org/hacking.html)
9
 
 
10
 
Overall
11
 
=======
 
20
 
 
21
Getting Started
 
22
###############
 
23
 
 
24
Exploring the Bazaar Platform
 
25
=============================
 
26
 
 
27
Before making changes, it's a good idea to explore the work already
 
28
done by others. Perhaps the new feature or improvement you're looking
 
29
for is available in another plug-in already? If you find a bug,
 
30
perhaps someone else has already fixed it?
 
31
 
 
32
To answer these questions and more, take a moment to explore the
 
33
overall Bazaar Platform. Here are some links to browse:
 
34
 
 
35
* The Plugins page on the Wiki - http://bazaar-vcs.org/BzrPlugins
 
36
 
 
37
* The Bazaar product family on Launchpad - https://launchpad.net/bazaar
 
38
 
 
39
* Bug Tracker for the core product - https://bugs.launchpad.net/bzr/
 
40
 
 
41
* Blueprint Tracker for the core product - https://blueprints.launchpad.net/bzr/
 
42
 
 
43
If nothing else, perhaps you'll find inspiration in how other developers
 
44
have solved their challenges.
 
45
 
 
46
 
 
47
Planning and Discussing Changes
 
48
===============================
 
49
 
 
50
There is a very active community around Bazaar. Mostly we meet on IRC
 
51
(#bzr on irc.freenode.net) and on the mailing list. To join the Bazaar
 
52
community, see http://bazaar-vcs.org/BzrSupport.
 
53
 
 
54
If you are planning to make a change, it's a very good idea to mention it
 
55
on the IRC channel and/or on the mailing list. There are many advantages
 
56
to involving the community before you spend much time on a change.
 
57
These include:
 
58
 
 
59
* you get to build on the wisdom on others, saving time
 
60
 
 
61
* if others can direct you to similar code, it minimises the work to be done 
 
62
 
 
63
* it assists everyone in coordinating direction, priorities and effort.
 
64
 
 
65
In summary, maximising the input from others typically minimises the
 
66
total effort required to get your changes merged. The community is
 
67
friendly, helpful and always keen to welcome newcomers.
 
68
 
 
69
 
 
70
Bazaar Development in a Nutshell
 
71
================================
 
72
 
 
73
Looking for a 10 minute introduction to submitting a change?
 
74
See http://bazaar-vcs.org/BzrGivingBack.
 
75
 
 
76
TODO: Merge that Wiki page into this document.
 
77
 
 
78
 
 
79
Understanding the Development Process
 
80
=====================================
 
81
 
 
82
The development team follows many best-practices including:
 
83
 
 
84
* a public roadmap and planning process in which anyone can participate
 
85
 
 
86
* time based milestones everyone can work towards and plan around
 
87
 
 
88
* extensive code review and feedback to contributors
 
89
 
 
90
* complete and rigorous test coverage on any code contributed
 
91
 
 
92
* automated validation that all tests still pass before code is merged
 
93
  into the main code branch.
 
94
 
 
95
The key tools we use to enable these practices are:
 
96
 
 
97
* Launchpad - https://launchpad.net/
 
98
 
 
99
* Bazaar - http://bazaar-vcs.org/
 
100
 
 
101
* Bundle Buggy - http://bundlebuggy.aaronbentley.com/
 
102
 
 
103
* Patch Queue Manager - https://launchpad.net/pqm/
 
104
 
 
105
For further information, see http://bazaar-vcs.org/BzrDevelopment.
 
106
 
 
107
 
 
108
A Closer Look at the Merge & Review Process
 
109
===========================================
 
110
 
 
111
If you'd like to propose a change, please post to the
 
112
bazaar@lists.canonical.com list with a bundle, patch, or link to a
 
113
branch. Put '[PATCH]' or '[MERGE]' in the subject so Bundle Buggy
 
114
can pick it out, and explain the change in the email message text.
 
115
Remember to update the NEWS file as part of your change if it makes any
 
116
changes visible to users or plugin developers. Please include a diff
 
117
against mainline if you're giving a link to a branch.
 
118
 
 
119
You can generate a bundle like this::
 
120
 
 
121
  bzr bundle > mybundle.patch
 
122
  
 
123
A .patch extension is recommended instead of .bundle as many mail clients
 
124
will send the latter as a binary file. If a bundle would be too long or your
 
125
mailer mangles whitespace (e.g. implicitly converts Unix newlines to DOS
 
126
newlines), use the merge-directive command instead like this::
 
127
 
 
128
  bzr merge-directive http://bazaar-vcs.org http://example.org/my_branch > my_directive.patch
 
129
 
 
130
See the help for details on the arguments to merge-directive.
 
131
 
 
132
Please do **NOT** put [PATCH] or [MERGE] in the subject line if you don't
 
133
want it to be merged. If you want comments from developers rather than
 
134
to be merged, you can put '[RFC]' in the subject line.
 
135
 
 
136
Anyone is welcome to review code.  There are broadly three gates for
 
137
code to get in:
 
138
 
 
139
 * Doesn't reduce test coverage: if it adds new methods or commands,
 
140
   there should be tests for them.  There is a good test framework
 
141
   and plenty of examples to crib from, but if you are having trouble
 
142
   working out how to test something feel free to post a draft patch
 
143
   and ask for help.
 
144
 
 
145
 * Doesn't reduce design clarity, such as by entangling objects
 
146
   we're trying to separate.  This is mostly something the more
 
147
   experienced reviewers need to help check.
 
148
 
 
149
 * Improves bugs, features, speed, or code simplicity.
 
150
 
 
151
Code that goes in should pass all three. The core developers take care
 
152
to keep the code quality high and understandable while recognising that
 
153
perfect is sometimes the enemy of good. (It is easy for reviews to make
 
154
people notice other things which should be fixed but those things should
 
155
not hold up the original fix being accepted. New things can easily be
 
156
recorded in the Bug Tracker instead.)
 
157
 
 
158
Anyone can "vote" on the mailing list. Core developers can also vote using
 
159
Bundle Buggy. Here are the voting codes and their explanations.
 
160
 
 
161
:approve:  Reviewer wants this submission merged.
 
162
:tweak:    Reviewer wants this submission merged with small changes. (No
 
163
  re-review required.)
 
164
:abstain:  Reviewer does not intend to vote on this patch.
 
165
:resubmit: Please make changes and resubmit for review.
 
166
:reject:   Reviewer doesn't want this kind of change merged.
 
167
:comment:  Not really a vote. Reviewer just wants to comment, for now.
 
168
 
 
169
If a change gets two approvals from core reviewers, and no rejections,
 
170
then it's OK to come in.  Any of the core developers can bring it into the
 
171
bzr.dev trunk and backport it to maintenance branches if required.  The
 
172
Release Manager will merge the change into the branch for a pending
 
173
release, if any. As a guideline, core developers usually merge their own
 
174
changes and volunteer to merge other contributions if they were the second
 
175
reviewer to agree to a change.
 
176
 
 
177
To track the progress of proposed changes, use Bundle Buggy. See
 
178
http://bundlebuggy.aaronbentley.com/help for a link to all the
 
179
outstanding merge requests together with an explanation of the columns.
 
180
Bundle Buggy will also mail you a link to track just your change.
 
181
 
 
182
 
 
183
Preparing a Sandbox for Making Changes to Bazaar
 
184
================================================
 
185
 
 
186
Bazaar supports many ways of organising your work. See
 
187
http://bazaar-vcs.org/SharedRepositoryLayouts for a summary of the
 
188
popular alternatives.
 
189
 
 
190
Of course, the best choice for you will depend on numerous factors:
 
191
the number of changes you may be making, the complexity of the changes, etc.
 
192
As a starting suggestion though:
 
193
 
 
194
* create a local copy of the main development branch (bzr.dev) by using
 
195
  this command::
 
196
  
 
197
    bzr branch http://bazaar-vcs.org/bzr/bzr.dev/ bzr.dev
 
198
   
 
199
* keep your copy of bzr.dev prestine (by not developing in it) and keep
 
200
  it up to date (by using bzr pull)
 
201
 
 
202
* create a new branch off your local bzr.dev copy for each issue
 
203
  (bug or feature) you are working on.
 
204
 
 
205
This approach makes it easy to go back and make any required changes
 
206
after a code review. Resubmitting the change is then simple with no
 
207
risk of accidentially including edits related to other issues you may
 
208
be working on. After the changes for an issue are accepted and merged,
 
209
the associated branch can be deleted or archived as you wish.
 
210
 
 
211
 
 
212
Navigating the Code Base
 
213
========================
 
214
 
 
215
TODO: List and describe in one line the purpose of each directory
 
216
inside an installation of bzr.
 
217
 
 
218
TODO: Refer to a central location holding an up to date copy of the API
 
219
documentation generated by epydoc, e.g. something like
 
220
http://starship.python.net/crew/mwh/bzrlibapi/bzrlib.html.
 
221
 
 
222
 
 
223
Testing Bazaar
 
224
##############
 
225
 
 
226
The Importance of Testing
 
227
=========================
 
228
 
 
229
Reliability is a critical success factor for any Version Control System.
 
230
We want Bazaar to be highly reliable across multiple platforms while
 
231
evolving over time to meet the needs of its community. 
 
232
 
 
233
In a nutshell, this is want we expect and encourage:
12
234
 
13
235
* New functionality should have test cases.  Preferably write the
14
236
  test before writing the code.
15
237
 
16
238
  In general, you can test at either the command-line level or the
17
 
  internal API level.  See Writing Tests below for more detail.
 
239
  internal API level.  See Writing tests below for more detail.
18
240
 
19
 
* Try to practice Test-Driven Development.  before fixing a bug, write a
 
241
* Try to practice Test-Driven Development: before fixing a bug, write a
20
242
  test case so that it does not regress.  Similarly for adding a new
21
243
  feature: write a test case for a small version of the new feature before
22
244
  starting on the code itself.  Check the test fails on the old code, then
23
245
  add the feature or fix and check it passes.
24
246
 
25
 
* Exceptions should be defined inside bzrlib.errors, so that we can
26
 
  see the whole tree at a glance.
27
 
 
28
 
* Imports should be done at the top-level of the file, unless there is
29
 
  a strong reason to have them lazily loaded when a particular
30
 
  function runs.  Import statements have a cost, so try to make sure
31
 
  they don't run inside hot functions.
32
 
 
33
 
* Module names should always be given fully-qualified,
34
 
  i.e. ``bzrlib.hashcache`` not just ``hashcache``.
35
 
 
36
 
* Commands should return non-zero when they encounter circumstances that
37
 
  the user should really pay attention to - which includes trivial shell
38
 
  pipelines.
39
 
 
40
 
  Recommended values are 
41
 
    0- OK, 
42
 
    1- Conflicts in merge-like operations, or changes are present in
43
 
       diff-like operations. 
44
 
    2- Unrepresentable diff changes (i.e. binary files that we cannot show 
45
 
       a diff of).
46
 
    3- An error or exception has occurred.
47
 
 
48
 
Evolving interfaces
49
 
-------------------
 
247
By doing these things, the Bazaar team gets increased confidence that
 
248
changes do what they claim to do, whether provided by the core team or
 
249
by community members. Equally importantly, we can be surer that changes
 
250
down the track do not break new features or bug fixes that you are
 
251
contributing today.
 
252
 
 
253
As of May 2007, Bazaar ships with a test suite containing over 6000 tests
 
254
and growing. We are proud of it and want to remain so. As community
 
255
members, we all benefit from it. Would you trust version control on
 
256
your project to a product *without* a test suite like Bazaar has?
 
257
 
 
258
 
 
259
Running the Test Suite
 
260
======================
 
261
 
 
262
Currently, bzr selftest is used to invoke tests.
 
263
You can provide a pattern argument to run a subset. For example, 
 
264
to run just the blackbox tests, run::
 
265
 
 
266
  ./bzr selftest -v blackbox
 
267
 
 
268
To skip a particular test (or set of tests), use the --exclude option
 
269
(shorthand -x) like so::
 
270
 
 
271
  ./bzr selftest -v -x blackbox  
 
272
 
 
273
To ensure that all tests are being run and succeeding, you can use the
 
274
--strict option which will fail if there are any missing features or known
 
275
failures, like so::
 
276
 
 
277
  ./bzr selftest --strict
 
278
 
 
279
To list tests without running them, use the --list-only option like so::
 
280
 
 
281
  ./bzr selftest --list-only
 
282
 
 
283
This option can be combined with other selftest options (like -x) and
 
284
filter patterns to understand their effect.
 
285
 
 
286
 
 
287
Writing Tests
 
288
=============
 
289
 
 
290
In general tests should be placed in a file named test_FOO.py where 
 
291
FOO is the logical thing under test. That file should be placed in the
 
292
tests subdirectory under the package being tested.
 
293
 
 
294
For example, tests for merge3 in bzrlib belong in bzrlib/tests/test_merge3.py.
 
295
See bzrlib/tests/test_sampler.py for a template test script.
 
296
 
 
297
Tests can be written for the UI or for individual areas of the library.
 
298
Choose whichever is appropriate: if adding a new command, or a new command 
 
299
option, then you should be writing a UI test.  If you are both adding UI
 
300
functionality and library functionality, you will want to write tests for 
 
301
both the UI and the core behaviours.  We call UI tests 'blackbox' tests
 
302
and they are found in ``bzrlib/tests/blackbox/*.py``. 
 
303
 
 
304
When writing blackbox tests please honour the following conventions:
 
305
 
 
306
 1. Place the tests for the command 'name' in
 
307
    bzrlib/tests/blackbox/test_name.py. This makes it easy for developers
 
308
    to locate the test script for a faulty command.
 
309
 
 
310
 2. Use the 'self.run_bzr("name")' utility function to invoke the command
 
311
    rather than running bzr in a subprocess or invoking the
 
312
    cmd_object.run() method directly. This is a lot faster than
 
313
    subprocesses and generates the same logging output as running it in a
 
314
    subprocess (which invoking the method directly does not).
 
315
 
 
316
 3. Only test the one command in a single test script. Use the bzrlib 
 
317
    library when setting up tests and when evaluating the side-effects of
 
318
    the command. We do this so that the library api has continual pressure
 
319
    on it to be as functional as the command line in a simple manner, and
 
320
    to isolate knock-on effects throughout the blackbox test suite when a
 
321
    command changes its name or signature. Ideally only the tests for a
 
322
    given command are affected when a given command is changed.
 
323
 
 
324
 4. If you have a test which does actually require running bzr in a
 
325
    subprocess you can use ``run_bzr_subprocess``. By default the spawned
 
326
    process will not load plugins unless ``--allow-plugins`` is supplied.
 
327
 
 
328
 
 
329
Doctests
 
330
--------
 
331
 
 
332
We make selective use of doctests__.  In general they should provide 
 
333
*examples* within the API documentation which can incidentally be tested.  We 
 
334
don't try to test every important case using doctests -- regular Python
 
335
tests are generally a better solution.
 
336
 
 
337
Most of these are in ``bzrlib/doc/api``.  More additions are welcome.
 
338
 
 
339
  __ http://docs.python.org/lib/module-doctest.html
 
340
 
 
341
 
 
342
Skipping tests and test requirements
 
343
------------------------------------
 
344
 
 
345
In our enhancements to unittest we allow for some addition results beyond
 
346
just success or failure.
 
347
 
 
348
If a test can't be run, it can say that it's skipped.  This is typically
 
349
used in parameterized tests - for example if a transport doesn't support
 
350
setting permissions, we'll skip the tests that relating to that.  ::
 
351
 
 
352
    try:
 
353
        return self.branch_format.initialize(repo.bzrdir)
 
354
    except errors.UninitializableFormat:
 
355
        raise tests.TestSkipped('Uninitializable branch format')
 
356
 
 
357
Raising TestSkipped is a good idea when you want to make it clear that the
 
358
test was not run, rather than just returning which makes it look as if it
 
359
was run and passed.
 
360
 
 
361
Several different cases are distinguished:
 
362
 
 
363
TestSkipped
 
364
        Generic skip; the only type that was present up to bzr 0.18.
 
365
 
 
366
TestNotApplicable
 
367
        The test doesn't apply to the parameters with which it was run.
 
368
        This is typically used when the test is being applied to all
 
369
        implementations of an interface, but some aspects of the interface
 
370
        are optional and not present in particular concrete
 
371
        implementations.  (Some tests that should raise this currently
 
372
        either silently return or raise TestSkipped.)  Another option is
 
373
        to use more precise parameterization to avoid generating the test
 
374
        at all.
 
375
 
 
376
TestPlatformLimit
 
377
        **(Not implemented yet)**
 
378
        The test can't be run because of an inherent limitation of the
 
379
        environment, such as not having symlinks or not supporting
 
380
        unicode.
 
381
 
 
382
UnavailableFeature
 
383
        The test can't be run because a dependency (typically a Python
 
384
        library) is not available in the test environment.  These
 
385
        are in general things that the person running the test could fix 
 
386
        by installing the library.  It's OK if some of these occur when 
 
387
        an end user runs the tests or if we're specifically testing in a
 
388
        limited environment, but a full test should never see them.
 
389
 
 
390
KnownFailure
 
391
        The test exists but is known to fail, for example because the 
 
392
        code to fix it hasn't been run yet.  Raising this allows 
 
393
        you to distinguish these failures from the ones that are not 
 
394
        expected to fail.  This could be conditionally raised if something
 
395
        is broken on some platforms but not on others.
 
396
 
 
397
We plan to support three modes for running the test suite to control the
 
398
interpretation of these results.  Strict mode is for use in situations
 
399
like merges to the mainline and releases where we want to make sure that
 
400
everything that can be tested has been tested.  Lax mode is for use by
 
401
developers who want to temporarily tolerate some known failures.  The
 
402
default behaviour is obtained by ``bzr selftest`` with no options, and
 
403
also (if possible) by running under another unittest harness.
 
404
 
 
405
======================= ======= ======= ========
 
406
result                  strict  default lax
 
407
======================= ======= ======= ========
 
408
TestSkipped             pass    pass    pass
 
409
TestNotApplicable       pass    pass    pass
 
410
TestPlatformLimit       pass    pass    pass
 
411
TestDependencyMissing   fail    pass    pass
 
412
KnownFailure            fail    pass    pass
 
413
======================= ======= ======= ========
 
414
     
 
415
 
 
416
Test feature dependencies
 
417
-------------------------
 
418
 
 
419
Rather than manually checking the environment in each test, a test class
 
420
can declare its dependence on some test features.  The feature objects are
 
421
checked only once for each run of the whole test suite.
 
422
 
 
423
For historical reasons, as of May 2007 many cases that should depend on
 
424
features currently raise TestSkipped.)
 
425
 
 
426
::
 
427
 
 
428
    class TestStrace(TestCaseWithTransport):
 
429
 
 
430
        _test_needs_features = [StraceFeature]
 
431
 
 
432
This means all tests in this class need the feature.  The feature itself
 
433
should provide a ``_probe`` method which is called once to determine if
 
434
it's available.
 
435
 
 
436
These should generally be equivalent to either TestDependencyMissing or
 
437
sometimes TestPlatformLimit.
 
438
 
 
439
 
 
440
Known failures
 
441
--------------
 
442
 
 
443
Known failures are when a test exists but we know it currently doesn't
 
444
work, allowing the test suite to still pass.  These should be used with
 
445
care, we don't want a proliferation of quietly broken tests.  It might be
 
446
appropriate to use them if you've committed a test for a bug but not the
 
447
fix for it, or if something works on Unix but not on Windows.
 
448
 
 
449
 
 
450
Testing exceptions and errors
 
451
-----------------------------
 
452
 
 
453
It's important to test handling of errors and exceptions.  Because this
 
454
code is often not hit in ad-hoc testing it can often have hidden bugs --
 
455
it's particularly common to get NameError because the exception code
 
456
references a variable that has since been renamed.
 
457
 
 
458
.. TODO: Something about how to provoke errors in the right way?
 
459
 
 
460
In general we want to test errors at two levels:
 
461
 
 
462
1. A test in ``test_errors.py`` checking that when the exception object is
 
463
   constructed with known parameters it produces an expected string form.
 
464
   This guards against mistakes in writing the format string, or in the
 
465
   ``str`` representations of its parameters.  There should be one for
 
466
   each exception class.
 
467
 
 
468
2. Tests that when an api is called in a particular situation, it raises
 
469
   an error of the expected class.  You should typically use
 
470
   ``assertRaises``, which in the Bazaar test suite returns the exception
 
471
   object to allow you to examine its parameters.  
 
472
 
 
473
In some cases blackbox tests will also want to check error reporting.  But
 
474
it can be difficult to provoke every error through the commandline
 
475
interface, so those tests are only done as needed -- eg in response to a
 
476
particular bug or if the error is reported in an unusual way(?)  Blackbox
 
477
tests should mostly be testing how the command-line interface works, so
 
478
should only test errors if there is something particular to the cli in how
 
479
they're displayed or handled.
 
480
 
 
481
 
 
482
Testing warnings
 
483
----------------
 
484
 
 
485
The Python ``warnings`` module is used to indicate a non-fatal code
 
486
problem.  Code that's expected to raise a warning can be tested through
 
487
callCatchWarnings.
 
488
 
 
489
The test suite can be run with ``-Werror`` to check no unexpected errors
 
490
occur.
 
491
 
 
492
However, warnings should be used with discretion.  It's not an appropriate
 
493
way to give messages to the user, because the warning is normally shown
 
494
only once per source line that causes the problem.  You should also think
 
495
about whether the warning is serious enought that it should be visible to
 
496
users who may not be able to fix it.
 
497
 
 
498
 
 
499
Interface implementation testing and test scenarios
 
500
---------------------------------------------------
 
501
 
 
502
There are several cases in Bazaar of multiple implementations of a common 
 
503
conceptual interface.  ("Conceptual" because 
 
504
it's not necessary for all the implementations to share a base class,
 
505
though they often do.)  Examples include transports and the working tree,
 
506
branch and repository classes. 
 
507
 
 
508
In these cases we want to make sure that every implementation correctly
 
509
fulfils the interface requirements.  For example, every Transport should
 
510
support the ``has()`` and ``get()`` and ``clone()`` methods.  We have a
 
511
sub-suite of tests in ``test_transport_implementations``.  (Most
 
512
per-implementation tests are in submodules of ``bzrlib.tests``, but not
 
513
the transport tests at the moment.)  
 
514
 
 
515
These tests are repeated for each registered Transport, by generating a
 
516
new TestCase instance for the cross product of test methods and transport
 
517
implementations.  As each test runs, it has ``transport_class`` and
 
518
``transport_server`` set to the class it should test.  Most tests don't
 
519
access these directly, but rather use ``self.get_transport`` which returns
 
520
a transport of the appropriate type.
 
521
 
 
522
The goal is to run per-implementation only tests that relate to that
 
523
particular interface.  Sometimes we discover a bug elsewhere that happens
 
524
with only one particular transport.  Once it's isolated, we can consider 
 
525
whether a test should be added for that particular implementation,
 
526
or for all implementations of the interface.
 
527
 
 
528
The multiplication of tests for different implementations is normally 
 
529
accomplished by overriding the ``test_suite`` function used to load 
 
530
tests from a module.  This function typically loads all the tests,
 
531
then applies a TestProviderAdapter to them, which generates a longer 
 
532
suite containing all the test variations.
 
533
 
 
534
 
 
535
Test scenarios
 
536
--------------
 
537
 
 
538
Some utilities are provided for generating variations of tests.  This can
 
539
be used for per-implementation tests, or other cases where the same test
 
540
code needs to run several times on different scenarios.
 
541
 
 
542
The general approach is to define a class that provides test methods,
 
543
which depend on attributes of the test object being pre-set with the
 
544
values to which the test should be applied.  The test suite should then
 
545
also provide a list of scenarios in which to run the tests.
 
546
 
 
547
Typically ``multiply_tests_from_modules`` should be called from the test
 
548
module's ``test_suite`` function.
 
549
 
 
550
 
 
551
Essential Domain Classes
 
552
########################
 
553
 
 
554
Introducing the Object Model
 
555
============================
 
556
 
 
557
The core domain objects within the bazaar model are:
 
558
 
 
559
* Transport
 
560
 
 
561
* Branch
 
562
 
 
563
* Repository
 
564
 
 
565
* WorkingTree
 
566
 
 
567
Transports are explained below. See http://bazaar-vcs.org/Classes/
 
568
for an introduction to the other key classes.
 
569
 
 
570
Using Transports
 
571
================
 
572
 
 
573
The ``Transport`` layer handles access to local or remote directories.
 
574
Each Transport object acts like a logical connection to a particular
 
575
directory, and it allows various operations on files within it.  You can
 
576
*clone* a transport to get a new Transport connected to a subdirectory or
 
577
parent directory.
 
578
 
 
579
Transports are not used for access to the working tree.  At present
 
580
working trees are always local and they are accessed through the regular
 
581
Python file io mechanisms.
 
582
 
 
583
Filenames vs URLs
 
584
-----------------
 
585
 
 
586
Transports work in URLs.  Take note that URLs are by definition only
 
587
ASCII - the decision of how to encode a Unicode string into a URL must be
 
588
taken at a higher level, typically in the Store.  (Note that Stores also
 
589
escape filenames which cannot be safely stored on all filesystems, but
 
590
this is a different level.)
 
591
 
 
592
The main reason for this is that it's not possible to safely roundtrip a
 
593
URL into Unicode and then back into the same URL.  The URL standard
 
594
gives a way to represent non-ASCII bytes in ASCII (as %-escapes), but
 
595
doesn't say how those bytes represent non-ASCII characters.  (They're not
 
596
guaranteed to be UTF-8 -- that is common but doesn't happen everywhere.)
 
597
 
 
598
For example if the user enters the url ``http://example/%e0`` there's no
 
599
way to tell whether that character represents "latin small letter a with
 
600
grave" in iso-8859-1, or "latin small letter r with acute" in iso-8859-2
 
601
or malformed UTF-8.  So we can't convert their URL to Unicode reliably.
 
602
 
 
603
Equally problematic if we're given a url-like string containing non-ascii
 
604
characters (such as the accented a) we can't be sure how to convert that
 
605
to the correct URL, because we don't know what encoding the server expects
 
606
for those characters.  (Although this is not totally reliable we might still
 
607
accept these and assume they should be put into UTF-8.)
 
608
 
 
609
A similar edge case is that the url ``http://foo/sweet%2Fsour`` contains
 
610
one directory component whose name is "sweet/sour".  The escaped slash is
 
611
not a directory separator.  If we try to convert URLs to regular Unicode
 
612
paths this information will be lost.
 
613
 
 
614
This implies that Transports must natively deal with URLs; for simplicity
 
615
they *only* deal with URLs and conversion of other strings to URLs is done
 
616
elsewhere.  Information they return, such as from ``list_dir``, is also in
 
617
the form of URL components.
 
618
 
 
619
 
 
620
Core Topics
 
621
###########
 
622
 
 
623
Evolving Interfaces
 
624
===================
50
625
 
51
626
We have a commitment to 6 months API stability - any supported symbol in a
52
627
release of bzr MUST NOT be altered in any way that would result in
56
631
applies to modules and classes.
57
632
 
58
633
If you wish to change the behaviour of a supported API in an incompatible
59
 
way, you need to change its name as well. For instance, if I add a optional keyword
 
634
way, you need to change its name as well. For instance, if I add an optional keyword
60
635
parameter to branch.commit - that's fine. On the other hand, if I add a
61
636
keyword parameter to branch.commit which is a *required* transaction
62
637
object, I should rename the API - i.e. to 'branch.commit_transaction'. 
67
642
details for you - such as updating the docstring, and issuing a warning
68
643
when the old api is used.
69
644
 
70
 
For unsupported API's, it does not hurt to follow this discipline, but its
 
645
For unsupported API's, it does not hurt to follow this discipline, but it's
71
646
not required. Minimally though, please try to rename things so that
72
647
callers will at least get an AttributeError rather than weird results.
73
648
 
74
649
 
75
 
Standard parameter types
76
 
------------------------
77
 
 
78
 
There are some common requirements in the library: some parameters need to be
79
 
unicode safe, some need byte strings, and so on. At the moment we have
80
 
only codified one specific pattern: Parameters that need to be unicode
81
 
should be check via 'bzrlib.osutils.safe_unicode'. This will coerce the
82
 
input into unicode in a consistent fashion, allowing trivial strings to be
83
 
used for programmer convenience, but not performing unpredictably in the
84
 
presence of different locales.
85
 
 
86
 
Documentation
87
 
=============
88
 
 
89
 
If you change the behaviour of a command, please update its docstring
90
 
in bzrlib/commands.py.  This is displayed by the 'bzr help' command.
91
 
 
92
 
NEWS file
93
 
---------
94
 
 
95
 
If you make a user-visible change, please add a note to the NEWS file.
96
 
The description should be written to make sense to someone who's just
97
 
a user of bzr, not a developer: new functions or classes shouldn't be
98
 
mentioned, but new commands, changes in behaviour or fixed nontrivial
99
 
bugs should be listed.  See the existing entries for an idea of what
100
 
should be done.
101
 
 
102
 
Within each release, entries in the news file should have the most
103
 
user-visible changes first.  So the order should be approximately:
104
 
 
105
 
 * changes to existing behaviour - the highest priority because the 
106
 
   user's existing knowledge is incorrect
107
 
 * new features - should be brought to their attention
108
 
 * bug fixes - may be of interest if the bug was affecting them, and
109
 
   should include the bug number if any
110
 
 * major documentation changes
111
 
 * changes to internal interfaces
112
 
 
113
 
People who made significant contributions to each change are listed in
114
 
parenthesis.  This can include reporting bugs (particularly with good
115
 
details or reproduction recipes), submitting patches, etc.
116
 
 
117
 
API documentation
118
 
-----------------
119
 
 
120
 
Functions, methods, classes and modules should have docstrings
121
 
describing how they are used. 
122
 
 
123
 
The first line of the docstring should be a self-contained sentence.
124
 
 
125
 
For the special case of Command classes, this acts as the user-visible
126
 
documentation shown by the help command.
127
 
 
128
 
The docstrings should be formatted as reStructuredText_ (like this
129
 
document), suitable for processing using the epydoc_ tool into HTML
130
 
documentation.
131
 
 
132
 
.. _reStructuredText: http://docutils.sourceforge.net/rst.html
133
 
.. _epydoc: http://epydoc.sourceforge.net/
134
 
 
135
 
 
136
 
 
137
 
Coding style
138
 
============
 
650
Deprecation decorators
 
651
----------------------
 
652
 
 
653
``bzrlib.symbol_versioning`` provides decorators that can be attached to
 
654
methods, functions, and other interfaces to indicate that they should no
 
655
longer be used.
 
656
 
 
657
To deprecate a static method you must call ``deprecated_function``
 
658
(**not** method), after the staticmethod call::
 
659
 
 
660
    @staticmethod
 
661
    @deprecated_function(zero_ninetyone)
 
662
    def create_repository(base, shared=False, format=None):
 
663
 
 
664
When you deprecate an API, you should not just delete its tests, because
 
665
then we might introduce bugs in them.  If the API is still present at all,
 
666
it should still work.  The basic approach is to use
 
667
``TestCase.applyDeprecated`` which in one step checks that the API gives
 
668
the expected deprecation message, and also returns the real result from
 
669
the method, so that tests can keep running.
 
670
 
 
671
Coding Style Guidelines
 
672
=======================
 
673
 
 
674
General Python rules
 
675
--------------------
 
676
 
 
677
``hasattr`` should not be used because it swallows exceptions including
 
678
``KeyboardInterrupt``.  Instead, say something like ::
 
679
 
 
680
  if getattr(thing, 'name', None) is None
 
681
 
 
682
 
 
683
Code layout
 
684
-----------
139
685
 
140
686
Please write PEP-8__ compliant code.  
141
687
 
 
688
__ http://www.python.org/peps/pep-0008.html
 
689
 
142
690
One often-missed requirement is that the first line of docstrings
143
691
should be a self-contained one-sentence summary.
144
692
 
145
 
__ http://www.python.org/peps/pep-0008.html
146
 
 
 
693
We use 4 space indents for blocks, and never use tab characters.  (In vim,
 
694
``set expandtab``.)
 
695
 
 
696
Lines should be no more than 79 characters if at all possible.
 
697
Lines that continue a long statement may be indented in either of 
 
698
two ways:
 
699
 
 
700
within the parenthesis or other character that opens the block, e.g.::
 
701
 
 
702
    my_long_method(arg1,
 
703
                   arg2,
 
704
                   arg3)
 
705
 
 
706
or indented by four spaces::
 
707
 
 
708
    my_long_method(arg1,
 
709
        arg2,
 
710
        arg3)
 
711
 
 
712
The first is considered clearer by some people; however it can be a bit
 
713
harder to maintain (e.g. when the method name changes), and it does not
 
714
work well if the relevant parenthesis is already far to the right.  Avoid
 
715
this::
 
716
 
 
717
     self.legbone.kneebone.shinbone.toebone.shake_it(one,
 
718
                                                     two,
 
719
                                                     three)
 
720
 
 
721
but rather ::
 
722
 
 
723
     self.legbone.kneebone.shinbone.toebone.shake_it(one,
 
724
         two,
 
725
         three)
 
726
 
 
727
or ::
 
728
 
 
729
     self.legbone.kneebone.shinbone.toebone.shake_it(
 
730
         one, two, three)
 
731
 
 
732
For long lists, we like to add a trailing comma and put the closing
 
733
character on the following line.  This makes it easier to add new items in
 
734
future::
 
735
 
 
736
    from bzrlib.goo import (
 
737
        jam,
 
738
        jelly,
 
739
        marmalade,
 
740
        )
 
741
 
 
742
There should be spaces between function paramaters, but not between the
 
743
keyword name and the value::
 
744
 
 
745
    call(1, 3, cheese=quark)
 
746
 
 
747
In emacs::
 
748
 
 
749
    ;(defface my-invalid-face
 
750
    ;  '((t (:background "Red" :underline t)))
 
751
    ;  "Face used to highlight invalid constructs or other uglyties"
 
752
    ;  )
 
753
 
 
754
    (defun my-python-mode-hook ()
 
755
     ;; setup preferred indentation style.
 
756
     (setq fill-column 79)
 
757
     (setq indent-tabs-mode nil) ; no tabs, never, I will not repeat
 
758
    ;  (font-lock-add-keywords 'python-mode
 
759
    ;                         '(("^\\s *\t" . 'my-invalid-face) ; Leading tabs
 
760
    ;                            ("[ \t]+$" . 'my-invalid-face)  ; Trailing spaces
 
761
    ;                            ("^[ \t]+$" . 'my-invalid-face)); Spaces only
 
762
    ;                          )
 
763
     )
 
764
 
 
765
    (add-hook 'python-mode-hook 'my-python-mode-hook)
 
766
 
 
767
The lines beginning with ';' are comments. They can be activated
 
768
if one want to have a strong notice of some tab/space usage
 
769
violations.
 
770
 
 
771
 
 
772
Module Imports
 
773
--------------
 
774
 
 
775
* Imports should be done at the top-level of the file, unless there is
 
776
  a strong reason to have them lazily loaded when a particular
 
777
  function runs.  Import statements have a cost, so try to make sure
 
778
  they don't run inside hot functions.
 
779
 
 
780
* Module names should always be given fully-qualified,
 
781
  i.e. ``bzrlib.hashcache`` not just ``hashcache``.
147
782
 
148
783
 
149
784
Naming
150
785
------
151
786
 
152
 
Functions, methods or members that are in some sense "private" are given
153
 
a leading underscore prefix.  This is just a hint that code outside the
154
 
implementation should probably not use that interface.
 
787
Functions, methods or members that are "private" to bzrlib are given
 
788
a leading underscore prefix.  Names without a leading underscore are
 
789
public not just across modules but to programmers using bzrlib as an
 
790
API. As a consequence, a leading underscore is appropriate for names
 
791
exposed across modules but that are not to be exposed to bzrlib API
 
792
programmers.
155
793
 
156
794
We prefer class names to be concatenated capital words (``TestCase``)
157
795
and variables, methods and functions to be lowercase words joined by
162
800
 
163
801
Consider naming classes as nouns and functions/methods as verbs.
164
802
 
165
 
 
166
 
Standard names
 
803
Try to avoid using abbreviations in names, because there can be
 
804
inconsistency if other people use the full name.
 
805
 
 
806
 
 
807
Standard Names
167
808
--------------
168
809
 
169
810
``revision_id`` not ``rev_id`` or ``revid``
209
850
> factory, then yes, foo_factory is what I would use.
210
851
 
211
852
 
212
 
Writing output
 
853
Registries
 
854
----------
 
855
 
 
856
Several places in Bazaar use (or will use) a registry, which is a 
 
857
mapping from names to objects or classes.  The registry allows for 
 
858
loading in registered code only when it's needed, and keeping
 
859
associated information such as a help string or description.
 
860
 
 
861
 
 
862
Lazy Imports
 
863
------------
 
864
 
 
865
To make startup time faster, we use the ``bzrlib.lazy_import`` module to
 
866
delay importing modules until they are actually used. ``lazy_import`` uses
 
867
the same syntax as regular python imports. So to import a few modules in a
 
868
lazy fashion do::
 
869
 
 
870
  from bzrlib.lazy_import import lazy_import
 
871
  lazy_import(globals(), """
 
872
  import os
 
873
  import subprocess
 
874
  import sys
 
875
  import time
 
876
 
 
877
  from bzrlib import (
 
878
     errors,
 
879
     transport,
 
880
     revision as _mod_revision,
 
881
     )
 
882
  import bzrlib.transport
 
883
  import bzrlib.xml5
 
884
  """)
 
885
 
 
886
At this point, all of these exist as a ``ImportReplacer`` object, ready to
 
887
be imported once a member is accessed. Also, when importing a module into
 
888
the local namespace, which is likely to clash with variable names, it is
 
889
recommended to prefix it as ``_mod_<module>``. This makes it clearer that
 
890
the variable is a module, and these object should be hidden anyway, since
 
891
they shouldn't be imported into other namespaces.
 
892
 
 
893
 
 
894
Modules versus Members
 
895
~~~~~~~~~~~~~~~~~~~~~~
 
896
 
 
897
While it is possible for ``lazy_import()`` to import members of a module
 
898
when using the ``from module import member`` syntax, it is recommended to
 
899
only use that syntax to load sub modules ``from module import submodule``.
 
900
This is because variables and classes can frequently be used without
 
901
needing a sub-member for example::
 
902
 
 
903
  lazy_import(globals(), """
 
904
  from module import MyClass
 
905
  """)
 
906
 
 
907
  def test(x):
 
908
      return isinstance(x, MyClass)
 
909
 
 
910
This will incorrectly fail, because ``MyClass`` is a ``ImportReplacer``
 
911
object, rather than the real class.
 
912
 
 
913
 
 
914
Passing to Other Variables
 
915
~~~~~~~~~~~~~~~~~~~~~~~~~~
 
916
 
 
917
It also is incorrect to assign ``ImportReplacer`` objects to other variables.
 
918
Because the replacer only knows about the original name, it is unable to
 
919
replace other variables. The ``ImportReplacer`` class will raise an
 
920
``IllegalUseOfScopeReplacer`` exception if it can figure out that this
 
921
happened. But it requires accessing a member more than once from the new
 
922
variable, so some bugs are not detected right away.
 
923
 
 
924
 
 
925
The Null revision
 
926
-----------------
 
927
 
 
928
The null revision is the ancestor of all revisions.  Its revno is 0, its
 
929
revision-id is ``null:``, and its tree is the empty tree.  When referring
 
930
to the null revision, please use ``bzrlib.revision.NULL_REVISION``.  Old
 
931
code sometimes uses ``None`` for the null revision, but this practice is
 
932
being phased out.
 
933
 
 
934
 
 
935
Getting Input
 
936
=============
 
937
 
 
938
Processing Command Lines
 
939
------------------------
 
940
 
 
941
bzrlib has a standard framework for parsing command lines and calling
 
942
processing routines associated with various commands. See builtins.py
 
943
for numerous examples.
 
944
 
 
945
 
 
946
Standard Parameter Types
 
947
------------------------
 
948
 
 
949
There are some common requirements in the library: some parameters need to be
 
950
unicode safe, some need byte strings, and so on. At the moment we have
 
951
only codified one specific pattern: Parameters that need to be unicode
 
952
should be checked via ``bzrlib.osutils.safe_unicode``. This will coerce the
 
953
input into unicode in a consistent fashion, allowing trivial strings to be
 
954
used for programmer convenience, but not performing unpredictably in the
 
955
presence of different locales.
 
956
 
 
957
 
 
958
Writing Output
213
959
==============
214
960
 
215
961
(The strategy described here is what we want to get to, but it's not
246
992
should be only in the command-line tool.
247
993
 
248
994
 
 
995
 
 
996
Displaying help
 
997
===============
 
998
 
 
999
Bazaar has online help for various topics through ``bzr help COMMAND`` or
 
1000
equivalently ``bzr command -h``.  We also have help on command options,
 
1001
and on other help topics.  (See ``help_topics.py``.)
 
1002
 
 
1003
As for python docstrings, the first paragraph should be a single-sentence
 
1004
synopsis of the command.
 
1005
 
 
1006
The help for options should be one or more proper sentences, starting with
 
1007
a capital letter and finishing with a full stop (period).
 
1008
 
 
1009
All help messages and documentation should have two spaces between
 
1010
sentences.
 
1011
 
 
1012
 
249
1013
Writing tests
250
1014
=============
 
1015
 
251
1016
In general tests should be placed in a file named test_FOO.py where 
252
1017
FOO is the logical thing under test. That file should be placed in the
253
1018
tests subdirectory under the package being tested.
254
1019
 
255
1020
For example, tests for merge3 in bzrlib belong in bzrlib/tests/test_merge3.py.
256
 
See bzrlib/selftest/test_sampler.py for a template test script.
 
1021
See bzrlib/tests/test_sampler.py for a template test script.
257
1022
 
258
1023
Tests can be written for the UI or for individual areas of the library.
259
1024
Choose whichever is appropriate: if adding a new command, or a new command 
260
1025
option, then you should be writing a UI test.  If you are both adding UI
261
1026
functionality and library functionality, you will want to write tests for 
262
1027
both the UI and the core behaviours.  We call UI tests 'blackbox' tests
263
 
and they are found in bzrlib/tests/blackbox/*.py. 
 
1028
and they are found in ``bzrlib/tests/blackbox/*.py``. 
264
1029
 
265
1030
When writing blackbox tests please honour the following conventions:
266
1031
 
279
1044
    the command. We do this so that the library api has continual pressure
280
1045
    on it to be as functional as the command line in a simple manner, and
281
1046
    to isolate knock-on effects throughout the blackbox test suite when a
282
 
    command changes it name or signature. Ideally only the tests for a
 
1047
    command changes its name or signature. Ideally only the tests for a
283
1048
    given command are affected when a given command is changed.
284
1049
 
 
1050
 4. If you have a test which does actually require running bzr in a
 
1051
    subprocess you can use ``run_bzr_subprocess``. By default the spawned
 
1052
    process will not load plugins unless ``--allow-plugins`` is supplied.
 
1053
 
 
1054
 
 
1055
Test support
 
1056
------------
 
1057
 
 
1058
We have a rich collection of tools to support writing tests. Please use
 
1059
them in preference to ad-hoc solutions as they provide portability and
 
1060
performance benefits.
 
1061
 
 
1062
TreeBuilder
 
1063
~~~~~~~~~~~
 
1064
 
 
1065
The ``TreeBuilder`` interface allows the construction of arbitrary trees
 
1066
with a declarative interface. A sample session might look like::
 
1067
 
 
1068
  tree = self.make_branch_and_tree('path')
 
1069
  builder = TreeBuilder()
 
1070
  builder.start_tree(tree)
 
1071
  builder.build(['foo', "bar/", "bar/file"])
 
1072
  tree.commit('commit the tree')
 
1073
  builder.finish_tree()
 
1074
 
 
1075
Please see bzrlib.treebuilder for more details.
 
1076
 
 
1077
BranchBuilder
 
1078
~~~~~~~~~~~~~
 
1079
 
 
1080
The ``BranchBuilder`` interface allows the creation of test branches in a
 
1081
quick and easy manner. A sample session::
 
1082
 
 
1083
  builder = BranchBuilder(self.get_transport().clone('relpath'))
 
1084
  builder.build_commit()
 
1085
  builder.build_commit()
 
1086
  builder.build_commit()
 
1087
  branch = builder.get_branch()
 
1088
 
 
1089
Please see bzrlib.branchbuilder for more details.
 
1090
 
 
1091
Doctests
 
1092
--------
 
1093
 
 
1094
We make selective use of doctests__.  In general they should provide 
 
1095
*examples* within the API documentation which can incidentally be tested.  We 
 
1096
don't try to test every important case using doctests -- regular Python
 
1097
tests are generally a better solution.
 
1098
 
 
1099
Most of these are in ``bzrlib/doc/api``.  More additions are welcome.
 
1100
 
 
1101
  __ http://docs.python.org/lib/module-doctest.html
 
1102
 
 
1103
 
285
1104
Running tests
286
1105
=============
287
1106
Currently, bzr selftest is used to invoke tests.
290
1109
 
291
1110
  ./bzr selftest -v blackbox
292
1111
 
293
 
 
294
 
Errors and exceptions
295
 
=====================
296
 
 
297
 
Errors are handled through Python exceptions.  They can represent user
298
 
errors, environmental errors or program bugs.  Sometimes we can't be sure
299
 
at the time it's raised which case applies.  See bzrlib/errors.py for 
300
 
details on the error-handling practices.
 
1112
To skip a particular test (or set of tests), use the --exclude option
 
1113
(shorthand -x) like so::
 
1114
 
 
1115
  ./bzr selftest -v -x blackbox  
 
1116
 
 
1117
To list tests without running them, use the --list-only option like so::
 
1118
 
 
1119
  ./bzr selftest --list-only
 
1120
 
 
1121
This option can be combined with other selftest options (like -x) and
 
1122
filter patterns to understand their effect.
 
1123
 
 
1124
 
 
1125
Handling Errors and Exceptions
 
1126
==============================
 
1127
 
 
1128
Commands should return non-zero when they encounter circumstances that
 
1129
the user should really pay attention to - which includes trivial shell
 
1130
pipelines.
 
1131
 
 
1132
Recommended values are:
 
1133
 
 
1134
    0. OK.
 
1135
    1. Conflicts in merge-like operations, or changes are present in
 
1136
       diff-like operations. 
 
1137
    2. Unrepresentable diff changes (i.e. binary files that we cannot show 
 
1138
       a diff of).
 
1139
    3. An error or exception has occurred.
 
1140
    4. An internal error occurred (one that shows a traceback.)
 
1141
 
 
1142
Errors are handled through Python exceptions. Exceptions should be defined
 
1143
inside bzrlib.errors, so that we can see the whole tree at a glance.
 
1144
 
 
1145
We broadly classify errors as either being either internal or not,
 
1146
depending on whether ``internal_error`` is set or not.  If we think it's our
 
1147
fault, we show a backtrace, an invitation to report the bug, and possibly
 
1148
other details.  This is the default for errors that aren't specifically
 
1149
recognized as being caused by a user error.  Otherwise we show a briefer
 
1150
message, unless -Derror was given.
 
1151
 
 
1152
Many errors originate as "environmental errors" which are raised by Python
 
1153
or builtin libraries -- for example IOError.  These are treated as being
 
1154
our fault, unless they're caught in a particular tight scope where we know
 
1155
that they indicate a user errors.  For example if the repository format
 
1156
is not found, the user probably gave the wrong path or URL.  But if one of
 
1157
the files inside the repository is not found, then it's our fault --
 
1158
either there's a bug in bzr, or something complicated has gone wrong in
 
1159
the environment that means one internal file was deleted.
 
1160
 
 
1161
Many errors are defined in ``bzrlib/errors.py`` but it's OK for new errors
 
1162
to be added near the place where they are used.
 
1163
 
 
1164
Exceptions are formatted for the user by conversion to a string
 
1165
(eventually calling their ``__str__`` method.)  As a convenience the
 
1166
``._fmt`` member can be used as a template which will be mapped to the
 
1167
error's instance dict.
 
1168
 
 
1169
New exception classes should be defined when callers might want to catch
 
1170
that exception specifically, or when it needs a substantially different
 
1171
format string.
 
1172
 
 
1173
Exception strings should start with a capital letter and should not have a
 
1174
final fullstop.  If long, they may contain newlines to break the text.
 
1175
 
 
1176
 
 
1177
Documenting Changes
 
1178
===================
 
1179
 
 
1180
When you change bzrlib, please update the relevant documentation for the
 
1181
change you made: Changes to commands should update their help, and
 
1182
possibly end user tutorials; changes to the core library should be
 
1183
reflected in API documentation.
 
1184
 
 
1185
NEWS File
 
1186
---------
 
1187
 
 
1188
If you make a user-visible change, please add a note to the NEWS file.
 
1189
The description should be written to make sense to someone who's just
 
1190
a user of bzr, not a developer: new functions or classes shouldn't be
 
1191
mentioned, but new commands, changes in behaviour or fixed nontrivial
 
1192
bugs should be listed.  See the existing entries for an idea of what
 
1193
should be done.
 
1194
 
 
1195
Within each release, entries in the news file should have the most
 
1196
user-visible changes first.  So the order should be approximately:
 
1197
 
 
1198
 * changes to existing behaviour - the highest priority because the 
 
1199
   user's existing knowledge is incorrect
 
1200
 * new features - should be brought to their attention
 
1201
 * bug fixes - may be of interest if the bug was affecting them, and
 
1202
   should include the bug number if any
 
1203
 * major documentation changes
 
1204
 * changes to internal interfaces
 
1205
 
 
1206
People who made significant contributions to each change are listed in
 
1207
parenthesis.  This can include reporting bugs (particularly with good
 
1208
details or reproduction recipes), submitting patches, etc.
 
1209
 
 
1210
Commands
 
1211
--------
 
1212
 
 
1213
The docstring of a command is used by ``bzr help`` to generate help output
 
1214
for the command. The list 'takes_options' attribute on a command is used by
 
1215
``bzr help`` to document the options for the command - the command
 
1216
docstring does not need to document them. Finally, the '_see_also'
 
1217
attribute on a command can be used to reference other related help topics.
 
1218
 
 
1219
API Documentation
 
1220
-----------------
 
1221
 
 
1222
Functions, methods, classes and modules should have docstrings
 
1223
describing how they are used. 
 
1224
 
 
1225
The first line of the docstring should be a self-contained sentence.
 
1226
 
 
1227
For the special case of Command classes, this acts as the user-visible
 
1228
documentation shown by the help command.
 
1229
 
 
1230
The docstrings should be formatted as reStructuredText_ (like this
 
1231
document), suitable for processing using the epydoc_ tool into HTML
 
1232
documentation.
 
1233
 
 
1234
.. _reStructuredText: http://docutils.sourceforge.net/rst.html
 
1235
.. _epydoc: http://epydoc.sourceforge.net/
 
1236
 
 
1237
 
 
1238
General Guidelines
 
1239
==================
 
1240
 
 
1241
Copyright
 
1242
---------
 
1243
 
 
1244
The copyright policy for bzr was recently made clear in this email (edited
 
1245
for grammatical correctness)::
 
1246
 
 
1247
    The attached patch cleans up the copyright and license statements in
 
1248
    the bzr source. It also adds tests to help us remember to add them
 
1249
    with the correct text.
 
1250
 
 
1251
    We had the problem that lots of our files were "Copyright Canonical
 
1252
    Development Ltd" which is not a real company, and some other variations
 
1253
    on this theme. Also, some files were missing the GPL statements.
 
1254
    
 
1255
    I want to be clear about the intent of this patch, since copyright can
 
1256
    be a little controversial.
 
1257
    
 
1258
    1) The big motivation for this is not to shut out the community, but
 
1259
    just to clean up all of the invalid copyright statements.
 
1260
    
 
1261
    2) It has been the general policy for bzr that we want a single
 
1262
    copyright holder for all of the core code. This is following the model
 
1263
    set by the FSF, which makes it easier to update the code to a new
 
1264
    license in case problems are encountered. (For example, if we want to
 
1265
    upgrade the project universally to GPL v3 it is much simpler if there is
 
1266
    a single copyright holder). It also makes it clearer if copyright is
 
1267
    ever debated, there is a single holder, which makes it easier to defend
 
1268
    in court, etc. (I think the FSF position is that if you assign them
 
1269
    copyright, they can defend it in court rather than you needing to, and
 
1270
    I'm sure Canonical would do the same).
 
1271
    As such, Canonical has requested copyright assignments from all of the
 
1272
    major contributers.
 
1273
    
 
1274
    3) If someone wants to add code and not attribute it to Canonical, there
 
1275
    is a specific list of files that are excluded from this check. And the
 
1276
    test failure indicates where that is, and how to update it.
 
1277
    
 
1278
    4) If anyone feels that I changed a copyright statement incorrectly, just
 
1279
    let me know, and I'll be happy to correct it. Whenever you have large
 
1280
    mechanical changes like this, it is possible to make some mistakes.
 
1281
    
 
1282
    Just to reiterate, this is a community project, and it is meant to stay
 
1283
    that way. Core bzr code is copyright Canonical for legal reasons, and
 
1284
    the tests are just there to help us maintain that.
 
1285
 
 
1286
 
 
1287
Miscellaneous Topics
 
1288
####################
 
1289
 
 
1290
Debugging
 
1291
=========
 
1292
 
 
1293
Bazaar has a few facilities to help debug problems by going into pdb_, the
 
1294
Python debugger.
 
1295
 
 
1296
.. _pdb: http://docs.python.org/lib/debugger-commands.html
 
1297
 
 
1298
If the ``BZR_PDB`` environment variable is set 
 
1299
then bzr will go into pdb post-mortem mode when an unhandled exception
 
1300
occurs.
 
1301
 
 
1302
If you send a SIGQUIT signal to bzr, which can be done by pressing
 
1303
Ctrl-\\ on Unix, bzr will go into the debugger immediately.  You can
 
1304
continue execution by typing ``c``.  This can be disabled if necessary
 
1305
by setting the environment variable ``BZR_SIGQUIT_PDB=0``.
301
1306
 
302
1307
 
303
1308
Jargon
309
1314
    indexes into the branch's revision history.
310
1315
 
311
1316
 
312
 
Transport
313
 
=========
314
 
 
315
 
The ``Transport`` layer handles access to local or remote directories.
316
 
Each Transport object acts like a logical connection to a particular
317
 
directory, and it allows various operations on files within it.  You can
318
 
*clone* a transport to get a new Transport connected to a subdirectory or
319
 
parent directory.
320
 
 
321
 
Transports are not used for access to the working tree.  At present
322
 
working trees are always local and they are accessed through the regular
323
 
Python file io mechanisms.
324
 
 
325
 
filenames vs URLs
326
 
-----------------
327
 
 
328
 
Transports work in URLs.  Take note that URLs are by definition only
329
 
ASCII - the decision of how to encode a Unicode string into a URL must be
330
 
taken at a higher level, typically in the Store.  (Note that Stores also
331
 
escape filenames which cannot be safely stored on all filesystems, but
332
 
this is a different level.)
333
 
 
334
 
The main reason for this is that it's not possible to safely roundtrip a
335
 
URL into Unicode and then back into the same URL.  The URL standard
336
 
gives a way to represent non-ASCII bytes in ASCII (as %-escapes), but
337
 
doesn't say how those bytes represent non-ASCII characters.  (They're not
338
 
guaranteed to be UTF-8 -- that is common but doesn't happen everywhere.)
339
 
 
340
 
For example if the user enters the url ``http://example/%e0`` there's no
341
 
way to tell whether that character represents "latin small letter a with
342
 
grave" in iso-8859-1, or "latin small letter r with acute" in iso-8859-2
343
 
or malformed UTF-8.  So we can't convert their URL to Unicode reliably.
344
 
 
345
 
Equally problematic if we're given a url-like string containing non-ascii
346
 
characters (such as the accented a) we can't be sure how to convert that
347
 
to the correct URL, because we don't know what encoding the server expects
348
 
for those characters.  (Although this is not totally reliable we might still
349
 
accept these and assume they should be put into UTF-8.)
350
 
 
351
 
A similar edge case is that the url ``http://foo/sweet%2Fsour" contains
352
 
one directory component whose name is "sweet/sour".  The escaped slash is
353
 
not a directory separator.  If we try to convert URLs to regular Unicode
354
 
paths this information will be lost.
355
 
 
356
 
This implies that Transports must natively deal with URLs; for simplicity
357
 
they *only* deal with URLs and conversion of other strings to URLs is done
358
 
elsewhere.  Information they return, such as from ``list_dir``, is also in
359
 
the form of URL components.
360
 
 
361
 
 
362
 
Merge/review process
 
1317
Unicode and Encoding Support
 
1318
============================
 
1319
 
 
1320
This section discusses various techniques that Bazaar uses to handle
 
1321
characters that are outside the ASCII set.
 
1322
 
 
1323
``Command.outf``
 
1324
----------------
 
1325
 
 
1326
When a ``Command`` object is created, it is given a member variable
 
1327
accessible by ``self.outf``.  This is a file-like object, which is bound to
 
1328
``sys.stdout``, and should be used to write information to the screen,
 
1329
rather than directly writing to ``sys.stdout`` or calling ``print``.
 
1330
This file has the ability to translate Unicode objects into the correct
 
1331
representation, based on the console encoding.  Also, the class attribute
 
1332
``encoding_type`` will effect how unprintable characters will be
 
1333
handled.  This parameter can take one of 3 values:
 
1334
 
 
1335
  replace
 
1336
    Unprintable characters will be represented with a suitable replacement
 
1337
    marker (typically '?'), and no exception will be raised. This is for
 
1338
    any command which generates text for the user to review, rather than
 
1339
    for automated processing.
 
1340
    For example: ``bzr log`` should not fail if one of the entries has text
 
1341
    that cannot be displayed.
 
1342
  
 
1343
  strict
 
1344
    Attempting to print an unprintable character will cause a UnicodeError.
 
1345
    This is for commands that are intended more as scripting support, rather
 
1346
    than plain user review.
 
1347
    For exampl: ``bzr ls`` is designed to be used with shell scripting. One
 
1348
    use would be ``bzr ls --null --unknows | xargs -0 rm``.  If ``bzr``
 
1349
    printed a filename with a '?', the wrong file could be deleted. (At the
 
1350
    very least, the correct file would not be deleted). An error is used to
 
1351
    indicate that the requested action could not be performed.
 
1352
  
 
1353
  exact
 
1354
    Do not attempt to automatically convert Unicode strings. This is used
 
1355
    for commands that must handle conversion themselves.
 
1356
    For example: ``bzr diff`` needs to translate Unicode paths, but should
 
1357
    not change the exact text of the contents of the files.
 
1358
 
 
1359
 
 
1360
``bzrlib.urlutils.unescape_for_display``
 
1361
----------------------------------------
 
1362
 
 
1363
Because Transports work in URLs (as defined earlier), printing the raw URL
 
1364
to the user is usually less than optimal. Characters outside the standard
 
1365
set are printed as escapes, rather than the real character, and local
 
1366
paths would be printed as ``file://`` urls. The function
 
1367
``unescape_for_display`` attempts to unescape a URL, such that anything
 
1368
that cannot be printed in the current encoding stays an escaped URL, but
 
1369
valid characters are generated where possible.
 
1370
 
 
1371
 
 
1372
Portability Tips
 
1373
================
 
1374
 
 
1375
The ``bzrlib.osutils`` module has many useful helper functions, including
 
1376
some more portable variants of functions in the standard library.
 
1377
 
 
1378
In particular, don't use ``shutil.rmtree`` unless it's acceptable for it
 
1379
to fail on Windows if some files are readonly or still open elsewhere.
 
1380
Use ``bzrlib.osutils.rmtree`` instead.
 
1381
 
 
1382
 
 
1383
C Extension Modules
 
1384
===================
 
1385
 
 
1386
We write some extensions in C using pyrex. We design these to work in
 
1387
three scenarios:
 
1388
 
 
1389
 * User with no C compiler
 
1390
 * User with C compiler
 
1391
 * Developers
 
1392
 
 
1393
The recommended way to install bzr is to have a C compiler so that the
 
1394
extensions can be built, but if no C compiler is present, the pure python
 
1395
versions we supply will work, though more slowly.
 
1396
 
 
1397
For developers we recommend that pyrex be installed, so that the C
 
1398
extensions can be changed if needed.
 
1399
 
 
1400
For the C extensions, the extension module should always match the
 
1401
original python one in all respects (modulo speed). This should be
 
1402
maintained over time.
 
1403
 
 
1404
To create an extension, add rules to setup.py for building it with pyrex,
 
1405
and with distutils. Now start with an empty .pyx file. At the top add
 
1406
"include 'yourmodule.py'". This will import the contents of foo.py into this 
 
1407
file at build time - remember that only one module will be loaded at
 
1408
runtime. Now you can subclass classes, or replace functions, and only your
 
1409
changes need to be present in the .pyx file.
 
1410
 
 
1411
Note that pyrex does not support all 2.4 programming idioms, so some
 
1412
syntax changes may be required. I.e. 
 
1413
 
 
1414
 - 'from foo import (bar, gam)' needs to change to not use the brackets. 
 
1415
 - 'import foo.bar as bar' needs to be 'import foo.bar; bar = foo.bar' 
 
1416
 
 
1417
If the changes are too dramatic, consider
 
1418
maintaining the python code twice - once in the .pyx, and once in the .py,
 
1419
and no longer including the .py file.
 
1420
 
 
1421
 
 
1422
Making Installers for OS Windows
 
1423
================================
 
1424
To build a win32 installer, see the instructions on the wiki page:
 
1425
http://bazaar-vcs.org/BzrWin32Installer
 
1426
 
 
1427
 
 
1428
Core Developer Tasks
 
1429
####################
 
1430
 
 
1431
Overview
 
1432
========
 
1433
 
 
1434
What is a Core Developer?
 
1435
-------------------------
 
1436
 
 
1437
While everyone in the Bazaar community is welcome and encouraged to
 
1438
propose and submit changes, a smaller team is reponsible for pulling those
 
1439
changes together into a cohesive whole. In addition to the general developer
 
1440
stuff covered above, "core" developers have responsibility for:
 
1441
 
 
1442
* reviewing changes
 
1443
* reviewing blueprints
 
1444
* planning releases
 
1445
* managing releases.
 
1446
 
 
1447
.. note::
 
1448
  Removing barriers to community participation is a key reason for adopting
 
1449
  distributed VCS technology. While DVCS removes many technical barriers,
 
1450
  a small number of social barriers are often necessary instead.
 
1451
  By documenting how the above things are done, we hope to
 
1452
  encourage more people to participate in these activities, keeping the
 
1453
  differences between core and non-core contributors to a minimum.
 
1454
 
 
1455
 
 
1456
The Development Lifecycle
 
1457
-------------------------
 
1458
 
 
1459
As a rule, Bazaar development follows a 4 week cycle:
 
1460
 
 
1461
* 2 weeks - general changes
 
1462
* 1 week - feature freeze
 
1463
* 1 week+ - Release Candidate stabilization
 
1464
 
 
1465
During the FeatureFreeze week, the trunk (bzr.dev) is open in a limited
 
1466
way: only low risk changes, critical and high priority fixes are accepted
 
1467
during this time. At the end of FeatureFreeze, a branch is created for the
 
1468
first Release Candidate and the trunk is reopened for general development
 
1469
on the *next* release. A week or so later, the final release is packaged
 
1470
assuming no serious problems were encountered with the one or more Release
 
1471
Candidates.
 
1472
 
 
1473
.. note::
 
1474
  There is a one week overlap between the start of one release and
 
1475
  the end of the previous one.
 
1476
 
 
1477
 
 
1478
Communicating and Coordinating
 
1479
------------------------------
 
1480
 
 
1481
While it has many advantages, one of the challenges of distributed
 
1482
development is keeping everyone else aware of what you're working on.
 
1483
There are numerous ways to do this:
 
1484
 
 
1485
#. Assign bugs to yourself in Launchpad
 
1486
#. Mention it on the mailing list
 
1487
#. Mention it on IRC
 
1488
 
 
1489
As well as the email notifcations that occur when merge requests are sent
 
1490
and reviewed, you can keep others informed of where you're spending your
 
1491
energy by emailing the **bazaar-commits** list implicitly. To do this,
 
1492
install and configure the Email plugin. One way to do this is add these
 
1493
configuration settings to your central configuration file (e.g.
 
1494
``~/.bazaar/bazaar.conf`` on Linux)::
 
1495
 
 
1496
  [DEFAULT]
 
1497
  email = Joe Smith <joe.smith@internode.on.net>
 
1498
  smtp_server = mail.internode.on.net:25
 
1499
 
 
1500
Then add these lines for the relevant branches in ``locations.conf``::
 
1501
 
 
1502
  post_commit_to = bazaar-commits@lists.canonical.com
 
1503
  post_commit_mailer = smtplib
 
1504
 
 
1505
While attending a sprint, RobertCollins' Dbus plugin is useful for the
 
1506
same reason. See the documentation within the plugin for information on
 
1507
how to set it up and configure it.
 
1508
 
 
1509
 
 
1510
Reviewing Changes
 
1511
=================
 
1512
 
 
1513
Setting Up Your Workspace for Reviews
 
1514
-------------------------------------
 
1515
 
 
1516
TODO: Incorporate John Arbash Meinel's detailed email to Ian C on the
 
1517
numerous ways of setting up integration branches.
 
1518
 
 
1519
 
 
1520
The Review Checklist
 
1521
--------------------
 
1522
 
 
1523
See `A Closer Look at the Merge & Review Process`_
 
1524
for information on the gates used to decide whether code can be merged
 
1525
or not and details on how review results are recorded and communicated.
 
1526
 
 
1527
 
 
1528
The Importance of Timely Reviews
 
1529
--------------------------------
 
1530
 
 
1531
Good reviews do take time. They also regularly require a solid
 
1532
understanding of the overall code base. In practice, this means a small
 
1533
number of people often have a large review burden - with knowledge comes
 
1534
responsibility. No one like their merge requests sitting in a queue going
 
1535
nowhere, so reviewing sooner rather than later is strongly encouraged.
 
1536
 
 
1537
 
 
1538
Submitting Changes
 
1539
==================
 
1540
 
 
1541
An Overview of PQM
 
1542
------------------
 
1543
 
 
1544
Of the many workflows supported by Bazaar, the one adopted for Bazaar
 
1545
development itself is known as "Decentralized with automatic gatekeeper".
 
1546
To repeat the explanation of this given on
 
1547
http://bazaar-vcs.org/Workflows:
 
1548
 
 
1549
.. pull-quote::
 
1550
  In this workflow, each developer has their own branch or
 
1551
  branches, plus read-only access to the mainline. A software gatekeeper
 
1552
  (e.g. PQM) has commit rights to the main branch. When a developer wants
 
1553
  their work merged, they request the gatekeeper to merge it. The gatekeeper
 
1554
  does a merge, a compile, and runs the test suite. If the code passes, it
 
1555
  is merged into the mainline.
 
1556
 
 
1557
In a nutshell, here's the overall submission process:
 
1558
 
 
1559
#. get your work ready (including review except for trivial changes)
 
1560
#. push to a public location
 
1561
#. ask PQM to merge from that location
 
1562
 
 
1563
.. note::
 
1564
  At present, PQM always takes the changes to merge from a branch
 
1565
  at a URL that can be read by it. For Bazaar, that means a public,
 
1566
  typically http, URL.
 
1567
 
 
1568
As a result, the following things are needed to use PQM for submissions:
 
1569
 
 
1570
#. A publicly available web server
 
1571
#. Your OpenPGP key registered with PQM (contact RobertCollins for this)
 
1572
#. The PQM plugin installed and configured (not strictly required but
 
1573
   highly recommended).
 
1574
 
 
1575
 
 
1576
Selecting a Public Branch Location
 
1577
----------------------------------
 
1578
 
 
1579
If you don't have your own web server running, branches can always be
 
1580
pushed to Launchpad. Here's the process for doing that:
 
1581
 
 
1582
Depending on your location throughout the world and the size of your
 
1583
repository though, it is often quicker to use an alternative public
 
1584
location to Launchpad, particularly if you can set up your own repo and
 
1585
push into that. By using an existing repo, push only needs to send the
 
1586
changes, instead of the complete repository every time. Note that it is
 
1587
easy to register branches in other locations with Launchpad so no benefits
 
1588
are lost by going this way.
 
1589
 
 
1590
.. note::
 
1591
  For Canonical staff, http://people.ubuntu.com/~<user>/ is one
 
1592
  suggestion for public http branches. Contact your manager for information
 
1593
  on accessing this system if required.
 
1594
 
 
1595
It should also be noted that best practice in this area is subject to
 
1596
change as things evolve. For example, once the Bazaar smart server on
 
1597
Launchpad supports server-side branching, the performance situation will
 
1598
be very different to what it is now (Jun 2007).
 
1599
 
 
1600
 
 
1601
Configuring the PQM Plug-In
 
1602
---------------------------
 
1603
 
 
1604
While not strictly required, the PQM plugin automates a few things and
 
1605
reduces the chance of error. Before looking at the plugin, it helps to
 
1606
understand  a little more how PQM operates. Basically, PQM requires an
 
1607
email indicating what you want it to do. The email typically looks like
 
1608
this::
 
1609
 
 
1610
  star-merge source-branch target-branch
 
1611
 
 
1612
For example::
 
1613
 
 
1614
  star-merge http://bzr.arbash-meinel.com/branches/bzr/jam-integration http://bazaar-vcs.org/bzr/bzr.dev
 
1615
 
 
1616
Note that the command needs to be on one line. The subject of the email
 
1617
will be used for the commit message. The email also needs to be ``gpg``
 
1618
signed with a key that PQM accepts.
 
1619
 
 
1620
The advantages of using the PQM plugin are:
 
1621
 
 
1622
#. You can use the config policies to make it easy to set up public
 
1623
   branches, so you don't have to ever type the full paths you want to merge
 
1624
   from or into.
 
1625
 
 
1626
#. It checks to make sure the public branch last revision matches the
 
1627
   local last revision so you are submitting what you think you are.
 
1628
 
 
1629
#. It uses the same public_branch and smtp sending settings as bzr-email,
 
1630
   so if you have one set up, you have the other mostly set up.
 
1631
 
 
1632
#. Thunderbird refuses to not wrap lines, and request lines are usually
 
1633
   pretty long (you have 2 long URLs in there).
 
1634
 
 
1635
Here are sample configuration settings for the PQM plugin. Here are the
 
1636
lines in bazaar.conf::
 
1637
 
 
1638
  [DEFAULT]
 
1639
  email = Joe Smith <joe.smith@internode.on.net>
 
1640
  smtp_server=mail.internode.on.net:25
 
1641
 
 
1642
And here are the lines in ``locations.conf`` (or ``branch.conf`` for
 
1643
dirstate-tags branches)::
 
1644
 
 
1645
  [/home/joe/bzr/my-integration]
 
1646
  push_location = sftp://joe-smith@bazaar.launchpad.net/%7Ejoe-smith/bzr/my-integration/
 
1647
  push_location:policy = norecurse
 
1648
  public_branch = http://bazaar.launchpad.net/~joe-smith/bzr/my-integration/
 
1649
  public_branch:policy = appendpath
 
1650
  pqm_email = Bazaar PQM <pqm@bazaar-vcs.org>
 
1651
  pqm_branch = http://bazaar-vcs.org/bzr/bzr.dev
 
1652
 
 
1653
Note that the push settings will be added by the first ``push`` on
 
1654
a branch. Indeed the preferred way to generate the lines above is to use
 
1655
``push`` with an argument, then copy-and-paste the other lines into
 
1656
the relevant file.
 
1657
 
 
1658
 
 
1659
Submitting a Change
 
1660
-------------------
 
1661
 
 
1662
Here is one possible recipe once the above environment is set up:
 
1663
 
 
1664
#. pull bzr.dev => my-integration
 
1665
#. merge patch => my-integration
 
1666
#. fix up any final merge conflicts (NEWS being the big killer here).
 
1667
#. commit
 
1668
#. push
 
1669
#. pqm-submit
 
1670
 
 
1671
.. note::
 
1672
  The ``push`` step is not required if ``my-integration`` is a checkout of
 
1673
  a public branch.
 
1674
 
 
1675
  Because of defaults, you can type a single message into commit and
 
1676
  pqm-commit will reuse that.
 
1677
 
 
1678
 
 
1679
Tracking Change Acceptance
 
1680
--------------------------
 
1681
 
 
1682
The web interface to PQM is https://pqm.bazaar-vcs.org/. After submitting
 
1683
a change, you can visit this URL to confirm it was received and placed in
 
1684
PQM's queue.
 
1685
 
 
1686
When PQM completes processing a change, an email is sent to you with the
 
1687
results.
 
1688
 
 
1689
 
 
1690
Reviewing Blueprints
363
1691
====================
364
1692
 
365
 
If you'd like to propose a change, please post to the
366
 
bazaar-ng@lists.canonical.com list with a patch, bzr changeset, or link to a
367
 
branch.  Please put '[patch]' in the subject so we can pick them out, and
368
 
include some text explaining the change.  Remember to put an update to the NEWS
369
 
file in your diff, if it makes any changes visible to users or plugin
370
 
developers.  Please include a diff against mainline if you're giving a link to
371
 
a branch.
372
 
 
373
 
Please indicate if you think the code is ready to merge, or if it's just a
374
 
draft or for discussion.  If you want comments from many developers rather than
375
 
to be merged, you can put '[rfc]' in the subject lines.
376
 
 
377
 
Anyone is welcome to review code.  There are broadly three gates for
378
 
code to get in:
379
 
 
380
 
 * Doesn't reduce test coverage: if it adds new methods or commands,
381
 
   there should be tests for them.  There is a good test framework
382
 
   and plenty of examples to crib from, but if you are having trouble
383
 
   working out how to test something feel free to post a draft patch
384
 
   and ask for help.
385
 
 
386
 
 * Doesn't reduce design clarity, such as by entangling objects
387
 
   we're trying to separate.  This is mostly something the more
388
 
   experienced reviewers need to help check.
389
 
 
390
 
 * Improves bugs, features, speed, or code simplicity.
391
 
 
392
 
Code that goes in should pass all three.
393
 
 
394
 
If you read a patch please reply and say so.  We can use a numeric scale
395
 
of -1, -0, +0, +1, meaning respectively "really don't want it in current
396
 
form", "somewhat uncomfortable", "ok with me", and "please put it in".
397
 
Anyone can "vote".   (It's not really voting, just a terse expression.)
398
 
 
399
 
If something gets say two +1 votes from core reviewers, and no
400
 
vetos, then it's OK to come in.  Any of the core developers can bring it
401
 
into their integration branch, which I'll merge regularly.  (If you do
402
 
so, please reply and say so.)
403
 
 
404
 
 
405
 
:: vim:tw=74:ai
 
1693
Blueprint Tracking Using Launchpad
 
1694
----------------------------------
 
1695
 
 
1696
New features typically require a fair amount of discussion, design and
 
1697
debate. For Bazaar, that information is often captured in a so-called
 
1698
"blueprint" on our Wiki. Overall tracking of blueprints and their status
 
1699
is done using Launchpad's relevant tracker,
 
1700
https://blueprints.launchpad.net/bzr/. Once a blueprint for ready for
 
1701
review, please announce it on the mailing list.
 
1702
 
 
1703
Alternatively, send an email begining with [RFC] with the proposal to the
 
1704
list. In some cases, you may wish to attach proposed code  or a proposed
 
1705
developer document if that best communicates the idea. Debate can then
 
1706
proceed using the normal merge review processes.
 
1707
 
 
1708
 
 
1709
Recording Blueprint Review Feedback
 
1710
-----------------------------------
 
1711
 
 
1712
Unlike its Bug Tracker, Launchpad's Blueprint Tracker doesn't currently
 
1713
(Jun 2007) support a chronological list of comment responses. Review
 
1714
feedback can either be recorded on the Wiki hosting the blueprints or by
 
1715
using Launchpad's whiteboard feature.
 
1716
 
 
1717
 
 
1718
Planning Releases
 
1719
=================
 
1720
 
 
1721
Roadmaps
 
1722
--------
 
1723
 
 
1724
As the two senior developers, Martin Pool and Robert Collins coordinate
 
1725
the overall Bazaar product development roadmap. Core developers provide
 
1726
input and review into this, particularly during sprints. It's totally
 
1727
expected that community members ought to be working on things that
 
1728
interest them the most. The roadmap is valuable though because it provides
 
1729
context for understanding where the product is going as a whole and why.
 
1730
 
 
1731
 
 
1732
Using Releases and Milestones in Launchpad
 
1733
------------------------------------------
 
1734
 
 
1735
TODO ... (Exact policies still under discussion)
 
1736
 
 
1737
 
 
1738
Bug Triage
 
1739
----------
 
1740
 
 
1741
Keeping on top of bugs reported is an important part of ongoing release
 
1742
planning. Everyone in the community is welcome and encouraged to raise
 
1743
bugs, confirm bugs raised by others, and nominate a priority. Practically
 
1744
though, a good percentage of bug triage is often done by the core
 
1745
developers, partially because of their depth of product knowledge.
 
1746
 
 
1747
With respect to bug triage, core developers are encouraged to play an
 
1748
active role with particular attention to the following tasks:
 
1749
 
 
1750
* keeping the number of unconfirmed bugs low
 
1751
* ensuring the priorities are generally right (everything as critical - or
 
1752
  medium - is meaningless)
 
1753
* looking out for regressions and turning those around sooner rather than later.
 
1754
 
 
1755
.. note::
 
1756
  As well as prioritizing bugs and nominating them against a
 
1757
  target milestone, Launchpad lets core developers offer to mentor others in
 
1758
  fixing them. Nice.
 
1759
 
 
1760
 
 
1761
Managing a Release
 
1762
==================
 
1763
 
 
1764
Starting a Release
 
1765
------------------
 
1766
 
 
1767
To start a new release cycle:
 
1768
 
 
1769
#. Send mail to the list with the key dates, who will be the release
 
1770
   manager, and the main themes or targetted bugs.  Ask people to nominate
 
1771
   objectives, or point out an high-risk things that are best done early,
 
1772
   or that interact with other changes.
 
1773
 
 
1774
#. Add a new "series" in Launchpad at <https://launchpad.net/bzr/+addseries>.  There is one 
 
1775
   series for every *x.y* release.
 
1776
 
 
1777
Weekly Status Updates
 
1778
---------------------
 
1779
 
 
1780
TODO: Things to cover:
 
1781
 
 
1782
* Early communication to downstream teams (e.g. Launchpad) about changes in dependencies.
 
1783
* Reminder re lifecycle and where we're up to right now
 
1784
* Summary of recent successes and pending work
 
1785
* Reminder re release objectives
 
1786
* Reminder re things needing attention, e.g. bug triage, reviews, testing of certain things, etc.
 
1787
 
 
1788
 
 
1789
Feature Freeze
 
1790
--------------
 
1791
 
 
1792
TODO: Get material from http://bazaar-vcs.org/FeatureFreeze.
 
1793
 
 
1794
 
 
1795
 
 
1796
Making a Release or Release Candidate
 
1797
-------------------------------------
 
1798
 
 
1799
.. Was previously at http://bazaar-vcs.org/ReleaseChecklist
 
1800
 
 
1801
.. TODO: Still needs more clarity on what's in a RC versus a final
 
1802
.. release?
 
1803
 
 
1804
.. TODO: Too much of this is manual but could be automated...
 
1805
 
 
1806
This is the procedure for making a new bzr release:
 
1807
 
 
1808
#. If the release is the first candidate, make a new branch in PQM. (Contact RobertCollins for this step).
 
1809
 
 
1810
   Register the branch at https://launchpad.net/products/bzr/+addbranch
 
1811
 
 
1812
#. Run the automatic test suite and any non-automated tests.  (For example, try a download over http; these should eventually be scripted though not automatically run.). Try to have all optional dependencies installed so that there are no tests skipped. Also make sure that you have the c extensions compiled (``make`` or ``python setup.py build_ext -i``).
 
1813
 
 
1814
#. In the release branch, update  ``version_info`` in ``./bzrlib/__init__.py``
 
1815
 
 
1816
#. Add the date and release number to ``./NEWS``.
 
1817
 
 
1818
#. Update the release number in the README. (It's not there as of 0.15, but please check).
 
1819
 
 
1820
#. Commit these changes to the release branch, using a command like::
 
1821
    
 
1822
     bzr commit -m "(jam) Release 0.12rc1." 
 
1823
   
 
1824
   The diff before you commit will be something like::
 
1825
 
 
1826
       === modified file 'NEWS'
 
1827
       --- NEWS        2006-10-23 13:11:17 +0000
 
1828
       +++ NEWS        2006-10-23 22:50:50 +0000
 
1829
       @@ -1,4 +1,4 @@
 
1830
       -IN DEVELOPMENT
 
1831
       +bzr 0.12rc1  2006-10-23
 
1832
 
 
1833
          IMPROVEMENTS:
 
1834
 
 
1835
 
 
1836
       === modified file 'bzrlib/__init__.py'
 
1837
       --- bzrlib/__init__.py  2006-10-16 01:47:43 +0000
 
1838
       +++ bzrlib/__init__.py  2006-10-23 22:49:46 +0000
 
1839
       @@ -35,7 +35,7 @@
 
1840
        # Python version 2.0 is (2, 0, 0, 'final', 0)."  Additionally we use a
 
1841
        # releaselevel of 'dev' for unreleased under-development code.
 
1842
 
 
1843
       -version_info = (0, 12, 0, 'dev', 0)
 
1844
       +version_info = (0, 12, 0, 'candidate', 1)
 
1845
 
 
1846
        if version_info[3] == 'final':
 
1847
            version_string = '%d.%d.%d' % version_info[:3]
 
1848
 
 
1849
#. Submit those changes to PQM for merge into the appropriate release
 
1850
   branch.
 
1851
 
 
1852
#. When PQM succeeds, pull down the master release branch.
 
1853
 
 
1854
#. Run ``make dist`` from a clean copy of the release branch; this will
 
1855
   produce a tarball and prompt you to sign it.
 
1856
 
 
1857
#. Unpack the tarball into a temporary directory and run ``make check`` in
 
1858
   that directory.
 
1859
 
 
1860
#. Run ``setup.py install`` --root=prefix to do a test install into your system directory, home directory, or some other prefix.  Check the install worked and that the installed version is usable. (run the bzr script from the installed path with PYTHONPATH set to the site-packages directory it created). i.e. ::
 
1861
 
 
1862
    python setup.py install --root=installed
 
1863
    PYTHONPATH=installed/usr/lib/python2.4/site-packages installed/usr/bin/bzr
 
1864
 
 
1865
 
 
1866
Publishing the release
 
1867
----------------------
 
1868
 
 
1869
Now you have the releasable product.  The next step is making it
 
1870
available to the world.
 
1871
 
 
1872
#. In <https://launchpad.net/bzr/> click the "Release series" for this
 
1873
   series, to take you to e.g. <https://launchpad.net/bzr/1.1>.  Then
 
1874
   click "Register a release", and add information about this release.
 
1875
 
 
1876
#. Within that release, upload the source tarball and the GPG signature.
 
1877
 
 
1878
   (These used to also be uploaded to 
 
1879
   <sftp://escudero.ubuntu.com/srv/bazaar.canonical.com/www/releases/src>
 
1880
   but that's not accessible to all developers, and gets some mime types
 
1881
   wrong...  This upload can still be done with ``make
 
1882
   dist-upload-escudero``.)
 
1883
 
 
1884
#. Link from http://bazaar-vcs.org/Download to the tarball and signature.
 
1885
 
 
1886
#. Update http://doc.bazaar-vcs.org/ to have a directory of documentation
 
1887
   for this release.  (Controlled by the ``update-bzr-docs`` script on
 
1888
   escudero, and also update the ``latest`` symlink in
 
1889
   ``/srv/bazaar.canonical.com/doc/``.)
 
1890
 
 
1891
#. Announce on the `Bazaar home page`__
 
1892
   
 
1893
 __ http://bazaar-vcs.org/
 
1894
 
 
1895
 
 
1896
Announcing the release
 
1897
----------------------
 
1898
 
 
1899
Now that the release is publicly available, tell people about it.
 
1900
 
 
1901
#. Announce to ``bazaar-announce`` and ``bazaar`` mailing lists. 
 
1902
   The announce mail will look something like this:
 
1903
   
 
1904
    | Subject: bzr 0.11 release candidate 1
 
1905
    | 
 
1906
    | INTRO HERE. Mention the release number and date, and why the release. (i.e. release candidate for testing, final release of a version, backport/bugfix etc).
 
1907
    | 
 
1908
    | Tarballs:
 
1909
    | http://bazaar-vcs.org/releases/src/bzr-VERSION.tar.gz
 
1910
    | and GPG signature:
 
1911
    | http://bazaar-vcs.org/releases/src/bzr-VERSION.tar.gz.sig
 
1912
    | 
 
1913
    | DESCRIBE-CHANGES-IN-OVERVIEW-HERE
 
1914
    | 
 
1915
    | DESCRIBE-when the next release will be (if there is another - i.e. this is a release candidate)
 
1916
    | 
 
1917
    | Many thanks to all the contributors to this release! I've included the
 
1918
    | contents of NEWS for VERSION below:
 
1919
 
 
1920
   To generate the data from NEWS, just copy and paste the relevant news section and clean it up as appropriate. The main clean-up task is to confirm that all major changes are indeed covered. This can be done by running ``bzr log`` back to the point when the branch was opened and cross checking the changes against the NEWS entries.
 
1921
 
 
1922
   (RC announcements should remind plugin maintainers to update their plugins.)
 
1923
 
 
1924
     * For point releases (i.e. a release candidate, or an incremental fix to a released version) take everything in the relevant NEWS secion : for 0.11rc2 take everything in NEWS from the bzr 0.11rc2 line to the bzr 0.11rc1 line further down.
 
1925
 
 
1926
     * For major releases (i.e. 0.11, 0.12 etc), take all the combined NEWS sections from within that version: for 0.11 take all of the 0.11 specific section, plus 0.11rc2, plus 0.11rc1 etc.
 
1927
 
 
1928
#. Update the `news side menu`__ -- this currently requires downloading the file, editing it, deleting it, and uploading a replacement.
 
1929
 
 
1930
   __ http://bazaar-vcs.org/site/menu?action=AttachFile&do=view&target=news.html
 
1931
 
 
1932
#. Update the IRC channel topic. Use the ``/topic`` command to do this, ensuring the new topic text keeps the project name, web site link, etc.
 
1933
 
 
1934
#. Announce on http://freshmeat.net/projects/bzr/
 
1935
   
 
1936
   This should be done for both release candidates and final releases. If you do not have a Freshmeat account yet, ask one of the existing admins.
 
1937
 
 
1938
#. Update http://en.wikipedia.org/wiki/Bzr -- this should be done for final releases but not Release Candidates.
 
1939
 
 
1940
#. Package maintainers should update packages when they see the
 
1941
   announcement.
 
1942
 
 
1943
#. Blog about it.
 
1944
 
 
1945
#. Post to http://mail.python.org/mailman/listinfo/python-announce-list for major releases
 
1946
 
 
1947
#. Update the python package index: <http://pypi.python.org/pypi/bzr> - best
 
1948
   done by running ::
 
1949
 
 
1950
       python setup.py register
 
1951
 
 
1952
   Remember to check the results afterwards.
 
1953
 
 
1954
 
 
1955
Merging the released code back to trunk
 
1956
---------------------------------------
 
1957
 
 
1958
Merge the release branch back into the trunk.  Check that changes in NEWS
 
1959
were merged into the right sections.  If it's not already done, advance
 
1960
the version number in ``bzr`` and ``bzrlib/__init__.py``.  Submit this
 
1961
back into pqm for bzr.dev.
 
1962
 
 
1963
 
 
1964
 
 
1965
Making Win32 installers
 
1966
-----------------------
 
1967
 
 
1968
**XXX:** This information is now probably obsolete, as Alexander uploads
 
1969
direct to Launchpad.  --mbp 20080116
 
1970
 
 
1971
Alexander Belchenko has been very good about getting packaged installers compiled (see Win32ReleaseChecklist for details). He generally e-mails John Arbash Meinel when they are ready. This is just a brief checklist of what needs to be done.
 
1972
 
 
1973
#. Download and verify the sha1 sums and gpg signatures. Frequently the sha1 files are in dos mode, and need to be converted to unix mode (strip off the trailing ``\r``) before they veryify correctly.
 
1974
 
 
1975
#. Upload to the Launchpad page for this release.
 
1976
 
 
1977
#. Upload to escudero (to the b.c.c/www/releases/win32 directory) using sftp, lftp or rsync
 
1978
 
 
1979
#. Cat the contents of the .sha1 files into the SHA1SUM.
 
1980
 
 
1981
#. Update the SHA1SUM and MD5SUM files using something like ``md5sum bzr-0.14.0.win32.exe >> MD5SUM``. Make sure you use append (>>) rather than overwrite (>).
 
1982
 
 
1983
#. Verify once again that everything is correct with ``sha1sum -c SHA1SUM`` and ``md5sum -c MD5SUM``.
 
1984
 
 
1985
#. Update ``.htaccess`` so that the 'bzr-latest.win32.exe' links point to the latest release. This is not done for candidate releases, only for final releases. (example: bzr-0.14.0, but not bzr-0.14.0rc1).
 
1986
 
 
1987
#. Make sure these urls work as expected:
 
1988
 
 
1989
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.5.exe
 
1990
 
 
1991
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.5.exe.asc
 
1992
 
 
1993
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.4.exe
 
1994
 
 
1995
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.4.exe.asc
 
1996
 
 
1997
   http://bazaar-vcs.org/releases/win32/bzr-setup-latest.exe
 
1998
 
 
1999
   http://bazaar-vcs.org/releases/win32/bzr-setup-latest.exe.asc
 
2000
   
 
2001
They should all try to download a file with the correct version number.
 
2002
 
 
2003
#. Update http://bazaar-vcs.org/Download to indicate the newly available versions.
 
2004
 
 
2005
#. Update http://bazaar-vcs.org/WindowsDownloads to have the correct version number as well as the correct sha1sum displayed.
 
2006
 
 
2007
 
 
2008
The Bazaar PPA archive
 
2009
----------------------
 
2010
 
 
2011
We build Ubuntu ``.deb`` packages for Bazaar as an important part of the release
 
2012
process.  These packages are hosted in a `Personal Package Archive (PPA)`__ on
 
2013
Launchpad, at <https://launchpad.net/~bzr/+archive>.
 
2014
 
 
2015
  __ https://help.launchpad.net/PPAQuickStart
 
2016
 
 
2017
We build packages for every supported Ubuntu release
 
2018
<https://wiki.ubuntu.com/Releases>.  Packages need no longer be updated
 
2019
when the release passes end-of-life because all users should have then
 
2020
update.
 
2021
 
 
2022
The ``debian/`` directory containing the packaging information is kept in
 
2023
branches on Launchpad, named like 
 
2024
<https://code.launchpad.net/~bzr/bzrtools/packaging-dapper>
 
2025
 
 
2026
Updating the PPA for a new release
 
2027
----------------------------------
 
2028
 
 
2029
Preconditions for building these packages:
 
2030
  
 
2031
 * You must have a Launchpad account and be a member of the `~bzr`__ team
 
2032
   
 
2033
 __ https://edge.launchpad.net/~bzr/+members>
 
2034
 
 
2035
 * You must have a GPG key registered to your Launchpad account.
 
2036
 
 
2037
 * Configure ``dput`` to upload to our PPA with this section in your
 
2038
   ``~/.dput.cf``::
 
2039
 
 
2040
        [bzr-ppa]
 
2041
        fqdn = ppa.launchpad.net
 
2042
        method = ftp
 
2043
        incoming = ~bzr/ubuntu
 
2044
        login = anonymous
 
2045
        allow_unsigned_uploads = 0
 
2046
 
 
2047
 * You need a Ubuntu (or probably Debian) machine, and ::
 
2048
 
 
2049
     sudo apt-get install build-essential devscripts dput
 
2050
 
 
2051
Here is the process; there are some steps which should be automated in
 
2052
future:
 
2053
 
 
2054
#. You will need a working directory for each supported release, such as
 
2055
   ``~/bzr/Packaging/dapper``
 
2056
 
 
2057
#. Download the official tarball of the release to e.g. ``~/bzr/Releases``
 
2058
 
 
2059
#. Copy the original tarball into your per-disto directory, then untar it 
 
2060
   and if necessary rename it::
 
2061
 
 
2062
     cp -l ~/bzr/Releases/bzrtools-1.3.0.tar.gz bzrtools_1.3.0.orig.tar.gz
 
2063
     tar xfvz bzrtools_1.3.0.orig.tar.gz
 
2064
     mv bzrtools bzrtools-1.3.0
 
2065
 
 
2066
#. Change into that directory and check out the packaging branch::
 
2067
 
 
2068
     cd bzrtools
 
2069
     bzr checkout \
 
2070
       bzr+ssh://bazaar.launchpad.net/~bzr/bzrtools/packaging-dapper \
 
2071
       debian
 
2072
 
 
2073
#. For Bazaar plugins, change the ``debian/control`` file to express a
 
2074
   dependency on the correct version of ``bzr``.
 
2075
 
 
2076
   For bzrtools this is typically::
 
2077
 
 
2078
      Build-Depends-Indep: bzr (>= 1.3~), rsync
 
2079
      Depends: ${python:Depends}, bzr (>= 1.3~), bzr (<< 1.4~), patch
 
2080
 
 
2081
#. Make a new ``debian/changelog`` entry for the new release,
 
2082
   either by using ``dch`` or just editing the file::
 
2083
 
 
2084
     dch -v '1.3.0-1~bazaar1~dapper1' -D dapper
 
2085
 
 
2086
   dch will default to the distro you're working in and this isn't checked
 
2087
   against the version number (which is just our conversion).  So make
 
2088
   sure to specify it.
 
2089
 
 
2090
   Make sure you have the correct email address for yourself, version
 
2091
   number, and distribution.  It should look something like this::
 
2092
 
 
2093
     >  bzrtools (1.3.0-1~bazaar1~dapper1) dapper; urgency=low
 
2094
     >
 
2095
     >   * New upstream release.
 
2096
     >
 
2097
     >  -- John Sample <sample@example.com>  Mon, 31 Mar 2008 12:36:27 +1100
 
2098
 
 
2099
   If you need to upload the package again to fix a problem, normally you
 
2100
   should increment the last number in the version number, following the
 
2101
   distro name.  Make sure not to omit the initial ``-1``, and make sure
 
2102
   that the distro name in the version is consistent with the target name
 
2103
   outside the parenthesis.
 
2104
 
 
2105
#. Commit these changes into the packaging branch::
 
2106
 
 
2107
     bzr ci -m '1.3.0-1~bazaar1~dapper1: New upstream release.' debian
 
2108
 
 
2109
#. Build a source package::
 
2110
 
 
2111
     debuild -S -sa -i
 
2112
 
 
2113
   This will create a ``.changes`` file in the per-distro directory,
 
2114
   and should invoke gpg to sign it with your key.
 
2115
   Check that file is reasonable: it should be uploading to the intended
 
2116
   distribution, have a .orig file included, and the right version number.
 
2117
 
 
2118
#. Upload into the PPA::
 
2119
 
 
2120
     dput bzr-ppa ../bzrtools__1.3.0-1\~bazaar1\~dapper1_source.changes
 
2121
 
 
2122
   Don't forget the ``bzr-ppa`` component or dput will try to upload into
 
2123
   the main archive by default.  You can disable this by adding this
 
2124
   section to your ``.dput.cf``::
 
2125
 
 
2126
     [ubuntu]
 
2127
     fqdn = SPECIFY.A.PPA.NAME
 
2128
 
 
2129
#. You should soon get an "upload accepted" mail from Launchpad, which
 
2130
   means that your package is waiting to be built.  You can then track its
 
2131
   progress in <https://launchpad.net/~bzr/+archive> and
 
2132
   <https://launchpad.net/~bzr/+archive/+builds>.
 
2133
 
 
2134
 
 
2135
..
 
2136
   vim: ft=rst tw=74 ai