~bzr-pqm/bzr/bzr.dev

« back to all changes in this revision

Viewing changes to doc/developers/HACKING.txt

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2008-03-16 14:01:20 UTC
  • mfrom: (3280.2.5 integration)
  • Revision ID: pqm@pqm.ubuntu.com-20080316140120-i3yq8yr1l66m11h7
Start 1.4 development

Show diffs side-by-side

added added

removed removed

Lines of Context:
2
2
Bazaar Developer Guide
3
3
======================
4
4
 
5
 
This document describes the Bazaar internals and the development process.  
6
 
It's meant for people interested in developing Bazaar, and some parts will
7
 
also be useful to people developing Bazaar plugins.
8
 
 
9
 
If you have any questions or something seems to be incorrect, unclear or
10
 
missing, please talk to us in ``irc://irc.freenode.net/#bzr``, or write to
11
 
the Bazaar mailing list.  To propose a correction or addition to this
12
 
document, send a merge request or new text to the mailing list.
13
 
 
14
 
The current version of this document is available in the file 
 
5
.. contents::
 
6
 
 
7
(The current version of this document is available in the file 
15
8
``doc/developers/HACKING.txt`` in the source tree, or at
16
 
http://doc.bazaar-vcs.org/bzr.dev/en/developer-guide/HACKING.html
17
 
 
18
 
See also:
19
 
`Bazaar Developer Documentation Catalog <../../developers/index.html>`_.
20
 
 
21
 
.. contents::
 
9
http://doc.bazaar-vcs.org/bzr.dev/en/developer-guide/HACKING.html)
22
10
 
23
11
 
24
12
Getting Started
82
70
Understanding the Development Process
83
71
=====================================
84
72
 
85
 
The development team follows many practices including:
 
73
The development team follows many best-practices including:
86
74
 
87
75
* a public roadmap and planning process in which anyone can participate
88
76
 
108
96
For further information, see http://bazaar-vcs.org/BzrDevelopment.
109
97
 
110
98
 
111
 
 
112
 
 
113
 
Preparing a Sandbox for Making Changes to Bazaar
114
 
================================================
115
 
 
116
 
Bazaar supports many ways of organising your work. See
117
 
http://bazaar-vcs.org/SharedRepositoryLayouts for a summary of the
118
 
popular alternatives.
119
 
 
120
 
Of course, the best choice for you will depend on numerous factors:
121
 
the number of changes you may be making, the complexity of the changes, etc.
122
 
As a starting suggestion though:
123
 
 
124
 
* create a local copy of the main development branch (bzr.dev) by using
125
 
  this command::
126
 
  
127
 
    bzr branch http://bazaar-vcs.org/bzr/bzr.dev/ bzr.dev
128
 
   
129
 
* keep your copy of bzr.dev prestine (by not developing in it) and keep
130
 
  it up to date (by using bzr pull)
131
 
 
132
 
* create a new branch off your local bzr.dev copy for each issue
133
 
  (bug or feature) you are working on.
134
 
 
135
 
This approach makes it easy to go back and make any required changes
136
 
after a code review. Resubmitting the change is then simple with no
137
 
risk of accidentially including edits related to other issues you may
138
 
be working on. After the changes for an issue are accepted and merged,
139
 
the associated branch can be deleted or archived as you wish.
140
 
 
141
 
 
142
 
Navigating the Code Base
143
 
========================
144
 
 
145
 
.. Was at <http://bazaar-vcs.org/NewDeveloperIntroduction>
146
 
 
147
 
Some of the key files in this directory are:
148
 
 
149
 
bzr
150
 
    The command you run to start Bazaar itself.  This script is pretty
151
 
    short and just does some checks then jumps into bzrlib.
152
 
 
153
 
README
154
 
    This file covers a brief introduction to Bazaar and lists some of its
155
 
    key features. 
156
 
 
157
 
NEWS
158
 
    Summary of changes in each Bazaar release that can affect users or 
159
 
    plugin developers.
160
 
 
161
 
setup.py
162
 
    Installs Bazaar system-wide or to your home directory.  To perform
163
 
    development work on Bazaar it is not required to run this file - you
164
 
    can simply run the bzr command from the top level directory of your
165
 
    development copy. Note: That if you run setup.py this will create a
166
 
    'build' directory in your development branch. There's nothing wrong
167
 
    with this but don't be confused by it. The build process puts a copy
168
 
    of the main code base into this build directory, along with some other
169
 
    files. You don't need to go in here for anything discussed in this
170
 
    guide. 
171
 
 
172
 
bzrlib
173
 
    Possibly the most exciting folder of all, bzrlib holds the main code
174
 
    base. This is where you will go to edit python files and contribute to
175
 
    Bazaar.
176
 
 
177
 
doc
178
 
    Holds documentation on a whole range of things on Bazaar from the
179
 
    origination of ideas within the project to information on Bazaar
180
 
    features and use cases.  Within this directory there is a subdirectory
181
 
    for each translation into a human language.  All the documentation 
182
 
    is in the ReStructuredText markup language.
183
 
 
184
 
doc/developers 
185
 
    Documentation specifically targetted at Bazaar and plugin developers.
186
 
    (Including this document.)
187
 
    
188
 
        
189
 
 
190
 
Automatically-generated API reference information is available at 
191
 
<http://starship.python.net/crew/mwh/bzrlibapi/>.  
192
 
 
193
 
See also the `Bazaar Architectural Overview  <../../developers/overview.html>`_.
194
 
 
195
 
 
196
 
The Code Review Process
197
 
#######################
198
 
 
199
 
All code changes coming in to Bazaar are reviewed by someone else.
200
 
Normally changes by core contributors are reviewed by one other core
201
 
developer, and changes from other people are reviewed by two core
202
 
developers.  Use intelligent discretion if the patch is trivial.
203
 
 
204
 
Good reviews do take time. They also regularly require a solid
205
 
understanding of the overall code base. In practice, this means a small
206
 
number of people often have a large review burden - with knowledge comes
207
 
responsibility. No one like their merge requests sitting in a queue going
208
 
nowhere, so reviewing sooner rather than later is strongly encouraged.
209
 
 
210
 
 
211
 
 
212
 
Sending patches for review
213
 
==========================
 
99
A Closer Look at the Merge & Review Process
 
100
===========================================
214
101
 
215
102
If you'd like to propose a change, please post to the
216
103
bazaar@lists.canonical.com list with a bundle, patch, or link to a
217
 
branch. Put ``[PATCH]`` or ``[MERGE]`` in the subject so Bundle Buggy
 
104
branch. Put '[PATCH]' or '[MERGE]' in the subject so Bundle Buggy
218
105
can pick it out, and explain the change in the email message text.
219
106
Remember to update the NEWS file as part of your change if it makes any
220
107
changes visible to users or plugin developers. Please include a diff
221
108
against mainline if you're giving a link to a branch.
222
109
 
223
 
You can generate a merge request like this::
 
110
You can generate a bundle like this::
224
111
 
225
 
  bzr send -o bug-1234.patch
 
112
  bzr bundle > mybundle.patch
226
113
  
227
 
A ``.patch`` extension is recommended instead of .bundle as many mail clients
228
 
will send the latter as a binary file.
229
 
 
230
 
``bzr send`` can also send mail directly if you prefer; see the help.
 
114
A .patch extension is recommended instead of .bundle as many mail clients
 
115
will send the latter as a binary file. If a bundle would be too long or your
 
116
mailer mangles whitespace (e.g. implicitly converts Unix newlines to DOS
 
117
newlines), use the merge-directive command instead like this::
 
118
 
 
119
  bzr merge-directive http://bazaar-vcs.org http://example.org/my_branch > my_directive.patch
 
120
 
 
121
See the help for details on the arguments to merge-directive.
231
122
 
232
123
Please do **NOT** put [PATCH] or [MERGE] in the subject line if you don't
233
124
want it to be merged. If you want comments from developers rather than
234
 
to be merged, you can put ``[RFC]`` in the subject line.
235
 
 
236
 
If this change addresses a bug, please put the bug number in the subject
237
 
line too, in the form ``[#1]`` so that Bundle Buggy can recognize it.
238
 
 
239
 
If the change is intended for a particular release mark that in the
240
 
subject too, e.g. ``[1.6]``.
241
 
 
242
 
 
243
 
Review cover letters
244
 
====================
245
 
 
246
 
Please put a "cover letter" on your merge request explaining:
247
 
 
248
 
* the reason **why** you're making this change
249
 
 
250
 
* **how** this change achieves this purpose
251
 
 
252
 
* anything else you may have fixed in passing 
253
 
 
254
 
* anything significant that you thought of doing, such as a more
255
 
  extensive fix or a different approach, but didn't or couldn't do now
256
 
 
257
 
A good cover letter makes reviewers' lives easier because they can decide
258
 
from the letter whether they agree with the purpose and approach, and then
259
 
assess whether the patch actually does what the cover letter says.
260
 
Explaining any "drive-by fixes" or roads not taken may also avoid queries
261
 
from the reviewer.  All in all this should give faster and better reviews.
262
 
Sometimes writing the cover letter helps the submitter realize something
263
 
else they need to do.  The size of the cover letter should be proportional
264
 
to the size and complexity of the patch.
265
 
 
266
 
 
267
 
Reviewing proposed changes
268
 
==========================
269
 
 
270
 
Anyone is welcome to review code, and reply to the thread with their
271
 
opinion or comments.
272
 
 
273
 
The simplest way to review a proposed change is to just read the patch on
274
 
the list or in Bundle Buggy.  For more complex changes it may be useful
275
 
to make a new working tree or branch from trunk, and merge the proposed
276
 
change into it, so you can experiment with the code or look at a wider
277
 
context.
278
 
 
279
 
There are three main requirements for code to get in:
280
 
 
281
 
* Doesn't reduce test coverage: if it adds new methods or commands,
282
 
  there should be tests for them.  There is a good test framework
283
 
  and plenty of examples to crib from, but if you are having trouble
284
 
  working out how to test something feel free to post a draft patch
285
 
  and ask for help.
286
 
 
287
 
* Doesn't reduce design clarity, such as by entangling objects
288
 
  we're trying to separate.  This is mostly something the more
289
 
  experienced reviewers need to help check.
290
 
 
291
 
* Improves bugs, features, speed, or code simplicity.
292
 
 
293
 
Code that goes in should not degrade any of these aspects.  Patches are
294
 
welcome that only cleanup the code without changing the external
295
 
behaviour.  The core developers take care to keep the code quality high
296
 
and understandable while recognising that perfect is sometimes the enemy
297
 
of good. 
298
 
 
299
 
It is easy for reviews to make people notice other things which should be
300
 
fixed but those things should not hold up the original fix being accepted.
301
 
New things can easily be recorded in the Bug Tracker instead.
302
 
 
303
 
It's normally much easier to review several smaller patches than one large
304
 
one.  You might want to use ``bzr-loom`` to maintain threads of related
305
 
work, or submit a preparatory patch that will make your "real" change
306
 
easier.
307
 
 
308
 
 
309
 
Checklist for reviewers
310
 
=======================
311
 
 
312
 
* Do you understand what the code's doing and why?
313
 
 
314
 
* Will it perform reasonably for large inputs, both in memory size and
315
 
  run time?  Are there some scenarios where performance should be
316
 
  measured?
317
 
 
318
 
* Is it tested, and are the tests at the right level?  Are there both
319
 
  blackbox (command-line level) and API-oriented tests?
320
 
 
321
 
* If this change will be visible to end users or API users, is it
322
 
  appropriately documented in NEWS?
323
 
 
324
 
* Does it meet the coding standards below?
325
 
 
326
 
* If it changes the user-visible behaviour, does it update the help
327
 
  strings and user documentation?
328
 
 
329
 
* If it adds a new major concept or standard practice, does it update the
330
 
  developer documentation?
331
 
 
332
 
* (your ideas here...)
333
 
 
334
 
 
335
 
Bundle Buggy and review outcomes
336
 
================================
337
 
 
338
 
Anyone can "vote" on the mailing list by expressing an opinion. Core
339
 
developers can also vote using Bundle Buggy. Here are the voting codes and
340
 
their explanations.
 
125
to be merged, you can put '[RFC]' in the subject line.
 
126
 
 
127
Anyone is welcome to review code.  There are broadly three gates for
 
128
code to get in:
 
129
 
 
130
 * Doesn't reduce test coverage: if it adds new methods or commands,
 
131
   there should be tests for them.  There is a good test framework
 
132
   and plenty of examples to crib from, but if you are having trouble
 
133
   working out how to test something feel free to post a draft patch
 
134
   and ask for help.
 
135
 
 
136
 * Doesn't reduce design clarity, such as by entangling objects
 
137
   we're trying to separate.  This is mostly something the more
 
138
   experienced reviewers need to help check.
 
139
 
 
140
 * Improves bugs, features, speed, or code simplicity.
 
141
 
 
142
Code that goes in should pass all three. The core developers take care
 
143
to keep the code quality high and understandable while recognising that
 
144
perfect is sometimes the enemy of good. (It is easy for reviews to make
 
145
people notice other things which should be fixed but those things should
 
146
not hold up the original fix being accepted. New things can easily be
 
147
recorded in the Bug Tracker instead.)
 
148
 
 
149
Anyone can "vote" on the mailing list. Core developers can also vote using
 
150
Bundle Buggy. Here are the voting codes and their explanations.
341
151
 
342
152
:approve:  Reviewer wants this submission merged.
343
153
:tweak:    Reviewer wants this submission merged with small changes. (No
360
170
outstanding merge requests together with an explanation of the columns.
361
171
Bundle Buggy will also mail you a link to track just your change.
362
172
 
 
173
 
 
174
Preparing a Sandbox for Making Changes to Bazaar
 
175
================================================
 
176
 
 
177
Bazaar supports many ways of organising your work. See
 
178
http://bazaar-vcs.org/SharedRepositoryLayouts for a summary of the
 
179
popular alternatives.
 
180
 
 
181
Of course, the best choice for you will depend on numerous factors:
 
182
the number of changes you may be making, the complexity of the changes, etc.
 
183
As a starting suggestion though:
 
184
 
 
185
* create a local copy of the main development branch (bzr.dev) by using
 
186
  this command::
 
187
  
 
188
    bzr branch http://bazaar-vcs.org/bzr/bzr.dev/ bzr.dev
 
189
   
 
190
* keep your copy of bzr.dev prestine (by not developing in it) and keep
 
191
  it up to date (by using bzr pull)
 
192
 
 
193
* create a new branch off your local bzr.dev copy for each issue
 
194
  (bug or feature) you are working on.
 
195
 
 
196
This approach makes it easy to go back and make any required changes
 
197
after a code review. Resubmitting the change is then simple with no
 
198
risk of accidentially including edits related to other issues you may
 
199
be working on. After the changes for an issue are accepted and merged,
 
200
the associated branch can be deleted or archived as you wish.
 
201
 
 
202
 
 
203
Navigating the Code Base
 
204
========================
 
205
 
 
206
TODO: List and describe in one line the purpose of each directory
 
207
inside an installation of bzr.
 
208
 
 
209
TODO: Refer to a central location holding an up to date copy of the API
 
210
documentation generated by epydoc, e.g. something like
 
211
http://starship.python.net/crew/mwh/bzrlibapi/bzrlib.html.
 
212
 
 
213
 
 
214
Testing Bazaar
 
215
##############
 
216
 
 
217
The Importance of Testing
 
218
=========================
 
219
 
 
220
Reliability is a critical success factor for any Version Control System.
 
221
We want Bazaar to be highly reliable across multiple platforms while
 
222
evolving over time to meet the needs of its community. 
 
223
 
 
224
In a nutshell, this is want we expect and encourage:
 
225
 
 
226
* New functionality should have test cases.  Preferably write the
 
227
  test before writing the code.
 
228
 
 
229
  In general, you can test at either the command-line level or the
 
230
  internal API level.  See Writing tests below for more detail.
 
231
 
 
232
* Try to practice Test-Driven Development: before fixing a bug, write a
 
233
  test case so that it does not regress.  Similarly for adding a new
 
234
  feature: write a test case for a small version of the new feature before
 
235
  starting on the code itself.  Check the test fails on the old code, then
 
236
  add the feature or fix and check it passes.
 
237
 
 
238
By doing these things, the Bazaar team gets increased confidence that
 
239
changes do what they claim to do, whether provided by the core team or
 
240
by community members. Equally importantly, we can be surer that changes
 
241
down the track do not break new features or bug fixes that you are
 
242
contributing today.
 
243
 
 
244
As of May 2007, Bazaar ships with a test suite containing over 6000 tests
 
245
and growing. We are proud of it and want to remain so. As community
 
246
members, we all benefit from it. Would you trust version control on
 
247
your project to a product *without* a test suite like Bazaar has?
 
248
 
 
249
 
 
250
Running the Test Suite
 
251
======================
 
252
 
 
253
Currently, bzr selftest is used to invoke tests.
 
254
You can provide a pattern argument to run a subset. For example, 
 
255
to run just the blackbox tests, run::
 
256
 
 
257
  ./bzr selftest -v blackbox
 
258
 
 
259
To skip a particular test (or set of tests), use the --exclude option
 
260
(shorthand -x) like so::
 
261
 
 
262
  ./bzr selftest -v -x blackbox  
 
263
 
 
264
To ensure that all tests are being run and succeeding, you can use the
 
265
--strict option which will fail if there are any missing features or known
 
266
failures, like so::
 
267
 
 
268
  ./bzr selftest --strict
 
269
 
 
270
To list tests without running them, use the --list-only option like so::
 
271
 
 
272
  ./bzr selftest --list-only
 
273
 
 
274
This option can be combined with other selftest options (like -x) and
 
275
filter patterns to understand their effect.
 
276
 
 
277
 
 
278
Writing Tests
 
279
=============
 
280
 
 
281
In general tests should be placed in a file named test_FOO.py where 
 
282
FOO is the logical thing under test. That file should be placed in the
 
283
tests subdirectory under the package being tested.
 
284
 
 
285
For example, tests for merge3 in bzrlib belong in bzrlib/tests/test_merge3.py.
 
286
See bzrlib/tests/test_sampler.py for a template test script.
 
287
 
 
288
Tests can be written for the UI or for individual areas of the library.
 
289
Choose whichever is appropriate: if adding a new command, or a new command 
 
290
option, then you should be writing a UI test.  If you are both adding UI
 
291
functionality and library functionality, you will want to write tests for 
 
292
both the UI and the core behaviours.  We call UI tests 'blackbox' tests
 
293
and they are found in ``bzrlib/tests/blackbox/*.py``. 
 
294
 
 
295
When writing blackbox tests please honour the following conventions:
 
296
 
 
297
 1. Place the tests for the command 'name' in
 
298
    bzrlib/tests/blackbox/test_name.py. This makes it easy for developers
 
299
    to locate the test script for a faulty command.
 
300
 
 
301
 2. Use the 'self.run_bzr("name")' utility function to invoke the command
 
302
    rather than running bzr in a subprocess or invoking the
 
303
    cmd_object.run() method directly. This is a lot faster than
 
304
    subprocesses and generates the same logging output as running it in a
 
305
    subprocess (which invoking the method directly does not).
 
306
 
 
307
 3. Only test the one command in a single test script. Use the bzrlib 
 
308
    library when setting up tests and when evaluating the side-effects of
 
309
    the command. We do this so that the library api has continual pressure
 
310
    on it to be as functional as the command line in a simple manner, and
 
311
    to isolate knock-on effects throughout the blackbox test suite when a
 
312
    command changes its name or signature. Ideally only the tests for a
 
313
    given command are affected when a given command is changed.
 
314
 
 
315
 4. If you have a test which does actually require running bzr in a
 
316
    subprocess you can use ``run_bzr_subprocess``. By default the spawned
 
317
    process will not load plugins unless ``--allow-plugins`` is supplied.
 
318
 
 
319
 
 
320
Doctests
 
321
--------
 
322
 
 
323
We make selective use of doctests__.  In general they should provide 
 
324
*examples* within the API documentation which can incidentally be tested.  We 
 
325
don't try to test every important case using doctests -- regular Python
 
326
tests are generally a better solution.
 
327
 
 
328
Most of these are in ``bzrlib/doc/api``.  More additions are welcome.
 
329
 
 
330
  __ http://docs.python.org/lib/module-doctest.html
 
331
 
 
332
 
 
333
Skipping tests and test requirements
 
334
------------------------------------
 
335
 
 
336
In our enhancements to unittest we allow for some addition results beyond
 
337
just success or failure.
 
338
 
 
339
If a test can't be run, it can say that it's skipped.  This is typically
 
340
used in parameterized tests - for example if a transport doesn't support
 
341
setting permissions, we'll skip the tests that relating to that.  ::
 
342
 
 
343
    try:
 
344
        return self.branch_format.initialize(repo.bzrdir)
 
345
    except errors.UninitializableFormat:
 
346
        raise tests.TestSkipped('Uninitializable branch format')
 
347
 
 
348
Raising TestSkipped is a good idea when you want to make it clear that the
 
349
test was not run, rather than just returning which makes it look as if it
 
350
was run and passed.
 
351
 
 
352
Several different cases are distinguished:
 
353
 
 
354
TestSkipped
 
355
        Generic skip; the only type that was present up to bzr 0.18.
 
356
 
 
357
TestNotApplicable
 
358
        The test doesn't apply to the parameters with which it was run.
 
359
        This is typically used when the test is being applied to all
 
360
        implementations of an interface, but some aspects of the interface
 
361
        are optional and not present in particular concrete
 
362
        implementations.  (Some tests that should raise this currently
 
363
        either silently return or raise TestSkipped.)  Another option is
 
364
        to use more precise parameterization to avoid generating the test
 
365
        at all.
 
366
 
 
367
TestPlatformLimit
 
368
        **(Not implemented yet)**
 
369
        The test can't be run because of an inherent limitation of the
 
370
        environment, such as not having symlinks or not supporting
 
371
        unicode.
 
372
 
 
373
UnavailableFeature
 
374
        The test can't be run because a dependency (typically a Python
 
375
        library) is not available in the test environment.  These
 
376
        are in general things that the person running the test could fix 
 
377
        by installing the library.  It's OK if some of these occur when 
 
378
        an end user runs the tests or if we're specifically testing in a
 
379
        limited environment, but a full test should never see them.
 
380
 
 
381
KnownFailure
 
382
        The test exists but is known to fail, for example because the 
 
383
        code to fix it hasn't been run yet.  Raising this allows 
 
384
        you to distinguish these failures from the ones that are not 
 
385
        expected to fail.  This could be conditionally raised if something
 
386
        is broken on some platforms but not on others.
 
387
 
 
388
We plan to support three modes for running the test suite to control the
 
389
interpretation of these results.  Strict mode is for use in situations
 
390
like merges to the mainline and releases where we want to make sure that
 
391
everything that can be tested has been tested.  Lax mode is for use by
 
392
developers who want to temporarily tolerate some known failures.  The
 
393
default behaviour is obtained by ``bzr selftest`` with no options, and
 
394
also (if possible) by running under another unittest harness.
 
395
 
 
396
======================= ======= ======= ========
 
397
result                  strict  default lax
 
398
======================= ======= ======= ========
 
399
TestSkipped             pass    pass    pass
 
400
TestNotApplicable       pass    pass    pass
 
401
TestPlatformLimit       pass    pass    pass
 
402
TestDependencyMissing   fail    pass    pass
 
403
KnownFailure            fail    pass    pass
 
404
======================= ======= ======= ========
 
405
     
 
406
 
 
407
Test feature dependencies
 
408
-------------------------
 
409
 
 
410
Rather than manually checking the environment in each test, a test class
 
411
can declare its dependence on some test features.  The feature objects are
 
412
checked only once for each run of the whole test suite.
 
413
 
 
414
For historical reasons, as of May 2007 many cases that should depend on
 
415
features currently raise TestSkipped.)
 
416
 
 
417
::
 
418
 
 
419
    class TestStrace(TestCaseWithTransport):
 
420
 
 
421
        _test_needs_features = [StraceFeature]
 
422
 
 
423
This means all tests in this class need the feature.  The feature itself
 
424
should provide a ``_probe`` method which is called once to determine if
 
425
it's available.
 
426
 
 
427
These should generally be equivalent to either TestDependencyMissing or
 
428
sometimes TestPlatformLimit.
 
429
 
 
430
 
 
431
Known failures
 
432
--------------
 
433
 
 
434
Known failures are when a test exists but we know it currently doesn't
 
435
work, allowing the test suite to still pass.  These should be used with
 
436
care, we don't want a proliferation of quietly broken tests.  It might be
 
437
appropriate to use them if you've committed a test for a bug but not the
 
438
fix for it, or if something works on Unix but not on Windows.
 
439
 
 
440
 
 
441
Testing exceptions and errors
 
442
-----------------------------
 
443
 
 
444
It's important to test handling of errors and exceptions.  Because this
 
445
code is often not hit in ad-hoc testing it can often have hidden bugs --
 
446
it's particularly common to get NameError because the exception code
 
447
references a variable that has since been renamed.
 
448
 
 
449
.. TODO: Something about how to provoke errors in the right way?
 
450
 
 
451
In general we want to test errors at two levels:
 
452
 
 
453
1. A test in ``test_errors.py`` checking that when the exception object is
 
454
   constructed with known parameters it produces an expected string form.
 
455
   This guards against mistakes in writing the format string, or in the
 
456
   ``str`` representations of its parameters.  There should be one for
 
457
   each exception class.
 
458
 
 
459
2. Tests that when an api is called in a particular situation, it raises
 
460
   an error of the expected class.  You should typically use
 
461
   ``assertRaises``, which in the Bazaar test suite returns the exception
 
462
   object to allow you to examine its parameters.  
 
463
 
 
464
In some cases blackbox tests will also want to check error reporting.  But
 
465
it can be difficult to provoke every error through the commandline
 
466
interface, so those tests are only done as needed -- eg in response to a
 
467
particular bug or if the error is reported in an unusual way(?)  Blackbox
 
468
tests should mostly be testing how the command-line interface works, so
 
469
should only test errors if there is something particular to the cli in how
 
470
they're displayed or handled.
 
471
 
 
472
 
 
473
Testing warnings
 
474
----------------
 
475
 
 
476
The Python ``warnings`` module is used to indicate a non-fatal code
 
477
problem.  Code that's expected to raise a warning can be tested through
 
478
callCatchWarnings.
 
479
 
 
480
The test suite can be run with ``-Werror`` to check no unexpected errors
 
481
occur.
 
482
 
 
483
However, warnings should be used with discretion.  It's not an appropriate
 
484
way to give messages to the user, because the warning is normally shown
 
485
only once per source line that causes the problem.  You should also think
 
486
about whether the warning is serious enought that it should be visible to
 
487
users who may not be able to fix it.
 
488
 
 
489
 
 
490
Interface implementation testing and test scenarios
 
491
---------------------------------------------------
 
492
 
 
493
There are several cases in Bazaar of multiple implementations of a common 
 
494
conceptual interface.  ("Conceptual" because 
 
495
it's not necessary for all the implementations to share a base class,
 
496
though they often do.)  Examples include transports and the working tree,
 
497
branch and repository classes. 
 
498
 
 
499
In these cases we want to make sure that every implementation correctly
 
500
fulfils the interface requirements.  For example, every Transport should
 
501
support the ``has()`` and ``get()`` and ``clone()`` methods.  We have a
 
502
sub-suite of tests in ``test_transport_implementations``.  (Most
 
503
per-implementation tests are in submodules of ``bzrlib.tests``, but not
 
504
the transport tests at the moment.)  
 
505
 
 
506
These tests are repeated for each registered Transport, by generating a
 
507
new TestCase instance for the cross product of test methods and transport
 
508
implementations.  As each test runs, it has ``transport_class`` and
 
509
``transport_server`` set to the class it should test.  Most tests don't
 
510
access these directly, but rather use ``self.get_transport`` which returns
 
511
a transport of the appropriate type.
 
512
 
 
513
The goal is to run per-implementation only tests that relate to that
 
514
particular interface.  Sometimes we discover a bug elsewhere that happens
 
515
with only one particular transport.  Once it's isolated, we can consider 
 
516
whether a test should be added for that particular implementation,
 
517
or for all implementations of the interface.
 
518
 
 
519
The multiplication of tests for different implementations is normally 
 
520
accomplished by overriding the ``test_suite`` function used to load 
 
521
tests from a module.  This function typically loads all the tests,
 
522
then applies a TestProviderAdapter to them, which generates a longer 
 
523
suite containing all the test variations.
 
524
 
 
525
 
 
526
Test scenarios
 
527
--------------
 
528
 
 
529
Some utilities are provided for generating variations of tests.  This can
 
530
be used for per-implementation tests, or other cases where the same test
 
531
code needs to run several times on different scenarios.
 
532
 
 
533
The general approach is to define a class that provides test methods,
 
534
which depend on attributes of the test object being pre-set with the
 
535
values to which the test should be applied.  The test suite should then
 
536
also provide a list of scenarios in which to run the tests.
 
537
 
 
538
Typically ``multiply_tests_from_modules`` should be called from the test
 
539
module's ``test_suite`` function.
 
540
 
 
541
 
 
542
Essential Domain Classes
 
543
########################
 
544
 
 
545
Introducing the Object Model
 
546
============================
 
547
 
 
548
The core domain objects within the bazaar model are:
 
549
 
 
550
* Transport
 
551
 
 
552
* Branch
 
553
 
 
554
* Repository
 
555
 
 
556
* WorkingTree
 
557
 
 
558
Transports are explained below. See http://bazaar-vcs.org/Classes/
 
559
for an introduction to the other key classes.
 
560
 
 
561
Using Transports
 
562
================
 
563
 
 
564
The ``Transport`` layer handles access to local or remote directories.
 
565
Each Transport object acts like a logical connection to a particular
 
566
directory, and it allows various operations on files within it.  You can
 
567
*clone* a transport to get a new Transport connected to a subdirectory or
 
568
parent directory.
 
569
 
 
570
Transports are not used for access to the working tree.  At present
 
571
working trees are always local and they are accessed through the regular
 
572
Python file io mechanisms.
 
573
 
 
574
Filenames vs URLs
 
575
-----------------
 
576
 
 
577
Transports work in URLs.  Take note that URLs are by definition only
 
578
ASCII - the decision of how to encode a Unicode string into a URL must be
 
579
taken at a higher level, typically in the Store.  (Note that Stores also
 
580
escape filenames which cannot be safely stored on all filesystems, but
 
581
this is a different level.)
 
582
 
 
583
The main reason for this is that it's not possible to safely roundtrip a
 
584
URL into Unicode and then back into the same URL.  The URL standard
 
585
gives a way to represent non-ASCII bytes in ASCII (as %-escapes), but
 
586
doesn't say how those bytes represent non-ASCII characters.  (They're not
 
587
guaranteed to be UTF-8 -- that is common but doesn't happen everywhere.)
 
588
 
 
589
For example if the user enters the url ``http://example/%e0`` there's no
 
590
way to tell whether that character represents "latin small letter a with
 
591
grave" in iso-8859-1, or "latin small letter r with acute" in iso-8859-2
 
592
or malformed UTF-8.  So we can't convert their URL to Unicode reliably.
 
593
 
 
594
Equally problematic if we're given a url-like string containing non-ascii
 
595
characters (such as the accented a) we can't be sure how to convert that
 
596
to the correct URL, because we don't know what encoding the server expects
 
597
for those characters.  (Although this is not totally reliable we might still
 
598
accept these and assume they should be put into UTF-8.)
 
599
 
 
600
A similar edge case is that the url ``http://foo/sweet%2Fsour`` contains
 
601
one directory component whose name is "sweet/sour".  The escaped slash is
 
602
not a directory separator.  If we try to convert URLs to regular Unicode
 
603
paths this information will be lost.
 
604
 
 
605
This implies that Transports must natively deal with URLs; for simplicity
 
606
they *only* deal with URLs and conversion of other strings to URLs is done
 
607
elsewhere.  Information they return, such as from ``list_dir``, is also in
 
608
the form of URL components.
 
609
 
 
610
 
 
611
Core Topics
 
612
###########
 
613
 
 
614
Evolving Interfaces
 
615
===================
 
616
 
 
617
We have a commitment to 6 months API stability - any supported symbol in a
 
618
release of bzr MUST NOT be altered in any way that would result in
 
619
breaking existing code that uses it. That means that method names,
 
620
parameter ordering, parameter names, variable and attribute names etc must
 
621
not be changed without leaving a 'deprecated forwarder' behind. This even
 
622
applies to modules and classes.
 
623
 
 
624
If you wish to change the behaviour of a supported API in an incompatible
 
625
way, you need to change its name as well. For instance, if I add an optional keyword
 
626
parameter to branch.commit - that's fine. On the other hand, if I add a
 
627
keyword parameter to branch.commit which is a *required* transaction
 
628
object, I should rename the API - i.e. to 'branch.commit_transaction'. 
 
629
 
 
630
When renaming such supported API's, be sure to leave a deprecated_method (or
 
631
_function or ...) behind which forwards to the new API. See the
 
632
bzrlib.symbol_versioning module for decorators that take care of the
 
633
details for you - such as updating the docstring, and issuing a warning
 
634
when the old api is used.
 
635
 
 
636
For unsupported API's, it does not hurt to follow this discipline, but it's
 
637
not required. Minimally though, please try to rename things so that
 
638
callers will at least get an AttributeError rather than weird results.
 
639
 
 
640
 
 
641
Deprecation decorators
 
642
----------------------
 
643
 
 
644
``bzrlib.symbol_versioning`` provides decorators that can be attached to
 
645
methods, functions, and other interfaces to indicate that they should no
 
646
longer be used.
 
647
 
 
648
To deprecate a static method you must call ``deprecated_function``
 
649
(**not** method), after the staticmethod call::
 
650
 
 
651
    @staticmethod
 
652
    @deprecated_function(zero_ninetyone)
 
653
    def create_repository(base, shared=False, format=None):
 
654
 
 
655
When you deprecate an API, you should not just delete its tests, because
 
656
then we might introduce bugs in them.  If the API is still present at all,
 
657
it should still work.  The basic approach is to use
 
658
``TestCase.applyDeprecated`` which in one step checks that the API gives
 
659
the expected deprecation message, and also returns the real result from
 
660
the method, so that tests can keep running.
 
661
 
363
662
Coding Style Guidelines
364
 
#######################
 
663
=======================
365
664
 
366
 
hasattr and getattr
367
 
===================
 
665
General Python rules
 
666
--------------------
368
667
 
369
668
``hasattr`` should not be used because it swallows exceptions including
370
669
``KeyboardInterrupt``.  Instead, say something like ::
373
672
 
374
673
 
375
674
Code layout
376
 
===========
 
675
-----------
377
676
 
378
677
Please write PEP-8__ compliant code.  
379
678
 
385
684
We use 4 space indents for blocks, and never use tab characters.  (In vim,
386
685
``set expandtab``.)
387
686
 
388
 
Trailing white space should be avoided, but is allowed.
389
 
You should however not make lots of unrelated white space changes.
390
 
 
391
 
Unix style newlines (LF) are used.
392
 
 
393
 
Each file must have a newline at the end of it.
394
 
 
395
687
Lines should be no more than 79 characters if at all possible.
396
688
Lines that continue a long statement may be indented in either of 
397
689
two ways:
469
761
 
470
762
 
471
763
Module Imports
472
 
==============
 
764
--------------
473
765
 
474
766
* Imports should be done at the top-level of the file, unless there is
475
767
  a strong reason to have them lazily loaded when a particular
481
773
 
482
774
 
483
775
Naming
484
 
======
 
776
------
485
777
 
486
778
Functions, methods or members that are "private" to bzrlib are given
487
779
a leading underscore prefix.  Names without a leading underscore are
504
796
 
505
797
 
506
798
Standard Names
507
 
==============
 
799
--------------
508
800
 
509
801
``revision_id`` not ``rev_id`` or ``revid``
510
802
 
513
805
 
514
806
 
515
807
Destructors
516
 
===========
 
808
-----------
517
809
 
518
810
Python destructors (``__del__``) work differently to those of other
519
811
languages.  In particular, bear in mind that destructors may be called
521
813
later time, or possibly never at all.  Therefore we have restrictions on
522
814
what can be done inside them.
523
815
 
524
 
 0. If you think you need to use a ``__del__`` method ask another
525
 
    developer for alternatives.  If you do need to use one, explain
526
 
    why in a comment.
 
816
 0. Never use a __del__ method without asking Martin/Robert first.
527
817
 
528
818
 1. Never rely on a ``__del__`` method running.  If there is code that
529
819
    must run, do it from a ``finally`` block instead.
537
827
 
538
828
 
539
829
Factories
540
 
=========
 
830
---------
541
831
 
542
832
In some places we have variables which point to callables that construct
543
833
new instances.  That is to say, they can be used a lot like class objects,
552
842
 
553
843
 
554
844
Registries
555
 
==========
 
845
----------
556
846
 
557
847
Several places in Bazaar use (or will use) a registry, which is a 
558
848
mapping from names to objects or classes.  The registry allows for 
560
850
associated information such as a help string or description.
561
851
 
562
852
 
563
 
InterObject and multiple dispatch
564
 
=================================
565
 
 
566
 
The ``InterObject`` provides for two-way `multiple dispatch`__: matching
567
 
up for example a source and destination repository to find the right way
568
 
to transfer data between them. 
569
 
 
570
 
.. __: http://en.wikipedia.org/wiki/Multiple_dispatch
571
 
 
572
 
There is a subclass ``InterObject`` classes for each type of object that is
573
 
dispatched this way, e.g. ``InterRepository``.  Calling ``.get()`` on this
574
 
class will return an ``InterObject`` instance providing the best match for 
575
 
those parameters, and this instance then has methods for operations
576
 
between the objects.
577
 
 
578
 
  inter = InterRepository.get(source_repo, target_repo)
579
 
  inter.fetch(revision_id)
580
 
 
581
 
``InterRepository`` also acts as a registry-like object for its
582
 
subclasses, and they can be added through ``.register_optimizer``.  The
583
 
right one to run is selected by asking each class, in reverse order of
584
 
registration, whether it ``.is_compatible`` with the relevant objects.
585
 
 
586
853
Lazy Imports
587
 
============
 
854
------------
588
855
 
589
856
To make startup time faster, we use the ``bzrlib.lazy_import`` module to
590
857
delay importing modules until they are actually used. ``lazy_import`` uses
614
881
the variable is a module, and these object should be hidden anyway, since
615
882
they shouldn't be imported into other namespaces.
616
883
 
 
884
 
 
885
Modules versus Members
 
886
~~~~~~~~~~~~~~~~~~~~~~
 
887
 
617
888
While it is possible for ``lazy_import()`` to import members of a module
618
889
when using the ``from module import member`` syntax, it is recommended to
619
890
only use that syntax to load sub modules ``from module import submodule``.
630
901
This will incorrectly fail, because ``MyClass`` is a ``ImportReplacer``
631
902
object, rather than the real class.
632
903
 
 
904
 
 
905
Passing to Other Variables
 
906
~~~~~~~~~~~~~~~~~~~~~~~~~~
 
907
 
633
908
It also is incorrect to assign ``ImportReplacer`` objects to other variables.
634
909
Because the replacer only knows about the original name, it is unable to
635
910
replace other variables. The ``ImportReplacer`` class will raise an
639
914
 
640
915
 
641
916
The Null revision
642
 
=================
 
917
-----------------
643
918
 
644
919
The null revision is the ancestor of all revisions.  Its revno is 0, its
645
920
revision-id is ``null:``, and its tree is the empty tree.  When referring
648
923
being phased out.
649
924
 
650
925
 
651
 
Object string representations
652
 
=============================
653
 
 
654
 
Python prints objects using their ``__repr__`` method when they are
655
 
written to logs, exception tracebacks, or the debugger.  We want
656
 
objects to have useful representations to help in determining what went
657
 
wrong.
658
 
 
659
 
If you add a new class you should generally add a ``__repr__`` method
660
 
unless there is an adequate method in a parent class.  There should be a
661
 
test for the repr.  
662
 
 
663
 
Representations should typically look like Python constructor syntax, but
664
 
they don't need to include every value in the object and they don't need
665
 
to be able to actually execute.  They're to be read by humans, not
666
 
machines.  Don't hardcode the classname in the format, so that we get the
667
 
correct value if the method is inherited by a subclass.  If you're
668
 
printing attributes of the object, including strings, you should normally
669
 
use ``%r`` syntax (to call their repr in turn).
670
 
 
671
 
Try to avoid the representation becoming more than one or two lines long.
672
 
(But balance this against including useful information, and simplicity of
673
 
implementation.)
674
 
 
675
 
Because repr methods are often called when something has already gone
676
 
wrong, they should be written somewhat more defensively than most code.
677
 
The object may be half-initialized or in some other way in an illegal
678
 
state.  The repr method shouldn't raise an exception, or it may hide the
679
 
(probably more useful) underlying exception.
680
 
 
681
 
Example::
682
 
 
683
 
    def __repr__(self):
684
 
        return '%s(%r)' % (self.__class__.__name__,
685
 
                           self._transport)
686
 
 
687
 
 
688
 
Exception handling
689
 
==================
690
 
 
691
 
A bare ``except`` statement will catch all exceptions, including ones that
692
 
really should terminate the program such as ``MemoryError`` and
693
 
``KeyboardInterrupt``.  They should rarely be used unless the exception is
694
 
later re-raised.  Even then, think about whether catching just
695
 
``Exception`` (which excludes system errors in Python2.5 and later) would
696
 
be better.
697
 
 
698
 
 
699
 
Test coverage
700
 
=============
701
 
 
702
 
All code should be exercised by the test suite.  See `Guide to Testing
703
 
Bazaar <../../developers/testing.html>`_ for detailed information about writing tests.
704
 
 
705
 
 
706
 
Core Topics
707
 
###########
708
 
 
709
 
Evolving Interfaces
710
 
===================
711
 
 
712
 
We have a commitment to 6 months API stability - any supported symbol in a
713
 
release of bzr MUST NOT be altered in any way that would result in
714
 
breaking existing code that uses it. That means that method names,
715
 
parameter ordering, parameter names, variable and attribute names etc must
716
 
not be changed without leaving a 'deprecated forwarder' behind. This even
717
 
applies to modules and classes.
718
 
 
719
 
If you wish to change the behaviour of a supported API in an incompatible
720
 
way, you need to change its name as well. For instance, if I add an optional keyword
721
 
parameter to branch.commit - that's fine. On the other hand, if I add a
722
 
keyword parameter to branch.commit which is a *required* transaction
723
 
object, I should rename the API - i.e. to 'branch.commit_transaction'. 
724
 
 
725
 
When renaming such supported API's, be sure to leave a deprecated_method (or
726
 
_function or ...) behind which forwards to the new API. See the
727
 
bzrlib.symbol_versioning module for decorators that take care of the
728
 
details for you - such as updating the docstring, and issuing a warning
729
 
when the old api is used.
730
 
 
731
 
For unsupported API's, it does not hurt to follow this discipline, but it's
732
 
not required. Minimally though, please try to rename things so that
733
 
callers will at least get an AttributeError rather than weird results.
734
 
 
735
 
 
736
 
Deprecation decorators
737
 
----------------------
738
 
 
739
 
``bzrlib.symbol_versioning`` provides decorators that can be attached to
740
 
methods, functions, and other interfaces to indicate that they should no
741
 
longer be used.  For example::
742
 
 
743
 
   @deprecated_method(deprecated_in((0, 1, 4)))
744
 
   def foo(self):
745
 
        return self._new_foo()
746
 
 
747
 
To deprecate a static method you must call ``deprecated_function``
748
 
(**not** method), after the staticmethod call::
749
 
 
750
 
    @staticmethod
751
 
    @deprecated_function(deprecated_in((0, 1, 4)))
752
 
    def create_repository(base, shared=False, format=None):
753
 
 
754
 
When you deprecate an API, you should not just delete its tests, because
755
 
then we might introduce bugs in them.  If the API is still present at all,
756
 
it should still work.  The basic approach is to use
757
 
``TestCase.applyDeprecated`` which in one step checks that the API gives
758
 
the expected deprecation message, and also returns the real result from
759
 
the method, so that tests can keep running.
760
 
 
761
 
Deprecation warnings will be suppressed for final releases, but not for
762
 
development versions or release candidates, or when running ``bzr
763
 
selftest``. This gives developers information about whether their code is
764
 
using deprecated functions, but avoids confusing users about things they
765
 
can't fix.
766
 
 
767
 
 
768
926
Getting Input
769
927
=============
770
928
 
825
983
should be only in the command-line tool.
826
984
 
827
985
 
828
 
Progress and Activity Indications
829
 
---------------------------------
830
 
 
831
 
bzrlib has a way for code to display to the user that stuff is happening
832
 
during a long operation.  There are two particular types: *activity* which
833
 
means that IO is happening on a Transport, and *progress* which means that
834
 
higher-level application work is occurring.  Both are drawn together by
835
 
the `ui_factory`.
836
 
 
837
 
Transport objects are responsible for calling `report_transport_activity`
838
 
when they do IO.
839
 
 
840
 
Progress uses a model/view pattern: application code acts on a
841
 
`ProgressTask` object, which notifies the UI when it needs to be
842
 
displayed.  Progress tasks form a stack.  To create a new progress task on
843
 
top of the stack, call `bzrlib.ui.ui_factory.nested_progress_bar()`, then
844
 
call `update()` on the returned ProgressTask.  It can be updated with just
845
 
a text description, with a numeric count, or with a numeric count and
846
 
expected total count.  If an expected total count is provided the view
847
 
can show the progress moving along towards the expected total.
848
 
 
849
 
The user should call `finish` on the `ProgressTask` when the logical
850
 
operation has finished, so it can be removed from the stack.
851
 
 
852
 
Progress tasks have a complex relatioship with generators: it's a very
853
 
good place to use them, but because python2.4 does not allow ``finally``
854
 
blocks in generators it's hard to clean them up properly.  In this case
855
 
it's probably better to have the code calling the generator allocate a
856
 
progress task for its use and then call `finalize` when it's done, which
857
 
will close it if it was not already closed.  The generator should also
858
 
finish the progress task when it exits, because it may otherwise be a long
859
 
time until the finally block runs.
860
 
 
861
986
 
862
987
Displaying help
863
988
===============
876
1001
sentences.
877
1002
 
878
1003
 
 
1004
Writing tests
 
1005
=============
 
1006
 
 
1007
In general tests should be placed in a file named test_FOO.py where 
 
1008
FOO is the logical thing under test. That file should be placed in the
 
1009
tests subdirectory under the package being tested.
 
1010
 
 
1011
For example, tests for merge3 in bzrlib belong in bzrlib/tests/test_merge3.py.
 
1012
See bzrlib/tests/test_sampler.py for a template test script.
 
1013
 
 
1014
Tests can be written for the UI or for individual areas of the library.
 
1015
Choose whichever is appropriate: if adding a new command, or a new command 
 
1016
option, then you should be writing a UI test.  If you are both adding UI
 
1017
functionality and library functionality, you will want to write tests for 
 
1018
both the UI and the core behaviours.  We call UI tests 'blackbox' tests
 
1019
and they are found in ``bzrlib/tests/blackbox/*.py``. 
 
1020
 
 
1021
When writing blackbox tests please honour the following conventions:
 
1022
 
 
1023
 1. Place the tests for the command 'name' in
 
1024
    bzrlib/tests/blackbox/test_name.py. This makes it easy for developers
 
1025
    to locate the test script for a faulty command.
 
1026
 
 
1027
 2. Use the 'self.run_bzr("name")' utility function to invoke the command
 
1028
    rather than running bzr in a subprocess or invoking the
 
1029
    cmd_object.run() method directly. This is a lot faster than
 
1030
    subprocesses and generates the same logging output as running it in a
 
1031
    subprocess (which invoking the method directly does not).
 
1032
 
 
1033
 3. Only test the one command in a single test script. Use the bzrlib 
 
1034
    library when setting up tests and when evaluating the side-effects of
 
1035
    the command. We do this so that the library api has continual pressure
 
1036
    on it to be as functional as the command line in a simple manner, and
 
1037
    to isolate knock-on effects throughout the blackbox test suite when a
 
1038
    command changes its name or signature. Ideally only the tests for a
 
1039
    given command are affected when a given command is changed.
 
1040
 
 
1041
 4. If you have a test which does actually require running bzr in a
 
1042
    subprocess you can use ``run_bzr_subprocess``. By default the spawned
 
1043
    process will not load plugins unless ``--allow-plugins`` is supplied.
 
1044
 
 
1045
 
 
1046
Test support
 
1047
------------
 
1048
 
 
1049
We have a rich collection of tools to support writing tests. Please use
 
1050
them in preference to ad-hoc solutions as they provide portability and
 
1051
performance benefits.
 
1052
 
 
1053
TreeBuilder
 
1054
~~~~~~~~~~~
 
1055
 
 
1056
The ``TreeBuilder`` interface allows the construction of arbitrary trees
 
1057
with a declarative interface. A sample session might look like::
 
1058
 
 
1059
  tree = self.make_branch_and_tree('path')
 
1060
  builder = TreeBuilder()
 
1061
  builder.start_tree(tree)
 
1062
  builder.build(['foo', "bar/", "bar/file"])
 
1063
  tree.commit('commit the tree')
 
1064
  builder.finish_tree()
 
1065
 
 
1066
Please see bzrlib.treebuilder for more details.
 
1067
 
 
1068
BranchBuilder
 
1069
~~~~~~~~~~~~~
 
1070
 
 
1071
The ``BranchBuilder`` interface allows the creation of test branches in a
 
1072
quick and easy manner. A sample session::
 
1073
 
 
1074
  builder = BranchBuilder(self.get_transport().clone('relpath'))
 
1075
  builder.build_commit()
 
1076
  builder.build_commit()
 
1077
  builder.build_commit()
 
1078
  branch = builder.get_branch()
 
1079
 
 
1080
Please see bzrlib.branchbuilder for more details.
 
1081
 
 
1082
Doctests
 
1083
--------
 
1084
 
 
1085
We make selective use of doctests__.  In general they should provide 
 
1086
*examples* within the API documentation which can incidentally be tested.  We 
 
1087
don't try to test every important case using doctests -- regular Python
 
1088
tests are generally a better solution.
 
1089
 
 
1090
Most of these are in ``bzrlib/doc/api``.  More additions are welcome.
 
1091
 
 
1092
  __ http://docs.python.org/lib/module-doctest.html
 
1093
 
 
1094
 
 
1095
Running tests
 
1096
=============
 
1097
Currently, bzr selftest is used to invoke tests.
 
1098
You can provide a pattern argument to run a subset. For example, 
 
1099
to run just the blackbox tests, run::
 
1100
 
 
1101
  ./bzr selftest -v blackbox
 
1102
 
 
1103
To skip a particular test (or set of tests), use the --exclude option
 
1104
(shorthand -x) like so::
 
1105
 
 
1106
  ./bzr selftest -v -x blackbox  
 
1107
 
 
1108
To list tests without running them, use the --list-only option like so::
 
1109
 
 
1110
  ./bzr selftest --list-only
 
1111
 
 
1112
This option can be combined with other selftest options (like -x) and
 
1113
filter patterns to understand their effect.
 
1114
 
 
1115
 
879
1116
Handling Errors and Exceptions
880
1117
==============================
881
1118
 
924
1161
that exception specifically, or when it needs a substantially different
925
1162
format string.
926
1163
 
927
 
#. If it is something that a caller can recover from, a custom exception
928
 
   is reasonable. 
929
 
 
930
 
#. If it is a data consistency issue, using a builtin like
931
 
   ``ValueError``/``TypeError`` is reasonable. 
932
 
 
933
 
#. If it is a programmer error (using an api incorrectly)
934
 
   ``AssertionError`` is reasonable. 
935
 
 
936
 
#. Otherwise, use ``BzrError`` or ``InternalBzrError``.
937
 
 
938
1164
Exception strings should start with a capital letter and should not have a
939
1165
final fullstop.  If long, they may contain newlines to break the text.
940
1166
 
941
1167
 
942
 
Assertions
943
 
==========
944
 
 
945
 
Do not use the Python ``assert`` statement, either in tests or elsewhere.
946
 
A source test checks that it is not used.  It is ok to explicitly raise
947
 
AssertionError.
948
 
 
949
 
Rationale:
950
 
 
951
 
 * It makes the behaviour vary depending on whether bzr is run with -O
952
 
   or not, therefore giving a chance for bugs that occur in one case or
953
 
   the other, several of which have already occurred: assertions with
954
 
   side effects, code which can't continue unless the assertion passes,
955
 
   cases where we should give the user a proper message rather than an
956
 
   assertion failure.
957
 
 * It's not that much shorter than an explicit if/raise.
958
 
 * It tends to lead to fuzzy thinking about whether the check is
959
 
   actually needed or not, and whether it's an internal error or not
960
 
 * It tends to cause look-before-you-leap patterns.
961
 
 * It's unsafe if the check is needed to protect the integrity of the
962
 
   user's data.
963
 
 * It tends to give poor messages since the developer can get by with
964
 
   no explanatory text at all.
965
 
 * We can't rely on people always running with -O in normal use, so we
966
 
   can't use it for tests that are actually expensive.
967
 
 * Expensive checks that help developers are better turned on from the
968
 
   test suite or a -D flag.
969
 
 * If used instead of ``self.assert*()`` in tests it makes them falsely pass with -O.
970
 
 
971
 
 
972
1168
Documenting Changes
973
1169
===================
974
1170
 
1100
1296
by setting the environment variable ``BZR_SIGQUIT_PDB=0``.
1101
1297
 
1102
1298
 
1103
 
Debug Flags
1104
 
===========
1105
 
 
1106
 
Bazaar accepts some global options starting with ``-D`` such as
1107
 
``-Dhpss``.  These set a value in `bzrlib.debug.debug_flags`, and
1108
 
typically cause more information to be written to the trace file.  Most
1109
 
`mutter` calls should be guarded by a check of those flags so that we
1110
 
don't write out too much information if it's not needed.
1111
 
 
1112
 
Debug flags may have effects other than just emitting trace messages.
1113
 
 
1114
 
Run ``bzr help global-options`` to see them all.
1115
 
 
1116
 
These flags may also be set as a comma-separated list in the
1117
 
``debug_flags`` option in e.g.  ``~/.bazaar/bazaar.conf``.  (Note that it
1118
 
must be in this global file, not in the branch or location configuration,
1119
 
because it's currently only loaded at startup time.)  For instance you may
1120
 
want to always record hpss traces and to see full error tracebacks::
1121
 
 
1122
 
    debug_flags = hpss, error
1123
 
 
1124
 
 
1125
1299
Jargon
1126
1300
======
1127
1301
 
1259
1433
* reviewing changes
1260
1434
* reviewing blueprints
1261
1435
* planning releases
1262
 
* managing releases (see the `Releasing Bazaar <../../developers/releasing.html>`_)
 
1436
* managing releases.
1263
1437
 
1264
1438
.. note::
1265
1439
  Removing barriers to community participation is a key reason for adopting
1270
1444
  differences between core and non-core contributors to a minimum.
1271
1445
 
1272
1446
 
 
1447
The Development Lifecycle
 
1448
-------------------------
 
1449
 
 
1450
As a rule, Bazaar development follows a 4 week cycle:
 
1451
 
 
1452
* 2 weeks - general changes
 
1453
* 1 week - feature freeze
 
1454
* 1 week+ - Release Candidate stabilization
 
1455
 
 
1456
During the FeatureFreeze week, the trunk (bzr.dev) is open in a limited
 
1457
way: only low risk changes, critical and high priority fixes are accepted
 
1458
during this time. At the end of FeatureFreeze, a branch is created for the
 
1459
first Release Candidate and the trunk is reopened for general development
 
1460
on the *next* release. A week or so later, the final release is packaged
 
1461
assuming no serious problems were encountered with the one or more Release
 
1462
Candidates.
 
1463
 
 
1464
.. note::
 
1465
  There is a one week overlap between the start of one release and
 
1466
  the end of the previous one.
 
1467
 
 
1468
 
1273
1469
Communicating and Coordinating
1274
1470
------------------------------
1275
1471
 
1302
1498
how to set it up and configure it.
1303
1499
 
1304
1500
 
 
1501
Reviewing Changes
 
1502
=================
 
1503
 
 
1504
Setting Up Your Workspace for Reviews
 
1505
-------------------------------------
 
1506
 
 
1507
TODO: Incorporate John Arbash Meinel's detailed email to Ian C on the
 
1508
numerous ways of setting up integration branches.
 
1509
 
 
1510
 
 
1511
The Review Checklist
 
1512
--------------------
 
1513
 
 
1514
See `A Closer Look at the Merge & Review Process`_
 
1515
for information on the gates used to decide whether code can be merged
 
1516
or not and details on how review results are recorded and communicated.
 
1517
 
 
1518
 
 
1519
The Importance of Timely Reviews
 
1520
--------------------------------
 
1521
 
 
1522
Good reviews do take time. They also regularly require a solid
 
1523
understanding of the overall code base. In practice, this means a small
 
1524
number of people often have a large review burden - with knowledge comes
 
1525
responsibility. No one like their merge requests sitting in a queue going
 
1526
nowhere, so reviewing sooner rather than later is strongly encouraged.
 
1527
 
 
1528
 
1305
1529
Submitting Changes
1306
1530
==================
1307
1531
 
1522
1746
.. note::
1523
1747
  As well as prioritizing bugs and nominating them against a
1524
1748
  target milestone, Launchpad lets core developers offer to mentor others in
1525
 
  fixing them. 
 
1749
  fixing them. Nice.
 
1750
 
 
1751
 
 
1752
Managing a Release
 
1753
==================
 
1754
 
 
1755
Starting a Release
 
1756
------------------
 
1757
 
 
1758
To start a new release cycle:
 
1759
 
 
1760
#. Send mail to the list with the key dates, who will be the release
 
1761
   manager, and the main themes or targetted bugs.  Ask people to nominate
 
1762
   objectives, or point out an high-risk things that are best done early,
 
1763
   or that interact with other changes.
 
1764
 
 
1765
#. Add a new "series" in Launchpad at <https://launchpad.net/bzr/+addseries>.  There is one 
 
1766
   series for every *x.y* release.
 
1767
 
 
1768
Weekly Status Updates
 
1769
---------------------
 
1770
 
 
1771
TODO: Things to cover:
 
1772
 
 
1773
* Early communication to downstream teams (e.g. Launchpad) about changes in dependencies.
 
1774
* Reminder re lifecycle and where we're up to right now
 
1775
* Summary of recent successes and pending work
 
1776
* Reminder re release objectives
 
1777
* Reminder re things needing attention, e.g. bug triage, reviews, testing of certain things, etc.
 
1778
 
 
1779
 
 
1780
Feature Freeze
 
1781
--------------
 
1782
 
 
1783
TODO: Get material from http://bazaar-vcs.org/FeatureFreeze.
 
1784
 
 
1785
 
 
1786
 
 
1787
Making a Release or Release Candidate
 
1788
-------------------------------------
 
1789
 
 
1790
.. Was previously at http://bazaar-vcs.org/ReleaseChecklist
 
1791
 
 
1792
.. TODO: Still needs more clarity on what's in a RC versus a final
 
1793
.. release?
 
1794
 
 
1795
.. TODO: Too much of this is manual but could be automated...
 
1796
 
 
1797
This is the procedure for making a new bzr release:
 
1798
 
 
1799
#. If the release is the first candidate, make a new branch in PQM. (Contact RobertCollins for this step).
 
1800
 
 
1801
   Register the branch at https://launchpad.net/products/bzr/+addbranch
 
1802
 
 
1803
#. Run the automatic test suite and any non-automated tests.  (For example, try a download over http; these should eventually be scripted though not automatically run.). Try to have all optional dependencies installed so that there are no tests skipped. Also make sure that you have the c extensions compiled (``make`` or ``python setup.py build_ext -i``).
 
1804
 
 
1805
#. In the release branch, update  ``version_info`` in ``./bzrlib/__init__.py``
 
1806
 
 
1807
#. Add the date and release number to ``./NEWS``.
 
1808
 
 
1809
#. Update the release number in the README. (It's not there as of 0.15, but please check).
 
1810
 
 
1811
#. Commit these changes to the release branch, using a command like::
 
1812
    
 
1813
     bzr commit -m "(jam) Release 0.12rc1." 
 
1814
   
 
1815
   The diff before you commit will be something like::
 
1816
 
 
1817
       === modified file 'NEWS'
 
1818
       --- NEWS        2006-10-23 13:11:17 +0000
 
1819
       +++ NEWS        2006-10-23 22:50:50 +0000
 
1820
       @@ -1,4 +1,4 @@
 
1821
       -IN DEVELOPMENT
 
1822
       +bzr 0.12rc1  2006-10-23
 
1823
 
 
1824
          IMPROVEMENTS:
 
1825
 
 
1826
 
 
1827
       === modified file 'bzrlib/__init__.py'
 
1828
       --- bzrlib/__init__.py  2006-10-16 01:47:43 +0000
 
1829
       +++ bzrlib/__init__.py  2006-10-23 22:49:46 +0000
 
1830
       @@ -35,7 +35,7 @@
 
1831
        # Python version 2.0 is (2, 0, 0, 'final', 0)."  Additionally we use a
 
1832
        # releaselevel of 'dev' for unreleased under-development code.
 
1833
 
 
1834
       -version_info = (0, 12, 0, 'dev', 0)
 
1835
       +version_info = (0, 12, 0, 'candidate', 1)
 
1836
 
 
1837
        if version_info[3] == 'final':
 
1838
            version_string = '%d.%d.%d' % version_info[:3]
 
1839
 
 
1840
#. Send the changes to PQM, to update the official master branch.
 
1841
 
 
1842
#. When PQM succeeds, pull down the master release branch.
 
1843
 
 
1844
#. Merge the release branch back into the trunk.  Check that changes in NEWS were merged into the right sections.  If it's not already done, advance the version number in bzr and bzrlib/__init__.py Submit this back into pqm for bzr.dev.
 
1845
 
 
1846
#. Make a distribution directory by running e.g. ``bzr export /tmp/bzr-<version>/`` in the working directory.
 
1847
 
 
1848
#. Run make in /tmp/bzr-<version>. This creates the extensions from the pyrex source.
 
1849
 
 
1850
#. Run the test suite in the distribution directory
 
1851
 
 
1852
#. Run ``setup.py install`` --root=prefix to do a test install into your system directory, home directory, or some other prefix.  Check the install worked and that the installed version is usable. (run the bzr script from the installed path with PYTHONPATH set to the site-packages directory it created). i.e. ::
 
1853
 
 
1854
    python setup.py install --root=installed
 
1855
    PYTHONPATH=installed/usr/lib/python2.4/site-packages installed/usr/bin/bzr
 
1856
 
 
1857
#. Clean the tree to get rid of .pyc files etc: make clean && rm -rf build && rm bzrlib/_*.c bzrlib/_*.so
 
1858
 
 
1859
#. Generate the reference documentation in text format: make doc/en/user-reference/bzr_man.txt.
 
1860
 
 
1861
#. Change back to your original branch and then run: make clean && make to create the compiled pyrex extensions.  You then need to copy the .c files over to the exported directory. 
 
1862
   
 
1863
   ``find . -name "*.c"`` will tell you which files you need.
 
1864
 
 
1865
#. Create the release tarball::
 
1866
   
 
1867
     cd /tmp && tar czf bzr-<version>.tar.gz bzr-<version>
 
1868
 
 
1869
#. Sign the tarball with e.g. ``gpg --detach-sign -a bzr-0.10rc1.tar.gz``
 
1870
 
 
1871
 
 
1872
Publishing the release
 
1873
----------------------
 
1874
 
 
1875
Now you have the releasable product.  The next step is making it
 
1876
available to the world.
 
1877
 
 
1878
#. In <https://launchpad.net/bzr/> click the "Release series" for this
 
1879
   series, to take you to e.g. <https://launchpad.net/bzr/1.1>.  Then
 
1880
   click "Register a release", and add information about this release.
 
1881
 
 
1882
#. Within that release, upload the source tarball and the GPG signature.
 
1883
 
 
1884
   (These used to also be uploaded to 
 
1885
   <sftp://escudero.ubuntu.com/srv/bazaar.canonical.com/www/releases/src>
 
1886
   but that's not accessible to all developers, and gets some mime types
 
1887
   wrong...)
 
1888
 
 
1889
#. Link from http://bazaar-vcs.org/Download to the tarball and signature.
 
1890
 
 
1891
#. Update http://doc.bazaar-vcs.org/ to have a directory of documentation
 
1892
   for this release.  (Controlled by the ``update-bzr-docs`` script on
 
1893
   escudero, and also update the ``latest`` symlink in
 
1894
   ``/srv/bazaar.canonical.com/doc/``.)
 
1895
 
 
1896
#. Announce on the `Bazaar home page`__
 
1897
   
 
1898
 __ http://bazaar-vcs.org/
 
1899
 
 
1900
 
 
1901
Announcing the release
 
1902
----------------------
 
1903
 
 
1904
Now that the release is publicly available, tell people about it.
 
1905
 
 
1906
#. Announce to ``bazaar-announce`` and ``bazaar`` mailing lists. 
 
1907
   The announce mail will look something like this:
 
1908
   
 
1909
    | Subject: bzr 0.11 release candidate 1
 
1910
    | 
 
1911
    | INTRO HERE. Mention the release number and date, and why the release. (i.e. release candidate for testing, final release of a version, backport/bugfix etc).
 
1912
    | 
 
1913
    | Tarballs:
 
1914
    | http://bazaar-vcs.org/releases/src/bzr-VERSION.tar.gz
 
1915
    | and GPG signature:
 
1916
    | http://bazaar-vcs.org/releases/src/bzr-VERSION.tar.gz.sig
 
1917
    | 
 
1918
    | DESCRIBE-CHANGES-IN-OVERVIEW-HERE
 
1919
    | 
 
1920
    | DESCRIBE-when the next release will be (if there is another - i.e. this is a release candidate)
 
1921
    | 
 
1922
    | Many thanks to all the contributors to this release! I've included the
 
1923
    | contents of NEWS for VERSION below:
 
1924
 
 
1925
   To generate the data from NEWS, just copy and paste the relevant news section and clean it up as appropriate. The main clean-up task is to confirm that all major changes are indeed covered. This can be done by running ``bzr log`` back to the point when the branch was opened and cross checking the changes against the NEWS entries.
 
1926
 
 
1927
   (RC announcements should remind plugin maintainers to update their plugins.)
 
1928
 
 
1929
     * For point releases (i.e. a release candidate, or an incremental fix to a released version) take everything in the relevant NEWS secion : for 0.11rc2 take everything in NEWS from the bzr 0.11rc2 line to the bzr 0.11rc1 line further down.
 
1930
 
 
1931
     * For major releases (i.e. 0.11, 0.12 etc), take all the combined NEWS sections from within that version: for 0.11 take all of the 0.11 specific section, plus 0.11rc2, plus 0.11rc1 etc.
 
1932
 
 
1933
#. Update the `news side menu`__ -- this currently requires downloading the file, editing it, deleting it, and uploading a replacement.
 
1934
 
 
1935
   __ http://bazaar-vcs.org/site/menu?action=AttachFile&do=view&target=news.html
 
1936
 
 
1937
#. Update the IRC channel topic. Use the ``/topic`` command to do this, ensuring the new topic text keeps the project name, web site link, etc.
 
1938
 
 
1939
#. Announce on http://freshmeat.net/projects/bzr/
 
1940
   
 
1941
   This should be done for both release candidates and final releases. If you do not have a Freshmeat account yet, ask one of the existing admins.
 
1942
 
 
1943
#. Update http://en.wikipedia.org/wiki/Bzr -- this should be done for final releases but not Release Candidates.
 
1944
 
 
1945
#. Package maintainers should update packages when they see the
 
1946
   announcement.
 
1947
 
 
1948
#. Blog about it.
 
1949
 
 
1950
#. Post to http://mail.python.org/mailman/listinfo/python-announce-list for major releases
 
1951
 
 
1952
#. Update the python package index: <http://pypi.python.org/pypi/bzr> - best
 
1953
   done by running ::
 
1954
 
 
1955
       python setup.py register
 
1956
 
 
1957
   Remember to check the results afterwards.
 
1958
 
 
1959
 
 
1960
Making Win32 installers
 
1961
-----------------------
 
1962
 
 
1963
**XXX:** This information is now probably obsolete, as Alexander uploads
 
1964
direct to Launchpad.  --mbp 20080116
 
1965
 
 
1966
Alexander Belchenko has been very good about getting packaged installers compiled (see Win32ReleaseChecklist for details). He generally e-mails John Arbash Meinel when they are ready. This is just a brief checklist of what needs to be done.
 
1967
 
 
1968
#. Download and verify the sha1 sums and gpg signatures. Frequently the sha1 files are in dos mode, and need to be converted to unix mode (strip off the trailing ``\r``) before they veryify correctly.
 
1969
 
 
1970
#. Upload to the Launchpad page for this release.
 
1971
 
 
1972
#. Upload to escudero (to the b.c.c/www/releases/win32 directory) using sftp, lftp or rsync
 
1973
 
 
1974
#. Cat the contents of the .sha1 files into the SHA1SUM.
 
1975
 
 
1976
#. Update the SHA1SUM and MD5SUM files using something like ``md5sum bzr-0.14.0.win32.exe >> MD5SUM``. Make sure you use append (>>) rather than overwrite (>).
 
1977
 
 
1978
#. Verify once again that everything is correct with ``sha1sum -c SHA1SUM`` and ``md5sum -c MD5SUM``.
 
1979
 
 
1980
#. Update ``.htaccess`` so that the 'bzr-latest.win32.exe' links point to the latest release. This is not done for candidate releases, only for final releases. (example: bzr-0.14.0, but not bzr-0.14.0rc1).
 
1981
 
 
1982
#. Make sure these urls work as expected:
 
1983
 
 
1984
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.5.exe
 
1985
 
 
1986
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.5.exe.asc
 
1987
 
 
1988
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.4.exe
 
1989
 
 
1990
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.4.exe.asc
 
1991
 
 
1992
   http://bazaar-vcs.org/releases/win32/bzr-setup-latest.exe
 
1993
 
 
1994
   http://bazaar-vcs.org/releases/win32/bzr-setup-latest.exe.asc
 
1995
   
 
1996
They should all try to download a file with the correct version number.
 
1997
 
 
1998
#. Update http://bazaar-vcs.org/Download to indicate the newly available versions.
 
1999
 
 
2000
#. Update http://bazaar-vcs.org/WindowsDownloads to have the correct version number as well as the correct sha1sum displayed.
1526
2001
 
1527
2002
 
1528
2003
..