chiark / gitweb /
df1f953cdeb8956cd9e3aecf789a892b454cfac7
[dgit.git] / dgit-maint-merge.7.pod
1 =head1 NAME
2
3 dgit - tutorial for package maintainers, using a workflow centered around git-merge(1)
4
5 =head1 INTRODUCTION
6
7 This document describes elements of a workflow for maintaining a
8 non-native Debian package using B<dgit>.  The workflow makes the
9 following opinionated assumptions:
10
11 =over 4
12
13 =item
14
15 Git histories should be the non-linear histories produced by
16 git-merge(1), preserving all information about divergent development
17 that was later brought together.
18
19 =item
20
21 Maintaining convenient and powerful git workflows takes priority over
22 the usefulness of the raw Debian source package.  The Debian archive
23 is thought of as an output format.
24
25 For example, we don't spend time curating a series of quilt patches.
26 However,
27 in straightforward cases,
28 the information such a series would contain is readily
29 available from B<dgit-repos>.
30
31 =item
32
33 It is more important to have the Debian package's git history be a
34 descendent of upstream's git history than to use exactly the orig.tar
35 that upstream makes available for download.
36
37 =back
38
39 This workflow is less suitable for some packages.
40 When the Debian delta contains multiple pieces which interact,
41 or which you aren't going to be able to upstream soon,
42 it might be preferable to
43 maintain the delta as a rebasing patch series.
44 For such a workflow see for example
45 dgit-maint-gbp(7).
46
47 =head1 INITIAL DEBIANISATION
48
49 This section explains how to start using this workflow with a new
50 package.  It should be skipped when converting an existing package to
51 this workflow.
52
53 =head2 When upstream tags releases in git
54
55 Suppose that the latest stable upstream release is 1.2.2, and this has
56 been tagged '1.2.2' by upstream.
57
58 =over 4
59
60     % git clone -oupstream https://some.upstream/foo.git
61     % cd foo
62     % git verify-tag 1.2.2
63     % git reset --hard 1.2.2
64     % git branch --unset-upstream
65
66 =back
67
68 The final command detaches your master branch from the upstream remote,
69 so that git doesn't try to push anything there, or merge unreleased
70 upstream commits.  If you want to maintain a copy of your packaging
71 branch on B<alioth.debian.org> in addition to B<dgit-repos>, you can
72 do something like this:
73
74 =over 4
75
76     % git remote add -f origin git.debian.org:/git/collab-maint/foo.git
77     % git push --follow-tags -u origin master
78
79 =back
80
81 Now go ahead and Debianise your package.  Just make commits on the
82 master branch, adding things in the I<debian/> directory.  If you need
83 to patch the upstream source, just make commits that change files
84 outside of the I<debian/> directory.  It is best to separate commits
85 that touch I<debian/> from commits that touch upstream source, so that
86 the latter can be cherry-picked by upstream.
87
88 Note that there is no need to maintain a separate 'upstream' branch,
89 unless you also happen to be involved in upstream development.  We
90 work with upstream tags rather than any branches, except when
91 forwarding patches (see FORWARDING PATCHES UPSTREAM, below).
92
93 Finally, you need an orig tarball:
94
95 =over 4
96
97     % git deborig
98
99 =back
100
101 See git-deborig(1) if this fails.
102
103 This tarball is ephemeral and easily regenerated, so we don't commit
104 it anywhere (e.g. with tools like pristine-tar(1)).
105
106 =head3 Verifying upstream's tarball releases
107
108 =over 4
109
110 It can be a good idea to compare upstream's released tarballs with the
111 release tags, at least for the first upload of the package.  If they
112 are different, you might need to add some additional steps to your
113 I<debian/rules>, such as running autotools.
114
115 A convenient way to perform this check is to import the tarball as
116 described in the following section, using a different value for
117 'upstream-tag', and then use git-diff(1) to compare the imported
118 tarball to the release tag.  If they are the same, you can use
119 upstream's tarball instead of running git-deborig(1).
120
121 =back
122
123 =head2 When upstream releases only tarballs
124
125 We need a virtual upstream branch with virtual release tags.
126 gbp-import-orig(1) can manage this for us.  To begin
127
128 =over 4
129
130     % mkdir foo
131     % cd foo
132     % git init
133
134 =back
135
136 Now create I<debian/gbp.conf>:
137
138 =over 4
139
140     [DEFAULT]
141     upstream-branch = upstream
142     debian-branch = master
143     upstream-tag = %(version)s
144
145     sign-tags = True
146     pristine-tar = False
147     pristine-tar-commit = False
148
149 =back
150
151 Then we can import the upstream version:
152
153 =over 4
154
155     % git add debian/gbp.conf && git commit -m "create gbp.conf"
156     % gbp import-orig ../foo_1.2.2.orig.tar.xz
157
158 =back
159
160 You are now ready to proceed as above, making commits to both the
161 upstream source and the I<debian/> directory.
162
163 If you want to maintain a copy of your repository on
164 B<alioth.debian.org>, you should push both the origin and the upstream
165 branches:
166
167 =over 4
168
169     % git remote add -f origin git.debian.org:/git/collab-maint/foo.git
170     % git push --follow-tags -u origin master upstream
171
172 =back
173
174 =head1 CONVERTING AN EXISTING PACKAGE
175
176 This section explains how to convert an existing Debian package to
177 this workflow.  It should be skipped when debianising a new package.
178
179 =head2 No existing git history
180
181 =over 4
182
183     % dgit clone foo
184     % cd foo
185     % git remote add -f upstream https://some.upstream/foo.git
186
187 =back
188
189 =head2 Existing git history using another workflow
190
191 First, dump any existing patch queue:
192
193 =over 4
194
195     % git rm -rf debian/patches
196     % git commit -m "drop existing quilt patch queue"
197
198 =back
199
200 Then make new upstream tags available:
201
202 =over 4
203
204     % git remote add -f upstream https://some.upstream/foo.git
205
206 =back
207
208 =for dgit-test dpkg-source-ignores begin
209
210 Now you simply need to ensure that your git HEAD is dgit-compatible,
211 i.e., it is exactly what you would get if you ran
212 B<dpkg-buildpackage -i'\.git/' -I.git -S>
213 and then unpacked the resultant source package.
214
215 =for dgit-test dpkg-source-ignores end
216
217 To achieve this, you might need to delete
218 I<debian/source/local-options>.  One way to have dgit check your
219 progress is to run B<dgit build-source>.
220
221 The first dgit push will require I<--overwrite>.
222
223 =head1 SOURCE PACKAGE CONFIGURATION
224
225 =head2 debian/source/options
226
227 We set some source package options such that dgit can transparently
228 handle the "dropping" and "refreshing" of changes to the upstream
229 source:
230
231 =over 4
232
233     single-debian-patch
234     auto-commit
235
236 =back
237
238 You don't need to create this file if you are using the version 1.0
239 source package format.
240
241 =head2 Sample text for debian/source/patch-header
242
243 It is a good idea to explain how a user can obtain a breakdown of the
244 changes to the upstream source:
245
246 =over 4
247
248 The Debian packaging of foo is maintained in git,
249 using the merging workflow described in dgit-maint-merge(7).
250 There isn't a patch queue that can be represented as a quilt series.
251
252 A detailed breakdown of the changes is available from their
253 canonical representation -
254 git commits in the packaging repository.
255 For example, to see the changes made by the Debian maintainer in the
256 first upload of upstream version 1.2.3, you could use:
257
258 =over 4
259
260     % git clone https://git.dgit.debian.org/foo
261     % cd foo
262     % git log --oneline 1.2.3..debian/1.2.3-1 -- . ':!debian'
263
264 =back
265
266 (If you have dgit, use `dgit clone foo`,
267 rather than plain `git clone`.)
268
269 A single combined diff, containing all the changes, follows.
270
271 =back
272
273 Alternatively, this text could be added to README.source. However,
274 this might distract from more important information present in the
275 latter file.
276
277 =head1 BUILDING AND UPLOADING
278
279 Use B<dgit build>, B<dgit sbuild>, B<dgit build-source>, and B<dgit
280 push> as detailed in dgit(1).  If any command fails, dgit will provide
281 a carefully-worded error message explaining what you should do.  If
282 it's not clear, file a bug against dgit.  Remember to pass I<--new>
283 for the first upload.
284
285 As an alternative to B<dgit build> and friends, you can use a tool
286 like gitpkg(1).  This works because like dgit, gitpkg(1) enforces that
287 HEAD has exactly the contents of the source package.  gitpkg(1) is
288 highly configurable, and one dgit user reports using it to produce and
289 test multiple source packages, from different branches corresponding
290 to each of the current Debian suites.
291
292 If you want to skip dgit's checks while iterating on a problem with
293 the package build (for example, you don't want to commit your changes
294 to git), you can just run dpkg-buildpackage(1) or debuild(1) instead.
295
296 =head1 NEW UPSTREAM RELEASES
297
298 =head2 When upstream tags releases in git
299
300 It's a good idea to preview the merge of the new upstream release.
301 First, just check for any new or deleted files that may need
302 accounting for in your copyright file:
303
304 =over 4
305
306     % git remote update
307     % git diff --stat master..1.2.3 -- . ':!debian'
308
309 =back
310
311 You can then review the full merge diff:
312
313 =over 4
314
315     % git merge-tree `git merge-base master 1.2.3` master 1.2.3 | $PAGER
316
317 =back
318
319 Once you're satisfied with what will be merged, update your package:
320
321 =over 4
322
323     % git merge 1.2.3
324     % dch -v1.2.3-1 New upstream release.
325     % git add debian/changelog && git commit -m changelog
326     % git deborig
327
328 =back
329
330 and you are ready to try a build.
331
332 =head2 When upstream releases only tarballs
333
334 You will need the I<debian/gbp.conf> from "When upstream releases only
335 tarballs", above.
336
337 Then, either
338
339 =over 4
340
341     % gbp import-orig ../foo_1.2.2.orig.tar.xz
342
343 =back
344
345 or if you have a working watch file
346
347 =over 4
348
349     % gbp import-orig --uscan
350
351 =back
352
353 =head1 HANDLING DFSG-NON-FREE MATERIAL
354
355 =head2 When upstream tags releases in git
356
357 We create a DFSG-clean tag to merge to master:
358
359 =over 4
360
361     % git checkout -b pre-dfsg 1.2.3
362     % git rm evil.bin
363     % git commit -m "upstream version 1.2.3 DFSG-cleaned"
364     % git tag -s 1.2.3+dfsg
365     % git checkout master
366     % git branch -D pre-dfsg
367
368 =back
369
370 Before merging the new 1.2.3+dfsg tag to master, you should first
371 determine whether it would be legally dangerous for the non-free
372 material to be publicly accessible in the git history on
373 B<dgit-repos>.
374
375 If it would be dangerous, there is a big problem;
376 in this case please consult your archive administrators
377 (for Debian this is the dgit administrator dgit-owner@debian.org
378 and the ftpmasters ftpmaster@ftp-master.debian.org).
379
380 =head2 When upstream releases only tarballs
381
382 The easiest way to handle this is to add a B<Files-Excluded> field to
383 I<debian/copyright>, and a B<uversionmangle> setting in
384 I<debian/watch>.  See uscan(1).  Alternatively, see the I<--filter>
385 option detailed in gbp-import-orig(1).
386
387 =head1 FORWARDING PATCHES UPSTREAM
388
389 The basic steps are:
390
391 =over 4
392
393 =item 1.
394
395 Create a new branch based off upstream's master branch.
396
397 =item 2.
398
399 git-cherry-pick(1) commits from your master branch onto your new
400 branch.
401
402 =item 3.
403
404 Push the branch somewhere and ask upstream to merge it, or use
405 git-format-patch(1) or git-request-pull(1).
406
407 =back
408
409 For example (and it is only an example):
410
411 =over 4
412
413     % # fork foo.git on GitHub
414     % git remote add -f fork git@github.com:spwhitton/foo.git
415     % git checkout -b fix-error upstream/master
416     % git config branch.fix-error.pushRemote fork
417     % git cherry-pick master^2
418     % git push
419     % # submit pull request on GitHub
420
421 =back
422
423 Note that when you merge an upstream release containing your forwarded
424 patches, git and dgit will transparently handle "dropping" the patches
425 that have been forwarded, "retaining" the ones that haven't.
426
427 =head1 INCORPORATING NMUS
428
429 =over 4
430
431     % dgit pull
432
433 =back
434
435 Alternatively, you can apply the NMU diff to your repository.  The
436 next push will then require I<--overwrite>.
437
438 =head1 SEE ALSO
439
440 dgit(1), dgit(7)
441
442 =head1 AUTHOR
443
444 This tutorial was written and is maintained by Sean Whitton <spwhitton@spwhitton.name>.  It contains contributions from other dgit contributors too - see the dgit copyright file.