infra/dgit-repos-policy-debian

   1 #!/usr/bin/perl -w
   2 # dgit repos policy hook script for Debian
   3 #
   4 # Copyright (C) 2015-2016  Ian Jackson
   5 #
   6 #    This program is free software; you can redistribute it and/or modify
   7 #    it under the terms of the GNU General Public License as published by
   8 #    the Free Software Foundation; either version 3 of the License, or
   9 #    (at your option) any later version.
  10 #
  11 #    This program is distributed in the hope that it will be useful,
  12 #    but WITHOUT ANY WARRANTY; without even the implied warranty of
  13 #    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14 #    GNU General Public License for more details.
  15 #
  16 #    You should have received a copy of the GNU General Public License
  17 #    along with this program.  If not, see <http://www.gnu.org/licenses/>.
  18
  19 use strict;
  20
  21 use Debian::Dgit::Infra; # must precede Debian::Dgit; - can change @INC!
  22 use Debian::Dgit qw(:DEFAULT :policyflags);
  23 setup_sigwarn();
  24
  25 use POSIX;
  26 use JSON;
  27 use File::Temp qw(tempfile);
  28 use DBI;
  29 use IPC::Open2;
  30 use Data::Dumper;
  31
  32 use Debian::Dgit::Policy::Debian;
  33
  34 initdebug('%');
  35 enabledebuglevel $ENV{'DGIT_DRS_DEBUG'};
  36
  37 END { $? = 127; } # deliberate exit uses _exit
  38
  39 our $distro = shift @ARGV // die "need DISTRO";
  40 our $repos = shift @ARGV // die "need DGIT-REPOS-DIR";
  41 our $dgitlive = shift @ARGV // die "need DGIT-LIVE-DIR";
  42 our $distrodir = shift @ARGV // die "need DISTRO-DIR";
  43 our $action = shift @ARGV // die "need ACTION";
  44
  45 our $publicmode = 02775;
  46 our $new_upload_propagation_slop = 3600*4 + 100;# fixme config;
  47
  48 our $poldbh;
  49 our $pkg;
  50 our $pkgdir;
  51 our ($pkg_exists,$pkg_secret);
  52
  53 our $stderr;
  54
  55 our ($version,$suite,$tagname);
  56 our %deliberately;
  57
  58 # We assume that it is not possible for NEW to have a version older
  59 # than sid.
  60
  61 # Whenever pushing, we check for
  62 #   source-package-local tainted history
  63 #   global tainted history
  64 #   can be overridden by --deliberately except for an admin prohib taint
  65 #
  66 # ALL of the following apply only if history is secret:
  67 #
  68 # if NEW has no version, or a version which is not in our history[1]
  69 #   (always)
  70 #   check all suites
  71 #   if any suite's version is in our history[1], publish our history
  72 #   otherwise discard our history,
  73 #     tainting --deliberately-include-questionable-history
  74 #
  75 # if NEW has a version which is in our history[1]
  76 #   (on push only)
  77 #   require explicit specification of one of
  78 #     --deliberately-include-questionable-history
  79 #     --deliberately-not-fast-forward
  80 #       (latter will taint old NEW version --d-i-q-h)
  81 #   (otherwise)
  82 #   leave it be
  83 #
  84 # [1] looking for the relevant git tag for the version number and not
  85 #    caring what that tag refers to.
  86 #
  87 #    When we are doing a push to a fresh repo, any version will do: in
  88 #    this case, this is the first dgit upload of an existing package,
  89 #    and we trust that the uploader hasn't included in their git
  90 #    history any previous non-dgit uploads.
  91 #
  92 # A wrinkle: if we approved a push recently, we treat NEW as having
  93 # a version which is in our history.  This is because the package may
  94 # still be being uploaded.  (We record this using the timestamp of the
  95 # package's git repo directory.)
  96
  97 # We aim for the following invariants and properties:
  98 #
  99 # - .dsc of published dgit package will have corresponding publicly
 100 #   visible dgit-repo (soon)
 101 #
 102 # - when a new package is rejected we help maintainer avoid
 103 #   accidentally including bad objects in published dgit history
 104 #
 105 # - .dsc of NEW dgit package has corresponding dgit-repo but not
 106 #   publicly readable
 107
 108 sub apiquery ($) {
 109     my ($subpath) = @_;
 110     local $/=undef;
 111     my $dgit = "$dgitlive/dgit";
 112     $dgit = "dgit" if !stat_exists $dgit;
 113     my $cmd = "$dgit -d$distro \$DGIT_TEST_OPTS";
 114     $cmd .= " -".("D" x $debuglevel) if $debuglevel;
 115     $cmd .= " archive-api-query $subpath";
 116     printdebug "apiquery $cmd\n";
 117     $!=0; $?=0; my $json = `$cmd`;
 118     defined $json && !$? or die "$subpath $! $?";
 119     my $r = decode_json $json;
 120     my $d = new Data::Dumper([$r], [qw(r)]);
 121     printdebug "apiquery $subpath | ", $d->Dump() if $debuglevel>=2;
 122     return $r;
 123 }
 124
 125 sub vsn_in_our_history ($) {
 126     my ($vsn) = @_;
 127
 128     # Eventually, when we withdraw support for old-format (DEP-14
 129     # namespace) tags, we will need to change this to only look
 130     # for debiantag_new.  See the commit
 131     #   "Tag change: Update dgit-repos-policy-debian"
 132     # (reverting which is a good start for that change).
 133
 134     my @tagrefs = map { "refs/tags/".$_ } debiantags $vsn, $distro;
 135     printdebug " checking history  vsn=$vsn tagrefs=@tagrefs\n";
 136     open F, "-|", qw(git-for-each-ref), @tagrefs;
 137     $_ = <F>;
 138     close F;
 139     return 1 if defined && m/\S/;
 140     die "$pkg tagrefs @tagrefs $? $!" if $?;
 141     return 0;
 142 }
 143
 144 sub specific_suite_has_suitable_vsn ($$) {
 145     my ($suite, $vsn_check) = @_; # tests $vsn_check->($version)
 146     my $in_suite = apiquery "dsc_in_suite/$suite/$pkg";
 147     foreach my $entry (@$in_suite) {
 148         my $vsn = $entry->{version};
 149         die "$pkg ?" unless defined $vsn;
 150         printdebug " checking history found suite=$suite vsn=$vsn\n";
 151         return 1 if $vsn_check->($vsn);
 152     }
 153     return 0;
 154 }
 155
 156 sub new_has_vsn_in_our_history () {
 157     return specific_suite_has_suitable_vsn('new', \&vsn_in_our_history);
 158 }
 159
 160 sub good_suite_has_suitable_vsn ($) {
 161     my ($vsn_check) = @_; # as for specific_suite_has_specific_vsn
 162     my $suites = apiquery "suites";
 163     foreach my $suitei (@$suites) {
 164         my $suite = $suitei->{name};
 165         die unless defined $suite;
 166         next if $suite =~ m/\bnew$/;
 167         return 1 if specific_suite_has_suitable_vsn($suite, $vsn_check);
 168     }
 169     return 0;
 170 }
 171
 172 sub statpackage () {
 173     $pkgdir = "$repos/$pkg.git";
 174     if (!stat_exists $pkgdir) {
 175         printdebug "statpackage $pkg => ENOENT\n";
 176         $pkg_exists = 0;
 177     } else {
 178         $pkg_exists = 1;
 179         $pkg_secret = !!(~(stat _)[2] & 05);
 180         printdebug "statpackage $pkg => exists, secret=$pkg_secret.\n";
 181     }
 182 }
 183
 184 sub getpackage () {
 185     die unless @ARGV >= 1;
 186     $pkg = shift @ARGV;
 187     die unless $pkg =~ m/^$package_re$/;
 188
 189     statpackage();
 190 }
 191
 192 sub add_taint ($$) {
 193     my ($refobj, $reason) = @_;
 194
 195     printdebug "TAINTING $refobj\n",
 196         (map { "\%| $_" } split "\n", $reason),
 197         "\n";
 198
 199     my $tf = new File::Temp or die $!;
 200     print $tf "$refobj^0\n" or die $!;
 201     flush $tf or die $!;
 202     seek $tf,0,0 or die $!;
 203
 204     my $gcfpid = open GCF, "-|";
 205     defined $gcfpid or die $!;
 206     if (!$gcfpid) {
 207         open STDIN, "<&", $tf or die $!;
 208         exec 'git', 'cat-file', '--batch';
 209         die $!;
 210     }
 211
 212     close $tf or die $!;
 213     $_ = <GCF>;
 214     defined $_ or die;
 215     m/^(\w+) (\w+) (\d+)\n/ or die "$_ ?";
 216     my $gitobjid = $1;
 217     my $gitobjtype = $2;
 218     my $bytes = $3;
 219
 220     my $gitobjdata;
 221     if ($gitobjtype eq 'commit' or $gitobjtype eq 'tag') {
 222         $!=0; read GCF, $gitobjdata, $bytes == $bytes
 223             or die "$gitobjid $bytes $!";
 224     }
 225     close GCF;
 226
 227     $poldbh->do("INSERT INTO taints".
 228                 " (package, gitobjid, gitobjtype, gitobjdata, time, comment)".
 229                 " VALUES (?,?,?,?,?,?)", {},
 230                 $pkg, $gitobjid, $gitobjtype, $gitobjdata, time, $reason);
 231
 232     my $taint_id = $poldbh->last_insert_id(undef,undef,"taints","taint_id");
 233     die unless defined $taint_id;
 234
 235     $poldbh->do("INSERT INTO taintoverrides".
 236                 " (taint_id, deliberately)".
 237                 " VALUES (?, '--deliberately-include-questionable-history')",
 238                 {}, $taint_id);
 239 }
 240
 241 sub add_taint_by_tag ($$) {
 242     my ($tagname,$refobjid) = @_;
 243     add_taint($refobjid,
 244               "tag $tagname referred to this object in git tree but all".
 245               " previously pushed versions were found to have been".
 246               " removed from NEW (ie, rejected) (or never arrived)");
 247 }
 248
 249 sub check_package () {
 250     return 0 unless $pkg_exists;
 251     return 0 unless $pkg_secret;
 252
 253     printdebug "check_package\n";
 254
 255     chdir $pkgdir or die "$pkgdir $!";
 256
 257     stat '.' or die "$pkgdir $!";
 258     my $mtime = ((stat _)[9]);
 259     my $age = time -  $mtime;
 260     printdebug "check_package age=$age\n";
 261
 262     if (good_suite_has_suitable_vsn(\&vsn_in_our_history)) {
 263         chmod $publicmode, "." or die $!;
 264         $pkg_secret = 0;
 265         return 0;
 266     }
 267
 268     return 0 if $age < $new_upload_propagation_slop;
 269
 270     return 0 if new_has_vsn_in_our_history();
 271
 272     printdebug "check_package secret, deleted, tainting\n";
 273
 274     git_for_each_ref('refs/tags', sub {
 275         my ($objid,$objtype,$fullrefname,$tagname) = @_;
 276         add_taint_by_tag($tagname,$objid);
 277     });
 278
 279     return FRESHREPO;
 280 }
 281
 282 sub action_check_package () {
 283     getpackage();
 284     return check_package();
 285 }
 286
 287 sub getpushinfo () {
 288     die unless @ARGV >= 4;
 289     $version = shift @ARGV;
 290     $suite = shift @ARGV;
 291     $tagname = shift @ARGV;
 292     my $delibs = shift @ARGV;
 293     foreach my $delib (split /\,/, $delibs) {
 294         $deliberately{$delib} = 1;
 295     }
 296 }
 297
 298 sub deliberately ($) { return $deliberately{"--deliberately-$_[0]"}; }
 299
 300 sub action_push () {
 301     getpackage();
 302     getpushinfo();
 303
 304     check_package(); # might make package public, or might add taints
 305
 306     return 0 unless $pkg_exists;
 307     return 0 unless $pkg_secret;
 308
 309     # we suppose that NEW has a version which is already in our
 310     # history, as otherwise the repo would have been blown away
 311
 312     if (deliberately('not-fast-forward')) {
 313         add_taint(server_ref($suite),
 314                   "rewound suite $suite; --deliberately-not-fast-forward".
 315                   " specified in signed tag $tagname for upload of".
 316                   " version $version");
 317         return NOFFCHECK|FRESHREPO;
 318     }
 319     if (deliberately('include-questionable-history')) {
 320         return 0;
 321     }
 322     die "\nPackage is in NEW and has not been accepted or rejected yet;".
 323         " use a --deliberately option to specify whether you are".
 324         " keeping or discarding the previously pushed history. ".
 325         " Please RTFM dgit(1).\n\n";
 326 }
 327
 328 sub action_push_confirm () {
 329     getpackage();
 330     getpushinfo();
 331     die unless @ARGV >= 1;
 332     my $freshrepo = shift @ARGV;
 333
 334     my $initq = $poldbh->prepare(<<END);
 335         SELECT taint_id, gitobjid FROM taints t
 336             WHERE (package = ? OR package = '')
 337 END
 338     $initq->execute($pkg);
 339
 340     my @objscatcmd = qw(git);
 341     push @objscatcmd, qw(--git-dir), $freshrepo if length $freshrepo;
 342     push @objscatcmd, qw(cat-file --batch);
 343     debugcmd '|',@objscatcmd if $debuglevel>=2;
 344
 345     my @taintids;
 346     my $chkinput = tempfile();
 347     while (my $taint = $initq->fetchrow_hashref()) {
 348         push @taintids, $taint->{taint_id};
 349         print $chkinput $taint->{gitobjid}, "\n" or die $!;
 350         printdebug '|> ', $taint->{gitobjid}, "\n" if $debuglevel>=2;
 351     }
 352     flush $chkinput or die $!;
 353     seek $chkinput,0,0 or die $!;
 354
 355     my $checkpid = open CHKOUT, "-|" // die $!;
 356     if (!$checkpid) {
 357         open STDIN, "<&", $chkinput or die $!;
 358         exec @objscatcmd or die $!;
 359     }
 360
 361     my ($taintinfoq,$overridesanyq,$untaintq,$overridesq);
 362
 363     my $overridesstmt = <<END;
 364         SELECT deliberately FROM taintoverrides WHERE (
 365             1=0
 366 END
 367     my @overridesv = sort keys %deliberately;
 368     $overridesstmt .= <<END foreach @overridesv;
 369             OR deliberately = ?
 370 END
 371     $overridesstmt .= <<END;
 372         ) AND taint_id = ?
 373         ORDER BY deliberately ASC
 374 END
 375
 376     my $mustreject=0;
 377
 378     while (my $taintid = shift @taintids) {
 379         $!=0; $_ = <CHKOUT>;
 380         die "($taintid @objscatcmd) $!" unless defined $_;
 381         printdebug "|< ", $_ if $debuglevel>=2;
 382
 383         next if m/^\w+ missing$/;
 384         die "($taintid @objscatcmd) $_ ?" unless m/^(\w+) (\w+) (\d+)\s/;
 385         my ($objid,$objtype,$nbytes) = ($1,$2,$3);
 386
 387         my $drop;
 388         (read CHKOUT, $drop, $nbytes) == $nbytes
 389             or die "($taintid @objscatcmd) $!";
 390
 391         $!=0; $_ = <CHKOUT>;
 392         die "($taintid @objscatcmd) $!" unless defined $_;
 393         die "($taintid @objscatcmd) $_ ?" if m/\S/;
 394
 395         $taintinfoq ||= $poldbh->prepare(<<END);
 396             SELECT package, time, comment FROM taints WHERE taint_id =  ?
 397 END
 398         $taintinfoq->execute($taintid);
 399
 400         my $ti = $taintinfoq->fetchrow_hashref();
 401         die "($taintid)" unless $ti;
 402
 403         my $timeshow = defined $ti->{time}
 404             ? " at time ".strftime("%Y-%m-%d %H:%M:%S Z", gmtime $ti->{time})
 405             : "";
 406         my $pkgshow = length $ti->{package}
 407             ? "package $ti->{package}"
 408             : "any package";
 409
 410         $stderr .= <<END;
 411
 412 History contains tainted $objtype $objid
 413 Taint recorded$timeshow for $pkgshow
 414 Reason: $ti->{comment}
 415 END
 416
 417         printdebug "SQL overrides: @overridesv $taintid /\n$overridesstmt\n";
 418
 419         $overridesq ||= $poldbh->prepare($overridesstmt);
 420         $overridesq->execute(@overridesv, $taintid);
 421         my ($ovwhy) = $overridesq->fetchrow_array();
 422         if (!defined $ovwhy) {
 423             $overridesanyq ||= $poldbh->prepare(<<END);
 424                 SELECT 1 FROM taintoverrides WHERE taint_id = ? LIMIT 1
 425 END
 426             $overridesanyq->execute($taintid);
 427             my ($ovany) = $overridesanyq->fetchrow_array();
 428             $stderr .= $ovany ? <<END : <<END;
 429 Could be forced using --deliberately.  Consult documentation.
 430 END
 431 Uncorrectable error.  If confused, consult administrator.
 432 END
 433             $mustreject = 1;
 434         } else {
 435             $stderr .= <<END;
 436 Forcing due to --deliberately-$ovwhy
 437 END
 438             $untaintq ||= $poldbh->prepare(<<END);
 439                 DELETE FROM taints WHERE taint_id = ?
 440 END
 441             $untaintq->execute($taintid);
 442         }
 443     }
 444     close CHKOUT;
 445
 446     if ($mustreject) {
 447         $stderr .= <<END;
 448
 449 Rejecting push due to questionable history.
 450 END
 451         return 1;
 452     }
 453
 454     if (length $freshrepo) {
 455         if (!good_suite_has_suitable_vsn(sub { 1; })) {
 456             stat $freshrepo or die "$freshrepo $!";
 457             my $oldmode = ((stat _)[2]);
 458             my $oldwrites = $oldmode & 0222;
 459             # remove r and x bits which have corresponding w bits clear
 460             my $newmode = $oldmode &
 461                 (~0555 | ($oldwrites << 1) | ($oldwrites >> 1));
 462             printdebug sprintf "chmod %#o (was %#o) %s\n",
 463                 $newmode, $oldmode, $freshrepo;
 464             chmod $newmode, $freshrepo or die $!;
 465             utime undef, undef, $freshrepo or die $!;
 466         }
 467     }
 468
 469     return 0;
 470 }
 471
 472 sub action_check_list () {
 473     opendir L, "$repos" or die "$repos $!";
 474     while (defined (my $dent = readdir L)) {
 475         next unless $dent =~ m/^($package_re)\.git$/;
 476         $pkg = $1;
 477         statpackage();
 478         next unless $pkg_exists;
 479         next unless $pkg_secret;
 480         print "$pkg\n" or die $!;
 481     }
 482     closedir L or die $!;
 483     close STDOUT or die $!;
 484     return 0;
 485 }
 486
 487 $action =~ y/-/_/;
 488 my $fn = ${*::}{"action_$action"};
 489 if (!$fn) {
 490     printdebug "dgit-repos-policy-debian: unknown action $action\n";
 491     exit 0;
 492 }
 493
 494 my $sleepy=0;
 495 my $rcode;
 496
 497 my $db_busy_exception= 'Debian::Dgit::Policy::Debian::DB_BUSY';
 498
 499 my @orgargv = @ARGV;
 500
 501 for (;;) {
 502     @ARGV = @orgargv;
 503     eval {
 504         poldb_setup(poldb_path($repos), sub {
 505             $poldbh->{HandleError} = sub {
 506                 return 0 unless $poldbh->err == 5; # SQLITE_BUSY, not in .pm :-(
 507                 die bless { }, $db_busy_exception;
 508             };
 509
 510             eval ($ENV{'DGIT_RPD_TEST_DBLOOP_HOOK'}//'');
 511             die $@ if length $@;
 512             # used by tests/tests/debpolicy-dbretry
 513         });
 514
 515         $stderr = '';
 516
 517         $rcode = $fn->();
 518         die unless defined $rcode;
 519
 520         $poldbh->commit;
 521     };
 522     last unless length $@;
 523     die $@ unless ref $@ eq $db_busy_exception;
 524
 525     die if $sleepy >= 20;
 526     $sleepy++;
 527     print STDERR "[policy database busy, retrying (${sleepy}s)]\n";
 528
 529     eval { $poldbh->rollback; };
 530 }
 531
 532 print STDERR $stderr or die $!;
 533 flush STDERR or die $!;
 534 _exit $rcode;