chiark / gitweb /
WIP db populate; compute shortest paths in Perl (takes 1.5s on liberator)
[ypp-sc-tools.web-live.git] / pctb / commod-email-processor
1 #!/usr/bin/perl -w
2 #
3 # This script is invoked to process an email sent by the
4 # commod-update-receiver Perl script.
5
6 # This is part of ypp-sc-tools, a set of third-party tools for assisting
7 # players of Yohoho Puzzle Pirates.
8 #
9 # Copyright (C) 2009 Ian Jackson <ijackson@chiark.greenend.org.uk>
10 #
11 # This program is free software: you can redistribute it and/or modify
12 # it under the terms of the GNU General Public License as published by
13 # the Free Software Foundation, either version 3 of the License, or
14 # (at your option) any later version.
15 #
16 # This program is distributed in the hope that it will be useful,
17 # but WITHOUT ANY WARRANTY; without even the implied warranty of
18 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
19 # GNU General Public License for more details.
20 #
21 # You should have received a copy of the GNU General Public License
22 # along with this program.  If not, see <http://www.gnu.org/licenses/>.
23 #
24 # Yohoho and Puzzle Pirates are probably trademarks of Three Rings and
25 # are used without permission.  This program is not endorsed or
26 # sponsored by Three Rings.
27
28 # Emails are:
29 #  multipart/mixed, containing
30 #   text/plain; name="metadata"; charset="utf-8"
31 #   Content-Disposition: inline; filename="metadata"
32 #     ocean\t<ocean>            canonical mixed case
33 #     island\t<island>          canonical mixed case
34 #     timestamp\t<digits>       time_t (non-leap secs since start of 1970 UTC)
35 #     clientname\t<cname>       may contain spaces
36 #     clientversion\t<cversion> may contain spaces
37 #     clientfixes\t<cfixes>     space-delimited list
38 #     clientspec\t<cspec>       <cname>\t<cversion>\t<cfixes>
39 #     servername\t<sname>       may contain spaces
40 #     serverversion\t<sversion> may contain spaces
41 #     serverfixes\t<sfixes>     space-delimited list
42 #     serverspec\t<sspec>       <sname>\t<serverversion>\t<serverfixes>
43 #   application/octet-stream; name="deduped.tsv.gz"
44 #   Content-Disposition: attachment; filename="deduped.tsv.gz"
45 #     <base64>
46
47 use strict (qw(vars));
48
49 use POSIX;
50 use MIME::Parser;
51
52 use Commods;
53
54 setlocale(LC_CTYPE, "en_GB.UTF-8");
55 my $parser= new MIME::Parser;
56 our $entity;
57
58 sub find_part ($$$) {
59     my ($filename, $type, $accepter) = @_;
60     foreach my $part ($entity->parts()) {
61         my $h= $part->head();
62         next unless $h->recommended_filename() eq $filename;
63         next unless $h->mime_type()            eq $type;
64         next unless $part->effective_type()    eq $type;
65         next if defined $accepter and !&$accepter($h);
66         return $part;
67     }
68     die "no appropriate part with name $filename and type $type";
69 }
70
71 sub bad_data_fail ($) { die $_[0]; }
72
73 sub main () {
74     $parser->extract_nested_messages(0);
75     $parser->ignore_errors(0);
76
77     $entity= $parser->parse(\*STDIN);
78     my $eff_type= $entity->effective_type();
79     die "effective type $eff_type" unless $eff_type eq 'multipart/mixed';
80
81     my $mdpart= find_part('metadata', 'text/plain', sub {
82         my $charset= $_[0]->mime_attr('content-type.charset');
83         return 1 if grep { $_ eq $charset } qw(utf-8 us-ascii);
84     });
85
86     my $mdh= $mdpart->open('r') or die;
87     my %md;
88     while (defined($_= $mdh->getline())) {
89         m/^([a-z]+)\t(.*)$/ or next;
90         $md{$1}= $2;
91     }
92
93     my $tsvpart= find_part('deduped.tsv.gz', 'application/octet-stream',
94                            undef);
95     my $tsv= pipethrough_prep();
96     $tsvpart->bodyhandle()->print($tsv);
97     my $pt= pipethrough_run_along($tsv,undef, 'gunzip','gunzip');
98
99     while (<$pt>) {
100         my @v= check_tsv_line($_, \&bad_data_fail);
101         print "[",join('|',@v),"]\n";
102     }
103
104     pipethrough_run_finish($pt);
105 }
106
107 my $ok= eval {
108     main();
109     1;
110 };
111 my $err= $@;
112
113 $parser->filer->purge();
114
115 if (!$ok) {
116     print STDERR "PROCESSING FAILED\n $@\n";
117     exit 1;
118 }