pctb/structure.c

   1 /*
   2  * Parsing of the structure of the YPP client's displayed image
   3  */
   4 /*
   5  *  This is part of ypp-sc-tools, a set of third-party tools for assisting
   6  *  players of Yohoho Puzzle Pirates.
   7  *
   8  *  Copyright (C) 2009 Ian Jackson <ijackson@chiark.greenend.org.uk>
   9  *
  10  *  This program is free software: you can redistribute it and/or modify
  11  *  it under the terms of the GNU General Public License as published by
  12  *  the Free Software Foundation, either version 3 of the License, or
  13  *  (at your option) any later version.
  14  *
  15  *  This program is distributed in the hope that it will be useful,
  16  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  *  GNU General Public License for more details.
  19  *
  20  *  You should have received a copy of the GNU General Public License
  21  *  along with this program.  If not, see <http://www.gnu.org/licenses/>.
  22  *
  23  *  Yohoho and Puzzle Pirates are probably trademarks of Three Rings and
  24  *  are used without permission.  This program is not endorsed or
  25  *  sponsored by Three Rings.
  26  */
  27
  28 #include "structure.h"
  29
  30 static CanonImage *cim;
  31
  32 static inline char get(int x, int y) { return cim->d[y * cim->w + x]; }
  33 static inline char get_p(Point p) { return get(p.x,p.y); }
  34
  35 DEBUG_DEFINE_DEBUGF(struct)
  36
  37 #define START_MAIN {200,200}
  38 #define MIN_COLUMNS         6
  39 #define INTERESTING_COLUMNS 7
  40 #define TEXT_COLUMNS        2
  41 #define MAX_COLUMNS         7
  42
  43 static Rect mainr = { START_MAIN,START_MAIN };
  44 static int commbasey, comminty;
  45 static int colrightx[INTERESTING_COLUMNS];
  46 static int text_h=-1, columns=-1;
  47 static OcrReader *rd;
  48
  49 char *archipelago, *island;
  50
  51 #define OTHERCOORD_x y
  52 #define OTHERCOORD_y x
  53
  54 typedef struct {
  55   Rgb rgb; /* on screen */
  56   char c; /* canonical */
  57 } CanonColourInfo;
  58
  59 const CanonColourInfo canoncolourinfo_table[]= {
  60   { 0x475A5E, '*' }, /* edge */
  61   { 0x2C5F7A, '*' }, /* edge just under box heading shadow */
  62   { 0xC5C7AE, '*' }, /* blank area of partial commodities list */
  63   { 0x6B828C, '*' }, /* background of ship status meter area */
  64   { 0x934405, '*' }, /* border of ship meter area */
  65   { 0x7D9094, '+' }, /* interbox */
  66   { 0x022158, 'O' }, /* ahoy /w output foreground */
  67   { 0xB5B686, 'H' }, /* ahoy /w output heading background */
  68
  69   { 0xBDC5BF, ' ' }, /* background - pale  Sugar cane, etc. */
  70   { 0xADB5AF, ' ' }, /* background - dark                   */
  71   { 0xC7E1C3, ' ' }, /* background - pale  Swill, etc.      */
  72   { 0xB5CFB1, ' ' }, /* background - dark                   */
  73   { 0xD6CEB0, ' ' }, /* background - pale  Madder, etc.     */
  74   { 0xC8C0A2, ' ' }, /* background - dark                   */
  75   { 0xE0E1D3, ' ' }, /* background - pale  Lorandite, etc.  */
  76   { 0xD0D1C3, ' ' }, /* background - dark                   */
  77   { 0xE5E6C1, ' ' }, /* background - pale  Cloth            */
  78   { 0xD7D8B3, ' ' }, /* background - dark                   */
  79   { 0xEDDED9, ' ' }, /* background - pale  Dye              */
  80   { 0xDACBC6, ' ' }, /* background - dark                   */
  81   { 0xD3DEDF, ' ' }, /* background - pale  Paint            */
  82   { 0xC5D0D1, ' ' }, /* background - dark                   */
  83   { 0xDCD1CF, ' ' }, /* background - pale  Enamel           */
  84   { 0xCEC3C1, ' ' }, /* background - dark                   */
  85   { 0xF3F6F5, ' ' }, /* background - pale  fruit            */
  86   { 0xE2E7E5, ' ' }, /* background - dark                   */
  87
  88   { 0x000000, 'o' }, /* foreground */
  89   { 0xD4B356, ' ' }, /* background (cursor) */
  90   { 0xFFFFFF, 'o' }, /* foreground (cursor) */
  91
  92   { 0x5B93BF, '_' }, /* selector dropdown background */
  93   { 0xD7C94F, 'X' }, /* selector dropdown foreground */
  94   { 0,0 }
  95 };
  96
  97 CanonColourInfoReds canoncolourinfo_tree;
  98
  99 void canon_colour_prepare(void) {
 100   const CanonColourInfo *cci;
 101   for (cci=canoncolourinfo_table; cci->c; cci++) {
 102     unsigned char r= cci->rgb >> 16;
 103     unsigned char g= cci->rgb >>  8;
 104     unsigned char b= cci->rgb;
 105
 106     CanonColourInfoGreens *greens= canoncolourinfo_tree.red2[r];
 107     if (!greens) {
 108       greens= canoncolourinfo_tree.red2[r]= mmalloc(sizeof(*greens));
 109       FILLZERO(*greens);
 110     }
 111
 112     CanonColourInfoBlues *blues= greens->green2[g];
 113     if (!blues) {
 114       blues= greens->green2[g]= mmalloc(sizeof(*blues));
 115       memset(blues, '?', sizeof(blues));
 116     }
 117
 118     blues->blue2[b]= cci->c;
 119   }
 120 }
 121
 122
 123 static void mustfail1(const char *file, int line, const char *what) {
 124   fprintf(stderr,
 125  "\n\n"
 126  "Unable to figure out contents of YPP client display.\n"
 127  "Please check the following:\n"
 128  "   * YPP client is showing commodity listing screen\n"
 129  "   * YPP client window is on top (we try to raise it but your window\n"
 130  "      manager might have prevented that from succeeding)\n"
 131  "\n"
 132  "If all of these are true, please report this as a fault.\n\n"
 133           "Technical details:"
 134           " %s:%d: requirement failed:\n"
 135           " %s\n",
 136           file, line, what);
 137 }
 138 static void mustfail2(void) NORET;
 139 static void mustfail2(void) {
 140   fprintf(stderr, "\n\nGiving up.\n");
 141   exit(8);
 142 }
 143
 144 #define MUST(x, ifnot) do{                      \
 145     if (!(x)) {                                 \
 146       mustfail1(__FILE__,__LINE__,#x);          \
 147       ifnot;                                    \
 148       mustfail2();                              \
 149     }                                           \
 150   }while(0)
 151
 152 #define MP(v) fprintf(stderr," %s=%d,%d",#v,(v).x,(v).y)
 153 #define MI(v) fprintf(stderr," %s=%d",   #v,(v))
 154 #define MIL(v) fprintf(stderr," %s=%ld", #v,(v))
 155 #define MRGB(v) fprintf(stderr," %s=%06lx", #v,(v))
 156 #define MC(v) fprintf(stderr," %s='%c'", #v,(v))
 157 #define MS(v) fprintf(stderr," %s=\"%s\"", #v,(v))
 158 #define MF(v) fprintf(stderr," %s=%f", #v,(v))
 159 #define MSB(v) fprintf(stderr," %s", (v))
 160 #define MR(v) fprintf(stderr," %s=%d,%d..%d,%d",\
 161                       #v,(v).tl.x,(v).tl.y,(v).br.x,(v).br.y)
 162
 163
 164 #define REQUIRE_RECTANGLE(tlx,tly,brx,bry,ok) \
 165  require_rectangle(tlx, tly, brx, bry, ok, __LINE__);
 166
 167 #define FOR_P_RECT(p,rr)                                \
 168   for ((p).x=(rr).tl.x; (p).x<=(rr).br.x; (p).x++)      \
 169     for ((p).y=(rr).tl.y; (p).y<=(rr).br.y; (p).y++)
 170
 171 static void require_rectangle_r(Rect rr, const char *ok, int lineno) {
 172   Point p;
 173   FOR_P_RECT(p,rr) {
 174     int c= get_p(p);
 175     MUST( strchr(ok,c), ({
 176       MI(lineno),MR(rr);MP(p);MS(ok);
 177     }));
 178   }
 179 }
 180 static void require_rectangle(int tlx, int tly, int brx, int bry,
 181                               const char *ok, int lineno) {
 182   Rect rr= {{tlx,tly},{brx,bry}};
 183   require_rectangle_r(rr, ok, lineno);
 184 }
 185
 186 static void debug_rect(const char *what, int whati, Rect rr) {
 187   if (!DEBUGP(rect)) return;
 188   int y,w;
 189   fprintf(debug, "%s %d: %d,%d..%d,%d:\n", what, whati,
 190           rr.tl.x,rr.tl.y, rr.br.x,rr.br.y);
 191   w= rr.br.x - rr.tl.x + 1;
 192   for (y=rr.tl.y; y<=rr.br.y; y++) {
 193     fprintf(debug, "%4d%*s|", y, rr.tl.x,"");
 194     fwrite(cim->d + y*cim->w + rr.tl.x, 1, w, debug);
 195     fputc('|',debug);
 196     fputc('\n',debug);
 197   }
 198   debug_flush();
 199 }
 200
 201 static int commod_selector_matches(Rect search, const char *const *all,
 202                                    int allh, int allw) {
 203   int alloffy, alloffx;
 204   for (alloffy=0; alloffy < search.br.y; alloffy++) {
 205     if (alloffy+allh-1 < search.tl.y) continue;
 206     for (alloffx=search.tl.x; alloffx+allw-1 <= search.br.x; alloffx++) {
 207       int good=0, bad=0;
 208       int x,y;
 209       for (x=0; x<allw; x++)
 210         for (y=0; y<allh; y++) {
 211           int want= all[y][x];
 212           if (want==' ') continue;
 213           if (get(alloffx+x, alloffy+y) == want)
 214             good++;
 215           else
 216             bad++;
 217         }
 218       debugf("CHECKCOMMOD alloff=%d,%d good=%d bad=%d\n",
 219              alloffx,alloffy, good,bad);
 220       if (good > 20*bad)
 221         return 1;
 222     }
 223   }
 224   return 0;
 225 }
 226
 227 #define WALK_UNTIL(point,coord,increm,last,edge)                        \
 228   for (;;) {                                                            \
 229     if ((point).coord == (last)+(increm)) break;                        \
 230     if (get_p((point)) == (edge)) { (point).coord -= (increm); break; } \
 231     (point).coord += (increm);                                          \
 232   }
 233
 234 #define WALK_UNTIL_MUST(point,coord,increm,last,edge)   \
 235   do {                                                  \
 236     WALK_UNTIL(point,coord,increm,last,edge);           \
 237     MUST( (point).coord != (last)+(increm),             \
 238           MP(point); MI(increm); MI(last); MC(edge);    \
 239           );                                            \
 240   }while(0)
 241
 242 #define ADJUST_BOX(search,insidechrs,OP,want, lim,LIMIT_MUST, TLBR,XY,increm) \
 243   for (;;) {                                                                  \
 244     LIMIT_MUST( (search).tl.XY != (search).br.XY &&                           \
 245                 (search).tl.XY != (lim),                                      \
 246                 MR((search));MSB(#TLBR);MSB(#XY) );                           \
 247     int got=0;                                                                \
 248     Point p=(search).tl;                                                      \
 249     for (p.XY=(search).TLBR.XY;                                               \
 250          p.OTHERCOORD_##XY <= (search).br.OTHERCOORD_##XY;                    \
 251          p.OTHERCOORD_##XY++)                                                 \
 252       got += !!strchr(insidechrs, get_p(p));                                  \
 253     if ((got) OP (want))                                                      \
 254       break;                                                                  \
 255     (search).TLBR.XY += increm;                                               \
 256   }
 257
 258 void find_structure(CanonImage *im, int *max_relevant_y_r) {
 259   cim= im;
 260
 261   Rect whole = { {0,0}, {cim->w-1,cim->h-1} };
 262
 263   if (DEBUGP(rect)) {
 264     int xscaleunit, y,x;
 265     for (y=0, xscaleunit=1; y<4; y++, xscaleunit*=10) {
 266       fprintf(debug,"     ");
 267       for (x=0; x<=cim->w; x++) {
 268         if (x % xscaleunit) fputc(' ',debug);
 269         else fprintf(debug,"%d",(x / xscaleunit)%10);
 270       }
 271       fputc('\n',debug);
 272     }
 273   }
 274
 275   WALK_UNTIL_MUST(mainr.tl, x,-1, whole.tl.x, '*');
 276   WALK_UNTIL_MUST(mainr.tl, y,-1, whole.tl.y, '*');
 277   WALK_UNTIL_MUST(mainr.br, x,+1, whole.br.x, '*');
 278   WALK_UNTIL_MUST(mainr.br, y,+1, whole.br.y, '*');
 279
 280   REQUIRE_RECTANGLE(mainr.tl.x-1, mainr.tl.y, mainr.tl.x-1, mainr.br.y, "*");
 281   REQUIRE_RECTANGLE(mainr.br.x+1, mainr.tl.y, mainr.br.x+1, mainr.br.y, "*");
 282   REQUIRE_RECTANGLE(mainr.tl.x, mainr.tl.y-1, mainr.br.x, mainr.tl.y-1, "*");
 283   REQUIRE_RECTANGLE(mainr.tl.x, mainr.br.y+1, mainr.br.x, mainr.br.y+1, "*");
 284
 285 #define CHECK_STRIP_BORDER(tlbr,xy,increm)              \
 286   do {                                                  \
 287     Point csb_p;                                        \
 288     Rect csb_r;                                         \
 289     csb_p= mainr.tl;                                    \
 290     csb_p.xy= mainr.tlbr.xy;                            \
 291     if (get_p(csb_p)=='+') {                            \
 292       csb_r= mainr;                                     \
 293       csb_r.tl.xy= csb_p.xy;                            \
 294       csb_r.br.xy= csb_p.xy;                            \
 295       require_rectangle_r(csb_r, "+", __LINE__);        \
 296       mainr.tlbr.xy += increm;                          \
 297     }                                                   \
 298   } while(0)
 299
 300   debug_rect("mainr",0, mainr);
 301
 302   CHECK_STRIP_BORDER(tl,x,+1);
 303   CHECK_STRIP_BORDER(tl,y,+1);
 304   CHECK_STRIP_BORDER(br,x,-1);
 305   CHECK_STRIP_BORDER(br,y,-1);
 306
 307   debug_rect("mainr",1, mainr);
 308
 309   Point up = START_MAIN;
 310   WALK_UNTIL_MUST(up, y,-1, mainr.tl.y, '+');
 311
 312   Point down = START_MAIN;
 313   down.y++;
 314   WALK_UNTIL_MUST(down, y,+1, mainr.br.y, '+');
 315
 316   commbasey= up.y;
 317   comminty= down.y - up.y + 2;
 318
 319   Point across= { mainr.tl.x, commbasey };
 320   int colno=0;
 321   for (;;) {
 322     MUST( get_p(across) != '+', MI(colno);MP(across);MR(mainr);MI(commbasey) );
 323     WALK_UNTIL(across, x,+1, mainr.br.x, '+');
 324     MUST( colno < MAX_COLUMNS, MP(across);MR(mainr);MI(commbasey); );
 325     int colrx= across.x;
 326     if (colrx > mainr.br.x) colrx= mainr.br.x;
 327     if (colno < INTERESTING_COLUMNS)
 328       colrightx[colno]= colrx;
 329
 330     colno++;
 331
 332     if (across.x >= mainr.br.x-1)
 333       break;
 334
 335     across.x++;
 336     REQUIRE_RECTANGLE(across.x,mainr.tl.y, across.x,mainr.br.y, "+");
 337     across.x++;
 338   }
 339   MUST( colno >= MIN_COLUMNS, MI(colno);MR(mainr);MP(across); );
 340
 341 #define SET_ONCE(var,val) do{                                           \
 342     int v= (val);                                                       \
 343     if ((var)==-1) (var)= v;                                            \
 344     else MUST( (var) == v, MSB(#var);MI((var));MI(v);MR(mainr); );      \
 345   }while(0)
 346
 347   SET_ONCE(columns, colno);
 348   SET_ONCE(text_h, comminty - 1);
 349   if (max_relevant_y_r)
 350     SET_ONCE(*max_relevant_y_r, mainr.br.y + 10);
 351
 352   MUST( text_h <= OCR_MAX_H, MI(text_h) );
 353 }
 354
 355 void check_correct_commodities(void) {
 356   Rect search= { { 50,39 }, { 130,59 } };
 357
 358   ADJUST_BOX(search,"_",>=,10, cim->h, MUST, tl,y,+1);
 359   ADJUST_BOX(search,"_",>=,10, 0,      MUST, br,y,-1);
 360
 361   debug_rect("commodselr",1, search);
 362
 363   static const char *all_small[]= {
 364     "   ___________________________________   ",
 365     "  ________X____X__X____________________  ",
 366     " ________ X___ X_ X_____XXXXXXXXXXX_____ ",
 367     "_________X_X__ X_ X______XXXXXXXXX_______",
 368     "________ X X__ X_ X_______XXXXXXX________",
 369     "________X_ _X_ X_ X________XXXXX_________",
 370     "_______ X__ X_ X_ X_________XXX__________",
 371     "_______XXXXXXX X_ X__________X___________",
 372     " _____ X     X X_ X______________________",
 373     "  ____X_____ _XX_ X______________________",
 374     "   __ _______  __ ______________________ ",
 375   };
 376   static const char *all_big[]= {
 377     "???_______________________________________???",
 378     "??_________________________________________??",
 379     "?_________X______X___X______________________?",
 380     "_________?X_____?X__?X______XXXXXXXXXXX______",
 381     "_________X_X____?X__?X_______XXXXXXXXX_______",
 382     "________?X?X____?X__?X________XXXXXXX________",
 383     "________X_?_X___?X__?X_________XXXXX_________",
 384     "_______?X__?X___?X__?X__________XXX__________",
 385     "_______?XXXXX___?X__?X___________X___________",
 386     "_______X????_X__?X__?X_______________________",
 387     "?_____?X____?X__?X__?X_______________________",
 388     "??____X_____?_X_?X__?X_______________________",
 389     "???__?_______?__?___?_______________________?",
 390   };
 391
 392 #define COMMOD_SELECTOR_MATCHES(all)                            \
 393   commod_selector_matches(search, all,                          \
 394                           sizeof((all))/sizeof((all)[0]),       \
 395                           strlen((all)[0]))
 396
 397   if (!(COMMOD_SELECTOR_MATCHES(all_small) ||
 398         COMMOD_SELECTOR_MATCHES(all_big)))
 399     fatal("Commodities selector not set to `All'.");
 400 }
 401
 402 CanonImage *alloc_canon_image(int w, int h) {
 403   CanonImage *im= mmalloc(sizeof(CanonImage) + w*h);
 404   im->w= w;
 405   im->h= h;
 406   memset(im->d,'?',w*h);
 407   return im;
 408 }
 409
 410 static void file_read_image_ppm(FILE *f) {
 411   struct pam inpam;
 412   unsigned char rgb_buf[3];
 413   CanonImage *im;
 414
 415   pnm_readpaminit(f, &inpam, sizeof(inpam));
 416   if (!(inpam.maxval == 255 &&
 417         inpam.bytes_per_sample == 1 &&
 418         inpam.format == RPPM_FORMAT))
 419     fatal("PNM screenshot(s) file must be 8bpp 1 byte-per-sample RGB raw");
 420
 421   CANONICALISE_IMAGE(im, inpam.width, inpam.height, {
 422     int rr= fread(&rgb_buf,1,3,f);
 423     sysassert(!ferror(f));
 424     if (rr!=3) fatal("PNM screenshot(s) file ends unexpectedly");
 425
 426     r= rgb_buf[0];
 427     g= rgb_buf[1];
 428     b= rgb_buf[2];
 429   });
 430
 431   sysassert(!ferror(screenshot_file));
 432
 433   if (!(npages < MAX_PAGES))
 434     fatal("Too many images in screenshots file; max is %d.\n", MAX_PAGES);
 435
 436   page_images[npages++]= im;
 437 }
 438
 439 void read_one_screenshot(void) {
 440   progress("reading screenshot...");
 441   file_read_image_ppm(screenshot_file);
 442   progress_log("read screenshot.");
 443 }
 444
 445 void read_screenshots(void) {
 446   struct stat stab;
 447
 448   sysassert(! fstat(fileno(screenshot_file), &stab) );
 449
 450   for (;;) {
 451     if (S_ISREG(stab.st_mode)) {
 452       long pos= ftell(screenshot_file);
 453       if (pos == stab.st_size) break;
 454     } else {
 455       int c= fgetc(screenshot_file);
 456       if (c==EOF) break;
 457       ungetc(c, screenshot_file);
 458     }
 459     progress("reading screenshot %d...",npages);
 460     file_read_image_ppm(screenshot_file);
 461   }
 462   sysassert(!ferror(screenshot_file));
 463   progress_log("read %d screenshots.",npages);
 464 }
 465
 466 static double find_aa_density(const RgbImage *ri, Point p, long background,
 467                               long foreground, int fg_extra) {
 468   Rgb here= ri_rgb(ri, p.x, p.y);
 469
 470   double alpha[3], alpha_mean=0;
 471   int i;
 472   for (i=0; i<3; i++) {
 473     unsigned char here_chan= here       >> (i*8);
 474     unsigned char bg_chan=   background >> (i*8);
 475     unsigned char fg_chan=   foreground >> (i*8);
 476     double alpha_chan=
 477       ((double)here_chan    - (double)bg_chan) /
 478       ((fg_chan + fg_extra) - (double)bg_chan);
 479     alpha[i]= alpha_chan;
 480     alpha_mean += alpha_chan * (1/3.0);
 481   }
 482
 483   double thresh= 1.5/AAMAXVAL;
 484   double alpha_min= alpha_mean - thresh;
 485   double alpha_max= alpha_mean + thresh;
 486   for (i=0; i<3; i++)
 487     MUST( alpha_min <= alpha[i] && alpha[i] <= alpha_max,
 488           MP(p);
 489           MRGB(here);MRGB(background);MRGB(foreground);MI(fg_extra);
 490           MF(alpha_min); MI(i);MF(alpha[i]);MF(alpha_max) );
 491
 492   if (   -1e-5 <  alpha_mean && alpha_mean <= 0.0     ) alpha_mean= 0.0;
 493   if (1.0      <= alpha_mean && alpha_mean <= 1.0+1e-5) alpha_mean= 1.0;
 494
 495   MUST( 0 <= alpha_mean &&
 496         (fg_extra ? (alpha_mean < 0.999) : (alpha_mean <= 1.0)),
 497         MP(p);
 498         MRGB(here);MRGB(background);MRGB(foreground);MI(fg_extra);
 499         MF(alpha_mean); MF(alpha[0]);MF(alpha[1]);MF(alpha[2]); );
 500
 501   return alpha_mean;
 502 }
 503
 504 static void find_commodity(int offset, Rect *rr) {
 505   /* rr->tl.x==-1 if offset out of range */
 506   rr->tl.y= commbasey - offset*comminty;
 507   rr->br.y= rr->tl.y + comminty-2;
 508   if (rr->tl.y < mainr.tl.y || rr->br.y > mainr.br.y) { rr->tl.x=-1; return; }
 509
 510   rr->tl.x= mainr.tl.x;
 511   rr->br.x= mainr.br.x;
 512
 513   if (rr->tl.y > mainr.tl.y)
 514     REQUIRE_RECTANGLE(rr->tl.x,rr->tl.y-1, rr->br.x,rr->tl.y-1, "+");
 515   if (rr->br.y < mainr.tl.y)
 516     REQUIRE_RECTANGLE(rr->tl.x,rr->br.y+1, rr->br.x,rr->br.y+1, "+");
 517 }
 518
 519 static void find_table_entry(Rect commod, int colno, Rect *cell) {
 520   cell->tl.y= commod.tl.y;
 521   cell->br.y= commod.br.y;
 522   cell->tl.x= !colno ? commod.tl.x : colrightx[colno-1]+2;
 523   cell->br.x=                        colrightx[colno];
 524   debug_rect("cell", colno, *cell);
 525
 526   const RgbImage *ri= cim->rgb;
 527
 528   Rgb background= ri_rgb(ri, cell->br.x, cell->br.y);
 529   long bg_count=0, light_count=0, dark_count=0;
 530   Point p;
 531   FOR_P_RECT(p,*cell) {
 532     Rgb here= ri_rgb(ri, p.x, p.y);
 533     if (here == background) bg_count++;
 534     else if (here < background) dark_count++;
 535     else if (here > background) light_count++;
 536   }
 537   long total_count= RECT_W(*cell) * RECT_H(*cell);
 538   MUST( bg_count > total_count / 2,
 539         MR(*cell);MIL(total_count);MIL(bg_count);
 540         MIL(light_count);MIL(dark_count) );
 541   if (bg_count == total_count)
 542     return;
 543
 544   MUST( !!dark_count != !!light_count,
 545         MR(*cell);MIL(total_count);MIL(bg_count);
 546         MIL(light_count);MIL(dark_count) );
 547
 548   debugf("TABLEENTRY col=%d %d,%d..%d,%d bg=%ld light=%ld dark=%ld\n",
 549          colno, cell->tl.x,cell->tl.y, cell->br.x,cell->br.y,
 550          bg_count, light_count, dark_count);
 551
 552   Rgb foreground;
 553   double fg_extra;
 554   if (light_count) {
 555     foreground= 0xffffffU;
 556     fg_extra= +1;
 557   } else {
 558     foreground= 0;
 559     fg_extra= -1;
 560   }
 561   int monochrome= 1;
 562
 563   FOR_P_RECT(p,*cell) {
 564     double alpha= find_aa_density(ri,p,background,foreground,fg_extra);
 565
 566     int here_int= floor((AAMAXVAL+1)*alpha);
 567     assert(here_int <= AAMAXVAL);
 568     if (!(here_int==0 || here_int==AAMAXVAL)) monochrome=0;
 569     cim->d[p.y * cim->w + p.x]= '0' + here_int;
 570   }
 571
 572   debug_rect("cell0M", colno, *cell);
 573
 574   require_rectangle_r(*cell, "0123456789", __LINE__);
 575 }
 576
 577 static void ocr_rectangle(Rect r, const OcrCellType ct, FILE *tsv_output) {
 578   OcrResultGlyph *results, *res;
 579
 580   int w= r.br.x - r.tl.x + 1;
 581   Pixcol cols[w+1];
 582   int x,y;
 583   for (x=0; x<w; x++) {
 584     FILLZERO(cols[x]);
 585     for (y=0; y<text_h; y++) {
 586       Point here= { x+r.tl.x, y+r.tl.y };
 587       int pixel= get_p(here);
 588       if (pixel==' ') pixel= '0';
 589       MUST( pixel >= '0' && pixel <= '0'+AAMAXVAL,
 590             MC(pixel);MP(here);MSB(ocr_celltype_name(ct));MR(r); );
 591       pixcol_p_add(&cols[x], y, pixel-'0');
 592     }
 593   }
 594   FILLZERO(cols[w]);
 595
 596   results= ocr(rd,ct,w,cols);
 597   for (res=results; res->s; res++)
 598     fputs(res->s,tsv_output);
 599 }
 600
 601 void analyse(FILE *tsv_output) {
 602   Rect thisr, entryr;
 603   int page, tryrect, colno;
 604
 605   for (page=0; page<npages; page++) {
 606     find_structure(page_images[page], 0);
 607
 608     if (!page)
 609       check_correct_commodities();
 610
 611     if (!rd)
 612       rd= ocr_init(text_h);
 613
 614     progress("Scanning page %d...",page);
 615
 616     for (tryrect= +cim->h; tryrect >= -cim->h; tryrect--) {
 617       find_commodity(tryrect, &thisr);
 618       if (thisr.tl.x < 0)
 619         continue;
 620       debug_rect("commod",tryrect, thisr);
 621
 622       const char *tab= "";
 623       for (colno=0; colno<columns; colno++) {
 624         find_table_entry(thisr,colno,&entryr);
 625         fputs(tab, tsv_output);
 626         ocr_rectangle(entryr,
 627                       colno<TEXT_COLUMNS
 628                       ? &ocr_celltype_text
 629                       : &ocr_celltype_number,
 630                       tsv_output);
 631         tab= "\t";
 632       }
 633       fputs("\n", tsv_output);
 634       sysassert(!ferror(tsv_output));
 635       sysassert(!fflush(tsv_output));
 636     }
 637   }
 638   progress("Commodity table scan complete.");
 639 }
 640
 641 //static Rect islandnamer;
 642
 643 DEBUG_DEFINE_SOME_DEBUGF(structcolon,colondebugf)
 644
 645 Rect find_sunshine_widget(void) {
 646   Rect sunshiner;
 647
 648   sunshiner.tl.x= cim->w - 1034 +  885;
 649   sunshiner.br.x= cim->w - 1034 + 1020;
 650   sunshiner.tl.y= 227;
 651   sunshiner.br.y= 228;
 652
 653   ADJUST_BOX(sunshiner,"o*",>=,30, 100,MUST, tl,y,-1);
 654   ADJUST_BOX(sunshiner,"o*",>=,30, 100,MUST, br,y,+1);
 655   debug_rect("sunshiner",0, sunshiner);
 656
 657   MUST(sunshiner.br.y - sunshiner.tl.y > 20, MR(sunshiner));
 658   sunshiner.br.y--;
 659
 660   ADJUST_BOX(sunshiner,"o",>=,20, (cim->w - 1034 + 700), MUST, tl,x,-1);
 661   ADJUST_BOX(sunshiner,"o",>=,20,  cim->w,               MUST, br,x,+1);
 662   debug_rect("sunshiner",1, sunshiner);
 663   return sunshiner;
 664 }
 665
 666 void find_islandname(RgbImage *ri) {
 667   find_structure(page_images[0], 0);
 668
 669   Rect sunshiner= find_sunshine_widget();
 670   char sunshine[MAXIMGIDENT], archisland[MAXIMGIDENT];
 671
 672   const unsigned char *srcp;
 673   unsigned char *destp, *endp;
 674   for (srcp=page_images[0]->rgb->data, destp=ri->data,
 675          endp= ri->data + 3 * ri->w * ri->h;
 676        destp < endp;
 677        srcp++, destp++) {
 678     unsigned char c= *srcp & 0xf0;
 679     *destp= c | (c>>4);
 680   }
 681
 682   identify_rgbimage(ri, sunshiner, sunshine, "sunshine widget");
 683
 684   if (!memcmp(sunshine,"Vessel ",5)) {
 685     Rect islandnamer;
 686
 687     islandnamer.tl.x= cim->w - 1034 +  885;
 688     islandnamer.br.x= cim->w - 1034 + 1020;
 689     islandnamer.tl.y=                 128;
 690     islandnamer.br.y=                 156;
 691
 692     ADJUST_BOX(islandnamer,"o",>=,5, 0,      MUST, tl,y,+1);
 693     ADJUST_BOX(islandnamer,"o",>=,5, cim->h, MUST, br,y,-1);
 694
 695     ADJUST_BOX(islandnamer,"o",>=,1, 0,      MUST, tl,x,+1);
 696     ADJUST_BOX(islandnamer,"o",>=,1, cim->w, MUST, br,x,-1);
 697
 698     debug_rect("islandnamer",0, islandnamer);
 699 //    int larger_islandnamebry= islandnamer.tl.y + 25;
 700 //    MUST(islandnamer.br.y < larger_islandnamebry,
 701 //       MR(islandnamer);MI(larger_islandnamebry));
 702 //    islandnamer.br.y = larger_islandnamebry;
 703     debug_rect("islandnamer",1, islandnamer);
 704
 705     int x,y,i;
 706     for (x=islandnamer.tl.x; x<=islandnamer.br.x; x++)
 707       for (y=islandnamer.tl.y; y<=islandnamer.br.y; y++) {
 708         if (RI_PIXEL(ri,x,y)[0] < 0x40) {
 709           for (i=0; i<3; i++) {
 710             RI_PIXEL(ri,x,y)[i]= 0;
 711           }
 712         }
 713       }
 714
 715     identify_rgbimage(ri, islandnamer, archisland, "island");
 716   } else if (!strcmp(sunshine,"Land - Ahoy!")) {
 717     Rect islandnamer;
 718
 719     islandnamer.tl.x= (sunshiner.tl.x + sunshiner.br.x) / 2;
 720     islandnamer.tl.y= sunshiner.tl.y + 100;
 721     islandnamer.br= islandnamer.tl;
 722     debug_rect("islandnamer",__LINE__, islandnamer);
 723
 724     WALK_UNTIL_MUST(islandnamer.tl,y, -1, sunshiner.br.y, 'H');
 725     WALK_UNTIL_MUST(islandnamer.tl,x, -1, 0,              'o');
 726     WALK_UNTIL_MUST(islandnamer.br,x, +1, cim->w,         'o');
 727     debug_rect("islandnamer",__LINE__, islandnamer);
 728
 729 #define RW (RECT_W(islandnamer))
 730 #define RH (RECT_H(islandnamer))
 731
 732     ADJUST_BOX(islandnamer,"O",>=,RW-4, cim->h, MUST,br,y,+1);
 733     debug_rect("islandnamer",__LINE__, islandnamer);
 734
 735     islandnamer.br.y += 2;
 736
 737     ADJUST_BOX(islandnamer,"*",<,RW, cim->h, MUST,br,y,+1);
 738     debug_rect("islandnamer",__LINE__, islandnamer);
 739
 740     islandnamer.tl.y= islandnamer.br.y-1;
 741     islandnamer.br.y= islandnamer.br.y+1;
 742     debug_rect("islandnamer",__LINE__, islandnamer);
 743
 744     ADJUST_BOX(islandnamer,"*",>=,RW, cim->h, MUST,br,y,+1);
 745     debug_rect("islandnamer",__LINE__, islandnamer);
 746
 747     ADJUST_BOX(islandnamer,"*",<, RH, cim->w, MUST,tl,x,+1);
 748     debug_rect("islandnamer",__LINE__, islandnamer);
 749
 750     MUST( RECT_H(islandnamer) <= 30, MR(islandnamer));
 751
 752     Point p;
 753     int nspaces=1, might_be_colon=0;
 754     uint32_t colon_pattern= 0;
 755     p.y=-1;
 756
 757     for (p.x=islandnamer.br.x; p.x>islandnamer.tl.x; p.x--) {
 758       colondebugf("structcolon: x=%4d nsp=%2d mbc=%d cp=%08"PRIx32" ",
 759                   p.x, nspaces, might_be_colon, colon_pattern);
 760
 761       uint32_t pattern=0;
 762       int runs[32], nruns=0;
 763       runs[0]=0; runs[1]=0;
 764
 765       for (p.y=islandnamer.tl.y; p.y<=islandnamer.br.y; p.y++) {
 766         pattern <<= 1;
 767         double alpha= find_aa_density(ri,p, 0xCCCCAA,0x002255,0);
 768         if (alpha >= 0.49) {
 769            runs[nruns]++;
 770            pattern |= 1u;
 771         } else {
 772           if (runs[nruns]) {
 773             nruns++;
 774             runs[nruns]=0;
 775           }
 776         }
 777       }
 778
 779       colondebugf(" pat=%08"PRIx32" nruns=%d runs[]={%d,%d..} ",
 780                   pattern, nruns, runs[0],runs[1]);
 781
 782       if (!pattern) {
 783         if (might_be_colon)
 784           /* omg it _is_ a colon */
 785           goto colon_found;
 786         nspaces++;
 787         might_be_colon=0;
 788       } else {
 789         if (!(pattern & 1UL<<31) && nruns==2 && runs[1]==runs[0]) {
 790           if (!nspaces) {
 791             if (pattern==colon_pattern)
 792               goto ok_might_be_colon;
 793           } else if (nspaces>=2) {
 794             colon_pattern= pattern;
 795             might_be_colon=1;
 796             goto ok_might_be_colon;
 797           }
 798         }
 799         might_be_colon=0;
 800       ok_might_be_colon:
 801         nspaces= 0;
 802       }
 803       colondebugf(" nsp=%2d mbc=%d\n", nspaces, might_be_colon);
 804     }
 805     MUST(!"colon found", MP(p);MR(islandnamer) );
 806
 807   colon_found:
 808     colondebugf(" found\n");
 809     islandnamer.br.x= p.x;
 810
 811     identify_rgbimage(ri, islandnamer, archisland, "island");
 812   } else {
 813
 814     MUST(!"sunshine shows ship or ahoy", MS(sunshine) );
 815
 816   }
 817
 818   char *delim= strstr(archisland," - ");
 819   assert(delim);
 820   archipelago= masprintf("%.*s", (int)(delim-archisland), archisland);
 821   island= masprintf("%s", delim+3);
 822
 823 }