chiark / gitweb /
dvd-sector-copy.c: Rewrite the bad-sector recovery machinery.
[dvdrip] / dvd-sector-copy.c
1 #define _GNU_SOURCE
2 #define _FILE_OFFSET_BITS 64
3
4 #include <assert.h>
5 #include <ctype.h>
6 #include <errno.h>
7 #include <inttypes.h>
8 #include <math.h>
9 #include <stdarg.h>
10 #include <stdint.h>
11 #include <stdio.h>
12 #include <stdlib.h>
13 #include <string.h>
14 #include <time.h>
15
16 #include <unistd.h>
17 #include <fcntl.h>
18 #include <sys/ioctl.h>
19 #include <sys/stat.h>
20 #include <sys/time.h>
21
22 #include <getopt.h>
23
24 #include <linux/fs.h>
25
26 #include <dvdread/dvd_reader.h>
27 #include <dvdread/dvd_udf.h>
28 #include <dvdread/ifo_read.h>
29 #include <dvdread/ifo_types.h>
30
31 #define CTYPE_HACK(fn, ch) fn((unsigned char)(ch))
32 #define ISDIGIT(ch) CTYPE_HACK(isdigit, ch)
33 #define ISSPACE(ch) CTYPE_HACK(isspace, ch)
34
35 #ifdef DEBUG
36 #  define D(x) x
37 #else
38 #  define D(x)
39 #endif
40
41 #define N(v) (sizeof(v)/sizeof((v)[0]))
42
43 #define SECTORSZ 2048
44 #define SECTORS(n) (((n) + (SECTORSZ - 1))/SECTORSZ)
45
46 static const char *prog = "<unset>";
47 static int status = 0;
48
49 static void usage(FILE *fp)
50 {
51   fprintf(fp,
52           "usage: %s [-c] [-R MAP] [-b OUTMAP] [-r [START]-[END]]\n"
53           "\tDEVICE OUTFILE\n",
54           prog);
55 }
56
57 static void vmoan(const char *fmt, va_list ap)
58   { fprintf(stderr, "%s: ", prog); vfprintf(stderr, fmt, ap); }
59
60 __attribute__((format(printf, 1, 2)))
61 static void moan(const char *fmt, ...)
62 {
63   va_list ap;
64
65   va_start(ap, fmt); vmoan(fmt, ap); va_end(ap);
66   fputc('\n', stderr);
67 }
68
69 __attribute__((noreturn, format(printf, 1, 2)))
70 static void bail(const char *fmt, ...)
71 {
72   va_list ap;
73
74   va_start(ap, fmt); vmoan(fmt, ap); va_end(ap);
75   fputc('\n', stderr);
76   exit(2);
77 }
78
79 __attribute__((noreturn, format(printf, 2, 3)))
80 static void bail_syserr(int err, const char *fmt, ...)
81 {
82   va_list ap;
83
84   va_start(ap, fmt); vmoan(fmt, ap); va_end(ap);
85   if (err) fprintf(stderr, ": %s", strerror(errno));
86   fputc('\n', stderr);
87   exit(2);
88 }
89
90 static void carefully_write(int fd, const void *buf, size_t sz)
91 {
92   const unsigned char *p = buf;
93   ssize_t n;
94
95   if (fd < 0) return;
96   while (sz) {
97     n = write(fd, p, sz);
98     if (n < 0) {
99       if (errno == EINTR) continue;
100       bail_syserr(errno, "failed to write to output file");
101     }
102     if (!n) bail("unexpected short write to output file");
103     p += n; sz -= n;
104   }
105 }
106
107 #define DEFVEC(vtype, etype)                                            \
108         typedef struct { etype *v; size_t n, sz; } vtype
109 #define VEC_INIT { 0, 0, 0 }
110 #define VEC_FREE(vv) do {                                               \
111   free((vv)->v); (vv)->v 0; (vv)->n = (vv)->sz = 0;                     \
112 } while (0)
113 #define VEC_PUSH(p, vv) do {                                            \
114   size_t _want;                                                         \
115   if ((vv)->n >= (vv)->sz) {                                            \
116     (vv)->sz = (vv)->sz ? 2*(vv)->sz : 32;                              \
117     _want = (vv)->sz*sizeof(*(vv)->v);                                  \
118     (vv)->v = realloc((vv)->v, _want);                                  \
119     if (!(vv)->v) bail("out of memory allocating %zu bytes", _want);    \
120   }                                                                     \
121   (p) = &(vv)->v[(vv)->n++];                                            \
122 } while (0)
123
124 enum { RAW, IFO, VOB, BUP };
125 typedef uint_least32_t ident;
126
127 static inline ident mkident(unsigned kind, unsigned title, unsigned part)
128   { return (((ident)kind << 0) | ((ident)title << 8) | ((ident)part << 16)); }
129 static inline unsigned id_kind(ident id) { return ((id >> 0)&0x0ff); }
130 static inline unsigned id_title(ident id) { return ((id >> 8)&0x0ff); }
131 static inline unsigned id_part(ident id) { return ((id >> 16)&0x0ff); }
132
133 #define MAXFNSZ (1 + 8 + 1 + 12 + 1)
134
135 static void store_filename(char *buf, ident id)
136 {
137   switch (id_kind(id)) {
138     case RAW:
139       sprintf(buf, "#<raw device>");
140       break;
141     case IFO:
142       if (!id_title(id)) sprintf(buf, "/VIDEO_TS/VIDEO_TS.IFO");
143       else sprintf(buf, "/VIDEO_TS/VTS_%02u_0.IFO", id_title(id));
144       break;
145     case BUP:
146       if (!id_title(id)) sprintf(buf, "/VIDEO_TS/VIDEO_TS.BUP");
147       else sprintf(buf, "/VIDEO_TS/VTS_%02u_0.BUP", id_title(id));
148       break;
149     case VOB:
150       if (!id_title(id)) sprintf(buf, "/VIDEO_TS/VIDEO_TS.VOB");
151       else
152         sprintf(buf, "/VIDEO_TS/VTS_%02u_%u.VOB", id_title(id), id_part(id));
153       break;
154     default:
155       abort();
156   }
157 }
158
159 typedef uint_least32_t secaddr;
160 #define PRIuSEC PRIuLEAST32
161 #define SECLIMIT 0x00400000
162
163 #define MAXFILES (1 + 2*99 + 1)
164 struct file {
165   ident id;
166   secaddr start, end;
167 };
168 DEFVEC(file_v, struct file);
169 static file_v filetab = VEC_INIT;
170
171 enum { EV_STOP, EV_BEGIN, EV_END, EV_WRITE };
172 struct event {
173   unsigned char ev, file;
174   secaddr pos;
175 };
176 DEFVEC(event_v, struct event);
177 static event_v eventq = VEC_INIT;
178
179 static int compare_event(const void *a, const void *b)
180 {
181   const struct event *eva = a, *evb = b;
182
183   if (eva->pos < evb->pos) return (-1);
184   else if (eva->pos > evb->pos) return (+1);
185
186   if (eva->ev < evb->ev) return (-1);
187   else if (eva->ev > evb->ev) return (+1);
188
189   if (eva->file < evb->file) return (-1);
190   else if (eva->file > evb->file) return (+1);
191
192   return (0);
193 }
194
195 typedef uint_least32_t bits;
196 static bits live[(MAXFILES + 31)/32];
197
198 static inline int livep(unsigned i)
199   { return (live[i/32]&((bits)1 << (i%32))); }
200 static inline void set_live(unsigned i)
201   { live[i/32] |= (bits)1 << (i%32); }
202 static inline void clear_live(unsigned i)
203   { live[i/32] &= ~((bits)1 << (i%32)); }
204 static inline int least_live(void)
205 {
206   unsigned i, n = (filetab.n + 32)/32;
207   bits b;
208
209   for (i = 0; i < n; i++) { b = live[i]; if (b) goto found; }
210   return (-1);
211 found:
212   i *= 32;
213   if (!(b&0x0000ffff)) { b >>= 16; i += 16; }
214   if (!(b&0x000000ff)) { b >>=  8; i +=  8; }
215   if (!(b&0x0000000f)) { b >>=  4; i +=  4; }
216   if (!(b&0x00000003)) { b >>=  2; i +=  2; }
217   if (!(b&0x00000001)) { b >>=  1; i +=  1; }
218   assert(b&1);
219   return (i);
220 }
221
222 static void put_event(unsigned evtype, unsigned file, secaddr pos)
223 {
224   struct event *ev;
225
226   VEC_PUSH(ev, &eventq);
227   ev->ev = evtype; ev->file = file; ev->pos = pos;
228 }
229
230 static void put_file(ident id, secaddr start, secaddr end)
231 {
232   struct file *f;
233   size_t i;
234
235   VEC_PUSH(f, &filetab); i = f - filetab.v;
236   f->id = id; f->start = start; f->end = end;
237   put_event(EV_BEGIN, i, start);
238   put_event(EV_END, i, end);
239 }
240
241 static void put_menu(dvd_reader_t *dvd, unsigned title)
242 {
243   ident id = mkident(VOB, title, 0);
244   char fn[MAXFNSZ];
245   secaddr start, len;
246
247   store_filename(fn, id);
248   start = UDFFindFile(dvd, fn, &len); if (!start) return;
249 #ifdef DEBUG
250       printf(";; %8"PRIuSEC" .. %-8"PRIuSEC": %s\n",
251              start, start + SECTORS(len), fn);
252 #endif
253   put_file(id, start, start + SECTORS(len));
254 }
255
256 static void put_title(dvd_reader_t *dvd, unsigned title)
257 {
258   char fn[MAXFNSZ];
259   secaddr start[9], len[9];
260   unsigned i, npart;
261
262   for (i = 0; i < 9; i++) {
263     store_filename(fn, mkident(VOB, title, i + 1));
264     start[i] = UDFFindFile(dvd, fn, &len[i]); if (!start[i]) break;
265   }
266   npart = i; if (!npart) return;
267
268 #ifdef DEBUG
269   for (i = 0; i < npart; i++) {
270     store_filename(fn, mkident(VOB, title, i + 1));
271     printf(";; %8"PRIuSEC" .. %-8"PRIuSEC": %s\n",
272            start[i], start[i] + SECTORS(len[i]), fn);
273   }
274 #endif
275
276   if (npart > 1)
277     for (i = 0; i < npart - 1; i++) {
278       if (len[i]%SECTORSZ)
279         bail("title %u part %u length = %"PRIuSEC" not a multiple of %d",
280              title, i, len[i], SECTORSZ);
281       if (start[i] + len[i]/SECTORSZ != start[i + 1])
282         bail
283           ("title %u part %u end = %"PRIuSEC" /= part %u start = %"PRIuSEC"",
284            title, i, start[i] + len[i]/SECTORSZ, i + 1, start[i + 1]);
285     }
286
287   put_file(mkident(VOB, title, 1),
288            start[0], start[npart - 1] + SECTORS(len[npart - 1]));
289 }
290
291 static int progresslen = 0;
292
293 static void clear_progress_internal(void)
294 {
295   while (progresslen) { fputs("\b \b", stdout); progresslen--; }
296   putchar('\r');
297 }
298 static void clear_progress(void)
299   { clear_progress_internal(); fflush(stdout); }
300 static void vappend_progress(const char *fmt, va_list ap)
301   { progresslen += vprintf(fmt, ap); }
302 __attribute__((format(printf, 1, 2)))
303 static void append_progress(const char *fmt, ...)
304 {
305   va_list ap;
306
307   va_start(ap, fmt);
308   vappend_progress(fmt, ap);
309   va_end(ap);
310 }
311 __attribute__((format(printf, 1, 2)))
312 static void print_progress(const char *fmt, ...)
313 {
314   va_list ap;
315
316   va_start(ap, fmt);
317   clear_progress_internal();
318   vappend_progress(fmt, ap);
319   va_end(ap);
320 }
321
322 unsigned flags;
323 #  define F_ALLPROGRESS 1u
324 static secaddr last_pos, limit, nsectors, ndone;
325 static struct timeval last_time;
326 static double wsum, wcount;
327 static struct file *file;
328
329 static void report_progress(secaddr pos)
330 {
331   char etastr[32];
332   struct timeval now;
333   int eta;
334   double percent, t, f, g, rate;
335   char *unit;
336
337 #define ALPHA 0.02
338 #define BETA (1 - ALPHA)
339
340   gettimeofday(&now, 0);
341   t = (now.tv_sec - last_time.tv_sec) +
342     (now.tv_usec - last_time.tv_usec)/1000000.0;
343
344   if (t) {
345     g = wcount ? pow(BETA, t) : 0.0; f = (1 - g)/(1 - BETA);
346     wsum = f*(pos - last_pos)/t + g*wsum;
347     wcount = f + g*wcount;
348     ndone += pos - last_pos;
349     last_time = now; last_pos = pos;
350   }
351
352   if (!wsum || !wcount)
353     { rate = 0; strcpy(etastr, "???"); }
354   else {
355     rate = wsum/wcount;
356     eta = (int)((nsectors - ndone)/rate);
357     sprintf(etastr, "%d:%02d:%02d", eta/3600, (eta/60)%60, eta%60);
358   }
359
360   rate *= SECTORSZ; unit = "";
361   if (rate > 128) { rate /= 1024; unit = "k"; }
362   if (rate > 128) { rate /= 1024; unit = "M"; }
363   if (rate > 128) { rate /= 1024; unit = "G"; }
364
365   if (flags&F_ALLPROGRESS) percent = pos*100.0/limit;
366   else percent = ndone*100.0/nsectors;
367   print_progress
368     ("copied %.1f%% (%"PRIuSEC" of %"PRIuSEC"; %.1f %sB/s, ETA %s)",
369      percent, pos, limit,  rate, unit, etastr);
370   if (file && id_kind(file->id) == VOB) {
371     append_progress(" -- %s %d %3.1f%%",
372                     id_part(file->id) ? "title" : "menu",
373                     id_title(file->id),
374                     (pos - file->start)*100.0/
375                       (file->end - file->start));
376   }
377
378 #undef ALPHA
379 #undef BETA
380 }
381
382 static dvd_reader_t *dvd;
383 static int dvdfd = -1, outfd = -1;
384 static dvd_file_t *vob;
385 static const char *mapfile; static FILE *mapfp;
386
387 struct badblock { secaddr start, end; };
388 DEFVEC(badblock_v, struct badblock);
389 static badblock_v badblocks = VEC_INIT;
390
391 static int compare_badblock(const void *a, const void *b)
392 {
393   const struct badblock *ba = a, *bb = b;
394
395   if (ba->start < bb->start) return (-1);
396   else if (ba->start > bb->start) return (+1);
397
398   if (ba->end < bb->end) return (-1);
399   else if (ba->end > bb->end) return (+1);
400
401   return (0);
402 }
403
404 static ssize_t read_sectors(secaddr pos, void *buf, secaddr want)
405 {
406   ssize_t n, done;
407   size_t lo, mid, hi;
408   int fakeerr = 0;
409   struct badblock *bad, *best;
410   unsigned char *p = buf;
411
412   best = 0; lo = 0; hi = badblocks.n;
413 #ifdef DEBUG
414   clear_progress();
415   printf(";; searching badblocks for %"PRIuSEC" .. %"PRIuSEC"\n",
416          pos, pos + want);
417 #endif
418   while (lo < hi) {
419     mid = lo + (hi - lo)/2; bad = &badblocks.v[mid];
420 #ifdef DEBUG
421     printf(";;   try %zu (%"PRIuSEC" .. %"PRIuSEC")... ",
422            mid, bad->start, bad->end);
423 #endif
424     if (pos < bad->start) { D( printf("high\n"); ) best = bad; hi = mid; }
425     else if (pos >= bad->end) { D( printf("low\n"); ) lo = mid + 1; }
426     else { D( printf("match!\n"); ) errno = EIO; return (-1); }
427   }
428 #ifdef DEBUG
429   if (best)
430     printf(";;   next is %"PRIuSEC" .. %"PRIuSEC"\n",
431            best->start, best->end);
432 #endif
433   if (best && pos + want > best->start)
434     { want = best->start - pos; fakeerr = EIO; }
435
436   done = 0;
437   while (want) {
438     if (vob)
439       { errno = 0; n = DVDReadBlocks(vob, pos - file->start, want, p); }
440     else if (file) {
441       if (lseek(dvdfd, (off_t)pos*SECTORSZ, SEEK_SET) < 0)
442         bail_syserr(errno, "failed to seek to sector %"PRIuSEC"", pos);
443       errno = 0; n = read(dvdfd, p, want*SECTORSZ);
444       if (n >= 0) n /= SECTORSZ;
445     } else {
446       memset(p, 0, want*SECTORSZ);
447       n = want;
448     }
449
450     if (n > 0) { done += n; pos += n; p += n*SECTORSZ; want -= n; }
451     else if (!n || errno != EINTR) break;
452   }
453   if (fakeerr && !errno) errno = fakeerr;
454   return (!done && errno ? -1 : done);
455 }
456
457 static void report_bad_blocks_progress(secaddr lo, secaddr hi, int err)
458 {
459   report_progress(hi);
460
461   if (lo == hi) append_progress(": retrying bad sector");
462   else
463     append_progress(": %"PRIuSEC" bad %s",
464                     hi - lo, hi == lo + 1 ? "sector" : "sectors");
465   if (err && err != EIO) append_progress(" (%s)", strerror(err));
466   fflush(stdout);
467 }
468
469 static void recovered(secaddr bad_lo, secaddr bad_hi)
470 {
471   clear_progress();
472   moan("skipping %"PRIuSEC" bad sectors (%"PRIuSEC" .. %"PRIuSEC")",
473        bad_hi - bad_lo, bad_lo, bad_hi);
474   if (mapfile) {
475     if (!mapfp) {
476       mapfp = fopen(mapfile, "w");
477       if (!mapfp)
478         bail_syserr(errno, "failed to open bad-sector map file `%s'",
479                     optarg);
480       fprintf(mapfp, "## bad sector map\n\n");
481     }
482     fprintf(mapfp, "%"PRIuSEC" %"PRIuSEC"\n", bad_lo, bad_hi);
483     fflush(mapfp);
484     if (ferror(mapfp))
485       bail_syserr(errno, "error writing bad-sector map file");
486   }
487   if (lseek(outfd, (off_t)(bad_hi - bad_lo)*SECTORSZ, SEEK_CUR) < 0)
488     bail_syserr(errno, "failed to seek past bad sectors");
489   status = 1;
490 }
491
492 struct recoverybuf {
493   unsigned char *buf;
494   secaddr sz, pos, start, end;
495 };
496
497 static void rearrange_sectors(struct recoverybuf *r,
498                               secaddr dest, secaddr src, secaddr len)
499 {
500   assert(dest + len <= r->sz);
501   assert(src + len <= r->sz);
502   memmove(r->buf + dest*SECTORSZ, r->buf + src*SECTORSZ, len*SECTORSZ);
503 }
504
505 #ifdef DEBUG
506 __attribute__((format(printf, 2, 3)))
507 static void show_recovery_buffer_map(const struct recoverybuf *r,
508                                      const char *what, ...)
509 {
510   va_list ap;
511
512   va_start(ap, what);
513   clear_progress();
514   printf(";; recovery buffer (");
515   vprintf(what, ap);
516   printf("): "
517          "(%"PRIuSEC") ..%"PRIuSEC".. "
518          "[%"PRIuSEC" ..%"PRIuSEC".. %"PRIuSEC"] "
519          "..%"PRIuSEC".. (%"PRIuSEC")\n",
520          r->pos, r->start,
521          r->pos + r->start, r->end - r->start, r->pos + r->end,
522          r->sz - r->end, r->pos + r->sz);
523   va_end(ap);
524   assert(r->start <= r->end);
525   assert(r->end <= r->sz);
526 }
527 #endif
528
529 static ssize_t recovery_read_sectors(struct recoverybuf *r,
530                                      secaddr pos, secaddr off, secaddr want)
531 {
532   ssize_t n;
533
534   assert(off + want <= r->sz);
535   n = read_sectors(pos, r->buf + off*SECTORSZ, want);
536   return (n);
537 }
538
539 static ssize_t recovery_read(struct recoverybuf *r,
540                              secaddr pos, secaddr want)
541 {
542   secaddr diff, pp, nn;
543   ssize_t n;
544
545 #ifdef DEBUG
546   clear_progress();
547   show_recovery_buffer_map(r, "begin(%"PRIuSEC", %"PRIuSEC")", pos, want);
548 #endif
549
550   if (pos < r->pos) {
551     diff = r->pos - pos;
552     if (r->start + diff >= r->sz) {
553       r->pos = pos; r->start = r->end = 0;
554 #ifdef DEBUG
555       show_recovery_buffer_map(r, "cleared; shift up by %"PRIuSEC"", diff);
556 #endif
557     } else {
558       if (r->end + diff > r->sz) r->end = r->sz - diff;
559       rearrange_sectors(r, r->start + diff, r->start, r->end - r->start);
560       r->start += diff; r->end += diff;
561 #ifdef DEBUG
562       show_recovery_buffer_map(r, "shifted up by %"PRIuSEC"", diff);
563 #endif
564     }
565   } else if (pos > r->pos + r->end) {
566       r->pos = pos; r->start = r->end = 0;
567 #ifdef DEBUG
568       show_recovery_buffer_map(r, "cleared; beyond previous region");
569 #endif
570   } else if (pos + want > r->pos + r->sz) {
571     diff = (pos + want) - (r->pos + r->sz);
572     if (r->end <= diff) {
573       r->pos = pos; r->start = r->end = 0;
574 #ifdef DEBUG
575       show_recovery_buffer_map(r, "cleared; shift down by %"PRIuSEC"", diff);
576 #endif
577     } else {
578       if (r->start < diff) r->start = diff;
579       rearrange_sectors(r, r->start - diff, r->start, r->end - r->start);
580       r->start -= diff; r->end -= diff;
581 #ifdef DEBUG
582       show_recovery_buffer_map(r, "shifted down by %"PRIuSEC"", diff);
583 #endif
584     }
585   }
586
587   if (pos < r->pos + r->start) {
588     pp = pos - r->pos; nn = r->start - pp;
589 #ifdef DEBUG
590     printf(";; read low (%"PRIuSEC"@%"PRIuSEC", %"PRIuSEC")", pos, pp, nn);
591     fflush(stdout);
592 #endif
593     n = recovery_read_sectors(r, pos, pp, nn);
594 #ifdef DEBUG
595     printf(" -> %ld\n", n);
596 #endif
597     if (n != nn) {
598       if (n > want) n = want;
599       goto end;
600     }
601     r->start = pp;
602 #ifdef DEBUG
603     show_recovery_buffer_map(r, "joined new region");
604 #endif
605   }
606
607   if (pos + want > r->pos + r->end) {
608     pp = r->end; nn = (pos + want) - (r->pos + r->end);
609 #ifdef DEBUG
610     printf(";; read high (%"PRIuSEC"@%"PRIuSEC", %"PRIuSEC")",
611            r->pos + pp, pp, nn);
612 fflush(stdout);
613 #endif
614     n = recovery_read_sectors(r, pos, pp, nn);
615 #ifdef DEBUG
616     printf(" -> %ld\n", n);
617 #endif
618     if (n > 0) {
619       r->end += n;
620 #ifdef DEBUG
621       show_recovery_buffer_map(r, "joined new region");
622 #endif
623     }
624   }
625
626   n = r->pos + r->end - pos;
627   if (!n && want) n = -1;
628
629 end:
630 #ifdef DEBUG
631   show_recovery_buffer_map(r, "done; return %ld", n);
632 #endif
633   return (n);
634 }
635
636 static secaddr run_length_wanted(secaddr pos, secaddr badlen,
637                                  secaddr sz, secaddr end)
638 {
639   secaddr want;
640
641   want = 3*badlen/2;
642   if (!want) want = 1;
643   if (want > end - pos) want = end - pos;
644   if (want > sz) want = sz;
645   return (want);
646 }
647
648 static ssize_t find_good_sector(secaddr *pos_inout, secaddr end,
649                                 unsigned char *buf, secaddr sz)
650 {
651   int i;
652   secaddr pos = *pos_inout, bad_lo, bad_hi, good, step, want;
653   struct recoverybuf r;
654   ssize_t n;
655
656   r.buf = buf; r.sz = sz; r.pos = r.start = r.end = 0;
657   report_bad_blocks_progress(pos, pos, errno);
658
659   want = sz; if (want > end - pos) want = end - pos;
660   for (i = 0; i < 4; i++) {
661     n = recovery_read(&r, pos, want);
662 #ifdef DEBUG
663     clear_progress();
664     printf(";; [retry] try reading %"PRIuSEC" .. %"PRIuSEC" -> %ld\n",
665            pos, pos + want, n);
666 #endif
667     if (n > 0) {
668       clear_progress();
669       moan("sector %"PRIuSEC" read ok after retry", pos);
670       return (n);
671     }
672   }
673
674   bad_lo = pos; bad_hi = pos + 1;
675   for (;;) {
676     report_bad_blocks_progress(bad_lo, bad_hi, errno);
677     if (bad_hi >= end) {
678       clear_progress();
679       moan("giving up on this extent");
680       recovered(bad_lo, end); *pos_inout = end; return (0);
681     }
682     step = 2*(bad_hi - bad_lo); if (step > end - bad_lo) step = end - bad_lo;
683     pos = bad_lo + step - 1;
684     want = run_length_wanted(pos, step, sz, end);
685     n = recovery_read(&r, pos, want);
686 #ifdef DEBUG
687     clear_progress();
688     printf(";; [bound] try reading %"PRIuSEC" .. %"PRIuSEC" -> %ld\n",
689            pos, pos + want, n);
690 #endif
691     if (n == want) break;
692     if (n < 0) n = 0;
693     bad_hi = pos + n + 1;
694   }
695
696   good = pos;
697   while (good > bad_hi) {
698     report_bad_blocks_progress(bad_lo, bad_hi, errno);
699     pos = bad_hi + (good - bad_hi)/2;
700     step = pos - bad_lo;
701     want = run_length_wanted(pos, step, sz, end);
702     n = recovery_read(&r, pos, want);
703 #ifdef DEBUG
704     clear_progress();
705     printf(";; [limit] try reading %"PRIuSEC" .. %"PRIuSEC" -> %ld\n",
706            pos, pos + want, n);
707 #endif
708     if (n < 0) n = 0;
709     if (n == want) good = pos;
710     else bad_hi = pos + n + 1;
711   }
712   recovered(bad_lo, bad_hi); *pos_inout = good;
713   if (r.pos + r.start <= good && good <= r.pos + r.end) {
714     rearrange_sectors(&r, 0, good - r.pos, r.pos + r.end - good);
715   } else
716     n = 0;
717   return (n);
718 }
719
720 static void emit(secaddr start, secaddr end)
721 {
722 #define BUFSECTORS 512
723
724   int least;
725   unsigned char buf[BUFSECTORS*SECTORSZ];
726   secaddr pos;
727   size_t want;
728   ssize_t n;
729   static int first_time = 1;
730 #ifdef DEBUG
731   struct file *f;
732   char fn[MAXFNSZ];
733   int act = -1;
734   int i;
735 #endif
736
737   least = least_live();
738
739 #ifdef DEBUG
740   printf(";; %8"PRIuSEC" .. %"PRIuSEC"\n", start, end);
741
742   for (i = 0; i < filetab.n; i++) {
743     if (!livep(i)) continue;
744     if (act == -1) act = i;
745     f = &filetab.v[i]; store_filename(fn, f->id);
746     printf(";;\t\t%8"PRIuSEC" .. %-8"PRIuSEC" %s\n",
747            start - f->start, end - f->start, fn);
748   }
749   if (act == -1) printf(";;\t\t#<no live source>\n");
750   assert(act == least);
751 #endif
752
753   if (least == -1)
754     { file = 0; vob = 0; }
755   else {
756     file = &filetab.v[least];
757     switch (id_kind(file->id)) {
758       case RAW:
759         vob = 0;
760         break;
761       case VOB:
762         if (first_time) { clear_progress(); first_time = 0; }
763         vob = DVDOpenFile(dvd, id_title(file->id),
764                           id_part(file->id)
765                             ? DVD_READ_TITLE_VOBS
766                             : DVD_READ_MENU_VOBS);
767         if (!vob)
768           bail("failed to open %s %u",
769                id_part(file->id) ? "title" : "menu",
770                id_title(file->id));
771         break;
772       default:
773         abort();
774     }
775   }
776
777   pos = start;
778   while (pos < end) {
779     want = end - pos; if (want > BUFSECTORS) want = BUFSECTORS;
780     n = read_sectors(pos, buf, want);
781
782     if (n <= 0) n = find_good_sector(&pos, end, buf, BUFSECTORS);
783     if (n > 0) { carefully_write(outfd, buf, n*SECTORSZ); pos += n; }
784     report_progress(pos); fflush(stdout);
785   }
786
787   if (vob) { DVDCloseFile(vob); vob = 0; }
788
789 #undef BUFSECTORS
790 }
791
792 #ifdef notdef
793 static void logfn(void *p, dvd_logger_level_t lev,
794                   const char *fmt, va_list ap)
795 {
796   switch (lev) {
797     case DVD_LOGGER_LEVEL_ERROR:
798       fprintf("%s (libdvdread error): ", prog);
799       break;
800     case DVD_LOGGER_LEVEL_WARN:
801       fprintf("%s (libdvdread warning): ", prog);
802       break;
803     default:
804       return;
805   }
806   vfprintf(stderr, fmt, ap);
807   fputc('\n', stderr);
808 }
809 static const dvd_logger_cb logger = { logfn };
810 #endif
811
812 struct buf {
813   char *p;
814   size_t n, sz;
815 };
816 #define BUF_INIT { 0, 0, 0 }
817 #define BUF_REWIND(b) do { (b)->n = 0; } while (0)
818 #define BUF_FREE(b) do {                                                \
819   buf *_b = (b);                                                        \
820   free(_b->p); _b->p = 0; _b->n = _b->sz = 0;                           \
821 } while (0)
822 #define BUF_PUTC(b, ch) do {                                            \
823   struct buf *_b = (b);                                                 \
824   if (_b->n >= _b->sz) {                                                \
825     _b->sz = _b->sz ? 2*_b->sz : 32;                                    \
826     _b->p = realloc(_b->p, _b->sz);                                     \
827     if (!_b->p) bail("out of memory allocating %zu bytes", _b->sz);     \
828   }                                                                     \
829   _b->p[_b->n] = (ch);                                                  \
830 } while (0)
831
832 static int read_line(FILE *fp, struct buf *b)
833 {
834   int ch;
835
836   ch = getc(fp);
837   if (ch == EOF)
838     return (-1);
839   else if (ch != '\n') do {
840     BUF_PUTC(b, ch); b->n++;
841     ch = getc(fp);
842   } while (ch != EOF && ch != '\n');
843   BUF_PUTC(b, 0);
844   return (0);
845 }
846
847 #define PRF_HYPHEN 1u
848 static int parse_range(const char *p, unsigned f,
849                        secaddr *start_out, secaddr *end_out)
850 {
851   char *q;
852   int err, rc;
853   unsigned long start, end;
854
855   err = errno;
856
857   if (ISDIGIT(*p)) {
858     start = strtoul(p, &q, 0);
859     if (errno || start >= SECLIMIT) { rc = -1; goto end; }
860     *start_out = start; p = q;
861   } else if (!(f&PRF_HYPHEN))
862     { rc = -1; goto end; }
863   else
864     start = 0;
865
866   if (f&PRF_HYPHEN) {
867     if (*p != '-')  { rc = -1; goto end; }
868     p++;
869   } else {
870     if (!ISSPACE(*p)) { rc = -1; goto end; }
871     do p++; while (ISSPACE(*p));
872   }
873
874   if (ISDIGIT(*p)) {
875     end = strtoul(p, &q, 0);
876     if (errno || end > SECLIMIT || end < start) { rc = -1; goto end; }
877     *end_out = end; p = q;
878   } else if (!(f&PRF_HYPHEN))
879     { rc = -1; goto end; }
880
881   if (!(f&PRF_HYPHEN)) while (ISSPACE(*p)) p++;
882   if (*p) { rc = -1; goto end; }
883
884   rc = 0;
885 end:
886   errno = err;
887   return (rc);
888 }
889
890 int main(int argc, char *argv[])
891 {
892   unsigned f = 0;
893   char *p;
894   uint64_t volsz;
895   secaddr pos;
896   off_t off;
897   secaddr start, end, last;
898   const struct event *ev;
899   const char *device, *outfile;
900   struct badblock *bad;
901   int opt, blksz;
902   unsigned n;
903   size_t i;
904   FILE *fp;
905   struct buf buf = BUF_INIT;
906   struct stat st;
907 #ifdef DEBUG
908   const struct file *file;
909   char fn[MAXFNSZ];
910 #endif
911
912 #define f_bogus 1u
913 #define f_continue 2u
914 #define f_fixup 4u
915 #define f_write 256u
916
917   p = strrchr(argv[0], '/'); prog = p ? p + 1 : argv[0];
918   for (;;) {
919     opt = getopt(argc, argv, "hFR:X:b:cr:"); if (opt < 0) break;
920     switch (opt) {
921       case 'h': usage(stderr); exit(0);
922       case 'F': f |= f_fixup; break;
923       case 'R':
924         fp = fopen(optarg, "r");
925         if (!fp)
926           bail_syserr(errno, "failed to open ranges file `%s'", optarg);
927         i = 0; last = -1;
928         for (;;) {
929           BUF_REWIND(&buf); if (read_line(fp, &buf)) break;
930           p = buf.p; i++;
931           while (ISSPACE(*p)) p++;
932           if (!*p || *p == '#') continue;
933           if (parse_range(p, 0, &start, &end) ||
934               (last <= SECLIMIT && start < last))
935             bail("bad range `%s' at `%s' line %zu", buf.p, optarg, i);
936           if (start < end) {
937             if (start == last)
938               eventq.v[eventq.n - 1].pos = end;
939             else {
940               put_event(EV_WRITE, 0, start);
941               put_event(EV_STOP, 0, end);
942             }
943             last = end;
944           }
945         }
946         if (ferror(fp))
947           bail_syserr(errno, "failed to read ranges file `%s'", optarg);
948         break;
949       case 'X':
950         fp = fopen(optarg, "r");
951         if (!fp)
952           bail_syserr(errno, "failed to open bad-blocks file `%s'", optarg);
953         i = 0; last = -1;
954         for (;;) {
955           BUF_REWIND(&buf); if (read_line(fp, &buf)) break;
956           p = buf.p; i++;
957           while (ISSPACE(*p)) p++;
958           if (!*p || *p == '#') continue;
959           if (parse_range(p, 0, &start, &end) ||
960               (last <= SECLIMIT && start < last))
961             bail("bad range `%s' at `%s' line %zu", buf.p, optarg, i);
962           if (start < end)
963             { VEC_PUSH(bad, &badblocks); bad->start = start; bad->end = end; }
964         }
965         if (ferror(fp))
966           bail_syserr(errno, "failed to read bad-blocks file `%s'", optarg);
967         break;
968       case 'b':
969         if (mapfile) bail("can't have multiple map files");
970         mapfile = optarg;
971         break;
972       case 'c': f |= f_continue; break;
973       case 'r':
974         start = 0; end = -1;
975         if (parse_range(optarg, PRF_HYPHEN, &start, &end))
976           bail("bad range `%s'", optarg);
977         if (start < end) {
978           put_event(EV_WRITE, 0, start);
979           if (end <= SECLIMIT) put_event(EV_STOP, 0, end);
980         }
981         break;
982       default: f |= f_bogus; break;
983     }
984   }
985   if (argc - optind != 2) f |= f_bogus;
986   if (f&f_bogus) { usage(stderr); exit(2); }
987
988   device = argv[optind]; outfile = argv[optind + 1];
989
990   if (badblocks.n) {
991     qsort(badblocks.v, badblocks.n, sizeof(struct badblock),
992           compare_badblock);
993 #ifdef DEBUG
994     printf(";; fake bad blocks:\n");
995     for (i = 0; i < badblocks.n; i++)
996       printf(";;\t%8"PRIuSEC" .. %"PRIuSEC"\n",
997              badblocks.v[i].start, badblocks.v[i].end);
998 #endif
999   }
1000
1001   dvdfd = open(device, O_RDONLY);
1002   if (dvdfd < 0)
1003     bail_syserr(errno, "failed to open device `%s'", device);
1004   if (fstat(dvdfd, &st))
1005     bail_syserr(errno, "failed to stat device `%s'", device);
1006   if (S_ISREG(st.st_mode)) {
1007     blksz = SECTORSZ;
1008     volsz = st.st_size;
1009   } else if (S_ISBLK(st.st_mode)) {
1010     if (ioctl(dvdfd, BLKSSZGET, &blksz))
1011       bail_syserr(errno, "failed to get block size for `%s'", device);
1012     if (ioctl(dvdfd, BLKGETSIZE64, &volsz))
1013       bail_syserr(errno, "failed to get volume size for `%s'", device);
1014   } else
1015     bail("can't use `%s' as source: expected file or block device", device);
1016
1017   if (blksz != SECTORSZ)
1018     bail("device `%s' block size %d /= %d", device, blksz, SECTORSZ);
1019   if (volsz%SECTORSZ)
1020     bail("device `%s' volume size %"PRIu64" not a multiple of %d",
1021          device, volsz, SECTORSZ);
1022
1023   if (outfile) {
1024     outfd = open(outfile, O_WRONLY | O_CREAT, 0666);
1025     if (outfd < 0)
1026       bail_syserr(errno, "failed to create output file `%s'", outfile);
1027   }
1028
1029   if (f&f_continue) {
1030     off = lseek(outfd, 0, SEEK_END);
1031     if (off < 0)
1032       bail_syserr(errno, "failed to seek to end of output file `%s'",
1033                   outfile);
1034     put_event(EV_WRITE, 0, off/SECTORSZ);
1035   } else if (!eventq.n && !(f&f_fixup))
1036     put_event(EV_WRITE, 0, 0);
1037
1038 #ifdef notdef
1039   dvd = DVDOpen2(0, &logger, device);
1040 #else
1041   dvd = DVDOpen(device);
1042 #endif
1043   if (!dvd) bail("failed to open DVD on `%s'", device);
1044
1045   /* It's fast enough just to check everything. */
1046   put_menu(dvd, 0);
1047   for (i = 1; i < 100; i++) {
1048     put_menu(dvd, i);
1049     put_title(dvd, i);
1050   }
1051   put_file(mkident(RAW, 0, 0), 0, volsz/SECTORSZ);
1052   assert(filetab.n <= MAXFILES);
1053
1054   for (i = 0, limit = 0; i < filetab.n; i++)
1055     if (filetab.v[i].end > limit) limit = filetab.v[i].end;
1056
1057   if (end > limit) end = limit;
1058
1059 #ifdef DEBUG
1060   printf("\n;; files:\n");
1061   for (i = 0; i < filetab.n; i++) {
1062     file = &filetab.v[i];
1063     store_filename(fn, file->id);
1064     printf(";;\t%8"PRIuSEC" %s\n", file->start, fn);
1065   }
1066 #endif
1067
1068   qsort(eventq.v, eventq.n, sizeof(struct event), compare_event);
1069
1070   f &= ~f_write; start = 0; n = 0;
1071   for (i = 0; i < eventq.n; i++) {
1072     ev = &eventq.v[i];
1073     switch (ev->ev) {
1074       case EV_WRITE:
1075         if (f&f_write)
1076           bail("overlapping ranges: range from %"PRIuSEC" still open at %"PRIuSEC"",
1077                start, ev->pos);
1078         n++; f |= f_write; start = ev->pos;
1079         break;
1080       case EV_STOP:
1081         f &= ~f_write;
1082         break;
1083     }
1084   }
1085
1086   f &= ~f_write; start = 0;
1087   for (i = 0; i < eventq.n; i++) {
1088     ev = &eventq.v[i];
1089     switch (ev->ev) {
1090       case EV_WRITE: start = ev->pos; f |= f_write; break;
1091       case EV_STOP: nsectors += ev->pos - start; f &= ~f_write; break;
1092     }
1093     if (ev->pos >= limit) break;
1094     if (f&f_fixup) start = ev->pos;
1095   }
1096   eventq.n = i;
1097   if (f&f_fixup) {
1098     put_event(EV_WRITE, 0, start);
1099     n++; f |= f_write;
1100   }
1101   if (f&f_write) {
1102     nsectors += limit - start;
1103     put_event(EV_STOP, 0, limit);
1104   }
1105   if (n == 1 && (f&f_write)) flags |= F_ALLPROGRESS;
1106   f &= ~f_write;
1107
1108 #ifdef DEBUG
1109   printf("\n;; event sweep:\n");
1110 #endif
1111   for (pos = 0, i = 0; i < eventq.n; i++) {
1112     ev = &eventq.v[i];
1113     if (ev->pos > pos) {
1114       if (f&f_write) emit(pos, ev->pos);
1115       pos = ev->pos;
1116 #ifdef DEBUG
1117       clear_progress();
1118       printf(";;\n");
1119 #endif
1120     }
1121     switch (ev->ev) {
1122       case EV_BEGIN:
1123         set_live(ev->file);
1124 #ifdef DEBUG
1125         store_filename(fn, filetab.v[ev->file].id);
1126         clear_progress();
1127         printf(";; %8"PRIuSEC": begin `%s'\n", pos, fn);
1128 #endif
1129         break;
1130       case EV_WRITE:
1131         gettimeofday(&last_time, 0); last_pos = pos;
1132         if (lseek(outfd, (off_t)ev->pos*SECTORSZ, SEEK_SET) < 0)
1133           bail_syserr(errno,
1134                       "failed to seek to resume position "
1135                       "(sector %"PRIuSEC") in output file `%s'",
1136                       ev->pos, outfile);
1137 #ifdef DEBUG
1138         clear_progress();
1139         printf(";; %8"PRIuSEC": begin write\n", pos);
1140 #endif
1141         f |= f_write;
1142         break;
1143       case EV_STOP:
1144         f &= ~f_write;
1145 #ifdef DEBUG
1146         clear_progress();
1147         printf(";; %8"PRIuSEC": end write\n", pos);
1148 #endif
1149         break;
1150       case EV_END:
1151         clear_live(ev->file);
1152 #ifdef DEBUG
1153         store_filename(fn, filetab.v[ev->file].id);
1154         clear_progress();
1155         printf(";; %8"PRIuSEC": end `%s'\n", pos, fn);
1156 #endif
1157         break;
1158       default: abort();
1159     }
1160   }
1161
1162   if (progresslen) putchar('\n');
1163
1164   if (ftruncate(outfd, (off_t)limit*SECTORSZ) < 0)
1165     bail_syserr(errno, "failed to set output file `%s' length", outfile);
1166
1167   if (dvd) DVDClose(dvd);
1168   if (dvdfd >= 0) close(dvdfd);
1169   if (outfd >= 0) close(outfd);
1170   if (mapfp) {
1171     if (ferror(mapfp) || fclose(mapfp))
1172       bail_syserr(errno, "error writing bad-sector map file");
1173   }
1174
1175 #undef f_bogus
1176 #undef f_continue
1177 #undef f_fixup
1178 #undef f_write
1179
1180   return (status);
1181 }