chiark / gitweb /
dvd-sector-copy.c: Dump buffer after final recovery.
[dvdrip] / dvd-sector-copy.c
1 #define _GNU_SOURCE
2 #define _FILE_OFFSET_BITS 64
3
4 #include <assert.h>
5 #include <ctype.h>
6 #include <errno.h>
7 #include <inttypes.h>
8 #include <math.h>
9 #include <stdarg.h>
10 #include <stdint.h>
11 #include <stdio.h>
12 #include <stdlib.h>
13 #include <string.h>
14 #include <time.h>
15
16 #include <unistd.h>
17 #include <fcntl.h>
18 #include <sys/ioctl.h>
19 #include <sys/stat.h>
20 #include <sys/time.h>
21
22 #include <getopt.h>
23
24 #include <linux/fs.h>
25
26 #include <dvdread/dvd_reader.h>
27 #include <dvdread/dvd_udf.h>
28 #include <dvdread/ifo_read.h>
29 #include <dvdread/ifo_types.h>
30
31 #define CTYPE_HACK(fn, ch) fn((unsigned char)(ch))
32 #define ISDIGIT(ch) CTYPE_HACK(isdigit, ch)
33 #define ISSPACE(ch) CTYPE_HACK(isspace, ch)
34
35 #ifdef DEBUG
36 #  define D(x) x
37 #else
38 #  define D(x)
39 #endif
40
41 #define N(v) (sizeof(v)/sizeof((v)[0]))
42
43 #define SECTORSZ 2048
44 #define SECTORS(n) (((n) + (SECTORSZ - 1))/SECTORSZ)
45
46 static const char *prog = "<unset>";
47 static int status = 0;
48
49 static void usage(FILE *fp)
50 {
51   fprintf(fp,
52           "usage: %s [-c] [-R MAP] [-b OUTMAP] [-r [START]-[END]]\n"
53           "\tDEVICE OUTFILE\n",
54           prog);
55 }
56
57 static void vmoan(const char *fmt, va_list ap)
58   { fprintf(stderr, "%s: ", prog); vfprintf(stderr, fmt, ap); }
59
60 __attribute__((format(printf, 1, 2)))
61 static void moan(const char *fmt, ...)
62 {
63   va_list ap;
64
65   va_start(ap, fmt); vmoan(fmt, ap); va_end(ap);
66   fputc('\n', stderr);
67 }
68
69 __attribute__((noreturn, format(printf, 1, 2)))
70 static void bail(const char *fmt, ...)
71 {
72   va_list ap;
73
74   va_start(ap, fmt); vmoan(fmt, ap); va_end(ap);
75   fputc('\n', stderr);
76   exit(2);
77 }
78
79 __attribute__((noreturn, format(printf, 2, 3)))
80 static void bail_syserr(int err, const char *fmt, ...)
81 {
82   va_list ap;
83
84   va_start(ap, fmt); vmoan(fmt, ap); va_end(ap);
85   if (err) fprintf(stderr, ": %s", strerror(errno));
86   fputc('\n', stderr);
87   exit(2);
88 }
89
90 static void carefully_write(int fd, const void *buf, size_t sz)
91 {
92   const unsigned char *p = buf;
93   ssize_t n;
94
95   if (fd < 0) return;
96   while (sz) {
97     n = write(fd, p, sz);
98     if (n < 0) {
99       if (errno == EINTR) continue;
100       bail_syserr(errno, "failed to write to output file");
101     }
102     if (!n) bail("unexpected short write to output file");
103     p += n; sz -= n;
104   }
105 }
106
107 #define DEFVEC(vtype, etype)                                            \
108         typedef struct { etype *v; size_t n, sz; } vtype
109 #define VEC_INIT { 0, 0, 0 }
110 #define VEC_FREE(vv) do {                                               \
111   free((vv)->v); (vv)->v 0; (vv)->n = (vv)->sz = 0;                     \
112 } while (0)
113 #define VEC_PUSH(p, vv) do {                                            \
114   size_t _want;                                                         \
115   if ((vv)->n >= (vv)->sz) {                                            \
116     (vv)->sz = (vv)->sz ? 2*(vv)->sz : 32;                              \
117     _want = (vv)->sz*sizeof(*(vv)->v);                                  \
118     (vv)->v = realloc((vv)->v, _want);                                  \
119     if (!(vv)->v) bail("out of memory allocating %zu bytes", _want);    \
120   }                                                                     \
121   (p) = &(vv)->v[(vv)->n++];                                            \
122 } while (0)
123
124 enum { RAW, IFO, VOB, BUP };
125 typedef uint_least32_t ident;
126
127 static inline ident mkident(unsigned kind, unsigned title, unsigned part)
128   { return (((ident)kind << 0) | ((ident)title << 8) | ((ident)part << 16)); }
129 static inline unsigned id_kind(ident id) { return ((id >> 0)&0x0ff); }
130 static inline unsigned id_title(ident id) { return ((id >> 8)&0x0ff); }
131 static inline unsigned id_part(ident id) { return ((id >> 16)&0x0ff); }
132
133 #define MAXFNSZ (1 + 8 + 1 + 12 + 1)
134
135 static void store_filename(char *buf, ident id)
136 {
137   switch (id_kind(id)) {
138     case RAW:
139       sprintf(buf, "#<raw device>");
140       break;
141     case IFO:
142       if (!id_title(id)) sprintf(buf, "/VIDEO_TS/VIDEO_TS.IFO");
143       else sprintf(buf, "/VIDEO_TS/VTS_%02u_0.IFO", id_title(id));
144       break;
145     case BUP:
146       if (!id_title(id)) sprintf(buf, "/VIDEO_TS/VIDEO_TS.BUP");
147       else sprintf(buf, "/VIDEO_TS/VTS_%02u_0.BUP", id_title(id));
148       break;
149     case VOB:
150       if (!id_title(id)) sprintf(buf, "/VIDEO_TS/VIDEO_TS.VOB");
151       else
152         sprintf(buf, "/VIDEO_TS/VTS_%02u_%u.VOB", id_title(id), id_part(id));
153       break;
154     default:
155       abort();
156   }
157 }
158
159 typedef uint_least32_t secaddr;
160 #define PRIuSEC PRIuLEAST32
161 #define SECLIMIT 0x00400000
162
163 #define MAXFILES (1 + 2*99 + 1)
164 struct file {
165   ident id;
166   secaddr start, end;
167 };
168 DEFVEC(file_v, struct file);
169 static file_v filetab = VEC_INIT;
170
171 enum { EV_STOP, EV_BEGIN, EV_END, EV_WRITE };
172 struct event {
173   unsigned char ev, file;
174   secaddr pos;
175 };
176 DEFVEC(event_v, struct event);
177 static event_v eventq = VEC_INIT;
178
179 static int compare_event(const void *a, const void *b)
180 {
181   const struct event *eva = a, *evb = b;
182
183   if (eva->pos < evb->pos) return (-1);
184   else if (eva->pos > evb->pos) return (+1);
185
186   if (eva->ev < evb->ev) return (-1);
187   else if (eva->ev > evb->ev) return (+1);
188
189   if (eva->file < evb->file) return (-1);
190   else if (eva->file > evb->file) return (+1);
191
192   return (0);
193 }
194
195 typedef uint_least32_t bits;
196 static bits live[(MAXFILES + 31)/32];
197
198 static inline int livep(unsigned i)
199   { return (live[i/32]&((bits)1 << (i%32))); }
200 static inline void set_live(unsigned i)
201   { live[i/32] |= (bits)1 << (i%32); }
202 static inline void clear_live(unsigned i)
203   { live[i/32] &= ~((bits)1 << (i%32)); }
204 static inline int least_live(void)
205 {
206   unsigned i, n = (filetab.n + 32)/32;
207   bits b;
208
209   for (i = 0; i < n; i++) { b = live[i]; if (b) goto found; }
210   return (-1);
211 found:
212   i *= 32;
213   if (!(b&0x0000ffff)) { b >>= 16; i += 16; }
214   if (!(b&0x000000ff)) { b >>=  8; i +=  8; }
215   if (!(b&0x0000000f)) { b >>=  4; i +=  4; }
216   if (!(b&0x00000003)) { b >>=  2; i +=  2; }
217   if (!(b&0x00000001)) { b >>=  1; i +=  1; }
218   assert(b&1);
219   return (i);
220 }
221
222 static void put_event(unsigned evtype, unsigned file, secaddr pos)
223 {
224   struct event *ev;
225
226   VEC_PUSH(ev, &eventq);
227   ev->ev = evtype; ev->file = file; ev->pos = pos;
228 }
229
230 static void put_file(ident id, secaddr start, secaddr end)
231 {
232   struct file *f;
233   size_t i;
234
235   VEC_PUSH(f, &filetab); i = f - filetab.v;
236   f->id = id; f->start = start; f->end = end;
237   put_event(EV_BEGIN, i, start);
238   put_event(EV_END, i, end);
239 }
240
241 static void put_menu(dvd_reader_t *dvd, unsigned title)
242 {
243   ident id = mkident(VOB, title, 0);
244   char fn[MAXFNSZ];
245   secaddr start, len;
246
247   store_filename(fn, id);
248   start = UDFFindFile(dvd, fn, &len); if (!start) return;
249 #ifdef DEBUG
250       printf(";; %8"PRIuSEC" .. %-8"PRIuSEC": %s\n",
251              start, start + SECTORS(len), fn);
252 #endif
253   put_file(id, start, start + SECTORS(len));
254 }
255
256 static void put_title(dvd_reader_t *dvd, unsigned title)
257 {
258   char fn[MAXFNSZ];
259   secaddr start[9], len[9];
260   unsigned i, npart;
261
262   for (i = 0; i < 9; i++) {
263     store_filename(fn, mkident(VOB, title, i + 1));
264     start[i] = UDFFindFile(dvd, fn, &len[i]); if (!start[i]) break;
265   }
266   npart = i; if (!npart) return;
267
268 #ifdef DEBUG
269   for (i = 0; i < npart; i++) {
270     store_filename(fn, mkident(VOB, title, i + 1));
271     printf(";; %8"PRIuSEC" .. %-8"PRIuSEC": %s\n",
272            start[i], start[i] + SECTORS(len[i]), fn);
273   }
274 #endif
275
276   if (npart > 1)
277     for (i = 0; i < npart - 1; i++) {
278       if (len[i]%SECTORSZ)
279         bail("title %u part %u length = %"PRIuSEC" not a multiple of %d",
280              title, i, len[i], SECTORSZ);
281       if (start[i] + len[i]/SECTORSZ != start[i + 1])
282         bail
283           ("title %u part %u end = %"PRIuSEC" /= part %u start = %"PRIuSEC"",
284            title, i, start[i] + len[i]/SECTORSZ, i + 1, start[i + 1]);
285     }
286
287   put_file(mkident(VOB, title, 1),
288            start[0], start[npart - 1] + SECTORS(len[npart - 1]));
289 }
290
291 static int progresslen = 0;
292
293 static void clear_progress_internal(void)
294 {
295   while (progresslen) { fputs("\b \b", stdout); progresslen--; }
296   putchar('\r');
297 }
298 static void clear_progress(void)
299   { clear_progress_internal(); fflush(stdout); }
300 static void vappend_progress(const char *fmt, va_list ap)
301   { progresslen += vprintf(fmt, ap); }
302 __attribute__((format(printf, 1, 2)))
303 static void append_progress(const char *fmt, ...)
304 {
305   va_list ap;
306
307   va_start(ap, fmt);
308   vappend_progress(fmt, ap);
309   va_end(ap);
310 }
311 __attribute__((format(printf, 1, 2)))
312 static void print_progress(const char *fmt, ...)
313 {
314   va_list ap;
315
316   va_start(ap, fmt);
317   clear_progress_internal();
318   vappend_progress(fmt, ap);
319   va_end(ap);
320 }
321
322 unsigned flags;
323 #  define F_ALLPROGRESS 1u
324 static secaddr last_pos, limit, nsectors, ndone;
325 static struct timeval last_time;
326 static double wsum, wcount;
327 static struct file *file;
328
329 static void report_progress(secaddr pos)
330 {
331   char etastr[32];
332   struct timeval now;
333   int eta;
334   double percent, t, f, g, rate;
335   char *unit;
336
337 #define ALPHA 0.02
338 #define BETA (1 - ALPHA)
339
340   gettimeofday(&now, 0);
341   t = (now.tv_sec - last_time.tv_sec) +
342     (now.tv_usec - last_time.tv_usec)/1000000.0;
343
344   if (t) {
345     g = wcount ? pow(BETA, t) : 0.0; f = (1 - g)/(1 - BETA);
346     wsum = f*(pos - last_pos)/t + g*wsum;
347     wcount = f + g*wcount;
348     ndone += pos - last_pos;
349     last_time = now; last_pos = pos;
350   }
351
352   if (!wsum || !wcount)
353     { rate = 0; strcpy(etastr, "???"); }
354   else {
355     rate = wsum/wcount;
356     eta = (int)((nsectors - ndone)/rate);
357     sprintf(etastr, "%d:%02d:%02d", eta/3600, (eta/60)%60, eta%60);
358   }
359
360   rate *= SECTORSZ; unit = "";
361   if (rate > 128) { rate /= 1024; unit = "k"; }
362   if (rate > 128) { rate /= 1024; unit = "M"; }
363   if (rate > 128) { rate /= 1024; unit = "G"; }
364
365   if (flags&F_ALLPROGRESS) percent = pos*100.0/limit;
366   else percent = ndone*100.0/nsectors;
367   print_progress
368     ("copied %.1f%% (%"PRIuSEC" of %"PRIuSEC"; %.1f %sB/s, ETA %s)",
369      percent, pos, limit,  rate, unit, etastr);
370   if (file && id_kind(file->id) == VOB) {
371     append_progress(" -- %s %d %3.1f%%",
372                     id_part(file->id) ? "title" : "menu",
373                     id_title(file->id),
374                     (pos - file->start)*100.0/
375                       (file->end - file->start));
376   }
377
378 #undef ALPHA
379 #undef BETA
380 }
381
382 static dvd_reader_t *dvd;
383 static int dvdfd = -1, outfd = -1;
384 static dvd_file_t *vob;
385 static const char *mapfile; static FILE *mapfp;
386
387 struct badblock { secaddr start, end; };
388 DEFVEC(badblock_v, struct badblock);
389 static badblock_v badblocks = VEC_INIT;
390
391 static int compare_badblock(const void *a, const void *b)
392 {
393   const struct badblock *ba = a, *bb = b;
394
395   if (ba->start < bb->start) return (-1);
396   else if (ba->start > bb->start) return (+1);
397
398   if (ba->end < bb->end) return (-1);
399   else if (ba->end > bb->end) return (+1);
400
401   return (0);
402 }
403
404 static ssize_t read_sectors(secaddr pos, void *buf, secaddr want)
405 {
406   ssize_t n, done;
407   size_t lo, mid, hi;
408   int fakeerr = 0;
409   struct badblock *bad, *best;
410   unsigned char *p = buf;
411
412   if (badblocks.n) {
413     best = 0; lo = 0; hi = badblocks.n;
414 #ifdef DEBUG
415     debug_clear_progress();
416     printf(";; searching badblocks for %"PRIuSEC" .. %"PRIuSEC"\n",
417            pos, pos + want);
418 #endif
419     while (lo < hi) {
420       mid = lo + (hi - lo)/2; bad = &badblocks.v[mid];
421 #ifdef DEBUG
422       printf(";;   try %zu (%"PRIuSEC" .. %"PRIuSEC")... ",
423              mid, bad->start, bad->end);
424 #endif
425       if (pos < bad->start) { D( printf("high\n"); ) best = bad; hi = mid; }
426       else if (pos >= bad->end) { D( printf("low\n"); ) lo = mid + 1; }
427       else { D( printf("match!\n"); ) errno = EIO; return (-1); }
428     }
429 #ifdef DEBUG
430     if (best)
431       printf(";;   next is %"PRIuSEC" .. %"PRIuSEC"\n",
432              best->start, best->end);
433 #endif
434     if (best && pos + want > best->start)
435       { want = best->start - pos; fakeerr = EIO; }
436   }
437   done = 0;
438   while (want) {
439     if (vob)
440       { errno = 0; n = DVDReadBlocks(vob, pos - file->start, want, p); }
441     else if (file) {
442       if (lseek(dvdfd, (off_t)pos*SECTORSZ, SEEK_SET) < 0)
443         bail_syserr(errno, "failed to seek to sector %"PRIuSEC"", pos);
444       errno = 0; n = read(dvdfd, p, want*SECTORSZ);
445       if (n >= 0) n /= SECTORSZ;
446     } else {
447       memset(p, 0, want*SECTORSZ);
448       n = want;
449     }
450
451     if (n > 0) { done += n; pos += n; p += n*SECTORSZ; want -= n; }
452     else if (!n || errno != EINTR) break;
453   }
454   if (fakeerr && !errno) errno = fakeerr;
455   return (!done && errno ? -1 : done);
456 }
457
458 static void report_bad_blocks_progress(secaddr lo, secaddr hi, int err)
459 {
460   report_progress(hi);
461
462   if (lo == hi) append_progress(": retrying bad sector");
463   else
464     append_progress(": %"PRIuSEC" bad %s",
465                     hi - lo, hi == lo + 1 ? "sector" : "sectors");
466   if (err && err != EIO) append_progress(" (%s)", strerror(err));
467   fflush(stdout);
468 }
469
470 static void recovered(secaddr bad_lo, secaddr bad_hi)
471 {
472   clear_progress();
473   moan("skipping %"PRIuSEC" bad sectors (%"PRIuSEC" .. %"PRIuSEC")",
474        bad_hi - bad_lo, bad_lo, bad_hi);
475   if (mapfile) {
476     if (!mapfp) {
477       mapfp = fopen(mapfile, "w");
478       if (!mapfp)
479         bail_syserr(errno, "failed to open bad-sector map file `%s'",
480                     optarg);
481       fprintf(mapfp, "## bad sector map\n\n");
482     }
483     fprintf(mapfp, "%"PRIuSEC" %"PRIuSEC"\n", bad_lo, bad_hi);
484     fflush(mapfp);
485     if (ferror(mapfp))
486       bail_syserr(errno, "error writing bad-sector map file");
487   }
488   if (lseek(outfd, (off_t)(bad_hi - bad_lo)*SECTORSZ, SEEK_CUR) < 0)
489     bail_syserr(errno, "failed to seek past bad sectors");
490   status = 1;
491 }
492
493 struct recoverybuf {
494   unsigned char *buf;
495   secaddr sz, pos, start, end;
496 };
497
498 static void rearrange_sectors(struct recoverybuf *r,
499                               secaddr dest, secaddr src, secaddr len)
500 {
501   assert(dest + len <= r->sz);
502   assert(src + len <= r->sz);
503   memmove(r->buf + dest*SECTORSZ, r->buf + src*SECTORSZ, len*SECTORSZ);
504 }
505
506 #ifdef DEBUG
507 __attribute__((format(printf, 2, 3)))
508 static void show_recovery_buffer_map(const struct recoverybuf *r,
509                                      const char *what, ...)
510 {
511   va_list ap;
512
513   va_start(ap, what);
514   clear_progress();
515   printf(";; recovery buffer (");
516   vprintf(what, ap);
517   printf("): "
518          "(%"PRIuSEC") ..%"PRIuSEC".. "
519          "[%"PRIuSEC" ..%"PRIuSEC".. %"PRIuSEC"] "
520          "..%"PRIuSEC".. (%"PRIuSEC")\n",
521          r->pos, r->start,
522          r->pos + r->start, r->end - r->start, r->pos + r->end,
523          r->sz - r->end, r->pos + r->sz);
524   va_end(ap);
525   assert(r->start <= r->end);
526   assert(r->end <= r->sz);
527 }
528 #endif
529
530 static ssize_t recovery_read_sectors(struct recoverybuf *r,
531                                      secaddr pos, secaddr off, secaddr want)
532 {
533   ssize_t n;
534
535   assert(off <= r->sz); assert(want <= r->sz - off);
536   n = read_sectors(pos, r->buf + off*SECTORSZ, want);
537   return (n);
538 }
539
540 static ssize_t recovery_read(struct recoverybuf *r,
541                              secaddr pos, secaddr want)
542 {
543   secaddr diff, pp, nn;
544   ssize_t n;
545
546 #ifdef DEBUG
547   clear_progress();
548   show_recovery_buffer_map(r, "begin(%"PRIuSEC", %"PRIuSEC")", pos, want);
549 #endif
550
551   if (pos < r->pos) {
552     diff = r->pos - pos;
553     if (r->start + diff >= r->sz) {
554       r->pos = pos; r->start = r->end = 0;
555 #ifdef DEBUG
556       show_recovery_buffer_map(r, "cleared; shift up by %"PRIuSEC"", diff);
557 #endif
558     } else {
559       if (r->end + diff > r->sz) r->end = r->sz - diff;
560       rearrange_sectors(r, r->start + diff, r->start, r->end - r->start);
561       r->pos -= diff; r->start += diff; r->end += diff;
562 #ifdef DEBUG
563       show_recovery_buffer_map(r, "shifted up by %"PRIuSEC"", diff);
564 #endif
565     }
566   } else if (pos > r->pos + r->end) {
567       r->pos = pos; r->start = r->end = 0;
568 #ifdef DEBUG
569       show_recovery_buffer_map(r, "cleared; beyond previous region");
570 #endif
571   } else if (pos + want > r->pos + r->sz) {
572     diff = (pos + want) - (r->pos + r->sz);
573     if (r->end <= diff) {
574       r->pos = pos; r->start = r->end = 0;
575 #ifdef DEBUG
576       show_recovery_buffer_map(r, "cleared; shift down by %"PRIuSEC"", diff);
577 #endif
578     } else {
579       if (r->start < diff) r->start = diff;
580       rearrange_sectors(r, r->start - diff, r->start, r->end - r->start);
581       r->pos += diff; r->start -= diff; r->end -= diff;
582 #ifdef DEBUG
583       show_recovery_buffer_map(r, "shifted down by %"PRIuSEC"", diff);
584 #endif
585     }
586   }
587
588   if (pos < r->pos + r->start) {
589     pp = pos - r->pos; nn = r->start - pp;
590 #ifdef DEBUG
591     printf(";; read low (%"PRIuSEC"@%"PRIuSEC", %"PRIuSEC")", pos, pp, nn);
592     fflush(stdout);
593 #endif
594     n = recovery_read_sectors(r, pos, pp, nn);
595 #ifdef DEBUG
596     printf(" -> %zd\n", n);
597 #endif
598     if (n != nn) {
599       if (n >= 0 && n > want) n = want;
600       goto end;
601     }
602     r->start = pp;
603 #ifdef DEBUG
604     show_recovery_buffer_map(r, "joined new region");
605 #endif
606   }
607
608   if (pos + want > r->pos + r->end) {
609     pp = r->end; nn = (pos + want) - (r->pos + r->end);
610 #ifdef DEBUG
611     printf(";; read high (%"PRIuSEC"@%"PRIuSEC", %"PRIuSEC")",
612            r->pos + pp, pp, nn);
613 fflush(stdout);
614 #endif
615     n = recovery_read_sectors(r, pos + pp, pp, nn);
616 #ifdef DEBUG
617     printf(" -> %zd\n", n);
618 #endif
619     if (n > 0) {
620       r->end += n;
621 #ifdef DEBUG
622       show_recovery_buffer_map(r, "joined new region");
623 #endif
624     }
625   }
626
627   n = r->pos + r->end - pos;
628   if (!n && want) n = -1;
629
630 end:
631 #ifdef DEBUG
632   show_recovery_buffer_map(r, "done; return %zd", n);
633 #endif
634   return (n);
635 }
636
637 static secaddr run_length_wanted(secaddr pos, secaddr badlen,
638                                  secaddr sz, secaddr end)
639 {
640   secaddr want;
641
642   want = 3*badlen/2;
643   if (!want) want = 1;
644   if (want > end - pos) want = end - pos;
645   if (want > sz) want = sz;
646   return (want);
647 }
648
649 static ssize_t find_good_sector(secaddr *pos_inout, secaddr end,
650                                 unsigned char *buf, secaddr sz)
651 {
652   int i;
653   secaddr pos = *pos_inout, bad_lo, bad_hi, good, step, want;
654   struct recoverybuf r;
655   ssize_t n;
656
657   r.buf = buf; r.sz = sz; r.pos = r.start = r.end = 0;
658   report_bad_blocks_progress(pos, pos, errno);
659
660   want = sz; if (want > end - pos) want = end - pos;
661   for (i = 0; i < 4; i++) {
662     n = recovery_read(&r, pos, want);
663 #ifdef DEBUG
664     clear_progress();
665     printf(";; [retry] try reading %"PRIuSEC" .. %"PRIuSEC" -> %zd\n",
666            pos, pos + want, n);
667 #endif
668     if (n > 0) {
669       clear_progress();
670       moan("sector %"PRIuSEC" read ok after retry", pos);
671       return (n);
672     }
673   }
674
675   bad_lo = pos; bad_hi = pos + 1;
676   for (;;) {
677     report_bad_blocks_progress(bad_lo, bad_hi, errno);
678     if (bad_hi >= end) {
679       clear_progress();
680       moan("giving up on this extent");
681       recovered(bad_lo, end); *pos_inout = end; return (0);
682     }
683     step = 2*(bad_hi - bad_lo); if (step > end - bad_lo) step = end - bad_lo;
684     pos = bad_lo + step - 1;
685     want = run_length_wanted(pos, step, sz, end);
686     n = recovery_read(&r, pos, want);
687 #ifdef DEBUG
688     clear_progress();
689     printf(";; [bound] try reading %"PRIuSEC" .. %"PRIuSEC" -> %zd\n",
690            pos, pos + want, n);
691 #endif
692     if (n == want) break;
693     if (n < 0) n = 0;
694     bad_hi = pos + n + 1;
695   }
696
697   good = pos;
698   while (good > bad_hi) {
699     report_bad_blocks_progress(bad_lo, bad_hi, errno);
700     pos = bad_hi + (good - bad_hi)/2;
701     step = pos - bad_lo;
702     want = run_length_wanted(pos, step, sz, end);
703     n = recovery_read(&r, pos, want);
704 #ifdef DEBUG
705     clear_progress();
706     printf(";; [limit] try reading %"PRIuSEC" .. %"PRIuSEC" -> %zd\n",
707            pos, pos + want, n);
708 #endif
709     if (n < 0) n = 0;
710     if (n == want) good = pos;
711     else bad_hi = pos + n + 1;
712   }
713   recovered(bad_lo, bad_hi); *pos_inout = good;
714   if (good < r.pos + r.start || r.pos + r.end <= good)
715     n = 0;
716   else {
717     n = r.pos + r.end - good;
718     rearrange_sectors(&r, 0, good - r.pos, n);
719   }
720 #ifdef DEBUG
721   show_recovery_buffer_map(&r, "returning %zd good sectors at %"PRIuSEC"",
722                            n, good);
723 #endif
724   return (n);
725 }
726
727 static void emit(secaddr start, secaddr end)
728 {
729 #define BUFSECTORS 512
730
731   int least;
732   unsigned char buf[BUFSECTORS*SECTORSZ];
733   secaddr pos;
734   size_t want;
735   ssize_t n;
736   static int first_time = 1;
737 #ifdef DEBUG
738   struct file *f;
739   char fn[MAXFNSZ];
740   int act = -1;
741   int i;
742 #endif
743
744   least = least_live();
745
746 #ifdef DEBUG
747   printf(";; %8"PRIuSEC" .. %"PRIuSEC"\n", start, end);
748
749   for (i = 0; i < filetab.n; i++) {
750     if (!livep(i)) continue;
751     if (act == -1) act = i;
752     f = &filetab.v[i]; store_filename(fn, f->id);
753     printf(";;\t\t%8"PRIuSEC" .. %-8"PRIuSEC" %s\n",
754            start - f->start, end - f->start, fn);
755   }
756   if (act == -1) printf(";;\t\t#<no live source>\n");
757   assert(act == least);
758 #endif
759
760   if (least == -1)
761     { file = 0; vob = 0; }
762   else {
763     file = &filetab.v[least];
764     switch (id_kind(file->id)) {
765       case RAW:
766         vob = 0;
767         break;
768       case VOB:
769         if (first_time) { clear_progress(); first_time = 0; }
770         vob = DVDOpenFile(dvd, id_title(file->id),
771                           id_part(file->id)
772                             ? DVD_READ_TITLE_VOBS
773                             : DVD_READ_MENU_VOBS);
774         if (!vob)
775           bail("failed to open %s %u",
776                id_part(file->id) ? "title" : "menu",
777                id_title(file->id));
778         break;
779       default:
780         abort();
781     }
782   }
783
784   pos = start;
785   while (pos < end) {
786     want = end - pos; if (want > BUFSECTORS) want = BUFSECTORS;
787     n = read_sectors(pos, buf, want);
788
789     if (n <= 0) n = find_good_sector(&pos, end, buf, BUFSECTORS);
790     if (n > 0) { carefully_write(outfd, buf, n*SECTORSZ); pos += n; }
791     report_progress(pos); fflush(stdout);
792   }
793
794   if (vob) { DVDCloseFile(vob); vob = 0; }
795
796 #undef BUFSECTORS
797 }
798
799 #ifdef notdef
800 static void logfn(void *p, dvd_logger_level_t lev,
801                   const char *fmt, va_list ap)
802 {
803   switch (lev) {
804     case DVD_LOGGER_LEVEL_ERROR:
805       fprintf("%s (libdvdread error): ", prog);
806       break;
807     case DVD_LOGGER_LEVEL_WARN:
808       fprintf("%s (libdvdread warning): ", prog);
809       break;
810     default:
811       return;
812   }
813   vfprintf(stderr, fmt, ap);
814   fputc('\n', stderr);
815 }
816 static const dvd_logger_cb logger = { logfn };
817 #endif
818
819 struct buf {
820   char *p;
821   size_t n, sz;
822 };
823 #define BUF_INIT { 0, 0, 0 }
824 #define BUF_REWIND(b) do { (b)->n = 0; } while (0)
825 #define BUF_FREE(b) do {                                                \
826   buf *_b = (b);                                                        \
827   free(_b->p); _b->p = 0; _b->n = _b->sz = 0;                           \
828 } while (0)
829 #define BUF_PUTC(b, ch) do {                                            \
830   struct buf *_b = (b);                                                 \
831   if (_b->n >= _b->sz) {                                                \
832     _b->sz = _b->sz ? 2*_b->sz : 32;                                    \
833     _b->p = realloc(_b->p, _b->sz);                                     \
834     if (!_b->p) bail("out of memory allocating %zu bytes", _b->sz);     \
835   }                                                                     \
836   _b->p[_b->n] = (ch);                                                  \
837 } while (0)
838
839 static int read_line(FILE *fp, struct buf *b)
840 {
841   int ch;
842
843   ch = getc(fp);
844   if (ch == EOF)
845     return (-1);
846   else if (ch != '\n') do {
847     BUF_PUTC(b, ch); b->n++;
848     ch = getc(fp);
849   } while (ch != EOF && ch != '\n');
850   BUF_PUTC(b, 0);
851   return (0);
852 }
853
854 #define PRF_HYPHEN 1u
855 static int parse_range(const char *p, unsigned f,
856                        secaddr *start_out, secaddr *end_out)
857 {
858   char *q;
859   int err, rc;
860   unsigned long start, end;
861
862   err = errno;
863
864   if (ISDIGIT(*p)) {
865     start = strtoul(p, &q, 0);
866     if (errno || start >= SECLIMIT) { rc = -1; goto end; }
867     *start_out = start; p = q;
868   } else if (!(f&PRF_HYPHEN))
869     { rc = -1; goto end; }
870   else
871     start = 0;
872
873   if (f&PRF_HYPHEN) {
874     if (*p != '-')  { rc = -1; goto end; }
875     p++;
876   } else {
877     if (!ISSPACE(*p)) { rc = -1; goto end; }
878     do p++; while (ISSPACE(*p));
879   }
880
881   if (ISDIGIT(*p)) {
882     end = strtoul(p, &q, 0);
883     if (errno || end > SECLIMIT || end < start) { rc = -1; goto end; }
884     *end_out = end; p = q;
885   } else if (!(f&PRF_HYPHEN))
886     { rc = -1; goto end; }
887
888   if (!(f&PRF_HYPHEN)) while (ISSPACE(*p)) p++;
889   if (*p) { rc = -1; goto end; }
890
891   rc = 0;
892 end:
893   errno = err;
894   return (rc);
895 }
896
897 int main(int argc, char *argv[])
898 {
899   unsigned f = 0;
900   char *p;
901   uint64_t volsz;
902   secaddr pos;
903   off_t off;
904   secaddr start, end, last;
905   const struct event *ev;
906   const char *device, *outfile;
907   struct badblock *bad;
908   int opt, blksz;
909   unsigned n;
910   size_t i;
911   FILE *fp;
912   struct buf buf = BUF_INIT;
913   struct stat st;
914 #ifdef DEBUG
915   const struct file *file;
916   char fn[MAXFNSZ];
917 #endif
918
919 #define f_bogus 1u
920 #define f_continue 2u
921 #define f_fixup 4u
922 #define f_write 256u
923
924   p = strrchr(argv[0], '/'); prog = p ? p + 1 : argv[0];
925   for (;;) {
926     opt = getopt(argc, argv, "hFR:X:b:cr:"); if (opt < 0) break;
927     switch (opt) {
928       case 'h': usage(stderr); exit(0);
929       case 'F': f |= f_fixup; break;
930       case 'R':
931         fp = fopen(optarg, "r");
932         if (!fp)
933           bail_syserr(errno, "failed to open ranges file `%s'", optarg);
934         i = 0; last = -1;
935         for (;;) {
936           BUF_REWIND(&buf); if (read_line(fp, &buf)) break;
937           p = buf.p; i++;
938           while (ISSPACE(*p)) p++;
939           if (!*p || *p == '#') continue;
940           if (parse_range(p, 0, &start, &end) ||
941               (last <= SECLIMIT && start < last))
942             bail("bad range `%s' at `%s' line %zu", buf.p, optarg, i);
943           if (start < end) {
944             if (start == last)
945               eventq.v[eventq.n - 1].pos = end;
946             else {
947               put_event(EV_WRITE, 0, start);
948               put_event(EV_STOP, 0, end);
949             }
950             last = end;
951           }
952         }
953         if (ferror(fp))
954           bail_syserr(errno, "failed to read ranges file `%s'", optarg);
955         break;
956       case 'X':
957         fp = fopen(optarg, "r");
958         if (!fp)
959           bail_syserr(errno, "failed to open bad-blocks file `%s'", optarg);
960         i = 0; last = -1;
961         for (;;) {
962           BUF_REWIND(&buf); if (read_line(fp, &buf)) break;
963           p = buf.p; i++;
964           while (ISSPACE(*p)) p++;
965           if (!*p || *p == '#') continue;
966           if (parse_range(p, 0, &start, &end) ||
967               (last <= SECLIMIT && start < last))
968             bail("bad range `%s' at `%s' line %zu", buf.p, optarg, i);
969           if (start < end)
970             { VEC_PUSH(bad, &badblocks); bad->start = start; bad->end = end; }
971         }
972         if (ferror(fp))
973           bail_syserr(errno, "failed to read bad-blocks file `%s'", optarg);
974         break;
975       case 'b':
976         if (mapfile) bail("can't have multiple map files");
977         mapfile = optarg;
978         break;
979       case 'c': f |= f_continue; break;
980       case 'r':
981         start = 0; end = -1;
982         if (parse_range(optarg, PRF_HYPHEN, &start, &end))
983           bail("bad range `%s'", optarg);
984         if (start < end) {
985           put_event(EV_WRITE, 0, start);
986           if (end <= SECLIMIT) put_event(EV_STOP, 0, end);
987         }
988         break;
989       default: f |= f_bogus; break;
990     }
991   }
992   if (argc - optind != 2) f |= f_bogus;
993   if (f&f_bogus) { usage(stderr); exit(2); }
994
995   device = argv[optind]; outfile = argv[optind + 1];
996
997   if (badblocks.n) {
998     qsort(badblocks.v, badblocks.n, sizeof(struct badblock),
999           compare_badblock);
1000 #ifdef DEBUG
1001     printf(";; fake bad blocks:\n");
1002     for (i = 0; i < badblocks.n; i++)
1003       printf(";;\t%8"PRIuSEC" .. %"PRIuSEC"\n",
1004              badblocks.v[i].start, badblocks.v[i].end);
1005 #endif
1006   }
1007
1008   dvdfd = open(device, O_RDONLY);
1009   if (dvdfd < 0)
1010     bail_syserr(errno, "failed to open device `%s'", device);
1011   if (fstat(dvdfd, &st))
1012     bail_syserr(errno, "failed to stat device `%s'", device);
1013   if (S_ISREG(st.st_mode)) {
1014     blksz = SECTORSZ;
1015     volsz = st.st_size;
1016   } else if (S_ISBLK(st.st_mode)) {
1017     if (ioctl(dvdfd, BLKSSZGET, &blksz))
1018       bail_syserr(errno, "failed to get block size for `%s'", device);
1019     if (ioctl(dvdfd, BLKGETSIZE64, &volsz))
1020       bail_syserr(errno, "failed to get volume size for `%s'", device);
1021   } else
1022     bail("can't use `%s' as source: expected file or block device", device);
1023
1024   if (blksz != SECTORSZ)
1025     bail("device `%s' block size %d /= %d", device, blksz, SECTORSZ);
1026   if (volsz%SECTORSZ)
1027     bail("device `%s' volume size %"PRIu64" not a multiple of %d",
1028          device, volsz, SECTORSZ);
1029
1030   if (outfile) {
1031     outfd = open(outfile, O_WRONLY | O_CREAT, 0666);
1032     if (outfd < 0)
1033       bail_syserr(errno, "failed to create output file `%s'", outfile);
1034   }
1035
1036   if (f&f_continue) {
1037     off = lseek(outfd, 0, SEEK_END);
1038     if (off < 0)
1039       bail_syserr(errno, "failed to seek to end of output file `%s'",
1040                   outfile);
1041     put_event(EV_WRITE, 0, off/SECTORSZ);
1042   } else if (!eventq.n && !(f&f_fixup))
1043     put_event(EV_WRITE, 0, 0);
1044
1045 #ifdef notdef
1046   dvd = DVDOpen2(0, &logger, device);
1047 #else
1048   dvd = DVDOpen(device);
1049 #endif
1050   if (!dvd) bail("failed to open DVD on `%s'", device);
1051
1052   /* It's fast enough just to check everything. */
1053   put_menu(dvd, 0);
1054   for (i = 1; i < 100; i++) {
1055     put_menu(dvd, i);
1056     put_title(dvd, i);
1057   }
1058   put_file(mkident(RAW, 0, 0), 0, volsz/SECTORSZ);
1059   assert(filetab.n <= MAXFILES);
1060
1061   for (i = 0, limit = 0; i < filetab.n; i++)
1062     if (filetab.v[i].end > limit) limit = filetab.v[i].end;
1063
1064   if (end > limit) end = limit;
1065
1066 #ifdef DEBUG
1067   printf("\n;; files:\n");
1068   for (i = 0; i < filetab.n; i++) {
1069     file = &filetab.v[i];
1070     store_filename(fn, file->id);
1071     printf(";;\t%8"PRIuSEC" %s\n", file->start, fn);
1072   }
1073 #endif
1074
1075   qsort(eventq.v, eventq.n, sizeof(struct event), compare_event);
1076
1077   f &= ~f_write; start = 0; n = 0;
1078   for (i = 0; i < eventq.n; i++) {
1079     ev = &eventq.v[i];
1080     switch (ev->ev) {
1081       case EV_WRITE:
1082         if (f&f_write)
1083           bail("overlapping ranges: range from %"PRIuSEC" still open at %"PRIuSEC"",
1084                start, ev->pos);
1085         n++; f |= f_write; start = ev->pos;
1086         break;
1087       case EV_STOP:
1088         f &= ~f_write;
1089         break;
1090     }
1091   }
1092
1093   f &= ~f_write; start = 0;
1094   for (i = 0; i < eventq.n; i++) {
1095     ev = &eventq.v[i];
1096     switch (ev->ev) {
1097       case EV_WRITE: start = ev->pos; f |= f_write; break;
1098       case EV_STOP: nsectors += ev->pos - start; f &= ~f_write; break;
1099     }
1100     if (ev->pos >= limit) break;
1101     if (f&f_fixup) start = ev->pos;
1102   }
1103   eventq.n = i;
1104   if (f&f_fixup) {
1105     put_event(EV_WRITE, 0, start);
1106     n++; f |= f_write;
1107   }
1108   if (f&f_write) {
1109     nsectors += limit - start;
1110     put_event(EV_STOP, 0, limit);
1111   }
1112   if (n == 1 && (f&f_write)) flags |= F_ALLPROGRESS;
1113   f &= ~f_write;
1114
1115 #ifdef DEBUG
1116   printf("\n;; event sweep:\n");
1117 #endif
1118   for (pos = 0, i = 0; i < eventq.n; i++) {
1119     ev = &eventq.v[i];
1120     if (ev->pos > pos) {
1121       if (f&f_write) emit(pos, ev->pos);
1122       pos = ev->pos;
1123 #ifdef DEBUG
1124       clear_progress();
1125       printf(";;\n");
1126 #endif
1127     }
1128     switch (ev->ev) {
1129       case EV_BEGIN:
1130         set_live(ev->file);
1131 #ifdef DEBUG
1132         store_filename(fn, filetab.v[ev->file].id);
1133         clear_progress();
1134         printf(";; %8"PRIuSEC": begin `%s'\n", pos, fn);
1135 #endif
1136         break;
1137       case EV_WRITE:
1138         gettimeofday(&last_time, 0); last_pos = pos;
1139         if (lseek(outfd, (off_t)ev->pos*SECTORSZ, SEEK_SET) < 0)
1140           bail_syserr(errno,
1141                       "failed to seek to resume position "
1142                       "(sector %"PRIuSEC") in output file `%s'",
1143                       ev->pos, outfile);
1144 #ifdef DEBUG
1145         clear_progress();
1146         printf(";; %8"PRIuSEC": begin write\n", pos);
1147 #endif
1148         f |= f_write;
1149         break;
1150       case EV_STOP:
1151         f &= ~f_write;
1152 #ifdef DEBUG
1153         clear_progress();
1154         printf(";; %8"PRIuSEC": end write\n", pos);
1155 #endif
1156         break;
1157       case EV_END:
1158         clear_live(ev->file);
1159 #ifdef DEBUG
1160         store_filename(fn, filetab.v[ev->file].id);
1161         clear_progress();
1162         printf(";; %8"PRIuSEC": end `%s'\n", pos, fn);
1163 #endif
1164         break;
1165       default: abort();
1166     }
1167   }
1168
1169   if (progresslen) putchar('\n');
1170
1171   if (ftruncate(outfd, (off_t)limit*SECTORSZ) < 0)
1172     bail_syserr(errno, "failed to set output file `%s' length", outfile);
1173
1174   if (dvd) DVDClose(dvd);
1175   if (dvdfd >= 0) close(dvdfd);
1176   if (outfd >= 0) close(outfd);
1177   if (mapfp) {
1178     if (ferror(mapfp) || fclose(mapfp))
1179       bail_syserr(errno, "error writing bad-sector map file");
1180   }
1181
1182 #undef f_bogus
1183 #undef f_continue
1184 #undef f_fixup
1185 #undef f_write
1186
1187   return (status);
1188 }