chiark / gitweb /
{n,m}_max_frags: fix fencepost efficiency problem
[matchsticks-search.git] / main.c
1 /*
2  * Searches for "good" ways to divide n matchsticks up and reassemble them
3  * into m matchsticks.  "Good" means the smallest fragment is as big
4  * as possible.
5  *
6  * Invoke as   ./main n m
7  *
8  * The algorithm is faster if the arguments are ordered so that n > m.
9  */
10
11 /*
12  * matchsticks/main.c  Copyright 2014 Ian Jackson
13  *
14  * This program is free software: you can redistribute it and/or modify
15  * it under the terms of the GNU General Public License as published by
16  * the Free Software Foundation, either version 3 of the License, or
17  * (at your option) any later version.
18  *
19  * This program is distributed in the hope that it will be useful,
20  * but WITHOUT ANY WARRANTY; without even the implied warranty of
21  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
22  * GNU General Public License for more details.
23  */
24
25 #define _GNU_SOURCE
26
27 #include <publib.h>
28
29 #include <stdio.h>
30 #include <stdint.h>
31 #include <stdlib.h>
32 #include <string.h>
33 #include <assert.h>
34 #include <unistd.h>
35 #include <stdbool.h>
36 #include <inttypes.h>
37 #include <math.h>
38 #include <sys/types.h>
39 #include <sys/wait.h>
40 #include <sys/uio.h>
41 #include <sys/fcntl.h>
42
43 #include <glpk.h>
44
45 #ifndef VERSION
46 #define VERSION "(unknown-version)"
47 #endif
48
49 /*
50  * Algorithm.
51  *
52  * Each input match contributes, or does not contribute, to each
53  * output match; we do not need to consider multiple fragments
54  * relating to the same input/output pair this gives an n*m adjacency
55  * matrix (bitmap).  Given such an adjacency matrix, the problem of
56  * finding the best sizes for the fragments can be expressed as a
57  * linear programming problem.
58  *
59  * We search all possible adjacency matrices, and for each one we run
60  * GLPK's simplex solver.  We represent the adjacency matrix as an
61  * array of bitmaps.
62  *
63  * However, there are a couple of wrinkles:
64  *
65  * To best represent the problem as a standard LP problem, we separate
66  * out the size of each fragment into a common minimum size variable,
67  * plus a fragment-specific extra size variable.  This reduces the LP
68  * problem size at the cost of making the problem construction, and
69  * interpretation of the results, a bit fiddly.
70  *
71  * Many of the adjacency matrices are equivalent.  In particular,
72  * permutations of the columns, or of the rows, do not change the
73  * meaning.  It is only necessasry to consider any one permutation.
74  * We make use of this by considering only adjacency matrices whose
75  * bitmap array contains bitmap words whose numerical values are
76  * nondecreasing in array order.
77  *
78  * Once we have a solution, we also avoid considering any candidate
79  * which involves dividing one of the output sticks into so many
80  * fragment that the smallest fragment would necessarily be no bigger
81  * than our best solution.  That is, we reject candidates where any of
82  * the hamming weights of the adjacency bitmap words are too large.
83  *
84  * And, we want to do the search in order of increasing maximum
85  * hamming weight.  This is because in practice optimal solutions tend
86  * to have low hamming weight, and having found a reasonable solution
87  * early allows us to eliminate a lot of candidates without doing the
88  * full LP.
89  */
90
91 typedef uint32_t AdjWord;
92 #define PRADJ "08"PRIx32
93
94 #define FOR_BITS(j,m) for (j=0, j##bit=1; j < (m); j++, j##bit<<=1)
95
96 static int n, m, maxhamweight;
97 static AdjWord *adjmatrix;
98 static AdjWord adjall;
99
100 static double best;
101 static glp_prob *best_prob;
102 static AdjWord *best_adjmatrix;
103
104 static int n_max_frags, m_max_frags;
105 static int *weight;
106
107 static unsigned printcounter;
108
109 static void iterate(void);
110 static void iterate_recurse(int i, AdjWord min);
111 static bool preconsider_ok(int nwords, bool doprint);
112 static bool maxhamweight_ok(void);
113 static void optimise(bool doprint);
114
115 static void progress_eol(void) {
116   fprintf(stderr,"        \r");
117   fflush(stderr);
118 }
119
120 static void set_best(double new_best) {
121   best = new_best;
122   /*
123    * When computing n_max_frags, we want to set a value that will skip
124    * anything that won't provide strictly better solutions.  So we
125    * want
126    *             frags <      n / best
127    *                        _          _
128    *   <=>       frags <   |  n / best  |
129    *                        _          _
130    *   <=>       frags <=  |  n / best  | - 1
131    */
132   n_max_frags = ceil(n / best) - 1;
133   m_max_frags = ceil(m / best) - 1;
134 }
135
136 /*----- multicore support -----*/
137
138 /*
139  * Multicore protocol
140  *
141  * We fork into:
142  *   - master (parent)
143  *   - generator
144  *   - ncpu workers
145  *
146  * ipc facilities:
147  *   - one pipe ("work") from generator to workers
148  *   - ever-extending file ("bus") containing new "best" values
149  *   - one file for each worker giving maxhamweight and adjmatrix for best
150  *
151  * generator runs iterate_recurse to a certain depth and writes the
152  * candidates to a pipe
153  *
154  * workers read candidates from the pipe and resume iterate_recurse
155  * halfway through the recursion
156  *
157  * whenever a worker does a doprint, it checks the bus for new best
158  * value; actual best values are appended
159  *
160  * master waits for generator and all workers to finish and then
161  * runs optimise() for each worker's best, then prints
162  */ 
163
164 static int ncpus = 0, multicore_iteration_boundary = INT_MAX;
165
166 static int mc_bus, mc_work[2];
167 static off_t mc_bus_read;
168
169 typedef struct {
170   int w;
171   FILE *results;
172   pid_t pid;
173 } Worker;
174 static Worker *mc_us;
175 static bool mc_am_generator;
176
177 static void multicore_check_for_new_best(void);
178
179 #define MAX_NIOVS 4
180 static AdjWord mc_iter_min;
181 static int mc_niovs;
182 static size_t mc_iovlen;
183 static struct iovec mc_iov[MAX_NIOVS];
184
185 #define IOV0 (mc_niovs = mc_iovlen = 0)
186
187 #define IOV(obj, count) ({                              \
188     assert(mc_niovs < MAX_NIOVS);                       \
189     mc_iov[mc_niovs].iov_base = &(obj);                 \
190     mc_iov[mc_niovs].iov_len = sizeof(obj) * (count);   \
191     mc_iovlen += mc_iov[mc_niovs].iov_len;              \
192     mc_niovs++;                                         \
193   })
194
195 static void mc_rwvsetup_outer(void) {
196   IOV0;
197   IOV(maxhamweight, 1);
198   IOV(mc_iter_min, 1);
199   IOV(*adjmatrix, multicore_iteration_boundary);
200   IOV(*weight, m);
201 }
202
203 static void mc_rwvsetup_full(void) {
204   IOV0;
205   IOV(*adjmatrix, n);
206 }
207
208 static void vlprintf(const char *fmt, va_list al) {
209   vfprintf(stderr,fmt,al);
210   progress_eol();
211 }
212
213 static void LPRINTF(const char *fmt, ...) {
214   va_list al;
215   va_start(al,fmt);
216   vlprintf(fmt,al);
217   va_end(al);
218 }
219
220 static void mc_awaitpid(int wnum, pid_t pid) {
221   LPRINTF("master awaiting %2d [%ld]",wnum,(long)pid);
222   int status;
223   pid_t got = waitpid(pid, &status, 0);
224   assert(got == pid);
225   if (status) {
226     fprintf(stderr,"\nFAILED SUBPROC %2d [%ld] %d\n",
227             wnum, (long)pid, status);
228     exit(-1);
229   }
230 }
231
232 static void multicore_outer_iteration(int i, AdjWord min) {
233   static unsigned check_counter;
234
235   assert(i == multicore_iteration_boundary);
236   mc_iter_min = min;
237   mc_rwvsetup_outer();
238   ssize_t r = writev(mc_work[1], mc_iov, mc_niovs);
239   assert(r == mc_iovlen);
240   /* effectively, this writev arranges to transfers control
241    * to some worker's instance of iterate_recurse via mc_iterate_worker */
242
243   if (!(check_counter++ & 0xff))
244     multicore_check_for_new_best();
245 }
246
247 static void mc_iterate_worker(void) {
248   for (;;) {
249     mc_rwvsetup_outer();
250     ssize_t r = readv(mc_work[0], mc_iov, mc_niovs);
251     if (r == 0) break;
252     assert(r == mc_iovlen);
253     
254     bool ok = maxhamweight_ok();
255     if (!ok) continue;
256
257     ok = preconsider_ok(multicore_iteration_boundary, 1);
258     progress_eol();
259     if (!ok) continue;
260
261     /* stop iterate_recurse from trying to run multicore_outer_iteration */
262     int mc_org_it_bound = multicore_iteration_boundary;
263     multicore_iteration_boundary = INT_MAX;
264     iterate_recurse(mc_org_it_bound, mc_iter_min);
265     multicore_iteration_boundary = mc_org_it_bound;
266   }
267   if (best_adjmatrix) {
268     LPRINTF("worker %2d reporting",mc_us->w);
269     adjmatrix = best_adjmatrix;
270     mc_rwvsetup_full();
271     ssize_t r = writev(fileno(mc_us->results), mc_iov, mc_niovs);
272     assert(r == mc_iovlen);
273   }
274   LPRINTF("worker %2d ending",mc_us->w);
275   exit(0);
276 }
277
278 static void multicore(void) {
279   Worker *mc_workers;
280   int w;
281   pid_t genpid;
282
283   multicore_iteration_boundary = n / 2;
284
285   FILE *busf = tmpfile();  assert(busf);
286   mc_bus = fileno(busf);
287   int r = fcntl(mc_bus, F_GETFL);  assert(r >= 0);
288   r |= O_APPEND;
289   r = fcntl(mc_bus, F_SETFL, r);  assert(r >= 0);
290
291   r = pipe(mc_work);  assert(!r);
292
293   mc_workers = xmalloc(sizeof(*mc_workers) * ncpus);
294   for (w=0; w<ncpus; w++) {
295     mc_workers[w].w = w;
296     mc_workers[w].results = tmpfile();  assert(mc_workers[w].results);
297     mc_workers[w].pid = fork();  assert(mc_workers[w].pid >= 0);
298     if (!mc_workers[w].pid) {
299       mc_us = &mc_workers[w];
300       close(mc_work[1]);
301       LPRINTF("worker %2d running", w);
302       mc_iterate_worker();
303       exit(0);
304     }
305   }
306
307   close(mc_work[0]);
308
309   genpid = fork();  assert(genpid >= 0);
310   if (!genpid) {
311     mc_am_generator = 1;
312     LPRINTF("generator running");
313     iterate();
314     exit(0);
315   }
316
317   close(mc_work[1]);
318   mc_awaitpid(-1, genpid);
319   for (w=0; w<ncpus; w++)
320     mc_awaitpid(w, mc_workers[w].pid);
321
322   for (w=0; w<ncpus; w++) {
323     mc_rwvsetup_full();
324     LPRINTF("reading report from %2d",w);
325     ssize_t sr = preadv(fileno(mc_workers[w].results), mc_iov, mc_niovs, 0);
326     if (!sr) continue;
327     LPRINTF("got report from %2d",w);
328     maxhamweight = 0;
329     optimise(1);
330   }
331 }
332
333 static void multicore_check_for_new_best(void) {
334   if (!(mc_us || mc_am_generator))
335     return;
336
337   for (;;) {
338     double msg;
339     ssize_t got = pread(mc_bus, &msg, sizeof(msg), mc_bus_read);
340     if (!got) break;
341     assert(got == sizeof(msg));
342     if (msg > best)
343       set_best(msg);
344     mc_bus_read += sizeof(msg);
345   }
346 }
347
348 static void multicore_found_new_best(void) {
349   if (!mc_us)
350     return;
351
352   if (mc_us /* might be master */) fprintf(stderr,"    w%-2d ",mc_us->w);
353   ssize_t wrote = write(mc_bus, &best, sizeof(best));
354   assert(wrote == sizeof(best));
355 }
356
357 /*----- end of multicore support -----*/
358
359 static AdjWord *xalloc_adjmatrix(void) {
360   return xmalloc(sizeof(*adjmatrix)*n);
361 }
362
363 static void prep(void) {
364   adjall = ~((~(AdjWord)0) << m);
365   adjmatrix = xalloc_adjmatrix();
366   glp_term_out(GLP_OFF);
367   setlinebuf(stderr);
368   weight = calloc(sizeof(*weight), m);  assert(weight);
369   n_max_frags = INT_MAX;
370   m_max_frags = INT_MAX;
371 }
372
373 #if 0
374 static AdjWord one_adj_bit(int bitnum) {
375   return (AdjWord)1 << bitnum;
376 }
377 #endif
378
379 static int count_set_adj_bits(AdjWord w) {
380   int j, total = 0;
381   AdjWord jbit;
382   FOR_BITS(j,m)
383     total += !!(w & jbit);
384   return total;
385 }
386
387 #define PRINTF(...) if (!doprint) ; else fprintf(stderr, __VA_ARGS__)
388
389 static int totalfrags;
390
391 static bool maxhamweight_ok(void) {
392   return maxhamweight <= m_max_frags;
393 }
394
395 static bool preconsider_ok(int nwords, bool doprint) {
396   int i;
397
398   PRINTF("%2d ", maxhamweight);
399
400   bool had_max = 0;
401   for (i=0, totalfrags=0; i<nwords; i++) {
402     int frags = count_set_adj_bits(adjmatrix[i]);
403     PRINTF("%"PRADJ" ", adjmatrix[i]);
404     if (frags > m_max_frags) {
405       PRINTF(" too fine");
406       goto out;
407     }
408     had_max += (frags >= maxhamweight);
409     totalfrags += frags;
410   }
411   if (!had_max) {
412     /* Skip this candidate as its max hamming weight is lower than
413      * we're currently looking for (which means we must have done it
414      * already).  (The recursive iteration ensures that none of the
415      * words have more than the max hamming weight.) */
416     PRINTF(" nomaxham");
417     goto out;
418   }
419   return 1;
420
421  out:
422   return 0;
423 }
424
425 static void optimise(bool doprint) {
426   /* Consider the best answer (if any) for a given adjacency matrix */
427   glp_prob *prob = 0;
428   int i, j;
429   AdjWord jbit;
430
431   /*
432    * Up to a certain point, optimise() can be restarted.  We use this
433    * to go back and print the debugging output if it turns out that we
434    * have an interesting case.  The HAVE_PRINTED macro does this: its
435    * semantics are to go back in time and make sure that we have
436    * printed the description of the search case.
437    */
438 #define HAVE_PRINTED ({                                         \
439       if (!doprint) { doprint = 1; goto retry_with_print; }     \
440     })
441  retry_with_print:
442   if (prob) {
443     glp_delete_prob(prob);
444     prob = 0;
445   }
446
447   bool ok = preconsider_ok(n, doprint);
448   if (!ok)
449     goto out;
450
451   /*
452    * We formulate our problem as an LP problem as follows.
453    * In this file "n" and "m" are the matchstick numbers.
454    *
455    * Each set bit in the adjacency matrix corresponds to taking a
456    * fragment from old match i and making it part of new match j.
457    *
458    * The structural variables (columns) are:
459    *   x_minimum        minimum size of any fragment (bounded below by 0)
460    *   x_morefrag_i_j   the amount by which the size of the fragment
461    *                     i,j exceeds the minimum size (bounded below by 0)
462    *
463    * The auxiliary variables (rows) are:
464    *   x_total_i       total length for each input match (fixed variable)
465    *   x_total_j       total length for each output match (fixed variable)
466    *
467    * The objective function is simply
468    *   maximise x_minimum
469    *
470    * We use X_ and Y_ to refer to GLPK's (1-based) column and row indices.
471    * ME_ refers to entries in the list of constraint matrix elements
472    * which we build up as we go.
473    */
474
475   prob = glp_create_prob();
476
477   int Y_totals_i = glp_add_rows(prob, n);
478   int Y_totals_j = glp_add_rows(prob, m);
479   int X_minimum = glp_add_cols(prob, 1);
480
481   {
482   int next_matrix_entry = 1; /* wtf GLPK! */
483   int matrix_entries_size = next_matrix_entry + n + m + totalfrags*2;
484   double matrix_entries[matrix_entries_size];
485   int matrix_entries_XY[2][matrix_entries_size];
486
487 #define ADD_MATRIX_ENTRY(Y,X) ({                        \
488       assert(next_matrix_entry < matrix_entries_size);  \
489       matrix_entries_XY[0][next_matrix_entry] = (X);    \
490       matrix_entries_XY[1][next_matrix_entry] = (Y);    \
491       matrix_entries[next_matrix_entry] = 0;            \
492       next_matrix_entry++;                              \
493     })
494
495   int ME_totals_i__minimum = next_matrix_entry;
496   for (i=0; i<n; i++) ADD_MATRIX_ENTRY(Y_totals_i+i, X_minimum);
497
498   int ME_totals_j__minimum = next_matrix_entry;
499   for (j=0; j<m; j++) ADD_MATRIX_ENTRY(Y_totals_j+j, X_minimum);
500
501   /* \forall_i x_total_i = m */
502   /* \forall_i x_total_j = n */
503   for (i=0; i<n; i++) glp_set_row_bnds(prob, Y_totals_i+i, GLP_FX, m,m);
504   for (j=0; j<m; j++) glp_set_row_bnds(prob, Y_totals_j+j, GLP_FX, n,n);
505
506   /* x_minimum >= 0 */
507   glp_set_col_bnds(prob, X_minimum, GLP_LO, 0, 0);
508   glp_set_col_name(prob, X_minimum, "minimum");
509
510   /* objective is maximising x_minimum */
511   glp_set_obj_dir(prob, GLP_MAX);
512   glp_set_obj_coef(prob, X_minimum, 1);
513
514   for (i=0; i<n; i++) {
515     for (j=0, jbit=1; j<m; j++, jbit<<=1) {
516       if (!(adjmatrix[i] & jbit))
517         continue;
518       /* x_total_i += x_minimum */
519       /* x_total_j += x_minimum */
520       matrix_entries[ ME_totals_i__minimum + i ] ++;
521       matrix_entries[ ME_totals_j__minimum + j ] ++;
522
523       /* x_morefrag_i_j >= 0 */
524       int X_morefrag_i_j = glp_add_cols(prob, 1);
525       glp_set_col_bnds(prob, X_morefrag_i_j, GLP_LO, 0, 0);
526       if (doprint) {
527         char buf[255];
528         snprintf(buf,sizeof(buf),"mf %d,%d",i,j);
529         glp_set_col_name(prob, X_morefrag_i_j, buf);
530       }
531
532       /* x_total_i += x_morefrag_i_j */
533       /* x_total_j += x_morefrag_i_j */
534       int ME_totals_i__mf_i_j = ADD_MATRIX_ENTRY(Y_totals_i+i, X_morefrag_i_j);
535       int ME_totals_j__mf_i_j = ADD_MATRIX_ENTRY(Y_totals_j+j, X_morefrag_i_j);
536       matrix_entries[ME_totals_i__mf_i_j] = 1;
537       matrix_entries[ME_totals_j__mf_i_j] = 1;
538     }
539   }
540
541   assert(next_matrix_entry == matrix_entries_size);
542
543   glp_load_matrix(prob, matrix_entries_size-1,
544                   matrix_entries_XY[1], matrix_entries_XY[0],
545                   matrix_entries);
546
547   int r = glp_simplex(prob, NULL);
548   PRINTF(" glp=%d", r);
549
550 #define OKERR(e) \
551   case e: PRINTF(" " #e ); goto out;
552 #define BADERR(e) \
553   case e: HAVE_PRINTED; printf(" " #e " CRASHING\n"); exit(-1);
554 #define DEFAULT \
555   default: HAVE_PRINTED; printf(" ! CRASHING\n"); exit(-1);
556
557   switch (r) {
558   OKERR(GLP_ESING);
559   OKERR(GLP_ECOND);
560   OKERR(GLP_EBOUND);
561   OKERR(GLP_EFAIL);
562   OKERR(GLP_ENOPFS);
563   OKERR(GLP_ENODFS);
564   BADERR(GLP_EBADB);
565   BADERR(GLP_EOBJLL);
566   BADERR(GLP_EOBJUL);
567   BADERR(GLP_EITLIM);
568   BADERR(GLP_ETMLIM);
569   BADERR(GLP_EINSTAB);
570   BADERR(GLP_ENOCVG);
571   case 0: break;
572   DEFAULT;
573   }
574
575   r = glp_get_status(prob);
576   PRINTF(" status=%d", r);
577
578   switch (r) {
579   OKERR(GLP_NOFEAS);
580   OKERR(GLP_UNDEF);
581   BADERR(GLP_FEAS);
582   BADERR(GLP_INFEAS);
583   BADERR(GLP_UNBND);
584   case GLP_OPT: break;
585   DEFAULT;
586   }
587
588   double got = glp_get_obj_val(prob);
589   PRINTF("  %g", got);
590   if (got <= best)
591     goto out;
592
593   HAVE_PRINTED;
594
595   set_best(got);
596   multicore_found_new_best();
597
598   if (best_prob) glp_delete_prob(best_prob);
599   best_prob = prob;
600
601   free(best_adjmatrix);
602   best_adjmatrix = xalloc_adjmatrix();
603   memcpy(best_adjmatrix, adjmatrix, sizeof(*adjmatrix)*n);
604
605   PRINTF(" BEST        \n");
606   return;
607
608   }
609  out:
610   if (prob)
611     glp_delete_prob(prob);
612   if (doprint) progress_eol();
613   if (doprint) multicore_check_for_new_best();
614 }
615
616 static void iterate_recurse(int i, AdjWord min) {
617   int j;
618   AdjWord jbit;
619
620   if (i >= n) {
621     printcounter++;
622     optimise(!(printcounter & 0xfff));
623     return;
624   }
625   if (i >= multicore_iteration_boundary) {
626     multicore_outer_iteration(i, min);
627     return;
628   }
629   for (adjmatrix[i] = min;
630        ;
631        adjmatrix[i]++) {
632     if (count_set_adj_bits(adjmatrix[i]) > maxhamweight)
633       goto again;
634     if (i == 0 && (adjmatrix[i] & (1+adjmatrix[i])))
635       goto again;
636
637     FOR_BITS(j,m)
638       if (adjmatrix[i] & jbit)
639         weight[j]++;
640     for (int j = 0; j < m; j++)
641       if (weight[j] >= n_max_frags)
642         goto takeout;
643
644     iterate_recurse(i+1, adjmatrix[i]);
645
646   takeout:
647     FOR_BITS(j,m)
648       if (adjmatrix[i] & jbit)
649         weight[j]--;
650
651   again:
652     if (adjmatrix[i] == adjall)
653       return;
654   }
655 }
656
657 static void iterate(void) {
658   for (maxhamweight=1; maxhamweight<=m; maxhamweight++) {
659     if (!maxhamweight_ok())
660       continue;
661
662     iterate_recurse(0, 1);
663   }
664 }
665
666 static void report(void) {
667   fprintf(stderr, "\n");
668   if (best_prob) {
669     double min = glp_get_obj_val(best_prob);
670     double a[n][m];
671     int i, j, cols;
672     for (i = 0; i < n; i++)
673       for (j = 0; j < m; j++)
674         a[i][j] = 0;
675     cols = glp_get_num_cols(best_prob);
676     for (i = 1; i <= cols; i++) {
677       int x, y;
678       if (2 != sscanf(glp_get_col_name(best_prob, i), "mf %d,%d", &x, &y))
679         continue;
680       a[x][y] = min + glp_get_col_prim(best_prob, i);
681     }
682     printf("%d into %d: min fragment %g   [%s]\n", n, m, min, VERSION);
683     for (i = 0; i < n; i++) {
684       for (j = 0; j < m; j++) {
685         if (a[i][j])
686           printf(" %9.3f", a[i][j]);
687         else
688           printf("          ");
689       }
690       printf("\n");
691     }
692   }
693   if (ferror(stdout) || fclose(stdout)) { perror("stdout"); exit(-1); }
694 }
695  
696 int main(int argc, char **argv) {
697   int opt;
698   while ((opt = getopt(argc,argv,"j:")) >= 0) {
699     switch (opt) {
700     case 'j': ncpus = atoi(optarg); break;
701     case '+': assert(!"bad option");
702     default: abort();
703     }
704   }
705   argc -= optind-1;
706   argv += optind-1;
707   assert(argc==3);
708   n = atoi(argv[1]);
709   m = atoi(argv[2]);
710
711   prep();
712
713   if (ncpus) multicore();
714   else iterate();
715
716   report();
717   return 0;
718 }