polypath.c

   1 /* polypath
   2  * send/receive module for secnet
   3  * for multi-route setups */
   4 /*
   5  * This file is part of secnet.
   6  * See README for full list of copyright holders.
   7  *
   8  * secnet is free software; you can redistribute it and/or modify it
   9  * under the terms of the GNU General Public License as published by
  10  * the Free Software Foundation; either version d of the License, or
  11  * (at your option) any later version.
  12  *
  13  * secnet is distributed in the hope that it will be useful, but
  14  * WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU General Public License
  19  * version 3 along with secnet; if not, see
  20  * https://www.gnu.org/licenses/gpl.html.
  21  */
  22
  23 #include "secnet.h"
  24 #include "util.h"
  25 #include "unaligned.h"
  26 #include "comm-common.h"
  27
  28 #include <adns.h>
  29 #include <ctype.h>
  30
  31 #ifdef CONFIG_IPV6
  32
  33 static comm_sendmsg_fn polypath_sendmsg;
  34
  35 struct interf {
  36     char *name; /* from malloc */
  37     struct udpsocks socks;
  38     bool_t experienced_xmit_noaf[MAX_AF+1];
  39     LIST_ENTRY(interf) entry;
  40 };
  41
  42 struct polypath {
  43     struct udpcommon uc;
  44     int max_interfs;
  45     const char *const *ifname_pats;
  46     const char *const *monitor_command;
  47     bool_t permit_loopback;
  48     LIST_HEAD(interf_list, interf) interfs;
  49     struct buffer_if lbuf;
  50     int monitor_fd;
  51     pid_t monitor_pid;
  52     int privsep_incoming_fd;
  53     int privsep_ipcsock_fd;
  54 };
  55
  56 static void polypath_phase_shutdown(void *sst, uint32_t newphase);
  57
  58 #define LG 0, st->uc.cc.cl.description, &st->uc.cc.loc
  59
  60 static const char *const default_loopback_ifname_pats[] = {
  61     "!lo", 0
  62 };
  63 static const char *const default_ifname_pats[] = {
  64     "!tun*","!tap*","!sl*","!userv*", "*", 0
  65 };
  66
  67 static const char *const default_monitor_command[] = {
  68 #if __linux__
  69     DATAROOTDIR "/secnet/" "polypath-interface-monitor-linux", 0
  70 #else
  71     0
  72 #endif
  73 };
  74
  75 static const char *polypath_addr_to_string(void *commst,
  76                                            const struct comm_addr *ca)
  77 {
  78     static char sbuf[100];
  79
  80     snprintf(sbuf, sizeof(sbuf), "polypath:%s",
  81              iaddr_to_string(&ca->ia));
  82     return sbuf;
  83 }
  84
  85 static bool_t ifname_search_pats(struct polypath *st, struct cloc loc,
  86                                  const char *ifname, char *want_io,
  87                                  const char *const *pats) {
  88     /* Returns True iff we found a list entry, in which case *want_io
  89      * is set to the sense of that entry.  Otherwise *want_io is set
  90      * to the sense of the last entry, or unchanged if there were no pats. */
  91     if (!pats)
  92         return False;
  93     const char *const *pati;
  94     for (pati=pats; *pati; pati++) {
  95         const char *pat=*pati;
  96         if (*pat=='!' || *pat=='+') { *want_io=*pat; pat++; }
  97         else if (*pat=='*' || isalnum((unsigned char)*pat)) { *want_io='+'; }
  98         else cfgfatal(loc,"polypath","invalid interface name pattern `%s'",pat);
  99         int match=fnmatch(pat,ifname,0);
 100         if (match==0) return True;
 101         if (match!=FNM_NOMATCH)
 102             cfgfatal(loc,"polypath","fnmatch failed! (pattern `%s')",pat);
 103     }
 104     return False;
 105 }
 106
 107 static char ifname_wanted(struct polypath *st, struct cloc loc,
 108                           const char *ifname) {
 109     char want='!'; /* pretend an empty cfg ends with !<doesn'tmatch> */
 110     if (ifname_search_pats(st,loc,ifname,&want, st->ifname_pats))
 111         return want;
 112     if (want!='!') /* last pattern was positive, do not search default */
 113         return '!';
 114     if (!st->permit_loopback &&
 115         ifname_search_pats(st,loc,ifname,&want, default_loopback_ifname_pats))
 116         return want;
 117     if (ifname_search_pats(st,loc,ifname,&want, default_ifname_pats))
 118         return want;
 119     abort();
 120 }
 121
 122 static int polypath_beforepoll(void *state, struct pollfd *fds, int *nfds_io,
 123                                int *timeout_io)
 124 {
 125     struct polypath *st=state;
 126     BEFOREPOLL_WANT_FDS(1);
 127     fds[0].fd=st->monitor_fd;
 128     fds[0].events=POLLIN;
 129     return 0;
 130 }
 131
 132 static inline bool_t matches32(uint32_t word, uint32_t prefix, int prefixlen)
 133 {
 134     assert(prefixlen>0);
 135     assert(prefixlen<=32);
 136     uint32_t mask = ~(((uint32_t)1 << (32-prefixlen)) - 1);
 137     assert(!(prefix & ~mask));
 138     return (word & mask) == prefix;
 139 }
 140
 141 /* These macros expect
 142  *    bad_fn_type *const bad;
 143  *    void *badctx;
 144  * and
 145  *   out:
 146  */
 147 #define BAD(m)     do{ bad(st,badctx,M_WARNING,m,0);  goto out; }while(0)
 148 #define BADE(m,ev) do{ bad(st,badctx,M_WARNING,m,ev); goto out; }while(0)
 149 typedef void bad_fn_type(struct polypath *st, void *badctx,
 150                          int mclass, const char* m, int ev);
 151
 152 typedef void polypath_ppml_callback_type(struct polypath *st,
 153           bad_fn_type *bad, void *badctx,
 154           bool_t add, char want,
 155           const char *ifname, const char *ifaddr,
 156           const union iaddr *ia, int fd /* -1 if none yet */);
 157
 158 struct ppml_bad_ctx {
 159     const char *orgl;
 160     char *undospace;
 161 };
 162
 163 static void ppml_bad(struct polypath *st, void *badctx,
 164                      int mclass, const char *m, int ev)
 165 {
 166     struct ppml_bad_ctx *bc=badctx;
 167     if (bc->undospace)
 168         *(bc->undospace)=' ';
 169     lg_perror(LG,mclass,ev,
 170               "error processing polypath state change: %s"
 171               " (while processing `%s')",
 172               m,bc->orgl);
 173 }
 174
 175 static void polypath_process_monitor_line(struct polypath *st, char *orgl,
 176                                       polypath_ppml_callback_type *callback)
 177     /* always calls callback with fd==-1 */
 178 {
 179     struct udpcommon *uc=&st->uc;
 180     char *l=orgl;
 181     bad_fn_type (*const bad)=ppml_bad;
 182     struct ppml_bad_ctx badctx[1]={{
 183             .orgl=orgl,
 184             .undospace=0
 185         }};
 186
 187     bool_t add;
 188     int c=*l++;
 189     if (c=='+') add=True;
 190     else if (c=='-') add=False;
 191     else BAD("bad +/-");
 192
 193     int proto;
 194     c=*l++;
 195     if (c=='4') proto=AF_INET;
 196     else if (c=='6') proto=AF_INET6;
 197     else BAD("bad proto");
 198
 199     char *space=strchr(l,' ');
 200     if (!space) BAD("no first space");
 201     const char *ifname=space+1;
 202
 203     space=strchr(ifname,' ');
 204     if (!space) BAD("no second space");
 205     const char *ifaddr=space+1;
 206     *space=0;
 207     badctx->undospace=space;
 208
 209     union iaddr ia;
 210     FILLZERO(ia);
 211     socklen_t salen=sizeof(ia);
 212     int r=adns_text2addr(ifaddr,uc->port, adns_qf_addrlit_ipv4_quadonly,
 213                          &ia.sa, &salen);
 214     assert(r!=ENOSPC);
 215     if (r) BADE("adns_text2addr",r);
 216     if (ia.sa.sa_family!=proto) BAD("address family mismatch");
 217
 218 #define DONT(m) do{                                                     \
 219         if (add)                                                        \
 220             lg_perror(LG,M_INFO,0,"ignoring %s [%s]: %s",ifname,ifaddr,m); \
 221         goto out;                                                       \
 222     }while(0)
 223
 224     char want=ifname_wanted(st,st->uc.cc.loc,ifname);
 225     if (want=='!') DONT("unwanted interface name");
 226
 227     switch (ia.sa.sa_family) {
 228     case AF_INET6: {
 229         const struct in6_addr *i6=&ia.sin6.sin6_addr;
 230 #define DONTKIND(X,m) \
 231         if (IN6_IS_ADDR_##X(i6)) DONT("IPv6 address is " m)
 232         DONTKIND(UNSPECIFIED, "unspecified");
 233         DONTKIND(MULTICAST  , "multicast"  );
 234         DONTKIND(LINKLOCAL  , "link local" );
 235         DONTKIND(SITELOCAL  , "site local" );
 236         DONTKIND(V4MAPPED   , "v4-mapped"  );
 237         if (!st->permit_loopback)
 238             DONTKIND(LOOPBACK   , "loopback"   );
 239 #undef DONTKIND
 240 #define DONTMASK(w7x,w6x,prefixlen,m)                                   \
 241         if (matches32(get_uint32(i6->s6_addr),                          \
 242                       ((uint32_t)0x##w7x << 16) | (uint32_t)0x##w6x,    \
 243                       prefixlen))                                       \
 244             DONT("IPv6 address is " m)
 245         DONTMASK( 100,   0,  8, "Discard-Only (RFC6666)");
 246         DONTMASK(2001,   0, 23, "in IETF protocol block (RFC2928)");
 247         DONTMASK(fc00,   0,  7, "Uniqe Local unicast (RFC4193)");
 248 #undef DONTMASK
 249         break;
 250     }
 251     case AF_INET: {
 252         const uint32_t i4=htonl(ia.sin.sin_addr.s_addr);
 253         if (i4==INADDR_ANY) DONT("IPv4 address is any/unspecified");
 254         if (i4==INADDR_BROADCAST) DONT("IPv4 address is all hosts broadcast");
 255 #define DONTMASK(b3,b2,b1,b0,prefixlen,m) do{                           \
 256             const uint8_t prefixbytes[4] = { (b3),(b2),(b1),(b0) };     \
 257             if (matches32(i4,get_uint32(prefixbytes),prefixlen))        \
 258                 DONT("IPv4 address is " m);                             \
 259         }while(0)
 260         DONTMASK(169,254,0,0, 16, "link local");
 261         DONTMASK(224,  0,0,0,  4, "multicast");
 262         DONTMASK(192,  0,0,0, 24, "in IETF protocol block (RFC6890)");
 263         DONTMASK(240,  0,0,0,  4, "in reserved addressing block (RFC1112)");
 264         if (!st->permit_loopback)
 265             DONTMASK(127,  0,0,0,  8, "loopback");
 266 #undef DONTMASK
 267         break;
 268     }
 269     default:
 270         abort();
 271     }
 272
 273 #undef DONT
 274
 275     /* OK, process it */
 276     callback(st, bad,badctx, add,want, ifname,ifaddr,&ia,-1);
 277
 278  out:;
 279 }
 280
 281 static void dump_pria(struct polypath *st, struct interf_list *interfs,
 282                       const char *ifname, char want)
 283 {
 284 #ifdef POLYPATH_DEBUG
 285     struct interf *interf;
 286     if (ifname)
 287         lg_perror(LG,M_DEBUG,0, "polypath record ifaddr `%s' (%c)",
 288                   ifname, want);
 289     LIST_FOREACH(interf, interfs, entry) {
 290         lg_perror(LG,M_DEBUG,0, "  polypath interface `%s', nsocks=%d",
 291                   interf->name, interf->socks.n_socks);
 292         int i;
 293         for (i=0; i<interf->socks.n_socks; i++) {
 294             struct udpsock *us=&interf->socks.socks[i];
 295             lg_perror(LG,M_DEBUG,0, "    polypath sock fd=%d addr=%s",
 296                       us->fd, iaddr_to_string(&us->addr));
 297         }
 298     }
 299 #endif
 300 }
 301
 302 static bool_t polypath_make_socket(struct polypath *st,
 303                                    bad_fn_type *bad, void *badctx,
 304                                    struct udpsock *us, const char *ifname)
 305     /* on error exit has called bad; might leave us->fd as -1 */
 306 {
 307     assert(us->fd==-1);
 308
 309     bool_t ok=udp_make_socket(&st->uc,us,M_WARNING);
 310     if (!ok) BAD("unable to set up socket");
 311     int r=setsockopt(us->fd,SOL_SOCKET,SO_BINDTODEVICE,
 312                      ifname,strlen(ifname)+1);
 313     if (r) BADE("setsockopt(,,SO_BINDTODEVICE,)",errno);
 314     return True;
 315
 316  out:
 317     return False;
 318 }
 319
 320 static void polypath_record_ifaddr(struct polypath *st,
 321                                    bad_fn_type *bad, void *badctx,
 322                                    bool_t add, char want,
 323                                    const char *ifname,
 324                                    const char *ifaddr,
 325                                    const union iaddr *ia, int fd)
 326 {
 327     struct udpcommon *uc=&st->uc;
 328     struct interf *interf=0;
 329     int max_interfs;
 330     struct udpsock *us=0;
 331
 332     struct interf_list *interfs;
 333     switch (want) {
 334     case '+':  interfs=&st->interfs;            max_interfs=st->max_interfs;
 335     default:   fatal("polypath: got bad want (%#x, %s)", want, ifname);
 336     }
 337
 338     dump_pria(st,interfs,ifname,want);
 339
 340     int n_ifs=0;
 341     LIST_FOREACH(interf,interfs,entry) {
 342         if (!strcmp(interf->name,ifname))
 343             goto found_interf;
 344         n_ifs++;
 345     }
 346     /* not found */
 347     if (n_ifs==max_interfs) BAD("too many interfaces");
 348     interf=malloc(sizeof(*interf));
 349     if (!interf) BADE("malloc for new interface",errno);
 350     interf->name=0;
 351     interf->socks.n_socks=0;
 352     FILLZERO(interf->experienced_xmit_noaf);
 353     LIST_INSERT_HEAD(interfs,interf,entry);
 354     interf->name=strdup(ifname);
 355     udp_socks_register(&st->uc,&interf->socks,interf->name);
 356     if (!interf->name) BADE("strdup interface name",errno);
 357  found_interf:
 358
 359     if (add) {
 360         if (interf->socks.n_socks == UDP_MAX_SOCKETS)
 361             BAD("too many addresses on this interface");
 362         struct udpsock *us=&interf->socks.socks[interf->socks.n_socks];
 363         us->fd=-1;
 364         COPY_OBJ(us->addr,*ia);
 365         if (fd<0) {
 366             bool_t ok=polypath_make_socket(st,bad,badctx, us,ifname);
 367             if (!ok) goto out;
 368         } else {
 369             bool_t ok=udp_import_socket(uc,us,M_WARNING,fd);
 370             if (!ok) goto out;
 371             fd=-1;
 372         }
 373         interf->socks.n_socks++;
 374         lg_perror(LG,M_INFO,0,"using %s %s",ifname,
 375                   iaddr_to_string(&us->addr));
 376         us=0; /* do not destroy this socket during `out' */
 377     } else {
 378         int i;
 379         for (i=0; i<interf->socks.n_socks; i++)
 380             if (iaddr_equal(&interf->socks.socks[i].addr,ia,True))
 381                 goto address_remove_found;
 382         bad(st,badctx,M_DEBUG,"address to remove not found",0);
 383         goto out;
 384     address_remove_found:
 385         lg_perror(LG,M_INFO,0,"removed %s %s",ifname,
 386                   iaddr_to_string(&interf->socks.socks[i].addr));
 387         udp_destroy_socket(&st->uc,&interf->socks.socks[i]);
 388         interf->socks.socks[i]=
 389             interf->socks.socks[--interf->socks.n_socks];
 390     }
 391
 392  out:
 393     if (us)
 394         udp_destroy_socket(uc,us);
 395     if (fd>=0)
 396         close(fd);
 397     if (interf && !interf->socks.n_socks) {
 398         udp_socks_deregister(&st->uc,&interf->socks);
 399         LIST_REMOVE(interf,entry);
 400         free(interf->name);
 401         free(interf);
 402     }
 403
 404     dump_pria(st,interfs,0,0);
 405 }
 406
 407 static void subproc_problem(struct polypath *st,
 408                             enum async_linebuf_result alr, const char *emsg)
 409 {
 410     int status;
 411     assert(st->monitor_pid);
 412
 413     pid_t gotpid=waitpid(st->monitor_pid,&status,WNOHANG);
 414     if (gotpid==st->monitor_pid) {
 415         st->monitor_pid=0;
 416         lg_exitstatus(LG,M_FATAL,status,"interface monitor");
 417     } else if (gotpid<0)
 418         lg_perror(LG,M_ERR,errno,"unable to reap interface monitor");
 419     else
 420         assert(gotpid==0);
 421
 422     if (alr==async_linebuf_eof)
 423         lg_perror(LG,M_FATAL,0,"unexpected EOF from interface monitor");
 424     else
 425         lg_perror(LG,M_FATAL,0,"bad output from interface monitor: %s",emsg);
 426     assert(!"not reached");
 427 }
 428
 429 /* Used in non-privsep case, and in privsep child */
 430 static void afterpoll_monitor(struct polypath *st, struct pollfd *fd,
 431                               polypath_ppml_callback_type *callback)
 432 {
 433     enum async_linebuf_result alr;
 434     const char *emsg;
 435
 436     while ((alr=async_linebuf_read(fd,&st->lbuf,&emsg)) == async_linebuf_ok)
 437         polypath_process_monitor_line(st,st->lbuf.base,callback);
 438
 439     if (alr==async_linebuf_nothing)
 440         return;
 441
 442     subproc_problem(st,alr,emsg);
 443 }
 444
 445 /* Used in non-privsep case only - glue for secnet main loop */
 446 static void polypath_afterpoll_monitor(void *state, struct pollfd *fds,
 447                                        int nfds)
 448 {
 449     struct polypath *st=state;
 450     if (nfds<1) return;
 451     afterpoll_monitor(st,fds,polypath_record_ifaddr);
 452 }
 453
 454 /* Actual udp packet sending work */
 455 static bool_t polypath_sendmsg(void *commst, struct buffer_if *buf,
 456                           const struct comm_addr *dest,
 457                           struct comm_clientinfo *clientinfo)
 458 {
 459     struct polypath *st=commst;
 460     struct interf *interf;
 461     bool_t allreasonable=True;
 462     int af=dest->ia.sa.sa_family;
 463
 464     LIST_FOREACH(interf,&st->interfs,entry) {
 465         int i;
 466         bool_t attempted=False, reasonable=False;
 467         for (i=0; i<interf->socks.n_socks; i++) {
 468             struct udpsock *us=&interf->socks.socks[i];
 469             if (af != us->addr.sa.sa_family)
 470                 continue;
 471             attempted=True;
 472             int r=sendto(us->fd,buf->start,buf->size,
 473                          0,&dest->ia.sa,iaddr_socklen(&dest->ia));
 474             udp_sock_experienced(0,&st->uc,&interf->socks,us,
 475                                  &dest->ia,af, r,errno);
 476             if (r>=0) {
 477                 reasonable=True;
 478                 break;
 479             }
 480             if (!(errno==EAFNOSUPPORT || errno==ENETUNREACH))
 481                 reasonable=True;
 482             lg_perror(LG,M_DEBUG,errno,"%s [%s] xmit %"PRIu32" bytes to %s",
 483                       interf->name,iaddr_to_string(&us->addr),
 484                       buf->size,iaddr_to_string(&dest->ia));
 485         }
 486         if (!attempted)
 487             if (!interf->experienced_xmit_noaf[af]++)
 488                 lg_perror(LG,M_WARNING,0,
 489                           "%s has no suitable address to transmit %s",
 490                           interf->name, af_name(af));
 491         allreasonable *= reasonable;
 492     }
 493     return allreasonable;
 494 }
 495
 496 /* Non-privsep: called in (sole) child.  Privsep: in grandchild. */
 497 static void child_monitor(struct polypath *st, int childfd)
 498 {
 499     dup2(childfd,1);
 500     execvp(st->monitor_command[0],(char**)st->monitor_command);
 501     fprintf(stderr,"secnet: cannot execute %s: %s\n",
 502             st->monitor_command[0], strerror(errno));
 503     exit(-1);
 504 }
 505
 506 /* General utility function. */
 507 static void start_subproc(struct polypath *st, void (*make_fdpair)(int[2]),
 508                           void (*child)(struct polypath *st, int childfd),
 509                           const char *desc)
 510 {
 511     int pfds[2];
 512
 513     assert(!st->monitor_pid);
 514     assert(st->monitor_fd<0);
 515
 516     make_fdpair(pfds);
 517
 518     pid_t pid=fork();
 519     if (!pid) {
 520         afterfork();
 521         close(pfds[0]);
 522         child(st,pfds[1]);
 523         abort();
 524     }
 525     if (pid<0)
 526         fatal_perror("%s: failed to fork for interface monitoring",
 527                      st->uc.cc.cl.description);
 528
 529     close(pfds[1]);
 530     st->monitor_pid=pid;
 531     st->monitor_fd=pfds[0];
 532     setnonblock(st->monitor_fd);
 533
 534     lg_perror(LG,M_NOTICE,0, "%s: spawning %s [pid %ld]",
 535               st->uc.cc.cl.description, desc, (long)st->monitor_pid);
 536 }
 537
 538 /* Non-privsep only: glue for forking the monitor, from the main loop */
 539 static void polypath_phase_startmonitor(void *sst, uint32_t newphase)
 540 {
 541     struct polypath *st=sst;
 542     start_subproc(st,pipe_cloexec,child_monitor,
 543                   "interface monitor (no privsep)");
 544     register_for_poll(st,polypath_beforepoll,
 545                       polypath_afterpoll_monitor,"polypath");
 546 }
 547
 548 /*----- Privsep-only: -----*/
 549
 550 /*
 551  * We use two subprocesses, a child and a grandchild.  These are
 552  * forked before secnet drops privilege.
 553  *
 554  * The grandchild is the same interface monitor helper script as used
 555  * in the non-privsep case.  But its lines are read by the child
 556  * instead of by the main secnet.  The child is responsible for
 557  * creating the actual socket (binding it, etc.).  Each socket is
 558  * passed to secnet proper via fd passing, along with a data message
 559  * describing the interface name and address.  The child does not
 560  * retain a list of current interfaces and addresses - it trusts the
 561  * interface monitor to get that right.  secnet proper still maintains
 562  * that data structure.
 563  *
 564  * The result is that much of the non-privsep code can be reused, but
 565  * just plumbed together differently.
 566  *
 567  * The child does not retain the socket after passing it on.
 568  * Interface removals are handled similarly but without any fd.
 569  *
 570  * The result is that the configuration's limits on which interfaces
 571  * and ports secnet may use are enforced by the privileged child.
 572  */
 573
 574 struct privsep_mdata {
 575     bool_t add;
 576     char ifname[100];
 577     union iaddr ia;
 578     char want; /* `+', for now */
 579 };
 580
 581 static void papp_bad(struct polypath *st, void *badctx,
 582                      int mclass, const char *m, int ev)
 583 {
 584     const struct privsep_mdata *mdata=(const void*)st->lbuf.start;
 585     const char *addr_str=badctx;
 586
 587     lg_perror(LG,mclass,ev,
 588               "error processing polypath address change %s %s [%s]: %s",
 589               mdata->add ? "+" : "-",
 590               mdata->ifname, addr_str, m);
 591 }
 592
 593 static void polypath_afterpoll_privsep(void *state, struct pollfd *fds,
 594                                        int nfds)
 595 /* In secnet proper; receives messages from child. */
 596 {
 597     struct polypath *st=state;
 598
 599     if (nfds<1) return;
 600
 601     int revents=fds[0].revents;
 602
 603     const char *badbit=pollbadbit(revents);
 604     if (badbit) subproc_problem(st,async_linebuf_broken,badbit);
 605
 606     if (!(revents & POLLIN)) return;
 607
 608     for (;;) {
 609         if (st->lbuf.size==sizeof(struct privsep_mdata)) {
 610             const struct privsep_mdata *mdata=(const void*)st->lbuf.start;
 611             if (mdata->add && st->privsep_incoming_fd<0)
 612                 fatal("polypath (privsep): got add message data but no fd");
 613             if (!mdata->add && st->privsep_incoming_fd>=0)
 614                 fatal("polypath (privsep): got remove message data with fd");
 615             if (!memchr(mdata->ifname,0,sizeof(mdata->ifname)))
 616                 fatal("polypath (privsep): got ifname with no terminating nul");
 617             int af=mdata->ia.sa.sa_family;
 618             if (!(af==AF_INET6 || af==AF_INET))
 619                 fatal("polypath (privsep): got message data but bad AF %d",af);
 620             const char *addr_str=iaddr_to_string(&mdata->ia);
 621             polypath_record_ifaddr(st,papp_bad,(void*)addr_str,
 622                                    mdata->add,mdata->want,
 623                                    mdata->ifname,addr_str,
 624                                    &mdata->ia, st->privsep_incoming_fd);
 625             st->privsep_incoming_fd=-1;
 626             st->lbuf.size=0;
 627         }
 628         struct msghdr msg;
 629         int fd;
 630         size_t cmsgdatalen=sizeof(fd);
 631         char cmsg_control_buf[CMSG_SPACE(cmsgdatalen)];
 632         struct iovec iov;
 633
 634         FILLZERO(msg);
 635         msg.msg_iov=&iov;
 636         msg.msg_iovlen=1;
 637
 638         iov.iov_base=st->lbuf.start+st->lbuf.size;
 639         iov.iov_len=sizeof(struct privsep_mdata)-st->lbuf.size;
 640
 641         if (st->privsep_incoming_fd<0) {
 642             msg.msg_control=cmsg_control_buf;
 643             msg.msg_controllen=sizeof(cmsg_control_buf);
 644         }
 645
 646         ssize_t got=recvmsg(st->monitor_fd,&msg,0);
 647         if (got<0) {
 648             if (errno==EINTR) continue;
 649             if (iswouldblock(errno)) break;
 650             fatal_perror("polypath (privsep): recvmsg failed");
 651         }
 652         if (got==0)
 653             subproc_problem(st,async_linebuf_eof,0);
 654
 655         st->lbuf.size+=got;
 656
 657         if (msg.msg_controllen) {
 658             size_t cmsgdatalen=sizeof(st->privsep_incoming_fd);
 659             struct cmsghdr *h=CMSG_FIRSTHDR(&msg);
 660             if (!(st->privsep_incoming_fd==-1 &&
 661                   h &&
 662                   h->cmsg_level==SOL_SOCKET &&
 663                   h->cmsg_type==SCM_RIGHTS &&
 664                   h->cmsg_len==CMSG_LEN(cmsgdatalen) &&
 665                   !CMSG_NXTHDR(&msg,h)))
 666                 subproc_problem(st,async_linebuf_broken,"bad cmsg");
 667             memcpy(&st->privsep_incoming_fd,CMSG_DATA(h),cmsgdatalen);
 668             assert(st->privsep_incoming_fd>=0);
 669         }
 670
 671     }
 672 }
 673
 674 static void privsep_handle_ifaddr(struct polypath *st,
 675                                    bad_fn_type *bad, void *badctx,
 676                                    bool_t add, char want,
 677                                    const char *ifname,
 678                                    const char *ifaddr,
 679                                    const union iaddr *ia, int fd_dummy)
 680 /* In child: handles discovered wanted interfaces, making sockets
 681    and sending them to secnet proper. */
 682 {
 683     struct msghdr msg;
 684     struct iovec iov;
 685     struct udpsock us={ .fd=-1 };
 686     size_t cmsgdatalen=sizeof(us.fd);
 687     char cmsg_control_buf[CMSG_SPACE(cmsgdatalen)];
 688
 689     assert(fd_dummy==-1);
 690
 691     struct privsep_mdata mdata;
 692     FILLZERO(mdata);
 693     mdata.add=add;
 694
 695     size_t l=strlen(ifname);
 696     if (l>=sizeof(mdata.ifname)) BAD("interface name too long");
 697     strcpy(mdata.ifname,ifname);
 698     mdata.want=want;
 699
 700     COPY_OBJ(mdata.ia,*ia);
 701
 702     iov.iov_base=&mdata;
 703     iov.iov_len =sizeof(mdata);
 704
 705     FILLZERO(msg);
 706     msg.msg_iov=&iov;
 707     msg.msg_iovlen=1;
 708
 709     if (add) {
 710         COPY_OBJ(us.addr,*ia);
 711         bool_t ok=polypath_make_socket(st,bad,badctx,&us,ifname);
 712         if (!ok) goto out;
 713
 714         msg.msg_control=cmsg_control_buf;
 715         msg.msg_controllen=sizeof(cmsg_control_buf);
 716
 717         struct cmsghdr *h=CMSG_FIRSTHDR(&msg);
 718         h->cmsg_level=SOL_SOCKET;
 719         h->cmsg_type =SCM_RIGHTS;
 720         h->cmsg_len  =CMSG_LEN(cmsgdatalen);
 721         memcpy(CMSG_DATA(h),&us.fd,cmsgdatalen);
 722     }
 723
 724     while (iov.iov_len) {
 725         ssize_t got=sendmsg(st->privsep_ipcsock_fd,&msg,0);
 726         if (got<0) {
 727             if (errno!=EINTR) fatal_perror("polypath privsep sendmsg");
 728             got=0;
 729         } else {
 730             assert(got>0);
 731             assert((size_t)got<=iov.iov_len);
 732         }
 733         iov.iov_base=(char*)iov.iov_base+got;
 734         iov.iov_len-=got;
 735         msg.msg_control=0;
 736         msg.msg_controllen=0;
 737     }
 738
 739  out:
 740     if (us.fd>=0) close(us.fd);
 741 }
 742
 743 static void child_privsep(struct polypath *st, int ipcsockfd)
 744 /* Privsep child main loop. */
 745 {
 746     struct pollfd fds[2];
 747
 748     enter_phase(PHASE_CHILDPERSIST);
 749
 750     st->privsep_ipcsock_fd=ipcsockfd;
 751     start_subproc(st,pipe_cloexec,child_monitor,
 752                   "interface monitor (grandchild)");
 753     for (;;) {
 754         int nfds=1;
 755         int r=polypath_beforepoll(st,fds,&nfds,0);
 756         assert(nfds==1);
 757         assert(!r);
 758
 759         fds[1].fd=st->privsep_ipcsock_fd;
 760         fds[1].events=POLLIN;
 761
 762         r=poll(fds,ARRAY_SIZE(fds),-1);
 763
 764         if (r<0) {
 765             if (errno==EINTR) continue;
 766             fatal_perror("polypath privsep poll");
 767         }
 768         if (fds[1].revents) {
 769             if (fds[1].revents & (POLLHUP|POLLIN)) {
 770                 polypath_phase_shutdown(st,PHASE_SHUTDOWN);
 771                 exit(0);
 772             }
 773             fatal("polypath privsep poll parent socket revents=%#x",
 774                   fds[1].revents);
 775         }
 776         if (fds[0].revents & POLLNVAL)
 777             fatal("polypath privsep poll child socket POLLNVAL");
 778         afterpoll_monitor(st,fds,privsep_handle_ifaddr);
 779     }
 780 }
 781
 782 static void privsep_socketpair(int *fd)
 783 {
 784     int r=socketpair(AF_UNIX,SOCK_STREAM,0,fd);
 785     if (r) fatal_perror("socketpair(AF_UNIX,SOCK_STREAM,,)");
 786     setcloexec(fd[0]);
 787     setcloexec(fd[1]);
 788 }
 789
 790 static void polypath_phase_startprivsep(void *sst, uint32_t newphase)
 791 {
 792     struct polypath *st=sst;
 793
 794     if (!will_droppriv()) {
 795         add_hook(PHASE_RUN,          polypath_phase_startmonitor,st);
 796         return;
 797     }
 798
 799     start_subproc(st,privsep_socketpair,child_privsep,
 800                   "socket generator (privsep interface handler)");
 801
 802     BUF_FREE(&st->lbuf);
 803     buffer_destroy(&st->lbuf);
 804     buffer_new(&st->lbuf,sizeof(struct privsep_mdata));
 805     BUF_ALLOC(&st->lbuf,"polypath mdata buf");
 806     st->privsep_incoming_fd=-1;
 807
 808     register_for_poll(st,polypath_beforepoll,
 809                       polypath_afterpoll_privsep,"polypath");
 810 }
 811
 812 static void polypath_phase_shutdown(void *sst, uint32_t newphase)
 813 {
 814     struct polypath *st=sst;
 815     if (st->monitor_pid) {
 816         assert(st->monitor_pid>0);
 817         kill(st->monitor_pid,SIGTERM);
 818     }
 819 }
 820
 821 static void polypath_phase_childpersist(void *sst, uint32_t newphase)
 822 {
 823     struct polypath *st=sst;
 824     struct interf *interf;
 825
 826     LIST_FOREACH(interf,&st->interfs,entry)
 827         udp_socks_childpersist(&st->uc,&interf->socks);
 828 }
 829
 830 #undef BAD
 831 #undef BADE
 832
 833 /*----- generic closure and module setup -----*/
 834
 835 static list_t *polypath_apply(closure_t *self, struct cloc loc,
 836                               dict_t *context, list_t *args)
 837 {
 838     struct polypath *st;
 839
 840     COMM_APPLY(st,&st->uc.cc,polypath_,"polypath",loc);
 841     COMM_APPLY_STANDARD(st,&st->uc.cc,"polypath",args);
 842     UDP_APPLY_STANDARD(st,&st->uc,"polypath");
 843
 844     struct udpcommon *uc=&st->uc;
 845     struct commcommon *cc=&uc->cc;
 846
 847     st->max_interfs=dict_read_number(d,"max-interfaces",False,"polypath",loc,3);
 848
 849     st->ifname_pats=dict_read_string_array(d,"interfaces",False,"polypath",
 850                                            cc->loc,0);
 851     st->permit_loopback=0; /* ifname_wanted reads this */
 852     ifname_wanted(st,st->uc.cc.loc," "); /* try to check each pattern */
 853
 854     st->monitor_command=dict_read_string_array(d,"monitor-command",False,
 855                                "polypath",cc->loc, default_monitor_command);
 856     if (!st->monitor_command[0])
 857         cfgfatal(loc,"polypath","no polypath interface monitor-command"
 858                  " (polypath unsupported on this platform?)\n");
 859
 860     st->permit_loopback=dict_read_bool(d,"permit-loopback",False,
 861                                        "polypath",cc->loc,False);
 862
 863     LIST_INIT(&st->interfs);
 864     buffer_new(&st->lbuf,ADNS_ADDR2TEXT_BUFLEN+100);
 865     BUF_ALLOC(&st->lbuf,"polypath lbuf");
 866
 867     st->monitor_fd=-1;
 868     st->monitor_pid=0;
 869
 870     add_hook(PHASE_GETRESOURCES, polypath_phase_startprivsep,st);
 871
 872     add_hook(PHASE_SHUTDOWN,    polypath_phase_shutdown,    st);
 873     add_hook(PHASE_CHILDPERSIST,polypath_phase_childpersist,st);
 874
 875     return new_closure(&cc->cl);
 876 }
 877
 878 #endif /* CONFIG_IPV6 */
 879
 880 void polypath_module(dict_t *dict)
 881 {
 882 #ifdef CONFIG_IPV6
 883     add_closure(dict,"polypath",polypath_apply);
 884 #endif /* CONFIG_IPV6 */
 885 }