src/shared/barrier.c

   1 /*-*- Mode: C; c-basic-offset: 8; indent-tabs-mode: nil -*-*/
   2
   3 /***
   4   This file is part of systemd.
   5
   6   Copyright 2014 David Herrmann <dh.herrmann@gmail.com>
   7
   8   systemd is free software; you can redistribute it and/or modify it
   9   under the terms of the GNU Lesser General Public License as published by
  10   the Free Software Foundation; either version 2.1 of the License, or
  11   (at your option) any later version.
  12
  13   systemd is distributed in the hope that it will be useful, but
  14   WITHOUT ANY WARRANTY; without even the implied warranty of
  15   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  16   Lesser General Public License for more details.
  17
  18   You should have received a copy of the GNU Lesser General Public License
  19   along with systemd; If not, see <http://www.gnu.org/licenses/>.
  20 ***/
  21
  22 #include <errno.h>
  23 #include <fcntl.h>
  24 #include <limits.h>
  25 #include <poll.h>
  26 #include <stdbool.h>
  27 #include <stdint.h>
  28 #include <stdio.h>
  29 #include <stdlib.h>
  30 #include <string.h>
  31 #include <sys/eventfd.h>
  32 #include <sys/types.h>
  33 #include <unistd.h>
  34
  35 #include "barrier.h"
  36 #include "macro.h"
  37 #include "util.h"
  38
  39 /**
  40  * Barriers
  41  * This barrier implementation provides a simple synchronization method based
  42  * on file-descriptors that can safely be used between threads and processes. A
  43  * barrier object contains 2 shared counters based on eventfd. Both processes
  44  * can now place barriers and wait for the other end to reach a random or
  45  * specific barrier.
  46  * Barriers are numbered, so you can either wait for the other end to reach any
  47  * barrier or the last barrier that you placed. This way, you can use barriers
  48  * for one-way *and* full synchronization. Note that even-though barriers are
  49  * numbered, these numbers are internal and recycled once both sides reached the
  50  * same barrier (implemented as a simple signed counter). It is thus not
  51  * possible to address barriers by their ID.
  52  *
  53  * Barrier-API: Both ends can place as many barriers via barrier_place() as
  54  * they want and each pair of barriers on both sides will be implicitly linked.
  55  * Each side can use the barrier_wait/sync_*() family of calls to wait for the
  56  * other side to place a specific barrier. barrier_wait_next() waits until the
  57  * other side calls barrier_place(). No links between the barriers are
  58  * considered and this simply serves as most basic asynchronous barrier.
  59  * barrier_sync_next() is like barrier_wait_next() and waits for the other side
  60  * to place their next barrier via barrier_place(). However, it only waits for
  61  * barriers that are linked to a barrier we already placed. If the other side
  62  * already placed more barriers than we did, barrier_sync_next() returns
  63  * immediately.
  64  * barrier_sync() extends barrier_sync_next() and waits until the other end
  65  * placed as many barriers via barrier_place() as we did. If they already placed
  66  * as many as we did (or more), it returns immediately.
  67  *
  68  * Additionally to basic barriers, an abortion event is available.
  69  * barrier_abort() places an abortion event that cannot be undone. An abortion
  70  * immediately cancels all placed barriers and replaces them. Any running and
  71  * following wait/sync call besides barrier_wait_abortion() will immediately
  72  * return false on both sides (otherwise, they always return true).
  73  * barrier_abort() can be called multiple times on both ends and will be a
  74  * no-op if already called on this side.
  75  * barrier_wait_abortion() can be used to wait for the other side to call
  76  * barrier_abort() and is the only wait/sync call that does not return
  77  * immediately if we aborted outself. It only returns once the other side
  78  * called barrier_abort().
  79  *
  80  * Barriers can be used for in-process and inter-process synchronization.
  81  * However, for in-process synchronization you could just use mutexes.
  82  * Therefore, main target is IPC and we require both sides to *not* share the FD
  83  * table. If that's given, barriers provide target tracking: If the remote side
  84  * exit()s, an abortion event is implicitly queued on the other side. This way,
  85  * a sync/wait call will be woken up if the remote side crashed or exited
  86  * unexpectedly. However, note that these abortion events are only queued if the
  87  * barrier-queue has been drained. Therefore, it is safe to place a barrier and
  88  * exit. The other side can safely wait on the barrier even though the exit
  89  * queued an abortion event. Usually, the abortion event would overwrite the
  90  * barrier, however, that's not true for exit-abortion events. Those are only
  91  * queued if the barrier-queue is drained (thus, the receiving side has placed
  92  * more barriers than the remote side).
  93  */
  94
  95 /**
  96  * barrier_create() - Initialize a barrier object
  97  * @obj: barrier to initialize
  98  *
  99  * This initializes a barrier object. The caller is responsible of allocating
 100  * the memory and keeping it valid. The memory does not have to be zeroed
 101  * beforehand.
 102  * Two eventfd objects are allocated for each barrier. If allocation fails, an
 103  * error is returned.
 104  *
 105  * If this function fails, the barrier is reset to an invalid state so it is
 106  * safe to call barrier_destroy() on the object regardless whether the
 107  * initialization succeeded or not.
 108  *
 109  * The caller is responsible to destroy the object via barrier_destroy() before
 110  * releasing the underlying memory.
 111  *
 112  * Returns: 0 on success, negative error code on failure.
 113  */
 114 int barrier_create(Barrier *b) {
 115         assert(b);
 116
 117         if ((b->me = eventfd(0, EFD_CLOEXEC | EFD_NONBLOCK)) < 0 ||
 118             (b->them = eventfd(0, EFD_CLOEXEC | EFD_NONBLOCK)) < 0 ||
 119             pipe2(b->pipe, O_CLOEXEC | O_NONBLOCK) < 0) {
 120                 barrier_destroy(b);
 121                 return -errno;
 122         }
 123
 124         return 0;
 125 }
 126
 127 /**
 128  * barrier_destroy() - Destroy a barrier object
 129  * @b: barrier to destroy or NULL
 130  *
 131  * This destroys a barrier object that has previously been passed to
 132  * barrier_create(). The object is released and reset to invalid
 133  * state. Therefore, it is safe to call barrier_destroy() multiple
 134  * times or even if barrier_create() failed. However, barrier must be
 135  * always initalized with BARRIER_NULL.
 136  *
 137  * If @b is NULL, this is a no-op.
 138  */
 139 void barrier_destroy(Barrier *b) {
 140         if (!b)
 141                 return;
 142
 143         b->me = safe_close(b->me);
 144         b->them = safe_close(b->them);
 145         safe_close_pair(b->pipe);
 146         b->barriers = 0;
 147 }
 148
 149 /**
 150  * barrier_set_role() - Set the local role of the barrier
 151  * @b: barrier to operate on
 152  * @role: role to set on the barrier
 153  *
 154  * This sets the roles on a barrier object. This is needed to know
 155  * which side of the barrier you're on. Usually, the parent creates
 156  * the barrier via barrier_create() and then calls fork() or clone().
 157  * Therefore, the FDs are duplicated and the child retains the same
 158  * barrier object.
 159  *
 160  * Both sides need to call barrier_set_role() after fork() or clone()
 161  * are done. If this is not done, barriers will not work correctly.
 162  *
 163  * Note that barriers could be supported without fork() or clone(). However,
 164  * this is currently not needed so it hasn't been implemented.
 165  */
 166 void barrier_set_role(Barrier *b, unsigned int role) {
 167         int fd;
 168
 169         assert(b);
 170         assert(role == BARRIER_PARENT || role == BARRIER_CHILD);
 171         /* make sure this is only called once */
 172         assert(b->pipe[1] >= 0 && b->pipe[1] >= 0);
 173
 174         if (role == BARRIER_PARENT)
 175                 b->pipe[1] = safe_close(b->pipe[1]);
 176         else {
 177                 b->pipe[0] = safe_close(b->pipe[0]);
 178
 179                 /* swap me/them for children */
 180                 fd = b->me;
 181                 b->me = b->them;
 182                 b->them = fd;
 183         }
 184 }
 185
 186 /* places barrier; returns false if we aborted, otherwise true */
 187 static bool barrier_write(Barrier *b, uint64_t buf) {
 188         ssize_t len;
 189
 190         /* prevent new sync-points if we already aborted */
 191         if (barrier_i_aborted(b))
 192                 return false;
 193
 194         do {
 195                 len = write(b->me, &buf, sizeof(buf));
 196         } while (len < 0 && IN_SET(errno, EAGAIN, EINTR));
 197
 198         if (len != sizeof(buf))
 199                 goto error;
 200
 201         /* lock if we aborted */
 202         if (buf >= (uint64_t)BARRIER_ABORTION) {
 203                 if (barrier_they_aborted(b))
 204                         b->barriers = BARRIER_WE_ABORTED;
 205                 else
 206                         b->barriers = BARRIER_I_ABORTED;
 207         } else if (!barrier_is_aborted(b))
 208                 b->barriers += buf;
 209
 210         return !barrier_i_aborted(b);
 211
 212 error:
 213         /* If there is an unexpected error, we have to make this fatal. There
 214          * is no way we can recover from sync-errors. Therefore, we close the
 215          * pipe-ends and treat this as abortion. The other end will notice the
 216          * pipe-close and treat it as abortion, too. */
 217
 218         safe_close_pair(b->pipe);
 219         b->barriers = BARRIER_WE_ABORTED;
 220         return false;
 221 }
 222
 223 /* waits for barriers; returns false if they aborted, otherwise true */
 224 static bool barrier_read(Barrier *b, int64_t comp) {
 225         if (barrier_they_aborted(b))
 226                 return false;
 227
 228         while (b->barriers > comp) {
 229                 struct pollfd pfd[2] = {
 230                         { .fd = b->pipe[0] >= 0 ? b->pipe[0] : b->pipe[1],
 231                           .events = POLLHUP },
 232                         { .fd = b->them,
 233                           .events = POLLIN }};
 234                 uint64_t buf;
 235                 int r;
 236
 237                 r = poll(pfd, 2, -1);
 238                 if (r < 0 && IN_SET(errno, EAGAIN, EINTR))
 239                         continue;
 240                 else if (r < 0)
 241                         goto error;
 242
 243                 if (pfd[1].revents) {
 244                         ssize_t len;
 245
 246                         /* events on @them signal new data for us */
 247                         len = read(b->them, &buf, sizeof(buf));
 248                         if (len < 0 && IN_SET(errno, EAGAIN, EINTR))
 249                                 continue;
 250
 251                         if (len != sizeof(buf))
 252                                 goto error;
 253                 } else if (pfd[0].revents & (POLLHUP | POLLERR | POLLNVAL))
 254                         /* POLLHUP on the pipe tells us the other side exited.
 255                          * We treat this as implicit abortion. But we only
 256                          * handle it if there's no event on the eventfd. This
 257                          * guarantees that exit-abortions do not overwrite real
 258                          * barriers. */
 259                         buf = BARRIER_ABORTION;
 260
 261                 /* lock if they aborted */
 262                 if (buf >= (uint64_t)BARRIER_ABORTION) {
 263                         if (barrier_i_aborted(b))
 264                                 b->barriers = BARRIER_WE_ABORTED;
 265                         else
 266                                 b->barriers = BARRIER_THEY_ABORTED;
 267                 } else if (!barrier_is_aborted(b))
 268                         b->barriers -= buf;
 269         }
 270
 271         return !barrier_they_aborted(b);
 272
 273 error:
 274         /* If there is an unexpected error, we have to make this fatal. There
 275          * is no way we can recover from sync-errors. Therefore, we close the
 276          * pipe-ends and treat this as abortion. The other end will notice the
 277          * pipe-close and treat it as abortion, too. */
 278
 279         safe_close_pair(b->pipe);
 280         b->barriers = BARRIER_WE_ABORTED;
 281         return false;
 282 }
 283
 284 /**
 285  * barrier_place() - Place a new barrier
 286  * @b: barrier object
 287  *
 288  * This places a new barrier on the barrier object. If either side already
 289  * aborted, this is a no-op and returns "false". Otherwise, the barrier is
 290  * placed and this returns "true".
 291  *
 292  * Returns: true if barrier was placed, false if either side aborted.
 293  */
 294 bool barrier_place(Barrier *b) {
 295         assert(b);
 296
 297         if (barrier_is_aborted(b))
 298                 return false;
 299
 300         barrier_write(b, BARRIER_SINGLE);
 301         return true;
 302 }
 303
 304 /**
 305  * barrier_abort() - Abort the synchronization
 306  * @b: barrier object to abort
 307  *
 308  * This aborts the barrier-synchronization. If barrier_abort() was already
 309  * called on this side, this is a no-op. Otherwise, the barrier is put into the
 310  * ABORT-state and will stay there. The other side is notified about the
 311  * abortion. Any following attempt to place normal barriers or to wait on normal
 312  * barriers will return immediately as "false".
 313  *
 314  * You can wait for the other side to call barrier_abort(), too. Use
 315  * barrier_wait_abortion() for that.
 316  *
 317  * Returns: false if the other side already aborted, true otherwise.
 318  */
 319 bool barrier_abort(Barrier *b) {
 320         assert(b);
 321
 322         barrier_write(b, BARRIER_ABORTION);
 323         return !barrier_they_aborted(b);
 324 }
 325
 326 /**
 327  * barrier_wait_next() - Wait for the next barrier of the other side
 328  * @b: barrier to operate on
 329  *
 330  * This waits until the other side places its next barrier. This is independent
 331  * of any barrier-links and just waits for any next barrier of the other side.
 332  *
 333  * If either side aborted, this returns false.
 334  *
 335  * Returns: false if either side aborted, true otherwise.
 336  */
 337 bool barrier_wait_next(Barrier *b) {
 338         assert(b);
 339
 340         if (barrier_is_aborted(b))
 341                 return false;
 342
 343         barrier_read(b, b->barriers - 1);
 344         return !barrier_is_aborted(b);
 345 }
 346
 347 /**
 348  * barrier_wait_abortion() - Wait for the other side to abort
 349  * @b: barrier to operate on
 350  *
 351  * This waits until the other side called barrier_abort(). This can be called
 352  * regardless whether the local side already called barrier_abort() or not.
 353  *
 354  * If the other side has already aborted, this returns immediately.
 355  *
 356  * Returns: false if the local side aborted, true otherwise.
 357  */
 358 bool barrier_wait_abortion(Barrier *b) {
 359         assert(b);
 360
 361         barrier_read(b, BARRIER_THEY_ABORTED);
 362         return !barrier_i_aborted(b);
 363 }
 364
 365 /**
 366  * barrier_sync_next() - Wait for the other side to place a next linked barrier
 367  * @b: barrier to operate on
 368  *
 369  * This is like barrier_wait_next() and waits for the other side to call
 370  * barrier_place(). However, this only waits for linked barriers. That means, if
 371  * the other side already placed more barriers than (or as much as) we did, this
 372  * returns immediately instead of waiting.
 373  *
 374  * If either side aborted, this returns false.
 375  *
 376  * Returns: false if either side aborted, true otherwise.
 377  */
 378 bool barrier_sync_next(Barrier *b) {
 379         assert(b);
 380
 381         if (barrier_is_aborted(b))
 382                 return false;
 383
 384         barrier_read(b, MAX((int64_t)0, b->barriers - 1));
 385         return !barrier_is_aborted(b);
 386 }
 387
 388 /**
 389  * barrier_sync() - Wait for the other side to place as many barriers as we did
 390  * @b: barrier to operate on
 391  *
 392  * This is like barrier_sync_next() but waits for the other side to call
 393  * barrier_place() as often as we did (in total). If they already placed as much
 394  * as we did (or more), this returns immediately instead of waiting.
 395  *
 396  * If either side aborted, this returns false.
 397  *
 398  * Returns: false if either side aborted, true otherwise.
 399  */
 400 bool barrier_sync(Barrier *b) {
 401         assert(b);
 402
 403         if (barrier_is_aborted(b))
 404                 return false;
 405
 406         barrier_read(b, 0);
 407         return !barrier_is_aborted(b);
 408 }