chiark / gitweb /
udev: hwdb - properly initialize search structure
[elogind.git] / src / udev / udevadm-hwdb.c
1 /***
2   This file is part of systemd.
3
4   Copyright 2012 Kay Sievers <kay.sievers@vrfy.org>
5
6   systemd is free software; you can redistribute it and/or modify it
7   under the terms of the GNU Lesser General Public License as published by
8   the Free Software Foundation; either version 2.1 of the License, or
9   (at your option) any later version.
10
11   systemd is distributed in the hope that it will be useful, but
12   WITHOUT ANY WARRANTY; without even the implied warranty of
13   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
14   Lesser General Public License for more details.
15
16   You should have received a copy of the GNU Lesser General Public License
17   along with systemd; If not, see <http://www.gnu.org/licenses/>.
18 ***/
19
20 #include <stdlib.h>
21 #include <unistd.h>
22 #include <getopt.h>
23 #include <string.h>
24
25 #include "util.h"
26 #include "strbuf.h"
27 #include "conf-files.h"
28
29 #include "udev.h"
30 #include "udev-hwdb.h"
31
32 /*
33  * Generic udev properties, key/value database based on modalias strings.
34  * Uses a Patricia/radix trie to index all matches for efficient lookup.
35  */
36
37 static const char * const conf_file_dirs[] = {
38         SYSCONFDIR "/udev/hwdb.d",
39         UDEVLIBEXECDIR "/hwdb.d",
40         NULL
41 };
42
43 /* in-memory trie objects */
44 struct trie {
45         struct trie_node *root;
46         struct strbuf *strings;
47
48         size_t nodes_count;
49         size_t children_count;
50         size_t values_count;
51 };
52
53 struct trie_node {
54         /* prefix, common part for all children of this node */
55         size_t prefix_off;
56
57         /* sorted array of pointers to children nodes */
58         struct trie_child_entry *children;
59         uint8_t children_count;
60
61         /* sorted array of key/value pairs */
62         struct trie_value_entry *values;
63         size_t values_count;
64 };
65
66 /* children array item with char (0-255) index */
67 struct trie_child_entry {
68         uint8_t c;
69         struct trie_node *child;
70 };
71
72 /* value array item with key/value pairs */
73 struct trie_value_entry {
74         size_t key_off;
75         size_t value_off;
76 };
77
78 static int trie_children_cmp(const void *v1, const void *v2) {
79         const struct trie_child_entry *n1 = v1;
80         const struct trie_child_entry *n2 = v2;
81
82         return n1->c - n2->c;
83 }
84
85 static int node_add_child(struct trie *trie, struct trie_node *node, struct trie_node *node_child, uint8_t c) {
86         struct trie_child_entry *child;
87         int err = 0;
88
89         /* extend array, add new entry, sort for bisection */
90         child = realloc(node->children, (node->children_count + 1) * sizeof(struct trie_child_entry));
91         if (!child) {
92                 err = -ENOMEM;
93                 goto out;
94         }
95         node->children = child;
96         trie->children_count++;
97         node->children[node->children_count].c = c;
98         node->children[node->children_count].child = node_child;
99         node->children_count++;
100         qsort(node->children, node->children_count, sizeof(struct trie_child_entry), trie_children_cmp);
101         trie->nodes_count++;
102 out:
103         return err;
104 }
105
106 static struct trie_node *node_lookup(const struct trie_node *node, uint8_t c) {
107         struct trie_child_entry *child;
108         struct trie_child_entry search;
109
110         search.c = c;
111         child = bsearch(&search, node->children, node->children_count, sizeof(struct trie_child_entry), trie_children_cmp);
112         if (child)
113                 return child->child;
114         return NULL;
115 }
116
117 static void trie_node_cleanup(struct trie_node *node) {
118         size_t i;
119
120         for (i = 0; i < node->children_count; i++)
121                 trie_node_cleanup(node->children[i].child);
122         free(node->children);
123         free(node->values);
124         free(node);
125 }
126
127 static int trie_values_cmp(const void *v1, const void *v2, void *arg) {
128         const struct trie_value_entry *val1 = v1;
129         const struct trie_value_entry *val2 = v2;
130         struct trie *trie = arg;
131
132         return strcmp(trie->strings->buf + val1->key_off,
133                       trie->strings->buf + val2->key_off);
134 }
135
136 static int trie_node_add_value(struct trie *trie, struct trie_node *node,
137                           const char *key, const char *value) {
138         ssize_t k, v;
139         struct trie_value_entry *val;
140
141         k = strbuf_add_string(trie->strings, key, strlen(key));
142         if (k < 0)
143                 return k;
144         v = strbuf_add_string(trie->strings, value, strlen(value));
145         if (v < 0)
146                 return v;
147
148         if (node->values_count) {
149                 struct trie_value_entry search = {
150                         .key_off = k,
151                         .value_off = v,
152                 };
153
154                 val = xbsearch_r(&search, node->values, node->values_count, sizeof(struct trie_value_entry), trie_values_cmp, trie);
155                 if (val) {
156                         /* replace existing earlier key with new value */
157                         val->value_off = v;
158                         return 0;
159                 }
160         }
161
162         /* extend array, add new entry, sort for bisection */
163         val = realloc(node->values, (node->values_count + 1) * sizeof(struct trie_value_entry));
164         if (!val)
165                 return -ENOMEM;
166         trie->values_count++;
167         node->values = val;
168         node->values[node->values_count].key_off = k;
169         node->values[node->values_count].value_off = v;
170         node->values_count++;
171         qsort_r(node->values, node->values_count, sizeof(struct trie_value_entry), trie_values_cmp, trie);
172         return 0;
173 }
174
175 static int trie_insert(struct trie *trie, struct trie_node *node, const char *search,
176                        const char *key, const char *value) {
177         size_t i = 0;
178         int err = 0;
179
180         for (;;) {
181                 size_t p;
182                 uint8_t c;
183                 struct trie_node *child;
184
185                 for (p = 0; (c = trie->strings->buf[node->prefix_off + p]); p++) {
186                         char *s;
187                         ssize_t off;
188
189                         if (c == search[i + p])
190                                 continue;
191
192                         /* split node */
193                         child = calloc(sizeof(struct trie_node), 1);
194                         if (!child) {
195                                 err = -ENOMEM;
196                                 goto out;
197                         }
198
199                         /* move values from parent to child */
200                         child->prefix_off = node->prefix_off + p+1;
201                         child->children = node->children;
202                         child->children_count = node->children_count;
203                         child->values = node->values;
204                         child->values_count = node->values_count;
205
206                         /* update parent; use strdup() because the source gets realloc()d */
207                         s = strndup(trie->strings->buf + node->prefix_off, p);
208                         if (!s) {
209                                 err = -ENOMEM;
210                                 goto out;
211                         }
212                         off = strbuf_add_string(trie->strings, s, p);
213                         free(s);
214                         if (off < 0) {
215                                 err = off;
216                                 goto out;
217                         }
218                         node->prefix_off = off;
219                         node->children = NULL;
220                         node->children_count = 0;
221                         node->values = NULL;
222                         node->values_count = 0;
223                         err = node_add_child(trie, node, child, c);
224                         if (err)
225                                 goto out;
226                         break;
227                 }
228                 i += p;
229
230                 c = search[i];
231                 if (c == '\0')
232                         return trie_node_add_value(trie, node, key, value);
233
234                 child = node_lookup(node, c);
235                 if (!child) {
236                         ssize_t off;
237
238                         /* new child */
239                         child = calloc(sizeof(struct trie_node), 1);
240                         if (!child) {
241                                 err = -ENOMEM;
242                                 goto out;
243                         }
244                         off = strbuf_add_string(trie->strings, search + i+1, strlen(search + i+1));
245                         if (off < 0) {
246                                 err = off;
247                                 goto out;
248                         }
249                         child->prefix_off = off;
250                         err = node_add_child(trie, node, child, c);
251                         if (err)
252                                 goto out;
253                         return trie_node_add_value(trie, child, key, value);
254                 }
255
256                 node = child;
257                 i++;
258         }
259 out:
260         return err;
261 }
262
263 struct trie_f {
264         FILE *f;
265         struct trie *trie;
266         uint64_t strings_off;
267
268         uint64_t nodes_count;
269         uint64_t children_count;
270         uint64_t values_count;
271 };
272
273 /* calculate the storage space for the nodes, children arrays, value arrays */
274 static void trie_store_nodes_size(struct trie_f *trie, struct trie_node *node) {
275         uint64_t i;
276
277         for (i = 0; i < node->children_count; i++)
278                 trie_store_nodes_size(trie, node->children[i].child);
279
280         trie->strings_off += sizeof(struct trie_node_f);
281         for (i = 0; i < node->children_count; i++)
282                 trie->strings_off += sizeof(struct trie_child_entry_f);
283         for (i = 0; i < node->values_count; i++)
284                 trie->strings_off += sizeof(struct trie_value_entry_f);
285 }
286
287 static int64_t trie_store_nodes(struct trie_f *trie, struct trie_node *node) {
288         uint64_t i;
289         struct trie_node_f n = {
290                 .prefix_off = htole64(trie->strings_off + node->prefix_off),
291                 .children_count = node->children_count,
292                 .values_count = htole64(node->values_count),
293         };
294         struct trie_child_entry_f *children;
295         int64_t node_off;
296
297         if (node->children_count) {
298                 children = new0(struct trie_child_entry_f, node->children_count);
299                 if (!children)
300                         return -ENOMEM;
301         }
302
303         /* post-order recursion */
304         for (i = 0; i < node->children_count; i++) {
305                 int64_t child_off;
306
307                 child_off = trie_store_nodes(trie, node->children[i].child);
308                 if (child_off < 0)
309                         return child_off;
310                 children[i].c = node->children[i].c;
311                 children[i].child_off = htole64(child_off);
312         }
313
314         /* write node */
315         node_off = ftello(trie->f);
316         fwrite(&n, sizeof(struct trie_node_f), 1, trie->f);
317         trie->nodes_count++;
318
319         /* append children array */
320         if (node->children_count) {
321                 fwrite(children, sizeof(struct trie_child_entry_f), node->children_count, trie->f);
322                 trie->children_count += node->children_count;
323                 free(children);
324         }
325
326         /* append values array */
327         for (i = 0; i < node->values_count; i++) {
328                 struct trie_value_entry_f v = {
329                         .key_off = htole64(trie->strings_off + node->values[i].key_off),
330                         .value_off = htole64(trie->strings_off + node->values[i].value_off),
331                 };
332
333                 fwrite(&v, sizeof(struct trie_value_entry_f), 1, trie->f);
334                 trie->values_count++;
335         }
336
337         return node_off;
338 }
339
340 static int trie_store(struct trie *trie, const char *filename) {
341         struct trie_f t = {
342                 .trie = trie,
343         };
344         char *filename_tmp;
345         int64_t pos;
346         int64_t root_off;
347         int64_t size;
348         struct trie_header_f h = {
349                 .signature = HWDB_SIG,
350                 .tool_version = htole64(atoi(VERSION)),
351                 .header_size = htole64(sizeof(struct trie_header_f)),
352                 .node_size = htole64(sizeof(struct trie_node_f)),
353                 .child_entry_size = htole64(sizeof(struct trie_child_entry_f)),
354                 .value_entry_size = htole64(sizeof(struct trie_value_entry_f)),
355         };
356         int err;
357
358         /* calculate size of header, nodes, children entries, value entries */
359         t.strings_off = sizeof(struct trie_header_f);
360         trie_store_nodes_size(&t, trie->root);
361
362         err = fopen_temporary(filename , &t.f, &filename_tmp);
363         if (err < 0)
364                 return err;
365         fchmod(fileno(t.f), 0444);
366
367         /* write nodes */
368         fseeko(t.f, sizeof(struct trie_header_f), SEEK_SET);
369         root_off = trie_store_nodes(&t, trie->root);
370         h.nodes_root_off = htole64(root_off);
371         pos = ftello(t.f);
372         h.nodes_len = htole64(pos - sizeof(struct trie_header_f));
373
374         /* write string buffer */
375         fwrite(trie->strings->buf, trie->strings->len, 1, t.f);
376         h.strings_len = htole64(trie->strings->len);
377
378         /* write header */
379         size = ftello(t.f);
380         h.file_size = htole64(size);
381         fseeko(t.f, 0, SEEK_SET);
382         fwrite(&h, sizeof(struct trie_header_f), 1, t.f);
383         err = ferror(t.f);
384         if (err)
385                 err = -errno;
386         fclose(t.f);
387         if (err < 0 || rename(filename_tmp, filename) < 0) {
388                 unlink(filename_tmp);
389                 goto out;
390         }
391
392         log_debug("=== trie on-disk ===\n");
393         log_debug("size:             %8zi bytes\n", size);
394         log_debug("header:           %8zu bytes\n", sizeof(struct trie_header_f));
395         log_debug("nodes:            %8zu bytes (%8zi)\n", t.nodes_count * sizeof(struct trie_node_f), t.nodes_count);
396         log_debug("child pointers:   %8zu bytes (%8zi)\n", t.children_count * sizeof(struct trie_child_entry_f), t.children_count);
397         log_debug("value pointers:   %8zu bytes (%8zi)\n", t.values_count * sizeof(struct trie_value_entry_f), t.values_count);
398         log_debug("string store:     %8zu bytes\n", trie->strings->len);
399         log_debug("strings start:    %8llu\n", (unsigned long long) t.strings_off);
400 out:
401         free(filename_tmp);
402         return err;
403 }
404
405 static int import_file(struct trie *trie, const char *filename) {
406         FILE *f;
407         char line[LINE_MAX];
408         char match[LINE_MAX];
409
410         f = fopen(filename, "re");
411         if (f == NULL)
412                 return -errno;
413
414         match[0] = '\0';
415         while (fgets(line, sizeof(line), f)) {
416                 size_t len;
417
418                 if (line[0] == '#')
419                         continue;
420
421                 /* new line, new record */
422                 if (line[0] == '\n') {
423                         match[0] = '\0';
424                         continue;
425                 }
426
427                 /* remove newline */
428                 len = strlen(line);
429                 if (len < 2)
430                         continue;
431                 line[len-1] = '\0';
432
433                 /* start of new record */
434                 if (match[0] == '\0') {
435                         strcpy(match, line);
436                         continue;
437                 }
438
439                 /* value lines */
440                 if (line[0] == ' ') {
441                         char *value;
442
443                         value = strchr(line, '=');
444                         if (!value)
445                                 continue;
446                         value[0] = '\0';
447                         value++;
448                         trie_insert(trie, trie->root, match, line, value);
449                 }
450         }
451         fclose(f);
452         return 0;
453 }
454
455 static void help(void) {
456         printf("Usage: udevadm hwdb [--create] [--help]\n"
457                "  --update            update the hardware database\n"
458                "  --help\n\n");
459 }
460
461 static int adm_hwdb(struct udev *udev, int argc, char *argv[]) {
462         static const struct option options[] = {
463                 { "update", no_argument, NULL, 'u' },
464                 { "help", no_argument, NULL, 'h' },
465                 {}
466         };
467         bool update = false;
468         struct trie *trie;
469         char **files, **f;
470         int err;
471         int rc = EXIT_SUCCESS;
472
473         for (;;) {
474                 int option;
475
476                 option = getopt_long(argc, argv, "ch", options, NULL);
477                 if (option == -1)
478                         break;
479
480                 switch (option) {
481                 case 'u':
482                         update = true;
483                         break;
484                 case 'h':
485                         help();
486                         return EXIT_SUCCESS;
487                 }
488         }
489
490         if (!update) {
491                 help();
492                 return EXIT_SUCCESS;
493         }
494
495         trie = calloc(sizeof(struct trie), 1);
496         if (!trie) {
497                 rc = EXIT_FAILURE;
498                 goto out;
499         }
500
501         /* string store */
502         trie->strings = strbuf_new();
503         if (!trie->strings) {
504                 rc = EXIT_FAILURE;
505                 goto out;
506         }
507
508         /* index */
509         trie->root = calloc(sizeof(struct trie_node), 1);
510         if (!trie->root) {
511                 rc = EXIT_FAILURE;
512                 goto out;
513         }
514         trie->nodes_count++;
515
516         err = conf_files_list_strv(&files, ".hwdb", (const char **)conf_file_dirs);
517         if (err < 0) {
518                 log_error("failed to enumerate hwdb files: %s\n", strerror(-err));
519                 rc = EXIT_FAILURE;
520                 goto out;
521         }
522         STRV_FOREACH(f, files) {
523                 log_debug("reading file '%s'", *f);
524                 import_file(trie, *f);
525         }
526         strv_free(files);
527
528         strbuf_complete(trie->strings);
529
530         log_debug("=== trie in-memory ===\n");
531         log_debug("nodes:            %8zu bytes (%8zu)\n", trie->nodes_count * sizeof(struct trie_node), trie->nodes_count);
532         log_debug("children arrays:  %8zu bytes (%8zu)\n", trie->children_count * sizeof(struct trie_child_entry), trie->children_count);
533         log_debug("values arrays:    %8zu bytes (%8zu)\n", trie->values_count * sizeof(struct trie_value_entry), trie->values_count);
534         log_debug("strings:          %8zu bytes\n", trie->strings->len);
535         log_debug("strings incoming: %8zu bytes (%8zu)\n", trie->strings->in_len, trie->strings->in_count);
536         log_debug("strings dedup'ed: %8zu bytes (%8zu)\n", trie->strings->dedup_len, trie->strings->dedup_count);
537
538         mkdir_parents(SYSCONFDIR "/udev/hwdb.bin", 0755);
539         err = trie_store(trie, SYSCONFDIR "/udev/hwdb.bin");
540         if (err < 0) {
541                 log_error("Failure writing hardware database '%s': %s", SYSCONFDIR "/udev/hwdb.bin", strerror(-err));
542                 rc = EXIT_FAILURE;
543         }
544
545 out:
546         if (trie->root)
547                 trie_node_cleanup(trie->root);
548         strbuf_cleanup(trie->strings);
549         free(trie);
550         return rc;
551 }
552
553 const struct udevadm_cmd udevadm_hwdb = {
554         .name = "hwdb",
555         .cmd = adm_hwdb,
556         .help = "maintain the hardware database index",
557 };