Finalise 0.6.2

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

init script: make "restart" work if secnet is not running.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

changelog: Document changes since 0.6.1

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

legal: Add missing notice to many files

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

legal: Clean up credits for init script

Add the credits to CREDITS and LICENCE and get rid of
boilerplate/noise/version stuff from script header.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

OLD-BUGS: Rename from BUGS and don't ship in the Debian package

This is really not of any interest.  It has been unchanged since at
least 2001.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

OLD-NEWS: Rename from NEWS

This file is very old.  We use the debian/changelog file now.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

legal: Make a LICENSE symlink for Americans

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

credits: Make debian/copyright be a symlink

This reduces the number of places to edit to two.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

credits: Add missing credit re python argparse extension

See argparseactionnoyes.py.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

CREDITS, copyright: Promote Joey Hess's packaging credit

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

legal: Move legal information into its own file

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

copyright: Add notice to random-fake-userv

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

test-example/null-fake-userv: New test utility script

This doesn't get used by anything yet.  We will want it for certian
tests, eg the autopkgtest I am working on.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

example.conf: Add mtu-target

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

example.conf: Add a commented-out mobile site setting

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

example.conf: Improve syntax by deleting one of the two map examples

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

example.conf: Comment out some tuning overrides

Not setting these is better.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

test-example/common.conf: Fix a reference to the sites file

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

init script: source /lib/lsb/init-functions

As per lintian.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

debian/control: Add missing Pre-Depends

As per lintian.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

debian: Add some lintian overrides

(INSTALL contains setup instructions too.)

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

debian/control: Adjust priority (as per modern policy and lintian)

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

Description: expand

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

Description: expand

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

README, copyright: add missing credits for base91

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

site: promote creation of st->scratch

Without this, peer keyset loading does not work after restart!

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

comprehensive-test: Actually allow OLD_SECNET_DIR set to ''

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

Dir.sd.mk: Prevent builtin make rule overwriting conffile.c

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

debian/rules: Use dh sequencer

Resulting changes:
 * We now provide debug symbols in the new Debian way
 * The way the prerm stops secnet accords with modern practice

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

debhelper compat: bump to 12 (stretch-backports)

According to debdiff --controlfiles ALL the only change is a change to
the postinst, which now sometimes restarts rather than starts the
daemon.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

debian/rules: Use dh_prep instead of deprecated dh_clean -k

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

changelog: start 0.6.2

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

configure: bug reporting address

The correct address is the secnet-discuss list.

Reported-by: Colin Watson <cjwatson@debian.org>
Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

comm-common.h: Remove unused `notify' variable

This only needs to declare the `comm_notify_list' type, and declaring
the variable here without `extern' causes a multiple-definition link
failure on bullseye.

changelog: finalise 0.6.1

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

changelog: document changes since 0.6.0

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

Use CLOCK_MONOTONIC for all our timing needs, when possible

Otherwise we can malfunction if the clock warps.

This depends on an unreleased adns feature, so the warning is
currently not actually printed.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

autoconf: Check for adns_if_monotonic and define USE_MONOTONIC

Nothing uses this yet.  Split out into its own commit for clarity.

This flag is not yet in any released version of adns but as adns
upstream I promise this is how it will be.  for my convenience I am
making secnet check for it ahead of its existence in public adns....

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

resolver: Break out adns_initflags value as variable

This provides a single place to add flags, which we'll do in a moment.

No functional change.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

config parsing: When closure is of wrong type, report how

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

Closures: Provide closure_type_name

This will be used in error reporting.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

config parsing: site: Use cfgfatal_cl_type for transform

Minor improvement to the message.  We are going to improve
cfgfatal_cl_type.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

config parsing: Break out cfgfatal_cl_type

No functional change.  We are going to reuse and improve this.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

example.conf: Fix "transform" syntax

These global closure names need to be invoked.

This was broken in 5b5f297f9a9d47ee
  site: support multiple transforms
(first released in 0.3.0)

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

rsa: Print errno value if we fail to open key file

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

rsa: Do not crash with -j if key file does not exist

This was messed up by 58913a3b93a6
  rsa1: Break rsa_loadpriv_core out of rsapriv_apply
where the early exit path should have been handled in both places but
wasn't.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

log: Set log level for early logging

Unless ->level is set, logging is just a no-op.  We must set this
twice, because the system log is used to report command line parsing
errors, but the command line might increase the log level.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

example.conf: Use new name-prefixed format

Otherwise it won't work at all.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

stest: No longer use localhost addresses

This will make testing polypath stuff more sensible.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

mtest/t-userv: Check lack of optional group in fragment

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

make-secnet-sites: Tolerate missing group in userv sites file

When processing a sites file fragment via userv, the group in the
provided file is supposed to be optional.  This was accidentally
regressed in 19482a2958fa
   make-secnet-sites: Do not write out unchecked output in sites

The additional call to w[2].groupname ought to have been conditional.
Now we have precisely the right code in OpBase, so simply call it.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

mtest/t-userv: Test that output conf file is correct

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

mtest/t-userv: Test that updated sites file is readable.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

make-secnet-sites: Tolerate unused group in additions to location

When processing a sites file other than via userv, the group (if
specified) is not of any interest.

But since tainting, we need to bless it for re-output.  (This is
necessary even in modes where we don't actually write anything out,
like .conf generation.)

The correct place to do this is in OpConf's base class.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

mtest: Break out diff-mss-sites-conf

No functional change.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

mtest/t-userv: Check that user in wrong group is rejected

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

make-secnet-sites: Fix error handling if caller is in wrong group

We would crash with an unbound variable error, instead of the right
error message.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

Makefiles: Use Final.sd.mk to implementing RECHECK_RM

This is now read by make after all the other makefiles.  This allows
us to move the addition of {stest,mtest}/d-* to RECHECK_RM from
Dir.sd.mk into test-common.sd.mk, where it belongs.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

Merge subdirmk 0.4

git subtree pull.  Fix up test-example/Dir.sd.mk for the incompatible
change (`&${' needs to become `&{').

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

README: Update copyright date

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

README: Fix documentation errors relating to &{ etc.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

logging: site: Log state on PHASE_RUN entry instead of initially

site_startup calls enter_state_run which would print a message, but
logging is not set up that early.  The result is a message printed to
stderr before daemonisation.

We can distinguish this situation from other calls to enter_state_run
because the old state is SITE_STOP, which only occurs between config
reading (closure invocation) and site_startup being called.
So we can suppress this message.

But it did serve a purpose: it would only be printed if the site was
listed in `sites'; otherwise site_startup wouldn't be called and the
`entering state RUN' message would be absent.

So instead we provide a more explicit way to tell: on entering
PHASE_RUN, site_startup has either been called, or not.  And logging
is set up.  state is then STOP or RUN.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

site: Rename site_phase_hook to site_phase_shutdown_hook

This is misnamed.  And we are going to add yet another phase hook.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

logging: Move "starting" message earlier

We are going to add some log messages to PHASE_RUN hooks.  We want the
overall startup message to come first.  Doing this right after
PHASE_DAEMONIZE makes sense as PHASE_DAEMONIZE now sets up logging,
too.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

site: Change site->control(bool_t) to site->startup()

This is only ever called with run=True.  We are going to want to rely
on this property.

If we ever do more runtime reconfig that will be done differently.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

logging; site: Do not log transport_peers_clear if already clear

This suppresses a pointles message at startup.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

logging: site: Introduce transport_peers_init which doesn't log

This eliminates some spurious startup messages.  It also allows
transport_peers_clear to read *peers, since it doesn't have to do
initialisation.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

logging: start rather earlier

This moves some messages printed by by early netlink and polypath
setup to the proper logfile / syslog directly, rather than having them
captured by the stderr capture from daemonize.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

startup: Break out start_sites

We were going to want to change when this happens.  But actually it
seems that is not right.  Keep the commit anyway, as I think it
improves clarity a bit.

No functional change.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

changelog: Start 0.6.1

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

Finalise 0.6.0

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

configure[.ac]: Arrange to cope with jessie's gcc

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

Revert "site, pubkeys: Avoid for (int a=..."

This reverts commit 983e0900816ece898f3d53a530fe0f2c73932bbc.

site, pubkeys: Avoid for (int a=...

In jessie, gcc hates this unless you pass -std=gnu11 or something.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

make-secnet-sites: Do ascii conversion after % format

In Python 3.4 (jessie) the % operator cannot take a bytes format.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

changelog: Fix typo

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

pretest-to-tested: Do not descend into subtree histories

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

changelog: tidy up changes since 0.5.1

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

changelog: tidy up changes since 0.5.1

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

changelog: add notes about changes since 0.5.1

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

changelog: work on documentation of changes since ea31544cc33a

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

sig: Abolish sethash and defhash everywhere

The only consumer of this wrongheaded interface was rsa1, which has
been updated.  Delete it all.

There is nothing to delete in the documentation, mostly because much
of this wasn't documented when we introduced it.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

rsa: Bring hash selection in-house

In
  13b8fbf4548f3457b02afd36e9284d39839d6f85
  sig: Move hashing into algorithm
we introduced a scheme were for rsa1 the hash function is stored
in the signature scheme's key structure, but provided by the caller.

The intent was to allow defaulting, with context-specific overrides.
However, this does not work correctly.  In particular, most sites
have a single "local-key" setting at the top level in the main config,
but take "hash" keys from the sites file.

The result is that as the various sites are initialised, ->sethash is
called multiple times, once for each site.  Possibly with different
hash_if's.  I did not foresee this and it is clearly wrong.

If all the hash_if's are sha1 then this is harmless.  However, they
might not be, in particular if certain site(s) or vpn(s) in the sites
file(s) specify a different hash.  Such a configuration would be
rather wrong, because it would imply reuse of the same raw RSA key
material with a different hash function.  (Also since the default hash
is sha1 and historically the only alternative was md5, this is surely
wrong simply because it implies md5 is being used somewhere.)

But it has come to my attention that such installations exist.  Even a
non-operational, vestigial, use of a different hash, can cause
lossage.

To fix this properly and allow hash-agility with a single private key,
we would have to have call sites continue to look up the hash, but to
pass in into the signature function.  This is too annoying,
particularly when it is in support only of unreasonable and very old
configurations.

Instead, change the semantics so that the two rsa closure verbs nail
down their hash at key load time, defaulting to sha1.  The "hash"
config key is now looked up sort of implicitly in the context.  This
is slightly odd, but it has roughly the right effect with sites.conf
files generated by make-secnet-sites.  And it is contained within the
rsa1 signature scheme which is a thing we should be replacing anyway.

This change makes it more clearly impossible (as it has, in fact, been
since 0.4.x) to use the same loaded private key with different hashes.

Installations which are only using sha1 with their rsa1 will just keep
working an all is well.

Installations which are using md5 everywhere can be made to work by
adding a global config hash= setting in every instance.

Installations which are using a mixture have a more complicated task
to keep things working (maybe loading the key twice, or propagating
hash information in sites files, or something), if they don't want a
flag day transition to sha1.

In the future for rsa1, what hash a site is using becomes a property
which should be carried with public key; so a non-sha1 hash must be
specified in the config file (alongside `local-key') and also
documented in the sites file entry.

For forthcoming non-rsa1 algorithms hash choice will be handled within
the signature scheme in a less irregular way, and this "hash" key will
thereby become obsolete.

Reported-by: Matthew Vernon <matthewv@chiark.greenend.org.uk>
Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

config: Reject rather than silently ignoring wrong closure values

find_cl_if(...,fail_if_invalid=False,,..) is only called in places
where a particular closure, or nothing, is expected.

It is really not a good idea for this function to silently ignore
config keys of the wrongn type.  It should behave more like
dict_read_number and dict_read_bool.

There are possible compatibility implications, but they can be solved
by deleting the wrong (currently-ignored) information from the config
file(s).

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

sha1: Provide sha1_hash_if

This will be useful in a moment.

As a side effect, the sha1 st is statically allocated now.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

rsa: Provide dict context argument in load_ctx

This is going to be used to make the old rsa-public and rsa-private
names honour a "hash" dictionary key in the context.

The new generic privcache and keyset machinery will use a fixed hash
so does not pass the dictionary.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

mobile sites: Do not ever expire peer addresses

For mobile sites, peer addresses come from our config or DNS name
lookup.  Ones that are not working now may work later in a different
network environment.  The mobile end is in charge of public path
selection so it needs to retain the information to try these
currently-non-working addresses.

In practice, this change allows me to switch backwards and forwards
between the FOSDEM v6-only wifi, and my v4-only USB stick.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

test-example: Use subdirmk's new &:macro feature

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

site: Always advertise all capabilities

The first version that can cope with this is 0.3.0 which is already
quite old (September 2013).  All older versions are quite badly
broken: eg, they use the serpent256-cbc transform.

This is the next phase in eventually getting rid of the distinction
between early and late capabilities.  When every running version of
secnet has this commit, we can declare every capability early since
every secnet will always advertise them early.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

build system: Fix race bug in recheck target

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

dh: Fix mpz padding bug in use of write_mpbin

If the BN needs less than buflen bytes, write_mpbin would write only
the first len bytes.  dh_makeshared wouldn't notice.  The remaining
bytes will be left uninitialised.

In current code this is only called from site.c, where it so happens
right now that this buffer is always zero on entry.  So the effect is
thst we pad the bignum with zeroes at the LS end, which is wrong.

We can't just change this because it's baked into the protocol.
So actually implement it properly.

We do this in the write_mpbin function, renaming it, because the old
API for write_mpbin invites precisely this error.

I don't think this is of an significant consequence
cryptographically.  Perhaps we should introduce a non-anomalous
version of DH over prime fields.  Or perhaps we should just leave it
as is and expect to switch to X448 or something.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

dh: move write_mpbin in to dh.c

This function has a hazardous API.  In fact, the one call site misuses
it, as we shall see in a moment.

If we wanted a thing like this with a less hazardous API we probably
wouldn't base it on mpz_get_str nowadays.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

stest: Print spawn rune on a line by itself

Especially useful with SECNET_STEST_DIVERT_*=i...: now you can c&p the
whole line.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

stest: Allow SECNET_STEST_DIVERT_*='i <some stuff>'

Eg,
  SECNET_STEST_DIVERT_inside='i gdb --args'
which causes it to print something like this
  spawn UDP_PRELOAD_DIR=./stest/d-nonnego-oo/s LD_PRELOAD=./stest/udp-preload.so:libgtk3-nocsd.so.0 gdb --args ./secnet -dvnc ./stest/d-nonnego-oo/inside.conf
which is convenient.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

stest: Require SECNET_STEST_DIVERT_* paths to start / or ./

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

stest: When SECNET_STEST_DIVERT_* set, print diverted command too

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

stest: Move puts $argl into divert branches

We're going to want to do something slightly different in each one.

No functional change yet.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

stest: Honour SECNET_STEST_TIMEOUT_MUL to multiply timeouts

This is handy, for example, when running under valgrind.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>

stest: Introduce adj-after

We are going to want this to do something more complicated.

No functional change.

Signed-off-by: Ian Jackson <ijackson@chiark.greenend.org.uk>