chiark / gitweb /
changelog: document further make-release changes
[otter.git] / Makefile
index 5c256b66e0e056682653ad37af5fd6bb09b71796..b316edc6c24eb3d62576a00f0d2026f622a88bd7 100644 (file)
--- a/Makefile
+++ b/Makefile
@@ -1,4 +1,3 @@
-#!/bin/sh
 # Copyright 2020-2021 Ian Jackson and contributors to Otter
 # SPDX-License-Identifier: AGPL-3.0-or-later
 # There is NO WARRANTY.
@@ -16,10 +15,9 @@ full-check: all check cargo-syntaxcheck-release shapelib doc-sphinx
 full-check: for-deploy release
 everything: debug doc release check bundled-sources
 
-shapelib: templates/shapelib.html stamp/cargo.doc-otter-only
+shapelib: templates/shapelib.html docs/html/index.html
        @echo 'Shape library preview and docs can now be found here:'
-       @echo '  file://$(PWD)/$<'
-       @echo '  file://$(abspath $(TARGET_DIR)/doc/otter/shapelib_toml/index.html)'
+       @for f in $^; do echo '  file://$(PWD)/'$$f; done
 
 MAKEFILE_DEP ?= Makefile
 MAKEFILE_FIND_X ?=
@@ -39,37 +37,42 @@ BUNDLED_SOURCES += $(BUNDLED_SOURCES_FILES)
 
 #---------- programs and config variables ----------
 
-CARGO ?= cargo
 TARGET_DIR ?= target
 
-USVG_OPTIONS = "--sans-serif-family=DejaVu Sans"
-
 WASM_BINDGEN = $(TARGET_DIR)/debug/wasm-bindgen
 WASM_BINDGEN_OPTIONS =                                         \
        --remove-name-section --remove-producers-section        \
-       --typescript --no-modules                               \
+       --typescript
 
 BUNDLE_SOURCES ?= bundle-rust-sources
 
-SPHINXBUILD   = sphinx-build
+SPHINXBUILD   ?= sphinx-build
 
 ifndef INKSCAPE_EXTENSIONS
 INKSCAPE ?= inkscape
-INKSCAPE_EXTENSIONS := $(shell $(INKSCAPE) -x)
+INKSCAPE_SDD_QUIETEN ?= 2>/dev/null
+# inkscape 0.92.4: --extension-directory works, no --system-data-directory
+# inkscape 1.0.2: --system-data-directory, no --extension-directory
+INKSCAPE_EXTENSIONS := $(shell set -e; { sdd=$$( $(INKSCAPE) --system-data-directory $(INKSCAPE_SDD_QUIETEN) ) && echo "$$sdd/extensions"; } || $(INKSCAPE) --extension-directory )
 endif
-RECOLOUR_SVG ?= $(INKSCAPE_EXTENSIONS)/color_replace.py
+RECOLOUR_SVG ?= ./run-inkscape-extension $(INKSCAPE_EXTENSIONS)/color_replace.py
 
 DEPLOY_ARCH=x86_64-unknown-linux-musl
-DEPLOY_RELEASE=debug
+DEPLOY_RELEASE=release
 DEPLOY_TARGET_DIR=$(TARGET_DIR)/$(addsuffix /,$(DEPLOY_ARCH))$(DEPLOY_RELEASE)
 DEPLOYED_BRANCH=deployed
+PUBLISHED_BRANCH=published
+
+RUST_CLIPPY_OPTIONS ?= $(shell perl -pe 's/\#.*//; s/\n/ /' clippy-options)
+RUST_CLIPPY ?= clippy
+RUST_CLIPPY_CMD := clippy $(RUST_CLIPPY_OPTIONS)
 
 #---------- nailing-cargo ----------
 
 ifneq (,$(wildcard ../Cargo.nail))
 
-NAILING_CARGO = nailing-cargo
-CARGO = $(NAILING_CARGO)
+NAILING_CARGO ?= nailing-cargo
+CARGO_CMD ?= $(NAILING_CARGO)
 BUILD_SUBDIR ?= ../Build
 TARGET_DIR = $(BUILD_SUBDIR)/$(notdir $(PWD))/target
 
@@ -78,12 +81,16 @@ BUNDLE_SOURCES_CMD ?= $(NAILING_CARGO) --- $(BUNDLE_SOURCES)
 USVG_CMD ?= $(NAILING_CARGO_JUST_RUN) $(USVG)
 WASM_BINDGEN_CLI_CARGO_OPTS ?= --subcommand-props=!manifest-path
 
+CARGO_DOCUMENT_PRIVATE_ITEMS ?= --document-private-items
+CARGO_DOC_OPTS += $(CARGO_DOCUMENT_PRIVATE_ITEMS)
+
 clean-nailing:
        $(NAILING_CARGO_JUST_RUN) \
  sh -c 'cd "$1"; find -mindepth 1 -maxdepth 1 -print0 | xargs -0r rm -rf --' \
                $(abspath $(BUILD_SUBDIR)/$(notdir $(PWD)))
 
 else
+CARGO_CMD ?= cargo
 clean-nailing:
 endif # Cargo.nail
 
@@ -121,9 +128,11 @@ TS_SRC_FILES= \
 LITFILES= LICENCE AGPLv3
 TXTFILES= CC-BY-SA-3.0 CC-BY-SA-4.0
 
-FILEASSETS = $(addprefix templates/, libre shapelib.html script.js \
+NWTEMPLATEASSETS = nwtemplates/die-overlay.tera
+FILEASSETS =   $(addprefix templates/, libre shapelib.html script.js \
                        $(LITFILES) $(TXTFILES)) \
-               $(wildcard templates/*.tera)
+               $(wildcard templates/*.tera) \
+               $(NWTEMPLATEASSETS)
 
 WASM := wasm32-unknown-unknown
 # ^ todo: Is this still right after
@@ -132,9 +141,12 @@ WASM := wasm32-unknown-unknown
 # ?  But maybe it doesn't matter since we're very conservative and
 # only pass JsValue and a few strings across the WASM ABI.
 
+RUST_NIGHTLY_VERSION ?= +nightly
+CARGO = $(CARGO_CMD) $(RUST_VERSION)
+
 #---------- toplevel aggregate targets ----------
 
-check: stamp/cargo.debug-check at wdt
+check: stamp/cargo.debug-check at wdt jstest
        @echo 'Tests passed.'
 
 full-check: stamp/cargo.release-check
@@ -143,7 +155,7 @@ full-check: stamp/cargo.release-miri stamp/cargo.debug-miri
 full-check:
        @echo 'Full tests passed.'
 
-doc: cargo-doc doc-sphinx
+doc: cargo-doc doc-sphinx examples
 
 debug release:: %: stamp/cargo.% assets libraries extra-%
 
@@ -153,6 +165,12 @@ cargo-debug cargo-release cargo-check cargo-doc \
 cargo-wasm-debug cargo-wasm-release:: \
 cargo-%: stamp/cargo.%
 
+EXAMPLE_BUNDLES = test-bundle big-bundle
+EXAMPLE_BUNDLE_FILES = $(foreach f, $(EXAMPLE_BUNDLES), examples/$f.zip)
+
+examples: $(EXAMPLE_BUNDLE_FILES)
+.PHONY: examples
+
 cargo-wasm: cargo-wasm-release
 
 wasm: stamp/wasm-bindgen
@@ -172,6 +190,12 @@ cargo-syntaxcheck-wasm:
 cargo-syntaxcheck-release:
        $(CARGO) check --workspace --release
 
+cargo-clippy: cargo-clippy-host cargo-clippy-wasm
+cargo-clippy-host: clippy-options
+       $(CARGO) $(RUST_CLIPPY) --workspace $(RUST_CLIPPY_OPTIONS)
+cargo-clippy-wasm: clippy-options
+       $(CARGO) $(RUST_CLIPPY) --target $(WASM) -p otter-wasm $(RUST_CLIPPY_OPTIONS)
+
 #---------- cargo ----------
 
 DR=debug release
@@ -179,14 +203,18 @@ CARGOES=$(foreach t, wasm-,$(addprefix $t,check $(DR)))
 
 $(addprefix stamp/cargo.,$(DR)):: \
 stamp/cargo.%: $(call rsrcs,. ! -path './wasm/*')
-       $(CARGO) build --workspace $(call cr,$*) -p otter -p otter-daemon
+       $(CARGO) build --workspace $(call cr,$*) -p otter -p otter-daemon -p otter-cli
+       $(NAILING_CARGO_JUST_RUN) \
+       ln -sf otter $(abspath $(TARGET_DIR))/$*/otter-ssh-proxy
        $(stamp)
 
 $(TARGET_DIR)/debug/%: $(call rsrcs, ! -path './wasm/*')
-       $(CARGO) build --workspace -p otter --bin $*
+       $(CARGO) build --workspace -p otter-cli
+       $(NAILING_CARGO_JUST_RUN) touch $(abspath $@)
 
 stamp/cargo.wasm-bindgen: $(call rsrcs, ! -name \*.rs)
-       $(CARGO) $(WASM_BINDGEN_CLI_CARGO_OPTS) build --target-dir=target \
+       $(CARGO_CMD) $(WASM_BINDGEN_CLI_CARGO_OPTS) $(RUST_VERSION) \
+               build --target-dir=target \
                --manifest-path=$(abspath wasm/Cargo.toml) -p wasm-bindgen-cli
        $(stamp)
 
@@ -195,7 +223,8 @@ stamp/cargo.%-check: $(call rsrcs,.)
        $(stamp)
 
 stamp/cargo.%-miri: $(call rsrcs,.)
-       $(CARGO) miri test --workspace $(call cr,$*)
+       $(CARGO_CMD) $(RUST_NIGHTLY_VERSION) \
+               miri test --workspace $(call cr,$*)
        $(stamp)
 
 stamp/cargo-at.debug: $(call rsrcs,.)
@@ -206,12 +235,14 @@ stamp/cargo-wdt.debug: $(call rsrcs,.)
        $(CARGO) build --workspace $(call cr,$*) -p otter-webdriver-tests
        $(stamp)
 
-stamp/cargo.doc: $(call rsrcs,.)
-       $(CARGO) doc $(CARGO_DOC_OPTS) --workspace 2>&1 |egrep -vf .cargo-doc-suppress-errors
+stamp/cargo-jstest.debug: $(call rsrcs,.)
+       $(CARGO) build --workspace $(call cr,$*) -p otter-nodejs-tests
        $(stamp)
 
-stamp/cargo.doc-otter-only: $(call rsrcs,.)
-       $(CARGO) doc $(CARGO_DOC_OPTS) --workspace -p otter --no-deps
+stamp/cargo.doc: $(call rsrcs,.)
+       set -o pipefail -e; \
+       $(CARGO) doc $(CARGO_DOC_OPTS) --workspace 2>&1 \
+               |egrep -vf .cargo-doc-suppress-errors
        $(stamp)
 
 $(addprefix stamp/cargo.wasm-,$(DR)):: \
@@ -220,24 +251,56 @@ stamp/cargo.wasm-%: $(call rsrcs, base wasm Cargo.*)
        $(stamp)
 
 stamp/cargo.deploy-build: $(call rsrcs,.)
-       $(CARGO) build --target $(DEPLOY_ARCH) $(call cr,$(DEPLOY_RELEASE)) -p otter -p otter-daemon
+       $(CARGO) build --target $(DEPLOY_ARCH) $(call cr,$(DEPLOY_RELEASE)) -p otter -p otter-cli -p otter-daemon -p usvg
+       $(NAILING_CARGO_JUST_RUN) \
+       ln -sf otter $(abspath $(TARGET_DIR)/$(DEPLOY_ARCH))/$(DEPLOY_RELEASE)/otter-ssh-proxy
        $(stamp)
 
 #---------- sphnix ----------
 
-doc-sphinx: docs/html/index.html
+doc-sphinx:    docs/html/index.html \
+       $(foreach f, $(EXAMPLE_BUNDLES), docs/html/examples/$f.zip) \
+       $(addprefix docs/html/examples/, $(notdir $(wildcard specs/*.toml)))
        @echo 'Documentation can now be found here:'
        @echo '  file://$(PWD)/$<'
 
-docs/html/index.html: docs/conf.py $(wildcard docs/*.md docs/*.rst)
+docs/html/index.html: docs/conf.py $(wildcard docs/*.md docs/*.rst docs/*.png)
        $(SPHINXBUILD) -M html docs docs $(SPHINXOPTS)
 
+docs/html/examples/%.zip: examples/%.zip
+       mkdir -p docs/html/examples
+       rm -f $@ && ln $< $@
+
+docs/html/examples/%.toml: specs/%.toml
+       mkdir -p docs/html/examples
+       rm -f $@ && ln $< $@
+
+#---------- jstest ----------
+
+JSTESTS= basic lower
+
+.PHONY: jstest
+jstest jstests: $(foreach t,$(JSTESTS),stamp/$t.jstest)
+
+stamp/%.jstest: jstest/run1 jstest/%.nodejs templates/script.js \
+               stamp/wasm-bindgen-jstest stamp/cargo-jstest.debug
+       $(NAILING_CARGO_JUST_RUN) $(abspath $(filter-out stamp/%,$^))
+       $(stamp)
+
 #---------- wasm ----------
 
 $(addprefix $(WASM_PACKED)/,$(WASM_ASSETS) $(WASM_OUTPUTS)): stamp/wasm-bindgen
 stamp/wasm-bindgen: stamp/cargo.wasm-bindgen stamp/cargo.wasm-release
        $(NAILING_CARGO_JUST_RUN) $(abspath $(WASM_BINDGEN)) \
-               $(WASM_BINDGEN_OPTIONS) --out-dir target/packed-wasm \
+               $(WASM_BINDGEN_OPTIONS) --no-modules \
+               --out-dir target/packed-wasm \
+               target/$(WASM)/release/otter_wasm.wasm
+       $(stamp)
+
+stamp/wasm-bindgen-jstest: stamp/cargo.wasm-bindgen stamp/cargo.wasm-release
+       $(NAILING_CARGO_JUST_RUN) $(abspath $(WASM_BINDGEN)) \
+               $(WASM_BINDGEN_OPTIONS) --nodejs \
+               --out-dir target/jstest \
                target/$(WASM)/release/otter_wasm.wasm
        $(stamp)
 
@@ -250,7 +313,7 @@ bundled-sources:: $(addprefix bundled-sources/, $(BUNDLED_SOURCES_DIRS))
 TARGET_BUNDLED=$(TARGET_DIR)/bundled-sources
 
 $(TARGET_BUNDLED):
-       $(NAILING_CARGO_JUST_RUN) mkdir -p $@
+       $(NAILING_CARGO_JUST_RUN) mkdir -p $(abspath $@)
 
 $(addprefix bundled-sources/, $(BUNDLED_SOURCES_DIRS)): \
 bundled-sources/%: stamp/cargo.bundle-sources $(TARGET_BUNDLED)
@@ -278,7 +341,7 @@ bundled-sources::
 #---------- svg processing ----------
 
 LIBRARIES ?= $(basename $(wildcard library/*.toml))
-USVG_DEP = stamp/cargo.usvg
+USVG_DEP = stamp/cargo.usvg src/USVG_DEFAULT_ARGS.txt
 
 include $(addsuffix /files.make, $(LIBRARIES))
 
@@ -308,11 +371,63 @@ $(addprefix templates/,$(TXTFILES)): templates/%: %.txt
 
 libraries: $(LIBRARY_FILES)
 
-templates/shapelib.html: $(TARGET_DIR)/debug/otterlib $(LIBRARY_FILES)
+templates/shapelib.html: $(TARGET_DIR)/debug/otterlib $(LIBRARY_FILES) \
+                       $(NWTEMPLATEASSETS)
        $(NAILING_CARGO_JUST_RUN) $(abspath $<) \
+       --nwtemplates $(abspath nwtemplates) \
        --libs '$(addprefix $(PWD)/, $(addsuffix .toml, $(LIBRARIES)))' \
                preview >$@.tmp && mv -f $@.tmp $@
 
+nwtemplates/die-overlay.tera: dice/overlay-template-extractor dice/die.svg
+       ./$< <dice/die.svg >$@.tmp && mv -f $@.tmp $@
+
+library/edited/die-image-d6-_c.svg: dice/extract-image-only dice/die.svg
+       ./$< <dice/die.svg >$@.tmp && mv -f $@.tmp $@
+
+#---------- examples ----------
+
+EXAMPLE_BUNDLE_INPUT_DEPS := $(shell                                   \
+       cd examples/test-bundle/ && find \! \( -name '*~' -o -name '.*' \) \
+)
+
+examples/%.zip: $(MAKEFILE_DEP)
+       set -e; rm -f $@.tmp; cd examples/$*/; \
+       zip $(ZIPFLAGS) -DX ../$(notdir $@).tmp $(ZIP_INPUTS)
+       mv -f $@.tmp $@
+
+examples/test-bundle.zip: ZIP_INPUTS=$(EXAMPLE_BUNDLE_INPUT_DEPS)
+examples/test-bundle.zip: \
+ $(addprefix examples/test-bundle/, $(EXAMPLE_BUNDLE_INPUT_DEPS))
+
+examples/big-bundle.zip: examples/big-bundle/otter.toml
+examples/big-bundle.zip: ZIPFLAGS+= -0 -r -q
+examples/big-bundle.zip: ZIP_INPUTS=.
+examples/big-bundle/otter.toml: $(LIBRARY_FILES) $(MAKEFILE_DEP)
+       rm -rf examples/big-bundle
+       mkdir examples/big-bundle examples/big-bundle/library
+       @set -e; echo 'MKDIR for $@'; \
+       for l in $(LIBRARIES); do \
+               mkdir examples/big-bundle/$$l; \
+               perl -p \
+ -e 'BEGIN { print "# -- AUTOGENERATED FROM COPY IN OTTER SOURCE --\n" }' \
+ -e 'if (m/^\[scraper]/..0) { unless (m/^\[(?!scraper)/..0) { s/^/\#/ } }' \
+ -e 's/(?<=\s)\w\S*(?=\s)/-/ if m/^files = """/..m/^"""|^:/;' \
+                       <$$l.toml >examples/big-bundle/$$l.toml; done
+       @set -e; echo 'LN for $@'; \
+       for e in $(LIBRARY_FILE_INPUTS); do \
+               ln $${e#*:} examples/big-bundle/$${e%%.usvg:*}.svg; done;
+       @set -e; echo 'MV for $@'; \
+       cd examples/big-bundle/library/; for x in '' .toml; do \
+               mv wikimedia$$x duped-example$$x; done
+       @set -e; mkdir examples/big-bundle/specs/; \
+       perl -pe <specs/demo.game.toml \
+               >examples/big-bundle/specs/Modded-spec.game.toml \
+               's/chess-b-/chess-purple-/; s/chess-w-/chess-yellow-/'
+       @set -e; echo 'ECHO for $@'; \
+       echo 'title = "Autogenerated test bundle - do not distribute"' \
+               >$@.tmp
+       mv -f $@.tmp $@
+
 #---------- webdriver tests (wdt) ----------
 
 AT_TESTS := $(basename $(notdir $(wildcard apitest/at-*.rs)))
@@ -326,17 +441,19 @@ wdt:      $(foreach f, $(WDT_TESTS), stamp/$f.check) \
        $(foreach f, $(WDT_LANDSCAPE_TESTS), stamp/$f.lcheck) \
 
 RUNTEST_DEPS = apitest/run1 stamp/cargo.debug $(FILEASSETS) \
+               $(wildcard specs/*.toml) examples/test-bundle.zip \
                $(wildcard libraries/*.toml) $(LIBRARY_FILES)
 
 AT_DEPS =      $(filter-out templates/script.js, $(RUNTEST_DEPS)) \
+               examples/big-bundle.zip \
                stamp/cargo-at.debug
 
-WDT_DEPS =     $(RUNTEST_DEPS) \
+WDT_DEPS =     $(RUNTEST_DEPS) wdriver/firefox-wrapper \
                stamp/cargo-wdt.debug
 
 AT_WDT_RUN = $(NAILING_CARGO_JUST_RUN) $(abspath $<)
 
-AT_RUN = $(AT_WDT_RUN) $(basename $(notdir $@))
+AT_RUN = $(AT_WDT_RUN) apitest --test=$(basename $(notdir $@))
 WDT_RUN = $(AT_WDT_RUN) wdriver --test=$(basename $(notdir $@))
 
 for-at:                        $(AT_DEPS)
@@ -355,11 +472,19 @@ stamp/wdt-%.lcheck:       $(WDT_DEPS)
 
 #---------- docs publication ----------
 
+PUBLISH_VERSION=unreleased
 PUBLISH_USER=ianmdlvl@login.chiark.greenend.org.uk
-PUBLISH_DOC_SPHINX=$(PUBLISH_USER):public-html/otter/docs
+PUBLISH_DOC_SPHINX_BASE=public-html/otter
+PUBLISH_DOC_SPHINX_TAIL=$(PUBLISH_VERSION)/docs
+PUBLISH_DOC_SPHINX=$(PUBLISH_USER):$(PUBLISH_DOC_SPHINX_BASE)/$(PUBLISH_DOC_SPHINX_TAIL)
 
 publish: doc-sphinx
+       ssh $(PUBLISH_USER) 'cd $(PUBLISH_DOC_SPHINX_BASE) && mkdir -p $(PUBLISH_DOC_SPHINX_TAIL)'
        rsync -r --delete-delay docs/html/. $(PUBLISH_DOC_SPHINX)/.
+       git branch -f $(PUBLISHED_BRANCH)
+
+publish-make-current:
+       ssh $(PUBLISH_USER) 'set -e; cd $(PUBLISH_DOC_SPHINX_BASE); rm -f current.tmp; ln -s $(PUBLISH_VERSION) current.tmp; mv -T current.tmp current'
 
 #---------- deployment ----------
 
@@ -369,7 +494,8 @@ DEPLOY_FINISH=/home/Otter/etc/deploy-finish
 
 for-deploy: stamp/cargo.deploy-build
 deploy: for-deploy bundled-sources assets libraries
-       rsync -zv --progress $(addprefix $(DEPLOY_TARGET_DIR)/,$(PROGRAMS)) $(DEPLOY_BASE)/bin/
+       rsync -zvl --progress $(addprefix $(DEPLOY_TARGET_DIR)/,$(PROGRAMS) otter-ssh-proxy) $(DEPLOY_BASE)/bin/
+       rsync -zv --progress $(DEPLOY_TARGET_DIR)/usvg $(DEPLOY_BASE)/libexec/
        rsync -rv --progress $(TARGET_DIR)/bundled-sources/. $(DEPLOY_BASE)/bundled-sources
        rsync -r README.md $(DEPLOY_BASE)/.
        rsync -r --delete --exclude=\*~ library specs $(DEPLOY_BASE)/.
@@ -378,8 +504,8 @@ deploy: for-deploy bundled-sources assets libraries
        rsync -r nwtemplates/*.tera $(DEPLOY_BASE)/nwtemplates/
        ssh -o BatchMode=true $(DEPLOY_USER) $(DEPLOY_FINISH)
        git branch -f $(DEPLOYED_BRANCH)
-       -git push origin master
-       -git push chiark master
+       -git push origin main
+       -git push chiark main
 
 #$(DEPLOY_BASE)/bundled-sources
 
@@ -388,7 +514,9 @@ deploy: for-deploy bundled-sources assets libraries
 clean-for-retest:
        rm -f templates/script.js library/*/*.usvg stamp/*
        rm -rf $(LIBRARY_CLEAN)
-       find * -name '*~' -print0 | xargs -0r rm --
+       rm -rf examples/big-bundle examples/big-bundle.zip
+       rm -f examples/test-bundle.zip
+       find * \( -name '*~' -o -name '*.tmp' \) -print0 | xargs -0r rm --
 
 clean: clean-nailing clean-for-retest
        rm -rf target