chiark / gitweb /
3adf9b313f27a89f81fd122facc5dfb491f5364b
[hippotat.git] / hippotatd
1 #!/usr/bin/python3
2
3 from hippotatlib import *
4
5 import os
6
7 import twisted.internet
8 from twisted.web.server import NOT_DONE_YET
9
10 #import twisted.web.server import Site
11 #from twisted.web.resource import Resource
12
13 import syslog
14
15 clients = { }
16
17 #---------- "router" ----------
18
19 def route(packet, iface, saddr, daddr):
20   def lt(dest):
21     log_debug(DBG.ROUTE, 'route: %s -> %s: %s' % (saddr,daddr,dest), d=packet)
22   try: dclient = clients[daddr]
23   except KeyError: dclient = None
24   if dclient is not None:
25     lt('client')
26     dclient.queue_outbound(packet)
27   elif daddr == c.vaddr or daddr not in c.vnetwork:
28     lt('inbound')
29     queue_inbound(ipif, packet)
30   elif daddr == c.relay:
31     lt('discard relay')
32     log_discard(packet, iface, saddr, daddr, 'relay')
33   else:
34     lt('discard no-client')
35     log_discard(packet, iface, saddr, daddr, 'no-client')
36
37 #---------- client ----------
38
39 class Client():
40   def __init__(self, ip, cc):
41     # instance data members
42     self._ip = ip
43     self.cc = cc
44     self._rq = collections.deque() # requests
45     self._pq = PacketQueue(str(ip), self.cc.max_queue_time)
46
47     if ip not in c.vnetwork:
48       raise ValueError('client %s not in vnetwork' % ip)
49
50     if ip in clients:
51       raise ValueError('multiple client cfg sections for %s' % ip)
52     clients[ip] = self
53
54     self._log(DBG.INIT, 'new')
55
56   def _log(self, dflag, msg, **kwargs):
57     log_debug(dflag, ('client %s: ' % self._ip)+msg, **kwargs)
58
59   def process_arriving_data(self, d):
60     self._log(DBG.FLOW, "req data (enc'd)", d=d)
61     if not len(d): return
62     for packet in slip.decode(d):
63       (saddr, daddr) = packet_addrs(packet)
64       if saddr != self._ip:
65         raise ValueError('wrong source address %s' % saddr)
66       route(packet, self._ip, saddr, daddr)
67
68   def _req_cancel(self, request):
69     self._log(DBG.HTTP_CTRL, 'cancel', idof=request)
70     request.finish()
71
72   def _req_error(self, err, request):
73     self._log(DBG.HTTP_CTRL, 'error %s' % err, idof=request)
74     self._req_cancel(request)
75
76   def queue_outbound(self, packet):
77     self._pq.append(packet)
78     self._check_outbound()
79
80   def _req_fin(self, dummy, request, cl):
81     self._log(DBG.HTTP_CTRL, '_req_fin ' + repr(dummy), idof=request)
82     try: cl.cancel()
83     except twisted.internet.error.AlreadyCalled: pass
84
85   def new_request(self, request):
86     request.setHeader('Content-Type','application/octet-stream')
87     cl = reactor.callLater(self.cc.http_timeout, self._req_cancel, request)
88     nf = request.notifyFinish()
89     nf.addErrback(self._req_error, request)
90     nf.addCallback(self._req_fin, request, cl)
91     self._rq.append(request)
92     self._check_outbound()
93
94   def _req_write(self, req, d):
95     self._log(DBG.HTTP, 'req_write ', idof=req, d=d)
96     req.write(d)
97
98   def _check_outbound(self):
99     log_debug(DBG.HTTP_CTRL, 'CHKO')
100     while True:
101       try: request = self._rq[0]
102       except IndexError: request = None
103       if request and request.finished:
104         self._log(DBG.HTTP_CTRL, 'CHKO req finished, discard', idof=request)
105         self._rq.popleft()
106         continue
107
108       if not self._pq.nonempty():
109         # no packets, oh well
110         self._log(DBG.HTTP_CTRL, 'CHKO no packets, OUT-DONE', idof=request)
111         break
112
113       if request is None:
114         # no request
115         self._log(DBG.HTTP_CTRL, 'CHKO no request, OUT-DONE', idof=request)
116         break
117
118       self._log(DBG.HTTP_CTRL, 'CHKO processing', idof=request)
119       # request, and also some non-expired packets
120       self._pq.process((lambda: request.sentLength),
121                        (lambda d: self._req_write(request, d)),
122                        self.cc.max_batch_down)
123
124       assert(request.sentLength)
125       self._rq.popleft()
126       request.finish()
127       self._log(DBG.HTTP, 'complete', idof=request)
128       # round again, looking for more to do
129
130     while len(self._rq) > self.cc.target_requests_outstanding:
131       request = self._rq.popleft()
132       self._log(DBG.HTTP, 'CHKO above target, returning empty', idof=request)
133       request.finish()
134
135 def process_request(request, desca):
136   # find client, update config, etc.
137   metadata = request.args[b'm'][0]
138   metadata = metadata.split(b'\r\n')
139   (ci_s, pw, tro, cto) = metadata[0:4]
140   desca['m[0,2:3]'] = [ci_s, tro, cto]
141   ci_s = ci_s.decode('utf-8')
142   tro = int(tro); desca['tro']= tro
143   cto = int(cto); desca['cto']= cto
144   ci = ipaddr(ci_s)
145   desca['ci'] = ci
146   cl = clients[ci]
147   if pw != cl.cc.password: raise ValueError('bad password')
148   desca['pwok']=True
149
150   if tro != cl.cc.target_requests_outstanding:
151     raise ValueError('tro must be %d' % cl.cc.target_requests_outstanding)
152
153   if cto < cl.cc.http_timeout:
154     raise ValueError('cto must be >= %d' % cl.cc.http_timeout)
155
156   try:
157     d = request.args[b'd'][0]
158     desca['d'] = d
159     desca['dlen'] = len(d)
160   except KeyError:
161     d = b''
162     desca['dlen'] = None
163
164   log_http(desca, 'processing', idof=id(request), d=d)
165
166   d = mime_translate(d)
167
168   cl.process_arriving_data(d)
169   cl.new_request(request)
170
171 def log_http(desca, msg, **kwargs):
172   try:
173     kwargs['d'] = desca['d']
174     del desca['d']
175   except KeyError:
176     pass
177   log_debug(DBG.HTTP, msg + repr(desca), **kwargs)
178
179 class NotStupidResource(twisted.web.resource.Resource):
180   # why this is not the default is a mystery!
181   def getChild(self, name, request):
182     if name == b'': return self
183     else: return twisted.web.resource.Resource.getChild(name, request)
184
185 class IphttpResource(NotStupidResource):
186   def render_POST(self, request):
187     log_debug(DBG.HTTP_FULL,
188               'req recv: ' + repr(request) + ' ' + repr(request.args),
189               idof=id(request))
190     desca = {'d': None}
191     try: process_request(request, desca)
192     except Exception as e:
193       emsg = traceback.format_exc()
194       log_http(desca, 'RETURNING EXCEPTION ' + emsg)
195       request.setHeader('Content-Type','text/plain; charset="utf-8"')
196       request.setResponseCode(400)
197       return (emsg + ' # ' + repr(desca) + '\r\n').encode('utf-8')
198     log_debug(DBG.HTTP_CTRL, '...', idof=id(request))
199     return NOT_DONE_YET
200
201   def render_GET(self, request):
202     log_debug(DBG.HTTP, 'GET request')
203     return b'<html><body>hippotat</body></html>'
204
205 class SourceResource(NotStupidResource):
206   def render_GET(self, request):
207     return b'<html><body>SUBDIR</body></html>'
208
209 def start_http():
210   resource = IphttpResource()
211   resource.putChild(b'source',SourceResource())
212   site = twisted.web.server.Site(resource)
213   for sa in c.saddrs:
214     ep = sa.make_endpoint()
215     crash_on_defer(ep.listen(site))
216     log_debug(DBG.INIT, 'listening on %s' % sa)
217
218 #---------- config and setup ----------
219         
220 def process_cfg(putative_servers, putative_clients):
221   global c
222   c = ConfigResults()
223   c.server = cfg.get('SERVER','server')
224
225   cfg_process_common(c, c.server)
226   cfg_process_saddrs(c, c.server)
227   cfg_process_vnetwork(c, c.server)
228   cfg_process_vaddr(c, c.server)
229
230   for (ci,cs) in putative_clients.items():
231     cc = ConfigResults()
232     sections = cfg_process_client_common(cc,c.server,cs,ci)
233     if not sections: continue
234     cfg_process_client_limited(cc,c.server,sections, 'max_batch_down')
235     cfg_process_client_limited(cc,c.server,sections, 'max_queue_time')
236     Client(ci, cc)
237
238   try:
239     c.vrelay = cfg.get(c.server, 'vrelay')
240   except NoOptionError:
241     for search in c.vnetwork.hosts():
242       if search == c.vaddr: continue
243       c.vrelay = search
244       break
245
246   cfg_process_ipif(c,
247                    [c.server, 'DEFAULT'],
248                    (('local','vaddr'),
249                     ('peer', 'vrelay'),
250                     ('rnets','vnetwork')))
251
252 common_startup(process_cfg)
253 ipif = start_ipif(c.ipif_command, (lambda p,s,d: route(p,"[ipif]",s,d)))
254 start_http()
255 common_run()