chiark / gitweb /
wip, new logging in server
[hippotat.git] / server
1 #!/usr/bin/python3
2
3 from hippotat import *
4
5 import os
6
7 import twisted.internet
8 from twisted.web.server import NOT_DONE_YET
9
10 #import twisted.web.server import Site
11 #from twisted.web.resource import Resource
12
13 import syslog
14
15 clients = { }
16
17 #---------- "router" ----------
18
19 def route(packet, saddr, daddr):
20   def lt(dest):
21     log_debug(DBG.ROUTE, 'route: %s -> %s: %s' % (saddr,daddr,dest), d=packet)
22   try: dclient = clients[daddr]
23   except KeyError: dclient = None
24   if dclient is not None:
25     lt('client')
26     dclient.queue_outbound(packet)
27   elif daddr == c.server or daddr not in c.network:
28     lt('inbound')
29     queue_inbound(packet)
30   elif daddr == relay:
31     lt('discard relay')
32     log_discard(packet, saddr, daddr, 'relay')
33   else:
34     lt('discard no-client')
35     log_discard(packet, saddr, daddr, 'no-client')
36
37 #---------- client ----------
38
39 class Client():
40   def __init__(self, ip, cs, pw):
41     # instance data members
42     self._ip = ip
43     self._cs = cs
44     self.pw = pw
45     self._rq = collections.deque() # requests
46     # self._pq = PacketQueue(...)
47     # plus from config:
48     #  .max_batch_down
49     #  .max_queue_time
50     #  .max_request_time
51     #  .target_requests_outstanding
52
53     if ip not in c.network:
54       raise ValueError('client %s not in network' % ip)
55
56     for k in ('max_batch_down','max_queue_time','max_request_time',
57               'target_requests_outstanding'):
58       req = cfg.getint(cs, k)
59       limit = cfg.getint('limits',k)
60       self.__dict__[k] = min(req, limit)
61
62     self._pq = PacketQueue(ip, self.max_queue_time)
63
64     if ip in clients:
65       raise ValueError('multiple client cfg sections for %s' % ip)
66     clients[ip] = self
67
68     self._log(DBG.INIT, 'new')
69
70   def _log(self, dflag, msg, **kwargs):
71     log_debug(dflag, ('client %s: ' % self._ip)+msg, **kwargs)
72
73   def process_arriving_data(self, d):
74     self._log(DBG.FLOW, 'req data', d=d)
75     for packet in slip.decode(d):
76       (saddr, daddr) = packet_addrs(packet)
77       if saddr != self._ip:
78         raise ValueError('wrong source address %s' % saddr)
79       route(packet, saddr, daddr)
80
81   def _req_cancel(self, request):
82     self._log(DBG.HTTPCTRL, 'cancel', idof=request)
83     request.finish()
84
85   def _req_error(self, err, request):
86     self._log(DBG.HTTPCTRL, 'error %s' % err, idof=request)
87     self._req_cancel(request)
88
89   def queue_outbound(self, packet):
90     self._pq.append(packet)
91     self._check_outbound()
92
93   def new_request(self, request):
94     request.setHeader('Content-Type','application/octet-stream')
95     reactor.callLater(self.max_request_time, self._req_cancel, request)
96     request.notifyFinish().addErrback(self._req_error, request)
97     self._rq.append(request)
98     self._check_outbound()
99
100   def _check_outbound(self):
101     log_debug(DBG.HTTPCTRL, 'CHKO')
102     while True:
103       try: request = self._rq[0]
104       except IndexError: request = None
105       if request and request.finished:
106         self._log(DBG.HTTP_CTRL, 'CHKO req finished, discard', idof=request)
107         self._rq.popleft()
108         continue
109
110       if not self._pq.nonempty():
111         # no packets, oh well
112         self._log(DBG.HTTP_CTRL, 'CHKO no packets, OUT-DONE', idof=request)
113         break
114
115       if request is None:
116         # no request
117         self._log(DBG.HTTP_CTRL, 'CHKO no request, OUT-DONE', idof=request)
118         break
119
120       self._log(DBG.HTTP_CTRL, 'CHKO processing', idof=request)
121       # request, and also some non-expired packets
122       self._pq.process((lambda: request.sentLength),
123                        request.write,
124                        self.max_batch_down)
125
126       assert(request.sentLength)
127       self._rq.popleft()
128       request.finish()
129       self._log(DBG.HTTP, 'complete', idof=request)
130       # round again, looking for more to do
131
132     while len(self._rq) > self.target_requests_outstanding:
133       request = self._rq.popleft()
134       self._log(DBG.HTTP, 'CHKO above target, returning empty', idof=request)
135       request.finish()
136
137 def process_request(request, desca):
138   # find client, update config, etc.
139   metadata = request.args['m']
140   metadata = metadata.split(b'\n')
141   (ci_s, pw, tro) = metadata.split(b'\n')[0:3]
142   desca['m'] = [ci_s, tro]
143   ci = ipaddr(ci_s)
144   desca['ci'] = ci
145   cl = clients[ci]
146   if pw != cl.pw: raise ValueError('bad password')
147   desca['pwok']=True
148
149   if tro != cl.target_requests_outstanding:
150     raise ValueError('tro must be %d' % cl.target_requests_outstanding)
151
152   try:
153     d = request.args['d']
154     desca['d'] = d
155   except KeyError: d = ''
156
157   cl.process_arriving_data(d)
158   cl.new_request(request)
159
160 def log_http(desca, msg):
161   try:
162     d = desca['d']
163     del desca['d']
164   except KeyError:
165     d = None
166   log_debug(DBG.HTTP, msg + repr(desca), d=d)
167
168 class IphttpResource(twisted.web.resource.Resource):
169   isLeaf = True
170   def render_POST(self, request):
171     desca = {'d': None}
172     try: process_request(request, desca)
173     except Exception as e:
174       emsg = str(e).encode('utf-8')
175       log_http(desca, 'EXCEPTION ' + emsg)
176       request.setHeader('Content-Type','text/plain; charset="utf-8"')
177       request.setResponseCode(400)
178       return emsg
179     log_http(desca, '... [%s]' % id(request))
180     return NOT_DONE_YET
181
182   def render_GET(self, request):
183     log_debug(DBG.HTTP, 'GET request')
184     return b'<html><body>hippotat</body></html>'
185
186 def start_http():
187   resource = IphttpResource()
188   site = twisted.web.server.Site(resource)
189   for sa in c.saddrs:
190     ep = sa.make_endpoint()
191     crash_on_defer(ep.listen(site))
192     log_debug(DBG.INIT, 'listening on %s' % sa)
193
194 #---------- config and setup ----------
195         
196 def process_cfg():
197   process_cfg_common_always()
198   process_cfg_server()
199   process_cfg_network()
200
201   try:
202     c.relay = cfg.get('virtual','relay')
203   except NoOptionError:
204     for search in c.network.hosts():
205       if search == c.server: continue
206       c.relay = search
207       break
208
209   process_cfg_saddrs()
210   process_cfg_clients(Client)
211
212   process_cfg_ipif('server',
213                    (('local','server'),
214                     ('peer', 'relay'),
215                     ('rnets','network')))
216
217 common_startup()
218 process_cfg()
219 start_ipif(c.ipif_command, route)
220 start_http()
221 common_run()