server

   1 #!/usr/bin/python3
   2
   3 from hippotat import *
   4
   5 import os
   6
   7 import twisted.internet
   8 from twisted.web.server import NOT_DONE_YET
   9
  10 #import twisted.web.server import Site
  11 #from twisted.web.resource import Resource
  12
  13 import syslog
  14
  15 import traceback
  16
  17 clients = { }
  18
  19 #---------- "router" ----------
  20
  21 def route(packet, iface, saddr, daddr):
  22   def lt(dest):
  23     log_debug(DBG.ROUTE, 'route: %s -> %s: %s' % (saddr,daddr,dest), d=packet)
  24   try: dclient = clients[daddr]
  25   except KeyError: dclient = None
  26   if dclient is not None:
  27     lt('client')
  28     dclient.queue_outbound(packet)
  29   elif daddr == c.server or daddr not in c.network:
  30     lt('inbound')
  31     queue_inbound(packet)
  32   elif daddr == relay:
  33     lt('discard relay')
  34     log_discard(packet, iface, saddr, daddr, 'relay')
  35   else:
  36     lt('discard no-client')
  37     log_discard(packet, iface, saddr, daddr, 'no-client')
  38
  39 #---------- client ----------
  40
  41 class Client():
  42   def __init__(self, ip, cs, pw):
  43     # instance data members
  44     self._ip = ip
  45     self._cs = cs
  46     self.pw = pw
  47     self._rq = collections.deque() # requests
  48     # self._pq = PacketQueue(...)
  49     # plus from config:
  50     #  .max_batch_down
  51     #  .max_queue_time
  52     #  .max_request_time
  53     #  .target_requests_outstanding
  54
  55     if ip not in c.network:
  56       raise ValueError('client %s not in network' % ip)
  57
  58     for k in ('max_batch_down','max_queue_time','max_request_time',
  59               'target_requests_outstanding'):
  60       req = cfg.getint(cs, k)
  61       limit = cfg.getint('limits',k)
  62       self.__dict__[k] = min(req, limit)
  63
  64     self._pq = PacketQueue(ip, self.max_queue_time)
  65
  66     if ip in clients:
  67       raise ValueError('multiple client cfg sections for %s' % ip)
  68     clients[ip] = self
  69
  70     self._log(DBG.INIT, 'new')
  71
  72   def _log(self, dflag, msg, **kwargs):
  73     log_debug(dflag, ('client %s: ' % self._ip)+msg, **kwargs)
  74
  75   def process_arriving_data(self, d):
  76     self._log(DBG.FLOW, 'req data', d=d)
  77     for packet in slip.decode(d):
  78       (saddr, daddr) = packet_addrs(packet)
  79       if saddr != self._ip:
  80         raise ValueError('wrong source address %s' % saddr)
  81       route(packet, self._ip, saddr, daddr)
  82
  83   def _req_cancel(self, request):
  84     self._log(DBG.HTTPCTRL, 'cancel', idof=request)
  85     request.finish()
  86
  87   def _req_error(self, err, request):
  88     self._log(DBG.HTTPCTRL, 'error %s' % err, idof=request)
  89     self._req_cancel(request)
  90
  91   def queue_outbound(self, packet):
  92     self._pq.append(packet)
  93     self._check_outbound()
  94
  95   def new_request(self, request):
  96     request.setHeader('Content-Type','application/octet-stream')
  97     reactor.callLater(self.max_request_time, self._req_cancel, request)
  98     request.notifyFinish().addErrback(self._req_error, request)
  99     self._rq.append(request)
 100     self._check_outbound()
 101
 102   def _check_outbound(self):
 103     log_debug(DBG.HTTPCTRL, 'CHKO')
 104     while True:
 105       try: request = self._rq[0]
 106       except IndexError: request = None
 107       if request and request.finished:
 108         self._log(DBG.HTTP_CTRL, 'CHKO req finished, discard', idof=request)
 109         self._rq.popleft()
 110         continue
 111
 112       if not self._pq.nonempty():
 113         # no packets, oh well
 114         self._log(DBG.HTTP_CTRL, 'CHKO no packets, OUT-DONE', idof=request)
 115         break
 116
 117       if request is None:
 118         # no request
 119         self._log(DBG.HTTP_CTRL, 'CHKO no request, OUT-DONE', idof=request)
 120         break
 121
 122       self._log(DBG.HTTP_CTRL, 'CHKO processing', idof=request)
 123       # request, and also some non-expired packets
 124       self._pq.process((lambda: request.sentLength),
 125                        request.write,
 126                        self.max_batch_down)
 127
 128       assert(request.sentLength)
 129       self._rq.popleft()
 130       request.finish()
 131       self._log(DBG.HTTP, 'complete', idof=request)
 132       # round again, looking for more to do
 133
 134     while len(self._rq) > self.target_requests_outstanding:
 135       request = self._rq.popleft()
 136       self._log(DBG.HTTP, 'CHKO above target, returning empty', idof=request)
 137       request.finish()
 138
 139 def process_request(request, desca):
 140   # find client, update config, etc.
 141   metadata = request.args[b'm'][0]
 142   metadata = metadata.split(b'\r\n')
 143   (ci_s, pw, tro) = metadata[0:3]
 144   desca['m[0,2]'] = [ci_s, tro]
 145   ci_s = ci_s.decode('utf-8')
 146   tro = int(tro)
 147   desca['tro']= tro
 148   ci = ipaddr(ci_s)
 149   desca['ci'] = ci
 150   cl = clients[ci]
 151   if pw != cl.pw: raise ValueError('bad password')
 152   desca['pwok']=True
 153
 154   if tro != cl.target_requests_outstanding:
 155     raise ValueError('tro must be %d' % cl.target_requests_outstanding)
 156
 157   try:
 158     d = request.args[b'd']
 159     desca['d'] = d
 160   except KeyError: d = ''
 161
 162   cl.process_arriving_data(d)
 163   cl.new_request(request)
 164
 165 def log_http(desca, msg):
 166   try:
 167     d = desca['d']
 168     del desca['d']
 169   except KeyError:
 170     d = None
 171   log_debug(DBG.HTTP, msg + repr(desca), d=d)
 172
 173 class IphttpResource(twisted.web.resource.Resource):
 174   isLeaf = True
 175   def render_POST(self, request):
 176     log_debug(DBG.HTTP_FULL,
 177               'req recv: ' + repr(request) + ' ' + repr(request.args),
 178               idof=id(request))
 179     desca = {'d': None}
 180     try: process_request(request, desca)
 181     except Exception as e:
 182       emsg = traceback.format_exc()
 183       log_http(desca, 'EXCEPTION ' + emsg)
 184       request.setHeader('Content-Type','text/plain; charset="utf-8"')
 185       request.setResponseCode(400)
 186       return (emsg + ' # ' + repr(desca) + '\r\n').encode('utf-8')
 187     log_http(desca, '... [%s]' % id(request))
 188     return NOT_DONE_YET
 189
 190   def render_GET(self, request):
 191     log_debug(DBG.HTTP, 'GET request')
 192     return b'<html><body>hippotat</body></html>'
 193
 194 def start_http():
 195   resource = IphttpResource()
 196   site = twisted.web.server.Site(resource)
 197   for sa in c.saddrs:
 198     ep = sa.make_endpoint()
 199     crash_on_defer(ep.listen(site))
 200     log_debug(DBG.INIT, 'listening on %s' % sa)
 201
 202 #---------- config and setup ----------
 203
 204 def process_cfg():
 205   process_cfg_common_always()
 206   process_cfg_server()
 207   process_cfg_network()
 208
 209   try:
 210     c.relay = cfg.get('virtual','relay')
 211   except NoOptionError:
 212     for search in c.network.hosts():
 213       if search == c.server: continue
 214       c.relay = search
 215       break
 216
 217   process_cfg_saddrs()
 218   process_cfg_clients(Client)
 219
 220   process_cfg_ipif('server',
 221                    (('local','server'),
 222                     ('peer', 'relay'),
 223                     ('rnets','network')))
 224
 225 common_startup()
 226 process_cfg()
 227 start_ipif(c.ipif_command, route)
 228 start_http()
 229 common_run()