server

   1 #!/usr/bin/python3
   2
   3 from hippotat import *
   4
   5 import os
   6
   7 import twisted.internet
   8 from twisted.web.server import NOT_DONE_YET
   9
  10 #import twisted.web.server import Site
  11 #from twisted.web.resource import Resource
  12
  13 import syslog
  14
  15 clients = { }
  16
  17 #---------- "router" ----------
  18
  19 def route(packet, saddr, daddr):
  20   def lt(dest):
  21     log_data(DBG.ROUTE, packet, 'route: %s -> %s: %s' % (saddr,daddr,dest))
  22   try: dclient = clients[daddr]
  23   except KeyError: dclient = None
  24   if dclient is not None:
  25     lt('client')
  26     dclient.queue_outbound(packet)
  27   elif daddr == c.server or daddr not in c.network:
  28     lt('inbound')
  29     queue_inbound(packet)
  30   elif daddr == relay:
  31     lt('discard relay')
  32     log_discard(packet, saddr, daddr, 'relay')
  33   else:
  34     lt('discard no-client')
  35     log_discard(packet, saddr, daddr, 'no-client')
  36
  37 #---------- client ----------
  38
  39 class Client():
  40   def __init__(self, ip, cs, pw):
  41     # instance data members
  42     self._ip = ip
  43     self._cs = cs
  44     self.pw = pw
  45     self._rq = collections.deque() # requests
  46     # self._pq = PacketQueue(...)
  47     # plus from config:
  48     #  .max_batch_down
  49     #  .max_queue_time
  50     #  .max_request_time
  51     #  .target_requests_outstanding
  52
  53     if ip not in c.network:
  54       raise ValueError('client %s not in network' % ip)
  55
  56     for k in ('max_batch_down','max_queue_time','max_request_time',
  57               'target_requests_outstanding'):
  58       req = cfg.getint(cs, k)
  59       limit = cfg.getint('limits',k)
  60       self.__dict__[k] = min(req, limit)
  61
  62     self._pq = PacketQueue(self.max_queue_time)
  63
  64     if ip in clients:
  65       raise ValueError('multiple client cfg sections for %s' % ip)
  66     clients[ip] = self
  67
  68     log_debug('DBG.INIT', 'new client %s' % self)
  69
  70   def process_arriving_data(self, d):
  71     log_data(DBG.FLOW, d, 'client req data: %s' % saddr=self._ip)
  72     for packet in slip.decode(d):
  73       (saddr, daddr) = packet_addrs(packet)
  74       if saddr != self._ip:
  75         raise ValueError('wrong source address %s' % saddr)
  76       route(packet, saddr, daddr)
  77
  78   def _req_cancel(self, request):
  79     log_httpreq(DBG.HTTPCTRL, request, 'cancel')
  80     request.finish()
  81
  82   def _req_error(self, err, request):
  83     log_httpreq(DBG.HTTPCTRL, request, 'error %s' % err)
  84     self._req_cancel(request)
  85
  86   def queue_outbound(self, packet):
  87     self._pq.append(packet)
  88     self._check_outbound()
  89
  90   def new_request(self, request):
  91     request.setHeader('Content-Type','application/octet-stream')
  92     reactor.callLater(self.max_request_time, self._req_cancel, request)
  93     request.notifyFinish().addErrback(self._req_error, request)
  94     self._rq.append(request)
  95     self._check_outbound()
  96
  97   def _check_outbound(self):
  98     log_httpreq(DBG.HTTPCTRL, None, 'CHKO')
  99     while True:
 100       try: request = self._rq[0]
 101       except IndexError: request = None
 102       if request and request.finished:
 103         log_httpreq(DBG.HTTP_CTRL, request, 'CHKO request finished, discard')
 104         self._rq.popleft()
 105         continue
 106
 107       if not self._pq.nonempty():
 108         # no packets, oh well
 109         log_httpreq(DBG.HTTP_CTRL, request, 'CHKO no packets, OUT-DONE')
 110         break
 111
 112       if request is None:
 113         # no request
 114         log_httpreq(DBG.HTTP_CTRL, request, 'CHKO no request, OUT-DONE')
 115         break
 116
 117       log_httpreq(DBG.HTTP_CTRL, request, 'CHKO processing')
 118       # request, and also some non-expired packets
 119       self._pq.process((lambda: request.sentLength),
 120                        request.write,
 121                        self.max_batch_down)
 122
 123       assert(request.sentLength)
 124       self._rq.popleft()
 125       request.finish()
 126       log_httpreq(DBG.HTTP, request, 'complete')
 127       # round again, looking for more to do
 128
 129     while len(self._rq) > self.target_requests_outstanding:
 130       request = self._rq.popleft()
 131       log_httpreq(DBG.HTTP, request, 'CHKO above target, returning empty')
 132       request.finish()
 133
 134 def process_request(request, desca):
 135   # find client, update config, etc.
 136   metadata = request.args['m']
 137   metadata = metadata.split(b'\n')
 138   (ci_s, pw, tro) = metadata.split(b'\n')[0:3]
 139   desca['m'] = [ci_s, tro]
 140   ci = ipaddr(ci_s)
 141   desca['ci'] = ci
 142   cl = clients[ci]
 143   if pw != cl.pw: raise ValueError('bad password')
 144   desca['pwok'=True]
 145
 146   if tro != cl.target_requests_outstanding:
 147     raise ValueError('tro must be %d' % cl.target_requests_outstanding)
 148
 149   try:
 150     d = request.args['d']
 151     desca['d'] = d
 152   except KeyError: d = ''
 153
 154   cl.process_arriving_data(d)
 155   cl.new_request(request)
 156
 157 class IphttpResource(twisted.web.resource.Resource):
 158   isLeaf = True
 159   def render_POST(self, request):
 160     desca = {'d': None}
 161     try: process_request(request, desca)
 162     except Exception as e:
 163       emsg = str(e).encode('utf-8')
 164       log_http(desca, 'EXCEPTION ' + emsg)
 165       request.setHeader('Content-Type','text/plain; charset="utf-8"')
 166       request.setResponseCode(400)
 167       return emsg
 168     log_http(desca, '... [%s]' % id(request))
 169     return NOT_DONE_YET
 170
 171   def render_GET(self, request):
 172     log_debug(DBG.HTTP, 'GET request')
 173     return b'<html><body>hippotat</body></html>'
 174
 175 def start_http():
 176   resource = IphttpResource()
 177   site = twisted.web.server.Site(resource)
 178   for sa in c.saddrs:
 179     ep = sa.make_endpoint()
 180     crash_on_defer(ep.listen(site))
 181     log_debug(DBG.INIT, 'listening on %s' % sa)
 182
 183 #---------- config and setup ----------
 184
 185 def process_cfg():
 186   process_cfg_common_always()
 187   process_cfg_server()
 188   process_cfg_network()
 189
 190   try:
 191     c.relay = cfg.get('virtual','relay')
 192   except NoOptionError:
 193     for search in c.network.hosts():
 194       if search == c.server: continue
 195       c.relay = search
 196       break
 197
 198   process_cfg_saddrs()
 199   process_cfg_clients(Client)
 200
 201   process_cfg_ipif('server',
 202                    (('local','server'),
 203                     ('peer', 'relay'),
 204                     ('rnets','network')))
 205
 206 common_startup()
 207 process_cfg()
 208 start_ipif(c.ipif_command, route)
 209 start_http()
 210 common_run()