fdroidserver/lint.py

   1 #!/usr/bin/env python2
   2 # -*- coding: utf-8 -*-
   3 #
   4 # lint.py - part of the FDroid server tool
   5 # Copyright (C) 2013-2014 Daniel Martí <mvdan@mvdan.cc>
   6 #
   7 # This program is free software: you can redistribute it and/or modify
   8 # it under the terms of the GNU Affero General Public License as published by
   9 # the Free Software Foundation, either version 3 of the License, or
  10 # (at your option) any later version.
  11 #
  12 # This program is distributed in the hope that it will be useful,
  13 # but WITHOUT ANY WARRANTY; without even the implied warranty of
  14 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See th
  15 # GNU Affero General Public License for more details.
  16 #
  17 # You should have received a copy of the GNU Affero General Public Licen
  18 # along with this program.  If not, see <http://www.gnu.org/licenses/>.
  19
  20 from optparse import OptionParser
  21 import re
  22 import logging
  23 import common
  24 import metadata
  25
  26 config = None
  27 options = None
  28
  29 regex_warnings = {
  30         'Web Site': [
  31             (re.compile(r'.*[^sS]://github\.com/.*'),
  32                 "github URLs should always use https:// not http://"),
  33             (re.compile(r'.*[^sS]://code\.google\.com/.*'),
  34                 "code.google.com URLs should always use https:// not http://"),
  35         ],
  36         'Source Code': [
  37             (re.compile(r'.*[^sS]://github\.com/.*'),
  38                 "github URLs should always use https:// (not http://, git://, or git@)"),
  39             (re.compile(r'.*code\.google\.com/p/[^/]+[/]*$'),
  40                 "/source is missing"),
  41             (re.compile(r'.*[^sS]://code\.google\.com/.*'),
  42                 "code.google.com URLs should always use https:// not http://"),
  43             (re.compile(r'.*[^sS]://dl\.google\.com/.*'),
  44                 "dl.google.com URLs should always use https:// not http://"),
  45             (re.compile(r'.*[^sS]://gitorious\.org/.*'),
  46                 "gitorious URLs should always use https:// (not http://, git://, or git@)"),
  47         ],
  48         'Repo': [
  49             (re.compile(r'.*[^sS]://code\.google\.com/.*'),
  50                 "code.google.com URLs should always use https:// not http://"),
  51             (re.compile(r'.*[^sS]://dl\.google\.com/.*'),
  52                 "dl.google.com URLs should always use https:// not http://"),
  53             (re.compile(r'.*[^sS]://github\.com/.*'),
  54                 "github URLs should always use https:// (not http://, git://, or git@)"),
  55             (re.compile(r'.*[^sS]://gitorious\.org/.*'),
  56                 "gitorious URLs should always use https:// (not http://, git://, or git@)"),
  57             (re.compile(r'.*[^sS]://[^.]*\.googlecode\.com/svn/?.*'),
  58                 "Google Code SVN URLs should always use https:// (not http:// or svn://)"),
  59             (re.compile(r'.*[^sS]://svn\.apache\.org/repos/?.*'),
  60                 "Apache SVN URLs should always use https:// (not http:// or svn://)"),
  61             (re.compile(r'.*[^sS]://svn\.code\.sf\.net/.*'),
  62                 "Sourceforge SVN URLs should always use https:// (not http:// or svn://)"),
  63         ],
  64         'Issue Tracker': [
  65             (re.compile(r'.*code\.google\.com/p/[^/]+[/]*$'),
  66                 "/issues is missing"),
  67             (re.compile(r'.*[^sS]://code\.google\.com/.*'),
  68                 "code.google.com URLs should always use https:// not http://"),
  69             (re.compile(r'.*github\.com/[^/]+/[^/]+[/]*$'),
  70                 "/issues is missing"),
  71             (re.compile(r'.*[^sS]://github\.com/.*'),
  72                 "github URLs should always use https:// not http://"),
  73             (re.compile(r'.*[^sS]://gitorious\.org/.*'),
  74                 "gitorious URLs should always use https:// not http://"),
  75         ],
  76         'Description': [
  77             (re.compile(r'[ ]*[*#][^ .]'),
  78                 "Invalid bulleted list"),
  79             (re.compile(r'^ '),
  80                 "Unnecessary leading space"),
  81         ],
  82
  83 }
  84
  85 regex_pedantic = {
  86         'Web Site': [
  87             (re.compile(r'.*github\.com/[^/]+/[^/]+\.git'),
  88                 "Appending .git is not necessary"),
  89             (re.compile(r'.*code\.google\.com/p/[^/]+/[^w]'),
  90                 "Possible incorrect path appended to google code project site"),
  91         ],
  92         'Source Code': [
  93             (re.compile(r'.*github\.com/[^/]+/[^/]+\.git'),
  94                 "Appending .git is not necessary"),
  95             (re.compile(r'.*code\.google\.com/p/[^/]+/source/.*'),
  96                 "/source is often enough on its own"),
  97         ],
  98         'Repo': [
  99             (re.compile(r'^http://.*'),
 100                 "if https:// is available, use it instead of http://"),
 101             (re.compile(r'^svn://.*'),
 102                 "if https:// is available, use it instead of svn://"),
 103         ],
 104         'Issue Tracker': [
 105             (re.compile(r'.*code\.google\.com/p/[^/]+/issues/.*'),
 106                 "/issues is often enough on its own"),
 107             (re.compile(r'.*github\.com/[^/]+/[^/]+/issues/.*'),
 108                 "/issues is often enough on its own"),
 109         ],
 110         'Summary': [
 111             (re.compile(r'.*\bandroid\b.*', re.IGNORECASE),
 112                 "No need to specify that the app is for Android"),
 113             (re.compile(r'.*\b(app|application)\b.*', re.IGNORECASE),
 114                 "No need to specify that the app is... an app"),
 115             (re.compile(r'.*\b(free software|open source)\b.*', re.IGNORECASE),
 116                 "No need to specify that the app is Free Software"),
 117             (re.compile(r'.*[a-z0-9][.,!?][ $]'),
 118                 "Punctuation should be avoided"),
 119         ],
 120 }
 121
 122
 123 def main():
 124
 125     global config, options, appid, app_count, warn_count
 126     appid = None
 127
 128     app_count = 0
 129     warn_count = 0
 130
 131     def warn(message):
 132         global appid, app_count, warn_count
 133         if appid:
 134             print "%s:" % appid
 135             appid = None
 136             app_count += 1
 137         print '    %s' % message
 138         warn_count += 1
 139
 140     def pwarn(message):
 141         if options.pedantic:
 142             warn(message)
 143
 144     # Parse command line...
 145     parser = OptionParser(usage="Usage: %prog [options] [APPID [APPID ...]]")
 146     parser.add_option("-p", "--pedantic", action="store_true", default=False,
 147                       help="Show pedantic warnings that might give false positives")
 148     parser.add_option("-v", "--verbose", action="store_true", default=False,
 149                       help="Spew out even more information than normal")
 150     (options, args) = parser.parse_args()
 151
 152     config = common.read_config(options)
 153
 154     # Get all apps...
 155     allapps = metadata.read_metadata(xref=False)
 156     apps = common.read_app_args(args, allapps, False)
 157
 158     for app in apps:
 159         appid = app['id']
 160         lastcommit = ''
 161
 162         if app['Disabled']:
 163             continue
 164
 165         for build in app['builds']:
 166             if 'commit' in build and 'disable' not in build:
 167                 lastcommit = build['commit']
 168
 169         # Potentially incorrect UCM
 170         if (app['Update Check Mode'] == 'RepoManifest' and
 171                 any(s in lastcommit for s in '.,_-/')):
 172             pwarn("Last used commit '%s' looks like a tag, but Update Check Mode is '%s'" % (
 173                 lastcommit, app['Update Check Mode']))
 174
 175         # No proper license
 176         if app['License'] in ('Unknown', 'None', ''):
 177             warn("License was not set")
 178
 179         # Summary size limit
 180         summ_chars = len(app['Summary'])
 181         if summ_chars > config['char_limits']['Summary']:
 182             warn("Summary of length %s is over the %i char limit" % (
 183                 summ_chars, config['char_limits']['Summary']))
 184
 185         # Redundant summaries
 186         summary = app['Summary']
 187         name = str(app['Name'] if app['Name'] else app['Auto Name'])
 188         if summary and name:
 189             summary_l = summary.lower()
 190             name_l = name.lower()
 191             if summary_l == name_l:
 192                 warn("Summary '%s' is just the app's name" % summary)
 193             elif (summary_l in name_l or name_l in summary_l):
 194                 pwarn("Summary '%s' probably contains redundant info already in app name '%s'" % (
 195                     summary, name))
 196
 197
 198         # Description size limit
 199         desc_chars = sum(len(l) for l in app['Description'])
 200         if desc_chars > config['char_limits']['Description']:
 201             warn("Description of length %s is over the %i char limit" % (
 202                 desc_chars, config['char_limits']['Description']))
 203
 204         # Regex checks in all kinds of fields
 205         for f in regex_warnings:
 206             for m, r in regex_warnings[f]:
 207                 t = metadata.metafieldtype(f)
 208                 if t == 'string':
 209                     if m.match(app[f]):
 210                         warn("%s '%s': %s" % (f, app[f], r))
 211                 elif t == 'multiline':
 212                     for l in app[f]:
 213                         if m.match(l):
 214                             warn("%s at line '%s': %s" % (f, l, r))
 215
 216
 217         # Regex pedantic checks in all kinds of fields
 218         if options.pedantic:
 219             for f in regex_pedantic:
 220                 for m, r in regex_pedantic[f]:
 221                     if m.match(app[f]):
 222                         warn("%s '%s': %s" % (f, app[f], r))
 223
 224         # Build warnings
 225         for build in app['builds']:
 226             for n in ['master', 'origin/', 'default', 'trunk']:
 227                 if 'commit' in build:
 228                     if build['commit'].startswith(n):
 229                         warn("Branch '%s' used as commit in build '%s'" % (
 230                             n, build['version']))
 231                 if 'srclibs' in build:
 232                     for srclib in build['srclibs']:
 233                         ref = srclib.split('@')[1].split('/')[0]
 234                         if ref.startswith(n):
 235                             warn("Branch '%s' used as commit in srclib '%s'" % (
 236                                 n, srclib))
 237
 238         if not appid:
 239             print
 240
 241     logging.info("Found a total of %i warnings in %i apps." % (warn_count, app_count))
 242
 243 if __name__ == "__main__":
 244     main()
 245