scripts/update-lily.py

   1 #!@PYTHON@
   2 #
   3 # update-lily.py -- lilypond autobuilder
   4 #
   5 # source file of the GNU LilyPond music typesetter
   6 #
   7 # download and rebuild latest lilypond or from specified url
   8 #
   9
  10 '''
  11 TODO:
  12     * more flexible build/ftp/patches/releases paths
  13     * flexible build command
  14     * show only?
  15 '''
  16
  17 import os
  18 import fnmatch
  19 import stat
  20 import string
  21 import re
  22 import getopt
  23 import sys
  24 import __main__
  25 import operator
  26 import tempfile
  27
  28 try:
  29         import gettext
  30         gettext.bindtextdomain ('lilypond', '@localedir@')
  31         gettext.textdomain('lilypond')
  32         _ = gettext.gettext
  33 except:
  34         def _ (s):
  35                 return s
  36
  37 sys.path.append ('@datadir@/python')
  38 import gettext
  39 gettext.bindtextdomain ('lilypond', '@localedir@')
  40 gettext.textdomain('lilypond')
  41 _ = gettext.gettext
  42
  43
  44 program_name = 'build-lily'
  45 package_name = 'lilypond'
  46 help_summary = _("Fetch and rebuild from latest source package")
  47 build_root = os.path.join (os.environ ['HOME'], 'usr', 'src')
  48 release_dir = build_root + '/releases'
  49 patch_dir = build_root + '/patches'
  50 notify = 0
  51
  52 build_command = '''
  53 cd %b &&
  54 [ -d %n-%v ] && exit 1 || true;
  55 (
  56 tar xzf %r/%t &&
  57 rm -f building &&
  58 ln -s %n-%v building &&
  59 cd %n-%v &&
  60 ./configure --prefix=$HOME/usr && make all web
  61 ) >> %n-%v/log.txt 2>&1 &&
  62 rm -f %n &&
  63 ln -s %n%-%v %n
  64 '''
  65
  66
  67 url = 'file:/home/ftp/pub/gnu/LilyPond/development/lilypond-*.tar.gz'
  68 url = 'ftp://appel.lilypond.org/pub/gnu/LilyPond/development/lilypond-*.tar.gz'
  69 url = 'ftp://ftp.cs.uu.nl/pub/GNU/LilyPond/development/lilypond-*.tar.gz'
  70
  71 remove_previous_p = 0
  72
  73
  74 # lily_py.py -- options and stuff
  75 #
  76 # source file of the GNU LilyPond music typesetter
  77
  78 # BEGIN Library for these?
  79 # cut-n-paste from ly2dvi
  80
  81 program_version = '@TOPLEVEL_VERSION@'
  82 if program_version == '@' + 'TOPLEVEL_VERSION' + '@':
  83         program_version = '1.3.142'
  84
  85
  86 original_dir = os.getcwd ()
  87 temp_dir = '%s.dir' % program_name
  88 keep_temp_dir_p = 0
  89 verbose_p = 0
  90
  91 def identify ():
  92         sys.stdout.write ('%s (GNU LilyPond) %s\n' % (program_name, program_version))
  93
  94 def warranty ():
  95         identify ()
  96         sys.stdout.write ('\n')
  97         sys.stdout.write (_ ('Copyright (c) %s by' % ' 2001'))
  98         sys.stdout.write ('\n')
  99         sys.stdout.write ('  Han-Wen Nienhuys')
 100         sys.stdout.write ('  Jan Nieuwenhuizen')
 101         sys.stdout.write ('\n')
 102         sys.stdout.write (_ (r'''
 103 Distributed under terms of the GNU General Public License. It comes with
 104 NO WARRANTY.'''))
 105         sys.stdout.write ('\n')
 106
 107 def progress (s):
 108         sys.stderr.write (s + '\n')
 109
 110 def warning (s):
 111         sys.stderr.write (_ ("warning: ") + s)
 112         sys.stderr.write ('\n')
 113
 114
 115 def error (s):
 116         sys.stderr.write (_ ("error: ") + s)
 117         sys.stderr.write ('\n')
 118         raise _ ("Exiting ... ")
 119
 120 def getopt_args (opts):
 121         '''Construct arguments (LONG, SHORT) for getopt from  list of options.'''
 122         short = ''
 123         long = []
 124         for o in opts:
 125                 if o[1]:
 126                         short = short + o[1]
 127                         if o[0]:
 128                                 short = short + ':'
 129                 if o[2]:
 130                         l = o[2]
 131                         if o[0]:
 132                                 l = l + '='
 133                         long.append (l)
 134         return (short, long)
 135
 136 def option_help_str (o):
 137         '''Transform one option description (4-tuple ) into neatly formatted string'''
 138         sh = '  '
 139         if o[1]:
 140                 sh = '-%s' % o[1]
 141
 142         sep = ' '
 143         if o[1] and o[2]:
 144                 sep = ','
 145
 146         long = ''
 147         if o[2]:
 148                 long= '--%s' % o[2]
 149
 150         arg = ''
 151         if o[0]:
 152                 if o[2]:
 153                         arg = '='
 154                 arg = arg + o[0]
 155         return '  ' + sh + sep + long + arg
 156
 157
 158 def options_help_str (opts):
 159         '''Convert a list of options into a neatly formatted string'''
 160         w = 0
 161         strs =[]
 162         helps = []
 163
 164         for o in opts:
 165                 s = option_help_str (o)
 166                 strs.append ((s, o[3]))
 167                 if len (s) > w:
 168                         w = len (s)
 169
 170         str = ''
 171         for s in strs:
 172                 str = str + '%s%s%s\n' % (s[0], ' ' * (w - len(s[0])  + 3), s[1])
 173         return str
 174
 175 def help ():
 176         sys.stdout.write (_ ("Usage: %s [OPTION]... FILE") % program_name)
 177         sys.stdout.write ('\n\n')
 178         sys.stdout.write (help_summary)
 179         sys.stdout.write ('\n\n')
 180         sys.stdout.write (_ ("Options:"))
 181         sys.stdout.write ('\n')
 182         sys.stdout.write (options_help_str (option_definitions))
 183         sys.stdout.write ('\n\n')
 184         sys.stdout.write (_ ("Report bugs to %s") % 'bug-gnu-music@gnu.org')
 185         sys.stdout.write ('\n')
 186         sys.exit (0)
 187
 188
 189 def setup_temp ():
 190         global temp_dir
 191         if not keep_temp_dir_p:
 192                 temp_dir = tempfile.mktemp (program_name)
 193         try:
 194                 os.mkdir (temp_dir, 0777)
 195         except OSError:
 196                 pass
 197
 198
 199 def system (cmd, ignore_error = 0):
 200         if verbose_p:
 201                 progress (_ ("Invoking `%s\'") % cmd)
 202         st = os.system (cmd)
 203         if st:
 204                 msg =  ( _ ("error: ") + _ ("command exited with value %d") % st)
 205                 if ignore_error:
 206                         sys.stderr.write (msg + ' ' + _ ("(ignored)") + ' ')
 207                 else:
 208                         error (msg)
 209
 210         return st
 211
 212
 213 def cleanup_temp ():
 214         if not keep_temp_dir_p:
 215                 if verbose_p:
 216                         progress (_ ("Cleaning %s...") % temp_dir)
 217                 system ('rm -rf %s' % temp_dir)
 218
 219
 220 def set_setting (dict, key, val):
 221         try:
 222                 val = string.atof (val)
 223         except ValueError:
 224                 #warning (_ ("invalid value: %s") % `val`)
 225                 pass
 226
 227         try:
 228                 dict[key].append (val)
 229         except KeyError:
 230                 warning (_ ("no such setting: %s") % `key`)
 231                 dict[key] = [val]
 232
 233 # END Library
 234
 235 option_definitions = [
 236         ('DIR', 'b', 'build-root', _ ("unpack and build in DIR [%s]") % build_root),
 237         ('COMMAND', 'c', 'command', _ ("execute COMMAND, subtitute:") \
 238          + '\n                            ' + _ ("%b: build root") \
 239          + '\n                            ' + _ ("%n: package name") \
 240          + '\n                            ' + _ ("%r: release directory") \
 241          + '\n                            ' + _ ("%t: tarball") \
 242          + '\n                            ' + _ ("%v: package version") \
 243          ),
 244         ('', 'h', 'help', _ ("this help")),
 245         ('', 'k', 'keep', _ ("keep all output, and name the directory %s") % temp_dir),
 246         ('EMAIL', 'n', 'notify', _ ("upon failure notify EMAIL[,EMAIL]"),
 247         ('', 'r', 'remove-previous', _ ("remove previous build")),
 248         ('', 'V', 'verbose', _ ("verbose")),
 249         ('', 'v', 'version', _ ("print version number")),
 250         ('URL', 'u', 'url', _ ("fetch and build URL [%s]") % url),
 251         ('', 'w', 'warranty', _ ("show warranty and copyright")),
 252         ]
 253
 254 def list_file (user, passwd, host, dir, file):
 255         match = []
 256         for i in os.listdir (dir):
 257                 if fnmatch.fnmatch (i, file):
 258                         match.append (i)
 259         return match
 260
 261 list_ = list_file
 262
 263 #
 264 # ugh: use ftp module.
 265 #
 266 def list_ftp (user, passwd, host, dir, file):
 267         if user == 'None':
 268                 user = 'anonymous'
 269         if passwd == 'None':
 270                 passwd = program_name
 271
 272         command = '''
 273 open -u%s,%s -p21 %s
 274 set passive-mode off
 275 cd "%s"
 276 ls -1 "%s"
 277 ''' % (user, passwd, host, dir, file)
 278         temp = tempfile.mktemp (program_name)
 279         f = open (temp, 'w')
 280         f.write (command)
 281         f.close ()
 282         p = os.popen ('lftp -f %s' % temp, 'r')
 283         s = p.read ()
 284         status = p.close ()
 285         return string.split (s[:-1], '\n')
 286
 287 def split_url (url):
 288         m = re.match ('([^:/]*)(:)?(/*([^:]*):)?(/*([^@]*)@)?(//([^/]*))?(.*)/(.*)',
 289                       url)
 290         if not m:
 291                 error ("can't parse url: %s " % url)
 292         return (m.group (1), m.group (4), m.group (6), m.group (8),
 293                 m.group (9), m.group (10))
 294
 295 def list_url (url):
 296         s = "list_%s ('%s', '%s', '%s', '%s', '%s')" % split_url (url)
 297         return eval (s)
 298
 299 def version_tuple_to_str (t):
 300         if t[3]:
 301                 my = '.%s%d' % (t[3], t[4])
 302         else:
 303                 my = ''
 304         return ('%d.%d.%d' % t[0:3]) + my
 305
 306 def version_str_to_tuple (s):
 307         t = string.split (s, '.')
 308         if len (t) >= 4:
 309                 my_name = t[3][:-1]
 310                 my_number = string.atoi (t[3][-1])
 311         else:
 312                 my_name = None
 313                 my_number = None
 314         return (string.atoi (t[0]), string.atoi (t[1]), string.atoi (t[2]),
 315                 my_name, my_number)
 316
 317 def split_package (p):
 318         m = re.match ('(.*)-([0-9]*.*).tar.gz', p)
 319         return (m.group (1), version_str_to_tuple (m.group (2)))
 320
 321 def join_package (t):
 322         return t[0] + '-' + version_tuple_to_str (t[1])
 323
 324 def copy_file (user, passwd, host, dir, file):
 325         os.system ('cp %s/%s .' % (dir, file))
 326
 327 copy_ = copy_file
 328
 329 def copy_ftp (user, passwd, host, dir, file):
 330         if user == 'None':
 331                 user = 'anonymous'
 332         if passwd == 'None':
 333                 passwd = program_name
 334
 335         command = '''
 336 open -u%s,%s -p21 %s
 337 set passive-mode off
 338 cd "%s"
 339 get "%s"
 340 ''' % (user, passwd, host, dir, file)
 341         temp = tempfile.mktemp (program_name)
 342         f = open (temp, 'w')
 343         f.write (command)
 344         f.close ()
 345         p = os.popen ('lftp -f %s' % temp, 'r')
 346         s = p.read ()
 347         status = p.close ()
 348
 349 def copy_url (url, dir):
 350         os.chdir (dir)
 351         s = "copy_%s ('%s', '%s', '%s', '%s', '%s')" % split_url (url)
 352         eval (s)
 353
 354
 355 def find_latest (url):
 356         progress (_ ("listing %s...") % url)
 357         list = map (split_package, list_url (url))
 358         list.sort ()
 359         return join_package (list[-1])
 360
 361 def build (p):
 362         tar_ball = p + '.tar.gz'
 363         (tar_name, tar_version) = split_package (tar_ball)
 364
 365         expand = {
 366                 '%b' : build_root,
 367                 '%n' : tar_name,
 368                 '%r' : release_dir,
 369                 '%v' : version_tuple_to_str (tar_version),
 370                 '%t' : tar_ball,
 371                 }
 372
 373         c = build_command
 374         for i in expand.keys ():
 375                 c = re.sub (i, expand[i], c)
 376         return system (c, 1)
 377
 378 (sh, long) = getopt_args (__main__.option_definitions)
 379 try:
 380         (options, files) = getopt.getopt (sys.argv[1:], sh, long)
 381 except:
 382         help ()
 383         sys.exit (2)
 384
 385 for opt in options:
 386         o = opt[0]
 387         a = opt[1]
 388
 389         if 0:
 390                 pass
 391         elif o == '--help' or o == '-h':
 392                 help ()
 393         elif o == '--buid-root' or o == '-b':
 394                 build_root = a
 395         elif o == '--command' or o == '-c':
 396                 build_command = a
 397         elif o == '--notify' or o == '-n':
 398                 notify = a
 399         elif o == '--remove-previous' or o == '-r':
 400                 remove_previous_p = 1
 401         elif o == '--url' or o == '-u':
 402                 url = a
 403         elif o == '--verbose' or o == '-V':
 404                 verbose_p = 1
 405         elif o == '--version' or o == '-v':
 406                 identify ()
 407                 sys.exit (0)
 408         elif o == '--warranty' or o == '-w':
 409                 warranty ()
 410                 sys.exit (0)
 411
 412 if 1:
 413         latest = find_latest (url)
 414
 415         if os.path.isdir ('%s/%s' % (build_root, latest)):
 416                 progress (_ ("latest is %s") % latest)
 417                 progress (_ ("relax, %s is up to date" % package_name))
 418                 sys.exit (0)
 419
 420         get_base = url[:string.rindex (url, '/')] + '/'
 421         if os.path.isdir (patch_dir):
 422                 os.chdir (patch_dir)
 423                 if not os.path.isfile (latest + '.diff.gz'):
 424                         get = get_base + latest + '.diff.gz'
 425                         progress (_ ("fetching %s...") % get)
 426                         copy_url (get, '.')
 427
 428         if not os.path.isdir (build_root):
 429                 build_root = temp_dir
 430         if not os.path.isdir (release_dir):
 431                 release_dir = temp_dir
 432                 setup_temp ()
 433
 434         os.chdir (release_dir)
 435         if not os.path.isfile (latest + '.tar.gz'):
 436                 get = get_base + latest + '.tar.gz'
 437                 progress (_ ("fetching %s...") % get)
 438                 copy_url (get, '.')
 439
 440         if os.path.isdir (os.path.join (build_root, package_name)):
 441                 os.chdir (os.path.join (build_root, package_name))
 442                 previous = os.getcwd ()
 443         else:
 444                 previous = 0
 445
 446         progress (_ ("building %s...") % latest)
 447         os.chdir (build_root)
 448         if build (latest) previous and remove_previous_p:
 449                 system ('rm -rf %s' % os.path.join (build_root, previous))
 450         else:
 451                 if notify:
 452                         system ('(date; uname -a) | mail -s "%s failed" %s' % (program_name, notify)
 453                 sys.exit (1)
 454
 455         os.chdir (original_dir)
 456         if release_dir != temp_dir:
 457                 cleanup_temp ()
 458         sys.exit (0)
 459