scripts/build/output-distance.py

   1 #!@PYTHON@
   2 import sys
   3 import optparse
   4 import os
   5 import math
   6
   7 ## so we can call directly as scripts/build/output-distance.py
   8 me_path = os.path.abspath (os.path.split (sys.argv[0])[0])
   9 sys.path.insert (0, me_path + '/../python/')
  10 sys.path.insert (0, me_path + '/../python/out/')
  11
  12
  13 X_AXIS = 0
  14 Y_AXIS = 1
  15 INFTY = 1e6
  16
  17 OUTPUT_EXPRESSION_PENALTY = 1
  18 ORPHAN_GROB_PENALTY = 1
  19 options = None
  20
  21 ################################################################
  22 # system interface.
  23 temp_dir = None
  24 class TempDirectory:
  25     def __init__ (self):
  26         import tempfile
  27         self.dir = tempfile.mkdtemp ()
  28         print 'dir is', self.dir
  29     def __del__ (self):
  30         print 'rm -rf %s' % self.dir
  31         os.system ('rm -rf %s' % self.dir)
  32     def __call__ (self):
  33         return self.dir
  34
  35
  36 def get_temp_dir  ():
  37     global temp_dir
  38     if not temp_dir:
  39         temp_dir = TempDirectory ()
  40     return temp_dir ()
  41
  42 def read_pipe (c):
  43     print 'pipe' , c
  44     return os.popen (c).read ()
  45
  46 def system (c):
  47     print 'system' , c
  48     s = os.system (c)
  49     if s :
  50         raise Exception ("failed")
  51     return
  52
  53 def shorten_string (s):
  54     threshold = 15
  55     if len (s) > 2*threshold:
  56         s = s[:threshold] + '..' + s[-threshold:]
  57     return s
  58
  59 def max_distance (x1, x2):
  60     dist = 0.0
  61
  62     for (p,q) in zip (x1, x2):
  63         dist = max (abs (p-q), dist)
  64
  65     return dist
  66
  67
  68 def compare_png_images (old, new, dest_dir):
  69     def png_dims (f):
  70         m = re.search ('([0-9]+) x ([0-9]+)', read_pipe ('file %s' % f))
  71
  72         return tuple (map (int, m.groups ()))
  73
  74     dest = os.path.join (dest_dir, new.replace ('.png', '.compare.jpeg'))
  75     try:
  76         dims1 = png_dims (old)
  77         dims2 = png_dims (new)
  78     except AttributeError:
  79         ## hmmm. what to do?
  80         system ('touch %(dest)s' % locals ())
  81         return
  82
  83     dims = (min (dims1[0], dims2[0]),
  84             min (dims1[1], dims2[1]))
  85
  86     dir = get_temp_dir ()
  87     system ('convert -depth 8 -crop %dx%d+0+0 %s %s/crop1.png' % (dims + (old, dir)))
  88     system ('convert -depth 8 -crop %dx%d+0+0 %s %s/crop2.png' % (dims + (new, dir)))
  89
  90     system ('compare -depth 8 -dissimilarity-threshold 1 %(dir)s/crop1.png %(dir)s/crop2.png %(dir)s/diff.png' % locals ())
  91
  92     system ("convert  -depth 8 %(dir)s/diff.png -blur 0x3 -negate -channel alpha,blue -type TrueColorMatte -fx 'intensity'    %(dir)s/matte.png" % locals ())
  93
  94     system ("composite -compose atop -quality 65 %(dir)s/matte.png %(new)s %(dest)s" % locals ())
  95
  96
  97 ################################################################
  98 # interval/bbox arithmetic.
  99
 100 empty_interval = (INFTY, -INFTY)
 101 empty_bbox = (empty_interval, empty_interval)
 102
 103 def interval_is_empty (i):
 104     return i[0] > i[1]
 105
 106 def interval_length (i):
 107     return max (i[1]-i[0], 0)
 108
 109 def interval_union (i1, i2):
 110     return (min (i1[0], i2[0]),
 111             max (i1[1], i2[1]))
 112
 113 def interval_intersect (i1, i2):
 114     return (max (i1[0], i2[0]),
 115             min (i1[1], i2[1]))
 116
 117 def bbox_is_empty (b):
 118     return (interval_is_empty (b[0])
 119             or interval_is_empty (b[1]))
 120
 121 def bbox_union (b1, b2):
 122     return (interval_union (b1[X_AXIS], b2[X_AXIS]),
 123             interval_union (b1[Y_AXIS], b2[Y_AXIS]))
 124
 125 def bbox_intersection (b1, b2):
 126     return (interval_intersect (b1[X_AXIS], b2[X_AXIS]),
 127             interval_intersect (b1[Y_AXIS], b2[Y_AXIS]))
 128
 129 def bbox_area (b):
 130     return interval_length (b[X_AXIS]) * interval_length (b[Y_AXIS])
 131
 132 def bbox_diameter (b):
 133     return max (interval_length (b[X_AXIS]),
 134                 interval_length (b[Y_AXIS]))
 135
 136
 137 def difference_area (a, b):
 138     return bbox_area (a) - bbox_area (bbox_intersection (a,b))
 139
 140 class GrobSignature:
 141     def __init__ (self, exp_list):
 142         (self.name, self.origin, bbox_x,
 143          bbox_y, self.output_expression) = tuple (exp_list)
 144
 145         self.bbox = (bbox_x, bbox_y)
 146         self.centroid = (bbox_x[0] + bbox_x[1], bbox_y[0] + bbox_y[1])
 147
 148     def __repr__ (self):
 149         return '%s: (%.2f,%.2f), (%.2f,%.2f)\n' % (self.name,
 150                                                    self.bbox[0][0],
 151                                                    self.bbox[0][1],
 152                                                    self.bbox[1][0],
 153                                                    self.bbox[1][1])
 154
 155     def axis_centroid (self, axis):
 156         return apply (sum, self.bbox[axis])  / 2
 157
 158     def centroid_distance (self, other, scale):
 159         return max_distance (self.centroid, other.centroid) / scale
 160
 161     def bbox_distance (self, other):
 162         divisor = bbox_area (self.bbox) + bbox_area (other.bbox)
 163
 164         if divisor:
 165             return (difference_area (self.bbox, other.bbox) +
 166                     difference_area (other.bbox, self.bbox)) / divisor
 167         else:
 168             return 0.0
 169
 170     def expression_distance (self, other):
 171         if self.output_expression == other.output_expression:
 172             return 0
 173         else:
 174             return 1
 175
 176 ################################################################
 177 # single System.
 178
 179 class SystemSignature:
 180     def __init__ (self, grob_sigs):
 181         d = {}
 182         for g in grob_sigs:
 183             val = d.setdefault (g.name, [])
 184             val += [g]
 185
 186         self.grob_dict = d
 187         self.set_all_bbox (grob_sigs)
 188
 189     def set_all_bbox (self, grobs):
 190         self.bbox = empty_bbox
 191         for g in grobs:
 192             self.bbox = bbox_union (g.bbox, self.bbox)
 193
 194     def closest (self, grob_name, centroid):
 195         min_d = INFTY
 196         min_g = None
 197         try:
 198             grobs = self.grob_dict[grob_name]
 199
 200             for g in grobs:
 201                 d = max_distance (g.centroid, centroid)
 202                 if d < min_d:
 203                     min_d = d
 204                     min_g = g
 205
 206
 207             return min_g
 208
 209         except KeyError:
 210             return None
 211     def grobs (self):
 212         return reduce (lambda x,y: x+y, self.grob_dict.values(), [])
 213
 214 ################################################################
 215 ## comparison of systems.
 216
 217 class SystemLink:
 218     def __init__ (self, system1, system2):
 219         self.system1 = system1
 220         self.system2 = system2
 221
 222         self.link_list_dict = {}
 223         self.back_link_dict = {}
 224
 225
 226         ## pairs
 227         self.orphans = []
 228
 229         ## pair -> distance
 230         self.geo_distances = {}
 231
 232         ## pairs
 233         self.expression_changed = []
 234
 235         self._geometric_distance = None
 236         self._expression_change_count = None
 237         self._orphan_count = None
 238
 239         for g in system1.grobs ():
 240
 241             ## skip empty bboxes.
 242             if bbox_is_empty (g.bbox):
 243                 continue
 244
 245             closest = system2.closest (g.name, g.centroid)
 246
 247             self.link_list_dict.setdefault (closest, [])
 248             self.link_list_dict[closest].append (g)
 249             self.back_link_dict[g] = closest
 250
 251
 252     def calc_geometric_distance (self):
 253         total = 0.0
 254         for (g1,g2) in self.back_link_dict.items ():
 255             if g2:
 256                 d = g1.bbox_distance (g2)
 257                 if d:
 258                     self.geo_distances[(g1,g2)] = d
 259
 260                 total += d
 261
 262         self._geometric_distance = total
 263
 264     def calc_orphan_count (self):
 265         count = 0
 266         for (g1, g2) in self.back_link_dict.items ():
 267             if g2 == None:
 268                 self.orphans.append ((g1, None))
 269
 270                 count += 1
 271
 272         self._orphan_count = count
 273
 274     def calc_output_exp_distance (self):
 275         d = 0
 276         for (g1,g2) in self.back_link_dict.items ():
 277             if g2:
 278                 d += g1.expression_distance (g2)
 279
 280         self._expression_change_count = d
 281
 282     def output_expression_details_string (self):
 283         return ', '.join ([g1.name for g1 in self.expression_changed])
 284
 285     def geo_details_string (self):
 286         results = [(d, g1,g2) for ((g1, g2), d) in self.geo_distances.items()]
 287         results.sort ()
 288         results.reverse ()
 289
 290         return ', '.join (['%s: %f' % (g1.name, d) for (d, g1, g2) in results])
 291
 292     def orphan_details_string (self):
 293         return ', '.join (['%s-None' % g1.name for (g1,g2) in self.orphans if g2==None])
 294
 295     def geometric_distance (self):
 296         if self._geometric_distance == None:
 297             self.calc_geometric_distance ()
 298         return self._geometric_distance
 299
 300     def orphan_count (self):
 301         if self._orphan_count == None:
 302             self.calc_orphan_count ()
 303
 304         return self._orphan_count
 305
 306     def output_expression_change_count (self):
 307         if self._expression_change_count == None:
 308             self.calc_output_exp_distance ()
 309         return self._expression_change_count
 310
 311     def distance (self):
 312         return (self.output_expression_change_count (),
 313                 self.orphan_count (),
 314                 self.geometric_distance ())
 315
 316 def scheme_float (s) :
 317     if 'nan' not in s :
 318         return float(s)
 319     return float(s.split('.')[0])
 320
 321 def read_signature_file (name):
 322     print 'reading', name
 323
 324     entries = open (name).read ().split ('\n')
 325     def string_to_tup (s):
 326         return tuple (map (scheme_float, s.split (' ')))
 327
 328     def string_to_entry (s):
 329         fields = s.split('@')
 330         fields[2] = string_to_tup (fields[2])
 331         fields[3] = string_to_tup (fields[3])
 332
 333         return tuple (fields)
 334
 335     entries = [string_to_entry (e) for e in entries
 336                if e and not e.startswith ('#')]
 337
 338     grob_sigs = [GrobSignature (e) for e in entries]
 339     sig = SystemSignature (grob_sigs)
 340     return sig
 341
 342
 343 ################################################################
 344 # different systems of a .ly file.
 345
 346 hash_to_original_name = {}
 347
 348 class FileLink:
 349     def __init__ (self, f1, f2):
 350         self._distance = None
 351         self.file_names = (f1, f2)
 352
 353     def text_record_string (self):
 354         return '%-30f %-20s\n' % (self.distance (),
 355                                   self.name ()
 356                                   + os.path.splitext (self.file_names[1])[1]
 357                                   )
 358
 359     def calc_distance (self):
 360         return 0.0
 361
 362     def distance (self):
 363         if self._distance == None:
 364            self._distance = self.calc_distance ()
 365
 366         return self._distance
 367
 368     def source_file (self):
 369         for ext in ('.ly', '.ly.txt'):
 370             base = os.path.splitext (self.file_names[1])[0]
 371             f = base + ext
 372             if os.path.exists (f):
 373                 return f
 374
 375         return ''
 376
 377     def name (self):
 378         base = os.path.basename (self.file_names[1])
 379         base = os.path.splitext (base)[0]
 380         base = hash_to_original_name.get (base, base)
 381         base = os.path.splitext (base)[0]
 382         return base
 383
 384     def extension (self):
 385         return os.path.splitext (self.file_names[1])[1]
 386
 387     def link_files_for_html (self, dest_dir):
 388         for f in self.file_names:
 389             link_file (f, os.path.join (dest_dir, f))
 390
 391     def get_distance_details (self):
 392         return ''
 393
 394     def get_cell (self, oldnew):
 395         return ''
 396
 397     def get_file (self, oldnew):
 398         return self.file_names[oldnew]
 399
 400     def html_record_string (self, dest_dir):
 401         dist = self.distance()
 402
 403         details = self.get_distance_details ()
 404         if details:
 405             details_base = os.path.splitext (self.file_names[1])[0]
 406             details_base += '.details.html'
 407             fn = dest_dir + '/'  + details_base
 408             open_write_file (fn).write (details)
 409
 410             details = '<br>(<a href="%(details_base)s">details</a>)' % locals ()
 411
 412         cell1 = self.get_cell (0)
 413         cell2 = self.get_cell (1)
 414
 415         name = self.name () + self.extension ()
 416         file1 = self.get_file (0)
 417         file2 = self.get_file (1)
 418
 419         return '''<tr>
 420 <td>
 421 %(dist)f
 422 %(details)s
 423 </td>
 424 <td>%(cell1)s<br><font size=-2><a href="%(file1)s"><tt>%(name)s</tt></font></td>
 425 <td>%(cell2)s<br><font size=-2><a href="%(file2)s"><tt>%(name)s</tt></font></td>
 426 </tr>''' % locals ()
 427
 428
 429 class FileCompareLink (FileLink):
 430     def __init__ (self, f1, f2):
 431         FileLink.__init__ (self, f1, f2)
 432         self.contents = (self.get_content (self.file_names[0]),
 433                          self.get_content (self.file_names[1]))
 434
 435
 436     def calc_distance (self):
 437         ## todo: could use import MIDI to pinpoint
 438         ## what & where changed.
 439
 440         if self.contents[0] == self.contents[1]:
 441             return 0.0
 442         else:
 443             return 100.0;
 444
 445     def get_content (self, f):
 446         print 'reading', f
 447         s = open (f).read ()
 448         return s
 449
 450
 451 class GitFileCompareLink (FileCompareLink):
 452     def get_cell (self, oldnew):
 453         str = self.contents[oldnew]
 454
 455         # truncate long lines
 456         str = '\n'.join ([l[:80] for l in str.split ('\n')])
 457
 458
 459         str = '<font size="-2"><pre>%s</pre></font>' % str
 460         return str
 461
 462     def calc_distance (self):
 463         if self.contents[0] == self.contents[1]:
 464             d = 0.0
 465         else:
 466             d = 1.0001 *options.threshold
 467
 468         return d
 469
 470
 471 class TextFileCompareLink (FileCompareLink):
 472     def calc_distance (self):
 473         import difflib
 474         diff = difflib.unified_diff (self.contents[0].strip().split ('\n'),
 475                                      self.contents[1].strip().split ('\n'),
 476                                      fromfiledate = self.file_names[0],
 477                                      tofiledate = self.file_names[1]
 478                                      )
 479
 480         self.diff_lines =  [l for l in diff]
 481         self.diff_lines = self.diff_lines[2:]
 482
 483         return math.sqrt (float (len ([l for l in self.diff_lines if l[0] in '-+'])))
 484
 485     def get_cell (self, oldnew):
 486         str = ''
 487         if oldnew == 1:
 488             str = '\n'.join ([d.replace ('\n','') for d in self.diff_lines])
 489         str = '<font size="-2"><pre>%s</pre></font>' % str
 490         return str
 491
 492 class LogFileCompareLink (TextFileCompareLink):
 493   def get_content (self, f):
 494       c = TextFileCompareLink.get_content (self, f)
 495       c = re.sub ("\nProcessing `[^\n]+'\n", '', c)
 496       return c
 497
 498 class ProfileFileLink (FileCompareLink):
 499     def __init__ (self, f1, f2):
 500         FileCompareLink.__init__ (self, f1, f2)
 501         self.results = [{}, {}]
 502
 503     def get_cell (self, oldnew):
 504         str = ''
 505         for k in ('time', 'cells'):
 506             if oldnew==0:
 507                 str += '%-8s: %d\n' %  (k, int (self.results[oldnew][k]))
 508             else:
 509                 str += '%-8s: %8d (%5.3f)\n' % (k, int (self.results[oldnew][k]),
 510                                                 self.get_ratio (k))
 511
 512         return '<pre>%s</pre>' % str
 513
 514     def get_ratio (self, key):
 515         (v1,v2) = (self.results[0].get (key, -1),
 516                    self.results[1].get (key, -1))
 517
 518         if v1 <= 0 or v2 <= 0:
 519             return 0.0
 520
 521         return (v1 - v2) / float (v1+v2)
 522
 523     def calc_distance (self):
 524         for oldnew in (0,1):
 525             def note_info (m):
 526                 self.results[oldnew][m.group(1)] = float (m.group (2))
 527
 528             re.sub ('([a-z]+): ([-0-9.]+)\n',
 529                     note_info, self.contents[oldnew])
 530
 531         dist = 0.0
 532         factor = {
 533             'time': 0.1,
 534             'cells': 5.0,
 535             }
 536
 537         for k in ('time', 'cells'):
 538             real_val = math.tan (self.get_ratio (k) * 0.5 * math.pi)
 539             dist += math.exp (math.fabs (real_val) * factor[k])  - 1
 540
 541         dist = min (dist, 100)
 542         return dist
 543
 544
 545 class MidiFileLink (TextFileCompareLink):
 546     def get_content (self, oldnew):
 547         import midi
 548
 549         data = FileCompareLink.get_content (self, oldnew)
 550         midi = midi.parse (data)
 551         tracks = midi[1]
 552
 553         str = ''
 554         j = 0
 555         for t in tracks:
 556             str += 'track %d' % j
 557             j += 1
 558
 559             for e in t:
 560                 ev_str = repr (e)
 561                 if re.search ('LilyPond [0-9.]+', ev_str):
 562                     continue
 563
 564                 str += '  ev %s\n' % `e`
 565         return str
 566
 567
 568
 569 class SignatureFileLink (FileLink):
 570     def __init__ (self, f1, f2 ):
 571         FileLink.__init__ (self, f1, f2)
 572         self.system_links = {}
 573
 574     def add_system_link (self, link, number):
 575         self.system_links[number] = link
 576
 577     def calc_distance (self):
 578         d = 0.0
 579
 580         orphan_distance = 0.0
 581         for l in self.system_links.values ():
 582             d = max (d, l.geometric_distance ())
 583             orphan_distance += l.orphan_count ()
 584
 585         return d + orphan_distance
 586
 587     def add_file_compare (self, f1, f2):
 588         system_index = []
 589
 590         def note_system_index (m):
 591             system_index.append (int (m.group (1)))
 592             return ''
 593
 594         base1 = re.sub ("-([0-9]+).signature", note_system_index, f1)
 595         base2 = re.sub ("-([0-9]+).signature", note_system_index, f2)
 596
 597         self.base_names = (os.path.normpath (base1),
 598                            os.path.normpath (base2))
 599
 600         s1 = read_signature_file (f1)
 601         s2 = read_signature_file (f2)
 602
 603         link = SystemLink (s1, s2)
 604
 605         self.add_system_link (link, system_index[0])
 606
 607
 608     def create_images (self, dest_dir):
 609
 610         files_created = [[], []]
 611         for oldnew in (0, 1):
 612             pat = self.base_names[oldnew] + '.eps'
 613
 614             for f in glob.glob (pat):
 615                 infile = f
 616                 outfile = (dest_dir + '/' + f).replace ('.eps', '.png')
 617                 data_option = ''
 618                 if options.local_data_dir:
 619                     data_option = ('-slilypond-datadir=%s/share/lilypond/current '
 620                                    % os.path.dirname(infile))
 621
 622                 mkdir (os.path.split (outfile)[0])
 623                 cmd = ('gs -sDEVICE=png16m -dGraphicsAlphaBits=4 -dTextAlphaBits=4 '
 624                        ' %(data_option)s '
 625                        ' -r101 '
 626                        ' -sOutputFile=%(outfile)s -dNOSAFER -dEPSCrop -q -dNOPAUSE '
 627                        ' %(infile)s  -c quit ') % locals ()
 628
 629                 files_created[oldnew].append (outfile)
 630                 system (cmd)
 631
 632         return files_created
 633
 634     def link_files_for_html (self, dest_dir):
 635         FileLink.link_files_for_html (self, dest_dir)
 636         to_compare = [[], []]
 637
 638         exts = []
 639         if options.create_images:
 640             to_compare = self.create_images (dest_dir)
 641         else:
 642             exts += ['.png', '-page*png']
 643
 644         for ext in exts:
 645             for oldnew in (0,1):
 646                 for f in glob.glob (self.base_names[oldnew] + ext):
 647                     dst = dest_dir + '/' + f
 648                     link_file (f, dst)
 649
 650                     if f.endswith ('.png'):
 651                         to_compare[oldnew].append (f)
 652
 653         if options.compare_images:
 654             for (old, new) in zip (to_compare[0], to_compare[1]):
 655                 compare_png_images (old, new, dest_dir)
 656
 657
 658     def get_cell (self, oldnew):
 659         def img_cell (ly, img, name):
 660             if not name:
 661                 name = 'source'
 662             else:
 663                 name = '<tt>%s</tt>' % name
 664
 665             return '''
 666 <a href="%(img)s">
 667 <img src="%(img)s" style="border-style: none; max-width: 500px;">
 668 </a><br>
 669 ''' % locals ()
 670         def multi_img_cell (ly, imgs, name):
 671             if not name:
 672                 name = 'source'
 673             else:
 674                 name = '<tt>%s</tt>' % name
 675
 676             imgs_str = '\n'.join (['''<a href="%s">
 677 <img src="%s" style="border-style: none; max-width: 500px;">
 678 </a><br>''' % (img, img)
 679                                   for img in imgs])
 680
 681
 682             return '''
 683 %(imgs_str)s
 684 ''' % locals ()
 685
 686
 687
 688         def cell (base, name):
 689             pat = base + '-page*.png'
 690             pages = glob.glob (pat)
 691
 692             if pages:
 693                 return multi_img_cell (base + '.ly', sorted (pages), name)
 694             else:
 695                 return img_cell (base + '.ly', base + '.png', name)
 696
 697
 698
 699         str = cell (os.path.splitext (self.file_names[oldnew])[0], self.name ())
 700         if options.compare_images and oldnew == 1:
 701             str = str.replace ('.png', '.compare.jpeg')
 702
 703         return str
 704
 705
 706     def get_distance_details (self):
 707         systems = self.system_links.items ()
 708         systems.sort ()
 709
 710         html = ""
 711         for (c, link) in systems:
 712             e = '<td>%d</td>' % c
 713             for d in link.distance ():
 714                 e += '<td>%f</td>' % d
 715
 716             e = '<tr>%s</tr>' % e
 717
 718             html += e
 719
 720             e = '<td>%d</td>' % c
 721             for s in (link.output_expression_details_string (),
 722                       link.orphan_details_string (),
 723                       link.geo_details_string ()):
 724                 e += "<td>%s</td>" % s
 725
 726
 727             e = '<tr>%s</tr>' % e
 728             html += e
 729
 730         original = self.name ()
 731         html = '''<html>
 732 <head>
 733 <title>comparison details for %(original)s</title>
 734 </head>
 735 <body>
 736 <table border=1>
 737 <tr>
 738 <th>system</th>
 739 <th>output</th>
 740 <th>orphan</th>
 741 <th>geo</th>
 742 </tr>
 743
 744 %(html)s
 745 </table>
 746
 747 </body>
 748 </html>
 749 ''' % locals ()
 750         return html
 751
 752
 753 ################################################################
 754 # Files/directories
 755
 756 import glob
 757 import re
 758
 759 def compare_signature_files (f1, f2):
 760     s1 = read_signature_file (f1)
 761     s2 = read_signature_file (f2)
 762
 763     return SystemLink (s1, s2).distance ()
 764
 765 def paired_files (dir1, dir2, pattern):
 766     """
 767     Search DIR1 and DIR2 for PATTERN.
 768
 769     Return (PAIRED, MISSING-FROM-2, MISSING-FROM-1)
 770
 771     """
 772
 773     files = []
 774     for d in (dir1,dir2):
 775         found = [os.path.split (f)[1] for f in glob.glob (d + '/' + pattern)]
 776         found = dict ((f, 1) for f in found)
 777         files.append (found)
 778
 779     pairs = []
 780     missing = []
 781     for f in files[0]:
 782         try:
 783             files[1].pop (f)
 784             pairs.append (f)
 785         except KeyError:
 786             missing.append (f)
 787
 788     return (pairs, files[1].keys (), missing)
 789
 790 class ComparisonData:
 791     def __init__ (self):
 792         self.result_dict = {}
 793         self.missing = []
 794         self.added = []
 795         self.file_links = {}
 796
 797     def read_sources (self):
 798
 799         ## ugh: drop the .ly.txt
 800         for (key, val) in self.file_links.items ():
 801
 802             def note_original (match, ln=val):
 803                 key = ln.name ()
 804                 hash_to_original_name[key] = match.group (1)
 805                 return ''
 806
 807             sf = val.source_file ()
 808             if sf:
 809                 re.sub (r'\\sourcefilename "([^"]+)"',
 810                         note_original, open (sf).read ())
 811             else:
 812                 print 'no source for', val
 813
 814     def compare_trees (self, dir1, dir2):
 815         self.compare_directories (dir1, dir2)
 816
 817         (root, dirs, files) = os.walk (dir1).next ()
 818         for d in dirs:
 819             d1 = os.path.join (dir1, d)
 820             d2 = os.path.join (dir2, d)
 821
 822             if os.path.islink (d1) or os.path.islink (d2):
 823                 continue
 824
 825             if os.path.isdir (d2):
 826                 self.compare_trees (d1, d2)
 827
 828     def compare_directories (self, dir1, dir2):
 829         for ext in ['signature',
 830                     'midi',
 831                     'log',
 832                     'profile',
 833                     'gittxt']:
 834             (paired, m1, m2) = paired_files (dir1, dir2, '*.' + ext)
 835
 836             self.missing += [(dir1, m) for m in m1]
 837             self.added += [(dir2, m) for m in m2]
 838
 839             for p in paired:
 840                 if (options.max_count
 841                     and len (self.file_links) > options.max_count):
 842                     continue
 843
 844                 f2 = dir2 +  '/' + p
 845                 f1 = dir1 +  '/' + p
 846                 self.compare_files (f1, f2)
 847
 848     def compare_files (self, f1, f2):
 849         if f1.endswith ('signature'):
 850             self.compare_signature_files (f1, f2)
 851         else:
 852             ext = os.path.splitext (f1)[1]
 853             klasses = {
 854                 '.midi': MidiFileLink,
 855                 '.log' : LogFileCompareLink,
 856                 '.profile': ProfileFileLink,
 857                 '.gittxt': GitFileCompareLink,
 858                 }
 859
 860             if klasses.has_key (ext):
 861                 self.compare_general_files (klasses[ext], f1, f2)
 862
 863     def compare_general_files (self, klass, f1, f2):
 864         name = os.path.split (f1)[1]
 865
 866         file_link = klass (f1, f2)
 867         self.file_links[name] = file_link
 868
 869     def compare_signature_files (self, f1, f2):
 870         name = os.path.split (f1)[1]
 871         name = re.sub ('-[0-9]+.signature', '', name)
 872
 873         file_link = None
 874         try:
 875             file_link = self.file_links[name]
 876         except KeyError:
 877             generic_f1 = re.sub ('-[0-9]+.signature', '.ly', f1)
 878             generic_f2 = re.sub ('-[0-9]+.signature', '.ly', f2)
 879             file_link = SignatureFileLink (generic_f1, generic_f2)
 880             self.file_links[name] = file_link
 881
 882         file_link.add_file_compare (f1, f2)
 883
 884     def write_changed (self, dest_dir, threshold):
 885         (changed, below, unchanged) = self.thresholded_results (threshold)
 886
 887         str = '\n'.join ([os.path.splitext (link.file_names[1])[0]
 888                         for link in changed])
 889         fn = dest_dir + '/changed.txt'
 890
 891         open_write_file (fn).write (str)
 892
 893     def thresholded_results (self, threshold):
 894         ## todo: support more scores.
 895         results = [(link.distance(), link)
 896                    for link in self.file_links.values ()]
 897         results.sort ()
 898         results.reverse ()
 899
 900         unchanged = [r for (d,r) in results if d == 0.0]
 901         below = [r for (d,r) in results if threshold >= d > 0.0]
 902         changed = [r for (d,r) in results if d > threshold]
 903
 904         return (changed, below, unchanged)
 905
 906     def write_text_result_page (self, filename, threshold):
 907         out = None
 908         if filename == '':
 909             out = sys.stdout
 910         else:
 911             print 'writing "%s"' % filename
 912             out = open_write_file (filename)
 913
 914         (changed, below, unchanged) = self.thresholded_results (threshold)
 915
 916
 917         for link in changed:
 918             out.write (link.text_record_string ())
 919
 920         out.write ('\n\n')
 921         out.write ('%d below threshold\n' % len (below))
 922         out.write ('%d unchanged\n' % len (unchanged))
 923
 924     def create_text_result_page (self, dir1, dir2, dest_dir, threshold):
 925         self.write_text_result_page (dest_dir + '/index.txt', threshold)
 926
 927     def create_html_result_page (self, dir1, dir2, dest_dir, threshold):
 928         dir1 = dir1.replace ('//', '/')
 929         dir2 = dir2.replace ('//', '/')
 930
 931         (changed, below, unchanged) = self.thresholded_results (threshold)
 932
 933
 934         html = ''
 935         old_prefix = os.path.split (dir1)[1]
 936         for link in changed:
 937             html += link.html_record_string (dest_dir)
 938
 939
 940         short_dir1 = shorten_string (dir1)
 941         short_dir2 = shorten_string (dir2)
 942         html = '''<html>
 943 <table rules="rows" border bordercolor="blue">
 944 <tr>
 945 <th>distance</th>
 946 <th>%(short_dir1)s</th>
 947 <th>%(short_dir2)s</th>
 948 </tr>
 949 %(html)s
 950 </table>
 951 </html>''' % locals()
 952
 953         html += ('<p>')
 954         below_count = len (below)
 955
 956         if below_count:
 957             html += ('<p>%d below threshold</p>' % below_count)
 958
 959         html += ('<p>%d unchanged</p>' % len (unchanged))
 960
 961         dest_file = dest_dir + '/index.html'
 962         open_write_file (dest_file).write (html)
 963
 964
 965         for link in changed:
 966             link.link_files_for_html (dest_dir)
 967
 968
 969     def print_results (self, threshold):
 970         self.write_text_result_page ('', threshold)
 971
 972 def compare_tree_pairs (tree_pairs, dest_dir, threshold):
 973     data = ComparisonData ()
 974     for dir1, dir2 in tree_pairs:
 975         data.compare_trees (dir1, dir2)
 976     data.read_sources ()
 977
 978     data.print_results (threshold)
 979
 980     if os.path.isdir (dest_dir):
 981         system ('rm -rf %s '% dest_dir)
 982
 983     data.write_changed (dest_dir, threshold)
 984     data.create_html_result_page (dir1, dir2, dest_dir, threshold)
 985     data.create_text_result_page (dir1, dir2, dest_dir, threshold)
 986
 987 ################################################################
 988 # TESTING
 989
 990 def mkdir (x):
 991     if not os.path.isdir (x):
 992         print 'mkdir', x
 993         os.makedirs (x)
 994
 995 def link_file (x, y):
 996     mkdir (os.path.split (y)[0])
 997     try:
 998         print x, '->', y
 999         os.link (x, y)
1000     except OSError, z:
1001         print 'OSError', x, y, z
1002         raise OSError
1003
1004 def open_write_file (x):
1005     d = os.path.split (x)[0]
1006     mkdir (d)
1007     return open (x, 'w')
1008
1009
1010 def system (x):
1011
1012     print 'invoking', x
1013     stat = os.system (x)
1014     assert stat == 0
1015
1016
1017 def test_paired_files ():
1018     print paired_files (os.environ["HOME"] + "/src/lilypond/scripts/",
1019                         os.environ["HOME"] + "/src/lilypond-stable/scripts/build/", '*.py')
1020
1021
1022 def test_compare_tree_pairs ():
1023     system ('rm -rf dir1 dir2')
1024     system ('mkdir dir1 dir2')
1025     system ('cp 20{-*.signature,.ly,.png,.eps,.log,.profile} dir1')
1026     system ('cp 20{-*.signature,.ly,.png,.eps,.log,.profile} dir2')
1027     system ('cp 20expr{-*.signature,.ly,.png,.eps,.log,.profile} dir1')
1028     system ('cp 19{-*.signature,.ly,.png,.eps,.log,.profile} dir2/')
1029     system ('cp 19{-*.signature,.ly,.png,.eps,.log,.profile} dir1/')
1030     system ('cp 19-1.signature 19.sub-1.signature')
1031     system ('cp 19.ly 19.sub.ly')
1032     system ('cp 19.profile 19.sub.profile')
1033     system ('cp 19.log 19.sub.log')
1034     system ('cp 19.png 19.sub.png')
1035     system ('cp 19.eps 19.sub.eps')
1036
1037     system ('cp 20multipage* dir1')
1038     system ('cp 20multipage* dir2')
1039     system ('cp 19multipage-1.signature dir2/20multipage-1.signature')
1040
1041
1042     system ('mkdir -p dir1/subdir/ dir2/subdir/')
1043     system ('cp 19.sub{-*.signature,.ly,.png,.eps,.log,.profile} dir1/subdir/')
1044     system ('cp 19.sub{-*.signature,.ly,.png,.eps,.log,.profile} dir2/subdir/')
1045     system ('cp 20grob{-*.signature,.ly,.png,.eps,.log,.profile} dir2/')
1046     system ('cp 20grob{-*.signature,.ly,.png,.eps,.log,.profile} dir1/')
1047     system ('echo HEAD is 1 > dir1/tree.gittxt')
1048     system ('echo HEAD is 2 > dir2/tree.gittxt')
1049
1050     ## introduce differences
1051     system ('cp 19-1.signature dir2/20-1.signature')
1052     system ('cp 19.profile dir2/20.profile')
1053     system ('cp 19.png dir2/20.png')
1054     system ('cp 19multipage-page1.png dir2/20multipage-page1.png')
1055     system ('cp 20-1.signature dir2/subdir/19.sub-1.signature')
1056     system ('cp 20.png dir2/subdir/19.sub.png')
1057     system ("sed 's/: /: 1/g'  20.profile > dir2/subdir/19.sub.profile")
1058
1059     ## radical diffs.
1060     system ('cp 19-1.signature dir2/20grob-1.signature')
1061     system ('cp 19-1.signature dir2/20grob-2.signature')
1062     system ('cp 19multipage.midi dir1/midi-differ.midi')
1063     system ('cp 20multipage.midi dir2/midi-differ.midi')
1064     system ('cp 19multipage.log dir1/log-differ.log')
1065     system ('cp 19multipage.log dir2/log-differ.log &&  echo different >> dir2/log-differ.log &&  echo different >> dir2/log-differ.log')
1066
1067     compare_tree_pairs (['dir1', 'dir2'], 'compare-dir1dir2', options.threshold)
1068
1069
1070 def test_basic_compare ():
1071     ly_template = r"""
1072
1073 \version "2.10.0"
1074 #(define default-toplevel-book-handler
1075   print-book-with-defaults-as-systems )
1076
1077 #(ly:set-option (quote no-point-and-click))
1078
1079 \sourcefilename "my-source.ly"
1080
1081 %(papermod)s
1082 \header { tagline = ##f }
1083 \score {
1084 <<
1085 \new Staff \relative c {
1086   c4^"%(userstring)s" %(extragrob)s
1087   }
1088 \new Staff \relative c {
1089   c4^"%(userstring)s" %(extragrob)s
1090   }
1091 >>
1092 \layout{}
1093 }
1094
1095 """
1096
1097     dicts = [{ 'papermod' : '',
1098                'name' : '20',
1099                'extragrob': '',
1100                'userstring': 'test' },
1101              { 'papermod' : '#(set-global-staff-size 19.5)',
1102                'name' : '19',
1103                'extragrob': '',
1104                'userstring': 'test' },
1105              { 'papermod' : '',
1106                'name' : '20expr',
1107                'extragrob': '',
1108                'userstring': 'blabla' },
1109              { 'papermod' : '',
1110                'name' : '20grob',
1111                'extragrob': 'r2. \\break c1',
1112                'userstring': 'test' },
1113              ]
1114
1115     for d in dicts:
1116         open (d['name'] + '.ly','w').write (ly_template % d)
1117
1118     names = [d['name'] for d in dicts]
1119
1120     system ('lilypond -ddump-profile -dseparate-log-files -ddump-signatures --png -dbackend=eps ' + ' '.join (names))
1121
1122
1123     multipage_str = r'''
1124     #(set-default-paper-size "a6")
1125     \score {
1126       \relative c' { c1 \pageBreak c1 }
1127       \layout {}
1128       \midi {}
1129     }
1130     '''
1131
1132     open ('20multipage.ly', 'w').write (multipage_str.replace ('c1', 'd1'))
1133     open ('19multipage.ly', 'w').write ('#(set-global-staff-size 19.5)\n' + multipage_str)
1134     system ('lilypond -dseparate-log-files -ddump-signatures --png 19multipage 20multipage ')
1135
1136     test_compare_signatures (names)
1137
1138 def test_compare_signatures (names, timing=False):
1139     import time
1140
1141     times = 1
1142     if timing:
1143         times = 100
1144
1145     t0 = time.clock ()
1146
1147     count = 0
1148     for t in range (0, times):
1149         sigs = dict ((n, read_signature_file ('%s-1.signature' % n)) for n in names)
1150         count += 1
1151
1152     if timing:
1153         print 'elapsed', (time.clock() - t0)/count
1154
1155
1156     t0 = time.clock ()
1157     count = 0
1158     combinations = {}
1159     for (n1, s1) in sigs.items():
1160         for (n2, s2) in sigs.items():
1161             combinations['%s-%s' % (n1, n2)] = SystemLink (s1,s2).distance ()
1162             count += 1
1163
1164     if timing:
1165         print 'elapsed', (time.clock() - t0)/count
1166
1167     results = combinations.items ()
1168     results.sort ()
1169     for k,v in results:
1170         print '%-20s' % k, v
1171
1172     assert combinations['20-20'] == (0.0,0.0,0.0)
1173     assert combinations['20-20expr'][0] > 0.0
1174     assert combinations['20-19'][2] < 10.0
1175     assert combinations['20-19'][2] > 0.0
1176
1177
1178 def run_tests ():
1179     dir = 'test-output-distance'
1180
1181     do_clean = not os.path.exists (dir)
1182
1183     print 'test results in ', dir
1184     if do_clean:
1185         system ('rm -rf ' + dir)
1186         system ('mkdir ' + dir)
1187
1188     os.chdir (dir)
1189     if do_clean:
1190         test_basic_compare ()
1191
1192     test_compare_tree_pairs ()
1193
1194 ################################################################
1195 #
1196
1197 def main ():
1198     p = optparse.OptionParser ("output-distance - compare LilyPond formatting runs")
1199     p.usage = 'output-distance.py [options] tree1 tree2 [tree3 tree4]...'
1200
1201     p.add_option ('', '--test-self',
1202                   dest="run_test",
1203                   action="store_true",
1204                   help='run test method')
1205
1206     p.add_option ('--max-count',
1207                   dest="max_count",
1208                   metavar="COUNT",
1209                   type="int",
1210                   default=0,
1211                   action="store",
1212                   help='only analyze COUNT signature pairs')
1213
1214     p.add_option ('', '--threshold',
1215                   dest="threshold",
1216                   default=0.3,
1217                   action="store",
1218                   type="float",
1219                   help='threshold for geometric distance')
1220
1221     p.add_option ('--no-compare-images',
1222                   dest="compare_images",
1223                   default=True,
1224                   action="store_false",
1225                   help="Don't run graphical comparisons")
1226
1227     p.add_option ('--create-images',
1228                   dest="create_images",
1229                   default=False,
1230                   action="store_true",
1231                   help="Create PNGs from EPSes")
1232
1233
1234     p.add_option ('--local-datadir',
1235                   dest="local_data_dir",
1236                   default=False,
1237                   action="store_true",
1238                   help='whether to use the share/lilypond/ directory in the test directory')
1239
1240     p.add_option ('-o', '--output-dir',
1241                   dest="output_dir",
1242                   default=None,
1243                   action="store",
1244                   type="string",
1245                   help='where to put the test results [tree2/compare-tree1tree2]')
1246
1247     global options
1248     (options, args) = p.parse_args ()
1249
1250     if options.run_test:
1251         run_tests ()
1252         sys.exit (0)
1253
1254     if len (args) % 2:
1255         p.print_usage ()
1256         sys.exit (2)
1257
1258     out = options.output_dir
1259     if not out:
1260         out = args[0].replace ('/', '')
1261         out = os.path.join (args[1], 'compare-' + shorten_string (out))
1262
1263     compare_tree_pairs (zip (args[0::2], args[1::2]), out, options.threshold)
1264
1265 if __name__ == '__main__':
1266     main ()
1267