]> git.donarmstrong.com Git - lilypond.git/blob - Documentation/contributor/programming-work.itexi
Doc: CG: Reorder programming sections
[lilypond.git] / Documentation / contributor / programming-work.itexi
1 @c -*- coding: utf-8; mode: texinfo; -*-
2 @node Programming work
3 @chapter Programming work
4
5 @menu
6 * Overview of LilyPond architecture::
7 * LilyPond programming languages::
8 * Programming without compiling::
9 * Finding functions::
10 * Code style::
11 * Debugging LilyPond::
12 * Tracing object relationships::
13 * Adding or modifying features::
14 * Iterator tutorial::
15 * Engraver tutorial::
16 * Callback tutorial::
17 * LilyPond scoping::
18 * LilyPond miscellany::
19 @end menu
20
21 @node Overview of LilyPond architecture
22 @section Overview of LilyPond architecture
23
24 LilyPond processes the input file into graphical and musical output in a
25 number of stages.  This process, along with the types of routines that
26 accomplish the various stages of the process, is described in this section.  A
27 more complete description of the LilyPond architecture and internal program
28 execution is found in Erik Sandberg's
29 @uref{http://lilypond.org/web/images/thesis-erik-sandberg.pdf, master's
30 thesis}.
31
32 The first stage of LilyPond processing is @emph{parsing}.  In the parsing
33 process, music expressions in LilyPond input format are converted to music
34 expressions in Scheme format.  In Scheme format, a music expression is a list
35 in tree form, with nodes that indicate the relationships between various music
36 events.  The LilyPond parser is written in Bison.
37
38 The second stage of LilyPond processing is @emph{iterating}.  Iterating
39 assigns each music event to a context, which is the environment in which the
40 music will be finally engraved.  The context is responsible for all further
41 processing of the music.  It is during the iteration stage that contexts are
42 created as necessary to ensure that every note has a Voice type context (e.g.
43 Voice, TabVoice, DrumVoice, CueVoice, MensuralVoice, VaticanaVoice,
44 GregorianTranscriptionVoice), that the Voice type contexts exist in
45 appropriate Staff type contexts, and that parallel Staff type contexts exist
46 in StaffGroup type contexts.  In addition, during the iteration stage each
47 music event is assigned a moment, or a time in the music when the event
48 begins.
49
50 Each type of music event has an associated iterator.  Iterators are defined in
51 *-iterator.cc. During iteration, an
52 event's iterator is called to deliver that music event to the appropriate
53 context(s).
54
55 The final stage of LilyPond processing is @emph{translation}.  During
56 translation, music events are prepared for graphical or midi output.  The
57 translation step is accomplished by the polymorphic base class Translator
58 through its two derived classes: Engraver (for graphical output) and
59 Performer (for midi output).
60
61 Translators are defined in C++ files named *-engraver.cc and *-performer.cc.
62 Much of the work of translating is handled by Scheme functions,
63 which is one of the keys to LilyPond's exceptional flexibility.
64
65 @sourceimage{architecture-diagram,,,png}
66
67
68 @node LilyPond programming languages
69 @section LilyPond programming languages
70
71 Programming in LilyPond is done in a variety of programming languages.  Each
72 language is used for a specific purpose or purposes.  This section describes
73 the languages used and provides links to reference manuals and tutorials for
74 the relevant language.
75
76 @subsection C++
77
78 The core functionality of LilyPond is implemented in C++.
79
80 C++ is so ubiquitous that it is difficult to identify either a reference
81 manual or a tutorial.  Programmers unfamiliar with C++ will need to spend some
82 time to learn the language before attempting to modify the C++ code.
83
84 The C++ code calls Scheme/GUILE through the GUILE interface, which is
85 documented in the
86 @uref{http://www.gnu.org/software/guile/manual/html_node/index.html, GUILE
87   Reference Manual}.
88
89 @subsection Flex
90
91 The LilyPond lexer is implemented in Flex, an implementation of the Unix lex
92 lexical analyser generator.  Resources for Flex can be found
93 @uref{http://flex.sourceforge.net/, here}.
94
95 @subsection GNU Bison
96
97 The LilyPond parser is implemented in Bison, a GNU parser generator.  The
98 Bison homepage is found at @uref{http://www.gnu.org/software/bison/,
99 gnu.org}.  The manual (which includes both a reference and tutorial) is
100 @uref{http://www.gnu.org/software/bison/manual/index.html, available} in a
101 variety of formats.
102
103 @subsection GNU Make
104
105 GNU Make is used to control the compiling process and to build the
106 documentation and the website.  GNU Make documentation is available at
107 @uref{http://www.gnu.org/software/make/manual/, the GNU website}.
108
109 @subsection GUILE or Scheme
110
111 GUILE is the dialect of Scheme that is used as LilyPond's extension language.
112 Many extensions to LilyPond are written entirely in GUILE.  The
113 @uref{http://www.gnu.org/software/guile/manual/html_node/index.html,
114 GUILE Reference Manual} is available online.
115
116 @uref{http://mitpress.mit.edu/sicp/full-text/book/book.html, Structure and
117 Interpretation of Computer Programs}, a popular textbook used to teach
118 programming in Scheme is available in its entirety online.
119
120 An introduction to Guile/Scheme as used in LilyPond can be found in the
121 @rextend{Scheme tutorial}.
122
123 @subsection MetaFont
124
125 MetaFont is used to create the music fonts used by LilyPond.  A MetaFont
126 tutorial is available at @uref{http://metafont.tutorial.free.fr/, the
127 METAFONT tutorial page}.
128
129 @subsection PostScript
130
131 PostScript is used to generate graphical output.  A brief PostScript tutorial
132 is @uref{http://local.wasp.uwa.edu.au/~pbourke/dataformats/postscript/,
133 available online}.  The
134 @uref{http://www.adobe.com/devnet/postscript/pdfs/PLRM.pdf, PostScript Lanugage
135 Reference} is available online in PDF format.
136
137 @subsection Python
138
139 Python is used for XML2ly and is used for buillding the documentation and the
140 website.
141
142 Python documentation is available at @uref{http://www.python.org/doc/,
143 python.org}.
144
145 @node Programming without compiling
146 @section Programming without compiling
147
148 Much of the development work in LilyPond takes place by changing *.ly or
149 *.scm files.  These changes can be made without compiling LilyPond.  Such
150 changes are described in this section.
151
152
153 @subsection Modifying distribution files
154
155 Much of LilyPond is written in Scheme or LilyPond input files.  These
156 files are interpreted when the program is run, rather than being compiled
157 when the program is built, and are present in all LilyPond distributions.
158 You will find .ly files in the ly/ directory and the Scheme files in the
159 scm/ directory.  Both Scheme files and .ly files can be modified and
160 saved with any text editor.  It's probably wise to make a backup copy of
161 your files before you modify them, although you can reinstall if the
162 files become corrupted.
163
164 Once you've modified the files, you can test the changes just by running
165 LilyPond on some input file.  It's a good idea to create a file that
166 demonstrates the feature you're trying to add.  This file will eventually
167 become a regression test and will be part of the LilyPond distribution.
168
169 @subsection Desired file formatting
170
171 Files that are part of the LilyPond distribution have Unix-style line
172 endings (LF), rather than DOS (CR+LF) or MacOS 9 and earlier (CR).  Make
173 sure you use the necessary tools to ensure that Unix-style line endings are
174 preserved in the patches you create.
175
176 Tab characters should not be included in files for distribution.  All
177 indentation should be done with spaces.  Most editors have settings to
178 allow the setting of tab stops and ensuring that no tab characters are
179 included in the file.
180
181 Scheme files and LilyPond files should be written according to standard
182 style guidelines.  Scheme file guidelines can be found at
183 @uref{http://community.schemewiki.org/?scheme-style}.  Following these
184 guidelines will make your code easier to read.  Both you and others that
185 work on your code will be glad you followed these guidelines.
186
187 For LilyPond files, you should follow the guidelines for LilyPond snippets
188 in the documentation.  You can find these guidelines at
189 @ref{Texinfo introduction and usage policy}.
190
191 @node Finding functions
192 @section Finding functions
193
194 When making changes or fixing bugs in LilyPond, one of the initial
195 challenges is finding out where in the code tree the functions to
196 be modified live.  With nearly 3000 files in the source tree,
197 trial-and-error searching is generally ineffective. This section
198 describes a process for finding interesting code.
199
200 @subsection Using the ROADMAP
201
202 The file ROADMAP is located in the main directory of the lilypond source.
203 ROADMAP lists all of the directories in the LilPond source tree, along
204 with a brief description of the kind of files found in each directory.
205 This can be a very helpful tool for deciding which directories to search
206 when looking for a function.
207
208
209 @subsection Using grep to search
210
211 Having identified a likely subdirectory to search, the grep utility can
212 be used to search for a function name.  The format of the grep command is
213
214 @example
215 grep -i functionName subdirectory/*
216 @end example
217
218 This command will search all the contents of the directory subdirectory/
219 and display every line in any of the files that contains
220 functionName.  The @code{-i} option makes @command{grep} ignore
221 case -- this can be very useful if you are not yet familiar with
222 our capitalization conventions.
223
224 The most likely directories to grep for function names are scm/ for
225 scheme files, ly/ for lilypond input (*.ly) files, and lily/ for C++
226 files.
227
228
229 @subsection Using git grep to search
230
231 If you have used git to obtain the source, you have access to a
232 powerful tool to search for functions.  The command:
233
234 @example
235 git grep functionName
236 @end example
237
238 will search through all of the files that are present in the git
239 repository looking for functionName.  It also presents the results
240 of the search using @code{less}, so the results are displayed one page
241 at a time.
242
243 @subsection Searching on the git repository at Savannah
244
245 You can also use the equivalent of git grep on the Savannah server.
246
247 @itemize
248
249 @item
250 Go to http://git.sv.gnu.org/gitweb/?p=lilypond.git
251
252 @item
253 In the pulldown box that says commit, select grep.
254
255 @item
256 Type functionName in the search box, and hit enter/return
257
258 @end itemize
259
260 This will initiate a search of the remote git repository.
261
262
263 @node Code style
264 @section Code style
265
266 This section describes style guidelines for LilyPond
267 source code.
268
269 @menu
270 * Languages::
271 * Filenames::
272 * Indentation::
273 * Naming conventions::
274 * Broken code::
275 * Code comments::
276 * Handling errors::
277 * Localization::
278 @end menu
279
280
281 @node Languages
282 @subsection Languages
283
284 C++ and Python are preferred.  Python code should use PEP 8.
285
286
287 @node Filenames
288 @subsection Filenames
289
290 Definitions of classes that are only accessed via pointers (*) or
291 references (&) shall not be included as include files.
292
293 @verbatim
294    filenames
295
296         ".hh"   Include files
297              ".cc"      Implementation files
298              ".icc"     Inline definition files
299              ".tcc"     non inline Template defs
300
301    in emacs:
302
303              (setq auto-mode-alist
304                    (append '(("\\.make$" . makefile-mode)
305                         ("\\.cc$" . c++-mode)
306                         ("\\.icc$" . c++-mode)
307                         ("\\.tcc$" . c++-mode)
308                         ("\\.hh$" . c++-mode)
309                         ("\\.pod$" . text-mode)
310                         )
311                       auto-mode-alist))
312 @end verbatim
313
314 The class Class_name is coded in @q{class-name.*}
315
316
317 @node Indentation
318 @subsection Indentation
319
320 Standard GNU coding style is used. In emacs:
321
322 @verbatim
323              (add-hook 'c++-mode-hook
324                   '(lambda() (c-set-style "gnu")
325                      ))
326 @end verbatim
327
328 If you like using font-lock, you can also add this to your
329 @q{.emacs}:
330
331 @verbatim
332              (setq font-lock-maximum-decoration t)
333              (setq c++-font-lock-keywords-3
334                    (append
335                     c++-font-lock-keywords-3
336                     '(("\\b\\(a-zA-Z_?+_\\)\\b" 1 font-lock-variable-name-face) ("\\b\\(A-Z?+a-z_?+\\)\\b" 1 font-lock-type-face))
337                     ))
338 @end verbatim
339
340 Some source files may not currently have proper indenting.  If this
341 is the case, it is desirable to fix the improper indenting when the
342 file is modified, with the hope of continually improving the code.
343
344
345 @subheading Indenting files with fixcc.py
346
347 LilyPond provides a python script that will correct the indentation
348 on a c++ file:
349
350 @example
351 scripts/auxiliar/fixcc.py lily/my-test-file.cc
352 @end example
353
354 Be sure you replace @code{my-test-file.cc} with the name of the file
355 that you edited.
356
357 If you are editing a file that contains an ADD_TRANSLATOR or ADD_INTERFACE
358 macro, the fixcc.py script will move the final parenthesis up one line
359 from where it should be.  Please check the end of the file before
360 you run fixcc.py, and then put the final parenthesis and semicolon
361 back on a line by themselves.
362
363
364 @subheading Indenting files with emacs in script mode
365
366 @c email to wl@gnu.org when I get here.
367
368 @warning{this is pending some confirmation on -devel.  July 2009 -gp}
369
370 Command-line script to format stuff with emacs:
371
372 @example
373 #!/bin/sh
374 emacs $1 -batch --eval '(indent-region (point-min) (point-max) nil)' -f save-buffer
375 @end example
376
377 (that's all on one line)
378
379 Save it as a shell script, then run on the file(s) you modified.
380
381
382 @subheading Indenting with vim
383
384 Although emacs indentation is the LilyPond standard, acceptable
385 indentation can usually be accomplished with vim.  Some hints for
386 vim are as follows:
387
388 A workable .vimrc:
389
390 @verbatim
391 set cindent
392 set smartindent
393 set autoindent
394 set expandtab
395 set softtabstop=2
396 set shiftwidth=2
397 filetype plugin indent on
398 set incsearch
399 set ignorecase smartcase
400 set hlsearch
401 set confirm
402 set statusline=%F%m%r%h%w\ %{&ff}\ %Y\ [ASCII=\%03.3b]\ [HEX=\%02.2B]\ %04l,%04v\ %p%%\ [LEN=%L]
403 set laststatus=2
404 set number
405 " Remove trailing whitespace on write
406 autocmd BufWritePre * :%s/\s\+$//e
407 @end verbatim
408
409 With this .vimrc, files can be reindented automatically by highlihting
410 the lines to be indented in visual mode (use V to enter visual mode)
411 and pressing =.
412
413 A scheme.vim file will help improve the indentation.  This one
414 was suggested by Patrick McCarty.  It should be saved in
415 ~/.vim/after/syntax/scheme.vim.
416
417 @verbatim
418 " Additional Guile-specific 'forms'
419 syn keyword schemeSyntax define-public define* define-safe-public
420 syn keyword schemeSyntax use-modules define-module
421 syn keyword schemeSyntax defmacro-public define-macro
422 syn keyword schemeSyntax define-markup-command
423 syn keyword schemeSyntax define-markup-list-command
424 syn keyword schemeSyntax let-keywords* lambda* define*-public
425 syn keyword schemeSyntax defmacro* defmacro*-public
426
427 " All of the above should influence indenting too
428 set lw+=define-public,define*,define-safe-public,use-modules,define-module
429 set lw+=defmacro-public,define-macro
430 set lw+=define-markup-command,define-markup-list-command
431 set lw+=let-keywords*,lambda*,define*-public,defmacro*,defmacro*-public
432
433 " These forms should not influence indenting
434 set lw-=if
435 set lw-=set!
436
437 " Try to highlight all ly: procedures
438 syn match schemeFunc "ly:[^) ]\+"
439 @end verbatim
440
441
442 @node Naming conventions
443 @subsection Naming Conventions
444
445 Naming conventions have been established for LilyPond
446 source code.
447
448 @subheading Classes and Types
449
450 Classes begin with an uppercase letter, and words
451 in class names are separated with @code{_}:
452
453 @verbatim
454 This_is_a_class
455 @end verbatim
456
457 @subheading Members
458
459 Member variable names end with an underscore:
460
461 @verbatim
462 Type Class::member_
463 @end verbatim
464
465 @subheading Macros
466
467 Macro names should be written in uppercase completely,
468 with words separated by @code{_}:
469
470 @verbatim
471 THIS_IS_A_MACRO
472 @end verbatim
473
474 @subheading Variables
475
476 Variable names should be complete words, rather than abbreviations.
477 For example, it is preferred to use @code{thickness} rather than
478 @code{th} or @code{t}.
479
480 Multi-word variable names in C++ should have the words separated
481 by the underscore character (@q{_}):
482
483 @verbatim
484 cxx_multiword_variable
485 @end verbatim
486
487 Multi-word variable names in Scheme should have the words separated
488 by a hyphen (@q{-}):
489
490 @verbatim
491 scheme-multiword-variable
492 @end verbatim
493
494 @node Broken code
495 @subsection Broken code
496
497 Do not write broken code.  This includes hardwired dependencies,
498 hardwired constants, slow algorithms and obvious limitations.  If
499 you can not avoid it, mark the place clearly, and add a comment
500 explaining shortcomings of the code.
501
502 Ideally, the comment marking the shortcoming would include
503 TODO, so that it is marked for future fixing.
504
505 We reject broken-in-advance on principle.
506
507
508 @node Code comments
509 @subsection Code comments
510
511 Comments may not be needed if descriptive variable names are used
512 in the code and the logic is straightforward.  However, if the
513 logic is difficult to follow, and particularly if non-obvious
514 code has been included to resolve a bug, a comment describing
515 the logic and/or the need for the non-obvious code should be included.
516
517 There are instances where the current code could be commented better.
518 If significant time is required to understand the code as part of
519 preparing a patch, it would be wise to add comments reflecting your
520 understanding to make future work easier.
521
522
523 @node Handling errors
524 @subsection Handling errors
525
526 As a general rule, you should always try to continue computations,
527 even if there is some kind of error.  When the program stops, it
528 is often very hard for a user to pinpoint what part of the input
529 causes an error.  Finding the culprit is much easier if there is
530 some viewable output.
531
532 So functions and methods do not return errorcodes, they never
533 crash, but report a programming_error and try to carry on.
534
535 Error and warning messages need to be localized.
536
537
538 @node Localization
539 @subsection Localization
540
541 This document provides some guidelines to help programmers write
542 proper user
543 messages.  To help translations, user messages must follow
544 uniform conventions.  Follow these rules when coding for LilyPond.
545 Hopefully, this can be replaced by general GNU guidelines in the
546 future.  Even better would be to have an English (en_BR, en_AM)
547 guide helping programmers writing consistent messages for all GNU
548 programs.
549
550 Non-preferred messages are marked with `+'. By convention,
551 ungrammatical examples are marked with `*'.  However, such ungrammatical
552 examples may still be preferred.
553
554 @itemize
555
556 @item
557 Every message to the user should be localized (and thus be marked
558 for localization). This includes warning and error messages.
559
560 @item
561 Do not localize/gettextify:
562
563 @itemize
564 @item
565 `programming_error ()'s
566
567 @item
568 `programming_warning ()'s
569
570 @item
571 debug strings
572
573 @item
574 output strings (PostScript, TeX, etc.)
575
576 @end itemize
577
578 @item
579 Messages to be localized must be encapsulated in `_ (STRING)' or
580 `_f (FORMAT, ...)'. E.g.:
581
582 @example
583 warning (_ ("need music in a score"));
584 error (_f ("cannot open file: `%s'", file_name));
585 @end example
586
587 In some rare cases you may need to call `gettext ()' by hand. This
588 happens when you pre-define (a list of) string constants for later
589 use. In that case, you'll probably also need to mark these string
590 constants for translation, using `_i (STRING)'. The `_i' macro is
591 a no-op, it only serves as a marker for `xgettext'.
592
593 @example
594 char const* messages[] = @{
595   _i ("enable debugging output"),
596   _i ("ignore lilypond version"),
597   0
598 @};
599
600 void
601 foo (int i)
602 @{
603   puts (gettext (messages i));
604 @}
605 @end example
606
607 See also `flower/getopt-long.cc' and `lily/main.cc'.
608
609 @item
610 Do not use leading or trailing whitespace in messages. If you need
611 whitespace to be printed, prepend or append it to the translated
612 message
613
614 @example
615 message ("Calculating line breaks..." + " ");
616 @end example
617
618 @item
619 Error or warning messages displayed with a file name and line
620 number never start with a capital, eg,
621
622 @example
623 foo.ly: 12: not a duration: 3
624 @end example
625
626 Messages containing a final verb, or a gerund (`-ing'-form) always
627 start with a capital. Other (simpler) messages start with a
628 lowercase letter
629
630 @example
631 Processing foo.ly...
632 `foo': not declared.
633 Not declaring: `foo'.
634 @end example
635
636 @item
637 Avoid abbreviations or short forms, use `cannot' and `do not'
638 rather than `can't' or `don't'
639 To avoid having a number of different messages for the same
640 situation, well will use quoting like this `"message: `%s'"' for all
641 strings. Numbers are not quoted:
642
643 @example
644 _f ("cannot open file: `%s'", name_str)
645 _f ("cannot find character number: %d", i)
646 @end example
647
648 @item
649 Think about translation issues. In a lot of cases, it is better to
650 translate a whole message. The english grammar must not be imposed
651 on the translator. So, instead of
652
653 @example
654 stem at  + moment.str () +  does not fit in beam
655 @end example
656
657 have
658
659 @example
660 _f ("stem at %s does not fit in beam", moment.str ())
661 @end example
662
663 @item
664 Split up multi-sentence messages, whenever possible. Instead of
665
666 @example
667 warning (_f ("out of tune!  Can't find: `%s'", "Key_engraver"));
668 warning (_f ("cannot find font `%s', loading default", font_name));
669 @end example
670
671 rather say:
672
673 @example
674 warning (_ ("out of tune:"));
675 warning (_f ("cannot find: `%s', "Key_engraver"));
676 warning (_f ("cannot find font: `%s', font_name));
677 warning (_f ("Loading default font"));
678 @end example
679
680 @item
681 If you must have multiple-sentence messages, use full punctuation.
682 Use two spaces after end of sentence punctuation. No punctuation
683 (esp. period) is used at the end of simple messages.
684
685 @example
686 _f ("Non-matching braces in text `%s', adding braces", text)
687 _ ("Debug output disabled.  Compiled with NPRINT.")
688 _f ("Huh?  Not a Request: `%s'.  Ignoring.", request)
689 @end example
690
691 @item
692 Do not modularize too much; words frequently cannot be translated
693 without context. It is probably safe to treat most occurences of
694 words like stem, beam, crescendo as separately translatable words.
695
696 @item
697 When translating, it is preferable to put interesting information
698 at the end of the message, rather than embedded in the middle.
699 This especially applies to frequently used messages, even if this
700 would mean sacrificing a bit of eloquency. This holds for original
701 messages too, of course.
702
703 @example
704 en: cannot open: `foo.ly'
705 +   nl: kan `foo.ly' niet openen (1)
706 kan niet openen: `foo.ly'*   (2)
707 niet te openen: `foo.ly'*    (3)
708 @end example
709
710
711 The first nl message, although grammatically and stylistically
712 correct, is not friendly for parsing by humans (even if they speak
713 dutch). I guess we would prefer something like (2) or (3).
714
715 @item
716 Do not run make po/po-update with GNU gettext < 0.10.35
717
718 @end itemize
719
720
721
722 @node Debugging LilyPond
723 @section Debugging LilyPond
724
725 The most commonly used tool for debugging LilyPond is the GNU
726 debugger gdb.  The gdb tool is used for investigating and debugging
727 core Lilypond code written in C++.  Another tool is available for
728 debugging Scheme code using the Guile debugger.  This section
729 describes how to use both gdb and the Guile Debugger.
730
731 @menu
732 * Debugging overview::
733 * Debugging C++ code::
734 * Debugging Scheme code::
735 @end menu
736
737 @node Debugging overview
738 @subsection Debugging overview
739
740 Using a debugger simplifies troubleshooting in at least two ways.
741
742 First, breakpoints can be set to pause execution at any desired point.
743 Then, when execution has paused, debugger commands can be issued to
744 explore the values of various variables or to execute functions.
745
746 Second, the debugger can display a stack trace, which shows the
747 sequence in which functions have been called and the arguments
748 passed to the called functions.
749
750 @node Debugging C++ code
751 @subsection Debugging C++ code
752
753 The GNU debugger, gdb, is the principal tool for debugging C++ code.
754
755 @unnumberedsubsubsec Compiling LilyPond for use with gdb
756
757 In order to use gdb with LilyPond, it is necessary to compile
758 LilyPond with debugging information.  This is accomplished by running
759 the following commands in the main LilyPond source directory.
760
761 @example
762 ./configure  --disable-optimising
763 make
764 @end example
765
766 This will create a version of LilyPond containing debugging
767 information that will allow the debugger to tie the source code
768 to the compiled code.
769
770 You should not do @var{make install} if you want to use a debugger
771 with LilyPond.  The @var{make install} command will strip debugging
772 information from the LilyPond binary.
773
774 @unnumberedsubsubsec Typical gdb usage
775
776 Once you have compiled the Lilypond image with the necessary
777 debugging information it will have been written to a location in a
778 subfolder of your current working directory:
779
780 @example
781 out/bin/lilypond
782 @end example
783
784 This is important as you will need to let gdb know where to find the
785 image containing the symbol tables.  You can invoke gdb from the
786 command line using
787
788 @example
789 gdb out/bin/lilypond
790 @end example
791 @noindent
792 This loads the LilyPond symbol tables into gdb.  Then, to run
793 LilyPond on @code{test.ly} under the debugger, enter
794
795 @example
796 run test.ly
797 @end example
798 @noindent
799 at the gdb prompt.
800
801 As an alternative to running gdb at the command line you may try
802 a graphical interface to gdb such as ddd
803
804 @example
805 ddd out/bin/lilypond
806 @end example
807
808 You can also use sets of standard gdb commands stored in a .gdbinit
809 file (see next section).
810
811 @unnumberedsubsubsec Typical .gdbinit files
812
813 The behavior of gdb can be readily customized through the use of a
814 @var{.gdbinit} file.  A @var{.gdbinit} file is a file named
815 @var{.gdbinit} (notice the @qq{.} at the beginning of the file name)
816 that is placed in a user's home directory.
817
818 The @var{.gdbinit} file below is from Han-Wen.  It sets breakpoints
819 for all errors and defines functions for displaying scheme objects
820 (ps), grobs (pgrob), and parsed music expressions (pmusic).
821
822 @example
823 file lily/out/lilypond
824 b programming_error
825 b Grob::programming_error
826
827 define ps
828    print ly_display_scm($arg0)
829 end
830 define pgrob
831   print ly_display_scm($arg0->self_scm_)
832   print ly_display_scm($arg0->mutable_property_alist_)
833   print ly_display_scm($arg0->immutable_property_alist_)
834   print ly_display_scm($arg0->object_alist_)
835 end
836 define pmusic
837   print ly_display_scm($arg0->self_scm_)
838   print ly_display_scm($arg0->mutable_property_alist_)
839   print ly_display_scm($arg0->immutable_property_alist_)
840 end
841 @end example
842
843 @node Debugging Scheme code
844 @subsection Debugging Scheme code
845
846 Scheme code can be developed using the Guile command line
847 interpreter @code{top-repl}.  You can either investigate
848 interactively using just Guile or you can use the debugging
849 tools available within Guile.
850
851 @unnumberedsubsubsec Using Guile interactively with LilyPond
852
853 In order to experiment with Scheme programming in the LilyPond
854 environment, it is necessary to have a Guile interpreter that
855 has all the LilyPond modules loaded.  This requires the following
856 steps.
857
858 First, define a Scheme symbol for the active module in the .ly file:
859
860 @example
861 #(module-define! (resolve-module '(guile-user))
862                  'lilypond-module (current-module))
863 @end example
864
865 Now place a Scheme function in the .ly file that gives an
866 interactive Guile prompt:
867
868 @example
869 #(top-repl)
870 @end example
871
872 When the .ly file is compiled, this causes the compilation to be
873 interrupted and an interactive guile prompt to appear.  Once the
874 guile prompt appears, the LilyPond active module must be set as the
875 current guile module:
876
877 @example
878 guile> (set-current-module lilypond-module)
879 @end example
880
881 You can demonstrate these commands are operating properly by typing the name
882 of a LilyPond public scheme function to check it has been defined:
883
884 @example
885 guile> fret-diagram-verbose-markup
886 #<procedure fret-diagram-verbose-markup (layout props marking-list)>
887 @end example
888
889 If the LilyPond module has not been correctly loaded, an error
890 message will be generated:
891
892 @example
893 guile> fret-diagram-verbose-markup
894 ERROR: Unbound variable: fret-diagram-verbose-markup
895 ABORT: (unbound-variable)
896 @end example
897
898 Once the module is properly loaded, any valid LilyPond Scheme
899 expression can be entered at the interactive prompt.
900
901 After the investigation is complete, the interactive guile
902 interpreter can be exited:
903
904 @example
905 guile> (quit)
906 @end example
907
908 The compilation of the .ly file will then continue.
909
910 @unnumberedsubsubsec Using the Guile debugger
911
912 To set breakpoints and/or enable tracing in Scheme functions, put
913
914 @example
915 \include "guile-debugger.ly"
916 @end example
917
918 in your input file after any scheme procedures you have defined in
919 that file.  This will invoke the Guile command-line after having set
920 up the environment for the debug command-line.  When your input file
921 is processed, a guile prompt will be displayed.  You may now enter
922 commands to set up breakpoints and enable tracing by the Guile debugger.
923
924 @unnumberedsubsubsec Using breakpoints
925
926 At the guile prompt, you can set breakpoints with
927 the @code{set-break!} procedure:
928
929 @example
930 guile> (set-break! my-scheme-procedure)
931 @end example
932
933 Once you have set the desired breakpoints, you exit the guile repl frame
934 by typing:
935
936 @example
937 guile> (quit)
938 @end example
939
940 Then, when one of the scheme routines for which you have set
941 breakpoints is entered, guile will interrupt execution in a debug
942 frame.  At this point you will have access to Guile debugging
943 commands.  For a listing of these commands, type:
944
945 @example
946 debug> help
947 @end example
948
949 Alternatively you may code the breakpoints in your Lilypond source
950 file using a command such as:
951
952 @example
953 #(set-break! my-scheme-procedure)
954 @end example
955
956 immediately after the @code{\include} statement.  In this case the
957 breakpoint will be set straight after you enter the @code{(quit)}
958 command at the guile prompt.
959
960 Embedding breakpoint commands like this is particularly useful if
961 you want to look at how the Scheme procedures in the @var{.scm}
962 files supplied with LilyPond work.  To do this, edit the file in
963 the relevant directory to add this line near the top:
964
965 @example
966 (use-modules (scm guile-debugger))
967 @end example
968
969 Now you can set a breakpoint after the procedure you are interested
970 in has been declared.  For example, if you are working on routines
971 called by @var{print-book-with} in @var{lily-library.scm}:
972
973 @example
974 (define (print-book-with parser book process-procedure)
975   (let* ((paper (ly:parser-lookup parser '$defaultpaper))
976          (layout (ly:parser-lookup parser '$defaultlayout))
977          (outfile-name (get-outfile-name parser)))
978     (process-procedure book paper layout outfile-name)))
979
980 (define-public (print-book-with-defaults parser book)
981   (print-book-with parser book ly:book-process))
982
983 (define-public (print-book-with-defaults-as-systems parser book)
984   (print-book-with parser book ly:book-process-to-systems))
985
986 @end example
987
988 At this point in the code you could add this to set a breakpoint at
989 print-book-with:
990
991 @example
992 (set-break! print-book-with)
993 @end example
994
995 @unnumberedsubsubsec Tracing procedure calls and evaluator steps
996
997 Two forms of trace are available:
998
999 @example
1000 (set-trace-call! my-scheme-procedure)
1001 @end example
1002
1003 and
1004
1005 @example
1006 (set-trace-subtree! my-scheme-procedure)
1007 @end example
1008
1009 @code{set-trace-call!} causes Scheme to log a line to the standard
1010 output to show when the procedure is called and when it exits.
1011
1012 @code{set-trace-subtree!} traces every step the Scheme evaluator
1013 performs in evaluating the procedure.
1014
1015 @node Tracing object relationships
1016 @section Tracing object relationships
1017
1018 Understanding the LilyPond source often boils down to figuring out what
1019 is happening to the Grobs. Where (and why) are they being created,
1020 modified and destroyed? Tracing Lily through a debugger in order to
1021 identify these relationships can be time-consuming and tedious.
1022
1023 In order to simplify this process, a facility has been added to
1024 display the grobs that are created and the properties that are set
1025 and modified.  Although it can be complex to get set up, once set up
1026 it easily provides detailed information about the life of grobs
1027 in the form of a network graph.
1028
1029 Each of the steps necessary to use the graphviz utility
1030 is described below.
1031
1032 @enumerate
1033
1034 @item Installing graphviz
1035
1036 In order to create the graph of the object relationships, it is
1037 first necessary to install Graphviz.  graphviz is available for a
1038 number of different platforms:
1039
1040 @example
1041 @uref{http://www.graphviz.org/Download..php}
1042 @end example
1043
1044 @item Modifying config.make
1045
1046 In order for the Graphviz tool to work, config.make must be modified.
1047 It is probably a good idea to first save a copy of config.make under
1048 a different name.  Then, edit config.make by removing every occurence
1049 of @code{-DNDEBUG}.
1050
1051 @item Rebuilding LilyPond
1052
1053 The executable code of LilyPond must be rebuilt from scratch:
1054
1055 @example
1056 make -C lily clean && make -C lily
1057 @end example
1058
1059 @item Create a graphviz-compatible .ly file
1060
1061 In order to use the graphviz utility, the .ly file must include
1062 @file{ly/graphviz-init.ly}, and should then specify the
1063 grobs and symbols that should be tracked.  An example of this
1064 is found in @file{input/regression/graphviz.ly}.
1065
1066 @item Run lilypond with output sent to a log file
1067
1068 The Graphviz data is sent to stderr by lilypond, so it is
1069 necessary to redirect stderr to a logfile:
1070
1071 @example
1072 lilypond graphviz.ly 2> graphviz.log
1073 @end example
1074
1075 @item Edit the logfile
1076
1077 The logfile has standard lilypond output, as well as the Graphviz
1078 output data.  Delete everything from the beginning of the file
1079 up to but not including the first occurence of @code{digraph}.
1080
1081 @item Process the logfile with @code{dot}
1082
1083 The directed graph is created from the log file with the program
1084 @code{dot}:
1085
1086 @example
1087 dot -Tpdf graphviz.log > graphviz.pdf
1088 @end example
1089
1090 @end enumerate
1091
1092 The pdf file can then be viewed with any pdf viewer.
1093
1094 When compiled without @code{-DNDEBUG}, lilypond may run slower
1095 than normal.  The original configuration can be restored by either
1096 renaming the saved copy of @code{config.make} or rerunning
1097 @code{configure}.  Then rebuild lilypond with
1098
1099 @example
1100 make -C lily clean && make -C lily
1101 @end example
1102
1103
1104 @node Adding or modifying features
1105 @section Adding or modifying features
1106
1107 When a new feature is to be added to LilyPond, it is necessary to
1108 ensure that the feature is properly integrated to maintain
1109 its long-term support.  This section describes the steps necessary
1110 for feature addition and modification.
1111
1112 @subsection Write the code
1113
1114 You should probably create a new git branch for writing the code, as that
1115 will separate it from the master branch and allow you to continue
1116 to work on small projects related to master.
1117
1118 Please be sure to follow the rules for programming style discussed
1119 earlier in this chapter.
1120
1121 @subsection Write regression tests
1122
1123 In order to demonstrate that the code works properly, you will
1124 need to write one or more regression tests.  These tests are
1125 typically .ly files that are found in input/regression.
1126
1127 Regression tests should be as brief as possible to demonstrate the
1128 functionality of the code.
1129
1130 Regression tests should generally cover one issue per test.  Several
1131 short, single-issue regression tests are preferred to a single, long,
1132 multiple-issue regression test.
1133
1134 Use existing regression tests as templates to demonstrate the type of
1135 header information that should be included in a regression test.
1136
1137 @subsection Write convert-ly rule
1138
1139 If the modification changes the input syntax, a convert-ly rule
1140 should be written to automatically update input files from older
1141 versions.
1142
1143 convert-ly rules are found in python/convertrules.py
1144
1145 If possible, the convert-ly rule should allow automatic updating
1146 of the file.  In some cases, this will not be possible, so the
1147 rule will simply point out to the user that the feature needs
1148 manual correction.
1149
1150 @subsection Automatically update documentation, snippets, and regtests
1151
1152 convert-ly should be used to update the documentation, the snippets,
1153 and the regression tests.  This not only makes the necessary syntax
1154 changes, it also tests the convert-ly rules.
1155
1156 The automatic updating is a three step process.  First, be sure you
1157 are in the top-level source directory.  Then, for the
1158 documentation, do:
1159
1160 @example
1161 find Documentation/ -name '*.itely' | xargs convert-ly -e --from @qq{@var{X.Y.Z}}
1162 @end example
1163
1164 @noindent
1165 where @var{X.Y.Z} is the version number of the last released development
1166 version.
1167
1168 Next, for the snippets, do:
1169
1170 @example
1171 find Documentation/snippets/ -name '*.ly' | xargs convert-ly -e --from @qq{@var{X.Y.Z}}
1172 @end example
1173
1174 Finally, for the regression tests, do:
1175
1176 @example
1177 find input/regression/ -name '*.ly' | xargs convert-ly -e --from @qq{@var{X.Y.Z}}
1178
1179 @end example
1180
1181 @subsection Manually update documentation, snippets, and regtests
1182
1183 Where the convert-ly rule is not able to automatically update the inline
1184 lilypond code in the documentation (i.e. if a NOT_SMART rule is used), the
1185 documentation must be manually updated.  The inline snippets that require
1186 changing must be changed in the English version of the docs and all
1187 translated versions.  If the inline code is not changed in the
1188 translated documentation, the old snippets will show up in the
1189 English version of the documentation.
1190
1191 Where the convert-ly rule is not able to automatically update snippets
1192 in Documentation/snippets/, those snippets must be manually updated.
1193 Those snippets should be copied to Documentation/snippets/new.  The
1194 comments at the top of the snippet describing its automatice generation
1195 should be removed.  All translated texidoc strings should be removed.
1196 The comment @qq{% begin verbatim} should be removed.  The syntax of
1197 the snippet should then be manually edited.
1198
1199 Where snippets in Documentation/snippets are made obsolete, the snippet
1200 should be copied to Documentation/snippets/new.  The comments and
1201 texidoc strings should be removed as described above.  Then the body
1202 of the snippet should be changed to:
1203
1204 @example
1205 \markup @{
1206   This snippet is deprecated as of version X.Y.Z and
1207   will be removed from the documentation.
1208 @}
1209 @end example
1210
1211 @noindent
1212 where X.Y.Z is the version number for which the convert-ly rule was
1213 written.
1214
1215 Update the snippet files by running:
1216
1217 @example
1218 scripts/auxiliar/makelsr.py
1219 @end example
1220
1221 Where the convert-ly rule is not able to automatically update regression
1222 tests, the regression tests in input/regression should be manually
1223 edited.
1224
1225 Although it is not required, it is helpful if the developer
1226 can write relevant material for inclusion in the Notation
1227 Reference.  If the developer does not feel qualified to write
1228 the documentation, a documentation editor will be able to
1229 write it from the regression tests.  The text that is added to
1230 or removed from the documentation should be changed only in
1231 the English version.
1232
1233 @subsection Edit changes.tely
1234
1235 An entry should be added to Documentation/changes.tely to describe
1236 the feature changes to be implemented.  This is especially important
1237 for changes that change input file syntax.
1238
1239 Hints for changes.tely entries are given at the top of the file.
1240
1241 New entries in changes.tely go at the top of the file.
1242
1243 The changes.tely entry should be written to show how the new change
1244 improves LilyPond, if possible.
1245
1246 @subsection Verify successful build
1247
1248 When the changes have been made, successful completion must be
1249 verified by doing
1250
1251 @example
1252 make all
1253 make doc
1254 @end example
1255
1256 When these commands complete without error, the patch is
1257 considered to function successfully.
1258
1259 Developers on Windows who are unable to build LilyPond should
1260 get help from a Linux or OSX developer to do the make tests.
1261
1262 @subsection Verify regression test
1263
1264 In order to avoid breaking LilyPond, it is important to verify that
1265 the regression tests all succeed.  This process is described in
1266 @ref{Regression tests}.
1267
1268 @subsection Post patch for comments
1269
1270 For any change other than a minor change, a patch set should be
1271 posted on @uref{http://codereview.appspot.com/, Rietveld} for comment.
1272 This requires the use of an external package, git-cl, and an email
1273 account on Google.
1274
1275 git-cl is installed by:
1276
1277 @example
1278 git clone git://neugierig.org/git-cl.git
1279 @end example
1280
1281 Then, add the git-cl directory to your PATH, or create a
1282 symbolic link to the git-cl and upload.py in one of your
1283 PATH directories (like usr/bin).  git-cl is then
1284 configured by entering the command
1285
1286 @example
1287 git cl config
1288 @end example
1289
1290 @noindent
1291 in the LilyPond git directory and answering the questions that
1292 are asked.  If you do not understand the question answer with just
1293 a newline (CR).
1294
1295 The patch set is posted to Rietveld as follows.  Ensure your changes
1296 are committed in a separate branch, which should differ from the
1297 reference branch to be used by just the changes to be uploaded.
1298 If the reference branch is to be origin/master, ensure this is
1299 up-to-date.  If necessary, use git rebase to rebase the branch
1300 containing the changes to the head of origin/master.  Finally,
1301 check out branch with the changes and enter the command:
1302
1303 @example
1304 git cl upload <reference SHA1 ID>
1305 @end example
1306
1307 @noindent
1308 where <reference SHA1 ID> is the SHA1 ID of the commit to be used
1309 as a reference source for the patch.  Generally, this will be the
1310 SHA1 ID of origin/master, and in that case the command
1311
1312 @example
1313 git cl upload origin/master
1314 @end example
1315
1316 @noindent
1317 can be used.
1318
1319 After prompting for your Google email address and password, the
1320 patch set will be posted to Rietveld.
1321
1322 You should then announce the patch by sending
1323 an email to lilypond-devel, with a subject line
1324 starting with PATCH:, asking for comments on the patch.
1325
1326 As revisions are made in response to comments, successive patch sets
1327 for the same issue can be uploaded by reissuing the git-cl command
1328 with the modified branch checked out.
1329
1330 @subsection Push patch
1331
1332 Once all the comments have been addressed, the patch can be pushed.
1333
1334 If the author has push privileges, the author will push the patch.
1335 Otherwise, a developer with push privileges will push the patch.
1336
1337 @subsection Closing the issues
1338
1339 Once the patch has been pushed, all the relevant issues should be
1340 closed.
1341
1342 On Rietveld, the author should log in an close the issue either by
1343 using the @q{Edit Issue} link, or by clicking the circled x icon
1344 to the left of the issue name.
1345
1346 If the changes were in response to a feature request on the Google
1347 issue tracker for LilyPond, the author should change the status to
1348 Fixed and a tag @q{fixed_x_y_z} should be added, where the patch was
1349 fixed in version x.y.z.  If
1350 the author does not have privileges to change the status, an email
1351 should be sent to bug-lilypond requesting the BugMeister to change
1352 the status.
1353
1354 @node Iterator tutorial
1355 @section Iterator tutorial
1356
1357 TODO -- this is a placeholder for a tutorial on iterators
1358
1359 Iterators are routines written in C++ that process music expressions
1360 and sent the music events to the appropriate engravers and/or
1361 performers.
1362
1363 @node Engraver tutorial
1364 @section Engraver tutorial
1365
1366 Engravers are C++ classes that catch music events and
1367 create the appropriate grobs for display on the page.  Though the
1368 majority of engravers are responsible for the creation of a single grob,
1369 in some cases (e.g. @code{New_fingering_engraver}), several different grobs
1370 may be created.
1371
1372 Engravers listen for events and acknowledge grobs.  Events are passed to
1373 the engraver in time-step order during the iteration phase.  Grobs are
1374 made available to the engraver when they are created by other engravers
1375 during the iteration phase.
1376
1377 @subsection Useful methods for information processing
1378
1379 An engraver inherits the following public methods from the Translator
1380 base class, which can be used to process listened events and acknowledged
1381 grobs:
1382
1383 @itemize
1384 @item @code{virtual void initialize ()}
1385 @item @code{void start_translation_timestep ()}
1386 @item @code{void process_music ()}
1387 @item @code{void process_acknowledged ()}
1388 @item @code{void stop_translation_timestep ()}
1389 @item @code{virtual void finalize ()}
1390 @end itemize
1391
1392 These methods are listed in order of translation time, with
1393 @code{initialize ()} and @code{finalize ()} bookending the whole
1394 process.  @code{initialize ()} can be used for one-time initialization
1395 of context properties before translation starts, whereas
1396 @code{finalize ()} is often used to tie up loose ends at the end of
1397 translation: for example, an unterminated spanner might be completed
1398 automatically or reported with a warning message.
1399
1400 @subsection Translation process
1401
1402 At each timestep in the music, translation proceeds by calling the
1403 following methods in turn:
1404
1405 @code{start_translation_timestep ()} is called before any user
1406 information enters the translators, i.e., no property operations
1407 (\set, \override, etc.) or events have been processed yet.
1408
1409 @code{process_music ()} and @code{process_acknowledged ()} are called
1410 after all events in the current time step have been heard, or all
1411 grobs in the current time step have been acknowledged.  The latter
1412 tends to be used exclusively with engravers which only acknowledge
1413 grobs, whereas the former is the default method for main processing
1414 within engravers.
1415
1416 @code{stop_translation_timestep ()} is called after all user
1417 information has been processed prior to beginning the translation for
1418 the next timestep.
1419
1420 @subsection Preventing garbage collection for SCM member variables
1421
1422 In certain cases, an engraver might need to ensure private Scheme
1423 variables (with type SCM) do not get swept away by Guile's garbage
1424 collector: for example, a cache of the previous key signature which
1425 must persist between timesteps.  The method
1426 @code{virtual derived_mark () const} can be used in such cases:
1427
1428 @example
1429 Engraver_name::derived_mark ()
1430 @{
1431   scm_gc_mark (private_scm_member_)
1432 @}
1433 @end example
1434
1435
1436 @subsection Listening to music events
1437
1438 External interfaces to the engraver are implemented by protected
1439 macros including one or more of the following:
1440
1441 @itemize
1442 @item @code{DECLARE_TRANSLATOR_LISTENER (event_name)}
1443 @item @code{IMPLEMENT_TRANSLATOR_LISTENER (Engraver_name, event_name)}
1444 @end itemize
1445
1446 @noindent
1447 where @var{event_name} is the type of event required to provide the
1448 input the engraver needs and @var{Engraver_name} is the name of the
1449 engraver.
1450
1451 Following declaration of a listener, the method is implemented as follows:
1452
1453 @example
1454 IMPLEMENT_TRANSLATOR_LISTENER (Engraver_name, event_name)
1455 void
1456 Engraver_name::listen_event_name (Stream event *event)
1457 @{
1458   ...body of listener method...
1459 @}
1460 @end example
1461
1462 @subsection Acknowledging grobs
1463
1464 Some engravers also need information from grobs as they are created
1465 and as they terminate.  The mechanism and methods to obtain this
1466 information are set up by the macros:
1467
1468 @itemize
1469 @item @code{DECLARE_ACKNOWLEDGER (grob_interface)}
1470 @item @code{DECLARE_END_ACKNOWLEDGER (grob_interface)}
1471 @end itemize
1472
1473 where @var{grob_interface} is an interface supported by the
1474 grob(s) which should be acknowledged.  For example, the following
1475 code would declare acknowledgers for a @code{NoteHead} grob (via the
1476 @code{note-head-interface}) and any grobs which support the
1477 @code{side-position-interface}:
1478
1479 @example
1480 @code{DECLARE_ACKNOWLEDGER (note_head)}
1481 @code{DECLARE_ACKNOWLEDGER (side_position)}
1482 @end example
1483
1484 The @code{DECLARE_END_ACKNOWLEDGER ()} macro sets up a spanner-specific
1485 acknowledger which will be called whenever a spanner ends.
1486
1487 Following declaration of an acknowledger, the method is coded as follows:
1488
1489 @example
1490 void
1491 Engraver_name::acknowledge_interface_name (Grob_info info)
1492 @{
1493   ...body of acknowledger method...
1494 @}
1495 @end example
1496
1497 @subsection Engraver declaration/documentation
1498
1499 An engraver must have a public macro
1500
1501 @itemize
1502 @item @code{TRANSLATOR_DECLARATIONS (Engraver_name)}
1503 @end itemize
1504
1505 @noindent
1506 where @code{Engraver_name} is the name of the engraver.  This
1507 defines the common variables and methods used by every engraver.
1508
1509 At the end of the engraver file, one or both of the following
1510 macros are generally called to document the engraver in the
1511 Internals Reference:
1512
1513 @itemize
1514 @item @code{ADD_ACKNOWLEDGER (Engraver_name, grob_interface)}
1515 @item @code{ADD_TRANSLATOR (Engraver_name, Engraver_doc,
1516     Engraver_creates, Engraver_reads, Engraver_writes)}
1517 @end itemize
1518
1519 @noindent
1520 where @code{Engraver_name} is the name of the engraver, @code{grob_interface}
1521 is the name of the interface that will be acknowledged,
1522 @code{Engraver_doc} is a docstring for the engraver,
1523 @code{Engraver_creates} is the set of grobs created by the engraver,
1524 @code{Engraver_reads} is the set of properties read by the engraver,
1525 and @code{Engraver_writes} is the set of properties written by
1526 the engraver.
1527
1528 @node Callback tutorial
1529 @section Callback tutorial
1530
1531 TODO -- This is a placeholder for a tutorial on callback functions.
1532
1533 @node LilyPond scoping
1534 @section LilyPond scoping
1535
1536 The Lilypond language has a concept of scoping, ie you can do
1537
1538 @example
1539 foo = 1
1540
1541 #(begin
1542    (display (+ foo 2)))
1543 @end example
1544
1545 @noindent with @code{\paper}, @code{\midi} and @code{\header} being
1546 nested scope inside the @file{.ly} file-level scope.  @w{@code{foo = 1}}
1547 is translated in to a scheme variable definition.
1548
1549 This implemented using modules, with each scope being an anonymous
1550 module that imports its enclosing scope's module.
1551
1552 Lilypond's core, loaded from @file{.scm} files, is usually placed in the
1553 @code{lily} module, outside the @file{.ly} level.  In the case of
1554
1555 @example
1556 lilypond a.ly b.ly
1557 @end example
1558
1559 @noindent
1560 we want to reuse the built-in definitions, without changes effected in
1561 user-level @file{a.ly} leaking into the processing of @file{b.ly}.
1562
1563 The user-accessible definition commands have to take care to avoid
1564 memory leaks that could occur when running multiple files.  All
1565 information belonging to user-defined commands and markups is stored in
1566 a manner that allows it to be garbage-collected when the module is
1567 dispersed, either by being stored module-locally, or in weak hash
1568 tables.
1569
1570 @node LilyPond miscellany
1571 @section LilyPond miscellany
1572
1573 This is a place to dump information that may be of use to developers
1574 but doesn't yet have a proper home.  Ideally, the length of this section
1575 would become zero as items are moved to other homes.
1576
1577 @subsection Spacing algorithms
1578
1579 Here is information from an email exchange about spacing algorithms.
1580
1581 On Thu, 2010-02-04 at 15:33 -0500, Boris Shingarov wrote:
1582 I am experimenting with some modifications to the line breaking code,
1583 and I am stuck trying to understand how some of it works.  So far my
1584 understanding is that Simple_spacer operates on a vector of Grobs, and
1585 it is a well-known Constrained-QP problem (rods = constraints, springs
1586 = quadratic function to minimize).  What I don't understand is, if the
1587 spacer operates at the level of Grobs, which are built at an earlier
1588 stage in the pipeline, how are the changes necessitated by differences
1589 in line breaking, taken into account?  in other words, if I take the
1590 last measure of a line and place it on the next line, it is not just a
1591 matter of literally moving that graphic to where the start of the next
1592 line is, but I also need to draw a clef, key signature, and possibly
1593 other fundamental things -- but at that stage in the rendering
1594 pipeline, is it not too late??
1595
1596 Joe Neeman answered:
1597
1598 We create lots of extra grobs (eg. a BarNumber at every bar line) but
1599 most of them are not drawn. See the break-visibility property in
1600 item-interface.
1601
1602 @subsection Info from Han-Wen Email
1603
1604 In 2004, Douglas Linhardt decided to try starting a document that would
1605 explain LilyPond architecture and design principles.  The material below
1606 is extracted from that email, which can be found at
1607 @uref{http://thread.gmane.org/gmane.comp.gnu.lilypond.devel/2992}.
1608 The headings reflect questions from Doug or comments from Han-Wen;
1609 the body text are Han-Wen's answers.
1610
1611 @unnumberedsubsubsec Figuring out how things work.
1612
1613 I must admit that when I want to know how a program works, I use grep
1614 and emacs and dive into the source code. The comments and the code
1615 itself are usually more revealing than technical documents.
1616
1617 @unnumberedsubsubsec What's a grob, and how is one used?
1618
1619 Graphical object - they are created from within engravers, either as
1620 Spanners (derived class) -slurs, beams- or Items (also a derived
1621 class) -notes, clefs, etc.
1622
1623 There are two other derived classes System (derived from Spanner,
1624 contaning a "line of music") and Paper_column (derived from Item, it
1625 contains all items that happen at the same moment). They are separate
1626 classes because they play a special role in the linebreaking process.
1627
1628 @unnumberedsubsubsec What's a smob, and how is one used?
1629
1630 A C(++) object that is encapsulated so it can be used as a Scheme
1631 object.  See GUILE info, "19.3 Defining New Types (Smobs)"
1632
1633 @unnumberedsubsubsec When is each C++ class constructed and used
1634
1635 @itemize
1636
1637 @item
1638 Music classes
1639
1640 In the parser.yy see the macro calls MAKE_MUSIC_BY_NAME().
1641
1642 @item
1643 Contexts
1644
1645 Constructed during "interpreting" phase.
1646
1647 @item
1648 Engravers
1649
1650 Executive branch of Contexts, plugins that create grobs, usually one
1651 engraver per grob type. Created  together with context.
1652
1653 @item
1654 Layout Objects
1655
1656 = grobs
1657
1658 @item
1659 Grob Interfaces
1660
1661 These are not C++ classes per se. The idea of a Grob interface hasn't
1662 crystallized well. ATM, an interface is a symbol, with a bunch of grob
1663 properties. They are not objects that are created or destroyed.
1664
1665 @item
1666 Iterators
1667
1668 Objects that walk through different music classes, and deliver events
1669 in a synchronized way, so that notes that play together are processed
1670 at the same moment and (as a result) end up on the same horizontal position.
1671
1672 Created during interpreting phase.
1673
1674 BTW, the entry point for interpreting is ly:run-translator
1675 (ly_run_translator on the C++ side)
1676
1677 @end itemize
1678
1679 @unnumberedsubsubsec Can you get to Context properties from a Music object?
1680
1681 You can create music object with a Scheme function that reads context
1682 properties (the \applycontext syntax). However, that function is
1683 executed during Interpreting, so you can not really get Context
1684 properties from Music objects, since music objects are not directly
1685 connected to Contexts. That connection is made by the  Music_iterators
1686
1687 @unnumberedsubsubsec Can you get to Music properties from a Context object?
1688
1689 Yes, if you are given the music object within a Context
1690 object. Normally, the music objects enter Contexts in synchronized
1691 fashion, and the synchronization is done by Music_iterators.
1692
1693 @unnumberedsubsubsec What is the relationship between C++ classes and Scheme objects?
1694
1695 Smobs are C++ objects in Scheme. Scheme objects (lists, functions) are
1696 manipulated from C++ as well using the GUILE C function interface
1697 (prefix: scm_)
1698
1699 @unnumberedsubsubsec How do Scheme procedures get called from C++ functions?
1700
1701 scm_call_*, where * is an integer from 0 to 4.
1702 Also scm_c_eval_string (), scm_eval ()
1703
1704 @unnumberedsubsubsec How do C++ functions get called from Scheme procedures?
1705
1706 Export a C++ function to Scheme with LY_DEFINE.
1707
1708 @unnumberedsubsubsec What is the flow of control in the program?
1709
1710 Good question.  Things used to be clear-cut, but we have Scheme
1711 and SMOBs now, which means that interactions do not follow a very
1712 rigid format anymore. See below for an overview, though.
1713
1714 @unnumberedsubsubsec Does the parser make Scheme procedure calls or C++ function calls?
1715
1716 Both. And the Scheme calls can call C++ and vice versa. It's nested,
1717 with the SCM datatype as lubrication between the interactions
1718
1719 (I think the word "lubrication" describes the process better than the
1720 traditional word "glue")
1721
1722 @unnumberedsubsubsec How do the front-end and back-end get started?
1723
1724 Front-end: a file is parsed, the rest follows from that. Specifically,
1725
1726 Parsing leads to a Music + Music_output_def object (see parser.yy,
1727 definition of toplevel_expression )
1728
1729 A Music + Music_output_def object leads to a Global_context object (see
1730 ly_run_translator ())
1731
1732 During interpreting, Global_context + Music leads to a bunch of
1733 Contexts. (see Global_translator::run_iterator_on_me () )
1734
1735 After interpreting, Global_context contains a Score_context (which
1736 contains staves, lyrics etc.) as a child. Score_context::get_output ()
1737 spews a Music_output object (either a Paper_score object for notation
1738 or Performance object for MIDI).
1739
1740 The Music_output object is the entry point for the backend. (see
1741 ly_render_output () )
1742
1743 The main steps of the backend itself are in
1744
1745 @itemize
1746
1747 @item
1748 paper-score.cc , Paper_score::process_
1749
1750 @item
1751 system.cc , System::get_lines()
1752
1753 @item
1754 The step, where things go from grobs to output, is in
1755 System::get_line(): each grob delivers a Stencil (a Device
1756 independent output description), which is interpreted by our
1757 outputting backends (scm/output-tex.scm and scm/output-ps.scm)
1758 to produce TeX and PS.
1759
1760 @end itemize
1761
1762 Interactions between grobs and putting things into .tex and .ps files
1763 have gotten a little more complex lately. Jan has implemented
1764 page-breaking, so now the backend also involves Paper_book,
1765 Paper_lines and other things. This area is still heavily in flux, and
1766 perhaps not something you should want to look at.
1767
1768 @unnumberedsubsubsec How do the front-end and back-end communicate?
1769
1770 There is no communication from backend to front-end. From front-end to
1771 backend is simply the program flow: music + definitions gives
1772 contexts, contexts yield output, after processing, output is written
1773 to disk.
1774
1775 @unnumberedsubsubsec Where is the functionality associated with KEYWORDs?
1776
1777 See my-lily-lexer.cc (keywords, there aren't that many) and ly/*.ly
1778 (most of the other backslashed \words are identifiers)
1779
1780 @unnumberedsubsubsec What Contexts/Properties/Music/etc. are available when they are processed?
1781
1782 What do you mean exactly with this question?
1783
1784 See ly/engraver-init.ly for contexts, see scm/define-*.scm for other
1785 objects.
1786
1787 @unnumberedsubsubsec How do you decide if something is a Music, Context, or Grob property?
1788 Why is part-combine-status a Music property when it seems (IMO)
1789 to be related to the Staff context?
1790
1791 The Music_iterators and Context communicate through two channels
1792
1793 Music_iterators can set and read context properties, idem for
1794 Engravers and Contexts
1795
1796 Music_iterators can send "synthetic" music events (which aren't in
1797 the input) to a context. These are caught by Engravers. This is
1798 mostly a one way communication channel.
1799
1800 part-combine-status is part of such a synthetic event, used by
1801 Part_combine_iterator to communicate with Part_combine_engraver.
1802
1803
1804 @unnumberedsubsubsec I'm adding a property to affect how \autochange works.  It seems to
1805 me that it should be a context property, but the Scheme autochange
1806 procecure has a Music argument.  Does this mean I should use
1807 a Music property?
1808
1809 \autochange is one of these extra strange beasts: it requires
1810 look-ahead to decide when to change staves. This is achieved by
1811 running the interpreting step twice (see scm/part-combiner.scm , at
1812 the bottom), and storing the result of the first step (where to switch
1813 staves) in a Music property.  Since you want to influence that
1814 where-to-switch list, your must affect the code in
1815 make-autochange-music (scm/part-combiner.scm). That code is called
1816 directly from the parser and there are no official "parsing
1817 properties" yet, so there is no generic way to tune \autochange. We
1818 would have to invent something new for this, or add a separate
1819 argument,
1820
1821 @example
1822     \autochange #around-central-C ..music..
1823 @end example
1824
1825 @noindent
1826 where around-central-C is some function that is called from
1827 make-autochange-music.
1828
1829 @unnumberedsubsubsec I get lost figuring out what environment the code I'm looking at is in when it executes.
1830 I found both the C++ and Scheme autochange code.  Then I was
1831 trying to figure out where the code got called from.  I finally figured out that
1832 the Scheme procedure was called before the C++ iterator code, but it took me a
1833 while to figure that out, and I still didn't know who did the calling in the
1834 first place.  I only know a little bit about Flex and Bison, so reading those
1835 files helped only a little bit.
1836
1837 @emph{Han-Wen:} GDB can be of help here. Set a breakpoint in C++, and run. When you
1838 hit the breakpoint, do a backtrace. You can inspect Scheme objects
1839 along the way by doing
1840
1841 @example
1842 p ly_display_scm(obj)
1843 @end example
1844
1845 this will display OBJ through GUILE.
1846
1847 @subsection Music functions and GUILE debugging
1848
1849 Ian Hulin was trying to do some debugging in music functions, and
1850 came up with the following question
1851
1852 HI all,
1853 I'm working on the Guile Debugger Stuff, and would like to try
1854 debugging a music function definition such as:
1855
1856 @example
1857 conditionalMark = #(define-music-function (parser location) ()
1858     #@{ \tag #'instrumental-part @{\mark \default@}  #@} )
1859 @end example
1860
1861 It appears conditionalMark does not get set up as an
1862 equivalent of a Scheme
1863
1864 @example
1865 (define conditionalMark = define-music-function(parser location () ...
1866 @end example
1867
1868 @noindent
1869 although something gets defined because Scheme apparently recognizes
1870
1871 @example
1872 #(set-break! conditionalMark)
1873 @end example
1874
1875 @noindent
1876 later on in the file without signalling any Guile errors.
1877
1878 However the breakpoint trap is never encountered as
1879 define-music-function passed things on to ly:make-music-function,
1880 which is really C++ code ly_make_music_function, so Guile never
1881 finds out about the breakpoint.
1882
1883 Han-Wen answered as follows:
1884
1885 You can see the defintion by doing
1886
1887 @example
1888 #(display conditionalMark)
1889 @end example
1890
1891 noindent
1892 inside the .ly file.
1893
1894 The breakpoint failing may have to do with the call sequence.  See
1895 parser.yy, run_music_function().  The function is called directly from
1896 C++, without going through the GUILE evaluator, so I think that is why
1897 there is no debugger trap.