]> git.donarmstrong.com Git - samtools.git/commitdiff
round to the nearest integer
authorHeng Li <lh3@live.co.uk>
Thu, 30 Sep 2010 14:12:02 +0000 (14:12 +0000)
committerHeng Li <lh3@live.co.uk>
Thu, 30 Sep 2010 14:12:02 +0000 (14:12 +0000)
kaln.c

diff --git a/kaln.c b/kaln.c
index b52d73a4d43b321873b45e30e23c6df6fe4cdd62..9fe7d6f6cdec9e6f7a5f66197b02ba0c636ec19f 100644 (file)
--- a/kaln.c
+++ b/kaln.c
@@ -542,7 +542,7 @@ int ka_prob_glocal(const uint8_t *_ref, int l_ref, const uint8_t *_query, int l_
                }
                max /= sum; sum *= s[i]; // if everything works as is expected, sum == 1.0
                if (state) state[i-1] = max_k;
-               if (q) k = -4.343 * log(1. - max), q[i-1] = k > 100? 99 : k;
+               if (q) k = (int)(-4.343 * log(1. - max) + .499), q[i-1] = k > 100? 99 : k;
 #ifdef _MAIN
                fprintf(stderr, "(%.10lg,%.10lg) (%d,%d:%d)~%lg\n", pb, sum, i-1, max_k>>2, max_k&3, max); // DEBUG
 #endif