bam_mcns.c

   1 #include <math.h>
   2 #include <stdlib.h>
   3 #include "bam_mcns.h"
   4
   5 #define MC_MIN_QUAL 13
   6 #define MC_MAX_SUMQ 3000
   7 #define MC_MAX_SUMQP 1e-300
   8
   9 struct __mc_aux_t {
  10         int n, N;
  11         int ref, alt;
  12         double *q2p, *pdg; // pdg -> P(D|g)
  13         double *alpha, *beta;
  14         int *qsum, *bcnt;
  15 };
  16
  17 void mc_init_prior(mc_aux_t *ma, int type, double theta)
  18 {
  19         int i;
  20         if (type == MC_PTYPE_COND2) {
  21                 for (i = 0; i <= 2 * ma->n; ++i)
  22                         ma->alpha[i] = 2. * (i + 1) / (2 * ma->n + 1) / (2 * ma->n + 2);
  23         } else {
  24                 double sum;
  25                 for (i = 0, sum = 0.; i < 2 * ma->n; ++i)
  26                         sum += (ma->alpha[i] = theta / (2 * ma->n - i));
  27                 ma->alpha[2 * ma->n] = 1. - sum;
  28         }
  29 }
  30
  31 mc_aux_t *mc_init(int n) // FIXME: assuming diploid
  32 {
  33         mc_aux_t *ma;
  34         int i;
  35         ma = calloc(1, sizeof(mc_aux_t));
  36         ma->n = n; ma->N = 2 * n;
  37         ma->q2p = calloc(MC_MAX_SUMQ + 1, sizeof(double));
  38         ma->qsum = calloc(4 * ma->n, sizeof(int));
  39         ma->bcnt = calloc(4 * ma->n, sizeof(int));
  40         ma->pdg = calloc(3 * ma->n, sizeof(double));
  41         ma->alpha = calloc(2 * ma->n + 1, sizeof(double));
  42         ma->beta = calloc((2 * ma->n + 1) * 3, sizeof(double));
  43         for (i = 0; i <= MC_MAX_SUMQ; ++i)
  44                 ma->q2p[i] = pow(10., -i / 10.);
  45         for (i = 0; i <= 2 * ma->n; ++i) { // beta[k][g]=P(g|k/M)
  46                 double *bi = ma->beta + 3 * i;
  47                 double f = (double)i / (2 * ma->n);
  48                 bi[0] = (1. - f) * (1. - f);
  49                 bi[1] = 2 * f * (1. - f);
  50                 bi[2] = f * f;
  51         }
  52         mc_init_prior(ma, MC_PTYPE_FULL, 1e-3); // the simplest prior
  53         return ma;
  54 }
  55
  56 void mc_destroy(mc_aux_t *ma)
  57 {
  58         if (ma) {
  59                 free(ma->qsum); free(ma->bcnt);
  60                 free(ma->q2p); free(ma->pdg);
  61                 free(ma->alpha); free(ma->beta);
  62                 free(ma);
  63         }
  64 }
  65
  66 static void sum_err(int *n, const bam_pileup1_t **plp, mc_aux_t *ma)
  67 {
  68         int i, j;
  69         memset(ma->qsum, 0, sizeof(int) * 4 * ma->n);
  70         memset(ma->bcnt, 0, sizeof(int) * 4 * ma->n);
  71         for (j = 0; j < ma->n; ++j) {
  72                 int tmp, *qsum = ma->qsum + j * 4;
  73                 int *bcnt = ma->bcnt + j * 4;
  74                 for (i = tmp = 0; i < n[j]; ++i) {
  75                         const bam_pileup1_t *p = plp[j] + i;
  76                         int q, b;
  77                         if (p->is_del || (p->b->core.flag&BAM_FUNMAP)) continue;
  78                         q = bam1_qual(p->b)[p->qpos];
  79                         if (p->b->core.qual < q) q = p->b->core.qual;
  80                         if (q < MC_MIN_QUAL) continue; // small qual
  81                         b = bam_nt16_nt4_table[(int)bam1_seqi(bam1_seq(p->b), p->qpos)];
  82                         if (b > 3) continue; // N
  83                         qsum[b] += q;
  84                         ++bcnt[b];
  85                         ++tmp;
  86                 }
  87         }
  88 }
  89
  90 static void set_allele(int ref, mc_aux_t *ma)
  91 {
  92         int i, j, sum[4], tmp;
  93         sum[0] = sum[1] = sum[2] = sum[3] = 0;
  94         for (i = 0; i < ma->n; ++i)
  95                 for (j = 0; j < 4; ++j)
  96                         sum[j] += ma->qsum[i * 4 + j];
  97         for (j = 0; j < 4; ++j) sum[j] = sum[j]<<2 | j;
  98         for (i = 1; i < 4; ++i) // insertion sort
  99                 for (j = i; j > 0 && sum[j] < sum[j-1]; --j)
 100                         tmp = sum[j], sum[j] = sum[j-1], sum[j-1] = tmp;
 101         ma->ref = sum[3]&3; ma->alt = sum[2]&3;
 102         if (ref == ma->alt) tmp = ma->ref, ma->ref = ma->alt, ma->alt = tmp;
 103         // note that ma->ref might not be ref in case of triallele
 104 }
 105
 106 static void cal_pdg(mc_aux_t *ma)
 107 {
 108         int i, j;
 109         for (j = 0; j < ma->n; ++j) {
 110                 int pi[3], *qsum, *bcnt;
 111                 double *pdg = ma->pdg + j * 3;
 112                 qsum = ma->qsum + j * 4;
 113                 bcnt = ma->bcnt + j * 4;
 114                 pi[1] = 3 * (bcnt[ma->ref] + bcnt[ma->alt]);
 115                 pi[0] = qsum[ma->ref];
 116                 pi[2] = qsum[ma->alt];
 117                 for (i = 0; i < 3; ++i)
 118                         pdg[i] = pi[i] > MC_MAX_SUMQ? MC_MAX_SUMQP : ma->q2p[pi[i]];
 119         }
 120 }
 121 // return the reference allele frequency
 122 double mc_freq0(int ref, int *n, const bam_pileup1_t **plp, mc_aux_t *ma, int *_ref, int *alt)
 123 {
 124         int i, cnt;
 125         double f;
 126         sum_err(n, plp, ma);
 127         set_allele(ref, ma);
 128         cal_pdg(ma);
 129         *_ref = ma->ref; *alt = ma->alt;
 130         for (i = cnt = 0, f = 0.; i < ma->n; ++i) {
 131                 int *bcnt = ma->bcnt + i * 4;
 132                 int x = bcnt[ma->ref] + bcnt[ma->alt];
 133                 if (x) {
 134                         ++cnt;
 135                         f += (double)bcnt[ma->ref] / x;
 136                 }
 137         }
 138         return f / cnt;
 139 }
 140 // f0 is the reference allele frequency
 141 double mc_freq_iter(double f0, mc_aux_t *ma)
 142 {
 143         double f, f3[3];
 144         int i, j;
 145         f3[0] = (1.-f0)*(1.-f0); f3[1] = 2.*f0*(1.-f0); f3[2] = f0*f0;
 146         for (i = 0, f = 0.; i < ma->n; ++i) {
 147                 double up, dn, *pdg;
 148                 pdg = ma->pdg + i * 3;
 149                 for (j = 1, up = 0.; j < 3; ++j)
 150                         up += j * pdg[j] * f3[j];
 151                 for (j = 0, dn = 0.; j < 3; ++j)
 152                         dn += pdg[j] * f3[j];
 153                 f += up / dn;
 154         }
 155         f /= ma->n * 2.;
 156         return f;
 157 }
 158
 159 double mc_freq_post(mc_aux_t *ma)
 160 {
 161         int i, k;
 162         long double f = 0.;
 163         for (i = 0; i < ma->n; ++i) {
 164                 double *pdg = ma->pdg + i * 3;
 165                 long double y = 0., z = 0.;
 166                 for (k = 0; k <= ma->n * 2; ++k) {
 167                         double *bk = ma->beta + k * 3;
 168 /*
 169                         int g;
 170                         double yk = 0., zk = 0.;
 171                         for (g = 0; g < 3; ++g) {
 172                                 yk += g * pdg[g] * bk[g];
 173                                 zk += pdg[g] * bk[g];
 174                         }
 175                         y += yk * ma->alpha[k];
 176                         z += zk * ma->alpha[k];
 177 */
 178                         y += (pdg[1] * bk[1] + 2. * pdg[2] * bk[2]) * ma->alpha[k];
 179                         z += (pdg[0] * bk[0] + pdg[1] * bk[1] + pdg[2] * bk[2]) * ma->alpha[k];
 180                 }
 181                 f += y / z;
 182         }
 183         return f / ma->n / 2;
 184 }
 185
 186 double mc_ref_prob(mc_aux_t *ma)
 187 {
 188         int k, i;
 189         long double PD = 0., Pref = 0.;
 190         for (k = 0; k <= ma->n * 2; ++k) {
 191                 long double x = 1.;
 192                 double *bk = ma->beta + k * 3;
 193                 for (i = 0; i < ma->n; ++i) {
 194                         double *pdg = ma->pdg + i * 3;
 195 //                      int g; double y=0.; for (g = 0; g < 3; ++g) y += pdg[g] * bk[g];
 196                         x *= pdg[0] * bk[0] + pdg[1] * bk[1] + pdg[2] * bk[2];
 197                 }
 198                 PD += x * ma->alpha[k];
 199         }
 200         for (k = 0; k <= ma->n * 2; ++k) {
 201                 long double x = 1.0;
 202                 for (i = 0; i < ma->n; ++i)
 203                         x *= ma->pdg[i * 3 + 2] * ma->beta[k * 3 + 2];
 204                 Pref += x * ma->alpha[k];
 205         }
 206         return Pref / PD;
 207 }
 208
 209 int mc_call_gt(const mc_aux_t *ma, double f0, int k)
 210 {
 211         double sum, g[3];
 212         double max, f3[3], *pdg = ma->pdg + k * 3;
 213         int q, i, max_i;
 214         f3[0] = (1.-f0)*(1.-f0); f3[1] = 2.*f0*(1.-f0); f3[2] = f0*f0;
 215         for (i = 0, sum = 0.; i < 3; ++i)
 216                 sum += (g[i] = pdg[i] * f3[i]);
 217         for (i = 0, max = -1., max_i = 0; i < 3; ++i) {
 218                 g[i] /= sum;
 219                 if (g[i] > max) max = g[i], max_i = i;
 220         }
 221 //      printf("***%lg,%lg,%lg,%lg,%lg,%lg\n", g[0], g[1], g[2], pdg[0], pdg[1], pdg[2]);
 222         max = 1. - max;
 223         if (max < 1e-308) max = 1e-308;
 224         q = (int)(-3.434 * log(max) + .499);
 225         if (q > 99) q = 99;
 226         return q<<2|max_i;
 227 }