]> git.donarmstrong.com Git - mothur.git/blobdiff - sharedanderbergs.cpp
changes while testing
[mothur.git] / sharedanderbergs.cpp
index d55a016257436ddc22ca1a885f14a81fb4006689..cbb9d3003ed84631e5251f9baf6738a165c83c7e 100644 (file)
@@ -13,7 +13,7 @@
 
 EstOutput Anderberg::getValues(vector<SharedRAbundVector*> shared) {
        try {
-               int S1, S2, S12, tempA, tempB;
+               double S1, S2, S12, tempA, tempB;
                S1 = 0; S2 = 0; S12 = 0; tempA = 0; tempB = 0; 
                
                /*S1, S2 = number of OTUs observed or estimated in A and B 
@@ -21,7 +21,7 @@ EstOutput Anderberg::getValues(vector<SharedRAbundVector*> shared) {
 
                data.resize(1,0);
                
-               for (int i = 0; i < shared[0]->size(); i++) {
+               for (int i = 0; i < shared[0]->getNumBins(); i++) {
                        //store in temps to avoid multiple repetitive function calls
                        tempA = shared[0]->getAbundance(i);
                        tempB = shared[1]->getAbundance(i);
@@ -33,14 +33,14 @@ EstOutput Anderberg::getValues(vector<SharedRAbundVector*> shared) {
                        if ((tempA != 0) && (tempB != 0)) {     S12++; }
                }
                
-               data[0] = S12 / ((float)((2 * S1) + (2 * S2) - (3 * S12)));
+               data[0] = 1.0 - S12 / ((float)((2 * S1) + (2 * S2) - (3 * S12)));
                
                if (isnan(data[0]) || isinf(data[0])) { data[0] = 0; }
                
                return data;
        }
        catch(exception& e) {
-               errorOut(e, "Anderberg", "getValues");
+               m->errorOut(e, "Anderberg", "getValues");
                exit(1);
        }
 }