]> git.donarmstrong.com Git - biopieces.git/commitdiff
migrated upload_to_ucsc
authormartinahansen <martinahansen@74ccb610-7750-0410-82ae-013aeee3265d>
Fri, 5 Jun 2009 07:30:14 +0000 (07:30 +0000)
committermartinahansen <martinahansen@74ccb610-7750-0410-82ae-013aeee3265d>
Fri, 5 Jun 2009 07:30:14 +0000 (07:30 +0000)
git-svn-id: http://biopieces.googlecode.com/svn/trunk@477 74ccb610-7750-0410-82ae-013aeee3265d

bp_bin/upload_to_ucsc
code_perl/Maasha/BioRun.pm

index fdf5bd287f78613d2aea83bb9b15f855cad57e77..e4c206e8707b198316965cdae4208124466602ad 100755 (executable)
@@ -1,6 +1,258 @@
-#!/usr/bin/env perl
+#!/usr/bin/env perl -w
+
+# Copyright (C) 2007-2009 Martin A. Hansen.
+
+# This program is free software; you can redistribute it and/or
+# modify it under the terms of the GNU General Public License
+# as published by the Free Software Foundation; either version 2
+# of the License, or (at your option) any later version.
+
+# This program is distributed in the hope that it will be useful,
+# but WITHOUT ANY WARRANTY; without even the implied warranty of
+# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
+# GNU General Public License for more details.
+
+# You should have received a copy of the GNU General Public License
+# along with this program; if not, write to the Free Software
+# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
+
+# http://www.gnu.org/copyleft/gpl.html
+
+
+# >>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>> DESCRIPTION <<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<
+
+# Upload data to local UCSC Genome Browser Database.
+
+# >>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>><<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<
+
 
-use warnings;
 use strict;
+use Maasha::Common;
+use Maasha::Biopieces;
+use Maasha::Filesys;
+use Maasha::UCSC;
+use Maasha::UCSC::Wiggle;
+use Maasha::UCSC::PSL;
+use Maasha::UCSC::BED;
+
+
+# >>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>><<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<
+
+
+my ( $run_time_beg, $run_time_end, $options, $in, $out, $record, $tmp_dir, $file, $wib_file, $wig_file, $wib_dir, $fh_out, $i, $first, $format, $type, $columns, $append, $entry );
+
+$options = Maasha::Biopieces::parse_options(
+    [
+        { long => 'database',    short => 'd', type => 'string', mandatory => 'yes', default => undef,             allowed => undef,                         disallowed => undef },
+        { long => 'table',       short => 't', type => 'string', mandatory => 'yes', default => undef,             allowed => undef,                         disallowed => undef },
+        { long => 'no_stream',   short => 'x', type => 'flag',   mandatory => 'no',  default => undef,             allowed => undef,                         disallowed => undef },
+        { long => 'short_label', short => 's', type => 'string', mandatory => 'no',  default => undef,             allowed => undef,                         disallowed => undef },
+        { long => 'long_label',  short => 'l', type => 'string', mandatory => 'no',  default => undef,             allowed => undef,                         disallowed => undef },
+        { long => 'group',       short => 'g', type => 'string', mandatory => 'no',  default => $ENV{ 'LOGNAME' }, allowed => undef,                         disallowed => undef },
+        { long => 'priority',    short => 'p', type => 'float',  mandatory => 'no',  default => 1,                 allowed => undef,                         disallowed => undef },
+        { long => 'use_score',   short => 'u', type => 'flag',   mandatory => 'no',  default => undef,             allowed => undef,                         disallowed => undef },
+        { long => 'visibility',  short => 'V', type => 'string', mandatory => 'no',  default => 'pack',            allowed => 'hide,dense,squish,pack,full', disallowed => undef },
+        { long => 'color',       short => 'c', type => 'string', mandatory => 'no',  default => undef,             allowed => undef,                         disallowed => undef },
+        { long => 'check',       short => 'C', type => 'flag',   mandatory => 'no',  default => undef,             allowed => undef,                         disallowed => undef },
+    ]   
+);
+
+$in  = Maasha::Biopieces::read_stream( $options->{ "stream_in" } );
+$out = Maasha::Biopieces::write_stream( $options->{ "stream_out" } );
+
+$tmp_dir = Maasha::Biopieces::get_tmpdir();
+
+$options->{ "short_label" } ||= $options->{ 'table' };
+$options->{ "long_label" }  ||= $options->{ 'table' };
+$options->{ "color" }       ||= join( ",", int( rand( 255 ) ), int( rand( 255 ) ), int( rand( 255 ) ) );
+$options->{ "chunk_size" }  ||= 10_000_000_000;    # Due to 32-bit UCSC compilation really large tables cannot be loaded in one go.
+
+$file   = "$tmp_dir/ucsc_upload.tmp";
+$append = 0;
+$first  = 1;
+$i      = 0;
+
+$fh_out = Maasha::Filesys::file_write_open( $file );
+
+while ( $record = Maasha::Biopieces::get_record( $in ) ) 
+{
+    Maasha::Biopieces::put_record( $record, $out ) if not $options->{ "no_stream" };
+
+    if ( $record->{ "REC_TYPE" } eq "fixed_step" )
+    {
+        $format = "WIGGLE";
+
+        if ( $entry = Maasha::UCSC::Wiggle::biopiece2fixedstep( $record ) ) {
+            Maasha::UCSC::Wiggle::fixedstep_entry_put( $entry, $fh_out );
+        }
+    }
+    elsif ( $record->{ "REC_TYPE" } eq "PSL" )
+    {
+        $format = "PSL";
+
+        Maasha::UCSC::PSL::psl_put_header( $fh_out ) if $first;
+        Maasha::UCSC::PSL::psl_put_entry( $record, $fh_out );
+        
+        $first = 0;
+    }
+    elsif ( $record->{ "REC_TYPE" } eq "BED" and $record->{ "SEC_STRUCT" } )
+    {
+        # chrom chromStart  chromEnd    name    score   strand  size    secStr  conf 
+
+        $format  = "BED_SS";
+
+        print $fh_out join ( "\t",
+            $record->{ "CHR" },
+            $record->{ "CHR_BEG" },
+            $record->{ "CHR_END" } + 1,
+            $record->{ "Q_ID" },
+            $record->{ "SCORE" },
+            $record->{ "STRAND" },
+            $record->{ "SIZE" },
+            $record->{ "SEC_STRUCT" },
+            $record->{ "CONF" },
+        ), "\n";
+    }
+    elsif ( $record->{ "REC_TYPE" } eq "BED" )
+    {
+        $format  = "BED";
+        $columns = $record->{ "BED_COLS" };
+
+        if ( $entry = Maasha::UCSC::BED::biopiece2bed( $record, $columns ) ) {
+            Maasha::UCSC::BED::bed_entry_put( $entry, $fh_out, $columns, $options->{ 'check' } );
+        }
+    }
+    elsif ( $record->{ "REC_TYPE" } eq "PATSCAN" and $record->{ "CHR" } )
+    {
+        $format  = "BED";
+        $columns = 6;
+
+        if ( $entry = Maasha::UCSC::BED::biopiece2bed( $record, $columns ) ) {
+            Maasha::UCSC::BED::bed_entry_put( $entry, $fh_out, $columns, $options->{ 'check' } );
+        }
+    }
+    elsif ( $record->{ "REC_TYPE" } eq "BLAST" and $record->{ "S_ID" } =~ /^chr/ )
+    {
+        $format  = "BED";
+        $columns = 6;
+
+        $record->{ "SCORE" } = $record->{ "BIT_SCORE" } * 1000;
+
+        if ( $entry = Maasha::UCSC::BED::biopiece2bed( $record, $columns ) ) {
+            Maasha::UCSC::BED::bed_entry_put( $entry, $fh_out, $columns, $options->{ 'check' } );
+        }
+    }
+    elsif ( $record->{ "REC_TYPE" } eq "VMATCH" and $record->{ "S_ID" } =~ /^chr/i )
+    {
+        $format  = "BED";
+        $columns = 6;
+
+        if ( $entry = Maasha::UCSC::BED::biopiece2bed( $record, $columns ) ) {
+            Maasha::UCSC::BED::bed_entry_put( $entry, $fh_out, $columns, $options->{ 'check' } );
+        }
+    }
+
+    if ( $i == $options->{ "chunk_size" } )
+    {
+        close $fh_out;
+
+        if ( $format eq "BED" ) {
+            Maasha::UCSC::bed_upload_to_ucsc( $tmp_dir, $file, $options, $append );
+        } elsif ( $format eq "PSL" ) {
+            Maasha::UCSC::psl_upload_to_ucsc( $file, $options, $append ); 
+        }
+
+        unlink $file;
+
+        $first = 1;
+
+        $append = 1;
+
+        $fh_out = Maasha::Filesys::file_write_open( $file );
+    }
+
+    $i++;
+}
+
+close $fh_out;
+
+if ( $format eq "BED" )
+{
+    $type = "bed $columns";
+
+    Maasha::UCSC::bed_upload_to_ucsc( $tmp_dir, $file, $options, $append );
+}
+elsif ( $format eq "BED_SS" )
+{
+    $type = "type bed 6 +";
+
+    Maasha::UCSC::bed_upload_to_ucsc( $tmp_dir, $file, $options, $append );
+}
+elsif ( $format eq "PSL" )
+{
+    $type = "psl";
+
+    Maasha::UCSC::psl_upload_to_ucsc( $file, $options, $append ); 
+}
+elsif ( $format eq "WIGGLE" )
+{
+    $options->{ "visibility" } = "full";
+
+    $wig_file = "$options->{ 'table' }.wig";
+    $wib_file = "$options->{ 'table' }.wib";
+
+    $wib_dir  = "$ENV{ 'HOME' }/ucsc/wib";
+
+    Maasha::Filesys::dir_create_if_not_exists( $wib_dir );
+
+    if ( $options->{ 'verbose' } ) {
+        `cd $tmp_dir && wigEncode $file $wig_file $wib_file`;
+    } else {
+        `cd $tmp_dir && wigEncode $file $wig_file $wib_file > /dev/null 2>&1`;
+    }
+
+    Maasha::Common::run( "mv", "$tmp_dir/$wib_file $wib_dir" );
+
+    unlink $file;
+
+    $file = $wig_file;
+
+    $type = "wig 0";
+
+    Maasha::UCSC::wiggle_upload_to_ucsc( $tmp_dir, $wib_dir, $file, $options );
+}
+
+unlink $file;
+
+Maasha::UCSC::ucsc_update_config( $options, $type );
+
+Maasha::Filesys::dir_remove( $tmp_dir );
+
+
+# >>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>><<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<
+
+
+BEGIN
+{
+    $run_time_beg = Maasha::Biopieces::run_time();
+
+    Maasha::Biopieces::log_biopiece();
+}
+
+
+END
+{
+    Maasha::Biopieces::close_stream( $in );
+    Maasha::Biopieces::close_stream( $out );
+
+    $run_time_end = Maasha::Biopieces::run_time();
+
+    Maasha::Biopieces::run_time_print( $run_time_beg, $run_time_end, $options );
+}
+
+
+# >>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>><<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<
+
+
+__END__
 
-use Maasha::BioRun;
index 86036f8d06b39db78625c99fbe10a2e3b2f0913c..017146515cbc698f3fa6c74956bb96ec2de5a5cf 100644 (file)
@@ -115,7 +115,6 @@ sub run_script
     elsif ( $script eq "get_genome_phastcons" )     { script_get_genome_phastcons(      $in, $out, $options ) }
     elsif ( $script eq "remove_mysql_tables" )      { script_remove_mysql_tables(       $in, $out, $options ) }
     elsif ( $script eq "remove_ucsc_tracks" )       { script_remove_ucsc_tracks(        $in, $out, $options ) }
-    elsif ( $script eq "upload_to_ucsc" )           { script_upload_to_ucsc(            $in, $out, $options ) }
 
     close $in if defined $in;
     close $out;
@@ -190,22 +189,6 @@ sub get_options
             no_stream|x
         );
     }
-    elsif ( $script eq "upload_to_ucsc" )
-    {
-        @options = qw(
-            no_stream|x
-            database|d=s
-            table|t=s
-            short_label|s=s
-            long_label|l=s
-            group|g=s
-            priority|p=f
-            use_score|u
-            visibility|V=s
-            color|c=s
-            check|C
-        );
-    }
 
     push @options, qw(
         stream_in|I=s
@@ -305,12 +288,6 @@ sub get_options
     Maasha::Common::error( qq(no --database specified) )                if $script eq "remove_ucsc_tracks"  and not $options{ "database" };
     Maasha::Common::error( qq(no --genome specified) )                  if $script =~ /get_genome_align|get_genome_phastcons/ and not $options{ "genome" };
 
-    if ( $script eq "upload_to_ucsc" )
-    {
-        Maasha::Common::error( qq(no --database specified) ) if not $options{ "database" };
-        Maasha::Common::error( qq(no --table specified) )    if not $options{ "table" };
-    }
-
     return wantarray ? %options : \%options;
 }
 
@@ -655,195 +632,6 @@ sub script_remove_ucsc_tracks
 }
 
 
-sub script_upload_to_ucsc
-{
-    # Martin A. Hansen, August 2007.
-
-    # Calculate the mean of values of given keys.
-
-    # This routine has developed into the most ugly hack. Do something!
-
-    my ( $in,        # handle to in stream
-         $out,       # handle to out stream
-         $options,   # options hash
-       ) = @_;
-
-    # Returns nothing.
-
-    my ( $record, $file, $wib_file, $wig_file, $wib_dir, $fh_out, $i, $first, $format, $type, $columns, $append, $entry );
-
-    $options->{ "short_label" } ||= $options->{ 'table' };
-    $options->{ "long_label" }  ||= $options->{ 'table' };
-    $options->{ "group" }       ||= $ENV{ "LOGNAME" };
-    $options->{ "priority" }    ||= 1;
-    $options->{ "visibility" }  ||= "pack";
-    $options->{ "color" }       ||= join( ",", int( rand( 255 ) ), int( rand( 255 ) ), int( rand( 255 ) ) );
-    $options->{ "chunk_size" }  ||= 10_000_000_000;    # Due to 32-bit UCSC compilation really large tables cannot be loaded in one go.
-
-    $file   = "$BP_TMP/ucsc_upload.tmp";
-    $append = 0;
-    $first  = 1;
-    $i      = 0;
-
-    $fh_out = Maasha::Common::write_open( $file );
-
-    while ( $record = Maasha::Biopieces::get_record( $in ) ) 
-    {
-        Maasha::Biopieces::put_record( $record, $out ) if not $options->{ "no_stream" };
-
-        if ( $record->{ "REC_TYPE" } eq "fixed_step" )
-        {
-            $format = "WIGGLE";
-
-            if ( $entry = Maasha::UCSC::Wiggle::biopiece2fixedstep( $record ) ) {
-                Maasha::UCSC::Wiggle::fixedstep_entry_put( $entry, $fh_out );
-            }
-        }
-        elsif ( $record->{ "REC_TYPE" } eq "PSL" )
-        {
-            $format = "PSL";
-
-            Maasha::UCSC::psl_put_header( $fh_out ) if $first;
-            Maasha::UCSC::psl_put_entry( $record, $fh_out );
-            
-            $first = 0;
-        }
-        elsif ( $record->{ "REC_TYPE" } eq "BED" and $record->{ "SEC_STRUCT" } )
-        {
-            # chrom chromStart  chromEnd    name    score   strand  size    secStr  conf 
-
-            $format  = "BED_SS";
-
-            print $fh_out join ( "\t",
-                $record->{ "CHR" },
-                $record->{ "CHR_BEG" },
-                $record->{ "CHR_END" } + 1,
-                $record->{ "Q_ID" },
-                $record->{ "SCORE" },
-                $record->{ "STRAND" },
-                $record->{ "SIZE" },
-                $record->{ "SEC_STRUCT" },
-                $record->{ "CONF" },
-            ), "\n";
-        }
-        elsif ( $record->{ "REC_TYPE" } eq "BED" )
-        {
-            $format  = "BED";
-            $columns = $record->{ "BED_COLS" };
-
-            if ( $entry = Maasha::UCSC::BED::biopiece2bed( $record, $columns ) ) {
-                Maasha::UCSC::BED::bed_entry_put( $entry, $fh_out, $columns, $options->{ 'check' } );
-            }
-        }
-        elsif ( $record->{ "REC_TYPE" } eq "PATSCAN" and $record->{ "CHR" } )
-        {
-            $format  = "BED";
-            $columns = 6;
-
-            if ( $entry = Maasha::UCSC::BED::biopiece2bed( $record, $columns ) ) {
-                Maasha::UCSC::BED::bed_entry_put( $entry, $fh_out, $columns, $options->{ 'check' } );
-            }
-        }
-        elsif ( $record->{ "REC_TYPE" } eq "BLAST" and $record->{ "S_ID" } =~ /^chr/ )
-        {
-            $format  = "BED";
-            $columns = 6;
-
-            $record->{ "SCORE" } = $record->{ "BIT_SCORE" } * 1000;
-
-            if ( $entry = Maasha::UCSC::BED::biopiece2bed( $record, $columns ) ) {
-                Maasha::UCSC::BED::bed_entry_put( $entry, $fh_out, $columns, $options->{ 'check' } );
-            }
-        }
-        elsif ( $record->{ "REC_TYPE" } eq "VMATCH" and $record->{ "S_ID" } =~ /^chr/i )
-        {
-            $format  = "BED";
-            $columns = 6;
-
-            if ( $entry = Maasha::UCSC::BED::biopiece2bed( $record, $columns ) ) {
-                Maasha::UCSC::BED::bed_entry_put( $entry, $fh_out, $columns, $options->{ 'check' } );
-            }
-        }
-
-        if ( $i == $options->{ "chunk_size" } )
-        {
-            close $fh_out;
-
-            if ( $format eq "BED" ) {
-                Maasha::UCSC::bed_upload_to_ucsc( $BP_TMP, $file, $options, $append );
-            } elsif ( $format eq "PSL" ) {
-                Maasha::UCSC::psl_upload_to_ucsc( $file, $options, $append ); 
-            }
-
-            unlink $file;
-
-            $first = 1;
-
-            $append = 1;
-
-            $fh_out = Maasha::Common::write_open( $file );
-        }
-
-        $i++;
-    }
-
-    close $fh_out;
-
-    if ( exists $options->{ "database" } and $options->{ "table" } )
-    {
-        if ( $format eq "BED" )
-        {
-            $type = "bed $columns";
-
-            Maasha::UCSC::bed_upload_to_ucsc( $BP_TMP, $file, $options, $append );
-        }
-        elsif ( $format eq "BED_SS" )
-        {
-            $type = "type bed 6 +";
-        
-            Maasha::UCSC::bed_upload_to_ucsc( $BP_TMP, $file, $options, $append );
-        }
-        elsif ( $format eq "PSL" )
-        {
-            $type = "psl";
-
-            Maasha::UCSC::psl_upload_to_ucsc( $file, $options, $append ); 
-        }
-        elsif ( $format eq "WIGGLE" )
-        {
-            $options->{ "visibility" } = "full";
-
-            $wig_file = "$options->{ 'table' }.wig";
-            $wib_file = "$options->{ 'table' }.wib";
-
-            $wib_dir  = "$ENV{ 'HOME' }/ucsc/wib";
-
-            Maasha::Common::dir_create_if_not_exists( $wib_dir );
-
-            if ( $options->{ 'verbose' } ) {
-                `cd $BP_TMP && wigEncode $file $wig_file $wib_file`;
-            } else {
-                `cd $BP_TMP && wigEncode $file $wig_file $wib_file > /dev/null 2>&1`;
-            }
-
-            Maasha::Common::run( "mv", "$BP_TMP/$wib_file $wib_dir" );
-
-            unlink $file;
-
-            $file = $wig_file;
-
-            $type = "wig 0";
-
-            Maasha::UCSC::wiggle_upload_to_ucsc( $BP_TMP, $wib_dir, $file, $options );
-        }
-
-        unlink $file;
-
-        Maasha::UCSC::ucsc_update_config( $options, $type );
-    }
-}
-
-
 # >>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>><<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<
 
 1;