handle new genecards site
[function2gene.git] / bin / get_genecard_results
1 #! /usr/bin/perl
2
3 # get_genecard_results retreives files of search results from ncbi,
4 # and is released under the terms of the GPL version 2, or any later
5 # version, at your option. See the file README and COPYING for more
6 # information.
7
8 # Copyright 2004 by Don Armstrong <don@donarmstrong.com>.
9
10 # $Id: ss,v 1.1 2004/06/29 05:26:35 don Exp $
11
12
13 use warnings;
14 use strict;
15
16
17 use Getopt::Long;
18 use Pod::Usage;
19
20 =head1 NAME
21
22   get_genecard_results [options]
23
24 =head1 SYNOPSIS
25
26
27  Options:
28   --dir, -D directory to stick results into [default .]
29   --name, -n file naming scheme [default ${search}_results.$format]
30   --terms, -t file of search terms [default -]
31   --debug, -d debugging level [default 0]
32   --help, -h display this help
33   --man, -m display manual
34
35 =head1 OPTIONS
36
37 =over
38
39 =item B<--debug, -d>
40
41 Debug verbosity. (Default 0)
42
43 =item B<--help, -h>
44
45 Display brief useage information.
46
47 =item B<--man, -m>
48
49 Display this manual.
50
51 =back
52
53 =head1 EXAMPLES
54
55   get_harvester_results -D ./harvester_results/ -n '${search}_name.html' < search_parameters
56
57 Will pretty much do what you want
58
59 =cut
60
61
62
63 use vars qw($DEBUG $REVISION);
64
65 BEGIN{
66      ($REVISION) = q$LastChangedRevision: 1$ =~ /LastChangedRevision:\s+([^\s]+)/;
67      $DEBUG = 0 unless defined $DEBUG;
68 }
69
70 use IO::File;
71 use URI;
72 use WWW::Mechanize;
73
74 # XXX parse config file
75
76 my %options = (debug    => 0,
77                help     => 0,
78                man      => 0,
79                format   => 'xml',
80                database => 'gene',
81                dir      => '.',
82                name     => '${search}_results_genecard',
83                terms    => '-',
84                genecard_site => 'http://www.genecards.org/cgi-bin/',
85                genecard_search_url  => 'cardsearch.pl?search_type=kwd&mini=no&speed=fast&matches=999999',
86               );
87
88 GetOptions(\%options,'format|f=s','database|b=s','name|n=s',
89            'terms|t=s','dir|D=s','debug|d+','help|h|?','man|m');
90
91 pod2usage() if $options{help};
92 pod2usage({verbose=>2}) if $options{man};
93
94 $DEBUG = $options{debug};
95
96 if (not -d $options{dir}) {
97      die "$options{dir} does not exist or is not a directory";
98 }
99
100 #open search terms file
101 my $terms;
102 if ($options{terms} eq '-') {
103      $terms = \*STDIN;
104 }
105 else {
106      $terms = new IO::File $options{terms}, 'r' or die "Unable to open file $options{terms}: $!";
107 }
108
109 #For every term
110 while (<$terms>) {
111      # Get uids to retrieve
112      chomp;
113      my $search = $_;
114      my $uri = URI->new($options{genecard_site}.$options{genecard_search_url});
115      $uri->query_form($uri->query_form(),
116                       search => $search,
117                      );
118      my $url = $uri->as_string;
119      my $mech = WWW::Mechanize->new(agent=>"DA_get_harvester_results/$REVISION");
120      $mech->get($url);
121      my $response = $mech->content();
122      my @result_urls = $response =~ m#<a\s+target\=\'card\'\s+href=\"(carddisp\.pl\?[^\"]+)\"\s*>#sg;
123      my $dir_name = eval qq("$options{name}") or die $@;
124      if (not -d "$options{dir}/$dir_name") {
125           mkdir("$options{dir}/$dir_name") or die "Unable to make directory $options{dir}/$dir_name $!";
126      }
127      # Get XML file
128      my @current_urls;
129      while (@current_urls = map{$options{genecard_site}.$_} splice(@result_urls,0,30)) {
130           system(q(wget),'-nd','-nH','-w','2','--random-wait','-P',qq($options{dir}/$dir_name),@current_urls) == 0 or warn "$!";
131      }
132 }
133
134
135
136
137
138
139 __END__