]> git.donarmstrong.com Git - infobot.git/blobdiff - src/Modules/Debian.pl
- new time delta function
[infobot.git] / src / Modules / Debian.pl
index 9dfe2b8009dc084da78e472a4ef8737c62dcfaf0..7652c8cf20be9c2933df57ab39bd40338b6a6996 100644 (file)
@@ -1,7 +1,7 @@
 #
 #   Debian.pl: Frontend to debian contents and packages files
 #      Author: dms
-#     Version: v0.7b (20000527)
+#     Version: v0.8 (20000918)
 #     Created: 20000106
 #
 
@@ -10,20 +10,29 @@ package Debian;
 use strict;
 
 # format: "alias=real".
+my $announce   = 0;
 my $defaultdist        = "woody";
 my %dists      = (
-       "unstable"      => "woody",
+       "unstable"      => "sid",
+       "testing"       => "woody,      # new since 20001219.
        "stable"        => "potato",
        "incoming"      => "incoming",
+### the following don't work. too much effort to get 3 types of distros
+### to work harmoniously :-)
+       "slink"         => "archive-2.1",
+       "hamm"          => "archive-2.0",
+       "rex"           => "archive-1.?",
+       "bo"            => "archive-1.?",
 );
 
 my %urlcontents = (
        "debian/Contents-##DIST-i386.gz" =>
                "ftp://ftp.us.debian.org".
-               "/debian/dists/##DIST/Contents-i386.gz", #woody = BROKEN
-
+               "/debian/dists/##DIST/Contents-i386.gz",
+### APPEARS TO BE FIXED?
+# => strip control chars just to be safe.
        "debian/Contents-##DIST-i386-non-US.gz" =>
-               "ftp://non-us.debian.org".
+               "ftp://ftp.ca.debian.org".
                "/debian-non-US/dists/##DIST/non-US/Contents-i386.gz",
 );
 
@@ -39,13 +48,13 @@ my %urlpackages = (
                "/debian/dists/##DIST/non-free/binary-i386/Packages.gz",
 
        "debian/Packages-##DIST-non-US-main-i386.gz" =>
-               "ftp://non-us.debian.org".
+               "ftp://ftp.ca.debian.org".
                "/debian-non-US/dists/##DIST/non-US/main/binary-i386/Packages.gz",
        "debian/Packages-##DIST-non-US-contrib-i386.gz" =>
-               "ftp://non-us.debian.org".
+               "ftp://ftp.ca.debian.org".
                "/debian-non-US/dists/##DIST/non-US/contrib/binary-i386/Packages.gz",
        "debian/Packages-##DIST-non-US-non-free-i386.gz" =>
-               "ftp://non-us.debian.org".
+               "ftp://ftp.ca.debian.org".
                "/debian-non-US/dists/##DIST/non-US/non-free/binary-i386/Packages.gz",
 );
 
@@ -69,6 +78,7 @@ sub DebianDownload {
     # fe dists.
     # Download the files.
     my $file;
+##    my %ret;
     foreach $file (keys %urls) {
        my $url = $urls{$file};
        $url  =~ s/##DIST/$dist/g;
@@ -84,9 +94,11 @@ sub DebianDownload {
 
        next unless ($update);
 
-       if ($good + $bad == 0) {
+       &main::DEBUG("announce == $announce.");
+       if ($good + $bad == 0 and !$announce) {
            &main::status("Debian: Downloading files for '$dist'.");
            &main::msg($main::who, "Updating debian files... please wait.");
+           $announce++;
        }
 
        if (exists $main::debian{$url}) {
@@ -102,13 +114,13 @@ sub DebianDownload {
            # hope it doesn't do anything bad.
            if ($file =~ /Contents-woody-i386-non-US/) {
                &main::DEBUG("Skipping Contents-woody-i386-non-US.");
-               $file =~ s/woody/potato/;
-               $path =~ s/woody/potato/;
+#              $file =~ s/woody/potato/;
+#              $path =~ s/woody/potato/;
 ###            next;
            }
 
            if (!&main::ftpGet($host,$path,$thisfile,$file)) {
-               &main::DEBUG("deb: down: ftpGet($host,$path,$thisfile,$file) == BAD.");
+               &main::WARN("deb: down: $file == BAD.");
                $bad++;
                next;
            }
@@ -125,6 +137,7 @@ sub DebianDownload {
            }
 
            &main::DEBUG("deb: download: good.");
+##         $ret{$
            $good++;
        } else {
            &main::ERROR("Debian: invalid format of url => ($url).");
@@ -158,9 +171,8 @@ sub searchContents {
     ### larne's regex.
     # $query = $query.'(\.so\.)?([.[[:digit:]]+\.]+)?$';
 
-    $query =~ s/\\([\^\$])/$1/g;
+    $query =~ s/\\([\^\$])/$1/g;       # hrm?
     $query =~ s/^\s+|\s+$//g;
-    $query =~ s/\*/\\S*/g;             # does it even work?
 
     if (!&main::validExec($query)) {
        &main::msg($main::who, "search string looks fuzzy.");
@@ -180,11 +192,27 @@ sub searchContents {
     }
 
     # start of search.
-    my $start_time = &main::gettimeofday();
+    my $start_time = &main::timeget();
 
     my $found = 0;
     my %contents;
-    my $search = "$query.*\[ \t]";
+    my $grepRE;
+    my $front = 0;
+    ### TODO: search properly if /usr/bin/blah is done.
+    if ($query =~ s/\$$//) {
+       &main::DEBUG("search-regex found.");
+       $grepRE = "$query\[ \t]";
+    } elsif ($query =~ s/^\^//) {
+       &main::DEBUG("front marker regex found.");
+       $front = 1;
+       $grepRE = $query;
+    } else {
+       $grepRE = "$query*\[ \t]";
+    }
+
+    ### fix up grepRE for "*".
+    $grepRE =~ s/\*/.*/g;
+
     my @files;
     foreach (keys %urlcontents) {
        s/##DIST/$dist/g;
@@ -201,7 +229,7 @@ sub searchContents {
 
     my $files = join(' ', @files);
 
-    open(IN,"zegrep -h '$search' $files |");
+    open(IN,"zegrep -h '$grepRE' $files |");
     while (<IN>) {
        if (/^\.?\/?(.*?)[\t\s]+(\S+)\n$/) {
            my ($file,$package) = ("/".$1,$2);
@@ -212,10 +240,13 @@ sub searchContents {
                next unless ($basename =~ /\Q$query\E/);
            }
            next if ($query !~ /\.\d\.gz/ and $file =~ /\/man\//);
+           next if ($front and $file !~ /^\/\Q$query\E/);
 
            $contents{$package}{$file} = 1;
            $found++;
        }
+
+       last if ($found > 100);
     }
     close IN;
 
@@ -233,11 +264,7 @@ sub searchContents {
            return;
        }
 
-       if (! -d "Temp/") {
-           mkdir("Temp",0755);
-       }
-
-       my $file = "temp/$main::who.txt";
+       my $file = "$main::param{tempDir}/$main::who.txt";
        if (!open(OUT,">$file")) {
            &main::ERROR("Debian: cannot write file for dcc send.");
            return;
@@ -272,11 +299,16 @@ sub searchContents {
     @list = sort { length $a <=> length $b } @list;
 
     # show how long it took.
-    my $delta_time = &main::gettimeofday() - $start_time;
+    my $delta_time = &main::timedelta($start_time);
     &main::status(sprintf("Debian: %.02f sec to complete query.", $delta_time)) if ($delta_time > 0);
 
     my $prefix = "Debian Search of '$query' ";
-    &main::performStrictReply( &main::formListReply(0, $prefix, @list) );
+    if (scalar @list) {        # @list.
+       &main::performStrictReply( &main::formListReply(0, $prefix, @list) );
+    } else {           # !@list.
+       &main::DEBUG("ok, !\@list, searching desc for '$query'.");
+       &searchDesc($query);
+    }
 }
 
 ####
@@ -287,7 +319,7 @@ sub searchAuthor {
     $query =~ s/^\s+|\s+$//g;
 
     # start of search.
-    my $start_time = &main::gettimeofday();
+    my $start_time = &main::timeget();
     &main::status("Debian: starting author search.");
 
     my $files;
@@ -323,8 +355,14 @@ sub searchAuthor {
        if (/^Package: (\S+)$/) {
            $package = $1;
        } elsif (/^Maintainer: (.*) \<(\S+)\>$/) {
-           $maint{$1}{$2} = 1;
-           $pkg{$1}{$package} = 1;
+           my($name,$email) = ($1,$2);
+           if ($package eq "") {
+               &main::DEBUG("sA: package == NULL.");
+               next;
+           }
+           $maint{$name}{$email} = 1;
+           $pkg{$name}{$package} = 1;
+           $package = "";
        } else {
            &main::WARN("invalid line: '$_'.");
        }
@@ -362,7 +400,7 @@ sub searchAuthor {
     my @pkg = sort keys %{$pkg{$list[0]}};
 
     # show how long it took.
-    my $delta_time = &main::gettimeofday() - $start_time;
+    my $delta_time = &main::timedelta($start_time);
     &main::status(sprintf("Debian: %.02f sec to complete query.", $delta_time)) if ($delta_time > 0);
 
     my $email  = join(', ', keys %{$maint{$list[0]}});
@@ -370,6 +408,81 @@ sub searchAuthor {
     &main::performStrictReply( &main::formListReply(0, $prefix, @pkg) );
 }
 
+####
+# Usage: &searchDesc($query);
+sub searchDesc {
+    my ($dist, $query) = &getDistroFromStr($_[0]);
+    &main::DEBUG("searchDesc: dist => '$dist', query => '$query'.");
+    $query =~ s/^\s+|\s+$//g;
+
+    # start of search.
+    my $start_time = &main::timeget();
+    &main::status("Debian: starting desc search.");
+
+    my $files;
+    my ($bad,$good) = (0,0);
+    my %urls = %urlpackages;
+
+    foreach (keys %urlpackages) {
+       s/##DIST/$dist/g;
+
+       if (! -f $_) {
+           $bad++;
+           next;
+       }
+
+       $good++;
+       $files .= " ".$_;
+    }
+
+    &main::DEBUG("good = $good, bad = $bad...");
+
+    if ($good == 0 and $bad != 0) {
+       my %urls = &fixDist($dist, %urlpackages);
+       &main::DEBUG("deb: download 2c.");
+       if (!&DebianDownload($dist, %urls)) {
+           &main::ERROR("Debian(sD): could not download files.");
+           return;
+       }
+    }
+
+    my (%desc, $package);
+    open(IN,"zegrep -h '^Package|^Description' $files |");
+    while (<IN>) {
+       if (/^Package: (\S+)$/) {
+           $package = $1;
+       } elsif (/^Description: (.*)$/) {
+           my $desc = $1;
+           next unless ($desc =~ /\Q$query\E/i);
+           if ($package eq "") {
+               &main::WARN("sD: package == NULL?");
+               next;
+           }
+           $desc{$package} = $desc;
+           $package = "";
+       } else {
+           &main::WARN("invalid line: '$_'.");
+       }
+    }
+    close IN;
+
+    my @list = keys %desc;
+    if (!scalar @list) {
+       my $prefix = "Debian Desc Search of '$query' ";
+       &main::performStrictReply( &main::formListReply(0, $prefix, ) );
+    } elsif (scalar @list == 1) {      # list = 1.
+       &main::DEBUG("list == 1; showing package info of '$list[0]'.");
+       &infoPackages("info", $list[0]);
+    } else {                           # list > 1.
+       my $prefix = "Debian Desc Search of '$query' ";
+       &main::performStrictReply( &main::formListReply(0, $prefix, @list) );
+    }
+
+    # show how long it took.
+    my $delta_time = &main::timedelta($start_time);
+    &main::status(sprintf("Debian: %.02f sec to complete query.", $delta_time)) if ($delta_time > 0);
+}
+
 ####
 # Usage: &generateIncoming();
 sub generateIncoming {
@@ -378,7 +491,7 @@ sub generateIncoming {
     my $idxfile  = $pkgfile.".idx";
     my $stale   = 0;
     $stale++ if (&main::isStale($pkgfile.".gz", $interval));
-    $stale++ if (&main::isStale($idxfile.".gz", $interval));
+    $stale++ if (&main::isStale($idxfile, $interval));
     &main::DEBUG("gI: stale => '$stale'.");
     return 0 unless ($stale);
 
@@ -464,7 +577,7 @@ sub getPackageInfo {
                $pkg{'section'}         = $1;
            } elsif (/^Size: (.*)$/) {
                $pkg{'size'}            = $1;
-           } elsif (/^i.*size: (.*)$/) {
+           } elsif (/^Installed-Size: (.*)$/i) {
                $pkg{'installed'}       = $1;
            } elsif (/^Description: (.*)$/) {
                $pkg{'desc'}            = $1;
@@ -668,7 +781,7 @@ sub infoStats {
            } elsif (/^Size: (.*)$/) {          # compressed size.
                $stats{$file}{'csize'}  += $1;
                $total{'csize'}         += $1;
-           } elsif (/^i.*size: (.*)$/) {       # installed size.
+           } elsif (/^i.*size: (.*)$/i) {      # installed size.
                $stats{$file}{'isize'}  += $1;
                $total{'isize'}         += $1;
            }
@@ -678,6 +791,8 @@ sub infoStats {
        close IN;
     }
 
+    ### TODO: don't count ppl with multiple email addresses.
+
     &main::performStrictReply(
        "Debian Distro Stats on $dist... ".
        "\002$total{'count'}\002 packages, ".
@@ -705,8 +820,8 @@ sub infoStats {
 # Usage: &generateIndex();
 sub generateIndex {
     my (@dists)        = @_;
-    &main::DEBUG("Debian: generateIndex() called.");
-    if (!scalar @dists) {
+    &main::status("Debian: !!! generateIndex() called !!!");
+    if (!scalar @dists or $dists[0] eq '') {
        &main::ERROR("gI: no dists to generate index.");
        return 1;
     }
@@ -726,10 +841,15 @@ sub generateIndex {
            next;
        }
 
+       if (/^woody$/i) {
+           &main::DEBUG("Copying old index of woody to -old");
+           system("cp $idx $idx-old");
+       }
+
        &main::DEBUG("gIndeX: calling DebianDownload($dist, ...).");
        &DebianDownload($dist, %urlpackages);
 
-       &main::status("Debian: generating index for '$_'.");
+       &main::status("Debian: generating index for '$dist'.");
        if (!open(OUT,">$idx")) {
            &main::ERROR("cannot write to $idx.");
            return 0;
@@ -748,9 +868,8 @@ sub generateIndex {
            open(IN,"zcat $packages |");
 
            while (<IN>) {
-               if (/^Package: (.*)\n$/) {
-                   print OUT $1."\n";
-               }
+               next unless (/^Package: (.*)\n$/);
+               print OUT $1."\n";
            }
            close IN;
        }
@@ -787,7 +906,7 @@ sub validPackage {
            next;
        }
 
-       if (/^$package\n$/) {
+       if (/^\Q$package\E\n$/) {
            push(@files,$file);
        }
        $count++;
@@ -803,16 +922,17 @@ sub searchPackage {
     my ($dist, $query) = &getDistroFromStr($_[0]);
     my $file = "debian/Packages-$dist.idx";
     my @files;
-    my $error = 0;
+    my $error  = 0;
+    my $warn   = 0;
 
-    &main::status("Debian: Search package matching '$query' in '$dist'.");
-    if ( -z $file) {
-       &main::DEBUG("sP: $file == NULL; removing, redoing.");
-       unlink $file;
+    if ($query =~ tr/A-Z/a-z/) {
+       $warn++;
     }
 
+    &main::status("Debian: Search package matching '$query' in '$dist'.");
+    unlink $file if ( -z $file);
+
     while (!open(IN, $file)) {
-       &main::ERROR("$file does not exist (#2).");
        if ($dist eq "incoming") {
            &main::DEBUG("sP: dist == incoming; calling gI().");
            &generateIncoming();
@@ -822,7 +942,9 @@ sub searchPackage {
            &main::ERROR("could not generate index!!!");
            return;
        }
+
        $error++;
+       &main::DEBUG("should we be doing this?");
        &generateIndex(($dist));
     }
 
@@ -830,7 +952,7 @@ sub searchPackage {
        chop;
 
        if (/^\*(.*)$/) {
-           &main::DEBUG("sP: hrm => '$1'.");
+           $file = $1;
 
            if (&main::isStale($file, $main::param{'debianRefreshInterval'})) {
                &main::DEBUG("STALE $file! regen.");
@@ -840,7 +962,6 @@ sub searchPackage {
                last;
            }
 
-           $file = $1;
            next;
        }
 
@@ -850,6 +971,10 @@ sub searchPackage {
     }
     close IN;
 
+    if (scalar @files and $warn) {
+       &main::msg($main::who, "searching for package name should be fully lowercase!");
+    }
+
     return @files;
 }
 
@@ -861,6 +986,12 @@ sub getDistro {
        $dist = $defaultdist;
     }
 
+    if ($dist =~ /^(slink|hamm|rex|bo)$/i) {
+       &main::DEBUG("Debian: deprecated version ($dist).");
+       &main::msg($main::who, "Debian: deprecated distribution version.");
+       return;
+    }
+
     if (exists $dists{$dist}) {
        return $dists{$dist};
     } else {