source: devel/pb/bin/pb.pl @ 29

Last change on this file since 29 was 29, checked in by Bruno Cornec, 13 years ago

Use pbsystem everywhere

  • Property svn:executable set to *
File size: 13.8 KB
Line 
1#!/usr/bin/perl -w
2#
3# Project Builder main application
4#
5# $Id$
6#
7# Copyright B. Cornec 2007
8# Provided under the GPL v2
9
10# Syntax: see at end
11
12use strict 'vars';
13use Getopt::Std;
14use Data::Dumper;
15use English;
16use AppConfig qw(:argcount :expand);
17use File::Basename;
18use File::Copy;
19use Time::localtime qw(localtime);
20use POSIX qw(strftime);
21
22use vars qw (%defpkgdir %extpkgdir %version %confparam %filteredfiles $debug $LOG);
23%extpkgdir = ();
24%filteredfiles = ();
25$debug = 0;                 # Debug level
26$LOG = *STDOUT;             # Where to log
27use lib qw (lib);
28use common qw (env_init);
29use pb qw (pb_init);
30use distro qw (distro_init);
31use cms;
32use changelog qw (changelog);
33
34my %opts;                   # CLI Options
35my $action;                 # action to realize
36my $test = "FALSE";
37my $option = "";
38my @pkgs;
39my $pbtag;                  # Global TAG variable
40my $pbver;                  # Global VERSION variable
41my $pbrev;                  # GLOBAL REVISION variable
42my @date=(localtime->sec(), localtime->min(), localtime->hour(), localtime->mday(), localtime->mon(), localtime->year(), localtime->wday(), localtime->yday(), localtime->isdst());
43my $pbdate = strftime("%Y-%m-%d", @date);
44
45getopts('hl:p:qtv',\%opts);
46
47if (defined $opts{'h'}) {
48    syntax();
49    exit(0);
50}
51if (defined $opts{'v'}) {
52    $debug++;
53}
54if (defined $opts{'q'}) {
55    $debug=-1;
56}
57if (defined $opts{'l'}) {
58    open(LOG,"> $opts{'l'}") || die "Unable to log to $opts{'l'}: $!";
59    $LOG = *LOG;
60    $debug = 0  if ($debug == -1);
61    }
62# Handles project name if any
63if (defined $opts{'p'}) {
64    $ENV{'PBPROJ'} = env_init($opts{'p'});
65} else {
66    $ENV{'PBPROJ'} = env_init();
67}
68# Handles test option
69if (defined $opts{'t'}) {
70    $test = "TRUE";
71    # Works only for SVN
72    $option = "-r BASE";
73}
74
75# Get Action
76$action = shift @ARGV;
77die syntax() if (not defined $action);
78
79print $LOG "Project $ENV{'PBPROJ'}\n" if ($debug >= 0);
80print $LOG "Action: $action\n" if ($debug >= 0);
81
82# Act depending on action
83if ($action =~ /^cms2build$/) {
84    my $ptr = get_pkg();
85    @pkgs = @$ptr;
86    cms_init();
87
88    foreach my $pbpkg (@pkgs) {
89        if (-f "$ENV{'PBROOT'}/$pbpkg/VERSION") {
90            open(V,"$ENV{'PBROOT'}/$pbpkg/VERSION") || die "Unable to open $ENV{'PBROOT'}/$pbpkg/VERSION";
91            $pbver = <V>;
92            chomp($pbver);
93            close(V);
94        } else {
95            $pbver = $ENV{'PBVER'};
96        }
97
98        if (-f "$ENV{'PBROOT'}/$pbpkg/TAG") {
99            open(T,"$ENV{'PBROOT'}/$pbpkg/TAG") || die "Unable to open $ENV{'PBROOT'}/$pbpkg/TAG";
100            $pbtag = <T>;
101            chomp($pbtag);
102            close(T);
103        } else {
104            $pbtag = $ENV{'PBTAG'};
105        }
106        $pbrev = $ENV{'PBREVISION'};
107        print $LOG "\n" if ($debug >= 0);
108        print $LOG "Management of $pbpkg $pbver-$pbtag (rev $pbrev)\n" if ($debug >= 0);
109        die "Unable to get env var PBDESTDIR" if (not defined $ENV{'PBDESTDIR'});
110        # Clean up dest if necessary. The export will recreate it
111        my $dest = "$ENV{'PBDESTDIR'}/$pbpkg-$pbver";
112        pbrm_rf($dest) if (-d $dest);
113
114        # Export CMS tree for the concerned package to dest
115        # And generate some additional files
116        $OUTPUT_AUTOFLUSH=1;
117
118        # computes in which dir we have to work
119        my $dir = $defpkgdir{$pbpkg};
120        $dir = $extpkgdir{$pbpkg} if (not defined $dir);
121        pbsystem("$ENV{'PBCMSEXP'} $option $ENV{'PBROOT'}/$dir $dest 1>/dev/null", "Exporting $ENV{'PBROOT'}/$dir... ");
122
123        # Creates a REVISION file
124        open(R,"> $dest/REVISION") || die "Unable to create $dest/REVISION";
125        print R "$pbrev\n";
126        close(R);
127
128        # Extract cms log history and store it
129        pbsystem("$ENV{'PBCMSLOG'} $option $ENV{'PBROOT'}/$dir > $dest/$ENV{'PBCMSLOGFILE'}", "Extracting log info... ");
130
131        my %build;
132        open(D,"$ENV{'PBCONF'}/DISTROS") || die "Unable to find $ENV{'PBCONF'}/DISTROS\n";
133        while (<D>) {
134            my $d = $_;
135            my ($dir,$ver) = split(/_/,$d);
136            chomp($ver);
137            my ($ddir, $dver, $dfam, $dtype, $dsuf) = distro_init($dir,$ver);
138            print $LOG "DEBUG: distro tuple: ".Dumper($ddir, $dver, $dfam, $dtype, $dsuf)."\n" if ($debug >= 1);
139            print $LOG "DEBUG Filtering PBDATE => $pbdate, PBTAG => $pbtag, PBVER => $pbver\n" if ($debug >= 1);
140
141            # Filter build files from the less precise up to the most with overloading
142            # Filter all files found, keeping the name, and generating in dest
143
144            # Find all build files first relatively to PBROOT
145            my %bfiles;
146            print $LOG "DEBUG dir: $ENV{'PBCONF'}/$pbpkg\n" if ($debug >= 1);
147            $build{"$ddir-$dver"} = "yes";
148            if (-d "$ENV{'PBCONF'}/$pbpkg/$dtype") {
149                opendir(BDIR,"$ENV{'PBCONF'}/$pbpkg/$dtype") || die "Unable to open dir $ENV{'PBCONF'}/$pbpkg/$dtype: $!";
150                foreach my $f (readdir(BDIR)) {
151                    next if ($f =~ /^\./);
152                    $bfiles{$f} = "$ENV{'PBCONF'}/$pbpkg/$dtype/$f";
153                    $bfiles{$f} =~ s~$ENV{'PBROOT'}~~;
154                }
155                closedir(BDIR);
156            } elsif (-d "$ENV{'PBCONF'}/$pbpkg/$dfam") {
157                opendir(BDIR,"$ENV{'PBCONF'}/$pbpkg/$dfam") || die "Unable to open dir $ENV{'PBCONF'}/$pbpkg/$dfam: $!";
158                foreach my $f (readdir(BDIR)) {
159                    next if ($f =~ /^\./);
160                    $bfiles{$f} = "$ENV{'PBCONF'}/$pbpkg/$dfam/$f";
161                    $bfiles{$f} =~ s~$ENV{'PBROOT'}~~;
162                }
163                closedir(BDIR);
164            } elsif (-d "$ENV{'PBCONF'}/$pbpkg/$ddir") {
165                opendir(BDIR,"$ENV{'PBCONF'}/$pbpkg/$ddir") || die "Unable to open dir $ENV{'PBCONF'}/$pbpkg/$ddir: $!";
166                foreach my $f (readdir(BDIR)) {
167                    next if ($f =~ /^\./);
168                    $bfiles{$f} = "$ENV{'PBCONF'}/$pbpkg/$ddir/$f";
169                    $bfiles{$f} =~ s~$ENV{'PBROOT'}~~;
170                }
171                closedir(BDIR);
172            } elsif (-d "$ENV{'PBCONF'}/$pbpkg/$ddir-$dver") {
173                opendir(BDIR,"$ENV{'PBCONF'}/$pbpkg/$ddir-$dver") || die "Unable to open dir $ENV{'PBCONF'}/$pbpkg/$ddir-$dver: $!";
174                foreach my $f (readdir(BDIR)) {
175                    next if ($f =~ /^\./);
176                    $bfiles{$f} = "$ENV{'PBCONF'}/$pbpkg/$ddir-$dver/$f";
177                    $bfiles{$f} =~ s~$ENV{'PBROOT'}~~;
178                }
179                closedir(BDIR);
180            } else {
181                $build{"$ddir-$dver"} = "no";
182                next;
183            }
184            print $LOG "DEBUG bfiles: ".Dumper(\%bfiles)."\n" if ($debug >= 1);
185
186            # Get all filters to apply
187            # They're cumulative from less specific to most specific
188            # suffix is .pbf
189            my @ffiles;
190            my ($ffile0, $ffile1, $ffile2, $ffile3);
191            if (-d "$ENV{'PBCONF'}/$pbpkg/pbfilter") {
192                $ffile0 = "$ENV{'PBCONF'}/$pbpkg/pbfilter/$dtype.pbf" if (-f "$ENV{'PBCONF'}/$pbpkg/pbfilter/$dtype.pbf");
193                $ffile1 = "$ENV{'PBCONF'}/$pbpkg/pbfilter/$dfam.pbf" if (-f "$ENV{'PBCONF'}/$pbpkg/pbfilter/$dfam.pbf");
194                $ffile2 = "$ENV{'PBCONF'}/$pbpkg/pbfilter/$ddir.pbf" if (-f "$ENV{'PBCONF'}/$pbpkg/pbfilter/$ddir.pbf");
195                $ffile3 = "$ENV{'PBCONF'}/$pbpkg/pbfilter/$ddir-$dver.pbf" if (-f "$ENV{'PBCONF'}/$pbpkg/pbfilter/$ddir-$dver.pbf");
196                push @ffiles,$ffile0 if (defined $ffile0);
197                push @ffiles,$ffile1 if (defined $ffile1);
198                push @ffiles,$ffile2 if (defined $ffile2);
199                push @ffiles,$ffile3 if (defined $ffile3);
200            }
201            my $config = AppConfig->new({
202                            # Auto Create variables mentioned in Conf file
203                            CREATE => 1,
204                            DEBUG => 0,
205                            GLOBAL => {
206                                # Each conf item is a hash
207                                ARGCOUNT => AppConfig::ARGCOUNT_HASH
208                            }
209                        });
210            my $ptr;
211            if (@ffiles) {
212                print $LOG "DEBUG ffiles: ".Dumper(\@ffiles)."\n" if ($debug >= 1);
213                $config->file(@ffiles);
214                $ptr = $config->get("filter");
215                print $LOG "DEBUG f:".Dumper($ptr)."\n" if ($debug >= 1);
216            } else {
217                $ptr = { };
218            }
219
220            # Apply now all the filters on all the files concerned
221            # All files are relative to PBROOT
222            # destination dir depends on the type of file
223            if (defined $ptr) {
224                foreach my $f (values %bfiles) {
225                    filter_file($f,$ptr,"$dest/pbconf/$ddir-$dver/".basename($f),$pbpkg,$dtype,$dsuf);
226                }
227                foreach my $f (keys %filteredfiles) {
228                    filter_file($f,$ptr,"$dest/$f",$pbpkg,$dtype,$dsuf);
229                }
230            }
231        }
232        if ($debug >= 0) {
233            my @found;
234            my @notfound;
235            foreach my $b (keys %build) {
236                push @found,$b if ($build{$b} =~ /yes/);
237                push @notfound,$b if ($build{$b} =~ /no/);
238            }
239            print $LOG "Build files generated for ".join(',',@found)."\n";
240            print $LOG "No Build files found for ".join(',',@notfound)."\n";
241        }
242        close(D);
243        # Prepare the dest directory for archive
244        if (-x "$ENV{'PBCONF'}/$pbpkg/pbpkginit") {
245            pbsystem("cd $dest ; $ENV{'PBCONF'}/$pbpkg/pbinit","Executing init script $ENV{'PBCONF'}/$pbpkg/pbinit");
246        }
247
248        # Archive dest dir
249        chdir "$ENV{'PBDESTDIR'}";
250        # Possibility to look at PBSRC to guess more the filename
251        pbsystem("tar cfphz $pbpkg-$pbver.tar.gz $pbpkg-$pbver","Creating $pbpkg tar files (gzip... ");
252        if ($? == -1) {
253            print $LOG "failed to execute: $!\n" if ($debug >= 0);
254        } elsif ($? & 127) {
255            printf $LOG "child died with signal %d, %s coredump\n", ($? & 127),  ($? & 128) ? 'with' : 'without' if ($debug >= 0);
256        } else {
257            print $LOG " OK)\n" if ($debug >= 0);
258            print $LOG "Under $ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz\n" if ($debug >= 0);
259            # Keep track of what is generated for build2pkg default
260            open(LAST,"> $ENV{'PBDESTDIR'}/LAST") || die "Unable to create $ENV{'PBDESTDIR'}/LAST";
261            print LAST "$pbver-$pbtag\n";
262            close(LAST);
263        }
264    }
265} elsif ($action =~ /^build2pkg$/) {
266    # Check whether we have a specific version to build
267    my $vertag = shift @ARGV;
268    if (not defined $vertag) {
269        open(LAST,"$ENV{'PBDESTDIR'}/LAST") || die "Unable to open $ENV{'PBDESTDIR'}/LAST\nYou may want to precise as parameter version-tag";
270        $vertag = <LAST>;
271        chomp($vertag);
272        close(LAST);
273    }
274    ($pbver,$pbtag) = split(/-/,$vertag);
275
276    # Get list of packages to build
277    my $ptr = get_pkg();
278    @pkgs = @$ptr;
279
280    # Get the running distro to build on
281    my ($ddir, $dver, $dfam, $dtype, $dsuf) = distro_init();
282    print $LOG "DEBUG: distro tuple: ".join(',',($ddir, $dver, $dfam, $dtype, $dsuf))."\n" if ($debug >= 1);
283
284    chdir "$ENV{'PBBUILDDIR'}";
285    foreach my $pbpkg (@pkgs) {
286        my $src="$ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz";
287        print $LOG "Handling source file $src\n" if ($debug >= 0);
288
289        if ($dtype eq "rpm") {
290            # rpm has its own standard build directory
291            my $tmp=`rpmquery --eval '%{_topdir}' 2> /dev/null`;
292            chomp($tmp);
293            $ENV{'PBBUILDDIR'}=$tmp;
294            print $LOG "Working under $ENV{'PBBUILDDIR'}\n" if ($debug >= 0);
295            foreach my $d ('RPMS','SRPMS','SPECS','SOURCES','BUILD') {
296                if (! -d "$ENV{'PBBUILDDIR'}/$d") {
297                pbmkdir_p("$ENV{'PBBUILDDIR'}/$d") || die "Please ensure that you can write into $ENV{'PBBUILDDIR'} to create $d\nSolution: setup _topdir in your ~/.rpmmacros or\nchown the $ENV{'PBBUILDDIR'} directory to your uid";
298                }
299            }
300
301            # We need to first extract the spec file
302            symlink "$src","$ENV{'PBBUILDDIR'}/SOURCES/".basename($src) || die "Unable to symlink $src in $ENV{'PBBUILDDIR'}/SOURCES";
303            my @specfile;
304            @specfile = extract_build_files($src,"$pbpkg-$pbver/pbconf/$ddir-$dver/","$ENV{'PBBUILDDIR'}/SPECS");
305
306            print $LOG "specfile: ".Dumper(\@specfile)."\n" if ($debug >= 1);
307            # set LANGUAGE to check for correct log messages
308            $ENV{'LANGUAGE'}="C";
309            #system("ls -R $ENV{'PBBUILDDIR'}") if ($debug >= 1);
310            foreach my $f (@specfile) {
311                if ($f =~ /\.spec$/) {
312                    pbsystem("rpmbuild -ba $f","Building package with $f... ");
313                    last;
314                }
315            }
316        } elsif ($dtype eq "tgz") {
317            pbmkdir_p("$ENV{'PBBUILDDIR'}/install") if (! -d "$ENV{'PBBUILDDIR'}/install");
318        } elsif ($dtype eq "ebuild") {
319            pbmkdir_p("$ENV{'PBBUILDDIR'}/portage") if (! -d "$ENV{'PBBUILDDIR'}/portage");
320        } else {
321        }
322    }
323} else {
324    print $LOG "'$action' is not available\n";
325    syntax();
326}
327
328# Function which applies filter on files
329sub filter_file {
330
331my $f=shift;
332my $ptr=shift;
333my %filter=%$ptr;
334my $destfile=shift;
335my $pbpkg=shift;
336my $dtype=shift;
337my $dsuf=shift;
338
339print $LOG "DEBUG: From $f to $destfile\n" if ($debug >= 1);
340pbmkdir_p(dirname($destfile)) if (! -d dirname($destfile));
341open(DEST,"> $destfile") || die "Unable to create $destfile";
342open(FILE,"$ENV{'PBROOT'}/$f") || die "Unable to open $f: $!";
343while (<FILE>) {
344    my $line = $_;
345    foreach my $s (keys %filter) {
346        # Process single variables
347        print $LOG "DEBUG filter{$s}: $filter{$s}\n" if ($debug > 1);
348        my $tmp = $filter{$s};
349        next if (not defined $tmp);
350        # Expand variables if any single one found
351        if ($tmp =~ /\$/) {
352            eval { $tmp =~ s/(\$\w+)/$1/eeg };
353        # special case for ChangeLog
354        } elsif (($tmp =~ /^yes$/) && ($s =~ /^PBLOG$/) && ($line =~ /^PBLOG$/)) {
355            my $p = $defpkgdir{$pbpkg};
356            $p = $extpkgdir{$pbpkg} if (not defined $p);
357            changelog($dtype, $pbpkg, $pbtag, $dsuf, $p, \*DEST);
358            $tmp = "";
359        }
360        $line =~ s|$s|$tmp|;
361    }
362    print DEST $line;
363}
364close(FILE);
365close(DEST);
366}
367
368sub get_pkg {
369
370my @pkgs;
371
372# Get packages list
373if (not defined $ARGV[0]) {
374    @pkgs = keys %defpkgdir;
375} elsif ($ARGV[0] =~ /^all$/) {
376    @pkgs = keys %defpkgdir;
377    if (defined %extpkgdir) {
378        my $k = keys %extpkgdir;
379        if (defined $k) {
380            push(@pkgs, keys %extpkgdir);
381        }
382    }
383} else {
384    @pkgs = @ARGV;
385}
386print $LOG "Packages: ".join(',',@pkgs)."\n" if ($debug >= 0);
387return(\@pkgs);
388}
389
390sub extract_build_files {
391
392my $src=shift;
393my $dir=shift;
394my $ddir=shift;
395my @files;
396
397pbsystem("tar xfz $src $dir >/dev/null","Extracting build files... ");
398opendir(DIR,"$dir") || die "Unable to open directory $dir";
399foreach my $f (readdir(DIR)) {
400    next if ($f =~ /^\./);
401    move("$dir/$f","$ddir") || die "Unable to move $dir/$f to $ddir";
402    print $LOG "mv $dir/$f $ddir\n" if ($debug >= 1);
403    push @files,"$ddir/$f";
404}
405closedir(DIR);
406# Not enough but still a first cleanup
407pbrm_rf("$dir");
408return(@files);
409}
410
411sub syntax {
412
413    print "Syntax: pb [-vhqt][-p project] <action> [<params>...]\n";
414    print "\n";
415    print "-h : This help file\n";
416    print "-q : Quiet mode\n";
417    print "-t : Test mode (not done yet)\n";
418    print "-v : Verbose mode\n";
419    print "\n";
420    print "-p project : Name of the project you're working on\n";
421    print "             (or use the env variable PBPROJ)     \n";
422    print "\n";
423    print "<action> can be:\n";
424    print "\n";
425    print "\tcms2build: Create a tar file of the project under your CMS\n";
426    print "\t           CMS supported are SVN and CVS\n";
427    print "\t           parameters are packages to build\n";
428    print "\t           if not using default list\n";
429    print "\n";
430    print "\tbuild2pkg: Create packages for your running distribution  \n";
431    print "\t           first parameter is version-tag to build\n";
432    print "\t           if not using default version-tag\n";
433    print "\t           following parameters are packages to build\n";
434    print "\t           if not using default list\n";
435    print "\n";
436    print "\n";
437}
Note: See TracBrowser for help on using the repository browser.