source: devel/pb/bin/pb @ 91

Last change on this file since 91 was 91, checked in by Bruno Cornec, 13 years ago

Remove DISTROS from pbconf and use .pbrc instead
Adds pbvi and pbg

  • Property svn:executable set to *
File size: 16.0 KB
Line 
1#!/usr/bin/perl -w
2#
3# Project Builder main application
4#
5# $Id$
6#
7# Copyright B. Cornec 2007
8# Provided under the GPL v2
9
10# Syntax: see at end
11
12use strict 'vars';
13use Getopt::Std;
14use Data::Dumper;
15use English;
16use AppConfig qw(:argcount :expand);
17use File::Basename;
18use File::Copy;
19use Time::localtime qw(localtime);
20use POSIX qw(strftime);
21
22# Global variables
23use vars qw (%defpkgdir %extpkgdir %filteredfiles %pbrc $debug $LOG);
24
25$debug = 0;                 # Debug level
26$LOG = *STDOUT;             # Where to log
27use lib qw (lib);
28use ProjectBuilder::Distribution qw (pb_distro_init);
29use ProjectBuilder::Changelog qw (pb_changelog);
30use ProjectBuilder::Version qw (pb_version_init);
31use ProjectBuilder::Base qw (pb_conf_read pb_conf_get pb_cms_init pb_mkdir_p pb_system pb_rm_rf pb_get_filters pb_filter_file pb_filter_file_pb);
32
33my %opts;                   # CLI Options
34my $action;                 # action to realize
35my $test = "FALSE";
36my $option = "";
37my @pkgs;
38my $pbtag;                  # Global TAG variable
39my $pbver;                  # Global VERSION variable
40my %pbver;                  # per package
41my %pbtag;                  # per package
42my $pbrev;                  # Global REVISION variable
43my @date=(localtime->sec(), localtime->min(), localtime->hour(), localtime->mday(), localtime->mon(), localtime->year(), localtime->wday(), localtime->yday(), localtime->isdst());
44my $pbdate = strftime("%Y-%m-%d", @date);
45
46getopts('hl:m:p:qr:tv',\%opts);
47
48my ($projectbuilderver,$projectbuilderrev) = pb_version_init();
49if (defined $opts{'h'}) {
50    pb_syntax();
51    exit(0);
52}
53if (defined $opts{'v'}) {
54    $debug++;
55}
56if (defined $opts{'q'}) {
57    $debug=-1;
58}
59if (defined $opts{'l'}) {
60    open(LOG,"> $opts{'l'}") || die "Unable to log to $opts{'l'}: $!";
61    $LOG = *LOG;
62    $debug = 0  if ($debug == -1);
63    }
64# Handles test option
65if (defined $opts{'t'}) {
66    $test = "TRUE";
67    # Works only for SVN
68    $option = "-r BASE";
69}
70
71# Get Action
72$action = shift @ARGV;
73die pb_syntax() if (not defined $action);
74
75# Handle root of the project if defined
76if (defined $opts{'r'}) {
77    $ENV{'PBROOT'} = $opts{'r'};
78}
79# Handle virtual machines if any
80if (defined $opts{'m'}) {
81    $ENV{'PBVM'} = $opts{'m'};
82}
83# Handles project name if any
84if (defined $opts{'p'}) {
85    $ENV{'PBPROJ'} = pb_env_init($opts{'p'});
86} else {
87    $ENV{'PBPROJ'} = pb_env_init();
88}
89
90print $LOG "Project $ENV{'PBPROJ'}\n" if ($debug >= 0);
91print $LOG "Action: $action\n" if ($debug >= 0);
92
93# Keep those project values to store them at the end each time
94my $pbprojtag = $ENV{'PBTAG'};
95my $pbprojver = $ENV{'PBVER'};
96
97# Act depending on action
98if ($action =~ /^cms2build$/) {
99    pb_cms2build();
100} elsif ($action =~ /^build2pkg$/) {
101    pb_build2pkg();
102} elsif ($action =~ /^cms2pkg$/) {
103    pb_cms2build();
104    pb_build2pkg();
105} elsif ($action =~ /^build2ssh$/) {
106    pb_build2ssh();
107} elsif ($action =~ /^pkg2ssh$/) {
108    pb_pkg2ssh();
109} elsif ($action =~ /^build2vm$/) {
110    pb_build2vm();
111} elsif ($action =~ /^cms2vm$/) {
112    pb_cms2build();
113    pb_build2vm();
114} else {
115    print $LOG "'$action' is not available\n";
116    pb_syntax();
117}
118
119sub pb_cms2build {
120
121    my $ptr = pb_get_pkg();
122    @pkgs = @$ptr;
123    pb_cms_init($ENV{'PBPROJ'});
124
125    foreach my $pbpkg (@pkgs) {
126        if (-f "$ENV{'PBROOT'}/$pbpkg/VERSION") {
127            open(V,"$ENV{'PBROOT'}/$pbpkg/VERSION") || die "Unable to open $ENV{'PBROOT'}/$pbpkg/VERSION";
128            $pbver = <V>;
129            chomp($pbver);
130            close(V);
131        } else {
132            $pbver = $ENV{'PBVER'};
133        }
134
135        if (-f "$ENV{'PBROOT'}/$pbpkg/TAG") {
136            open(T,"$ENV{'PBROOT'}/$pbpkg/TAG") || die "Unable to open $ENV{'PBROOT'}/$pbpkg/TAG";
137            $pbtag = <T>;
138            chomp($pbtag);
139            close(T);
140        } else {
141            $pbtag = $ENV{'PBTAG'};
142        }
143        $pbrev = $ENV{'PBREVISION'};
144        print $LOG "\n" if ($debug >= 0);
145        print $LOG "Management of $pbpkg $pbver-$pbtag (rev $pbrev)\n" if ($debug >= 0);
146        die "Unable to get env var PBDESTDIR" if (not defined $ENV{'PBDESTDIR'});
147        # Clean up dest if necessary. The export will recreate it
148        my $dest = "$ENV{'PBDESTDIR'}/$pbpkg-$pbver";
149        pb_rm_rf($dest) if (-d $dest);
150
151        # Export CMS tree for the concerned package to dest
152        # And generate some additional files
153        $OUTPUT_AUTOFLUSH=1;
154
155        # computes in which dir we have to work
156        my $dir = $defpkgdir{$pbpkg};
157        $dir = $extpkgdir{$pbpkg} if (not defined $dir);
158        pb_system("$ENV{'PBCMSEXP'} $option $ENV{'PBROOT'}/$dir $dest 1>/dev/null", "Exporting $ENV{'PBROOT'}/$dir");
159
160        # Creates a REVISION file
161        open(R,"> $dest/REVISION") || die "Unable to create $dest/REVISION";
162        print R "$pbrev\n";
163        close(R);
164
165        # Extract cms log history and store it
166        pb_system("$ENV{'PBCMSLOG'} $option $ENV{'PBROOT'}/$dir > $dest/$ENV{'PBCMSLOGFILE'}", "Extracting log info");
167
168        my %build;
169
170        my ($ptr) = pb_conf_get("vmlist");
171        foreach my $d (split(/,/,$ptr->{$ENV{'PBPROJ'}})) {
172            my ($name,$ver) = split(/_/,$d);
173            chomp($ver);
174            my ($ddir, $dver, $dfam, $dtype, $dsuf) = pb_distro_init($name,$ver);
175            print $LOG "DEBUG: distro tuple: ".Dumper($ddir, $dver, $dfam, $dtype, $dsuf)."\n" if ($debug >= 1);
176            print $LOG "DEBUG Filtering PBDATE => $pbdate, PBTAG => $pbtag, PBVER => $pbver\n" if ($debug >= 1);
177
178            # Filter build files from the less precise up to the most with overloading
179            # Filter all files found, keeping the name, and generating in dest
180
181            # Find all build files first relatively to PBROOT
182            my %bfiles;
183            print $LOG "DEBUG dir: $ENV{'PBCONF'}/$pbpkg\n" if ($debug >= 1);
184            $build{"$ddir-$dver"} = "yes";
185            if (-d "$ENV{'PBCONF'}/$pbpkg/$dtype") {
186                opendir(BDIR,"$ENV{'PBCONF'}/$pbpkg/$dtype") || die "Unable to open dir $ENV{'PBCONF'}/$pbpkg/$dtype: $!";
187                foreach my $f (readdir(BDIR)) {
188                    next if ($f =~ /^\./);
189                    $bfiles{$f} = "$ENV{'PBCONF'}/$pbpkg/$dtype/$f";
190                    $bfiles{$f} =~ s~$ENV{'PBROOT'}~~;
191                }
192                closedir(BDIR);
193            } elsif (-d "$ENV{'PBCONF'}/$pbpkg/$dfam") {
194                opendir(BDIR,"$ENV{'PBCONF'}/$pbpkg/$dfam") || die "Unable to open dir $ENV{'PBCONF'}/$pbpkg/$dfam: $!";
195                foreach my $f (readdir(BDIR)) {
196                    next if ($f =~ /^\./);
197                    $bfiles{$f} = "$ENV{'PBCONF'}/$pbpkg/$dfam/$f";
198                    $bfiles{$f} =~ s~$ENV{'PBROOT'}~~;
199                }
200                closedir(BDIR);
201            } elsif (-d "$ENV{'PBCONF'}/$pbpkg/$ddir") {
202                opendir(BDIR,"$ENV{'PBCONF'}/$pbpkg/$ddir") || die "Unable to open dir $ENV{'PBCONF'}/$pbpkg/$ddir: $!";
203                foreach my $f (readdir(BDIR)) {
204                    next if ($f =~ /^\./);
205                    $bfiles{$f} = "$ENV{'PBCONF'}/$pbpkg/$ddir/$f";
206                    $bfiles{$f} =~ s~$ENV{'PBROOT'}~~;
207                }
208                closedir(BDIR);
209            } elsif (-d "$ENV{'PBCONF'}/$pbpkg/$ddir-$dver") {
210                opendir(BDIR,"$ENV{'PBCONF'}/$pbpkg/$ddir-$dver") || die "Unable to open dir $ENV{'PBCONF'}/$pbpkg/$ddir-$dver: $!";
211                foreach my $f (readdir(BDIR)) {
212                    next if ($f =~ /^\./);
213                    $bfiles{$f} = "$ENV{'PBCONF'}/$pbpkg/$ddir-$dver/$f";
214                    $bfiles{$f} =~ s~$ENV{'PBROOT'}~~;
215                }
216                closedir(BDIR);
217            } else {
218                $build{"$ddir-$dver"} = "no";
219                next;
220            }
221            print $LOG "DEBUG bfiles: ".Dumper(\%bfiles)."\n" if ($debug >= 1);
222
223            # Get all filters to apply
224            my $ptr = pb_get_filters($pbpkg, $dtype, $dfam, $ddir, $dver);
225
226            # Apply now all the filters on all the files concerned
227            # destination dir depends on the type of file
228            if (defined $ptr) {
229                foreach my $f (values %bfiles) {
230                    pb_filter_file_pb("$ENV{'PBROOT'}/$f",$ptr,"$dest/pbconf/$ddir-$dver/".basename($f),$dtype,$dsuf,$pbpkg,$pbver,$pbtag,$pbrev,$pbdate);
231                }
232                if (defined $filteredfiles{$dir}) {
233                    foreach my $f (split(/,/,$filteredfiles{$dir})) {
234                        pb_filter_file("$ENV{'PBROOT'}/$dir/$f",$ptr,"$dest/$f",$pbpkg,$pbver,$pbtag,$pbrev,$pbdate);
235                    }
236                }
237            }
238        }
239        if ($debug >= 0) {
240            my @found;
241            my @notfound;
242            foreach my $b (keys %build) {
243                push @found,$b if ($build{$b} =~ /yes/);
244                push @notfound,$b if ($build{$b} =~ /no/);
245            }
246            print $LOG "Build files generated for ".join(',',@found)."\n";
247            print $LOG "No Build files found for ".join(',',@notfound)."\n";
248        }
249        # Prepare the dest directory for archive
250        if (-x "$ENV{'PBCONF'}/$pbpkg/pbinit") {
251            pb_system("cd $dest ; $ENV{'PBCONF'}/$pbpkg/pbinit","Executing init script $ENV{'PBCONF'}/$pbpkg/pbinit");
252        }
253
254        # Archive dest dir
255        chdir "$ENV{'PBDESTDIR'}" || die "Unable to change dir to $ENV{'PBDESTDIR'}";
256        # Possibility to look at PBSRC to guess more the filename
257        pb_system("tar cfpz $pbpkg-$pbver.tar.gz $pbpkg-$pbver","Creating $pbpkg tar files compressed");
258        print $LOG "Under $ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz\n" if ($debug >= 0);
259
260        # Keep track of what is generated for default
261        open(LAST,"> $pbrc{$ENV{'PBPROJ'}}") || die "Unable to create $pbrc{$ENV{'PBPROJ'}}";
262        print LAST "pbroot $pbprojver-$pbprojtag = $ENV{'PBROOT'}\n";
263        close(LAST);
264
265        # Keep track of per package version
266        if (! -f "$ENV{'PBDESTDIR'}/$pbprojver-$pbprojtag.pb") {
267            open(PKG,">$ENV{'PBDESTDIR'}/$pbprojver-$pbprojtag.pb") || die "Unable to create $ENV{'PBDESTDIR'}/$pbprojver-$pbprojtag.pb";
268            print PKG "# Empty\n";
269            close(PKG);
270        }
271        my ($pkg) = pb_conf_read("$ENV{'PBDESTDIR'}/$pbprojver-$pbprojtag.pb","pbpkg");
272        $pkg = { } if (not defined $pkg);
273        if ((not defined $pkg->{$pbpkg}) || ($pkg->{$pbpkg} ne "$pbver-$pbtag")) {
274            $pkg->{$pbpkg} = "$pbver-$pbtag";
275        }
276
277        print $LOG "DEBUG pkg: ".Dumper($pkg)."\n" if ($debug >= 1);
278        open(PKG,"> $ENV{'PBDESTDIR'}/$pbprojver-$pbprojtag.pb") || die "Unable to create $ENV{'PBDESTDIR'}/$pbprojver-$pbprojtag.pb";
279        foreach my $p (keys %$pkg) {
280            print PKG "pbpkg $p = $pkg->{$p}\n";
281        }
282        close(PKG);
283    }
284}
285
286sub pb_build2pkg {
287
288    # Get list of packages to build
289    my $ptr = pb_get_pkg();
290    @pkgs = @$ptr;
291
292    # Get the running distro to build on
293    my ($ddir, $dver, $dfam, $dtype, $dsuf) = pb_distro_init();
294    print $LOG "DEBUG: distro tuple: ".join(',',($ddir, $dver, $dfam, $dtype, $dsuf))."\n" if ($debug >= 1);
295
296    # Get content saved in cms2build
297    my ($pkg) = pb_conf_read("$ENV{'PBDESTDIR'}/$pbprojver-$pbprojtag.pb","pbpkg");
298    $pkg = { } if (not defined $pkg);
299
300    chdir "$ENV{'PBBUILDDIR'}";
301    foreach my $pbpkg (@pkgs) {
302        my $vertag = $pkg->{$pbpkg};
303        # get the version of the current package - maybe different
304        ($pbver,$pbtag) = split(/-/,$vertag);
305
306        my $src="$ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz";
307        print $LOG "Source file: $src\n" if ($debug >= 0);
308
309        if ($dtype eq "rpm") {
310            # rpm has its own standard build directory
311            my $tmp=`rpmquery --eval '%{_topdir}' 2> /dev/null`;
312            chomp($tmp);
313            $ENV{'PBBUILDDIR'}=$tmp;
314            print $LOG "Working under $ENV{'PBBUILDDIR'}\n" if ($debug >= 0);
315            foreach my $d ('RPMS','SRPMS','SPECS','SOURCES','BUILD') {
316                if (! -d "$ENV{'PBBUILDDIR'}/$d") {
317                pb_mkdir_p("$ENV{'PBBUILDDIR'}/$d") || die "Please ensure that you can write into $ENV{'PBBUILDDIR'} to create $d\nSolution: setup _topdir in your ~/.rpmmacros or\nchown the $ENV{'PBBUILDDIR'} directory to your uid";
318                }
319            }
320
321            # We need to first extract the spec file
322            symlink "$src","$ENV{'PBBUILDDIR'}/SOURCES/".basename($src) || die "Unable to symlink $src in $ENV{'PBBUILDDIR'}/SOURCES";
323            my @specfile;
324            @specfile = pb_extract_build_files($src,"$pbpkg-$pbver/pbconf/$ddir-$dver/","$ENV{'PBBUILDDIR'}/SPECS");
325
326            print $LOG "specfile: ".Dumper(\@specfile)."\n" if ($debug >= 1);
327            # set LANGUAGE to check for correct log messages
328            $ENV{'LANGUAGE'}="C";
329            #system("ls -R $ENV{'PBBUILDDIR'}") if ($debug >= 1);
330            foreach my $f (@specfile) {
331                if ($f =~ /\.spec$/) {
332                    pb_system("rpmbuild -ba $f","Building package with $f");
333                    last;
334                }
335            }
336        } elsif ($dtype eq "tgz") {
337            pb_mkdir_p("$ENV{'PBBUILDDIR'}/install") if (! -d "$ENV{'PBBUILDDIR'}/install");
338        } elsif ($dtype eq "ebuild") {
339            pb_mkdir_p("$ENV{'PBBUILDDIR'}/portage") if (! -d "$ENV{'PBBUILDDIR'}/portage");
340        } else {
341        }
342    }
343}
344
345sub pb_build2ssh {
346    pb_send2ssh("Sources");
347}
348
349sub pb_pkg2ssh {
350    pb_send2ssh("Packages");
351}
352
353sub pb_send2ssh {
354
355    my $cmt = shift;
356
357    my @src;
358
359    # Get list of packages to build
360    my $ptr = pb_get_pkg();
361    @pkgs = @$ptr;
362
363    # Get the running distro to build on
364    my ($ddir, $dver, $dfam, $dtype, $dsuf) = pb_distro_init();
365    print $LOG "DEBUG: distro tuple: ".join(',',($ddir, $dver, $dfam, $dtype, $dsuf))."\n" if ($debug >= 1);
366
367    # Get content saved in cms2build
368    my ($pkg) = pb_conf_read("$ENV{'PBDESTDIR'}/$pbprojver-$pbprojtag.pb","pbpkg");
369    $pkg = { } if (not defined $pkg);
370
371    chdir "$ENV{'PBBUILDDIR'}";
372    my $src;
373    foreach my $pbpkg (@pkgs) {
374        my $vertag = $pkg->{$pbpkg};
375        # get the version of the current package - maybe different
376        ($pbver,$pbtag) = split(/-/,$vertag);
377
378        if ($cmt eq "Sources") {
379            $src="$ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz";
380        } elsif ($cmt eq "Packages") {
381            if ($dtype eq "rpm") {
382                $src="$ENV{'PBBUILDDIR'}/RPMS/*/$pbpkg$pbver-$pbtag$dsuf.*.rpm $ENV{'PBBUILDDIR'}/SRPMS/$pbpkg$pbver-$pbtag$dsuf.src.rpm"
383            } elsif ($dtype eq "deb") {
384                my $tmp = "$ENV{'PBBUILDDIR'}/$pbpkg";
385                $src="$tmp"."_*.deb $tmp"."_*.dsc $tmp"."_*.tar.gz"
386            } elsif ($dtype eq "ebuild") {
387                $src="$ENV{'PBBUILDDIR'}/portage/*/$pbpkg/$pbpkg$pbver.ebuild"
388            } elsif ($dtype eq "slackware") {
389                $src="$ENV{'PBBUILDDIR'}/build-$pbpkg/$pbpkg$pbver-*-$pbtag.tgz"
390            } else {
391                die "Unknown dtype format $dtype";
392            }
393        }
394        print $LOG "$cmt: $src\n" if ($debug >= 0);
395        push @src, $src;
396    }
397    my ($pt) = pb_conf_get("sshhost", "sshlogin", "sshdir");
398    my ($sshhost,$sshlogin,$sshdir) = @$pt;
399    my $mac = "$sshlogin->{$ENV{'PBPROJ'}}\@$sshhost->{$ENV{'PBPROJ'}}";
400    my $dir;
401    if ($cmt eq "Sources") {
402        $dir = "$sshdir->{$ENV{'PBPROJ'}}/src";
403    } elsif ($cmt eq "Packages") {
404        $dir = "$sshdir->{$ENV{'PBPROJ'}}/$ddir/$dver";
405    } else {
406        return;
407    }
408    $src = join(' ',@src);
409    pb_system("ssh -q $mac \"mkdir -p $dir ; cd $dir ; rm -f $src\"","Preparing $dir on $mac");
410    pb_system("scp -p $src $mac:$dir","$cmt delivery in $dir on $mac");
411}
412
413sub pb_get_pkg {
414
415my @pkgs;
416
417# Get packages list
418if (not defined $ARGV[0]) {
419    @pkgs = keys %defpkgdir;
420} elsif ($ARGV[0] =~ /^all$/) {
421    @pkgs = keys %defpkgdir;
422    if (defined %extpkgdir) {
423        my $k = keys %extpkgdir;
424        if (defined $k) {
425            push(@pkgs, keys %extpkgdir);
426        }
427    }
428} else {
429    @pkgs = @ARGV;
430}
431print $LOG "Packages: ".join(',',@pkgs)."\n" if ($debug >= 0);
432return(\@pkgs);
433}
434
435sub pb_get_vm {
436
437my @vm;
438
439# Get VM list
440if (not defined $ENV{'PBVM'}) {
441    @vm = keys %defpkgdir;
442} elsif ($ENV{'PBVM'} =~ /^all$/) {
443    @vm = keys %defpkgdir;
444    if (defined %extpkgdir) {
445        my $k = keys %extpkgdir;
446        if (defined $k) {
447            push(@vm, keys %extpkgdir);
448        }
449    }
450} else {
451    @vm = $ENV{'PBVM'};
452}
453print $LOG "VMs: ".join(',',@vm)."\n" if ($debug >= 0);
454return(\@vm);
455}
456
457sub pb_extract_build_files {
458
459my $src=shift;
460my $dir=shift;
461my $ddir=shift;
462my @files;
463
464pb_system("tar xfpz $src $dir >/dev/null","Extracting build files");
465opendir(DIR,"$dir") || die "Unable to open directory $dir";
466foreach my $f (readdir(DIR)) {
467    next if ($f =~ /^\./);
468    move("$dir/$f","$ddir") || die "Unable to move $dir/$f to $ddir";
469    print $LOG "mv $dir/$f $ddir\n" if ($debug >= 1);
470    push @files,"$ddir/$f";
471}
472closedir(DIR);
473# Not enough but still a first cleanup
474pb_rm_rf("$dir");
475return(@files);
476}
477
478sub pb_syntax {
479
480    print "pb (aka project-builder) Version $projectbuilderver-$projectbuilderrev\n";
481    print "\n";
482    print "Syntax: pb [-vhqt][-r pbroot][-p project][-m \"mach-1...\"] <action> [<pkg1>...]\n";
483    print "\n";
484    print "-h : This help file\n";
485    print "-q : Quiet mode\n";
486    print "-t : Test mode (not done yet)\n";
487    print "-v : Verbose mode\n";
488    print "\n";
489    print "-m machine : Name of the virtual Machines you want\n";
490    print "             to build on (space separated)        \n";
491    print "             (or use the env variable PBVM)       \n";
492    print "\n";
493    print "-p project : Name of the project you're working on\n";
494    print "             (or use the env variable PBPROJ)     \n";
495    print "\n";
496    print "-r pbroot  : Path Name of project under the CMS \n";
497    print "             (or use the env variable PBROOT)   \n";
498    print "\n";
499    print "<action> can be:\n";
500    print "\n";
501    print "\tcms2build: Create a tar file of the project under your CMS\n";
502    print "\t           CMS supported are SVN and CVS\n";
503    print "\t           parameters are packages to build\n";
504    print "\t           if not using default list\n";
505    print "\n";
506    print "\tbuild2pkg: Create packages for your running distribution  \n";
507    print "\t           first parameter is version-tag to build\n";
508    print "\t           if not using default version-tag\n";
509    print "\t           following parameters are packages to build\n";
510    print "\t           if not using default list\n";
511    print "\n";
512    print "\tcms2pkg:   cms2build + build2pkg\n";
513    print "\n";
514}
Note: See TracBrowser for help on using the repository browser.