source: devel/pb/bin/pb @ 773

Revision 773, 91.1 KB checked in by bruno, 4 years ago (diff)
  • Fixes for test2v mode (src copied)
  • Add notion of usesnap to try solving VM snapshot usage
  • Property svn:executable set to *
Line 
1#!/usr/bin/perl -w
2#
3# Project Builder main application
4#
5# $Id$
6#
7# Copyright B. Cornec 2007
8# Provided under the GPL v2
9
10# Syntax: see at end
11
12use strict 'vars';
13use Getopt::Long qw(:config auto_abbrev no_ignore_case);
14use Data::Dumper;
15use English;
16use File::Basename;
17use File::Copy;
18use File::stat;
19use File::Temp qw(tempdir);
20use Time::localtime qw(localtime);
21use POSIX qw(strftime);
22use lib qw (lib);
23use ProjectBuilder::Version;
24use ProjectBuilder::Base;
25use ProjectBuilder::Display;
26use ProjectBuilder::Conf;
27use ProjectBuilder::Distribution;
28use ProjectBuilder::CMS;
29use ProjectBuilder::Env;
30use ProjectBuilder::Filter;
31use ProjectBuilder::Changelog;
32use Mail::Sendmail;
33
34# Global variables
35my %opts;                                       # CLI Options
36my $action;                                     # action to realize
37my $test = "FALSE";                     # Not used
38my $pbforce = 0;                        # Force VE/VM rebuild
39my $pbsnap = 0;                         # Use snapshot mode for VM/VE
40my $option = "";                        # Not used
41my @pkgs;                                       # list of packages
42my $pbtag;                                      # Global Tag variable
43my $pbver;                                      # Global Version variable
44my $pbscript;                           # Name of the script
45my %pbver;                                      # per package
46my %pbtag;                                      # per package
47my $pbrev;                                      # Global REVISION variable
48my $pbaccount;                          # Login to use to connect to the VM
49my $pbport;                                     # Port to use to connect to the VM
50my $newver;                                     # New version to create
51my $iso;                                        # ISO image for the VM to create
52
53my @date = pb_get_date();
54my $pbdate = strftime("%Y-%m-%d", @date);
55
56=pod
57
58=head1 NAME
59
60pb, aka project-builder.org - builds packages for your projects
61
62=head1 DESCRIPTION
63
64pb helps you build various packages directly from your project sources.
65Those sources could be handled by a CMS (Configuration Management System)
66such as Subversion, CVS, Git, Mercurial... or being a simple reference to a compressed tar file.
67It's based on a set of configuration files, a set of provided macros to help
68you keeping build files as generic as possible. For example, a single .spec
69file should be required to generate for all rpm based distributions, even
70if you could also have multiple .spec files if required.
71
72=head1 SYNOPSIS
73
74pb [-vhSq][-r pbroot][-p project][[-s script -a account -P port][-m mach-1[,...]]][-i iso] <action> [<pkg1> ...]
75
76pb [--verbose][--help][--man][--quiet][--snapshot][--revision pbroot][--project project][[--script script --account account --port port][--machine mach-1[,...]]][--iso iso] <action> [<pkg1> ...]
77
78=head1 OPTIONS
79
80=over 4
81
82=item B<-v|--verbose>
83
84Print a brief help message and exits.
85
86=item B<-q|--quiet>
87
88Do not print any output.
89
90=item B<-h|--help>
91
92Print a brief help message and exits.
93
94=item B<-S|--snapshot>
95
96Use the snapshot mode of VMs or VEs
97
98=item B<--man>
99
100Prints the manual page and exits.
101
102=item B<-m|--machine machine1[,machine2,...]>
103
104Name of the Virtual Machines (VM) or Virtual Environments (VE) you want to build on (coma separated).
105All if none precised (or use the env variable PBV).
106
107=item B<-s|--script script>
108
109Name of the script you want to execute on the related VMs or VEs.
110
111=item B<-i|--iso iso_image>
112
113Name of the ISO image of the distribution you want to install on the related VMs.
114
115=item B<-a|--account account>
116
117Name of the account to use to connect on the related VMs.
118
119=item B<-P|--port port_number>
120
121Port number to use to connect on the related VMs.\n";
122
123=item B<-p|--project project_name>
124
125Name of the project you're working on (or use the env variable PBPROJ)
126
127=item B<-r|--revision revision>
128
129Path Name of the project revision under the CMS (or use the env variable PBROOT)
130
131=item B<-V|--version new_version>
132
133New version of the project to create based on the current one.
134
135=back
136
137=head1 ARGUMENTS
138
139<action> can be:
140
141=over 4
142
143=item B<cms2build>
144
145Create tar files for the project under your CMS.
146CMS supported are SVN, CVS and Mercurial
147parameters are packages to build
148if not using default list
149
150=item B<build2pkg>
151
152Create packages for your running distribution
153
154=item B<cms2pkg>
155
156cms2build + build2pkg
157
158=item B<build2ssh>
159
160Send the tar files to a SSH host
161
162=item B<cms2ssh>
163
164cms2build + build2ssh
165
166=item B<pkg2ssh>
167
168Send the packages built to a SSH host
169
170=item B<build2vm>
171
172Create packages in VMs, launching them if needed
173and send those packages to a SSH host once built
174VM type supported are QEMU
175
176=item B<build2ve>
177
178Create packages in VEs, creating it if needed
179and send those packages to a SSH host once built
180
181=item B<cms2vm>
182
183cms2build + build2vm
184
185=item B<cms2ve>
186
187cms2build + build2ve
188
189=item B<launchvm>
190
191Launch one virtual machine
192
193=item B<launchve>
194
195Launch one virtual environment
196
197=item B<script2vm>
198
199Launch one virtual machine if needed
200and executes a script on it
201
202=item B<script2ve>
203
204Execute a script in a virtual environment
205
206=item B<newvm>
207
208Create a new virtual machine
209
210=item B<newve>
211
212Create a new virtual environment
213
214=item B<setupvm>
215
216Setup a virtual machine for pb usage
217
218=item B<setupve>
219
220Setup a virtual environment for pb usage
221
222=item B<snapvm>
223
224Snapshot a virtual machine for pb usage
225
226=item B<snapve>
227
228Snapshot a virtual environment for pb usage
229
230=item B<test2vm>
231
232Test a package in a virtual machine
233
234=item B<test2ve>
235
236Test a package in a virtual environment
237
238=item B<newver>
239
240Create a new version of the project derived
241from the current one
242
243=item B<newproj>
244
245Create a new project and a template set of
246configuration files under pbconf
247
248=item B<announce>
249
250Announce the availability of the project through various means
251
252=item B<web2ssh>
253
254Deliver the Web site content to the target server using ssh.
255
256=item B<clean>
257
258Purge the build and delivery directories related to the current project
259
260=back
261
262<pkgs> can be a list of packages, the keyword 'all' or nothing, in which case the default list of packages is taken (corresponding to the defpkgdir list of arguments in the configuration file).
263
264=head1 WEB SITES
265
266The main Web site of the project is available at L<http://www.project-builder.org/>. Bug reports should be filled using the trac instance of the project at L<http://trac.project-builder.org/>.
267
268=head1 USER MAILING LIST
269
270None exists for the moment.
271
272=head1 CONFIGURATION FILES
273
274Each pb user may have a configuration in F<$HOME/.pbrc>. The values in this file may overwrite any other configuration file value.
275
276Here is an example of such a configuration file:
277
278 #
279 # Define for each project the URL of its pbconf repository
280 # No default option allowed here as they need to be all different
281 #
282 # URL of the pbconf content
283 # This is the format of a classical URL with the extension of additional schema such as
284 # svn+ssh, cvs+ssh, ...
285 #
286 pbconfurl linuxcoe = cvs+ssh://:ext:bcornec@linuxcoe.cvs.sourceforge.net:/cvsroot/linuxcoe/pbconf
287
288 # This is normaly defined in the project's configuration file
289 # Url of the project
290 #
291 pburl linuxcoe = cvs+ssh://:ext:bcornec@linuxcoe.cvs.sourceforge.net:/cvsroot/linuxcoe
292 
293 # All these URLs needs to be defined here as the are the entry point
294 # for how to build packages for the project
295 #
296 pbconfurl pb = svn+ssh://svn.project-builder.org/mondo/svn/pb/pbconf
297 pbconfurl mondorescue = svn+ssh://svn.project-builder.org/mondo/svn/project-builder/mondorescue/pbconf
298 pbconfurl collectl = svn+ssh://bruno@svn.mondorescue.org/mondo/svn/project-builder/collectl/pbconf
299 pbconfurl netperf = svn+ssh://svn.mondorescue.org/mondo/svn/project-builder/netperf/pbconf
300 
301 # Under that dir will take place everything related to pb
302 # If you want to use VMs/chroot/..., then use $ENV{'HOME'} to make it portable
303 # to your VMs/chroot/...
304 # if not defined then /var/cache
305 pbdefdir default = $ENV{'HOME'}/project-builder
306 pbdefdir pb = $ENV{'HOME'}
307 pbdefdir linuxcoe = $ENV{'HOME'}/LinuxCOE/cvs
308 pbdefdir mondorescue = $ENV{'HOME'}/mondo/svn
309 
310 # pbconfdir points to the directory where the CMS content of the pbconfurl is checked out
311 # If not defined, pbconfdir is under pbdefdir/pbproj/pbconf
312 pbconfdir linuxcoe = $ENV{'HOME'}/LinuxCOE/cvs/pbconf
313 pbconfdir mondorescue = $ENV{'HOME'}/mondo/svn/pbconf
314 
315 # pbdir points to the directory where the CMS content of the pburl is checked out
316 # If not defined, pbdir is under pbdefdir/pbproj
317 # Only defined if we have access to the dev of the project
318 pbdir linuxcoe = $ENV{'HOME'}/LinuxCOE/cvs
319 pbdir mondorescue = $ENV{'HOME'}/mondo/svn
320 
321 # -daemonize doesn't work with qemu 0.8.2
322 vmopt default = -m 384
323
324=head1 AUTHORS
325
326The Project-Builder.org team L<http://trac.project-builder.org/> lead by Bruno Cornec L<mailto:bruno@project-builder.org>.
327
328=head1 COPYRIGHT
329
330Project-Builder.org is distributed under the GPL v2.0 license
331described in the file C<COPYING> included with the distribution.
332
333=cut
334
335# ---------------------------------------------------------------------------
336
337my ($projectbuilderver,$projectbuilderrev) = pb_version_init();
338
339# Initialize the syntax string
340
341pb_syntax_init("pb (aka project-builder.org) Version $projectbuilderver-$projectbuilderrev\n");
342
343GetOptions("help|?|h" => \$opts{'h'}, 
344                "man" => \$opts{'man'},
345                "verbose|v+" => \$opts{'v'},
346                "snapshot|S" => \$opts{'S'},
347                "quiet|q" => \$opts{'q'},
348                "log-files|l=s" => \$opts{'l'},
349                "force|f" => \$opts{'f'},
350                "account|a=s" => \$opts{'a'},
351                "revision|r=s" => \$opts{'r'},
352                "script|s=s" => \$opts{'s'},
353                "machines|mock|m=s" => \$opts{'m'},
354                "port|P=i" => \$opts{'P'},
355                "project|p=s" => \$opts{'p'},
356                "iso|i=s" => \$opts{'i'},
357                "version|V=s" => \$opts{'V'},
358) || pb_syntax(-1,0);
359
360if (defined $opts{'h'}) {
361        pb_syntax(0,1);
362}
363if (defined $opts{'man'}) {
364        pb_syntax(0,2);
365}
366if (defined $opts{'v'}) {
367        $pbdebug = $opts{'v'};
368}
369if (defined $opts{'f'}) {
370        $pbforce=1;
371}
372if (defined $opts{'q'}) {
373        $pbdebug=-1;
374}
375if (defined $opts{'S'}) {
376        $pbsnap=1;
377}
378if (defined $opts{'l'}) {
379        open(pbLOG,"> $opts{'l'}") || die "Unable to log to $opts{'l'}: $!";
380        $pbLOG = \*pbLOG;
381        $pbdebug = 0  if ($pbdebug == -1);
382        }
383pb_log_init($pbdebug, $pbLOG);
384pb_display_init("text","");
385
386# Handle root of the project if defined
387if (defined $opts{'r'}) {
388        $ENV{'PBROOTDIR'} = $opts{'r'};
389}
390# Handle virtual machines if any
391if (defined $opts{'m'}) {
392        $ENV{'PBV'} = $opts{'m'};
393}
394if (defined $opts{'s'}) {
395        $pbscript = $opts{'s'};
396}
397if (defined $opts{'a'}) {
398        $pbaccount = $opts{'a'};
399        die "option -a requires a -s script option" if (not defined $pbscript);
400}
401if (defined $opts{'P'}) {
402        $pbport = $opts{'P'};
403}
404if (defined $opts{'V'}) {
405        $newver = $opts{'V'};
406}
407if (defined $opts{'i'}) {
408        $iso = $opts{'i'};
409}
410
411# Get Action
412$action = shift @ARGV;
413die pb_syntax(-1,1) if (not defined $action);
414
415my ($filteredfiles, $supfiles, $defpkgdir, $extpkgdir);
416my $pbinit = undef;
417$pbinit = 1 if ($action =~ /^newproj$/);
418
419# Handles project name if any
420# And get global params
421($filteredfiles, $supfiles, $defpkgdir, $extpkgdir) = pb_env_init($opts{'p'},$pbinit,$action);
422
423pb_log(0,"Project: $ENV{'PBPROJ'}\n");
424pb_log(0,"Action: $action\n");
425
426# Act depending on action
427if ($action =~ /^cms2build$/) {
428        pb_cms2build();
429} elsif ($action =~ /^build2pkg$/) {
430        pb_build2pkg();
431} elsif ($action =~ /^cms2pkg$/) {
432        pb_cms2build();
433        pb_build2pkg();
434} elsif ($action =~ /^build2ssh$/) {
435        pb_build2ssh();
436} elsif ($action =~ /^cms2ssh$/) {
437        pb_cms2build();
438        pb_build2ssh();
439} elsif ($action =~ /^pkg2ssh$/) {
440        pb_pkg2ssh();
441} elsif ($action =~ /^build2ve$/) {
442        pb_build2v("ve","build");
443} elsif ($action =~ /^build2vm$/) {
444        pb_build2v("vm","build");
445} elsif ($action =~ /^cms2ve$/) {
446        pb_cms2build();
447        pb_build2v("ve","build");
448} elsif ($action =~ /^cms2vm$/) {
449        pb_cms2build();
450        pb_build2v("vm","build");
451} elsif ($action =~ /^launchvm$/) {
452        pb_launchv("vm",$ENV{'PBV'},0);
453} elsif ($action =~ /^launchve$/) {
454        pb_launchv("ve",$ENV{'PBV'},0);
455} elsif ($action =~ /^script2vm$/) {
456        pb_script2v($pbscript,"vm");
457} elsif ($action =~ /^script2ve$/) {
458        pb_script2v($pbscript,"ve");
459} elsif ($action =~ /^newver$/) {
460        pb_newver();
461} elsif ($action =~ /^newve$/) {
462        pb_launchv("ve",$ENV{'PBV'},1);
463} elsif ($action =~ /^newvm$/) {
464        pb_launchv("vm",$ENV{'PBV'},1);
465} elsif ($action =~ /^setupve$/) {
466        pb_setup2v("ve");
467} elsif ($action =~ /^setupvm$/) {
468        pb_setup2v("vm");
469} elsif ($action =~ /^snapve$/) {
470        pb_snap2v("ve");
471} elsif ($action =~ /^snapvm$/) {
472        pb_snap2v("vm");
473} elsif ($action =~ /^test2ve$/) {
474        pb_build2v("ve","test");
475} elsif ($action =~ /^test2vm$/) {
476        pb_build2v("vm","test");
477} elsif ($action =~ /^newproj$/) {
478        # Nothing to do - already done in pb_env_init
479} elsif ($action =~ /^clean$/) {
480        pb_clean();
481} elsif ($action =~ /^announce$/) {
482        # For announce only. Require avoids the systematic load of these modules
483        require DBI;
484        require DBD::SQLite;
485
486        pb_announce();
487} elsif ($action =~ /^web2ssh$/) {
488        require DBI;
489        require DBD::SQLite;
490
491        pb_cms2build("Web");
492        pb_send2target("Web");
493} else {
494        pb_log(0,"\'$action\' is not available\n");
495        pb_syntax(-2,1);
496}
497
498sub pb_cms2build {
499
500        my $param = shift || undef;
501
502        my $pkg;
503        my @pkgs;
504        my $webdir;
505
506        my %pkgs;
507        my %pb;                         # Structure to store conf info
508
509        # If Website, then pkg is only the website
510        if ((defined $param) && ($param eq "Web")) {
511                ($webdir) = pb_conf_get("webdir");
512                pb_log(2,"webdir: ".Dumper($webdir)."\n");
513                $pkgs[0] = $webdir->{$ENV{'PBPROJ'}};
514                $extpkgdir = $webdir;
515                pb_log(0,"Package: $pkgs[0]\n");
516        } else {
517                $pkg = pb_cms_get_pkg($defpkgdir,$extpkgdir);
518                @pkgs = @$pkg;
519        }
520
521        my ($scheme, $uri) = pb_cms_init($pbinit);
522
523        my ($pkgv, $pkgt) = pb_conf_get_if("pkgver","pkgtag");
524
525        # declare packager and repo for filtering
526        my ($tmp1, $tmp2) = pb_conf_get("pbpackager","pbrepo");
527        $ENV{'PBPACKAGER'} = $tmp1->{$ENV{'PBPROJ'}};
528        $ENV{'PBREPO'} = $tmp2->{$ENV{'PBPROJ'}};
529
530        foreach my $pbpkg (@pkgs) {
531                my ($testver) = pb_conf_get_if("testver");
532                $ENV{'PBPKG'} = $pbpkg;
533
534                if ((defined $pkgv) && (defined $pkgv->{$pbpkg})) {
535                        $pbver = $pkgv->{$pbpkg};
536                } else {
537                        $pbver = $ENV{'PBPROJVER'};
538                }
539                # If it's a test version, then tag == 0.date
540                if (defined $testver->{$ENV{'PBPROJ'}}) {
541                        $pbtag = "0.".strftime("%Y%m%d%H%M%S", @date);
542                        $ENV{'PBPROJTAG'} = $pbtag;
543                } elsif ((defined $pkgt) && (defined $pkgt->{$pbpkg})) {
544                        $pbtag = $pkgt->{$pbpkg};
545                } else {
546                        $pbtag = $ENV{'PBPROJTAG'};
547                }
548
549                $pbrev = $ENV{'PBREVISION'};
550                pb_log(0,"\n");
551                pb_log(0,"Management of $pbpkg $pbver-$pbtag (rev $pbrev)\n");
552                die "Unable to get env var PBDESTDIR" if (not defined $ENV{'PBDESTDIR'});
553
554                # Clean up dest if necessary. The export will recreate it
555                my $dest = "$ENV{'PBDESTDIR'}/$pbpkg-$pbver";
556                pb_rm_rf($dest) if (-d $dest);
557
558                # Export CMS tree for the concerned package to dest
559                # And generate some additional files
560                $OUTPUT_AUTOFLUSH=1;
561
562                # computes in which dir we have to work
563                my $dir = $defpkgdir->{$pbpkg};
564                $dir = $extpkgdir->{$pbpkg} if (not defined $dir);
565                $dir = $webdir->{$ENV{'PBPROJ'}} if ((defined $param) && ($param eq "Web"));
566                pb_log(2,"def:".Dumper($defpkgdir)." ext: ".Dumper($extpkgdir)." \n");
567
568                # Exporting content from CMS
569                my $preserve = pb_cms_export($uri,"$ENV{'PBDIR'}/$dir",$dest);
570
571                # Generated fake content for test versions to speed up stuff
572                my $chglog;
573
574                # Get project info on authors and log file
575                $chglog = "$ENV{'PBROOTDIR'}/$pbpkg/pbcl";
576                $chglog = "$ENV{'PBROOTDIR'}/pbcl" if (! -f $chglog);
577                $chglog = undef if (! -f $chglog);
578
579                my $authors = "$ENV{'PBROOTDIR'}/$pbpkg/pbauthors";
580                $authors = "$ENV{'PBROOTDIR'}/pbauthors" if (! -f $authors);
581                $authors = "/dev/null" if (! -f $authors);
582
583                # Extract cms log history and store it
584                if ((defined $chglog) && (! -f "$dest/NEWS")) {
585                        pb_log(2,"Generating NEWS file from $chglog\n");
586                        copy($chglog,"$dest/NEWS") || die "Unable to create $dest/NEWS";
587                }
588                pb_cms_log($scheme,"$ENV{'PBDIR'}/$dir",$dest,$chglog,$authors,$testver);
589
590                my %build;
591                my @pt;
592                my $tmpl = "";
593                my %patches;
594
595                @pt = pb_conf_get_if("vmlist","velist");
596                if (defined $pt[0]->{$ENV{'PBPROJ'}}) {
597                        $tmpl .= $pt[0]->{$ENV{'PBPROJ'}};
598                }
599                if (defined $pt[1]->{$ENV{'PBPROJ'}}) {
600                        # the 2 lists needs to be grouped with a ',' separating them
601                        if ($tmpl ne "") {
602                                $tmpl .= ",";
603                        }
604                        $tmpl .= $pt[1]->{$ENV{'PBPROJ'}} 
605                }
606       
607                # Setup %pb structure to allow filtering later on, on files using that structure
608                $pb{'tag'} = $pbtag;
609                $pb{'rev'} = $pbrev;
610                $pb{'ver'} = $pbver;
611                $pb{'pkg'} = $pbpkg;
612                $pb{'date'} = $pbdate;
613                $pb{'defpkgdir'} = $defpkgdir;
614                $pb{'extpkgdir'} = $extpkgdir;
615                $pb{'chglog'} = $chglog;
616                $pb{'packager'} = $ENV{'PBPACKAGER'};
617                $pb{'proj'} = $ENV{'PBPROJ'};
618                $pb{'repo'} = $ENV{'PBREPO'};
619                $pb{'patches'} = \%patches;
620                pb_log(2,"DEBUG: pb: ".Dumper(%pb)."\n");
621       
622                # Do not do that for website
623                if ((not defined $param) || ($param ne "Web")) {
624                        my %virt;
625                        # De-duplicate similar VM and VE
626                        foreach my $d (split(/,/,$tmpl)) {
627                                # skip ill-formatted vms (name-ver-arch)
628                                next if ($d !~ /-/);
629                                $virt{$d} = $d;
630                        }
631
632                        foreach my $d (keys %virt) {
633                                my ($name,$ver,$arch) = split(/-/,$d);
634                                pb_log(0,"Bad format for $d") if ((not defined $name) || (not defined $ver) || (not defined $arch)) ;
635                                chomp($arch);
636                                my ($ddir, $dver, $dfam);
637                                ($ddir, $dver, $dfam, $pb{'dtype'}, $pb{'suf'}, $pb{'upd'}, $pb{'arch'}) = pb_distro_init($name,$ver,$arch);
638                                pb_log(2,"DEBUG: distro tuple: ".Dumper($ddir, $dver, $dfam, $pb{'dtype'}, $pb{'suf'})."\n");
639                                pb_log(2,"DEBUG Filtering PBDATE => $pbdate, PBTAG => $pbtag, PBVER => $pbver\n");
640       
641                                # We need to compute the real name of the package
642                                my $pbrealpkg = pb_cms_get_real_pkg($pbpkg,$pb{'dtype'});
643                                $pb{'realpkg'} = $pbrealpkg;
644                                pb_log(1,"Virtual package $pbpkg has a real package name of $pbrealpkg on $ddir-$dver\n") if ($pbrealpkg ne $pbpkg);
645       
646                                # Filter build files from the less precise up to the most with overloading
647                                # Filter all files found, keeping the name, and generating in dest
648       
649                                # Find all build files first relatively to PBROOTDIR
650                                # Find also all specific files referenced in the .pb conf file
651                                my %bfiles = ();
652                                my %pkgfiles = ();
653                                $build{"$ddir-$dver-$arch"} = "yes";
654       
655                                if (-d "$ENV{'PBROOTDIR'}/$pbpkg/$pb{'dtype'}") {
656                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$pb{'dtype'}",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
657                                } elsif (-d "$ENV{'PBROOTDIR'}/$pbpkg/$dfam") {
658                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$dfam",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
659                                } elsif (-d "$ENV{'PBROOTDIR'}/$pbpkg/$ddir") {
660                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$ddir",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
661                                } elsif (-d "$ENV{'PBROOTDIR'}/$pbpkg/$ddir-$dver") {
662                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$ddir-$dver",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
663                                } elsif (-d "$ENV{'PBROOTDIR'}/$pbpkg/$ddir-$dver-$arch") {
664                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$ddir-$dver-$arch",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
665                                } else {
666                                        $build{"$ddir-$dver-$arch"} = "no";
667                                        next;
668                                }
669                                pb_log(2,"DEBUG bfiles: ".Dumper(\%bfiles)."\n");
670       
671                                # Get all filters to apply
672                                my $ptr = pb_get_filters($pbpkg, $pb{'dtype'}, $dfam, $ddir, $dver);
673       
674                                # Prepare local patches for this distro - They are always applied first - May be a problem one day
675                                foreach my $p (sort(<$ENV{'PBROOTDIR'}/$pbpkg/pbpatch/*>)) {
676                                        $patches{"$ddir-$dver-$arch"} .= "," if ((defined $patches{"$ddir-$dver-$arch"}) and ($p =~ /\.all$/));
677                                        $patches{"$ddir-$dver-$arch"} .= "file://$p" if ($p =~ /\.all$/);
678                                        $patches{"$ddir-$dver-$arch"} .= "," if ((defined $patches{"$ddir-$dver-$arch"}) and ($p =~ /\.$pb{'dtype'}$/));
679                                        $patches{"$ddir-$dver-$arch"} .= "file://$p" if ($p =~ /\.$pb{'dtype'}$/);
680                                        $patches{"$ddir-$dver-$arch"} .= "," if ((defined $patches{"$ddir-$dver-$arch"}) and ($p =~ /\.$dfam$/));
681                                        $patches{"$ddir-$dver-$arch"} .= "file://$p" if ($p =~ /\.$dfam$/);
682                                        $patches{"$ddir-$dver-$arch"} .= "," if ((defined $patches{"$ddir-$dver-$arch"}) and ($p =~ /\.$ddir$/));
683                                        $patches{"$ddir-$dver-$arch"} .= "file://$p" if ($p =~ /\.$ddir$/);
684                                        $patches{"$ddir-$dver-$arch"} .= "," if ((defined $patches{"$ddir-$dver-$arch"}) and ($p =~ /\.$ddir-$dver$/));
685                                        $patches{"$ddir-$dver-$arch"} .= "file://$p" if ($p =~ /\.$ddir-$dver$/);
686                                        $patches{"$ddir-$dver-$arch"} .= "," if ((defined $patches{"$ddir-$dver-$arch"}) and ($p =~ /\.$ddir-$dver-$arch$/));
687                                        $patches{"$ddir-$dver-$arch"} .= "file://$p" if ($p =~ /\.$ddir-$dver-$arch$/);
688                                }
689       
690                                # Prepare also remote patches to be included - Applied after the local ones
691                                foreach my $p ("all","$pb{'dtype'}","$dfam","$ddir","$ddir-$dver","$ddir-$dver-$arch") {
692                                        my $f = "$ENV{'PBROOTDIR'}/$pbpkg/pbextpatch.$p";
693                                        next if (not -f $f);
694                                        if (not open(PATCH,$f)) {
695                                                pb_display("Unable to open existing external patch file content $f\n");
696                                                next;
697                                        }
698                                        while (<PATCH>) {
699                                                chomp();
700                                                $patches{"$ddir-$dver-$arch"} .= "," if (defined $patches{"$ddir-$dver-$arch"});
701                                                $patches{"$ddir-$dver-$arch"} .= "$_";
702                                        }
703                                        close(PATCH);
704                                }
705                                pb_log(2,"DEBUG: pb->patches: ".Dumper($pb{'patches'})."\n");
706       
707                                # Apply now all the filters on all the files concerned
708                                # destination dir depends on the type of file
709                                if (defined $ptr) {
710                                        # For patch support
711                                        $pb{'tuple'} = "$ddir-$dver-$arch";
712                                        foreach my $f (values %bfiles,values %pkgfiles) {
713                                                pb_filter_file("$ENV{'PBROOTDIR'}/$f",$ptr,"$dest/pbconf/$ddir-$dver-$arch/".basename($f),\%pb);
714                                        }
715                                }
716                        }
717                        my @found;
718                        my @notfound;
719                        foreach my $b (keys %build) {
720                                push @found,$b if ($build{$b} =~ /yes/);
721                                push @notfound,$b if ($build{$b} =~ /no/);
722                        }
723                        pb_log(0,"Build files generated for ".join(',',sort(@found))."\n");
724                        pb_log(0,"No Build files found for ".join(',',sort(@notfound))."\n") if (@notfound);
725                        pb_log(2,"DEBUG: patches: ".Dumper(%patches)."\n");
726                }
727
728                # Get the generic filter (all.pbf) and
729                # apply those to the non-build files including those
730                # generated by pbinit if applicable
731
732                # Get only all.pbf filter
733                my $ptr = pb_get_filters($pbpkg);
734
735                my $liste ="";
736                if (defined $filteredfiles->{$pbpkg}) {
737                        foreach my $f (split(/,/,$filteredfiles->{$pbpkg})) {
738                                pb_filter_file_inplace($ptr,"$dest/$f",\%pb);
739                                $liste = "$f $liste";
740                        }
741                }
742                pb_log(2,"Files ".$liste."have been filtered\n");
743
744                # Do not do that for website
745                if ((not defined $param) || ($param ne "Web")) {
746                        my %tmp;
747                        # Filter potential patches (local + remote)
748                        pb_log(0,"Delivering and compressing patches ");
749                        foreach my $v (keys %patches) {
750                                pb_mkdir_p("$dest/pbconf/$v/pbpatch");
751                                foreach my $pf (split(/,/,$patches{$v})) {
752                                        my $pp = basename($pf);
753                                        pb_cms_export($pf,undef,"$dest/pbconf/$v/pbpatch");
754                                        pb_filter_file_inplace($ptr,"$dest/pbconf/$v/pbpatch/$pp",\%pb);
755                                        pb_system("gzip -9f $dest/pbconf/$v/pbpatch/$pp","","quiet");
756                                        $tmp{$pf} = "";
757                                }
758                        }
759                        foreach my $v (keys %tmp) {
760                                pb_log(0,"$v ");
761                        }
762                        pb_log(0,"\n");
763                } else {
764                        # Instead call News generation
765                        pb_web_news2html($dest);
766                        # And create an empty pbconf
767                        pb_mkdir_p("$dest/pbconf");
768                        # And prepare the pbscript to execute remotely
769                        open(SCRIPT,"> $ENV{'PBDESTDIR'}/pbscript") || die "Unable to create $ENV{'PBDESTDIR'}/pbscript";
770                        print SCRIPT "#!/bin/bash\n";
771                        print SCRIPT "#set -x\n";
772                        print SCRIPT "echo ... Extracting Website content\n";
773                        print SCRIPT "find . -type f | grep -Ev '^./$pbpkg-$pbver.tar.gz|^./pbscript' | xargs rm -f non-existent\n";
774                        print SCRIPT "find * -type d -depth | xargs rmdir 2> /dev/null \n";
775                        print SCRIPT "tar xfz $pbpkg-$pbver.tar.gz\n";
776                        print SCRIPT "mv $pbpkg-$pbver/* .\n";
777                        print SCRIPT "rm -f $pbpkg-$pbver.tar.gz\n";
778                        print SCRIPT "rmdir $pbpkg-$pbver\n";
779                        close(SCRIPT);
780                }
781
782                # Prepare the dest directory for archive
783                if (-x "$ENV{'PBROOTDIR'}/$pbpkg/pbinit") {
784                        pb_filter_file("$ENV{'PBROOTDIR'}/$pbpkg/pbinit",$ptr,"$ENV{'PBTMP'}/pbinit",\%pb);
785                        chmod 0755,"$ENV{'PBTMP'}/pbinit";
786                        pb_system("cd $dest ; $ENV{'PBTMP'}/pbinit","Executing init script from $ENV{'PBROOTDIR'}/$pbpkg/pbinit","verbose");
787                }
788
789                # Do we have additional script to run to prepare the environement for the project ?
790                # Then include it in the pbconf delivery
791                foreach my $pbvf (<$ENV{'PBROOTDIR'}/pbv*.pre>,<$ENV{'PBROOTDIR'}/pbv*.post>, <$ENV{'PBROOTDIR'}/pbtest*>) {
792                        if (-x "$pbvf") {
793                                my $target = "$ENV{'PBDESTDIR'}/".basename($pbvf);
794                                pb_filter_file("$pbvf",$ptr,$target,\%pb);
795                                chmod 0755,"$target";
796                        }
797                }
798
799                # Archive dest dir
800                chdir "$ENV{'PBDESTDIR'}" || die "Unable to change dir to $ENV{'PBDESTDIR'}";
801                if (defined $preserve) {
802                        # In that case we want to preserve the original tar file for checksum purposes
803                        # The one created is btw equivalent in that case to this one
804                        # Maybe check basename of both to be sure they are the same ?
805                        pb_log(0,"Preserving original tar file ");
806                        move("$preserve","$pbpkg-$pbver.tar.gz");
807                } else {
808                        # Possibility to look at PBSRC to guess more the filename
809                        pb_system("tar cfz $pbpkg-$pbver.tar.gz --exclude=$pbpkg-$pbver/pbconf $pbpkg-$pbver","Creating $pbpkg tar files compressed");
810                }
811                pb_log(0,"Under $ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz\n");
812                pb_system("tar cfz $pbpkg-$pbver.pbconf.tar.gz $pbpkg-$pbver/pbconf","Creating pbconf tar files compressed");
813                pb_log(0,"Under $ENV{'PBDESTDIR'}/$pbpkg-$pbver.pbconf.tar.gz\n");
814
815                # Keep track of version-tag per pkg
816                $pkgs{$pbpkg} = "$pbver-$pbtag";
817
818                # Final cleanup
819                pb_rm_rf($dest) if (-d $dest);
820        }
821
822        # Keep track of per package version
823        pb_log(2,"DEBUG pkgs: ".Dumper(%pkgs)."\n");
824        open(PKG,"> $ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb") || die "Unable to create $ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb";
825        foreach my $pbpkg (keys %pkgs) {
826                print PKG "pbpkg $pbpkg = $pkgs{$pbpkg}\n";
827        }
828        close(PKG);
829
830        # Keep track of what is generated by default
831        # We need to store the dir and info on version-tag
832        # Base our content on the existing .pb file
833        copy("$ENV{'PBROOTDIR'}/$ENV{'PBPROJ'}.pb","$ENV{'PBDESTDIR'}/pbrc");
834        open(LAST,">> $ENV{'PBDESTDIR'}/pbrc") || die "Unable to create $ENV{'PBDESTDIR'}/pbrc";
835        print LAST "pbroot $ENV{'PBPROJ'} = $ENV{'PBROOTDIR'}\n";
836        print LAST "projver $ENV{'PBPROJ'} = $ENV{'PBPROJVER'}\n";
837        print LAST "projtag $ENV{'PBPROJ'} = $ENV{'PBPROJTAG'}\n";
838        print LAST "pbpackager $ENV{'PBPROJ'} = $ENV{'PBPACKAGER'}\n";
839        close(LAST);
840}
841
842sub pb_test2pkg {
843        # Get the running distro to test on
844        my ($ddir, $dver, $dfam, $dtype, $pbsuf, $pbupd, $arch) = pb_distro_init();
845        pb_log(2,"DEBUG: distro tuple: ".join(',',($ddir, $dver, $dfam, $dtype, $pbsuf, $pbupd, $arch))."\n");
846
847        # Get list of packages to test
848        # Get content saved in cms2build
849        my $ptr = pb_get_pkg();
850        @pkgs = @$ptr;
851
852        # Additional potential repo
853        pb_distro_setuprepo($ddir,$dver,$arch,$dtype);
854        foreach my $pbpkg (@pkgs) {
855                # We need to install the package to test, and deps brought with it
856                pb_distro_installdeps(undef,$dtype,$pbupd,$pbpkg);
857                pb_system("$ENV{'PBDESTDIR'}/pbtest","Launching test for $pbpkg","verbose");
858        }
859}
860
861sub pb_build2pkg {
862
863        # Get the running distro to build on
864        my ($ddir, $dver, $dfam, $dtype, $pbsuf, $pbupd, $arch) = pb_distro_init();
865        pb_log(2,"DEBUG: distro tuple: ".join(',',($ddir, $dver, $dfam, $dtype, $pbsuf, $pbupd, $arch))."\n");
866
867        # Get list of packages to build
868        # Get content saved in cms2build
869        my $ptr = pb_get_pkg();
870        @pkgs = @$ptr;
871
872        my ($pkg) = pb_conf_read("$ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb","pbpkg");
873        $pkg = { } if (not defined $pkg);
874
875        chdir "$ENV{'PBBUILDDIR'}";
876        my $made = ""; # pkgs made during build
877        foreach my $pbpkg (@pkgs) {
878                my $vertag = $pkg->{$pbpkg};
879                # get the version of the current package - maybe different
880                ($pbver,$pbtag) = split(/-/,$vertag);
881
882                my $src="$ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz";
883                my $src2="$ENV{'PBDESTDIR'}/$pbpkg-$pbver.pbconf.tar.gz";
884                pb_log(2,"Source file: $src\n");
885                pb_log(2,"Pbconf file: $src2\n");
886
887                pb_log(2,"Working directory: $ENV{'PBBUILDDIR'}\n");
888                if ($dtype eq "rpm") {
889                        foreach my $d ('RPMS','SRPMS','SPECS','SOURCES','BUILD') {
890                                if (! -d "$ENV{'PBBUILDDIR'}/$d") {
891                                pb_mkdir_p("$ENV{'PBBUILDDIR'}/$d") || die "Please ensure that you can write into $ENV{'PBBUILDDIR'} to create $d\nchown the $ENV{'PBBUILDDIR'} directory to your uid";
892                                }
893                        }
894
895                        # Remove in case a previous link/file was there
896                        unlink "$ENV{'PBBUILDDIR'}/SOURCES/".basename($src);
897                        symlink "$src","$ENV{'PBBUILDDIR'}/SOURCES/".basename($src) || die "Unable to symlink $src in $ENV{'PBBUILDDIR'}/SOURCES";
898                        # We need to first extract the spec file
899                        my @specfile = pb_extract_build_files($src2,"$pbpkg-$pbver/pbconf/$ddir-$dver-$arch/","$ENV{'PBBUILDDIR'}/SPECS","spec");
900
901                        # We need to handle potential patches to upstream sources
902                        pb_extract_build_files($src2,"$pbpkg-$pbver/pbconf/$ddir-$dver-$arch/pbpatch/","$ENV{'PBBUILDDIR'}/SOURCES","patch");
903
904                        pb_log(2,"specfile: ".Dumper(\@specfile)."\n");
905                        # set LANGUAGE to check for correct log messages
906                        $ENV{'LANGUAGE'}="C";
907                        # Older Redhat use _target_platform in %configure incorrectly
908                        my $specialdef = "";
909                        if (($ddir eq "redhat") || (($ddir eq "rhel") && ($dver eq "2.1"))) {
910                                $specialdef = "--define \'_target_platform \"\"\'";
911                        }
912
913                        # If needed we may add repository to the build env
914                        pb_distro_setuprepo($ddir,$dver,$arch,$dtype);
915                        foreach my $f (@specfile) {
916                                if ($f =~ /\.spec$/) {
917                                        pb_distro_installdeps("$f",$dtype,$pbupd);
918                                        pb_system("rpmbuild $specialdef --define \'packager $ENV{'PBPACKAGER'}\' --define \"_topdir $ENV{'PBBUILDDIR'}\" -ba $f","Building package with $f under $ENV{'PBBUILDDIR'}","verbose");
919                                        last;
920                                }
921                        }
922                        # Get the name of the generated packages
923                        open(LOG,"$ENV{'PBTMP'}/system.log") || die "Unable to open $ENV{'PBTMP'}/system.log";
924                        while (<LOG>) {
925                                chomp($_);
926                                next if ($_ !~ /^Wrote:/);
927                                s|.*/([S]*RPMS.*)|$1|;
928                                $made .=" $_";
929                        }
930                        close(LOG);
931
932                } elsif ($dtype eq "deb") {
933                        chdir "$ENV{'PBBUILDDIR'}" || die "Unable to chdir to $ENV{'PBBUILDDIR'}";
934                        pb_system("tar xfz $src","Extracting sources");
935                        pb_system("tar xfz $src2","Extracting pbconf");
936
937                        chdir "$pbpkg-$pbver" || die "Unable to chdir to $pbpkg-$pbver";
938                        pb_rm_rf("debian");
939                        symlink "pbconf/$ddir-$dver-$arch","debian" || die "Unable to symlink to pbconf/$ddir-$dver-$arch";
940                        chmod 0755,"debian/rules";
941
942                        pb_distro_setuprepo($ddir,$dver,$arch,$dtype);
943                        pb_distro_installdeps("debian/control",$dtype,$pbupd);
944                        pb_system("dpkg-buildpackage -us -uc -rfakeroot","Building package","verbose");
945                        # Get the name of the generated packages
946                        open(LOG,"$ENV{'PBTMP'}/system.log") || die "Unable to open $ENV{'PBTMP'}/system.log";
947                        while (<LOG>) {
948                                chomp();
949                                my $tmp = $_;
950                                next if ($tmp !~ /^dpkg-deb.*:/);
951                                $tmp =~ s|.*../(.*)_(.*).deb.*|$1|;
952                                $made="$made $tmp.dsc $tmp.tar.gz $tmp"."_*.deb $tmp"."_*.changes";
953                        }
954                        close(LOG);
955                } elsif ($dtype eq "ebuild") {
956                        my @ebuildfile;
957                        # For gentoo we need to take pb as subsystem name
958                        # We put every apps here under sys-apps. hope it's correct
959                        # We use pb's home dir in order to have a single OVERLAY line
960                        my $tmpd = "$ENV{'HOME'}/portage/pb/sys-apps/$pbpkg";
961                        pb_mkdir_p($tmpd) if (! -d "$tmpd");
962                        pb_mkdir_p("$ENV{'HOME'}/portage/distfiles") if (! -d "$ENV{'HOME'}/portage/distfiles");
963
964                        # We need to first extract the ebuild file
965                        @ebuildfile = pb_extract_build_files($src2,"$pbpkg-$pbver/pbconf/$ddir-$dver-$arch/","$tmpd","ebuild");
966
967                        # Prepare the build env for gentoo
968                        my $found = 0;
969                        my $pbbd = $ENV{'HOME'};
970                        $pbbd =~ s|/|\\/|g;
971                        if (-r "/etc/make.conf") {
972                                open(MAKE,"/etc/make.conf");
973                                while (<MAKE>) {
974                                        $found = 1 if (/$pbbd\/portage/);
975                                }
976                                close(MAKE);
977                        }
978                        if ($found == 0) {
979                                pb_system("sudo sh -c 'echo PORTDIR_OVERLAY=\"$ENV{'HOME'}/portage\" >> /etc/make.conf'");
980                        }
981                        #$found = 0;
982                        #if (-r "/etc/portage/package.keywords") {
983                        #open(KEYW,"/etc/portage/package.keywords");
984                        #while (<KEYW>) {
985                        #$found = 1 if (/portage\/pb/);
986                        #}
987                        #close(KEYW);
988                        #}
989                        #if ($found == 0) {
990                        #pb_system("sudo sh -c \"echo portage/pb >> /etc/portage/package.keywords\"");
991                        #}
992
993                        # Build
994                        foreach my $f (@ebuildfile) {
995                                if ($f =~ /\.ebuild$/) {
996                                        pb_distro_installdeps("$f",$dtype,$pbupd);
997                                        move($f,"$tmpd/$pbpkg-$pbver.ebuild");
998                                        pb_system("cd $tmpd ; ebuild $pbpkg-$pbver.ebuild clean ; ebuild $pbpkg-$pbver.ebuild digest ; ebuild $pbpkg-$pbver.ebuild package","verbose");
999                                        # Now move it where pb expects it
1000                                        pb_mkdir_p("$ENV{'PBBUILDDIR'}/portage/pb/sys-apps/$pbpkg");
1001                                        move("$tmpd/$pbpkg-$pbver.ebuild","$ENV{'PBBUILDDIR'}/portage/pb/sys-apps/$pbpkg");
1002                                }
1003                        }
1004
1005                        $made="$made portage/pb/sys-apps/$pbpkg/$pbpkg-$pbver.ebuild";
1006                } elsif ($dtype eq "tgz") {
1007                        # Slackware family
1008                        $made="$made $pbpkg/$pbpkg-$pbver-*-$pbtag.tgz";
1009
1010                        chdir "$ENV{'PBBUILDDIR'}" || die "Unable to chdir to $ENV{'PBBUILDDIR'}";
1011                        pb_system("tar xfz $src","Extracting sources");
1012                        pb_system("tar xfz $src2","Extracting pbconf");
1013                        chdir "$pbpkg-$pbver" || die "Unable to chdir to $pbpkg-$pbver";
1014                        symlink "pbconf/$ddir-$dver-$arch","install" || die "Unable to symlink to pbconf/$ddir-$dver-$arch";
1015                        if (-x "install/pbslack") {
1016                                pb_distro_installdeps("./install/pbslack",$dtype,$pbupd);
1017                                pb_system("./install/pbslack","Building package");
1018                                pb_system("sudo /sbin/makepkg -p -l y -c y $pbpkg","Packaging $pbpkg","verbose");
1019                        }
1020                } else {
1021                        die "Unknown dtype format $dtype";
1022                }
1023        }
1024        # Packages check if needed
1025        if ($dtype eq "rpm") {
1026                if (-f "/usr/bin/rpmlint") {
1027                        pb_system("rpmlint $made","Checking validity of rpms with rpmlint","verbose");
1028                } else {
1029                        pb_log(0,"rpm packages generated: $made\n");
1030                }
1031        } elsif ($dtype eq "deb") {
1032                my $made2 = "";
1033                if (-f "/usr/bin/lintian") {
1034                        foreach my $f (split(/ /,$made)) {
1035                                $made2 .= "../$f " if ($f =~ /\.changes$/);
1036                        }
1037                        pb_system("lintian $made2","Checking validity of debs with lintian","verbose");
1038                } else {
1039                        pb_log(0,"deb packages generated: $made2\n");
1040                }
1041        } else {
1042                pb_log(0,"No check done for $dtype yet\n");
1043                pb_log(0,"Packages generated: $made\n");
1044        }
1045
1046        # Keep track of what is generated so that we can get them back from VMs
1047        open(KEEP,"> $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}") || die "Unable to create $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}";
1048        print KEEP "$made\n";
1049        close(KEEP);
1050}
1051
1052sub pb_build2ssh {
1053        pb_send2target("Sources");
1054}
1055
1056sub pb_pkg2ssh {
1057        pb_send2target("Packages");
1058}
1059
1060# By default deliver to the the public site hosting the
1061# ftp structure (or whatever) or a VM/VE
1062sub pb_send2target {
1063
1064        my $cmt = shift;
1065        my $v = shift || undef;
1066        my $vmexist = shift || 0;                       # 0 is FALSE
1067        my $vmpid = shift || 0;                         # 0 is FALSE
1068        my $snapme = shift || 0;                        # 0 is FALSE
1069
1070        pb_log(2,"DEBUG: pb_send2target($cmt,".Dumper($v).",$vmexist,$vmpid)\n");
1071        my $host = "sshhost";
1072        my $login = "sshlogin";
1073        my $dir = "sshdir";
1074        my $port = "sshport";
1075        my $conf = "sshconf";
1076        my $rebuild = "sshrebuild";
1077        my $tmout = "vmtmout";
1078        my $path = "vmpath";
1079        if ($cmt =~ /^VM/) {
1080                $login = "vmlogin";
1081                $dir = "pbdefdir";
1082                $tmout = "vmtmout";
1083                $rebuild = "vmrebuild";
1084                # Specific VM
1085                $host = "vmhost";
1086                $port = "vmport";
1087        } elsif ($cmt =~ /^VE/) {
1088                $login = "velogin";
1089                $dir = "pbdefdir";
1090                # Specific VE
1091                $path = "vepath";
1092                $conf = "veconf";
1093                $rebuild = "verebuild";
1094        } elsif ($cmt eq "Web") {
1095                $host = "websshhost";
1096                $login = "websshlogin";
1097                $dir = "websshdir";
1098                $port = "websshport";
1099        }
1100        my $cmd = "";
1101        my $src = "";
1102        my ($odir,$over,$oarch) = (undef, undef, undef);
1103        my ($ddir, $dver, $dfam, $dtype, $pbsuf);
1104
1105        if ($cmt ne "Announce") {
1106                my $ptr = pb_get_pkg();
1107                @pkgs = @$ptr;
1108
1109                # Get the running distro to consider
1110                if (defined $v) {
1111                        ($odir,$over,$oarch) = split(/-/,$v);
1112                }
1113                ($ddir, $dver, $dfam, $dtype, $pbsuf) = pb_distro_init($odir,$over,$oarch);
1114                pb_log(2,"DEBUG: distro tuple: ".join(',',($ddir, $dver, $dfam, $dtype, $pbsuf))."\n");
1115
1116                # Get list of packages to build
1117                # Get content saved in cms2build
1118                my ($pkg) = pb_conf_read("$ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb","pbpkg");
1119                $pkg = { } if (not defined $pkg);
1120
1121                chdir "$ENV{'PBBUILDDIR'}";
1122                foreach my $pbpkg (@pkgs) {
1123                        my $vertag = $pkg->{$pbpkg};
1124                        # get the version of the current package - maybe different
1125                        ($pbver,$pbtag) = split(/-/,$vertag);
1126
1127                        if (($cmt eq "Sources") || ($cmt =~ /V[EM]build/)) {
1128                                $src = "$src $ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz $ENV{'PBDESTDIR'}/$pbpkg-$pbver.pbconf.tar.gz";
1129                                if ($cmd eq "") {
1130                                        $cmd = "ln -sf $pbpkg-$pbver.tar.gz $pbpkg-latest.tar.gz";
1131                                } else {
1132                                        $cmd = "$cmd ; ln -sf $pbpkg-$pbver.tar.gz $pbpkg-latest.tar.gz";
1133                                }
1134                        } elsif ($cmt eq "Web") {
1135                                $src = "$src $ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz"
1136                        }
1137                }
1138                # Adds conf file for availability of conf elements
1139                pb_conf_add("$ENV{'PBROOTDIR'}/$ENV{'PBPROJ'}.pb");
1140        }
1141
1142        if ($cmt =~ /V[EM]build/) {
1143                $src="$src $ENV{'PBROOTDIR'}/$ENV{'PBPROJ'}.pb $ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb $ENV{'PBETC'} $ENV{'PBDESTDIR'}/pbrc $ENV{'PBDESTDIR'}/pbscript";
1144        } elsif (($cmt =~ /V[EM]Script/) || ($cmt eq "Web")) {
1145                $src="$src $ENV{'PBDESTDIR'}/pbscript";
1146        } elsif ($cmt =~ /V[EM]test/) {
1147                $src="$src $ENV{'PBROOTDIR'}/$ENV{'PBPROJ'}.pb $ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb $ENV{'PBETC'} $ENV{'PBDESTDIR'}/pbrc $ENV{'PBDESTDIR'}/pbscript $ENV{'PBDESTDIR'}/pbtest";
1148        } elsif ($cmt eq "Announce") {
1149                $src="$src $ENV{'PBTMP'}/pbscript";
1150        } elsif ($cmt eq "Packages") {
1151                # Get package list from file made during build2pkg
1152                open(KEEP,"$ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}") || die "Unable to read $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}";
1153                $src = <KEEP>;
1154                chomp($src);
1155                close(KEEP);
1156                $src="$src $ENV{'PBBUILDDIR'}/pbscript";
1157        }
1158        # Remove potential leading spaces (cause problem with basename)
1159        $src =~ s/^ *//;
1160        my $basesrc = "";
1161        foreach my $i (split(/ +/,$src)) {
1162                $basesrc .= " ".basename($i);
1163        }
1164
1165        pb_log(0,"Sources handled ($cmt): $src\n");
1166        pb_log(2,"values: ".Dumper(($host,$login,$dir,$port,$tmout,$rebuild,$path,$conf))."\n");
1167        my ($sshhost,$sshlogin,$sshdir,$sshport,$vtmout,$vepath) = pb_conf_get($host,$login,$dir,$port,$tmout,$path);
1168        # Not mandatory
1169        my ($vrebuild,$veconf,$testver) = pb_conf_get_if($rebuild,$conf,"testver");
1170        pb_log(2,"ssh: ".Dumper(($sshhost,$sshlogin,$sshdir,$sshport,$vtmout,$vrebuild,$vepath,$veconf))."\n");
1171
1172        my $mac;
1173        if ($cmt !~ /^VE/) {
1174                $mac = "$sshlogin->{$ENV{'PBPROJ'}}\@$sshhost->{$ENV{'PBPROJ'}}";
1175                # Overwrite account value if passed as parameter
1176                $mac = "$pbaccount\@$sshhost->{$ENV{'PBPROJ'}}" if (defined $pbaccount);
1177                pb_log(2, "DEBUG: pbaccount: $pbaccount => mac: $mac\n") if (defined $pbaccount);
1178        } else {
1179                # VE
1180                # Overwrite account value if passed as parameter (typically for setup2ve)
1181                $mac = $sshlogin->{$ENV{'PBPROJ'}};
1182                $mac = $pbaccount if (defined $pbaccount);
1183        }
1184
1185        my $tdir;
1186        my $bdir;
1187        if (($cmt eq "Sources") || ($cmt =~ /V[EM]Script/) || ($cmt =~ /V[EM]test/)) {
1188                $tdir = $sshdir->{$ENV{'PBPROJ'}}."/src";
1189                if ((defined $testver) && (defined $testver->{$ENV{'PBPROJ'}}) && ($testver->{$ENV{'PBPROJ'}} =~ /true/i)) {
1190                        # This is a test pkg => target dir is under test
1191                        $tdir = $sshdir->{$ENV{'PBPROJ'}}."/test/src";
1192                }
1193        } elsif ($cmt =~ /V[EM]build/) {
1194                $tdir = $sshdir->{$ENV{'PBPROJ'}}."/$ENV{'PBPROJ'}/delivery";
1195                $bdir = $sshdir->{$ENV{'PBPROJ'}}."/$ENV{'PBPROJ'}/build";
1196                # Remove a potential $ENV{'HOME'} as bdir should be relative to pb's home
1197                $bdir =~ s|\$ENV.+\}/||;
1198        } elsif ($cmt eq "Announce") {
1199                $tdir = "$sshdir->{$ENV{'PBPROJ'}}";
1200                if ((defined $testver) && (defined $testver->{$ENV{'PBPROJ'}}) && ($testver->{$ENV{'PBPROJ'}} =~ /true/i)) {
1201                        # This is a test pkg => target dir is under test
1202                        $tdir = $sshdir->{$ENV{'PBPROJ'}}."/test";
1203                }
1204        } elsif ($cmt eq "Web") {
1205                $tdir = "$sshdir->{$ENV{'PBPROJ'}}";
1206                if ((defined $testver) && (defined $testver->{$ENV{'PBPROJ'}}) && ($testver->{$ENV{'PBPROJ'}} =~ /true/i)) {
1207                        # This is a test website => target dir is under test
1208                        $tdir = $sshdir->{$ENV{'PBPROJ'}}."/../test";
1209                }
1210        } elsif ($cmt eq "Packages") {
1211                $tdir = $sshdir->{$ENV{'PBPROJ'}}."/$ddir/$dver";
1212
1213                if ((defined $testver) && (defined $testver->{$ENV{'PBPROJ'}}) && ($testver->{$ENV{'PBPROJ'}} =~ /true/i)) {
1214                        # This is a test pkg => target dir is under test
1215                        $tdir = $sshdir->{$ENV{'PBPROJ'}}."/test/$ddir/$dver";
1216                }
1217
1218                my $repodir = $tdir;
1219                $repodir =~ s|^$sshdir->{$ENV{'PBPROJ'}}/||;
1220
1221                my ($pbrepo) = pb_conf_get("pbrepo");
1222
1223                # Repository management
1224                open(PBS,"> $ENV{'PBBUILDDIR'}/pbscript") || die "Unable to create $ENV{'PBBUILDDIR'}/pbscript";
1225                if ($dtype eq "rpm") {
1226                        # Also make a pbscript to generate yum/urpmi bases
1227                        print PBS << "EOF";
1228#!/bin/bash
1229# Prepare a script to ease yum setup
1230cat > $ENV{'PBPROJ'}.repo << EOT
1231[$ENV{'PBPROJ'}]
1232name=$ddir $dver - $ENV{'PBPROJ'} Vanilla Packages
1233baseurl=$pbrepo->{$ENV{'PBPROJ'}}/$repodir
1234enabled=1
1235gpgcheck=0
1236EOT
1237chmod 644 $ENV{'PBPROJ'}.repo
1238
1239# Clean up old repo content
1240rm -rf headers/ repodata/
1241# Create yum repo
1242yum-arch .
1243# Create repodata
1244createrepo .
1245EOF
1246                        if ($dfam eq "md") {
1247                                # For Mandriva add urpmi management
1248                                print PBS << "EOF";
1249# Prepare a script to ease urpmi setup
1250cat > $ENV{'PBPROJ'}.addmedia << EOT
1251urpmi.addmedia $ENV{'PBPROJ'} $pbrepo->{$ENV{'PBPROJ'}}/$repodir with hdlist.cz
1252EOT
1253chmod 755 $ENV{'PBPROJ'}.addmedia
1254
1255# Clean up old repo content
1256rm -f hdlist.cz synthesis.hdlist.cz
1257# Create urpmi repo
1258genhdlist .
1259EOF
1260                        }
1261                        if ($ddir eq "fedora") {
1262                                # Extract the spec file to please Fedora maintainers :-(
1263                                print PBS << "EOF";
1264for p in $basesrc; do
1265        echo \$p | grep -q 'src.rpm'
1266        if [ \$\? -eq 0 ]; then
1267                rpm2cpio \$p | cpio -ivdum --quiet '*.spec'
1268        fi
1269done
1270EOF
1271                        }
1272                } elsif ($dtype eq "deb") {
1273                        # Also make a pbscript to generate apt bases
1274                        # Cf: http://www.debian.org/doc/manuals/repository-howto/repository-howto.fr.html
1275                        my $rpd = dirname("$pbrepo->{$ENV{'PBPROJ'}}/$repodir");
1276                        print PBS << "EOF";
1277#!/bin/bash
1278# Prepare a script to ease apt setup
1279cat > $ENV{'PBPROJ'}.sources.list << EOT
1280deb $rpd $dver contrib
1281deb-src $rpd $dver contrib
1282EOT
1283chmod 644 $ENV{'PBPROJ'}.sources.list
1284
1285# Prepare a script to create apt info file
1286(cd .. ; for a in i386 amd64 ia64; do mkdir -p dists/$dver/contrib/binary-\$a; dpkg-scanpackages -a\$a $dver /dev/null | gzip -c9 > dists/$dver/contrib/binary-\$a/Packages.gz; done; mkdir -p dists/$dver/contrib/source; dpkg-scansources $dver /dev/null | gzip -c9 > dists/$dver/contrib/source/Sources.gz)
1287#(cd .. ; rm -f dists/$dver/Release ; apt-ftparchive release dists/$dver > dists/$dver/Release; gpg --sign -ba -o dists/$dver/Release.gpg dists/$dver/Release)
1288EOF
1289                } elsif ($dtype eq "ebuild") {
1290                        # make a pbscript to generate links to latest version
1291                        print PBS << "EOF";
1292#!/bin/bash
1293# Prepare a script to create correct links
1294for p in $src; do
1295        echo \$p | grep -q '.ebuild'
1296        if [ \$\? -eq 0 ]; then
1297                j=`basename \$p`
1298                pp=`echo \$j | cut -d'-' -f1`
1299                ln -sf \$j \$pp.ebuild
1300        fi
1301done
1302EOF
1303                }
1304                close(PBS);
1305                chmod 0755,"$ENV{'PBBUILDDIR'}/pbscript";
1306        } else {
1307                return;
1308        }
1309
1310        # Useless for VE
1311        my $nport;
1312        if ($cmt !~ /^VE/) {
1313                $nport = $sshport->{$ENV{'PBPROJ'}};
1314                $nport = "$pbport" if (defined $pbport);
1315        }
1316
1317        # Remove a potential $ENV{'HOME'} as tdir should be relative to pb's home
1318        $tdir =~ s|\$ENV.+\}/||;
1319
1320        my $tm = $vtmout->{$ENV{'PBPROJ'}};
1321
1322        # ssh communication if not VE
1323        # should use a hash instead...
1324        my ($shcmd,$cpcmd,$cptarget,$cp2target);
1325        if ($cmt !~ /^VE/) {
1326                my $keyfile = pb_ssh_get(0);
1327                $shcmd = "ssh -i $keyfile -q -o UserKnownHostsFile=/dev/null -p $nport $mac";
1328                $cpcmd = "scp -i $keyfile -p -o UserKnownHostsFile=/dev/null -P $nport";
1329                $cptarget = "$mac:$tdir";
1330                if ($cmt =~ /^VM/) {
1331                        $cp2target = "$mac:$bdir";
1332                }
1333        } else {
1334                my $tp = $vepath->{$ENV{'PBPROJ'}};
1335                ($odir,$over,$oarch) = split(/-/,$v);
1336                my $tpdir = "$tp/$odir/$over/$oarch";
1337                my ($ptr) = pb_conf_get("vetype");
1338                my $vetype = $ptr->{$ENV{'PBPROJ'}};
1339                if ($vetype eq "chroot") {
1340                        $shcmd = "sudo chroot $tpdir /bin/su - $mac -c ";
1341                        $cpcmd = "sudo cp -r ";
1342                } elsif ($vetype eq "schroot") {
1343                        $shcmd = "schroot $tp -u $mac -- ";
1344                        $cpcmd = "sudo cp -r ";
1345                }
1346                # We need to get the home dir of the target account to deliver in the right place
1347                open(PASS,"$tpdir/etc/passwd") || die "Unable to open $tpdir/etc/passwd";
1348                my $homedir = "";
1349                while (<PASS>) {
1350                        my ($c1,$c2,$c3,$c4,$c5,$c6,$c7) = split(/:/);
1351                        $homedir = $c6 if ($c1 =~ /^$mac$/);
1352                        pb_log(3,"Homedir: $homedir - account: $c6\n");
1353                }
1354                close(PASS);
1355                $cptarget = "$tpdir/$homedir/$tdir";
1356                if ($cmt eq "VEbuild") {
1357                        $cp2target = "$tpdir/$homedir/$bdir";
1358                }
1359                pb_log(2,"On VE using $cptarget as target dir to copy to\n");
1360        }
1361
1362        my $logres = "";
1363        # Do not touch when just announcing
1364        if ($cmt ne "Announce") {
1365                pb_system("$shcmd \"mkdir -p $tdir ; cd $tdir ; echo \'for i in $basesrc; do if [ -f \$i ]; then rm -f \$i; fi; done\ ; $cmd' | bash\"","Preparing $tdir on $cptarget");
1366        } else {
1367                $logres = "> ";
1368        }
1369        pb_system("cd $ENV{'PBBUILDDIR'} ; $cpcmd $src $cptarget 2> /dev/null","$cmt delivery in $cptarget");
1370
1371        # For VE we need to change the owner manually
1372        if ($cmt =~ /^VE/) {
1373                pb_system("$shcmd \"sudo chown -R $mac $tdir\"","Adapt owner in $tdir to $mac");
1374        }
1375
1376        pb_system("$shcmd \"echo \'cd $tdir ; if [ -x pbscript ]; then ./pbscript; fi ; rm -f ./pbscript\' | bash\"","Executing pbscript on $cptarget if needed","verbose");
1377        if ($cmt =~ /^V[EM]build/) {
1378                # Get back info on pkg produced, compute their name and get them from the VM
1379                pb_system("$cpcmd $cp2target/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'} $ENV{'PBBUILDDIR'} 2> /dev/null","Get package names in $cp2target");
1380                # For VE we need to change the owner manually
1381                if ($cmt eq "VEbuild") {
1382                        pb_system("sudo chown $UID $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}","Adapt owner in $tdir to $UID");
1383                }
1384                open(KEEP,"$ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}") || die "Unable to read $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}";
1385                my $src = <KEEP>;
1386                chomp($src);
1387                close(KEEP);
1388                $src =~ s/^ *//;
1389                pb_mkdir_p("$ENV{'PBBUILDDIR'}/$odir/$over");
1390                # Change pgben to make the next send2target happy
1391                my $made = "";
1392                open(KEEP,"> $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}") || die "Unable to write $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}";
1393                foreach my $p (split(/ +/,$src)) {
1394                        my $j = basename($p);
1395                        pb_system("$cpcmd $cp2target/\'$p\' $ENV{'PBBUILDDIR'}/$odir/$over 2> /dev/null","Package recovery of $j in $cp2target");
1396                        $made="$made $odir/$over/$j"; # if (($dtype ne "rpm") || ($j !~ /.src.rpm$/));
1397                }
1398                print KEEP "$made\n";
1399                close(KEEP);
1400                pb_system("$shcmd \"rm -rf $tdir $bdir\"","$cmt cleanup");
1401
1402                # Sign packages locally
1403                if ($dtype eq "rpm") {
1404                                #pb_system("rpm --addsign --define \'_signature gpg\' --define \'__gpg_sign_cmd /usr/bin/gpg --batch --no-verbose --no-armor --no-secmem-warning -u \"$ENV{'PBPACKAGER'}\" -sbo %{__signature_filename} %{__plaintext_filename} --use-agent\' $made","Signing RPM packages packages");
1405                } elsif ($dtype eq "deb") {
1406                                #pb_system("debsign $made","Signing DEB packages");
1407                } else {
1408                        pb_log(0,"I don't know yet how to sign packages for type $dtype. Please give feedback to dev team");
1409                }
1410
1411                # We want to send them to the ssh account so overwrite what has been done before
1412                undef $pbaccount;
1413                pb_log(2,"Before sending pkgs, vmexist: $vmexist, vmpid: $vmpid\n");
1414                pb_send2target("Packages",$odir."-".$over."-".$oarch,$vmexist,$vmpid);
1415                pb_rm_rf("$ENV{'PBBUILDDIR'}/$odir");
1416        }
1417        pb_log(2,"Before halt, vmexist: $vmexist, vmpid: $vmpid\n");
1418        if ((! $vmexist) && ($cmt =~ /^VM/)) {
1419                # If in setupvm then takes a snapshot just before halting
1420                if ($snapme != 0) {
1421                        my ($vmmonport,$vmtype) = pb_conf_get("vmmonport","vmtype");
1422                        # For monitoring control
1423                        if ((($vmtype->{$ENV{'PBPROJ'}}) eq "kvm") || (($vmtype->{$ENV{'PBPROJ'}}) eq "qemu")) {
1424                                use Net::Telnet;
1425                                my $t = new Net::Telnet (Timeout => 10, Host => "localhost", Port => $vmmonport->{$ENV{'PBPROJ'}}) || die "Unable to dialog on the monitor";
1426                                # move to monitor mode
1427                                my @lines = $t->cmd("c");
1428                                # Create a snapshot named pb
1429                                @lines = $t->cmd("savevm pb");
1430                                # Write the new status in the VM
1431                                @lines = $t->cmd("commit all");
1432                                # End
1433                                @lines = $t->cmd("quit");
1434                        }
1435                }
1436                pb_system("$shcmd \"sudo /sbin/halt -p \"; sleep $tm ; echo \'if [ -d /proc/$vmpid ]; then kill -9 $vmpid; fi \' | bash ; sleep 10","VM $v halt (pid $vmpid)");
1437        }
1438        if (($cmt =~ /^VE/) && ($snapme != 0)) {
1439                ($odir,$over,$oarch) = split(/-/,$v);
1440                my $tpdir = "$vepath->{$ENV{'PBPROJ'}}/$odir/$over/$oarch";
1441                pb_system("sudo tar cz -f $vepath->{$ENV{'PBPROJ'}}/$odir-$over-$oarch.tar.gz -C $tpdir .","Creating a snapshot of $tpdir");
1442        }
1443}
1444
1445sub pb_script2v {
1446        my $pbscript=shift;
1447        my $vtype=shift;
1448        my $pbforce=shift || 0; # Force stop of VM. Default not
1449        my $vm1=shift || undef; # Only that VM to treat
1450        my $snapme=shift || 0;  # Do we have to create a snapshot
1451        my $vm;
1452        my $all;
1453
1454        pb_log(2,"DEBUG: pb_script2v($pbscript,$vtype,$pbforce,".Dumper($vm1).",$snapme)\n");
1455        # Prepare the script to be executed on the VM
1456        # in $ENV{'PBDESTDIR'}/pbscript
1457        if ((defined $pbscript ) && ($pbscript ne "$ENV{'PBDESTDIR'}/pbscript")) {
1458                copy($pbscript,"$ENV{'PBDESTDIR'}/pbscript") || die "Unable to create $ENV{'PBDESTDIR'}/pbscript";
1459                chmod 0755,"$ENV{'PBDESTDIR'}/pbscript";
1460        }
1461
1462        if (not defined $vm1) {
1463                ($vm,$all) = pb_get2v($vtype);
1464        } else {
1465                @$vm = ($vm1);
1466        }
1467        my ($vmexist,$vmpid) = (undef,undef);
1468
1469        foreach my $v (@$vm) {
1470                # Launch VM/VE - Usage of snapshot disabled
1471                ($vmexist,$vmpid) = pb_launchv($vtype,$v,0,$snapme,0);
1472
1473                if ($vtype eq "vm") {
1474                        pb_log(2,"DEBUG: After pb_launchv, vmexist: $vmexist, vmpid: $vmpid\n");
1475
1476                        # Skip that VM if something went wrong
1477                        next if (($vmpid == 0) && ($vmexist == 0));
1478
1479                        # If force stopping the VM then reset vmexist
1480                        if ($pbforce == 1) {
1481                                $vmpid = $vmexist;
1482                                $vmexist = 0;
1483                        }
1484                } else {
1485                        #VE
1486                        $vmexist = 0;
1487                        $vmpid = 0;
1488                }
1489
1490                # Gather all required files to send them to the VM
1491                # and launch the build through pbscript
1492                pb_log(2,"DEBUG: Before send2target, vmexist: $vmexist, vmpid: $vmpid\n");
1493                pb_send2target(uc($vtype)."Script","$v",$vmexist,$vmpid,$snapme);
1494
1495        }
1496}
1497
1498sub pb_launchv {
1499        my $vtype = shift;
1500        my $v = shift;
1501        my $create = shift || 0;                # By default do not create a VM/VE
1502        my $snapme = shift || 0;                # By default do not snap a VM/VE
1503        my $usesnap = shift || 1;               # By default study the usage of the snapshot feature of VM/VE
1504
1505        # If creation or snapshot creation mode, no snapshot usable
1506        if (($create == 1) || ($snapme == 1)) {
1507                $usesnap = 0;
1508        }
1509
1510        pb_log(2,"DEBUG: pb_launchv($vtype,$v,$create,$snapme,$usesnap)\n");
1511        die "No VM/VE defined, unable to launch" if (not defined $v);
1512        # Keep only the first VM in case many were given
1513        $v =~ s/,.*//;
1514
1515        my $arch = pb_get_arch();
1516
1517        # Launch the VMs/VEs
1518        if ($vtype eq "vm") {
1519                die "-i iso parameter needed" if (((not defined $iso) || ($iso eq "")) && ($create != 0));
1520
1521                my ($ptr,$vmpath,$vmport,$vmsize,$vmmonport) = pb_conf_get("vmtype","vmpath","vmport","vmsize","vmmonport");
1522                my ($vmopt,$vmtmout,$vmsnap) = pb_conf_get_if("vmopt","vmtmout","vmsnap");
1523
1524                my $vmtype = $ptr->{$ENV{'PBPROJ'}};
1525                if (not defined $ENV{'PBVMOPT'}) {
1526                        $ENV{'PBVMOPT'} = "";
1527                }
1528                # Save the current status for later restoration
1529                $ENV{'PBOLDVMOPT'} = $ENV{'PBVMOPT'};
1530                # Set a default timeout of 2 minutes
1531                if (not defined $ENV{'PBVMTMOUT'}) {
1532                        $ENV{'PBVMTMOUT'} = "120";
1533                }
1534                if (defined $vmopt->{$v}) {
1535                        $ENV{'PBVMOPT'} .= " $vmopt->{$v}" if ($ENV{'PBVMOPT'} !~ / $vmopt->{$v}/);
1536                } elsif (defined $vmopt->{$ENV{'PBPROJ'}}) {
1537                        $ENV{'PBVMOPT'} .= " $vmopt->{$ENV{'PBPROJ'}}" if ($ENV{'PBVMOPT'} !~ / $vmopt->{$ENV{'PBPROJ'}}/);
1538                }
1539
1540                # Are we allowed to use snapshot feature
1541                if ($usesnap == 1) {
1542                        if ((defined $vmsnap->{$v}) && ($vmsnap->{$v} =~ /true/i)) {
1543                                $ENV{'PBVMOPT'} .= "-snapshot ";
1544                        } elsif ((defined $vmsnap->{$ENV{'PBPROJ'}}) && ($vmsnap->{$ENV{'PBPROJ'}} =~ /true/i)) {
1545                                $ENV{'PBVMOPT'} .= "-snapshot ";
1546                        } elsif ($pbsnap eq 1) {
1547                                $ENV{'PBVMOPT'} .= "-snapshot ";
1548                        }
1549                } 
1550                if ($snapme != 0) {
1551                        if (($vmtype eq "kvm") || ($vmtype eq "qemu")) {
1552                                # Configure the monitoring to automize the creation of the 'pb' snapshot
1553                                $ENV{'PBVMOPT'} .= "-serial mon:telnet::$vmmonport->{$ENV{'PBPROJ'}},server,nowait ";
1554                                # In that case no snapshot call needed
1555                                $ENV{'PBVMOPT'} =~ s/-snapshot //;
1556                        }
1557                }
1558                if (defined $vmtmout->{$v}) {
1559                        $ENV{'PBVMTMOUT'} = $vmtmout->{$v};
1560                } elsif (defined $vmtmout->{$ENV{'PBPROJ'}}) {
1561                        $ENV{'PBVMTMOUT'} = $vmtmout->{$ENV{'PBPROJ'}};
1562                }
1563                my $nport = $vmport->{$ENV{'PBPROJ'}};
1564                $nport = "$pbport" if (defined $pbport);
1565       
1566                my $cmd;
1567                my $vmcmd;              # has to be used for pb_check_ps
1568                my $vmm;                # has to be used for pb_check_ps
1569                if (($vmtype eq "qemu") || ($vmtype eq "kvm")) {
1570                        my $qemucmd32;
1571                        my $qemucmd64;
1572                        if ($arch eq "x86_64") {
1573                                $qemucmd32 = "/usr/bin/qemu-system-i386";
1574                                $qemucmd64 = "/usr/bin/qemu";
1575                        } else {
1576                                $qemucmd32 = "/usr/bin/qemu";
1577                                $qemucmd64 = "/usr/bin/qemu-system-x86_64";
1578                        }
1579                        if ($v =~ /x86_64/) {
1580                                        $vmcmd = "$qemucmd64";
1581                                } else {
1582                                        $vmcmd = "$qemucmd32";
1583                                }
1584                        if ($vmtype eq "kvm") {
1585                                $vmcmd = "/usr/bin/kvm";
1586                                }
1587                        $vmm = "$vmpath->{$ENV{'PBPROJ'}}/$v.qemu";
1588                        if ($create != 0) {
1589                                $ENV{'PBVMOPT'} .= " -cdrom $iso -boot d";
1590                        }
1591                        # Always redirect the network and always try to use a 'pb' snapshot
1592                        $cmd = "$vmcmd $ENV{'PBVMOPT'} -redir tcp:$nport:10.0.2.15:22 -loadvm pb $vmm"
1593                } elsif ($vmtype eq "xen") {
1594                } elsif ($vmtype eq "vmware") {
1595                } else {
1596                        die "VM of type $vmtype not supported. Report to the dev team";
1597                }
1598                # Restore the ENV VAR Value
1599                $ENV{'PBVMOPT'} = $ENV{'PBOLDVMOPT'};
1600
1601                my ($tmpcmd,$void) = split(/ +/,$cmd);
1602                my $vmexist = pb_check_ps($tmpcmd,$vmm);
1603                my $vmpid = 0;
1604                if (! $vmexist) {
1605                        if ($create != 0) {
1606                                die("Found an existing Virtual machine $vmm. Won't overwrite") if (-r $vmm);
1607                                if (($vmtype eq "qemu") || ($vmtype eq "xen") || ($vmtype eq "kvm")) {
1608                                        pb_system("/usr/bin/qemu-img create -f qcow2 $vmm $vmsize->{$ENV{'PBPROJ'}}","Creating the QEMU VM");
1609                                } elsif ($vmtype eq "vmware") {
1610                                } else {
1611                                }
1612                        }
1613                        if (! -f "$vmm") {
1614                                pb_log(0,"Unable to find VM $vmm\n");
1615                        } else {
1616                                pb_system("$cmd &","Launching the VM $vmm");
1617                                pb_system("sleep $ENV{'PBVMTMOUT'}","Waiting $ENV{'PBVMTMOUT'} s for VM $v to come up");
1618                                $vmpid = pb_check_ps($tmpcmd,$vmm);
1619                                pb_log(0,"VM $vmm launched (pid $vmpid)\n");
1620                        }
1621                } else {
1622                        pb_log(0,"Found an existing VM $vmm (pid $vmexist)\n");
1623                }
1624                pb_log(2,"DEBUG: pb_launchv returns ($vmexist,$vmpid)\n");
1625                return($vmexist,$vmpid);
1626        # VE here
1627        } else {
1628                # Get VE context
1629                my ($ptr,$vetmout,$vepath,$verebuild,$veconf,$vepostinstall) = pb_conf_get("vetype","vetmout","vepath","verebuild","veconf");
1630                my ($veb4pi,$vepi,$vepkglist,$vesnap) = pb_conf_get_if("veb4pi","vepi","vepkglist","vesnap");
1631                my $vetype = $ptr->{$ENV{'PBPROJ'}};
1632
1633                # Get distro context
1634                my ($name,$ver,$darch) = split(/-/,$v);
1635                chomp($darch);
1636                my ($ddir, $dver, $dfam, $dtype, $pbsuf) = pb_distro_init($name,$ver,$darch);
1637
1638                if (($vetype eq "chroot") || ($vetype eq "schroot")) {
1639                        # Architecture consistency
1640                        if ($arch ne $darch) {
1641                                die "Unable to launch a VE of architecture $darch on a $arch platform" if (($darch eq "x86_64") && ($arch =~ /i?86/));
1642                        }
1643
1644                        my ($verpmtype) = pb_conf_get("verpmtype");
1645                        if (($create != 0) || ($verebuild->{$ENV{'PBPROJ'}} eq "true") || ($pbforce == 1)) {
1646                                # We have to rebuild the chroot
1647                                if ($dtype eq "rpm") {
1648
1649                                        my $verpmstyle = pb_distro_get_param($ddir,$dver,$darch,$verpmtype);
1650                                        if ($verpmstyle eq "rinse") {
1651                                                # Need to reshape the mirrors generated with local before-post-install script
1652                                                my $b4post = "--before-post-install ";
1653                                                my $postparam = pb_distro_get_param($ddir,$dver,$darch,$veb4pi);
1654                                                if ($postparam eq "") {
1655                                                        $b4post = "";
1656                                                } else {
1657                                                        $b4post .= $postparam;
1658                                                }
1659                                                # Do we have a local post-install script
1660                                                my $post = "--post-install ";
1661                                                $postparam = pb_distro_get_param($ddir,$dver,$darch,$vepi);
1662                                                if ($postparam eq "") {
1663                                                        $post = "";
1664                                                } else {
1665                                                        $post .= $postparam;
1666                                                }
1667
1668                                                # Need to reshape the package list for pb
1669                                                my $addpkgs;
1670                                                $postparam = pb_distro_get_param($ddir,$dver,$darch,$vepkglist);
1671                                                if ($postparam eq "") {
1672                                                        $addpkgs = "";
1673                                                } else {
1674                                                        my $pkgfile = "$ENV{'PBTMP'}/addpkgs.lis";
1675                                                        open(PKG,"> $pkgfile") || die "Unable to create $pkgfile";
1676                                                        foreach my $p (split(/,/,$postparam)) {
1677                                                                print PKG "$p\n";
1678                                                        }
1679                                                        close(PKG);
1680                                                        $addpkgs = "--add-pkg-list $pkgfile";
1681                                                }
1682                                                my $rinseverb = "";
1683                                                $rinseverb = "--verbose" if ($pbdebug gt 0);
1684
1685                                                pb_system("sudo /usr/sbin/rinse --directory \"$vepath->{$ENV{'PBPROJ'}}/$ddir/$dver/$darch\" --arch \"$darch\" --distribution \"$ddir-$dver\" --config \"$veconf->{$ENV{'PBPROJ'}}\" $b4post $post $addpkgs $rinseverb","Creating the rinse VE for $ddir-$dver ($darch)", "verbose");
1686                                        } elsif ($verpmstyle eq "mock") {
1687                                                pb_system("sudo /usr/sbin/mock --init --resultdir=\"/tmp\" --configdir=\"$veconf->{$ENV{'PBPROJ'}}\" -r $v","Creating the mock VE for $ddir-$dver ($darch)");
1688                                                # Once setup we need to install some packages, the pb account, ...
1689                                                pb_system("sudo /usr/sbin/mock --install --configdir=\"$veconf->{$ENV{'PBPROJ'}}\" -r $v su","Configuring the mock VE");
1690                                        }
1691                                } elsif ($dtype eq "deb") {
1692                                        pb_system("","Creating the pbuilder VE TBD");
1693                                } elsif ($dtype eq "ebuild") {
1694                                        die "Please teach the dev team how to build gentoo chroot";
1695                                } else {
1696                                        die "Unknown distribution type $dtype. Report to dev team";
1697                                }
1698                        }
1699                        # Test if an existing snapshot exists and use it if appropriate
1700                        # And also use it of no local extracted VE is present
1701                        if ((-f "$vepath->{$ENV{'PBPROJ'}}/$ddir-$dver-$darch.tar.gz") &&
1702                                (((defined $vesnap->{$v}) && ($vesnap->{$v} =~ /true/i)) ||
1703                                        ((defined $vesnap->{$ENV{'PBPROJ'}}) && ($vesnap->{$ENV{'PBPROJ'}} =~ /true/i)) ||
1704                                        ($pbsnap eq 1) ||
1705                                        (! -d "$vepath->{$ENV{'PBPROJ'}}/$ddir/$dver/$darch"))) {
1706                                                pb_system("sudo rm -rf $vepath->{$ENV{'PBPROJ'}}/$ddir/$dver/$darch ; sudo mkdir -p $vepath->{$ENV{'PBPROJ'}}/$ddir/$dver/$darch ; sudo tar xz  -C $vepath->{$ENV{'PBPROJ'}}/$ddir/$dver/$darch -f $vepath->{$ENV{'PBPROJ'}}/$ddir-$dver-$darch.tar.gz","Extracting snapshot of $ddir-$dver-$darch.tar.gz under $vepath->{$ENV{'PBPROJ'}}/$ddir/$dver/$darch");
1707                        }
1708                        # Nothing more to do for VE. No real launch
1709                } else {
1710                        die "VE of type $vetype not supported. Report to the dev team";
1711                }
1712        }
1713}
1714
1715# Return string for date synchro
1716sub pb_date2v {
1717
1718my $vtype = shift;
1719my $v = shift;
1720
1721my ($ntp) = pb_conf_get($vtype."ntp");
1722my $vntp = $ntp->{$ENV{'PBPROJ'}};
1723my $ntpline;
1724
1725if (defined $vntp) {
1726        my ($ntpcmd) = pb_conf_get($vtype."ntpcmd");
1727        my $vntpcmd;
1728        if (defined $ntpcmd->{$v}) {
1729                $vntpcmd = $ntpcmd->{$v};
1730        } elsif (defined $ntpcmd->{$ENV{'PBPROJ'}}) {
1731                $vntpcmd = $ntpcmd->{$ENV{'PBPROJ'}};
1732        } else {
1733                $vntpcmd = "/bin/true";
1734        }
1735        $ntpline = "sudo $vntpcmd $vntp";
1736} else {
1737        $ntpline = undef;
1738}
1739# Force new date to be in the future compared to the date
1740# of the host by adding 1 minute
1741my @date=pb_get_date();
1742$date[1]++;
1743my $upddate = strftime("%m%d%H%M%Y", @date);
1744my $dateline = "sudo date $upddate";
1745return($ntpline,$dateline);
1746}
1747
1748sub pb_build2v {
1749
1750my $vtype = shift;
1751my $action = shift || "build";
1752
1753my ($v,$all) = pb_get2v($vtype);
1754
1755# Send tar files when we do a global generation
1756pb_build2ssh() if (($all == 1) && ($action eq "build"));
1757
1758my ($vmexist,$vmpid) = (undef,undef);
1759
1760foreach my $v (@$v) {
1761        # Prepare the script to be executed on the VM/VE
1762        # in $ENV{'PBDESTDIR'}/pbscript
1763        open(SCRIPT,"> $ENV{'PBDESTDIR'}/pbscript") || die "Unable to create $ENV{'PBDESTDIR'}/pbscript";
1764        print SCRIPT "#!/bin/bash\n";
1765
1766        # Transmit the verbosity level to the virtual env/mach.
1767        my $verbose = "";
1768        my $i = 0;                                                      # minimal debug level
1769        while ($i lt $pbdebug) {
1770                $verbose .= "-v ";
1771                $i++;
1772        }
1773        # Activate script verbosity if at least 2 for pbdebug
1774        print SCRIPT "set -x\n" if ($i gt 1);
1775        # Quiet if asked to be so on the original system
1776        $verbose = "-q" if ($pbdebug eq -1);
1777
1778        print SCRIPT "echo ... Execution needed\n";
1779        print SCRIPT "# This is in directory delivery\n";
1780        print SCRIPT "# Setup the variables required for building\n";
1781        print SCRIPT "export PBPROJ=$ENV{'PBPROJ'}\n";
1782
1783        if ($action eq "build") {
1784                print SCRIPT "# Preparation for pb\n";
1785                print SCRIPT "mv .pbrc \$HOME\n";
1786                print SCRIPT "cd ..\n";
1787        }
1788
1789        # VE needs a good /proc
1790        if ($vtype eq "ve") {
1791                print SCRIPT "sudo mount -t proc /proc /proc\n";
1792        }
1793
1794        my ($ntpline,$dateline) = pb_date2v($vtype,$v);
1795        print SCRIPT "# Time sync\n";
1796        print SCRIPT "echo 'setting up date with '";
1797        if (defined $ntpline) {
1798                print SCRIPT "echo $ntpline\n";
1799                print SCRIPT "$ntpline\n";
1800        } else {
1801                print SCRIPT "echo $dateline\n";
1802                print SCRIPT "$dateline\n";
1803        }
1804        # Use potential local proxy declaration in case we need it to download repo, pkgs, ...
1805        if (defined $ENV{'http_proxy'}) {
1806                print SCRIPT "export http_proxy=\"$ENV{'http_proxy'}\"\n";
1807        }
1808
1809        if (defined $ENV{'ftp_proxy'}) {
1810                print SCRIPT "export ftp_proxy=\"$ENV{'ftp_proxy'}\"\n";
1811        }
1812
1813        # Get list of packages to build/test and get some ENV vars as well
1814        my $ptr = pb_get_pkg();
1815        @pkgs = @$ptr;
1816        my $p = join(' ',@pkgs) if (@pkgs);
1817        print SCRIPT "export PBPROJVER=$ENV{'PBPROJVER'}\n";
1818        print SCRIPT "export PBPROJTAG=$ENV{'PBPROJTAG'}\n";
1819        print SCRIPT "export PBPACKAGER=\"$ENV{'PBPACKAGER'}\"\n";
1820
1821        # We may need to do some other tasks before building. Read a script here to finish setup
1822        if (-x "$ENV{'PBDESTDIR'}/pb$vtype".".pre") {
1823                print SCRIPT "# Special pre-instructions to be launched\n";
1824                print SCRIPT pb_get_content("$ENV{'PBDESTDIR'}/pb$vtype".".pre");
1825        }
1826
1827        if (-x "$ENV{'PBDESTDIR'}/pb$vtype"."$action.pre") {
1828                print SCRIPT "# Special pre-$action instructions to be launched\n";
1829                print SCRIPT pb_get_content("$ENV{'PBDESTDIR'}/pb$vtype"."$action.pre");
1830        }
1831
1832        print SCRIPT "# $action\n";
1833        print SCRIPT "echo $action"."ing packages on $vtype...\n";
1834
1835        if (($action eq "test") && (! -x "$ENV{'PBDESTDIR'}/pbtest")) {
1836                        die "No test script ($ENV{'PBDESTDIR'}/pbtest) found when in test mode. Aborting ...";
1837        }
1838        print SCRIPT "pb $verbose -p $ENV{'PBPROJ'} $action"."2pkg $p\n";
1839
1840        if ($vtype eq "ve") {
1841                print SCRIPT "sudo umount /proc\n";
1842        }
1843
1844        # We may need to do some other tasks after building. Read a script here to exit properly
1845        if (-x "$ENV{'PBDESTDIR'}/pb$vtype"."$action.post") {
1846                print SCRIPT "# Special post-$action instructions to be launched\n";
1847                print SCRIPT pb_get_content("$ENV{'PBDESTDIR'}/pb$vtype"."$action.post");
1848        }
1849
1850        if (-x "$ENV{'PBDESTDIR'}/pb$vtype".".post") {
1851                print SCRIPT "# Special post-instructions to be launched\n";
1852                print SCRIPT pb_get_content("$ENV{'PBDESTDIR'}/pb$vtype".".post");
1853        }
1854
1855        close(SCRIPT);
1856        chmod 0755,"$ENV{'PBDESTDIR'}/pbscript";
1857       
1858        # Launch the VM/VE
1859        ($vmexist,$vmpid) = pb_launchv($vtype,$v,0);
1860
1861        if ($vtype eq "vm") {
1862                # Skip that VM if it something went wrong
1863                next if (($vmpid == 0) && ($vmexist == 0));
1864        } else {
1865                # VE
1866                $vmexist = 0;
1867                $vmpid = 0;
1868        }
1869        # Gather all required files to send them to the VM/VE
1870        # and launch the build through pbscript
1871        pb_log(2,"Calling send2target $vtype,$v,$vmexist,$vmpid\n");
1872        pb_send2target(uc($vtype).$action,"$v",$vmexist,$vmpid);
1873}
1874}
1875
1876
1877sub pb_clean {
1878
1879        my $sleep=10;
1880        die "Unable to get env var PBDESTDIR" if (not defined $ENV{'PBDESTDIR'});
1881        die "Unable to get env var PBBUILDDIR" if (not defined $ENV{'PBBUILDDIR'});
1882        pb_log(0,"We will now wait $sleep s before removing both directories\n$ENV{'PBDESTDIR'} and $ENV{'PBBUILDDIR'}.\nPlease break me if this is wrong\n");
1883        sleep $sleep;
1884        pb_rm_rf($ENV{'PBDESTDIR'});
1885        pb_rm_rf($ENV{'PBBUILDDIR'});
1886}
1887
1888sub pb_newver {
1889
1890        die "-V Version parameter needed" if ((not defined $newver) || ($newver eq ""));
1891
1892        # Need this call for PBDIR
1893        my ($scheme2,$uri) = pb_cms_init($pbinit);
1894
1895        my ($pbconf) = pb_conf_get("pbconfurl");
1896        $uri = $pbconf->{$ENV{'PBPROJ'}};
1897        my ($scheme, $account, $host, $port, $path) = pb_get_uri($uri);
1898
1899        # Checking CMS repositories status
1900        my ($pburl) = pb_conf_get("pburl");
1901        ($scheme2, $account, $host, $port, $path) = pb_get_uri($pburl->{$ENV{'PBPROJ'}});
1902
1903        if ($scheme !~ /^svn/) {
1904                die "Only SVN is supported at the moment";
1905        }
1906
1907        my $res = pb_cms_isdiff($scheme,$ENV{'PBROOTDIR'});
1908        die "ERROR: No differences accepted in CMS for $ENV{'PBROOTDIR'} before creating a new version" if ($res != 0);
1909
1910        $res = pb_cms_isdiff($scheme2,$ENV{'PBDIR'});
1911        die "ERROR: No differences accepted in CMS for $ENV{'PBDIR'} before creating a new version" if ($res != 0);
1912
1913        # Tree identical between PBCONFDIR and PBROOTDIR. The delta is what
1914        # we want to get for the root of the new URL
1915
1916        my $tmp = $ENV{'PBROOTDIR'};
1917        $tmp =~ s|^$ENV{'PBCONFDIR'}||;
1918
1919        my $newurl = "$uri/".dirname($tmp)."/$newver";
1920        # Should probably use projver in the old file
1921        my $oldver= basename($tmp);
1922
1923        # Duplicate and extract project-builder part
1924        pb_log(2,"Copying $uri/$tmp to $newurl\n");
1925        pb_cms_copy($scheme,"$uri/$tmp",$newurl);
1926        pb_log(2,"Checkout $newurl to $ENV{'PBROOTDIR'}/../$newver\n");
1927        pb_cms_up($scheme,"$ENV{'PBCONFDIR'}/..");
1928
1929        # Duplicate and extract project
1930        my $newurl2 = "$pburl->{$ENV{'PBPROJ'}}/".dirname($tmp)."/$newver";
1931
1932        pb_log(2,"Copying $pburl->{$ENV{'PBPROJ'}}/$tmp to $newurl2\n");
1933        pb_cms_copy($scheme2,"$pburl->{$ENV{'PBPROJ'}}/$tmp",$newurl2);
1934        pb_log(2,"Checkout $newurl2 to $ENV{'PBDIR'}/../$newver\n");
1935        pb_cms_up($scheme2,"$ENV{'PBDIR'}/..");
1936
1937        # Update the .pb file
1938        open(FILE,"$ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb") || die "Unable to open $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb";
1939        open(OUT,"> $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb.new") || die "Unable to write to $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb.new";
1940        while(<FILE>) {
1941                s/^projver\s+$ENV{'PBPROJ'}\s*=\s*$oldver/projver $ENV{'PBPROJ'} = $newver/;
1942                pb_log(0,"Changing projver from $oldver to $newver in $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb\n") if (/^projver\s+$ENV{'PBPROJ'}\s*=\s*$oldver/);
1943                s/^testver/#testver/;
1944                pb_log(0,"Commenting testver in $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb\n") if (/^testver/);
1945                print OUT $_;
1946        }
1947        close(FILE);
1948        close(OUT);
1949        rename("$ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb.new","$ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb");
1950
1951        # Checking pbcl files
1952        foreach my $f (<$ENV{'PBROOTDIR'}/*/pbcl>) {
1953                # Compute new pbcl file
1954                my $f2 = $f;
1955                $f2 =~ s|$ENV{'PBROOTDIR'}|$ENV{'PBROOTDIR'}/../$newver/|;
1956                open(PBCL,$f) || die "Unable to open $f";
1957                my $foundnew = 0;
1958                while (<PBCL>) {
1959                        $foundnew = 1 if (/^$newver \(/);
1960                }
1961                close(PBCL);
1962                open(OUT,"> $f2") || die "Unable to write to $f2: $!";
1963                open(PBCL,$f) || die "Unable to open $f";
1964                while (<PBCL>) {
1965                        print OUT "$_" if (not /^$oldver \(/);
1966                        if ((/^$oldver \(/) && ($foundnew == 0)) {
1967                                print OUT "$newver ($pbdate)\n";
1968                                print OUT "- TBD\n";
1969                                print OUT "\n";
1970                                pb_log(0,"WARNING: version $newver not found in $f so added to $f2...\n") if ($foundnew == 0);
1971                        }
1972                }
1973                close(OUT);
1974                close(PBCL);
1975        }
1976
1977        pb_log(2,"Checkin $ENV{'PBROOTDIR'}/../$newver\n");
1978        pb_cms_checkin($scheme,"$ENV{'PBROOTDIR'}/../$newver",undef);
1979}
1980
1981#
1982# Return the list of VMs/VEs we are working on
1983# $all is a flag to know if we return all of them
1984# or only some (if all we publish also tar files in addition to pkgs
1985#
1986sub pb_get2v {
1987
1988my $vtype = shift;
1989my @v;
1990my $all = 0;
1991my $vlist;
1992my $pbv = 'PBV';
1993
1994if ($vtype eq "vm") {
1995        $vlist = "vmlist";
1996} elsif ($vtype eq "ve") {
1997        $vlist = "velist";
1998}
1999# Get VM/VE list
2000if ((not defined $ENV{$pbv}) || ($ENV{$pbv} =~ /^all$/)) {
2001        my ($ptr) = pb_conf_get($vlist);
2002        $ENV{$pbv} = $ptr->{$ENV{'PBPROJ'}};
2003        $all = 1;
2004}
2005pb_log(2,"$vtype: $ENV{$pbv}\n");
2006@v = split(/,/,$ENV{$pbv});
2007return(\@v,$all);
2008}
2009
2010# Function to create a potentialy missing pb account on the VM/VE, and adds it to sudo
2011# Needs to use root account to connect to the VM/VE
2012# pb will take your local public SSH key to access
2013# the pb account in the VM later on if needed
2014sub pb_setup2v {
2015
2016my $vtype = shift;
2017
2018my ($vm,$all) = pb_get2v($vtype);
2019
2020# Script generated
2021my $pbscript = "$ENV{'PBDESTDIR'}/setupv";
2022
2023foreach my $v (@$vm) {
2024        # Deal with date sync.
2025        my ($ntpline,$dateline) = pb_date2v($vtype,$v);
2026
2027        # Name of the account to deal with for VM/VE
2028        # Do not use the one passed potentially with -a
2029        my ($pbac) = pb_conf_get($vtype."login");
2030        my ($key,$zero0,$zero1,$zero2);
2031        my ($vmexist,$vmpid);
2032
2033        # Prepare the script to be executed on the VM/VE
2034        # in $ENV{'PBDESTDIR'}/setupv
2035        open(SCRIPT,"> $pbscript") || die "Unable to create $pbscript";
2036       
2037        print SCRIPT << 'EOF';
2038#!/usr/bin/perl -w
2039
2040use strict;
2041use File::Copy;
2042
2043# We should not need in this script more functions than what is provided
2044# by Base and Distribution to avoid problems at exec time.
2045# They are appended at the end.
2046
2047our $pbdebug;
2048our $pbLOG;
2049our $pbsynmsg = "pbscript";
2050our $pbdisplaytype = "text";
2051our $pblocale = "";
2052pb_log_init($pbdebug, $pbLOG);
2053pb_temp_init();
2054
2055EOF
2056
2057        # Launch the VM/VE - Usage of snapshot disabled
2058        ($vmexist,$vmpid) = pb_launchv($vtype,$v,0,0,0);
2059
2060        if ($vtype eq "vm") {
2061                # Prepare the key to be used and transfered remotely
2062                my $keyfile = pb_ssh_get(1);
2063               
2064                my ($vmhost,$vmport,$vmntp) = pb_conf_get("vmhost","vmport","vmntp");
2065                my $nport = $vmport->{$ENV{'PBPROJ'}};
2066                $nport = "$pbport" if (defined $pbport);
2067       
2068                # Skip that VM if something went wrong
2069                next if (($vmpid == 0) && ($vmexist == 0));
2070       
2071                # Store the pub key part in a variable
2072                open(FILE,"$keyfile.pub") || die "Unable to open $keyfile.pub";
2073                ($zero0,$zero1,$zero2) = split(/ /,<FILE>);
2074                close(FILE);
2075
2076                $key = "\Q$zero1";
2077
2078                pb_system("cat $keyfile.pub | ssh -q -o UserKnownHostsFile=/dev/null -p $nport -i $keyfile root\@$vmhost->{$ENV{'PBPROJ'}} \"mkdir -p .ssh ; chmod 700 .ssh ; cat >> .ssh/authorized_keys ; chmod 600 .ssh/authorized_keys\"","Copying local keys to $vtype. This may require the root password");
2079                # once this is done, we can do what we want on the VM remotely
2080        } elsif ($vtype eq "ve") {
2081                # We need to finish the setup of packages needed in the VE if needed
2082                # rinse at least needs it
2083                my ($vepkglist) = pb_conf_get_if("vepkglist");
2084
2085                if (defined $vepkglist) {
2086                        # Get distro context
2087                        my ($name,$ver,$darch) = split(/-/,$v);
2088                        chomp($darch);
2089                        my ($ddir, $dver, $dfam, $dtype, $pbsuf, $pbupd) = pb_distro_init($name,$ver,$darch);
2090       
2091                        my $postparam = pb_distro_get_param($ddir,$dver,$darch,$vepkglist);
2092                        # Change the list of pkg in to a space separated list
2093                        $postparam =~ s/,/ /g;
2094                        # remove potential sudo from the update command for this time,
2095                        # as this will be run as root anyway, and if not we will have
2096                        # a problem with tty
2097                        $pbupd =~ s/sudo //g;
2098
2099                        print SCRIPT << "EOF";
2100# For VE we first need to mount some FS
2101pb_system("mount -t proc /proc /proc");
2102
2103# For VE we need a good null dev
2104pb_system("rm -f /dev/null; mknod /dev/null c 1 3; chmod 777 /dev/null");
2105
2106
2107# For VE we need some additional packages that are not there yet
2108pb_system("$pbupd $postparam");
2109
2110EOF
2111                }
2112        }
2113        if ($vtype eq "vm") {
2114                print SCRIPT << 'EOF';
2115# Removes duplicate in .ssh/authorized_keys of our key if needed
2116#
2117my $file1="$ENV{'HOME'}/.ssh/authorized_keys";
2118open(PBFILE,$file1) || die "Unable to open $file1";
2119open(PBOUT,"> $file1.new") || die "Unable to open $file1.new";
2120my $count = 0;
2121while (<PBFILE>) {
2122
2123EOF
2124                print SCRIPT << "EOF";
2125        if (/ $key /) {
2126                \$count++;
2127        }
2128print PBOUT \$_ if ((\$count <= 1) || (\$_ !~ / $key /));
2129}
2130close(PBFILE);
2131close(PBOUT);
2132rename("\$file1.new",\$file1);
2133chmod 0600,\$file1;
2134
2135# Sync date
2136EOF
2137                if (defined $ntpline) {
2138                        print SCRIPT "system(\"$ntpline\");\n";
2139                } else {
2140                        print SCRIPT "system(\"$dateline\");\n";
2141                }
2142        }
2143        print SCRIPT << 'EOF';
2144
2145# Adds $pbac->{$ENV{'PBPROJ'}} as an account if needed
2146#
2147my $file="/etc/passwd";
2148open(PBFILE,$file) || die "Unable to open $file";
2149my $found = 0;
2150while (<PBFILE>) {
2151EOF
2152        print SCRIPT << "EOF";
2153        \$found = 1 if (/^$pbac->{$ENV{'PBPROJ'}}:/);
2154EOF
2155        print SCRIPT << 'EOF';
2156}
2157close(PBFILE);
2158
2159if ( $found == 0 ) {
2160        if ( ! -d "/home" ) {
2161                pb_mkdir("/home");
2162        }
2163EOF
2164        print SCRIPT << "EOF";
2165pb_system("groupadd $pbac->{$ENV{'PBPROJ'}}","Adding group $pbac->{$ENV{'PBPROJ'}}");
2166pb_system("useradd $pbac->{$ENV{'PBPROJ'}} -g $pbac->{$ENV{'PBPROJ'}} -m -d /home/$pbac->{$ENV{'PBPROJ'}}","Adding user $pbac->{$ENV{'PBPROJ'}} (group $pbac->{$ENV{'PBPROJ'}} - home /home/$pbac->{$ENV{'PBPROJ'}}");
2167}
2168EOF
2169
2170        if ($vtype eq "vm") {
2171                print SCRIPT << "EOF";
2172# allow ssh entry to build
2173#
2174mkdir "/home/$pbac->{$ENV{'PBPROJ'}}/.ssh",0700;
2175# Allow those accessing root to access the build account
2176copy("\$ENV{'HOME'}/.ssh/authorized_keys","/home/$pbac->{$ENV{'PBPROJ'}}/.ssh/authorized_keys");
2177chmod 0600,".ssh/authorized_keys";
2178pb_system("chown -R $pbac->{$ENV{'PBPROJ'}}:$pbac->{$ENV{'PBPROJ'}} /home/$pbac->{$ENV{'PBPROJ'}}","Finish setting up the account env for $pbac->{$ENV{'PBPROJ'}}");
2179
2180EOF
2181}
2182        print SCRIPT << 'EOF';
2183# No passwd for build account only keys
2184$file="/etc/shadow";
2185if (-f $file) {
2186        open(PBFILE,$file) || die "Unable to open $file";
2187        open(PBOUT,"> $file.new") || die "Unable to open $file.new";
2188        while (<PBFILE>) {
2189EOF
2190        print SCRIPT << "EOF";
2191                s/^$pbac->{$ENV{'PBPROJ'}}:\!\!:/$pbac->{$ENV{'PBPROJ'}}:*:/;
2192                s/^$pbac->{$ENV{'PBPROJ'}}:\!:/$pbac->{$ENV{'PBPROJ'}}:*:/;     #SLES 9 e.g.
2193EOF
2194                print SCRIPT << 'EOF';
2195                print PBOUT $_;
2196        }
2197        close(PBFILE);
2198        close(PBOUT);
2199        rename("$file.new",$file);
2200        chmod 0640,$file;
2201        }
2202
2203# Keep the VM in text mode
2204$file="/etc/inittab";
2205if (-f $file) {
2206        open(PBFILE,$file) || die "Unable to open $file";
2207        open(PBOUT,"> $file.new") || die "Unable to open $file.new";
2208        while (<PBFILE>) {
2209                s/^(..):5:initdefault:$/$1:3:initdefault:/;
2210                print PBOUT $_;
2211        }
2212        close(PBFILE);
2213        close(PBOUT);
2214        rename("$file.new",$file);
2215        chmod 0640,$file;
2216}
2217
2218# pb has to be added to portage group on gentoo
2219
2220# Adapt sudoers
2221$file="/etc/sudoers";
2222open(PBFILE,$file) || die "Unable to open $file";
2223open(PBOUT,"> $file.new") || die "Unable to open $file.new";
2224while (<PBFILE>) {
2225EOF
2226        print SCRIPT << "EOF";
2227        next if (/^$pbac->{$ENV{'PBPROJ'}}   /);
2228EOF
2229        print SCRIPT << 'EOF';
2230        s/Defaults[ \t]+requiretty//;
2231        print PBOUT $_;
2232}
2233close(PBFILE);
2234EOF
2235        print SCRIPT << "EOF";
2236# This is needed in order to be able to halt the machine from the $pbac->{$ENV{'PBPROJ'}} account at least
2237print PBOUT "Defaults:pb env_keep += \\\"http_proxy ftp_proxy\\\"\n";
2238print PBOUT "$pbac->{$ENV{'PBPROJ'}}   ALL=(ALL) NOPASSWD:ALL\n";
2239EOF
2240        print SCRIPT << 'EOF';
2241close(PBOUT);
2242rename("$file.new",$file);
2243chmod 0440,$file;
2244
2245EOF
2246               
2247        my $SCRIPT = \*SCRIPT;
2248       
2249        pb_install_deps($SCRIPT);
2250       
2251        print SCRIPT << 'EOF';
2252# Suse wants sudoers as 640
2253if (($ddir eq "sles") || (($ddir eq "opensuse") && ($dver =~ /10.[012]/))) {
2254        chmod 0640,$file;
2255}
2256
2257pb_system("rm -rf ProjectBuilder-* ; wget --passive-ftp ftp://ftp.mondorescue.org/src/ProjectBuilder-latest.tar.gz ; tar xvfz ProjectBuilder-latest.tar.gz ; cd ProjectBuilder-* ; perl Makefile.PL ; make ; make install ; cd .. ; rm -rf ProjectBuilder-* ; rm -rf project-builder-* ; wget --passive-ftp ftp://ftp.mondorescue.org/src/project-builder-latest.tar.gz ; tar xvfz project-builder-latest.tar.gz ; cd project-builder-* ; perl Makefile.PL ; make ; make install ; cd .. ; rm -rf project-builder-* ;","Building Project-Builder");
2258system "pb 2>&1 | head -5";
2259EOF
2260        if ($vtype eq "ve") {
2261                        print SCRIPT << 'EOF';
2262# For VE we need to umount some FS at the end
2263
2264pb_system("umount /proc");
2265
2266# Create a basic network file if not already there
2267
2268my $nf="/etc/sysconfig/network";
2269if (! -f $nf) {
2270        open(NF,"> $nf") || die "Unable to create $nf";
2271        print NF "NETWORKING=yes\n";
2272        print NF "HOSTNAME=localhost\n";
2273        close(NF);
2274}
2275chmod 0755,$nf;
2276EOF
2277        }
2278
2279        # Adds pb_distro_init from ProjectBuilder::Distribution and Base
2280        foreach my $d (@INC) {
2281                my @f = ("$d/ProjectBuilder/Base.pm","$d/ProjectBuilder/Distribution.pm");
2282                foreach my $f (@f) {
2283                        if (-f "$f") {
2284                                open(PBD,"$f") || die "Unable to open $f";
2285                                while (<PBD>) {
2286                                                next if (/^package/);
2287                                                next if (/^use Exporter/);
2288                                                next if (/^use ProjectBuilder::/);
2289                                                next if (/^our /);
2290                                        print SCRIPT $_;
2291                                }
2292                                close(PBD);
2293                        }
2294                }
2295        }
2296        close(SCRIPT);
2297        chmod 0755,"$pbscript";
2298
2299        # That build script needs to be run as root and force stop of VM at end
2300        $pbaccount = "root";
2301
2302        # Force shutdown of VM exept if it was already launched
2303        my $pbforce = 0;
2304        if ((! $vmexist) && ($vtype eq "vm")) {
2305                $pbforce = 1;
2306        }
2307       
2308        pb_script2v($pbscript,$vtype,$pbforce,$v);
2309}
2310return;
2311}
2312
2313# Function to create a snapshot named 'pb' for VMs and a compressed tar for VEs
2314sub pb_snap2v {
2315
2316my $vtype = shift;
2317
2318my ($vm,$all) = pb_get2v($vtype);
2319
2320# Script generated
2321my $pbscript = "$ENV{'PBDESTDIR'}/snapv";
2322
2323foreach my $v (@$vm) {
2324        # Name of the account to deal with for VM/VE
2325        # Do not use the one passed potentially with -a
2326        my ($pbac) = pb_conf_get($vtype."login");
2327        my ($vmexist,$vmpid);
2328
2329        # Prepare the script to be executed on the VM/VE
2330        # in $ENV{'PBDESTDIR'}/setupv
2331        open(SCRIPT,"> $pbscript") || die "Unable to create $pbscript";
2332       
2333        print SCRIPT << 'EOF';
2334        #!/bin/bash
2335       
2336EOF
2337        if ($vtype eq "vm") {
2338                print SCRIPT "sleep 120\n";
2339        } else {
2340                print SCRIPT "sleep 1\n";
2341        }
2342
2343        close(SCRIPT);
2344        chmod 0755,"$pbscript";
2345
2346        # Force shutdown of VM/VE
2347        # Force snapshot of VM/VE
2348        pb_script2v($pbscript,$vtype,1,$v,1);
2349}
2350return;
2351}
2352
2353sub pb_install_deps {
2354
2355my $SCRIPT = shift;
2356
2357print {$SCRIPT} << 'EOF';
2358# We need to have that pb_distro_init function
2359# Get it from Project-Builder::Distribution
2360my ($ddir, $dver, $dfam, $dtype, $pbsuf, $pbupd, $arch) = pb_distro_init(); 
2361print "distro tuple: ".join(',',($ddir, $dver, $dfam, $dtype, $pbsuf, $arch))."\n";
2362
2363# We may need a proxy configuration. Get it from the local env
2364EOF
2365
2366if (defined $ENV{'http_proxy'}) {
2367        print SCRIPT "\$ENV\{'http_proxy'\}=\"$ENV{'http_proxy'}\";\n";
2368}
2369
2370if (defined $ENV{'ftp_proxy'}) {
2371        print SCRIPT "\$ENV\{'ftp_proxy'\}=\"$ENV{'ftp_proxy'}\";\n";
2372}
2373
2374print {$SCRIPT} << 'EOF';
2375# Get and install pb
2376my $insdm = "rm -rf Date-Manip* ; wget http://search.cpan.org/CPAN/authors/id/S/SB/SBECK/Date-Manip-5.54.tar.gz ; tar xvfz Date-Manip-5.54.tar.gz ; cd Date-Manip* ; perl Makefile.PL ; make ; make install ; cd .. ; rm -rf Date-Manip*";
2377my $insmb = "rm -rf Module-Build* ; wget http://search.cpan.org/CPAN/authors/id/K/KW/KWILLIAMS/Module-Build-0.2808.tar.gz ; tar xvfz Module-Build-0.2808.tar.gz ; cd Module-Build* ; perl Makefile.PL ; make ; make install ; cd .. ; rm -rf Module-Build*";
2378my $insfm = "rm -rf File-MimeInfo* ; wget http://search.cpan.org/CPAN/authors/id/P/PA/PARDUS/File-MimeInfo/File-MimeInfo-0.15.tar.gz ; tar xvfz File-MimeInfo-0.15.tar.gz ; cd File-MimeInfo* ; perl Makefile.PL ; make ; make install ; cd .. ; rm -rf File-MimeInfo*";
2379my $insfb = "rm -rf File-Basedir* ; wget http://search.cpan.org/CPAN/authors/id/P/PA/PARDUS/File-BaseDir-0.03.tar.gz ; tar xvfz File-BaseDir-0.03.tar.gz ; cd File-BaseDir* ; perl Makefile.PL ; make ; make install ; cd .. ; rm -rf File-BaseDir*";
2380my $insms = "rm -rf Mail-Sendmail* ; wget http://search.cpan.org/CPAN/authors/id/M/MI/MIVKOVIC/Mail-Sendmail-0.79.tar.gz ; tar xvfz Mail-Sendmail-0.79.tar.gz ; cd Mail-Sendmail* ; perl Makefile.PL ; make ; make install ; cd .. ; rm -rf Mail-Sendmail*";
2381my $cmtdm = "Installing Date-Manip perl module";
2382my $cmtmb = "Installing Module-Build perl module";
2383my $cmtfm = "Installing File-MimeInfo perl module";
2384my $cmtfb = "Installing File-Basedir perl module";
2385my $cmtms = "Installing Perl-Sendmail perl module";
2386my $cmtall = "Installing required modules";
2387
2388if ( $ddir eq "fedora" ) {
2389        pb_system("yum clean all","Cleaning yum env");
2390        if ($dver == 4) {
2391                pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"rpm-build wget patch ntp sudo perl-DateManip perl-ExtUtils-MakeMaker"));
2392                pb_system("$insmb","$cmtmb");
2393                pb_system("$insfm","$cmtfm");
2394                pb_system("$insfb","$cmtfb");
2395                pb_system("$insms","$cmtms");
2396        } else {
2397                pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"rpm-build wget patch ntp sudo perl-DateManip perl-ExtUtils-MakeMaker perl-File-MimeInfo perl-Mail-Sendmail"));
2398        }
2399} elsif ($ddir eq "asianux") {
2400        pb_system("yum clean all","Cleaning yum env");
2401        pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"rpm-build wget patch ntp sudo perl-DateManip"));
2402        pb_system("$insmb","$cmtmb");
2403        pb_system("$insfm","$cmtfm");
2404        pb_system("$insfb","$cmtfb");
2405        pb_system("$insms","$cmtms");
2406} elsif (( $dfam eq "rh" ) || ($ddir eq "suse") || ($ddir eq "sles") || (($ddir eq "opensuse") && (($dver eq "10.1") || ($dver eq "10.0"))) || ($ddir eq "slackware")) {
2407        # Suppose pkg are installed already as no online mirror available
2408        pb_system("rpm -e lsb 2>&1 > /dev/null","Removing lsb package");
2409        pb_system("$insdm","$cmtdm");
2410        pb_system("$insmb","$cmtmb");
2411        pb_system("$insfm","$cmtfm");
2412        pb_system("$insfb","$cmtfb");
2413        pb_system("$insms","$cmtms");
2414} elsif ($ddir eq "opensuse") { 
2415        # New OpenSuSE
2416        pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"make wget patch sudo ntp"));
2417        pb_system("$insmb","$cmtmb");
2418        pb_system("$insfm","$cmtfm");
2419        pb_system("$insfb","$cmtfb");
2420        pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"perl-Date-Manip perl-File-HomeDir perl-Mail-Sendmail"));
2421        if ($dver < 11) {
2422                pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"ntp"));
2423        } else {
2424                pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"sntp"));
2425        }
2426} elsif ( $dfam eq "md" ) {
2427                my $addp = "";
2428                if (($ddir eq "mandrake") && ($dver eq "10.1")) {
2429                        pb_system("$insdm","$cmtdm");
2430                } else {
2431                        $addp ="perl-DateManip";
2432                }
2433                pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"rpm-build wget sudo patch ntp-client perl-File-MimeInfo perl-Mail-Sendmail $addp"));
2434} elsif ( $dfam eq "du" ) {
2435        if (( $dver eq "3.1" ) && ($ddir eq "debian")) {
2436                pb_system("$insfb","$cmtfb");
2437                pb_system("$insfm","$cmtfm");
2438                pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"wget patch ssh sudo debian-builder dh-make fakeroot ntpdate libmodule-build-perl libdate-manip-perl libmail-sendmail-perl"));
2439        } else  {
2440                pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"wget patch openssh-server dpkg-dev sudo debian-builder dh-make fakeroot ntpdate libfile-mimeinfo-perl libmodule-build-perl libdate-manip-perl libmail-sendmail-perl"));
2441        }
2442} elsif ( $dfam eq "gen" ) {
2443                #system "emerge -u system";
2444                pb_distro_installdeps(undef,$dtype,$pbupd,pb_distro_only_deps_needed($dtype,"wget sudo ntp DateManip File-MimeInfo Mail-Sendmail"));
2445} else {
2446        pb_log(0,"No pkg to install\n");
2447}
2448EOF
2449}
2450
2451sub pb_announce {
2452
2453        # Get all required parameters
2454        my ($pbpackager,$pbrepo,$pbml,$pbsmtp) = pb_conf_get("pbpackager","pbrepo","pbml","pbsmtp");
2455        my ($pkgv, $pkgt, $testver) = pb_conf_get_if("pkgver","pkgtag","testver");
2456        my $pkg = pb_cms_get_pkg($defpkgdir,$extpkgdir);
2457        my @pkgs = @$pkg;
2458        my %pkgs;
2459        my $first = 0;
2460
2461        # Command to find packages on repo
2462        my $findstr = "find . ";
2463        # Generated announce files
2464        my @files;
2465
2466        foreach my $pbpkg (@pkgs) {
2467                if ($first != 0) {
2468                        $findstr .= "-o ";
2469                }
2470                $first++;
2471                if ((defined $pkgv) && (defined $pkgv->{$pbpkg})) {
2472                        $pbver = $pkgv->{$pbpkg};
2473                } else {
2474                        $pbver = $ENV{'PBPROJVER'};
2475                }
2476                if ((defined $pkgt) && (defined $pkgt->{$pbpkg})) {
2477                        $pbtag = $pkgt->{$pbpkg};
2478                } else {
2479                        $pbtag = $ENV{'PBPROJTAG'};
2480                }
2481
2482                # TODO: use virtual/real names here now
2483                $findstr .= "-name \'$pbpkg-$pbver-$pbtag\.*.rpm\' -o -name \'$pbpkg"."_$pbver*\.deb\' -o -name \'$pbpkg-$pbver\.ebuild\' ";
2484
2485                my $chglog;
2486
2487                # Get project info on log file and generate tmp files used later on
2488                pb_cms_init($pbinit);
2489                $chglog = "$ENV{'PBROOTDIR'}/$pbpkg/pbcl";
2490                $chglog = "$ENV{'PBROOTDIR'}/pbcl" if (! -f $chglog);
2491                $chglog = undef if (! -f $chglog);
2492
2493                open(OUT,"> $ENV{'PBTMP'}/$pbpkg.ann") || die "Unable to create $ENV{'PBTMP'}/$pbpkg.ann: $!";
2494                my %pb;
2495                $pb{'dtype'} = "announce";
2496                $pb{'realpkg'} = $pbpkg;
2497                $pb{'ver'} = $pbver;
2498                $pb{'tag'} = $pbtag;
2499                $pb{'suf'} = "N/A";             # Should not be empty even if unused
2500                $pb{'date'} = $pbdate;
2501                $pb{'chglog'} = $chglog;
2502                $pb{'packager'} = $pbpackager;
2503                $pb{'proj'} = $ENV{'PBPROJ'};
2504                $pb{'repo'} = $pbrepo;
2505                pb_changelog(\%pb,\*OUT,"yes");
2506                close(OUT);
2507                push(@files,"$ENV{'PBTMP'}/$pbpkg.ann");
2508        }
2509        $findstr .= " | grep -Ev \'src.rpm\'";
2510        if ((not defined $testver) || (not defined $testver->{$ENV{'PBPROJ'}}) || ($testver->{$ENV{'PBPROJ'}} !~ /true/i)) {
2511                $findstr .= " | grep -v ./test/";
2512        }
2513
2514        # Prepare the command to run and execute it
2515        open(PBS,"> $ENV{'PBTMP'}/pbscript") || die "Unable to create $ENV{'PBTMP'}/pbscript";
2516        print PBS "$findstr\n";
2517        close(PBS);
2518        chmod 0755,"$ENV{'PBTMP'}/pbscript";
2519        pb_send2target("Announce");
2520
2521        # Get subject line
2522        my $sl = "Project $ENV{'PBPROJ'} version $ENV{'PBPROJVER'} is now available";
2523        pb_log(0,"Please enter the title of your announce\n");
2524        pb_log(0,"(By default: $sl)\n");
2525        my $sl2 = <STDIN>;
2526        $sl = $sl2 if ($sl2 !~ /^$/);
2527
2528        # Prepare a template of announce
2529        open(ANN,"> $ENV{'PBTMP'}/announce.html") || die "Unable to create $ENV{'PBTMP'}/announce.html: $!";
2530        print ANN << "EOF";
2531$sl</p>
2532
2533<p>The project team is happy to announce the availability of a newest version of $ENV{'PBPROJ'} $ENV{'PBPROJVER'}. Enjoy it as usual!</p>
2534<p>
2535Now available at <a href="$pbrepo->{$ENV{'PBPROJ'}}">$pbrepo->{$ENV{'PBPROJ'}}</a>
2536</p>
2537<p>
2538EOF
2539        open(LOG,"$ENV{'PBTMP'}/system.log") || die "Unable to read $ENV{'PBTMP'}/system.log: $!";
2540        my $col = 2;
2541        my $i = 1;
2542        print ANN << 'EOF';
2543<TABLE WIDTH="700" CELLPADDING="0" CELLSPACING="0" BORDER="0">
2544<TR>
2545EOF
2546        while (<LOG>) {
2547                print ANN "<TD><A HREF=\"$pbrepo->{$ENV{'PBPROJ'}}/$_\">$_</A></TD>";
2548                $i++;
2549                if ($i > $col) {
2550                        print ANN "</TR>\n<TR>";
2551                        $i = 1;
2552                }
2553        }
2554        close(LOG);
2555        print ANN << "EOF";
2556</TR>
2557</TABLE>
2558</p>
2559
2560<p>As usual source packages are also available in the same directory.</p>
2561
2562<p>
2563Changes are :
2564</p>
2565<p>
2566EOF
2567        # Get each package changelog content
2568        foreach my $f (sort(@files)) {
2569                open(IN,"$f") || die "Unable to read $f:$!";
2570                while (<IN>) {
2571                        print ANN $_;
2572                }
2573                close(IN);
2574                print ANN "</p><p>\n";
2575        }
2576        print ANN "</p>\n";
2577        close(ANN);
2578
2579        # Allow for modification
2580        pb_system("vi $ENV{'PBTMP'}/announce.html","Allowing modification of the announce","noredir");
2581
2582        # Store it in DB for external usage (Web pages generation)
2583        my $db = "$ENV{'PBCONFDIR'}/announces3.sql";
2584
2585        my $precmd = "";
2586        if (! -f $db) {
2587                $precmd = "CREATE TABLE announces (id INTEGER PRIMARY KEY AUTOINCREMENT, date DATE, announce VARCHAR[65535])";
2588        }
2589
2590        my $dbh = DBI->connect("dbi:SQLite:dbname=$db","","",
2591                        { RaiseError => 1, AutoCommit => 1 })
2592                        || die "Unable to connect to $db";
2593
2594        if ($precmd ne "") {
2595                my $sth = $dbh->prepare(qq{$precmd})
2596                        || die "Unable to create table into $db";
2597                $sth->execute();
2598        }
2599
2600        # To read whole file
2601        local $/;
2602        open(ANN,"$ENV{'PBTMP'}/announce.html") || die "Unable to read $ENV{'PBTMP'}/announce.html: $!";
2603        my $announce = <ANN>;
2604        close(ANN);
2605       
2606        pb_log(2,"INSERT INTO announces VALUES (NULL, $pbdate, $announce)");
2607        my $sth = $dbh->prepare(qq{INSERT INTO announces VALUES (NULL,?,?)})
2608                        || die "Unable to insert into $db";
2609        $sth->execute($pbdate, $announce);
2610        $sth->finish();
2611        $dbh->disconnect;
2612
2613        # Then deliver it on the Web
2614        # $TOOLHOME/livwww www
2615
2616        # Mail it to project's ML
2617        open(ML,"| w3m -dump -T text/html > $ENV{'PBTMP'}/announce.txt") || die "Unable to create $ENV{'PBTMP'}/announce.txt: $!";
2618        print ML << 'EOF';
2619<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Strict//EN" "http://www.w3.org/TR/x html1/DTD/xhtml1-strict.dtd">
2620
2621<html xmlns="http://www.w3.org/1999/xhtml" dir="ltr" xml:lang="en" lang="en">
2622  <head>
2623  </head>
2624  <body>
2625  <p>
2626EOF
2627        open(ANN,"$ENV{'PBTMP'}/announce.html") || die "Unable to read $ENV{'PBTMP'}/announce.html: $!";
2628        while(<ANN>) {
2629                print ML $_;
2630        }
2631        print ML << 'EOF';
2632</body>
2633</html>
2634EOF
2635        close(ML);
2636
2637        # To read whole file
2638        local $/;
2639        open(ANN,"$ENV{'PBTMP'}/announce.txt") || die "Unable to read $ENV{'PBTMP'}/announce.txt: $!";
2640        my $msg = <ANN>;
2641        close(ANN);
2642       
2643        # Preparation of headers
2644
2645        my %mail = (   
2646                        To                      =>      $pbml->{$ENV{'PBPROJ'}},
2647                        From            =>      $pbpackager->{$ENV{'PBPROJ'}},
2648                        Smtp            =>      $pbsmtp->{$ENV{'PBPROJ'}},
2649                        Body            =>      $msg,
2650                        Subject         =>      "[ANNOUNCE] $sl",
2651                );
2652                       
2653        # Send mail
2654        sendmail(%mail) or die "Unable to send mail ($Mail::Sendmail::error): $Mail::Sendmail::log";
2655}
2656
2657#
2658# Creates a set of HTML file containing the news for the project
2659# based on what has been generated by the pb_announce function
2660#
2661sub pb_web_news2html {
2662
2663        my $dest = shift || $ENV{'PBTMP'};
2664
2665        # Get all required parameters
2666        my ($pkgv, $pkgt, $testver) = pb_conf_get_if("pkgver","pkgtag","testver");
2667
2668        # DB of announces for external usage (Web pages generation)
2669        my $db = "$ENV{'PBCONFDIR'}/announces3.sql";
2670
2671        my $dbh = DBI->connect("dbi:SQLite:dbname=$db","","",
2672                        { RaiseError => 1, AutoCommit => 1 })
2673                        || die "Unable to connect to $db";
2674        # For date handling
2675        $ENV{LANGUAGE}="C";
2676        my $firstjan = strftime("%Y-%m-%d", 0, 0, 0, 1, 0, localtime->year(), 0, 0, -1);
2677        my $oldfirst = strftime("%Y-%m-%d", 0, 0, 0, 1, 0, localtime->year()-1, 0, 0, -1);
2678        pb_log(2,"firstjan: $firstjan, oldfirst: $oldfirst, pbdate:$pbdate\n");
2679        my $all = $dbh->selectall_arrayref("SELECT id,date,announce FROM announces ORDER BY date DESC");
2680        my %news;
2681        $news{"cy"} = "";       # current year's news
2682        $news{"ly"} = "";       # last year news
2683        $news{"py"} = "";       # previous years news
2684        $news{"fp"} = "";       # first page news
2685        my $cpt = 4;            # how many news for first page
2686        # Extract info from DB
2687        foreach my $row (@$all) {
2688                my ($id, $date, $announce) = @$row;
2689                $news{"cy"} = $news{"cy"}."<p><B>$date</B> $announce\n" if ((($date cmp $pbdate) le 0) && (($firstjan cmp $date) le 0));
2690                $news{"ly"} = $news{"ly"}."<p><B>$date</B> $announce\n" if ((($date cmp $firstjan) le 0) && (($oldfirst cmp $date) le 0));
2691                $news{"py"} = $news{"py"}."<p><B>$date</B> $announce\n" if (($date cmp $oldfirst) le 0);
2692                $news{"fp"} = $news{"fp"}."<p><B>$date</B> $announce\n" if ($cpt > 0);
2693                $cpt--;
2694        }
2695        pb_log(1,"news{fp}: ".$news{"fp"}."\n");
2696        $dbh->disconnect;
2697
2698        # Generate the HTML content
2699        foreach my $pref (keys %news) {
2700                open(NEWS,"> $dest/pb_web_$pref"."news.html") || die "Unable to create $dest/pb_web_$pref"."news.html: $!";
2701                print NEWS "$news{$pref}";
2702                close(NEWS);
2703        }
2704}
2705
2706
2707# Return the SSH key file to use
2708# Potentially create it if needed
2709
2710sub pb_ssh_get {
2711
2712my $create = shift || 0;        # Do not create keys by default
2713
2714# Check the SSH environment
2715my $keyfile = undef;
2716
2717# We have specific keys by default
2718$keyfile = "$ENV{'HOME'}/.ssh/pb_dsa";
2719if (!(-e $keyfile) && ($create eq 1)) {
2720        pb_system("ssh-keygen -q -b 1024 -N '' -f $keyfile -t dsa","Generating SSH keys for pb");
2721}
2722
2723$keyfile = "$ENV{'HOME'}/.ssh/id_rsa" if (-s "$ENV{'HOME'}/.ssh/id_rsa");
2724$keyfile = "$ENV{'HOME'}/.ssh/id_dsa" if (-s "$ENV{'HOME'}/.ssh/id_dsa");
2725$keyfile = "$ENV{'HOME'}/.ssh/pb_dsa" if (-s "$ENV{'HOME'}/.ssh/pb_dsa");
2726die "Unable to find your public ssh key under $keyfile" if (not defined $keyfile);
2727return($keyfile);
2728}
2729
2730
2731# Returns the pid of a running VM command using a specific VM file
2732sub pb_check_ps {
2733        my $vmcmd = shift;
2734        my $vmm = shift;
2735        my $vmexist = 0;                # FALSE by default
2736
2737        open(PS, "ps auxhww|") || die "Unable to call ps";
2738        while (<PS>) {
2739                next if (! /$vmcmd/);
2740                next if (! /$vmm/);
2741                my ($void1, $void2);
2742                ($void1, $vmexist, $void2) = split(/ +/);
2743                last;
2744        }
2745        return($vmexist);
2746}
2747
2748
2749sub pb_extract_build_files {
2750
2751my $src=shift;
2752my $dir=shift;
2753my $ddir=shift;
2754my $mandatory=shift || "spec";
2755my @files;
2756
2757my $flag = "mayfail" if ($mandatory eq "patch");
2758my $res;
2759
2760if ($src =~ /tar\.gz$/) {
2761        $res = pb_system("tar xfpz $src $dir","Extracting $mandatory files from $src",$flag);
2762} elsif ($src =~ /tar\.bz2$/) {
2763        $res = pb_system("tar xfpj $src $dir","Extracting $mandatory files from $src",$flag);
2764} else {
2765        die "Unknown compression algorithm for $src";
2766}
2767# If not mandatory return now
2768return() if (($res != 0) and ($mandatory eq "patch"));
2769opendir(DIR,"$dir") || die "Unable to open directory $dir";
2770foreach my $f (readdir(DIR)) {
2771        next if ($f =~ /^\./);
2772        # Skip potential patch dir
2773        next if ($f =~ /^pbpatch/);
2774        move("$dir/$f","$ddir") || die "Unable to move $dir/$f to $ddir";
2775        pb_log(2,"mv $dir/$f $ddir\n");
2776        push @files,"$ddir/$f";
2777}
2778closedir(DIR);
2779# Not enough but still a first cleanup
2780pb_rm_rf("$dir");
2781return(@files);
2782}
2783
2784sub pb_list_bfiles {
2785
2786my $dir = shift;
2787my $pbpkg = shift;
2788my $bfiles = shift;
2789my $pkgfiles = shift;
2790my $supfiles = shift;
2791
2792opendir(BDIR,"$dir") || die "Unable to open dir $dir: $!";
2793foreach my $f (readdir(BDIR)) {
2794        next if ($f =~ /^\./);
2795        $bfiles->{$f} = "$dir/$f";
2796        $bfiles->{$f} =~ s~$ENV{'PBROOTDIR'}~~;
2797        if (defined $supfiles->{$pbpkg}) {
2798                $pkgfiles->{$f} = "$dir/$f" if ($f =~ /$supfiles->{$pbpkg}/);
2799        }
2800}
2801closedir(BDIR);
2802}
2803
2804
2805#
2806# Return the list of packages we are working on in a non CMS action
2807#
2808sub pb_get_pkg {
2809
2810my @pkgs = ();
2811
2812my ($var) = pb_conf_read("$ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb","pbpkg");
2813@pkgs = keys %$var;
2814
2815pb_log(0,"Packages: ".join(',',@pkgs)."\n");
2816return(\@pkgs);
2817}
2818
28191;
Note: See TracBrowser for help on using the repository browser.