source: devel/pb/bin/pb @ 1349

Revision 1349, 118.6 KB checked in by bruno, 19 months ago (diff)

r4375@localhost: bruno | 2011-10-26 01:51:33 +0200

  • Fix minor typo in pb (copy paste at wrong place)
  • Property svn:executable set to *
Line 
1#!/usr/bin/perl -w
2#
3# Project Builder main application
4#
5# $Id$
6#
7# Copyright B. Cornec 2007-2011
8# Provided under the GPL v2
9
10# Syntax: see at end
11
12use strict 'vars';
13
14# The modules mentioned here are required by pb when used both
15# locally or inside a VE/VM/RM
16# Additional required modules only used locally are called with a require
17# in their respective section
18use Getopt::Long qw(:config auto_abbrev no_ignore_case);
19use Data::Dumper;
20use English;
21use File::Basename;
22use File::Copy;
23use File::stat;
24use File::Temp qw(tempdir);
25use File::Find;
26use Time::localtime qw(localtime);
27use POSIX qw(strftime);
28use lib qw (lib);
29use ProjectBuilder::Version;
30use ProjectBuilder::Base;
31use ProjectBuilder::Display;
32use ProjectBuilder::Conf;
33use ProjectBuilder::Distribution;
34use ProjectBuilder::CMS;
35use ProjectBuilder::Env;
36use ProjectBuilder::Filter;
37use ProjectBuilder::Changelog;
38use ProjectBuilder::VE;
39
40# Global variables
41my %opts;                                       # CLI Options
42my $action;                                     # action to realize
43my $test = "FALSE";                     # Not used
44my $pbforce = 0;                        # Force VE/VM rebuild
45my $pbsnap = 0;                         # Do not use snapshot mode for VM/VE by default
46my $option = "";                        # Not used
47my @pkgs;                                       # list of packages
48my $pbtag;                                      # Global Tag variable
49my $pbver;                                      # Global Version variable
50my $pbscript;                           # Name of the script
51my %pbver;                                      # per package
52my %pbtag;                                      # per package
53my $pbrev;                                      # Global REVISION variable
54my $pbaccount;                          # Login to use to connect to the VM/RM
55my $pbtarget;                           # Target os-ver-arch you want to build for
56my $pbport;                                     # Port to use to connect to the VM/RM
57my $newver;                                     # New version to create
58my $iso = undef;                        # ISO image for the VM to create
59
60my @date = pb_get_date();
61my $pbdate = strftime("%Y-%m-%d", @date);
62
63=pod
64
65=head1 NAME
66
67pb, aka project-builder.org - builds packages for your projects
68
69=head1 DESCRIPTION
70
71pb helps you build various packages directly from your project sources.
72Those sources could be handled by a CMS (Configuration Management System)
73such as Subversion, CVS, Git, Mercurial... or being a simple reference to a compressed tar file.
74It's based on a set of configuration files, a set of provided macros to help
75you keeping build files as generic as possible. For example, a single .spec
76file should be required to generate for all rpm based distributions, even
77if you could also have multiple .spec files if required.
78
79=head1 SYNOPSIS
80
81pb [-vhSq][-r pbroot][-p project][[-s script -a account -P port][-t os-ver-arch][-m os-ver-arch[,...]]][-g][-i iso] <action> [<pkg1> ...]
82
83pb [--verbose][--help][--man][--quiet][--snapshot][--revision pbroot][--project project][[--script script --account account --port port][--target os-ver-arch][--machine os-ver-arch[,...]]][--nographic][--iso iso] <action> [<pkg1> ...]
84
85=head1 OPTIONS
86
87=over 4
88
89=item B<-v|--verbose>
90
91Print a brief help message and exits.
92
93=item B<-q|--quiet>
94
95Do not print any output.
96
97=item B<-h|--help>
98
99Print a brief help message and exits.
100
101=item B<-S|--snapshot>
102
103Use the snapshot mode of VMs or VEs
104
105=item B<--man>
106
107Prints the manual page and exits.
108
109=item B<-t|--target os-ver-arch>
110
111Name of the target system you want to build for.
112All if none precised.
113
114=item B<-m|--machine os-ver-arch[,os-ver-arch,...]>
115
116Name of the Virtual Machines (VM), Virtual Environments (VE) or Remote Machines (RM)
117you want to build on (coma separated).
118All if none precised (or use the env variable PBV).
119
120=item B<-s|--script script>
121
122Name of the script you want to execute on the related VMs/VEs/RMs.
123
124=item B<-g|--nographic>
125
126Do not launch VMs in graphical mode.
127
128=item B<-i|--iso iso_image>
129
130Name of the ISO image of the distribution you want to install on the related VMs.
131
132=item B<-a|--account account>
133
134Name of the account to use to connect on the related VMs/RMs.
135
136=item B<-P|--port port_number>
137
138Port number to use to connect on the related VMs/RMs.";
139
140=item B<-p|--project project_name>
141
142Name of the project you're working on (or use the env variable PBPROJ)
143
144=item B<-r|--revision revision>
145
146Path Name of the project revision under the CMS (or use the env variable PBROOT)
147
148=item B<-V|--version new_version>
149
150New version of the project to create based on the current one.
151
152=back
153
154=head1 ARGUMENTS
155
156<action> can be:
157
158=over 4
159
160=item B<sbx2build>
161
162Create tar files for the project under your CMS.
163Current state of the exported content is taken.
164CMS supported are SVN, SVK, CVS, Git and Mercurial
165parameters are packages to build
166if not using default list
167
168=item B<cms2build>
169
170Create tar files for the project under your CMS.
171Current state of the CMS is taken.
172CMS supported are SVN, SVK, CVS, Git and Mercurial
173parameters are packages to build
174if not using default list
175
176=item B<build2pkg>
177
178Create packages for your running distribution
179
180=item B<cms2pkg>
181
182cms2build + build2pkg
183
184=item B<sbx2pkg>
185
186sbx2build + build2pkg
187
188=item B<build2ssh>
189
190Send the tar files to a SSH host
191
192=item B<sbx2ssh>
193
194sbx2build + build2ssh
195
196=item B<cms2ssh>
197
198cms2build + build2ssh
199
200=item B<pkg2ssh>
201
202Send the packages built to a SSH host
203
204=item B<build2vm>
205
206Create packages in VMs, launching them if needed
207and send those packages to a SSH host once built
208VM type supported are QEMU and KVM
209
210=item B<build2ve>
211
212Create packages in VEs, creating it if needed
213and send those packages to a SSH host once built
214
215=item B<build2rm>
216
217Create packages in RMs, which should pre-exist,
218and send those packages to a SSH host once built
219RM means Remote Machine, and could be a physical or Virtual one.
220This is one buildfarm integration for pb.
221
222=item B<sbx2vm>
223
224sbx2build + build2vm
225
226=item B<sbx2ve>
227
228sbx2build + build2ve
229
230=item B<sbx2rm>
231
232sbx2build + build2rm
233
234=item B<cms2vm>
235
236cms2build + build2vm
237
238=item B<cms2ve>
239
240cms2build + build2ve
241
242=item B<cms2rm>
243
244cms2build + build2rm
245
246=item B<launchvm>
247
248Launch one virtual machine
249
250=item B<launchve>
251
252Launch one virtual environment
253
254=item B<script2vm>
255
256Launch one virtual machine if needed
257and executes a script on it
258
259=item B<script2ve>
260
261Execute a script in a virtual environment
262
263=item B<script2rm>
264
265Execute a script on a remote machine
266
267=item B<newvm>
268
269Create a new virtual machine
270
271=item B<newve>
272
273Create a new virtual environment
274
275=item B<setupvm>
276
277Setup a virtual machine for pb usage
278
279=item B<setupve>
280
281Setup a virtual environment for pb usage
282
283=item B<setuprm>
284
285Setup a remote machine for pb usage
286
287=item B<sbx2setupvm>
288
289Setup a virtual machine for pb usage using the sandbox version of pb instead of the latest stable
290Reserved to dev team.
291
292=item B<sbx2setupve>
293
294Setup a virtual environment for pb usage using the sandbox version of pb instead of the latest stable
295Reserved to dev team.
296
297=item B<sbx2setuprm>
298
299Setup a remote machine for pb usage using the sandbox version of pb instead of the latest stable
300Reserved to dev team.
301
302=item B<snapvm>
303
304Snapshot a virtual machine for pb usage
305
306=item B<snapve>
307
308Snapshot a virtual environment for pb usage
309
310=item B<updatevm>
311
312Update the distribution in the virtual machine
313
314=item B<updateve>
315
316Update the distribution in the virtual environment
317
318=item B<updaterm>
319
320Update the distribution in the remote machine
321
322=item B<test2pkg>
323
324Test a package locally
325
326=item B<test2vm>
327
328Test a package in a virtual machine
329
330=item B<test2ve>
331
332Test a package in a virtual environment
333
334=item B<test2rm>
335
336Test a package in a remote machine
337
338=item B<newver>
339
340Create a new version of the project derived
341from the current one
342
343=item B<newproj>
344
345Create a new project and a template set of
346configuration files under pbconf
347
348=item B<announce>
349
350Announce the availability of the project through various means
351
352=item B<sbx2webssh>
353
354Create tar files for the website under your CMS.
355Current state of the exported content is taken.
356Deliver the content to the target server using ssh from the exported dir.
357
358=item B<cms2webssh>
359
360Create tar files for the website from your CMS.
361Deliver the content to the target server using ssh from the DVCS.
362
363=item B<sbx2webpkg>
364
365Create tar files for the website under your CMS.
366Current state of the exported content is taken.
367
368=item B<cms2webpkg>
369
370Create tar files for the website under your CMS.
371
372=item B<clean>
373
374Purge the build and delivery directories related to the current project
375
376=back
377
378<pkgs> can be a list of packages, the keyword 'all' or nothing, in which case the default list of packages is taken (corresponding to the defpkgdir list of arguments in the configuration file).
379
380=head1 WEB SITES
381
382The main Web site of the project is available at L<http://www.project-builder.org/>. Bug reports should be filled using the trac instance of the project at L<http://trac.project-builder.org/>.
383
384=head1 USER MAILING LIST
385
386None exists for the moment.
387
388=head1 CONFIGURATION FILES
389
390Each pb user may have a configuration in F<$HOME/.pbrc>. The values in this file may overwrite any other configuration file value.
391
392Here is an example of such a configuration file:
393
394 #
395 # Define for each project the URL of its pbconf repository
396 # No default option allowed here as they need to be all different
397 #
398 # URL of the pbconf content
399 # This is the format of a classical URL with the extension of additional schema such as
400 # svn+ssh, cvs+ssh, ...
401 #
402 pbconfurl linuxcoe = cvs+ssh://:ext:bcornec@linuxcoe.cvs.sourceforge.net:/cvsroot/linuxcoe/pbconf
403
404 # This is normaly defined in the project's configuration file
405 # Url of the project
406 #
407 pburl linuxcoe = cvs+ssh://:ext:bcornec@linuxcoe.cvs.sourceforge.net:/cvsroot/linuxcoe
408 
409 # All these URLs needs to be defined here as the are the entry point
410 # for how to build packages for the project
411 #
412 pbconfurl pb = svn+ssh://svn.project-builder.org/mondo/svn/pb/pbconf
413 pbconfurl mondorescue = svn+ssh://svn.project-builder.org/mondo/svn/project-builder/mondorescue/pbconf
414 pbconfurl collectl = svn+ssh://bruno@svn.mondorescue.org/mondo/svn/project-builder/collectl/pbconf
415 pbconfurl netperf = svn+ssh://svn.mondorescue.org/mondo/svn/project-builder/netperf/pbconf
416 
417 # Under that dir will take place everything related to pb
418 # If you want to use VMs/chroot/..., then use $ENV{'HOME'} to make it portable
419 # to your VMs/chroot/...
420 # if not defined then /var/cache
421 pbdefdir default = $ENV{'HOME'}/project-builder
422 pbdefdir pb = $ENV{'HOME'}
423 pbdefdir linuxcoe = $ENV{'HOME'}/LinuxCOE/cvs
424 pbdefdir mondorescue = $ENV{'HOME'}/mondo/svn
425 
426 # pbconfdir points to the directory where the CMS content of the pbconfurl is checked out
427 # If not defined, pbconfdir is under pbdefdir/pbproj/pbconf
428 pbconfdir linuxcoe = $ENV{'HOME'}/LinuxCOE/cvs/pbconf
429 pbconfdir mondorescue = $ENV{'HOME'}/mondo/svn/pbconf
430 
431 # pbdir points to the directory where the CMS content of the pburl is checked out
432 # If not defined, pbdir is under pbdefdir/pbproj
433 # Only defined if we have access to the dev of the project
434 pbdir linuxcoe = $ENV{'HOME'}/LinuxCOE/cvs
435 pbdir mondorescue = $ENV{'HOME'}/mondo/svn
436 
437 # -daemonize doesn't work with qemu 0.8.2
438 vmopt default = -m 384
439
440=head1 AUTHORS
441
442The Project-Builder.org team L<http://trac.project-builder.org/> lead by Bruno Cornec L<mailto:bruno@project-builder.org>.
443
444=head1 COPYRIGHT
445
446Project-Builder.org is distributed under the GPL v2.0 license
447described in the file C<COPYING> included with the distribution.
448
449=cut
450
451# ---------------------------------------------------------------------------
452
453my ($projectbuilderver,$projectbuilderrev) = pb_version_init();
454my $appname = "pb";
455
456# Initialize the syntax string
457
458pb_syntax_init("$appname (aka project-builder.org) Version $projectbuilderver-$projectbuilderrev\n");
459
460GetOptions("help|?|h" => \$opts{'h'}, 
461                "man" => \$opts{'man'},
462                "verbose|v+" => \$opts{'v'},
463                "snapshot|S" => \$opts{'S'},
464                "quiet|q" => \$opts{'q'},
465                "log-files|l=s" => \$opts{'l'},
466                "force|f" => \$opts{'f'},
467                "account|a=s" => \$opts{'a'},
468                "revision|r=s" => \$opts{'r'},
469                "script|s=s" => \$opts{'s'},
470                "machines|mock|m=s" => \$opts{'m'},
471                "target|t=s" => \$opts{'t'},
472                "nographic|g" => \$opts{'g'},
473                "port|P=i" => \$opts{'P'},
474                "project|p=s" => \$opts{'p'},
475                "iso|i=s" => \$opts{'i'},
476                "version|V=s" => \$opts{'V'},
477) || pb_syntax(-1,0);
478
479if (defined $opts{'h'}) {
480        pb_syntax(0,1);
481}
482if (defined $opts{'man'}) {
483        pb_syntax(0,2);
484}
485if (defined $opts{'v'}) {
486        $pbdebug = $opts{'v'};
487}
488if (defined $opts{'f'}) {
489        $pbforce=1;
490}
491if (defined $opts{'q'}) {
492        $pbdebug=-1;
493}
494if (defined $opts{'S'}) {
495        $pbsnap=1;
496}
497if (defined $opts{'l'}) {
498        open(pbLOG,"> $opts{'l'}") || die "Unable to log to $opts{'l'}: $!";
499        $pbLOG = \*pbLOG;
500        $pbdebug = 0  if ($pbdebug == -1);
501        }
502pb_log_init($pbdebug, $pbLOG);
503pb_display_init("text","");
504
505# Handle root of the project if defined
506if (defined $opts{'r'}) {
507        $ENV{'PBROOTDIR'} = $opts{'r'};
508}
509# Handle virtual machines if any
510if (defined $opts{'m'}) {
511        $ENV{'PBV'} = $opts{'m'};
512}
513if (defined $opts{'s'}) {
514        $pbscript = $opts{'s'};
515}
516if (defined $opts{'a'}) {
517        $pbaccount = $opts{'a'};
518        die "option -a requires a -s script option" if (not defined $pbscript);
519}
520if (defined $opts{'P'}) {
521        $pbport = $opts{'P'};
522}
523if (defined $opts{'V'}) {
524        $newver = $opts{'V'};
525}
526if (defined $opts{'i'}) {
527        $iso = $opts{'i'};
528}
529if (defined $opts{'t'}) {
530        $pbtarget = $opts{'t'};
531}
532
533# Get Action
534$action = shift @ARGV;
535die pb_syntax(-1,1) if (not defined $action);
536
537my ($filteredfiles, $supfiles, $defpkgdir, $extpkgdir);
538my $pbinit = undef;
539$pbinit = 1 if ($action =~ /^newproj$/);
540
541# Handles project name if any
542# And get global params
543($filteredfiles, $supfiles, $defpkgdir, $extpkgdir) = pb_env_init($opts{'p'},$pbinit,$action);
544
545#
546# Check for command requirements
547#
548my ($req,$opt,$pbpara) = pb_conf_get_if("oscmd","oscmdopt","pbparallel");
549pb_check_requirements($req,$opt,$appname);
550
551#
552# Check if we can launch some actions in // with Parallel::ForkManager
553#
554my $pbparallel = $pbpara->{$appname} if (defined $pbpara);
555if (not defined $pbparallel) {
556        eval
557        {
558                require Sys::CPU;
559                Sys::CPU->import();
560        };
561        if ($@) {
562                # Sys::CPU not found, defaulting to 1
563                pb_log(1,"ADVISE: Install Sys::CPU to benefit from automatic parallelism optimization.\nOr use pbparallel in your pb.conf file\nOnly 1 process at a time for the moment\n");
564                $pbparallel = 1;
565        } else {
566                # Using the number of cores
567                $pbparallel = Sys::CPU::cpu_count();
568                pb_log(1,"Using parallel mode with $pbparallel processes\n");
569        }
570}
571
572eval
573{
574        require Parallel::ForkManager;
575        Parallel::ForkManager->import();
576};
577# Parallel::ForkManager not found so no // actions
578if ($@) {
579        $pbparallel = undef;
580        pb_log(1,"ADVISE: Install Parallel::ForkManager to benefit from automatic parallelism optimization.\nOnly 1 process at a time for the moment\n");
581}
582
583pb_log(0,"Project: $ENV{'PBPROJ'}\n");
584pb_log(0,"Action: $action\n");
585
586# Act depending on action
587if ($action =~ /^cms2build$/) {
588        pb_cms2build("CMS");
589} elsif ($action =~ /^sbx2build$/) {
590        pb_cms2build("SandBox");
591} elsif ($action =~ /^build2pkg$/) {
592        pb_build2pkg();
593} elsif ($action =~ /^cms2pkg$/) {
594        pb_cms2build("CMS");
595        pb_build2pkg();
596} elsif ($action =~ /^sbx2pkg$/) {
597        pb_cms2build("SandBox");
598        pb_build2pkg();
599} elsif ($action =~ /^build2ssh$/) {
600        pb_build2ssh();
601} elsif ($action =~ /^cms2ssh$/) {
602        pb_cms2build("CMS");
603        pb_build2ssh();
604} elsif ($action =~ /^sbx2ssh$/) {
605        pb_cms2build("SandBox");
606        pb_build2ssh();
607} elsif ($action =~ /^pkg2ssh$/) {
608        pb_pkg2ssh();
609} elsif ($action =~ /^build2rm$/) {
610        pb_build2v("rm","build");
611} elsif ($action =~ /^build2ve$/) {
612        pb_build2v("ve","build");
613} elsif ($action =~ /^build2vm$/) {
614        pb_build2v("vm","build");
615} elsif ($action =~ /^cms2rm$/) {
616        pb_cms2build("CMS");
617        pb_build2v("rm","build");
618} elsif ($action =~ /^cms2ve$/) {
619        pb_cms2build("CMS");
620        pb_build2v("ve","build");
621} elsif ($action =~ /^sbx2rm$/) {
622        pb_cms2build("SandBox");
623        pb_build2v("rm","build");
624} elsif ($action =~ /^sbx2ve$/) {
625        pb_cms2build("SandBox");
626        pb_build2v("ve","build");
627} elsif ($action =~ /^cms2vm$/) {
628        pb_cms2build("CMS");
629        pb_build2v("vm","build");
630} elsif ($action =~ /^sbx2vm$/) {
631        pb_cms2build("SandBox");
632        pb_build2v("vm","build");
633} elsif ($action =~ /^launchvm$/) {
634        pb_launchv("vm",$ENV{'PBV'},0);
635} elsif ($action =~ /^launchve$/) {
636        pb_launchv("ve",$ENV{'PBV'},0);
637} elsif ($action =~ /^script2vm$/) {
638        pb_script2v($pbscript,"vm");
639} elsif ($action =~ /^script2ve$/) {
640        pb_script2v($pbscript,"ve");
641} elsif ($action =~ /^script2rm$/) {
642        pb_script2v($pbscript,"rm");
643} elsif ($action =~ /^newver$/) {
644        pb_newver();
645} elsif ($action =~ /^newve$/) {
646        pb_launchv("ve",$ENV{'PBV'},1);
647} elsif ($action =~ /^newvm$/) {
648        pb_launchv("vm",$ENV{'PBV'},1);
649        pb_log(0, "Please ensure that sshd is running in your VM by default\n");
650        pb_log(0, "and that it allows remote root login (PermitRootLogin yes in /etc/ssh/sshd_config)\n");
651        pb_log(0, "Also ensure that network is up, firewalling correctly configured\n");
652        pb_log(0, "and perl, sudo, ntpdate and scp/ssh installed\n");
653        pb_log(0, "You should then be able to login with ssh -p VMPORT root\@localhost (if VM started with pb)\n");
654} elsif ($action =~ /^setuprm$/) {
655        pb_setup2v("rm");
656} elsif ($action =~ /^setupve$/) {
657        pb_setup2v("ve");
658} elsif ($action =~ /^setupvm$/) {
659        pb_setup2v("vm");
660} elsif ($action =~ /^sbx2setuprm$/) {
661        die "This feature is limited to the pb project" if ($ENV{'PBPROJ'} ne $appname);
662        pb_cms2build("SandBox");
663        pb_setup2v("rm","SandBox");
664} elsif ($action =~ /^sbx2setupve$/) {
665        die "This feature is limited to the pb project" if ($ENV{'PBPROJ'} ne $appname);
666        pb_cms2build("SandBox");
667        pb_setup2v("ve","SandBox");
668} elsif ($action =~ /^sbx2setupvm$/) {
669        die "This feature is limited to the pb project" if ($ENV{'PBPROJ'} ne $appname);
670        pb_cms2build("SandBox");
671        pb_setup2v("vm","SandBox");
672} elsif ($action =~ /^updaterm$/) {
673        pb_update2v("rm");
674} elsif ($action =~ /^updateve$/) {
675        pb_update2v("ve");
676} elsif ($action =~ /^updatevm$/) {
677        pb_update2v("vm");
678} elsif ($action =~ /^snapve$/) {
679        pb_snap2v("ve");
680} elsif ($action =~ /^snapvm$/) {
681        pb_snap2v("vm");
682} elsif ($action =~ /^test2pkg$/) {
683        pb_test2pkg();
684} elsif ($action =~ /^test2rm$/) {
685        pb_build2v("rm","test");
686} elsif ($action =~ /^test2ve$/) {
687        pb_build2v("ve","test");
688} elsif ($action =~ /^test2vm$/) {
689        pb_build2v("vm","test");
690} elsif ($action =~ /^newproj$/) {
691        # Nothing to do - already done in pb_env_init
692} elsif ($action =~ /^clean$/) {
693        pb_clean();
694} elsif ($action =~ /^announce$/) {
695        # For announce only. Require avoids the systematic load of these modules
696        require DBI;
697        require DBD::SQLite;
698
699        pb_announce();
700} elsif ($action =~ /^sbx2webpkg$/) {
701        require DBI;
702        require DBD::SQLite;
703
704        pb_cms2build("SandBox","Web");
705} elsif ($action =~ /^sbx2webssh$/) {
706        require DBI;
707        require DBD::SQLite;
708
709        pb_cms2build("SandBox","Web");
710        pb_send2target("Web");
711} elsif ($action =~ /^cms2webpkg$/) {
712        require DBI;
713        require DBD::SQLite;
714
715        pb_cms2build("CMS","Web");
716} elsif ($action =~ /^cms2webssh$/) {
717        require DBI;
718        require DBD::SQLite;
719
720        pb_cms2build("CMS","Web");
721        pb_send2target("Web");
722} else {
723        pb_log(0,"\'$action\' is not available\n");
724        pb_syntax(-2,1);
725}
726
727sub pb_cms2build {
728
729        my $param = shift || undef;
730        my $web = shift || undef;
731
732        my $pkg;
733        my @pkgs;
734        my $webdir;
735
736        my %pkgs;
737        my $pb;                         # Structure to store conf info
738
739        die "pb_cms2build requires a parameter: SandBox or CMS" if (not defined $param);
740
741        # If Website, then pkg is only the website
742        if (defined $web) {
743                ($webdir) = pb_conf_get("webdir");
744                pb_log(2,"webdir: ".Dumper($webdir)."\n");
745                $pkgs[0] = $webdir->{$ENV{'PBPROJ'}};
746                $extpkgdir = $webdir;
747                pb_log(0,"Package: $pkgs[0]\n");
748        } else {
749                $pkg = pb_cms_get_pkg($defpkgdir,$extpkgdir);
750                @pkgs = @$pkg;
751        }
752
753        my ($scheme, $uri) = pb_cms_init($pbinit,$param);
754
755        # We need 2 lines here
756        my ($pkgv, $pkgt, $testver) = pb_conf_get_if("pkgver","pkgtag","testver");
757
758        # declare packager and repo for filtering
759        my ($tmp1, $tmp2) = pb_conf_get("pbpackager","pbrepo");
760        $ENV{'PBPACKAGER'} = $tmp1->{$ENV{'PBPROJ'}};
761        $ENV{'PBREPO'} = $tmp2->{$ENV{'PBPROJ'}};
762        my ($delivery) = pb_conf_get_if("delivery");
763        $delivery->{$ENV{'PBPROJ'}} = "" if (not defined $delivery->{$ENV{'PBPROJ'}});
764
765        foreach my $pbpkg (@pkgs) {
766                $ENV{'PBPKG'} = $pbpkg;
767
768                if ((defined $pkgv) && (defined $pkgv->{$pbpkg})) {
769                        $pbver = $pkgv->{$pbpkg};
770                } else {
771                        $pbver = $ENV{'PBPROJVER'};
772                }
773                # If it's a test version, then tag == 0.date
774                if ((defined $testver) && (defined $testver->{$ENV{'PBPROJ'}}) && ($testver->{$ENV{'PBPROJ'}} =~ /true/i)) {
775                        $pbtag = "0.".strftime("%Y%m%d%H%M%S", @date);
776                        $ENV{'PBPROJTAG'} = $pbtag;
777                } elsif ((defined $pkgt) && (defined $pkgt->{$pbpkg})) {
778                        $pbtag = $pkgt->{$pbpkg};
779                } else {
780                        $pbtag = $ENV{'PBPROJTAG'};
781                }
782
783                $pbrev = $ENV{'PBREVISION'};
784                pb_log(0,"\n");
785                pb_log(0,"Management of $pbpkg $pbver-$pbtag (rev $pbrev)\n");
786                die "Unable to get env var PBDESTDIR" if (not defined $ENV{'PBDESTDIR'});
787
788                my $dest = "$ENV{'PBDESTDIR'}/$pbpkg-$pbver";
789                # Create the structure if needed
790                pb_mkdir_p($dest);
791                # Clean up dest if necessary. The export will recreate it
792                pb_rm_rf($dest) if (-d $dest);
793
794                # Export CMS tree for the concerned package to dest
795                # And generate some additional files
796                $OUTPUT_AUTOFLUSH=1;
797
798                # computes in which dir we have to work
799                my $dir = $defpkgdir->{$pbpkg};
800                $dir = $extpkgdir->{$pbpkg} if (not defined $dir);
801                $dir = $webdir->{$ENV{'PBPROJ'}} if (defined $web);
802                die "Variable \$dir not defined. Please report to dev team with log of a verbose run and this info ".Dumper($webdir) if (not defined $dir);
803                pb_log(2,"def:".Dumper($defpkgdir)."ext: ".Dumper($extpkgdir)."dir: $dir\n");
804
805                # Exporting content from CMS
806                my $sourcedir = undef;
807                my $sourceuri = $uri;
808                if ($param eq "SandBox") {
809                        # Point to the local instance
810                        $sourcedir = "$ENV{'PBDIR'}/$dir";
811                } else {
812                        # Get it from a subdir of the URI with same version as localy but different root
813                        # Only if using a real CMS
814                        my ($scheme, $account, $host, $port, $path) = pb_get_uri($uri);
815                        if (($scheme !~ /^file/) && ($scheme !~ /^(ht|f)tp/)) {
816                                $sourceuri = "$ENV{'PBDIR'}/$dir"; 
817                                $sourceuri =~ s|^$ENV{'PBPROJDIR'}/|$uri/|;
818                        }
819                }
820                my $preserve = pb_cms_export($sourceuri,$sourcedir,$dest);
821
822                # Generated fake content for test versions to speed up stuff
823                my $chglog;
824
825                # Get project info on authors and log file
826                # TODO: Make it CMS aware
827                $chglog = "$ENV{'PBROOTDIR'}/$pbpkg/pbcl";
828                $chglog = "$ENV{'PBROOTDIR'}/pbcl" if (! -f $chglog);
829                $chglog = undef if (! -f $chglog);
830
831                # TODO: Make it CMS aware
832                my $authors = "$ENV{'PBROOTDIR'}/$pbpkg/pbauthors";
833                $authors = "$ENV{'PBROOTDIR'}/pbauthors" if (! -f $authors);
834                $authors = "/dev/null" if (! -f $authors);
835
836                # Extract cms log history and store it
837                if ((defined $chglog) && (! -f "$dest/NEWS")) {
838                        pb_log(2,"Generating NEWS file from $chglog\n");
839                        copy($chglog,"$dest/NEWS") || die "Unable to create $dest/NEWS";
840                }
841                pb_cms_log($scheme,"$ENV{'PBDIR'}/$dir",$dest,$chglog,$authors,$testver);
842
843                my %build;
844                # We want to at least build for the underlying distro
845                # except if a target was given, in which case we only build for it
846                my $pbos = pb_distro_get_context($pbtarget);
847                my $tmpl = pb_get_distros($pbos,$pbtarget);
848
849                # Setup $pb structure to allow filtering later on, on files using that structure
850                $pb->{'tag'} = $pbtag;
851                $pb->{'rev'} = $pbrev;
852                $pb->{'ver'} = $pbver;
853                $pb->{'pkg'} = $pbpkg;
854                $pb->{'suf'} = $pbos->{'suffix'};
855                $pb->{'realpkg'} = $pbpkg;
856                $pb->{'date'} = $pbdate;
857                $pb->{'defpkgdir'} = $defpkgdir;
858                $pb->{'extpkgdir'} = $extpkgdir;
859                $pb->{'chglog'} = $chglog;
860                $pb->{'packager'} = $ENV{'PBPACKAGER'};
861                $pb->{'proj'} = $ENV{'PBPROJ'};
862                $pb->{'repo'} = "$ENV{'PBREPO'}/$delivery->{$ENV{'PBPROJ'}}";
863                $pb->{'patches'} = ();
864                $pb->{'sources'} = ();
865       
866                my $tmpd = "$ENV{'PBTMP'}/cms.$$";
867                pb_mkdir_p($tmpd) if (defined $pbparallel);
868
869                # Get only all.pbf filter at this stage for pbinit
870                my $ptr = pb_get_filters($pbpkg);
871
872                # Do not do that for website
873                if (not defined $web) {
874                        my %virt;
875                        # De-duplicate similar VM/VE/RM
876                        foreach my $d (split(/,/,$tmpl)) {
877                                # skip ill-formatted vms (name-ver-arch)
878                                next if ($d !~ /-/);
879                                $virt{$d} = $d;
880                        }
881
882                        # Try to use // processing here
883                        my $pm;
884                        $pm = new Parallel::ForkManager($pbparallel) if (defined $pbparallel);
885
886                        pb_log(0,"Preparing delivery ...\n");
887                        foreach my $v (keys %virt) {
888                                $pm->start and next if (defined $pbparallel);
889
890                                # Distro context
891                                my $pbos = pb_distro_get_context($v);
892       
893                                $pb->{'pbos'} = $pbos;
894                                $pb->{'suf'} = $pbos->{'suffix'};
895                                pb_log(3,"DEBUG: pb: ".Dumper($pb)."\n");
896
897                                # Get all filters to apply
898                                $ptr = pb_get_filters($pbpkg,$pbos);
899       
900                                pb_log(2,"DEBUG Filtering PBDATE => $pbdate, PBTAG => $pbtag, PBVER => $pbver\n");
901       
902                                # We need to compute the real name of the package
903                                my $pbrealpkg = pb_cms_get_real_pkg($pbpkg,$pbos->{'type'});
904                                $pb->{'realpkg'} = $pbrealpkg;
905                                pb_log(1,"Virtual package $pbpkg has a real package name of $pbrealpkg on $pbos->{'name'}-$pbos->{'version'}\n") if ($pbrealpkg ne $pbpkg);
906       
907                                # Filter build files from the less precise up to the most with overloading
908                                # Filter all files found, keeping the name, and generating in dest
909       
910                                # Find all build files first relatively to PBROOTDIR
911                                # Find also all specific files referenced in the .pb conf file
912                                my %bfiles = ();
913                                my %pkgfiles = ();
914                                # Used in Filter.pm by pb_filter_file
915
916                                $build{$v} = "yes";
917                                if (-d "$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'os'}") {
918                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'os'}",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
919                                } elsif (-d "$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'type'}") {
920                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'type'}",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
921                                } elsif (-d "$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'family'}") {
922                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'family'}",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
923                                } elsif (-d "$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'name'}") {
924                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'name'}",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
925                                } elsif (-d "$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'name'}-$pbos->{'version'}") {
926                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'name'}-$pbos->{'version'}",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
927                                } elsif (-d "$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}") {
928                                        pb_list_bfiles("$ENV{'PBROOTDIR'}/$pbpkg/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}",$pbpkg,\%bfiles,\%pkgfiles,$supfiles);
929                                } else {
930                                        $build{$v} = "no";
931                                }
932                                pb_log(2,"DEBUG($v) bfiles: ".Dumper(\%bfiles)."\n");
933       
934                                if ($build{$v} ne "no") {
935                                        # Apply now all the filters on all the files concerned
936                                        # destination dir depends on the type of file
937                                        # For patch support
938                                        # TODO: Make it CMS aware
939                                        $pb->{'patches'} = pb_list_sfiles("$ENV{'PBROOTDIR'}/$pbpkg/pbpatch", $pb->{'patches'}, $pbos, "$ENV{'PBROOTDIR'}/$pbpkg/pbextpatch");
940                                        pb_log(2,"DEBUG($v) patches: ".Dumper($pb->{'patches'})."\n");
941                                        # TODO: Make it CMS aware
942                                        $pb->{'sources'} = pb_list_sfiles("$ENV{'PBROOTDIR'}/$pbpkg/pbsrc", $pb->{'sources'}, $pbos, "$ENV{'PBROOTDIR'}/$pbpkg/pbextsrc");
943                                        pb_log(2,"DEBUG($v) sources: ".Dumper($pb->{'sources'})."\n");
944       
945                                        if (defined $pb->{'patches'}->{$v}) {
946                                                # Filter potential patches (local + remote)
947                                                pb_mkdir_p("$dest/pbconf/$v/pbpatch");
948                                                foreach my $pf (split(/,/,$pb->{'patches'}->{$v})) {
949                                                        my $pp = basename($pf);
950                                                        pb_cms_export($pf,undef,"$dest/pbconf/$v/pbpatch");
951                                                        pb_filter_file_inplace($ptr,"$dest/pbconf/$v/pbpatch/$pp",$pb);
952                                                        pb_system("gzip -9f $dest/pbconf/$v/pbpatch/$pp","","quiet");
953                                                }
954                                        }
955                                        if (defined $pb->{'sources'}->{$v}) {
956                                                pb_mkdir_p("$dest/pbconf/$v/pbsrc");
957                                                foreach my $pf (split(/,/,$pb->{'sources'}->{$v})) {
958                                                        my $pp = basename($pf);
959                                                        pb_cms_export($pf,undef,"$dest/pbconf/$v/pbsrc");
960                                                        pb_filter_file_inplace($ptr,"$dest/pbconf/$v/pbsrc/$pp",$pb);
961                                                }
962                                        }
963                                        # Filter build files at the end, as they depend on patches and sources
964                                        foreach my $f (values %bfiles,values %pkgfiles) {
965                                                pb_filter_file("$ENV{'PBROOTDIR'}/$f",$ptr,"$dest/pbconf/$v/".basename($f),$pb);
966                                        }
967                                }
968
969                                if (defined $pbparallel) {
970                                        # Communicate results back to parent
971                                        my $str = "";
972                                        $str .= "build $v = $build{$v}\n" if (defined $build{$v});
973                                        $str .= "patches $v = $pb->{'patches'}->{$v}\n" if (defined $pb->{'patches'}->{$v});
974                                        $str .= "sources $v = $pb->{'sources'}->{$v}\n" if (defined $pb->{'sources'}->{$v});
975                                        pb_set_content("$tmpd/$$","$str");
976                                        $pm->finish;
977                                }
978                        }
979                        # In the parent, we need to get the result from the children
980                        $pm->wait_all_children if (defined $pbparallel);
981                        my $made = "";
982                        my %h = ();
983                        my %tmp;
984                        my %tmp2;
985                        my $pt;
986                        my $k;
987
988                        foreach $k (<$tmpd/*>) {
989                                $made .= pb_get_content($k);
990                        }
991                        pb_rm_rf($tmpd);
992                        pb_log(3,"MADE:\n$made");
993
994                        # Rebuild local hashes
995                        foreach $k (split(/\n/,$made)) {
996                                if ($k =~ /^\s*([A-z0-9-_]+)\s+([[A-z0-9-_.]+)\s*=\s*(.+)$/) {
997                                        $h{$1}->{$2}=$3;
998                                }
999                        }
1000                        pb_log(2,"HASH: ".Dumper(%h));
1001
1002                        # Patches
1003                        pb_log(0,"Delivered and compressed patches ");
1004                        $pt = $h{'patches'};
1005                        foreach $k (keys %$pt) {
1006                                foreach my $v1 (split(/,/,$pt->{$k})) {
1007                                        $tmp{$v1} = "";
1008                                }
1009                        }
1010                        if (keys %tmp) {
1011                                foreach $k (keys %tmp) {
1012                                        pb_log(0,"$k ");
1013                                }
1014                        } else {
1015                                pb_log(0,"N/A");
1016                        }
1017                        pb_log(0,"\n");
1018
1019                        # Sources
1020                        pb_log(0,"Delivered additional sources ");
1021                        $pt = $h{'sources'};
1022                        foreach $k (keys %$pt) {
1023                                foreach my $v1 (split(/,/,$pt->{$k})) {
1024                                        $tmp2{$v1} = "";
1025                                }
1026                        }
1027                        if (keys %tmp2) {
1028                                foreach $k (keys %tmp2) {
1029                                        pb_log(0,"$k ");
1030                                }
1031                        } else {
1032                                pb_log(0,"N/A");
1033                        }
1034                        pb_log(0,"\n");
1035
1036                        # Build files
1037                        my @found;
1038                        my @notfound;
1039                        $pt = $h{'build'};
1040                        foreach my $b (keys %$pt) {
1041                                push @found,$b if ($pt->{$b} =~ /yes/);
1042                                push @notfound,$b if ($pt->{$b} =~ /no/);
1043                        }
1044                        pb_log(0,"Build files have been generated for ... ".join(',',sort(@found))."\n") if (@found);
1045                        pb_log(0,"No Build files found for ".join(',',sort(@notfound))."\n") if (@notfound);
1046
1047                } else {
1048                        # Instead call News generation
1049                        pb_web_news2html($dest);
1050                        # And create an empty pbconf
1051                        pb_mkdir_p("$dest/pbconf");
1052                        # And prepare the pbscript to execute remotely
1053                        open(SCRIPT,"> $ENV{'PBTMP'}/pbscript") || die "Unable to create $ENV{'PBTMP'}/pbscript";
1054                        print SCRIPT "#!/bin/bash\n";
1055                        print SCRIPT "#set -x\n";
1056                        print SCRIPT "echo ... Extracting Website content\n";
1057                        print SCRIPT "find . -type f | grep -Ev '^./$pbpkg-$pbver.tar.gz|^./pbscript' | xargs rm -f non-existent\n";
1058                        print SCRIPT "find * -type d -depth | xargs rmdir 2> /dev/null \n";
1059                        print SCRIPT "tar xfz $pbpkg-$pbver.tar.gz\n";
1060                        print SCRIPT "mv $pbpkg-$pbver/* .\n";
1061                        print SCRIPT "rm -f $pbpkg-$pbver.tar.gz\n";
1062                        print SCRIPT "rmdir $pbpkg-$pbver\n";
1063                        close(SCRIPT);
1064                        chmod 0755,"$ENV{'PBTMP'}/pbscript";
1065                }
1066
1067                # Apply filters to the non-build files
1068                my $liste ="";
1069                if (defined $filteredfiles->{$pbpkg}) {
1070                        foreach my $f (split(/,/,$filteredfiles->{$pbpkg})) {
1071                                pb_filter_file_inplace($ptr,"$dest/$f",$pb);
1072                                $liste = "$f $liste";
1073                        }
1074                }
1075                pb_log(2,"Files ".$liste."have been filtered\n");
1076
1077                # TODO: Make it CMS aware
1078                # Execute the pbinit script if any
1079                if (-x "$ENV{'PBROOTDIR'}/$pbpkg/pbinit") {
1080                        pb_filter_file("$ENV{'PBROOTDIR'}/$pbpkg/pbinit",$ptr,"$ENV{'PBTMP'}/pbinit",$pb);
1081                        chmod 0755,"$ENV{'PBTMP'}/pbinit";
1082                        pb_system("cd $dest ; $ENV{'PBTMP'}/pbinit","Executing init script from $ENV{'PBROOTDIR'}/$pbpkg/pbinit under $dest","verbose");
1083                }
1084
1085                # Do we have additional script to run to prepare the environement for the project ?
1086                # Then include it in the pbconf delivery
1087                foreach my $pbvf (<$ENV{'PBROOTDIR'}/pbv*.pre>,<$ENV{'PBROOTDIR'}/pbv*.post>, <$ENV{'PBROOTDIR'}/pbtest*>) {
1088                        if (-x "$pbvf") {
1089                                my $target = "$ENV{'PBDESTDIR'}/".basename($pbvf);
1090                                pb_filter_file("$pbvf",$ptr,$target,$pb);
1091                                chmod 0755,"$target";
1092                        }
1093                }
1094
1095                # Prepare the dest directory for archive
1096                chdir "$ENV{'PBDESTDIR'}" || die "Unable to change dir to $ENV{'PBDESTDIR'}";
1097                if (defined $preserve) {
1098                        # In that case we want to preserve the original tar file for checksum purposes
1099                        # The one created is btw equivalent in that case to this one
1100                        # Maybe check basename of both to be sure they are the same ?
1101                        pb_log(0,"Preserving original tar file ");
1102                        move("$preserve","$pbpkg-$pbver.tar.gz");
1103                } else {
1104                        # Possibility to look at PBSRC to guess more the filename
1105                        pb_system("tar cfz $pbpkg-$pbver.tar.gz --exclude=$pbpkg-$pbver/pbconf $pbpkg-$pbver","Creating $pbpkg tar files compressed");
1106                }
1107                pb_log(0,"Under $ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz\n");
1108                pb_system("tar cfz $pbpkg-$pbver.pbconf.tar.gz $pbpkg-$pbver/pbconf","Creating pbconf tar files compressed");
1109                pb_log(0,"Under $ENV{'PBDESTDIR'}/$pbpkg-$pbver.pbconf.tar.gz\n");
1110
1111                # Keep track of version-tag per pkg
1112                $pkgs{$pbpkg} = "$pbver-$pbtag";
1113
1114                # Final cleanup
1115                pb_rm_rf($dest) if (-d $dest);
1116        }
1117
1118        # Keep track of per package version
1119        pb_log(2,"DEBUG pkgs: ".Dumper(%pkgs)."\n");
1120        open(PKG,"> $ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb") || die "Unable to create $ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb";
1121        foreach my $pbpkg (keys %pkgs) {
1122                print PKG "pbpkg $pbpkg = $pkgs{$pbpkg}\n";
1123        }
1124        close(PKG);
1125
1126        # Keep track of what is generated by default
1127        # We need to store the dir and info on version-tag
1128        # Base our content on the existing .pb file
1129        copy("$ENV{'PBROOTDIR'}/$ENV{'PBPROJ'}.pb","$ENV{'PBDESTDIR'}/pbrc");
1130        open(LAST,">> $ENV{'PBDESTDIR'}/pbrc") || die "Unable to create $ENV{'PBDESTDIR'}/pbrc";
1131        print LAST "pbroot $ENV{'PBPROJ'} = $ENV{'PBROOTDIR'}\n";
1132        print LAST "projver $ENV{'PBPROJ'} = $ENV{'PBPROJVER'}\n";
1133        print LAST "projtag $ENV{'PBPROJ'} = $ENV{'PBPROJTAG'}\n";
1134        print LAST "pbpackager $ENV{'PBPROJ'} = $ENV{'PBPACKAGER'}\n";
1135        close(LAST);
1136}
1137
1138sub pb_test2pkg {
1139        # Get the running distro to test on
1140        my $pbos = pb_distro_get_context();
1141
1142        # Get list of packages to test
1143        # Get content saved in cms2build
1144        my $ptr = pb_get_pkg();
1145        @pkgs = @$ptr;
1146
1147        # Additional potential repo
1148        pb_distro_setuprepo($pbos);
1149        foreach my $pbpkg (@pkgs) {
1150                # We need to install the package to test, and deps brought with it
1151                pb_distro_installdeps(undef,$pbos,$pbpkg);
1152                pb_system("$ENV{'PBDESTDIR'}/pbtest","Launching test for $pbpkg","verbose");
1153        }
1154}
1155
1156sub pb_build2pkg {
1157
1158        # Get the running distro to build on
1159        my $pbos = pb_distro_get_context();
1160
1161        # If needed we may add repository to the build env
1162        pb_distro_setuprepo($pbos);
1163
1164        # Get list of packages to build
1165        my $ptr = pb_get_pkg();
1166        @pkgs = @$ptr;
1167
1168        # Get content saved in cms2build
1169        my ($pkg) = pb_conf_read("$ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb","pbpkg");
1170        $pkg = { } if (not defined $pkg);
1171
1172        pb_mkdir_p("$ENV{'PBBUILDDIR'}") if (! -d "$ENV{'PBBUILDDIR'}");
1173        chdir "$ENV{'PBBUILDDIR'}" || die "Unable to chdir to $ENV{'PBBUILDDIR'}";
1174        my $made = ""; # pkgs made during build
1175        my $pm;
1176        $pm = new Parallel::ForkManager($pbparallel) if (defined $pbparallel);
1177
1178        # We need to communicate info back from the children if parallel so prepare a dir for that
1179        my $tmpd = "$ENV{'PBTMP'}/build.$$";
1180        pb_mkdir_p($tmpd) if (defined $pbparallel);
1181
1182        foreach my $pbpkg (@pkgs) {
1183                $pm->start and next if (defined $pbparallel);
1184
1185                my $vertag = $pkg->{$pbpkg};
1186                # get the version of the current package - maybe different
1187                ($pbver,$pbtag) = split(/-/,$vertag);
1188
1189                my $src="$ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz";
1190                my $src2="$ENV{'PBDESTDIR'}/$pbpkg-$pbver.pbconf.tar.gz";
1191                pb_log(2,"Source file: $src\n");
1192                pb_log(2,"Pbconf file: $src2\n");
1193
1194                pb_log(2,"Working directory: $ENV{'PBBUILDDIR'}\n");
1195                if ($pbos->{'type'} eq "rpm") {
1196                        foreach my $d ('RPMS','SRPMS','SPECS','SOURCES','BUILD') {
1197                                if (! -d "$ENV{'PBBUILDDIR'}/$d") {
1198                                        pb_mkdir_p("$ENV{'PBBUILDDIR'}/$d");
1199                                }
1200                        }
1201
1202                        # Remove in case a previous link/file was there
1203                        unlink "$ENV{'PBBUILDDIR'}/SOURCES/".basename($src);
1204                        symlink "$src","$ENV{'PBBUILDDIR'}/SOURCES/".basename($src) || die "Unable to symlink $src in $ENV{'PBBUILDDIR'}/SOURCES";
1205                        # We need to first extract the spec file
1206                        my @specfile = pb_extract_build_files($src2,"$pbpkg-$pbver/pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/","$ENV{'PBBUILDDIR'}/SPECS","spec");
1207
1208                        # We need to handle potential patches to upstream sources
1209                        pb_extract_build_files($src2,"$pbpkg-$pbver/pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/pbpatch/","$ENV{'PBBUILDDIR'}/SOURCES","patch");
1210
1211                        # We need to handle potential additional sources to upstream sources
1212                        pb_extract_build_files($src2,"$pbpkg-$pbver/pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/pbsrc/","$ENV{'PBBUILDDIR'}/SOURCES","src");
1213
1214                        pb_log(2,"specfile: ".Dumper(\@specfile)."\n");
1215                        # set LANGUAGE to check for correct log messages
1216                        $ENV{'LANGUAGE'}="C";
1217                        # Older Redhat use _target_platform in %configure incorrectly
1218                        my $specialdef = "";
1219                        if (($pbos->{'name'} eq "redhat") || (($pbos->{'name'} eq "rhel") && ($pbos->{'version'} eq "2.1"))) {
1220                                $specialdef = "--define \'_target_platform \"\"\'";
1221                        }
1222
1223                        foreach my $f (@specfile) {
1224                                if ($f =~ /\.spec$/) {
1225                                        # This could cause an issue in // mode
1226                                        pb_distro_installdeps($f,$pbos);
1227                                        pb_system("rpmbuild $specialdef --define \"packager $ENV{'PBPACKAGER'}\" --define \"_topdir $ENV{'PBBUILDDIR'}\" -ba $f","Building package with $f under $ENV{'PBBUILDDIR'}","verbose");
1228                                        last;
1229                                }
1230                        }
1231                        # Get the name of the generated packages
1232                        open(LOG,"$ENV{'PBTMP'}/system.$$.log") || die "Unable to open $ENV{'PBTMP'}/system.$$.log";
1233                        while (<LOG>) {
1234                                chomp($_);
1235                                next if ($_ !~ /^Wrote:/);
1236                                s|.*/([S]*RPMS.*)|$1|;
1237                                $made .=" $_";
1238                        }
1239                        close(LOG);
1240
1241                } elsif ($pbos->{'type'} eq "deb") {
1242                        pb_system("tar xfz $src","Extracting sources");
1243                        pb_system("tar xfz $src2","Extracting pbconf");
1244
1245                        chdir "$pbpkg-$pbver" || die "Unable to chdir to $pbpkg-$pbver";
1246                        pb_rm_rf("debian");
1247                        symlink "pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}","debian" || die "Unable to symlink to pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}";
1248                        chmod 0755,"debian/rules";
1249
1250                        pb_distro_installdeps("debian/control",$pbos);
1251                        pb_system("dpkg-buildpackage -us -uc -rfakeroot","Building package","verbose");
1252                        # Get the name of the generated packages
1253                        open(LOG,"$ENV{'PBTMP'}/system.$$.log") || die "Unable to open $ENV{'PBTMP'}/system.$$.log";
1254                        while (<LOG>) {
1255                                chomp();
1256                                my $tmp = $_;
1257                                next if ($tmp !~ /^dpkg-deb.*:/);
1258                                $tmp =~ s|.*\.\./(.*)_(.*).deb.*|$1|;
1259                                $made="$made $tmp.dsc $tmp.tar.gz $tmp"."_*.deb $tmp"."_*.changes";
1260                        }
1261                        close(LOG);
1262                        chdir ".." || die "Unable to chdir to parent dir";
1263                        pb_system("rm -rf $pbpkg-$pbver", "Cleanup");
1264                } elsif ($pbos->{'type'} eq "ebuild") {
1265                        my @ebuildfile;
1266                        # For gentoo we need to take pb as subsystem name
1267                        # We put every apps here under sys-apps. hope it's correct
1268                        # We use pb's home dir in order to have a single OVERLAY line
1269                        my $tmpe = "$ENV{'HOME'}/portage/pb/sys-apps/$pbpkg";
1270                        pb_mkdir_p($tmpe) if (! -d "$tmpe");
1271                        pb_mkdir_p("$ENV{'HOME'}/portage/distfiles") if (! -d "$ENV{'HOME'}/portage/distfiles");
1272
1273                        # We need to first extract the ebuild file
1274                        @ebuildfile = pb_extract_build_files($src2,"$pbpkg-$pbver/pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/","$tmpe","ebuild");
1275
1276                        # Prepare the build env for gentoo
1277                        my $found = 0;
1278                        my $pbbd = $ENV{'HOME'};
1279                        $pbbd =~ s|/|\\/|g;
1280                        if (-r "/etc/make.conf") {
1281                                open(MAKE,"/etc/make.conf");
1282                                while (<MAKE>) {
1283                                        $found = 1 if (/$pbbd\/portage/);
1284                                }
1285                                close(MAKE);
1286                        }
1287                        if ($found == 0) {
1288                                pb_system("sudo sh -c 'echo PORTDIR_OVERLAY=\"$ENV{'HOME'}/portage\" >> /etc/make.conf'");
1289                        }
1290                        #$found = 0;
1291                        #if (-r "/etc/portage/package.keywords") {
1292                        #open(KEYW,"/etc/portage/package.keywords");
1293                        #while (<KEYW>) {
1294                        #$found = 1 if (/portage\/pb/);
1295                        #}
1296                        #close(KEYW);
1297                        #}
1298                        #if ($found == 0) {
1299                        #pb_system("sudo sh -c \"echo portage/pb >> /etc/portage/package.keywords\"");
1300                        #}
1301
1302                        # Build
1303                        foreach my $f (@ebuildfile) {
1304                                if ($f =~ /\.ebuild$/) {
1305                                        pb_distro_installdeps($f,$pbos);
1306                                        move($f,"$tmpe/$pbpkg-$pbver.ebuild");
1307                                        pb_system("cd $tmpe ; ebuild $pbpkg-$pbver.ebuild clean ; ebuild $pbpkg-$pbver.ebuild digest ; ebuild $pbpkg-$pbver.ebuild package","verbose");
1308                                        # Now move it where pb expects it
1309                                        pb_mkdir_p("$ENV{'PBBUILDDIR'}/portage/pb/sys-apps/$pbpkg");
1310                                        if ($pbtag =~ /^0\./) {
1311                                                # This is a test version
1312                                                my $ntag = $pbtag;
1313                                                $ntag =~ s/^0\.//;
1314                                                move("$tmpe/$pbpkg-$pbver.ebuild","$ENV{'PBBUILDDIR'}/portage/pb/sys-apps/$pbpkg/$pbpkg-$pbver"."_p$ntag.ebuild");
1315                                                $made="$made portage/pb/sys-apps/$pbpkg/$pbpkg-$pbver"."_p$ntag.ebuild";
1316                                        } else {
1317                                                move("$tmpe/$pbpkg-$pbver.ebuild","$ENV{'PBBUILDDIR'}/portage/pb/sys-apps/$pbpkg/$pbpkg-$pbver-r$pbtag.ebuild");
1318                                                $made="$made portage/pb/sys-apps/$pbpkg/$pbpkg-$pbver-r$pbtag.ebuild";
1319                                        }
1320                                }
1321                        }
1322
1323                } elsif ($pbos->{'type'} eq "tgz") {
1324                        # Slackware family
1325                        $made="$made $pbpkg/$pbpkg-$pbver-*-$pbtag.tgz";
1326
1327                        pb_system("tar xfz $src","Extracting sources");
1328                        pb_system("tar xfz $src2","Extracting pbconf");
1329                        chdir "$pbpkg-$pbver" || die "Unable to chdir to $pbpkg-$pbver";
1330                        symlink "pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}","install" || die "Unable to symlink to pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}";
1331                        if (-x "install/pbslack") {
1332                                pb_distro_installdeps("./install/pbslack",$pbos);
1333                                pb_system("./install/pbslack","Building software");
1334                                pb_system("sudo /sbin/makepkg -p -l y -c y $pbpkg","Packaging $pbpkg","verbose");
1335                        }
1336                        chdir ".." || die "Unable to chdir to parent dir";
1337                        pb_system("rm -rf $pbpkg-$pbver", "Cleanup");
1338                } elsif ($pbos->{'type'} eq "pkg") {
1339                        # Solaris
1340                        $made="$made $pbpkg-$pbver-$pbtag.pkg.gz";
1341                        my $pkgdestdir="$ENV{'PBBUILDDIR'}/install";
1342
1343                        # Will host resulting packages
1344                        pb_mkdir_p("$pbos->{'type'}");
1345                        pb_mkdir_p("$pkgdestdir/delivery");
1346                        pb_system("tar xfz $src","Extracting sources under $ENV{'PBBUILDDIR'}");
1347                        pb_system("tar xfz $src2","Extracting pbconf under $ENV{'PBBUILDDIR'}");
1348                        # We need to handle potential patches to upstream sources
1349                        pb_extract_build_files($src2,"$pbpkg-$pbver/pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/pbpatch/","$ENV{'PBBUILDDIR'}","patch");
1350
1351                        # We need to handle potential additional sources to upstream sources
1352                        pb_extract_build_files($src2,"$pbpkg-$pbver/pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/pbsrc/","$ENV{'PBBUILDDIR'}","src");
1353
1354                        chdir "$pbpkg-$pbver" || die "Unable to chdir to $pbpkg-$pbver";
1355                        if (-f "pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/pbbuild") {
1356                                chmod 0755,"pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/pbbuild";
1357                                # pkginfo file is mandatory
1358                                die "Unable to find pkginfo file in pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}" if (! -f "pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/pkginfo");
1359                                # Build
1360                                pb_system("pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/pbbuild $pkgdestdir/delivery","Building software and installing under $pkgdestdir/delivery");
1361                                # Copy complementary files
1362                                if (-f "pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/prototype") {
1363                                        copy("pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/prototype", $pkgdestdir) 
1364                                } else {
1365                                        # No prototype provided, calculating it
1366                                        open(PROTO,"> $pkgdestdir/prototype") || die "Unable to create prototype file";
1367                                        print PROTO "i pkginfo\n";
1368                                        print PROTO "i depend\n" if (-f "pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/depend");
1369                                        $ENV{'PBSOLDESTDIR'} = "$pkgdestdir/delivery";
1370                                        find(\&create_solaris_prototype, "$pkgdestdir/delivery");
1371                                }
1372                                copy("pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/depend", $pkgdestdir) if (-f "pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/depend");
1373                                copy("pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/pkginfo", $pkgdestdir);
1374                                pb_system("cd $pkgdestdir/delivery ; pkgmk -o -f ../prototype -r $pkgdestdir/delivery -d $ENV{'PBBUILDDIR'}/$pbos->{'type'}","Packaging $pbpkg","verbose");
1375                                pb_system("cd $ENV{'PBBUILDDIR'}/$pbos->{'type'} ;  echo \"\" | pkgtrans -o -n -s $ENV{'PBBUILDDIR'}/$pbos->{'type'} $ENV{'PBBUILDDIR'}/$pbpkg-$pbver-$pbtag.pkg all","Transforming $pbpkg","verbose");
1376                                pb_system("cd $ENV{'PBBUILDDIR'} ;  gzip -9f $pbpkg-$pbver-$pbtag.pkg","Compressing $pbpkg-$pbver-$pbtag.pkg","verbose");
1377                        } else {
1378                                pb_log(0,"No pbconf/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}/pbbuild file found for $pbpkg-$pbver in \n");
1379                        }
1380                        chdir ".." || die "Unable to chdir to parent dir";
1381                        pb_system("rm -rf $pbpkg-$pbver $ENV{'PBBUILDDIR'}/$pbos->{'type'} $pkgdestdir", "Cleanup");
1382                } elsif ($pbos->{'type'} eq "hpux") {
1383                        # HP-UX
1384                        pb_system("tar xfz $src","Extracting sources");
1385                        pb_system("tar xfz $src2","Extracting pbconf");
1386
1387                        chdir "$pbpkg-$pbver" || die "Unable to chdir to $pbpkg-$pbver";
1388                        pb_system("buildpackage ","Building package","verbose");
1389                        # Get the name of the generated packages
1390                        open(LOG,"$ENV{'PBTMP'}/system.$$.log") || die "Unable to open $ENV{'PBTMP'}/system.$$.log";
1391                        while (<LOG>) {
1392                                chomp();
1393                                my $tmp = $_;
1394                                next if ($tmp !~ /^SD BUILD.*:/);
1395                                $tmp =~ s|.*../(.*)_(.*).sd.*|$1|;
1396                                $made = "$made $tmp"."_*.sd";
1397                        }
1398                        close(LOG);
1399                        $made="$made $pbpkg-$pbver-$pbtag.sd";
1400
1401                        chdir ".." || die "Unable to chdir to parent dir";
1402                        pb_system("rm -rf $pbpkg-$pbver", "Cleanup");
1403                } else {
1404                        die "Unknown OS type format $pbos->{'type'}";
1405                }
1406                if (defined $pbparallel) {
1407                        # Communicate results back to parent
1408                        pb_set_content("$tmpd/$$",$made);
1409                        $pm->finish;
1410                }
1411        }
1412        if (defined $pbparallel) {
1413                # In the parent, we need to get the result from the children
1414                $pm->wait_all_children;
1415                foreach my $f (<$tmpd/*>) {
1416                        $made .= " ".pb_get_content($f);
1417                }
1418                pb_rm_rf($tmpd);
1419        }
1420
1421        # Sign packages
1422        pb_sign_pkgs($pbos,$made);
1423
1424        # Find the appropriate check cmd/opts
1425        my ($chkcmd,$chkopt) = pb_distro_get_param($pbos,pb_conf_get_if("oschkcmd","oschkopt"));
1426
1427        # Packages check if needed
1428        if ($pbos->{'type'} eq "rpm") {
1429                if ((defined  $chkcmd) && (-x $chkcmd)) {
1430                        my $cmd = "$chkcmd";
1431                        $cmd .= " $chkopt" if (defined $chkopt);
1432                        $cmd .= " $made";
1433                        pb_system("$cmd","Checking validity of rpms with $chkcmd","verbose");
1434                }
1435                my $rpms ="";
1436                my $srpms ="";
1437                foreach my $f (split(/ /,$made)) {
1438                        $rpms .= "$ENV{'PBBUILDDIR'}/$f " if ($f =~ /^RPMS\//);
1439                        $srpms .= "$ENV{'PBBUILDDIR'}/$f " if ($f =~ /^SRPMS\//);
1440                }
1441                pb_log(0,"SRPM packages generated: $srpms\n");
1442                pb_log(0,"RPM packages generated: $rpms\n");
1443        } elsif ($pbos->{'type'} eq "deb") {
1444                my $made2 = "";
1445                foreach my $f (split(/ /,$made)) {
1446                        $made2 .= "$f " if ($f =~ /\.deb$/);
1447                }
1448                if (-x $chkcmd) {
1449                        pb_system("$chkcmd $chkopt $made2","Checking validity of debs with $chkcmd","verbose");
1450                }
1451                pb_log(0,"deb packages generated: $made2\n");
1452        } else {
1453                pb_log(0,"No check done for $pbos->{'type'} yet\n");
1454                pb_log(0,"Packages generated: $made\n");
1455        }
1456
1457        # Keep track of what is generated so that we can get them back from VMs/RMs
1458        open(KEEP,"> $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}-$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}") || die "Unable to create $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}-$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}";
1459        print KEEP "$made\n";
1460        close(KEEP);
1461}
1462
1463sub create_solaris_prototype {
1464
1465        my $uidgid = "bin bin";
1466        my $pkgdestdir = $ENV{'PBSOLDESTDIR'};
1467
1468        return if ($_ =~ /^$pkgdestdir$/);
1469        if (-d $_) {
1470                my $n = $File::Find::name;
1471                $n =~ s~$pkgdestdir/~~;
1472                print PROTO "d none $n 0755 $uidgid\n";
1473        } elsif (-x $_) {
1474                my $n = $File::Find::name;
1475                $n =~ s~$pkgdestdir/~~;
1476                print PROTO "f none $n 0755 $uidgid\n";
1477        } elsif (-f $_) {
1478                my $n = $File::Find::name;
1479                $n =~ s~$pkgdestdir/~~;
1480                print PROTO "f none $n 0644 $uidgid\n";
1481        }
1482}
1483
1484sub pb_build2ssh {
1485        pb_send2target("Sources");
1486}
1487
1488sub pb_pkg2ssh {
1489        pb_send2target("Packages");
1490}
1491
1492# By default deliver to the the public site hosting the
1493# ftp structure (or whatever) or a VM/VE/RM
1494sub pb_send2target {
1495
1496        my $cmt = shift;
1497        my $v = shift || undef;
1498        my $vmexist = shift || 0;                       # 0 is FALSE
1499        my $vmpid = shift || 0;                         # 0 is FALSE
1500        my $snapme = shift || 0;                        # 0 is FALSE
1501
1502        pb_log(2,"DEBUG: pb_send2target($cmt,".Dumper($v).",$vmexist,$vmpid)\n");
1503        my $host = "sshhost";
1504        my $login = "sshlogin";
1505        my $dir = "sshdir";
1506        my $port = "sshport";
1507        my $conf = "sshconf";
1508        my $tmout = undef;
1509        my $path = undef;
1510        if ($cmt =~ /^VM/) {
1511                $login = "vmlogin";
1512                $dir = "pbdefdir";
1513                # Specific VM
1514                $tmout = "vmtmout";
1515                $path = "vmpath";
1516                $host = "vmhost";
1517                $port = "vmport";
1518        } elsif ($cmt =~ /^RM/) {
1519                $login = "rmlogin";
1520                $dir = "pbdefdir";
1521                # Specific RM
1522                $tmout = "rmtmout";
1523                $path = "rmpath";
1524                $host = "rmhost";
1525                $port = "rmport";
1526        } elsif ($cmt =~ /^VE/) {
1527                $login = "velogin";
1528                $dir = "pbdefdir";
1529                # Specific VE
1530                $path = "vepath";
1531                $conf = "rbsconf";
1532        } elsif ($cmt eq "Web") {
1533                $host = "websshhost";
1534                $login = "websshlogin";
1535                $dir = "websshdir";
1536                $port = "websshport";
1537        }
1538        my $cmd = "";
1539        my $src = "";
1540        my $pbos;
1541
1542        if ($cmt ne "Announce") {
1543                # Get list of packages to build
1544                my $ptr = pb_get_pkg();
1545                @pkgs = @$ptr;
1546
1547                # Get the running distro to consider
1548                $pbos = pb_distro_get_context($v);
1549
1550                # Get list of packages to build
1551                # Get content saved in cms2build
1552                my ($pkg) = pb_conf_read("$ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb","pbpkg");
1553                $pkg = { } if (not defined $pkg);
1554
1555                pb_mkdir_p("$ENV{'PBBUILDDIR'}") if (! -d "$ENV{'PBBUILDDIR'}");
1556                chdir "$ENV{'PBBUILDDIR'}" || die "Unable to chdir to $ENV{'PBBUILDDIR'}";
1557                foreach my $pbpkg (@pkgs) {
1558                        my $vertag = $pkg->{$pbpkg};
1559                        # get the version of the current package - maybe different
1560                        ($pbver,$pbtag) = split(/-/,$vertag);
1561
1562                        if (($cmt eq "Sources") || ($cmt =~ /(V[EM]|RM)build/)) {
1563                                $src = "$src $ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz $ENV{'PBDESTDIR'}/$pbpkg-$pbver.pbconf.tar.gz";
1564                                if ($cmd eq "") {
1565                                        $cmd = "ln -sf $pbpkg-$pbver.tar.gz $pbpkg-latest.tar.gz";
1566                                } else {
1567                                        $cmd = "$cmd ; ln -sf $pbpkg-$pbver.tar.gz $pbpkg-latest.tar.gz";
1568                                }
1569                        } elsif ($cmt eq "Web") {
1570                                $src = "$src $ENV{'PBDESTDIR'}/$pbpkg-$pbver.tar.gz"
1571                        }
1572                }
1573                # Adds conf file for availability of conf elements
1574                pb_conf_add("$ENV{'PBROOTDIR'}/$ENV{'PBPROJ'}.pb");
1575        }
1576
1577        if ($cmt =~ /(V[EM]|RM)build/) {
1578                $src="$src $ENV{'PBROOTDIR'}/$ENV{'PBPROJ'}.pb $ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb $ENV{'PBETC'} $ENV{'PBDESTDIR'}/pbrc $ENV{'PBDESTDIR'}/pbscript.$$";
1579        } elsif ($cmt =~ /(V[EM]|RM)Script/) {
1580                $src="$src $ENV{'PBDESTDIR'}/pbscript.$$";
1581        } elsif ($cmt =~ /(V[EM]|RM)test/) {
1582                $src="$src $ENV{'PBROOTDIR'}/$ENV{'PBPROJ'}.pb $ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb $ENV{'PBETC'} $ENV{'PBDESTDIR'}/pbrc $ENV{'PBDESTDIR'}/pbscript.$$ $ENV{'PBDESTDIR'}/pbtest";
1583        } elsif (($cmt eq "Announce") || ($cmt eq "Web")) {
1584                $src="$src $ENV{'PBTMP'}/pbscript";
1585        } elsif ($cmt eq "Packages") {
1586                # Get package list from file made during build2pkg
1587                open(KEEP,"$ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}-$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}") || die "Unable to read $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}-$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}";
1588                $src = <KEEP>;
1589                chomp($src);
1590                close(KEEP);
1591                $src = "$src $ENV{'PBBUILDDIR'}/pbscript.$$";
1592        }
1593        if (($cmt eq "Sources") || ($cmt eq "Packages")) {
1594                my ($pbpackager) = pb_conf_get("pbpackager");
1595                $ENV{'PBPACKAGER'} = $pbpackager->{$ENV{'PBPROJ'}};
1596                pb_log(0,"Exporting public key for $ENV{'PBPACKAGER'}\n");
1597                # Using pb_system is not working due to redirection below
1598                system("gpg --export -a \'$ENV{'PBPACKAGER'}\' > $ENV{'PBDESTDIR'}/$ENV{'PBPROJ'}.pubkey");
1599                chmod 0644,"$ENV{'PBDESTDIR'}/$ENV{'PBPROJ'}.pubkey";
1600                $src = "$src $ENV{'PBDESTDIR'}/$ENV{'PBPROJ'}.pubkey";
1601        }
1602        # Remove potential leading spaces (cause problem with basename)
1603        $src =~ s/^ *//;
1604        my $basesrc = "";
1605        foreach my $i (split(/ +/,$src)) {
1606                $basesrc .= " ".basename($i);
1607        }
1608
1609        pb_log(0,"Sources handled ($cmt): $src\n");
1610        pb_log(2,"values: ".Dumper(($host,$login,$dir,$port,$tmout,$path,$conf))."\n");
1611        my ($sshhost,$sshlogin,$sshdir,$sshport) = pb_conf_get($host,$login,$dir,$port);
1612        # Not mandatory...
1613        my ($rbsconf,$testver,$delivery) = pb_conf_get_if($conf,"testver","delivery");
1614        $delivery->{$ENV{'PBPROJ'}} = "" if (not defined $delivery->{$ENV{'PBPROJ'}});
1615        my ($vtmout,$vepath);
1616        # ...Except those in virtual context
1617        if ($cmt =~ /^VE/) {
1618                ($vepath) = pb_conf_get($path);
1619        }
1620        if ($cmt =~ /^(V|R)M/) {
1621                $vtmout = pb_distro_get_param($pbos,pb_conf_get_if($tmout));
1622        }
1623        my $remhost = $sshhost->{$ENV{'PBPROJ'}};
1624        my $remdir = $sshdir->{$ENV{'PBPROJ'}};
1625        if ($cmt =~ /^V[EM]|RM/) {
1626                # In that case our real host is in the xxhost with the OS as key, not project as above
1627                $remhost = pb_distro_get_param($pbos,$sshhost);
1628        }
1629        pb_log(2,"ssh: ".Dumper(($remhost,$sshlogin,$remdir,$sshport,$vepath,$rbsconf))."\n");
1630        pb_log(2,"ssh: ".Dumper($vtmout)."\n") if (defined $vtmout);
1631
1632        my $mac;
1633        if ($cmt !~ /^VE/) {
1634                $mac = "$sshlogin->{$ENV{'PBPROJ'}}\@$remhost";
1635                # Overwrite account value if passed as parameter
1636                $mac = "$pbaccount\@$remhost" if (defined $pbaccount);
1637                pb_log(2, "DEBUG: pbaccount: $pbaccount => mac: $mac\n") if (defined $pbaccount);
1638        } else {
1639                # VE
1640                # Overwrite account value if passed as parameter (typically for setup2v)
1641                $mac = $sshlogin->{$ENV{'PBPROJ'}};
1642                $mac = $pbaccount if (defined $pbaccount);
1643        }
1644
1645        my $tdir;
1646        my $bdir;
1647        if (($cmt eq "Sources") || ($cmt =~ /(V[EM]|RM)Script/)) {
1648                $tdir = "$remdir/$delivery->{$ENV{'PBPROJ'}}/src";
1649        } elsif ($cmt =~ /(V[EM]|RM)(build|test)/) {
1650                $tdir = $remdir."/$ENV{'PBPROJ'}/delivery";
1651                $bdir = $remdir."/$ENV{'PBPROJ'}/build";
1652                # Remove a potential $ENV{'HOME'} as bdir should be relative to pb's home
1653                $bdir =~ s|\$ENV.+\}/||;
1654        } elsif ($cmt eq "Announce") {
1655                $tdir = "$remdir/$delivery->{$ENV{'PBPROJ'}}";
1656        } elsif ($cmt eq "Web") {
1657                $tdir = "$remdir/$delivery->{$ENV{'PBPROJ'}}";
1658        } elsif ($cmt eq "Packages") {
1659                if (($pbos->{'type'} eq "rpm") || ($pbos->{'type'} eq "pkg") || ($pbos->{'type'} eq "hpux") || ($pbos->{'type'} eq "tgz")) {
1660                        # put packages under an arch subdir
1661                        $tdir = "$remdir/$delivery->{$ENV{'PBPROJ'}}/$pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'}";
1662                } elsif (($pbos->{'type'} eq "deb") || ($pbos->{'type'} eq "ebuild")) {
1663                        # No need for an arch subdir
1664                        $tdir = "$remdir/$delivery->{$ENV{'PBPROJ'}}/$pbos->{'name'}/$pbos->{'version'}";
1665                } else {
1666                        die "Please teach the dev team where to deliver ($pbos->{'type'} type of packages\n";
1667                }
1668
1669                my $repodir = $tdir;
1670                $repodir =~ s|^$remdir/||;
1671
1672                my ($pbrepo) = pb_conf_get("pbrepo");
1673
1674                # Repository management
1675                open(PBS,"> $ENV{'PBBUILDDIR'}/pbscript.$$") || die "Unable to create $ENV{'PBBUILDDIR'}/pbscript.$$";
1676                if ($pbos->{'type'} eq "rpm") {
1677                        my $pbsha = pb_distro_get_param($pbos,pb_conf_get("ossha"));
1678                        # Also make a pbscript to generate yum/urpmi bases
1679                        print PBS << "EOF";
1680#!/bin/bash
1681# Prepare a script to ease yum setup
1682EOF
1683                        print PBS "set -x\n" if ($pbdebug gt 1);
1684                        print PBS << "EOF";
1685cat > $ENV{'PBPROJ'}.repo << EOT
1686[$ENV{'PBPROJ'}]
1687name=$pbos->{'name'} $pbos->{'version'} $pbos->{'arch'} - $ENV{'PBPROJ'} Vanilla Packages
1688baseurl=$pbrepo->{$ENV{'PBPROJ'}}/$repodir
1689enabled=1
1690gpgcheck=1
1691gpgkey=$pbrepo->{$ENV{'PBPROJ'}}/$repodir/$ENV{'PBPROJ'}.pubkey
1692EOT
1693chmod 644 $ENV{'PBPROJ'}.repo
1694
1695# Clean up old repo content
1696rm -rf headers/ repodata/
1697# Create yum repo
1698if [ -x /usr/bin/yum-arch ]; then
1699        yum-arch .
1700fi
1701# Create repodata
1702createrepo -s $pbsha .
1703EOF
1704                        if ($pbos->{'family'} eq "md") {
1705                                # For Mandriva add urpmi management
1706                                print PBS << "EOF";
1707# Prepare a script to ease urpmi setup
1708cat > $ENV{'PBPROJ'}.addmedia << EOT
1709urpmi.addmedia $ENV{'PBPROJ'} $pbrepo->{$ENV{'PBPROJ'}}/$repodir with media_info/hdlist.cz
1710EOT
1711chmod 755 $ENV{'PBPROJ'}.addmedia
1712
1713# Clean up old repo content
1714rm -f hdlist.cz synthesis.hdlist.cz
1715# Create urpmi repo
1716genhdlist2 --clean .
1717if [ \$\? -ne 0 ]; then
1718        genhdlist .
1719fi
1720EOF
1721                        }
1722                        if ($pbos->{'name'} eq "fedora") {
1723                                # Extract the spec file to please Fedora maintainers :-(
1724                                print PBS << "EOF";
1725for p in $basesrc; do
1726        echo \$p | grep -q 'src.rpm'
1727        if [ \$\? -eq 0 ]; then
1728                rpm2cpio \$p | cpio -ivdum --quiet '*.spec'
1729        fi
1730done
1731EOF
1732                        }
1733                        if ($pbos->{'family'} eq "novell") {
1734                                # Add ymp scripts for one-click install on SuSE
1735                                print PBS << "EOF";
1736# Prepare a script to ease SuSE one-click install
1737# Cf: http://de.opensuse.org/1-Klick-Installation/ISV
1738#
1739cat > $ENV{'PBPROJ'}.ymp << EOT
1740<?xml version="1.0" encoding="utf-8"?>
1741<!-- vim: set sw=2 ts=2 ai et: -->
1742<metapackage xmlns:os="http://opensuse.org/Standards/One_Click_Install" xmlns="http://opensuse.org/Standards/One_Click_Install">
1743        <group><!-- The group of software, typically one for project-builder.org -->
1744                <name>$ENV{'PBPROJ'} Bundle</name> <!-- Name of the software group -->
1745                <summary>Software bundle for the $ENV{'PBPROJ'} project</summary> <!--This message is shown to the user and should describe the whole bundle -->
1746                <description>This is the summary of the $ENV{'PBPROJ'} Project
1747                     
1748                        Details are available on a per package basis below
1749
1750                </description><!--This is also shown to the user -->
1751                <remainSubscribed>false</remainSubscribed> <!-- Don't know what it mean -->
1752                <repositories><!-- List of needed repositories -->
1753                        <repository>
1754                                <name>$ENV{'PBPROJ'} Repository</name> <!-- Name of the repository  -->
1755                                <summary>This repository contains the $ENV{'PBPROJ'} project packages.</summary> <!-- Summary of the repository -->
1756                                <description>This repository contains the $ENV{'PBPROJ'} project packages.</description><!-- This description is shown to the user -->
1757                                <url>$pbrepo->{$ENV{'PBPROJ'}}/$repodir</url><!--URL of repository, which is added -->
1758                        </repository>
1759                </repositories>
1760                <software><!-- A List of packages, which should be added through the one-click-installation -->
1761EOT
1762for p in $basesrc; do
1763        sum=`rpm -q --qf '%{SUMMARY}' \$p`
1764        name=`rpm -q --qf '%{NAME}' \$p`
1765        desc=`rpm -q --qf '%{description}' \$p`
1766        cat >> $ENV{'PBPROJ'}.ymp << EOT
1767                        <item>
1768                                <name>\$name</name><!-- Name of the package, is shown to the user and used to identify the package at the repository -->
1769                                <summary>\$sum</summary> <!-- Summary of the package -->
1770                                <description>\$desc</description> <!-- Description, is shown to the user -->
1771                        </item>
1772EOT
1773done
1774cat >> $ENV{'PBPROJ'}.ymp << EOT
1775                </software>
1776        </group>
1777</metapackage>
1778EOT
1779chmod 644 $ENV{'PBPROJ'}.ymp
1780EOF
1781                        }
1782                } elsif ($pbos->{'type'} eq "deb") {
1783                        # Also make a pbscript to generate apt bases
1784                        # Cf: http://www.debian.org/doc/manuals/repository-howto/repository-howto.fr.html
1785                        # This dirname removes ver
1786                        my $debarch = $pbos->{'arch'};
1787                        $debarch = "amd64" if ($pbos->{'arch'} eq "x86_64");
1788                        my $rpd = dirname("$pbrepo->{$ENV{'PBPROJ'}}/$repodir");
1789                        print PBS << "EOF";
1790#!/bin/bash
1791# Prepare a script to ease apt setup
1792cat > $ENV{'PBPROJ'}.sources.list << EOT
1793deb $rpd $pbos->{'version'} contrib
1794deb-src $rpd $pbos->{'version'} contrib
1795EOT
1796chmod 644 $ENV{'PBPROJ'}.sources.list
1797
1798# Up two levels to deal with the dist dir cross versions
1799cd ..
1800mkdir -p dists/$pbos->{'version'}/contrib/binary-$debarch dists/$pbos->{'version'}/contrib/source
1801
1802# Prepare a script to create apt info file
1803# Reuse twice after
1804TMPD=`mktemp -d /tmp/pb.XXXXXXXXXX` || exit 1
1805mkdir -p \$TMPD
1806cat > \$TMPD/Release << EOT
1807Archive: unstable
1808Component: contrib
1809Origin: $ENV{'PBPROJ'}
1810Label: $ENV{'PBPROJ'} dev repository $pbrepo->{$ENV{'PBPROJ'}}
1811EOT
1812
1813echo "Creating Packages metadata ($pbos->{'arch'} aka $debarch)"
1814dpkg-scanpackages -a$debarch $pbos->{'version'} /dev/null | gzip -c9 > dists/$pbos->{'version'}/contrib/binary-$debarch/Packages.gz
1815dpkg-scanpackages -a$debarch $pbos->{'version'} /dev/null | bzip2 -c9 > dists/$pbos->{'version'}/contrib/binary-$debarch/Packages.bz2
1816echo "Creating Contents metadata"
1817apt-ftparchive contents $pbos->{'version'} | gzip -c9 > dists/$pbos->{'version'}/Contents.gz
1818echo "Creating Release metadata ($pbos->{'arch'} aka $debarch)"
1819cat \$TMPD/Release > dists/$pbos->{'version'}/contrib/binary-$debarch/Release
1820echo "Architecture: $debarch" >> dists/$pbos->{'version'}/contrib/binary-$debarch/Release
1821echo "Creating Source metadata"
1822dpkg-scansources $pbos->{'version'} /dev/null | gzip -c9 > dists/$pbos->{'version'}/contrib/source/Sources.gz
1823cat \$TMPD/Release > dists/$pbos->{'version'}/contrib/source/Release
1824echo "Architecture: Source" >> dists/$pbos->{'version'}/contrib/source/Release
1825echo "Creating Release metadata"
1826apt-ftparchive release dists/$pbos->{'version'} > dists/$pbos->{'version'}/Release
1827rm -rf \$TMPD
1828EOF
1829                } elsif ($pbos->{'type'} eq "ebuild") {
1830                        # make a pbscript to generate links to latest version
1831                        print PBS << "EOF";
1832#!/bin/bash
1833# Prepare a script to create correct links
1834for p in $src; do
1835        echo \$p | grep -q '.ebuild'
1836        if [ \$\? -eq 0 ]; then
1837                j=`basename \$p`
1838                pp=`echo \$j | cut -d'-' -f1`
1839                ln -sf \$j \$pp.ebuild
1840        fi
1841done
1842EOF
1843                }
1844                close(PBS);
1845                chmod 0755,"$ENV{'PBBUILDDIR'}/pbscript.$$";
1846        } else {
1847                return;
1848        }
1849
1850        # Useless for VE
1851        my $nport = pb_get_port($sshport,$pbos,$cmt) if ($cmt !~ /^VE/);
1852
1853        # Remove a potential $ENV{'HOME'} as tdir should be relative to pb's home
1854        $tdir =~ s|\$ENV.+\}/||;
1855
1856        my $tm = "";
1857        if ($cmt =~ /^(V|R)M/) {
1858                $tm = "sleep $vtmout" if (defined $vtmout);
1859        }
1860
1861        # ssh communication if not VE
1862        # should use a hash instead...
1863        my ($shcmd,$cpcmd,$cptarget,$cp2target);
1864        if ($cmt !~ /^VE/) {
1865                my $keyfile = pb_ssh_get(0);
1866                $shcmd = "ssh -i $keyfile -q -o UserKnownHostsFile=/dev/null -p $nport $mac";
1867                $cpcmd = "scp -i $keyfile -p -o UserKnownHostsFile=/dev/null -P $nport";
1868                $cptarget = "$mac:$tdir";
1869                if ($cmt =~ /^(V|R)Mbuild/) {
1870                        $cp2target = "$mac:$bdir";
1871                }
1872        } else {
1873                my $tp = $vepath->{$ENV{'PBPROJ'}};
1874                my $tpdir = "$tp/$pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'}";
1875                my ($ptr) = pb_conf_get("vetype");
1876                my $vetype = $ptr->{$ENV{'PBPROJ'}};
1877                if ($vetype eq "chroot") {
1878                        $shcmd = "sudo /usr/sbin/chroot $tpdir /bin/su - $mac -c ";
1879                } elsif ($vetype eq "schroot") {
1880                        $shcmd = "schroot $tp -u $mac -- ";
1881                }
1882                $cpcmd = "sudo /bin/cp -r ";
1883                # We need to get the home dir of the target account to deliver in the right place
1884                open(PASS,"$tpdir/etc/passwd") || die "Unable to open $tpdir/etc/passwd";
1885                my $homedir = "";
1886                while (<PASS>) {
1887                        my ($c1,$c2,$c3,$c4,$c5,$c6,$c7) = split(/:/);
1888                        $homedir = $c6 if ($c1 =~ /^$mac$/);
1889                        pb_log(3,"Homedir: $homedir - account: $c6\n");
1890                }
1891                close(PASS);
1892                $cptarget = "$tpdir/$homedir/$tdir";
1893                if ($cmt eq "VEbuild") {
1894                        $cp2target = "$tpdir/$homedir/$bdir";
1895                }
1896                pb_log(2,"On VE using $cptarget as target dir to copy to\n");
1897        }
1898
1899        my $logres = "";
1900        # Do not touch when just announcing
1901        if ($cmt ne "Announce") {
1902                pb_system("$shcmd \"mkdir -p $tdir ; cd $tdir ; echo \'for i in $basesrc; do if [ -f \$i ]; then rm -f \$i; fi; done\ ; $cmd' | bash\"","Preparing $tdir on $cptarget");
1903        } else {
1904                $logres = "> ";
1905        }
1906        pb_system("cd $ENV{'PBBUILDDIR'} ; $cpcmd $src $cptarget 2> /dev/null","$cmt delivery in $cptarget");
1907
1908        # For VE we need to change the owner manually
1909        if ($cmt =~ /^VE/) {
1910                pb_system("$shcmd \"sudo chown -R $mac $tdir\"","Adapt owner in $tdir to $mac");
1911        }
1912
1913        # Use the right script name depending on context
1914        my $pbscript;
1915        if (($cmt =~ /^(V[EM]|RM)/) || ($cmt =~ /Packages/)){
1916                $pbscript = "pbscript.$$";
1917        } else {
1918                $pbscript = "pbscript";
1919        }
1920
1921        pb_system("$shcmd \"echo \'cd $tdir ; if [ -x $pbscript ]; then ./$pbscript; fi ; rm -f ./$pbscript\' | bash\"","Executing pbscript on $cptarget if needed","verbose");
1922        if ($cmt =~ /^(V[EM]|RM)build/) {
1923                # Get back info on pkg produced, compute their name and get them from the VM/RM
1924                pb_system("$cpcmd $cp2target/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}-$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'} $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.$$ 2> /dev/null","Get package names in $cp2target");
1925                # For VE we need to change the owner manually
1926                if ($cmt eq "VEbuild") {
1927                        pb_system("sudo chown $UID $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.$$","Adapt owner in $tdir to $UID");
1928                }
1929                if (not -f "$ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.$$") {
1930                        pb_log(0,"Problem with VM/RM $v on $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.$$");
1931                } else {
1932                        open(KEEP,"$ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.$$") || die "Unable to read $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.$$";
1933                        my $src = <KEEP>;
1934                        chomp($src);
1935                        close(KEEP);
1936                        unlink("$ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.$$");
1937
1938                        $src =~ s/^ *//;
1939                        pb_mkdir_p("$ENV{'PBBUILDDIR'}/$pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'}");
1940                        # Change pgben to make the next send2target happy
1941                        my $made = "";
1942       
1943                        # For VM/RM we don't want shell expansion to hapen locally but remotely
1944                        my $delim = '\'';
1945                        if ($cmt =~ /^VEbuild/) {
1946                                # For VE we need to support shell expansion locally
1947                                $delim = "";
1948                        }       
1949
1950                        open(KEEP,"> $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}-$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}") || die "Unable to write $ENV{'PBBUILDDIR'}/pbgen-$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}-$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}";
1951                        foreach my $p (split(/ +/,$src)) {
1952                                my $j = basename($p);
1953                                pb_system("$cpcmd $cp2target/$delim$p$delim $ENV{'PBBUILDDIR'}/$pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'} 2> /dev/null","Recovery of package $j in $ENV{'PBBUILDDIR'}/$pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'}");
1954                                $made="$made $pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'}/$j"; # if (($pbos->{'type'} ne "rpm") || ($j !~ /.src.rpm$/));
1955                        }
1956                        print KEEP "$made\n";
1957                        close(KEEP);
1958                        pb_system("$shcmd \"rm -rf $tdir $bdir\"","$cmt cleanup");
1959
1960                        # Sign packages locally
1961                        pb_sign_pkgs($pbos,$made);
1962
1963                        # We want to send them to the ssh account so overwrite what has been done before
1964                        undef $pbaccount;
1965                        pb_log(2,"Before sending pkgs, vmexist: $vmexist, vmpid: $vmpid\n");
1966                        pb_send2target("Packages",$pbos->{'name'}."-".$pbos->{'version'}."-".$pbos->{'arch'},$vmexist,$vmpid);
1967                        pb_rm_rf("$ENV{'PBBUILDDIR'}/$pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'}");
1968                }
1969        }
1970        unlink("$ENV{'PBDESTDIR'}/pbscript.$$") if (($cmt =~ /^(V[ME]|RM)/) || ($cmt =~ /Packages/));
1971
1972        pb_log(2,"Before halt, vmexist: $vmexist, vmpid: $vmpid\n");
1973        if ((! $vmexist) && ($cmt =~ /^VM/)) {
1974                # If in setupvm then takes a snapshot just before halting
1975                if ($snapme != 0) {
1976                        my ($vmmonport,$vmtype) = pb_conf_get("vmmonport","vmtype");
1977                        # For monitoring control
1978                        if ((($vmtype->{$ENV{'PBPROJ'}}) eq "kvm") || (($vmtype->{$ENV{'PBPROJ'}}) eq "qemu")) {
1979                                eval
1980                                {
1981                                require Net::Telnet;
1982                                Net::Telnet->import();
1983                                };
1984                                if ($@) {
1985                                        # Net::Telnet not found
1986                                        pb_log(1,"ADVISE: Install Net::Telnet to benefit from monitoring control and snapshot feature.\nWARNING: No snapshot created");
1987                                } else {
1988                                        my $t = new Net::Telnet (Timeout => 120, Host => "localhost", Port => $vmmonport->{$ENV{'PBPROJ'}}) || die "Unable to dialog on the monitor";
1989                                        # move to monitor mode
1990                                        my @lines = $t->cmd("c");
1991                                        # Create a snapshot named pb
1992                                        @lines = $t->cmd("savevm pb");
1993                                        # Write the new status in the VM
1994                                        @lines = $t->cmd("commit all");
1995                                        # End
1996                                        @lines = $t->cmd("quit");
1997                                }
1998                        }
1999                }
2000                my $hoption = "-p";
2001                my $hpath = pb_distro_get_param($pbos,pb_conf_get("ospathcmd-halt"));
2002                # Solaris doesn't support -p of halt
2003                if ($pbos->{'type'} eq "pkg") {
2004                        $hoption = "" ;
2005                }
2006                pb_system("$shcmd \"sudo $hpath $hoption \"; $tm ; echo \'if [ -d /proc/$vmpid ]; then kill -9 $vmpid; fi \' | bash ; sleep 10","VM $v halt (pid $vmpid)");
2007        }
2008        if (($cmt =~ /^VE/) && ($snapme != 0)) {
2009                my $tpdir = "$vepath->{$ENV{'PBPROJ'}}/$pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'}";
2010                pb_system("sudo tar cz -C $tpdir -f $vepath->{$ENV{'PBPROJ'}}/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}.tar.gz .","Creating a snapshot of $tpdir");
2011        }
2012}
2013
2014sub pb_script2v {
2015        my $pbscript=shift;
2016        my $vtype=shift;
2017        my $pbforce=shift || 0; # Force stop of VM. Default not.
2018        my $vm1=shift || undef; # Only that VM/VE/RM to treat. Default all.
2019        my $snapme=shift || 0;  # Do we have to create a snapshot. Default not.
2020        my $vm;
2021        my $all;
2022
2023        pb_log(2,"DEBUG: pb_script2v($pbscript,$vtype,$pbforce,".Dumper($vm1).",$snapme)\n");
2024        # Prepare the script to be executed on the VM/VE/RM
2025        # in $ENV{'PBDESTDIR'}/pbscript.$$
2026        if ((defined $pbscript ) && ($pbscript ne "$ENV{'PBDESTDIR'}/pbscript.$$")) {
2027                copy($pbscript,"$ENV{'PBDESTDIR'}/pbscript.$$") || die "Unable to create $ENV{'PBDESTDIR'}/pbscript.$$";
2028                chmod 0755,"$ENV{'PBDESTDIR'}/pbscript.$$";
2029        }
2030
2031        if (not defined $vm1) {
2032                ($vm,$all) = pb_get2v($vtype);
2033        } else {
2034                @$vm = ($vm1);
2035        }
2036        my ($vmexist,$vmpid) = (undef,undef);
2037
2038        foreach my $v (@$vm) {
2039                # Launch VM/VE
2040                ($vmexist,$vmpid) = pb_launchv($vtype,$v,0,$snapme,$pbsnap);
2041
2042                if ($vtype eq "vm") {
2043                        pb_log(2,"DEBUG: After pb_launchv, vmexist: $vmexist, vmpid: $vmpid\n");
2044
2045                        # Skip that VM/RM if something went wrong
2046                        next if (($vmpid == 0) && ($vmexist == 0));
2047
2048                        # If force stopping the VM then reset vmexist
2049                        if ($pbforce == 1) {
2050                                $vmpid = $vmexist;
2051                                $vmexist = 0;
2052                        }
2053                } else {
2054                        #VE
2055                        $vmexist = 0;
2056                        $vmpid = 0;
2057                }
2058
2059                # Gather all required files to send them to the VM/VE/RM
2060                # and launch the build through pbscript
2061                pb_log(2,"DEBUG: Before send2target, vmexist: $vmexist, vmpid: $vmpid\n");
2062                pb_send2target(uc($vtype)."Script","$v",$vmexist,$vmpid,$snapme);
2063
2064        }
2065}
2066
2067sub pb_launchv {
2068        my $vtype = shift;
2069        my $v = shift;
2070        my $create = shift || 0;                # By default do not create a VM/VE/RM
2071        my $snapme = shift || 0;                # By default do not snap a VM/VE/RM
2072        my $usesnap = shift || 1;               # By default study the usage of the snapshot feature of VM/VE/RM       
2073
2074        # If creation or snapshot creation mode, no snapshot usable
2075        if (($create == 1) || ($snapme == 1)) {
2076                $usesnap = 0;
2077        }
2078
2079        pb_log(2,"DEBUG: pb_launchv($vtype,$v,$create,$snapme,$usesnap)\n");
2080        die "No VM/VE/RM defined, unable to launch" if (not defined $v);
2081        # Keep only the first VM in case many were given
2082        $v =~ s/,.*//;
2083
2084        my $pbos = pb_distro_get_context($v);
2085       
2086        # Launch the VMs/VEs
2087        if ($vtype eq "vm") {
2088                die "-i iso parameter needed" if (((not defined $iso) || ($iso eq "")) && ($create != 0));
2089
2090                # TODO: vmmonport should be optional
2091                my ($ptr,$ptr2,$vmpath,$vmport,$vms,$vmmonport) = pb_conf_get("vmtype","vmcmd","vmpath","vmport","vmsize","vmmonport");
2092                my ($vmopt,$vmmm,$vmtmout,$vmsnap,$vmbuildtm) = pb_conf_get_if("vmopt","vmmem","vmtmout","vmsnap","vmbuildtm");
2093                my $vmsize = pb_distro_get_param($pbos,$vms);
2094
2095                my $vmtype = $ptr->{$ENV{'PBPROJ'}};
2096                my $vmcmd = $ptr2->{$ENV{'PBPROJ'}};
2097
2098                if (defined $opts{'g'}) {
2099                        if (($vmtype eq "kvm") || ($vmtype eq "qemu")) {
2100                                $ENV{'PBVMOPT'} = "--nographic";
2101                        }
2102                }
2103                if (not defined $ENV{'PBVMOPT'}) {
2104                        $ENV{'PBVMOPT'} = "";
2105                }
2106                # Save the current status for later restoration
2107                $ENV{'PBOLDVMOPT'} = $ENV{'PBVMOPT'};
2108                # Set a default timeout of 2 minutes
2109                if (not defined $ENV{'PBVMTMOUT'}) {
2110                        $ENV{'PBVMTMOUT'} = "120";
2111                }
2112                if (defined $vmopt->{$v}) {
2113                        $ENV{'PBVMOPT'} .= " $vmopt->{$v}" if ($ENV{'PBVMOPT'} !~ / $vmopt->{$v}/);
2114                } elsif (defined $vmopt->{$ENV{'PBPROJ'}}) {
2115                        $ENV{'PBVMOPT'} .= " $vmopt->{$ENV{'PBPROJ'}}" if ($ENV{'PBVMOPT'} !~ / $vmopt->{$ENV{'PBPROJ'}}/);
2116                }
2117
2118                # How much memory to allocate for VMs
2119                my $vmmem = pb_distro_get_param($pbos,$vmmm);
2120                if (defined $vmmem) {
2121                        $ENV{'PBVMOPT'} .= " -m $vmmem";
2122                }
2123
2124                # Are we allowed to use snapshot feature
2125                if ($usesnap == 1) {
2126                        if ((defined $vmsnap->{$v}) && ($vmsnap->{$v} =~ /true/i)) {
2127                                $ENV{'PBVMOPT'} .= " -snapshot";
2128                        } elsif ((defined $vmsnap->{$ENV{'PBPROJ'}}) && ($vmsnap->{$ENV{'PBPROJ'}} =~ /true/i)) {
2129                                $ENV{'PBVMOPT'} .= " -snapshot";
2130                        } elsif ($pbsnap eq 1) {
2131                                $ENV{'PBVMOPT'} .= " -snapshot";
2132                        }
2133                } 
2134                if ($snapme != 0) {
2135                        if (($vmtype eq "kvm") || ($vmtype eq "qemu")) {
2136                                # Configure the monitoring to automate the creation of the 'pb' snapshot
2137                                $ENV{'PBVMOPT'} .= " -serial mon:telnet::$vmmonport->{$ENV{'PBPROJ'}},server,nowait";
2138                                # In that case no snapshot call needed
2139                                $ENV{'PBVMOPT'} =~ s/ -snapshot//;
2140                        }
2141                }
2142                if (defined $vmtmout->{$v}) {
2143                        $ENV{'PBVMTMOUT'} = $vmtmout->{$v};
2144                } elsif (defined $vmtmout->{$ENV{'PBPROJ'}}) {
2145                        $ENV{'PBVMTMOUT'} = $vmtmout->{$ENV{'PBPROJ'}};
2146                }
2147                my $nport = pb_get_port($vmport,$pbos,$vtype);
2148       
2149                my $cmd;
2150                my $vmm;                # has to be used for pb_check_ps
2151                if (($vmtype eq "qemu") || ($vmtype eq "kvm")) {
2152                        $vmm = "$vmpath->{$ENV{'PBPROJ'}}/$v.qemu";
2153                        if (($create != 0) || (defined $iso)) {
2154                                $ENV{'PBVMOPT'} .= " -cdrom $iso -boot d";
2155                        }
2156                        # Always redirect the network and always try to use a 'pb' snapshot
2157                        #$cmd = "$vmcmd $ENV{'PBVMOPT'} -net user,hostfwd=tcp:$nport:10.0.2.15:22 -loadvm pb $vmm"
2158                        $cmd = "$vmcmd $ENV{'PBVMOPT'} -redir tcp:$nport:10.0.2.15:22 -loadvm pb $vmm"
2159                } elsif ($vmtype eq "xen") {
2160                } elsif ($vmtype eq "vmware") {
2161                } else {
2162                        die "VM of type $vmtype not supported. Report to the dev team";
2163                }
2164                # Restore the ENV VAR Value
2165                $ENV{'PBVMOPT'} = $ENV{'PBOLDVMOPT'};
2166
2167                my ($tmpcmd,$void) = split(/ +/,$cmd);
2168                my $vmexist = pb_check_ps($tmpcmd,$vmm);
2169                my $vmpid = 0;
2170                if (! $vmexist) {
2171                        if ($create != 0) {
2172                                die("Found an existing Virtual machine $vmm. Won't overwrite") if (-r $vmm);
2173                                if (($vmtype eq "qemu") || ($vmtype eq "xen") || ($vmtype eq "kvm")) {
2174                                        my $command = pb_check_req("qemu-img",0);
2175                                        pb_system("$command create -f qcow2 $vmm $vmsize","Creating the QEMU VM");
2176                                } elsif ($vmtype eq "vmware") {
2177                                } else {
2178                                }
2179                        }
2180                        if (! -f "$vmm") {
2181                                pb_log(0,"Unable to find VM $vmm\n");
2182                        } else {
2183                                # Is the SSH port free? if not kill the existing process using it after a build timeout period
2184                                my $vmssh = pb_check_ps($tmpcmd,"tcp:$nport:10.0.2.15:22");
2185                                if ($vmssh) {
2186                                        my $buildtm = $ENV{'PBVMTMOUT'};
2187                                        if (defined $vmbuildtm->{$v}) {
2188                                                $buildtm = $vmbuildtm->{$v};
2189                                        } elsif (defined $vmbuildtm->{$ENV{'PBPROJ'}}) {
2190                                                $buildtm = $vmbuildtm->{$ENV{'PBPROJ'}};
2191                                        }
2192
2193                                        sleep $buildtm;
2194                                        pb_log(0,"WARNING: Killing the process ($vmssh) using port $nport (previous failed VM ?)\n");
2195                                        kill 15,$vmssh;
2196                                        # Let it time to exit
2197                                        sleep 5;
2198                                }
2199                                pb_system("$cmd &","Launching the VM $vmm");
2200                                # Using system allows to kill it externaly if needed
2201                                pb_system("sleep $ENV{'PBVMTMOUT'}","Waiting $ENV{'PBVMTMOUT'} s for VM $v to come up");
2202                                $vmpid = pb_check_ps($tmpcmd,$vmm);
2203                                pb_log(0,"VM $vmm launched (pid $vmpid)\n");
2204                        }
2205                } else {
2206                        pb_log(0,"Found an existing VM $vmm (pid $vmexist)\n");
2207                }
2208                pb_log(2,"DEBUG: pb_launchv returns ($vmexist,$vmpid)\n");
2209                return($vmexist,$vmpid);
2210        } elsif ($vtype eq "ve") {
2211                pb_ve_launch($v,$create,$pbforce,$pbsnap);
2212        } else {
2213                # RM here
2214                # Get distro context
2215                my $pbos = pb_distro_get_context($v);
2216
2217                # Get RM context
2218                my ($ptr,$rmpath) = pb_conf_get("rmtype","rmpath");
2219
2220                # Nothing more to do for RM. No real launch
2221                # For the moment we support the RM is already running
2222                # For ProLiant may be able to power them on if needed later on as an example.
2223        }
2224}
2225
2226# Return string for date synchro
2227sub pb_date2v {
2228
2229my $vtype = shift;
2230my $pbos = shift;
2231
2232my ($ntp) = pb_conf_get_if($vtype."ntp");
2233my $vntp = $ntp->{$ENV{'PBPROJ'}} if (defined $ntp);
2234my $ntpline = undef;
2235
2236if (defined $vntp) {
2237        # ntp command depends on pbos
2238        my $vntpcmd = pb_distro_get_param($pbos,pb_conf_get($vtype."ntpcmd"));
2239        $ntpline = "sudo $vntpcmd $vntp";
2240}
2241# Force new date to be in the future compared to the date
2242# of the host by adding 1 minute
2243my @date=pb_get_date();
2244$date[1]++;
2245my $upddate = strftime("%m%d%H%M%Y", @date);
2246my $dateline = "sudo /bin/date $upddate";
2247if (defined $ntpline) {
2248        return($ntpline);
2249} else {
2250        return($dateline);
2251}
2252}
2253
2254sub pb_build2v {
2255
2256my $vtype = shift;
2257my $action = shift || "build";
2258
2259my ($v,$all) = pb_get2v($vtype);
2260
2261# Send tar files when we do a global generation
2262pb_build2ssh() if (($all == 1) && ($action eq "build"));
2263
2264# Adapt // mode to memory size
2265$pbparallel = pb_set_parallel($vtype);
2266
2267my ($vmexist,$vmpid) = (undef,undef);
2268my $pm;
2269if (defined $pbparallel) {
2270        $pm = new Parallel::ForkManager($pbparallel);
2271
2272        # Set which port the VM/RM will use to communicate
2273        $pm->run_on_start(\&pb_set_port);
2274}
2275
2276my $counter = 0;
2277foreach my $v (@$v) {
2278        $counter++;
2279        # Modulo 2 * pbparallel (to avoid synchronization problems)
2280        $counter = 1 if ((defined $pbparallel) && ($counter > 2 * $pbparallel));
2281        $pm->start($counter) and next if (defined $pbparallel);
2282        # Prepare the script to be executed on the VM/VE/RM
2283        # in $ENV{'PBDESTDIR'}/pbscript.$$
2284        open(SCRIPT,"> $ENV{'PBDESTDIR'}/pbscript.$$") || die "Unable to create $ENV{'PBDESTDIR'}/pbscript.$$";
2285        print SCRIPT "#!/bin/bash\n";
2286
2287        # Transmit the verbosity level to the virtual env/mach.
2288        my $verbose = "";
2289        my $i = 0;                                                      # minimal debug level
2290        while ($i lt $pbdebug) {
2291                $verbose .= "-v ";
2292                $i++;
2293        }
2294        # Activate script verbosity if at least 2 for pbdebug
2295        print SCRIPT "set -x\n" if ($i gt 1);
2296        # Quiet if asked to be so on the original system
2297        $verbose = "-q" if ($pbdebug eq -1);
2298
2299        print SCRIPT "echo ... Execution needed\n";
2300        print SCRIPT "# This is in directory delivery\n";
2301        print SCRIPT "# Setup the variables required for building\n";
2302        print SCRIPT "export PBPROJ=$ENV{'PBPROJ'}\n";
2303
2304        if ($action eq "build") {
2305                print SCRIPT "# Preparation for pb\n";
2306                print SCRIPT "mv .pbrc \$HOME\n";
2307                print SCRIPT "cd ..\n";
2308        }
2309
2310        # VE needs a good /proc
2311        if ($vtype eq "ve") {
2312                print SCRIPT "sudo /bin/mount -t proc /proc /proc\n";
2313        }
2314
2315        # Get distro context
2316        my $pbos = pb_distro_get_context($v);
2317       
2318        my $ntpline = pb_date2v($vtype,$pbos);
2319        print SCRIPT "# Time sync\n";
2320        print SCRIPT "echo 'setting up date with '";
2321        print SCRIPT "echo $ntpline\n";
2322        print SCRIPT "$ntpline\n";
2323        # Use potential local proxy declaration in case we need it to download repo, pkgs, ...
2324        if (defined $ENV{'http_proxy'}) {
2325                print SCRIPT "export http_proxy=\"$ENV{'http_proxy'}\"\n";
2326        }
2327
2328        if (defined $ENV{'ftp_proxy'}) {
2329                print SCRIPT "export ftp_proxy=\"$ENV{'ftp_proxy'}\"\n";
2330        }
2331
2332        # Get list of packages to build/test and get some ENV vars as well
2333        my $ptr = pb_get_pkg();
2334        @pkgs = @$ptr;
2335        my $p = join(' ',@pkgs) if (@pkgs);
2336        print SCRIPT "export PBPROJVER=$ENV{'PBPROJVER'}\n";
2337        print SCRIPT "export PBPROJTAG=$ENV{'PBPROJTAG'}\n";
2338        print SCRIPT "export PBPACKAGER=\"$ENV{'PBPACKAGER'}\"\n";
2339
2340        # We may need to do some other tasks before building. Read a script here to finish setup
2341        if (-x "$ENV{'PBDESTDIR'}/pb$vtype".".pre") {
2342                print SCRIPT "# Special pre-instructions to be launched\n";
2343                print SCRIPT pb_get_content("$ENV{'PBDESTDIR'}/pb$vtype".".pre");
2344        }
2345
2346        if (-x "$ENV{'PBDESTDIR'}/pb$vtype"."$action.pre") {
2347                print SCRIPT "# Special pre-$action instructions to be launched\n";
2348                print SCRIPT pb_get_content("$ENV{'PBDESTDIR'}/pb$vtype"."$action.pre");
2349        }
2350
2351        print SCRIPT "# $action\n";
2352        print SCRIPT "echo $action"."ing packages on $vtype...\n";
2353
2354        if (($action eq "test") && (! -x "$ENV{'PBDESTDIR'}/pbtest")) {
2355                        die "No test script ($ENV{'PBDESTDIR'}/pbtest) found when in test mode. Aborting ...";
2356        }
2357        print SCRIPT "pb $verbose -p $ENV{'PBPROJ'} $action"."2pkg $p\n";
2358
2359        if ($vtype eq "ve") {
2360                print SCRIPT "sudo /bin/umount /proc\n";
2361        }
2362
2363        # We may need to do some other tasks after building. Read a script here to exit properly
2364        if (-x "$ENV{'PBDESTDIR'}/pb$vtype"."$action.post") {
2365                print SCRIPT "# Special post-$action instructions to be launched\n";
2366                print SCRIPT pb_get_content("$ENV{'PBDESTDIR'}/pb$vtype"."$action.post");
2367        }
2368
2369        if (-x "$ENV{'PBDESTDIR'}/pb$vtype".".post") {
2370                print SCRIPT "# Special post-instructions to be launched\n";
2371                print SCRIPT pb_get_content("$ENV{'PBDESTDIR'}/pb$vtype".".post");
2372        }
2373
2374        close(SCRIPT);
2375        chmod 0755,"$ENV{'PBDESTDIR'}/pbscript.$$";
2376       
2377        # Launch the VM/VE/RM
2378        ($vmexist,$vmpid) = pb_launchv($vtype,$v,0);
2379
2380
2381        if ($vtype eq "vm") {
2382                # Skip that VM if something went wrong
2383                if (($vmpid == 0) && ($vmexist == 0)) {
2384                        $pm->finish if (defined $pbparallel);
2385                        next;
2386                }
2387        } else {
2388                # VE/RM
2389                $vmexist = 0;
2390                $vmpid = 0;
2391        }
2392        # Gather all required files to send them to the VM/VE
2393        # and launch the build through pbscript
2394        pb_log(2,"Calling send2target $vtype,$v,$vmexist,$vmpid\n");
2395        pb_send2target(uc($vtype).$action,"$v",$vmexist,$vmpid);
2396        $pm->finish if (defined $pbparallel);
2397}
2398$pm->wait_all_children if (defined $pbparallel);
2399}
2400
2401
2402sub pb_clean {
2403
2404        my $sleep=10;
2405        die "Unable to get env var PBDESTDIR" if (not defined $ENV{'PBDESTDIR'});
2406        die "Unable to get env var PBBUILDDIR" if (not defined $ENV{'PBBUILDDIR'});
2407        pb_log(0,"We will now wait $sleep s before removing both directories\n$ENV{'PBDESTDIR'} and $ENV{'PBBUILDDIR'}.\nPlease break me if this is wrong\n");
2408        sleep $sleep;
2409        pb_rm_rf($ENV{'PBDESTDIR'});
2410        pb_rm_rf($ENV{'PBBUILDDIR'});
2411}
2412
2413sub pb_newver {
2414
2415        die "-V Version parameter needed" if ((not defined $newver) || ($newver eq ""));
2416
2417        # Need this call for PBDIR
2418        my ($scheme2,$uri) = pb_cms_init($pbinit);
2419
2420        my ($pbconf,$pburl) = pb_conf_get("pbconfurl","pburl");
2421        $uri = $pbconf->{$ENV{'PBPROJ'}};
2422        my ($scheme, $account, $host, $port, $path) = pb_get_uri($uri);
2423
2424        # Checking CMS repositories status
2425        ($scheme2, $account, $host, $port, $path) = pb_get_uri($pburl->{$ENV{'PBPROJ'}});
2426
2427        if ($scheme !~ /^svn/) {
2428                die "Only SVN is supported at the moment";
2429        }
2430
2431        my $res = pb_cms_isdiff($scheme,$ENV{'PBROOTDIR'});
2432        die "ERROR: No differences accepted in CMS for $ENV{'PBROOTDIR'} before creating a new version" if ($res != 0);
2433
2434        $res = pb_cms_isdiff($scheme2,$ENV{'PBDIR'});
2435        die "ERROR: No differences accepted in CMS for $ENV{'PBDIR'} before creating a new version" if ($res != 0);
2436
2437        # Tree identical between PBCONFDIR and PBROOTDIR. The delta is what
2438        # we want to get for the root of the new URL
2439
2440        my $tmp = $ENV{'PBROOTDIR'};
2441        $tmp =~ s|^$ENV{'PBCONFDIR'}||;
2442
2443        my $newurl = "$uri/".dirname($tmp)."/$newver";
2444        # Should probably use projver in the old file
2445        my $oldver= basename($tmp);
2446
2447        # Duplicate and extract project-builder part
2448        pb_log(2,"Copying $uri/$tmp to $newurl\n");
2449        pb_cms_copy($scheme,"$uri/$tmp",$newurl);
2450        pb_log(2,"Checkout $newurl to $ENV{'PBROOTDIR'}/../$newver\n");
2451        pb_cms_up($scheme,"$ENV{'PBCONFDIR'}/..");
2452
2453        # Duplicate and extract project
2454        my $newurl2 = "$pburl->{$ENV{'PBPROJ'}}/".dirname($tmp)."/$newver";
2455
2456        pb_log(2,"Copying $pburl->{$ENV{'PBPROJ'}}/$tmp to $newurl2\n");
2457        pb_cms_copy($scheme2,"$pburl->{$ENV{'PBPROJ'}}/$tmp",$newurl2);
2458        pb_log(2,"Checkout $newurl2 to $ENV{'PBDIR'}/../$newver\n");
2459        pb_cms_up($scheme2,"$ENV{'PBDIR'}/..");
2460
2461        # Update the .pb file
2462        open(FILE,"$ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb") || die "Unable to open $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb";
2463        open(OUT,"> $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb.new") || die "Unable to write to $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb.new";
2464        while(<FILE>) {
2465                s/^projver\s+$ENV{'PBPROJ'}\s*=\s*$oldver/projver $ENV{'PBPROJ'} = $newver/;
2466                pb_log(0,"Changing projver from $oldver to $newver in $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb\n") if (/^projver\s+$ENV{'PBPROJ'}\s*=\s*$oldver/);
2467                pb_log(0,"Commenting testver in $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb\n") if (/^testver/);
2468                s/^testver/#testver/;
2469                print OUT $_;
2470                pb_log(0,"Please check delivery (".chomp($_).") in $ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb\n") if (/^delivery/);
2471        }
2472        close(FILE);
2473        close(OUT);
2474        rename("$ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb.new","$ENV{'PBROOTDIR'}/../$newver/$ENV{'PBPROJ'}.pb");
2475
2476        # Checking pbcl files
2477        foreach my $f (<$ENV{'PBROOTDIR'}/*/pbcl>) {
2478                # Compute new pbcl file
2479                my $f2 = $f;
2480                $f2 =~ s|$ENV{'PBROOTDIR'}|$ENV{'PBROOTDIR'}/../$newver/|;
2481                open(PBCL,$f) || die "Unable to open $f";
2482                my $foundnew = 0;
2483                while (<PBCL>) {
2484                        $foundnew = 1 if (/^$newver \(/);
2485                }
2486                close(PBCL);
2487                open(OUT,"> $f2") || die "Unable to write to $f2: $!";
2488                open(PBCL,$f) || die "Unable to open $f";
2489                while (<PBCL>) {
2490                        print OUT "$_" if (not /^$oldver \(/);
2491                        if ((/^$oldver \(/) && ($foundnew == 0)) {
2492                                print OUT "$newver ($pbdate)\n";
2493                                print OUT "- TBD\n";
2494                                print OUT "\n";
2495                                pb_log(0,"WARNING: version $newver not found in $f so added to $f2...\n") if ($foundnew == 0);
2496                        }
2497                }
2498                close(OUT);
2499                close(PBCL);
2500        }
2501
2502        pb_log(2,"Checkin $ENV{'PBROOTDIR'}/../$newver\n");
2503        pb_cms_checkin($scheme,"$ENV{'PBROOTDIR'}/../$newver",undef);
2504}
2505
2506#
2507# Return the list of VMs/VEs/RMs we are working on
2508# $all is a flag to know if we return all of them
2509# or only some (if all we publish also tar files in addition to pkgs
2510#
2511sub pb_get2v {
2512
2513my $vtype = shift;
2514my @v;
2515my $all = 0;
2516my $pbv = 'PBV';
2517my $vlist = $vtype."list";
2518
2519# Get VM/VE list
2520if ((not defined $ENV{$pbv}) || ($ENV{$pbv} =~ /^all$/)) {
2521        my ($ptr) = pb_conf_get($vlist);
2522        $ENV{$pbv} = $ptr->{$ENV{'PBPROJ'}};
2523        $all = 1;
2524}
2525pb_log(2,"$vtype: $ENV{$pbv}\n");
2526@v = split(/,/,$ENV{$pbv});
2527return(\@v,$all);
2528}
2529
2530# Function to create a potentialy missing pb account on the VM/VE/RM, and adds it to sudo
2531# Needs to use root account to connect to the VM/VE/RM
2532# pb will take your local public SSH key to access
2533# the pb account in the VM/VE/RM later on if needed
2534sub pb_setup2v {
2535
2536my $vtype = shift;
2537my $sbx = shift || undef;
2538
2539my ($vm,$all) = pb_get2v($vtype);
2540
2541# Script generated
2542my $pbscript = "$ENV{'PBDESTDIR'}/setupv";
2543
2544# Adapt // mode to memory size
2545$pbparallel = pb_set_parallel($vtype);
2546
2547my $pm;
2548if (defined $pbparallel) {
2549        $pm = new Parallel::ForkManager($pbparallel);
2550
2551        # Set which port the VM/RM will use to communicate
2552        $pm->run_on_start(\&pb_set_port);
2553}
2554
2555my $counter = 0;
2556foreach my $v (@$vm) {
2557        $counter++;
2558        # Modulo pbparallel
2559        $counter = 1 if ((defined $pbparallel) && ($counter > $pbparallel));
2560        $pm->start($counter) and next if (defined $pbparallel);
2561
2562        # Get distro context
2563        my $pbos = pb_distro_get_context($v);
2564       
2565        # Deal with date sync.
2566        my $ntpline = pb_date2v($vtype,$pbos);
2567
2568        # Name of the account to deal with for VM/VE/RM
2569        # Do not use the one passed potentially with -a
2570        my ($pbac) = pb_conf_get($vtype."login");
2571        my ($key,$zero0,$zero1,$zero2);
2572        my ($vmexist,$vmpid);
2573
2574        # Prepare the script to be executed on the VM/VE/RM
2575        # in $ENV{'PBDESTDIR'}/setupv
2576        open(SCRIPT,"> $pbscript") || die "Unable to create $pbscript";
2577       
2578        print SCRIPT << 'EOF';
2579#!/usr/bin/perl -w
2580
2581use strict;
2582use File::Copy;
2583
2584# We should not need in this script more functions than what is provided
2585# by Base, Conf and Distribution to avoid problems at exec time.
2586# They are appended at the end.
2587
2588# Define mandatory global vars
2589our $pbdebug;
2590our $pbLOG;
2591our $pbsynmsg = "pbscript";
2592our $pbdisplaytype = "text";
2593our $pblocale = "";
2594pb_log_init($pbdebug, $pbLOG);
2595pb_temp_init();
2596
2597EOF
2598
2599        # Launch the VM/VE/RM - Usage of snapshot disabled
2600        ($vmexist,$vmpid) = pb_launchv($vtype,$v,0,0,0);
2601
2602        my $keyfile;
2603        my $nport;
2604        my $vmhost;
2605
2606        # Prepare the key to be used and transfered remotely
2607        $keyfile = pb_ssh_get(1);
2608               
2609        if ($vtype =~ /(v|r)m/) {
2610                my ($vmport);
2611                ($vmhost,$vmport) = pb_conf_get($vtype."host",$vtype."port");
2612                $nport = pb_get_port($vmport,$pbos,$vtype);
2613       
2614                # Skip that VM/RM if something went wrong
2615                next if (($vmpid == 0) && ($vmexist == 0));
2616       
2617                # Store the pub key part in a variable
2618                open(FILE,"$keyfile.pub") || die "Unable to open $keyfile.pub";
2619                ($zero0,$zero1,$zero2) = split(/ /,<FILE>);
2620                close(FILE);
2621
2622                $key = "\Q$zero1";
2623
2624                # We call true to avoid problems if SELinux is not activated, but chcon is present and returns in that case 1
2625                pb_system("cat $keyfile.pub | ssh -q -o UserKnownHostsFile=/dev/null -p $nport -i $keyfile root\@$vmhost->{$ENV{'PBPROJ'}} \"mkdir -p .ssh ; chmod 700 .ssh ; cat >> .ssh/authorized_keys ; chmod 600 .ssh/authorized_keys ; if [ -x /usr/bin/chcon ]; then /usr/bin/chcon -Rt home_ssh_t .ssh 2> /dev/null; /bin/true; fi\"","Copying local keys to $vtype. This may require the root password");
2626                # once this is done, we can do what we need on the VM/RM remotely
2627        } elsif ($vtype eq "ve") {
2628                print SCRIPT << "EOF";
2629# For VE we need a good null dev
2630pb_system("rm -f /dev/null; mknod /dev/null c 1 3; chmod 777 /dev/null");
2631EOF
2632                print SCRIPT << "EOF";
2633# For VE we first need to mount some FS
2634pb_system("mount -t proc /proc /proc");
2635
2636EOF
2637        }
2638
2639        if ($vtype =~ /(v|r)m/) {
2640                print SCRIPT << 'EOF';
2641# Removes duplicate in .ssh/authorized_keys of our key if needed
2642#
2643my $file1="$ENV{'HOME'}/.ssh/authorized_keys";
2644open(PBFILE,$file1) || die "Unable to open $file1";
2645open(PBOUT,"> $file1.new") || die "Unable to open $file1.new";
2646my $count = 0;
2647while (<PBFILE>) {
2648
2649EOF
2650                print SCRIPT << "EOF";
2651        if (/ $key /) {
2652                \$count++;
2653        }
2654print PBOUT \$_ if ((\$count <= 1) || (\$_ !~ / $key /));
2655}
2656close(PBFILE);
2657close(PBOUT);
2658rename("\$file1.new",\$file1);
2659chmod 0600,\$file1;
2660
2661EOF
2662        }
2663        print SCRIPT << 'EOF';
2664
2665# Adds $pbac->{$ENV{'PBPROJ'}} as an account if needed
2666#
2667my $file="/etc/passwd";
2668open(PBFILE,$file) || die "Unable to open $file";
2669my $found = 0;
2670while (<PBFILE>) {
2671EOF
2672        print SCRIPT << "EOF";
2673        \$found = 1 if (/^$pbac->{$ENV{'PBPROJ'}}:/);
2674EOF
2675
2676# TODO: use an external parameter
2677my $home = "/home";
2678# Solaris doesn't like that we use /home
2679$home = "/export/home" if ($pbos->{'type'} eq "pkg");
2680
2681        print SCRIPT << "EOF";
2682}
2683close(PBFILE);
2684
2685if ( \$found == 0 ) {
2686        if ( ! -d "$home" ) {
2687                pb_mkdir_p("$home");
2688        }
2689EOF
2690        # TODO: Level of portability of these cmds ? Critical now for RM
2691        # TODO: Check existence before adding to avoid errors
2692        print SCRIPT << "EOF";
2693pb_system("/usr/sbin/groupadd $pbac->{$ENV{'PBPROJ'}}","Adding group $pbac->{$ENV{'PBPROJ'}}");
2694pb_system("/usr/sbin/useradd -g $pbac->{$ENV{'PBPROJ'}} -m -d $home/$pbac->{$ENV{'PBPROJ'}} $pbac->{$ENV{'PBPROJ'}}","Adding user $pbac->{$ENV{'PBPROJ'}} (group $pbac->{$ENV{'PBPROJ'}} - home $home/$pbac->{$ENV{'PBPROJ'}})");
2695}
2696EOF
2697
2698        # Copy the content of our local conf file to the VM/VE/RM
2699        my $content = pb_get_content(pb_distro_conffile());
2700        print SCRIPT << "EOF";
2701        #
2702        # Create a temporary local conf file for distribution support
2703        # This is created here before its use later. Its place is hardcoded, so no choice for the path
2704        #
2705        my \$tempconf = pb_distro_conffile();
2706        pb_mkdir_p(dirname(\$tempconf));
2707        open(CONF,"> \$tempconf") || die "Unable to create \$tempconf";
2708        print CONF q{$content};
2709        close(CONF);
2710EOF
2711
2712        if ($vtype =~ /(v|r)m/) {
2713                print SCRIPT << "EOF";
2714# allow ssh entry to build
2715#
2716mkdir "$home/$pbac->{$ENV{'PBPROJ'}}/.ssh",0700;
2717# Allow those accessing root to access the build account
2718copy("\$ENV{'HOME'}/.ssh/authorized_keys","$home/$pbac->{$ENV{'PBPROJ'}}/.ssh/authorized_keys");
2719chmod 0600,".ssh/authorized_keys";
2720pb_system("chown -R $pbac->{$ENV{'PBPROJ'}}:$pbac->{$ENV{'PBPROJ'}} $home/$pbac->{$ENV{'PBPROJ'}}","Finish setting up the account env for $pbac->{$ENV{'PBPROJ'}}");
2721
2722EOF
2723}
2724        print SCRIPT << 'EOF';
2725# No passwd for build account only keys
2726$file="/etc/shadow";
2727if (-f $file) {
2728        open(PBFILE,$file) || die "Unable to open $file";
2729        open(PBOUT,"> $file.new") || die "Unable to open $file.new";
2730        while (<PBFILE>) {
2731EOF
2732        print SCRIPT << "EOF";
2733                s/^$pbac->{$ENV{'PBPROJ'}}:\!\!:/$pbac->{$ENV{'PBPROJ'}}:*:/;
2734                s/^$pbac->{$ENV{'PBPROJ'}}:\!:/$pbac->{$ENV{'PBPROJ'}}:*:/;     #SLES 9 e.g.
2735                s/^$pbac->{$ENV{'PBPROJ'}}:\\*LK\\*:/$pbac->{$ENV{'PBPROJ'}}:NP:/;      #Solaris e.g.
2736EOF
2737                print SCRIPT << 'EOF';
2738                print PBOUT $_;
2739        }
2740        close(PBFILE);
2741        close(PBOUT);
2742        rename("$file.new",$file);
2743        chmod 0640,$file;
2744        }
2745
2746# Keep the VM in text mode
2747$file="/etc/inittab";
2748if (-f $file) {
2749        open(PBFILE,$file) || die "Unable to open $file";
2750        open(PBOUT,"> $file.new") || die "Unable to open $file.new";
2751        while (<PBFILE>) {
2752                s/^(..):5:initdefault:$/$1:3:initdefault:/;
2753                print PBOUT $_;
2754        }
2755        close(PBFILE);
2756        close(PBOUT);
2757        rename("$file.new",$file);
2758        chmod 0640,$file;
2759}
2760
2761# pb has to be added to portage group on gentoo
2762
2763# We need to have that pb_distro_get_context function
2764# Get it from Project-Builder::Distribution
2765# And we now need the conf file required for this to work created above
2766
2767my $pbos = pb_distro_get_context(); 
2768print "distro tuple: ".Dumper($pbos)."\n";
2769
2770# Adapt sudoers
2771# sudo is not default on Solaris and needs to be installed first
2772# from http://www.sunfreeware.com/programlistsparc10.html#sudo
2773if ($pbos->{'type'} eq "pkg") {
2774        $file="/usr/local/etc/sudoers";
2775} else {
2776        $file="/etc/sudoers";
2777}
2778open(PBFILE,$file) || die "Unable to open $file";
2779open(PBOUT,"> $file.new") || die "Unable to open $file.new";
2780while (<PBFILE>) {
2781EOF
2782        # Skip what will be generated
2783        print SCRIPT << "EOF";
2784        next if (/^$pbac->{$ENV{'PBPROJ'}}\\s+/);
2785        next if (/^Defaults:$pbac->{$ENV{'PBPROJ'}}\\s+/);
2786        next if (/^Defaults:root \!requiretty/);
2787EOF
2788        print SCRIPT << 'EOF';
2789        s/Defaults[ \t]+requiretty//;
2790        print PBOUT $_;
2791}
2792close(PBFILE);
2793EOF
2794        print SCRIPT << "EOF";
2795# Some distro force requiretty at compile time, so disable here
2796print PBOUT "Defaults:$pbac->{$ENV{'PBPROJ'}} !requiretty\n";
2797print PBOUT "Defaults:root !requiretty\n";
2798# Keep proxy configuration while using sudo
2799print PBOUT "Defaults:$pbac->{$ENV{'PBPROJ'}}    env_keep += \\\"http_proxy ftp_proxy\\\"\n";
2800EOF
2801        # Try to restrict security to what is really needed
2802        if ($vtype =~ /^vm/) {
2803                my $hpath = pb_distro_get_param($pbos,pb_conf_get("ospathcmd-halt"));
2804                my @sudocmds = pb_get_sudocmds($pbos,$ntpline,"sudo $hpath");
2805                print SCRIPT << "EOF";
2806# This is needed in order to be able on VM to halt the machine from the $pbac->{$ENV{'PBPROJ'}} account at least
2807# Build account $pbac->{$ENV{'PBPROJ'}} in VM also needs to setup date and install deps.
2808# Nothing else should be needed
2809EOF
2810                foreach my $c (@sudocmds) {
2811                        print SCRIPT "print PBOUT \"$pbac->{$ENV{'PBPROJ'}}   ALL = NOPASSWD: $c\n\";";
2812                }
2813        } elsif ($vtype =~ /^rm/) {
2814                my @sudocmds = pb_get_sudocmds($pbos,$ntpline);
2815                print SCRIPT << "EOF";
2816# Build account $pbac->{$ENV{'PBPROJ'}} in RM only needs to setup date and install deps if needed each time
2817EOF
2818                foreach my $c (@sudocmds) {
2819                        print SCRIPT "print PBOUT \"$pbac->{$ENV{'PBPROJ'}}   ALL = NOPASSWD: $c\n\";";
2820                }
2821        } else {
2822                print SCRIPT << "EOF";
2823# Build account $pbac->{$ENV{'PBPROJ'}} for VE needs to do a lot in the host (and chroot), so allow without restriction for now
2824print PBOUT "$pbac->{$ENV{'PBPROJ'}}   ALL=(ALL) NOPASSWD:ALL\n";
2825EOF
2826}
2827        print SCRIPT << 'EOF';
2828close(PBOUT);
2829rename("$file.new",$file);
2830chmod 0440,$file;
2831
2832EOF
2833
2834        if ($vtype =~ /(v|r)m/) {
2835                # Sync date
2836                # do it after sudoers is setup
2837                print SCRIPT "pb_system(\"$ntpline\");\n";
2838        }
2839        # We may need a proxy configuration. Get it from the local env
2840
2841        if (defined $ENV{'http_proxy'}) {
2842                print SCRIPT "\$ENV\{'http_proxy'\}=\"$ENV{'http_proxy'}\";\n";
2843        }
2844
2845        if (defined $ENV{'ftp_proxy'}) {
2846                print SCRIPT "\$ENV\{'ftp_proxy'\}=\"$ENV{'ftp_proxy'}\";\n";
2847        }
2848
2849        print SCRIPT << 'EOF';
2850       
2851# Suse wants sudoers as 640
2852if ((($pbos->{'name'} eq "sles") && (($pbos->{'version'} =~ /10/) || ($pbos->{'version'} =~ /9/))) || (($pbos->{'name'} eq "opensuse") && ($pbos->{'version'} =~ /10.[012]/))) {
2853        chmod 0640,$file;
2854}
2855
2856# First install all required packages
2857pb_system("yum clean all","Cleaning yum env") if (($pbos->{'name'} eq "fedora") || ($pbos->{'name'} eq "asianux") || ($pbos->{'name'} eq "rhel"));
2858my ($ospkgdep) = pb_conf_get_if("ospkgdep");
2859       
2860my $pkgdep = pb_distro_get_param($pbos,$ospkgdep);
2861pb_distro_installdeps(undef,$pbos,pb_distro_only_deps_needed($pbos,join(' ',split(/,/,$pkgdep))));
2862
2863EOF
2864        my $itype = pb_distro_get_param($pbos,pb_conf_get("pbinstalltype"));
2865        # Install from sandbox mean a file base install
2866        $itype = "file" if (defined $sbx);
2867        if ($itype =~ /^file/) {
2868                my $cmdget;
2869                if (defined $sbx) {
2870                        # Install from sandbox mean using the result of the just passed sbx2build command
2871                        # Get content saved in cms2build
2872                        my ($pkg) = pb_conf_read("$ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb","pbpkg");
2873                        die "Unable to get package list" if (not defined $pkg);
2874
2875                        # We consider 2 specific packages
2876                        my $vertag1 = $pkg->{"ProjectBuilder"};
2877                        my $vertag2 = $pkg->{"project-builder"};
2878                        # get the version of the current package - maybe different
2879                        my ($pbver1,$tmp1) = split(/-/,$vertag1);
2880                        my ($pbver2,$tmp2) = split(/-/,$vertag2);
2881                        # Copy inside the VE
2882                        if ($vtype eq "ve") {
2883                                my ($vepath) = pb_conf_get("vepath");
2884                                copy("$ENV{'PBDESTDIR'}/ProjectBuilder-$pbver1.tar.gz","$vepath->{$ENV{'PBPROJ'}}/$pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'}/tmp");
2885                                copy("$ENV{'PBDESTDIR'}/project-builder-$pbver2.tar.gz","$vepath->{$ENV{'PBPROJ'}}/$pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'}/tmp");
2886                        } else {
2887                                pb_system("scp -i $keyfile -p -o UserKnownHostsFile=/dev/null -P $nport $ENV{'PBDESTDIR'}/ProjectBuilder-$pbver1.tar.gz $ENV{'PBDESTDIR'}/project-builder-$pbver2.tar.gz root\@$vmhost->{$ENV{'PBPROJ'}}:/tmp","Copying local project files to $vtype.");
2888                        }
2889                        $cmdget = "mv /tmp/ProjectBuilder-$pbver1.tar.gz ProjectBuilder-latest.tar.gz ; mv /tmp/project-builder-$pbver2.tar.gz project-builder-latest.tar.gz";
2890                } else {
2891                        $cmdget = "wget --passive-ftp ftp://ftp.project-builder.org/src/ProjectBuilder-latest.tar.gz; wget --passive-ftp ftp://ftp.project-builder.org/src/project-builder-latest.tar.gz";
2892                }
2893                print SCRIPT << 'EOF';
2894# Then install manually the missing perl modules
2895my ($osperldep,$osperlver) = pb_conf_get_if("osperldep","osperlver");
2896       
2897my $perldep = pb_distro_get_param($pbos,$osperldep);
2898foreach my $m (split(/,/,$perldep)) {
2899        # Skip empty deps
2900        next if ($m =~ /^\s*$/);
2901        my $dir = $m;
2902        $dir =~ s/-.*//;
2903        pb_system("echo \"rm -rf $m* ; wget http://search.cpan.org/CPAN/modules/by-module/$dir/$m-$osperlver->{$m}.tar.gz ; gzip -cd $m-$osperlver->{$m}.tar.gz | tar xf - ; cd $m* ; if [ -f Build.PL ]; then perl Build.PL; ./Build ; ./Build install ; else perl Makefile.PL; make ; make install ; fi; cd .. ; rm -rf $m*\" | bash" ,"Installing perl module $m-$osperlver->{$m}");
2904}
2905EOF
2906
2907                print SCRIPT << "EOF";
2908pb_system("rm -rf ProjectBuilder-* ; rm -rf project-builder-* ; $cmdget ; gzip -cd ProjectBuilder-latest.tar.gz | tar xf - ; cd ProjectBuilder-* ; perl Makefile.PL ; make ; make install ; cd .. ; rm -rf ProjectBuilder-* ; gzip -cd project-builder-latest.tar.gz | tar xf - ; cd project-builder-* ; perl Makefile.PL ; make ; make install ; cd .. ; rm -rf project-builder-* ;","Building Project-Builder");
2909EOF
2910        } elsif ($itype =~ /^pkg/) {
2911                # pkg based install. We need to point to the project-builder.org repository
2912                print SCRIPT << 'EOF';
2913my $pkgforpb = pb_distro_get_param($pbos,pb_conf_get_if("ospkg"));
2914pb_distro_setuposrepo($pbos);
2915pb_distro_installdeps(undef,$pbos,pb_distro_only_deps_needed($pbos,join(' ',split(/,/,$pkgforpb))));
2916EOF
2917        } else {
2918                # Unknown install type
2919                die("Unknown install type $itype->{$ENV{'PBPROJ'}} for param pbinstalltype");
2920        }
2921        print SCRIPT << 'EOF';
2922pb_system("pb 2>&1 | head -5",undef,"verbose");
2923pb_system("pbdistrocheck",undef,"verbose");
2924EOF
2925        if ($vtype eq "ve") {
2926                        print SCRIPT << 'EOF';
2927# For VE we need to umount some FS at the end
2928
2929pb_system("umount /proc");
2930
2931# Create a basic network file if not already there
2932
2933my $nf="/etc/sysconfig/network";
2934if ((! -f $nf) && ($pbos->{'type'} eq "rpm")) {
2935        open(NF,"> $nf") || die "Unable to create $nf";
2936        print NF "NETWORKING=yes\n";
2937        print NF "HOSTNAME=localhost\n";
2938        close(NF);
2939}
2940chmod 0755,$nf;
2941EOF
2942        }
2943
2944        # Adds pb_distro_get_context and all functions needed from ProjectBuilder::Distribution, Conf and Base
2945        foreach my $d (@INC) {
2946                my @f = ("$d/ProjectBuilder/Base.pm","$d/ProjectBuilder/Distribution.pm","$d/ProjectBuilder/Conf.pm");
2947                foreach my $f (@f) {
2948                        if (-f "$f") {
2949                                open(PBD,"$f") || die "Unable to open $f";
2950                                while (<PBD>) {
2951                                        next if (/^package/);
2952                                        next if (/^use Exporter/);
2953                                        next if (/^use ProjectBuilder::/);
2954                                        next if (/^our /);
2955                                        print SCRIPT $_;
2956                                }
2957                                close(PBD);
2958                        }
2959                }
2960        }
2961        # Use a fake pb_version_init version here
2962        print SCRIPT << "EOF";
2963sub pb_version_init {
2964
2965return("$projectbuilderver","$projectbuilderrev");
2966}
29671;
2968EOF
2969        close(SCRIPT);
2970        chmod 0755,"$pbscript";
2971
2972        # That build script needs to be run as root and force stop of VM at end
2973        $pbaccount = "root";
2974
2975        # Force shutdown of VM except if it was already launched
2976        my $pbforce = 0;
2977        if ((! $vmexist) && ($vtype eq "vm")) {
2978                $pbforce = 1;
2979        }
2980       
2981        pb_script2v($pbscript,$vtype,$pbforce,$v);
2982        $pm->finish if (defined $pbparallel);
2983}
2984$pm->wait_all_children if (defined $pbparallel);
2985return;
2986}
2987
2988# Function to create a snapshot named 'pb' for VMs and a compressed tar for VEs
2989sub pb_snap2v {
2990
2991my $vtype = shift;
2992
2993my ($vm,$all) = pb_get2v($vtype);
2994
2995# Script generated
2996my $pbscript = "$ENV{'PBDESTDIR'}/snapv";
2997
2998my ($pbac) = pb_conf_get($vtype."login");
2999
3000foreach my $v (@$vm) {
3001        if ($vtype eq "ve") {
3002                # Get distro context
3003                my $pbos = pb_distro_get_context($v);
3004                my ($vepath) = pb_conf_get("vepath");
3005
3006                # Test if an existing snapshot exists and remove it if there is a VE
3007                if ((-f "$vepath->{$ENV{'PBPROJ'}}/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}.tar.gz") &&
3008                        (! -d "$vepath->{$ENV{'PBPROJ'}}/$pbos->{'name'}/$pbos->{'version'}/$pbos->{'arch'}")) {
3009                                pb_system("sudo rm -f $vepath->{$ENV{'PBPROJ'}}/$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}.tar.gz","Removing previous snapshot $pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}.tar.gz");
3010                }
3011        }
3012
3013        # Prepare the script to be executed on the VM/VE
3014        open(SCRIPT,"> $pbscript") || die "Unable to create $pbscript";
3015        print SCRIPT << 'EOF';
3016        #!/bin/bash
3017        sleep 2
3018EOF
3019        close(SCRIPT);
3020        chmod 0755,"$pbscript";
3021
3022        # Force shutdown of VM/VE
3023        # Force snapshot of VM/VE
3024        pb_script2v($pbscript,$vtype,1,$v,1);
3025}
3026return;
3027}
3028
3029# Function to update VMs/VEs/RMs with the latest distribution content
3030sub pb_update2v {
3031
3032my $vtype = shift;
3033
3034my ($vm,$all) = pb_get2v($vtype);
3035
3036# Script generated
3037my $pbscript = "$ENV{'PBDESTDIR'}/updatev";
3038
3039my ($pbac) = pb_conf_get($vtype."login");
3040
3041foreach my $v (@$vm) {
3042        # Get distro context
3043        my $pbos = pb_distro_get_context($v);
3044
3045        # Prepare the script to be executed on the VM/VE/RM
3046        # in $ENV{'PBDESTDIR'}/updatev
3047        open(SCRIPT,"> $pbscript") || die "Unable to create $pbscript";
3048       
3049        print SCRIPT << 'EOF';
3050        #!/bin/bash
3051        sleep 2
3052EOF
3053        # VE needs a good /proc
3054        if ($vtype eq "ve") {
3055                print SCRIPT "sudo /bin/mount -t proc /proc /proc\n";
3056        }
3057        print SCRIPT "$pbos->{'update'}\n";
3058        if ($vtype eq "ve") {
3059                print SCRIPT "sudo /bin/umount /proc\n";
3060        }
3061        close(SCRIPT);
3062        chmod 0755,"$pbscript";
3063
3064        # Force shutdown of VM except
3065        pb_script2v($pbscript,$vtype,1,$v);
3066}
3067return;
3068}
3069
3070sub pb_announce {
3071
3072        # Get all required parameters
3073        my ($pbpackager,$pbrepo,$pbml,$pbsmtp) = pb_conf_get("pbpackager","pbrepo","pbml","pbsmtp");
3074        my ($pkgv, $pkgt) = pb_conf_get_if("pkgver","pkgtag");
3075        my $pkg = pb_cms_get_pkg($defpkgdir,$extpkgdir);
3076        my @pkgs = @$pkg;
3077        my %pkgs;
3078        my $first = 0;
3079
3080        # Get all distros concerned
3081        my $pbos = pb_distro_get_context();
3082        my $distrolist = pb_get_distros($pbos,undef);
3083        my %dl;
3084        foreach my $d (split(/,/,$distrolist)) {
3085                my ($d1,$d2, $d3) = split(/-/,$d);
3086                $dl{$d1}++;
3087        }
3088
3089        # Command to find packages on repo
3090        my $findstr = "find ".join(" ",keys %dl)." ";
3091        # Generated announce files
3092        my @files;
3093
3094        foreach my $pbpkg (@pkgs) {
3095                if ($first != 0) {
3096                        $findstr .= "-o ";
3097                }
3098                $first++;
3099                if ((defined $pkgv) && (defined $pkgv->{$pbpkg})) {
3100                        $pbver = $pkgv->{$pbpkg};
3101                } else {
3102                        $pbver = $ENV{'PBPROJVER'};
3103                }
3104                if ((defined $pkgt) && (defined $pkgt->{$pbpkg})) {
3105                        $pbtag = $pkgt->{$pbpkg};
3106                } else {
3107                        $pbtag = $ENV{'PBPROJTAG'};
3108                }
3109
3110                # TODO: use virtual/real names here now
3111                my $pbrealpkg = $pbpkg;
3112                my $pbrealpkgrpm = pb_cms_get_real_pkg($pbpkg,"rpm");
3113                my $pbrealpkgdeb = pb_cms_get_real_pkg($pbpkg,"deb");
3114                $findstr .= "-name \'$pbrealpkgrpm-$pbver-$pbtag\.*.rpm\' -o -name \'$pbrealpkgdeb"."_$pbver*\.deb\' -o -name \'$pbrealpkg-$pbver*\.ebuild\' -o -name \'$pbrealpkg-$pbver*\.pkg\' -o -name \'$pbrealpkg-$pbver*\.sd\' ";
3115
3116                my $chglog;
3117
3118                # Get project info on log file and generate tmp files used later on
3119                pb_cms_init($pbinit);
3120                $chglog = "$ENV{'PBROOTDIR'}/$pbpkg/pbcl";
3121                $chglog = "$ENV{'PBROOTDIR'}/pbcl" if (! -f $chglog);
3122                $chglog = undef if (! -f $chglog);
3123
3124                open(OUT,"> $ENV{'PBTMP'}/$pbpkg.ann") || die "Unable to create $ENV{'PBTMP'}/$pbpkg.ann: $!";
3125                my $pb;
3126                $pb->{'realpkg'} = $pbrealpkg;
3127                $pb->{'ver'} = $pbver;
3128                $pb->{'tag'} = $pbtag;
3129                $pb->{'date'} = $pbdate;
3130                $pb->{'chglog'} = $chglog;
3131                $pb->{'packager'} = $pbpackager;
3132                $pb->{'proj'} = $ENV{'PBPROJ'};
3133                $pb->{'repo'} = $pbrepo;
3134                $pb->{'pbos'}->{'type'} = "announce";
3135                $pb->{'pbos'}->{'suffix'} = "none";
3136                pb_changelog($pb,\*OUT,"yes");
3137                close(OUT);
3138                push(@files,"$ENV{'PBTMP'}/$pbpkg.ann");
3139        }
3140        $findstr .= " | grep -Ev \'src.rpm\'";
3141
3142        # Prepare the command to run and execute it
3143        open(PBS,"> $ENV{'PBTMP'}/pbscript") || die "Unable to create $ENV{'PBTMP'}/pbscript";
3144        print PBS "set -x\n" if ($pbdebug gt 1);
3145        print PBS "$findstr | sort 2> /dev/null\n";
3146        close(PBS);
3147        chmod 0755,"$ENV{'PBTMP'}/pbscript";
3148        pb_send2target("Announce");
3149
3150        # Get subject line
3151        my $sl = "Project $ENV{'PBPROJ'} version $ENV{'PBPROJVER'} is now available";
3152        pb_log(0,"Please enter the title of your announce\n");
3153        pb_log(0,"(By default: $sl)\n");
3154        my $sl2 = <STDIN>;
3155        $sl = $sl2 if ($sl2 !~ /^$/);
3156
3157        # Prepare a template of announce
3158        open(ANN,"> $ENV{'PBTMP'}/announce.html") || die "Unable to create $ENV{'PBTMP'}/announce.html: $!";
3159        print ANN << "EOF";
3160$sl</p>
3161
3162<p>The project team is happy to announce the availability of a newest version of $ENV{'PBPROJ'} $ENV{'PBPROJVER'}. Enjoy it as usual!</p>
3163<p>
3164Now available at <a href="$pbrepo->{$ENV{'PBPROJ'}}">$pbrepo->{$ENV{'PBPROJ'}}</a>
3165</p>
3166<p>
3167EOF
3168        open(LOG,"$ENV{'PBTMP'}/system.$$.log") || die "Unable to read $ENV{'PBTMP'}/system.$$.log: $!";
3169        my $col = 2;
3170        my $i = 1;
3171        print ANN << 'EOF';
3172<TABLE WIDTH="700" CELLPADDING="0" CELLSPACING="0" BORDER="0">
3173<TR>
3174EOF
3175        while (<LOG>) {
3176                print ANN "<TD><A HREF=\"$pbrepo->{$ENV{'PBPROJ'}}/$_\">$_</A></TD>";
3177                $i++;
3178                if ($i > $col) {
3179                        print ANN "</TR>\n<TR>";
3180                        $i = 1;
3181                }
3182        }
3183        close(LOG);
3184        print ANN << "EOF";
3185</TR>
3186</TABLE>
3187</p>
3188
3189<p>As usual source packages are also available in the same directory.</p>
3190
3191<p>
3192Changes are :
3193</p>
3194<p>
3195EOF
3196        # Get each package changelog content
3197        foreach my $f (sort(@files)) {
3198                open(IN,"$f") || die "Unable to read $f:$!";
3199                while (<IN>) {
3200                        print ANN $_;
3201                }
3202                close(IN);
3203                print ANN "</p><p>\n";
3204        }
3205        print ANN "</p>\n";
3206        close(ANN);
3207
3208        # Allow for modification
3209        my $editor = "vi";
3210        $editor = $ENV{'EDITOR'} if (defined $ENV{'EDITOR'});
3211        pb_system("$editor $ENV{'PBTMP'}/announce.html","Allowing modification of the announce","noredir");
3212
3213        # Store it in DB for external usage (Web pages generation)
3214        my $db = "$ENV{'PBCONFDIR'}/announces3.sql";
3215
3216        my $precmd = "";
3217        if (! -f $db) {
3218                $precmd = "CREATE TABLE announces (id INTEGER PRIMARY KEY AUTOINCREMENT, date DATE, announce VARCHAR[65535])";
3219        }
3220
3221        my $dbh = DBI->connect("dbi:SQLite:dbname=$db","","",
3222                        { RaiseError => 1, AutoCommit => 1 })
3223                        || die "Unable to connect to $db";
3224
3225        if ($precmd ne "") {
3226                my $sth = $dbh->prepare(qq{$precmd})
3227                        || die "Unable to create table into $db";
3228                $sth->execute();
3229        }
3230
3231        # To read whole file
3232        local $/;
3233        open(ANN,"$ENV{'PBTMP'}/announce.html") || die "Unable to read $ENV{'PBTMP'}/announce.html: $!";
3234        my $announce = <ANN>;
3235        close(ANN);
3236       
3237        pb_log(2,"INSERT INTO announces VALUES (NULL, $pbdate, $announce)");
3238        my $sth = $dbh->prepare(qq{INSERT INTO announces VALUES (NULL,?,?)})
3239                        || die "Unable to insert into $db";
3240        $sth->execute($pbdate, $announce);
3241        $sth->finish();
3242        $dbh->disconnect;
3243
3244        # Then deliver it on the Web
3245        # $TOOLHOME/livwww www
3246
3247        # Mail it to project's ML
3248        open(ML,"| w3m -dump -T text/html > $ENV{'PBTMP'}/announce.txt") || die "Unable to create $ENV{'PBTMP'}/announce.txt: $!";
3249        print ML << 'EOF';
3250<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Strict//EN" "http://www.w3.org/TR/x html1/DTD/xhtml1-strict.dtd">
3251
3252<html xmlns="http://www.w3.org/1999/xhtml" dir="ltr" xml:lang="en" lang="en">
3253  <head>
3254  </head>
3255  <body>
3256  <p>
3257EOF
3258        open(ANN,"$ENV{'PBTMP'}/announce.html") || die "Unable to read $ENV{'PBTMP'}/announce.html: $!";
3259        while(<ANN>) {
3260                print ML $_;
3261        }
3262        print ML << 'EOF';
3263</body>
3264</html>
3265EOF
3266        close(ML);
3267
3268        # To read whole file
3269        local $/;
3270        open(ANN,"$ENV{'PBTMP'}/announce.txt") || die "Unable to read $ENV{'PBTMP'}/announce.txt: $!";
3271        my $msg = <ANN>;
3272        close(ANN);
3273       
3274        # Preparation of headers
3275        eval
3276        {
3277                require Mail::Sendmail;
3278                Mail::Sendmail->import();
3279        };
3280        if ($@) {
3281                # Mail::Sendmail not found not sending mail !
3282                pb_log(0,"No Mail::Sendmail module found so not sending any mail !\n");
3283        } else {
3284                my %mail = (   
3285                        To                      =>      $pbml->{$ENV{'PBPROJ'}},
3286                        From            =>      $pbpackager->{$ENV{'PBPROJ'}},
3287                        Smtp            =>      $pbsmtp->{$ENV{'PBPROJ'}},
3288                        Body            =>      $msg,
3289                        Subject         =>      "[ANNOUNCE] $sl",
3290                );
3291                       
3292                # Send mail
3293                if (! sendmail(%mail)) {
3294                        if ((defined $Mail::Sendmail::error) and (defined $Mail::Sendmail::log)) {
3295                                die "Unable to send mail ($Mail::Sendmail::error): $Mail::Sendmail::log";
3296                        }
3297                }
3298        }
3299}
3300
3301#
3302# Creates a set of HTML file containing the news for the project
3303# based on what has been generated by the pb_announce function
3304#
3305sub pb_web_news2html {
3306
3307        my $dest = shift || $ENV{'PBTMP'};
3308
3309        # Get all required parameters
3310        my ($pkgv, $pkgt) = pb_conf_get_if("pkgver","pkgtag");
3311
3312        # DB of announces for external usage (Web pages generation)
3313        my $db = "$ENV{'PBCONFDIR'}/announces3.sql";
3314
3315        my $dbh = DBI->connect("dbi:SQLite:dbname=$db","","",
3316                        { RaiseError => 1, AutoCommit => 1 })
3317                        || die "Unable to connect to $db";
3318        # For date handling
3319        $ENV{LANGUAGE}="C";
3320        my $firstjan = strftime("%Y-%m-%d", 0, 0, 0, 1, 0, localtime->year(), 0, 0, -1);
3321        my $oldfirst = strftime("%Y-%m-%d", 0, 0, 0, 1, 0, localtime->year()-1, 0, 0, -1);
3322        pb_log(2,"firstjan: $firstjan, oldfirst: $oldfirst, pbdate:$pbdate\n");
3323        my $all = $dbh->selectall_arrayref("SELECT id,date,announce FROM announces ORDER BY date DESC");
3324        my %news;
3325        $news{"cy"} = "";       # current year's news
3326        $news{"ly"} = "";       # last year news
3327        $news{"py"} = "";       # previous years news
3328        $news{"fp"} = "";       # first page news
3329        my $cpt = 4;            # how many news for first page
3330        # Extract info from DB
3331        foreach my $row (@$all) {
3332                my ($id, $date, $announce) = @$row;
3333                $news{"cy"} = $news{"cy"}."<p><B>$date</B> $announce\n" if ((($date cmp $pbdate) le 0) && (($firstjan cmp $date) le 0));
3334                $news{"ly"} = $news{"ly"}."<p><B>$date</B> $announce\n" if ((($date cmp $firstjan) le 0) && (($oldfirst cmp $date) le 0));
3335                $news{"py"} = $news{"py"}."<p><B>$date</B> $announce\n" if (($date cmp $oldfirst) le 0);
3336                $news{"fp"} = $news{"fp"}."<p><B>$date</B> $announce\n" if ($cpt > 0);
3337                $cpt--;
3338        }
3339        pb_log(1,"news{fp}: ".$news{"fp"}."\n");
3340        $dbh->disconnect;
3341
3342        # Generate the HTML content
3343        foreach my $pref (keys %news) {
3344                open(NEWS,"> $dest/pb_web_$pref"."news.html") || die "Unable to create $dest/pb_web_$pref"."news.html: $!";
3345                print NEWS "$news{$pref}";
3346                close(NEWS);
3347        }
3348}
3349
3350
3351# Return the SSH key file to use
3352# Potentially create it if needed
3353
3354sub pb_ssh_get {
3355
3356my $create = shift || 0;        # Do not create keys by default
3357
3358# Check the SSH environment
3359my $keyfile = undef;
3360
3361# We have specific keys by default
3362$keyfile = "$ENV{'HOME'}/.ssh/pb_dsa";
3363if (!(-e $keyfile) && ($create eq 1)) {
3364        pb_system("ssh-keygen -q -b 1024 -N '' -f $keyfile -t dsa","Generating SSH keys for pb");
3365}
3366
3367$keyfile = "$ENV{'HOME'}/.ssh/id_rsa" if (-s "$ENV{'HOME'}/.ssh/id_rsa");
3368$keyfile = "$ENV{'HOME'}/.ssh/id_dsa" if (-s "$ENV{'HOME'}/.ssh/id_dsa");
3369$keyfile = "$ENV{'HOME'}/.ssh/pb_dsa" if (-s "$ENV{'HOME'}/.ssh/pb_dsa");
3370die "Unable to find your public ssh key under $keyfile" if (not defined $keyfile);
3371return($keyfile);
3372}
3373
3374
3375# Returns the pid of a running VM command using a specific VM file
3376sub pb_check_ps {
3377        my $vmcmd = shift;
3378        my $vmm = shift;
3379        my $vmexist = 0;                # FALSE by default
3380
3381        open(PS, "ps auxhww|") || die "Unable to call ps";
3382        while (<PS>) {
3383                next if (! /$vmcmd/);
3384                next if (! /$vmm/);
3385                my ($void1, $void2);
3386                ($void1, $vmexist, $void2) = split(/ +/);
3387                last;
3388        }
3389        return($vmexist);
3390}
3391
3392
3393sub pb_extract_build_files {
3394
3395my $src=shift;
3396my $dir=shift;
3397my $ddir=shift;
3398my $mandatory=shift || "spec";
3399my @files;
3400
3401my $flag = "mayfail" if (($mandatory eq "patch") || ($mandatory eq "src"));
3402my $res;
3403
3404if ($src =~ /tar\.gz$/) {
3405        $res = pb_system("tar xfpz $src $dir","Extracting $mandatory files from $src",$flag);
3406} elsif ($src =~ /tar\.bz2$/) {
3407        $res = pb_system("tar xfpj $src $dir","Extracting $mandatory files from $src",$flag);
3408} else {
3409        die "Unknown compression algorithm for $src";
3410}
3411# If not mandatory return now
3412return() if (($res != 0) and (($mandatory eq "patch") || ($mandatory eq "src")));
3413opendir(DIR,"$dir") || die "Unable to open directory $dir";
3414foreach my $f (readdir(DIR)) {
3415        next if ($f =~ /^\./);
3416        # Skip potential patch dir
3417        next if ($f =~ /^pbpatch/);
3418        # Skip potential source dir
3419        next if ($f =~ /^pbsrc/);
3420        move("$dir/$f","$ddir") || die "Unable to move $dir/$f to $ddir";
3421        pb_log(2,"mv $dir/$f $ddir\n");
3422        push @files,"$ddir/$f";
3423}
3424closedir(DIR);
3425# Not enough but still a first cleanup
3426pb_rm_rf("$dir");
3427return(@files);
3428}
3429
3430sub pb_list_bfiles {
3431
3432my $dir = shift;
3433my $pbpkg = shift;
3434my $bfiles = shift;
3435my $pkgfiles = shift;
3436my $supfiles = shift;
3437
3438pb_log(2,"DEBUG: entering pb_list_bfiles: ".Dumper($bfiles)."\n");
3439opendir(BDIR,"$dir") || die "Unable to open dir $dir: $!";
3440foreach my $f (readdir(BDIR)) {
3441        next if ($f =~ /^\./);
3442        if (-d $f) {
3443                # Recurse for directories (Debian 3.0 format e.g.)
3444                pb_list_bfiles($f,$pbpkg,$bfiles,$pkgfiles,$supfiles);
3445                next;
3446        }
3447        $bfiles->{$f} = "$dir/$f";
3448        $bfiles->{$f} =~ s~$ENV{'PBROOTDIR'}~~;
3449        if (defined $supfiles->{$pbpkg}) {
3450                $pkgfiles->{$f} = "$dir/$f" if ($f =~ /$supfiles->{$pbpkg}/);
3451        }
3452}
3453closedir(BDIR);
3454pb_log(2,"DEBUG: exiting pb_list_bfiles: ".Dumper($bfiles)."\n");
3455}
3456
3457sub pb_add_coma {
3458
3459my $str = shift;
3460my $addstr = shift;
3461
3462$str .= "," if (defined $str);
3463$str .= $addstr;
3464return($str);
3465}
3466
3467sub pb_list_sfiles {
3468
3469my $sdir = shift;
3470my $ptr = shift;
3471my $pbos = shift;
3472my $extdir = shift;
3473
3474pb_log(2,"DEBUG: entering pb_list_sfiles: ".Dumper($ptr)."\n");
3475my $key = "$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}";
3476
3477# Prepare local sources for this distro - They are always applied first - May be a problem one day
3478# This function works for both patches and additional sources
3479foreach my $p (sort(<$sdir/*>)) {
3480        $ptr->{$key} = pb_add_coma($ptr->{$key},"file://$p") if (($p =~ /\.all$/) || ($p =~ /\.$pbos->{'os'}$/) || ($p =~ /\.$pbos->{'type'}$/) || ($p =~ /\.$pbos->{'family'}$/) || ($p =~ /\.$pbos->{'name'}$/) || ($p =~ /\.$pbos->{'name'}-$pbos->{'version'}$/) ||($p =~ /\.$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}$/));
3481}
3482
3483# Prepare also remote sources to be included - Applied after the local ones
3484foreach my $p ("all","$pbos->{'os'}","$pbos->{'type'}","$pbos->{'family'}","$pbos->{'name'}","$pbos->{'name'}-$pbos->{'version'}","$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}") {
3485        my $f = "$extdir.".".$p";
3486        next if (not -f $f);
3487        if (not open(PATCH,$f)) {
3488                pb_display("Unable to open existing external source file content $f\n");
3489                next;
3490        }
3491        while (<PATCH>) {
3492                chomp();
3493                $ptr->{$key} = pb_add_coma($ptr->{$key},"$_");
3494        }
3495        close(PATCH);
3496}
3497pb_log(2,"DEBUG: exiting pb_list_sfiles: ".Dumper($ptr)."\n");
3498return($ptr);
3499}
3500       
3501#
3502# Return the list of packages we are working on in a non CMS action
3503#
3504sub pb_get_pkg {
3505
3506my @pkgs = ();
3507
3508my ($var) = pb_conf_read("$ENV{'PBDESTDIR'}/$ENV{'PBPROJVER'}-$ENV{'PBPROJTAG'}.pb","pbpkg");
3509@pkgs = keys %$var;
3510
3511pb_log(0,"Packages: ".join(',',@pkgs)."\n");
3512return(\@pkgs);
3513}
3514
3515# Manages VM/RM SSH port communication
3516sub pb_get_port {
3517
3518my $port = shift;
3519my $pbos = shift;
3520my $cmt = shift;
3521my $nport;
3522
3523die "No port passed in parameter. Report to dev team\n" if (not defined $port);
3524# key is project on VM, but machine tuple for RM
3525if ($cmt =~ /^RM/i) {
3526        $nport = $port->{"$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'}"};
3527} else {
3528        $nport = $port->{$ENV{'PBPROJ'}};
3529}
3530pb_log(2,"pb_get_port with $nport\n");
3531# Maybe a port was given as parameter so overwrite
3532$nport = "$pbport" if (defined $pbport);
3533# Maybe in // mode so use the env var set up as an offset to the base port, except when called from send2target for Packages or for RM
3534if (($cmt ne "Packages") && ($cmt !~ /^RM/i)) {
3535        $nport += $ENV{'PBVMPORT'} if ((defined $pbparallel) && (defined $ENV{'PBVMPORT'}));
3536}
3537pb_log(2,"pb_get_port returns $nport\n");
3538return($nport);
3539}
3540
3541sub pb_set_port { 
3542               
3543my ($pid,$ident) = @_;
3544pb_log(2,"pb_set_port for VM ($pid), id $ident\n");
3545$ENV{'PBVMPORT'} = $ident;
3546pb_log(2,"pb_set_port sets PBVMPORT in env to $ENV{'PBVMPORT'}\n");
3547}
3548
3549sub pb_set_parallel {
3550
3551my $vtype = shift;
3552
3553pb_log(2,"pb_set_parallel vtype: $vtype\n");
3554# Take care of memory size if VM, parallel mode and more than 1 action
3555if ((defined $pbparallel) && ($pbparallel ne 1) && ($vtype eq "vm")) {
3556        eval
3557        {
3558                require Linux::SysInfo;
3559                Linux::SysInfo->import();
3560        };
3561        if ($@) {
3562                # Linux::SysInfo not found
3563                pb_log(1,"ADVISE: Install Linux::SysInfo to benefit from automatic parallelism optimization.\nOr optimize manually pbparallel in your pb.conf file\nUsing $pbparallel processes max at a time for the moment\nWARNING: This may consume too much memory for your system");
3564        } else {
3565                # Using the memory size
3566                my $si = Linux::SysInfo::sysinfo();
3567                if (not defined $si) {
3568                        pb_log(1,"ADVISE: Install Linux::SysInfo to benefit from automatic parallelism optimization.\nOr optimize manually pbparallel in your pb.conf file\nUsing $pbparallel processes max at a time for the moment\nWARNING: This may consume too much memory for your system");
3569                } else {
3570                        # Keep the number of VM whose memory can be allocated
3571                        my $ram = $si->{"totalram"}-$si->{"sharedram"}-$si->{"bufferram"};
3572                        my $ram2;
3573                        my ($vmmem) = pb_conf_get_if("vmmem");
3574
3575                        my $v = "default";
3576                        if ((defined $vmmem) and (defined $vmmem->{$v})) {
3577                                $ram2 = $vmmem->{$v};
3578                        } else {
3579                                # Default for KVM/QEMU
3580                                $ram2 = 128;
3581                        }
3582                        $pbparallel = sprintf("%d",$ram/$ram2);
3583                }
3584                pb_log(1,"Using $pbparallel processes at a time\n");
3585        }
3586}
3587pb_log(2,"pb_set_parallel returns: $pbparallel\n") if (defined $pbparallel);
3588return($pbparallel);
3589}
3590
3591sub pb_get_sudocmds { 
3592               
3593my $pbos = shift;
3594my %sudocmds;
3595
3596pb_log(2,"pb_get_sudocmds entering with lines:".Dumper(@_)."\n");
3597foreach my $c (split(/;/,$pbos->{'update'}),split(/;/,$pbos->{'install'}),@_) {
3598        pb_log(2,"pb_get_sudocmds analyses $c\n");
3599        next if ($c !~ /^\s*sudo/);
3600        # remove sudo and leading spaces
3601        $c =~ s/^\s*sudo\s+//;
3602        # keep only the command, not the params
3603        $c =~ s/([^\s]+)\s.*$/$1/;
3604        $sudocmds{$c} = "";
3605}
3606pb_log(2,"pb_get_sudocmds returns ".Dumper(keys %sudocmds)."\n");
3607return(keys %sudocmds);
3608}
3609
3610sub pb_sign_pkgs {
3611
3612my $pbos = shift;
3613my $made = shift;
3614
3615pb_log(2,"entering pb_sign_pkg: $made ".Dumper($pbos)."\n");
3616my ($passfile, $passphrase, $passpath) = pb_conf_get_if("pbpassfile","pbpassphrase","pbpasspath");
3617$ENV{'PBPASSPHRASE'} = $passphrase->{$ENV{'PBPROJ'}} if ((not defined $ENV{'PBPASSPHRASE'}) && (defined $passphrase->{$ENV{'PBPROJ'}}));
3618$ENV{'PBPASSFILE'} = $passfile->{$ENV{'PBPROJ'}} if ((not defined $ENV{'PBPASSFILE'})&& (defined $passfile->{$ENV{'PBPROJ'}})) ;
3619$ENV{'PBPASSPATH'} = $passpath->{$ENV{'PBPROJ'}} if ((not defined $ENV{'PBPASSPATH'})&& (defined $passpath->{$ENV{'PBPROJ'}})) ;
3620
3621# Remove extra spaces
3622$made =~ s/\s+/ /g;
3623$made =~ s/^\s//g;
3624$made =~ s/\s$//g;
3625
3626if ($pbos->{'type'} eq "rpm") {
3627        eval
3628        {
3629                require RPM4::Sign;
3630                RPM4::Sign->import();
3631        };
3632        if ($@) {
3633                # RPM4::Sign not found
3634                pb_log(1,"WARNING: Install RPM4::Sign to benefit from automatic package signing.\n");
3635        } else {
3636                return if ((not defined $ENV{'PBPASSPHRASE'}) and (not defined $ENV{'PBPASSFILE'}));
3637                my $sign = RPM4::Sign->new(
3638                        passphrase => $ENV{'PBPASSPHRASE'},
3639                        name => $ENV{'PBPACKAGER'},
3640                        path => $ENV{'PBPASSPATH'},
3641                        password_file => $ENV{'PBPASSFILE'}, 
3642                );
3643
3644                pb_log(0,"Signing RPM packages...\n");
3645                pb_log(2,"pb_sign_pkg: pkgs:".Dumper(split(/ /,$made))."\n");
3646                $sign->rpmssign(split(/ /,$made));
3647        }
3648} elsif ($pbos->{'type'} eq "deb") {
3649        my $changes = "";
3650        foreach my $c (split(/ /,$made)) {
3651                $changes .= " $ENV{'PBBUILDDIR'}/$c" if ($c =~ /\.changes$/);
3652        }
3653        pb_system("debsign -m\'$ENV{'PBPACKAGER'}\' $changes","Signing DEB packages");
3654} else {
3655        pb_log(0,"I don't know yet how to sign packages for type $pbos->{'type'}.\nPlease give feedback to dev team\n");
3656}
3657pb_log(2,"exiting pb_sign_pkg\n");
3658}
3659
3660# return list of all distributins supported, coma separated
3661sub pb_get_distros {
3662
3663my $pbos = shift;
3664my $pbtarget = shift;
3665
3666my $tmpl = "$pbos->{'name'}-$pbos->{'version'}-$pbos->{'arch'},";
3667
3668# Get list of distributions for which we need to generate build files if no target
3669if (not defined ($pbtarget)) {
3670        my @pt = pb_conf_get_if("vmlist","velist","rmlist");
3671        if (defined $pt[0]->{$ENV{'PBPROJ'}}) {
3672                $tmpl .= $pt[0]->{$ENV{'PBPROJ'}};
3673        }
3674        if (defined $pt[1]->{$ENV{'PBPROJ'}}) {
3675                # The 2 lists needs to be grouped with a ',' separating them
3676                if ($tmpl ne "") {
3677                        $tmpl .= ",";
3678                }
3679                $tmpl .= $pt[1]->{$ENV{'PBPROJ'}} 
3680        }
3681        if (defined $pt[2]->{$ENV{'PBPROJ'}}) {
3682                # The lists needs to be grouped with a ',' separating them
3683                if ($tmpl ne "") {
3684                        $tmpl .= ",";
3685                }
3686        $tmpl .= $pt[2]->{$ENV{'PBPROJ'}} 
3687        }
3688}
3689return($tmpl);
3690}       
3691
36921;
Note: See TracBrowser for help on using the repository browser.