common/mapping.py: Improve xml parsing error handling

Added local exception MappingError and properly process it in
policycheck job.

Fixes: #1541

Change-Id: I3e4ab8a7ec150933876ecb4f02461406833b8e6d
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Add index.html in templates in spec

This will fix `jinja2.exceptions.TemplateNotFound: index.html` error.

Change-Id: Ic73be70bedb67372c7cd414f123375894b4c90b5

Fix IndexError when repo info has no element

Change-Id: Id2764928ab6ca99c88f5ad330e1bcf1c023159c8

Adapt for new interface in python-snapdiff

Change-Id: I46725b4ee8caeb1de0488c32091ed11a0af1e36a

Split trigger_image_creation function into two parts

From now on, triggering jobs and preparing trigger data are
independent, and it is more readable.

Change-Id: Ie2ab0a9cec388751b6805f2ec6cdbaf63ae2b5f7

use the new repo structure

Change-Id: Ideebe8d0bcf0deeaa6988fd5e921f4c031bf5183
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

create the latest repo link

Change-Id: I6ab84a1c80a1881e243b096c964bad0c6cd80929
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

remove unused function

Change-Id: I99a3c65d00163b78df2885d1850c6f4e94b99c2d
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Integrate snapdiff into jenkins-scripts

Change-Id: Idaf2791be10ab1d0e72536200c11c065692024f2

fix a potenntial bug about find package-groups package

Change-Id: Id9857210eb1561fbf8a4ce77ddd27dcd1b1f274f
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Fix format string operation

Change-Id: I9e4ee98e51e22d3e82e6147af344d03b4529caf1

Add unitest testcase for gbs interface

Change-Id: Ia8eb7d35ac9c7478433acb5a8052c2a5f840faa6

Add unitest testcase for gbp interface

Change-Id: I362d3e0563d56b5dfc7df4fd8a2285b9bb243772

Combine all repos build result into one comments

Change-Id: I565f3856072776f20505411e83ec21eafc848104
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Add profile info into accept tag name

Change accept tag name format to accept/{OBS_PRJ_NAME}/{DATE.TIME} to insert
profile info.

Fixes: #1511

Change-Id: I1d1e5087e3966e4ec52b804c631037c7cfef8093
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

policycheck: Check if specs found in packaging/ directory

If there is no spec files in packaging/ directory job should fail and
send message back to gerrit informing submitter about the issue.

Change-Id: Ib6a129fe94fc9e011fd9b33be31f4083b6d73bc2
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

policycheck: fail the job if gbs export fails

If gbs export fails job should fail as this is definitely policy issue.
Ignoring this doesn't make sense.

Change-Id: Ibf377af948e229d6c01f5cb3bda7bdeba83ea07e
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

policycheck: Check if packaging/ directory exist

if there is no packaging/ directory in the project policycheck should
fail and send message back to Gerrit.

Currently if project doesn't have packaging directory job produces
non-informative traceback:
Traceback (most recent call last):
  File "jenkins-scripts/job_policycheck.py", line 196, in <module>
    sys.exit(main())
  File "jenkins-scripts/job_policycheck.py", line 172, in main
    if not export(prjdir, packagingdir, mygit, events, mygerrit):
  File "jenkins-scripts/job_policycheck.py", line 62, in export
    tempd = tempfile.mkdtemp(dir=os.path.join(prjdir, packagingdir))
  File "/usr/lib64/python2.7/tempfile.py", line 318, in mkdtemp
    _os.mkdir(file, 0700)

and doesn't report anything back to submitter.

Fixes: #1526

Change-Id: Ic98c26e04c45ff22eeb9136acfe006159d9eff5c
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Catch backenddb EntityError exception

When there is no map for some OBS project backenddb API raises
EntityError exception. It should be catched.

Fixes: #1528

Change-Id: I4c7fa8c5562c4d01a5d9b67e9a4a5d1d38e4b082
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Check if key is in mapping to avoid KeyError

This change should fix KeyError traceback in parsing description. In
current code everything with ':' is considered as key:value, which is
incorrect assumption as ':' is a very common symbol.

Fixes: #1524

Change-Id: I29deb4e410ba820535e09d8c4808894296c40cda
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

job_pre_release_gerrit: Check if prerelease enabled for OBS project

To avoid triggering workflow for all projects prerelease_enabled
function is implemented and used in job_pre_release_gerrit to filter out
unrelated projects.

Fixes: #1531

Change-Id: I65f3cd98bedacf61e7dae769b94f4c7091c52d4a
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Fixed linking and unlinking repositories

Linking and unlinking was changing only first repository in the project.
The rest repos were left unchanged.

Fixes: #1530

Change-Id: Ia40fc6249f244644375a1b71f2c9a8ddfccc2067
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Check return code of sync function

When sync filed job_imager should also fail.

Fixes: #1513

Change-Id: I261b6c1844f1c2aa2e19e8b968f08a39d4b93e96
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

fix the releaesid key name mistake when update value

Change-Id: I08168e89393b7d49e4b20bd49fe4931257d61119
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Fix a typo when get exception

Change-Id: I9761ec87c71684b0c060f75d4e906bff8388bdca
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

enable createrepo_c for repomaker

Change-Id: I53166ed7cace598b7b7e569f9c9fa425d148560f
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Code cleanup of job_pre_release_obs

Pylinted + code cleanup.

Change-Id: Ifaa2adb1cd57d5dcaeee5f0abf7e4871266960d2
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Cleanup prerelese repos from all snapshots

When cleaning up prerelease repos we should consider all snapshots, not
just the latest one.

Change-Id: I85b2d1dfedeb979eaf135ca5f4416ef54c3fbb93
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Reimplemented logic of finding published repos

Current logic assumes that all repos of one OBS projects have the same
snapshot id, which is not always true. First of all due to the bug in
boss-repomaker they're always different. Second, for one OBS project
some repos can be published, but some can't because of package build
failures, so snapshot ids can be different for different repos in the
same project and they has to be found and cleaned up.

As it's impossible to find repo only by OBS project name more
sophisticated logic should be used:
 - Find all keys, starting from OBS prject name
 - Part after colon may be repo name
 - Repo name should not contain colon as some projects may have the same
   prefix, e.g. Tizen:IVI and Tizen:IVI:Release

Change-Id: I018105dc52244d8530b26daa5a4b47bf6cc6ea1a
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Used repo name as a part of release key

PartOf and Release keys in repos.yaml are not uniq. Using them as a
uniq identifier leads to breakage of workflow as they're continuously
rewritten by repomaker for every snapshot for the repos with the
same PartOf and Release keys in repos.yaml

This change uses repo name instead of PartOf and Release. Name is
uniq in repos.yaml, so this should hopefully fix the issue.

Note, that this change requires repomaker to store release ids using
repo name. This is done in this change:
    https://otctools.jf.intel.com/review/#/c/8189/

Change-Id: I63e033bff640ec2ae93e1d522dce55758aff2acd
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Pylinted job_pre_release_obs.py

Change-Id: I65f7ff443ecfbb941f91cd8bf2e92ada2d6f82fc
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Refined warning message

This is quite important message. Let's make it a bit more clear.

Change-Id: I3653a702511d06e1e93e7697cab5ea3e7cfd85f4
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Used OBS repo to find repo name from repos.yaml

This is an adaptation of job_pre_release_obs and job_create_snapshot to
the change in the key format for obs -> repo mappings. Now OBS repository
is also used to find repo name. This change passes OBS repository to
Snapshot class to find repo name properly.

Change-Id: I30adf0c8f3efceaabeec77a468613cacf2ec1e23
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Added obs repository as a part of obs->repo mapping

OBS project can be mapped to multiple repo names in repos.yaml depending
on obs repository, for example:
Tizen:Mobile OBS project currently maps to 3 repos:
  Tizen-mobile for OBS repo atom,
  Tizen-mobile-rd-pq for OBS repo arm,
  Tizen-emulator for OBS repo emulator.

so, it's not possible to find repo name by using OBS project.
OBS repository should be taken into consideration as well.

This is a serious design fault in the current code.

This change is trying to fix this by using <OBS project>:<OBS repository>
key in obs->repo mapping API.

Change-Id: Ibfb7b77b3efbbbde65d8deeff1b90e08e0695977
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Clean up use obsolete function end()

Because end() function has been already removed, should not use it any more.

Change-Id: Id02d2e7aaec145236557b8fa228098e818e2aeb1
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Change return code when init TempPackage exception

One buildcheck project will send out multiply OBS_REPO_PUBLISH_STATE events, the
first build will delete this project, the following builds will rasie this
exception. In this case, it should return 0.

Change-Id: I6816b9fe61cb9b4e9a6baaae9b415587795fccfc
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Fix is_new_package method not found

It is not fixed completely in 9340906 commit

Change-Id: I862e941d0b78f4cb8b68818da59d924335f3cb71

Return directly if post comment to gerrit failed

Change-Id: I3f4c7c5da7089645caaecfb49970ce60d5da656b
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Trigger the next job with project name info

Change-Id: I5b8e1534a445fb340f9ffdad38bc02cb32f4e109
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Catch GerritError when post comment back to gerrit

Change-Id: Ie00925f18f10cca8560e65e45f934758f2395cb7
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Enable more flexible pattern to sync code

When sync code from outside to inside gerrit, need more flexible pattern to
control which refname need to be synced, like only sync one branch.

Change-Id: I65bafca9574c7d7a0a89d728fefc4b08e4132a0a
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Split the output of _git_inout to lines

Change-Id: I93f4ff3bd892137806e151015d841e29ae21cb81
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Fix the image creation job not trigger issues

Fixes: #1462

Change-Id: Ia07fdf3132a7a61b65df622ef9b289931d5691a0
Signed-off-by: Hasan Wan <hasan.wan@intel.com>
Change-Id: I3b35bf56963106674e46c49c5c485a9d9b76d4fb

job_submit.py are required in jenkins-scripts package

Change-Id: I7e40d106cd74fb3199d4e49c7f423401eef0aea3
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Do not need to specify specfile when gbs rb

Because gbs can automatically handle multiply specfile issue, don't need to
specify specfile in gbs command any more.

Change-Id: I09707dc3f66302a4362dea5057743314d59aa1b9
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Used atexit to remove temporary directories

Change-Id: I171819fa87dea5933bbbe1592a6ffd759683b410
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

job_submitobs: Pylinted

Change-Id: Ic250816f3d8a091f37d8d30bc448180fb518a927
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Moved ref sync from job_sync_git to job_submitobs

This is done to avoid submitting to obs on sync instance if sync fails.
It's impossible to do when jobs are running asynchronously.

This change also reduces amount of code as it removes duplication
code used in both jobs.

Fixes: #1437

Change-Id: Iba10ec0126963b65296ba516cc7215a86212db36
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Catch git errors, print error message.

Fixes: #1407

Change-Id: Ifaa3dc82da2d094582c075b49905138ec6813997
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

No need to checkout upstream pristine-tar branch

Because gbs new version can automatically checkout upstream and pristine-tar
branch before gbs export, don't need to checkout these branches manually.

Change-Id: I477070020fa38e1651a46a6727b9d366045b1ad0
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Catched git errors

Used _git_inout instead of deprecated _git_getoutput.
Catched errors and raised local exception.

Change-Id: Ib7e844a0740e1215c18e8862dabedd0a5add5307
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Pylinted common/buildservice.py

Fixed one typo. Got rid of unused variables.

Change-Id: Icf597b912100dd0f6e60b88dca990d87b55cc678
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Catch urllib2.URLError

Caught urllib2.URLError exception. Included more info into error
message.

Fixes: #1408

Change-Id: Ib86635c50e305e8228cf62840c9cee527bc42bc8
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Fix rpm packaging bug

Remove `/var/lib/jenkins/userContent/jenkins-scripts' link only when
uninstall the package.

Change-Id: I8fffb85cb60b6b5bd0f12796281404b4d50fdb6b

Fix creating temp workspace since packaging dir is a relative path

Change-Id: I362547d80ea7537fd5cd0c2b8a2dbf7fb3c86de0

Check whether `gbs export` succeeds before remote building

Feature #1396

Change-Id: Iedfadd42d40e759dafdcb16d9d221890270b24f1

Check whether need to sync project to inside obs

For sync instance, need to check whether this project match the regular
expression in jobs/configuration to sync this submission to inside obs.

Fixes: #1426

Change-Id: Ide8addde38a40dab1487d7d97f1a477dc6dbdbff
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Generate repo manifest file

Fixes: #1392

Change-Id: I1f6b055ec59ad8bc5caaef681ff09bc08bd5c9d3
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Keep another copy of buildconf in repodata

Change-Id: I530a4287b8bd692bbf065244cb4367211b729ed1
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Fix a mistake of previous patch

Change-Id: I861a910652999013830d2eba20d3eebc66fa42fd
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Fix delete obs package failure in linked project

Before delete obs package, we should make sure this package still exist in obs.
Origin function bs.exists() will return true if this package don't exist in this
project, but in another linked project. So move to get_package_real_project_name
to check it.

Fixes: #1428

Change-Id: I969aac13df6df532694ef7ed3a30adfc8e7ec5c1
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Fix create symlinks under userContent failure

Safer way to rewrite the symlink when install and upgrade package.

Fixes: #1433

Change-Id: I4f62f47255faae35010316082e665b52466200d6
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Catch GerritError exception

Wrapped gerrit.Gerrit.* calls into try/except to catch GerritError
exception and produce human-readable error messages.

Fixes: #1436

Change-Id: Id7aec6ced7a8803987eb765e51bc667f0b4de557
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Refactored common/gerrit

Now Gerrit class raises GerritException when it gets non-zero return
code from ssh gerrit interface. Previously errors were silently ignored.

Change-Id: I68d48a010c3427e00daa1306127de5e3b9e17bbd
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

retry the obs operation when get ObsError

Fixes: #1103

Change-Id: I68d5935133b94167456a2d81bc747bdaa5e14342
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

make retry function as decorator

Change-Id: Ibbe7114af871b3cafc2dde6e4085b52e6737f20e
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

move xml2obj to common/utils

Change-Id: Ie4dac18217667e0095cad8c2ca958055c949d656
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Trigger post snapshot creation jobs after snapshot created

Change-Id: I702320a5eff7af494c1725a0358bbd78a6b574f8
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Fix an error with the project init

Change-Id: Ic979ab0574df02b23b65f3f9374a2b7bf30fdfc0
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Fix no logfile exception in buildcheck job

If obs package is in some states, like unresolvable, it will throw exception
when try to fetch build log for this package. And we need to send out build log
only for build failed package.

Fixes: #1429

Change-Id: I3f3754bc7200b15d720d8f23de86015110cd426f
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Handle gbs commands errors

Before this, gbs errors will be ignored

Fix #1406

Change-Id: I4f0db8902e23567c5ef0615f50279b952a4e654a

Use oscapi directly rather than invoke core.meta_exists

Change-Id: I9b7945c56d385b032cb8b965d2b47c3e7c25e080

Fix import gbp.rpm.parse_spec failure

In gbp new version, it change parse_spec() function name to SpecFile().

Fixes: #1419

Change-Id: I74bb5971080038e89a573dd5b86cc2567600de9f
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Fix submitobs job cannot send out email

Use ${BUILD_TAG}.env file as file parameter, instead of ${random}.mail.env, to
trigger downstream job mail-sender to match jenkins job conf change.

Fixes: #1422

Change-Id: Ie791588eaadd26036b0e909427023cb07ff5fb91
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Handle manually created requests in obs

The description section format of requests manually created by admin is
different as default format, so catch this kind of exception when trying parse
the request description and ignore this request.

Fixes: #1397

Change-Id: Ibba0406fa1161cf2f0fc519d545e610e339fecf5
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Change tools repo to otctools obs repo

To get the latest released tools, change tools dependency repo from tizen.org
repo to otctools obs repo.

Change-Id: I1c5320a89535636e6492d1b45f7128f309dde829
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Fixed KeyError exception in job_load_repos

This happened in production:
Traceback (most recent call last):
  File "jenkins-scripts/job_load_repos.yaml.py", line 75, in <module>
    sys.exit(main())
  File "jenkins-scripts/job_load_repos.yaml.py", line 70, in main
    update_repos_conf_on_filesystem(os.path.join(prjdir, 'repos.yaml'))
  File "jenkins-scripts/job_load_repos.yaml.py", line 47, in
update_repos_conf_on_filesystem
    repo['SnapshotDir'])
KeyError: 'SnapshotDir'

Change-Id: I8fe89fa7f509f001824215791cee4f24be6e1a9d
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Fix push to heads/accepted/* hierarchy failure

When parse one tag info, it should return the commit id the tag attached, not
the hash number the tag itself.

Fixes: #1395

Change-Id: I7f82c84c35924a42d67dc7b8e17e7c9c48e13b3a
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Catch git push tag exception

Fixes: #1344

Change-Id: I2b174f5ce142a54353361b6e03c8febfc01472e4
Signed-off-by: Lingchaox Xin <lingchaox.xin@intel.com>

Add a new scripts to generate the buildlogs dir for snapshots

Change-Id: I91934f21fd9c15f7a834312d2ccf4a1dc075bbc6
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Moved userContent/jenkins-scripts symlink to -common

userContent/jenkins-scripts symlink should be in -common for two
reasons:
 - it's used by also by -sync instances.
 - jenkins-scripts directory exists in -common package

Change-Id: Ia82d4e44c511bd3765da0dc0dee5222624a4d3b0
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Auto create symlinks to jenkins-scripts

In %post section, automatically create symlinks /var/lib/jenkins/userContent/
jenkins-scripts to /var/lib/jenkins/jenkins-scripts.

Fixes: #1356

Change-Id: Ib8972db7bb1db616db377a0c3a4fca5f33e33ee5
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Deleted job_deletetag

The reason is that we don't need to delete any tags. We may need another
job to delete old tags, but we don't need to delete them just because
the change was rejected like job_deletetag does.

Moreover job_deletetag has bugs. It may end up in infinite loop if it
can't force push to git repo. Removing the job automatically fixes this
issue.

Fixes: #1379

Change-Id: I182f8abdaa6f656edc8bb686698fffebbfa41092
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Improved error handling in job_mail_sender

Now jobs performs sanity check for configuration parameters and returns
1 if it fails.

Fixes: #1225

Change-Id: I4c7223589ec601f22b1675f75dacaa1388e05c33
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Created Snapshot and Prerelease classes

Snapshot and Prerelease classes provide simple OO interface to Snapshot
and Prerelease metadata. Previously get_repo_data function was used, but
it was hard to read and snapshot and prerelease data was mixed there.
That complexity was the first reason to replace it with Snapshot and
Prerelease classes.

Another reason was snapshot increment. It would be quite hard to
implement it using functions. Object oriented approach makes it simpler
to implement and more readable.

Change-Id: I1f77e3de047cd6666df30a3f40040115a9554b1f
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Fixed typo in method name

mailer.py: Using get method: req.req -> req.get

Change-Id: Ia53384e1af4bb2b346ffac051495b69b52b8f172
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Support multiply levels branch name in submit tag

Branch name maybe contain '/', like devel/efl. Originly, submission with tag
submit/devel/efl/20131009.205635 is treated as
submit branch: devel date: efl/20131009.205635 instead of
submit branch: devel/efl date:20131009.205635.

Fixes: #1378

Change-Id: I57abe3cf1022535ff7e77bf7cefd88a198ce262f
Signed-off-by: Lin Yang <lin.a.yang@intel.com>

Ignore the project delete event for non-prerelease project

Fixes: #1338

Change-Id: I10bb70260a4f04ce0cd38e69bd8759024e67d965
Signed-off-by: Hasan Wan <hasan.wan@intel.com>

Isolated job_submitobs to separate package

This change resolves conflicting runtime dependencies:

jenkins-scripts-tzs -> jenkins-scripts-common(with job_submitobs) -> gbs
-> depanneur -> modified build and obs-server -> build

The reason of the conflict is that jenkins-scripts-tzs package has to be
installed on the same host as obs-server because tzs appliance is one
computer with all services(Jenkins, OBS, Gerrit) installed on it.

So, job_submitobs should be removed from -common to avoid conflicts
between our modified build and non-modified build, required by
obs-server.

This complicated packaging issue can be resolved by moving job_submitobs
to separate package jenkins-scripts-submitobs.

This is funny in a sense that jenkins-scripts doesn't require gbs build
functionality, which depends on depanneur and build.

Note that this is temporary solution. There are at least 2 solutions to
this issue:

1. Upgrade our build package to the version, required by obs-server
(also temporary until the time when OBS depends on newer build)

2. - Move gbs remotebuild API to separate package
   - Add dependency to gbs-remotebuid to jenkins-scripts
   - Use gbs export and gbs remotebuild API in jenkinkins scripts
   - Move job_sumbitobs back to jenkins-scripts-common

Even better would be to start using gbs service instead of gbs export in
job_submitobs. gbs remotebuild is still required, but gbs export is not
required in this case.

Change-Id: I0395e69000bc5695546c719a020cacf2bb77c3bc
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Added tzs appliance package

Added jenkins-scripts-tzs binary package. Moved scripts, used in
jenkins-scripts and jenkins-scripts-tzs to -common.

Change-Id: I526884d4ff39147c536e14deeb6ecaa4a918c2ce
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Implemented job_create_snapshot

Job converts live OBS repo to snapshot repo, extracts .ks files from it
and triggers images creation.

This job is a next step towards replacing repomaker. It does the same as
boss-participant-repomaker.

Change-Id: Ibfc684123acc159821e8485451f9b7b546d2b232
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Fixed mistake in constructing snapshot_path

Fixed snapshot path generation. Repomaker now makes repo in the right
location.

Change-Id: I59ff093d02fab32d5ee98346bb1ebb4808314b13
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

job_submit: Check if target project exists

In snapshot mode there is no need for all target projects to exist. If
some of the projects don't exist job_submit should still be able to
submit to those projects, which exist.

In applience mode it's even more important as applience usually has only
one target project in OBS.

Change-Id: I1aee31688434a441dfa11fb9e2a0c6b55c8c04e5
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Added snapshot_dir to get_repo_data's return value

This field will be used by snapshot creation functionality. As
get_repo_data used in 2 places: snapshot creation and prerelease, it
should return all values used in both workflows.

Change-Id: I967ce538b5a7811bd3acf356c8249bd73bc5587a
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Moved get_prerelease_data function

Moved get_prerelease_data from job_pre_release_obs to common/repoutils
and renamed it to get_repo_data. The reason of this move is that this
API will be used in snapshot creation functionality, i.e. will be called
from 2 job_ scripts.

Change-Id: Ia2976f6ccf799eea1fa626b5a48c32125dd536e6
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Created job_submit out of job_pre_release_gerrit

job_sumbit can be run in two modes: prerelease and snapshot. In
prerelease mode it does the same as job_pre_release_gerrit was doing. In
snapshot mode it uploads package straight to target project.

Change-Id: I6714070654cd3f1196b112e3970e39e7aa77371e
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Fixed wrong field name in requests/mailer code

Event, which comes from OBS doesn't have 'type' field. 'event_type'
should be used.

Looks like this code has never been tested and as a result caused
serious production issue: all email notifications have been lost.

Fixes: #1360

Change-Id: Ie73949d4d270219ee2261597b2418ec1a3a8b806
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Fixed KeyError crash in mailer.py

Looks like event, which comes from obs plugin doesn't have
'origintype' field.

====Notify the tag owner====================================
Traceback (most recent call last):
  File "/srv/jenkins/jenkins-scripts/job_request.py", line 315, in <module>
    sys.exit(main())
  File "/srv/jenkins/jenkins-scripts/job_request.py", line 282, in main
    notify_submiter(event_fields, data)
  File "/srv/jenkins/jenkins-scripts/job_request.py", line 261, in notify_submiter
    os.getenv('EMAIL_TEMPLATES_DIR'))
  File "/srv/jenkins/jenkins-scripts/requests/mailer.py", line 238, in mailer
    if not tri['cond'] or tri['cond'](_bs, request):
  File "/srv/jenkins/jenkins-scripts/requests/mailer.py", line 58, in <lambda>
    'cond':  lambda bs, req: req['origintype'] == 'change_devel',
KeyError: 'origintype'

Change-Id: I28f3866c3b37b7782576c9e613c8904050053526

Moved delete_package call after pushing accepted tag

request_accepted funcion deletes package from OBS before making and
pushing accepted tag. As OBS operations can cause unexpected errors
it's better to delete project after making a tag. Another point is
that making a tag is more important and anything, which can prevent
this operation should be done after it.

Change-Id: I1199738a88adca26f293909645cd736b71637cf3
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>

Check if package exists before deleting it

job_request tries to delete package from source project when request
is accepted, rejected or revoked. However, in OBS 2.4 this is done by
OBS and package doesn't exist. It caused this traceback in production:
Traceback (most recent call last):
  File "/srv/jenkins/jenkins-scripts/job_request.py", line 313, in <module>
    sys.exit(main())
  File "/srv/jenkins/jenkins-scripts/job_request.py", line 306, in main
    request_accepted(data, gerrit, gitprj)
  File "/srv/jenkins/jenkins-scripts/job_request.py", line 161, in request_accepted
    delete_package(data['OBS_REQ_PRJ_SRC'], data['OBS_REQ_PKG_SRC'])
  File "/srv/jenkins/jenkins-scripts/job_request.py", line 136, in delete_package
    _bs.delete_package(prj, pkg)
  File "/srv/jenkins/jenkins-scripts/common/buildservice.py", line 383, in delete_package
    core.delete_package(self.apiurl, project, package)
  File "/usr/lib/python2.7/site-packages/osc/core.py", line 4697, in delete_package
    http_DELETE(u)
  File "/usr/lib/python2.7/site-packages/osc/core.py", line 2924, in http_DELETE
    def http_DELETE(*args, **kwargs): return http_request('DELETE', *args, **kwargs)
  File "/usr/lib/python2.7/site-packages/osc/core.py", line 2909, in http_request
    fd = urllib2.urlopen(req, data=data)
  File "/usr/lib64/python2.7/urllib2.py", line 126, in urlopen
    return _opener.open(url, data, timeout)
  File "/usr/lib64/python2.7/urllib2.py", line 400, in open
    response = meth(req, response)
  File "/usr/lib64/python2.7/urllib2.py", line 513, in http_response
    'http', request, response, code, msg, hdrs)
  File "/usr/lib64/python2.7/urllib2.py", line 432, in error
    result = self._call_chain(*args)
  File "/usr/lib64/python2.7/urllib2.py", line 372, in _call_chain
    result = func(*args)
  File "/usr/lib64/python2.7/urllib2.py", line 884, in http_error_401
    url, req, headers)
  File "/usr/lib64/python2.7/urllib2.py", line 859, in http_error_auth_reqed
    response = self.retry_http_basic_auth(host, req, realm)
  File "/usr/lib64/python2.7/urllib2.py", line 872, in retry_http_basic_auth
    return self.parent.open(req, timeout=req.timeout)
  File "/usr/lib64/python2.7/urllib2.py", line 400, in open
    response = meth(req, response)
  File "/usr/lib64/python2.7/urllib2.py", line 513, in http_response
    'http', request, response, code, msg, hdrs)
  File "/usr/lib64/python2.7/urllib2.py", line 438, in error
    return self._call_chain(*args)
  File "/usr/lib64/python2.7/urllib2.py", line 372, in _call_chain
    result = func(*args)
  File "/usr/lib64/python2.7/urllib2.py", line 521, in http_error_default
    raise HTTPError(req.get_full_url(), code, msg, hdrs, fp)
urllib2.HTTPError: HTTP Error 404: Not Found

Change-Id: I2a6b56ba40feecf83eeabb59169ae19b835231d7
Signed-off-by: Ed Bartosh <eduard.bartosh@intel.com>