Merge "Remove qcow image support for 0.24.3 Revert "add qcow image support"" into release-0.24

Remove qcow image support for 0.24.3
Revert "add qcow image support"

This reverts commit ffcf7e2f5ca11ae5b7ebb6b88370011611ba669d.

Change-Id: If4f69d5f5a30a3cf3a3799e6ecd46c6040bbddca

Merge "Removed qcow change for 0.24.3, so need to rewrite the changelog Revert "bump up to 0.24.3"" into release-0.24

Merge "Remove the qcow image support for 0.24.3 Revert "Do not generate manifest for qcow image"" into release-0.24

Removed qcow change for 0.24.3, so need to rewrite the changelog
Revert "bump up to 0.24.3"

This reverts commit 6051f2a0c5d0bf39c4d70d724b557e802232b32d.

Change-Id: If0dc2eafed41605a2bd4007915702d7dcaeeb3c0

Remove the qcow image support for 0.24.3
Revert "Do not generate manifest for qcow image"

This reverts commit 14ca4f3d872f4e8a842476e663d36a5bc99dd2ec.

Change-Id: I14ba2a7f14f1f0662f42e8cb3740fba73244d103

Merge "Do not generate manifest for qcow image" into release-0.24

Do not generate manifest for qcow image

Fixes: #2233

Change-Id: I1b533dc73618a617e47b5e03ce182995bcffa5d3

fix static qemu-arm failed issue

Change-Id: I44a2c69f4292306405857a0b8545d231f2b635f3
Signed-off-by: Gui Chen <gui.chen@intel.com>
Signed-off-by: Lihong Sun <lihongx.sun@intel.com>

bump up to 0.24.3

Change-Id: I5fd1b62d7a46d2a68c8fd54387b66c45762c4775
Signed-off-by: Yongfeng Du <dolpher.du@intel.com>

remove --preserve-order option in tar fs image

Change-Id: Ib510143290f49c1b791424201401085368b9d1bb
Signed-off-by: Gui Chen <gui.chen@intel.com>

AArch64 binformat line fix

There was a typo in binformat line for an AArch64 which made it impossible to
perform firmware builds for this architecture.

Change-Id: I7cc300a5a58dc9fee353f314677d6ab4b2e37d6b
Signed-off-by: Vyacheslav Barinov <v.barinov@samsung.com>

add qcow image support

Change-Id: I5d357a162b2227beaff35f4a5ef913d36a2a6972
Signed-off-by: Gui Chen <gui.chen@intel.com>

Check whether '/usr/bin/qemu-aarch64' exist.

Change-Id: I3d15f5ee386802c23e438e453aedfdace72739d5

aarch64: use qemu-aarch64 instead qemu-arm64

In qemu version 2.0, we use qemu-aarch64 instead of qemu-arm64. Thus,
this mic script should be changed to use correct qemu path of arm64
platform.

Change-Id: I3d910511cbece0cafdfb72f7846cbdadcd6c1f2d
Signed-off-by: Chanho Park <chanho61.park@samsung.com>

bump up to 0.24.2

Change-Id: I7d09dfa3d1fb1f3793449d55e1853fd275f2e988
Signed-off-by: Gui Chen <gui.chen@intel.com>

Enable ssl_veirify option in mic config file

There is an option 'ssl_veirfy=no' in mic.conf, but it is commented. Now enable
this feature.

Fixes: #2017
Change-Id: I92c98cfd7a399bed4d5e955681e857ea7990ad8d

duplicate locale setting under /etc/locale.conf

to be compatible with systemd and system V, /etc/sysconfig/i18n and /etc/locale.conf are both existed

Fixes: #1745

Change-Id: I4d508d506161371765cfab6821da9a61223493ef
Signed-off-by: Gui Chen <gui.chen@intel.com>

bump up to 0.24.1

Change-Id: Ib27af9bab96a2c32a0f76cccbffc9f06688fcd3d
Signed-off-by: Gui Chen <gui.chen@intel.com>

bump up to version 0.24.1-rc1

Change-Id: I78a690ba421c65a2bd548e50b87a46b8a09f9dde
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix md5sum format able to check by 'md5sum -c'

use two spaces instead of ' *' as seprator in MD5SUM

Change-Id: I0f37c3366d9e0c44c82b74c78d49a9647ce477ad
Signed-off-by: Gui Chen <gui.chen@intel.com>

put logfile setting up prior to other error output

except release optioin applied

Change-Id: I10eaac322424460694566a79eda5e53642d798fe
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix incorrect location outdir to destdir

Change-Id: Ic0ec2d5ed9cefbc90d8a4b1149ecb7d984ad1e9f
Signed-off-by: Gui Chen <gui.chen@intel.com>
Conflicts:
plugins/imager/fs_plugin.py
plugins/imager/livecd_plugin.py
plugins/imager/liveusb_plugin.py
plugins/imager/loop_plugin.py
plugins/imager/raw_plugin.py

relocate create.logfile to conf module

Change-Id: I276069bb1c33c1ef9a6c3eaac5ce409c211a9a51
Signed-off-by: Gui Chen <gui.chen@intel.com>

relocate create.outdir to conf module

Change-Id: I1a9007e9b3d8abfa91091ab063f75bb1f6cd3808
Signed-off-by: Gui Chen <gui.chen@intel.com>
Conflicts:
plugins/imager/fs_plugin.py
plugins/imager/raw_plugin.py

relocate create.name to conf module

Change-Id: Id3e8d2cbf0a4e08ecfbe7941c4967206cd40cd88
Signed-off-by: Gui Chen <gui.chen@intel.com>

remove dash in debian version

Change-Id: I41d35391cf292abf0537833bce200a786b18fad5
Signed-off-by: Gui Chen <gui.chen@intel.com>

bump up to 0.24

Change-Id: I83e7b595fb6e0895d1c54569e30510d3a15192ea
Signed-off-by: Gui Chen <gui.chen@intel.com>

bump up to 0.24-rc1

Change-Id: Ia819fc5e63b69b5e4b0b7f2d174cd95f1243e9a1
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix ssl conection caused by wrong paramter in zypp query

Change-Id: If3e17df6c15e81827e69e36c3409d1b03dada946
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix includepkgs and excludepkgs lost during translating

Change-Id: Ia34191428f3dd99cd596aa4520e18a29a839edfc
Signed-off-by: Gui Chen <gui.chen@intel.com>

Add unit test for proxy

Change-Id: Ic3f5567df03125ef28ca96e16b23869996a6d6ed

fix obsoletes ignored version issue

Fixes: #1382

Change-Id: I663a80703ba02091f87fa9aca23be9ec5ba0d1b9
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix local repository failed to perform urlgrabber

Change-Id: I80873c643d207b348c77057c600ce20c6797b3d7
Signed-off-by: Gui Chen <gui.chen@intel.com>

Raise exception if fail to install mic-bootstrap

When installing rpm, only None means install rpm successfully,
so raise exception if not
Fixes: #1564

Change-Id: I09bbb39f68eff72a4769e9732c5ab505cdef8313

change tizen-python-zypp to python-zypp-tizen

Change-Id: I78c8c9f3bdadd4cb49b4dd6cecf8ccfb8e34a36c
Signed-off-by: Gui Chen <gui.chen@intel.com>

implement '--repo' option and '--ignore-ksrepo'

option '--repo' is to append a new repo to repo pool, like
  --repo "name=main;baseurl=http://repo"
option '--ignoe-ksrepo' is to ignore repos in ks file, only valid when '--repo' used

Change-Id: I38586f2e587904e0f4fe2d901597f7231a248b97
Signed-off-by: Gui Chen <gui.chen@intel.com>

add two new options '--repo' and '--ignore-ksrepo'

option '--repo' is to append a new repo to repo pool
option '--ignore-ksrepo' is to ignore repos in ks file

Change-Id: I10280f0c3f40b2f68186240f3694d2eb14104e10
Signed-off-by: Gui Chen <gui.chen@intel.com>

sleep earlier to prepare loop device creation

Fixes: #1646

Change-Id: If8e4fbe27e9320abf203eca82de6666271b00f86
Signed-off-by: Gui Chen <gui.chen@intel.com>

Fix zypp fail to download packages

If we changed all configuration in '/etc/mic/mic.conf' to other dirs
like '/home/build/xx' instead of '/var/tmp/xx', mic wouldn't mount
or create '/var/tmp' any more, then it would result in zypp can't download
packages, becuase zypp will use '/var/tmp' to build cache as default

Fixes: #1623

Change-Id: I6f69c4a6f9655f70d3cbfa6670756255bca171a4

packaging: use gbp packaging service

Change version in debian/changelog to Debian source package format "1.0
native".

Change-Id: I6a4017a814cb04a808389e9b11851ce49e8765e0
Signed-off-by: Gui Chen <gui.chen@intel.com>
Signed-off-by: Markus Lehtonen <markus.lehtonen@linux.intel.com>

use nametuple to represent repo info

Change-Id: I9e3268ce91bd60739172520756790712085e0e04
Signed-off-by: Gui Chen <gui.chen@intel.com>

Fix duplicate log shows when run mic with 'yum'

Fixes: #1585

Change-Id: Ie5b39b055198b3f023819993b56a4dfc6c92e8dc

Show hostname in log

Show hostname before distro info in log.

Fixes: #1644

Change-Id: Ibb9bdfa8bd1920084fbcdcec7a233102aeda0762

Bmap: sync with the latest bmap-tools

This patch syncs MIC's copy of BmapCreate with the latest contents of the
bmap-tools project. The reason for syncing is to fix DEVT-139. The bugreport
tells that MIC cannot generate the bmap file when the image resides on tmpfs.
And now this is fixed.

We also re-named the Fiemap module to Filemap, because now this module supports
both FIEMAP ioctl and the SEEK_HOLE method. Here is some more description from
the bmap-tools release notes.

"
Make 'bmaptool create' (and hence, the BmapCreate module) work with the
"tmpfs" file-system. This file-system does not, unfortunately, support the
"FIEMAP" ioctl, but it supports the "SEEK_HOLE" option of the "lseek" system
call, which can also be used to find where the holes are. In this release we
have implemented support for "SEEK_HOLE" to cover tmpfs. Generally, FIEMAP
is faster than "SEEK_HOLE" for large files, so we always try to start with
using FIEMAP, and if it is not supported, we fall-back to using "SEEK_HOLE".
Therefore, the "Fiemap" module was re-named to "Filemap", since it is now
supports more than just the FIEMAP ioctl.

Unfortunately, the SEEK_HOLE method requires the directory where the image
resides to be accessible for writing, because in current implementation we
need to create a temporary file there for a short time. The temporary file
is used to detect whether SEEK_HOLE is really implemented, or the system
just fakes it by always returning EOF.
"

Change-Id: I75522cab3c32c9b0879967f8fa2587c71bae0395
Signed-off-by: Artem Bityutskiy <artem.bityutskiy@intel.com>

Fix chroot failure caused by out-of-disk-space error.

If there is no space left on loop device, creation of mount points
will fail. In this case, mic will catch and ignore this failure.
Mic make its best effort to chroot.

Fix: #701

Change-Id: Ifb7666ec27f8bdb560983a9966ef171cb2a8a14b
Signed-off-by: Xiaoning Zhu <xiaoning.zhu@intel.com>

Fix a bug that raise AttributeError.

When download attachment packages by using yum pkgmgr, the url
variable below is a unicode instead of SafeURL object.

Traceback (most recent call last):
......
  File "/home/huanghao/workspace/mic/plugins/imager/loop_plugin.py", line 127, in do_create
    creator.install()
  File "/usr/local/lib/python2.7/dist-packages/mic/imager/baseimager.py", line 1051, in install
    self.__attachment_packages(pkg_manager)
  File "/usr/local/lib/python2.7/dist-packages/mic/imager/baseimager.py", line 966, in __attachment_packages
    fpath = grabber.myurlgrab(url.full, fpath, proxies, None)
AttributeError: 'unicode' object has no attribute 'full'

Change-Id: Ib5c03ef053b8cf22f1b8ef1868ad244427df7cc6

kickstart: remove old installerfw keywords

The story: the installer framework keyword in KS files originally was
"installerfw", and the keyword for the first plugin was "extlinux". However,
we realized that this is bad naming, and commit changed the names in commit
'0bafaa1b31a0 kickstart: add an alias for installerfw'. That commit preserved
the old name as aliases for compatibility reasons. And added scary warnings
which are printed when the old names are used.

The only user user of the old names was Tizen IVI, and it stopped using them
very long time ago. Now it uses the new 'installerfw_plugins' and 'bootloader'
keywords instead.

So it is time to kill the old keywords completely and clean the code up. And
this is exactly what this patch does.

Change-Id: I23ef6c5850744734816974233229cf99fca05f38
Signed-off-by: Artem Bityutskiy <artem.bityutskiy@intel.com>

fix single ip ignored in no proxy setting

Fixes: #1569

Change-Id: Ic40c32ceaed78e59947af7f185e00e84ccbb30b8
Signed-off-by: Gui Chen <gui.chen@intel.com>

Fix --pkgmgr=yum does not use cached download packages

Change-Id: I81fba9c393a7fd13b0ce22c5c9e8027fa14bf315
Fixes: #1547

baseimager: do not add noatime mount option

Stop adding "noatime" to the INSTALLERFW_PARTx_FSOPTS installer framework
variable, because it is up to the plugin to decide which mount options to add.
MIC should not try to add own.

Change-Id: I4b9e8f0f61b2777e0ee6bdcd96728b21913eaf0c
Signed-off-by: Artem Bityutskiy <artem.bityutskiy@intel.com>

Rewrite SafeURL class without using zypp.Url

Since SafeURL implementation depends on lib zypp which provided
by python-zypp package. This package will not be installed when
only install "mic" package instead of "mic-native". Then import
zypp will raise exception of "No module named _zypp".

Change-Id: If8232b0ee77166eadc04f016cd2cda722c7ff23e
Fixed: 1568

Add --user/--passwd to repo command in KS.

If there are special characters like '@' in repo url, it can be
set by --passwd option in plain text format.

Also refactor MicRepo_data and MicRepo classes to extend from
F14_Repo, so we don't have to add --proxy ourself.

Fix: 1542

Change-Id: Ic9078a7313e14bd0959fd1676994cf5761e04c44

Support encode form of baseurl for repo directive.

If user has special characters like '@' in his/her password, it
can be write as encode form embeded into url. By using zypp.Url
class which is already support encoded password, it by default
hide password part, so we also gain the feature that password
won't be printed to console.

Fix: 1499

Change-Id: I4243f36df491cb6eb80f04334962a2ed6030acbe

baseimager: remove INSTALLERFW_DISTRO_NAME

Stop exporting the INSTALLERFW_DISTRO_NAME because it is harful if installer
framework plugins start using it instead of taking the data from
/etc/os-release.

Change-Id: Ibcedbe4c35416087a0edf64b128fef9942524a67
Signed-off-by: Artem Bityutskiy <artem.bityutskiy@intel.com>

Merge "try to wait mapper device setting up" into devel

try to wait mapper device setting up

Change-Id: I512f10e2437b0023db2112854f57e621e26eaf20
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix qemu depends for ubuntu

Change-Id: I92657bc67e7aa393bacf712b84962b9becf2223d
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix inconsistent qemu emulator path and qemu handler

Change-Id: I4d3a36312702622191bb188665cfe0e157a56d05

remove EULA check

this EULA (End User Licence Agreemnt) is not neccessary now,
remove it to clean up the code

Change-Id: I300e494992e355c1bff811fba3dd7744733fab67
Signed-off-by: Gui Chen <gui.chen@intel.com>

bump up to version 0.23-0.rc1

Change-Id: I2010025d7711c198c7169617badf1b857f84fc84
Signed-off-by: Gui Chen <gui.chen@intel.com>

clean up and refine all the docs in git

Break the long lines, remove the deprecated content, etc.

BTW, other minor changes include:
* move the cmdln completion scripts to more proper places
* file permission checking

Change-Id: I063d99119156b45279a387c24280723ae70f4eb2
Signed-off-by: Jianfeng Ding <jian-feng.ding@intel.com>

update known issues

Change-Id: If85301290cfec73685e428af3dddc79bccedcc6e
Signed-off-by: Gui Chen <gui.chen@intel.com>

use different qemu handler for arm and aarch64

Change-Id: Ida55fa669d464a452ee822705dc9813aa8b71629

depend on new version of python-zypp to support aarch64

Change-Id: I99082b6c41495c1f4a1078f5dde29171d0a30223

Merge "AArch64(arm64) support" into devel

Merge "fix debian packaging" into devel

AArch64(arm64) support

Change-Id: I059b8423b47c67d054c4c78ce507fffd159bd14e
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix debian packaging

Change-Id: Ie8e467621e0648144488e5ee62f283f0d1b37483
Signed-off-by: Gui Chen <gui.chen@intel.com>

Merge "check if mic-native installed when running native mode" into devel

Merge "fix right install location in debian packaging" into devel

check if mic-native installed when running native mode

Change-Id: I48500314b2f7de0187beb92b7ec8877d9874dc36
Signed-off-by: Gui Chen <gui.chen@intel.com>

Merge "show more details for mounting failure" into devel

fix right install location in debian packaging

Change-Id: If6a75da2e5b838fd384c460745438c7d289e6f08
Signed-off-by: Gui Chen <gui.chen@intel.com>

utils/gpt_parser.py: fix partitions names

This patch fixes https://bugs.tizen.org/jira/browse/TIVI-1727.

The problem is that we are using 'UTF-16' encoder name, and it adds BOM
(http://en.wikipedia.org/wiki/Byte_order_mark#UTF-16), and BOM breaks
tools like parted.

The GPT spec says that the partition name is UCS-16 Little Endian, so fix this
by using 'UTF-16LE' instead, which will not add BOM.

I've verified that this fixes TIVI-1727 indeed.

Change-Id: If2fff219177bed877873512457b6355dd0118011
Signed-off-by: Artem Bityutskiy <artem.bityutskiy@intel.com>

show more details for mounting failure

Fixes: #1440

Change-Id: Ib1b809f36db6b29997a67002442b47c3901843be
Signed-off-by: Gui Chen <gui.chen@intel.com>

add options --interactive/--non-interactive

this option pair can enable/disable interactive output

Fixes: #1243

Change-Id: I57f63aed8406133f9e67c7261fe01975d34195c0
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix conflict name

Change-Id: I9f6c08977f91fff458efd7bec754599671e456d5
Signed-off-by: Gui Chen <gui.chen@intel.com>

raise error if failed to download or run bootstrap

Change-Id: I71eac5ae3b84e66b76a94b29cac79c969129928b
Signed-off-by: Gui Chen <gui.chen@intel.com>

raise error if failed to install bootstrap

Fixes: #1467

Change-Id: I78d0a207d7902f0c2ae16b31dc33bc2c893da1f7
Signed-off-by: Gui Chen <gui.chen@intel.com>

split native requirements to native-mic package

Change-Id: I3dda824ac750573b4403e087fff31bc78a3ad29a
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix KeyError 'plugin_dir' in conf.create

Change-Id: Ic4ad13938a43540cd934f2b2c48c65433b9b1049
Signed-off-by: Gui Chen <gui.chen@intel.com>

Check for installerfw fstab plugin in BaseImageCreator

Change-Id: I3d2bb9cbcf93f5c3a1974205ee70123b6319f882
Signed-off-by: Łukasz Stelmach <l.stelmach@samsung.com>

Provide default value for INSTALLERFW_PARTx_FSOPTS

Change-Id: Ib9b93dc04db41242ed3c4b78425c5ee6c2de2754
Signed-off-by: Łukasz Stelmach <l.stelmach@samsung.com>

Provide PATH environment variable for scripts

The default value of PATH environment variable in bash does not comprise
"sbin" directories.

Change-Id: I7a55cf2bc25a7ab3ce067df4161e87a83ad82987
Signed-off-by: Łukasz Stelmach <l.stelmach@samsung.com>

Put filesystem uuids to parsed ks structures

Take the uuids generated upon initialisation of DiskMount subclasses
and make them accessible via the parsed ks structure and as
INSTALLERFW_PARTx_UUID variables.

Change-Id: Iea38a403cdd365ef54979073f9a9f53d2b60038d
Signed-off-by: Łukasz Stelmach <l.stelmach@samsung.com>

Add an option to pass filesystem uuid

Introduce a new option for the "part" command to set the filesystem uuid.

Change-Id: I20fcc0dfde2c56d03433c37d905cf52c98f4254d
Signed-off-by: Łukasz Stelmach <l.stelmach@samsung.com>

Configure paths with MIC_LIBRARY_PATH and MIC_PLUGIN_DIR

Enable passing location of mic files via environment variables:
MIC_LIBRARY_PATH and MIC_PLUGIN_DIR to override values that are either
hardcoded (MIC_LIBRARY_PATH) or set in the global configuration file.

Change-Id: I601b06ba0e7953ba3882511af811a6f8cefa3585
Signed-off-by: Łukasz Stelmach <l.stelmach@samsung.com>

fix not defined 'errors' in runner.py

Change-Id: I19199611a80ddde3dde63d1821712f0a7a5e45d1
Signed-off-by: Gui Chen <gui.chen@intel.com>

internal setarch according to bootstrap environment

when using 'uname -m' in bootstrap, it always shows
the arch from the physical host. but what needs is
the internal arch, so mic needs detect the binary
arch first, then setarch properly

Change-Id: I907f5442b11690dc624c7d3ae23c858804c802f0
Signed-off-by: Gui Chen <gui.chen@intel.com>

more check for commit 9f5f5cfc38e735b7abcf9e11e0969fc4554ebcdc

Change-Id: Id61d09a4740719cb9ae1d5d167eaede63eb99ae9
Signed-off-by: Gui Chen <gui.chen@intel.com>

raw.py: create device nodes to access own disk

This patch creates loop-back devices in /dev of the image so that it would be
possible to access own disk from within chroot environment. This makes it
possible to install extlinux from chroot, not outside of chroot, as it is done
now. This also allows to do extlinux installation in an installer framework
plugin.

I do realize that this is not the most beautiful thing to do, but it works - I
have a script which installs extlinux when I run it from %post.

Change-Id: I2b14962a37524a15c5dc493572ae8e91ca8523ae
Signed-off-by: Artem Bityutskiy <artem.bityutskiy@intel.com>

add 'device_mapper' key for partition to store real dm node

key 'device' for partition is for the link device, like /dev/loop01
key 'device_mapper' for partition is for the real device, like /dev/mapper/loop0p1

Change-Id: I6a5962cbe98cc111b942fd6e314de719324b6f04
Signed-off-by: Gui Chen <gui.chen@intel.com>

update faq

Change-Id: I284710520f7d00fcd0f0978ff89313f14411d471
Signed-off-by: Gui Chen <gui.chen@intel.com>

fix requires: python-urlgrabber

Change-Id: Id17c71ec1b05234db1c625d13f64b8954a3ff9de
Signed-off-by: Gui Chen <gui.chen@intel.com>

mic/msger.py: fix pylint

Change-Id: I4c19dd78b1f3187452b8cfa79191a942f48d01d7
Signed-off-by: Gui Chen <gui.chen@intel.com>

raise error instead of msger.error

mic uses too many msger.error to exit the program directly,
it's not safe, except main loop, other logic should raise
error as possible

Change-Id: I4fa0c05998b78c3bb9b12148e7dfd6c04bad8251
Signed-off-by: Gui Chen <gui.chen@intel.com>

typo fix

Change-Id: Iaebc1aa3ca03c954e5652383468bf14aa7caa010
Signed-off-by: Gui Chen <gui.chen@intel.com>

Revert "raw.py: create device nodes to access own disk"

This reverts commit 9f5f5cfc38e735b7abcf9e11e0969fc4554ebcdc.

bump up to release 0.22

Change-Id: I2b334d12d225ac9eba572fe02cef022f428ec408
Signed-off-by: Gui Chen <gui.chen@intel.com>