fs/binfmt_flat.c

   1 // SPDX-License-Identifier: GPL-2.0
   2 /****************************************************************************/
   3 /*
   4  *  linux/fs/binfmt_flat.c
   5  *
   6  *      Copyright (C) 2000-2003 David McCullough <davidm@snapgear.com>
   7  *      Copyright (C) 2002 Greg Ungerer <gerg@snapgear.com>
   8  *      Copyright (C) 2002 SnapGear, by Paul Dale <pauli@snapgear.com>
   9  *      Copyright (C) 2000, 2001 Lineo, by David McCullough <davidm@lineo.com>
  10  *  based heavily on:
  11  *
  12  *  linux/fs/binfmt_aout.c:
  13  *      Copyright (C) 1991, 1992, 1996  Linus Torvalds
  14  *  linux/fs/binfmt_flat.c for 2.0 kernel
  15  *          Copyright (C) 1998  Kenneth Albanowski <kjahds@kjahds.com>
  16  *      JAN/99 -- coded full program relocation (gerg@snapgear.com)
  17  */
  18
  19 #define pr_fmt(fmt)     KBUILD_MODNAME ": " fmt
  20
  21 #include <linux/kernel.h>
  22 #include <linux/sched.h>
  23 #include <linux/sched/task_stack.h>
  24 #include <linux/mm.h>
  25 #include <linux/mman.h>
  26 #include <linux/errno.h>
  27 #include <linux/signal.h>
  28 #include <linux/string.h>
  29 #include <linux/fs.h>
  30 #include <linux/file.h>
  31 #include <linux/ptrace.h>
  32 #include <linux/user.h>
  33 #include <linux/slab.h>
  34 #include <linux/binfmts.h>
  35 #include <linux/personality.h>
  36 #include <linux/init.h>
  37 #include <linux/flat.h>
  38 #include <linux/uaccess.h>
  39 #include <linux/vmalloc.h>
  40
  41 #include <asm/byteorder.h>
  42 #include <asm/unaligned.h>
  43 #include <asm/cacheflush.h>
  44 #include <asm/page.h>
  45 #include <asm/flat.h>
  46
  47 #ifndef flat_get_relocate_addr
  48 #define flat_get_relocate_addr(rel)     (rel)
  49 #endif
  50
  51 /****************************************************************************/
  52
  53 /*
  54  * User data (data section and bss) needs to be aligned.
  55  * We pick 0x20 here because it is the max value elf2flt has always
  56  * used in producing FLAT files, and because it seems to be large
  57  * enough to make all the gcc alignment related tests happy.
  58  */
  59 #define FLAT_DATA_ALIGN (0x20)
  60
  61 /*
  62  * User data (stack) also needs to be aligned.
  63  * Here we can be a bit looser than the data sections since this
  64  * needs to only meet arch ABI requirements.
  65  */
  66 #define FLAT_STACK_ALIGN        max_t(unsigned long, sizeof(void *), ARCH_SLAB_MINALIGN)
  67
  68 #define RELOC_FAILED 0xff00ff01         /* Relocation incorrect somewhere */
  69 #define UNLOADED_LIB 0x7ff000ff         /* Placeholder for unused library */
  70
  71 #ifdef CONFIG_BINFMT_SHARED_FLAT
  72 #define MAX_SHARED_LIBS                 (4)
  73 #else
  74 #define MAX_SHARED_LIBS                 (1)
  75 #endif
  76
  77 #ifdef CONFIG_BINFMT_FLAT_NO_DATA_START_OFFSET
  78 #define DATA_START_OFFSET_WORDS         (0)
  79 #else
  80 #define DATA_START_OFFSET_WORDS         (MAX_SHARED_LIBS)
  81 #endif
  82
  83 struct lib_info {
  84         struct {
  85                 unsigned long start_code;               /* Start of text segment */
  86                 unsigned long start_data;               /* Start of data segment */
  87                 unsigned long start_brk;                /* End of data segment */
  88                 unsigned long text_len;                 /* Length of text segment */
  89                 unsigned long entry;                    /* Start address for this module */
  90                 unsigned long build_date;               /* When this one was compiled */
  91                 bool loaded;                            /* Has this library been loaded? */
  92         } lib_list[MAX_SHARED_LIBS];
  93 };
  94
  95 #ifdef CONFIG_BINFMT_SHARED_FLAT
  96 static int load_flat_shared_library(int id, struct lib_info *p);
  97 #endif
  98
  99 static int load_flat_binary(struct linux_binprm *);
 100 static int flat_core_dump(struct coredump_params *cprm);
 101
 102 static struct linux_binfmt flat_format = {
 103         .module         = THIS_MODULE,
 104         .load_binary    = load_flat_binary,
 105         .core_dump      = flat_core_dump,
 106         .min_coredump   = PAGE_SIZE
 107 };
 108
 109 /****************************************************************************/
 110 /*
 111  * Routine writes a core dump image in the current directory.
 112  * Currently only a stub-function.
 113  */
 114
 115 static int flat_core_dump(struct coredump_params *cprm)
 116 {
 117         pr_warn("Process %s:%d received signr %d and should have core dumped\n",
 118                 current->comm, current->pid, cprm->siginfo->si_signo);
 119         return 1;
 120 }
 121
 122 /****************************************************************************/
 123 /*
 124  * create_flat_tables() parses the env- and arg-strings in new user
 125  * memory and creates the pointer tables from them, and puts their
 126  * addresses on the "stack", recording the new stack pointer value.
 127  */
 128
 129 static int create_flat_tables(struct linux_binprm *bprm, unsigned long arg_start)
 130 {
 131         char __user *p;
 132         unsigned long __user *sp;
 133         long i, len;
 134
 135         p = (char __user *)arg_start;
 136         sp = (unsigned long __user *)current->mm->start_stack;
 137
 138         sp -= bprm->envc + 1;
 139         sp -= bprm->argc + 1;
 140         if (IS_ENABLED(CONFIG_BINFMT_FLAT_ARGVP_ENVP_ON_STACK))
 141                 sp -= 2; /* argvp + envp */
 142         sp -= 1;  /* &argc */
 143
 144         current->mm->start_stack = (unsigned long)sp & -FLAT_STACK_ALIGN;
 145         sp = (unsigned long __user *)current->mm->start_stack;
 146
 147         if (put_user(bprm->argc, sp++))
 148                 return -EFAULT;
 149         if (IS_ENABLED(CONFIG_BINFMT_FLAT_ARGVP_ENVP_ON_STACK)) {
 150                 unsigned long argv, envp;
 151                 argv = (unsigned long)(sp + 2);
 152                 envp = (unsigned long)(sp + 2 + bprm->argc + 1);
 153                 if (put_user(argv, sp++) || put_user(envp, sp++))
 154                         return -EFAULT;
 155         }
 156
 157         current->mm->arg_start = (unsigned long)p;
 158         for (i = bprm->argc; i > 0; i--) {
 159                 if (put_user((unsigned long)p, sp++))
 160                         return -EFAULT;
 161                 len = strnlen_user(p, MAX_ARG_STRLEN);
 162                 if (!len || len > MAX_ARG_STRLEN)
 163                         return -EINVAL;
 164                 p += len;
 165         }
 166         if (put_user(0, sp++))
 167                 return -EFAULT;
 168         current->mm->arg_end = (unsigned long)p;
 169
 170         current->mm->env_start = (unsigned long) p;
 171         for (i = bprm->envc; i > 0; i--) {
 172                 if (put_user((unsigned long)p, sp++))
 173                         return -EFAULT;
 174                 len = strnlen_user(p, MAX_ARG_STRLEN);
 175                 if (!len || len > MAX_ARG_STRLEN)
 176                         return -EINVAL;
 177                 p += len;
 178         }
 179         if (put_user(0, sp++))
 180                 return -EFAULT;
 181         current->mm->env_end = (unsigned long)p;
 182
 183         return 0;
 184 }
 185
 186 /****************************************************************************/
 187
 188 #ifdef CONFIG_BINFMT_ZFLAT
 189
 190 #include <linux/zlib.h>
 191
 192 #define LBUFSIZE        4000
 193
 194 /* gzip flag byte */
 195 #define ASCII_FLAG   0x01 /* bit 0 set: file probably ASCII text */
 196 #define CONTINUATION 0x02 /* bit 1 set: continuation of multi-part gzip file */
 197 #define EXTRA_FIELD  0x04 /* bit 2 set: extra field present */
 198 #define ORIG_NAME    0x08 /* bit 3 set: original file name present */
 199 #define COMMENT      0x10 /* bit 4 set: file comment present */
 200 #define ENCRYPTED    0x20 /* bit 5 set: file is encrypted */
 201 #define RESERVED     0xC0 /* bit 6,7:   reserved */
 202
 203 static int decompress_exec(struct linux_binprm *bprm, loff_t fpos, char *dst,
 204                 long len, int fd)
 205 {
 206         unsigned char *buf;
 207         z_stream strm;
 208         int ret, retval;
 209
 210         pr_debug("decompress_exec(offset=%llx,buf=%p,len=%lx)\n", fpos, dst, len);
 211
 212         memset(&strm, 0, sizeof(strm));
 213         strm.workspace = kmalloc(zlib_inflate_workspacesize(), GFP_KERNEL);
 214         if (!strm.workspace)
 215                 return -ENOMEM;
 216
 217         buf = kmalloc(LBUFSIZE, GFP_KERNEL);
 218         if (!buf) {
 219                 retval = -ENOMEM;
 220                 goto out_free;
 221         }
 222
 223         /* Read in first chunk of data and parse gzip header. */
 224         ret = kernel_read(bprm->file, buf, LBUFSIZE, &fpos);
 225
 226         strm.next_in = buf;
 227         strm.avail_in = ret;
 228         strm.total_in = 0;
 229
 230         retval = -ENOEXEC;
 231
 232         /* Check minimum size -- gzip header */
 233         if (ret < 10) {
 234                 pr_debug("file too small?\n");
 235                 goto out_free_buf;
 236         }
 237
 238         /* Check gzip magic number */
 239         if ((buf[0] != 037) || ((buf[1] != 0213) && (buf[1] != 0236))) {
 240                 pr_debug("unknown compression magic?\n");
 241                 goto out_free_buf;
 242         }
 243
 244         /* Check gzip method */
 245         if (buf[2] != 8) {
 246                 pr_debug("unknown compression method?\n");
 247                 goto out_free_buf;
 248         }
 249         /* Check gzip flags */
 250         if ((buf[3] & ENCRYPTED) || (buf[3] & CONTINUATION) ||
 251             (buf[3] & RESERVED)) {
 252                 pr_debug("unknown flags?\n");
 253                 goto out_free_buf;
 254         }
 255
 256         ret = 10;
 257         if (buf[3] & EXTRA_FIELD) {
 258                 ret += 2 + buf[10] + (buf[11] << 8);
 259                 if (unlikely(ret >= LBUFSIZE)) {
 260                         pr_debug("buffer overflow (EXTRA)?\n");
 261                         goto out_free_buf;
 262                 }
 263         }
 264         if (buf[3] & ORIG_NAME) {
 265                 while (ret < LBUFSIZE && buf[ret++] != 0)
 266                         ;
 267                 if (unlikely(ret == LBUFSIZE)) {
 268                         pr_debug("buffer overflow (ORIG_NAME)?\n");
 269                         goto out_free_buf;
 270                 }
 271         }
 272         if (buf[3] & COMMENT) {
 273                 while (ret < LBUFSIZE && buf[ret++] != 0)
 274                         ;
 275                 if (unlikely(ret == LBUFSIZE)) {
 276                         pr_debug("buffer overflow (COMMENT)?\n");
 277                         goto out_free_buf;
 278                 }
 279         }
 280
 281         strm.next_in += ret;
 282         strm.avail_in -= ret;
 283
 284         strm.next_out = dst;
 285         strm.avail_out = len;
 286         strm.total_out = 0;
 287
 288         if (zlib_inflateInit2(&strm, -MAX_WBITS) != Z_OK) {
 289                 pr_debug("zlib init failed?\n");
 290                 goto out_free_buf;
 291         }
 292
 293         while ((ret = zlib_inflate(&strm, Z_NO_FLUSH)) == Z_OK) {
 294                 ret = kernel_read(bprm->file, buf, LBUFSIZE, &fpos);
 295                 if (ret <= 0)
 296                         break;
 297                 len -= ret;
 298
 299                 strm.next_in = buf;
 300                 strm.avail_in = ret;
 301                 strm.total_in = 0;
 302         }
 303
 304         if (ret < 0) {
 305                 pr_debug("decompression failed (%d), %s\n",
 306                         ret, strm.msg);
 307                 goto out_zlib;
 308         }
 309
 310         retval = 0;
 311 out_zlib:
 312         zlib_inflateEnd(&strm);
 313 out_free_buf:
 314         kfree(buf);
 315 out_free:
 316         kfree(strm.workspace);
 317         return retval;
 318 }
 319
 320 #endif /* CONFIG_BINFMT_ZFLAT */
 321
 322 /****************************************************************************/
 323
 324 static unsigned long
 325 calc_reloc(unsigned long r, struct lib_info *p, int curid, int internalp)
 326 {
 327         unsigned long addr;
 328         int id;
 329         unsigned long start_brk;
 330         unsigned long start_data;
 331         unsigned long text_len;
 332         unsigned long start_code;
 333
 334 #ifdef CONFIG_BINFMT_SHARED_FLAT
 335         if (r == 0)
 336                 id = curid;     /* Relocs of 0 are always self referring */
 337         else {
 338                 id = (r >> 24) & 0xff;  /* Find ID for this reloc */
 339                 r &= 0x00ffffff;        /* Trim ID off here */
 340         }
 341         if (id >= MAX_SHARED_LIBS) {
 342                 pr_err("reference 0x%lx to shared library %d", r, id);
 343                 goto failed;
 344         }
 345         if (curid != id) {
 346                 if (internalp) {
 347                         pr_err("reloc address 0x%lx not in same module "
 348                                "(%d != %d)", r, curid, id);
 349                         goto failed;
 350                 } else if (!p->lib_list[id].loaded &&
 351                            load_flat_shared_library(id, p) < 0) {
 352                         pr_err("failed to load library %d", id);
 353                         goto failed;
 354                 }
 355                 /* Check versioning information (i.e. time stamps) */
 356                 if (p->lib_list[id].build_date && p->lib_list[curid].build_date &&
 357                                 p->lib_list[curid].build_date < p->lib_list[id].build_date) {
 358                         pr_err("library %d is younger than %d", id, curid);
 359                         goto failed;
 360                 }
 361         }
 362 #else
 363         id = 0;
 364 #endif
 365
 366         start_brk = p->lib_list[id].start_brk;
 367         start_data = p->lib_list[id].start_data;
 368         start_code = p->lib_list[id].start_code;
 369         text_len = p->lib_list[id].text_len;
 370
 371         if (r > start_brk - start_data + text_len) {
 372                 pr_err("reloc outside program 0x%lx (0 - 0x%lx/0x%lx)",
 373                        r, start_brk-start_data+text_len, text_len);
 374                 goto failed;
 375         }
 376
 377         if (r < text_len)                       /* In text segment */
 378                 addr = r + start_code;
 379         else                                    /* In data segment */
 380                 addr = r - text_len + start_data;
 381
 382         /* Range checked already above so doing the range tests is redundant...*/
 383         return addr;
 384
 385 failed:
 386         pr_cont(", killing %s!\n", current->comm);
 387         send_sig(SIGSEGV, current, 0);
 388
 389         return RELOC_FAILED;
 390 }
 391
 392 /****************************************************************************/
 393
 394 #ifdef CONFIG_BINFMT_FLAT_OLD
 395 static void old_reloc(unsigned long rl)
 396 {
 397         static const char *segment[] = { "TEXT", "DATA", "BSS", "*UNKNOWN*" };
 398         flat_v2_reloc_t r;
 399         unsigned long __user *ptr;
 400         unsigned long val;
 401
 402         r.value = rl;
 403 #if defined(CONFIG_COLDFIRE)
 404         ptr = (unsigned long __user *)(current->mm->start_code + r.reloc.offset);
 405 #else
 406         ptr = (unsigned long __user *)(current->mm->start_data + r.reloc.offset);
 407 #endif
 408         get_user(val, ptr);
 409
 410         pr_debug("Relocation of variable at DATASEG+%x "
 411                  "(address %p, currently %lx) into segment %s\n",
 412                  r.reloc.offset, ptr, val, segment[r.reloc.type]);
 413
 414         switch (r.reloc.type) {
 415         case OLD_FLAT_RELOC_TYPE_TEXT:
 416                 val += current->mm->start_code;
 417                 break;
 418         case OLD_FLAT_RELOC_TYPE_DATA:
 419                 val += current->mm->start_data;
 420                 break;
 421         case OLD_FLAT_RELOC_TYPE_BSS:
 422                 val += current->mm->end_data;
 423                 break;
 424         default:
 425                 pr_err("Unknown relocation type=%x\n", r.reloc.type);
 426                 break;
 427         }
 428         put_user(val, ptr);
 429
 430         pr_debug("Relocation became %lx\n", val);
 431 }
 432 #endif /* CONFIG_BINFMT_FLAT_OLD */
 433
 434 /****************************************************************************/
 435
 436 static inline u32 __user *skip_got_header(u32 __user *rp)
 437 {
 438         if (IS_ENABLED(CONFIG_RISCV)) {
 439                 /*
 440                  * RISC-V has a 16 byte GOT PLT header for elf64-riscv
 441                  * and 8 byte GOT PLT header for elf32-riscv.
 442                  * Skip the whole GOT PLT header, since it is reserved
 443                  * for the dynamic linker (ld.so).
 444                  */
 445                 u32 rp_val0, rp_val1;
 446
 447                 if (get_user(rp_val0, rp))
 448                         return rp;
 449                 if (get_user(rp_val1, rp + 1))
 450                         return rp;
 451
 452                 if (rp_val0 == 0xffffffff && rp_val1 == 0xffffffff)
 453                         rp += 4;
 454                 else if (rp_val0 == 0xffffffff)
 455                         rp += 2;
 456         }
 457         return rp;
 458 }
 459
 460 static int load_flat_file(struct linux_binprm *bprm,
 461                 struct lib_info *libinfo, int id, unsigned long *extra_stack)
 462 {
 463         struct flat_hdr *hdr;
 464         unsigned long textpos, datapos, realdatastart;
 465         u32 text_len, data_len, bss_len, stack_len, full_data, flags;
 466         unsigned long len, memp, memp_size, extra, rlim;
 467         __be32 __user *reloc;
 468         u32 __user *rp;
 469         int i, rev, relocs;
 470         loff_t fpos;
 471         unsigned long start_code, end_code;
 472         ssize_t result;
 473         int ret;
 474
 475         hdr = ((struct flat_hdr *) bprm->buf);          /* exec-header */
 476
 477         text_len  = ntohl(hdr->data_start);
 478         data_len  = ntohl(hdr->data_end) - ntohl(hdr->data_start);
 479         bss_len   = ntohl(hdr->bss_end) - ntohl(hdr->data_end);
 480         stack_len = ntohl(hdr->stack_size);
 481         if (extra_stack) {
 482                 stack_len += *extra_stack;
 483                 *extra_stack = stack_len;
 484         }
 485         relocs    = ntohl(hdr->reloc_count);
 486         flags     = ntohl(hdr->flags);
 487         rev       = ntohl(hdr->rev);
 488         full_data = data_len + relocs * sizeof(unsigned long);
 489
 490         if (strncmp(hdr->magic, "bFLT", 4)) {
 491                 /*
 492                  * Previously, here was a printk to tell people
 493                  *   "BINFMT_FLAT: bad header magic".
 494                  * But for the kernel which also use ELF FD-PIC format, this
 495                  * error message is confusing.
 496                  * because a lot of people do not manage to produce good
 497                  */
 498                 ret = -ENOEXEC;
 499                 goto err;
 500         }
 501
 502         if (flags & FLAT_FLAG_KTRACE)
 503                 pr_info("Loading file: %s\n", bprm->filename);
 504
 505 #ifdef CONFIG_BINFMT_FLAT_OLD
 506         if (rev != FLAT_VERSION && rev != OLD_FLAT_VERSION) {
 507                 pr_err("bad flat file version 0x%x (supported 0x%lx and 0x%lx)\n",
 508                        rev, FLAT_VERSION, OLD_FLAT_VERSION);
 509                 ret = -ENOEXEC;
 510                 goto err;
 511         }
 512
 513         /* Don't allow old format executables to use shared libraries */
 514         if (rev == OLD_FLAT_VERSION && id != 0) {
 515                 pr_err("shared libraries are not available before rev 0x%lx\n",
 516                        FLAT_VERSION);
 517                 ret = -ENOEXEC;
 518                 goto err;
 519         }
 520
 521         /*
 522          * fix up the flags for the older format,  there were all kinds
 523          * of endian hacks,  this only works for the simple cases
 524          */
 525         if (rev == OLD_FLAT_VERSION &&
 526            (flags || IS_ENABLED(CONFIG_BINFMT_FLAT_OLD_ALWAYS_RAM)))
 527                 flags = FLAT_FLAG_RAM;
 528
 529 #else /* CONFIG_BINFMT_FLAT_OLD */
 530         if (rev != FLAT_VERSION) {
 531                 pr_err("bad flat file version 0x%x (supported 0x%lx)\n",
 532                        rev, FLAT_VERSION);
 533                 ret = -ENOEXEC;
 534                 goto err;
 535         }
 536 #endif /* !CONFIG_BINFMT_FLAT_OLD */
 537
 538         /*
 539          * Make sure the header params are sane.
 540          * 28 bits (256 MB) is way more than reasonable in this case.
 541          * If some top bits are set we have probable binary corruption.
 542         */
 543         if ((text_len | data_len | bss_len | stack_len | full_data) >> 28) {
 544                 pr_err("bad header\n");
 545                 ret = -ENOEXEC;
 546                 goto err;
 547         }
 548
 549 #ifndef CONFIG_BINFMT_ZFLAT
 550         if (flags & (FLAT_FLAG_GZIP|FLAT_FLAG_GZDATA)) {
 551                 pr_err("Support for ZFLAT executables is not enabled.\n");
 552                 ret = -ENOEXEC;
 553                 goto err;
 554         }
 555 #endif
 556
 557         /*
 558          * Check initial limits. This avoids letting people circumvent
 559          * size limits imposed on them by creating programs with large
 560          * arrays in the data or bss.
 561          */
 562         rlim = rlimit(RLIMIT_DATA);
 563         if (rlim >= RLIM_INFINITY)
 564                 rlim = ~0;
 565         if (data_len + bss_len > rlim) {
 566                 ret = -ENOMEM;
 567                 goto err;
 568         }
 569
 570         /* Flush all traces of the currently running executable */
 571         if (id == 0) {
 572                 ret = begin_new_exec(bprm);
 573                 if (ret)
 574                         goto err;
 575
 576                 /* OK, This is the point of no return */
 577                 set_personality(PER_LINUX_32BIT);
 578                 setup_new_exec(bprm);
 579         }
 580
 581         /*
 582          * calculate the extra space we need to map in
 583          */
 584         extra = max_t(unsigned long, bss_len + stack_len,
 585                         relocs * sizeof(unsigned long));
 586
 587         /*
 588          * there are a couple of cases here,  the separate code/data
 589          * case,  and then the fully copied to RAM case which lumps
 590          * it all together.
 591          */
 592         if (!IS_ENABLED(CONFIG_MMU) && !(flags & (FLAT_FLAG_RAM|FLAT_FLAG_GZIP))) {
 593                 /*
 594                  * this should give us a ROM ptr,  but if it doesn't we don't
 595                  * really care
 596                  */
 597                 pr_debug("ROM mapping of file (we hope)\n");
 598
 599                 textpos = vm_mmap(bprm->file, 0, text_len, PROT_READ|PROT_EXEC,
 600                                   MAP_PRIVATE, 0);
 601                 if (!textpos || IS_ERR_VALUE(textpos)) {
 602                         ret = textpos;
 603                         if (!textpos)
 604                                 ret = -ENOMEM;
 605                         pr_err("Unable to mmap process text, errno %d\n", ret);
 606                         goto err;
 607                 }
 608
 609                 len = data_len + extra +
 610                         DATA_START_OFFSET_WORDS * sizeof(unsigned long);
 611                 len = PAGE_ALIGN(len);
 612                 realdatastart = vm_mmap(NULL, 0, len,
 613                         PROT_READ|PROT_WRITE|PROT_EXEC, MAP_PRIVATE, 0);
 614
 615                 if (realdatastart == 0 || IS_ERR_VALUE(realdatastart)) {
 616                         ret = realdatastart;
 617                         if (!realdatastart)
 618                                 ret = -ENOMEM;
 619                         pr_err("Unable to allocate RAM for process data, "
 620                                "errno %d\n", ret);
 621                         vm_munmap(textpos, text_len);
 622                         goto err;
 623                 }
 624                 datapos = ALIGN(realdatastart +
 625                                 DATA_START_OFFSET_WORDS * sizeof(unsigned long),
 626                                 FLAT_DATA_ALIGN);
 627
 628                 pr_debug("Allocated data+bss+stack (%u bytes): %lx\n",
 629                          data_len + bss_len + stack_len, datapos);
 630
 631                 fpos = ntohl(hdr->data_start);
 632 #ifdef CONFIG_BINFMT_ZFLAT
 633                 if (flags & FLAT_FLAG_GZDATA) {
 634                         result = decompress_exec(bprm, fpos, (char *)datapos,
 635                                                  full_data, 0);
 636                 } else
 637 #endif
 638                 {
 639                         result = read_code(bprm->file, datapos, fpos,
 640                                         full_data);
 641                 }
 642                 if (IS_ERR_VALUE(result)) {
 643                         ret = result;
 644                         pr_err("Unable to read data+bss, errno %d\n", ret);
 645                         vm_munmap(textpos, text_len);
 646                         vm_munmap(realdatastart, len);
 647                         goto err;
 648                 }
 649
 650                 reloc = (__be32 __user *)
 651                         (datapos + (ntohl(hdr->reloc_start) - text_len));
 652                 memp = realdatastart;
 653                 memp_size = len;
 654         } else {
 655
 656                 len = text_len + data_len + extra +
 657                         DATA_START_OFFSET_WORDS * sizeof(u32);
 658                 len = PAGE_ALIGN(len);
 659                 textpos = vm_mmap(NULL, 0, len,
 660                         PROT_READ | PROT_EXEC | PROT_WRITE, MAP_PRIVATE, 0);
 661
 662                 if (!textpos || IS_ERR_VALUE(textpos)) {
 663                         ret = textpos;
 664                         if (!textpos)
 665                                 ret = -ENOMEM;
 666                         pr_err("Unable to allocate RAM for process text/data, "
 667                                "errno %d\n", ret);
 668                         goto err;
 669                 }
 670
 671                 realdatastart = textpos + ntohl(hdr->data_start);
 672                 datapos = ALIGN(realdatastart +
 673                                 DATA_START_OFFSET_WORDS * sizeof(u32),
 674                                 FLAT_DATA_ALIGN);
 675
 676                 reloc = (__be32 __user *)
 677                         (datapos + (ntohl(hdr->reloc_start) - text_len));
 678                 memp = textpos;
 679                 memp_size = len;
 680 #ifdef CONFIG_BINFMT_ZFLAT
 681                 /*
 682                  * load it all in and treat it like a RAM load from now on
 683                  */
 684                 if (flags & FLAT_FLAG_GZIP) {
 685 #ifndef CONFIG_MMU
 686                         result = decompress_exec(bprm, sizeof(struct flat_hdr),
 687                                          (((char *)textpos) + sizeof(struct flat_hdr)),
 688                                          (text_len + full_data
 689                                                   - sizeof(struct flat_hdr)),
 690                                          0);
 691                         memmove((void *) datapos, (void *) realdatastart,
 692                                         full_data);
 693 #else
 694                         /*
 695                          * This is used on MMU systems mainly for testing.
 696                          * Let's use a kernel buffer to simplify things.
 697                          */
 698                         long unz_text_len = text_len - sizeof(struct flat_hdr);
 699                         long unz_len = unz_text_len + full_data;
 700                         char *unz_data = vmalloc(unz_len);
 701                         if (!unz_data) {
 702                                 result = -ENOMEM;
 703                         } else {
 704                                 result = decompress_exec(bprm, sizeof(struct flat_hdr),
 705                                                          unz_data, unz_len, 0);
 706                                 if (result == 0 &&
 707                                     (copy_to_user((void __user *)textpos + sizeof(struct flat_hdr),
 708                                                   unz_data, unz_text_len) ||
 709                                      copy_to_user((void __user *)datapos,
 710                                                   unz_data + unz_text_len, full_data)))
 711                                         result = -EFAULT;
 712                                 vfree(unz_data);
 713                         }
 714 #endif
 715                 } else if (flags & FLAT_FLAG_GZDATA) {
 716                         result = read_code(bprm->file, textpos, 0, text_len);
 717                         if (!IS_ERR_VALUE(result)) {
 718 #ifndef CONFIG_MMU
 719                                 result = decompress_exec(bprm, text_len, (char *) datapos,
 720                                                  full_data, 0);
 721 #else
 722                                 char *unz_data = vmalloc(full_data);
 723                                 if (!unz_data) {
 724                                         result = -ENOMEM;
 725                                 } else {
 726                                         result = decompress_exec(bprm, text_len,
 727                                                        unz_data, full_data, 0);
 728                                         if (result == 0 &&
 729                                             copy_to_user((void __user *)datapos,
 730                                                          unz_data, full_data))
 731                                                 result = -EFAULT;
 732                                         vfree(unz_data);
 733                                 }
 734 #endif
 735                         }
 736                 } else
 737 #endif /* CONFIG_BINFMT_ZFLAT */
 738                 {
 739                         result = read_code(bprm->file, textpos, 0, text_len);
 740                         if (!IS_ERR_VALUE(result))
 741                                 result = read_code(bprm->file, datapos,
 742                                                    ntohl(hdr->data_start),
 743                                                    full_data);
 744                 }
 745                 if (IS_ERR_VALUE(result)) {
 746                         ret = result;
 747                         pr_err("Unable to read code+data+bss, errno %d\n", ret);
 748                         vm_munmap(textpos, text_len + data_len + extra +
 749                                   DATA_START_OFFSET_WORDS * sizeof(u32));
 750                         goto err;
 751                 }
 752         }
 753
 754         start_code = textpos + sizeof(struct flat_hdr);
 755         end_code = textpos + text_len;
 756         text_len -= sizeof(struct flat_hdr); /* the real code len */
 757
 758         /* The main program needs a little extra setup in the task structure */
 759         if (id == 0) {
 760                 current->mm->start_code = start_code;
 761                 current->mm->end_code = end_code;
 762                 current->mm->start_data = datapos;
 763                 current->mm->end_data = datapos + data_len;
 764                 /*
 765                  * set up the brk stuff, uses any slack left in data/bss/stack
 766                  * allocation.  We put the brk after the bss (between the bss
 767                  * and stack) like other platforms.
 768                  * Userspace code relies on the stack pointer starting out at
 769                  * an address right at the end of a page.
 770                  */
 771                 current->mm->start_brk = datapos + data_len + bss_len;
 772                 current->mm->brk = (current->mm->start_brk + 3) & ~3;
 773 #ifndef CONFIG_MMU
 774                 current->mm->context.end_brk = memp + memp_size - stack_len;
 775 #endif
 776         }
 777
 778         if (flags & FLAT_FLAG_KTRACE) {
 779                 pr_info("Mapping is %lx, Entry point is %x, data_start is %x\n",
 780                         textpos, 0x00ffffff&ntohl(hdr->entry), ntohl(hdr->data_start));
 781                 pr_info("%s %s: TEXT=%lx-%lx DATA=%lx-%lx BSS=%lx-%lx\n",
 782                         id ? "Lib" : "Load", bprm->filename,
 783                         start_code, end_code, datapos, datapos + data_len,
 784                         datapos + data_len, (datapos + data_len + bss_len + 3) & ~3);
 785         }
 786
 787         /* Store the current module values into the global library structure */
 788         libinfo->lib_list[id].start_code = start_code;
 789         libinfo->lib_list[id].start_data = datapos;
 790         libinfo->lib_list[id].start_brk = datapos + data_len + bss_len;
 791         libinfo->lib_list[id].text_len = text_len;
 792         libinfo->lib_list[id].loaded = 1;
 793         libinfo->lib_list[id].entry = (0x00ffffff & ntohl(hdr->entry)) + textpos;
 794         libinfo->lib_list[id].build_date = ntohl(hdr->build_date);
 795
 796         /*
 797          * We just load the allocations into some temporary memory to
 798          * help simplify all this mumbo jumbo
 799          *
 800          * We've got two different sections of relocation entries.
 801          * The first is the GOT which resides at the beginning of the data segment
 802          * and is terminated with a -1.  This one can be relocated in place.
 803          * The second is the extra relocation entries tacked after the image's
 804          * data segment. These require a little more processing as the entry is
 805          * really an offset into the image which contains an offset into the
 806          * image.
 807          */
 808         if (flags & FLAT_FLAG_GOTPIC) {
 809                 rp = skip_got_header((u32 __user *) datapos);
 810                 for (; ; rp++) {
 811                         u32 addr, rp_val;
 812                         if (get_user(rp_val, rp))
 813                                 return -EFAULT;
 814                         if (rp_val == 0xffffffff)
 815                                 break;
 816                         if (rp_val) {
 817                                 addr = calc_reloc(rp_val, libinfo, id, 0);
 818                                 if (addr == RELOC_FAILED) {
 819                                         ret = -ENOEXEC;
 820                                         goto err;
 821                                 }
 822                                 if (put_user(addr, rp))
 823                                         return -EFAULT;
 824                         }
 825                 }
 826         }
 827
 828         /*
 829          * Now run through the relocation entries.
 830          * We've got to be careful here as C++ produces relocatable zero
 831          * entries in the constructor and destructor tables which are then
 832          * tested for being not zero (which will always occur unless we're
 833          * based from address zero).  This causes an endless loop as __start
 834          * is at zero.  The solution used is to not relocate zero addresses.
 835          * This has the negative side effect of not allowing a global data
 836          * reference to be statically initialised to _stext (I've moved
 837          * __start to address 4 so that is okay).
 838          */
 839         if (rev > OLD_FLAT_VERSION) {
 840                 for (i = 0; i < relocs; i++) {
 841                         u32 addr, relval;
 842                         __be32 tmp;
 843
 844                         /*
 845                          * Get the address of the pointer to be
 846                          * relocated (of course, the address has to be
 847                          * relocated first).
 848                          */
 849                         if (get_user(tmp, reloc + i))
 850                                 return -EFAULT;
 851                         relval = ntohl(tmp);
 852                         addr = flat_get_relocate_addr(relval);
 853                         rp = (u32 __user *)calc_reloc(addr, libinfo, id, 1);
 854                         if (rp == (u32 __user *)RELOC_FAILED) {
 855                                 ret = -ENOEXEC;
 856                                 goto err;
 857                         }
 858
 859                         /* Get the pointer's value.  */
 860                         ret = flat_get_addr_from_rp(rp, relval, flags, &addr);
 861                         if (unlikely(ret))
 862                                 goto err;
 863
 864                         if (addr != 0) {
 865                                 /*
 866                                  * Do the relocation.  PIC relocs in the data section are
 867                                  * already in target order
 868                                  */
 869                                 if ((flags & FLAT_FLAG_GOTPIC) == 0) {
 870                                         /*
 871                                          * Meh, the same value can have a different
 872                                          * byte order based on a flag..
 873                                          */
 874                                         addr = ntohl((__force __be32)addr);
 875                                 }
 876                                 addr = calc_reloc(addr, libinfo, id, 0);
 877                                 if (addr == RELOC_FAILED) {
 878                                         ret = -ENOEXEC;
 879                                         goto err;
 880                                 }
 881
 882                                 /* Write back the relocated pointer.  */
 883                                 ret = flat_put_addr_at_rp(rp, addr, relval);
 884                                 if (unlikely(ret))
 885                                         goto err;
 886                         }
 887                 }
 888 #ifdef CONFIG_BINFMT_FLAT_OLD
 889         } else {
 890                 for (i = 0; i < relocs; i++) {
 891                         __be32 relval;
 892                         if (get_user(relval, reloc + i))
 893                                 return -EFAULT;
 894                         old_reloc(ntohl(relval));
 895                 }
 896 #endif /* CONFIG_BINFMT_FLAT_OLD */
 897         }
 898
 899         flush_icache_user_range(start_code, end_code);
 900
 901         /* zero the BSS,  BRK and stack areas */
 902         if (clear_user((void __user *)(datapos + data_len), bss_len +
 903                        (memp + memp_size - stack_len -          /* end brk */
 904                        libinfo->lib_list[id].start_brk) +       /* start brk */
 905                        stack_len))
 906                 return -EFAULT;
 907
 908         return 0;
 909 err:
 910         return ret;
 911 }
 912
 913
 914 /****************************************************************************/
 915 #ifdef CONFIG_BINFMT_SHARED_FLAT
 916
 917 /*
 918  * Load a shared library into memory.  The library gets its own data
 919  * segment (including bss) but not argv/argc/environ.
 920  */
 921
 922 static int load_flat_shared_library(int id, struct lib_info *libs)
 923 {
 924         /*
 925          * This is a fake bprm struct; only the members "buf", "file" and
 926          * "filename" are actually used.
 927          */
 928         struct linux_binprm bprm;
 929         int res;
 930         char buf[16];
 931         loff_t pos = 0;
 932
 933         memset(&bprm, 0, sizeof(bprm));
 934
 935         /* Create the file name */
 936         sprintf(buf, "/lib/lib%d.so", id);
 937
 938         /* Open the file up */
 939         bprm.filename = buf;
 940         bprm.file = open_exec(bprm.filename);
 941         res = PTR_ERR(bprm.file);
 942         if (IS_ERR(bprm.file))
 943                 return res;
 944
 945         res = kernel_read(bprm.file, bprm.buf, BINPRM_BUF_SIZE, &pos);
 946
 947         if (res >= 0)
 948                 res = load_flat_file(&bprm, libs, id, NULL);
 949
 950         allow_write_access(bprm.file);
 951         fput(bprm.file);
 952
 953         return res;
 954 }
 955
 956 #endif /* CONFIG_BINFMT_SHARED_FLAT */
 957 /****************************************************************************/
 958
 959 /*
 960  * These are the functions used to load flat style executables and shared
 961  * libraries.  There is no binary dependent code anywhere else.
 962  */
 963
 964 static int load_flat_binary(struct linux_binprm *bprm)
 965 {
 966         struct lib_info libinfo;
 967         struct pt_regs *regs = current_pt_regs();
 968         unsigned long stack_len = 0;
 969         unsigned long start_addr;
 970         int res;
 971         int i, j;
 972
 973         memset(&libinfo, 0, sizeof(libinfo));
 974
 975         /*
 976          * We have to add the size of our arguments to our stack size
 977          * otherwise it's too easy for users to create stack overflows
 978          * by passing in a huge argument list.  And yes,  we have to be
 979          * pedantic and include space for the argv/envp array as it may have
 980          * a lot of entries.
 981          */
 982 #ifndef CONFIG_MMU
 983         stack_len += PAGE_SIZE * MAX_ARG_PAGES - bprm->p; /* the strings */
 984 #endif
 985         stack_len += (bprm->argc + 1) * sizeof(char *);   /* the argv array */
 986         stack_len += (bprm->envc + 1) * sizeof(char *);   /* the envp array */
 987         stack_len = ALIGN(stack_len, FLAT_STACK_ALIGN);
 988
 989         res = load_flat_file(bprm, &libinfo, 0, &stack_len);
 990         if (res < 0)
 991                 return res;
 992
 993         /* Update data segment pointers for all libraries */
 994         for (i = 0; i < MAX_SHARED_LIBS; i++) {
 995                 if (!libinfo.lib_list[i].loaded)
 996                         continue;
 997                 for (j = 0; j < MAX_SHARED_LIBS; j++) {
 998                         unsigned long val = libinfo.lib_list[j].loaded ?
 999                                 libinfo.lib_list[j].start_data : UNLOADED_LIB;
1000                         unsigned long __user *p = (unsigned long __user *)
1001                                 libinfo.lib_list[i].start_data;
1002                         p -= j + 1;
1003                         if (put_user(val, p))
1004                                 return -EFAULT;
1005                 }
1006         }
1007
1008         set_binfmt(&flat_format);
1009
1010 #ifdef CONFIG_MMU
1011         res = setup_arg_pages(bprm, STACK_TOP, EXSTACK_DEFAULT);
1012         if (!res)
1013                 res = create_flat_tables(bprm, bprm->p);
1014 #else
1015         /* Stash our initial stack pointer into the mm structure */
1016         current->mm->start_stack =
1017                 ((current->mm->context.end_brk + stack_len + 3) & ~3) - 4;
1018         pr_debug("sp=%lx\n", current->mm->start_stack);
1019
1020         /* copy the arg pages onto the stack */
1021         res = transfer_args_to_stack(bprm, &current->mm->start_stack);
1022         if (!res)
1023                 res = create_flat_tables(bprm, current->mm->start_stack);
1024 #endif
1025         if (res)
1026                 return res;
1027
1028         /* Fake some return addresses to ensure the call chain will
1029          * initialise library in order for us.  We are required to call
1030          * lib 1 first, then 2, ... and finally the main program (id 0).
1031          */
1032         start_addr = libinfo.lib_list[0].entry;
1033
1034 #ifdef CONFIG_BINFMT_SHARED_FLAT
1035         for (i = MAX_SHARED_LIBS-1; i > 0; i--) {
1036                 if (libinfo.lib_list[i].loaded) {
1037                         /* Push previos first to call address */
1038                         unsigned long __user *sp;
1039                         current->mm->start_stack -= sizeof(unsigned long);
1040                         sp = (unsigned long __user *)current->mm->start_stack;
1041                         if (put_user(start_addr, sp))
1042                                 return -EFAULT;
1043                         start_addr = libinfo.lib_list[i].entry;
1044                 }
1045         }
1046 #endif
1047
1048 #ifdef FLAT_PLAT_INIT
1049         FLAT_PLAT_INIT(regs);
1050 #endif
1051
1052         finalize_exec(bprm);
1053         pr_debug("start_thread(regs=0x%p, entry=0x%lx, start_stack=0x%lx)\n",
1054                  regs, start_addr, current->mm->start_stack);
1055         start_thread(regs, start_addr, current->mm->start_stack);
1056
1057         return 0;
1058 }
1059
1060 /****************************************************************************/
1061
1062 static int __init init_flat_binfmt(void)
1063 {
1064         register_binfmt(&flat_format);
1065         return 0;
1066 }
1067 core_initcall(init_flat_binfmt);
1068
1069 /****************************************************************************/