fs/ubifs/dir.c

   1 // SPDX-License-Identifier: GPL-2.0-only
   2 /* * This file is part of UBIFS.
   3  *
   4  * Copyright (C) 2006-2008 Nokia Corporation.
   5  * Copyright (C) 2006, 2007 University of Szeged, Hungary
   6  *
   7  * Authors: Artem Bityutskiy (Битюцкий Артём)
   8  *          Adrian Hunter
   9  *          Zoltan Sogor
  10  */
  11
  12 /*
  13  * This file implements directory operations.
  14  *
  15  * All FS operations in this file allocate budget before writing anything to the
  16  * media. If they fail to allocate it, the error is returned. The only
  17  * exceptions are 'ubifs_unlink()' and 'ubifs_rmdir()' which keep working even
  18  * if they unable to allocate the budget, because deletion %-ENOSPC failure is
  19  * not what users are usually ready to get. UBIFS budgeting subsystem has some
  20  * space reserved for these purposes.
  21  *
  22  * All operations in this file write all inodes which they change straight
  23  * away, instead of marking them dirty. For example, 'ubifs_link()' changes
  24  * @i_size of the parent inode and writes the parent inode together with the
  25  * target inode. This was done to simplify file-system recovery which would
  26  * otherwise be very difficult to do. The only exception is rename which marks
  27  * the re-named inode dirty (because its @i_ctime is updated) but does not
  28  * write it, but just marks it as dirty.
  29  */
  30
  31 #include "ubifs.h"
  32
  33 /**
  34  * inherit_flags - inherit flags of the parent inode.
  35  * @dir: parent inode
  36  * @mode: new inode mode flags
  37  *
  38  * This is a helper function for 'ubifs_new_inode()' which inherits flag of the
  39  * parent directory inode @dir. UBIFS inodes inherit the following flags:
  40  * o %UBIFS_COMPR_FL, which is useful to switch compression on/of on
  41  *   sub-directory basis;
  42  * o %UBIFS_SYNC_FL - useful for the same reasons;
  43  * o %UBIFS_DIRSYNC_FL - similar, but relevant only to directories.
  44  *
  45  * This function returns the inherited flags.
  46  */
  47 static int inherit_flags(const struct inode *dir, umode_t mode)
  48 {
  49         int flags;
  50         const struct ubifs_inode *ui = ubifs_inode(dir);
  51
  52         if (!S_ISDIR(dir->i_mode))
  53                 /*
  54                  * The parent is not a directory, which means that an extended
  55                  * attribute inode is being created. No flags.
  56                  */
  57                 return 0;
  58
  59         flags = ui->flags & (UBIFS_COMPR_FL | UBIFS_SYNC_FL | UBIFS_DIRSYNC_FL);
  60         if (!S_ISDIR(mode))
  61                 /* The "DIRSYNC" flag only applies to directories */
  62                 flags &= ~UBIFS_DIRSYNC_FL;
  63         return flags;
  64 }
  65
  66 /**
  67  * ubifs_new_inode - allocate new UBIFS inode object.
  68  * @c: UBIFS file-system description object
  69  * @dir: parent directory inode
  70  * @mode: inode mode flags
  71  *
  72  * This function finds an unused inode number, allocates new inode and
  73  * initializes it. Returns new inode in case of success and an error code in
  74  * case of failure.
  75  */
  76 struct inode *ubifs_new_inode(struct ubifs_info *c, struct inode *dir,
  77                               umode_t mode)
  78 {
  79         int err;
  80         struct inode *inode;
  81         struct ubifs_inode *ui;
  82         bool encrypted = false;
  83
  84         inode = new_inode(c->vfs_sb);
  85         ui = ubifs_inode(inode);
  86         if (!inode)
  87                 return ERR_PTR(-ENOMEM);
  88
  89         /*
  90          * Set 'S_NOCMTIME' to prevent VFS form updating [mc]time of inodes and
  91          * marking them dirty in file write path (see 'file_update_time()').
  92          * UBIFS has to fully control "clean <-> dirty" transitions of inodes
  93          * to make budgeting work.
  94          */
  95         inode->i_flags |= S_NOCMTIME;
  96
  97         inode_init_owner(&init_user_ns, inode, dir, mode);
  98         inode->i_mtime = inode->i_atime = inode->i_ctime =
  99                          current_time(inode);
 100         inode->i_mapping->nrpages = 0;
 101
 102         err = fscrypt_prepare_new_inode(dir, inode, &encrypted);
 103         if (err) {
 104                 ubifs_err(c, "fscrypt_prepare_new_inode failed: %i", err);
 105                 goto out_iput;
 106         }
 107
 108         switch (mode & S_IFMT) {
 109         case S_IFREG:
 110                 inode->i_mapping->a_ops = &ubifs_file_address_operations;
 111                 inode->i_op = &ubifs_file_inode_operations;
 112                 inode->i_fop = &ubifs_file_operations;
 113                 break;
 114         case S_IFDIR:
 115                 inode->i_op  = &ubifs_dir_inode_operations;
 116                 inode->i_fop = &ubifs_dir_operations;
 117                 inode->i_size = ui->ui_size = UBIFS_INO_NODE_SZ;
 118                 break;
 119         case S_IFLNK:
 120                 inode->i_op = &ubifs_symlink_inode_operations;
 121                 break;
 122         case S_IFSOCK:
 123         case S_IFIFO:
 124         case S_IFBLK:
 125         case S_IFCHR:
 126                 inode->i_op  = &ubifs_file_inode_operations;
 127                 break;
 128         default:
 129                 BUG();
 130         }
 131
 132         ui->flags = inherit_flags(dir, mode);
 133         ubifs_set_inode_flags(inode);
 134         if (S_ISREG(mode))
 135                 ui->compr_type = c->default_compr;
 136         else
 137                 ui->compr_type = UBIFS_COMPR_NONE;
 138         ui->synced_i_size = 0;
 139
 140         spin_lock(&c->cnt_lock);
 141         /* Inode number overflow is currently not supported */
 142         if (c->highest_inum >= INUM_WARN_WATERMARK) {
 143                 if (c->highest_inum >= INUM_WATERMARK) {
 144                         spin_unlock(&c->cnt_lock);
 145                         ubifs_err(c, "out of inode numbers");
 146                         err = -EINVAL;
 147                         goto out_iput;
 148                 }
 149                 ubifs_warn(c, "running out of inode numbers (current %lu, max %u)",
 150                            (unsigned long)c->highest_inum, INUM_WATERMARK);
 151         }
 152
 153         inode->i_ino = ++c->highest_inum;
 154         /*
 155          * The creation sequence number remains with this inode for its
 156          * lifetime. All nodes for this inode have a greater sequence number,
 157          * and so it is possible to distinguish obsolete nodes belonging to a
 158          * previous incarnation of the same inode number - for example, for the
 159          * purpose of rebuilding the index.
 160          */
 161         ui->creat_sqnum = ++c->max_sqnum;
 162         spin_unlock(&c->cnt_lock);
 163
 164         if (encrypted) {
 165                 err = fscrypt_set_context(inode, NULL);
 166                 if (err) {
 167                         ubifs_err(c, "fscrypt_set_context failed: %i", err);
 168                         goto out_iput;
 169                 }
 170         }
 171
 172         return inode;
 173
 174 out_iput:
 175         make_bad_inode(inode);
 176         iput(inode);
 177         return ERR_PTR(err);
 178 }
 179
 180 static int dbg_check_name(const struct ubifs_info *c,
 181                           const struct ubifs_dent_node *dent,
 182                           const struct fscrypt_name *nm)
 183 {
 184         if (!dbg_is_chk_gen(c))
 185                 return 0;
 186         if (le16_to_cpu(dent->nlen) != fname_len(nm))
 187                 return -EINVAL;
 188         if (memcmp(dent->name, fname_name(nm), fname_len(nm)))
 189                 return -EINVAL;
 190         return 0;
 191 }
 192
 193 static struct dentry *ubifs_lookup(struct inode *dir, struct dentry *dentry,
 194                                    unsigned int flags)
 195 {
 196         int err;
 197         union ubifs_key key;
 198         struct inode *inode = NULL;
 199         struct ubifs_dent_node *dent = NULL;
 200         struct ubifs_info *c = dir->i_sb->s_fs_info;
 201         struct fscrypt_name nm;
 202
 203         dbg_gen("'%pd' in dir ino %lu", dentry, dir->i_ino);
 204
 205         err = fscrypt_prepare_lookup(dir, dentry, &nm);
 206         generic_set_encrypted_ci_d_ops(dentry);
 207         if (err == -ENOENT)
 208                 return d_splice_alias(NULL, dentry);
 209         if (err)
 210                 return ERR_PTR(err);
 211
 212         if (fname_len(&nm) > UBIFS_MAX_NLEN) {
 213                 inode = ERR_PTR(-ENAMETOOLONG);
 214                 goto done;
 215         }
 216
 217         dent = kmalloc(UBIFS_MAX_DENT_NODE_SZ, GFP_NOFS);
 218         if (!dent) {
 219                 inode = ERR_PTR(-ENOMEM);
 220                 goto done;
 221         }
 222
 223         if (fname_name(&nm) == NULL) {
 224                 if (nm.hash & ~UBIFS_S_KEY_HASH_MASK)
 225                         goto done; /* ENOENT */
 226                 dent_key_init_hash(c, &key, dir->i_ino, nm.hash);
 227                 err = ubifs_tnc_lookup_dh(c, &key, dent, nm.minor_hash);
 228         } else {
 229                 dent_key_init(c, &key, dir->i_ino, &nm);
 230                 err = ubifs_tnc_lookup_nm(c, &key, dent, &nm);
 231         }
 232
 233         if (err) {
 234                 if (err == -ENOENT)
 235                         dbg_gen("not found");
 236                 else
 237                         inode = ERR_PTR(err);
 238                 goto done;
 239         }
 240
 241         if (dbg_check_name(c, dent, &nm)) {
 242                 inode = ERR_PTR(-EINVAL);
 243                 goto done;
 244         }
 245
 246         inode = ubifs_iget(dir->i_sb, le64_to_cpu(dent->inum));
 247         if (IS_ERR(inode)) {
 248                 /*
 249                  * This should not happen. Probably the file-system needs
 250                  * checking.
 251                  */
 252                 err = PTR_ERR(inode);
 253                 ubifs_err(c, "dead directory entry '%pd', error %d",
 254                           dentry, err);
 255                 ubifs_ro_mode(c, err);
 256                 goto done;
 257         }
 258
 259         if (IS_ENCRYPTED(dir) &&
 260             (S_ISDIR(inode->i_mode) || S_ISLNK(inode->i_mode)) &&
 261             !fscrypt_has_permitted_context(dir, inode)) {
 262                 ubifs_warn(c, "Inconsistent encryption contexts: %lu/%lu",
 263                            dir->i_ino, inode->i_ino);
 264                 iput(inode);
 265                 inode = ERR_PTR(-EPERM);
 266         }
 267
 268 done:
 269         kfree(dent);
 270         fscrypt_free_filename(&nm);
 271         return d_splice_alias(inode, dentry);
 272 }
 273
 274 static int ubifs_prepare_create(struct inode *dir, struct dentry *dentry,
 275                                 struct fscrypt_name *nm)
 276 {
 277         if (fscrypt_is_nokey_name(dentry))
 278                 return -ENOKEY;
 279
 280         return fscrypt_setup_filename(dir, &dentry->d_name, 0, nm);
 281 }
 282
 283 static int ubifs_create(struct user_namespace *mnt_userns, struct inode *dir,
 284                         struct dentry *dentry, umode_t mode, bool excl)
 285 {
 286         struct inode *inode;
 287         struct ubifs_info *c = dir->i_sb->s_fs_info;
 288         struct ubifs_budget_req req = { .new_ino = 1, .new_dent = 1,
 289                                         .dirtied_ino = 1 };
 290         struct ubifs_inode *dir_ui = ubifs_inode(dir);
 291         struct fscrypt_name nm;
 292         int err, sz_change;
 293
 294         /*
 295          * Budget request settings: new inode, new direntry, changing the
 296          * parent directory inode.
 297          */
 298
 299         dbg_gen("dent '%pd', mode %#hx in dir ino %lu",
 300                 dentry, mode, dir->i_ino);
 301
 302         err = ubifs_budget_space(c, &req);
 303         if (err)
 304                 return err;
 305
 306         err = ubifs_prepare_create(dir, dentry, &nm);
 307         if (err)
 308                 goto out_budg;
 309
 310         sz_change = CALC_DENT_SIZE(fname_len(&nm));
 311
 312         inode = ubifs_new_inode(c, dir, mode);
 313         if (IS_ERR(inode)) {
 314                 err = PTR_ERR(inode);
 315                 goto out_fname;
 316         }
 317
 318         err = ubifs_init_security(dir, inode, &dentry->d_name);
 319         if (err)
 320                 goto out_inode;
 321
 322         mutex_lock(&dir_ui->ui_mutex);
 323         dir->i_size += sz_change;
 324         dir_ui->ui_size = dir->i_size;
 325         dir->i_mtime = dir->i_ctime = inode->i_ctime;
 326         err = ubifs_jnl_update(c, dir, &nm, inode, 0, 0);
 327         if (err)
 328                 goto out_cancel;
 329         mutex_unlock(&dir_ui->ui_mutex);
 330
 331         ubifs_release_budget(c, &req);
 332         fscrypt_free_filename(&nm);
 333         insert_inode_hash(inode);
 334         d_instantiate(dentry, inode);
 335         return 0;
 336
 337 out_cancel:
 338         dir->i_size -= sz_change;
 339         dir_ui->ui_size = dir->i_size;
 340         mutex_unlock(&dir_ui->ui_mutex);
 341 out_inode:
 342         make_bad_inode(inode);
 343         iput(inode);
 344 out_fname:
 345         fscrypt_free_filename(&nm);
 346 out_budg:
 347         ubifs_release_budget(c, &req);
 348         ubifs_err(c, "cannot create regular file, error %d", err);
 349         return err;
 350 }
 351
 352 static struct inode *create_whiteout(struct inode *dir, struct dentry *dentry)
 353 {
 354         int err;
 355         umode_t mode = S_IFCHR | WHITEOUT_MODE;
 356         struct inode *inode;
 357         struct ubifs_info *c = dir->i_sb->s_fs_info;
 358         struct fscrypt_name nm;
 359
 360         /*
 361          * Create an inode('nlink = 1') for whiteout without updating journal,
 362          * let ubifs_jnl_rename() store it on flash to complete rename whiteout
 363          * atomically.
 364          */
 365
 366         dbg_gen("dent '%pd', mode %#hx in dir ino %lu",
 367                 dentry, mode, dir->i_ino);
 368
 369         err = fscrypt_setup_filename(dir, &dentry->d_name, 0, &nm);
 370         if (err)
 371                 return ERR_PTR(err);
 372
 373         inode = ubifs_new_inode(c, dir, mode);
 374         if (IS_ERR(inode)) {
 375                 err = PTR_ERR(inode);
 376                 goto out_free;
 377         }
 378
 379         init_special_inode(inode, inode->i_mode, WHITEOUT_DEV);
 380         ubifs_assert(c, inode->i_op == &ubifs_file_inode_operations);
 381
 382         err = ubifs_init_security(dir, inode, &dentry->d_name);
 383         if (err)
 384                 goto out_inode;
 385
 386         /* The dir size is updated by do_rename. */
 387         insert_inode_hash(inode);
 388
 389         return inode;
 390
 391 out_inode:
 392         make_bad_inode(inode);
 393         iput(inode);
 394 out_free:
 395         fscrypt_free_filename(&nm);
 396         ubifs_err(c, "cannot create whiteout file, error %d", err);
 397         return ERR_PTR(err);
 398 }
 399
 400 /**
 401  * lock_2_inodes - a wrapper for locking two UBIFS inodes.
 402  * @inode1: first inode
 403  * @inode2: second inode
 404  *
 405  * We do not implement any tricks to guarantee strict lock ordering, because
 406  * VFS has already done it for us on the @i_mutex. So this is just a simple
 407  * wrapper function.
 408  */
 409 static void lock_2_inodes(struct inode *inode1, struct inode *inode2)
 410 {
 411         mutex_lock_nested(&ubifs_inode(inode1)->ui_mutex, WB_MUTEX_1);
 412         mutex_lock_nested(&ubifs_inode(inode2)->ui_mutex, WB_MUTEX_2);
 413 }
 414
 415 /**
 416  * unlock_2_inodes - a wrapper for unlocking two UBIFS inodes.
 417  * @inode1: first inode
 418  * @inode2: second inode
 419  */
 420 static void unlock_2_inodes(struct inode *inode1, struct inode *inode2)
 421 {
 422         mutex_unlock(&ubifs_inode(inode2)->ui_mutex);
 423         mutex_unlock(&ubifs_inode(inode1)->ui_mutex);
 424 }
 425
 426 static int ubifs_tmpfile(struct user_namespace *mnt_userns, struct inode *dir,
 427                          struct file *file, umode_t mode)
 428 {
 429         struct dentry *dentry = file->f_path.dentry;
 430         struct inode *inode;
 431         struct ubifs_info *c = dir->i_sb->s_fs_info;
 432         struct ubifs_budget_req req = { .new_ino = 1, .new_dent = 1,
 433                                         .dirtied_ino = 1};
 434         struct ubifs_budget_req ino_req = { .dirtied_ino = 1 };
 435         struct ubifs_inode *ui;
 436         int err, instantiated = 0;
 437         struct fscrypt_name nm;
 438
 439         /*
 440          * Budget request settings: new inode, new direntry, changing the
 441          * parent directory inode.
 442          * Allocate budget separately for new dirtied inode, the budget will
 443          * be released via writeback.
 444          */
 445
 446         dbg_gen("dent '%pd', mode %#hx in dir ino %lu",
 447                 dentry, mode, dir->i_ino);
 448
 449         err = fscrypt_setup_filename(dir, &dentry->d_name, 0, &nm);
 450         if (err)
 451                 return err;
 452
 453         err = ubifs_budget_space(c, &req);
 454         if (err) {
 455                 fscrypt_free_filename(&nm);
 456                 return err;
 457         }
 458
 459         err = ubifs_budget_space(c, &ino_req);
 460         if (err) {
 461                 ubifs_release_budget(c, &req);
 462                 fscrypt_free_filename(&nm);
 463                 return err;
 464         }
 465
 466         inode = ubifs_new_inode(c, dir, mode);
 467         if (IS_ERR(inode)) {
 468                 err = PTR_ERR(inode);
 469                 goto out_budg;
 470         }
 471         ui = ubifs_inode(inode);
 472
 473         err = ubifs_init_security(dir, inode, &dentry->d_name);
 474         if (err)
 475                 goto out_inode;
 476
 477         mutex_lock(&ui->ui_mutex);
 478         insert_inode_hash(inode);
 479         d_tmpfile(file, inode);
 480         ubifs_assert(c, ui->dirty);
 481
 482         instantiated = 1;
 483         mutex_unlock(&ui->ui_mutex);
 484
 485         lock_2_inodes(dir, inode);
 486         err = ubifs_jnl_update(c, dir, &nm, inode, 1, 0);
 487         if (err)
 488                 goto out_cancel;
 489         unlock_2_inodes(dir, inode);
 490
 491         ubifs_release_budget(c, &req);
 492
 493         return finish_open_simple(file, 0);
 494
 495 out_cancel:
 496         unlock_2_inodes(dir, inode);
 497 out_inode:
 498         make_bad_inode(inode);
 499         if (!instantiated)
 500                 iput(inode);
 501 out_budg:
 502         ubifs_release_budget(c, &req);
 503         if (!instantiated)
 504                 ubifs_release_budget(c, &ino_req);
 505         fscrypt_free_filename(&nm);
 506         ubifs_err(c, "cannot create temporary file, error %d", err);
 507         return err;
 508 }
 509
 510 /**
 511  * vfs_dent_type - get VFS directory entry type.
 512  * @type: UBIFS directory entry type
 513  *
 514  * This function converts UBIFS directory entry type into VFS directory entry
 515  * type.
 516  */
 517 static unsigned int vfs_dent_type(uint8_t type)
 518 {
 519         switch (type) {
 520         case UBIFS_ITYPE_REG:
 521                 return DT_REG;
 522         case UBIFS_ITYPE_DIR:
 523                 return DT_DIR;
 524         case UBIFS_ITYPE_LNK:
 525                 return DT_LNK;
 526         case UBIFS_ITYPE_BLK:
 527                 return DT_BLK;
 528         case UBIFS_ITYPE_CHR:
 529                 return DT_CHR;
 530         case UBIFS_ITYPE_FIFO:
 531                 return DT_FIFO;
 532         case UBIFS_ITYPE_SOCK:
 533                 return DT_SOCK;
 534         default:
 535                 BUG();
 536         }
 537         return 0;
 538 }
 539
 540 /*
 541  * The classical Unix view for directory is that it is a linear array of
 542  * (name, inode number) entries. Linux/VFS assumes this model as well.
 543  * Particularly, 'readdir()' call wants us to return a directory entry offset
 544  * which later may be used to continue 'readdir()'ing the directory or to
 545  * 'seek()' to that specific direntry. Obviously UBIFS does not really fit this
 546  * model because directory entries are identified by keys, which may collide.
 547  *
 548  * UBIFS uses directory entry hash value for directory offsets, so
 549  * 'seekdir()'/'telldir()' may not always work because of possible key
 550  * collisions. But UBIFS guarantees that consecutive 'readdir()' calls work
 551  * properly by means of saving full directory entry name in the private field
 552  * of the file description object.
 553  *
 554  * This means that UBIFS cannot support NFS which requires full
 555  * 'seekdir()'/'telldir()' support.
 556  */
 557 static int ubifs_readdir(struct file *file, struct dir_context *ctx)
 558 {
 559         int fstr_real_len = 0, err = 0;
 560         struct fscrypt_name nm;
 561         struct fscrypt_str fstr = {0};
 562         union ubifs_key key;
 563         struct ubifs_dent_node *dent;
 564         struct inode *dir = file_inode(file);
 565         struct ubifs_info *c = dir->i_sb->s_fs_info;
 566         bool encrypted = IS_ENCRYPTED(dir);
 567
 568         dbg_gen("dir ino %lu, f_pos %#llx", dir->i_ino, ctx->pos);
 569
 570         if (ctx->pos > UBIFS_S_KEY_HASH_MASK || ctx->pos == 2)
 571                 /*
 572                  * The directory was seek'ed to a senseless position or there
 573                  * are no more entries.
 574                  */
 575                 return 0;
 576
 577         if (encrypted) {
 578                 err = fscrypt_prepare_readdir(dir);
 579                 if (err)
 580                         return err;
 581
 582                 err = fscrypt_fname_alloc_buffer(UBIFS_MAX_NLEN, &fstr);
 583                 if (err)
 584                         return err;
 585
 586                 fstr_real_len = fstr.len;
 587         }
 588
 589         if (file->f_version == 0) {
 590                 /*
 591                  * The file was seek'ed, which means that @file->private_data
 592                  * is now invalid. This may also be just the first
 593                  * 'ubifs_readdir()' invocation, in which case
 594                  * @file->private_data is NULL, and the below code is
 595                  * basically a no-op.
 596                  */
 597                 kfree(file->private_data);
 598                 file->private_data = NULL;
 599         }
 600
 601         /*
 602          * 'generic_file_llseek()' unconditionally sets @file->f_version to
 603          * zero, and we use this for detecting whether the file was seek'ed.
 604          */
 605         file->f_version = 1;
 606
 607         /* File positions 0 and 1 correspond to "." and ".." */
 608         if (ctx->pos < 2) {
 609                 ubifs_assert(c, !file->private_data);
 610                 if (!dir_emit_dots(file, ctx)) {
 611                         if (encrypted)
 612                                 fscrypt_fname_free_buffer(&fstr);
 613                         return 0;
 614                 }
 615
 616                 /* Find the first entry in TNC and save it */
 617                 lowest_dent_key(c, &key, dir->i_ino);
 618                 fname_len(&nm) = 0;
 619                 dent = ubifs_tnc_next_ent(c, &key, &nm);
 620                 if (IS_ERR(dent)) {
 621                         err = PTR_ERR(dent);
 622                         goto out;
 623                 }
 624
 625                 ctx->pos = key_hash_flash(c, &dent->key);
 626                 file->private_data = dent;
 627         }
 628
 629         dent = file->private_data;
 630         if (!dent) {
 631                 /*
 632                  * The directory was seek'ed to and is now readdir'ed.
 633                  * Find the entry corresponding to @ctx->pos or the closest one.
 634                  */
 635                 dent_key_init_hash(c, &key, dir->i_ino, ctx->pos);
 636                 fname_len(&nm) = 0;
 637                 dent = ubifs_tnc_next_ent(c, &key, &nm);
 638                 if (IS_ERR(dent)) {
 639                         err = PTR_ERR(dent);
 640                         goto out;
 641                 }
 642                 ctx->pos = key_hash_flash(c, &dent->key);
 643                 file->private_data = dent;
 644         }
 645
 646         while (1) {
 647                 dbg_gen("ino %llu, new f_pos %#x",
 648                         (unsigned long long)le64_to_cpu(dent->inum),
 649                         key_hash_flash(c, &dent->key));
 650                 ubifs_assert(c, le64_to_cpu(dent->ch.sqnum) >
 651                              ubifs_inode(dir)->creat_sqnum);
 652
 653                 fname_len(&nm) = le16_to_cpu(dent->nlen);
 654                 fname_name(&nm) = dent->name;
 655
 656                 if (encrypted) {
 657                         fstr.len = fstr_real_len;
 658
 659                         err = fscrypt_fname_disk_to_usr(dir, key_hash_flash(c,
 660                                                         &dent->key),
 661                                                         le32_to_cpu(dent->cookie),
 662                                                         &nm.disk_name, &fstr);
 663                         if (err)
 664                                 goto out;
 665                 } else {
 666                         fstr.len = fname_len(&nm);
 667                         fstr.name = fname_name(&nm);
 668                 }
 669
 670                 if (!dir_emit(ctx, fstr.name, fstr.len,
 671                                le64_to_cpu(dent->inum),
 672                                vfs_dent_type(dent->type))) {
 673                         if (encrypted)
 674                                 fscrypt_fname_free_buffer(&fstr);
 675                         return 0;
 676                 }
 677
 678                 /* Switch to the next entry */
 679                 key_read(c, &dent->key, &key);
 680                 dent = ubifs_tnc_next_ent(c, &key, &nm);
 681                 if (IS_ERR(dent)) {
 682                         err = PTR_ERR(dent);
 683                         goto out;
 684                 }
 685
 686                 kfree(file->private_data);
 687                 ctx->pos = key_hash_flash(c, &dent->key);
 688                 file->private_data = dent;
 689                 cond_resched();
 690         }
 691
 692 out:
 693         kfree(file->private_data);
 694         file->private_data = NULL;
 695
 696         if (encrypted)
 697                 fscrypt_fname_free_buffer(&fstr);
 698
 699         if (err != -ENOENT)
 700                 ubifs_err(c, "cannot find next direntry, error %d", err);
 701         else
 702                 /*
 703                  * -ENOENT is a non-fatal error in this context, the TNC uses
 704                  * it to indicate that the cursor moved past the current directory
 705                  * and readdir() has to stop.
 706                  */
 707                 err = 0;
 708
 709
 710         /* 2 is a special value indicating that there are no more direntries */
 711         ctx->pos = 2;
 712         return err;
 713 }
 714
 715 /* Free saved readdir() state when the directory is closed */
 716 static int ubifs_dir_release(struct inode *dir, struct file *file)
 717 {
 718         kfree(file->private_data);
 719         file->private_data = NULL;
 720         return 0;
 721 }
 722
 723 static int ubifs_link(struct dentry *old_dentry, struct inode *dir,
 724                       struct dentry *dentry)
 725 {
 726         struct ubifs_info *c = dir->i_sb->s_fs_info;
 727         struct inode *inode = d_inode(old_dentry);
 728         struct ubifs_inode *ui = ubifs_inode(inode);
 729         struct ubifs_inode *dir_ui = ubifs_inode(dir);
 730         int err, sz_change = CALC_DENT_SIZE(dentry->d_name.len);
 731         struct ubifs_budget_req req = { .new_dent = 1, .dirtied_ino = 2,
 732                                 .dirtied_ino_d = ALIGN(ui->data_len, 8) };
 733         struct fscrypt_name nm;
 734
 735         /*
 736          * Budget request settings: new direntry, changing the target inode,
 737          * changing the parent inode.
 738          */
 739
 740         dbg_gen("dent '%pd' to ino %lu (nlink %d) in dir ino %lu",
 741                 dentry, inode->i_ino,
 742                 inode->i_nlink, dir->i_ino);
 743         ubifs_assert(c, inode_is_locked(dir));
 744         ubifs_assert(c, inode_is_locked(inode));
 745
 746         err = fscrypt_prepare_link(old_dentry, dir, dentry);
 747         if (err)
 748                 return err;
 749
 750         err = fscrypt_setup_filename(dir, &dentry->d_name, 0, &nm);
 751         if (err)
 752                 return err;
 753
 754         err = dbg_check_synced_i_size(c, inode);
 755         if (err)
 756                 goto out_fname;
 757
 758         err = ubifs_budget_space(c, &req);
 759         if (err)
 760                 goto out_fname;
 761
 762         lock_2_inodes(dir, inode);
 763
 764         /* Handle O_TMPFILE corner case, it is allowed to link a O_TMPFILE. */
 765         if (inode->i_nlink == 0)
 766                 ubifs_delete_orphan(c, inode->i_ino);
 767
 768         inc_nlink(inode);
 769         ihold(inode);
 770         inode->i_ctime = current_time(inode);
 771         dir->i_size += sz_change;
 772         dir_ui->ui_size = dir->i_size;
 773         dir->i_mtime = dir->i_ctime = inode->i_ctime;
 774         err = ubifs_jnl_update(c, dir, &nm, inode, 0, 0);
 775         if (err)
 776                 goto out_cancel;
 777         unlock_2_inodes(dir, inode);
 778
 779         ubifs_release_budget(c, &req);
 780         d_instantiate(dentry, inode);
 781         fscrypt_free_filename(&nm);
 782         return 0;
 783
 784 out_cancel:
 785         dir->i_size -= sz_change;
 786         dir_ui->ui_size = dir->i_size;
 787         drop_nlink(inode);
 788         if (inode->i_nlink == 0)
 789                 ubifs_add_orphan(c, inode->i_ino);
 790         unlock_2_inodes(dir, inode);
 791         ubifs_release_budget(c, &req);
 792         iput(inode);
 793 out_fname:
 794         fscrypt_free_filename(&nm);
 795         return err;
 796 }
 797
 798 static int ubifs_unlink(struct inode *dir, struct dentry *dentry)
 799 {
 800         struct ubifs_info *c = dir->i_sb->s_fs_info;
 801         struct inode *inode = d_inode(dentry);
 802         struct ubifs_inode *dir_ui = ubifs_inode(dir);
 803         int err, sz_change, budgeted = 1;
 804         struct ubifs_budget_req req = { .mod_dent = 1, .dirtied_ino = 2 };
 805         unsigned int saved_nlink = inode->i_nlink;
 806         struct fscrypt_name nm;
 807
 808         /*
 809          * Budget request settings: deletion direntry, deletion inode (+1 for
 810          * @dirtied_ino), changing the parent directory inode. If budgeting
 811          * fails, go ahead anyway because we have extra space reserved for
 812          * deletions.
 813          */
 814
 815         dbg_gen("dent '%pd' from ino %lu (nlink %d) in dir ino %lu",
 816                 dentry, inode->i_ino,
 817                 inode->i_nlink, dir->i_ino);
 818
 819         err = fscrypt_setup_filename(dir, &dentry->d_name, 1, &nm);
 820         if (err)
 821                 return err;
 822
 823         err = ubifs_purge_xattrs(inode);
 824         if (err)
 825                 return err;
 826
 827         sz_change = CALC_DENT_SIZE(fname_len(&nm));
 828
 829         ubifs_assert(c, inode_is_locked(dir));
 830         ubifs_assert(c, inode_is_locked(inode));
 831         err = dbg_check_synced_i_size(c, inode);
 832         if (err)
 833                 goto out_fname;
 834
 835         err = ubifs_budget_space(c, &req);
 836         if (err) {
 837                 if (err != -ENOSPC)
 838                         goto out_fname;
 839                 budgeted = 0;
 840         }
 841
 842         lock_2_inodes(dir, inode);
 843         inode->i_ctime = current_time(dir);
 844         drop_nlink(inode);
 845         dir->i_size -= sz_change;
 846         dir_ui->ui_size = dir->i_size;
 847         dir->i_mtime = dir->i_ctime = inode->i_ctime;
 848         err = ubifs_jnl_update(c, dir, &nm, inode, 1, 0);
 849         if (err)
 850                 goto out_cancel;
 851         unlock_2_inodes(dir, inode);
 852
 853         if (budgeted)
 854                 ubifs_release_budget(c, &req);
 855         else {
 856                 /* We've deleted something - clean the "no space" flags */
 857                 c->bi.nospace = c->bi.nospace_rp = 0;
 858                 smp_wmb();
 859         }
 860         fscrypt_free_filename(&nm);
 861         return 0;
 862
 863 out_cancel:
 864         dir->i_size += sz_change;
 865         dir_ui->ui_size = dir->i_size;
 866         set_nlink(inode, saved_nlink);
 867         unlock_2_inodes(dir, inode);
 868         if (budgeted)
 869                 ubifs_release_budget(c, &req);
 870 out_fname:
 871         fscrypt_free_filename(&nm);
 872         return err;
 873 }
 874
 875 /**
 876  * check_dir_empty - check if a directory is empty or not.
 877  * @dir: VFS inode object of the directory to check
 878  *
 879  * This function checks if directory @dir is empty. Returns zero if the
 880  * directory is empty, %-ENOTEMPTY if it is not, and other negative error codes
 881  * in case of errors.
 882  */
 883 int ubifs_check_dir_empty(struct inode *dir)
 884 {
 885         struct ubifs_info *c = dir->i_sb->s_fs_info;
 886         struct fscrypt_name nm = { 0 };
 887         struct ubifs_dent_node *dent;
 888         union ubifs_key key;
 889         int err;
 890
 891         lowest_dent_key(c, &key, dir->i_ino);
 892         dent = ubifs_tnc_next_ent(c, &key, &nm);
 893         if (IS_ERR(dent)) {
 894                 err = PTR_ERR(dent);
 895                 if (err == -ENOENT)
 896                         err = 0;
 897         } else {
 898                 kfree(dent);
 899                 err = -ENOTEMPTY;
 900         }
 901         return err;
 902 }
 903
 904 static int ubifs_rmdir(struct inode *dir, struct dentry *dentry)
 905 {
 906         struct ubifs_info *c = dir->i_sb->s_fs_info;
 907         struct inode *inode = d_inode(dentry);
 908         int err, sz_change, budgeted = 1;
 909         struct ubifs_inode *dir_ui = ubifs_inode(dir);
 910         struct ubifs_budget_req req = { .mod_dent = 1, .dirtied_ino = 2 };
 911         struct fscrypt_name nm;
 912
 913         /*
 914          * Budget request settings: deletion direntry, deletion inode and
 915          * changing the parent inode. If budgeting fails, go ahead anyway
 916          * because we have extra space reserved for deletions.
 917          */
 918
 919         dbg_gen("directory '%pd', ino %lu in dir ino %lu", dentry,
 920                 inode->i_ino, dir->i_ino);
 921         ubifs_assert(c, inode_is_locked(dir));
 922         ubifs_assert(c, inode_is_locked(inode));
 923         err = ubifs_check_dir_empty(d_inode(dentry));
 924         if (err)
 925                 return err;
 926
 927         err = fscrypt_setup_filename(dir, &dentry->d_name, 1, &nm);
 928         if (err)
 929                 return err;
 930
 931         err = ubifs_purge_xattrs(inode);
 932         if (err)
 933                 return err;
 934
 935         sz_change = CALC_DENT_SIZE(fname_len(&nm));
 936
 937         err = ubifs_budget_space(c, &req);
 938         if (err) {
 939                 if (err != -ENOSPC)
 940                         goto out_fname;
 941                 budgeted = 0;
 942         }
 943
 944         lock_2_inodes(dir, inode);
 945         inode->i_ctime = current_time(dir);
 946         clear_nlink(inode);
 947         drop_nlink(dir);
 948         dir->i_size -= sz_change;
 949         dir_ui->ui_size = dir->i_size;
 950         dir->i_mtime = dir->i_ctime = inode->i_ctime;
 951         err = ubifs_jnl_update(c, dir, &nm, inode, 1, 0);
 952         if (err)
 953                 goto out_cancel;
 954         unlock_2_inodes(dir, inode);
 955
 956         if (budgeted)
 957                 ubifs_release_budget(c, &req);
 958         else {
 959                 /* We've deleted something - clean the "no space" flags */
 960                 c->bi.nospace = c->bi.nospace_rp = 0;
 961                 smp_wmb();
 962         }
 963         fscrypt_free_filename(&nm);
 964         return 0;
 965
 966 out_cancel:
 967         dir->i_size += sz_change;
 968         dir_ui->ui_size = dir->i_size;
 969         inc_nlink(dir);
 970         set_nlink(inode, 2);
 971         unlock_2_inodes(dir, inode);
 972         if (budgeted)
 973                 ubifs_release_budget(c, &req);
 974 out_fname:
 975         fscrypt_free_filename(&nm);
 976         return err;
 977 }
 978
 979 static int ubifs_mkdir(struct user_namespace *mnt_userns, struct inode *dir,
 980                        struct dentry *dentry, umode_t mode)
 981 {
 982         struct inode *inode;
 983         struct ubifs_inode *dir_ui = ubifs_inode(dir);
 984         struct ubifs_info *c = dir->i_sb->s_fs_info;
 985         int err, sz_change;
 986         struct ubifs_budget_req req = { .new_ino = 1, .new_dent = 1,
 987                                         .dirtied_ino = 1};
 988         struct fscrypt_name nm;
 989
 990         /*
 991          * Budget request settings: new inode, new direntry and changing parent
 992          * directory inode.
 993          */
 994
 995         dbg_gen("dent '%pd', mode %#hx in dir ino %lu",
 996                 dentry, mode, dir->i_ino);
 997
 998         err = ubifs_budget_space(c, &req);
 999         if (err)
1000                 return err;
1001
1002         err = ubifs_prepare_create(dir, dentry, &nm);
1003         if (err)
1004                 goto out_budg;
1005
1006         sz_change = CALC_DENT_SIZE(fname_len(&nm));
1007
1008         inode = ubifs_new_inode(c, dir, S_IFDIR | mode);
1009         if (IS_ERR(inode)) {
1010                 err = PTR_ERR(inode);
1011                 goto out_fname;
1012         }
1013
1014         err = ubifs_init_security(dir, inode, &dentry->d_name);
1015         if (err)
1016                 goto out_inode;
1017
1018         mutex_lock(&dir_ui->ui_mutex);
1019         insert_inode_hash(inode);
1020         inc_nlink(inode);
1021         inc_nlink(dir);
1022         dir->i_size += sz_change;
1023         dir_ui->ui_size = dir->i_size;
1024         dir->i_mtime = dir->i_ctime = inode->i_ctime;
1025         err = ubifs_jnl_update(c, dir, &nm, inode, 0, 0);
1026         if (err) {
1027                 ubifs_err(c, "cannot create directory, error %d", err);
1028                 goto out_cancel;
1029         }
1030         mutex_unlock(&dir_ui->ui_mutex);
1031
1032         ubifs_release_budget(c, &req);
1033         d_instantiate(dentry, inode);
1034         fscrypt_free_filename(&nm);
1035         return 0;
1036
1037 out_cancel:
1038         dir->i_size -= sz_change;
1039         dir_ui->ui_size = dir->i_size;
1040         drop_nlink(dir);
1041         mutex_unlock(&dir_ui->ui_mutex);
1042 out_inode:
1043         make_bad_inode(inode);
1044         iput(inode);
1045 out_fname:
1046         fscrypt_free_filename(&nm);
1047 out_budg:
1048         ubifs_release_budget(c, &req);
1049         return err;
1050 }
1051
1052 static int ubifs_mknod(struct user_namespace *mnt_userns, struct inode *dir,
1053                        struct dentry *dentry, umode_t mode, dev_t rdev)
1054 {
1055         struct inode *inode;
1056         struct ubifs_inode *ui;
1057         struct ubifs_inode *dir_ui = ubifs_inode(dir);
1058         struct ubifs_info *c = dir->i_sb->s_fs_info;
1059         union ubifs_dev_desc *dev = NULL;
1060         int sz_change;
1061         int err, devlen = 0;
1062         struct ubifs_budget_req req = { .new_ino = 1, .new_dent = 1,
1063                                         .dirtied_ino = 1 };
1064         struct fscrypt_name nm;
1065
1066         /*
1067          * Budget request settings: new inode, new direntry and changing parent
1068          * directory inode.
1069          */
1070
1071         dbg_gen("dent '%pd' in dir ino %lu", dentry, dir->i_ino);
1072
1073         if (S_ISBLK(mode) || S_ISCHR(mode)) {
1074                 dev = kmalloc(sizeof(union ubifs_dev_desc), GFP_NOFS);
1075                 if (!dev)
1076                         return -ENOMEM;
1077                 devlen = ubifs_encode_dev(dev, rdev);
1078         }
1079
1080         req.new_ino_d = ALIGN(devlen, 8);
1081         err = ubifs_budget_space(c, &req);
1082         if (err) {
1083                 kfree(dev);
1084                 return err;
1085         }
1086
1087         err = ubifs_prepare_create(dir, dentry, &nm);
1088         if (err) {
1089                 kfree(dev);
1090                 goto out_budg;
1091         }
1092
1093         sz_change = CALC_DENT_SIZE(fname_len(&nm));
1094
1095         inode = ubifs_new_inode(c, dir, mode);
1096         if (IS_ERR(inode)) {
1097                 kfree(dev);
1098                 err = PTR_ERR(inode);
1099                 goto out_fname;
1100         }
1101
1102         init_special_inode(inode, inode->i_mode, rdev);
1103         inode->i_size = ubifs_inode(inode)->ui_size = devlen;
1104         ui = ubifs_inode(inode);
1105         ui->data = dev;
1106         ui->data_len = devlen;
1107
1108         err = ubifs_init_security(dir, inode, &dentry->d_name);
1109         if (err)
1110                 goto out_inode;
1111
1112         mutex_lock(&dir_ui->ui_mutex);
1113         dir->i_size += sz_change;
1114         dir_ui->ui_size = dir->i_size;
1115         dir->i_mtime = dir->i_ctime = inode->i_ctime;
1116         err = ubifs_jnl_update(c, dir, &nm, inode, 0, 0);
1117         if (err)
1118                 goto out_cancel;
1119         mutex_unlock(&dir_ui->ui_mutex);
1120
1121         ubifs_release_budget(c, &req);
1122         insert_inode_hash(inode);
1123         d_instantiate(dentry, inode);
1124         fscrypt_free_filename(&nm);
1125         return 0;
1126
1127 out_cancel:
1128         dir->i_size -= sz_change;
1129         dir_ui->ui_size = dir->i_size;
1130         mutex_unlock(&dir_ui->ui_mutex);
1131 out_inode:
1132         make_bad_inode(inode);
1133         iput(inode);
1134 out_fname:
1135         fscrypt_free_filename(&nm);
1136 out_budg:
1137         ubifs_release_budget(c, &req);
1138         return err;
1139 }
1140
1141 static int ubifs_symlink(struct user_namespace *mnt_userns, struct inode *dir,
1142                          struct dentry *dentry, const char *symname)
1143 {
1144         struct inode *inode;
1145         struct ubifs_inode *ui;
1146         struct ubifs_inode *dir_ui = ubifs_inode(dir);
1147         struct ubifs_info *c = dir->i_sb->s_fs_info;
1148         int err, sz_change, len = strlen(symname);
1149         struct fscrypt_str disk_link;
1150         struct ubifs_budget_req req = { .new_ino = 1, .new_dent = 1,
1151                                         .new_ino_d = ALIGN(len, 8),
1152                                         .dirtied_ino = 1 };
1153         struct fscrypt_name nm;
1154
1155         dbg_gen("dent '%pd', target '%s' in dir ino %lu", dentry,
1156                 symname, dir->i_ino);
1157
1158         err = fscrypt_prepare_symlink(dir, symname, len, UBIFS_MAX_INO_DATA,
1159                                       &disk_link);
1160         if (err)
1161                 return err;
1162
1163         /*
1164          * Budget request settings: new inode, new direntry and changing parent
1165          * directory inode.
1166          */
1167         err = ubifs_budget_space(c, &req);
1168         if (err)
1169                 return err;
1170
1171         err = ubifs_prepare_create(dir, dentry, &nm);
1172         if (err)
1173                 goto out_budg;
1174
1175         sz_change = CALC_DENT_SIZE(fname_len(&nm));
1176
1177         inode = ubifs_new_inode(c, dir, S_IFLNK | S_IRWXUGO);
1178         if (IS_ERR(inode)) {
1179                 err = PTR_ERR(inode);
1180                 goto out_fname;
1181         }
1182
1183         ui = ubifs_inode(inode);
1184         ui->data = kmalloc(disk_link.len, GFP_NOFS);
1185         if (!ui->data) {
1186                 err = -ENOMEM;
1187                 goto out_inode;
1188         }
1189
1190         if (IS_ENCRYPTED(inode)) {
1191                 disk_link.name = ui->data; /* encrypt directly into ui->data */
1192                 err = fscrypt_encrypt_symlink(inode, symname, len, &disk_link);
1193                 if (err)
1194                         goto out_inode;
1195         } else {
1196                 memcpy(ui->data, disk_link.name, disk_link.len);
1197                 inode->i_link = ui->data;
1198         }
1199
1200         /*
1201          * The terminating zero byte is not written to the flash media and it
1202          * is put just to make later in-memory string processing simpler. Thus,
1203          * data length is @disk_link.len - 1, not @disk_link.len.
1204          */
1205         ui->data_len = disk_link.len - 1;
1206         inode->i_size = ubifs_inode(inode)->ui_size = disk_link.len - 1;
1207
1208         err = ubifs_init_security(dir, inode, &dentry->d_name);
1209         if (err)
1210                 goto out_inode;
1211
1212         mutex_lock(&dir_ui->ui_mutex);
1213         dir->i_size += sz_change;
1214         dir_ui->ui_size = dir->i_size;
1215         dir->i_mtime = dir->i_ctime = inode->i_ctime;
1216         err = ubifs_jnl_update(c, dir, &nm, inode, 0, 0);
1217         if (err)
1218                 goto out_cancel;
1219         mutex_unlock(&dir_ui->ui_mutex);
1220
1221         insert_inode_hash(inode);
1222         d_instantiate(dentry, inode);
1223         err = 0;
1224         goto out_fname;
1225
1226 out_cancel:
1227         dir->i_size -= sz_change;
1228         dir_ui->ui_size = dir->i_size;
1229         mutex_unlock(&dir_ui->ui_mutex);
1230 out_inode:
1231         make_bad_inode(inode);
1232         iput(inode);
1233 out_fname:
1234         fscrypt_free_filename(&nm);
1235 out_budg:
1236         ubifs_release_budget(c, &req);
1237         return err;
1238 }
1239
1240 /**
1241  * lock_4_inodes - a wrapper for locking three UBIFS inodes.
1242  * @inode1: first inode
1243  * @inode2: second inode
1244  * @inode3: third inode
1245  * @inode4: fourth inode
1246  *
1247  * This function is used for 'ubifs_rename()' and @inode1 may be the same as
1248  * @inode2 whereas @inode3 and @inode4 may be %NULL.
1249  *
1250  * We do not implement any tricks to guarantee strict lock ordering, because
1251  * VFS has already done it for us on the @i_mutex. So this is just a simple
1252  * wrapper function.
1253  */
1254 static void lock_4_inodes(struct inode *inode1, struct inode *inode2,
1255                           struct inode *inode3, struct inode *inode4)
1256 {
1257         mutex_lock_nested(&ubifs_inode(inode1)->ui_mutex, WB_MUTEX_1);
1258         if (inode2 != inode1)
1259                 mutex_lock_nested(&ubifs_inode(inode2)->ui_mutex, WB_MUTEX_2);
1260         if (inode3)
1261                 mutex_lock_nested(&ubifs_inode(inode3)->ui_mutex, WB_MUTEX_3);
1262         if (inode4)
1263                 mutex_lock_nested(&ubifs_inode(inode4)->ui_mutex, WB_MUTEX_4);
1264 }
1265
1266 /**
1267  * unlock_4_inodes - a wrapper for unlocking three UBIFS inodes for rename.
1268  * @inode1: first inode
1269  * @inode2: second inode
1270  * @inode3: third inode
1271  * @inode4: fourth inode
1272  */
1273 static void unlock_4_inodes(struct inode *inode1, struct inode *inode2,
1274                             struct inode *inode3, struct inode *inode4)
1275 {
1276         if (inode4)
1277                 mutex_unlock(&ubifs_inode(inode4)->ui_mutex);
1278         if (inode3)
1279                 mutex_unlock(&ubifs_inode(inode3)->ui_mutex);
1280         if (inode1 != inode2)
1281                 mutex_unlock(&ubifs_inode(inode2)->ui_mutex);
1282         mutex_unlock(&ubifs_inode(inode1)->ui_mutex);
1283 }
1284
1285 static int do_rename(struct inode *old_dir, struct dentry *old_dentry,
1286                      struct inode *new_dir, struct dentry *new_dentry,
1287                      unsigned int flags)
1288 {
1289         struct ubifs_info *c = old_dir->i_sb->s_fs_info;
1290         struct inode *old_inode = d_inode(old_dentry);
1291         struct inode *new_inode = d_inode(new_dentry);
1292         struct inode *whiteout = NULL;
1293         struct ubifs_inode *old_inode_ui = ubifs_inode(old_inode);
1294         struct ubifs_inode *whiteout_ui = NULL;
1295         int err, release, sync = 0, move = (new_dir != old_dir);
1296         int is_dir = S_ISDIR(old_inode->i_mode);
1297         int unlink = !!new_inode, new_sz, old_sz;
1298         struct ubifs_budget_req req = { .new_dent = 1, .mod_dent = 1,
1299                                         .dirtied_ino = 3 };
1300         struct ubifs_budget_req ino_req = { .dirtied_ino = 1,
1301                         .dirtied_ino_d = ALIGN(old_inode_ui->data_len, 8) };
1302         struct ubifs_budget_req wht_req;
1303         struct timespec64 time;
1304         unsigned int saved_nlink;
1305         struct fscrypt_name old_nm, new_nm;
1306
1307         /*
1308          * Budget request settings:
1309          *   req: deletion direntry, new direntry, removing the old inode,
1310          *   and changing old and new parent directory inodes.
1311          *
1312          *   wht_req: new whiteout inode for RENAME_WHITEOUT.
1313          *
1314          *   ino_req: marks the target inode as dirty and does not write it.
1315          */
1316
1317         dbg_gen("dent '%pd' ino %lu in dir ino %lu to dent '%pd' in dir ino %lu flags 0x%x",
1318                 old_dentry, old_inode->i_ino, old_dir->i_ino,
1319                 new_dentry, new_dir->i_ino, flags);
1320
1321         if (unlink) {
1322                 ubifs_assert(c, inode_is_locked(new_inode));
1323
1324                 err = ubifs_purge_xattrs(new_inode);
1325                 if (err)
1326                         return err;
1327         }
1328
1329         if (unlink && is_dir) {
1330                 err = ubifs_check_dir_empty(new_inode);
1331                 if (err)
1332                         return err;
1333         }
1334
1335         err = fscrypt_setup_filename(old_dir, &old_dentry->d_name, 0, &old_nm);
1336         if (err)
1337                 return err;
1338
1339         err = fscrypt_setup_filename(new_dir, &new_dentry->d_name, 0, &new_nm);
1340         if (err) {
1341                 fscrypt_free_filename(&old_nm);
1342                 return err;
1343         }
1344
1345         new_sz = CALC_DENT_SIZE(fname_len(&new_nm));
1346         old_sz = CALC_DENT_SIZE(fname_len(&old_nm));
1347
1348         err = ubifs_budget_space(c, &req);
1349         if (err) {
1350                 fscrypt_free_filename(&old_nm);
1351                 fscrypt_free_filename(&new_nm);
1352                 return err;
1353         }
1354         err = ubifs_budget_space(c, &ino_req);
1355         if (err) {
1356                 fscrypt_free_filename(&old_nm);
1357                 fscrypt_free_filename(&new_nm);
1358                 ubifs_release_budget(c, &req);
1359                 return err;
1360         }
1361
1362         if (flags & RENAME_WHITEOUT) {
1363                 union ubifs_dev_desc *dev = NULL;
1364
1365                 dev = kmalloc(sizeof(union ubifs_dev_desc), GFP_NOFS);
1366                 if (!dev) {
1367                         err = -ENOMEM;
1368                         goto out_release;
1369                 }
1370
1371                 /*
1372                  * The whiteout inode without dentry is pinned in memory,
1373                  * umount won't happen during rename process because we
1374                  * got parent dentry.
1375                  */
1376                 whiteout = create_whiteout(old_dir, old_dentry);
1377                 if (IS_ERR(whiteout)) {
1378                         err = PTR_ERR(whiteout);
1379                         kfree(dev);
1380                         goto out_release;
1381                 }
1382
1383                 whiteout_ui = ubifs_inode(whiteout);
1384                 whiteout_ui->data = dev;
1385                 whiteout_ui->data_len = ubifs_encode_dev(dev, MKDEV(0, 0));
1386                 ubifs_assert(c, !whiteout_ui->dirty);
1387
1388                 memset(&wht_req, 0, sizeof(struct ubifs_budget_req));
1389                 wht_req.new_ino = 1;
1390                 wht_req.new_ino_d = ALIGN(whiteout_ui->data_len, 8);
1391                 /*
1392                  * To avoid deadlock between space budget (holds ui_mutex and
1393                  * waits wb work) and writeback work(waits ui_mutex), do space
1394                  * budget before ubifs inodes locked.
1395                  */
1396                 err = ubifs_budget_space(c, &wht_req);
1397                 if (err) {
1398                         /*
1399                          * Whiteout inode can not be written on flash by
1400                          * ubifs_jnl_write_inode(), because it's neither
1401                          * dirty nor zero-nlink.
1402                          */
1403                         iput(whiteout);
1404                         goto out_release;
1405                 }
1406
1407                 /* Add the old_dentry size to the old_dir size. */
1408                 old_sz -= CALC_DENT_SIZE(fname_len(&old_nm));
1409         }
1410
1411         lock_4_inodes(old_dir, new_dir, new_inode, whiteout);
1412
1413         /*
1414          * Like most other Unix systems, set the @i_ctime for inodes on a
1415          * rename.
1416          */
1417         time = current_time(old_dir);
1418         old_inode->i_ctime = time;
1419
1420         /* We must adjust parent link count when renaming directories */
1421         if (is_dir) {
1422                 if (move) {
1423                         /*
1424                          * @old_dir loses a link because we are moving
1425                          * @old_inode to a different directory.
1426                          */
1427                         drop_nlink(old_dir);
1428                         /*
1429                          * @new_dir only gains a link if we are not also
1430                          * overwriting an existing directory.
1431                          */
1432                         if (!unlink)
1433                                 inc_nlink(new_dir);
1434                 } else {
1435                         /*
1436                          * @old_inode is not moving to a different directory,
1437                          * but @old_dir still loses a link if we are
1438                          * overwriting an existing directory.
1439                          */
1440                         if (unlink)
1441                                 drop_nlink(old_dir);
1442                 }
1443         }
1444
1445         old_dir->i_size -= old_sz;
1446         ubifs_inode(old_dir)->ui_size = old_dir->i_size;
1447         old_dir->i_mtime = old_dir->i_ctime = time;
1448         new_dir->i_mtime = new_dir->i_ctime = time;
1449
1450         /*
1451          * And finally, if we unlinked a direntry which happened to have the
1452          * same name as the moved direntry, we have to decrement @i_nlink of
1453          * the unlinked inode and change its ctime.
1454          */
1455         if (unlink) {
1456                 /*
1457                  * Directories cannot have hard-links, so if this is a
1458                  * directory, just clear @i_nlink.
1459                  */
1460                 saved_nlink = new_inode->i_nlink;
1461                 if (is_dir)
1462                         clear_nlink(new_inode);
1463                 else
1464                         drop_nlink(new_inode);
1465                 new_inode->i_ctime = time;
1466         } else {
1467                 new_dir->i_size += new_sz;
1468                 ubifs_inode(new_dir)->ui_size = new_dir->i_size;
1469         }
1470
1471         /*
1472          * Do not ask 'ubifs_jnl_rename()' to flush write-buffer if @old_inode
1473          * is dirty, because this will be done later on at the end of
1474          * 'ubifs_rename()'.
1475          */
1476         if (IS_SYNC(old_inode)) {
1477                 sync = IS_DIRSYNC(old_dir) || IS_DIRSYNC(new_dir);
1478                 if (unlink && IS_SYNC(new_inode))
1479                         sync = 1;
1480                 /*
1481                  * S_SYNC flag of whiteout inherits from the old_dir, and we
1482                  * have already checked the old dir inode. So there is no need
1483                  * to check whiteout.
1484                  */
1485         }
1486
1487         err = ubifs_jnl_rename(c, old_dir, old_inode, &old_nm, new_dir,
1488                                new_inode, &new_nm, whiteout, sync);
1489         if (err)
1490                 goto out_cancel;
1491
1492         unlock_4_inodes(old_dir, new_dir, new_inode, whiteout);
1493         ubifs_release_budget(c, &req);
1494
1495         if (whiteout) {
1496                 ubifs_release_budget(c, &wht_req);
1497                 iput(whiteout);
1498         }
1499
1500         mutex_lock(&old_inode_ui->ui_mutex);
1501         release = old_inode_ui->dirty;
1502         mark_inode_dirty_sync(old_inode);
1503         mutex_unlock(&old_inode_ui->ui_mutex);
1504
1505         if (release)
1506                 ubifs_release_budget(c, &ino_req);
1507         if (IS_SYNC(old_inode))
1508                 /*
1509                  * Rename finished here. Although old inode cannot be updated
1510                  * on flash, old ctime is not a big problem, don't return err
1511                  * code to userspace.
1512                  */
1513                 old_inode->i_sb->s_op->write_inode(old_inode, NULL);
1514
1515         fscrypt_free_filename(&old_nm);
1516         fscrypt_free_filename(&new_nm);
1517         return 0;
1518
1519 out_cancel:
1520         if (unlink) {
1521                 set_nlink(new_inode, saved_nlink);
1522         } else {
1523                 new_dir->i_size -= new_sz;
1524                 ubifs_inode(new_dir)->ui_size = new_dir->i_size;
1525         }
1526         old_dir->i_size += old_sz;
1527         ubifs_inode(old_dir)->ui_size = old_dir->i_size;
1528         if (is_dir) {
1529                 if (move) {
1530                         inc_nlink(old_dir);
1531                         if (!unlink)
1532                                 drop_nlink(new_dir);
1533                 } else {
1534                         if (unlink)
1535                                 inc_nlink(old_dir);
1536                 }
1537         }
1538         unlock_4_inodes(old_dir, new_dir, new_inode, whiteout);
1539         if (whiteout) {
1540                 ubifs_release_budget(c, &wht_req);
1541                 iput(whiteout);
1542         }
1543 out_release:
1544         ubifs_release_budget(c, &ino_req);
1545         ubifs_release_budget(c, &req);
1546         fscrypt_free_filename(&old_nm);
1547         fscrypt_free_filename(&new_nm);
1548         return err;
1549 }
1550
1551 static int ubifs_xrename(struct inode *old_dir, struct dentry *old_dentry,
1552                         struct inode *new_dir, struct dentry *new_dentry)
1553 {
1554         struct ubifs_info *c = old_dir->i_sb->s_fs_info;
1555         struct ubifs_budget_req req = { .new_dent = 1, .mod_dent = 1,
1556                                 .dirtied_ino = 2 };
1557         int sync = IS_DIRSYNC(old_dir) || IS_DIRSYNC(new_dir);
1558         struct inode *fst_inode = d_inode(old_dentry);
1559         struct inode *snd_inode = d_inode(new_dentry);
1560         struct timespec64 time;
1561         int err;
1562         struct fscrypt_name fst_nm, snd_nm;
1563
1564         ubifs_assert(c, fst_inode && snd_inode);
1565
1566         err = fscrypt_setup_filename(old_dir, &old_dentry->d_name, 0, &fst_nm);
1567         if (err)
1568                 return err;
1569
1570         err = fscrypt_setup_filename(new_dir, &new_dentry->d_name, 0, &snd_nm);
1571         if (err) {
1572                 fscrypt_free_filename(&fst_nm);
1573                 return err;
1574         }
1575
1576         lock_4_inodes(old_dir, new_dir, NULL, NULL);
1577
1578         time = current_time(old_dir);
1579         fst_inode->i_ctime = time;
1580         snd_inode->i_ctime = time;
1581         old_dir->i_mtime = old_dir->i_ctime = time;
1582         new_dir->i_mtime = new_dir->i_ctime = time;
1583
1584         if (old_dir != new_dir) {
1585                 if (S_ISDIR(fst_inode->i_mode) && !S_ISDIR(snd_inode->i_mode)) {
1586                         inc_nlink(new_dir);
1587                         drop_nlink(old_dir);
1588                 }
1589                 else if (!S_ISDIR(fst_inode->i_mode) && S_ISDIR(snd_inode->i_mode)) {
1590                         drop_nlink(new_dir);
1591                         inc_nlink(old_dir);
1592                 }
1593         }
1594
1595         err = ubifs_jnl_xrename(c, old_dir, fst_inode, &fst_nm, new_dir,
1596                                 snd_inode, &snd_nm, sync);
1597
1598         unlock_4_inodes(old_dir, new_dir, NULL, NULL);
1599         ubifs_release_budget(c, &req);
1600
1601         fscrypt_free_filename(&fst_nm);
1602         fscrypt_free_filename(&snd_nm);
1603         return err;
1604 }
1605
1606 static int ubifs_rename(struct user_namespace *mnt_userns,
1607                         struct inode *old_dir, struct dentry *old_dentry,
1608                         struct inode *new_dir, struct dentry *new_dentry,
1609                         unsigned int flags)
1610 {
1611         int err;
1612         struct ubifs_info *c = old_dir->i_sb->s_fs_info;
1613
1614         if (flags & ~(RENAME_NOREPLACE | RENAME_WHITEOUT | RENAME_EXCHANGE))
1615                 return -EINVAL;
1616
1617         ubifs_assert(c, inode_is_locked(old_dir));
1618         ubifs_assert(c, inode_is_locked(new_dir));
1619
1620         err = fscrypt_prepare_rename(old_dir, old_dentry, new_dir, new_dentry,
1621                                      flags);
1622         if (err)
1623                 return err;
1624
1625         if (flags & RENAME_EXCHANGE)
1626                 return ubifs_xrename(old_dir, old_dentry, new_dir, new_dentry);
1627
1628         return do_rename(old_dir, old_dentry, new_dir, new_dentry, flags);
1629 }
1630
1631 int ubifs_getattr(struct user_namespace *mnt_userns, const struct path *path,
1632                   struct kstat *stat, u32 request_mask, unsigned int flags)
1633 {
1634         loff_t size;
1635         struct inode *inode = d_inode(path->dentry);
1636         struct ubifs_inode *ui = ubifs_inode(inode);
1637
1638         mutex_lock(&ui->ui_mutex);
1639
1640         if (ui->flags & UBIFS_APPEND_FL)
1641                 stat->attributes |= STATX_ATTR_APPEND;
1642         if (ui->flags & UBIFS_COMPR_FL)
1643                 stat->attributes |= STATX_ATTR_COMPRESSED;
1644         if (ui->flags & UBIFS_CRYPT_FL)
1645                 stat->attributes |= STATX_ATTR_ENCRYPTED;
1646         if (ui->flags & UBIFS_IMMUTABLE_FL)
1647                 stat->attributes |= STATX_ATTR_IMMUTABLE;
1648
1649         stat->attributes_mask |= (STATX_ATTR_APPEND |
1650                                 STATX_ATTR_COMPRESSED |
1651                                 STATX_ATTR_ENCRYPTED |
1652                                 STATX_ATTR_IMMUTABLE);
1653
1654         generic_fillattr(&init_user_ns, inode, stat);
1655         stat->blksize = UBIFS_BLOCK_SIZE;
1656         stat->size = ui->ui_size;
1657
1658         /*
1659          * Unfortunately, the 'stat()' system call was designed for block
1660          * device based file systems, and it is not appropriate for UBIFS,
1661          * because UBIFS does not have notion of "block". For example, it is
1662          * difficult to tell how many block a directory takes - it actually
1663          * takes less than 300 bytes, but we have to round it to block size,
1664          * which introduces large mistake. This makes utilities like 'du' to
1665          * report completely senseless numbers. This is the reason why UBIFS
1666          * goes the same way as JFFS2 - it reports zero blocks for everything
1667          * but regular files, which makes more sense than reporting completely
1668          * wrong sizes.
1669          */
1670         if (S_ISREG(inode->i_mode)) {
1671                 size = ui->xattr_size;
1672                 size += stat->size;
1673                 size = ALIGN(size, UBIFS_BLOCK_SIZE);
1674                 /*
1675                  * Note, user-space expects 512-byte blocks count irrespectively
1676                  * of what was reported in @stat->size.
1677                  */
1678                 stat->blocks = size >> 9;
1679         } else
1680                 stat->blocks = 0;
1681         mutex_unlock(&ui->ui_mutex);
1682         return 0;
1683 }
1684
1685 const struct inode_operations ubifs_dir_inode_operations = {
1686         .lookup      = ubifs_lookup,
1687         .create      = ubifs_create,
1688         .link        = ubifs_link,
1689         .symlink     = ubifs_symlink,
1690         .unlink      = ubifs_unlink,
1691         .mkdir       = ubifs_mkdir,
1692         .rmdir       = ubifs_rmdir,
1693         .mknod       = ubifs_mknod,
1694         .rename      = ubifs_rename,
1695         .setattr     = ubifs_setattr,
1696         .getattr     = ubifs_getattr,
1697         .listxattr   = ubifs_listxattr,
1698         .update_time = ubifs_update_time,
1699         .tmpfile     = ubifs_tmpfile,
1700         .fileattr_get = ubifs_fileattr_get,
1701         .fileattr_set = ubifs_fileattr_set,
1702 };
1703
1704 const struct file_operations ubifs_dir_operations = {
1705         .llseek         = generic_file_llseek,
1706         .release        = ubifs_dir_release,
1707         .read           = generic_read_dir,
1708         .iterate_shared = ubifs_readdir,
1709         .fsync          = ubifs_fsync,
1710         .unlocked_ioctl = ubifs_ioctl,
1711 #ifdef CONFIG_COMPAT
1712         .compat_ioctl   = ubifs_compat_ioctl,
1713 #endif
1714 };