fs/nfsd/nfs4recover.c

   1 /*
   2 *  Copyright (c) 2004 The Regents of the University of Michigan.
   3 *  Copyright (c) 2012 Jeff Layton <jlayton@redhat.com>
   4 *  All rights reserved.
   5 *
   6 *  Andy Adamson <andros@citi.umich.edu>
   7 *
   8 *  Redistribution and use in source and binary forms, with or without
   9 *  modification, are permitted provided that the following conditions
  10 *  are met:
  11 *
  12 *  1. Redistributions of source code must retain the above copyright
  13 *     notice, this list of conditions and the following disclaimer.
  14 *  2. Redistributions in binary form must reproduce the above copyright
  15 *     notice, this list of conditions and the following disclaimer in the
  16 *     documentation and/or other materials provided with the distribution.
  17 *  3. Neither the name of the University nor the names of its
  18 *     contributors may be used to endorse or promote products derived
  19 *     from this software without specific prior written permission.
  20 *
  21 *  THIS SOFTWARE IS PROVIDED ``AS IS'' AND ANY EXPRESS OR IMPLIED
  22 *  WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF
  23 *  MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
  24 *  DISCLAIMED. IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
  25 *  FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
  26 *  CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
  27 *  SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR
  28 *  BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
  29 *  LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
  30 *  NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
  31 *  SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  32 *
  33 */
  34
  35 #include <linux/file.h>
  36 #include <linux/slab.h>
  37 #include <linux/namei.h>
  38 #include <linux/crypto.h>
  39 #include <linux/sched.h>
  40 #include <linux/fs.h>
  41 #include <linux/module.h>
  42 #include <net/net_namespace.h>
  43 #include <linux/sunrpc/rpc_pipe_fs.h>
  44 #include <linux/sunrpc/clnt.h>
  45 #include <linux/nfsd/cld.h>
  46
  47 #include "nfsd.h"
  48 #include "state.h"
  49 #include "vfs.h"
  50 #include "netns.h"
  51
  52 #define NFSDDBG_FACILITY                NFSDDBG_PROC
  53
  54 /* Declarations */
  55 struct nfsd4_client_tracking_ops {
  56         int (*init)(struct net *);
  57         void (*exit)(struct net *);
  58         void (*create)(struct nfs4_client *);
  59         void (*remove)(struct nfs4_client *);
  60         int (*check)(struct nfs4_client *);
  61         void (*grace_done)(struct net *, time_t);
  62 };
  63
  64 /* Globals */
  65 static struct file *rec_file;
  66 static char user_recovery_dirname[PATH_MAX] = "/var/lib/nfs/v4recovery";
  67 static struct nfsd4_client_tracking_ops *client_tracking_ops;
  68
  69 static int
  70 nfs4_save_creds(const struct cred **original_creds)
  71 {
  72         struct cred *new;
  73
  74         new = prepare_creds();
  75         if (!new)
  76                 return -ENOMEM;
  77
  78         new->fsuid = 0;
  79         new->fsgid = 0;
  80         *original_creds = override_creds(new);
  81         put_cred(new);
  82         return 0;
  83 }
  84
  85 static void
  86 nfs4_reset_creds(const struct cred *original)
  87 {
  88         revert_creds(original);
  89 }
  90
  91 static void
  92 md5_to_hex(char *out, char *md5)
  93 {
  94         int i;
  95
  96         for (i=0; i<16; i++) {
  97                 unsigned char c = md5[i];
  98
  99                 *out++ = '0' + ((c&0xf0)>>4) + (c>=0xa0)*('a'-'9'-1);
 100                 *out++ = '0' + (c&0x0f) + ((c&0x0f)>=0x0a)*('a'-'9'-1);
 101         }
 102         *out = '\0';
 103 }
 104
 105 __be32
 106 nfs4_make_rec_clidname(char *dname, struct xdr_netobj *clname)
 107 {
 108         struct xdr_netobj cksum;
 109         struct hash_desc desc;
 110         struct scatterlist sg;
 111         __be32 status = nfserr_jukebox;
 112
 113         dprintk("NFSD: nfs4_make_rec_clidname for %.*s\n",
 114                         clname->len, clname->data);
 115         desc.flags = CRYPTO_TFM_REQ_MAY_SLEEP;
 116         desc.tfm = crypto_alloc_hash("md5", 0, CRYPTO_ALG_ASYNC);
 117         if (IS_ERR(desc.tfm))
 118                 goto out_no_tfm;
 119         cksum.len = crypto_hash_digestsize(desc.tfm);
 120         cksum.data = kmalloc(cksum.len, GFP_KERNEL);
 121         if (cksum.data == NULL)
 122                 goto out;
 123
 124         sg_init_one(&sg, clname->data, clname->len);
 125
 126         if (crypto_hash_digest(&desc, &sg, sg.length, cksum.data))
 127                 goto out;
 128
 129         md5_to_hex(dname, cksum.data);
 130
 131         status = nfs_ok;
 132 out:
 133         kfree(cksum.data);
 134         crypto_free_hash(desc.tfm);
 135 out_no_tfm:
 136         return status;
 137 }
 138
 139 static void
 140 nfsd4_create_clid_dir(struct nfs4_client *clp)
 141 {
 142         const struct cred *original_cred;
 143         char *dname = clp->cl_recdir;
 144         struct dentry *dir, *dentry;
 145         int status;
 146
 147         dprintk("NFSD: nfsd4_create_clid_dir for \"%s\"\n", dname);
 148
 149         if (test_and_set_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags))
 150                 return;
 151         if (!rec_file)
 152                 return;
 153         status = nfs4_save_creds(&original_cred);
 154         if (status < 0)
 155                 return;
 156
 157         status = mnt_want_write_file(rec_file);
 158         if (status)
 159                 return;
 160
 161         dir = rec_file->f_path.dentry;
 162         /* lock the parent */
 163         mutex_lock(&dir->d_inode->i_mutex);
 164
 165         dentry = lookup_one_len(dname, dir, HEXDIR_LEN-1);
 166         if (IS_ERR(dentry)) {
 167                 status = PTR_ERR(dentry);
 168                 goto out_unlock;
 169         }
 170         if (dentry->d_inode)
 171                 /*
 172                  * In the 4.1 case, where we're called from
 173                  * reclaim_complete(), records from the previous reboot
 174                  * may still be left, so this is OK.
 175                  *
 176                  * In the 4.0 case, we should never get here; but we may
 177                  * as well be forgiving and just succeed silently.
 178                  */
 179                 goto out_put;
 180         status = vfs_mkdir(dir->d_inode, dentry, S_IRWXU);
 181 out_put:
 182         dput(dentry);
 183 out_unlock:
 184         mutex_unlock(&dir->d_inode->i_mutex);
 185         if (status == 0)
 186                 vfs_fsync(rec_file, 0);
 187         else
 188                 printk(KERN_ERR "NFSD: failed to write recovery record"
 189                                 " (err %d); please check that %s exists"
 190                                 " and is writeable", status,
 191                                 user_recovery_dirname);
 192         mnt_drop_write_file(rec_file);
 193         nfs4_reset_creds(original_cred);
 194 }
 195
 196 typedef int (recdir_func)(struct dentry *, struct dentry *);
 197
 198 struct name_list {
 199         char name[HEXDIR_LEN];
 200         struct list_head list;
 201 };
 202
 203 static int
 204 nfsd4_build_namelist(void *arg, const char *name, int namlen,
 205                 loff_t offset, u64 ino, unsigned int d_type)
 206 {
 207         struct list_head *names = arg;
 208         struct name_list *entry;
 209
 210         if (namlen != HEXDIR_LEN - 1)
 211                 return 0;
 212         entry = kmalloc(sizeof(struct name_list), GFP_KERNEL);
 213         if (entry == NULL)
 214                 return -ENOMEM;
 215         memcpy(entry->name, name, HEXDIR_LEN - 1);
 216         entry->name[HEXDIR_LEN - 1] = '\0';
 217         list_add(&entry->list, names);
 218         return 0;
 219 }
 220
 221 static int
 222 nfsd4_list_rec_dir(recdir_func *f)
 223 {
 224         const struct cred *original_cred;
 225         struct dentry *dir = rec_file->f_path.dentry;
 226         LIST_HEAD(names);
 227         int status;
 228
 229         status = nfs4_save_creds(&original_cred);
 230         if (status < 0)
 231                 return status;
 232
 233         status = vfs_llseek(rec_file, 0, SEEK_SET);
 234         if (status < 0) {
 235                 nfs4_reset_creds(original_cred);
 236                 return status;
 237         }
 238
 239         status = vfs_readdir(rec_file, nfsd4_build_namelist, &names);
 240         mutex_lock_nested(&dir->d_inode->i_mutex, I_MUTEX_PARENT);
 241         while (!list_empty(&names)) {
 242                 struct name_list *entry;
 243                 entry = list_entry(names.next, struct name_list, list);
 244                 if (!status) {
 245                         struct dentry *dentry;
 246                         dentry = lookup_one_len(entry->name, dir, HEXDIR_LEN-1);
 247                         if (IS_ERR(dentry)) {
 248                                 status = PTR_ERR(dentry);
 249                                 break;
 250                         }
 251                         status = f(dir, dentry);
 252                         dput(dentry);
 253                 }
 254                 list_del(&entry->list);
 255                 kfree(entry);
 256         }
 257         mutex_unlock(&dir->d_inode->i_mutex);
 258         nfs4_reset_creds(original_cred);
 259         return status;
 260 }
 261
 262 static int
 263 nfsd4_unlink_clid_dir(char *name, int namlen)
 264 {
 265         struct dentry *dir, *dentry;
 266         int status;
 267
 268         dprintk("NFSD: nfsd4_unlink_clid_dir. name %.*s\n", namlen, name);
 269
 270         dir = rec_file->f_path.dentry;
 271         mutex_lock_nested(&dir->d_inode->i_mutex, I_MUTEX_PARENT);
 272         dentry = lookup_one_len(name, dir, namlen);
 273         if (IS_ERR(dentry)) {
 274                 status = PTR_ERR(dentry);
 275                 goto out_unlock;
 276         }
 277         status = -ENOENT;
 278         if (!dentry->d_inode)
 279                 goto out;
 280         status = vfs_rmdir(dir->d_inode, dentry);
 281 out:
 282         dput(dentry);
 283 out_unlock:
 284         mutex_unlock(&dir->d_inode->i_mutex);
 285         return status;
 286 }
 287
 288 static void
 289 nfsd4_remove_clid_dir(struct nfs4_client *clp)
 290 {
 291         const struct cred *original_cred;
 292         int status;
 293
 294         if (!rec_file || !test_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags))
 295                 return;
 296
 297         status = mnt_want_write_file(rec_file);
 298         if (status)
 299                 goto out;
 300         clear_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags);
 301
 302         status = nfs4_save_creds(&original_cred);
 303         if (status < 0)
 304                 goto out_drop_write;
 305
 306         status = nfsd4_unlink_clid_dir(clp->cl_recdir, HEXDIR_LEN-1);
 307         nfs4_reset_creds(original_cred);
 308         if (status == 0)
 309                 vfs_fsync(rec_file, 0);
 310 out_drop_write:
 311         mnt_drop_write_file(rec_file);
 312 out:
 313         if (status)
 314                 printk("NFSD: Failed to remove expired client state directory"
 315                                 " %.*s\n", HEXDIR_LEN, clp->cl_recdir);
 316 }
 317
 318 static int
 319 purge_old(struct dentry *parent, struct dentry *child)
 320 {
 321         int status;
 322
 323         if (nfs4_has_reclaimed_state(child->d_name.name))
 324                 return 0;
 325
 326         status = vfs_rmdir(parent->d_inode, child);
 327         if (status)
 328                 printk("failed to remove client recovery directory %s\n",
 329                                 child->d_name.name);
 330         /* Keep trying, success or failure: */
 331         return 0;
 332 }
 333
 334 static void
 335 nfsd4_recdir_purge_old(struct net *net, time_t boot_time)
 336 {
 337         int status;
 338
 339         if (!rec_file)
 340                 return;
 341         status = mnt_want_write_file(rec_file);
 342         if (status)
 343                 goto out;
 344         status = nfsd4_list_rec_dir(purge_old);
 345         if (status == 0)
 346                 vfs_fsync(rec_file, 0);
 347         mnt_drop_write_file(rec_file);
 348 out:
 349         if (status)
 350                 printk("nfsd4: failed to purge old clients from recovery"
 351                         " directory %s\n", rec_file->f_path.dentry->d_name.name);
 352 }
 353
 354 static int
 355 load_recdir(struct dentry *parent, struct dentry *child)
 356 {
 357         if (child->d_name.len != HEXDIR_LEN - 1) {
 358                 printk("nfsd4: illegal name %s in recovery directory\n",
 359                                 child->d_name.name);
 360                 /* Keep trying; maybe the others are OK: */
 361                 return 0;
 362         }
 363         nfs4_client_to_reclaim(child->d_name.name);
 364         return 0;
 365 }
 366
 367 static int
 368 nfsd4_recdir_load(void) {
 369         int status;
 370
 371         if (!rec_file)
 372                 return 0;
 373
 374         status = nfsd4_list_rec_dir(load_recdir);
 375         if (status)
 376                 printk("nfsd4: failed loading clients from recovery"
 377                         " directory %s\n", rec_file->f_path.dentry->d_name.name);
 378         return status;
 379 }
 380
 381 /*
 382  * Hold reference to the recovery directory.
 383  */
 384
 385 static int
 386 nfsd4_init_recdir(void)
 387 {
 388         const struct cred *original_cred;
 389         int status;
 390
 391         printk("NFSD: Using %s as the NFSv4 state recovery directory\n",
 392                         user_recovery_dirname);
 393
 394         BUG_ON(rec_file);
 395
 396         status = nfs4_save_creds(&original_cred);
 397         if (status < 0) {
 398                 printk("NFSD: Unable to change credentials to find recovery"
 399                        " directory: error %d\n",
 400                        status);
 401                 return status;
 402         }
 403
 404         rec_file = filp_open(user_recovery_dirname, O_RDONLY | O_DIRECTORY, 0);
 405         if (IS_ERR(rec_file)) {
 406                 printk("NFSD: unable to find recovery directory %s\n",
 407                                 user_recovery_dirname);
 408                 status = PTR_ERR(rec_file);
 409                 rec_file = NULL;
 410         }
 411
 412         nfs4_reset_creds(original_cred);
 413         return status;
 414 }
 415
 416 static int
 417 nfsd4_load_reboot_recovery_data(struct net *net)
 418 {
 419         int status;
 420
 421         /* XXX: The legacy code won't work in a container */
 422         if (net != &init_net) {
 423                 WARN(1, KERN_ERR "NFSD: attempt to initialize legacy client "
 424                         "tracking in a container!\n");
 425                 return -EINVAL;
 426         }
 427
 428         nfs4_lock_state();
 429         status = nfsd4_init_recdir();
 430         if (!status)
 431                 status = nfsd4_recdir_load();
 432         nfs4_unlock_state();
 433         if (status)
 434                 printk(KERN_ERR "NFSD: Failure reading reboot recovery data\n");
 435         return status;
 436 }
 437
 438 static void
 439 nfsd4_shutdown_recdir(void)
 440 {
 441         if (!rec_file)
 442                 return;
 443         fput(rec_file);
 444         rec_file = NULL;
 445 }
 446
 447 static void
 448 nfsd4_legacy_tracking_exit(struct net *net)
 449 {
 450         nfs4_release_reclaim();
 451         nfsd4_shutdown_recdir();
 452 }
 453
 454 /*
 455  * Change the NFSv4 recovery directory to recdir.
 456  */
 457 int
 458 nfs4_reset_recoverydir(char *recdir)
 459 {
 460         int status;
 461         struct path path;
 462
 463         status = kern_path(recdir, LOOKUP_FOLLOW, &path);
 464         if (status)
 465                 return status;
 466         status = -ENOTDIR;
 467         if (S_ISDIR(path.dentry->d_inode->i_mode)) {
 468                 strcpy(user_recovery_dirname, recdir);
 469                 status = 0;
 470         }
 471         path_put(&path);
 472         return status;
 473 }
 474
 475 char *
 476 nfs4_recoverydir(void)
 477 {
 478         return user_recovery_dirname;
 479 }
 480
 481 static int
 482 nfsd4_check_legacy_client(struct nfs4_client *clp)
 483 {
 484         /* did we already find that this client is stable? */
 485         if (test_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags))
 486                 return 0;
 487
 488         /* look for it in the reclaim hashtable otherwise */
 489         if (nfsd4_find_reclaim_client(clp)) {
 490                 set_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags);
 491                 return 0;
 492         }
 493
 494         return -ENOENT;
 495 }
 496
 497 static struct nfsd4_client_tracking_ops nfsd4_legacy_tracking_ops = {
 498         .init           = nfsd4_load_reboot_recovery_data,
 499         .exit           = nfsd4_legacy_tracking_exit,
 500         .create         = nfsd4_create_clid_dir,
 501         .remove         = nfsd4_remove_clid_dir,
 502         .check          = nfsd4_check_legacy_client,
 503         .grace_done     = nfsd4_recdir_purge_old,
 504 };
 505
 506 /* Globals */
 507 #define NFSD_PIPE_DIR           "nfsd"
 508 #define NFSD_CLD_PIPE           "cld"
 509
 510 /* per-net-ns structure for holding cld upcall info */
 511 struct cld_net {
 512         struct rpc_pipe         *cn_pipe;
 513         spinlock_t               cn_lock;
 514         struct list_head         cn_list;
 515         unsigned int             cn_xid;
 516 };
 517
 518 struct cld_upcall {
 519         struct list_head         cu_list;
 520         struct cld_net          *cu_net;
 521         struct task_struct      *cu_task;
 522         struct cld_msg           cu_msg;
 523 };
 524
 525 static int
 526 __cld_pipe_upcall(struct rpc_pipe *pipe, struct cld_msg *cmsg)
 527 {
 528         int ret;
 529         struct rpc_pipe_msg msg;
 530
 531         memset(&msg, 0, sizeof(msg));
 532         msg.data = cmsg;
 533         msg.len = sizeof(*cmsg);
 534
 535         /*
 536          * Set task state before we queue the upcall. That prevents
 537          * wake_up_process in the downcall from racing with schedule.
 538          */
 539         set_current_state(TASK_UNINTERRUPTIBLE);
 540         ret = rpc_queue_upcall(pipe, &msg);
 541         if (ret < 0) {
 542                 set_current_state(TASK_RUNNING);
 543                 goto out;
 544         }
 545
 546         schedule();
 547         set_current_state(TASK_RUNNING);
 548
 549         if (msg.errno < 0)
 550                 ret = msg.errno;
 551 out:
 552         return ret;
 553 }
 554
 555 static int
 556 cld_pipe_upcall(struct rpc_pipe *pipe, struct cld_msg *cmsg)
 557 {
 558         int ret;
 559
 560         /*
 561          * -EAGAIN occurs when pipe is closed and reopened while there are
 562          *  upcalls queued.
 563          */
 564         do {
 565                 ret = __cld_pipe_upcall(pipe, cmsg);
 566         } while (ret == -EAGAIN);
 567
 568         return ret;
 569 }
 570
 571 static ssize_t
 572 cld_pipe_downcall(struct file *filp, const char __user *src, size_t mlen)
 573 {
 574         struct cld_upcall *tmp, *cup;
 575         struct cld_msg __user *cmsg = (struct cld_msg __user *)src;
 576         uint32_t xid;
 577         struct nfsd_net *nn = net_generic(filp->f_dentry->d_sb->s_fs_info,
 578                                                 nfsd_net_id);
 579         struct cld_net *cn = nn->cld_net;
 580
 581         if (mlen != sizeof(*cmsg)) {
 582                 dprintk("%s: got %zu bytes, expected %zu\n", __func__, mlen,
 583                         sizeof(*cmsg));
 584                 return -EINVAL;
 585         }
 586
 587         /* copy just the xid so we can try to find that */
 588         if (copy_from_user(&xid, &cmsg->cm_xid, sizeof(xid)) != 0) {
 589                 dprintk("%s: error when copying xid from userspace", __func__);
 590                 return -EFAULT;
 591         }
 592
 593         /* walk the list and find corresponding xid */
 594         cup = NULL;
 595         spin_lock(&cn->cn_lock);
 596         list_for_each_entry(tmp, &cn->cn_list, cu_list) {
 597                 if (get_unaligned(&tmp->cu_msg.cm_xid) == xid) {
 598                         cup = tmp;
 599                         list_del_init(&cup->cu_list);
 600                         break;
 601                 }
 602         }
 603         spin_unlock(&cn->cn_lock);
 604
 605         /* couldn't find upcall? */
 606         if (!cup) {
 607                 dprintk("%s: couldn't find upcall -- xid=%u\n", __func__, xid);
 608                 return -EINVAL;
 609         }
 610
 611         if (copy_from_user(&cup->cu_msg, src, mlen) != 0)
 612                 return -EFAULT;
 613
 614         wake_up_process(cup->cu_task);
 615         return mlen;
 616 }
 617
 618 static void
 619 cld_pipe_destroy_msg(struct rpc_pipe_msg *msg)
 620 {
 621         struct cld_msg *cmsg = msg->data;
 622         struct cld_upcall *cup = container_of(cmsg, struct cld_upcall,
 623                                                  cu_msg);
 624
 625         /* errno >= 0 means we got a downcall */
 626         if (msg->errno >= 0)
 627                 return;
 628
 629         wake_up_process(cup->cu_task);
 630 }
 631
 632 static const struct rpc_pipe_ops cld_upcall_ops = {
 633         .upcall         = rpc_pipe_generic_upcall,
 634         .downcall       = cld_pipe_downcall,
 635         .destroy_msg    = cld_pipe_destroy_msg,
 636 };
 637
 638 static struct dentry *
 639 nfsd4_cld_register_sb(struct super_block *sb, struct rpc_pipe *pipe)
 640 {
 641         struct dentry *dir, *dentry;
 642
 643         dir = rpc_d_lookup_sb(sb, NFSD_PIPE_DIR);
 644         if (dir == NULL)
 645                 return ERR_PTR(-ENOENT);
 646         dentry = rpc_mkpipe_dentry(dir, NFSD_CLD_PIPE, NULL, pipe);
 647         dput(dir);
 648         return dentry;
 649 }
 650
 651 static void
 652 nfsd4_cld_unregister_sb(struct rpc_pipe *pipe)
 653 {
 654         if (pipe->dentry)
 655                 rpc_unlink(pipe->dentry);
 656 }
 657
 658 static struct dentry *
 659 nfsd4_cld_register_net(struct net *net, struct rpc_pipe *pipe)
 660 {
 661         struct super_block *sb;
 662         struct dentry *dentry;
 663
 664         sb = rpc_get_sb_net(net);
 665         if (!sb)
 666                 return NULL;
 667         dentry = nfsd4_cld_register_sb(sb, pipe);
 668         rpc_put_sb_net(net);
 669         return dentry;
 670 }
 671
 672 static void
 673 nfsd4_cld_unregister_net(struct net *net, struct rpc_pipe *pipe)
 674 {
 675         struct super_block *sb;
 676
 677         sb = rpc_get_sb_net(net);
 678         if (sb) {
 679                 nfsd4_cld_unregister_sb(pipe);
 680                 rpc_put_sb_net(net);
 681         }
 682 }
 683
 684 /* Initialize rpc_pipefs pipe for communication with client tracking daemon */
 685 static int
 686 nfsd4_init_cld_pipe(struct net *net)
 687 {
 688         int ret;
 689         struct dentry *dentry;
 690         struct nfsd_net *nn = net_generic(net, nfsd_net_id);
 691         struct cld_net *cn;
 692
 693         if (nn->cld_net)
 694                 return 0;
 695
 696         cn = kzalloc(sizeof(*cn), GFP_KERNEL);
 697         if (!cn) {
 698                 ret = -ENOMEM;
 699                 goto err;
 700         }
 701
 702         cn->cn_pipe = rpc_mkpipe_data(&cld_upcall_ops, RPC_PIPE_WAIT_FOR_OPEN);
 703         if (IS_ERR(cn->cn_pipe)) {
 704                 ret = PTR_ERR(cn->cn_pipe);
 705                 goto err;
 706         }
 707         spin_lock_init(&cn->cn_lock);
 708         INIT_LIST_HEAD(&cn->cn_list);
 709
 710         dentry = nfsd4_cld_register_net(net, cn->cn_pipe);
 711         if (IS_ERR(dentry)) {
 712                 ret = PTR_ERR(dentry);
 713                 goto err_destroy_data;
 714         }
 715
 716         cn->cn_pipe->dentry = dentry;
 717         nn->cld_net = cn;
 718         return 0;
 719
 720 err_destroy_data:
 721         rpc_destroy_pipe_data(cn->cn_pipe);
 722 err:
 723         kfree(cn);
 724         printk(KERN_ERR "NFSD: unable to create nfsdcld upcall pipe (%d)\n",
 725                         ret);
 726         return ret;
 727 }
 728
 729 static void
 730 nfsd4_remove_cld_pipe(struct net *net)
 731 {
 732         struct nfsd_net *nn = net_generic(net, nfsd_net_id);
 733         struct cld_net *cn = nn->cld_net;
 734
 735         nfsd4_cld_unregister_net(net, cn->cn_pipe);
 736         rpc_destroy_pipe_data(cn->cn_pipe);
 737         kfree(nn->cld_net);
 738         nn->cld_net = NULL;
 739 }
 740
 741 static struct cld_upcall *
 742 alloc_cld_upcall(struct cld_net *cn)
 743 {
 744         struct cld_upcall *new, *tmp;
 745
 746         new = kzalloc(sizeof(*new), GFP_KERNEL);
 747         if (!new)
 748                 return new;
 749
 750         /* FIXME: hard cap on number in flight? */
 751 restart_search:
 752         spin_lock(&cn->cn_lock);
 753         list_for_each_entry(tmp, &cn->cn_list, cu_list) {
 754                 if (tmp->cu_msg.cm_xid == cn->cn_xid) {
 755                         cn->cn_xid++;
 756                         spin_unlock(&cn->cn_lock);
 757                         goto restart_search;
 758                 }
 759         }
 760         new->cu_task = current;
 761         new->cu_msg.cm_vers = CLD_UPCALL_VERSION;
 762         put_unaligned(cn->cn_xid++, &new->cu_msg.cm_xid);
 763         new->cu_net = cn;
 764         list_add(&new->cu_list, &cn->cn_list);
 765         spin_unlock(&cn->cn_lock);
 766
 767         dprintk("%s: allocated xid %u\n", __func__, new->cu_msg.cm_xid);
 768
 769         return new;
 770 }
 771
 772 static void
 773 free_cld_upcall(struct cld_upcall *victim)
 774 {
 775         struct cld_net *cn = victim->cu_net;
 776
 777         spin_lock(&cn->cn_lock);
 778         list_del(&victim->cu_list);
 779         spin_unlock(&cn->cn_lock);
 780         kfree(victim);
 781 }
 782
 783 /* Ask daemon to create a new record */
 784 static void
 785 nfsd4_cld_create(struct nfs4_client *clp)
 786 {
 787         int ret;
 788         struct cld_upcall *cup;
 789         /* FIXME: determine net from clp */
 790         struct nfsd_net *nn = net_generic(&init_net, nfsd_net_id);
 791         struct cld_net *cn = nn->cld_net;
 792
 793         /* Don't upcall if it's already stored */
 794         if (test_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags))
 795                 return;
 796
 797         cup = alloc_cld_upcall(cn);
 798         if (!cup) {
 799                 ret = -ENOMEM;
 800                 goto out_err;
 801         }
 802
 803         cup->cu_msg.cm_cmd = Cld_Create;
 804         cup->cu_msg.cm_u.cm_name.cn_len = clp->cl_name.len;
 805         memcpy(cup->cu_msg.cm_u.cm_name.cn_id, clp->cl_name.data,
 806                         clp->cl_name.len);
 807
 808         ret = cld_pipe_upcall(cn->cn_pipe, &cup->cu_msg);
 809         if (!ret) {
 810                 ret = cup->cu_msg.cm_status;
 811                 set_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags);
 812         }
 813
 814         free_cld_upcall(cup);
 815 out_err:
 816         if (ret)
 817                 printk(KERN_ERR "NFSD: Unable to create client "
 818                                 "record on stable storage: %d\n", ret);
 819 }
 820
 821 /* Ask daemon to create a new record */
 822 static void
 823 nfsd4_cld_remove(struct nfs4_client *clp)
 824 {
 825         int ret;
 826         struct cld_upcall *cup;
 827         /* FIXME: determine net from clp */
 828         struct nfsd_net *nn = net_generic(&init_net, nfsd_net_id);
 829         struct cld_net *cn = nn->cld_net;
 830
 831         /* Don't upcall if it's already removed */
 832         if (!test_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags))
 833                 return;
 834
 835         cup = alloc_cld_upcall(cn);
 836         if (!cup) {
 837                 ret = -ENOMEM;
 838                 goto out_err;
 839         }
 840
 841         cup->cu_msg.cm_cmd = Cld_Remove;
 842         cup->cu_msg.cm_u.cm_name.cn_len = clp->cl_name.len;
 843         memcpy(cup->cu_msg.cm_u.cm_name.cn_id, clp->cl_name.data,
 844                         clp->cl_name.len);
 845
 846         ret = cld_pipe_upcall(cn->cn_pipe, &cup->cu_msg);
 847         if (!ret) {
 848                 ret = cup->cu_msg.cm_status;
 849                 clear_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags);
 850         }
 851
 852         free_cld_upcall(cup);
 853 out_err:
 854         if (ret)
 855                 printk(KERN_ERR "NFSD: Unable to remove client "
 856                                 "record from stable storage: %d\n", ret);
 857 }
 858
 859 /* Check for presence of a record, and update its timestamp */
 860 static int
 861 nfsd4_cld_check(struct nfs4_client *clp)
 862 {
 863         int ret;
 864         struct cld_upcall *cup;
 865         /* FIXME: determine net from clp */
 866         struct nfsd_net *nn = net_generic(&init_net, nfsd_net_id);
 867         struct cld_net *cn = nn->cld_net;
 868
 869         /* Don't upcall if one was already stored during this grace pd */
 870         if (test_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags))
 871                 return 0;
 872
 873         cup = alloc_cld_upcall(cn);
 874         if (!cup) {
 875                 printk(KERN_ERR "NFSD: Unable to check client record on "
 876                                 "stable storage: %d\n", -ENOMEM);
 877                 return -ENOMEM;
 878         }
 879
 880         cup->cu_msg.cm_cmd = Cld_Check;
 881         cup->cu_msg.cm_u.cm_name.cn_len = clp->cl_name.len;
 882         memcpy(cup->cu_msg.cm_u.cm_name.cn_id, clp->cl_name.data,
 883                         clp->cl_name.len);
 884
 885         ret = cld_pipe_upcall(cn->cn_pipe, &cup->cu_msg);
 886         if (!ret) {
 887                 ret = cup->cu_msg.cm_status;
 888                 set_bit(NFSD4_CLIENT_STABLE, &clp->cl_flags);
 889         }
 890
 891         free_cld_upcall(cup);
 892         return ret;
 893 }
 894
 895 static void
 896 nfsd4_cld_grace_done(struct net *net, time_t boot_time)
 897 {
 898         int ret;
 899         struct cld_upcall *cup;
 900         struct nfsd_net *nn = net_generic(net, nfsd_net_id);
 901         struct cld_net *cn = nn->cld_net;
 902
 903         cup = alloc_cld_upcall(cn);
 904         if (!cup) {
 905                 ret = -ENOMEM;
 906                 goto out_err;
 907         }
 908
 909         cup->cu_msg.cm_cmd = Cld_GraceDone;
 910         cup->cu_msg.cm_u.cm_gracetime = (int64_t)boot_time;
 911         ret = cld_pipe_upcall(cn->cn_pipe, &cup->cu_msg);
 912         if (!ret)
 913                 ret = cup->cu_msg.cm_status;
 914
 915         free_cld_upcall(cup);
 916 out_err:
 917         if (ret)
 918                 printk(KERN_ERR "NFSD: Unable to end grace period: %d\n", ret);
 919 }
 920
 921 static struct nfsd4_client_tracking_ops nfsd4_cld_tracking_ops = {
 922         .init           = nfsd4_init_cld_pipe,
 923         .exit           = nfsd4_remove_cld_pipe,
 924         .create         = nfsd4_cld_create,
 925         .remove         = nfsd4_cld_remove,
 926         .check          = nfsd4_cld_check,
 927         .grace_done     = nfsd4_cld_grace_done,
 928 };
 929
 930 /* upcall via usermodehelper */
 931 static char cltrack_prog[PATH_MAX] = "/sbin/nfsdcltrack";
 932 module_param_string(cltrack_prog, cltrack_prog, sizeof(cltrack_prog),
 933                         S_IRUGO|S_IWUSR);
 934 MODULE_PARM_DESC(cltrack_prog, "Path to the nfsdcltrack upcall program");
 935
 936 static int
 937 nfsd4_umh_cltrack_upcall(char *cmd, char *arg)
 938 {
 939         char *envp[] = { NULL };
 940         char *argv[4];
 941         int ret;
 942
 943         if (unlikely(!cltrack_prog[0])) {
 944                 dprintk("%s: cltrack_prog is disabled\n", __func__);
 945                 return -EACCES;
 946         }
 947
 948         dprintk("%s: cmd: %s\n", __func__, cmd);
 949         dprintk("%s: arg: %s\n", __func__, arg ? arg : "(null)");
 950
 951         argv[0] = (char *)cltrack_prog;
 952         argv[1] = cmd;
 953         argv[2] = arg;
 954         argv[3] = NULL;
 955
 956         ret = call_usermodehelper(argv[0], argv, envp, UMH_WAIT_PROC);
 957         /*
 958          * Disable the upcall mechanism if we're getting an ENOENT or EACCES
 959          * error. The admin can re-enable it on the fly by using sysfs
 960          * once the problem has been fixed.
 961          */
 962         if (ret == -ENOENT || ret == -EACCES) {
 963                 dprintk("NFSD: %s was not found or isn't executable (%d). "
 964                         "Setting cltrack_prog to blank string!",
 965                         cltrack_prog, ret);
 966                 cltrack_prog[0] = '\0';
 967         }
 968         dprintk("%s: %s return value: %d\n", __func__, cltrack_prog, ret);
 969
 970         return ret;
 971 }
 972
 973 static char *
 974 bin_to_hex_dup(const unsigned char *src, int srclen)
 975 {
 976         int i;
 977         char *buf, *hex;
 978
 979         /* +1 for terminating NULL */
 980         buf = kmalloc((srclen * 2) + 1, GFP_KERNEL);
 981         if (!buf)
 982                 return buf;
 983
 984         hex = buf;
 985         for (i = 0; i < srclen; i++) {
 986                 sprintf(hex, "%2.2x", *src++);
 987                 hex += 2;
 988         }
 989         return buf;
 990 }
 991
 992 static int
 993 nfsd4_umh_cltrack_init(struct net __attribute__((unused)) *net)
 994 {
 995         return nfsd4_umh_cltrack_upcall("init", NULL);
 996 }
 997
 998 static void
 999 nfsd4_umh_cltrack_create(struct nfs4_client *clp)
1000 {
1001         char *hexid;
1002
1003         hexid = bin_to_hex_dup(clp->cl_name.data, clp->cl_name.len);
1004         if (!hexid) {
1005                 dprintk("%s: can't allocate memory for upcall!\n", __func__);
1006                 return;
1007         }
1008         nfsd4_umh_cltrack_upcall("create", hexid);
1009         kfree(hexid);
1010 }
1011
1012 static void
1013 nfsd4_umh_cltrack_remove(struct nfs4_client *clp)
1014 {
1015         char *hexid;
1016
1017         hexid = bin_to_hex_dup(clp->cl_name.data, clp->cl_name.len);
1018         if (!hexid) {
1019                 dprintk("%s: can't allocate memory for upcall!\n", __func__);
1020                 return;
1021         }
1022         nfsd4_umh_cltrack_upcall("remove", hexid);
1023         kfree(hexid);
1024 }
1025
1026 static int
1027 nfsd4_umh_cltrack_check(struct nfs4_client *clp)
1028 {
1029         int ret;
1030         char *hexid;
1031
1032         hexid = bin_to_hex_dup(clp->cl_name.data, clp->cl_name.len);
1033         if (!hexid) {
1034                 dprintk("%s: can't allocate memory for upcall!\n", __func__);
1035                 return -ENOMEM;
1036         }
1037         ret = nfsd4_umh_cltrack_upcall("check", hexid);
1038         kfree(hexid);
1039         return ret;
1040 }
1041
1042 static void
1043 nfsd4_umh_cltrack_grace_done(struct net __attribute__((unused)) *net,
1044                                 time_t boot_time)
1045 {
1046         char timestr[22]; /* FIXME: better way to determine max size? */
1047
1048         sprintf(timestr, "%ld", boot_time);
1049         nfsd4_umh_cltrack_upcall("gracedone", timestr);
1050 }
1051
1052 static struct nfsd4_client_tracking_ops nfsd4_umh_tracking_ops = {
1053         .init           = nfsd4_umh_cltrack_init,
1054         .exit           = NULL,
1055         .create         = nfsd4_umh_cltrack_create,
1056         .remove         = nfsd4_umh_cltrack_remove,
1057         .check          = nfsd4_umh_cltrack_check,
1058         .grace_done     = nfsd4_umh_cltrack_grace_done,
1059 };
1060
1061 int
1062 nfsd4_client_tracking_init(struct net *net)
1063 {
1064         int status;
1065         struct path path;
1066
1067         /* just run the init if it the method is already decided */
1068         if (client_tracking_ops)
1069                 goto do_init;
1070
1071         /*
1072          * First, try a UMH upcall. It should succeed or fail quickly, so
1073          * there's little harm in trying that first.
1074          */
1075         client_tracking_ops = &nfsd4_umh_tracking_ops;
1076         status = client_tracking_ops->init(net);
1077         if (!status)
1078                 return status;
1079
1080         /*
1081          * See if the recoverydir exists and is a directory. If it is,
1082          * then use the legacy ops.
1083          */
1084         client_tracking_ops = &nfsd4_legacy_tracking_ops;
1085         status = kern_path(nfs4_recoverydir(), LOOKUP_FOLLOW, &path);
1086         if (!status) {
1087                 status = S_ISDIR(path.dentry->d_inode->i_mode);
1088                 path_put(&path);
1089                 if (status)
1090                         goto do_init;
1091         }
1092
1093         /* Finally, try to use nfsdcld */
1094         client_tracking_ops = &nfsd4_cld_tracking_ops;
1095 do_init:
1096         status = client_tracking_ops->init(net);
1097         if (status) {
1098                 printk(KERN_WARNING "NFSD: Unable to initialize client "
1099                                     "recovery tracking! (%d)\n", status);
1100                 client_tracking_ops = NULL;
1101         }
1102         return status;
1103 }
1104
1105 void
1106 nfsd4_client_tracking_exit(struct net *net)
1107 {
1108         if (client_tracking_ops) {
1109                 if (client_tracking_ops->exit)
1110                         client_tracking_ops->exit(net);
1111                 client_tracking_ops = NULL;
1112         }
1113 }
1114
1115 void
1116 nfsd4_client_record_create(struct nfs4_client *clp)
1117 {
1118         if (client_tracking_ops)
1119                 client_tracking_ops->create(clp);
1120 }
1121
1122 void
1123 nfsd4_client_record_remove(struct nfs4_client *clp)
1124 {
1125         if (client_tracking_ops)
1126                 client_tracking_ops->remove(clp);
1127 }
1128
1129 int
1130 nfsd4_client_record_check(struct nfs4_client *clp)
1131 {
1132         if (client_tracking_ops)
1133                 return client_tracking_ops->check(clp);
1134
1135         return -EOPNOTSUPP;
1136 }
1137
1138 void
1139 nfsd4_record_grace_done(struct net *net, time_t boot_time)
1140 {
1141         if (client_tracking_ops)
1142                 client_tracking_ops->grace_done(net, boot_time);
1143 }
1144
1145 static int
1146 rpc_pipefs_event(struct notifier_block *nb, unsigned long event, void *ptr)
1147 {
1148         struct super_block *sb = ptr;
1149         struct net *net = sb->s_fs_info;
1150         struct nfsd_net *nn = net_generic(net, nfsd_net_id);
1151         struct cld_net *cn = nn->cld_net;
1152         struct dentry *dentry;
1153         int ret = 0;
1154
1155         if (!try_module_get(THIS_MODULE))
1156                 return 0;
1157
1158         if (!cn) {
1159                 module_put(THIS_MODULE);
1160                 return 0;
1161         }
1162
1163         switch (event) {
1164         case RPC_PIPEFS_MOUNT:
1165                 dentry = nfsd4_cld_register_sb(sb, cn->cn_pipe);
1166                 if (IS_ERR(dentry)) {
1167                         ret = PTR_ERR(dentry);
1168                         break;
1169                 }
1170                 cn->cn_pipe->dentry = dentry;
1171                 break;
1172         case RPC_PIPEFS_UMOUNT:
1173                 if (cn->cn_pipe->dentry)
1174                         nfsd4_cld_unregister_sb(cn->cn_pipe);
1175                 break;
1176         default:
1177                 ret = -ENOTSUPP;
1178                 break;
1179         }
1180         module_put(THIS_MODULE);
1181         return ret;
1182 }
1183
1184 static struct notifier_block nfsd4_cld_block = {
1185         .notifier_call = rpc_pipefs_event,
1186 };
1187
1188 int
1189 register_cld_notifier(void)
1190 {
1191         return rpc_pipefs_notifier_register(&nfsd4_cld_block);
1192 }
1193
1194 void
1195 unregister_cld_notifier(void)
1196 {
1197         rpc_pipefs_notifier_unregister(&nfsd4_cld_block);
1198 }