fs/namei.c: Remove unlikely of status being -ECHILD in lookup_fast()
authorSteven Rostedt (VMware) <rostedt@goodmis.org>
Wed, 9 Dec 2020 22:09:28 +0000 (17:09 -0500)
committerAl Viro <viro@zeniv.linux.org.uk>
Mon, 4 Jan 2021 05:12:33 +0000 (00:12 -0500)
Running my yearly branch profiling code, it detected a 100% wrong branch
condition in name.c for lookup_fast(). The code in question has:

status = d_revalidate(dentry, nd->flags);
if (likely(status > 0))
return dentry;
if (unlazy_child(nd, dentry, seq))
return ERR_PTR(-ECHILD);
if (unlikely(status == -ECHILD))
/* we'd been told to redo it in non-rcu mode */
status = d_revalidate(dentry, nd->flags);

If the status of the d_revalidate() is greater than zero, then the function
finishes. Otherwise, if it is an "unlazy_child" it returns with -ECHILD.
After the above two checks, the status is compared to -ECHILD, as that is
what is returned if the original d_revalidate() needed to be done in a
non-rcu mode.

Especially this path is called in a condition of:

if (nd->flags & LOOKUP_RCU) {

And most of the d_revalidate() functions have:

if (flags & LOOKUP_RCU)
return -ECHILD;

It appears that that is the only case that this if statement is triggered
on two of my machines, running in production.

As it is dependent on what filesystem mix is configured in the running
kernel, simply remove the unlikely() from the if statement.

Signed-off-by: Steven Rostedt (VMware) <rostedt@goodmis.org>
Signed-off-by: Al Viro <viro@zeniv.linux.org.uk>
fs/namei.c

index a3b3ca6..3345a9f 100644 (file)
@@ -1495,7 +1495,7 @@ static struct dentry *lookup_fast(struct nameidata *nd,
                        return dentry;
                if (unlazy_child(nd, dentry, seq))
                        return ERR_PTR(-ECHILD);
-               if (unlikely(status == -ECHILD))
+               if (status == -ECHILD)
                        /* we'd been told to redo it in non-rcu mode */
                        status = d_revalidate(dentry, nd->flags);
        } else {