tracing: Remove open-coding of hist trigger var_ref management
[platform/kernel/linux-rpi.git] / kernel / ptrace.c
1 /*
2  * linux/kernel/ptrace.c
3  *
4  * (C) Copyright 1999 Linus Torvalds
5  *
6  * Common interfaces for "ptrace()" which we do not want
7  * to continually duplicate across every architecture.
8  */
9
10 #include <linux/capability.h>
11 #include <linux/export.h>
12 #include <linux/sched.h>
13 #include <linux/sched/mm.h>
14 #include <linux/sched/coredump.h>
15 #include <linux/sched/task.h>
16 #include <linux/errno.h>
17 #include <linux/mm.h>
18 #include <linux/highmem.h>
19 #include <linux/pagemap.h>
20 #include <linux/ptrace.h>
21 #include <linux/security.h>
22 #include <linux/signal.h>
23 #include <linux/uio.h>
24 #include <linux/audit.h>
25 #include <linux/pid_namespace.h>
26 #include <linux/syscalls.h>
27 #include <linux/uaccess.h>
28 #include <linux/regset.h>
29 #include <linux/hw_breakpoint.h>
30 #include <linux/cn_proc.h>
31 #include <linux/compat.h>
32 #include <linux/sched/signal.h>
33
34 /*
35  * Access another process' address space via ptrace.
36  * Source/target buffer must be kernel space,
37  * Do not walk the page table directly, use get_user_pages
38  */
39 int ptrace_access_vm(struct task_struct *tsk, unsigned long addr,
40                      void *buf, int len, unsigned int gup_flags)
41 {
42         struct mm_struct *mm;
43         int ret;
44
45         mm = get_task_mm(tsk);
46         if (!mm)
47                 return 0;
48
49         if (!tsk->ptrace ||
50             (current != tsk->parent) ||
51             ((get_dumpable(mm) != SUID_DUMP_USER) &&
52              !ptracer_capable(tsk, mm->user_ns))) {
53                 mmput(mm);
54                 return 0;
55         }
56
57         ret = __access_remote_vm(tsk, mm, addr, buf, len, gup_flags);
58         mmput(mm);
59
60         return ret;
61 }
62
63
64 void __ptrace_link(struct task_struct *child, struct task_struct *new_parent,
65                    const struct cred *ptracer_cred)
66 {
67         BUG_ON(!list_empty(&child->ptrace_entry));
68         list_add(&child->ptrace_entry, &new_parent->ptraced);
69         child->parent = new_parent;
70         child->ptracer_cred = get_cred(ptracer_cred);
71 }
72
73 /*
74  * ptrace a task: make the debugger its new parent and
75  * move it to the ptrace list.
76  *
77  * Must be called with the tasklist lock write-held.
78  */
79 static void ptrace_link(struct task_struct *child, struct task_struct *new_parent)
80 {
81         __ptrace_link(child, new_parent, current_cred());
82 }
83
84 /**
85  * __ptrace_unlink - unlink ptracee and restore its execution state
86  * @child: ptracee to be unlinked
87  *
88  * Remove @child from the ptrace list, move it back to the original parent,
89  * and restore the execution state so that it conforms to the group stop
90  * state.
91  *
92  * Unlinking can happen via two paths - explicit PTRACE_DETACH or ptracer
93  * exiting.  For PTRACE_DETACH, unless the ptracee has been killed between
94  * ptrace_check_attach() and here, it's guaranteed to be in TASK_TRACED.
95  * If the ptracer is exiting, the ptracee can be in any state.
96  *
97  * After detach, the ptracee should be in a state which conforms to the
98  * group stop.  If the group is stopped or in the process of stopping, the
99  * ptracee should be put into TASK_STOPPED; otherwise, it should be woken
100  * up from TASK_TRACED.
101  *
102  * If the ptracee is in TASK_TRACED and needs to be moved to TASK_STOPPED,
103  * it goes through TRACED -> RUNNING -> STOPPED transition which is similar
104  * to but in the opposite direction of what happens while attaching to a
105  * stopped task.  However, in this direction, the intermediate RUNNING
106  * state is not hidden even from the current ptracer and if it immediately
107  * re-attaches and performs a WNOHANG wait(2), it may fail.
108  *
109  * CONTEXT:
110  * write_lock_irq(tasklist_lock)
111  */
112 void __ptrace_unlink(struct task_struct *child)
113 {
114         const struct cred *old_cred;
115         BUG_ON(!child->ptrace);
116
117         clear_tsk_thread_flag(child, TIF_SYSCALL_TRACE);
118
119         child->parent = child->real_parent;
120         list_del_init(&child->ptrace_entry);
121         old_cred = child->ptracer_cred;
122         child->ptracer_cred = NULL;
123         put_cred(old_cred);
124
125         spin_lock(&child->sighand->siglock);
126         child->ptrace = 0;
127         /*
128          * Clear all pending traps and TRAPPING.  TRAPPING should be
129          * cleared regardless of JOBCTL_STOP_PENDING.  Do it explicitly.
130          */
131         task_clear_jobctl_pending(child, JOBCTL_TRAP_MASK);
132         task_clear_jobctl_trapping(child);
133
134         /*
135          * Reinstate JOBCTL_STOP_PENDING if group stop is in effect and
136          * @child isn't dead.
137          */
138         if (!(child->flags & PF_EXITING) &&
139             (child->signal->flags & SIGNAL_STOP_STOPPED ||
140              child->signal->group_stop_count)) {
141                 child->jobctl |= JOBCTL_STOP_PENDING;
142
143                 /*
144                  * This is only possible if this thread was cloned by the
145                  * traced task running in the stopped group, set the signal
146                  * for the future reports.
147                  * FIXME: we should change ptrace_init_task() to handle this
148                  * case.
149                  */
150                 if (!(child->jobctl & JOBCTL_STOP_SIGMASK))
151                         child->jobctl |= SIGSTOP;
152         }
153
154         /*
155          * If transition to TASK_STOPPED is pending or in TASK_TRACED, kick
156          * @child in the butt.  Note that @resume should be used iff @child
157          * is in TASK_TRACED; otherwise, we might unduly disrupt
158          * TASK_KILLABLE sleeps.
159          */
160         if (child->jobctl & JOBCTL_STOP_PENDING || task_is_traced(child))
161                 ptrace_signal_wake_up(child, true);
162
163         spin_unlock(&child->sighand->siglock);
164 }
165
166 /* Ensure that nothing can wake it up, even SIGKILL */
167 static bool ptrace_freeze_traced(struct task_struct *task)
168 {
169         bool ret = false;
170
171         /* Lockless, nobody but us can set this flag */
172         if (task->jobctl & JOBCTL_LISTENING)
173                 return ret;
174
175         spin_lock_irq(&task->sighand->siglock);
176         if (task_is_traced(task) && !__fatal_signal_pending(task)) {
177                 task->state = __TASK_TRACED;
178                 ret = true;
179         }
180         spin_unlock_irq(&task->sighand->siglock);
181
182         return ret;
183 }
184
185 static void ptrace_unfreeze_traced(struct task_struct *task)
186 {
187         if (task->state != __TASK_TRACED)
188                 return;
189
190         WARN_ON(!task->ptrace || task->parent != current);
191
192         /*
193          * PTRACE_LISTEN can allow ptrace_trap_notify to wake us up remotely.
194          * Recheck state under the lock to close this race.
195          */
196         spin_lock_irq(&task->sighand->siglock);
197         if (task->state == __TASK_TRACED) {
198                 if (__fatal_signal_pending(task))
199                         wake_up_state(task, __TASK_TRACED);
200                 else
201                         task->state = TASK_TRACED;
202         }
203         spin_unlock_irq(&task->sighand->siglock);
204 }
205
206 /**
207  * ptrace_check_attach - check whether ptracee is ready for ptrace operation
208  * @child: ptracee to check for
209  * @ignore_state: don't check whether @child is currently %TASK_TRACED
210  *
211  * Check whether @child is being ptraced by %current and ready for further
212  * ptrace operations.  If @ignore_state is %false, @child also should be in
213  * %TASK_TRACED state and on return the child is guaranteed to be traced
214  * and not executing.  If @ignore_state is %true, @child can be in any
215  * state.
216  *
217  * CONTEXT:
218  * Grabs and releases tasklist_lock and @child->sighand->siglock.
219  *
220  * RETURNS:
221  * 0 on success, -ESRCH if %child is not ready.
222  */
223 static int ptrace_check_attach(struct task_struct *child, bool ignore_state)
224 {
225         int ret = -ESRCH;
226
227         /*
228          * We take the read lock around doing both checks to close a
229          * possible race where someone else was tracing our child and
230          * detached between these two checks.  After this locked check,
231          * we are sure that this is our traced child and that can only
232          * be changed by us so it's not changing right after this.
233          */
234         read_lock(&tasklist_lock);
235         if (child->ptrace && child->parent == current) {
236                 WARN_ON(child->state == __TASK_TRACED);
237                 /*
238                  * child->sighand can't be NULL, release_task()
239                  * does ptrace_unlink() before __exit_signal().
240                  */
241                 if (ignore_state || ptrace_freeze_traced(child))
242                         ret = 0;
243         }
244         read_unlock(&tasklist_lock);
245
246         if (!ret && !ignore_state) {
247                 if (!wait_task_inactive(child, __TASK_TRACED)) {
248                         /*
249                          * This can only happen if may_ptrace_stop() fails and
250                          * ptrace_stop() changes ->state back to TASK_RUNNING,
251                          * so we should not worry about leaking __TASK_TRACED.
252                          */
253                         WARN_ON(child->state == __TASK_TRACED);
254                         ret = -ESRCH;
255                 }
256         }
257
258         return ret;
259 }
260
261 static bool ptrace_has_cap(const struct cred *cred, struct user_namespace *ns,
262                            unsigned int mode)
263 {
264         int ret;
265
266         if (mode & PTRACE_MODE_NOAUDIT)
267                 ret = security_capable(cred, ns, CAP_SYS_PTRACE, CAP_OPT_NOAUDIT);
268         else
269                 ret = security_capable(cred, ns, CAP_SYS_PTRACE, CAP_OPT_NONE);
270
271         return ret == 0;
272 }
273
274 /* Returns 0 on success, -errno on denial. */
275 static int __ptrace_may_access(struct task_struct *task, unsigned int mode)
276 {
277         const struct cred *cred = current_cred(), *tcred;
278         struct mm_struct *mm;
279         kuid_t caller_uid;
280         kgid_t caller_gid;
281
282         if (!(mode & PTRACE_MODE_FSCREDS) == !(mode & PTRACE_MODE_REALCREDS)) {
283                 WARN(1, "denying ptrace access check without PTRACE_MODE_*CREDS\n");
284                 return -EPERM;
285         }
286
287         /* May we inspect the given task?
288          * This check is used both for attaching with ptrace
289          * and for allowing access to sensitive information in /proc.
290          *
291          * ptrace_attach denies several cases that /proc allows
292          * because setting up the necessary parent/child relationship
293          * or halting the specified task is impossible.
294          */
295
296         /* Don't let security modules deny introspection */
297         if (same_thread_group(task, current))
298                 return 0;
299         rcu_read_lock();
300         if (mode & PTRACE_MODE_FSCREDS) {
301                 caller_uid = cred->fsuid;
302                 caller_gid = cred->fsgid;
303         } else {
304                 /*
305                  * Using the euid would make more sense here, but something
306                  * in userland might rely on the old behavior, and this
307                  * shouldn't be a security problem since
308                  * PTRACE_MODE_REALCREDS implies that the caller explicitly
309                  * used a syscall that requests access to another process
310                  * (and not a filesystem syscall to procfs).
311                  */
312                 caller_uid = cred->uid;
313                 caller_gid = cred->gid;
314         }
315         tcred = __task_cred(task);
316         if (uid_eq(caller_uid, tcred->euid) &&
317             uid_eq(caller_uid, tcred->suid) &&
318             uid_eq(caller_uid, tcred->uid)  &&
319             gid_eq(caller_gid, tcred->egid) &&
320             gid_eq(caller_gid, tcred->sgid) &&
321             gid_eq(caller_gid, tcred->gid))
322                 goto ok;
323         if (ptrace_has_cap(cred, tcred->user_ns, mode))
324                 goto ok;
325         rcu_read_unlock();
326         return -EPERM;
327 ok:
328         rcu_read_unlock();
329         /*
330          * If a task drops privileges and becomes nondumpable (through a syscall
331          * like setresuid()) while we are trying to access it, we must ensure
332          * that the dumpability is read after the credentials; otherwise,
333          * we may be able to attach to a task that we shouldn't be able to
334          * attach to (as if the task had dropped privileges without becoming
335          * nondumpable).
336          * Pairs with a write barrier in commit_creds().
337          */
338         smp_rmb();
339         mm = task->mm;
340         if (mm &&
341             ((get_dumpable(mm) != SUID_DUMP_USER) &&
342              !ptrace_has_cap(cred, mm->user_ns, mode)))
343             return -EPERM;
344
345         return security_ptrace_access_check(task, mode);
346 }
347
348 bool ptrace_may_access(struct task_struct *task, unsigned int mode)
349 {
350         int err;
351         task_lock(task);
352         err = __ptrace_may_access(task, mode);
353         task_unlock(task);
354         return !err;
355 }
356
357 static int ptrace_attach(struct task_struct *task, long request,
358                          unsigned long addr,
359                          unsigned long flags)
360 {
361         bool seize = (request == PTRACE_SEIZE);
362         int retval;
363
364         retval = -EIO;
365         if (seize) {
366                 if (addr != 0)
367                         goto out;
368                 if (flags & ~(unsigned long)PTRACE_O_MASK)
369                         goto out;
370                 flags = PT_PTRACED | PT_SEIZED | (flags << PT_OPT_FLAG_SHIFT);
371         } else {
372                 flags = PT_PTRACED;
373         }
374
375         audit_ptrace(task);
376
377         retval = -EPERM;
378         if (unlikely(task->flags & PF_KTHREAD))
379                 goto out;
380         if (same_thread_group(task, current))
381                 goto out;
382
383         /*
384          * Protect exec's credential calculations against our interference;
385          * SUID, SGID and LSM creds get determined differently
386          * under ptrace.
387          */
388         retval = -ERESTARTNOINTR;
389         if (mutex_lock_interruptible(&task->signal->cred_guard_mutex))
390                 goto out;
391
392         task_lock(task);
393         retval = __ptrace_may_access(task, PTRACE_MODE_ATTACH_REALCREDS);
394         task_unlock(task);
395         if (retval)
396                 goto unlock_creds;
397
398         write_lock_irq(&tasklist_lock);
399         retval = -EPERM;
400         if (unlikely(task->exit_state))
401                 goto unlock_tasklist;
402         if (task->ptrace)
403                 goto unlock_tasklist;
404
405         if (seize)
406                 flags |= PT_SEIZED;
407         task->ptrace = flags;
408
409         ptrace_link(task, current);
410
411         /* SEIZE doesn't trap tracee on attach */
412         if (!seize)
413                 send_sig_info(SIGSTOP, SEND_SIG_FORCED, task);
414
415         spin_lock(&task->sighand->siglock);
416
417         /*
418          * If the task is already STOPPED, set JOBCTL_TRAP_STOP and
419          * TRAPPING, and kick it so that it transits to TRACED.  TRAPPING
420          * will be cleared if the child completes the transition or any
421          * event which clears the group stop states happens.  We'll wait
422          * for the transition to complete before returning from this
423          * function.
424          *
425          * This hides STOPPED -> RUNNING -> TRACED transition from the
426          * attaching thread but a different thread in the same group can
427          * still observe the transient RUNNING state.  IOW, if another
428          * thread's WNOHANG wait(2) on the stopped tracee races against
429          * ATTACH, the wait(2) may fail due to the transient RUNNING.
430          *
431          * The following task_is_stopped() test is safe as both transitions
432          * in and out of STOPPED are protected by siglock.
433          */
434         if (task_is_stopped(task) &&
435             task_set_jobctl_pending(task, JOBCTL_TRAP_STOP | JOBCTL_TRAPPING))
436                 signal_wake_up_state(task, __TASK_STOPPED);
437
438         spin_unlock(&task->sighand->siglock);
439
440         retval = 0;
441 unlock_tasklist:
442         write_unlock_irq(&tasklist_lock);
443 unlock_creds:
444         mutex_unlock(&task->signal->cred_guard_mutex);
445 out:
446         if (!retval) {
447                 /*
448                  * We do not bother to change retval or clear JOBCTL_TRAPPING
449                  * if wait_on_bit() was interrupted by SIGKILL. The tracer will
450                  * not return to user-mode, it will exit and clear this bit in
451                  * __ptrace_unlink() if it wasn't already cleared by the tracee;
452                  * and until then nobody can ptrace this task.
453                  */
454                 wait_on_bit(&task->jobctl, JOBCTL_TRAPPING_BIT, TASK_KILLABLE);
455                 proc_ptrace_connector(task, PTRACE_ATTACH);
456         }
457
458         return retval;
459 }
460
461 /**
462  * ptrace_traceme  --  helper for PTRACE_TRACEME
463  *
464  * Performs checks and sets PT_PTRACED.
465  * Should be used by all ptrace implementations for PTRACE_TRACEME.
466  */
467 static int ptrace_traceme(void)
468 {
469         int ret = -EPERM;
470
471         write_lock_irq(&tasklist_lock);
472         /* Are we already being traced? */
473         if (!current->ptrace) {
474                 ret = security_ptrace_traceme(current->parent);
475                 /*
476                  * Check PF_EXITING to ensure ->real_parent has not passed
477                  * exit_ptrace(). Otherwise we don't report the error but
478                  * pretend ->real_parent untraces us right after return.
479                  */
480                 if (!ret && !(current->real_parent->flags & PF_EXITING)) {
481                         current->ptrace = PT_PTRACED;
482                         ptrace_link(current, current->real_parent);
483                 }
484         }
485         write_unlock_irq(&tasklist_lock);
486
487         return ret;
488 }
489
490 /*
491  * Called with irqs disabled, returns true if childs should reap themselves.
492  */
493 static int ignoring_children(struct sighand_struct *sigh)
494 {
495         int ret;
496         spin_lock(&sigh->siglock);
497         ret = (sigh->action[SIGCHLD-1].sa.sa_handler == SIG_IGN) ||
498               (sigh->action[SIGCHLD-1].sa.sa_flags & SA_NOCLDWAIT);
499         spin_unlock(&sigh->siglock);
500         return ret;
501 }
502
503 /*
504  * Called with tasklist_lock held for writing.
505  * Unlink a traced task, and clean it up if it was a traced zombie.
506  * Return true if it needs to be reaped with release_task().
507  * (We can't call release_task() here because we already hold tasklist_lock.)
508  *
509  * If it's a zombie, our attachedness prevented normal parent notification
510  * or self-reaping.  Do notification now if it would have happened earlier.
511  * If it should reap itself, return true.
512  *
513  * If it's our own child, there is no notification to do. But if our normal
514  * children self-reap, then this child was prevented by ptrace and we must
515  * reap it now, in that case we must also wake up sub-threads sleeping in
516  * do_wait().
517  */
518 static bool __ptrace_detach(struct task_struct *tracer, struct task_struct *p)
519 {
520         bool dead;
521
522         __ptrace_unlink(p);
523
524         if (p->exit_state != EXIT_ZOMBIE)
525                 return false;
526
527         dead = !thread_group_leader(p);
528
529         if (!dead && thread_group_empty(p)) {
530                 if (!same_thread_group(p->real_parent, tracer))
531                         dead = do_notify_parent(p, p->exit_signal);
532                 else if (ignoring_children(tracer->sighand)) {
533                         __wake_up_parent(p, tracer);
534                         dead = true;
535                 }
536         }
537         /* Mark it as in the process of being reaped. */
538         if (dead)
539                 p->exit_state = EXIT_DEAD;
540         return dead;
541 }
542
543 static int ptrace_detach(struct task_struct *child, unsigned int data)
544 {
545         if (!valid_signal(data))
546                 return -EIO;
547
548         /* Architecture-specific hardware disable .. */
549         ptrace_disable(child);
550
551         write_lock_irq(&tasklist_lock);
552         /*
553          * We rely on ptrace_freeze_traced(). It can't be killed and
554          * untraced by another thread, it can't be a zombie.
555          */
556         WARN_ON(!child->ptrace || child->exit_state);
557         /*
558          * tasklist_lock avoids the race with wait_task_stopped(), see
559          * the comment in ptrace_resume().
560          */
561         child->exit_code = data;
562         __ptrace_detach(current, child);
563         write_unlock_irq(&tasklist_lock);
564
565         proc_ptrace_connector(child, PTRACE_DETACH);
566
567         return 0;
568 }
569
570 /*
571  * Detach all tasks we were using ptrace on. Called with tasklist held
572  * for writing.
573  */
574 void exit_ptrace(struct task_struct *tracer, struct list_head *dead)
575 {
576         struct task_struct *p, *n;
577
578         list_for_each_entry_safe(p, n, &tracer->ptraced, ptrace_entry) {
579                 if (unlikely(p->ptrace & PT_EXITKILL))
580                         send_sig_info(SIGKILL, SEND_SIG_FORCED, p);
581
582                 if (__ptrace_detach(tracer, p))
583                         list_add(&p->ptrace_entry, dead);
584         }
585 }
586
587 int ptrace_readdata(struct task_struct *tsk, unsigned long src, char __user *dst, int len)
588 {
589         int copied = 0;
590
591         while (len > 0) {
592                 char buf[128];
593                 int this_len, retval;
594
595                 this_len = (len > sizeof(buf)) ? sizeof(buf) : len;
596                 retval = ptrace_access_vm(tsk, src, buf, this_len, FOLL_FORCE);
597
598                 if (!retval) {
599                         if (copied)
600                                 break;
601                         return -EIO;
602                 }
603                 if (copy_to_user(dst, buf, retval))
604                         return -EFAULT;
605                 copied += retval;
606                 src += retval;
607                 dst += retval;
608                 len -= retval;
609         }
610         return copied;
611 }
612
613 int ptrace_writedata(struct task_struct *tsk, char __user *src, unsigned long dst, int len)
614 {
615         int copied = 0;
616
617         while (len > 0) {
618                 char buf[128];
619                 int this_len, retval;
620
621                 this_len = (len > sizeof(buf)) ? sizeof(buf) : len;
622                 if (copy_from_user(buf, src, this_len))
623                         return -EFAULT;
624                 retval = ptrace_access_vm(tsk, dst, buf, this_len,
625                                 FOLL_FORCE | FOLL_WRITE);
626                 if (!retval) {
627                         if (copied)
628                                 break;
629                         return -EIO;
630                 }
631                 copied += retval;
632                 src += retval;
633                 dst += retval;
634                 len -= retval;
635         }
636         return copied;
637 }
638
639 static int ptrace_setoptions(struct task_struct *child, unsigned long data)
640 {
641         unsigned flags;
642
643         if (data & ~(unsigned long)PTRACE_O_MASK)
644                 return -EINVAL;
645
646         if (unlikely(data & PTRACE_O_SUSPEND_SECCOMP)) {
647                 if (!IS_ENABLED(CONFIG_CHECKPOINT_RESTORE) ||
648                     !IS_ENABLED(CONFIG_SECCOMP))
649                         return -EINVAL;
650
651                 if (!capable(CAP_SYS_ADMIN))
652                         return -EPERM;
653
654                 if (seccomp_mode(&current->seccomp) != SECCOMP_MODE_DISABLED ||
655                     current->ptrace & PT_SUSPEND_SECCOMP)
656                         return -EPERM;
657         }
658
659         /* Avoid intermediate state when all opts are cleared */
660         flags = child->ptrace;
661         flags &= ~(PTRACE_O_MASK << PT_OPT_FLAG_SHIFT);
662         flags |= (data << PT_OPT_FLAG_SHIFT);
663         child->ptrace = flags;
664
665         return 0;
666 }
667
668 static int ptrace_getsiginfo(struct task_struct *child, siginfo_t *info)
669 {
670         unsigned long flags;
671         int error = -ESRCH;
672
673         if (lock_task_sighand(child, &flags)) {
674                 error = -EINVAL;
675                 if (likely(child->last_siginfo != NULL)) {
676                         copy_siginfo(info, child->last_siginfo);
677                         error = 0;
678                 }
679                 unlock_task_sighand(child, &flags);
680         }
681         return error;
682 }
683
684 static int ptrace_setsiginfo(struct task_struct *child, const siginfo_t *info)
685 {
686         unsigned long flags;
687         int error = -ESRCH;
688
689         if (lock_task_sighand(child, &flags)) {
690                 error = -EINVAL;
691                 if (likely(child->last_siginfo != NULL)) {
692                         copy_siginfo(child->last_siginfo, info);
693                         error = 0;
694                 }
695                 unlock_task_sighand(child, &flags);
696         }
697         return error;
698 }
699
700 static int ptrace_peek_siginfo(struct task_struct *child,
701                                 unsigned long addr,
702                                 unsigned long data)
703 {
704         struct ptrace_peeksiginfo_args arg;
705         struct sigpending *pending;
706         struct sigqueue *q;
707         int ret, i;
708
709         ret = copy_from_user(&arg, (void __user *) addr,
710                                 sizeof(struct ptrace_peeksiginfo_args));
711         if (ret)
712                 return -EFAULT;
713
714         if (arg.flags & ~PTRACE_PEEKSIGINFO_SHARED)
715                 return -EINVAL; /* unknown flags */
716
717         if (arg.nr < 0)
718                 return -EINVAL;
719
720         /* Ensure arg.off fits in an unsigned long */
721         if (arg.off > ULONG_MAX)
722                 return 0;
723
724         if (arg.flags & PTRACE_PEEKSIGINFO_SHARED)
725                 pending = &child->signal->shared_pending;
726         else
727                 pending = &child->pending;
728
729         for (i = 0; i < arg.nr; ) {
730                 siginfo_t info;
731                 unsigned long off = arg.off + i;
732                 bool found = false;
733
734                 spin_lock_irq(&child->sighand->siglock);
735                 list_for_each_entry(q, &pending->list, list) {
736                         if (!off--) {
737                                 found = true;
738                                 copy_siginfo(&info, &q->info);
739                                 break;
740                         }
741                 }
742                 spin_unlock_irq(&child->sighand->siglock);
743
744                 if (!found) /* beyond the end of the list */
745                         break;
746
747 #ifdef CONFIG_COMPAT
748                 if (unlikely(in_compat_syscall())) {
749                         compat_siginfo_t __user *uinfo = compat_ptr(data);
750
751                         if (copy_siginfo_to_user32(uinfo, &info)) {
752                                 ret = -EFAULT;
753                                 break;
754                         }
755
756                 } else
757 #endif
758                 {
759                         siginfo_t __user *uinfo = (siginfo_t __user *) data;
760
761                         if (copy_siginfo_to_user(uinfo, &info)) {
762                                 ret = -EFAULT;
763                                 break;
764                         }
765                 }
766
767                 data += sizeof(siginfo_t);
768                 i++;
769
770                 if (signal_pending(current))
771                         break;
772
773                 cond_resched();
774         }
775
776         if (i > 0)
777                 return i;
778
779         return ret;
780 }
781
782 #ifdef PTRACE_SINGLESTEP
783 #define is_singlestep(request)          ((request) == PTRACE_SINGLESTEP)
784 #else
785 #define is_singlestep(request)          0
786 #endif
787
788 #ifdef PTRACE_SINGLEBLOCK
789 #define is_singleblock(request)         ((request) == PTRACE_SINGLEBLOCK)
790 #else
791 #define is_singleblock(request)         0
792 #endif
793
794 #ifdef PTRACE_SYSEMU
795 #define is_sysemu_singlestep(request)   ((request) == PTRACE_SYSEMU_SINGLESTEP)
796 #else
797 #define is_sysemu_singlestep(request)   0
798 #endif
799
800 static int ptrace_resume(struct task_struct *child, long request,
801                          unsigned long data)
802 {
803         bool need_siglock;
804
805         if (!valid_signal(data))
806                 return -EIO;
807
808         if (request == PTRACE_SYSCALL)
809                 set_tsk_thread_flag(child, TIF_SYSCALL_TRACE);
810         else
811                 clear_tsk_thread_flag(child, TIF_SYSCALL_TRACE);
812
813 #ifdef TIF_SYSCALL_EMU
814         if (request == PTRACE_SYSEMU || request == PTRACE_SYSEMU_SINGLESTEP)
815                 set_tsk_thread_flag(child, TIF_SYSCALL_EMU);
816         else
817                 clear_tsk_thread_flag(child, TIF_SYSCALL_EMU);
818 #endif
819
820         if (is_singleblock(request)) {
821                 if (unlikely(!arch_has_block_step()))
822                         return -EIO;
823                 user_enable_block_step(child);
824         } else if (is_singlestep(request) || is_sysemu_singlestep(request)) {
825                 if (unlikely(!arch_has_single_step()))
826                         return -EIO;
827                 user_enable_single_step(child);
828         } else {
829                 user_disable_single_step(child);
830         }
831
832         /*
833          * Change ->exit_code and ->state under siglock to avoid the race
834          * with wait_task_stopped() in between; a non-zero ->exit_code will
835          * wrongly look like another report from tracee.
836          *
837          * Note that we need siglock even if ->exit_code == data and/or this
838          * status was not reported yet, the new status must not be cleared by
839          * wait_task_stopped() after resume.
840          *
841          * If data == 0 we do not care if wait_task_stopped() reports the old
842          * status and clears the code too; this can't race with the tracee, it
843          * takes siglock after resume.
844          */
845         need_siglock = data && !thread_group_empty(current);
846         if (need_siglock)
847                 spin_lock_irq(&child->sighand->siglock);
848         child->exit_code = data;
849         wake_up_state(child, __TASK_TRACED);
850         if (need_siglock)
851                 spin_unlock_irq(&child->sighand->siglock);
852
853         return 0;
854 }
855
856 #ifdef CONFIG_HAVE_ARCH_TRACEHOOK
857
858 static const struct user_regset *
859 find_regset(const struct user_regset_view *view, unsigned int type)
860 {
861         const struct user_regset *regset;
862         int n;
863
864         for (n = 0; n < view->n; ++n) {
865                 regset = view->regsets + n;
866                 if (regset->core_note_type == type)
867                         return regset;
868         }
869
870         return NULL;
871 }
872
873 static int ptrace_regset(struct task_struct *task, int req, unsigned int type,
874                          struct iovec *kiov)
875 {
876         const struct user_regset_view *view = task_user_regset_view(task);
877         const struct user_regset *regset = find_regset(view, type);
878         int regset_no;
879
880         if (!regset || (kiov->iov_len % regset->size) != 0)
881                 return -EINVAL;
882
883         regset_no = regset - view->regsets;
884         kiov->iov_len = min(kiov->iov_len,
885                             (__kernel_size_t) (regset->n * regset->size));
886
887         if (req == PTRACE_GETREGSET)
888                 return copy_regset_to_user(task, view, regset_no, 0,
889                                            kiov->iov_len, kiov->iov_base);
890         else
891                 return copy_regset_from_user(task, view, regset_no, 0,
892                                              kiov->iov_len, kiov->iov_base);
893 }
894
895 /*
896  * This is declared in linux/regset.h and defined in machine-dependent
897  * code.  We put the export here, near the primary machine-neutral use,
898  * to ensure no machine forgets it.
899  */
900 EXPORT_SYMBOL_GPL(task_user_regset_view);
901 #endif
902
903 int ptrace_request(struct task_struct *child, long request,
904                    unsigned long addr, unsigned long data)
905 {
906         bool seized = child->ptrace & PT_SEIZED;
907         int ret = -EIO;
908         siginfo_t siginfo, *si;
909         void __user *datavp = (void __user *) data;
910         unsigned long __user *datalp = datavp;
911         unsigned long flags;
912
913         switch (request) {
914         case PTRACE_PEEKTEXT:
915         case PTRACE_PEEKDATA:
916                 return generic_ptrace_peekdata(child, addr, data);
917         case PTRACE_POKETEXT:
918         case PTRACE_POKEDATA:
919                 return generic_ptrace_pokedata(child, addr, data);
920
921 #ifdef PTRACE_OLDSETOPTIONS
922         case PTRACE_OLDSETOPTIONS:
923 #endif
924         case PTRACE_SETOPTIONS:
925                 ret = ptrace_setoptions(child, data);
926                 break;
927         case PTRACE_GETEVENTMSG:
928                 ret = put_user(child->ptrace_message, datalp);
929                 break;
930
931         case PTRACE_PEEKSIGINFO:
932                 ret = ptrace_peek_siginfo(child, addr, data);
933                 break;
934
935         case PTRACE_GETSIGINFO:
936                 ret = ptrace_getsiginfo(child, &siginfo);
937                 if (!ret)
938                         ret = copy_siginfo_to_user(datavp, &siginfo);
939                 break;
940
941         case PTRACE_SETSIGINFO:
942                 if (copy_from_user(&siginfo, datavp, sizeof siginfo))
943                         ret = -EFAULT;
944                 else
945                         ret = ptrace_setsiginfo(child, &siginfo);
946                 break;
947
948         case PTRACE_GETSIGMASK: {
949                 sigset_t *mask;
950
951                 if (addr != sizeof(sigset_t)) {
952                         ret = -EINVAL;
953                         break;
954                 }
955
956                 if (test_tsk_restore_sigmask(child))
957                         mask = &child->saved_sigmask;
958                 else
959                         mask = &child->blocked;
960
961                 if (copy_to_user(datavp, mask, sizeof(sigset_t)))
962                         ret = -EFAULT;
963                 else
964                         ret = 0;
965
966                 break;
967         }
968
969         case PTRACE_SETSIGMASK: {
970                 sigset_t new_set;
971
972                 if (addr != sizeof(sigset_t)) {
973                         ret = -EINVAL;
974                         break;
975                 }
976
977                 if (copy_from_user(&new_set, datavp, sizeof(sigset_t))) {
978                         ret = -EFAULT;
979                         break;
980                 }
981
982                 sigdelsetmask(&new_set, sigmask(SIGKILL)|sigmask(SIGSTOP));
983
984                 /*
985                  * Every thread does recalc_sigpending() after resume, so
986                  * retarget_shared_pending() and recalc_sigpending() are not
987                  * called here.
988                  */
989                 spin_lock_irq(&child->sighand->siglock);
990                 child->blocked = new_set;
991                 spin_unlock_irq(&child->sighand->siglock);
992
993                 clear_tsk_restore_sigmask(child);
994
995                 ret = 0;
996                 break;
997         }
998
999         case PTRACE_INTERRUPT:
1000                 /*
1001                  * Stop tracee without any side-effect on signal or job
1002                  * control.  At least one trap is guaranteed to happen
1003                  * after this request.  If @child is already trapped, the
1004                  * current trap is not disturbed and another trap will
1005                  * happen after the current trap is ended with PTRACE_CONT.
1006                  *
1007                  * The actual trap might not be PTRACE_EVENT_STOP trap but
1008                  * the pending condition is cleared regardless.
1009                  */
1010                 if (unlikely(!seized || !lock_task_sighand(child, &flags)))
1011                         break;
1012
1013                 /*
1014                  * INTERRUPT doesn't disturb existing trap sans one
1015                  * exception.  If ptracer issued LISTEN for the current
1016                  * STOP, this INTERRUPT should clear LISTEN and re-trap
1017                  * tracee into STOP.
1018                  */
1019                 if (likely(task_set_jobctl_pending(child, JOBCTL_TRAP_STOP)))
1020                         ptrace_signal_wake_up(child, child->jobctl & JOBCTL_LISTENING);
1021
1022                 unlock_task_sighand(child, &flags);
1023                 ret = 0;
1024                 break;
1025
1026         case PTRACE_LISTEN:
1027                 /*
1028                  * Listen for events.  Tracee must be in STOP.  It's not
1029                  * resumed per-se but is not considered to be in TRACED by
1030                  * wait(2) or ptrace(2).  If an async event (e.g. group
1031                  * stop state change) happens, tracee will enter STOP trap
1032                  * again.  Alternatively, ptracer can issue INTERRUPT to
1033                  * finish listening and re-trap tracee into STOP.
1034                  */
1035                 if (unlikely(!seized || !lock_task_sighand(child, &flags)))
1036                         break;
1037
1038                 si = child->last_siginfo;
1039                 if (likely(si && (si->si_code >> 8) == PTRACE_EVENT_STOP)) {
1040                         child->jobctl |= JOBCTL_LISTENING;
1041                         /*
1042                          * If NOTIFY is set, it means event happened between
1043                          * start of this trap and now.  Trigger re-trap.
1044                          */
1045                         if (child->jobctl & JOBCTL_TRAP_NOTIFY)
1046                                 ptrace_signal_wake_up(child, true);
1047                         ret = 0;
1048                 }
1049                 unlock_task_sighand(child, &flags);
1050                 break;
1051
1052         case PTRACE_DETACH:      /* detach a process that was attached. */
1053                 ret = ptrace_detach(child, data);
1054                 break;
1055
1056 #ifdef CONFIG_BINFMT_ELF_FDPIC
1057         case PTRACE_GETFDPIC: {
1058                 struct mm_struct *mm = get_task_mm(child);
1059                 unsigned long tmp = 0;
1060
1061                 ret = -ESRCH;
1062                 if (!mm)
1063                         break;
1064
1065                 switch (addr) {
1066                 case PTRACE_GETFDPIC_EXEC:
1067                         tmp = mm->context.exec_fdpic_loadmap;
1068                         break;
1069                 case PTRACE_GETFDPIC_INTERP:
1070                         tmp = mm->context.interp_fdpic_loadmap;
1071                         break;
1072                 default:
1073                         break;
1074                 }
1075                 mmput(mm);
1076
1077                 ret = put_user(tmp, datalp);
1078                 break;
1079         }
1080 #endif
1081
1082 #ifdef PTRACE_SINGLESTEP
1083         case PTRACE_SINGLESTEP:
1084 #endif
1085 #ifdef PTRACE_SINGLEBLOCK
1086         case PTRACE_SINGLEBLOCK:
1087 #endif
1088 #ifdef PTRACE_SYSEMU
1089         case PTRACE_SYSEMU:
1090         case PTRACE_SYSEMU_SINGLESTEP:
1091 #endif
1092         case PTRACE_SYSCALL:
1093         case PTRACE_CONT:
1094                 return ptrace_resume(child, request, data);
1095
1096         case PTRACE_KILL:
1097                 if (child->exit_state)  /* already dead */
1098                         return 0;
1099                 return ptrace_resume(child, request, SIGKILL);
1100
1101 #ifdef CONFIG_HAVE_ARCH_TRACEHOOK
1102         case PTRACE_GETREGSET:
1103         case PTRACE_SETREGSET: {
1104                 struct iovec kiov;
1105                 struct iovec __user *uiov = datavp;
1106
1107                 if (!access_ok(VERIFY_WRITE, uiov, sizeof(*uiov)))
1108                         return -EFAULT;
1109
1110                 if (__get_user(kiov.iov_base, &uiov->iov_base) ||
1111                     __get_user(kiov.iov_len, &uiov->iov_len))
1112                         return -EFAULT;
1113
1114                 ret = ptrace_regset(child, request, addr, &kiov);
1115                 if (!ret)
1116                         ret = __put_user(kiov.iov_len, &uiov->iov_len);
1117                 break;
1118         }
1119 #endif
1120
1121         case PTRACE_SECCOMP_GET_FILTER:
1122                 ret = seccomp_get_filter(child, addr, datavp);
1123                 break;
1124
1125         case PTRACE_SECCOMP_GET_METADATA:
1126                 ret = seccomp_get_metadata(child, addr, datavp);
1127                 break;
1128
1129         default:
1130                 break;
1131         }
1132
1133         return ret;
1134 }
1135
1136 #ifndef arch_ptrace_attach
1137 #define arch_ptrace_attach(child)       do { } while (0)
1138 #endif
1139
1140 SYSCALL_DEFINE4(ptrace, long, request, long, pid, unsigned long, addr,
1141                 unsigned long, data)
1142 {
1143         struct task_struct *child;
1144         long ret;
1145
1146         if (request == PTRACE_TRACEME) {
1147                 ret = ptrace_traceme();
1148                 if (!ret)
1149                         arch_ptrace_attach(current);
1150                 goto out;
1151         }
1152
1153         child = find_get_task_by_vpid(pid);
1154         if (!child) {
1155                 ret = -ESRCH;
1156                 goto out;
1157         }
1158
1159         if (request == PTRACE_ATTACH || request == PTRACE_SEIZE) {
1160                 ret = ptrace_attach(child, request, addr, data);
1161                 /*
1162                  * Some architectures need to do book-keeping after
1163                  * a ptrace attach.
1164                  */
1165                 if (!ret)
1166                         arch_ptrace_attach(child);
1167                 goto out_put_task_struct;
1168         }
1169
1170         ret = ptrace_check_attach(child, request == PTRACE_KILL ||
1171                                   request == PTRACE_INTERRUPT);
1172         if (ret < 0)
1173                 goto out_put_task_struct;
1174
1175         ret = arch_ptrace(child, request, addr, data);
1176         if (ret || request != PTRACE_DETACH)
1177                 ptrace_unfreeze_traced(child);
1178
1179  out_put_task_struct:
1180         put_task_struct(child);
1181  out:
1182         return ret;
1183 }
1184
1185 int generic_ptrace_peekdata(struct task_struct *tsk, unsigned long addr,
1186                             unsigned long data)
1187 {
1188         unsigned long tmp;
1189         int copied;
1190
1191         copied = ptrace_access_vm(tsk, addr, &tmp, sizeof(tmp), FOLL_FORCE);
1192         if (copied != sizeof(tmp))
1193                 return -EIO;
1194         return put_user(tmp, (unsigned long __user *)data);
1195 }
1196
1197 int generic_ptrace_pokedata(struct task_struct *tsk, unsigned long addr,
1198                             unsigned long data)
1199 {
1200         int copied;
1201
1202         copied = ptrace_access_vm(tsk, addr, &data, sizeof(data),
1203                         FOLL_FORCE | FOLL_WRITE);
1204         return (copied == sizeof(data)) ? 0 : -EIO;
1205 }
1206
1207 #if defined CONFIG_COMPAT
1208
1209 int compat_ptrace_request(struct task_struct *child, compat_long_t request,
1210                           compat_ulong_t addr, compat_ulong_t data)
1211 {
1212         compat_ulong_t __user *datap = compat_ptr(data);
1213         compat_ulong_t word;
1214         siginfo_t siginfo;
1215         int ret;
1216
1217         switch (request) {
1218         case PTRACE_PEEKTEXT:
1219         case PTRACE_PEEKDATA:
1220                 ret = ptrace_access_vm(child, addr, &word, sizeof(word),
1221                                 FOLL_FORCE);
1222                 if (ret != sizeof(word))
1223                         ret = -EIO;
1224                 else
1225                         ret = put_user(word, datap);
1226                 break;
1227
1228         case PTRACE_POKETEXT:
1229         case PTRACE_POKEDATA:
1230                 ret = ptrace_access_vm(child, addr, &data, sizeof(data),
1231                                 FOLL_FORCE | FOLL_WRITE);
1232                 ret = (ret != sizeof(data) ? -EIO : 0);
1233                 break;
1234
1235         case PTRACE_GETEVENTMSG:
1236                 ret = put_user((compat_ulong_t) child->ptrace_message, datap);
1237                 break;
1238
1239         case PTRACE_GETSIGINFO:
1240                 ret = ptrace_getsiginfo(child, &siginfo);
1241                 if (!ret)
1242                         ret = copy_siginfo_to_user32(
1243                                 (struct compat_siginfo __user *) datap,
1244                                 &siginfo);
1245                 break;
1246
1247         case PTRACE_SETSIGINFO:
1248                 if (copy_siginfo_from_user32(
1249                             &siginfo, (struct compat_siginfo __user *) datap))
1250                         ret = -EFAULT;
1251                 else
1252                         ret = ptrace_setsiginfo(child, &siginfo);
1253                 break;
1254 #ifdef CONFIG_HAVE_ARCH_TRACEHOOK
1255         case PTRACE_GETREGSET:
1256         case PTRACE_SETREGSET:
1257         {
1258                 struct iovec kiov;
1259                 struct compat_iovec __user *uiov =
1260                         (struct compat_iovec __user *) datap;
1261                 compat_uptr_t ptr;
1262                 compat_size_t len;
1263
1264                 if (!access_ok(VERIFY_WRITE, uiov, sizeof(*uiov)))
1265                         return -EFAULT;
1266
1267                 if (__get_user(ptr, &uiov->iov_base) ||
1268                     __get_user(len, &uiov->iov_len))
1269                         return -EFAULT;
1270
1271                 kiov.iov_base = compat_ptr(ptr);
1272                 kiov.iov_len = len;
1273
1274                 ret = ptrace_regset(child, request, addr, &kiov);
1275                 if (!ret)
1276                         ret = __put_user(kiov.iov_len, &uiov->iov_len);
1277                 break;
1278         }
1279 #endif
1280
1281         default:
1282                 ret = ptrace_request(child, request, addr, data);
1283         }
1284
1285         return ret;
1286 }
1287
1288 COMPAT_SYSCALL_DEFINE4(ptrace, compat_long_t, request, compat_long_t, pid,
1289                        compat_long_t, addr, compat_long_t, data)
1290 {
1291         struct task_struct *child;
1292         long ret;
1293
1294         if (request == PTRACE_TRACEME) {
1295                 ret = ptrace_traceme();
1296                 goto out;
1297         }
1298
1299         child = find_get_task_by_vpid(pid);
1300         if (!child) {
1301                 ret = -ESRCH;
1302                 goto out;
1303         }
1304
1305         if (request == PTRACE_ATTACH || request == PTRACE_SEIZE) {
1306                 ret = ptrace_attach(child, request, addr, data);
1307                 /*
1308                  * Some architectures need to do book-keeping after
1309                  * a ptrace attach.
1310                  */
1311                 if (!ret)
1312                         arch_ptrace_attach(child);
1313                 goto out_put_task_struct;
1314         }
1315
1316         ret = ptrace_check_attach(child, request == PTRACE_KILL ||
1317                                   request == PTRACE_INTERRUPT);
1318         if (!ret) {
1319                 ret = compat_arch_ptrace(child, request, addr, data);
1320                 if (ret || request != PTRACE_DETACH)
1321                         ptrace_unfreeze_traced(child);
1322         }
1323
1324  out_put_task_struct:
1325         put_task_struct(child);
1326  out:
1327         return ret;
1328 }
1329 #endif  /* CONFIG_COMPAT */