tty: Improve error handling in tty_create()
[platform/upstream/weston.git] / src / tty.c
1 /*
2  * Copyright © 2010 Intel Corporation
3  *
4  * Permission to use, copy, modify, distribute, and sell this software and
5  * its documentation for any purpose is hereby granted without fee, provided
6  * that the above copyright notice appear in all copies and that both that
7  * copyright notice and this permission notice appear in supporting
8  * documentation, and that the name of the copyright holders not be used in
9  * advertising or publicity pertaining to distribution of the software
10  * without specific, written prior permission.  The copyright holders make
11  * no representations about the suitability of this software for any
12  * purpose.  It is provided "as is" without express or implied warranty.
13  *
14  * THE COPYRIGHT HOLDERS DISCLAIM ALL WARRANTIES WITH REGARD TO THIS
15  * SOFTWARE, INCLUDING ALL IMPLIED WARRANTIES OF MERCHANTABILITY AND
16  * FITNESS, IN NO EVENT SHALL THE COPYRIGHT HOLDERS BE LIABLE FOR ANY
17  * SPECIAL, INDIRECT OR CONSEQUENTIAL DAMAGES OR ANY DAMAGES WHATSOEVER
18  * RESULTING FROM LOSS OF USE, DATA OR PROFITS, WHETHER IN AN ACTION OF
19  * CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION, ARISING OUT OF OR IN
20  * CONNECTION WITH THE USE OR PERFORMANCE OF THIS SOFTWARE.
21  */
22
23 #include <termios.h>
24 #include <stdio.h>
25 #include <stdlib.h>
26 #include <string.h>
27 #include <unistd.h>
28 #include <fcntl.h>
29 #include <signal.h>
30 #include <linux/kd.h>
31 #include <linux/vt.h>
32 #include <linux/major.h>
33 #include <sys/ioctl.h>
34
35 #include "compositor.h"
36
37 struct tty {
38         struct weston_compositor *compositor;
39         int fd;
40         struct termios terminal_attributes;
41
42         struct wl_event_source *input_source;
43         struct wl_event_source *vt_source;
44         tty_vt_func_t vt_func;
45         int vt, starting_vt, has_vt;
46 };
47
48 static int vt_handler(int signal_number, void *data)
49 {
50         struct tty *tty = data;
51
52         if (tty->has_vt) {
53                 tty->vt_func(tty->compositor, TTY_LEAVE_VT);
54                 tty->has_vt = 0;
55
56                 ioctl(tty->fd, VT_RELDISP, 1);
57         } else {
58                 ioctl(tty->fd, VT_RELDISP, VT_ACKACQ);
59
60                 tty->vt_func(tty->compositor, TTY_ENTER_VT);
61                 tty->has_vt = 1;
62         }
63
64         return 1;
65 }
66
67 static int
68 on_tty_input(int fd, uint32_t mask, void *data)
69 {
70         struct tty *tty = data;
71
72         /* Ignore input to tty.  We get keyboard events from evdev
73          */
74         tcflush(tty->fd, TCIFLUSH);
75
76         return 1;
77 }
78
79 static int
80 try_open_vt(struct tty *tty)
81 {
82         int tty0, fd;
83         char filename[16];
84         struct vt_stat vts;
85
86         tty0 = open("/dev/tty0", O_WRONLY | O_CLOEXEC);
87         if (tty0 < 0) {
88                 fprintf(stderr, "could not open tty0: %m\n");
89                 return -1;
90         }
91
92         if (ioctl(tty0, VT_OPENQRY, &tty->vt) < 0 || tty->vt == -1) {
93                 fprintf(stderr, "could not open tty0: %m\n");
94                 close(tty0);
95                 return -1;
96         }
97
98         close(tty0);
99         snprintf(filename, sizeof filename, "/dev/tty%d", tty->vt);
100         fprintf(stderr, "compositor: using new vt %s\n", filename);
101         fd = open(filename, O_RDWR | O_NOCTTY | O_CLOEXEC);
102         if (fd < 0)
103                 return fd;
104
105         if (ioctl(fd, VT_GETSTATE, &vts) == 0)
106                 tty->starting_vt = vts.v_active;
107         else
108                 tty->starting_vt = tty->vt;
109
110         if (ioctl(fd, VT_ACTIVATE, tty->vt) < 0 ||
111             ioctl(fd, VT_WAITACTIVE, tty->vt) < 0) {
112                 fprintf(stderr, "failed to swtich to new vt\n");
113                 close(fd);
114                 return -1;
115         }
116
117         return fd;
118 }
119
120 struct tty *
121 tty_create(struct weston_compositor *compositor, tty_vt_func_t vt_func,
122            int tty_nr)
123 {
124         struct termios raw_attributes;
125         struct vt_mode mode = { 0 };
126         int ret;
127         struct tty *tty;
128         struct wl_event_loop *loop;
129         struct stat buf;
130         char filename[16];
131
132         tty = malloc(sizeof *tty);
133         if (tty == NULL)
134                 return NULL;
135
136         memset(tty, 0, sizeof *tty);
137         tty->compositor = compositor;
138         tty->vt_func = vt_func;
139         if (tty_nr > 0) {
140                 snprintf(filename, sizeof filename, "/dev/tty%d", tty_nr);
141                 fprintf(stderr, "compositor: using %s\n", filename);
142                 tty->fd = open(filename, O_RDWR | O_NOCTTY | O_CLOEXEC);
143         } else if (fstat(tty->fd, &buf) == 0 &&
144                    major(buf.st_rdev) == TTY_MAJOR &&
145                    minor(buf.st_rdev) > 0) {
146                 tty->fd = fcntl(0, F_DUPFD_CLOEXEC, 0);
147         } else {
148                 /* Fall back to try opening a new VT.  This typically
149                  * requires root. */
150                 tty->fd = try_open_vt(tty);
151         }
152
153         if (tty->fd <= 0) {
154                 fprintf(stderr, "failed to open tty: %m\n");
155                 free(tty);
156                 return NULL;
157         }
158
159         if (tcgetattr(tty->fd, &tty->terminal_attributes) < 0) {
160                 fprintf(stderr, "could not get terminal attributes: %m\n");
161                 goto err;
162         }
163
164         /* Ignore control characters and disable echo */
165         raw_attributes = tty->terminal_attributes;
166         cfmakeraw(&raw_attributes);
167
168         /* Fix up line endings to be normal (cfmakeraw hoses them) */
169         raw_attributes.c_oflag |= OPOST | OCRNL;
170
171         if (tcsetattr(tty->fd, TCSANOW, &raw_attributes) < 0)
172                 fprintf(stderr, "could not put terminal into raw mode: %m\n");
173
174         loop = wl_display_get_event_loop(compositor->wl_display);
175         tty->input_source =
176                 wl_event_loop_add_fd(loop, tty->fd,
177                                      WL_EVENT_READABLE, on_tty_input, tty);
178         if (!tty->input_source)
179                 goto err_attr;
180
181         ret = ioctl(tty->fd, KDSETMODE, KD_GRAPHICS);
182         if (ret) {
183                 fprintf(stderr, "failed to set KD_GRAPHICS mode on tty: %m\n");
184                 goto err_input_source;
185         }
186
187         tty->has_vt = 1;
188         mode.mode = VT_PROCESS;
189         mode.relsig = SIGUSR1;
190         mode.acqsig = SIGUSR1;
191         if (ioctl(tty->fd, VT_SETMODE, &mode) < 0) {
192                 fprintf(stderr, "failed to take control of vt handling\n");
193                 goto err_kdmode;
194         }
195
196         tty->vt_source =
197                 wl_event_loop_add_signal(loop, SIGUSR1, vt_handler, tty);
198         if (!tty->vt_source)
199                 goto err_vtmode;
200
201         return tty;
202
203 err_vtmode:
204         ioctl(tty->fd, VT_SETMODE, &mode);
205
206 err_kdmode:
207         ioctl(tty->fd, KDSETMODE, KD_TEXT);
208
209 err_input_source:
210         wl_event_source_remove(tty->input_source);
211
212 err_attr:
213         tcsetattr(tty->fd, TCSANOW, &tty->terminal_attributes);
214
215 err:
216         close(tty->fd);
217         free(tty);
218         return NULL;
219 }
220
221 void
222 tty_destroy(struct tty *tty)
223 {
224         struct vt_mode mode = { 0 };
225
226         if(!tty)
227                 return;
228
229         if (ioctl(tty->fd, KDSETMODE, KD_TEXT))
230                 fprintf(stderr,
231                         "failed to set KD_TEXT mode on tty: %m\n");
232
233         if (tcsetattr(tty->fd, TCSANOW, &tty->terminal_attributes) < 0)
234                 fprintf(stderr,
235                         "could not restore terminal to canonical mode\n");
236
237         mode.mode = VT_AUTO;
238         if (ioctl(tty->fd, VT_SETMODE, &mode) < 0)
239                 fprintf(stderr, "could not reset vt handling\n");
240
241         if (tty->has_vt && tty->vt != tty->starting_vt) {
242                 ioctl(tty->fd, VT_ACTIVATE, tty->starting_vt);
243                 ioctl(tty->fd, VT_WAITACTIVE, tty->starting_vt);
244         }
245
246         wl_event_source_remove(tty->input_source);
247         wl_event_source_remove(tty->vt_source);
248
249         close(tty->fd);
250
251         free(tty);
252 }