Enable -Wpointer-sign by default.
[platform/upstream/binutils.git] / gdb / configure.ac
1 dnl Autoconf configure script for GDB, the GNU debugger.
2 dnl Copyright (C) 1995-2013 Free Software Foundation, Inc.
3 dnl
4 dnl This file is part of GDB.
5 dnl 
6 dnl This program is free software; you can redistribute it and/or modify
7 dnl it under the terms of the GNU General Public License as published by
8 dnl the Free Software Foundation; either version 3 of the License, or
9 dnl (at your option) any later version.
10 dnl
11 dnl This program is distributed in the hope that it will be useful,
12 dnl but WITHOUT ANY WARRANTY; without even the implied warranty of
13 dnl MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14 dnl GNU General Public License for more details.
15 dnl
16 dnl You should have received a copy of the GNU General Public License
17 dnl along with this program.  If not, see <http://www.gnu.org/licenses/>.
18
19 dnl Process this file with autoconf to produce a configure script.
20
21 AC_PREREQ(2.59)dnl
22 AC_INIT(main.c)
23 AC_CONFIG_HEADER(config.h:config.in)
24 AM_MAINTAINER_MODE
25
26 # Provide more thorough testing by -lmcheck.
27 # Set it to 'true' for development snapshots, 'false' for releases or
28 # pre-releases.
29 development=true
30
31 AC_PROG_CC
32 AC_USE_SYSTEM_EXTENSIONS
33 ACX_LARGEFILE
34 AM_PROG_CC_STDC
35
36 AC_CONFIG_AUX_DIR(..)
37 AC_CANONICAL_SYSTEM
38 AC_ARG_PROGRAM
39
40 # Dependency checking.
41 ZW_CREATE_DEPDIR
42 ZW_PROG_COMPILER_DEPENDENCIES([CC])
43
44 # Check for the 'make' the user wants to use.
45 AC_CHECK_PROGS(MAKE, make)
46 MAKE_IS_GNU=
47 case "`$MAKE --version 2>&1 | sed 1q`" in
48   *GNU*)
49     MAKE_IS_GNU=yes
50     ;;
51 esac
52 AM_CONDITIONAL(GMAKE, test "$MAKE_IS_GNU" = yes)
53 AC_PROG_MAKE_SET
54
55 # Configure gnulib.  We need to build gnulib under some other
56 # directory not "gnulib", to avoid the problem of both GDB and
57 # GDBserver wanting to build it in the same directory, when building
58 # in the source dir.
59 ACX_CONFIGURE_DIR(["gnulib"], ["build-gnulib"])
60
61 dnl List of object files and targets accumulated by configure.
62
63 CONFIG_OBS=
64 CONFIG_DEPS=
65 CONFIG_SRCS=
66 ENABLE_CFLAGS=
67
68 CONFIG_ALL=
69 CONFIG_CLEAN=
70 CONFIG_INSTALL=
71 CONFIG_UNINSTALL=
72
73 dnl Set up for gettext.
74 ZW_GNU_GETTEXT_SISTER_DIR
75
76 localedir='${datadir}/locale'
77 AC_SUBST(localedir)
78
79 if test x"$USE_NLS" = xyes; then
80    CONFIG_ALL="$CONFIG_ALL all-po"
81    CONFIG_CLEAN="$CONFIG_CLEAN clean-po"                   
82    CONFIG_INSTALL="$CONFIG_INSTALL install-po"
83    CONFIG_UNINSTALL="$CONFIG_UNINSTALL uninstall-po"
84 fi
85
86 GNULIB=build-gnulib/import
87
88 # For Makefile dependencies.
89 GNULIB_STDINT_H=
90 if test x"$STDINT_H" != x; then
91   GNULIB_STDINT_H=$GNULIB/$STDINT_H
92 fi
93 AC_SUBST(GNULIB_STDINT_H)
94
95 PACKAGE=gdb
96 AC_DEFINE_UNQUOTED(PACKAGE, "$PACKAGE", [Name of this package. ])
97 AC_SUBST(PACKAGE)
98
99 # We never need to detect it in this sub-configure.
100 # But preserve it for config.status --recheck.
101 AC_ARG_VAR(MAKEINFO,
102   [Parent configure detects if it is of sufficient version.])
103 AC_ARG_VAR(MAKEINFOFLAGS,
104   [Parameters for MAKEINFO.])
105
106 MAKEINFO_EXTRA_FLAGS=""
107 AC_CACHE_CHECK([whether $MAKEINFO supports @click], gdb_cv_have_makeinfo_click,
108   [echo '@clicksequence{a @click{} b}' >conftest.texinfo
109   if eval "$MAKEINFO conftest.texinfo >&5 2>&5"; then
110     gdb_cv_have_makeinfo_click=yes
111   else
112     gdb_cv_have_makeinfo_click=no
113   fi])
114 if test x"$gdb_cv_have_makeinfo_click" = xyes; then
115   MAKEINFO_EXTRA_FLAGS="$MAKEINFO_EXTRA_FLAGS -DHAVE_MAKEINFO_CLICK"
116 fi
117 AC_SUBST(MAKEINFO_EXTRA_FLAGS)
118
119 GDB_AC_WITH_DIR(DEBUGDIR, separate-debug-dir,
120     [look for global separate debug info in this path @<:@LIBDIR/debug@:>@],
121     [${libdir}/debug])
122
123 # We can't pass paths as command line arguments.
124 # Mingw32 tries to be clever and will convert the paths for us.
125 # For example -DBINDIR="/usr/local/bin" passed on the command line may get
126 # converted to -DBINDIR="E:/msys/mingw32/msys/1.0/local/bin".
127 # This breaks GDB's relocatable path conversions since paths passed in
128 # config.h would not get so translated, the path prefixes no longer match.
129 AC_DEFINE_DIR(BINDIR, bindir, [Directory of programs.])
130
131 # GDB's datadir relocation
132
133 GDB_AC_WITH_DIR(GDB_DATADIR, gdb-datadir,
134     [look for global separate data files in this path @<:@DATADIR/gdb@:>@],
135     [${datadir}/gdb])
136
137 AC_ARG_WITH(relocated-sources,
138 AS_HELP_STRING([--with-relocated-sources=PATH], [automatically relocate this path for source files]),
139 [reloc_srcdir="${withval}"
140  AC_DEFINE_DIR(RELOC_SRCDIR, reloc_srcdir,
141               [Relocated directory for source files. ])
142 ])
143
144 AC_MSG_CHECKING([for default auto-load directory])
145 AC_ARG_WITH(auto-load-dir,
146 AS_HELP_STRING([--with-auto-load-dir=PATH],
147   [directories from which to load auto-loaded scripts @<:@$debugdir:$datadir/auto-load@:>@]),,
148   [with_auto_load_dir='$debugdir:$datadir/auto-load'])
149 escape_dir=`echo $with_auto_load_dir | sed 's/[[$]]\(datadir\|debugdir\)\>/\\\\\\\\\\\\&/g'`
150 AC_DEFINE_DIR(AUTO_LOAD_DIR, escape_dir,
151               [Directories from which to load auto-loaded scripts.])
152 AC_MSG_RESULT([$with_auto_load_dir])
153
154 AC_MSG_CHECKING([for default auto-load safe-path])
155 AC_ARG_WITH(auto-load-safe-path,
156 AS_HELP_STRING([--with-auto-load-safe-path=PATH],
157   [directories safe to hold auto-loaded files @<:@--with-auto-load-dir@:>@])
158 AS_HELP_STRING([--without-auto-load-safe-path],
159                [do not restrict auto-loaded files locations]),
160     [if test "$with_auto_load_safe_path" = "no"; then
161      with_auto_load_safe_path="/"
162      fi],
163 [with_auto_load_safe_path="$with_auto_load_dir"])
164 escape_dir=`echo $with_auto_load_safe_path | sed 's/[[$]]\(datadir\|debugdir\)\>/\\\\\\\\\\\\&/g'`
165 AC_DEFINE_DIR(AUTO_LOAD_SAFE_PATH, escape_dir,
166               [Directories safe to hold auto-loaded files.])
167 AC_MSG_RESULT([$with_auto_load_safe_path])
168
169 AC_CONFIG_SUBDIRS(testsuite)
170
171 # Check whether to support alternative target configurations
172 AC_ARG_ENABLE(targets,
173 AS_HELP_STRING([--enable-targets=TARGETS], [alternative target configurations]),
174 [case "${enableval}" in
175   yes | "") AC_ERROR(enable-targets option must specify target names or 'all')
176             ;;
177   no)       enable_targets= ;;
178   *)        enable_targets=$enableval ;;
179 esac])
180
181 # Check whether to enable 64-bit support on 32-bit hosts
182 AC_ARG_ENABLE(64-bit-bfd,
183 AS_HELP_STRING([--enable-64-bit-bfd], [64-bit support (on hosts with narrower word sizes)]),
184 [case "${enableval}" in
185   yes)  want64=true  ;;
186   no)   want64=false ;;
187   *)    AC_MSG_ERROR(bad value ${enableval} for 64-bit-bfd option) ;;
188 esac],[want64=false])dnl
189
190 # Provide defaults for some variables set by the per-host and per-target
191 # configuration.
192 gdb_host_obs=posix-hdep.o
193
194 if test "${target}" = "${host}"; then
195   gdb_native=yes
196 else
197   gdb_native=no
198 fi
199
200 . $srcdir/configure.host
201
202 # Accumulate some settings from configure.tgt over all enabled targets
203
204 TARGET_OBS=
205 all_targets=
206 HAVE_NATIVE_GCORE_TARGET=
207
208 for targ_alias in `echo $target_alias $enable_targets | sed 's/,/ /g'`
209 do
210   if test "$targ_alias" = "all"; then
211     all_targets=true
212   else
213     # Canonicalize the secondary target names.
214     result=`$ac_config_sub $targ_alias 2>/dev/null`
215     if test -n "$result"; then
216         targ=$result
217     else
218         targ=$targ_alias
219     fi
220
221     . ${srcdir}/configure.tgt
222
223     AS_IF([test -z "${gdb_target_obs}"],
224       [AC_MSG_ERROR([configuration ${targ} is unsupported.])])
225
226     # Target-specific object files
227     for i in ${gdb_target_obs}; do
228         case " $TARGET_OBS " in
229         *" ${i} "*) ;;
230         *)
231           TARGET_OBS="$TARGET_OBS ${i}"
232           ;;
233         esac
234     done
235
236     # Check whether this target needs 64-bit CORE_ADDR
237     if test x${want64} = xfalse; then
238       . ${srcdir}/../bfd/config.bfd
239     fi
240
241     # Check whether this target is native and supports gcore.
242     if test $gdb_native = yes -a "$targ_alias" = "$target_alias" \
243        && $gdb_have_gcore; then
244       HAVE_NATIVE_GCORE_TARGET=1
245     fi
246   fi
247 done
248
249 if test x${all_targets} = xtrue; then
250
251   # We want all 64-bit targets if we either:
252   #  - run on a 64-bit host  or
253   #  - already require 64-bit support for some other target  or
254   #  - the --enable-64-bit-bfd option was supplied
255   # Otherwise we only support all 32-bit targets.
256   #
257   # NOTE: This test must be in sync with the corresponding
258   #       tests in BFD!
259
260   if test x${want64} = xfalse; then
261     AC_CHECK_SIZEOF(long)
262     if test "x${ac_cv_sizeof_long}" = "x8"; then
263       want64=true
264     fi
265   fi
266   if test x${want64} = xtrue; then
267     TARGET_OBS='$(ALL_TARGET_OBS) $(ALL_64_TARGET_OBS)'
268   else
269     TARGET_OBS='$(ALL_TARGET_OBS)'
270   fi
271 fi
272
273 AC_SUBST(TARGET_OBS)
274 AC_SUBST(HAVE_NATIVE_GCORE_TARGET)
275
276 # For other settings, only the main target counts.
277 gdb_sim=
278 gdb_osabi=
279 build_gdbserver=
280 targ=$target; . ${srcdir}/configure.tgt
281
282 # Fetch the default architecture and default target vector from BFD.
283 targ=$target; . $srcdir/../bfd/config.bfd
284
285 # We only want the first architecture, so strip off the others if
286 # there is more than one.
287 targ_archs=`echo $targ_archs | sed 's/ .*//'`
288
289 if test "x$targ_archs" != x; then
290   AC_DEFINE_UNQUOTED(DEFAULT_BFD_ARCH, $targ_archs,
291     [Define to BFD's default architecture. ])
292 fi
293 if test "x$targ_defvec" != x; then
294   AC_DEFINE_UNQUOTED(DEFAULT_BFD_VEC, $targ_defvec,
295     [Define to BFD's default target vector. ])
296 fi
297
298 # The CLI cannot be disabled yet, but may be in the future.
299
300 # Enable CLI.
301 AC_ARG_ENABLE(gdbcli,
302 AS_HELP_STRING([--disable-gdbcli], [disable command-line interface (CLI)]),
303   [case $enableval in
304     yes)
305       ;;
306     no)
307       AC_MSG_ERROR([the command-line interface cannot be disabled yet]) ;;
308     *)
309       AC_MSG_ERROR([bad value $enableval for --enable-gdbcli]) ;;
310   esac],
311   [enable_gdbcli=yes])
312 if test x"$enable_gdbcli" = xyes; then
313   if test -d $srcdir/cli; then
314     CONFIG_OBS="$CONFIG_OBS \$(SUBDIR_CLI_OBS)"
315     CONFIG_DEPS="$CONFIG_DEPS \$(SUBDIR_CLI_DEPS)"
316     CONFIG_SRCS="$CONFIG_SRCS \$(SUBDIR_CLI_SRCS)"
317     ENABLE_CFLAGS="$ENABLE_CFLAGS \$(SUBDIR_CLI_CFLAGS)"
318   fi
319 fi
320
321 # Enable MI.
322 AC_ARG_ENABLE(gdbmi,
323 AS_HELP_STRING([--disable-gdbmi], [disable machine-interface (MI)]),
324   [case $enableval in
325     yes | no)
326       ;;
327     *)
328       AC_MSG_ERROR([bad value $enableval for --enable-gdbmi]) ;;
329   esac],
330   [enable_gdbmi=yes])
331 if test x"$enable_gdbmi" = xyes; then
332   if test -d $srcdir/mi; then
333     CONFIG_OBS="$CONFIG_OBS \$(SUBDIR_MI_OBS)"
334     CONFIG_DEPS="$CONFIG_DEPS \$(SUBDIR_MI_DEPS)"
335     CONFIG_SRCS="$CONFIG_SRCS \$(SUBDIR_MI_SRCS)"
336     ENABLE_CFLAGS="$ENABLE_CFLAGS \$(SUBDIR_MI_CFLAGS)"
337   fi
338 fi
339
340 # Enable TUI.
341 AC_ARG_ENABLE(tui,
342 AS_HELP_STRING([--enable-tui], [enable full-screen terminal user interface (TUI)]),
343   [case $enableval in
344     yes | no | auto)
345       ;;
346     *)
347       AC_MSG_ERROR([bad value $enableval for --enable-tui]) ;;
348   esac],enable_tui=auto)
349
350 # Enable gdbtk.
351 AC_ARG_ENABLE(gdbtk,
352 AS_HELP_STRING([--enable-gdbtk], [enable gdbtk graphical user interface (GUI)]),
353   [case $enableval in
354     yes | no)
355       ;;
356     *)
357       AC_MSG_ERROR([bad value $enableval for --enable-gdbtk]) ;;
358   esac],
359   [if test -d $srcdir/gdbtk; then
360     enable_gdbtk=yes
361   else
362     enable_gdbtk=no
363   fi])
364 # We unconditionally disable gdbtk tests on selected platforms.
365 case $host_os in
366   go32* | windows*)
367     AC_MSG_WARN([gdbtk isn't supported on $host; disabling])
368     enable_gdbtk=no ;;
369 esac
370
371 # Libunwind support for ia64.
372
373 AC_ARG_WITH(libunwind-ia64,
374 AS_HELP_STRING([--with-libunwind-ia64],
375                [use libunwind frame unwinding for ia64 targets]),,
376             [with_libunwind_ia64=auto])
377
378 # Backward compatibility option.
379 if test "${with_libunwind+set}" = set; then
380   if test x"$with_libunwind_ia64" != xauto; then
381     AC_MSG_ERROR(
382       [option --with-libunwind is deprecated, use --with-libunwind-ia64])
383   fi
384   AC_MSG_WARN([option --with-libunwind is deprecated, use --with-libunwind-ia64])
385   with_libunwind_ia64="$with_libunwind"
386 fi
387
388 case "$with_libunwind_ia64" in
389   yes | no)
390     ;;
391   auto)
392     AC_CHECK_HEADERS(libunwind-ia64.h)
393     with_libunwind_ia64=$ac_cv_header_libunwind_ia64_h
394     ;;
395   *)
396     AC_MSG_ERROR(
397       [bad value $with_libunwind_ia64 for GDB --with-libunwind-ia64 option])
398     ;;
399 esac
400
401 if test x"$with_libunwind_ia64" = xyes; then
402   AC_CHECK_HEADERS(libunwind-ia64.h)
403   if test x"$ac_cv_header_libunwind_ia64_h" != xyes; then
404     AC_MSG_ERROR([GDB option --with-libunwind-ia64 requires libunwind-ia64.h])
405   fi
406   CONFIG_OBS="$CONFIG_OBS ia64-libunwind-tdep.o"
407   CONFIG_DEPS="$CONFIG_DEPS ia64-libunwind-tdep.o"
408   CONFIG_SRCS="$CONFIG_SRCS ia64-libunwind-tdep.c"
409 fi
410
411 opt_curses=no
412 AC_ARG_WITH(curses, AS_HELP_STRING([--with-curses], [use the curses library instead of the termcap library]), opt_curses=$withval)
413
414 prefer_curses=no
415 if test "$opt_curses" = "yes"; then
416   prefer_curses=yes
417 fi
418
419 # Profiling support.
420 AC_ARG_ENABLE(profiling,
421 AS_HELP_STRING([--enable-profiling], [enable profiling of GDB]),
422   [case $enableval in
423     yes | no)
424       ;;
425     *)
426       AC_MSG_ERROR([bad value $enableval for --enable-profile]) ;;
427   esac],
428  [enable_profiling=no])
429
430 AC_CHECK_FUNCS(monstartup _mcleanup)
431 AC_CACHE_CHECK([for _etext], ac_cv_var__etext,
432 [AC_TRY_LINK(
433 [#include <stdlib.h>
434 extern char _etext;
435 ],
436 [free (&_etext);], ac_cv_var__etext=yes, ac_cv_var__etext=no)])
437 if test $ac_cv_var__etext = yes; then
438   AC_DEFINE(HAVE__ETEXT, 1,
439             [Define to 1 if your system has the _etext variable. ])
440 fi
441 AC_CACHE_CHECK([for etext], ac_cv_var_etext,
442 [AC_TRY_LINK(
443 [#include <stdlib.h>
444 extern char etext;
445 ],
446 [free (&etext);], ac_cv_var_etext=yes, ac_cv_var_etext=no)])
447 if test $ac_cv_var_etext = yes; then
448   AC_DEFINE(HAVE_ETEXT, 1,
449             [Define to 1 if your system has the etext variable. ])
450 fi
451 if test "$enable_profiling" = yes ; then
452   if test $ac_cv_func_monstartup = no || test $ac_cv_func__mcleanup = no; then
453     AC_MSG_ERROR(--enable-profiling requires monstartup and _mcleanup)
454   fi
455   PROFILE_CFLAGS=-pg
456   OLD_CFLAGS="$CFLAGS"
457   CFLAGS="$CFLAGS $PROFILE_CFLAGS"
458
459   AC_CACHE_CHECK([whether $CC supports -pg], ac_cv_cc_supports_pg,
460     [AC_TRY_COMPILE([], [int x;], ac_cv_cc_supports_pg=yes,
461      ac_cv_cc_supports_pg=no)])
462
463   if test $ac_cv_cc_supports_pg = no; then
464     AC_MSG_ERROR(--enable-profiling requires a compiler which supports -pg)
465   fi
466
467   CFLAGS="$OLD_CFLAGS"
468 fi
469
470 ACX_PKGVERSION([GDB])
471 ACX_BUGURL([http://www.gnu.org/software/gdb/bugs/])
472 AC_DEFINE_UNQUOTED([PKGVERSION], ["$PKGVERSION"], [Additional package description])
473 AC_DEFINE_UNQUOTED([REPORT_BUGS_TO], ["$REPORT_BUGS_TO"], [Bug reporting address])
474
475 # --------------------- #
476 # Checks for programs.  #
477 # --------------------- #
478
479 AC_PROG_AWK
480 AC_PROG_INSTALL
481 AC_PROG_LN_S
482 AC_PROG_RANLIB
483 AC_PROG_YACC
484
485 AC_CHECK_TOOL(AR, ar)
486 AC_CHECK_TOOL(DLLTOOL, dlltool)
487 AC_CHECK_TOOL(WINDRES, windres)
488
489 # Needed for GNU/Hurd.
490 AC_CHECK_TOOL(MIG, mig)
491
492 # ---------------------- #
493 # Checks for libraries.  #
494 # ---------------------- #
495
496 # We might need to link with -lm; most simulators need it.
497 AC_CHECK_LIB(m, main)
498
499 # We need to link with -lw to get `wctype' on Solaris before Solaris
500 # 2.6.  Solaris 2.6 and beyond have this function in libc, and have a
501 # libw that some versions of the GNU linker cannot hanle (GNU ld 2.9.1
502 # is known to have this problem).  Therefore we avoid libw if we can.
503 AC_CHECK_FUNC(wctype, [],
504   [AC_CHECK_LIB(w, wctype)])
505
506 # Some systems (e.g. Solaris) have `gethostbyname' in libnsl.
507 AC_SEARCH_LIBS(gethostbyname, nsl)
508
509 # Some systems (e.g. Solaris) have `socketpair' in libsocket.
510 AC_SEARCH_LIBS(socketpair, socket)
511
512 # Link in zlib if we can.  This allows us to read compressed debug sections.
513 AM_ZLIB
514
515 # On HP/UX we may need libxpdl for dlgetmodinfo (used by solib-pa64.c).
516 AC_SEARCH_LIBS(dlgetmodinfo, [dl xpdl])
517
518 AM_ICONV
519
520 # GDB may fork/exec the iconv program to get the list of supported character
521 # sets.  Allow the user to specify where to find it.
522 # There are several factors affecting the choice of option name:
523 # - There is already --with-libiconv-prefix but we can't use it, it specifies
524 #   the build-time location of libiconv files.
525 # - The program we need to find is iconv, which comes with glibc.  The user
526 #   doesn't necessarily have libiconv installed.  Therefore naming this
527 #   --with-libiconv-foo feels wrong.
528 # - We want the path to be relocatable, but GDB_AC_DEFINE_RELOCATABLE is
529 #   defined to work on directories not files (though it really doesn't know
530 #   the difference).
531 # - Calling this --with-iconv-prefix is perceived to cause too much confusion
532 #   with --with-libiconv-prefix.
533 # Putting these together is why the option name is --with-iconv-bin.
534
535 AC_ARG_WITH(iconv-bin,
536 AS_HELP_STRING([--with-iconv-bin=PATH], [specify where to find the iconv program]),
537 [iconv_bin="${withval}"
538  AC_DEFINE_UNQUOTED([ICONV_BIN], ["${iconv_bin}"],
539                     [Path of directory of iconv program.])
540  GDB_AC_DEFINE_RELOCATABLE(ICONV_BIN, iconv, ${iconv_bin})
541 ])
542
543 # On alpha-osf, it appears that libtermcap and libcurses are not compatible.
544 # There is a very specific comment in /usr/include/curses.h explaining that
545 # termcap routines built into libcurses must not be used.
546
547 # The symptoms we observed so far is GDB unexpectedly changing
548 # the terminal settings when tgetent is called - this is particularly
549 # visible as the output is missing carriage returns, and so rapidly
550 # becomes very hard to read.
551 #
552 # The readline configure script has already decided that libtermcap
553 # was enough for its purposes, and so decided to build readline using
554 # libtermcap.  Since the TUI mode requires curses, building GDB with
555 # TUI enabled results in both libraries to be used at the same time,
556 # which is not allowed.  This basically means that GDB with TUI is
557 # broken on alpha-osf.
558
559 case $host_os in
560   osf* )
561     if test x"$enable_tui" = xyes; then
562       AC_MSG_ERROR([Building GDB with TUI mode is not supported on this host])
563     fi
564     if test x"$enable_tui" = xauto; then
565       enable_tui=no
566     fi
567     ;;
568 esac
569
570 # For the TUI, we need enhanced curses functionality.
571 if test x"$enable_tui" != xno; then
572   prefer_curses=yes
573 fi
574
575 curses_found=no
576 if test x"$prefer_curses" = xyes; then
577   # FIXME: kettenis/20040905: We prefer ncurses over the vendor-supplied
578   # curses library because the latter might not provide all the
579   # functionality we need.  However, this leads to problems on systems
580   # where the linker searches /usr/local/lib, but the compiler doesn't
581   # search /usr/local/include, if ncurses is installed in /usr/local.  A
582   # default installation of ncurses on alpha*-dec-osf* will lead to such
583   # a situation.
584   AC_SEARCH_LIBS(waddstr, [ncurses cursesX curses])
585
586   if test "$ac_cv_search_waddstr" != no; then
587     curses_found=yes
588   fi
589 fi
590
591 # Check whether we should enable the TUI, but only do so if we really
592 # can.
593 if test x"$enable_tui" != xno; then
594   if test -d $srcdir/tui; then
595     if test "$curses_found" != no; then
596       CONFIG_OBS="$CONFIG_OBS \$(SUBDIR_TUI_OBS)"
597       CONFIG_DEPS="$CONFIG_DEPS \$(SUBDIR_TUI_DEPS)"
598       CONFIG_SRCS="$CONFIG_SRCS \$(SUBDIR_TUI_SRCS)"
599       ENABLE_CFLAGS="$ENABLE_CFLAGS \$(SUBDIR_TUI_CFLAGS)"
600     else
601       if test x"$enable_tui" = xyes; then
602         AC_MSG_ERROR([no enhanced curses library found; disable TUI])
603       else
604         AC_MSG_WARN([no enhanced curses library found; disabling TUI])
605       fi
606     fi
607   fi
608 fi
609
610 # Since GDB uses Readline, we need termcap functionality.  In many
611 # cases this will be provided by the curses library, but some systems
612 # have a seperate termcap library, or no curses library at all.
613
614 case $host_os in
615   cygwin*)
616     if test -d $srcdir/libtermcap; then
617       LIBS="../libtermcap/libtermcap.a $LIBS"
618       ac_cv_search_tgetent="../libtermcap/libtermcap.a"
619     fi ;;
620   go32* | *djgpp*)
621     ac_cv_search_tgetent="none required"
622     ;;
623   *mingw32*)     
624     ac_cv_search_tgetent="none required"
625     CONFIG_OBS="$CONFIG_OBS windows-termcap.o"
626     ;;
627 esac
628
629 # These are the libraries checked by Readline.
630 AC_SEARCH_LIBS(tgetent, [termcap tinfo curses ncurses])
631
632 if test "$ac_cv_search_tgetent" = no; then
633   AC_MSG_ERROR([no termcap library found])
634 fi
635
636 AC_ARG_WITH([system-readline],
637   [AS_HELP_STRING([--with-system-readline],
638                   [use installed readline library])])
639
640 if test "$with_system_readline" = yes; then
641   READLINE=-lreadline
642   READLINE_DEPS=
643   READLINE_CFLAGS=
644   READLINE_TEXI_INCFLAG=
645 else
646   READLINE='$(READLINE_DIR)/libreadline.a'
647   READLINE_DEPS='$(READLINE)'
648   READLINE_CFLAGS='-I$(READLINE_SRC)/..'
649   READLINE_TEXI_INCFLAG='-I $(READLINE_DIR)'
650 fi
651 AC_SUBST(READLINE)
652 AC_SUBST(READLINE_DEPS)
653 AC_SUBST(READLINE_CFLAGS)
654 AC_SUBST(READLINE_TEXI_INCFLAG)
655
656 # Generate jit-reader.h
657
658 # This is typedeffed to GDB_CORE_ADDR in jit-reader.h
659 TARGET_PTR=
660
661 AC_CHECK_SIZEOF(unsigned long long)
662 AC_CHECK_SIZEOF(unsigned long)
663 AC_CHECK_SIZEOF(unsigned __int128)
664
665 if test "x${ac_cv_sizeof_unsigned_long}" = "x8"; then
666   TARGET_PTR="unsigned long"
667 elif test "x${ac_cv_sizeof_unsigned_long_long}" = "x8"; then
668   TARGET_PTR="unsigned long long"
669 elif test "x${ac_cv_sizeof_unsigned___int128}" = "x16"; then
670   TARGET_PTR="unsigned __int128"
671 else
672   TARGET_PTR="unsigned long"
673 fi
674
675 AC_SUBST(TARGET_PTR)
676 AC_CONFIG_FILES([jit-reader.h:jit-reader.in])
677
678 AC_SEARCH_LIBS(dlopen, dl)
679
680 GDB_AC_WITH_DIR([JIT_READER_DIR], [jit-reader-dir],
681                 [directory to load the JIT readers from],
682                 [${libdir}/gdb])
683
684 AC_ARG_WITH(expat,
685   AS_HELP_STRING([--with-expat], [include expat support (auto/yes/no)]),
686   [], [with_expat=auto])
687 AC_MSG_CHECKING([whether to use expat])
688 AC_MSG_RESULT([$with_expat])
689
690 if test "${with_expat}" = no; then
691   AC_MSG_WARN([expat support disabled; some features may be unavailable.])
692   HAVE_LIBEXPAT=no
693 else
694   AC_LIB_HAVE_LINKFLAGS([expat], [], [#include "expat.h"],
695                         [XML_Parser p = XML_ParserCreate (0);])
696   if test "$HAVE_LIBEXPAT" != yes; then
697     if test "$with_expat" = yes; then
698       AC_MSG_ERROR([expat is missing or unusable])
699     else
700       AC_MSG_WARN([expat is missing or unusable; some features may be unavailable.])
701     fi
702   else
703     save_LIBS=$LIBS
704     LIBS="$LIBS $LIBEXPAT"
705     AC_CHECK_FUNCS(XML_StopParser)
706     LIBS=$save_LIBS
707   fi
708 fi
709
710 dnl Utility to simplify finding libpython.
711 dnl $1 = pythonX.Y
712 dnl $2 = the shell variable to assign the result to
713 dnl      If libpython is found we store $version here.
714 dnl $3 = additional flags to add to CPPFLAGS
715 dnl $4 = additional flags to add to LIBS
716
717 AC_DEFUN([AC_TRY_LIBPYTHON],
718 [
719   version=$1
720   define([have_libpython_var],$2)
721   new_CPPFLAGS=$3
722   new_LIBS=$4
723   AC_MSG_CHECKING([for ${version}])
724   save_CPPFLAGS=$CPPFLAGS
725   save_LIBS=$LIBS
726   CPPFLAGS="$CPPFLAGS $new_CPPFLAGS"
727   LIBS="$LIBS $new_LIBS"
728   found_usable_python=no
729   AC_LINK_IFELSE(AC_LANG_PROGRAM([[#include "Python.h"]],
730                                  [[Py_Initialize ();]]),
731                  [have_libpython_var=${version}
732                   found_usable_python=yes
733                   PYTHON_CPPFLAGS=$new_CPPFLAGS
734                   PYTHON_LIBS=$new_LIBS])
735   CPPFLAGS=$save_CPPFLAGS
736   LIBS=$save_LIBS
737   AC_MSG_RESULT([${found_usable_python}])
738 ])
739
740 dnl There are several different values for --with-python:
741 dnl
742 dnl no -   Don't include python support.
743 dnl yes -  Include python support, error if it's missing.
744 dnl        If we find python in $PATH, use it to fetch configure options,
745 dnl        otherwise assume the compiler can find it with no help from us.
746 dnl        Python 2.7, 2.6, 2.5, and then 2.4 are tried in turn.
747 dnl auto - Same as "yes", but if python is missing from the system,
748 dnl        fall back to "no".
749 dnl /path/to/python/exec-prefix -
750 dnl        Use the python located in this directory.
751 dnl        If /path/to/python/exec-prefix/bin/python exists, use it to find
752 dnl        the compilation parameters.  Otherwise use
753 dnl        -I/path/to/python/exec-prefix/include,
754 dnl        -L/path/to/python/exec-prefix/lib.
755 dnl        Python 2.7, 2.6, 2.5, and then 2.4 are tried in turn.
756 dnl        NOTE: This case is historical.  It is what was done for 7.0/7.1
757 dnl        but is deprecated.
758 dnl /path/to/python/executable -
759 dnl        Run python-config.py with this version of python to fetch the
760 dnl        compilation parameters.
761 dnl        NOTE: This needn't be the real python executable.
762 dnl        In a cross-compilation scenario (build != host), this could be
763 dnl        a shell script that provides what python-config.py provides for
764 dnl        --ldflags, --includes, --exec-prefix.
765 dnl python-executable -
766 dnl        Find python-executable in $PATH, and then handle the same as
767 dnl        /path/to/python/executable.
768 dnl
769 dnl If a python program is specified, it is used to run python-config.py and
770 dnl is passed --ldflags, --includes, --exec-prefix.
771
772 AC_ARG_WITH(python,
773   AS_HELP_STRING([--with-python@<:@=PYTHON@:>@], [include python support (auto/yes/no/<python-program>)]),
774   [], [with_python=auto])
775 AC_MSG_CHECKING([whether to use python])
776 AC_MSG_RESULT([$with_python])
777
778 if test "${with_python}" = no; then
779   AC_MSG_WARN([python support disabled; some features may be unavailable.])
780   have_libpython=no
781 else
782   case "${with_python}" in
783   [[\\/]]* | ?:[[\\/]]*)
784     if test -d ${with_python}; then
785       # Assume the python binary is ${with_python}/bin/python.
786       python_prog="${with_python}/bin/python"
787       python_prefix=
788       # If python does not exit ${with_python}/bin, then try in
789       # ${with_python}.  On Windows/MinGW, this is where the Python
790       # executable is.
791       if test ! -x "${python_prog}"; then
792         python_prog="${with_python}/python"
793         python_prefix=
794       fi
795       if test ! -x "${python_prog}"; then
796         # Fall back to gdb 7.0/7.1 behaviour.
797         python_prog=missing
798         python_prefix=${with_python}
799       fi
800     elif test -x "${with_python}"; then
801       # While we can't run python compiled for $host (unless host == build),
802       # the user could write a script that provides the needed information,
803       # so we support that.
804       python_prog=${with_python}
805       python_prefix=
806     else
807       AC_ERROR(invalid value for --with-python)
808     fi
809     ;;
810   */*)
811     # Disallow --with-python=foo/bar.
812     AC_ERROR(invalid value for --with-python)
813     ;;
814   *)
815     # The user has either specified auto, yes, or the name of the python
816     # program assumed to be in $PATH.
817     python_prefix=
818     case "${with_python}" in
819     yes | auto)
820       if test ${build} = ${host}; then
821         AC_PATH_PROG(python_prog_path, python, missing)
822         if test "${python_prog_path}" = missing; then
823           python_prog=missing
824         else
825           python_prog=${python_prog_path}
826         fi
827       else
828         # Not much we can do except assume the cross-compiler will find the
829         # right files.
830         python_prog=missing
831       fi
832       ;;
833     *)
834       # While we can't run python compiled for $host (unless host == build),
835       # the user could write a script that provides the needed information,
836       # so we support that.
837       python_prog="${with_python}"
838       AC_PATH_PROG(python_prog_path, ${python_prog}, missing)
839       if test "${python_prog_path}" = missing; then
840         AC_ERROR(unable to find python program ${python_prog})
841       fi
842       ;;
843     esac
844   esac
845
846   if test "${python_prog}" != missing; then
847     # We have a python program to use, but it may be too old.
848     # Don't flag an error for --with-python=auto (the default).
849     have_python_config=yes
850     python_includes=`${python_prog} ${srcdir}/python/python-config.py --includes`
851     if test $? != 0; then
852       have_python_config=failed
853       if test "${with_python}" != auto; then
854         AC_ERROR(failure running python-config --includes)
855       fi
856     fi
857     python_libs=`${python_prog} ${srcdir}/python/python-config.py --ldflags`
858     if test $? != 0; then
859       have_python_config=failed
860       if test "${with_python}" != auto; then
861         AC_ERROR(failure running python-config --ldflags)
862       fi
863     fi
864     python_prefix=`${python_prog} ${srcdir}/python/python-config.py --exec-prefix`
865     if test $? != 0; then
866       have_python_config=failed
867       if test "${with_python}" != auto; then
868         AC_ERROR(failure running python-config --exec-prefix)
869       fi
870     fi
871   else
872     # We do not have a python executable we can use to determine where
873     # to find the Python headers and libs.  We cannot guess the include
874     # path from the python_prefix either, because that include path
875     # depends on the Python version.  So, there is nothing much we can
876     # do except assume that the compiler will be able to find those files.
877     python_includes=
878     python_libs=
879     have_python_config=no
880   fi
881
882   # If we have python-config, only try the configuration it provides.
883   # Otherwise fallback on the old way of trying different versions of
884   # python in turn.
885
886   have_libpython=no
887   if test "${have_python_config}" = yes; then
888     # Determine the Python version by extracting "-lpython<version>"
889     # part of the python_libs. <version> is usually X.Y with X and Y
890     # being decimal numbers, but can also be XY (seen on Windows).
891     #
892     # The extraction is performed using sed with a regular expression.
893     # Initially, the regexp used was using the '?' quantifier to make
894     # the dot in the version number optional.  Unfortunately, this
895     # does not work with non-GNU versions of sed because, because of
896     # what looks like a limitation (the '?' quantifier does not work
897     # with back-references).  We work around this limitation by using
898     # the '*' quantifier instead.  It means that, in theory, we might
899     # match unexpected version strings such as "-lpython2..7", but
900     # this seems unlikely in practice.  And even if that happens,
901     # an error will be triggered later on, when checking that version
902     # number.
903     python_version=`echo " ${python_libs} " \
904                          | sed -e 's,^.* -l\(python[[0-9]]*[[.]]*[[0-9]]*\).*$,\1,'`
905     case "${python_version}" in
906     python*)
907       AC_TRY_LIBPYTHON(${python_version}, have_libpython,
908                        ${python_includes}, ${python_libs})
909       ;;
910     *)
911       AC_MSG_ERROR([unable to determine python version from ${python_libs}])
912       ;;
913     esac
914   elif test "${have_python_config}" != failed; then
915     if test "${have_libpython}" = no; then
916       AC_TRY_LIBPYTHON(python2.7, have_libpython,
917                        ${python_includes}, "${python_libs} -lpython2.7")
918     fi
919     if test "${have_libpython}" = no; then
920       AC_TRY_LIBPYTHON(python2.6, have_libpython,
921                        ${python_includes}, "${python_libs} -lpython2.6")
922     fi
923     if test ${have_libpython} = no; then
924       AC_TRY_LIBPYTHON(python2.5, have_libpython,
925                        ${python_includes}, "${python_libs} -lpython2.5")
926     fi
927     if test ${have_libpython} = no; then
928       AC_TRY_LIBPYTHON(python2.4, have_libpython,
929                        ${python_includes}, "${python_libs} -lpython2.4")
930     fi
931   fi
932   if test "${have_libpython}" = python2.7 -o "${have_libpython}" = python27; then
933     AC_DEFINE(HAVE_LIBPYTHON2_7, 1, [Define if Python 2.7 is being used.])
934   elif test "${have_libpython}" = python2.6 -o "${have_libpython}" = python26; then
935     AC_DEFINE(HAVE_LIBPYTHON2_6, 1, [Define if Python 2.6 is being used.])
936   elif test "${have_libpython}" = python2.5 -o "${have_libpython}" = python25; then
937     AC_DEFINE(HAVE_LIBPYTHON2_5, 1, [Define if Python 2.5 is being used.])
938   elif test "${have_libpython}" = python2.4 -o "${have_libpython}" = python24; then
939     AC_DEFINE(HAVE_LIBPYTHON2_4, 1, [Define if Python 2.4 is being used.])
940   fi
941
942   if test "${have_libpython}" = no; then
943     case "${with_python}" in
944     yes)
945       AC_MSG_ERROR([python is missing or unusable])
946       ;;
947     auto)
948       AC_MSG_WARN([python is missing or unusable; some features may be unavailable.])
949       ;;
950     *)
951       AC_MSG_ERROR([no usable python found at ${with_python}])
952       ;;
953     esac
954   else
955     if test -n "${python_prefix}"; then
956       AC_DEFINE_UNQUOTED(WITH_PYTHON_PATH, "${python_prefix}",
957                          [Define if --with-python provides a path, either directly or via python-config.py --exec-prefix.])
958       GDB_AC_DEFINE_RELOCATABLE(PYTHON_PATH, python, ${python_prefix})
959     fi
960   fi
961 fi
962
963 if test "${have_libpython}" != no; then
964   AC_DEFINE(HAVE_PYTHON, 1, [Define if Python interpreter is being linked in.])
965   CONFIG_OBS="$CONFIG_OBS \$(SUBDIR_PYTHON_OBS)"
966   CONFIG_DEPS="$CONFIG_DEPS \$(SUBDIR_PYTHON_DEPS)"
967   CONFIG_SRCS="$CONFIG_SRCS \$(SUBDIR_PYTHON_SRCS)"
968   CONFIG_INSTALL="$CONFIG_INSTALL install-python"
969   ENABLE_CFLAGS="$ENABLE_CFLAGS \$(SUBDIR_PYTHON_CFLAGS)"
970
971   # Flags needed to compile Python code (taken from python-config --cflags).
972   # We cannot call python-config directly because it will output whatever was
973   # used when compiling the Python interpreter itself, including flags which
974   # would make the python-related objects be compiled differently from the
975   # rest of GDB (e.g., -O2 and -fPIC).
976   if test "${GCC}" = yes; then
977     tentative_python_cflags="-fno-strict-aliasing -DNDEBUG -fwrapv"
978   fi
979
980   if test "x${tentative_python_cflags}" != x; then
981     AC_MSG_CHECKING(compiler flags for python code)
982     for flag in ${tentative_python_cflags}; do
983       # Check that the compiler accepts it
984       saved_CFLAGS="$CFLAGS"
985       CFLAGS="$CFLAGS $flag"
986       AC_TRY_COMPILE([],[],PYTHON_CFLAGS="${PYTHON_CFLAGS} $flag",)
987       CFLAGS="$saved_CFLAGS"
988     done
989     AC_MSG_RESULT(${PYTHON_CFLAGS})
990   fi
991
992   # On IRIX, type siginfo is not defined.  Instead, sys/siginfo.h provides:
993   #    #if _SGIAPI
994   #    #define siginfo __siginfo
995   #    #endif
996   # The problem is that including Python causes some XOPEN macros to be
997   # unilaterally defined, and that in turn causes _SGIAPI to evaluate
998   # to false.  So, we work around this issue by defining siginfo ourself
999   # though the command-line.
1000   #
1001   # On x64 Windows, Python's include headers, and pyconfig.h in
1002   # particular, rely on MS_WIN64 macro to detect that it's a 64bit
1003   # version of Windows.  Unfortunately, MS_WIN64 is only defined if
1004   # _MSC_VER, a Microsoft-specific macro, is defined.  So, when
1005   # building on x64 Windows with GCC, we define MS_WIN64 ourselves.
1006   # The issue was reported to the Python community, but still isn't
1007   # solved as of 2012-10-02 (http://bugs.python.org/issue4709).
1008
1009   case "$gdb_host" in
1010     irix*) if test "${GCC}" = yes; then
1011              CPPFLAGS="$CPPFLAGS -Dsiginfo=__siginfo"
1012            fi
1013            ;;
1014     mingw64)
1015            if test "${GCC}" = yes; then
1016              CPPFLAGS="$CPPFLAGS -DMS_WIN64"
1017            fi
1018            ;;
1019   esac
1020
1021   # Note that "python -m threading" cannot be used to check for
1022   # threading support due to a bug in Python 2.7.3
1023   # (http://bugs.python.org/issue15567).
1024   AC_MSG_CHECKING(whether python supports threads)
1025   saved_CPPFLAGS="${CPPFLAGS}"
1026   CPPFLAGS="${PYTHON_CPPFLAGS}"
1027   # Note that the test is reversed so that python_has_threads=yes on
1028   # unexpected failures.
1029   AC_PREPROC_IFELSE(AC_LANG_SOURCE([[
1030 #include <Python.h>
1031 #ifdef WITH_THREAD
1032 # error
1033 #endif
1034   ]]), [python_has_threads=no], [python_has_threads=yes])
1035   AC_MSG_RESULT(${python_has_threads})
1036   CPPFLAGS="${saved_CPPFLAGS}"
1037 else
1038   # Even if Python support is not compiled in, we need to have these files
1039   # included.
1040   CONFIG_OBS="$CONFIG_OBS python.o py-value.o py-prettyprint.o py-auto-load.o"
1041   CONFIG_SRCS="$CONFIG_SRCS python/python.c python/py-value.c \
1042         python/py-prettyprint.c python/py-auto-load.c"
1043 fi
1044 AC_SUBST(PYTHON_CFLAGS)
1045 AC_SUBST(PYTHON_CPPFLAGS)
1046 AC_SUBST(PYTHON_LIBS)
1047
1048 # Provide a --enable-libmcheck/--disable-libmcheck set of options
1049 # allowing a user to enable this option even when building releases,
1050 # or to disable it when building a snapshot.
1051 AC_ARG_ENABLE(libmcheck,
1052   AS_HELP_STRING([--enable-libmcheck],
1053                  [Try building GDB with -lmcheck if available]),
1054   [case "${enableval}" in
1055      yes | y) ENABLE_LIBMCHECK="yes" ;;
1056      no | n)  ENABLE_LIBMCHECK="no" ;;
1057      *) AC_MSG_ERROR(bad value ${enableval} for --enable-libmcheck) ;;
1058    esac])
1059
1060 # Enable -lmcheck by default (it provides cheap-enough memory mangling),
1061 # but turn it off if Python is enabled with threads, since -lmcheck is
1062 # not thread safe (http://sourceware.org/bugzilla/show_bug.cgi?id=9939),
1063 # and for releases.
1064 if test -z "${ENABLE_LIBMCHECK}" \
1065         -a \( "${have_libpython}" = "no" \
1066              -o "${python_has_threads}" = "no" \) \
1067     && $development; then
1068   ENABLE_LIBMCHECK=yes
1069 fi
1070
1071 if test "$ENABLE_LIBMCHECK" = "yes" ; then
1072   if test "${have_libpython}" != "no" -a "${python_has_threads}" = "yes" ; then
1073     AC_MSG_WARN(--enable-libmcheck may lead to spurious crashes if threads are used in python)
1074   fi
1075   AC_CHECK_LIB(mcheck, main)
1076 fi
1077
1078 # ------------------------- #
1079 # Checks for header files.  #
1080 # ------------------------- #
1081
1082 AC_HEADER_DIRENT
1083 AC_HEADER_STDC
1084 # elf_hp.h is for HP/UX 64-bit shared library support.
1085 AC_CHECK_HEADERS([nlist.h machine/reg.h poll.h sys/poll.h proc_service.h \
1086                   thread_db.h signal.h stddef.h \
1087                   stdlib.h string.h memory.h strings.h sys/fault.h \
1088                   sys/file.h sys/filio.h sys/ioctl.h sys/param.h \
1089                   sys/resource.h sys/procfs.h sys/ptrace.h ptrace.h \
1090                   sys/reg.h sys/debugreg.h sys/select.h sys/syscall.h \
1091                   sys/types.h sys/wait.h wait.h termios.h termio.h \
1092                   sgtty.h unistd.h elf_hp.h locale.h \
1093                   dlfcn.h sys/socket.h sys/un.h linux/perf_event.h])
1094 AC_CHECK_HEADERS(link.h, [], [],
1095 [#if HAVE_SYS_TYPES_H
1096 # include <sys/types.h>
1097 #endif
1098 #if HAVE_NLIST_H
1099 # include <nlist.h>
1100 #endif
1101 ])
1102 AC_CHECK_HEADERS(sys/proc.h, [], [],
1103 [#if HAVE_SYS_PARAM_H
1104 # include <sys/param.h>
1105 #endif
1106 ])
1107 AC_CHECK_HEADERS(sys/user.h, [], [],
1108 [#if HAVE_SYS_PARAM_H
1109 # include <sys/param.h>
1110 #endif
1111 ])
1112
1113 # On Solaris 2.[789], we need to define _MSE_INT_H to avoid a clash
1114 # between <widec.h> and <wchar.h> that would cause AC_CHECK_HEADERS to
1115 # think that we don't have <curses.h> if we're using GCC.
1116 case $host_os in
1117   solaris2.[[789]])
1118     if test "$GCC" = yes; then
1119       AC_DEFINE(_MSE_INT_H, 1,
1120         [Define to 1 to avoid a clash between <widec.h> and <wchar.h> on
1121    Solaris 2.[789] when using GCC. ])
1122     fi ;;
1123 esac
1124 AC_CHECK_HEADERS(curses.h cursesX.h ncurses.h ncurses/ncurses.h ncurses/term.h)
1125 AC_CHECK_HEADERS(term.h, [], [],
1126 [#if HAVE_CURSES_H
1127 # include <curses.h>
1128 #endif
1129 ])
1130
1131 # ------------------------- #
1132 # Checks for declarations.  #
1133 # ------------------------- #
1134
1135 AC_CHECK_DECLS([free, malloc, realloc, strerror, strstr, getopt,
1136                 snprintf, vsnprintf])
1137 AM_LC_MESSAGES
1138
1139 # ----------------------- #
1140 # Checks for structures.  #
1141 # ----------------------- #
1142
1143 AC_CHECK_MEMBERS([struct stat.st_blocks, struct stat.st_blksize])
1144
1145 # ------------------ #
1146 # Checks for types.  #
1147 # ------------------ #
1148
1149 AC_TYPE_SIGNAL
1150 AC_CHECK_TYPES(socklen_t, [], [],
1151 [#include <sys/types.h>
1152 #include <sys/socket.h>
1153 ])
1154
1155 # ------------------------------------- #
1156 # Checks for compiler characteristics.  #
1157 # ------------------------------------- #
1158
1159 AC_C_CONST
1160 AC_C_INLINE
1161 AC_C_BIGENDIAN
1162
1163 # ------------------------------ #
1164 # Checks for library functions.  #
1165 # ------------------------------ #
1166
1167 AC_FUNC_ALLOCA
1168 AC_FUNC_MMAP
1169 AC_FUNC_VFORK
1170 AC_CHECK_FUNCS([canonicalize_file_name realpath getrusage getuid getgid \
1171                 pipe poll pread pread64 pwrite readlink resize_term \
1172                 sbrk setpgid setpgrp setsid \
1173                 sigaction sigprocmask sigsetmask socketpair syscall \
1174                 ttrace wborder wresize setlocale iconvlist libiconvlist btowc \
1175                 setrlimit getrlimit posix_madvise waitpid lstat])
1176 AM_LANGINFO_CODESET
1177
1178 # Check the return and argument types of ptrace.  No canned test for
1179 # this, so roll our own.
1180 gdb_ptrace_headers='
1181 #if HAVE_SYS_TYPES_H
1182 # include <sys/types.h>
1183 #endif
1184 #if HAVE_SYS_PTRACE_H
1185 # include <sys/ptrace.h>
1186 #endif
1187 #if HAVE_UNISTD_H
1188 # include <unistd.h>
1189 #endif
1190 '
1191 # There is no point in checking if we don't have a prototype.
1192 AC_CHECK_DECLS(ptrace, [], [
1193   : ${gdb_cv_func_ptrace_ret='int'}
1194   : ${gdb_cv_func_ptrace_args='int,int,long,long'}
1195 ], $gdb_ptrace_headers)
1196 # Check return type.  Varargs (used on GNU/Linux) conflict with the
1197 # empty argument list, so check for that explicitly.
1198 AC_CACHE_CHECK([return type of ptrace], gdb_cv_func_ptrace_ret,
1199   AC_TRY_COMPILE($gdb_ptrace_headers,
1200     [extern long ptrace (enum __ptrace_request, ...);],
1201     gdb_cv_func_ptrace_ret='long',
1202     AC_TRY_COMPILE($gdb_ptrace_headers,
1203       [extern int ptrace ();],
1204       gdb_cv_func_ptrace_ret='int',
1205       gdb_cv_func_ptrace_ret='long')))
1206 AC_DEFINE_UNQUOTED(PTRACE_TYPE_RET, $gdb_cv_func_ptrace_ret,
1207   [Define as the return type of ptrace.])
1208 # Check argument types.
1209 AC_CACHE_CHECK([types of arguments for ptrace], gdb_cv_func_ptrace_args, [
1210   AC_TRY_COMPILE($gdb_ptrace_headers,
1211     [extern long ptrace (enum __ptrace_request, ...);],
1212     [gdb_cv_func_ptrace_args='int,int,long,long'],[
1213 for gdb_arg1 in 'int' 'long'; do
1214  for gdb_arg2 in 'pid_t' 'int' 'long'; do
1215   for gdb_arg3 in 'int *' 'caddr_t' 'int' 'long' 'void *'; do
1216    for gdb_arg4 in 'int' 'long'; do
1217      AC_TRY_COMPILE($gdb_ptrace_headers, [
1218 extern $gdb_cv_func_ptrace_ret
1219   ptrace ($gdb_arg1, $gdb_arg2, $gdb_arg3, $gdb_arg4);
1220 ], [gdb_cv_func_ptrace_args="$gdb_arg1,$gdb_arg2,$gdb_arg3,$gdb_arg4";
1221     break 4;])
1222     for gdb_arg5 in 'int *' 'int' 'long'; do
1223      AC_TRY_COMPILE($gdb_ptrace_headers, [
1224 extern $gdb_cv_func_ptrace_ret
1225   ptrace ($gdb_arg1, $gdb_arg2, $gdb_arg3, $gdb_arg4, $gdb_arg5);
1226 ], [
1227 gdb_cv_func_ptrace_args="$gdb_arg1,$gdb_arg2,$gdb_arg3,$gdb_arg4,$gdb_arg5";
1228     break 5;])
1229     done
1230    done
1231   done
1232  done
1233 done
1234 # Provide a safe default value.
1235 : ${gdb_cv_func_ptrace_args='int,int,long,long'}
1236 ])])
1237 ac_save_IFS=$IFS; IFS=','
1238 set dummy `echo "$gdb_cv_func_ptrace_args" | sed 's/\*/\*/g'`
1239 IFS=$ac_save_IFS
1240 shift
1241 AC_DEFINE_UNQUOTED(PTRACE_TYPE_ARG3, $[3],
1242   [Define to the type of arg 3 for ptrace.])
1243 if test -n "$[5]"; then
1244   AC_DEFINE_UNQUOTED(PTRACE_TYPE_ARG5, $[5],
1245     [Define to the type of arg 5 for ptrace.])
1246 fi
1247
1248 dnl AC_FUNC_SETPGRP does not work when cross compiling
1249 dnl Instead, assume we will have a prototype for setpgrp if cross compiling.
1250 if test "$cross_compiling" = no; then
1251   AC_FUNC_SETPGRP
1252 else
1253   AC_CACHE_CHECK([whether setpgrp takes no argument], ac_cv_func_setpgrp_void,
1254     [AC_TRY_COMPILE([
1255 #include <unistd.h>
1256 ], [
1257   if (setpgrp(1,1) == -1)
1258     exit (0);
1259   else
1260     exit (1);
1261 ], ac_cv_func_setpgrp_void=no, ac_cv_func_setpgrp_void=yes)])
1262 if test $ac_cv_func_setpgrp_void = yes; then
1263   AC_DEFINE(SETPGRP_VOID, 1)
1264 fi
1265 fi
1266
1267 # Check if sigsetjmp is available.  Using AC_CHECK_FUNCS won't do
1268 # since sigsetjmp might only be defined as a macro.
1269 AC_CACHE_CHECK([for sigsetjmp], gdb_cv_func_sigsetjmp,
1270 [AC_TRY_COMPILE([
1271 #include <setjmp.h>
1272 ], [sigjmp_buf env; while (! sigsetjmp (env, 1)) siglongjmp (env, 1);],
1273 gdb_cv_func_sigsetjmp=yes, gdb_cv_func_sigsetjmp=no)])
1274 if test $gdb_cv_func_sigsetjmp = yes; then
1275   AC_DEFINE(HAVE_SIGSETJMP, 1, [Define if sigsetjmp is available. ])
1276 fi
1277
1278 # Assume we'll default to using the included libiberty regex.
1279 gdb_use_included_regex=yes
1280
1281 # However, if the system regex is GNU regex, then default to *not*
1282 # using the included regex.
1283 AC_CACHE_CHECK(
1284   [for GNU regex],
1285   [gdb_cv_have_gnu_regex],
1286   [AC_TRY_COMPILE(
1287     [#include <gnu-versions.h>],
1288     [#define REGEX_INTERFACE_VERSION 1
1289 #if _GNU_REGEX_INTERFACE_VERSION != REGEX_INTERFACE_VERSION
1290 # error "Version mismatch"
1291 #endif],
1292     gdb_cv_have_gnu_regex=yes,
1293     gdb_cv_have_gnu_regex=no)])
1294 if test $gdb_cv_have_gnu_regex = yes; then
1295   gdb_use_included_regex=no
1296 fi
1297
1298 AC_ARG_WITH(included-regex,
1299   AS_HELP_STRING([--without-included-regex], [don't use included regex; this is the default on systems with version 2 of the GNU C library (use with caution on other system)]),
1300   gdb_with_regex=$withval,
1301   gdb_with_regex=$gdb_use_included_regex)
1302 if test "$gdb_with_regex" = yes; then
1303   AC_DEFINE(USE_INCLUDED_REGEX, 1,
1304     [Define to 1 if the regex included in libiberty should be used.])
1305 fi
1306
1307 # Check if <sys/proc.h> defines `struct thread' with a td_pcb member.
1308 AC_CHECK_MEMBERS([struct thread.td_pcb], [], [],
1309 [#include <sys/param.h>
1310 #include <sys/proc.h>
1311 ])
1312
1313 # See if <sys/lwp.h> defines `struct lwp`.
1314 AC_CACHE_CHECK([for struct lwp], gdb_cv_struct_lwp,
1315 [AC_TRY_COMPILE([#include <sys/param.h>
1316 #include <sys/lwp.h>], [struct lwp l;],
1317 gdb_cv_struct_lwp=yes, gdb_cv_struct_lwp=no)])
1318 if test $gdb_cv_struct_lwp = yes; then
1319   AC_DEFINE(HAVE_STRUCT_LWP, 1,
1320             [Define to 1 if your system has struct lwp.])
1321 fi
1322
1323 # See if <machine/reg.h> degines `struct reg'.
1324 AC_CACHE_CHECK([for struct reg in machine/reg.h], gdb_cv_struct_reg,
1325 [AC_TRY_COMPILE([#include <sys/types.h>
1326 #include <machine/reg.h>], [struct reg r;],
1327 gdb_cv_struct_reg=yes, gdb_cv_struct_reg=no)])
1328 if test $gdb_cv_struct_reg = yes; then
1329   AC_DEFINE(HAVE_STRUCT_REG, 1,
1330             [Define to 1 if your system has struct reg in <machine/reg.h>.])
1331 fi
1332
1333 # See if <machine/reg.h> supports the %fs and %gs i386 segment registers.
1334 # Older i386 BSD's don't have the r_fs and r_gs members of `struct reg'.
1335 AC_CHECK_MEMBERS([struct reg.r_fs, struct reg.r_gs], [], [],
1336                  [#include <machine/reg.h>])
1337
1338 # See if <sys/user.h> supports the %fs_base and %gs_bas amd64 segment registers.
1339 # Older amd64 Linux's don't have the fs_base and gs_base members of
1340 # `struct user_regs_struct'.
1341 AC_CHECK_MEMBERS([struct user_regs_struct.fs_base, struct user_regs_struct.gs_base],
1342                  [], [], [#include <sys/user.h>])
1343
1344 # See if <sys/ptrace.h> provides the PTRACE_GETREGS request.
1345 AC_MSG_CHECKING(for PTRACE_GETREGS)
1346 AC_CACHE_VAL(gdb_cv_have_ptrace_getregs,
1347 [AC_TRY_COMPILE([#include <sys/ptrace.h>],
1348                 [PTRACE_GETREGS;],
1349                 [gdb_cv_have_ptrace_getregs=yes],
1350                 [gdb_cv_have_ptrace_getregs=no])])
1351 AC_MSG_RESULT($gdb_cv_have_ptrace_getregs)
1352 if test $gdb_cv_have_ptrace_getregs = yes; then
1353   AC_DEFINE(HAVE_PTRACE_GETREGS, 1, 
1354   [Define if sys/ptrace.h defines the PTRACE_GETREGS request.])
1355 fi
1356
1357 # See if <sys/ptrace.h> provides the PTRACE_GETFPXREGS request.
1358 AC_MSG_CHECKING(for PTRACE_GETFPXREGS)
1359 AC_CACHE_VAL(gdb_cv_have_ptrace_getfpxregs,
1360 [AC_TRY_COMPILE([#include <sys/ptrace.h>],
1361                 [PTRACE_GETFPXREGS;],
1362                 [gdb_cv_have_ptrace_getfpxregs=yes],
1363                 [gdb_cv_have_ptrace_getfpxregs=no])])
1364 AC_MSG_RESULT($gdb_cv_have_ptrace_getfpxregs)
1365 if test $gdb_cv_have_ptrace_getfpxregs = yes; then
1366   AC_DEFINE(HAVE_PTRACE_GETFPXREGS, 1,
1367   [Define if sys/ptrace.h defines the PTRACE_GETFPXREGS request.])
1368 fi
1369
1370 # See if <sys/ptrace.h> provides the PT_GETDBREGS request.
1371 AC_MSG_CHECKING(for PT_GETDBREGS)
1372 AC_CACHE_VAL(gdb_cv_have_pt_getdbregs,
1373 [AC_TRY_COMPILE([#include <sys/types.h>
1374 #include <sys/ptrace.h>],
1375                 [PT_GETDBREGS;],
1376                 [gdb_cv_have_pt_getdbregs=yes],
1377                 [gdb_cv_have_pt_getdbregs=no])])
1378 AC_MSG_RESULT($gdb_cv_have_pt_getdbregs)
1379 if test $gdb_cv_have_pt_getdbregs = yes; then
1380   AC_DEFINE(HAVE_PT_GETDBREGS, 1,
1381   [Define if sys/ptrace.h defines the PT_GETDBREGS request.])
1382 fi
1383
1384 # See if <sys/ptrace.h> provides the PT_GETXMMREGS request.
1385 AC_MSG_CHECKING(for PT_GETXMMREGS)
1386 AC_CACHE_VAL(gdb_cv_have_pt_getxmmregs,
1387 [AC_TRY_COMPILE([#include <sys/types.h>
1388 #include <sys/ptrace.h>],
1389                 [PT_GETXMMREGS;],
1390                 [gdb_cv_have_pt_getxmmregs=yes],
1391                 [gdb_cv_have_pt_getxmmregs=no])])
1392 AC_MSG_RESULT($gdb_cv_have_pt_getxmmregs)
1393 if test $gdb_cv_have_pt_getxmmregs = yes; then
1394   AC_DEFINE(HAVE_PT_GETXMMREGS, 1,
1395   [Define if sys/ptrace.h defines the PT_GETXMMREGS request.])
1396 fi
1397
1398 # Detect which type of /proc is in use, such as for Solaris.
1399
1400 if test "${target}" = "${host}"; then
1401   case "${host}" in
1402   *-*-sysv4.2* | *-*-sysv5* | *-*-interix* )
1403       AC_DEFINE(NEW_PROC_API, 1,
1404       [Define if you want to use new multi-fd /proc interface
1405        (replaces HAVE_MULTIPLE_PROC_FDS as well as other macros).])
1406       ;;
1407   *-*-solaris2.[[6789]] | *-*-solaris2.1[[0-9]]*)
1408       AC_DEFINE(NEW_PROC_API, 1,
1409       [Define if you want to use new multi-fd /proc interface
1410        (replaces HAVE_MULTIPLE_PROC_FDS as well as other macros).])
1411       ;;
1412   mips-sgi-irix5*)
1413       # Work around <sys/proc.h> needing _KMEMUSER problem on IRIX 5.
1414       AC_DEFINE([_KMEMUSER], 1,
1415       [Define to 1 so <sys/proc.h> gets a definition of anon_hdl.  Works
1416        around a <sys/proc.h> problem on IRIX 5.])
1417       ;;
1418   esac
1419 fi
1420
1421 if test "$ac_cv_header_sys_procfs_h" = yes; then
1422   BFD_HAVE_SYS_PROCFS_TYPE(pstatus_t)
1423   BFD_HAVE_SYS_PROCFS_TYPE(prrun_t)
1424   BFD_HAVE_SYS_PROCFS_TYPE(gregset_t)
1425   BFD_HAVE_SYS_PROCFS_TYPE(fpregset_t)
1426   BFD_HAVE_SYS_PROCFS_TYPE(prgregset_t)
1427   BFD_HAVE_SYS_PROCFS_TYPE(prfpregset_t)
1428   BFD_HAVE_SYS_PROCFS_TYPE(prgregset32_t)
1429   BFD_HAVE_SYS_PROCFS_TYPE(prfpregset32_t)
1430   BFD_HAVE_SYS_PROCFS_TYPE(lwpid_t)
1431   BFD_HAVE_SYS_PROCFS_TYPE(psaddr_t)
1432   BFD_HAVE_SYS_PROCFS_TYPE(prsysent_t)
1433   BFD_HAVE_SYS_PROCFS_TYPE(pr_sigset_t)
1434   BFD_HAVE_SYS_PROCFS_TYPE(pr_sigaction64_t)
1435   BFD_HAVE_SYS_PROCFS_TYPE(pr_siginfo64_t)
1436
1437
1438   dnl Check for broken prfpregset_t type
1439
1440   dnl For Linux/i386, glibc 2.1.3 was released with a bogus
1441   dnl prfpregset_t type (it's a typedef for the pointer to a struct
1442   dnl instead of the struct itself).  We detect this here, and work
1443   dnl around it in gdb_proc_service.h.
1444
1445   if test $bfd_cv_have_sys_procfs_type_prfpregset_t = yes; then
1446     AC_MSG_CHECKING(whether prfpregset_t type is broken)
1447     AC_CACHE_VAL(gdb_cv_prfpregset_t_broken,
1448       [AC_TRY_RUN([#include <sys/procfs.h>
1449        int main ()
1450        {
1451          if (sizeof (prfpregset_t) == sizeof (void *))
1452            return 1;
1453          return 0;
1454        }],
1455        gdb_cv_prfpregset_t_broken=no,
1456        gdb_cv_prfpregset_t_broken=yes,
1457        gdb_cv_prfpregset_t_broken=yes)])
1458     AC_MSG_RESULT($gdb_cv_prfpregset_t_broken)
1459     if test $gdb_cv_prfpregset_t_broken = yes; then
1460       AC_DEFINE(PRFPREGSET_T_BROKEN, 1,
1461       [Define if the prfpregset_t type is broken.])
1462     fi
1463   fi
1464
1465   dnl Check for PIOCSET ioctl entry 
1466
1467   AC_MSG_CHECKING(for PIOCSET ioctl entry in sys/procfs.h)
1468   AC_CACHE_VAL(gdb_cv_have_procfs_piocset,
1469   [AC_TRY_COMPILE([#include <unistd.h>
1470 #include <sys/types.h>
1471 #include <sys/procfs.h>
1472 ], [
1473     int dummy;;
1474     dummy = ioctl(0, PIOCSET, &dummy);
1475   ],
1476   gdb_cv_have_procfs_piocset=yes, gdb_cv_have_procfs_piocset=no)])
1477   AC_MSG_RESULT($gdb_cv_have_procfs_piocset)
1478   if test $gdb_cv_have_procfs_piocset = yes; then
1479     AC_DEFINE(HAVE_PROCFS_PIOCSET, 1,
1480     [Define if ioctl argument PIOCSET is available.])
1481   fi
1482 fi
1483
1484 dnl For native ports (host == target), check to see what kind of
1485 dnl legacy link.h support is needed.  (See solib-legacy.c.)
1486 if test ${host} = ${target} ; then
1487   dnl Check for struct link_map with l_ members which are indicative
1488   dnl of SVR4-like shared libraries
1489
1490   AC_MSG_CHECKING(for member l_addr in struct link_map)
1491   AC_CACHE_VAL(gdb_cv_have_struct_link_map_with_l_members,
1492     [AC_TRY_COMPILE([#include <link.h>],
1493                     [struct link_map lm; (void) lm.l_addr;],
1494                     gdb_cv_have_struct_link_map_with_l_members=yes,
1495                     gdb_cv_have_struct_link_map_with_l_members=no)])
1496   AC_MSG_RESULT($gdb_cv_have_struct_link_map_with_l_members)
1497   if test $gdb_cv_have_struct_link_map_with_l_members = yes; then
1498     AC_DEFINE(HAVE_STRUCT_LINK_MAP_WITH_L_MEMBERS,1,
1499     [Define if <link.h> exists and defines struct link_map which has
1500      members with an ``l_'' prefix.  (For Solaris, SVR4, and
1501      SVR4-like systems.)])
1502   fi
1503
1504   dnl Check for struct link_map with lm_ members which are indicative
1505   dnl of SunOS-like shared libraries
1506
1507   AC_MSG_CHECKING(for member lm_addr in struct link_map)
1508   AC_CACHE_VAL(gdb_cv_have_struct_link_map_with_lm_members,
1509     [AC_TRY_COMPILE([#include <sys/types.h>
1510 #include <link.h>],
1511                     [struct link_map lm; (void) lm.lm_addr;],
1512                     gdb_cv_have_struct_link_map_with_lm_members=yes,
1513                     gdb_cv_have_struct_link_map_with_lm_members=no)])
1514   AC_MSG_RESULT($gdb_cv_have_struct_link_map_with_lm_members)
1515   if test $gdb_cv_have_struct_link_map_with_lm_members = yes; then
1516     AC_DEFINE(HAVE_STRUCT_LINK_MAP_WITH_LM_MEMBERS, 1,
1517     [Define if <link.h> exists and defines struct link_map which has
1518      members with an ``lm_'' prefix.  (For SunOS.)])
1519   fi
1520
1521   dnl Check for struct so_map with som_ members which are found on 
1522   dnl some *BSD systems.
1523
1524   AC_MSG_CHECKING(for member som_addr in struct so_map)
1525   AC_CACHE_VAL(gdb_cv_have_struct_so_map_with_som_members,
1526     [AC_TRY_COMPILE([#include <sys/types.h>
1527 #ifdef HAVE_NLIST_H
1528 #include <nlist.h>
1529 #endif
1530 #include <link.h>],
1531                     [struct so_map lm; (void) lm.som_addr;],
1532                     gdb_cv_have_struct_so_map_with_som_members=yes,
1533                     gdb_cv_have_struct_so_map_with_som_members=no)])
1534   AC_MSG_RESULT($gdb_cv_have_struct_so_map_with_som_members)
1535   if test $gdb_cv_have_struct_so_map_with_som_members = yes; then
1536     AC_DEFINE(HAVE_STRUCT_SO_MAP_WITH_SOM_MEMBERS, 1,
1537     [Define if <link.h> exists and defines a struct so_map which has
1538      members with an ``som_'' prefix.  (Found on older *BSD systems.)])
1539   fi
1540
1541   dnl Check for struct link_map32 type, which allows a 64-bit Solaris
1542   dnl debugger to debug a 32-bit Solaris app with 32-bit shared libraries.
1543
1544   AC_MSG_CHECKING(for struct link_map32 in sys/link.h)
1545   AC_CACHE_VAL(gdb_cv_have_struct_link_map32, 
1546     [AC_TRY_COMPILE([#define _SYSCALL32
1547 #include <sys/link.h>], [struct link_map32 l;],
1548      gdb_cv_have_struct_link_map32=yes,
1549      gdb_cv_have_struct_link_map32=no)])
1550   AC_MSG_RESULT($gdb_cv_have_struct_link_map32)
1551   if test $gdb_cv_have_struct_link_map32 = yes; then
1552     AC_DEFINE(HAVE_STRUCT_LINK_MAP32, 1,
1553     [Define if <sys/link.h> has struct link_map32])
1554     AC_DEFINE(_SYSCALL32, 1,
1555     [Define if <sys/link.h> has link_map32 (solaris sparc-64 target)])
1556   fi
1557 fi
1558
1559 # Check if the compiler supports the `long long' type.
1560
1561 AC_CACHE_CHECK([for long long support in compiler], gdb_cv_c_long_long,
1562                [AC_COMPILE_IFELSE([AC_LANG_PROGRAM(
1563 [[extern long long foo;]],
1564 [[switch (foo & 2) { case 0: return 1; }]])],
1565                                   gdb_cv_c_long_long=yes,
1566                                   gdb_cv_c_long_long=no)])
1567 if test $gdb_cv_c_long_long != yes; then
1568   # libdecnumber requires long long.
1569   AC_MSG_ERROR([Compiler must support long long for GDB.])
1570 fi
1571
1572 # Check if the compiler and runtime support printing long longs.
1573
1574 AC_CACHE_CHECK([for long long support in printf],
1575                gdb_cv_printf_has_long_long,
1576                [AC_RUN_IFELSE([AC_LANG_PROGRAM([AC_INCLUDES_DEFAULT],
1577 [[char buf[32];
1578   long long l = 0;
1579   l = (l << 16) + 0x0123;
1580   l = (l << 16) + 0x4567;
1581   l = (l << 16) + 0x89ab;
1582   l = (l << 16) + 0xcdef;
1583   sprintf (buf, "0x%016llx", l);
1584   return (strcmp ("0x0123456789abcdef", buf));]])],
1585                               gdb_cv_printf_has_long_long=yes,
1586                               gdb_cv_printf_has_long_long=no,
1587                               gdb_cv_printf_has_long_long=no)])
1588 if test $gdb_cv_printf_has_long_long = yes; then
1589   AC_DEFINE(PRINTF_HAS_LONG_LONG, 1,
1590             [Define to 1 if the "%ll" format works to print long longs.])
1591 fi
1592
1593 # Check if the compiler and runtime support printing decfloats.
1594
1595 AC_CACHE_CHECK([for decfloat support in printf],
1596                gdb_cv_printf_has_decfloat,
1597                [AC_RUN_IFELSE([AC_LANG_PROGRAM([AC_INCLUDES_DEFAULT],
1598 [[char buf[64];
1599   _Decimal32 d32 = 1.2345df;
1600   _Decimal64 d64 = 1.2345dd;
1601   _Decimal128 d128 = 1.2345dl;
1602   sprintf (buf, "Decimal32: %H\nDecimal64: %D\nDecimal128: %DD", d32, d64, d128);
1603   return (strcmp ("Decimal32: 1.2345\nDecimal64: 1.2345\nDecimal128: 1.2345", buf));]])],
1604                               gdb_cv_printf_has_decfloat=yes,
1605                               gdb_cv_printf_has_decfloat=no,
1606                               gdb_cv_printf_has_decfloat=no)])
1607 if test $gdb_cv_printf_has_decfloat = yes; then
1608   AC_DEFINE(PRINTF_HAS_DECFLOAT, 1,
1609             [Define to 1 if the "%H, %D and %DD" formats work to print decfloats.])
1610 fi
1611
1612 # Check if the compiler supports the `long double' type.  We can't use
1613 # AC_C_LONG_DOUBLE because that one does additional checks on the
1614 # constants defined in <float.h> that fail on some systems,
1615 # e.g. FreeBSD/i386 4.7 and OpenBSD/i386 3.6.
1616
1617 AC_CACHE_CHECK([for long double support in compiler], gdb_cv_c_long_double,
1618                [AC_COMPILE_IFELSE([AC_LANG_SOURCE([[long double foo;]])],
1619                                   gdb_cv_c_long_double=yes,
1620                                   gdb_cv_c_long_double=no)])
1621 if test $gdb_cv_c_long_double = yes; then
1622   AC_DEFINE(HAVE_LONG_DOUBLE, 1,
1623            [Define to 1 if the compiler supports long double.])
1624 fi
1625
1626 # Check if the compiler and runtime support printing long doubles.
1627
1628 AC_CACHE_CHECK([for long double support in printf],
1629                gdb_cv_printf_has_long_double,
1630                [AC_RUN_IFELSE([AC_LANG_PROGRAM([AC_INCLUDES_DEFAULT],
1631 [[char buf[16];
1632   long double f = 3.141592653;
1633   sprintf (buf, "%Lg", f);
1634   return (strncmp ("3.14159", buf, 7));]])],
1635                               gdb_cv_printf_has_long_double=yes,
1636                               gdb_cv_printf_has_long_double=no,
1637                               gdb_cv_printf_has_long_double=no)])
1638 if test $gdb_cv_printf_has_long_double = yes; then
1639   AC_DEFINE(PRINTF_HAS_LONG_DOUBLE, 1,
1640             [Define to 1 if the "%Lg" format works to print long doubles.])
1641 fi
1642
1643 # Check if the compiler and runtime support scanning long doubles.
1644
1645 AC_CACHE_CHECK([for long double support in scanf], 
1646                gdb_cv_scanf_has_long_double,
1647                [AC_RUN_IFELSE([AC_LANG_PROGRAM(
1648 [[#include <stdio.h>]],
1649 [[char *buf = "3.141592653";
1650   long double f = 0;
1651   sscanf (buf, "%Lg", &f);
1652   return !(f > 3.14159 && f < 3.14160);]])],
1653                               gdb_cv_scanf_has_long_double=yes,
1654                               gdb_cv_scanf_has_long_double=no,
1655                               gdb_cv_scanf_has_long_double=no)])
1656 if test $gdb_cv_scanf_has_long_double = yes; then
1657   AC_DEFINE(SCANF_HAS_LONG_DOUBLE, 1,
1658             [Define to 1 if the "%Lg" format works to scan long doubles.])
1659 fi
1660
1661 case ${host_os} in
1662 aix*)
1663   AC_CACHE_CHECK([for -bbigtoc option], [gdb_cv_bigtoc], [
1664     SAVE_LDFLAGS=$LDFLAGS
1665
1666     case $GCC in
1667     yes) gdb_cv_bigtoc=-Wl,-bbigtoc ;;
1668     *) gdb_cv_bigtoc=-bbigtoc ;;
1669     esac
1670
1671     LDFLAGS=$LDFLAGS\ $gdb_cv_bigtoc
1672     AC_TRY_LINK([], [int i;], [], [gdb_cv_bigtoc=])
1673     LDFLAGS="${SAVE_LDFLAGS}"
1674   ])
1675   CONFIG_LDFLAGS="${CONFIG_LDFLAGS} ${gdb_cv_bigtoc}"
1676   ;;
1677 esac
1678
1679 AC_MSG_CHECKING(for the dynamic export flag)
1680 dynamic_list=false
1681 if test "${gdb_native}" = yes; then
1682    # The dynamically loaded libthread_db needs access to symbols in the gdb
1683    # executable.  Older GNU ld supports --export-dynamic but --dynamic-list
1684    # may not be supported there.
1685    old_LDFLAGS="$LDFLAGS"
1686    # Older GNU ld supports --export-dynamic but --dynamic-list it does not.
1687    RDYNAMIC="-Wl,--dynamic-list=${srcdir}/proc-service.list"
1688    LDFLAGS="$LDFLAGS $RDYNAMIC"
1689    if test "${have_libpython}" = no; then
1690      AC_TRY_LINK([], [], [dynamic_list=true])
1691    else
1692      # Workaround http://bugs.python.org/issue4434 where static
1693      # libpythonX.Y.a would get its symbols required for
1694      # pythonX.Y/lib-dynload/*.so modules hidden by -Wl,--dynamic-list.
1695      # Problem does not happen for the recommended libpythonX.Y.so linkage.
1696      old_CFLAGS="$CFLAGS"
1697      CFLAGS="$CFLAGS $PYTHON_CFLAGS"
1698      old_LIBS="$LIBS"
1699      LIBS="$LIBS $PYTHON_LIBS"
1700      AC_RUN_IFELSE(
1701        AC_LANG_PROGRAM(
1702          [#include "]${have_libpython}[/Python.h"],
1703          [int err;
1704           Py_Initialize ();
1705           err = PyRun_SimpleString ("import itertools\n");
1706           Py_Finalize ();
1707           return err == 0 ? 0 : 1;]),
1708        [dynamic_list=true], [], [true])
1709      LIBS="$old_LIBS"
1710      CFLAGS="$old_CFLAGS"
1711    fi
1712    LDFLAGS="$old_LDFLAGS"
1713 fi
1714 if $dynamic_list; then
1715   found="-Wl,--dynamic-list"
1716   RDYNAMIC='-Wl,--dynamic-list=$(srcdir)/proc-service.list'
1717 else
1718   found="-rdynamic"
1719   RDYNAMIC="-rdynamic"
1720 fi
1721 AC_SUBST(RDYNAMIC)
1722 AC_MSG_RESULT($found)
1723
1724 dnl For certain native configurations, we need to check whether thread
1725 dnl support can be built in or not.
1726 dnl
1727 dnl Note that we only want this if we are both native (host == target),
1728 dnl and not doing a canadian cross build (build == host).
1729
1730 if test ${build} = ${host} -a ${host} = ${target} ; then
1731    case ${host_os} in
1732    solaris*)
1733       # See if thread_db library is around for Solaris thread debugging.
1734       # Note that we must explicitly test for version 1 of the library
1735       # because version 0 (present on Solaris 2.4 or earlier) doesn't have
1736       # the same API.
1737       AC_MSG_CHECKING(for Solaris thread debugging library)
1738       if test -f /usr/lib/libthread_db.so.1 ; then
1739          AC_MSG_RESULT(yes)
1740          AC_DEFINE(HAVE_THREAD_DB_LIB, 1,
1741          [Define if using Solaris thread debugging.])
1742          CONFIG_OBS="${CONFIG_OBS} sol-thread.o"
1743          CONFIG_SRCS="${CONFIG_SRCS} sol-thread.c"
1744          # On SPARC CPUs, we also need to build sparc-sol-thread.
1745          case ${host_cpu} in
1746            sparc*)
1747              CONFIG_OBS="${CONFIG_OBS} sparc-sol-thread.o"
1748              CONFIG_SRCS="${CONFIG_SRCS} sparc-sol-thread.c"
1749              ;;
1750          esac
1751          AC_CHECK_LIB(dl, dlopen)
1752          CONFIG_LDFLAGS="${CONFIG_LDFLAGS} $RDYNAMIC"
1753          # Sun randomly tweaked the prototypes in <proc_service.h>
1754          # at one point.
1755          AC_MSG_CHECKING(if <proc_service.h> is old)
1756          AC_CACHE_VAL(gdb_cv_proc_service_is_old,[
1757             AC_TRY_COMPILE([
1758                 #include <proc_service.h>
1759                 ps_err_e ps_pdwrite
1760                     (struct ps_prochandle*, psaddr_t, const void*, size_t);
1761             ],, gdb_cv_proc_service_is_old=no,
1762                 gdb_cv_proc_service_is_old=yes)
1763          ])
1764          AC_MSG_RESULT($gdb_cv_proc_service_is_old)
1765          if test $gdb_cv_proc_service_is_old = yes; then
1766             AC_DEFINE(PROC_SERVICE_IS_OLD, 1,
1767             [Define if <proc_service.h> on solaris uses int instead of
1768              size_t, and assorted other type changes.])
1769          fi
1770       else
1771          AC_MSG_RESULT(no)
1772       fi
1773       ;;
1774    aix*)
1775       AC_MSG_CHECKING(for AiX thread debugging library)
1776       AC_CACHE_VAL(gdb_cv_have_aix_thread_debug,
1777                    [AC_TRY_COMPILE([#include <sys/pthdebug.h>],
1778                                    [#ifndef PTHDB_VERSION_3
1779                                     #error
1780                                     #endif],
1781                                    gdb_cv_have_aix_thread_debug=yes,
1782                                    gdb_cv_have_aix_thread_debug=no)])
1783       AC_MSG_RESULT($gdb_cv_have_aix_thread_debug)
1784       if test $gdb_cv_have_aix_thread_debug = yes; then
1785          CONFIG_SRCS="${CONFIG_SRCS} aix-thread.c"
1786          CONFIG_OBS="${CONFIG_OBS} aix-thread.o"
1787          LIBS="$LIBS -lpthdebug"
1788
1789          # Older versions of AIX do not provide the declaration for
1790          # the getthrds function (it appears that it was introduced
1791          # with AIX 6.x).
1792          AC_CHECK_DECLS(getthrds, [], [], [[#include <procinfo.h>]])
1793       fi
1794       ;;
1795    esac
1796    AC_SUBST(CONFIG_LDFLAGS)
1797 fi
1798
1799 dnl See if we have a thread_db header file that has TD_NOTALLOC and
1800 dnl other error codes.
1801 if test "x$ac_cv_header_thread_db_h" = "xyes"; then
1802    AC_CACHE_CHECK([whether <thread_db.h> has TD_NOTALLOC],
1803                   gdb_cv_thread_db_h_has_td_notalloc,
1804      AC_TRY_COMPILE(
1805        [#include <thread_db.h>],
1806        [int i = TD_NOTALLOC;],
1807        gdb_cv_thread_db_h_has_td_notalloc=yes,
1808        gdb_cv_thread_db_h_has_td_notalloc=no
1809      )
1810    )
1811    AC_CACHE_CHECK([whether <thread_db.h> has TD_VERSION],
1812                   gdb_cv_thread_db_h_has_td_version,
1813      AC_TRY_COMPILE(
1814        [#include <thread_db.h>],
1815        [int i = TD_VERSION;],
1816        gdb_cv_thread_db_h_has_td_version=yes,
1817        gdb_cv_thread_db_h_has_td_version=no
1818      )
1819    )
1820    AC_CACHE_CHECK([whether <thread_db.h> has TD_NOTLS],
1821                   gdb_cv_thread_db_h_has_td_notls,
1822      AC_TRY_COMPILE(
1823        [#include <thread_db.h>],
1824        [int i = TD_NOTLS;],
1825        gdb_cv_thread_db_h_has_td_notls=yes,
1826        gdb_cv_thread_db_h_has_td_notls=no
1827      )
1828    )
1829 fi
1830 if test "x$gdb_cv_thread_db_h_has_td_notalloc" = "xyes"; then
1831   AC_DEFINE(THREAD_DB_HAS_TD_NOTALLOC, 1,
1832             [Define if <thread_db.h> has the TD_NOTALLOC error code.])
1833 fi
1834 if test "x$gdb_cv_thread_db_h_has_td_version" = "xyes"; then
1835   AC_DEFINE(THREAD_DB_HAS_TD_VERSION, 1,
1836             [Define if <thread_db.h> has the TD_VERSION error code.])
1837 fi
1838 if test "x$gdb_cv_thread_db_h_has_td_notls" = "xyes"; then
1839   AC_DEFINE(THREAD_DB_HAS_TD_NOTLS, 1,
1840             [Define if <thread_db.h> has the TD_NOTLS error code.])
1841 fi
1842
1843 dnl See if we have a sys/syscall header file that has __NR_tkill.
1844 if test "x$ac_cv_header_sys_syscall_h" = "xyes"; then
1845    AC_CACHE_CHECK([whether <sys/syscall.h> has __NR_tkill],
1846                   gdb_cv_sys_syscall_h_has_tkill,
1847      AC_TRY_COMPILE(
1848        [#include <sys/syscall.h>],
1849        [int i = __NR_tkill;],
1850        gdb_cv_sys_syscall_h_has_tkill=yes,
1851        gdb_cv_sys_syscall_h_has_tkill=no
1852      )
1853    )
1854 fi
1855 dnl See if we can issue tkill syscall.
1856 if test "x$gdb_cv_sys_syscall_h_has_tkill" = "xyes" && test "x$ac_cv_func_syscall" = "xyes"; then
1857   AC_DEFINE(HAVE_TKILL_SYSCALL, 1, [Define if you support the tkill syscall.])
1858 fi
1859
1860 dnl Check if we can disable the virtual address space randomization.
1861 dnl The functionality of setarch -R.
1862 AC_CHECK_DECLS([ADDR_NO_RANDOMIZE],,, [#include <sys/personality.h>])
1863 define([PERSONALITY_TEST], [AC_LANG_PROGRAM([#include <sys/personality.h>], [
1864 #      if !HAVE_DECL_ADDR_NO_RANDOMIZE
1865 #       define ADDR_NO_RANDOMIZE 0x0040000
1866 #      endif
1867        /* Test the flag could be set and stays set.  */
1868        personality (personality (0xffffffff) | ADDR_NO_RANDOMIZE);
1869        if (!(personality (personality (0xffffffff)) & ADDR_NO_RANDOMIZE))
1870            return 1])])
1871 AC_RUN_IFELSE([PERSONALITY_TEST],
1872               [have_personality=true],
1873               [have_personality=false],
1874               [AC_LINK_IFELSE([PERSONALITY_TEST],
1875                               [have_personality=true],
1876                               [have_personality=false])])
1877 if $have_personality
1878 then
1879     AC_DEFINE([HAVE_PERSONALITY], 1,
1880               [Define if you support the personality syscall.])
1881 fi
1882
1883 dnl Handle optional features that can be enabled.
1884
1885 # Support for --with-sysroot is a copy of GDB_AC_WITH_DIR,
1886 # except that the argument to --with-sysroot is optional.
1887 # --with-sysroot (or --with-sysroot=yes) sets the default sysroot path.
1888 if test "x$with_sysroot" = xyes; then
1889   with_sysroot="${exec_prefix}/${target_alias}/sys-root"
1890 fi
1891 AC_ARG_WITH(sysroot,
1892   AS_HELP_STRING([--with-sysroot@<:@=DIR@:>@],
1893                  [search for usr/lib et al within DIR]),
1894   [TARGET_SYSTEM_ROOT=$withval], [TARGET_SYSTEM_ROOT=])
1895 AC_DEFINE_DIR(TARGET_SYSTEM_ROOT, TARGET_SYSTEM_ROOT,
1896               [search for usr/lib et al within DIR])
1897 AC_SUBST(TARGET_SYSTEM_ROOT)
1898 GDB_AC_DEFINE_RELOCATABLE(TARGET_SYSTEM_ROOT, sysroot, ${ac_define_dir})
1899
1900 GDB_AC_WITH_DIR(SYSTEM_GDBINIT, system-gdbinit,
1901     [automatically load a system-wide gdbinit file],
1902     [])
1903
1904 AC_ARG_ENABLE(werror,
1905   AS_HELP_STRING([--enable-werror], [treat compile warnings as errors]),
1906   [case "${enableval}" in
1907      yes | y) ERROR_ON_WARNING="yes" ;;
1908      no | n)  ERROR_ON_WARNING="no" ;;
1909      *) AC_MSG_ERROR(bad value ${enableval} for --enable-werror) ;;
1910    esac])
1911
1912 # Enable -Werror by default when using gcc.  Turn it off for releases.
1913 if test "${GCC}" = yes -a -z "${ERROR_ON_WARNING}" && $development; then
1914     ERROR_ON_WARNING=yes
1915 fi
1916
1917 WERROR_CFLAGS=""
1918 if test "${ERROR_ON_WARNING}" = yes ; then
1919     WERROR_CFLAGS="-Werror"
1920 fi
1921
1922 # The entries after -Wno-pointer-sign are disabled warnings which may
1923 # be enabled in the future, which can not currently be used to build
1924 # GDB.
1925 # NOTE: If you change this list, remember to update
1926 # gdb/doc/gdbint.texinfo.
1927 build_warnings="-Wall -Wdeclaration-after-statement -Wpointer-arith \
1928 -Wformat-nonliteral -Wpointer-sign \
1929 -Wno-unused -Wunused-value -Wunused-function \
1930 -Wno-switch -Wno-char-subscripts -Wmissing-prototypes \
1931 -Wdeclaration-after-statement -Wempty-body"
1932
1933 # Enable -Wno-format by default when using gcc on mingw since many
1934 # GCC versions complain about %I64.
1935 case "${host}" in
1936   *-*-mingw32*) build_warnings="$build_warnings -Wno-format" ;;
1937 esac
1938
1939 AC_ARG_ENABLE(build-warnings,
1940 AS_HELP_STRING([--enable-build-warnings], [enable build-time compiler warnings if gcc is used]),
1941 [case "${enableval}" in
1942   yes)  ;;
1943   no)   build_warnings="-w";;
1944   ,*)   t=`echo "${enableval}" | sed -e "s/,/ /g"`
1945         build_warnings="${build_warnings} ${t}";;
1946   *,)   t=`echo "${enableval}" | sed -e "s/,/ /g"`
1947         build_warnings="${t} ${build_warnings}";;
1948   *)    build_warnings=`echo "${enableval}" | sed -e "s/,/ /g"`;;
1949 esac
1950 if test x"$silent" != x"yes" && test x"$build_warnings" != x""; then
1951   echo "Setting compiler warning flags = $build_warnings" 6>&1
1952 fi])dnl
1953 AC_ARG_ENABLE(gdb-build-warnings,
1954 AS_HELP_STRING([--enable-gdb-build-warnings], [enable GDB specific build-time compiler warnings if gcc is used]),
1955 [case "${enableval}" in
1956   yes)  ;;
1957   no)   build_warnings="-w";;
1958   ,*)   t=`echo "${enableval}" | sed -e "s/,/ /g"`
1959         build_warnings="${build_warnings} ${t}";;
1960   *,)   t=`echo "${enableval}" | sed -e "s/,/ /g"`
1961         build_warnings="${t} ${build_warnings}";;
1962   *)    build_warnings=`echo "${enableval}" | sed -e "s/,/ /g"`;;
1963 esac
1964 if test x"$silent" != x"yes" && test x"$build_warnings" != x""; then
1965   echo "Setting GDB specific compiler warning flags = $build_warnings" 6>&1
1966 fi])dnl
1967 WARN_CFLAGS=""
1968 if test "x${build_warnings}" != x -a "x$GCC" = xyes
1969 then
1970     AC_MSG_CHECKING(compiler warning flags)
1971     # Separate out the -Werror flag as some files just cannot be
1972     # compiled with it enabled.
1973     for w in ${build_warnings}; do
1974         case $w in
1975         -Werr*) WERROR_CFLAGS=-Werror ;;
1976         *) # Check that GCC accepts it
1977             saved_CFLAGS="$CFLAGS"
1978             CFLAGS="$CFLAGS $w"
1979             AC_TRY_COMPILE([],[],WARN_CFLAGS="${WARN_CFLAGS} $w",)
1980             CFLAGS="$saved_CFLAGS"
1981         esac
1982     done
1983     AC_MSG_RESULT(${WARN_CFLAGS} ${WERROR_CFLAGS})
1984 fi
1985 AC_SUBST(WARN_CFLAGS)
1986 AC_SUBST(WERROR_CFLAGS)
1987
1988 # In the Cygwin environment, we need some additional flags.
1989 AC_CACHE_CHECK([for cygwin], gdb_cv_os_cygwin,
1990 [AC_EGREP_CPP(lose, [
1991 #if defined (__CYGWIN__) || defined (__CYGWIN32__)
1992 lose
1993 #endif],[gdb_cv_os_cygwin=yes],[gdb_cv_os_cygwin=no])])
1994
1995
1996 dnl Figure out which of the many generic ser-*.c files the _host_ supports.
1997 SER_HARDWIRE="ser-base.o ser-unix.o ser-pipe.o ser-tcp.o"
1998 case ${host} in
1999   *go32* ) SER_HARDWIRE=ser-go32.o ;;
2000   *djgpp* ) SER_HARDWIRE=ser-go32.o ;;
2001   *mingw32*) SER_HARDWIRE="ser-base.o ser-tcp.o ser-mingw.o" ;;
2002 esac
2003 AC_SUBST(SER_HARDWIRE)
2004
2005 # libreadline needs libuser32.a in a cygwin environment
2006 WIN32LIBS=
2007 if test x$gdb_cv_os_cygwin = xyes; then
2008     WIN32LIBS="-luser32"
2009     case "${target}" in
2010         *cygwin*) WIN32LIBS="$WIN32LIBS -limagehlp"
2011         ;;
2012     esac
2013 fi
2014
2015 # The ser-tcp.c module requires sockets.
2016 case ${host} in
2017   *mingw32*)
2018     AC_DEFINE(USE_WIN32API, 1,
2019               [Define if we should use the Windows API, instead of the 
2020                POSIX API.  On Windows, we use the Windows API when 
2021                building for MinGW, but the POSIX API when building 
2022                for Cygwin.])
2023     WIN32LIBS="$WIN32LIBS -lws2_32"
2024     ;;
2025 esac        
2026 AC_SUBST(WIN32LIBS)
2027
2028 # Add ELF support to GDB, but only if BFD includes ELF support.
2029 GDB_AC_CHECK_BFD([for ELF support in BFD], gdb_cv_var_elf,
2030                  [bfd_get_elf_phdr_upper_bound (NULL)], elf-bfd.h)
2031 if test $gdb_cv_var_elf = yes; then
2032   CONFIG_OBS="$CONFIG_OBS elfread.o stap-probe.o"
2033   AC_DEFINE(HAVE_ELF, 1,
2034             [Define if ELF support should be included.])
2035   # -ldl is provided by bfd/Makfile.am (LIBDL) <PLUGINS>.
2036   if test "$plugins" = "yes"; then
2037     LIBS="-ldl $LIBS"
2038   fi
2039 fi
2040
2041 # Add macho support to GDB, but only if BFD includes it.
2042 GDB_AC_CHECK_BFD([for Mach-O support in BFD], gdb_cv_var_macho,
2043                  [bfd_mach_o_lookup_command (NULL, 0, NULL)], mach-o.h)
2044 if test $gdb_cv_var_macho = yes; then
2045   CONFIG_OBS="$CONFIG_OBS machoread.o"
2046 fi
2047
2048 # Add SOM support to GDB, but only if BFD includes it.
2049 GDB_AC_CHECK_BFD([for SOM support in BFD], gdb_cv_var_som,
2050                  [bfd_som_attach_aux_hdr (NULL, 0, NULL)], som.h)
2051 if test $gdb_cv_var_som = yes; then
2052   CONFIG_OBS="$CONFIG_OBS somread.o"
2053 fi
2054
2055 # Add any host-specific objects to GDB.
2056 CONFIG_OBS="${CONFIG_OBS} ${gdb_host_obs}"
2057
2058 # If building on ELF, look for lzma support for embedded compressed debug info.
2059 if test $gdb_cv_var_elf = yes; then
2060   AC_ARG_WITH(lzma,
2061     AS_HELP_STRING([--with-lzma], [support lzma compression (auto/yes/no)]),
2062     [], [with_lzma=auto])
2063   AC_MSG_CHECKING([whether to use lzma])
2064   AC_MSG_RESULT([$with_lzma])
2065
2066   if test "${with_lzma}" != no; then
2067     AC_LIB_HAVE_LINKFLAGS([lzma], [], [#include "lzma.h"],
2068                           [lzma_index_iter iter;
2069                            lzma_index_iter_init (&iter, 0);
2070                            lzma_mf_is_supported (LZMA_MF_HC3);])
2071     if test "$HAVE_LIBLZMA" != yes; then
2072       if test "$with_lzma" = yes; then
2073         AC_MSG_ERROR([missing liblzma for --with-lzma])
2074       fi
2075     fi
2076   fi
2077 fi
2078
2079 LIBGUI="../libgui/src/libgui.a"
2080 GUI_CFLAGS_X="-I${srcdir}/../libgui/src"
2081 AC_SUBST(LIBGUI)
2082 AC_SUBST(GUI_CFLAGS_X)
2083
2084 WIN32LDAPP=
2085 AC_SUBST(WIN32LIBS)
2086 AC_SUBST(WIN32LDAPP)
2087
2088 case "${host}" in
2089 *-*-cygwin* | *-*-mingw* )
2090     configdir="win"
2091     ;;
2092 *)
2093     configdir="unix"
2094     ;;
2095 esac
2096
2097 GDBTKLIBS=
2098 if test "${enable_gdbtk}" = "yes"; then
2099
2100     # Gdbtk must have an absolute path to srcdir in order to run
2101     # properly when not installed.
2102     here=`pwd`
2103     cd ${srcdir}
2104     GDBTK_SRC_DIR=`pwd`
2105     cd $here
2106
2107     SC_PATH_TCLCONFIG
2108
2109     # If $no_tk is nonempty, then we can't do Tk, and there is no
2110     # point to doing Tcl.
2111     SC_PATH_TKCONFIG
2112
2113     if test -z "${no_tcl}" -a -z "${no_tk}"; then
2114         SC_LOAD_TCLCONFIG
2115
2116         # Check for in-tree tcl
2117         here=`pwd`
2118         cd ${srcdir}/..
2119         topdir=`pwd`
2120         cd ${here}
2121
2122         intree="no"
2123         if test "${TCL_SRC_DIR}" = "${topdir}/tcl"; then
2124           intree="yes"
2125         fi
2126
2127         # Find Tcl private headers
2128         if test x"${intree}" = xno; then
2129           CY_AC_TCL_PRIVATE_HEADERS
2130           TCL_INCLUDE="${TCL_INCLUDE_SPEC} ${TCL_PRIVATE_INCLUDE}"
2131           TCL_LIBRARY="${TCL_LIB_SPEC}"
2132           TCL_DEPS=""
2133         else
2134           # If building tcl in the same src tree, private headers
2135           # are not needed, but we need to be sure to use the right
2136           # headers library
2137           TCL_INCLUDE="-I${TCL_SRC_DIR}/generic"          
2138           TCL_LIBRARY="${TCL_BUILD_LIB_SPEC}"
2139           TCL_DEPS="../tcl/${configdir}${TCL_LIB_FILE}"
2140         fi
2141         AC_SUBST(TCL_INCLUDE)
2142         AC_SUBST(TCL_LIBRARY)
2143         AC_SUBST(TCL_DEPS)
2144
2145         SC_LOAD_TKCONFIG
2146
2147         # Check for in-tree Tk
2148         intree="no"
2149         if test "${TK_SRC_DIR}" = "${topdir}/tk"; then
2150           intree="yes" 
2151         fi
2152
2153         # Find Tk private headers
2154         if test x"${intree}" = xno; then
2155           CY_AC_TK_PRIVATE_HEADERS
2156           TK_INCLUDE="${TK_INCLUDE_SPEC} ${TK_PRIVATE_INCLUDE}"
2157           TK_LIBRARY=${TK_LIB_SPEC}
2158           TK_DEPS=""
2159         else
2160           TK_INCLUDE="-I${TK_SRC_DIR}/generic"
2161           TK_LIBRARY="${TK_BUILD_LIB_SPEC}"
2162           TK_DEPS="../tk/${configdir}/${TK_LIB_FILE}"
2163         fi
2164         AC_SUBST(TK_INCLUDE)
2165         AC_SUBST(TK_LIBRARY)
2166         AC_SUBST(TK_DEPS)
2167         AC_SUBST(TK_XINCLUDES)
2168
2169         ENABLE_CFLAGS="${ENABLE_CFLAGS} \$(SUBDIR_GDBTK_CFLAGS)"
2170
2171         # Include some libraries that Tcl and Tk want.
2172         TCL_LIBS='$(LIBGUI) $(TK) $(TCL) $(X11_LDFLAGS) $(X11_LIBS)'
2173         # Yes, the ordering seems wrong here.  But it isn't.
2174         # TK_LIBS is the list of libraries that need to be linked
2175         # after Tcl/Tk.  Note that this isn't put into LIBS.  If it
2176         # were in LIBS then any link tests after this point would
2177         # try to include things like `$(LIBGUI)', which wouldn't work.
2178         GDBTKLIBS="${TCL_LIBS} ${TK_LIBS}"
2179
2180         CONFIG_OBS="${CONFIG_OBS} \$(SUBDIR_GDBTK_OBS)"
2181         CONFIG_DEPS="${CONFIG_DEPS} \$(SUBDIR_GDBTK_DEPS)"
2182         CONFIG_SRCS="${CONFIG_SRCS} \$(SUBDIR_GDBTK_SRCS)"
2183         CONFIG_ALL="${CONFIG_ALL} all-gdbtk"
2184         CONFIG_CLEAN="${CONFIG_CLEAN} clean-gdbtk"
2185         CONFIG_INSTALL="${CONFIG_INSTALL} install-gdbtk"
2186         CONFIG_UNINSTALL="${CONFIG_UNINSTALL} uninstall-gdbtk"
2187
2188         if test x$gdb_cv_os_cygwin = xyes; then
2189           WIN32LIBS="${WIN32LIBS} -lshell32 -lgdi32 -lcomdlg32 -ladvapi32"
2190           WIN32LDAPP="-Wl,--subsystem,console"
2191           CONFIG_OBS="${CONFIG_OBS} gdbres.o"
2192         fi
2193
2194         AC_CONFIG_SUBDIRS(gdbtk)
2195     fi
2196 fi
2197
2198 AC_SUBST(X_CFLAGS)
2199 AC_SUBST(X_LDFLAGS)
2200 AC_SUBST(X_LIBS)
2201 AC_SUBST(GDBTKLIBS)
2202 AC_SUBST(GDBTK_CFLAGS)
2203 AC_SUBST(GDBTK_SRC_DIR)
2204
2205 AC_PATH_X
2206
2207 # Unlike the sim directory, whether a simulator is linked is controlled by 
2208 # presence of a gdb_sim definition in the target configure.tgt entry.  
2209 # This code just checks for a few cases where we'd like to ignore those
2210 # definitions, even when they're present in the '.mt' file.  These cases
2211 # are when --disable-sim is specified, or if the simulator directory is
2212 # not part of the source tree.
2213 #
2214 AC_ARG_ENABLE(sim,
2215 AS_HELP_STRING([--enable-sim], [link gdb with simulator]),
2216 [echo "enable_sim = $enable_sim";
2217  echo "enableval = ${enableval}";
2218  case "${enableval}" in
2219   yes) ignore_sim=false ;;
2220   no)  ignore_sim=true ;;
2221   *)   ignore_sim=false ;;
2222  esac],
2223 [ignore_sim=false])
2224
2225 if test ! -d "${srcdir}/../sim"; then
2226   ignore_sim=true
2227 fi
2228
2229 SIM=
2230 SIM_OBS=
2231 if test "${ignore_sim}" = "false"; then
2232   if test x"${gdb_sim}" != x ; then
2233     SIM="${gdb_sim}"
2234     SIM_OBS="remote-sim.o"
2235     AC_DEFINE(WITH_SIM, 1, [Define if the simulator is being linked in.])
2236   fi
2237 fi
2238 AC_SUBST(SIM)
2239 AC_SUBST(SIM_OBS)
2240
2241 AC_SUBST(ENABLE_CFLAGS)
2242 AC_SUBST(PROFILE_CFLAGS)
2243
2244 AC_SUBST(CONFIG_OBS)
2245 AC_SUBST(CONFIG_DEPS)
2246 AC_SUBST(CONFIG_SRCS)
2247 AC_SUBST(CONFIG_ALL)
2248 AC_SUBST(CONFIG_CLEAN)
2249 AC_SUBST(CONFIG_INSTALL)
2250 AC_SUBST(CONFIG_UNINSTALL)
2251
2252 # List of host floatformats.
2253 AC_DEFINE_UNQUOTED(GDB_HOST_FLOAT_FORMAT,$gdb_host_float_format,[Host float floatformat])
2254 AC_DEFINE_UNQUOTED(GDB_HOST_DOUBLE_FORMAT,$gdb_host_double_format,[Host double floatformat])
2255 AC_DEFINE_UNQUOTED(GDB_HOST_LONG_DOUBLE_FORMAT,$gdb_host_long_double_format,[Host long double floatformat])
2256
2257 # target_subdir is used by the testsuite to find the target libraries.
2258 target_subdir=
2259 if test "${host}" != "${target}"; then
2260     target_subdir="${target_alias}/"
2261 fi
2262 AC_SUBST(target_subdir)
2263
2264 frags=
2265 if test "${gdb_native}" = "yes"; then
2266   host_makefile_frag=${srcdir}/config/${gdb_host_cpu}/${gdb_host}.mh
2267   if test ! -f ${host_makefile_frag}; then
2268     AC_MSG_ERROR("*** Gdb does not support native target ${host}")
2269   fi
2270   frags="$frags $host_makefile_frag"
2271 else
2272   host_makefile_frag=/dev/null
2273 fi
2274
2275 AC_SUBST_FILE(host_makefile_frag)
2276 AC_SUBST(frags)
2277
2278 changequote(,)dnl
2279 if test "${gdb_native}" = "yes"; then
2280 # We pick this up from the host configuration file (.mh) because we
2281 # do not have a native configuration Makefile fragment.
2282 nativefile=`sed -n '
2283 s/NAT_FILE[     ]*=[    ]*\([^  ]*\)/\1/p
2284 ' ${host_makefile_frag}`
2285 fi
2286 changequote([,])
2287
2288 if test x"${gdb_osabi}" != x ; then
2289     AC_DEFINE_UNQUOTED(GDB_OSABI_DEFAULT, $gdb_osabi,
2290                        [Define to the default OS ABI for this configuration.])
2291 fi
2292
2293 # Enable multi-ice-gdb-server.
2294 AC_ARG_ENABLE(multi-ice,
2295 AS_HELP_STRING([--enable-multi-ice], [build the multi-ice-gdb-server]),
2296   [case $enableval in
2297     yes | no)
2298       ;;
2299     *) AC_MSG_ERROR([bad value $enableval for --enable-multi-ice]) ;;
2300   esac])
2301 if test "x$enable_multi_ice" = xyes; then
2302    AC_CONFIG_SUBDIRS(multi-ice)
2303 fi
2304
2305 AC_ARG_ENABLE(gdbserver,
2306 AS_HELP_STRING([--enable-gdbserver],
2307                [automatically build gdbserver (yes/no/auto, default is auto)]),
2308 [case "${enableval}" in
2309   yes| no|auto) ;;
2310   *) AC_MSG_ERROR(bad value ${enableval} for --enable-gdbserver option) ;;
2311 esac],[enable_gdbserver=auto])
2312
2313 # We only build gdbserver automatically in a native configuration, and
2314 # only if the user did not explicitly disable its build.
2315 if test "$gdb_native" = "yes" -a "$enable_gdbserver" != "no"; then
2316   AC_MSG_CHECKING(whether gdbserver is supported on this host)
2317   if test "x$build_gdbserver" = xyes; then
2318     AC_MSG_RESULT(yes)
2319     AC_CONFIG_SUBDIRS(gdbserver)
2320     gdbserver_build_enabled=yes
2321   else
2322     AC_MSG_RESULT(no)
2323   fi
2324 fi
2325
2326 # If the user explicitly request the gdbserver to be built, verify that
2327 # we were in fact able to enable it.
2328 if test "$enable_gdbserver" = "yes" -a "$gdbserver_build_enabled" != "yes"; then
2329   AC_MSG_ERROR(Automatic gdbserver build is not supported for this configuration)
2330 fi
2331
2332 # Check for babeltrace and babeltrace-ctf
2333 AC_ARG_WITH(babeltrace,
2334   AC_HELP_STRING([--with-babeltrace], [include babeltrace support (auto/yes/no)]),
2335   [], [with_babeltrace=auto])
2336 AC_MSG_CHECKING([whether to use babeltrace])
2337 AC_MSG_RESULT([$with_babeltrace])
2338
2339 if test "x$with_babeltrace" = "xno"; then
2340   AC_MSG_WARN([babletrace support disabled; GDB is unable to read CTF data.])
2341 else
2342   # Append -Werror to CFLAGS so that configure can catch the warning
2343   # "assignment from incompatible pointer type", which is related to
2344   # the babeltrace change from 1.0.3 to 1.1.0.  Babeltrace 1.1.0 works
2345   # in GDB, while babeltrace 1.0.3 is broken.
2346   # AC_LIB_HAVE_LINKFLAGS may modify CPPFLAGS in it, so it should be
2347   # safe to save and restore CFLAGS here.
2348   saved_CFLAGS=$CFLAGS
2349   CFLAGS="$CFLAGS -Werror"
2350   AC_LIB_HAVE_LINKFLAGS([babeltrace], [babeltrace-ctf],
2351                         [#include <babeltrace/babeltrace.h>
2352                          #include <babeltrace/ctf/events.h>
2353                          #include <babeltrace/ctf/iterator.h>],
2354                         [struct bt_iter_pos *pos = bt_iter_get_pos (bt_ctf_get_iter (NULL));
2355                         struct bt_ctf_event *event = NULL;
2356                         const struct bt_definition *scope;
2357
2358                         scope = bt_ctf_get_top_level_scope (event, 
2359                                                            BT_STREAM_EVENT_HEADER);
2360                         bt_ctf_get_uint64 (bt_ctf_get_field (event, scope, "id"));
2361                         ])
2362   CFLAGS=$saved_CFLAGS
2363
2364   if test "$HAVE_LIBBABELTRACE" != yes; then
2365      if test "$with_babeltrace" = yes; then
2366        AC_MSG_ERROR([babeltrace is missing or unusable])
2367      else
2368        AC_MSG_WARN([babeltrace is missing or unusable; GDB is unable to read CTF data.])
2369      fi
2370   fi
2371 fi
2372
2373 # If nativefile (NAT_FILE) is not set in config/*/*.m[ht] files, we link
2374 # to an empty version.
2375
2376 files=
2377 links=
2378
2379 rm -f nm.h
2380 if test "${nativefile}" != ""; then
2381     case "${nativefile}" in
2382       nm-*.h ) GDB_NM_FILE="config/${gdb_host_cpu}/${nativefile}" ;;
2383       * ) GDB_NM_FILE="${nativefile}"
2384     esac
2385     files="${files} ${GDB_NM_FILE}"
2386     links="${links} nm.h"
2387     AC_DEFINE_UNQUOTED(GDB_NM_FILE, "${GDB_NM_FILE}", [nativefile])
2388 fi
2389 AC_SUBST(GDB_NM_FILE)
2390
2391 AC_LINK_FILES($files, $links)
2392
2393 dnl Check for exe extension set on certain hosts (e.g. Win32)
2394 AC_EXEEXT
2395
2396 dnl  Detect the character set used by this host.
2397 dnl  At the moment, we just assume it's UTF-8.
2398 AC_DEFINE(GDB_DEFAULT_HOST_CHARSET, "UTF-8",
2399           [Define to be a string naming the default host character set.])
2400
2401 # Undo the $ec_script escaping suitable for Makefile.
2402 transform=`echo "$program_transform_name" | sed -e 's/[\\$][\\$]/\\$/g'`
2403 GDB_TRANSFORM_NAME=`echo gdb | sed -e "$transform"`
2404 if test "x$GDB_TRANSFORM_NAME" = x; then
2405   GDB_TRANSFORM_NAME=gdb
2406 fi
2407 AC_SUBST(GDB_TRANSFORM_NAME)
2408 GCORE_TRANSFORM_NAME=`echo gcore | sed -e "$transform"`
2409 if test "x$GCORE_TRANSFORM_NAME" = x; then
2410   GCORE_TRANSFORM_NAME=gcore
2411 fi
2412 AC_SUBST(GCORE_TRANSFORM_NAME)
2413 AC_CONFIG_FILES([gcore], [chmod +x gcore])
2414
2415 AC_OUTPUT(Makefile gdb-gdb.gdb doc/Makefile data-directory/Makefile,
2416 [
2417 case x$CONFIG_HEADERS in
2418 xconfig.h:config.in)
2419 echo > stamp-h ;;
2420 esac
2421 ])
2422
2423 exit 0