2010-05-24 Michael Snyder <msnyder@vmware.com>
[external/binutils.git] / gdb / testsuite / gdb.base / callfuncs.exp
1 # Copyright 1992, 1994, 1995, 1996, 1997, 1998, 1999, 2000, 2001, 2002, 2003,
2 # 2004, 2007, 2008, 2009, 2010 Free Software Foundation, Inc.
3
4 # This program is free software; you can redistribute it and/or modify
5 # it under the terms of the GNU General Public License as published by
6 # the Free Software Foundation; either version 3 of the License, or
7 # (at your option) any later version.
8 #
9 # This program is distributed in the hope that it will be useful,
10 # but WITHOUT ANY WARRANTY; without even the implied warranty of
11 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12 # GNU General Public License for more details.
13 #
14 # You should have received a copy of the GNU General Public License
15 # along with this program.  If not, see <http://www.gnu.org/licenses/>.
16
17 # This file was written by Fred Fish. (fnf@cygnus.com)
18 # and modified by Bob Manson. (manson@cygnus.com)
19
20 if $tracelevel then {
21         strace $tracelevel
22 }
23
24
25 set testfile "callfuncs"
26 set srcfile ${testfile}.c
27 set binfile ${objdir}/${subdir}/${testfile}
28
29 if  { [gdb_compile "${srcdir}/${subdir}/${srcfile}" "${binfile}" executable {debug}] != "" } {
30      untested callfuncs.exp
31      return -1
32 }
33
34 # Create and source the file that provides information about the compiler
35 # used to compile the test case.
36
37 if [get_compiler_info ${binfile}] {
38     return -1;
39 }
40
41 if {$hp_aCC_compiler} {
42     set prototypes 1
43 } else {
44     set prototypes 0
45 }
46
47 # Some targets can't do function calls, so don't even bother with this
48 # test.
49 if [target_info exists gdb,cannot_call_functions] {
50     setup_xfail "*-*-*" 2416
51     fail "This target can not call functions"
52     continue
53 }
54
55 # Set the current language to C.  This counts as a test.  If it
56 # fails, then we skip the other tests.
57
58 proc set_lang_c {} {
59     global gdb_prompt
60
61     gdb_test_no_output "set language c" 
62
63     set success 0
64
65     gdb_test_multiple "show language" "set language to \"c\"" {
66         -re ".* source language is \"c\".*$gdb_prompt $" {
67             pass "set language to \"c\""
68             set success 1
69         }
70     }
71     return $success
72 }
73
74 # FIXME:  Before calling this proc, we should probably verify that
75 # we can call inferior functions and get a valid integral value
76 # returned.
77 # Note that it is OK to check for 0 or 1 as the returned values, because C
78 # specifies that the numeric value of a relational or logical expression
79 # (computed in the inferior) is 1 for true and 0 for false.
80
81 proc do_function_calls {} {
82     global prototypes
83     global gdb_prompt
84
85     # We need to up this because this can be really slow on some boards.
86     set timeout 60;
87
88     gdb_test "p t_char_values(0,0)" " = 0"
89     gdb_test "p t_char_values('a','b')" " = 1"
90     gdb_test "p t_char_values(char_val1,char_val2)" " = 1"
91     gdb_test "p t_char_values('a',char_val2)" " = 1"
92     gdb_test "p t_char_values(char_val1,'b')" " = 1"
93
94     gdb_test "p t_short_values(0,0)" " = 0"
95     gdb_test "p t_short_values(10,-23)" " = 1"
96     gdb_test "p t_short_values(short_val1,short_val2)" " = 1"
97     gdb_test "p t_short_values(10,short_val2)" " = 1"
98     gdb_test "p t_short_values(short_val1,-23)" " = 1"
99
100     gdb_test "p t_int_values(0,0)" " = 0"
101     gdb_test "p t_int_values(87,-26)" " = 1"
102     gdb_test "p t_int_values(int_val1,int_val2)" " = 1"
103     gdb_test "p t_int_values(87,int_val2)" " = 1"
104     gdb_test "p t_int_values(int_val1,-26)" " = 1"
105
106     gdb_test "p t_long_values(0,0)" " = 0"
107     gdb_test "p t_long_values(789,-321)" " = 1"
108     gdb_test "p t_long_values(long_val1,long_val2)" " = 1"
109     gdb_test "p t_long_values(789,long_val2)" " = 1"
110     gdb_test "p t_long_values(long_val1,-321)" " = 1"
111
112     if ![target_info exists gdb,skip_float_tests] {
113         gdb_test "p t_float_values(0.0,0.0)" " = 0"
114
115         # These next four tests fail on the mn10300.
116         # The first value is passed in regs, the other in memory.
117         # Gcc emits different stabs for the two parameters; the first is
118         # claimed to be a float, the second a double.
119         # dbxout.c in gcc claims this is the desired behavior.
120         # These tests also fail for RealView, because GDB can not tell that
121         # the function is unprototyped.
122         setup_xfail "mn10300-*-*"
123         if { [test_compiler_info "armcc-*"] } { setup_xfail "*-*-*" }
124         gdb_test "p t_float_values(3.14159,-2.3765)" " = 1"
125         setup_xfail "mn10300-*-*"
126         if { [test_compiler_info "armcc-*"] } { setup_xfail "*-*-*" }
127         gdb_test "p t_float_values(float_val1,float_val2)" " = 1"
128         setup_xfail "mn10300-*-*"
129         if { [test_compiler_info "armcc-*"] } { setup_xfail "*-*-*" }
130         gdb_test "p t_float_values(3.14159,float_val2)" " = 1"
131         setup_xfail "mn10300-*-*"
132         if { [test_compiler_info "armcc-*"] } { setup_xfail "*-*-*" }
133         gdb_test "p t_float_values(float_val1,-2.3765)" " = 1"
134
135         # Test passing of arguments which might not be widened.
136         gdb_test "p t_float_values2(0.0,0.0)" " = 0"
137
138         # Although PR 5318 mentions SunOS specifically, this seems
139         # to be a generic problem on quite a few platforms.
140         if $prototypes then {
141             setup_xfail "sparc-*-*" "mips*-*-*" 5318
142             if { ! [test_compiler_info gcc-*-*] } then {
143                 setup_xfail "alpha-dec-osf2*" "i*86-*-sysv4*" 5318
144             }
145         }
146         
147         gdb_test "p t_float_values2(3.14159,float_val2)" " = 1"
148
149         gdb_test "p t_float_many_args (float_val1, float_val2, float_val3, float_val4, float_val5, float_val6, float_val7, float_val8, float_val9, float_val10, float_val11, float_val12, float_val13, float_val14, float_val15)" " = 1" "Call function with many float arguments."
150
151         gdb_test "p t_small_values(1,2,3,4,5,6,7,8,9,10)" " = 55"
152
153         gdb_test "p t_double_values(0.0,0.0)" " = 0"
154         gdb_test "p t_double_values(45.654,-67.66)" " = 1"
155         gdb_test "p t_double_values(double_val1,double_val2)" " = 1"
156         gdb_test "p t_double_values(45.654,double_val2)" " = 1"
157         gdb_test "p t_double_values(double_val1,-67.66)" " = 1"
158
159         gdb_test "p t_double_many_args (double_val1, double_val2, double_val3, double_val4, double_val5, double_val6, double_val7, double_val8, double_val9, double_val10, double_val11, double_val12, double_val13, double_val14, double_val15)" " = 1" "Call function with many double arguments."
160
161         gdb_test "p t_double_int(99.0, 1)" " = 0"
162         gdb_test "p t_double_int(99.0, 99)" " = 1"
163         gdb_test "p t_int_double(99, 1.0)" " = 0"
164         gdb_test "p t_int_double(99, 99.0)" " = 1"
165     }
166
167     gdb_test "p t_string_values(string_val2,string_val1)" " = 0"
168     gdb_test "p t_string_values(string_val1,string_val2)" " = 1"
169     gdb_test "p t_string_values(\"string 1\",\"string 2\")" " = 1"
170     gdb_test "p t_string_values(\"string 1\",string_val2)" " = 1"
171     gdb_test "p t_string_values(string_val1,\"string 2\")" " = 1"
172
173     gdb_test "p t_char_array_values(char_array_val2,char_array_val1)" " = 0"
174     gdb_test "p t_char_array_values(char_array_val1,char_array_val2)" " = 1"
175     gdb_test "p t_char_array_values(\"carray 1\",\"carray 2\")" " = 1"
176     gdb_test "p t_char_array_values(\"carray 1\",char_array_val2)" " = 1"
177     gdb_test "p t_char_array_values(char_array_val1,\"carray 2\")" " = 1"
178
179     gdb_test "p doubleit(4)" " = 8"
180     gdb_test "p add(4,5)" " = 9"
181     gdb_test "p t_func_values(func_val2,func_val1)" " = 0"
182     gdb_test "p t_func_values(func_val1,func_val2)" " = 1"
183
184     gdb_test "p function_struct.func(5)" " = 10"
185     gdb_test "p function_struct_ptr->func(10)" " = 20"
186
187     # GDB currently screws up the passing of function parameters for
188     # ABIs that use function descriptors.  Instead of passing the
189     # address of te function descriptor, GDB passes the address of the
190     # function body.  This results in the called function treating the
191     # first few instructions of the function proper as a descriptor
192     # and attempting a jump through that (a totally random address).
193     setup_kfail "rs6000*-*-aix*" gdb/1457
194     setup_kfail "powerpc*-*-aix*" gdb/1457
195     setup_kfail hppa*-*-hpux* gdb/1457
196     gdb_test "p t_func_values(add,func_val2)" " = 1"
197     setup_kfail "rs6000*-*-aix*" gdb/1457
198     setup_kfail "powerpc*-*-aix*" gdb/1457
199     setup_kfail hppa*-*-hpux* gdb/1457
200     gdb_test "p t_func_values(func_val1,doubleit)" " = 1"
201     setup_kfail "rs6000*-*-aix*" gdb/1457
202     setup_kfail "powerpc*-*-aix*" gdb/1457
203     setup_kfail hppa*-*-hpux* gdb/1457
204     gdb_test "p t_call_add(add,3,4)" " = 7"
205     gdb_test "p t_call_add(func_val1,3,4)" " = 7"
206
207     gdb_test "p t_enum_value1(enumval1)" " = 1"
208     gdb_test "p t_enum_value1(enum_val1)" " = 1"
209     gdb_test "p t_enum_value1(enum_val2)" " = 0"
210
211     gdb_test "p t_enum_value2(enumval2)" " = 1"
212     gdb_test "p t_enum_value2(enum_val2)" " = 1"
213     gdb_test "p t_enum_value2(enum_val1)" " = 0"
214
215     gdb_test "p sum_args(1,{2})" " = 2"
216     gdb_test "p sum_args(2,{2,3})" " = 5"
217     gdb_test "p sum_args(3,{2,3,4})" " = 9"
218     gdb_test "p sum_args(4,{2,3,4,5})" " = 14"
219
220     gdb_test "p sum10 (1, 2, 3, 4, 5, 6, 7, 8, 9, 10)" " = 55"
221
222     gdb_test "p cmp10 (0, 1, 2, 3, 4, 5, 6, 7, 8, 9)" " = 1"
223
224     gdb_test "p t_structs_c(struct_val1)" "= 120 'x'" \
225         "call inferior func with struct - returns char"
226     gdb_test "p t_structs_s(struct_val1)" "= 87" \
227         "call inferior func with struct - returns short"
228     gdb_test "p t_structs_i(struct_val1)" "= 76" \
229         "call inferior func with struct - returns int"
230     gdb_test "p t_structs_l(struct_val1)" "= 51" \
231         "call inferior func with struct - returns long"
232     gdb_test "p t_structs_f(struct_val1)" "= 2.12.*" \
233         "call inferior func with struct - returns float"
234     gdb_test "p t_structs_d(struct_val1)" "= 9.87.*" \
235         "call inferior func with struct - returns double"
236     gdb_test "p t_structs_a(struct_val1)" "= (.unsigned char .. )?\"foo\"" \
237         "call inferior func with struct - returns char *"
238 }
239
240 # Procedure to get current content of all registers.
241 proc fetch_all_registers {test} {
242     global gdb_prompt
243
244     set all_registers_lines {}
245     set bad -1
246     # Former trailing `\[\r\n\]+' may eat just \r leaving \n in the buffer
247     # corrupting the next matches.
248     if {[gdb_test_multiple "info all-registers" $test {
249         -re "info all-registers\r\n" {
250             exp_continue
251         }
252         -ex "The program has no registers now" {
253             set bad 1
254             exp_continue
255         }
256         -re "^bspstore\[ \t\]+\[^\r\n\]+\r\n" {
257             if [istarget "ia64-*-*"] {
258                 # Filter out bspstore which is specially tied to bsp,
259                 # giving spurious differences.
260             } else {
261                 lappend all_registers_lines $expect_out(0,string)
262             }
263             exp_continue
264         }
265         -re "^\[^ \t\]+\[ \t\]+\[^\r\n\]+\r\n" {
266             lappend all_registers_lines $expect_out(0,string)
267             exp_continue
268         }
269         -re "$gdb_prompt $" {
270             incr bad
271         }
272         -re "^\[^\r\n\]+\r\n" {
273             if {!$bad} {
274                 warning "Unrecognized output: $expect_out(0,string)"
275                 set bad 1
276             }
277             exp_continue
278         }
279     }] != 0} {
280         return {}
281     }
282
283     if {$bad} {
284         fail $test
285         return {}
286     }
287
288     pass $test
289     return $all_registers_lines
290 }
291
292
293 # Start with a fresh gdb.
294
295 gdb_exit
296 gdb_start
297 gdb_reinitialize_dir $srcdir/$subdir
298 gdb_load ${binfile}
299
300 gdb_test "set print sevenbit-strings" ""
301 gdb_test "set print address off" ""
302 gdb_test "set width 0" ""
303
304 if { $hp_aCC_compiler } {
305     # Do not set language explicitly to 'C'.  This will cause aCC
306     # tests to fail because promotion rules are different.  Just let
307     # the language be set to the default.
308
309     if { ![runto_main] } {
310         gdb_suppress_tests;
311     }
312
313     # However, turn off overload-resolution for aCC.  Having it on causes
314     # a lot of failures.
315
316     gdb_test "set overload-resolution 0" ".*"
317 } else {
318     if { ![set_lang_c] } {
319         gdb_suppress_tests;
320     } else {
321         if { ![runto_main] } {
322             gdb_suppress_tests;
323         }
324     }
325 }
326
327 get_debug_format
328
329 # Make sure that malloc gets called and that the floating point unit
330 # is initialized via a call to t_double_values.
331 gdb_test "next" "t_double_values\\(double_val1, double_val2\\);.*" \
332   "next to t_double_values"
333 gdb_test "next" "t_structs_c\\(struct_val1\\);.*" \
334   "next to t_structs_c"
335
336 # Save all register contents.
337 set old_reg_content [fetch_all_registers "retrieve original register contents"]
338
339 # Perform function calls.
340 do_function_calls
341
342 # Check if all registers still have the same value.
343 set new_reg_content [fetch_all_registers \
344                      "register contents after gdb function calls"]
345 if {$old_reg_content == $new_reg_content} then {
346     pass "gdb function calls preserve register contents"
347 } else {
348     set old_reg_content $new_reg_content
349     fail "gdb function calls preserve register contents"
350 }
351
352 # Set breakpoint at a function we will call from gdb.
353 gdb_breakpoint add
354
355 # Call function (causing a breakpoint hit in the call dummy) and do a continue,
356 # make sure we are back at main and still have the same register contents.
357 gdb_test "print add(4,5)" \
358         "The program being debugged stopped while.*" \
359         "stop at breakpoint in call dummy function"
360 gdb_test "continue" "Continuing.*" "continue from call dummy breakpoint"
361 if ![gdb_test "bt 2" \
362               "#0  main.*" \
363               "bt after continuing from call dummy breakpoint"] then {
364     set new_reg_content [fetch_all_registers \
365                          "register contents after stop in call dummy"]
366     if {$old_reg_content == $new_reg_content} then {
367         pass "continue after stop in call dummy preserves register contents"
368     } else {
369         fail "continue after stop in call dummy preserves register contents"
370     }
371 }
372
373 # Call function (causing a breakpoint hit in the call dummy) and do a finish,
374 # make sure we are back at main and still have the same register contents.
375 gdb_test "print add(4,5)" "The program being debugged stopped while.*" \
376         "call function causing a breakpoint then do a finish"
377 gdb_test "finish" \
378          "Value returned is .* = 9" \
379          "finish from call dummy breakpoint returns correct value"
380 if ![gdb_test "bt 2" \
381               "#0  main.*" \
382               "bt after finishing from call dummy breakpoint"] then {
383     set new_reg_content [fetch_all_registers \
384                          "register contents after finish in call dummy"]
385     if {$old_reg_content == $new_reg_content} then {
386         pass "finish after stop in call dummy preserves register contents"
387     } else {
388         fail "finish after stop in call dummy preserves register contents"
389     }
390 }
391
392 # Call function (causing a breakpoint hit in the call dummy) and do a return
393 # with a value, make sure we are back at main with the same register contents.
394 gdb_test "print add(4,5)" "The program being debugged stopped while.*" \
395         "call function causing a breakpoint and then do a return"
396 if ![gdb_test "return 7" \
397               "#0  main.*" \
398               "back at main after return from call dummy breakpoint" \
399               "Make add return now. .y or n.*" \
400               "y"] then {
401     set new_reg_content [fetch_all_registers \
402                          "register contents after return in call dummy"]
403     if {$old_reg_content == $new_reg_content} then {
404         pass "return after stop in call dummy preserves register contents"
405     } else {
406         fail "return after stop in call dummy preserves register contents"
407     }
408 }
409
410 # Call function (causing a breakpoint hit in the call dummy), and
411 # call another function from the call dummy frame (thereby setting up
412 # several nested call dummy frames).  Test that backtrace and finish
413 # work when several call dummies are nested.
414 gdb_breakpoint sum10
415 gdb_breakpoint t_small_values
416 gdb_test "print add(2,3)" "The program being debugged stopped while.*" \
417         "stop at nested call level 1"
418 gdb_test "backtrace" \
419         "\#0  add \\(a=2, b=3\\).*\#1  <function called from gdb>.*\#2  main.*" \
420         "backtrace at nested call level 1"
421 gdb_test "print add(4,5)" "The program being debugged stopped while.*" \
422         "stop at nested call level 2"
423 gdb_test "backtrace" \
424         "\#0  add \\(a=4, b=5\\).*\#1  <function called from gdb>.*\#2  add \\(a=2, b=3\\).*\#3  <function called from gdb>.*\#4  main.*" \
425         "backtrace at nested call level 2"
426 gdb_test "print sum10(2,4,6,8,10,12,14,16,18,20)" \
427         "The program being debugged stopped while.*" \
428         "stop at nested call level 3"
429 gdb_test "backtrace" \
430         "\#0  sum10 \\(i0=2, i1=4, i2=6, i3=8, i4=10, i5=12, i6=14, i7=16, i8=18, i9=20\\).*\#1  <function called from gdb>.*\#2  add \\(a=4, b=5\\).*\#3  <function called from gdb>.*\#4  add \\(a=2, b=3\\).*\#5  <function called from gdb>.*\#6  main.*" \
431         "backtrace at nested call level 3"
432 gdb_test "print t_small_values(1,3,5,7,9,11,13,15,17,19)" \
433         "The program being debugged stopped while.*" \
434         "stop at nested call level 4"
435 gdb_test "backtrace" \
436         "\#0  t_small_values \\(arg1=1 '.001', arg2=3, arg3=5, arg4=7 '.a', arg5=9, arg6=11 '.v', arg7=13, arg8=15, arg9=17, arg10=19\\).*\#2  sum10 \\(i0=2, i1=4, i2=6, i3=8, i4=10, i5=12, i6=14, i7=16, i8=18, i9=20\\).*\#3  <function called from gdb>.*\#4  add \\(a=4, b=5\\).*\#5  <function called from gdb>.*\#6  add \\(a=2, b=3\\).*\#7  <function called from gdb>.*\#8  main.*" \
437         "backtrace at nested call level 4"
438 gdb_test "finish" "Value returned is .* = 100" \
439         "Finish from nested call level 4"
440 gdb_test "backtrace" \
441         "\#0  sum10 \\(i0=2, i1=4, i2=6, i3=8, i4=10, i5=12, i6=14, i7=16, i8=18, i9=20\\).*\#1  <function called from gdb>.*\#2  add \\(a=4, b=5\\).*\#3  <function called from gdb>.*\#4  add \\(a=2, b=3\\).*\#5  <function called from gdb>.*\#6  main.*" \
442         "backtrace after finish from nested call level 4"
443 gdb_test "finish" "Value returned is .* = 110" \
444         "Finish from nested call level 3"
445 gdb_test "backtrace" \
446         "\#0  add \\(a=4, b=5\\).*\#1  <function called from gdb>.*\#2  add \\(a=2, b=3\\).*\#3  <function called from gdb>.*\#4  main.*" \
447         "backtrace after finish from nested call level 3"
448 gdb_test "finish" "Value returned is .* = 9" \
449         "Finish from nested call level 2"
450 gdb_test "backtrace" \
451         "\#0  add \\(a=2, b=3\\).*\#1  <function called from gdb>.*\#2  main.*" \
452         "backtrace after finish from nested call level 2"
453 gdb_test "finish" "Value returned is .* = 5" \
454         "Finish from nested call level 1"
455 gdb_test "backtrace" "\#0  main .*" \
456         "backtrace after finish from nested call level 1"
457
458 set new_reg_content [fetch_all_registers \
459                      "register contents after nested call dummies"]
460 if {$old_reg_content == $new_reg_content} then {
461     pass "nested call dummies preserve register contents"
462 } else {
463     fail "nested call dummies preserve register contents"
464 }
465
466 # GDB should not crash by internal error on $sp underflow during the inferior
467 # call.  It is OK it will stop on some: Cannot access memory at address 0x$hex.
468
469 if {![target_info exists gdb,nosignals] && ![istarget "*-*-uclinux*"]} {
470     gdb_test {set $old_sp = $sp}
471
472     gdb_test {set $sp = 0}
473     gdb_test "call doubleit (1)" "" "sp == 0: call doubleit (1)"
474
475     gdb_test {set $sp = -1}
476     gdb_test "call doubleit (1)" "" "sp == -1: call doubleit (1)"
477
478     gdb_test {set $sp = $old_sp}
479 }