Eliminate FOR_EACH_BB_REVERSE macro.
[platform/upstream/gcc.git] / gcc / final.c
1 /* Convert RTL to assembler code and output it, for GNU compiler.
2    Copyright (C) 1987-2013 Free Software Foundation, Inc.
3
4 This file is part of GCC.
5
6 GCC is free software; you can redistribute it and/or modify it under
7 the terms of the GNU General Public License as published by the Free
8 Software Foundation; either version 3, or (at your option) any later
9 version.
10
11 GCC is distributed in the hope that it will be useful, but WITHOUT ANY
12 WARRANTY; without even the implied warranty of MERCHANTABILITY or
13 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
14 for more details.
15
16 You should have received a copy of the GNU General Public License
17 along with GCC; see the file COPYING3.  If not see
18 <http://www.gnu.org/licenses/>.  */
19
20 /* This is the final pass of the compiler.
21    It looks at the rtl code for a function and outputs assembler code.
22
23    Call `final_start_function' to output the assembler code for function entry,
24    `final' to output assembler code for some RTL code,
25    `final_end_function' to output assembler code for function exit.
26    If a function is compiled in several pieces, each piece is
27    output separately with `final'.
28
29    Some optimizations are also done at this level.
30    Move instructions that were made unnecessary by good register allocation
31    are detected and omitted from the output.  (Though most of these
32    are removed by the last jump pass.)
33
34    Instructions to set the condition codes are omitted when it can be
35    seen that the condition codes already had the desired values.
36
37    In some cases it is sufficient if the inherited condition codes
38    have related values, but this may require the following insn
39    (the one that tests the condition codes) to be modified.
40
41    The code for the function prologue and epilogue are generated
42    directly in assembler by the target functions function_prologue and
43    function_epilogue.  Those instructions never exist as rtl.  */
44
45 #include "config.h"
46 #include "system.h"
47 #include "coretypes.h"
48 #include "tm.h"
49
50 #include "tree.h"
51 #include "varasm.h"
52 #include "rtl.h"
53 #include "tm_p.h"
54 #include "regs.h"
55 #include "insn-config.h"
56 #include "insn-attr.h"
57 #include "recog.h"
58 #include "conditions.h"
59 #include "flags.h"
60 #include "hard-reg-set.h"
61 #include "output.h"
62 #include "except.h"
63 #include "function.h"
64 #include "rtl-error.h"
65 #include "toplev.h" /* exact_log2, floor_log2 */
66 #include "reload.h"
67 #include "intl.h"
68 #include "basic-block.h"
69 #include "target.h"
70 #include "targhooks.h"
71 #include "debug.h"
72 #include "expr.h"
73 #include "tree-pass.h"
74 #include "cgraph.h"
75 #include "tree-ssa.h"
76 #include "coverage.h"
77 #include "df.h"
78 #include "ggc.h"
79 #include "cfgloop.h"
80 #include "params.h"
81 #include "tree-pretty-print.h" /* for dump_function_header */
82 #include "asan.h"
83
84 #ifdef XCOFF_DEBUGGING_INFO
85 #include "xcoffout.h"           /* Needed for external data
86                                    declarations for e.g. AIX 4.x.  */
87 #endif
88
89 #include "dwarf2out.h"
90
91 #ifdef DBX_DEBUGGING_INFO
92 #include "dbxout.h"
93 #endif
94
95 #ifdef SDB_DEBUGGING_INFO
96 #include "sdbout.h"
97 #endif
98
99 /* Most ports that aren't using cc0 don't need to define CC_STATUS_INIT.
100    So define a null default for it to save conditionalization later.  */
101 #ifndef CC_STATUS_INIT
102 #define CC_STATUS_INIT
103 #endif
104
105 /* Is the given character a logical line separator for the assembler?  */
106 #ifndef IS_ASM_LOGICAL_LINE_SEPARATOR
107 #define IS_ASM_LOGICAL_LINE_SEPARATOR(C, STR) ((C) == ';')
108 #endif
109
110 #ifndef JUMP_TABLES_IN_TEXT_SECTION
111 #define JUMP_TABLES_IN_TEXT_SECTION 0
112 #endif
113
114 /* Bitflags used by final_scan_insn.  */
115 #define SEEN_BB         1
116 #define SEEN_NOTE       2
117 #define SEEN_EMITTED    4
118
119 /* Last insn processed by final_scan_insn.  */
120 static rtx debug_insn;
121 rtx current_output_insn;
122
123 /* Line number of last NOTE.  */
124 static int last_linenum;
125
126 /* Last discriminator written to assembly.  */
127 static int last_discriminator;
128
129 /* Discriminator of current block.  */
130 static int discriminator;
131
132 /* Highest line number in current block.  */
133 static int high_block_linenum;
134
135 /* Likewise for function.  */
136 static int high_function_linenum;
137
138 /* Filename of last NOTE.  */
139 static const char *last_filename;
140
141 /* Override filename and line number.  */
142 static const char *override_filename;
143 static int override_linenum;
144
145 /* Whether to force emission of a line note before the next insn.  */
146 static bool force_source_line = false;
147
148 extern const int length_unit_log; /* This is defined in insn-attrtab.c.  */
149
150 /* Nonzero while outputting an `asm' with operands.
151    This means that inconsistencies are the user's fault, so don't die.
152    The precise value is the insn being output, to pass to error_for_asm.  */
153 rtx this_is_asm_operands;
154
155 /* Number of operands of this insn, for an `asm' with operands.  */
156 static unsigned int insn_noperands;
157
158 /* Compare optimization flag.  */
159
160 static rtx last_ignored_compare = 0;
161
162 /* Assign a unique number to each insn that is output.
163    This can be used to generate unique local labels.  */
164
165 static int insn_counter = 0;
166
167 #ifdef HAVE_cc0
168 /* This variable contains machine-dependent flags (defined in tm.h)
169    set and examined by output routines
170    that describe how to interpret the condition codes properly.  */
171
172 CC_STATUS cc_status;
173
174 /* During output of an insn, this contains a copy of cc_status
175    from before the insn.  */
176
177 CC_STATUS cc_prev_status;
178 #endif
179
180 /* Number of unmatched NOTE_INSN_BLOCK_BEG notes we have seen.  */
181
182 static int block_depth;
183
184 /* Nonzero if have enabled APP processing of our assembler output.  */
185
186 static int app_on;
187
188 /* If we are outputting an insn sequence, this contains the sequence rtx.
189    Zero otherwise.  */
190
191 rtx final_sequence;
192
193 #ifdef ASSEMBLER_DIALECT
194
195 /* Number of the assembler dialect to use, starting at 0.  */
196 static int dialect_number;
197 #endif
198
199 /* Nonnull if the insn currently being emitted was a COND_EXEC pattern.  */
200 rtx current_insn_predicate;
201
202 /* True if printing into -fdump-final-insns= dump.  */   
203 bool final_insns_dump_p;
204
205 /* True if profile_function should be called, but hasn't been called yet.  */
206 static bool need_profile_function;
207
208 static int asm_insn_count (rtx);
209 static void profile_function (FILE *);
210 static void profile_after_prologue (FILE *);
211 static bool notice_source_line (rtx, bool *);
212 static rtx walk_alter_subreg (rtx *, bool *);
213 static void output_asm_name (void);
214 static void output_alternate_entry_point (FILE *, rtx);
215 static tree get_mem_expr_from_op (rtx, int *);
216 static void output_asm_operand_names (rtx *, int *, int);
217 #ifdef LEAF_REGISTERS
218 static void leaf_renumber_regs (rtx);
219 #endif
220 #ifdef HAVE_cc0
221 static int alter_cond (rtx);
222 #endif
223 #ifndef ADDR_VEC_ALIGN
224 static int final_addr_vec_align (rtx);
225 #endif
226 static int align_fuzz (rtx, rtx, int, unsigned);
227 \f
228 /* Initialize data in final at the beginning of a compilation.  */
229
230 void
231 init_final (const char *filename ATTRIBUTE_UNUSED)
232 {
233   app_on = 0;
234   final_sequence = 0;
235
236 #ifdef ASSEMBLER_DIALECT
237   dialect_number = ASSEMBLER_DIALECT;
238 #endif
239 }
240
241 /* Default target function prologue and epilogue assembler output.
242
243    If not overridden for epilogue code, then the function body itself
244    contains return instructions wherever needed.  */
245 void
246 default_function_pro_epilogue (FILE *file ATTRIBUTE_UNUSED,
247                                HOST_WIDE_INT size ATTRIBUTE_UNUSED)
248 {
249 }
250
251 void
252 default_function_switched_text_sections (FILE *file ATTRIBUTE_UNUSED,
253                                          tree decl ATTRIBUTE_UNUSED,
254                                          bool new_is_cold ATTRIBUTE_UNUSED)
255 {
256 }
257
258 /* Default target hook that outputs nothing to a stream.  */
259 void
260 no_asm_to_stream (FILE *file ATTRIBUTE_UNUSED)
261 {
262 }
263
264 /* Enable APP processing of subsequent output.
265    Used before the output from an `asm' statement.  */
266
267 void
268 app_enable (void)
269 {
270   if (! app_on)
271     {
272       fputs (ASM_APP_ON, asm_out_file);
273       app_on = 1;
274     }
275 }
276
277 /* Disable APP processing of subsequent output.
278    Called from varasm.c before most kinds of output.  */
279
280 void
281 app_disable (void)
282 {
283   if (app_on)
284     {
285       fputs (ASM_APP_OFF, asm_out_file);
286       app_on = 0;
287     }
288 }
289 \f
290 /* Return the number of slots filled in the current
291    delayed branch sequence (we don't count the insn needing the
292    delay slot).   Zero if not in a delayed branch sequence.  */
293
294 #ifdef DELAY_SLOTS
295 int
296 dbr_sequence_length (void)
297 {
298   if (final_sequence != 0)
299     return XVECLEN (final_sequence, 0) - 1;
300   else
301     return 0;
302 }
303 #endif
304 \f
305 /* The next two pages contain routines used to compute the length of an insn
306    and to shorten branches.  */
307
308 /* Arrays for insn lengths, and addresses.  The latter is referenced by
309    `insn_current_length'.  */
310
311 static int *insn_lengths;
312
313 vec<int> insn_addresses_;
314
315 /* Max uid for which the above arrays are valid.  */
316 static int insn_lengths_max_uid;
317
318 /* Address of insn being processed.  Used by `insn_current_length'.  */
319 int insn_current_address;
320
321 /* Address of insn being processed in previous iteration.  */
322 int insn_last_address;
323
324 /* known invariant alignment of insn being processed.  */
325 int insn_current_align;
326
327 /* After shorten_branches, for any insn, uid_align[INSN_UID (insn)]
328    gives the next following alignment insn that increases the known
329    alignment, or NULL_RTX if there is no such insn.
330    For any alignment obtained this way, we can again index uid_align with
331    its uid to obtain the next following align that in turn increases the
332    alignment, till we reach NULL_RTX; the sequence obtained this way
333    for each insn we'll call the alignment chain of this insn in the following
334    comments.  */
335
336 struct label_alignment
337 {
338   short alignment;
339   short max_skip;
340 };
341
342 static rtx *uid_align;
343 static int *uid_shuid;
344 static struct label_alignment *label_align;
345
346 /* Indicate that branch shortening hasn't yet been done.  */
347
348 void
349 init_insn_lengths (void)
350 {
351   if (uid_shuid)
352     {
353       free (uid_shuid);
354       uid_shuid = 0;
355     }
356   if (insn_lengths)
357     {
358       free (insn_lengths);
359       insn_lengths = 0;
360       insn_lengths_max_uid = 0;
361     }
362   if (HAVE_ATTR_length)
363     INSN_ADDRESSES_FREE ();
364   if (uid_align)
365     {
366       free (uid_align);
367       uid_align = 0;
368     }
369 }
370
371 /* Obtain the current length of an insn.  If branch shortening has been done,
372    get its actual length.  Otherwise, use FALLBACK_FN to calculate the
373    length.  */
374 static inline int
375 get_attr_length_1 (rtx insn, int (*fallback_fn) (rtx))
376 {
377   rtx body;
378   int i;
379   int length = 0;
380
381   if (!HAVE_ATTR_length)
382     return 0;
383
384   if (insn_lengths_max_uid > INSN_UID (insn))
385     return insn_lengths[INSN_UID (insn)];
386   else
387     switch (GET_CODE (insn))
388       {
389       case NOTE:
390       case BARRIER:
391       case CODE_LABEL:
392       case DEBUG_INSN:
393         return 0;
394
395       case CALL_INSN:
396       case JUMP_INSN:
397         length = fallback_fn (insn);
398         break;
399
400       case INSN:
401         body = PATTERN (insn);
402         if (GET_CODE (body) == USE || GET_CODE (body) == CLOBBER)
403           return 0;
404
405         else if (GET_CODE (body) == ASM_INPUT || asm_noperands (body) >= 0)
406           length = asm_insn_count (body) * fallback_fn (insn);
407         else if (GET_CODE (body) == SEQUENCE)
408           for (i = 0; i < XVECLEN (body, 0); i++)
409             length += get_attr_length_1 (XVECEXP (body, 0, i), fallback_fn);
410         else
411           length = fallback_fn (insn);
412         break;
413
414       default:
415         break;
416       }
417
418 #ifdef ADJUST_INSN_LENGTH
419   ADJUST_INSN_LENGTH (insn, length);
420 #endif
421   return length;
422 }
423
424 /* Obtain the current length of an insn.  If branch shortening has been done,
425    get its actual length.  Otherwise, get its maximum length.  */
426 int
427 get_attr_length (rtx insn)
428 {
429   return get_attr_length_1 (insn, insn_default_length);
430 }
431
432 /* Obtain the current length of an insn.  If branch shortening has been done,
433    get its actual length.  Otherwise, get its minimum length.  */
434 int
435 get_attr_min_length (rtx insn)
436 {
437   return get_attr_length_1 (insn, insn_min_length);
438 }
439 \f
440 /* Code to handle alignment inside shorten_branches.  */
441
442 /* Here is an explanation how the algorithm in align_fuzz can give
443    proper results:
444
445    Call a sequence of instructions beginning with alignment point X
446    and continuing until the next alignment point `block X'.  When `X'
447    is used in an expression, it means the alignment value of the
448    alignment point.
449
450    Call the distance between the start of the first insn of block X, and
451    the end of the last insn of block X `IX', for the `inner size of X'.
452    This is clearly the sum of the instruction lengths.
453
454    Likewise with the next alignment-delimited block following X, which we
455    shall call block Y.
456
457    Call the distance between the start of the first insn of block X, and
458    the start of the first insn of block Y `OX', for the `outer size of X'.
459
460    The estimated padding is then OX - IX.
461
462    OX can be safely estimated as
463
464            if (X >= Y)
465                    OX = round_up(IX, Y)
466            else
467                    OX = round_up(IX, X) + Y - X
468
469    Clearly est(IX) >= real(IX), because that only depends on the
470    instruction lengths, and those being overestimated is a given.
471
472    Clearly round_up(foo, Z) >= round_up(bar, Z) if foo >= bar, so
473    we needn't worry about that when thinking about OX.
474
475    When X >= Y, the alignment provided by Y adds no uncertainty factor
476    for branch ranges starting before X, so we can just round what we have.
477    But when X < Y, we don't know anything about the, so to speak,
478    `middle bits', so we have to assume the worst when aligning up from an
479    address mod X to one mod Y, which is Y - X.  */
480
481 #ifndef LABEL_ALIGN
482 #define LABEL_ALIGN(LABEL) align_labels_log
483 #endif
484
485 #ifndef LOOP_ALIGN
486 #define LOOP_ALIGN(LABEL) align_loops_log
487 #endif
488
489 #ifndef LABEL_ALIGN_AFTER_BARRIER
490 #define LABEL_ALIGN_AFTER_BARRIER(LABEL) 0
491 #endif
492
493 #ifndef JUMP_ALIGN
494 #define JUMP_ALIGN(LABEL) align_jumps_log
495 #endif
496
497 int
498 default_label_align_after_barrier_max_skip (rtx insn ATTRIBUTE_UNUSED)
499 {
500   return 0;
501 }
502
503 int
504 default_loop_align_max_skip (rtx insn ATTRIBUTE_UNUSED)
505 {
506   return align_loops_max_skip;
507 }
508
509 int
510 default_label_align_max_skip (rtx insn ATTRIBUTE_UNUSED)
511 {
512   return align_labels_max_skip;
513 }
514
515 int
516 default_jump_align_max_skip (rtx insn ATTRIBUTE_UNUSED)
517 {
518   return align_jumps_max_skip;
519 }
520
521 #ifndef ADDR_VEC_ALIGN
522 static int
523 final_addr_vec_align (rtx addr_vec)
524 {
525   int align = GET_MODE_SIZE (GET_MODE (PATTERN (addr_vec)));
526
527   if (align > BIGGEST_ALIGNMENT / BITS_PER_UNIT)
528     align = BIGGEST_ALIGNMENT / BITS_PER_UNIT;
529   return exact_log2 (align);
530
531 }
532
533 #define ADDR_VEC_ALIGN(ADDR_VEC) final_addr_vec_align (ADDR_VEC)
534 #endif
535
536 #ifndef INSN_LENGTH_ALIGNMENT
537 #define INSN_LENGTH_ALIGNMENT(INSN) length_unit_log
538 #endif
539
540 #define INSN_SHUID(INSN) (uid_shuid[INSN_UID (INSN)])
541
542 static int min_labelno, max_labelno;
543
544 #define LABEL_TO_ALIGNMENT(LABEL) \
545   (label_align[CODE_LABEL_NUMBER (LABEL) - min_labelno].alignment)
546
547 #define LABEL_TO_MAX_SKIP(LABEL) \
548   (label_align[CODE_LABEL_NUMBER (LABEL) - min_labelno].max_skip)
549
550 /* For the benefit of port specific code do this also as a function.  */
551
552 int
553 label_to_alignment (rtx label)
554 {
555   if (CODE_LABEL_NUMBER (label) <= max_labelno)
556     return LABEL_TO_ALIGNMENT (label);
557   return 0;
558 }
559
560 int
561 label_to_max_skip (rtx label)
562 {
563   if (CODE_LABEL_NUMBER (label) <= max_labelno)
564     return LABEL_TO_MAX_SKIP (label);
565   return 0;
566 }
567
568 /* The differences in addresses
569    between a branch and its target might grow or shrink depending on
570    the alignment the start insn of the range (the branch for a forward
571    branch or the label for a backward branch) starts out on; if these
572    differences are used naively, they can even oscillate infinitely.
573    We therefore want to compute a 'worst case' address difference that
574    is independent of the alignment the start insn of the range end
575    up on, and that is at least as large as the actual difference.
576    The function align_fuzz calculates the amount we have to add to the
577    naively computed difference, by traversing the part of the alignment
578    chain of the start insn of the range that is in front of the end insn
579    of the range, and considering for each alignment the maximum amount
580    that it might contribute to a size increase.
581
582    For casesi tables, we also want to know worst case minimum amounts of
583    address difference, in case a machine description wants to introduce
584    some common offset that is added to all offsets in a table.
585    For this purpose, align_fuzz with a growth argument of 0 computes the
586    appropriate adjustment.  */
587
588 /* Compute the maximum delta by which the difference of the addresses of
589    START and END might grow / shrink due to a different address for start
590    which changes the size of alignment insns between START and END.
591    KNOWN_ALIGN_LOG is the alignment known for START.
592    GROWTH should be ~0 if the objective is to compute potential code size
593    increase, and 0 if the objective is to compute potential shrink.
594    The return value is undefined for any other value of GROWTH.  */
595
596 static int
597 align_fuzz (rtx start, rtx end, int known_align_log, unsigned int growth)
598 {
599   int uid = INSN_UID (start);
600   rtx align_label;
601   int known_align = 1 << known_align_log;
602   int end_shuid = INSN_SHUID (end);
603   int fuzz = 0;
604
605   for (align_label = uid_align[uid]; align_label; align_label = uid_align[uid])
606     {
607       int align_addr, new_align;
608
609       uid = INSN_UID (align_label);
610       align_addr = INSN_ADDRESSES (uid) - insn_lengths[uid];
611       if (uid_shuid[uid] > end_shuid)
612         break;
613       known_align_log = LABEL_TO_ALIGNMENT (align_label);
614       new_align = 1 << known_align_log;
615       if (new_align < known_align)
616         continue;
617       fuzz += (-align_addr ^ growth) & (new_align - known_align);
618       known_align = new_align;
619     }
620   return fuzz;
621 }
622
623 /* Compute a worst-case reference address of a branch so that it
624    can be safely used in the presence of aligned labels.  Since the
625    size of the branch itself is unknown, the size of the branch is
626    not included in the range.  I.e. for a forward branch, the reference
627    address is the end address of the branch as known from the previous
628    branch shortening pass, minus a value to account for possible size
629    increase due to alignment.  For a backward branch, it is the start
630    address of the branch as known from the current pass, plus a value
631    to account for possible size increase due to alignment.
632    NB.: Therefore, the maximum offset allowed for backward branches needs
633    to exclude the branch size.  */
634
635 int
636 insn_current_reference_address (rtx branch)
637 {
638   rtx dest, seq;
639   int seq_uid;
640
641   if (! INSN_ADDRESSES_SET_P ())
642     return 0;
643
644   seq = NEXT_INSN (PREV_INSN (branch));
645   seq_uid = INSN_UID (seq);
646   if (!JUMP_P (branch))
647     /* This can happen for example on the PA; the objective is to know the
648        offset to address something in front of the start of the function.
649        Thus, we can treat it like a backward branch.
650        We assume here that FUNCTION_BOUNDARY / BITS_PER_UNIT is larger than
651        any alignment we'd encounter, so we skip the call to align_fuzz.  */
652     return insn_current_address;
653   dest = JUMP_LABEL (branch);
654
655   /* BRANCH has no proper alignment chain set, so use SEQ.
656      BRANCH also has no INSN_SHUID.  */
657   if (INSN_SHUID (seq) < INSN_SHUID (dest))
658     {
659       /* Forward branch.  */
660       return (insn_last_address + insn_lengths[seq_uid]
661               - align_fuzz (seq, dest, length_unit_log, ~0));
662     }
663   else
664     {
665       /* Backward branch.  */
666       return (insn_current_address
667               + align_fuzz (dest, seq, length_unit_log, ~0));
668     }
669 }
670 \f
671 /* Compute branch alignments based on frequency information in the
672    CFG.  */
673
674 unsigned int
675 compute_alignments (void)
676 {
677   int log, max_skip, max_log;
678   basic_block bb;
679   int freq_max = 0;
680   int freq_threshold = 0;
681
682   if (label_align)
683     {
684       free (label_align);
685       label_align = 0;
686     }
687
688   max_labelno = max_label_num ();
689   min_labelno = get_first_label_num ();
690   label_align = XCNEWVEC (struct label_alignment, max_labelno - min_labelno + 1);
691
692   /* If not optimizing or optimizing for size, don't assign any alignments.  */
693   if (! optimize || optimize_function_for_size_p (cfun))
694     return 0;
695
696   if (dump_file)
697     {
698       dump_reg_info (dump_file);
699       dump_flow_info (dump_file, TDF_DETAILS);
700       flow_loops_dump (dump_file, NULL, 1);
701     }
702   loop_optimizer_init (AVOID_CFG_MODIFICATIONS);
703   FOR_EACH_BB_FN (bb, cfun)
704     if (bb->frequency > freq_max)
705       freq_max = bb->frequency;
706   freq_threshold = freq_max / PARAM_VALUE (PARAM_ALIGN_THRESHOLD);
707
708   if (dump_file)
709     fprintf (dump_file, "freq_max: %i\n",freq_max);
710   FOR_EACH_BB_FN (bb, cfun)
711     {
712       rtx label = BB_HEAD (bb);
713       int fallthru_frequency = 0, branch_frequency = 0, has_fallthru = 0;
714       edge e;
715       edge_iterator ei;
716
717       if (!LABEL_P (label)
718           || optimize_bb_for_size_p (bb))
719         {
720           if (dump_file)
721             fprintf (dump_file,
722                      "BB %4i freq %4i loop %2i loop_depth %2i skipped.\n",
723                      bb->index, bb->frequency, bb->loop_father->num,
724                      bb_loop_depth (bb));
725           continue;
726         }
727       max_log = LABEL_ALIGN (label);
728       max_skip = targetm.asm_out.label_align_max_skip (label);
729
730       FOR_EACH_EDGE (e, ei, bb->preds)
731         {
732           if (e->flags & EDGE_FALLTHRU)
733             has_fallthru = 1, fallthru_frequency += EDGE_FREQUENCY (e);
734           else
735             branch_frequency += EDGE_FREQUENCY (e);
736         }
737       if (dump_file)
738         {
739           fprintf (dump_file, "BB %4i freq %4i loop %2i loop_depth"
740                    " %2i fall %4i branch %4i",
741                    bb->index, bb->frequency, bb->loop_father->num,
742                    bb_loop_depth (bb),
743                    fallthru_frequency, branch_frequency);
744           if (!bb->loop_father->inner && bb->loop_father->num)
745             fprintf (dump_file, " inner_loop");
746           if (bb->loop_father->header == bb)
747             fprintf (dump_file, " loop_header");
748           fprintf (dump_file, "\n");
749         }
750
751       /* There are two purposes to align block with no fallthru incoming edge:
752          1) to avoid fetch stalls when branch destination is near cache boundary
753          2) to improve cache efficiency in case the previous block is not executed
754             (so it does not need to be in the cache).
755
756          We to catch first case, we align frequently executed blocks.
757          To catch the second, we align blocks that are executed more frequently
758          than the predecessor and the predecessor is likely to not be executed
759          when function is called.  */
760
761       if (!has_fallthru
762           && (branch_frequency > freq_threshold
763               || (bb->frequency > bb->prev_bb->frequency * 10
764                   && (bb->prev_bb->frequency
765                       <= ENTRY_BLOCK_PTR_FOR_FN (cfun)->frequency / 2))))
766         {
767           log = JUMP_ALIGN (label);
768           if (dump_file)
769             fprintf (dump_file, "  jump alignment added.\n");
770           if (max_log < log)
771             {
772               max_log = log;
773               max_skip = targetm.asm_out.jump_align_max_skip (label);
774             }
775         }
776       /* In case block is frequent and reached mostly by non-fallthru edge,
777          align it.  It is most likely a first block of loop.  */
778       if (has_fallthru
779           && optimize_bb_for_speed_p (bb)
780           && branch_frequency + fallthru_frequency > freq_threshold
781           && (branch_frequency
782               > fallthru_frequency * PARAM_VALUE (PARAM_ALIGN_LOOP_ITERATIONS)))
783         {
784           log = LOOP_ALIGN (label);
785           if (dump_file)
786             fprintf (dump_file, "  internal loop alignment added.\n");
787           if (max_log < log)
788             {
789               max_log = log;
790               max_skip = targetm.asm_out.loop_align_max_skip (label);
791             }
792         }
793       LABEL_TO_ALIGNMENT (label) = max_log;
794       LABEL_TO_MAX_SKIP (label) = max_skip;
795     }
796
797   loop_optimizer_finalize ();
798   free_dominance_info (CDI_DOMINATORS);
799   return 0;
800 }
801
802 /* Grow the LABEL_ALIGN array after new labels are created.  */
803
804 static void 
805 grow_label_align (void)
806 {
807   int old = max_labelno;
808   int n_labels;
809   int n_old_labels;
810
811   max_labelno = max_label_num ();
812
813   n_labels = max_labelno - min_labelno + 1;
814   n_old_labels = old - min_labelno + 1;
815
816   label_align = XRESIZEVEC (struct label_alignment, label_align, n_labels);
817
818   /* Range of labels grows monotonically in the function.  Failing here
819      means that the initialization of array got lost.  */
820   gcc_assert (n_old_labels <= n_labels);
821
822   memset (label_align + n_old_labels, 0,
823           (n_labels - n_old_labels) * sizeof (struct label_alignment));
824 }
825
826 /* Update the already computed alignment information.  LABEL_PAIRS is a vector
827    made up of pairs of labels for which the alignment information of the first
828    element will be copied from that of the second element.  */
829
830 void
831 update_alignments (vec<rtx> &label_pairs)
832 {
833   unsigned int i = 0;
834   rtx iter, label = NULL_RTX;
835
836   if (max_labelno != max_label_num ())
837     grow_label_align ();
838
839   FOR_EACH_VEC_ELT (label_pairs, i, iter)
840     if (i & 1)
841       {
842         LABEL_TO_ALIGNMENT (label) = LABEL_TO_ALIGNMENT (iter);
843         LABEL_TO_MAX_SKIP (label) = LABEL_TO_MAX_SKIP (iter);
844       }
845     else
846       label = iter;
847 }
848
849 namespace {
850
851 const pass_data pass_data_compute_alignments =
852 {
853   RTL_PASS, /* type */
854   "alignments", /* name */
855   OPTGROUP_NONE, /* optinfo_flags */
856   false, /* has_gate */
857   true, /* has_execute */
858   TV_NONE, /* tv_id */
859   0, /* properties_required */
860   0, /* properties_provided */
861   0, /* properties_destroyed */
862   0, /* todo_flags_start */
863   TODO_verify_rtl_sharing, /* todo_flags_finish */
864 };
865
866 class pass_compute_alignments : public rtl_opt_pass
867 {
868 public:
869   pass_compute_alignments (gcc::context *ctxt)
870     : rtl_opt_pass (pass_data_compute_alignments, ctxt)
871   {}
872
873   /* opt_pass methods: */
874   unsigned int execute () { return compute_alignments (); }
875
876 }; // class pass_compute_alignments
877
878 } // anon namespace
879
880 rtl_opt_pass *
881 make_pass_compute_alignments (gcc::context *ctxt)
882 {
883   return new pass_compute_alignments (ctxt);
884 }
885
886 \f
887 /* Make a pass over all insns and compute their actual lengths by shortening
888    any branches of variable length if possible.  */
889
890 /* shorten_branches might be called multiple times:  for example, the SH
891    port splits out-of-range conditional branches in MACHINE_DEPENDENT_REORG.
892    In order to do this, it needs proper length information, which it obtains
893    by calling shorten_branches.  This cannot be collapsed with
894    shorten_branches itself into a single pass unless we also want to integrate
895    reorg.c, since the branch splitting exposes new instructions with delay
896    slots.  */
897
898 void
899 shorten_branches (rtx first)
900 {
901   rtx insn;
902   int max_uid;
903   int i;
904   int max_log;
905   int max_skip;
906 #define MAX_CODE_ALIGN 16
907   rtx seq;
908   int something_changed = 1;
909   char *varying_length;
910   rtx body;
911   int uid;
912   rtx align_tab[MAX_CODE_ALIGN];
913
914   /* Compute maximum UID and allocate label_align / uid_shuid.  */
915   max_uid = get_max_uid ();
916
917   /* Free uid_shuid before reallocating it.  */
918   free (uid_shuid);
919
920   uid_shuid = XNEWVEC (int, max_uid);
921
922   if (max_labelno != max_label_num ())
923     grow_label_align ();
924
925   /* Initialize label_align and set up uid_shuid to be strictly
926      monotonically rising with insn order.  */
927   /* We use max_log here to keep track of the maximum alignment we want to
928      impose on the next CODE_LABEL (or the current one if we are processing
929      the CODE_LABEL itself).  */
930
931   max_log = 0;
932   max_skip = 0;
933
934   for (insn = get_insns (), i = 1; insn; insn = NEXT_INSN (insn))
935     {
936       int log;
937
938       INSN_SHUID (insn) = i++;
939       if (INSN_P (insn))
940         continue;
941
942       if (LABEL_P (insn))
943         {
944           rtx next;
945           bool next_is_jumptable;
946
947           /* Merge in alignments computed by compute_alignments.  */
948           log = LABEL_TO_ALIGNMENT (insn);
949           if (max_log < log)
950             {
951               max_log = log;
952               max_skip = LABEL_TO_MAX_SKIP (insn);
953             }
954
955           next = next_nonnote_insn (insn);
956           next_is_jumptable = next && JUMP_TABLE_DATA_P (next);
957           if (!next_is_jumptable)
958             {
959               log = LABEL_ALIGN (insn);
960               if (max_log < log)
961                 {
962                   max_log = log;
963                   max_skip = targetm.asm_out.label_align_max_skip (insn);
964                 }
965             }
966           /* ADDR_VECs only take room if read-only data goes into the text
967              section.  */
968           if ((JUMP_TABLES_IN_TEXT_SECTION
969                || readonly_data_section == text_section)
970               && next_is_jumptable)
971             {
972               log = ADDR_VEC_ALIGN (next);
973               if (max_log < log)
974                 {
975                   max_log = log;
976                   max_skip = targetm.asm_out.label_align_max_skip (insn);
977                 }
978             }
979           LABEL_TO_ALIGNMENT (insn) = max_log;
980           LABEL_TO_MAX_SKIP (insn) = max_skip;
981           max_log = 0;
982           max_skip = 0;
983         }
984       else if (BARRIER_P (insn))
985         {
986           rtx label;
987
988           for (label = insn; label && ! INSN_P (label);
989                label = NEXT_INSN (label))
990             if (LABEL_P (label))
991               {
992                 log = LABEL_ALIGN_AFTER_BARRIER (insn);
993                 if (max_log < log)
994                   {
995                     max_log = log;
996                     max_skip = targetm.asm_out.label_align_after_barrier_max_skip (label);
997                   }
998                 break;
999               }
1000         }
1001     }
1002   if (!HAVE_ATTR_length)
1003     return;
1004
1005   /* Allocate the rest of the arrays.  */
1006   insn_lengths = XNEWVEC (int, max_uid);
1007   insn_lengths_max_uid = max_uid;
1008   /* Syntax errors can lead to labels being outside of the main insn stream.
1009      Initialize insn_addresses, so that we get reproducible results.  */
1010   INSN_ADDRESSES_ALLOC (max_uid);
1011
1012   varying_length = XCNEWVEC (char, max_uid);
1013
1014   /* Initialize uid_align.  We scan instructions
1015      from end to start, and keep in align_tab[n] the last seen insn
1016      that does an alignment of at least n+1, i.e. the successor
1017      in the alignment chain for an insn that does / has a known
1018      alignment of n.  */
1019   uid_align = XCNEWVEC (rtx, max_uid);
1020
1021   for (i = MAX_CODE_ALIGN; --i >= 0;)
1022     align_tab[i] = NULL_RTX;
1023   seq = get_last_insn ();
1024   for (; seq; seq = PREV_INSN (seq))
1025     {
1026       int uid = INSN_UID (seq);
1027       int log;
1028       log = (LABEL_P (seq) ? LABEL_TO_ALIGNMENT (seq) : 0);
1029       uid_align[uid] = align_tab[0];
1030       if (log)
1031         {
1032           /* Found an alignment label.  */
1033           uid_align[uid] = align_tab[log];
1034           for (i = log - 1; i >= 0; i--)
1035             align_tab[i] = seq;
1036         }
1037     }
1038
1039   /* When optimizing, we start assuming minimum length, and keep increasing
1040      lengths as we find the need for this, till nothing changes.
1041      When not optimizing, we start assuming maximum lengths, and
1042      do a single pass to update the lengths.  */
1043   bool increasing = optimize != 0;
1044
1045 #ifdef CASE_VECTOR_SHORTEN_MODE
1046   if (optimize)
1047     {
1048       /* Look for ADDR_DIFF_VECs, and initialize their minimum and maximum
1049          label fields.  */
1050
1051       int min_shuid = INSN_SHUID (get_insns ()) - 1;
1052       int max_shuid = INSN_SHUID (get_last_insn ()) + 1;
1053       int rel;
1054
1055       for (insn = first; insn != 0; insn = NEXT_INSN (insn))
1056         {
1057           rtx min_lab = NULL_RTX, max_lab = NULL_RTX, pat;
1058           int len, i, min, max, insn_shuid;
1059           int min_align;
1060           addr_diff_vec_flags flags;
1061
1062           if (! JUMP_TABLE_DATA_P (insn)
1063               || GET_CODE (PATTERN (insn)) != ADDR_DIFF_VEC)
1064             continue;
1065           pat = PATTERN (insn);
1066           len = XVECLEN (pat, 1);
1067           gcc_assert (len > 0);
1068           min_align = MAX_CODE_ALIGN;
1069           for (min = max_shuid, max = min_shuid, i = len - 1; i >= 0; i--)
1070             {
1071               rtx lab = XEXP (XVECEXP (pat, 1, i), 0);
1072               int shuid = INSN_SHUID (lab);
1073               if (shuid < min)
1074                 {
1075                   min = shuid;
1076                   min_lab = lab;
1077                 }
1078               if (shuid > max)
1079                 {
1080                   max = shuid;
1081                   max_lab = lab;
1082                 }
1083               if (min_align > LABEL_TO_ALIGNMENT (lab))
1084                 min_align = LABEL_TO_ALIGNMENT (lab);
1085             }
1086           XEXP (pat, 2) = gen_rtx_LABEL_REF (Pmode, min_lab);
1087           XEXP (pat, 3) = gen_rtx_LABEL_REF (Pmode, max_lab);
1088           insn_shuid = INSN_SHUID (insn);
1089           rel = INSN_SHUID (XEXP (XEXP (pat, 0), 0));
1090           memset (&flags, 0, sizeof (flags));
1091           flags.min_align = min_align;
1092           flags.base_after_vec = rel > insn_shuid;
1093           flags.min_after_vec  = min > insn_shuid;
1094           flags.max_after_vec  = max > insn_shuid;
1095           flags.min_after_base = min > rel;
1096           flags.max_after_base = max > rel;
1097           ADDR_DIFF_VEC_FLAGS (pat) = flags;
1098
1099           if (increasing)
1100             PUT_MODE (pat, CASE_VECTOR_SHORTEN_MODE (0, 0, pat));
1101         }
1102     }
1103 #endif /* CASE_VECTOR_SHORTEN_MODE */
1104
1105   /* Compute initial lengths, addresses, and varying flags for each insn.  */
1106   int (*length_fun) (rtx) = increasing ? insn_min_length : insn_default_length;
1107
1108   for (insn_current_address = 0, insn = first;
1109        insn != 0;
1110        insn_current_address += insn_lengths[uid], insn = NEXT_INSN (insn))
1111     {
1112       uid = INSN_UID (insn);
1113
1114       insn_lengths[uid] = 0;
1115
1116       if (LABEL_P (insn))
1117         {
1118           int log = LABEL_TO_ALIGNMENT (insn);
1119           if (log)
1120             {
1121               int align = 1 << log;
1122               int new_address = (insn_current_address + align - 1) & -align;
1123               insn_lengths[uid] = new_address - insn_current_address;
1124             }
1125         }
1126
1127       INSN_ADDRESSES (uid) = insn_current_address + insn_lengths[uid];
1128
1129       if (NOTE_P (insn) || BARRIER_P (insn)
1130           || LABEL_P (insn) || DEBUG_INSN_P (insn))
1131         continue;
1132       if (INSN_DELETED_P (insn))
1133         continue;
1134
1135       body = PATTERN (insn);
1136       if (JUMP_TABLE_DATA_P (insn))
1137         {
1138           /* This only takes room if read-only data goes into the text
1139              section.  */
1140           if (JUMP_TABLES_IN_TEXT_SECTION
1141               || readonly_data_section == text_section)
1142             insn_lengths[uid] = (XVECLEN (body,
1143                                           GET_CODE (body) == ADDR_DIFF_VEC)
1144                                  * GET_MODE_SIZE (GET_MODE (body)));
1145           /* Alignment is handled by ADDR_VEC_ALIGN.  */
1146         }
1147       else if (GET_CODE (body) == ASM_INPUT || asm_noperands (body) >= 0)
1148         insn_lengths[uid] = asm_insn_count (body) * insn_default_length (insn);
1149       else if (GET_CODE (body) == SEQUENCE)
1150         {
1151           int i;
1152           int const_delay_slots;
1153 #ifdef DELAY_SLOTS
1154           const_delay_slots = const_num_delay_slots (XVECEXP (body, 0, 0));
1155 #else
1156           const_delay_slots = 0;
1157 #endif
1158           int (*inner_length_fun) (rtx)
1159             = const_delay_slots ? length_fun : insn_default_length;
1160           /* Inside a delay slot sequence, we do not do any branch shortening
1161              if the shortening could change the number of delay slots
1162              of the branch.  */
1163           for (i = 0; i < XVECLEN (body, 0); i++)
1164             {
1165               rtx inner_insn = XVECEXP (body, 0, i);
1166               int inner_uid = INSN_UID (inner_insn);
1167               int inner_length;
1168
1169               if (GET_CODE (body) == ASM_INPUT
1170                   || asm_noperands (PATTERN (XVECEXP (body, 0, i))) >= 0)
1171                 inner_length = (asm_insn_count (PATTERN (inner_insn))
1172                                 * insn_default_length (inner_insn));
1173               else
1174                 inner_length = inner_length_fun (inner_insn);
1175
1176               insn_lengths[inner_uid] = inner_length;
1177               if (const_delay_slots)
1178                 {
1179                   if ((varying_length[inner_uid]
1180                        = insn_variable_length_p (inner_insn)) != 0)
1181                     varying_length[uid] = 1;
1182                   INSN_ADDRESSES (inner_uid) = (insn_current_address
1183                                                 + insn_lengths[uid]);
1184                 }
1185               else
1186                 varying_length[inner_uid] = 0;
1187               insn_lengths[uid] += inner_length;
1188             }
1189         }
1190       else if (GET_CODE (body) != USE && GET_CODE (body) != CLOBBER)
1191         {
1192           insn_lengths[uid] = length_fun (insn);
1193           varying_length[uid] = insn_variable_length_p (insn);
1194         }
1195
1196       /* If needed, do any adjustment.  */
1197 #ifdef ADJUST_INSN_LENGTH
1198       ADJUST_INSN_LENGTH (insn, insn_lengths[uid]);
1199       if (insn_lengths[uid] < 0)
1200         fatal_insn ("negative insn length", insn);
1201 #endif
1202     }
1203
1204   /* Now loop over all the insns finding varying length insns.  For each,
1205      get the current insn length.  If it has changed, reflect the change.
1206      When nothing changes for a full pass, we are done.  */
1207
1208   while (something_changed)
1209     {
1210       something_changed = 0;
1211       insn_current_align = MAX_CODE_ALIGN - 1;
1212       for (insn_current_address = 0, insn = first;
1213            insn != 0;
1214            insn = NEXT_INSN (insn))
1215         {
1216           int new_length;
1217 #ifdef ADJUST_INSN_LENGTH
1218           int tmp_length;
1219 #endif
1220           int length_align;
1221
1222           uid = INSN_UID (insn);
1223
1224           if (LABEL_P (insn))
1225             {
1226               int log = LABEL_TO_ALIGNMENT (insn);
1227
1228 #ifdef CASE_VECTOR_SHORTEN_MODE
1229               /* If the mode of a following jump table was changed, we
1230                  may need to update the alignment of this label.  */
1231               rtx next;
1232               bool next_is_jumptable;
1233
1234               next = next_nonnote_insn (insn);
1235               next_is_jumptable = next && JUMP_TABLE_DATA_P (next);
1236               if ((JUMP_TABLES_IN_TEXT_SECTION
1237                    || readonly_data_section == text_section)
1238                   && next_is_jumptable)
1239                 {
1240                   int newlog = ADDR_VEC_ALIGN (next);
1241                   if (newlog != log)
1242                     {
1243                       log = newlog;
1244                       LABEL_TO_ALIGNMENT (insn) = log;
1245                       something_changed = 1;
1246                     }
1247                 }
1248 #endif
1249
1250               if (log > insn_current_align)
1251                 {
1252                   int align = 1 << log;
1253                   int new_address= (insn_current_address + align - 1) & -align;
1254                   insn_lengths[uid] = new_address - insn_current_address;
1255                   insn_current_align = log;
1256                   insn_current_address = new_address;
1257                 }
1258               else
1259                 insn_lengths[uid] = 0;
1260               INSN_ADDRESSES (uid) = insn_current_address;
1261               continue;
1262             }
1263
1264           length_align = INSN_LENGTH_ALIGNMENT (insn);
1265           if (length_align < insn_current_align)
1266             insn_current_align = length_align;
1267
1268           insn_last_address = INSN_ADDRESSES (uid);
1269           INSN_ADDRESSES (uid) = insn_current_address;
1270
1271 #ifdef CASE_VECTOR_SHORTEN_MODE
1272           if (optimize
1273               && JUMP_TABLE_DATA_P (insn)
1274               && GET_CODE (PATTERN (insn)) == ADDR_DIFF_VEC)
1275             {
1276               rtx body = PATTERN (insn);
1277               int old_length = insn_lengths[uid];
1278               rtx rel_lab = XEXP (XEXP (body, 0), 0);
1279               rtx min_lab = XEXP (XEXP (body, 2), 0);
1280               rtx max_lab = XEXP (XEXP (body, 3), 0);
1281               int rel_addr = INSN_ADDRESSES (INSN_UID (rel_lab));
1282               int min_addr = INSN_ADDRESSES (INSN_UID (min_lab));
1283               int max_addr = INSN_ADDRESSES (INSN_UID (max_lab));
1284               rtx prev;
1285               int rel_align = 0;
1286               addr_diff_vec_flags flags;
1287               enum machine_mode vec_mode;
1288
1289               /* Avoid automatic aggregate initialization.  */
1290               flags = ADDR_DIFF_VEC_FLAGS (body);
1291
1292               /* Try to find a known alignment for rel_lab.  */
1293               for (prev = rel_lab;
1294                    prev
1295                    && ! insn_lengths[INSN_UID (prev)]
1296                    && ! (varying_length[INSN_UID (prev)] & 1);
1297                    prev = PREV_INSN (prev))
1298                 if (varying_length[INSN_UID (prev)] & 2)
1299                   {
1300                     rel_align = LABEL_TO_ALIGNMENT (prev);
1301                     break;
1302                   }
1303
1304               /* See the comment on addr_diff_vec_flags in rtl.h for the
1305                  meaning of the flags values.  base: REL_LAB   vec: INSN  */
1306               /* Anything after INSN has still addresses from the last
1307                  pass; adjust these so that they reflect our current
1308                  estimate for this pass.  */
1309               if (flags.base_after_vec)
1310                 rel_addr += insn_current_address - insn_last_address;
1311               if (flags.min_after_vec)
1312                 min_addr += insn_current_address - insn_last_address;
1313               if (flags.max_after_vec)
1314                 max_addr += insn_current_address - insn_last_address;
1315               /* We want to know the worst case, i.e. lowest possible value
1316                  for the offset of MIN_LAB.  If MIN_LAB is after REL_LAB,
1317                  its offset is positive, and we have to be wary of code shrink;
1318                  otherwise, it is negative, and we have to be vary of code
1319                  size increase.  */
1320               if (flags.min_after_base)
1321                 {
1322                   /* If INSN is between REL_LAB and MIN_LAB, the size
1323                      changes we are about to make can change the alignment
1324                      within the observed offset, therefore we have to break
1325                      it up into two parts that are independent.  */
1326                   if (! flags.base_after_vec && flags.min_after_vec)
1327                     {
1328                       min_addr -= align_fuzz (rel_lab, insn, rel_align, 0);
1329                       min_addr -= align_fuzz (insn, min_lab, 0, 0);
1330                     }
1331                   else
1332                     min_addr -= align_fuzz (rel_lab, min_lab, rel_align, 0);
1333                 }
1334               else
1335                 {
1336                   if (flags.base_after_vec && ! flags.min_after_vec)
1337                     {
1338                       min_addr -= align_fuzz (min_lab, insn, 0, ~0);
1339                       min_addr -= align_fuzz (insn, rel_lab, 0, ~0);
1340                     }
1341                   else
1342                     min_addr -= align_fuzz (min_lab, rel_lab, 0, ~0);
1343                 }
1344               /* Likewise, determine the highest lowest possible value
1345                  for the offset of MAX_LAB.  */
1346               if (flags.max_after_base)
1347                 {
1348                   if (! flags.base_after_vec && flags.max_after_vec)
1349                     {
1350                       max_addr += align_fuzz (rel_lab, insn, rel_align, ~0);
1351                       max_addr += align_fuzz (insn, max_lab, 0, ~0);
1352                     }
1353                   else
1354                     max_addr += align_fuzz (rel_lab, max_lab, rel_align, ~0);
1355                 }
1356               else
1357                 {
1358                   if (flags.base_after_vec && ! flags.max_after_vec)
1359                     {
1360                       max_addr += align_fuzz (max_lab, insn, 0, 0);
1361                       max_addr += align_fuzz (insn, rel_lab, 0, 0);
1362                     }
1363                   else
1364                     max_addr += align_fuzz (max_lab, rel_lab, 0, 0);
1365                 }
1366               vec_mode = CASE_VECTOR_SHORTEN_MODE (min_addr - rel_addr,
1367                                                    max_addr - rel_addr, body);
1368               if (!increasing
1369                   || (GET_MODE_SIZE (vec_mode)
1370                       >= GET_MODE_SIZE (GET_MODE (body))))
1371                 PUT_MODE (body, vec_mode);
1372               if (JUMP_TABLES_IN_TEXT_SECTION
1373                   || readonly_data_section == text_section)
1374                 {
1375                   insn_lengths[uid]
1376                     = (XVECLEN (body, 1) * GET_MODE_SIZE (GET_MODE (body)));
1377                   insn_current_address += insn_lengths[uid];
1378                   if (insn_lengths[uid] != old_length)
1379                     something_changed = 1;
1380                 }
1381
1382               continue;
1383             }
1384 #endif /* CASE_VECTOR_SHORTEN_MODE */
1385
1386           if (! (varying_length[uid]))
1387             {
1388               if (NONJUMP_INSN_P (insn)
1389                   && GET_CODE (PATTERN (insn)) == SEQUENCE)
1390                 {
1391                   int i;
1392
1393                   body = PATTERN (insn);
1394                   for (i = 0; i < XVECLEN (body, 0); i++)
1395                     {
1396                       rtx inner_insn = XVECEXP (body, 0, i);
1397                       int inner_uid = INSN_UID (inner_insn);
1398
1399                       INSN_ADDRESSES (inner_uid) = insn_current_address;
1400
1401                       insn_current_address += insn_lengths[inner_uid];
1402                     }
1403                 }
1404               else
1405                 insn_current_address += insn_lengths[uid];
1406
1407               continue;
1408             }
1409
1410           if (NONJUMP_INSN_P (insn) && GET_CODE (PATTERN (insn)) == SEQUENCE)
1411             {
1412               int i;
1413
1414               body = PATTERN (insn);
1415               new_length = 0;
1416               for (i = 0; i < XVECLEN (body, 0); i++)
1417                 {
1418                   rtx inner_insn = XVECEXP (body, 0, i);
1419                   int inner_uid = INSN_UID (inner_insn);
1420                   int inner_length;
1421
1422                   INSN_ADDRESSES (inner_uid) = insn_current_address;
1423
1424                   /* insn_current_length returns 0 for insns with a
1425                      non-varying length.  */
1426                   if (! varying_length[inner_uid])
1427                     inner_length = insn_lengths[inner_uid];
1428                   else
1429                     inner_length = insn_current_length (inner_insn);
1430
1431                   if (inner_length != insn_lengths[inner_uid])
1432                     {
1433                       if (!increasing || inner_length > insn_lengths[inner_uid])
1434                         {
1435                           insn_lengths[inner_uid] = inner_length;
1436                           something_changed = 1;
1437                         }
1438                       else
1439                         inner_length = insn_lengths[inner_uid];
1440                     }
1441                   insn_current_address += inner_length;
1442                   new_length += inner_length;
1443                 }
1444             }
1445           else
1446             {
1447               new_length = insn_current_length (insn);
1448               insn_current_address += new_length;
1449             }
1450
1451 #ifdef ADJUST_INSN_LENGTH
1452           /* If needed, do any adjustment.  */
1453           tmp_length = new_length;
1454           ADJUST_INSN_LENGTH (insn, new_length);
1455           insn_current_address += (new_length - tmp_length);
1456 #endif
1457
1458           if (new_length != insn_lengths[uid]
1459               && (!increasing || new_length > insn_lengths[uid]))
1460             {
1461               insn_lengths[uid] = new_length;
1462               something_changed = 1;
1463             }
1464           else
1465             insn_current_address += insn_lengths[uid] - new_length;
1466         }
1467       /* For a non-optimizing compile, do only a single pass.  */
1468       if (!increasing)
1469         break;
1470     }
1471
1472   free (varying_length);
1473 }
1474
1475 /* Given the body of an INSN known to be generated by an ASM statement, return
1476    the number of machine instructions likely to be generated for this insn.
1477    This is used to compute its length.  */
1478
1479 static int
1480 asm_insn_count (rtx body)
1481 {
1482   const char *templ;
1483
1484   if (GET_CODE (body) == ASM_INPUT)
1485     templ = XSTR (body, 0);
1486   else
1487     templ = decode_asm_operands (body, NULL, NULL, NULL, NULL, NULL);
1488
1489   return asm_str_count (templ);
1490 }
1491
1492 /* Return the number of machine instructions likely to be generated for the
1493    inline-asm template. */
1494 int
1495 asm_str_count (const char *templ)
1496 {
1497   int count = 1;
1498
1499   if (!*templ)
1500     return 0;
1501
1502   for (; *templ; templ++)
1503     if (IS_ASM_LOGICAL_LINE_SEPARATOR (*templ, templ)
1504         || *templ == '\n')
1505       count++;
1506
1507   return count;
1508 }
1509 \f
1510 /* ??? This is probably the wrong place for these.  */
1511 /* Structure recording the mapping from source file and directory
1512    names at compile time to those to be embedded in debug
1513    information.  */
1514 typedef struct debug_prefix_map
1515 {
1516   const char *old_prefix;
1517   const char *new_prefix;
1518   size_t old_len;
1519   size_t new_len;
1520   struct debug_prefix_map *next;
1521 } debug_prefix_map;
1522
1523 /* Linked list of such structures.  */
1524 static debug_prefix_map *debug_prefix_maps;
1525
1526
1527 /* Record a debug file prefix mapping.  ARG is the argument to
1528    -fdebug-prefix-map and must be of the form OLD=NEW.  */
1529
1530 void
1531 add_debug_prefix_map (const char *arg)
1532 {
1533   debug_prefix_map *map;
1534   const char *p;
1535
1536   p = strchr (arg, '=');
1537   if (!p)
1538     {
1539       error ("invalid argument %qs to -fdebug-prefix-map", arg);
1540       return;
1541     }
1542   map = XNEW (debug_prefix_map);
1543   map->old_prefix = xstrndup (arg, p - arg);
1544   map->old_len = p - arg;
1545   p++;
1546   map->new_prefix = xstrdup (p);
1547   map->new_len = strlen (p);
1548   map->next = debug_prefix_maps;
1549   debug_prefix_maps = map;
1550 }
1551
1552 /* Perform user-specified mapping of debug filename prefixes.  Return
1553    the new name corresponding to FILENAME.  */
1554
1555 const char *
1556 remap_debug_filename (const char *filename)
1557 {
1558   debug_prefix_map *map;
1559   char *s;
1560   const char *name;
1561   size_t name_len;
1562
1563   for (map = debug_prefix_maps; map; map = map->next)
1564     if (filename_ncmp (filename, map->old_prefix, map->old_len) == 0)
1565       break;
1566   if (!map)
1567     return filename;
1568   name = filename + map->old_len;
1569   name_len = strlen (name) + 1;
1570   s = (char *) alloca (name_len + map->new_len);
1571   memcpy (s, map->new_prefix, map->new_len);
1572   memcpy (s + map->new_len, name, name_len);
1573   return ggc_strdup (s);
1574 }
1575 \f
1576 /* Return true if DWARF2 debug info can be emitted for DECL.  */
1577
1578 static bool
1579 dwarf2_debug_info_emitted_p (tree decl)
1580 {
1581   if (write_symbols != DWARF2_DEBUG && write_symbols != VMS_AND_DWARF2_DEBUG)
1582     return false;
1583
1584   if (DECL_IGNORED_P (decl))
1585     return false;
1586
1587   return true;
1588 }
1589
1590 /* Return scope resulting from combination of S1 and S2.  */
1591 static tree
1592 choose_inner_scope (tree s1, tree s2)
1593 {
1594    if (!s1)
1595      return s2;
1596    if (!s2)
1597      return s1;
1598    if (BLOCK_NUMBER (s1) > BLOCK_NUMBER (s2))
1599      return s1;
1600    return s2;
1601 }
1602
1603 /* Emit lexical block notes needed to change scope from S1 to S2.  */
1604
1605 static void
1606 change_scope (rtx orig_insn, tree s1, tree s2)
1607 {
1608   rtx insn = orig_insn;
1609   tree com = NULL_TREE;
1610   tree ts1 = s1, ts2 = s2;
1611   tree s;
1612
1613   while (ts1 != ts2)
1614     {
1615       gcc_assert (ts1 && ts2);
1616       if (BLOCK_NUMBER (ts1) > BLOCK_NUMBER (ts2))
1617         ts1 = BLOCK_SUPERCONTEXT (ts1);
1618       else if (BLOCK_NUMBER (ts1) < BLOCK_NUMBER (ts2))
1619         ts2 = BLOCK_SUPERCONTEXT (ts2);
1620       else
1621         {
1622           ts1 = BLOCK_SUPERCONTEXT (ts1);
1623           ts2 = BLOCK_SUPERCONTEXT (ts2);
1624         }
1625     }
1626   com = ts1;
1627
1628   /* Close scopes.  */
1629   s = s1;
1630   while (s != com)
1631     {
1632       rtx note = emit_note_before (NOTE_INSN_BLOCK_END, insn);
1633       NOTE_BLOCK (note) = s;
1634       s = BLOCK_SUPERCONTEXT (s);
1635     }
1636
1637   /* Open scopes.  */
1638   s = s2;
1639   while (s != com)
1640     {
1641       insn = emit_note_before (NOTE_INSN_BLOCK_BEG, insn);
1642       NOTE_BLOCK (insn) = s;
1643       s = BLOCK_SUPERCONTEXT (s);
1644     }
1645 }
1646
1647 /* Rebuild all the NOTE_INSN_BLOCK_BEG and NOTE_INSN_BLOCK_END notes based
1648    on the scope tree and the newly reordered instructions.  */
1649
1650 static void
1651 reemit_insn_block_notes (void)
1652 {
1653   tree cur_block = DECL_INITIAL (cfun->decl);
1654   rtx insn, note;
1655
1656   insn = get_insns ();
1657   for (; insn; insn = NEXT_INSN (insn))
1658     {
1659       tree this_block;
1660
1661       /* Prevent lexical blocks from straddling section boundaries.  */
1662       if (NOTE_P (insn) && NOTE_KIND (insn) == NOTE_INSN_SWITCH_TEXT_SECTIONS)
1663         {
1664           for (tree s = cur_block; s != DECL_INITIAL (cfun->decl);
1665                s = BLOCK_SUPERCONTEXT (s))
1666             {
1667               rtx note = emit_note_before (NOTE_INSN_BLOCK_END, insn);
1668               NOTE_BLOCK (note) = s;
1669               note = emit_note_after (NOTE_INSN_BLOCK_BEG, insn);
1670               NOTE_BLOCK (note) = s;
1671             }
1672         }
1673
1674       if (!active_insn_p (insn))
1675         continue;
1676
1677       /* Avoid putting scope notes between jump table and its label.  */
1678       if (JUMP_TABLE_DATA_P (insn))
1679         continue;
1680
1681       this_block = insn_scope (insn);
1682       /* For sequences compute scope resulting from merging all scopes
1683          of instructions nested inside.  */
1684       if (GET_CODE (PATTERN (insn)) == SEQUENCE)
1685         {
1686           int i;
1687           rtx body = PATTERN (insn);
1688
1689           this_block = NULL;
1690           for (i = 0; i < XVECLEN (body, 0); i++)
1691             this_block = choose_inner_scope (this_block,
1692                                              insn_scope (XVECEXP (body, 0, i)));
1693         }
1694       if (! this_block)
1695         {
1696           if (INSN_LOCATION (insn) == UNKNOWN_LOCATION)
1697             continue;
1698           else
1699             this_block = DECL_INITIAL (cfun->decl);
1700         }
1701
1702       if (this_block != cur_block)
1703         {
1704           change_scope (insn, cur_block, this_block);
1705           cur_block = this_block;
1706         }
1707     }
1708
1709   /* change_scope emits before the insn, not after.  */
1710   note = emit_note (NOTE_INSN_DELETED);
1711   change_scope (note, cur_block, DECL_INITIAL (cfun->decl));
1712   delete_insn (note);
1713
1714   reorder_blocks ();
1715 }
1716
1717 /* Output assembler code for the start of a function,
1718    and initialize some of the variables in this file
1719    for the new function.  The label for the function and associated
1720    assembler pseudo-ops have already been output in `assemble_start_function'.
1721
1722    FIRST is the first insn of the rtl for the function being compiled.
1723    FILE is the file to write assembler code to.
1724    OPTIMIZE_P is nonzero if we should eliminate redundant
1725      test and compare insns.  */
1726
1727 void
1728 final_start_function (rtx first, FILE *file,
1729                       int optimize_p ATTRIBUTE_UNUSED)
1730 {
1731   block_depth = 0;
1732
1733   this_is_asm_operands = 0;
1734
1735   need_profile_function = false;
1736
1737   last_filename = LOCATION_FILE (prologue_location);
1738   last_linenum = LOCATION_LINE (prologue_location);
1739   last_discriminator = discriminator = 0;
1740
1741   high_block_linenum = high_function_linenum = last_linenum;
1742
1743   if (flag_sanitize & SANITIZE_ADDRESS)
1744     asan_function_start ();
1745
1746   if (!DECL_IGNORED_P (current_function_decl))
1747     debug_hooks->begin_prologue (last_linenum, last_filename);
1748
1749   if (!dwarf2_debug_info_emitted_p (current_function_decl))
1750     dwarf2out_begin_prologue (0, NULL);
1751
1752 #ifdef LEAF_REG_REMAP
1753   if (crtl->uses_only_leaf_regs)
1754     leaf_renumber_regs (first);
1755 #endif
1756
1757   /* The Sun386i and perhaps other machines don't work right
1758      if the profiling code comes after the prologue.  */
1759   if (targetm.profile_before_prologue () && crtl->profile)
1760     {
1761       if (targetm.asm_out.function_prologue
1762           == default_function_pro_epilogue
1763 #ifdef HAVE_prologue
1764           && HAVE_prologue
1765 #endif
1766          )
1767         {
1768           rtx insn;
1769           for (insn = first; insn; insn = NEXT_INSN (insn))
1770             if (!NOTE_P (insn))
1771               {
1772                 insn = NULL_RTX;
1773                 break;
1774               }
1775             else if (NOTE_KIND (insn) == NOTE_INSN_BASIC_BLOCK
1776                      || NOTE_KIND (insn) == NOTE_INSN_FUNCTION_BEG)
1777               break;
1778             else if (NOTE_KIND (insn) == NOTE_INSN_DELETED
1779                      || NOTE_KIND (insn) == NOTE_INSN_VAR_LOCATION)
1780               continue;
1781             else
1782               {
1783                 insn = NULL_RTX;
1784                 break;
1785               }
1786
1787           if (insn)
1788             need_profile_function = true;
1789           else
1790             profile_function (file);
1791         }
1792       else
1793         profile_function (file);
1794     }
1795
1796   /* If debugging, assign block numbers to all of the blocks in this
1797      function.  */
1798   if (write_symbols)
1799     {
1800       reemit_insn_block_notes ();
1801       number_blocks (current_function_decl);
1802       /* We never actually put out begin/end notes for the top-level
1803          block in the function.  But, conceptually, that block is
1804          always needed.  */
1805       TREE_ASM_WRITTEN (DECL_INITIAL (current_function_decl)) = 1;
1806     }
1807
1808   if (warn_frame_larger_than
1809     && get_frame_size () > frame_larger_than_size)
1810   {
1811       /* Issue a warning */
1812       warning (OPT_Wframe_larger_than_,
1813                "the frame size of %wd bytes is larger than %wd bytes",
1814                get_frame_size (), frame_larger_than_size);
1815   }
1816
1817   /* First output the function prologue: code to set up the stack frame.  */
1818   targetm.asm_out.function_prologue (file, get_frame_size ());
1819
1820   /* If the machine represents the prologue as RTL, the profiling code must
1821      be emitted when NOTE_INSN_PROLOGUE_END is scanned.  */
1822 #ifdef HAVE_prologue
1823   if (! HAVE_prologue)
1824 #endif
1825     profile_after_prologue (file);
1826 }
1827
1828 static void
1829 profile_after_prologue (FILE *file ATTRIBUTE_UNUSED)
1830 {
1831   if (!targetm.profile_before_prologue () && crtl->profile)
1832     profile_function (file);
1833 }
1834
1835 static void
1836 profile_function (FILE *file ATTRIBUTE_UNUSED)
1837 {
1838 #ifndef NO_PROFILE_COUNTERS
1839 # define NO_PROFILE_COUNTERS    0
1840 #endif
1841 #ifdef ASM_OUTPUT_REG_PUSH
1842   rtx sval = NULL, chain = NULL;
1843
1844   if (cfun->returns_struct)
1845     sval = targetm.calls.struct_value_rtx (TREE_TYPE (current_function_decl),
1846                                            true);
1847   if (cfun->static_chain_decl)
1848     chain = targetm.calls.static_chain (current_function_decl, true);
1849 #endif /* ASM_OUTPUT_REG_PUSH */
1850
1851   if (! NO_PROFILE_COUNTERS)
1852     {
1853       int align = MIN (BIGGEST_ALIGNMENT, LONG_TYPE_SIZE);
1854       switch_to_section (data_section);
1855       ASM_OUTPUT_ALIGN (file, floor_log2 (align / BITS_PER_UNIT));
1856       targetm.asm_out.internal_label (file, "LP", current_function_funcdef_no);
1857       assemble_integer (const0_rtx, LONG_TYPE_SIZE / BITS_PER_UNIT, align, 1);
1858     }
1859
1860   switch_to_section (current_function_section ());
1861
1862 #ifdef ASM_OUTPUT_REG_PUSH
1863   if (sval && REG_P (sval))
1864     ASM_OUTPUT_REG_PUSH (file, REGNO (sval));
1865   if (chain && REG_P (chain))
1866     ASM_OUTPUT_REG_PUSH (file, REGNO (chain));
1867 #endif
1868
1869   FUNCTION_PROFILER (file, current_function_funcdef_no);
1870
1871 #ifdef ASM_OUTPUT_REG_PUSH
1872   if (chain && REG_P (chain))
1873     ASM_OUTPUT_REG_POP (file, REGNO (chain));
1874   if (sval && REG_P (sval))
1875     ASM_OUTPUT_REG_POP (file, REGNO (sval));
1876 #endif
1877 }
1878
1879 /* Output assembler code for the end of a function.
1880    For clarity, args are same as those of `final_start_function'
1881    even though not all of them are needed.  */
1882
1883 void
1884 final_end_function (void)
1885 {
1886   app_disable ();
1887
1888   if (!DECL_IGNORED_P (current_function_decl))
1889     debug_hooks->end_function (high_function_linenum);
1890
1891   /* Finally, output the function epilogue:
1892      code to restore the stack frame and return to the caller.  */
1893   targetm.asm_out.function_epilogue (asm_out_file, get_frame_size ());
1894
1895   /* And debug output.  */
1896   if (!DECL_IGNORED_P (current_function_decl))
1897     debug_hooks->end_epilogue (last_linenum, last_filename);
1898
1899   if (!dwarf2_debug_info_emitted_p (current_function_decl)
1900       && dwarf2out_do_frame ())
1901     dwarf2out_end_epilogue (last_linenum, last_filename);
1902 }
1903 \f
1904
1905 /* Dumper helper for basic block information. FILE is the assembly
1906    output file, and INSN is the instruction being emitted.  */
1907
1908 static void
1909 dump_basic_block_info (FILE *file, rtx insn, basic_block *start_to_bb,
1910                        basic_block *end_to_bb, int bb_map_size, int *bb_seqn)
1911 {
1912   basic_block bb;
1913
1914   if (!flag_debug_asm)
1915     return;
1916
1917   if (INSN_UID (insn) < bb_map_size
1918       && (bb = start_to_bb[INSN_UID (insn)]) != NULL)
1919     {
1920       edge e;
1921       edge_iterator ei;
1922
1923       fprintf (file, "%s BLOCK %d", ASM_COMMENT_START, bb->index);
1924       if (bb->frequency)
1925         fprintf (file, " freq:%d", bb->frequency);
1926       if (bb->count)
1927         fprintf (file, " count:" HOST_WIDEST_INT_PRINT_DEC,
1928                  bb->count);
1929       fprintf (file, " seq:%d", (*bb_seqn)++);
1930       fprintf (file, "\n%s PRED:", ASM_COMMENT_START);
1931       FOR_EACH_EDGE (e, ei, bb->preds)
1932         {
1933           dump_edge_info (file, e, TDF_DETAILS, 0);
1934         }
1935       fprintf (file, "\n");
1936     }
1937   if (INSN_UID (insn) < bb_map_size
1938       && (bb = end_to_bb[INSN_UID (insn)]) != NULL)
1939     {
1940       edge e;
1941       edge_iterator ei;
1942
1943       fprintf (asm_out_file, "%s SUCC:", ASM_COMMENT_START);
1944       FOR_EACH_EDGE (e, ei, bb->succs)
1945        {
1946          dump_edge_info (asm_out_file, e, TDF_DETAILS, 1);
1947        }
1948       fprintf (file, "\n");
1949     }
1950 }
1951
1952 /* Output assembler code for some insns: all or part of a function.
1953    For description of args, see `final_start_function', above.  */
1954
1955 void
1956 final (rtx first, FILE *file, int optimize_p)
1957 {
1958   rtx insn, next;
1959   int seen = 0;
1960
1961   /* Used for -dA dump.  */
1962   basic_block *start_to_bb = NULL;
1963   basic_block *end_to_bb = NULL;
1964   int bb_map_size = 0;
1965   int bb_seqn = 0;
1966
1967   last_ignored_compare = 0;
1968
1969 #ifdef HAVE_cc0
1970   for (insn = first; insn; insn = NEXT_INSN (insn))
1971     {
1972       /* If CC tracking across branches is enabled, record the insn which
1973          jumps to each branch only reached from one place.  */
1974       if (optimize_p && JUMP_P (insn))
1975         {
1976           rtx lab = JUMP_LABEL (insn);
1977           if (lab && LABEL_P (lab) && LABEL_NUSES (lab) == 1)
1978             {
1979               LABEL_REFS (lab) = insn;
1980             }
1981         }
1982     }
1983 #endif
1984
1985   init_recog ();
1986
1987   CC_STATUS_INIT;
1988
1989   if (flag_debug_asm)
1990     {
1991       basic_block bb;
1992
1993       bb_map_size = get_max_uid () + 1;
1994       start_to_bb = XCNEWVEC (basic_block, bb_map_size);
1995       end_to_bb = XCNEWVEC (basic_block, bb_map_size);
1996
1997       /* There is no cfg for a thunk.  */
1998       if (!cfun->is_thunk)
1999         FOR_EACH_BB_REVERSE_FN (bb, cfun)
2000           {
2001             start_to_bb[INSN_UID (BB_HEAD (bb))] = bb;
2002             end_to_bb[INSN_UID (BB_END (bb))] = bb;
2003           }
2004     }
2005
2006   /* Output the insns.  */
2007   for (insn = first; insn;)
2008     {
2009       if (HAVE_ATTR_length)
2010         {
2011           if ((unsigned) INSN_UID (insn) >= INSN_ADDRESSES_SIZE ())
2012             {
2013               /* This can be triggered by bugs elsewhere in the compiler if
2014                  new insns are created after init_insn_lengths is called.  */
2015               gcc_assert (NOTE_P (insn));
2016               insn_current_address = -1;
2017             }
2018           else
2019             insn_current_address = INSN_ADDRESSES (INSN_UID (insn));
2020         }
2021
2022       dump_basic_block_info (file, insn, start_to_bb, end_to_bb,
2023                              bb_map_size, &bb_seqn);
2024       insn = final_scan_insn (insn, file, optimize_p, 0, &seen);
2025     }
2026
2027   if (flag_debug_asm)
2028     {
2029       free (start_to_bb);
2030       free (end_to_bb);
2031     }
2032
2033   /* Remove CFI notes, to avoid compare-debug failures.  */
2034   for (insn = first; insn; insn = next)
2035     {
2036       next = NEXT_INSN (insn);
2037       if (NOTE_P (insn)
2038           && (NOTE_KIND (insn) == NOTE_INSN_CFI
2039               || NOTE_KIND (insn) == NOTE_INSN_CFI_LABEL))
2040         delete_insn (insn);
2041     }
2042 }
2043 \f
2044 const char *
2045 get_insn_template (int code, rtx insn)
2046 {
2047   switch (insn_data[code].output_format)
2048     {
2049     case INSN_OUTPUT_FORMAT_SINGLE:
2050       return insn_data[code].output.single;
2051     case INSN_OUTPUT_FORMAT_MULTI:
2052       return insn_data[code].output.multi[which_alternative];
2053     case INSN_OUTPUT_FORMAT_FUNCTION:
2054       gcc_assert (insn);
2055       return (*insn_data[code].output.function) (recog_data.operand, insn);
2056
2057     default:
2058       gcc_unreachable ();
2059     }
2060 }
2061
2062 /* Emit the appropriate declaration for an alternate-entry-point
2063    symbol represented by INSN, to FILE.  INSN is a CODE_LABEL with
2064    LABEL_KIND != LABEL_NORMAL.
2065
2066    The case fall-through in this function is intentional.  */
2067 static void
2068 output_alternate_entry_point (FILE *file, rtx insn)
2069 {
2070   const char *name = LABEL_NAME (insn);
2071
2072   switch (LABEL_KIND (insn))
2073     {
2074     case LABEL_WEAK_ENTRY:
2075 #ifdef ASM_WEAKEN_LABEL
2076       ASM_WEAKEN_LABEL (file, name);
2077 #endif
2078     case LABEL_GLOBAL_ENTRY:
2079       targetm.asm_out.globalize_label (file, name);
2080     case LABEL_STATIC_ENTRY:
2081 #ifdef ASM_OUTPUT_TYPE_DIRECTIVE
2082       ASM_OUTPUT_TYPE_DIRECTIVE (file, name, "function");
2083 #endif
2084       ASM_OUTPUT_LABEL (file, name);
2085       break;
2086
2087     case LABEL_NORMAL:
2088     default:
2089       gcc_unreachable ();
2090     }
2091 }
2092
2093 /* Given a CALL_INSN, find and return the nested CALL. */
2094 static rtx
2095 call_from_call_insn (rtx insn)
2096 {
2097   rtx x;
2098   gcc_assert (CALL_P (insn));
2099   x = PATTERN (insn);
2100
2101   while (GET_CODE (x) != CALL)
2102     {
2103       switch (GET_CODE (x))
2104         {
2105         default:
2106           gcc_unreachable ();
2107         case COND_EXEC:
2108           x = COND_EXEC_CODE (x);
2109           break;
2110         case PARALLEL:
2111           x = XVECEXP (x, 0, 0);
2112           break;
2113         case SET:
2114           x = XEXP (x, 1);
2115           break;
2116         }
2117     }
2118   return x;
2119 }
2120
2121 /* The final scan for one insn, INSN.
2122    Args are same as in `final', except that INSN
2123    is the insn being scanned.
2124    Value returned is the next insn to be scanned.
2125
2126    NOPEEPHOLES is the flag to disallow peephole processing (currently
2127    used for within delayed branch sequence output).
2128
2129    SEEN is used to track the end of the prologue, for emitting
2130    debug information.  We force the emission of a line note after
2131    both NOTE_INSN_PROLOGUE_END and NOTE_INSN_FUNCTION_BEG, or
2132    at the beginning of the second basic block, whichever comes
2133    first.  */
2134
2135 rtx
2136 final_scan_insn (rtx insn, FILE *file, int optimize_p ATTRIBUTE_UNUSED,
2137                  int nopeepholes ATTRIBUTE_UNUSED, int *seen)
2138 {
2139 #ifdef HAVE_cc0
2140   rtx set;
2141 #endif
2142   rtx next;
2143
2144   insn_counter++;
2145
2146   /* Ignore deleted insns.  These can occur when we split insns (due to a
2147      template of "#") while not optimizing.  */
2148   if (INSN_DELETED_P (insn))
2149     return NEXT_INSN (insn);
2150
2151   switch (GET_CODE (insn))
2152     {
2153     case NOTE:
2154       switch (NOTE_KIND (insn))
2155         {
2156         case NOTE_INSN_DELETED:
2157           break;
2158
2159         case NOTE_INSN_SWITCH_TEXT_SECTIONS:
2160           in_cold_section_p = !in_cold_section_p;
2161
2162           if (dwarf2out_do_frame ())
2163             dwarf2out_switch_text_section ();
2164           else if (!DECL_IGNORED_P (current_function_decl))
2165             debug_hooks->switch_text_section ();
2166
2167           switch_to_section (current_function_section ());
2168           targetm.asm_out.function_switched_text_sections (asm_out_file,
2169                                                            current_function_decl,
2170                                                            in_cold_section_p);
2171           /* Emit a label for the split cold section.  Form label name by
2172              suffixing "cold" to the original function's name.  */
2173           if (in_cold_section_p)
2174             {
2175               tree cold_function_name
2176                 = clone_function_name (current_function_decl, "cold");
2177               ASM_OUTPUT_LABEL (asm_out_file,
2178                                 IDENTIFIER_POINTER (cold_function_name));
2179             }
2180           break;
2181
2182         case NOTE_INSN_BASIC_BLOCK:
2183           if (need_profile_function)
2184             {
2185               profile_function (asm_out_file);
2186               need_profile_function = false;
2187             }
2188
2189           if (targetm.asm_out.unwind_emit)
2190             targetm.asm_out.unwind_emit (asm_out_file, insn);
2191
2192           if ((*seen & (SEEN_EMITTED | SEEN_BB)) == SEEN_BB)
2193             {
2194               *seen |= SEEN_EMITTED;
2195               force_source_line = true;
2196             }
2197           else
2198             *seen |= SEEN_BB;
2199
2200           discriminator = NOTE_BASIC_BLOCK (insn)->discriminator;
2201
2202           break;
2203
2204         case NOTE_INSN_EH_REGION_BEG:
2205           ASM_OUTPUT_DEBUG_LABEL (asm_out_file, "LEHB",
2206                                   NOTE_EH_HANDLER (insn));
2207           break;
2208
2209         case NOTE_INSN_EH_REGION_END:
2210           ASM_OUTPUT_DEBUG_LABEL (asm_out_file, "LEHE",
2211                                   NOTE_EH_HANDLER (insn));
2212           break;
2213
2214         case NOTE_INSN_PROLOGUE_END:
2215           targetm.asm_out.function_end_prologue (file);
2216           profile_after_prologue (file);
2217
2218           if ((*seen & (SEEN_EMITTED | SEEN_NOTE)) == SEEN_NOTE)
2219             {
2220               *seen |= SEEN_EMITTED;
2221               force_source_line = true;
2222             }
2223           else
2224             *seen |= SEEN_NOTE;
2225
2226           break;
2227
2228         case NOTE_INSN_EPILOGUE_BEG:
2229           if (!DECL_IGNORED_P (current_function_decl))
2230             (*debug_hooks->begin_epilogue) (last_linenum, last_filename);
2231           targetm.asm_out.function_begin_epilogue (file);
2232           break;
2233
2234         case NOTE_INSN_CFI:
2235           dwarf2out_emit_cfi (NOTE_CFI (insn));
2236           break;
2237
2238         case NOTE_INSN_CFI_LABEL:
2239           ASM_OUTPUT_DEBUG_LABEL (asm_out_file, "LCFI",
2240                                   NOTE_LABEL_NUMBER (insn));
2241           break;
2242
2243         case NOTE_INSN_FUNCTION_BEG:
2244           if (need_profile_function)
2245             {
2246               profile_function (asm_out_file);
2247               need_profile_function = false;
2248             }
2249
2250           app_disable ();
2251           if (!DECL_IGNORED_P (current_function_decl))
2252             debug_hooks->end_prologue (last_linenum, last_filename);
2253
2254           if ((*seen & (SEEN_EMITTED | SEEN_NOTE)) == SEEN_NOTE)
2255             {
2256               *seen |= SEEN_EMITTED;
2257               force_source_line = true;
2258             }
2259           else
2260             *seen |= SEEN_NOTE;
2261
2262           break;
2263
2264         case NOTE_INSN_BLOCK_BEG:
2265           if (debug_info_level == DINFO_LEVEL_NORMAL
2266               || debug_info_level == DINFO_LEVEL_VERBOSE
2267               || write_symbols == DWARF2_DEBUG
2268               || write_symbols == VMS_AND_DWARF2_DEBUG
2269               || write_symbols == VMS_DEBUG)
2270             {
2271               int n = BLOCK_NUMBER (NOTE_BLOCK (insn));
2272
2273               app_disable ();
2274               ++block_depth;
2275               high_block_linenum = last_linenum;
2276
2277               /* Output debugging info about the symbol-block beginning.  */
2278               if (!DECL_IGNORED_P (current_function_decl))
2279                 debug_hooks->begin_block (last_linenum, n);
2280
2281               /* Mark this block as output.  */
2282               TREE_ASM_WRITTEN (NOTE_BLOCK (insn)) = 1;
2283             }
2284           if (write_symbols == DBX_DEBUG
2285               || write_symbols == SDB_DEBUG)
2286             {
2287               location_t *locus_ptr
2288                 = block_nonartificial_location (NOTE_BLOCK (insn));
2289
2290               if (locus_ptr != NULL)
2291                 {
2292                   override_filename = LOCATION_FILE (*locus_ptr);
2293                   override_linenum = LOCATION_LINE (*locus_ptr);
2294                 }
2295             }
2296           break;
2297
2298         case NOTE_INSN_BLOCK_END:
2299           if (debug_info_level == DINFO_LEVEL_NORMAL
2300               || debug_info_level == DINFO_LEVEL_VERBOSE
2301               || write_symbols == DWARF2_DEBUG
2302               || write_symbols == VMS_AND_DWARF2_DEBUG
2303               || write_symbols == VMS_DEBUG)
2304             {
2305               int n = BLOCK_NUMBER (NOTE_BLOCK (insn));
2306
2307               app_disable ();
2308
2309               /* End of a symbol-block.  */
2310               --block_depth;
2311               gcc_assert (block_depth >= 0);
2312
2313               if (!DECL_IGNORED_P (current_function_decl))
2314                 debug_hooks->end_block (high_block_linenum, n);
2315             }
2316           if (write_symbols == DBX_DEBUG
2317               || write_symbols == SDB_DEBUG)
2318             {
2319               tree outer_block = BLOCK_SUPERCONTEXT (NOTE_BLOCK (insn));
2320               location_t *locus_ptr
2321                 = block_nonartificial_location (outer_block);
2322
2323               if (locus_ptr != NULL)
2324                 {
2325                   override_filename = LOCATION_FILE (*locus_ptr);
2326                   override_linenum = LOCATION_LINE (*locus_ptr);
2327                 }
2328               else
2329                 {
2330                   override_filename = NULL;
2331                   override_linenum = 0;
2332                 }
2333             }
2334           break;
2335
2336         case NOTE_INSN_DELETED_LABEL:
2337           /* Emit the label.  We may have deleted the CODE_LABEL because
2338              the label could be proved to be unreachable, though still
2339              referenced (in the form of having its address taken.  */
2340           ASM_OUTPUT_DEBUG_LABEL (file, "L", CODE_LABEL_NUMBER (insn));
2341           break;
2342
2343         case NOTE_INSN_DELETED_DEBUG_LABEL:
2344           /* Similarly, but need to use different namespace for it.  */
2345           if (CODE_LABEL_NUMBER (insn) != -1)
2346             ASM_OUTPUT_DEBUG_LABEL (file, "LDL", CODE_LABEL_NUMBER (insn));
2347           break;
2348
2349         case NOTE_INSN_VAR_LOCATION:
2350         case NOTE_INSN_CALL_ARG_LOCATION:
2351           if (!DECL_IGNORED_P (current_function_decl))
2352             debug_hooks->var_location (insn);
2353           break;
2354
2355         default:
2356           gcc_unreachable ();
2357           break;
2358         }
2359       break;
2360
2361     case BARRIER:
2362       break;
2363
2364     case CODE_LABEL:
2365       /* The target port might emit labels in the output function for
2366          some insn, e.g. sh.c output_branchy_insn.  */
2367       if (CODE_LABEL_NUMBER (insn) <= max_labelno)
2368         {
2369           int align = LABEL_TO_ALIGNMENT (insn);
2370 #ifdef ASM_OUTPUT_MAX_SKIP_ALIGN
2371           int max_skip = LABEL_TO_MAX_SKIP (insn);
2372 #endif
2373
2374           if (align && NEXT_INSN (insn))
2375             {
2376 #ifdef ASM_OUTPUT_MAX_SKIP_ALIGN
2377               ASM_OUTPUT_MAX_SKIP_ALIGN (file, align, max_skip);
2378 #else
2379 #ifdef ASM_OUTPUT_ALIGN_WITH_NOP
2380               ASM_OUTPUT_ALIGN_WITH_NOP (file, align);
2381 #else
2382               ASM_OUTPUT_ALIGN (file, align);
2383 #endif
2384 #endif
2385             }
2386         }
2387       CC_STATUS_INIT;
2388
2389       if (!DECL_IGNORED_P (current_function_decl) && LABEL_NAME (insn))
2390         debug_hooks->label (insn);
2391
2392       app_disable ();
2393
2394       next = next_nonnote_insn (insn);
2395       /* If this label is followed by a jump-table, make sure we put
2396          the label in the read-only section.  Also possibly write the
2397          label and jump table together.  */
2398       if (next != 0 && JUMP_TABLE_DATA_P (next))
2399         {
2400 #if defined(ASM_OUTPUT_ADDR_VEC) || defined(ASM_OUTPUT_ADDR_DIFF_VEC)
2401           /* In this case, the case vector is being moved by the
2402              target, so don't output the label at all.  Leave that
2403              to the back end macros.  */
2404 #else
2405           if (! JUMP_TABLES_IN_TEXT_SECTION)
2406             {
2407               int log_align;
2408
2409               switch_to_section (targetm.asm_out.function_rodata_section
2410                                  (current_function_decl));
2411
2412 #ifdef ADDR_VEC_ALIGN
2413               log_align = ADDR_VEC_ALIGN (next);
2414 #else
2415               log_align = exact_log2 (BIGGEST_ALIGNMENT / BITS_PER_UNIT);
2416 #endif
2417               ASM_OUTPUT_ALIGN (file, log_align);
2418             }
2419           else
2420             switch_to_section (current_function_section ());
2421
2422 #ifdef ASM_OUTPUT_CASE_LABEL
2423           ASM_OUTPUT_CASE_LABEL (file, "L", CODE_LABEL_NUMBER (insn),
2424                                  next);
2425 #else
2426           targetm.asm_out.internal_label (file, "L", CODE_LABEL_NUMBER (insn));
2427 #endif
2428 #endif
2429           break;
2430         }
2431       if (LABEL_ALT_ENTRY_P (insn))
2432         output_alternate_entry_point (file, insn);
2433       else
2434         targetm.asm_out.internal_label (file, "L", CODE_LABEL_NUMBER (insn));
2435       break;
2436
2437     default:
2438       {
2439         rtx body = PATTERN (insn);
2440         int insn_code_number;
2441         const char *templ;
2442         bool is_stmt;
2443
2444         /* Reset this early so it is correct for ASM statements.  */
2445         current_insn_predicate = NULL_RTX;
2446
2447         /* An INSN, JUMP_INSN or CALL_INSN.
2448            First check for special kinds that recog doesn't recognize.  */
2449
2450         if (GET_CODE (body) == USE /* These are just declarations.  */
2451             || GET_CODE (body) == CLOBBER)
2452           break;
2453
2454 #ifdef HAVE_cc0
2455         {
2456           /* If there is a REG_CC_SETTER note on this insn, it means that
2457              the setting of the condition code was done in the delay slot
2458              of the insn that branched here.  So recover the cc status
2459              from the insn that set it.  */
2460
2461           rtx note = find_reg_note (insn, REG_CC_SETTER, NULL_RTX);
2462           if (note)
2463             {
2464               NOTICE_UPDATE_CC (PATTERN (XEXP (note, 0)), XEXP (note, 0));
2465               cc_prev_status = cc_status;
2466             }
2467         }
2468 #endif
2469
2470         /* Detect insns that are really jump-tables
2471            and output them as such.  */
2472
2473         if (JUMP_TABLE_DATA_P (insn))
2474           {
2475 #if !(defined(ASM_OUTPUT_ADDR_VEC) || defined(ASM_OUTPUT_ADDR_DIFF_VEC))
2476             int vlen, idx;
2477 #endif
2478
2479             if (! JUMP_TABLES_IN_TEXT_SECTION)
2480               switch_to_section (targetm.asm_out.function_rodata_section
2481                                  (current_function_decl));
2482             else
2483               switch_to_section (current_function_section ());
2484
2485             app_disable ();
2486
2487 #if defined(ASM_OUTPUT_ADDR_VEC) || defined(ASM_OUTPUT_ADDR_DIFF_VEC)
2488             if (GET_CODE (body) == ADDR_VEC)
2489               {
2490 #ifdef ASM_OUTPUT_ADDR_VEC
2491                 ASM_OUTPUT_ADDR_VEC (PREV_INSN (insn), body);
2492 #else
2493                 gcc_unreachable ();
2494 #endif
2495               }
2496             else
2497               {
2498 #ifdef ASM_OUTPUT_ADDR_DIFF_VEC
2499                 ASM_OUTPUT_ADDR_DIFF_VEC (PREV_INSN (insn), body);
2500 #else
2501                 gcc_unreachable ();
2502 #endif
2503               }
2504 #else
2505             vlen = XVECLEN (body, GET_CODE (body) == ADDR_DIFF_VEC);
2506             for (idx = 0; idx < vlen; idx++)
2507               {
2508                 if (GET_CODE (body) == ADDR_VEC)
2509                   {
2510 #ifdef ASM_OUTPUT_ADDR_VEC_ELT
2511                     ASM_OUTPUT_ADDR_VEC_ELT
2512                       (file, CODE_LABEL_NUMBER (XEXP (XVECEXP (body, 0, idx), 0)));
2513 #else
2514                     gcc_unreachable ();
2515 #endif
2516                   }
2517                 else
2518                   {
2519 #ifdef ASM_OUTPUT_ADDR_DIFF_ELT
2520                     ASM_OUTPUT_ADDR_DIFF_ELT
2521                       (file,
2522                        body,
2523                        CODE_LABEL_NUMBER (XEXP (XVECEXP (body, 1, idx), 0)),
2524                        CODE_LABEL_NUMBER (XEXP (XEXP (body, 0), 0)));
2525 #else
2526                     gcc_unreachable ();
2527 #endif
2528                   }
2529               }
2530 #ifdef ASM_OUTPUT_CASE_END
2531             ASM_OUTPUT_CASE_END (file,
2532                                  CODE_LABEL_NUMBER (PREV_INSN (insn)),
2533                                  insn);
2534 #endif
2535 #endif
2536
2537             switch_to_section (current_function_section ());
2538
2539             break;
2540           }
2541         /* Output this line note if it is the first or the last line
2542            note in a row.  */
2543         if (!DECL_IGNORED_P (current_function_decl)
2544             && notice_source_line (insn, &is_stmt))
2545           (*debug_hooks->source_line) (last_linenum, last_filename,
2546                                        last_discriminator, is_stmt);
2547
2548         if (GET_CODE (body) == ASM_INPUT)
2549           {
2550             const char *string = XSTR (body, 0);
2551
2552             /* There's no telling what that did to the condition codes.  */
2553             CC_STATUS_INIT;
2554
2555             if (string[0])
2556               {
2557                 expanded_location loc;
2558
2559                 app_enable ();
2560                 loc = expand_location (ASM_INPUT_SOURCE_LOCATION (body));
2561                 if (*loc.file && loc.line)
2562                   fprintf (asm_out_file, "%s %i \"%s\" 1\n",
2563                            ASM_COMMENT_START, loc.line, loc.file);
2564                 fprintf (asm_out_file, "\t%s\n", string);
2565 #if HAVE_AS_LINE_ZERO
2566                 if (*loc.file && loc.line)
2567                   fprintf (asm_out_file, "%s 0 \"\" 2\n", ASM_COMMENT_START);
2568 #endif
2569               }
2570             break;
2571           }
2572
2573         /* Detect `asm' construct with operands.  */
2574         if (asm_noperands (body) >= 0)
2575           {
2576             unsigned int noperands = asm_noperands (body);
2577             rtx *ops = XALLOCAVEC (rtx, noperands);
2578             const char *string;
2579             location_t loc;
2580             expanded_location expanded;
2581
2582             /* There's no telling what that did to the condition codes.  */
2583             CC_STATUS_INIT;
2584
2585             /* Get out the operand values.  */
2586             string = decode_asm_operands (body, ops, NULL, NULL, NULL, &loc);
2587             /* Inhibit dying on what would otherwise be compiler bugs.  */
2588             insn_noperands = noperands;
2589             this_is_asm_operands = insn;
2590             expanded = expand_location (loc);
2591
2592 #ifdef FINAL_PRESCAN_INSN
2593             FINAL_PRESCAN_INSN (insn, ops, insn_noperands);
2594 #endif
2595
2596             /* Output the insn using them.  */
2597             if (string[0])
2598               {
2599                 app_enable ();
2600                 if (expanded.file && expanded.line)
2601                   fprintf (asm_out_file, "%s %i \"%s\" 1\n",
2602                            ASM_COMMENT_START, expanded.line, expanded.file);
2603                 output_asm_insn (string, ops);
2604 #if HAVE_AS_LINE_ZERO
2605                 if (expanded.file && expanded.line)
2606                   fprintf (asm_out_file, "%s 0 \"\" 2\n", ASM_COMMENT_START);
2607 #endif
2608               }
2609
2610             if (targetm.asm_out.final_postscan_insn)
2611               targetm.asm_out.final_postscan_insn (file, insn, ops,
2612                                                    insn_noperands);
2613
2614             this_is_asm_operands = 0;
2615             break;
2616           }
2617
2618         app_disable ();
2619
2620         if (GET_CODE (body) == SEQUENCE)
2621           {
2622             /* A delayed-branch sequence */
2623             int i;
2624
2625             final_sequence = body;
2626
2627             /* The first insn in this SEQUENCE might be a JUMP_INSN that will
2628                force the restoration of a comparison that was previously
2629                thought unnecessary.  If that happens, cancel this sequence
2630                and cause that insn to be restored.  */
2631
2632             next = final_scan_insn (XVECEXP (body, 0, 0), file, 0, 1, seen);
2633             if (next != XVECEXP (body, 0, 1))
2634               {
2635                 final_sequence = 0;
2636                 return next;
2637               }
2638
2639             for (i = 1; i < XVECLEN (body, 0); i++)
2640               {
2641                 rtx insn = XVECEXP (body, 0, i);
2642                 rtx next = NEXT_INSN (insn);
2643                 /* We loop in case any instruction in a delay slot gets
2644                    split.  */
2645                 do
2646                   insn = final_scan_insn (insn, file, 0, 1, seen);
2647                 while (insn != next);
2648               }
2649 #ifdef DBR_OUTPUT_SEQEND
2650             DBR_OUTPUT_SEQEND (file);
2651 #endif
2652             final_sequence = 0;
2653
2654             /* If the insn requiring the delay slot was a CALL_INSN, the
2655                insns in the delay slot are actually executed before the
2656                called function.  Hence we don't preserve any CC-setting
2657                actions in these insns and the CC must be marked as being
2658                clobbered by the function.  */
2659             if (CALL_P (XVECEXP (body, 0, 0)))
2660               {
2661                 CC_STATUS_INIT;
2662               }
2663             break;
2664           }
2665
2666         /* We have a real machine instruction as rtl.  */
2667
2668         body = PATTERN (insn);
2669
2670 #ifdef HAVE_cc0
2671         set = single_set (insn);
2672
2673         /* Check for redundant test and compare instructions
2674            (when the condition codes are already set up as desired).
2675            This is done only when optimizing; if not optimizing,
2676            it should be possible for the user to alter a variable
2677            with the debugger in between statements
2678            and the next statement should reexamine the variable
2679            to compute the condition codes.  */
2680
2681         if (optimize_p)
2682           {
2683             if (set
2684                 && GET_CODE (SET_DEST (set)) == CC0
2685                 && insn != last_ignored_compare)
2686               {
2687                 rtx src1, src2;
2688                 if (GET_CODE (SET_SRC (set)) == SUBREG)
2689                   SET_SRC (set) = alter_subreg (&SET_SRC (set), true);
2690
2691                 src1 = SET_SRC (set);
2692                 src2 = NULL_RTX;
2693                 if (GET_CODE (SET_SRC (set)) == COMPARE)
2694                   {
2695                     if (GET_CODE (XEXP (SET_SRC (set), 0)) == SUBREG)
2696                       XEXP (SET_SRC (set), 0)
2697                         = alter_subreg (&XEXP (SET_SRC (set), 0), true);
2698                     if (GET_CODE (XEXP (SET_SRC (set), 1)) == SUBREG)
2699                       XEXP (SET_SRC (set), 1)
2700                         = alter_subreg (&XEXP (SET_SRC (set), 1), true);
2701                     if (XEXP (SET_SRC (set), 1)
2702                         == CONST0_RTX (GET_MODE (XEXP (SET_SRC (set), 0))))
2703                       src2 = XEXP (SET_SRC (set), 0);
2704                   }
2705                 if ((cc_status.value1 != 0
2706                      && rtx_equal_p (src1, cc_status.value1))
2707                     || (cc_status.value2 != 0
2708                         && rtx_equal_p (src1, cc_status.value2))
2709                     || (src2 != 0 && cc_status.value1 != 0
2710                         && rtx_equal_p (src2, cc_status.value1))
2711                     || (src2 != 0 && cc_status.value2 != 0
2712                         && rtx_equal_p (src2, cc_status.value2)))
2713                   {
2714                     /* Don't delete insn if it has an addressing side-effect.  */
2715                     if (! FIND_REG_INC_NOTE (insn, NULL_RTX)
2716                         /* or if anything in it is volatile.  */
2717                         && ! volatile_refs_p (PATTERN (insn)))
2718                       {
2719                         /* We don't really delete the insn; just ignore it.  */
2720                         last_ignored_compare = insn;
2721                         break;
2722                       }
2723                   }
2724               }
2725           }
2726
2727         /* If this is a conditional branch, maybe modify it
2728            if the cc's are in a nonstandard state
2729            so that it accomplishes the same thing that it would
2730            do straightforwardly if the cc's were set up normally.  */
2731
2732         if (cc_status.flags != 0
2733             && JUMP_P (insn)
2734             && GET_CODE (body) == SET
2735             && SET_DEST (body) == pc_rtx
2736             && GET_CODE (SET_SRC (body)) == IF_THEN_ELSE
2737             && COMPARISON_P (XEXP (SET_SRC (body), 0))
2738             && XEXP (XEXP (SET_SRC (body), 0), 0) == cc0_rtx)
2739           {
2740             /* This function may alter the contents of its argument
2741                and clear some of the cc_status.flags bits.
2742                It may also return 1 meaning condition now always true
2743                or -1 meaning condition now always false
2744                or 2 meaning condition nontrivial but altered.  */
2745             int result = alter_cond (XEXP (SET_SRC (body), 0));
2746             /* If condition now has fixed value, replace the IF_THEN_ELSE
2747                with its then-operand or its else-operand.  */
2748             if (result == 1)
2749               SET_SRC (body) = XEXP (SET_SRC (body), 1);
2750             if (result == -1)
2751               SET_SRC (body) = XEXP (SET_SRC (body), 2);
2752
2753             /* The jump is now either unconditional or a no-op.
2754                If it has become a no-op, don't try to output it.
2755                (It would not be recognized.)  */
2756             if (SET_SRC (body) == pc_rtx)
2757               {
2758                 delete_insn (insn);
2759                 break;
2760               }
2761             else if (ANY_RETURN_P (SET_SRC (body)))
2762               /* Replace (set (pc) (return)) with (return).  */
2763               PATTERN (insn) = body = SET_SRC (body);
2764
2765             /* Rerecognize the instruction if it has changed.  */
2766             if (result != 0)
2767               INSN_CODE (insn) = -1;
2768           }
2769
2770         /* If this is a conditional trap, maybe modify it if the cc's
2771            are in a nonstandard state so that it accomplishes the same
2772            thing that it would do straightforwardly if the cc's were
2773            set up normally.  */
2774         if (cc_status.flags != 0
2775             && NONJUMP_INSN_P (insn)
2776             && GET_CODE (body) == TRAP_IF
2777             && COMPARISON_P (TRAP_CONDITION (body))
2778             && XEXP (TRAP_CONDITION (body), 0) == cc0_rtx)
2779           {
2780             /* This function may alter the contents of its argument
2781                and clear some of the cc_status.flags bits.
2782                It may also return 1 meaning condition now always true
2783                or -1 meaning condition now always false
2784                or 2 meaning condition nontrivial but altered.  */
2785             int result = alter_cond (TRAP_CONDITION (body));
2786
2787             /* If TRAP_CONDITION has become always false, delete the
2788                instruction.  */
2789             if (result == -1)
2790               {
2791                 delete_insn (insn);
2792                 break;
2793               }
2794
2795             /* If TRAP_CONDITION has become always true, replace
2796                TRAP_CONDITION with const_true_rtx.  */
2797             if (result == 1)
2798               TRAP_CONDITION (body) = const_true_rtx;
2799
2800             /* Rerecognize the instruction if it has changed.  */
2801             if (result != 0)
2802               INSN_CODE (insn) = -1;
2803           }
2804
2805         /* Make same adjustments to instructions that examine the
2806            condition codes without jumping and instructions that
2807            handle conditional moves (if this machine has either one).  */
2808
2809         if (cc_status.flags != 0
2810             && set != 0)
2811           {
2812             rtx cond_rtx, then_rtx, else_rtx;
2813
2814             if (!JUMP_P (insn)
2815                 && GET_CODE (SET_SRC (set)) == IF_THEN_ELSE)
2816               {
2817                 cond_rtx = XEXP (SET_SRC (set), 0);
2818                 then_rtx = XEXP (SET_SRC (set), 1);
2819                 else_rtx = XEXP (SET_SRC (set), 2);
2820               }
2821             else
2822               {
2823                 cond_rtx = SET_SRC (set);
2824                 then_rtx = const_true_rtx;
2825                 else_rtx = const0_rtx;
2826               }
2827
2828             if (COMPARISON_P (cond_rtx)
2829                 && XEXP (cond_rtx, 0) == cc0_rtx)
2830               {
2831                 int result;
2832                 result = alter_cond (cond_rtx);
2833                 if (result == 1)
2834                   validate_change (insn, &SET_SRC (set), then_rtx, 0);
2835                 else if (result == -1)
2836                   validate_change (insn, &SET_SRC (set), else_rtx, 0);
2837                 else if (result == 2)
2838                   INSN_CODE (insn) = -1;
2839                 if (SET_DEST (set) == SET_SRC (set))
2840                   delete_insn (insn);
2841               }
2842           }
2843
2844 #endif
2845
2846 #ifdef HAVE_peephole
2847         /* Do machine-specific peephole optimizations if desired.  */
2848
2849         if (optimize_p && !flag_no_peephole && !nopeepholes)
2850           {
2851             rtx next = peephole (insn);
2852             /* When peepholing, if there were notes within the peephole,
2853                emit them before the peephole.  */
2854             if (next != 0 && next != NEXT_INSN (insn))
2855               {
2856                 rtx note, prev = PREV_INSN (insn);
2857
2858                 for (note = NEXT_INSN (insn); note != next;
2859                      note = NEXT_INSN (note))
2860                   final_scan_insn (note, file, optimize_p, nopeepholes, seen);
2861
2862                 /* Put the notes in the proper position for a later
2863                    rescan.  For example, the SH target can do this
2864                    when generating a far jump in a delayed branch
2865                    sequence.  */
2866                 note = NEXT_INSN (insn);
2867                 PREV_INSN (note) = prev;
2868                 NEXT_INSN (prev) = note;
2869                 NEXT_INSN (PREV_INSN (next)) = insn;
2870                 PREV_INSN (insn) = PREV_INSN (next);
2871                 NEXT_INSN (insn) = next;
2872                 PREV_INSN (next) = insn;
2873               }
2874
2875             /* PEEPHOLE might have changed this.  */
2876             body = PATTERN (insn);
2877           }
2878 #endif
2879
2880         /* Try to recognize the instruction.
2881            If successful, verify that the operands satisfy the
2882            constraints for the instruction.  Crash if they don't,
2883            since `reload' should have changed them so that they do.  */
2884
2885         insn_code_number = recog_memoized (insn);
2886         cleanup_subreg_operands (insn);
2887
2888         /* Dump the insn in the assembly for debugging (-dAP).
2889            If the final dump is requested as slim RTL, dump slim
2890            RTL to the assembly file also.  */
2891         if (flag_dump_rtl_in_asm)
2892           {
2893             print_rtx_head = ASM_COMMENT_START;
2894             if (! (dump_flags & TDF_SLIM))
2895               print_rtl_single (asm_out_file, insn);
2896             else
2897               dump_insn_slim (asm_out_file, insn);
2898             print_rtx_head = "";
2899           }
2900
2901         if (! constrain_operands_cached (1))
2902           fatal_insn_not_found (insn);
2903
2904         /* Some target machines need to prescan each insn before
2905            it is output.  */
2906
2907 #ifdef FINAL_PRESCAN_INSN
2908         FINAL_PRESCAN_INSN (insn, recog_data.operand, recog_data.n_operands);
2909 #endif
2910
2911         if (targetm.have_conditional_execution ()
2912             && GET_CODE (PATTERN (insn)) == COND_EXEC)
2913           current_insn_predicate = COND_EXEC_TEST (PATTERN (insn));
2914
2915 #ifdef HAVE_cc0
2916         cc_prev_status = cc_status;
2917
2918         /* Update `cc_status' for this instruction.
2919            The instruction's output routine may change it further.
2920            If the output routine for a jump insn needs to depend
2921            on the cc status, it should look at cc_prev_status.  */
2922
2923         NOTICE_UPDATE_CC (body, insn);
2924 #endif
2925
2926         current_output_insn = debug_insn = insn;
2927
2928         /* Find the proper template for this insn.  */
2929         templ = get_insn_template (insn_code_number, insn);
2930
2931         /* If the C code returns 0, it means that it is a jump insn
2932            which follows a deleted test insn, and that test insn
2933            needs to be reinserted.  */
2934         if (templ == 0)
2935           {
2936             rtx prev;
2937
2938             gcc_assert (prev_nonnote_insn (insn) == last_ignored_compare);
2939
2940             /* We have already processed the notes between the setter and
2941                the user.  Make sure we don't process them again, this is
2942                particularly important if one of the notes is a block
2943                scope note or an EH note.  */
2944             for (prev = insn;
2945                  prev != last_ignored_compare;
2946                  prev = PREV_INSN (prev))
2947               {
2948                 if (NOTE_P (prev))
2949                   delete_insn (prev);   /* Use delete_note.  */
2950               }
2951
2952             return prev;
2953           }
2954
2955         /* If the template is the string "#", it means that this insn must
2956            be split.  */
2957         if (templ[0] == '#' && templ[1] == '\0')
2958           {
2959             rtx new_rtx = try_split (body, insn, 0);
2960
2961             /* If we didn't split the insn, go away.  */
2962             if (new_rtx == insn && PATTERN (new_rtx) == body)
2963               fatal_insn ("could not split insn", insn);
2964
2965             /* If we have a length attribute, this instruction should have
2966                been split in shorten_branches, to ensure that we would have
2967                valid length info for the splitees.  */
2968             gcc_assert (!HAVE_ATTR_length);
2969
2970             return new_rtx;
2971           }
2972
2973         /* ??? This will put the directives in the wrong place if
2974            get_insn_template outputs assembly directly.  However calling it
2975            before get_insn_template breaks if the insns is split.  */
2976         if (targetm.asm_out.unwind_emit_before_insn
2977             && targetm.asm_out.unwind_emit)
2978           targetm.asm_out.unwind_emit (asm_out_file, insn);
2979
2980         if (CALL_P (insn))
2981           {
2982             rtx x = call_from_call_insn (insn);
2983             x = XEXP (x, 0);
2984             if (x && MEM_P (x) && GET_CODE (XEXP (x, 0)) == SYMBOL_REF)
2985               {
2986                 tree t;
2987                 x = XEXP (x, 0);
2988                 t = SYMBOL_REF_DECL (x);
2989                 if (t)
2990                   assemble_external (t);
2991               }
2992             if (!DECL_IGNORED_P (current_function_decl))
2993               debug_hooks->var_location (insn);
2994           }
2995
2996         /* Output assembler code from the template.  */
2997         output_asm_insn (templ, recog_data.operand);
2998
2999         /* Some target machines need to postscan each insn after
3000            it is output.  */
3001         if (targetm.asm_out.final_postscan_insn)
3002           targetm.asm_out.final_postscan_insn (file, insn, recog_data.operand,
3003                                                recog_data.n_operands);
3004
3005         if (!targetm.asm_out.unwind_emit_before_insn
3006             && targetm.asm_out.unwind_emit)
3007           targetm.asm_out.unwind_emit (asm_out_file, insn);
3008
3009         current_output_insn = debug_insn = 0;
3010       }
3011     }
3012   return NEXT_INSN (insn);
3013 }
3014 \f
3015 /* Return whether a source line note needs to be emitted before INSN.
3016    Sets IS_STMT to TRUE if the line should be marked as a possible
3017    breakpoint location.  */
3018
3019 static bool
3020 notice_source_line (rtx insn, bool *is_stmt)
3021 {
3022   const char *filename;
3023   int linenum;
3024
3025   if (override_filename)
3026     {
3027       filename = override_filename;
3028       linenum = override_linenum;
3029     }
3030   else
3031     {
3032       filename = insn_file (insn);
3033       linenum = insn_line (insn);
3034     }
3035
3036   if (filename == NULL)
3037     return false;
3038
3039   if (force_source_line
3040       || filename != last_filename
3041       || last_linenum != linenum)
3042     {
3043       force_source_line = false;
3044       last_filename = filename;
3045       last_linenum = linenum;
3046       last_discriminator = discriminator;
3047       *is_stmt = true;
3048       high_block_linenum = MAX (last_linenum, high_block_linenum);
3049       high_function_linenum = MAX (last_linenum, high_function_linenum);
3050       return true;
3051     }
3052
3053   if (SUPPORTS_DISCRIMINATOR && last_discriminator != discriminator)
3054     {
3055       /* If the discriminator changed, but the line number did not,
3056          output the line table entry with is_stmt false so the
3057          debugger does not treat this as a breakpoint location.  */
3058       last_discriminator = discriminator;
3059       *is_stmt = false;
3060       return true;
3061     }
3062
3063   return false;
3064 }
3065 \f
3066 /* For each operand in INSN, simplify (subreg (reg)) so that it refers
3067    directly to the desired hard register.  */
3068
3069 void
3070 cleanup_subreg_operands (rtx insn)
3071 {
3072   int i;
3073   bool changed = false;
3074   extract_insn_cached (insn);
3075   for (i = 0; i < recog_data.n_operands; i++)
3076     {
3077       /* The following test cannot use recog_data.operand when testing
3078          for a SUBREG: the underlying object might have been changed
3079          already if we are inside a match_operator expression that
3080          matches the else clause.  Instead we test the underlying
3081          expression directly.  */
3082       if (GET_CODE (*recog_data.operand_loc[i]) == SUBREG)
3083         {
3084           recog_data.operand[i] = alter_subreg (recog_data.operand_loc[i], true);
3085           changed = true;
3086         }
3087       else if (GET_CODE (recog_data.operand[i]) == PLUS
3088                || GET_CODE (recog_data.operand[i]) == MULT
3089                || MEM_P (recog_data.operand[i]))
3090         recog_data.operand[i] = walk_alter_subreg (recog_data.operand_loc[i], &changed);
3091     }
3092
3093   for (i = 0; i < recog_data.n_dups; i++)
3094     {
3095       if (GET_CODE (*recog_data.dup_loc[i]) == SUBREG)
3096         {
3097           *recog_data.dup_loc[i] = alter_subreg (recog_data.dup_loc[i], true);
3098           changed = true;
3099         }
3100       else if (GET_CODE (*recog_data.dup_loc[i]) == PLUS
3101                || GET_CODE (*recog_data.dup_loc[i]) == MULT
3102                || MEM_P (*recog_data.dup_loc[i]))
3103         *recog_data.dup_loc[i] = walk_alter_subreg (recog_data.dup_loc[i], &changed);
3104     }
3105   if (changed)
3106     df_insn_rescan (insn);
3107 }
3108
3109 /* If X is a SUBREG, try to replace it with a REG or a MEM, based on
3110    the thing it is a subreg of.  Do it anyway if FINAL_P.  */
3111
3112 rtx
3113 alter_subreg (rtx *xp, bool final_p)
3114 {
3115   rtx x = *xp;
3116   rtx y = SUBREG_REG (x);
3117
3118   /* simplify_subreg does not remove subreg from volatile references.
3119      We are required to.  */
3120   if (MEM_P (y))
3121     {
3122       int offset = SUBREG_BYTE (x);
3123
3124       /* For paradoxical subregs on big-endian machines, SUBREG_BYTE
3125          contains 0 instead of the proper offset.  See simplify_subreg.  */
3126       if (offset == 0
3127           && GET_MODE_SIZE (GET_MODE (y)) < GET_MODE_SIZE (GET_MODE (x)))
3128         {
3129           int difference = GET_MODE_SIZE (GET_MODE (y))
3130                            - GET_MODE_SIZE (GET_MODE (x));
3131           if (WORDS_BIG_ENDIAN)
3132             offset += (difference / UNITS_PER_WORD) * UNITS_PER_WORD;
3133           if (BYTES_BIG_ENDIAN)
3134             offset += difference % UNITS_PER_WORD;
3135         }
3136
3137       if (final_p)
3138         *xp = adjust_address (y, GET_MODE (x), offset);
3139       else
3140         *xp = adjust_address_nv (y, GET_MODE (x), offset);
3141     }
3142   else
3143     {
3144       rtx new_rtx = simplify_subreg (GET_MODE (x), y, GET_MODE (y),
3145                                      SUBREG_BYTE (x));
3146
3147       if (new_rtx != 0)
3148         *xp = new_rtx;
3149       else if (final_p && REG_P (y))
3150         {
3151           /* Simplify_subreg can't handle some REG cases, but we have to.  */
3152           unsigned int regno;
3153           HOST_WIDE_INT offset;
3154
3155           regno = subreg_regno (x);
3156           if (subreg_lowpart_p (x))
3157             offset = byte_lowpart_offset (GET_MODE (x), GET_MODE (y));
3158           else
3159             offset = SUBREG_BYTE (x);
3160           *xp = gen_rtx_REG_offset (y, GET_MODE (x), regno, offset);
3161         }
3162     }
3163
3164   return *xp;
3165 }
3166
3167 /* Do alter_subreg on all the SUBREGs contained in X.  */
3168
3169 static rtx
3170 walk_alter_subreg (rtx *xp, bool *changed)
3171 {
3172   rtx x = *xp;
3173   switch (GET_CODE (x))
3174     {
3175     case PLUS:
3176     case MULT:
3177     case AND:
3178       XEXP (x, 0) = walk_alter_subreg (&XEXP (x, 0), changed);
3179       XEXP (x, 1) = walk_alter_subreg (&XEXP (x, 1), changed);
3180       break;
3181
3182     case MEM:
3183     case ZERO_EXTEND:
3184       XEXP (x, 0) = walk_alter_subreg (&XEXP (x, 0), changed);
3185       break;
3186
3187     case SUBREG:
3188       *changed = true;
3189       return alter_subreg (xp, true);
3190
3191     default:
3192       break;
3193     }
3194
3195   return *xp;
3196 }
3197 \f
3198 #ifdef HAVE_cc0
3199
3200 /* Given BODY, the body of a jump instruction, alter the jump condition
3201    as required by the bits that are set in cc_status.flags.
3202    Not all of the bits there can be handled at this level in all cases.
3203
3204    The value is normally 0.
3205    1 means that the condition has become always true.
3206    -1 means that the condition has become always false.
3207    2 means that COND has been altered.  */
3208
3209 static int
3210 alter_cond (rtx cond)
3211 {
3212   int value = 0;
3213
3214   if (cc_status.flags & CC_REVERSED)
3215     {
3216       value = 2;
3217       PUT_CODE (cond, swap_condition (GET_CODE (cond)));
3218     }
3219
3220   if (cc_status.flags & CC_INVERTED)
3221     {
3222       value = 2;
3223       PUT_CODE (cond, reverse_condition (GET_CODE (cond)));
3224     }
3225
3226   if (cc_status.flags & CC_NOT_POSITIVE)
3227     switch (GET_CODE (cond))
3228       {
3229       case LE:
3230       case LEU:
3231       case GEU:
3232         /* Jump becomes unconditional.  */
3233         return 1;
3234
3235       case GT:
3236       case GTU:
3237       case LTU:
3238         /* Jump becomes no-op.  */
3239         return -1;
3240
3241       case GE:
3242         PUT_CODE (cond, EQ);
3243         value = 2;
3244         break;
3245
3246       case LT:
3247         PUT_CODE (cond, NE);
3248         value = 2;
3249         break;
3250
3251       default:
3252         break;
3253       }
3254
3255   if (cc_status.flags & CC_NOT_NEGATIVE)
3256     switch (GET_CODE (cond))
3257       {
3258       case GE:
3259       case GEU:
3260         /* Jump becomes unconditional.  */
3261         return 1;
3262
3263       case LT:
3264       case LTU:
3265         /* Jump becomes no-op.  */
3266         return -1;
3267
3268       case LE:
3269       case LEU:
3270         PUT_CODE (cond, EQ);
3271         value = 2;
3272         break;
3273
3274       case GT:
3275       case GTU:
3276         PUT_CODE (cond, NE);
3277         value = 2;
3278         break;
3279
3280       default:
3281         break;
3282       }
3283
3284   if (cc_status.flags & CC_NO_OVERFLOW)
3285     switch (GET_CODE (cond))
3286       {
3287       case GEU:
3288         /* Jump becomes unconditional.  */
3289         return 1;
3290
3291       case LEU:
3292         PUT_CODE (cond, EQ);
3293         value = 2;
3294         break;
3295
3296       case GTU:
3297         PUT_CODE (cond, NE);
3298         value = 2;
3299         break;
3300
3301       case LTU:
3302         /* Jump becomes no-op.  */
3303         return -1;
3304
3305       default:
3306         break;
3307       }
3308
3309   if (cc_status.flags & (CC_Z_IN_NOT_N | CC_Z_IN_N))
3310     switch (GET_CODE (cond))
3311       {
3312       default:
3313         gcc_unreachable ();
3314
3315       case NE:
3316         PUT_CODE (cond, cc_status.flags & CC_Z_IN_N ? GE : LT);
3317         value = 2;
3318         break;
3319
3320       case EQ:
3321         PUT_CODE (cond, cc_status.flags & CC_Z_IN_N ? LT : GE);
3322         value = 2;
3323         break;
3324       }
3325
3326   if (cc_status.flags & CC_NOT_SIGNED)
3327     /* The flags are valid if signed condition operators are converted
3328        to unsigned.  */
3329     switch (GET_CODE (cond))
3330       {
3331       case LE:
3332         PUT_CODE (cond, LEU);
3333         value = 2;
3334         break;
3335
3336       case LT:
3337         PUT_CODE (cond, LTU);
3338         value = 2;
3339         break;
3340
3341       case GT:
3342         PUT_CODE (cond, GTU);
3343         value = 2;
3344         break;
3345
3346       case GE:
3347         PUT_CODE (cond, GEU);
3348         value = 2;
3349         break;
3350
3351       default:
3352         break;
3353       }
3354
3355   return value;
3356 }
3357 #endif
3358 \f
3359 /* Report inconsistency between the assembler template and the operands.
3360    In an `asm', it's the user's fault; otherwise, the compiler's fault.  */
3361
3362 void
3363 output_operand_lossage (const char *cmsgid, ...)
3364 {
3365   char *fmt_string;
3366   char *new_message;
3367   const char *pfx_str;
3368   va_list ap;
3369
3370   va_start (ap, cmsgid);
3371
3372   pfx_str = this_is_asm_operands ? _("invalid 'asm': ") : "output_operand: ";
3373   asprintf (&fmt_string, "%s%s", pfx_str, _(cmsgid));
3374   vasprintf (&new_message, fmt_string, ap);
3375
3376   if (this_is_asm_operands)
3377     error_for_asm (this_is_asm_operands, "%s", new_message);
3378   else
3379     internal_error ("%s", new_message);
3380
3381   free (fmt_string);
3382   free (new_message);
3383   va_end (ap);
3384 }
3385 \f
3386 /* Output of assembler code from a template, and its subroutines.  */
3387
3388 /* Annotate the assembly with a comment describing the pattern and
3389    alternative used.  */
3390
3391 static void
3392 output_asm_name (void)
3393 {
3394   if (debug_insn)
3395     {
3396       int num = INSN_CODE (debug_insn);
3397       fprintf (asm_out_file, "\t%s %d\t%s",
3398                ASM_COMMENT_START, INSN_UID (debug_insn),
3399                insn_data[num].name);
3400       if (insn_data[num].n_alternatives > 1)
3401         fprintf (asm_out_file, "/%d", which_alternative + 1);
3402
3403       if (HAVE_ATTR_length)
3404         fprintf (asm_out_file, "\t[length = %d]",
3405                  get_attr_length (debug_insn));
3406
3407       /* Clear this so only the first assembler insn
3408          of any rtl insn will get the special comment for -dp.  */
3409       debug_insn = 0;
3410     }
3411 }
3412
3413 /* If OP is a REG or MEM and we can find a MEM_EXPR corresponding to it
3414    or its address, return that expr .  Set *PADDRESSP to 1 if the expr
3415    corresponds to the address of the object and 0 if to the object.  */
3416
3417 static tree
3418 get_mem_expr_from_op (rtx op, int *paddressp)
3419 {
3420   tree expr;
3421   int inner_addressp;
3422
3423   *paddressp = 0;
3424
3425   if (REG_P (op))
3426     return REG_EXPR (op);
3427   else if (!MEM_P (op))
3428     return 0;
3429
3430   if (MEM_EXPR (op) != 0)
3431     return MEM_EXPR (op);
3432
3433   /* Otherwise we have an address, so indicate it and look at the address.  */
3434   *paddressp = 1;
3435   op = XEXP (op, 0);
3436
3437   /* First check if we have a decl for the address, then look at the right side
3438      if it is a PLUS.  Otherwise, strip off arithmetic and keep looking.
3439      But don't allow the address to itself be indirect.  */
3440   if ((expr = get_mem_expr_from_op (op, &inner_addressp)) && ! inner_addressp)
3441     return expr;
3442   else if (GET_CODE (op) == PLUS
3443            && (expr = get_mem_expr_from_op (XEXP (op, 1), &inner_addressp)))
3444     return expr;
3445
3446   while (UNARY_P (op)
3447          || GET_RTX_CLASS (GET_CODE (op)) == RTX_BIN_ARITH)
3448     op = XEXP (op, 0);
3449
3450   expr = get_mem_expr_from_op (op, &inner_addressp);
3451   return inner_addressp ? 0 : expr;
3452 }
3453
3454 /* Output operand names for assembler instructions.  OPERANDS is the
3455    operand vector, OPORDER is the order to write the operands, and NOPS
3456    is the number of operands to write.  */
3457
3458 static void
3459 output_asm_operand_names (rtx *operands, int *oporder, int nops)
3460 {
3461   int wrote = 0;
3462   int i;
3463
3464   for (i = 0; i < nops; i++)
3465     {
3466       int addressp;
3467       rtx op = operands[oporder[i]];
3468       tree expr = get_mem_expr_from_op (op, &addressp);
3469
3470       fprintf (asm_out_file, "%c%s",
3471                wrote ? ',' : '\t', wrote ? "" : ASM_COMMENT_START);
3472       wrote = 1;
3473       if (expr)
3474         {
3475           fprintf (asm_out_file, "%s",
3476                    addressp ? "*" : "");
3477           print_mem_expr (asm_out_file, expr);
3478           wrote = 1;
3479         }
3480       else if (REG_P (op) && ORIGINAL_REGNO (op)
3481                && ORIGINAL_REGNO (op) != REGNO (op))
3482         fprintf (asm_out_file, " tmp%i", ORIGINAL_REGNO (op));
3483     }
3484 }
3485
3486 #ifdef ASSEMBLER_DIALECT
3487 /* Helper function to parse assembler dialects in the asm string.
3488    This is called from output_asm_insn and asm_fprintf.  */
3489 static const char *
3490 do_assembler_dialects (const char *p, int *dialect)
3491 {
3492   char c = *(p - 1);
3493
3494   switch (c)
3495     {
3496     case '{':
3497       {
3498         int i;
3499
3500         if (*dialect)
3501           output_operand_lossage ("nested assembly dialect alternatives");
3502         else
3503           *dialect = 1;
3504
3505         /* If we want the first dialect, do nothing.  Otherwise, skip
3506            DIALECT_NUMBER of strings ending with '|'.  */
3507         for (i = 0; i < dialect_number; i++)
3508           {
3509             while (*p && *p != '}')
3510               {
3511                 if (*p == '|')
3512                   {
3513                     p++;
3514                     break;
3515                   }
3516
3517                 /* Skip over any character after a percent sign.  */
3518                 if (*p == '%')
3519                   p++;
3520                 if (*p)
3521                   p++;
3522               }
3523
3524             if (*p == '}')
3525               break;
3526           }
3527
3528         if (*p == '\0')
3529           output_operand_lossage ("unterminated assembly dialect alternative");
3530       }
3531       break;
3532
3533     case '|':
3534       if (*dialect)
3535         {
3536           /* Skip to close brace.  */
3537           do
3538             {
3539               if (*p == '\0')
3540                 {
3541                   output_operand_lossage ("unterminated assembly dialect alternative");
3542                   break;
3543                 }
3544
3545               /* Skip over any character after a percent sign.  */
3546               if (*p == '%' && p[1])
3547                 {
3548                   p += 2;
3549                   continue;
3550                 }
3551
3552               if (*p++ == '}')
3553                 break;
3554             }
3555           while (1);
3556
3557           *dialect = 0;
3558         }
3559       else
3560         putc (c, asm_out_file);
3561       break;
3562
3563     case '}':
3564       if (! *dialect)
3565         putc (c, asm_out_file);
3566       *dialect = 0;
3567       break;
3568     default:
3569       gcc_unreachable ();
3570     }
3571
3572   return p;
3573 }
3574 #endif
3575
3576 /* Output text from TEMPLATE to the assembler output file,
3577    obeying %-directions to substitute operands taken from
3578    the vector OPERANDS.
3579
3580    %N (for N a digit) means print operand N in usual manner.
3581    %lN means require operand N to be a CODE_LABEL or LABEL_REF
3582       and print the label name with no punctuation.
3583    %cN means require operand N to be a constant
3584       and print the constant expression with no punctuation.
3585    %aN means expect operand N to be a memory address
3586       (not a memory reference!) and print a reference
3587       to that address.
3588    %nN means expect operand N to be a constant
3589       and print a constant expression for minus the value
3590       of the operand, with no other punctuation.  */
3591
3592 void
3593 output_asm_insn (const char *templ, rtx *operands)
3594 {
3595   const char *p;
3596   int c;
3597 #ifdef ASSEMBLER_DIALECT
3598   int dialect = 0;
3599 #endif
3600   int oporder[MAX_RECOG_OPERANDS];
3601   char opoutput[MAX_RECOG_OPERANDS];
3602   int ops = 0;
3603
3604   /* An insn may return a null string template
3605      in a case where no assembler code is needed.  */
3606   if (*templ == 0)
3607     return;
3608
3609   memset (opoutput, 0, sizeof opoutput);
3610   p = templ;
3611   putc ('\t', asm_out_file);
3612
3613 #ifdef ASM_OUTPUT_OPCODE
3614   ASM_OUTPUT_OPCODE (asm_out_file, p);
3615 #endif
3616
3617   while ((c = *p++))
3618     switch (c)
3619       {
3620       case '\n':
3621         if (flag_verbose_asm)
3622           output_asm_operand_names (operands, oporder, ops);
3623         if (flag_print_asm_name)
3624           output_asm_name ();
3625
3626         ops = 0;
3627         memset (opoutput, 0, sizeof opoutput);
3628
3629         putc (c, asm_out_file);
3630 #ifdef ASM_OUTPUT_OPCODE
3631         while ((c = *p) == '\t')
3632           {
3633             putc (c, asm_out_file);
3634             p++;
3635           }
3636         ASM_OUTPUT_OPCODE (asm_out_file, p);
3637 #endif
3638         break;
3639
3640 #ifdef ASSEMBLER_DIALECT
3641       case '{':
3642       case '}':
3643       case '|':
3644         p = do_assembler_dialects (p, &dialect);
3645         break;
3646 #endif
3647
3648       case '%':
3649         /* %% outputs a single %.  %{, %} and %| print {, } and | respectively
3650            if ASSEMBLER_DIALECT defined and these characters have a special
3651            meaning as dialect delimiters.*/
3652         if (*p == '%'
3653 #ifdef ASSEMBLER_DIALECT
3654             || *p == '{' || *p == '}' || *p == '|'
3655 #endif
3656             )
3657           {
3658             putc (*p, asm_out_file);
3659             p++;
3660           }
3661         /* %= outputs a number which is unique to each insn in the entire
3662            compilation.  This is useful for making local labels that are
3663            referred to more than once in a given insn.  */
3664         else if (*p == '=')
3665           {
3666             p++;
3667             fprintf (asm_out_file, "%d", insn_counter);
3668           }
3669         /* % followed by a letter and some digits
3670            outputs an operand in a special way depending on the letter.
3671            Letters `acln' are implemented directly.
3672            Other letters are passed to `output_operand' so that
3673            the TARGET_PRINT_OPERAND hook can define them.  */
3674         else if (ISALPHA (*p))
3675           {
3676             int letter = *p++;
3677             unsigned long opnum;
3678             char *endptr;
3679
3680             opnum = strtoul (p, &endptr, 10);
3681
3682             if (endptr == p)
3683               output_operand_lossage ("operand number missing "
3684                                       "after %%-letter");
3685             else if (this_is_asm_operands && opnum >= insn_noperands)
3686               output_operand_lossage ("operand number out of range");
3687             else if (letter == 'l')
3688               output_asm_label (operands[opnum]);
3689             else if (letter == 'a')
3690               output_address (operands[opnum]);
3691             else if (letter == 'c')
3692               {
3693                 if (CONSTANT_ADDRESS_P (operands[opnum]))
3694                   output_addr_const (asm_out_file, operands[opnum]);
3695                 else
3696                   output_operand (operands[opnum], 'c');
3697               }
3698             else if (letter == 'n')
3699               {
3700                 if (CONST_INT_P (operands[opnum]))
3701                   fprintf (asm_out_file, HOST_WIDE_INT_PRINT_DEC,
3702                            - INTVAL (operands[opnum]));
3703                 else
3704                   {
3705                     putc ('-', asm_out_file);
3706                     output_addr_const (asm_out_file, operands[opnum]);
3707                   }
3708               }
3709             else
3710               output_operand (operands[opnum], letter);
3711
3712             if (!opoutput[opnum])
3713               oporder[ops++] = opnum;
3714             opoutput[opnum] = 1;
3715
3716             p = endptr;
3717             c = *p;
3718           }
3719         /* % followed by a digit outputs an operand the default way.  */
3720         else if (ISDIGIT (*p))
3721           {
3722             unsigned long opnum;
3723             char *endptr;
3724
3725             opnum = strtoul (p, &endptr, 10);
3726             if (this_is_asm_operands && opnum >= insn_noperands)
3727               output_operand_lossage ("operand number out of range");
3728             else
3729               output_operand (operands[opnum], 0);
3730
3731             if (!opoutput[opnum])
3732               oporder[ops++] = opnum;
3733             opoutput[opnum] = 1;
3734
3735             p = endptr;
3736             c = *p;
3737           }
3738         /* % followed by punctuation: output something for that
3739            punctuation character alone, with no operand.  The
3740            TARGET_PRINT_OPERAND hook decides what is actually done.  */
3741         else if (targetm.asm_out.print_operand_punct_valid_p ((unsigned char) *p))
3742           output_operand (NULL_RTX, *p++);
3743         else
3744           output_operand_lossage ("invalid %%-code");
3745         break;
3746
3747       default:
3748         putc (c, asm_out_file);
3749       }
3750
3751   /* Write out the variable names for operands, if we know them.  */
3752   if (flag_verbose_asm)
3753     output_asm_operand_names (operands, oporder, ops);
3754   if (flag_print_asm_name)
3755     output_asm_name ();
3756
3757   putc ('\n', asm_out_file);
3758 }
3759 \f
3760 /* Output a LABEL_REF, or a bare CODE_LABEL, as an assembler symbol.  */
3761
3762 void
3763 output_asm_label (rtx x)
3764 {
3765   char buf[256];
3766
3767   if (GET_CODE (x) == LABEL_REF)
3768     x = XEXP (x, 0);
3769   if (LABEL_P (x)
3770       || (NOTE_P (x)
3771           && NOTE_KIND (x) == NOTE_INSN_DELETED_LABEL))
3772     ASM_GENERATE_INTERNAL_LABEL (buf, "L", CODE_LABEL_NUMBER (x));
3773   else
3774     output_operand_lossage ("'%%l' operand isn't a label");
3775
3776   assemble_name (asm_out_file, buf);
3777 }
3778
3779 /* Helper rtx-iteration-function for mark_symbol_refs_as_used and
3780    output_operand.  Marks SYMBOL_REFs as referenced through use of
3781    assemble_external.  */
3782
3783 static int
3784 mark_symbol_ref_as_used (rtx *xp, void *dummy ATTRIBUTE_UNUSED)
3785 {
3786   rtx x = *xp;
3787
3788   /* If we have a used symbol, we may have to emit assembly
3789      annotations corresponding to whether the symbol is external, weak
3790      or has non-default visibility.  */
3791   if (GET_CODE (x) == SYMBOL_REF)
3792     {
3793       tree t;
3794
3795       t = SYMBOL_REF_DECL (x);
3796       if (t)
3797         assemble_external (t);
3798
3799       return -1;
3800     }
3801
3802   return 0;
3803 }
3804
3805 /* Marks SYMBOL_REFs in x as referenced through use of assemble_external.  */
3806
3807 void
3808 mark_symbol_refs_as_used (rtx x)
3809 {
3810   for_each_rtx (&x, mark_symbol_ref_as_used, NULL);
3811 }
3812
3813 /* Print operand X using machine-dependent assembler syntax.
3814    CODE is a non-digit that preceded the operand-number in the % spec,
3815    such as 'z' if the spec was `%z3'.  CODE is 0 if there was no char
3816    between the % and the digits.
3817    When CODE is a non-letter, X is 0.
3818
3819    The meanings of the letters are machine-dependent and controlled
3820    by TARGET_PRINT_OPERAND.  */
3821
3822 void
3823 output_operand (rtx x, int code ATTRIBUTE_UNUSED)
3824 {
3825   if (x && GET_CODE (x) == SUBREG)
3826     x = alter_subreg (&x, true);
3827
3828   /* X must not be a pseudo reg.  */
3829   gcc_assert (!x || !REG_P (x) || REGNO (x) < FIRST_PSEUDO_REGISTER);
3830
3831   targetm.asm_out.print_operand (asm_out_file, x, code);
3832
3833   if (x == NULL_RTX)
3834     return;
3835
3836   for_each_rtx (&x, mark_symbol_ref_as_used, NULL);
3837 }
3838
3839 /* Print a memory reference operand for address X using
3840    machine-dependent assembler syntax.  */
3841
3842 void
3843 output_address (rtx x)
3844 {
3845   bool changed = false;
3846   walk_alter_subreg (&x, &changed);
3847   targetm.asm_out.print_operand_address (asm_out_file, x);
3848 }
3849 \f
3850 /* Print an integer constant expression in assembler syntax.
3851    Addition and subtraction are the only arithmetic
3852    that may appear in these expressions.  */
3853
3854 void
3855 output_addr_const (FILE *file, rtx x)
3856 {
3857   char buf[256];
3858
3859  restart:
3860   switch (GET_CODE (x))
3861     {
3862     case PC:
3863       putc ('.', file);
3864       break;
3865
3866     case SYMBOL_REF:
3867       if (SYMBOL_REF_DECL (x))
3868         assemble_external (SYMBOL_REF_DECL (x));
3869 #ifdef ASM_OUTPUT_SYMBOL_REF
3870       ASM_OUTPUT_SYMBOL_REF (file, x);
3871 #else
3872       assemble_name (file, XSTR (x, 0));
3873 #endif
3874       break;
3875
3876     case LABEL_REF:
3877       x = XEXP (x, 0);
3878       /* Fall through.  */
3879     case CODE_LABEL:
3880       ASM_GENERATE_INTERNAL_LABEL (buf, "L", CODE_LABEL_NUMBER (x));
3881 #ifdef ASM_OUTPUT_LABEL_REF
3882       ASM_OUTPUT_LABEL_REF (file, buf);
3883 #else
3884       assemble_name (file, buf);
3885 #endif
3886       break;
3887
3888     case CONST_INT:
3889       fprintf (file, HOST_WIDE_INT_PRINT_DEC, INTVAL (x));
3890       break;
3891
3892     case CONST:
3893       /* This used to output parentheses around the expression,
3894          but that does not work on the 386 (either ATT or BSD assembler).  */
3895       output_addr_const (file, XEXP (x, 0));
3896       break;
3897
3898     case CONST_DOUBLE:
3899       if (GET_MODE (x) == VOIDmode)
3900         {
3901           /* We can use %d if the number is one word and positive.  */
3902           if (CONST_DOUBLE_HIGH (x))
3903             fprintf (file, HOST_WIDE_INT_PRINT_DOUBLE_HEX,
3904                      (unsigned HOST_WIDE_INT) CONST_DOUBLE_HIGH (x),
3905                      (unsigned HOST_WIDE_INT) CONST_DOUBLE_LOW (x));
3906           else if (CONST_DOUBLE_LOW (x) < 0)
3907             fprintf (file, HOST_WIDE_INT_PRINT_HEX,
3908                      (unsigned HOST_WIDE_INT) CONST_DOUBLE_LOW (x));
3909           else
3910             fprintf (file, HOST_WIDE_INT_PRINT_DEC, CONST_DOUBLE_LOW (x));
3911         }
3912       else
3913         /* We can't handle floating point constants;
3914            PRINT_OPERAND must handle them.  */
3915         output_operand_lossage ("floating constant misused");
3916       break;
3917
3918     case CONST_FIXED:
3919       fprintf (file, HOST_WIDE_INT_PRINT_DEC, CONST_FIXED_VALUE_LOW (x));
3920       break;
3921
3922     case PLUS:
3923       /* Some assemblers need integer constants to appear last (eg masm).  */
3924       if (CONST_INT_P (XEXP (x, 0)))
3925         {
3926           output_addr_const (file, XEXP (x, 1));
3927           if (INTVAL (XEXP (x, 0)) >= 0)
3928             fprintf (file, "+");
3929           output_addr_const (file, XEXP (x, 0));
3930         }
3931       else
3932         {
3933           output_addr_const (file, XEXP (x, 0));
3934           if (!CONST_INT_P (XEXP (x, 1))
3935               || INTVAL (XEXP (x, 1)) >= 0)
3936             fprintf (file, "+");
3937           output_addr_const (file, XEXP (x, 1));
3938         }
3939       break;
3940
3941     case MINUS:
3942       /* Avoid outputting things like x-x or x+5-x,
3943          since some assemblers can't handle that.  */
3944       x = simplify_subtraction (x);
3945       if (GET_CODE (x) != MINUS)
3946         goto restart;
3947
3948       output_addr_const (file, XEXP (x, 0));
3949       fprintf (file, "-");
3950       if ((CONST_INT_P (XEXP (x, 1)) && INTVAL (XEXP (x, 1)) >= 0)
3951           || GET_CODE (XEXP (x, 1)) == PC
3952           || GET_CODE (XEXP (x, 1)) == SYMBOL_REF)
3953         output_addr_const (file, XEXP (x, 1));
3954       else
3955         {
3956           fputs (targetm.asm_out.open_paren, file);
3957           output_addr_const (file, XEXP (x, 1));
3958           fputs (targetm.asm_out.close_paren, file);
3959         }
3960       break;
3961
3962     case ZERO_EXTEND:
3963     case SIGN_EXTEND:
3964     case SUBREG:
3965     case TRUNCATE:
3966       output_addr_const (file, XEXP (x, 0));
3967       break;
3968
3969     default:
3970       if (targetm.asm_out.output_addr_const_extra (file, x))
3971         break;
3972
3973       output_operand_lossage ("invalid expression as operand");
3974     }
3975 }
3976 \f
3977 /* Output a quoted string.  */
3978
3979 void
3980 output_quoted_string (FILE *asm_file, const char *string)
3981 {
3982 #ifdef OUTPUT_QUOTED_STRING
3983   OUTPUT_QUOTED_STRING (asm_file, string);
3984 #else
3985   char c;
3986
3987   putc ('\"', asm_file);
3988   while ((c = *string++) != 0)
3989     {
3990       if (ISPRINT (c))
3991         {
3992           if (c == '\"' || c == '\\')
3993             putc ('\\', asm_file);
3994           putc (c, asm_file);
3995         }
3996       else
3997         fprintf (asm_file, "\\%03o", (unsigned char) c);
3998     }
3999   putc ('\"', asm_file);
4000 #endif
4001 }
4002 \f
4003 /* Write a HOST_WIDE_INT number in hex form 0x1234, fast. */
4004
4005 void
4006 fprint_whex (FILE *f, unsigned HOST_WIDE_INT value)
4007 {
4008   char buf[2 + CHAR_BIT * sizeof (value) / 4];
4009   if (value == 0)
4010     putc ('0', f);
4011   else
4012     {
4013       char *p = buf + sizeof (buf);
4014       do
4015         *--p = "0123456789abcdef"[value % 16];
4016       while ((value /= 16) != 0);
4017       *--p = 'x';
4018       *--p = '0';
4019       fwrite (p, 1, buf + sizeof (buf) - p, f);
4020     }
4021 }
4022
4023 /* Internal function that prints an unsigned long in decimal in reverse.
4024    The output string IS NOT null-terminated. */
4025
4026 static int
4027 sprint_ul_rev (char *s, unsigned long value)
4028 {
4029   int i = 0;
4030   do
4031     {
4032       s[i] = "0123456789"[value % 10];
4033       value /= 10;
4034       i++;
4035       /* alternate version, without modulo */
4036       /* oldval = value; */
4037       /* value /= 10; */
4038       /* s[i] = "0123456789" [oldval - 10*value]; */
4039       /* i++ */
4040     }
4041   while (value != 0);
4042   return i;
4043 }
4044
4045 /* Write an unsigned long as decimal to a file, fast. */
4046
4047 void
4048 fprint_ul (FILE *f, unsigned long value)
4049 {
4050   /* python says: len(str(2**64)) == 20 */
4051   char s[20];
4052   int i;
4053
4054   i = sprint_ul_rev (s, value);
4055
4056   /* It's probably too small to bother with string reversal and fputs. */
4057   do
4058     {
4059       i--;
4060       putc (s[i], f);
4061     }
4062   while (i != 0);
4063 }
4064
4065 /* Write an unsigned long as decimal to a string, fast.
4066    s must be wide enough to not overflow, at least 21 chars.
4067    Returns the length of the string (without terminating '\0'). */
4068
4069 int
4070 sprint_ul (char *s, unsigned long value)
4071 {
4072   int len;
4073   char tmp_c;
4074   int i;
4075   int j;
4076
4077   len = sprint_ul_rev (s, value);
4078   s[len] = '\0';
4079
4080   /* Reverse the string. */
4081   i = 0;
4082   j = len - 1;
4083   while (i < j)
4084     {
4085       tmp_c = s[i];
4086       s[i] = s[j];
4087       s[j] = tmp_c;
4088       i++; j--;
4089     }
4090
4091   return len;
4092 }
4093
4094 /* A poor man's fprintf, with the added features of %I, %R, %L, and %U.
4095    %R prints the value of REGISTER_PREFIX.
4096    %L prints the value of LOCAL_LABEL_PREFIX.
4097    %U prints the value of USER_LABEL_PREFIX.
4098    %I prints the value of IMMEDIATE_PREFIX.
4099    %O runs ASM_OUTPUT_OPCODE to transform what follows in the string.
4100    Also supported are %d, %i, %u, %x, %X, %o, %c, %s and %%.
4101
4102    We handle alternate assembler dialects here, just like output_asm_insn.  */
4103
4104 void
4105 asm_fprintf (FILE *file, const char *p, ...)
4106 {
4107   char buf[10];
4108   char *q, c;
4109 #ifdef ASSEMBLER_DIALECT
4110   int dialect = 0;
4111 #endif
4112   va_list argptr;
4113
4114   va_start (argptr, p);
4115
4116   buf[0] = '%';
4117
4118   while ((c = *p++))
4119     switch (c)
4120       {
4121 #ifdef ASSEMBLER_DIALECT
4122       case '{':
4123       case '}':
4124       case '|':
4125         p = do_assembler_dialects (p, &dialect);
4126         break;
4127 #endif
4128
4129       case '%':
4130         c = *p++;
4131         q = &buf[1];
4132         while (strchr ("-+ #0", c))
4133           {
4134             *q++ = c;
4135             c = *p++;
4136           }
4137         while (ISDIGIT (c) || c == '.')
4138           {
4139             *q++ = c;
4140             c = *p++;
4141           }
4142         switch (c)
4143           {
4144           case '%':
4145             putc ('%', file);
4146             break;
4147
4148           case 'd':  case 'i':  case 'u':
4149           case 'x':  case 'X':  case 'o':
4150           case 'c':
4151             *q++ = c;
4152             *q = 0;
4153             fprintf (file, buf, va_arg (argptr, int));
4154             break;
4155
4156           case 'w':
4157             /* This is a prefix to the 'd', 'i', 'u', 'x', 'X', and
4158                'o' cases, but we do not check for those cases.  It
4159                means that the value is a HOST_WIDE_INT, which may be
4160                either `long' or `long long'.  */
4161             memcpy (q, HOST_WIDE_INT_PRINT, strlen (HOST_WIDE_INT_PRINT));
4162             q += strlen (HOST_WIDE_INT_PRINT);
4163             *q++ = *p++;
4164             *q = 0;
4165             fprintf (file, buf, va_arg (argptr, HOST_WIDE_INT));
4166             break;
4167
4168           case 'l':
4169             *q++ = c;
4170 #ifdef HAVE_LONG_LONG
4171             if (*p == 'l')
4172               {
4173                 *q++ = *p++;
4174                 *q++ = *p++;
4175                 *q = 0;
4176                 fprintf (file, buf, va_arg (argptr, long long));
4177               }
4178             else
4179 #endif
4180               {
4181                 *q++ = *p++;
4182                 *q = 0;
4183                 fprintf (file, buf, va_arg (argptr, long));
4184               }
4185
4186             break;
4187
4188           case 's':
4189             *q++ = c;
4190             *q = 0;
4191             fprintf (file, buf, va_arg (argptr, char *));
4192             break;
4193
4194           case 'O':
4195 #ifdef ASM_OUTPUT_OPCODE
4196             ASM_OUTPUT_OPCODE (asm_out_file, p);
4197 #endif
4198             break;
4199
4200           case 'R':
4201 #ifdef REGISTER_PREFIX
4202             fprintf (file, "%s", REGISTER_PREFIX);
4203 #endif
4204             break;
4205
4206           case 'I':
4207 #ifdef IMMEDIATE_PREFIX
4208             fprintf (file, "%s", IMMEDIATE_PREFIX);
4209 #endif
4210             break;
4211
4212           case 'L':
4213 #ifdef LOCAL_LABEL_PREFIX
4214             fprintf (file, "%s", LOCAL_LABEL_PREFIX);
4215 #endif
4216             break;
4217
4218           case 'U':
4219             fputs (user_label_prefix, file);
4220             break;
4221
4222 #ifdef ASM_FPRINTF_EXTENSIONS
4223             /* Uppercase letters are reserved for general use by asm_fprintf
4224                and so are not available to target specific code.  In order to
4225                prevent the ASM_FPRINTF_EXTENSIONS macro from using them then,
4226                they are defined here.  As they get turned into real extensions
4227                to asm_fprintf they should be removed from this list.  */
4228           case 'A': case 'B': case 'C': case 'D': case 'E':
4229           case 'F': case 'G': case 'H': case 'J': case 'K':
4230           case 'M': case 'N': case 'P': case 'Q': case 'S':
4231           case 'T': case 'V': case 'W': case 'Y': case 'Z':
4232             break;
4233
4234           ASM_FPRINTF_EXTENSIONS (file, argptr, p)
4235 #endif
4236           default:
4237             gcc_unreachable ();
4238           }
4239         break;
4240
4241       default:
4242         putc (c, file);
4243       }
4244   va_end (argptr);
4245 }
4246 \f
4247 /* Return nonzero if this function has no function calls.  */
4248
4249 int
4250 leaf_function_p (void)
4251 {
4252   rtx insn;
4253
4254   if (crtl->profile || profile_arc_flag)
4255     return 0;
4256
4257   for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
4258     {
4259       if (CALL_P (insn)
4260           && ! SIBLING_CALL_P (insn))
4261         return 0;
4262       if (NONJUMP_INSN_P (insn)
4263           && GET_CODE (PATTERN (insn)) == SEQUENCE
4264           && CALL_P (XVECEXP (PATTERN (insn), 0, 0))
4265           && ! SIBLING_CALL_P (XVECEXP (PATTERN (insn), 0, 0)))
4266         return 0;
4267     }
4268
4269   return 1;
4270 }
4271
4272 /* Return 1 if branch is a forward branch.
4273    Uses insn_shuid array, so it works only in the final pass.  May be used by
4274    output templates to customary add branch prediction hints.
4275  */
4276 int
4277 final_forward_branch_p (rtx insn)
4278 {
4279   int insn_id, label_id;
4280
4281   gcc_assert (uid_shuid);
4282   insn_id = INSN_SHUID (insn);
4283   label_id = INSN_SHUID (JUMP_LABEL (insn));
4284   /* We've hit some insns that does not have id information available.  */
4285   gcc_assert (insn_id && label_id);
4286   return insn_id < label_id;
4287 }
4288
4289 /* On some machines, a function with no call insns
4290    can run faster if it doesn't create its own register window.
4291    When output, the leaf function should use only the "output"
4292    registers.  Ordinarily, the function would be compiled to use
4293    the "input" registers to find its arguments; it is a candidate
4294    for leaf treatment if it uses only the "input" registers.
4295    Leaf function treatment means renumbering so the function
4296    uses the "output" registers instead.  */
4297
4298 #ifdef LEAF_REGISTERS
4299
4300 /* Return 1 if this function uses only the registers that can be
4301    safely renumbered.  */
4302
4303 int
4304 only_leaf_regs_used (void)
4305 {
4306   int i;
4307   const char *const permitted_reg_in_leaf_functions = LEAF_REGISTERS;
4308
4309   for (i = 0; i < FIRST_PSEUDO_REGISTER; i++)
4310     if ((df_regs_ever_live_p (i) || global_regs[i])
4311         && ! permitted_reg_in_leaf_functions[i])
4312       return 0;
4313
4314   if (crtl->uses_pic_offset_table
4315       && pic_offset_table_rtx != 0
4316       && REG_P (pic_offset_table_rtx)
4317       && ! permitted_reg_in_leaf_functions[REGNO (pic_offset_table_rtx)])
4318     return 0;
4319
4320   return 1;
4321 }
4322
4323 /* Scan all instructions and renumber all registers into those
4324    available in leaf functions.  */
4325
4326 static void
4327 leaf_renumber_regs (rtx first)
4328 {
4329   rtx insn;
4330
4331   /* Renumber only the actual patterns.
4332      The reg-notes can contain frame pointer refs,
4333      and renumbering them could crash, and should not be needed.  */
4334   for (insn = first; insn; insn = NEXT_INSN (insn))
4335     if (INSN_P (insn))
4336       leaf_renumber_regs_insn (PATTERN (insn));
4337 }
4338
4339 /* Scan IN_RTX and its subexpressions, and renumber all regs into those
4340    available in leaf functions.  */
4341
4342 void
4343 leaf_renumber_regs_insn (rtx in_rtx)
4344 {
4345   int i, j;
4346   const char *format_ptr;
4347
4348   if (in_rtx == 0)
4349     return;
4350
4351   /* Renumber all input-registers into output-registers.
4352      renumbered_regs would be 1 for an output-register;
4353      they  */
4354
4355   if (REG_P (in_rtx))
4356     {
4357       int newreg;
4358
4359       /* Don't renumber the same reg twice.  */
4360       if (in_rtx->used)
4361         return;
4362
4363       newreg = REGNO (in_rtx);
4364       /* Don't try to renumber pseudo regs.  It is possible for a pseudo reg
4365          to reach here as part of a REG_NOTE.  */
4366       if (newreg >= FIRST_PSEUDO_REGISTER)
4367         {
4368           in_rtx->used = 1;
4369           return;
4370         }
4371       newreg = LEAF_REG_REMAP (newreg);
4372       gcc_assert (newreg >= 0);
4373       df_set_regs_ever_live (REGNO (in_rtx), false);
4374       df_set_regs_ever_live (newreg, true);
4375       SET_REGNO (in_rtx, newreg);
4376       in_rtx->used = 1;
4377     }
4378
4379   if (INSN_P (in_rtx))
4380     {
4381       /* Inside a SEQUENCE, we find insns.
4382          Renumber just the patterns of these insns,
4383          just as we do for the top-level insns.  */
4384       leaf_renumber_regs_insn (PATTERN (in_rtx));
4385       return;
4386     }
4387
4388   format_ptr = GET_RTX_FORMAT (GET_CODE (in_rtx));
4389
4390   for (i = 0; i < GET_RTX_LENGTH (GET_CODE (in_rtx)); i++)
4391     switch (*format_ptr++)
4392       {
4393       case 'e':
4394         leaf_renumber_regs_insn (XEXP (in_rtx, i));
4395         break;
4396
4397       case 'E':
4398         if (NULL != XVEC (in_rtx, i))
4399           {
4400             for (j = 0; j < XVECLEN (in_rtx, i); j++)
4401               leaf_renumber_regs_insn (XVECEXP (in_rtx, i, j));
4402           }
4403         break;
4404
4405       case 'S':
4406       case 's':
4407       case '0':
4408       case 'i':
4409       case 'w':
4410       case 'n':
4411       case 'u':
4412         break;
4413
4414       default:
4415         gcc_unreachable ();
4416       }
4417 }
4418 #endif
4419 \f
4420 /* Turn the RTL into assembly.  */
4421 static unsigned int
4422 rest_of_handle_final (void)
4423 {
4424   rtx x;
4425   const char *fnname;
4426
4427   /* Get the function's name, as described by its RTL.  This may be
4428      different from the DECL_NAME name used in the source file.  */
4429
4430   x = DECL_RTL (current_function_decl);
4431   gcc_assert (MEM_P (x));
4432   x = XEXP (x, 0);
4433   gcc_assert (GET_CODE (x) == SYMBOL_REF);
4434   fnname = XSTR (x, 0);
4435
4436   assemble_start_function (current_function_decl, fnname);
4437   final_start_function (get_insns (), asm_out_file, optimize);
4438   final (get_insns (), asm_out_file, optimize);
4439   final_end_function ();
4440
4441   /* The IA-64 ".handlerdata" directive must be issued before the ".endp"
4442      directive that closes the procedure descriptor.  Similarly, for x64 SEH.
4443      Otherwise it's not strictly necessary, but it doesn't hurt either.  */
4444   output_function_exception_table (fnname);
4445
4446   assemble_end_function (current_function_decl, fnname);
4447
4448   user_defined_section_attribute = false;
4449
4450   /* Free up reg info memory.  */
4451   free_reg_info ();
4452
4453   if (! quiet_flag)
4454     fflush (asm_out_file);
4455
4456   /* Write DBX symbols if requested.  */
4457
4458   /* Note that for those inline functions where we don't initially
4459      know for certain that we will be generating an out-of-line copy,
4460      the first invocation of this routine (rest_of_compilation) will
4461      skip over this code by doing a `goto exit_rest_of_compilation;'.
4462      Later on, wrapup_global_declarations will (indirectly) call
4463      rest_of_compilation again for those inline functions that need
4464      to have out-of-line copies generated.  During that call, we
4465      *will* be routed past here.  */
4466
4467   timevar_push (TV_SYMOUT);
4468   if (!DECL_IGNORED_P (current_function_decl))
4469     debug_hooks->function_decl (current_function_decl);
4470   timevar_pop (TV_SYMOUT);
4471
4472   /* Release the blocks that are linked to DECL_INITIAL() to free the memory.  */
4473   DECL_INITIAL (current_function_decl) = error_mark_node;
4474
4475   if (DECL_STATIC_CONSTRUCTOR (current_function_decl)
4476       && targetm.have_ctors_dtors)
4477     targetm.asm_out.constructor (XEXP (DECL_RTL (current_function_decl), 0),
4478                                  decl_init_priority_lookup
4479                                    (current_function_decl));
4480   if (DECL_STATIC_DESTRUCTOR (current_function_decl)
4481       && targetm.have_ctors_dtors)
4482     targetm.asm_out.destructor (XEXP (DECL_RTL (current_function_decl), 0),
4483                                 decl_fini_priority_lookup
4484                                   (current_function_decl));
4485   return 0;
4486 }
4487
4488 namespace {
4489
4490 const pass_data pass_data_final =
4491 {
4492   RTL_PASS, /* type */
4493   "final", /* name */
4494   OPTGROUP_NONE, /* optinfo_flags */
4495   false, /* has_gate */
4496   true, /* has_execute */
4497   TV_FINAL, /* tv_id */
4498   0, /* properties_required */
4499   0, /* properties_provided */
4500   0, /* properties_destroyed */
4501   0, /* todo_flags_start */
4502   0, /* todo_flags_finish */
4503 };
4504
4505 class pass_final : public rtl_opt_pass
4506 {
4507 public:
4508   pass_final (gcc::context *ctxt)
4509     : rtl_opt_pass (pass_data_final, ctxt)
4510   {}
4511
4512   /* opt_pass methods: */
4513   unsigned int execute () { return rest_of_handle_final (); }
4514
4515 }; // class pass_final
4516
4517 } // anon namespace
4518
4519 rtl_opt_pass *
4520 make_pass_final (gcc::context *ctxt)
4521 {
4522   return new pass_final (ctxt);
4523 }
4524
4525
4526 static unsigned int
4527 rest_of_handle_shorten_branches (void)
4528 {
4529   /* Shorten branches.  */
4530   shorten_branches (get_insns ());
4531   return 0;
4532 }
4533
4534 namespace {
4535
4536 const pass_data pass_data_shorten_branches =
4537 {
4538   RTL_PASS, /* type */
4539   "shorten", /* name */
4540   OPTGROUP_NONE, /* optinfo_flags */
4541   false, /* has_gate */
4542   true, /* has_execute */
4543   TV_SHORTEN_BRANCH, /* tv_id */
4544   0, /* properties_required */
4545   0, /* properties_provided */
4546   0, /* properties_destroyed */
4547   0, /* todo_flags_start */
4548   0, /* todo_flags_finish */
4549 };
4550
4551 class pass_shorten_branches : public rtl_opt_pass
4552 {
4553 public:
4554   pass_shorten_branches (gcc::context *ctxt)
4555     : rtl_opt_pass (pass_data_shorten_branches, ctxt)
4556   {}
4557
4558   /* opt_pass methods: */
4559   unsigned int execute () { return rest_of_handle_shorten_branches (); }
4560
4561 }; // class pass_shorten_branches
4562
4563 } // anon namespace
4564
4565 rtl_opt_pass *
4566 make_pass_shorten_branches (gcc::context *ctxt)
4567 {
4568   return new pass_shorten_branches (ctxt);
4569 }
4570
4571
4572 static unsigned int
4573 rest_of_clean_state (void)
4574 {
4575   rtx insn, next;
4576   FILE *final_output = NULL;
4577   int save_unnumbered = flag_dump_unnumbered;
4578   int save_noaddr = flag_dump_noaddr;
4579
4580   if (flag_dump_final_insns)
4581     {
4582       final_output = fopen (flag_dump_final_insns, "a");
4583       if (!final_output)
4584         {
4585           error ("could not open final insn dump file %qs: %m",
4586                  flag_dump_final_insns);
4587           flag_dump_final_insns = NULL;
4588         }
4589       else
4590         {
4591           flag_dump_noaddr = flag_dump_unnumbered = 1;
4592           if (flag_compare_debug_opt || flag_compare_debug)
4593             dump_flags |= TDF_NOUID;
4594           dump_function_header (final_output, current_function_decl,
4595                                 dump_flags);
4596           final_insns_dump_p = true;
4597
4598           for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
4599             if (LABEL_P (insn))
4600               INSN_UID (insn) = CODE_LABEL_NUMBER (insn);
4601             else
4602               {
4603                 if (NOTE_P (insn))
4604                   set_block_for_insn (insn, NULL);
4605                 INSN_UID (insn) = 0;
4606               }
4607         }
4608     }
4609
4610   /* It is very important to decompose the RTL instruction chain here:
4611      debug information keeps pointing into CODE_LABEL insns inside the function
4612      body.  If these remain pointing to the other insns, we end up preserving
4613      whole RTL chain and attached detailed debug info in memory.  */
4614   for (insn = get_insns (); insn; insn = next)
4615     {
4616       next = NEXT_INSN (insn);
4617       NEXT_INSN (insn) = NULL;
4618       PREV_INSN (insn) = NULL;
4619
4620       if (final_output
4621           && (!NOTE_P (insn) ||
4622               (NOTE_KIND (insn) != NOTE_INSN_VAR_LOCATION
4623                && NOTE_KIND (insn) != NOTE_INSN_CALL_ARG_LOCATION
4624                && NOTE_KIND (insn) != NOTE_INSN_BLOCK_BEG
4625                && NOTE_KIND (insn) != NOTE_INSN_BLOCK_END
4626                && NOTE_KIND (insn) != NOTE_INSN_DELETED_DEBUG_LABEL)))
4627         print_rtl_single (final_output, insn);
4628     }
4629
4630   if (final_output)
4631     {
4632       flag_dump_noaddr = save_noaddr;
4633       flag_dump_unnumbered = save_unnumbered;
4634       final_insns_dump_p = false;
4635
4636       if (fclose (final_output))
4637         {
4638           error ("could not close final insn dump file %qs: %m",
4639                  flag_dump_final_insns);
4640           flag_dump_final_insns = NULL;
4641         }
4642     }
4643
4644   /* In case the function was not output,
4645      don't leave any temporary anonymous types
4646      queued up for sdb output.  */
4647 #ifdef SDB_DEBUGGING_INFO
4648   if (write_symbols == SDB_DEBUG)
4649     sdbout_types (NULL_TREE);
4650 #endif
4651
4652   flag_rerun_cse_after_global_opts = 0;
4653   reload_completed = 0;
4654   epilogue_completed = 0;
4655 #ifdef STACK_REGS
4656   regstack_completed = 0;
4657 #endif
4658
4659   /* Clear out the insn_length contents now that they are no
4660      longer valid.  */
4661   init_insn_lengths ();
4662
4663   /* Show no temporary slots allocated.  */
4664   init_temp_slots ();
4665
4666   free_bb_for_insn ();
4667
4668   delete_tree_ssa ();
4669
4670   /* We can reduce stack alignment on call site only when we are sure that
4671      the function body just produced will be actually used in the final
4672      executable.  */
4673   if (decl_binds_to_current_def_p (current_function_decl))
4674     {
4675       unsigned int pref = crtl->preferred_stack_boundary;
4676       if (crtl->stack_alignment_needed > crtl->preferred_stack_boundary)
4677         pref = crtl->stack_alignment_needed;
4678       cgraph_rtl_info (current_function_decl)->preferred_incoming_stack_boundary
4679         = pref;
4680     }
4681
4682   /* Make sure volatile mem refs aren't considered valid operands for
4683      arithmetic insns.  We must call this here if this is a nested inline
4684      function, since the above code leaves us in the init_recog state,
4685      and the function context push/pop code does not save/restore volatile_ok.
4686
4687      ??? Maybe it isn't necessary for expand_start_function to call this
4688      anymore if we do it here?  */
4689
4690   init_recog_no_volatile ();
4691
4692   /* We're done with this function.  Free up memory if we can.  */
4693   free_after_parsing (cfun);
4694   free_after_compilation (cfun);
4695   return 0;
4696 }
4697
4698 namespace {
4699
4700 const pass_data pass_data_clean_state =
4701 {
4702   RTL_PASS, /* type */
4703   "*clean_state", /* name */
4704   OPTGROUP_NONE, /* optinfo_flags */
4705   false, /* has_gate */
4706   true, /* has_execute */
4707   TV_FINAL, /* tv_id */
4708   0, /* properties_required */
4709   0, /* properties_provided */
4710   PROP_rtl, /* properties_destroyed */
4711   0, /* todo_flags_start */
4712   0, /* todo_flags_finish */
4713 };
4714
4715 class pass_clean_state : public rtl_opt_pass
4716 {
4717 public:
4718   pass_clean_state (gcc::context *ctxt)
4719     : rtl_opt_pass (pass_data_clean_state, ctxt)
4720   {}
4721
4722   /* opt_pass methods: */
4723   unsigned int execute () { return rest_of_clean_state (); }
4724
4725 }; // class pass_clean_state
4726
4727 } // anon namespace
4728
4729 rtl_opt_pass *
4730 make_pass_clean_state (gcc::context *ctxt)
4731 {
4732   return new pass_clean_state (ctxt);
4733 }