]> git.ipfire.org Git - thirdparty/gcc.git/blobdiff - gcc/ira-lives.c
PR fortran/95090 - ICE: identifier overflow
[thirdparty/gcc.git] / gcc / ira-lives.c
index 8eb9c03190e4e533604e444c883a23c33033d4d0..f776fd2342f180a53aeaaee14644485b81474330 100644 (file)
@@ -1,6 +1,5 @@
 /* IRA processing allocno lives to build allocno live ranges.
-   Copyright (C) 2006, 2007, 2008, 2009, 2010
-   Free Software Foundation, Inc.
+   Copyright (C) 2006-2020 Free Software Foundation, Inc.
    Contributed by Vladimir Makarov <vmakarov@redhat.com>.
 
 This file is part of GCC.
@@ -22,23 +21,19 @@ along with GCC; see the file COPYING3.  If not see
 #include "config.h"
 #include "system.h"
 #include "coretypes.h"
-#include "tm.h"
-#include "regs.h"
+#include "backend.h"
+#include "target.h"
 #include "rtl.h"
+#include "predict.h"
+#include "df.h"
+#include "memmodel.h"
 #include "tm_p.h"
-#include "target.h"
-#include "flags.h"
-#include "except.h"
-#include "hard-reg-set.h"
-#include "basic-block.h"
 #include "insn-config.h"
-#include "recog.h"
-#include "diagnostic-core.h"
-#include "params.h"
-#include "df.h"
-#include "sbitmap.h"
-#include "sparseset.h"
+#include "regs.h"
+#include "ira.h"
 #include "ira-int.h"
+#include "sparseset.h"
+#include "function-abi.h"
 
 /* The code in this file is similar to one in global but the code
    works on the allocno basis and creates live ranges instead of
@@ -86,43 +81,51 @@ static int last_call_num;
 /* The number of last call at which given allocno was saved.  */
 static int *allocno_saved_at_call;
 
-/* Record the birth of hard register REGNO, updating hard_regs_live and
-   hard reg conflict information for living allocnos.  */
+/* The value returned by ira_setup_alts for the current instruction;
+   i.e. the set of alternatives that we should consider to be likely
+   candidates during reloading.  */
+static alternative_mask preferred_alternatives;
+
+/* If non-NULL, the source operand of a register to register copy for which
+   we should not add a conflict with the copy's destination operand.  */
+static rtx ignore_reg_for_conflicts;
+
+/* Record hard register REGNO as now being live.  */
 static void
-make_hard_regno_born (int regno)
+make_hard_regno_live (int regno)
 {
-  unsigned int i;
-
   SET_HARD_REG_BIT (hard_regs_live, regno);
+}
+
+/* Process the definition of hard register REGNO.  This updates
+   hard_regs_live and hard reg conflict information for living allocnos.  */
+static void
+make_hard_regno_dead (int regno)
+{
+  unsigned int i;
   EXECUTE_IF_SET_IN_SPARSESET (objects_live, i)
     {
       ira_object_t obj = ira_object_id_map[i];
 
+      if (ignore_reg_for_conflicts != NULL_RTX
+         && REGNO (ignore_reg_for_conflicts)
+            == (unsigned int) ALLOCNO_REGNO (OBJECT_ALLOCNO (obj)))
+       continue;
+
       SET_HARD_REG_BIT (OBJECT_CONFLICT_HARD_REGS (obj), regno);
       SET_HARD_REG_BIT (OBJECT_TOTAL_CONFLICT_HARD_REGS (obj), regno);
     }
-}
-
-/* Process the death of hard register REGNO.  This updates
-   hard_regs_live.  */
-static void
-make_hard_regno_dead (int regno)
-{
   CLEAR_HARD_REG_BIT (hard_regs_live, regno);
 }
 
-/* Record the birth of object OBJ.  Set a bit for it in objects_live,
-   start a new live range for it if necessary and update hard register
-   conflicts.  */
+/* Record object OBJ as now being live.  Set a bit for it in objects_live,
+   and start a new live range for it if necessary.  */
 static void
-make_object_born (ira_object_t obj)
+make_object_live (ira_object_t obj)
 {
-  live_range_t lr = OBJECT_LIVE_RANGES (obj);
-
   sparseset_set_bit (objects_live, OBJECT_CONFLICT_ID (obj));
-  IOR_HARD_REG_SET (OBJECT_CONFLICT_HARD_REGS (obj), hard_regs_live);
-  IOR_HARD_REG_SET (OBJECT_TOTAL_CONFLICT_HARD_REGS (obj), hard_regs_live);
 
+  live_range_t lr = OBJECT_LIVE_RANGES (obj);
   if (lr == NULL
       || (lr->finish != curr_point && lr->finish + 1 != curr_point))
     ira_add_live_range_to_object (obj, curr_point, -1);
@@ -156,14 +159,46 @@ update_allocno_pressure_excess_length (ira_object_t obj)
     }
 }
 
-/* Process the death of object OBJ, which is associated with allocno
-   A.  This finishes the current live range for it.  */
+/* Process the definition of object OBJ, which is associated with allocno A.
+   This finishes the current live range for it.  */
 static void
 make_object_dead (ira_object_t obj)
 {
   live_range_t lr;
+  int regno;
+  int ignore_regno = -1;
+  int ignore_total_regno = -1;
+  int end_regno = -1;
 
   sparseset_clear_bit (objects_live, OBJECT_CONFLICT_ID (obj));
+
+  /* Check whether any part of IGNORE_REG_FOR_CONFLICTS already conflicts
+     with OBJ.  */
+  if (ignore_reg_for_conflicts != NULL_RTX
+      && REGNO (ignore_reg_for_conflicts) < FIRST_PSEUDO_REGISTER)
+    {
+      end_regno = END_REGNO (ignore_reg_for_conflicts);
+      ignore_regno = ignore_total_regno = REGNO (ignore_reg_for_conflicts);
+
+      for (regno = ignore_regno; regno < end_regno; regno++)
+       {
+         if (TEST_HARD_REG_BIT (OBJECT_CONFLICT_HARD_REGS (obj), regno))
+           ignore_regno = end_regno;
+         if (TEST_HARD_REG_BIT (OBJECT_TOTAL_CONFLICT_HARD_REGS (obj), regno))
+           ignore_total_regno = end_regno;
+       }
+    }
+
+  OBJECT_CONFLICT_HARD_REGS (obj) |= hard_regs_live;
+  OBJECT_TOTAL_CONFLICT_HARD_REGS (obj) |= hard_regs_live;
+
+  /* If IGNORE_REG_FOR_CONFLICTS did not already conflict with OBJ, make
+     sure it still doesn't.  */
+  for (regno = ignore_regno; regno < end_regno; regno++)
+    CLEAR_HARD_REG_BIT (OBJECT_CONFLICT_HARD_REGS (obj), regno);
+  for (regno = ignore_total_regno; regno < end_regno; regno++)
+    CLEAR_HARD_REG_BIT (OBJECT_TOTAL_CONFLICT_HARD_REGS (obj), regno);
+
   lr = OBJECT_LIVE_RANGES (obj);
   ira_assert (lr != NULL);
   lr->finish = curr_point;
@@ -192,7 +227,7 @@ inc_register_pressure (enum reg_class pclass, int n)
        continue;
       curr_reg_pressure[cl] += n;
       if (high_pressure_start_point[cl] < 0
-         && (curr_reg_pressure[cl] > ira_available_class_regs[cl]))
+         && (curr_reg_pressure[cl] > ira_class_hard_regs_num[cl]))
        high_pressure_start_point[cl] = curr_point;
       if (curr_bb_node->reg_pressure[cl] < curr_reg_pressure[cl])
        curr_bb_node->reg_pressure[cl] = curr_reg_pressure[cl];
@@ -221,7 +256,7 @@ dec_register_pressure (enum reg_class pclass, int nregs)
       curr_reg_pressure[cl] -= nregs;
       ira_assert (curr_reg_pressure[cl] >= 0);
       if (high_pressure_start_point[cl] >= 0
-         && curr_reg_pressure[cl] <= ira_available_class_regs[cl])
+         && curr_reg_pressure[cl] <= ira_class_hard_regs_num[cl])
        set_p = true;
     }
   if (set_p)
@@ -235,12 +270,30 @@ dec_register_pressure (enum reg_class pclass, int nregs)
          if (! ira_reg_pressure_class_p[cl])
            continue;
          if (high_pressure_start_point[cl] >= 0
-             && curr_reg_pressure[cl] <= ira_available_class_regs[cl])
+             && curr_reg_pressure[cl] <= ira_class_hard_regs_num[cl])
            high_pressure_start_point[cl] = -1;
        }
     }
 }
 
+/* Determine from the objects_live bitmap whether REGNO is currently live,
+   and occupies only one object.  Return false if we have no information.  */
+static bool
+pseudo_regno_single_word_and_live_p (int regno)
+{
+  ira_allocno_t a = ira_curr_regno_allocno_map[regno];
+  ira_object_t obj;
+
+  if (a == NULL)
+    return false;
+  if (ALLOCNO_NUM_OBJECTS (a) > 1)
+    return false;
+
+  obj = ALLOCNO_OBJECT (a, 0);
+
+  return sparseset_bit_p (objects_live, OBJECT_CONFLICT_ID (obj));
+}
+
 /* Mark the pseudo register REGNO as live.  Update all information about
    live ranges and register pressure.  */
 static void
@@ -274,7 +327,7 @@ mark_pseudo_regno_live (int regno)
        continue;
 
       inc_register_pressure (pclass, nregs);
-      make_object_born (obj);
+      make_object_live (obj);
     }
 }
 
@@ -285,7 +338,7 @@ static void
 mark_pseudo_regno_subword_live (int regno, int subword)
 {
   ira_allocno_t a = ira_curr_regno_allocno_map[regno];
-  int n, nregs;
+  int n;
   enum reg_class pclass;
   ira_object_t obj;
 
@@ -303,15 +356,15 @@ mark_pseudo_regno_subword_live (int regno, int subword)
     }
 
   pclass = ira_pressure_class_translate[ALLOCNO_CLASS (a)];
-  nregs = ira_reg_class_max_nregs[pclass][ALLOCNO_MODE (a)];
-  gcc_assert (nregs == n);
+  gcc_assert
+    (n == ira_reg_class_max_nregs[ALLOCNO_CLASS (a)][ALLOCNO_MODE (a)]);
   obj = ALLOCNO_OBJECT (a, subword);
 
   if (sparseset_bit_p (objects_live, OBJECT_CONFLICT_ID (obj)))
     return;
 
-  inc_register_pressure (pclass, nregs);
-  make_object_born (obj);
+  inc_register_pressure (pclass, 1);
+  make_object_live (obj);
 }
 
 /* Mark the register REG as live.  Store a 1 in hard_regs_live for
@@ -324,7 +377,7 @@ mark_hard_reg_live (rtx reg)
 
   if (! TEST_HARD_REG_BIT (ira_no_alloc_regs, regno))
     {
-      int last = regno + hard_regno_nregs[regno][GET_MODE (reg)];
+      int last = END_REGNO (reg);
       enum reg_class aclass, pclass;
 
       while (regno < last)
@@ -335,7 +388,7 @@ mark_hard_reg_live (rtx reg)
              aclass = ira_hard_regno_allocno_class[regno];
              pclass = ira_pressure_class_translate[aclass];
              inc_register_pressure (pclass, 1);
-             make_hard_regno_born (regno);
+             make_hard_regno_live (regno);
            }
          regno++;
        }
@@ -348,7 +401,7 @@ mark_hard_reg_live (rtx reg)
 static void
 mark_pseudo_reg_live (rtx orig_reg, unsigned regno)
 {
-  if (df_read_modify_subreg_p (orig_reg))
+  if (read_modify_subreg_p (orig_reg))
     {
       mark_pseudo_regno_subword_live (regno,
                                      subreg_lowpart_p (orig_reg) ? 0 : 1);
@@ -414,7 +467,7 @@ static void
 mark_pseudo_regno_subword_dead (int regno, int subword)
 {
   ira_allocno_t a = ira_curr_regno_allocno_map[regno];
-  int n, nregs;
+  int n;
   enum reg_class cl;
   ira_object_t obj;
 
@@ -430,8 +483,8 @@ mark_pseudo_regno_subword_dead (int regno, int subword)
     return;
 
   cl = ira_pressure_class_translate[ALLOCNO_CLASS (a)];
-  nregs = ira_reg_class_max_nregs[cl][ALLOCNO_MODE (a)];
-  gcc_assert (nregs == n);
+  gcc_assert
+    (n == ira_reg_class_max_nregs[ALLOCNO_CLASS (a)][ALLOCNO_MODE (a)]);
 
   obj = ALLOCNO_OBJECT (a, subword);
   if (!sparseset_bit_p (objects_live, OBJECT_CONFLICT_ID (obj)))
@@ -441,8 +494,8 @@ mark_pseudo_regno_subword_dead (int regno, int subword)
   make_object_dead (obj);
 }
 
-/* Mark the hard register REG as dead.  Store a 0 in hard_regs_live for the
-   register.  */
+/* Process the definition of hard register REG.  This updates hard_regs_live
+   and hard reg conflict information for living allocnos.  */
 static void
 mark_hard_reg_dead (rtx reg)
 {
@@ -450,7 +503,7 @@ mark_hard_reg_dead (rtx reg)
 
   if (! TEST_HARD_REG_BIT (ira_no_alloc_regs, regno))
     {
-      int last = regno + hard_regno_nregs[regno][GET_MODE (reg)];
+      int last = END_REGNO (reg);
       enum reg_class aclass, pclass;
 
       while (regno < last)
@@ -473,7 +526,7 @@ mark_hard_reg_dead (rtx reg)
 static void
 mark_pseudo_reg_dead (rtx orig_reg, unsigned regno)
 {
-  if (df_read_modify_subreg_p (orig_reg))
+  if (read_modify_subreg_p (orig_reg))
     {
       mark_pseudo_regno_subword_dead (regno,
                                      subreg_lowpart_p (orig_reg) ? 0 : 1);
@@ -499,7 +552,7 @@ mark_ref_dead (df_ref def)
   if (DF_REF_FLAGS_IS_SET (def, DF_REF_PARTIAL)
       && (GET_CODE (orig_reg) != SUBREG
          || REGNO (reg) < FIRST_PSEUDO_REGISTER
-         || !df_read_modify_subreg_p (orig_reg)))
+         || !read_modify_subreg_p (orig_reg)))
     return;
 
   if (REGNO (reg) >= FIRST_PSEUDO_REGISTER)
@@ -510,7 +563,7 @@ mark_ref_dead (df_ref def)
 
 /* If REG is a pseudo or a subreg of it, and the class of its allocno
    intersects CL, make a conflict with pseudo DREG.  ORIG_DREG is the
-   rtx actually accessed, it may be indentical to DREG or a subreg of it.
+   rtx actually accessed, it may be identical to DREG or a subreg of it.
    Advance the current program point before making the conflict if
    ADVANCE_P.  Return TRUE if we will need to advance the current
    program point.  */
@@ -544,7 +597,7 @@ make_pseudo_conflict (rtx reg, enum reg_class cl, rtx dreg, rtx orig_dreg,
 
 /* Check and make if necessary conflicts for pseudo DREG of class
    DEF_CL of the current insn with input operand USE of class USE_CL.
-   ORIG_DREG is the rtx actually accessed, it may be indentical to
+   ORIG_DREG is the rtx actually accessed, it may be identical to
    DREG or a subreg of it.  Advance the current program point before
    making the conflict if ADVANCE_P.  Return TRUE if we will need to
    advance the current program point.  */
@@ -580,9 +633,28 @@ check_and_make_def_use_conflict (rtx dreg, rtx orig_dreg,
 
 /* Check and make if necessary conflicts for definition DEF of class
    DEF_CL of the current insn with input operands.  Process only
-   constraints of alternative ALT.  */
+   constraints of alternative ALT.
+
+   One of three things is true when this function is called:
+
+   (1) DEF is an earlyclobber for alternative ALT.  Input operands then
+       conflict with DEF in ALT unless they explicitly match DEF via 0-9
+       constraints.
+
+   (2) DEF matches (via 0-9 constraints) an operand that is an
+       earlyclobber for alternative ALT.  Other input operands then
+       conflict with DEF in ALT.
+
+   (3) [FOR_TIE_P] Some input operand X matches DEF for alternative ALT.
+       Input operands with a different value from X then conflict with
+       DEF in ALT.
+
+   However, there's still a judgement call to make when deciding
+   whether a conflict in ALT is important enough to be reflected
+   in the pan-alternative allocno conflict set.  */
 static void
-check_and_make_def_conflict (int alt, int def, enum reg_class def_cl)
+check_and_make_def_conflict (int alt, int def, enum reg_class def_cl,
+                            bool for_tie_p)
 {
   int use, use_match;
   ira_allocno_t a;
@@ -607,30 +679,70 @@ check_and_make_def_conflict (int alt, int def, enum reg_class def_cl)
 
   advance_p = true;
 
-  for (use = 0; use < recog_data.n_operands; use++)
+  int n_operands = recog_data.n_operands;
+  const operand_alternative *op_alt = &recog_op_alt[alt * n_operands];
+  for (use = 0; use < n_operands; use++)
     {
       int alt1;
 
       if (use == def || recog_data.operand_type[use] == OP_OUT)
        continue;
 
-      if (recog_op_alt[use][alt].anything_ok)
+      /* An earlyclobber on DEF doesn't apply to an input operand X if X
+        explicitly matches DEF, but it applies to other input operands
+        even if they happen to be the same value as X.
+
+        In contrast, if an input operand X is tied to a non-earlyclobber
+        DEF, there's no conflict with other input operands that have the
+        same value as X.  */
+      if (op_alt[use].matches == def
+         || (for_tie_p
+             && rtx_equal_p (recog_data.operand[use],
+                             recog_data.operand[op_alt[def].matched])))
+       continue;
+
+      if (op_alt[use].anything_ok)
        use_cl = ALL_REGS;
       else
-       use_cl = recog_op_alt[use][alt].cl;
+       use_cl = op_alt[use].cl;
+      if (use_cl == NO_REGS)
+       continue;
+
+      /* If DEF is simply a tied operand, ignore cases in which this
+        alternative requires USE to have a likely-spilled class.
+        Adding a conflict would just constrain USE further if DEF
+        happens to be allocated first.  */
+      if (for_tie_p && targetm.class_likely_spilled_p (use_cl))
+       continue;
 
       /* If there's any alternative that allows USE to match DEF, do not
         record a conflict.  If that causes us to create an invalid
-        instruction due to the earlyclobber, reload must fix it up.  */
+        instruction due to the earlyclobber, reload must fix it up.
+
+        Likewise, if we're treating a tied DEF like a partial earlyclobber,
+        do not record a conflict if there's another alternative in which
+        DEF is neither tied nor earlyclobber.  */
       for (alt1 = 0; alt1 < recog_data.n_alternatives; alt1++)
-       if (recog_op_alt[use][alt1].matches == def
-           || (use < recog_data.n_operands - 1
-               && recog_data.constraints[use][0] == '%'
-               && recog_op_alt[use + 1][alt1].matches == def)
-           || (use >= 1
-               && recog_data.constraints[use - 1][0] == '%'
-               && recog_op_alt[use - 1][alt1].matches == def))
-         break;
+       {
+         if (!TEST_BIT (preferred_alternatives, alt1))
+           continue;
+         const operand_alternative *op_alt1
+           = &recog_op_alt[alt1 * n_operands];
+         if (op_alt1[use].matches == def
+             || (use < n_operands - 1
+                 && recog_data.constraints[use][0] == '%'
+                 && op_alt1[use + 1].matches == def)
+             || (use >= 1
+                 && recog_data.constraints[use - 1][0] == '%'
+                 && op_alt1[use - 1].matches == def))
+           break;
+         if (for_tie_p
+             && !op_alt1[def].earlyclobber
+             && op_alt1[def].matched < 0
+             && alternative_class (op_alt1, def) != NO_REGS
+             && alternative_class (op_alt1, use) != NO_REGS)
+           break;
+       }
 
       if (alt1 < recog_data.n_alternatives)
        continue;
@@ -638,15 +750,14 @@ check_and_make_def_conflict (int alt, int def, enum reg_class def_cl)
       advance_p = check_and_make_def_use_conflict (dreg, orig_dreg, def_cl,
                                                   use, use_cl, advance_p);
 
-      if ((use_match = recog_op_alt[use][alt].matches) >= 0)
+      if ((use_match = op_alt[use].matches) >= 0)
        {
-         if (use_match == def)
-           continue;
+         gcc_checking_assert (use_match != def);
 
-         if (recog_op_alt[use_match][alt].anything_ok)
+         if (op_alt[use_match].anything_ok)
            use_cl = ALL_REGS;
          else
-           use_cl = recog_op_alt[use_match][alt].cl;
+           use_cl = op_alt[use_match].cl;
          advance_p = check_and_make_def_use_conflict (dreg, orig_dreg, def_cl,
                                                       use, use_cl, advance_p);
        }
@@ -656,7 +767,11 @@ check_and_make_def_conflict (int alt, int def, enum reg_class def_cl)
 /* Make conflicts of early clobber pseudo registers of the current
    insn with its inputs.  Avoid introducing unnecessary conflicts by
    checking classes of the constraints and pseudos because otherwise
-   significant code degradation is possible for some targets.  */
+   significant code degradation is possible for some targets.
+
+   For these purposes, tying an input to an output makes that output act
+   like an earlyclobber for inputs with a different value, since the output
+   register then has a predetermined purpose on input to the instruction.  */
 static void
 make_early_clobber_and_input_conflicts (void)
 {
@@ -664,43 +779,51 @@ make_early_clobber_and_input_conflicts (void)
   int def, def_match;
   enum reg_class def_cl;
 
-  for (alt = 0; alt < recog_data.n_alternatives; alt++)
-    for (def = 0; def < recog_data.n_operands; def++)
-      {
-       def_cl = NO_REGS;
-       if (recog_op_alt[def][alt].earlyclobber)
-         {
-           if (recog_op_alt[def][alt].anything_ok)
-             def_cl = ALL_REGS;
-           else
-             def_cl = recog_op_alt[def][alt].cl;
-           check_and_make_def_conflict (alt, def, def_cl);
-         }
-       if ((def_match = recog_op_alt[def][alt].matches) >= 0
-           && (recog_op_alt[def_match][alt].earlyclobber
-               || recog_op_alt[def][alt].earlyclobber))
-         {
-           if (recog_op_alt[def_match][alt].anything_ok)
-             def_cl = ALL_REGS;
-           else
-             def_cl = recog_op_alt[def_match][alt].cl;
-           check_and_make_def_conflict (alt, def, def_cl);
-         }
-      }
+  int n_alternatives = recog_data.n_alternatives;
+  int n_operands = recog_data.n_operands;
+  const operand_alternative *op_alt = recog_op_alt;
+  for (alt = 0; alt < n_alternatives; alt++, op_alt += n_operands)
+    if (TEST_BIT (preferred_alternatives, alt))
+      for (def = 0; def < n_operands; def++)
+       {
+         if (op_alt[def].anything_ok)
+           def_cl = ALL_REGS;
+         else
+           def_cl = op_alt[def].cl;
+         if (def_cl != NO_REGS)
+           {
+             if (op_alt[def].earlyclobber)
+               check_and_make_def_conflict (alt, def, def_cl, false);
+             else if (op_alt[def].matched >= 0
+                      && !targetm.class_likely_spilled_p (def_cl))
+               check_and_make_def_conflict (alt, def, def_cl, true);
+           }
+
+         if ((def_match = op_alt[def].matches) >= 0
+             && (op_alt[def_match].earlyclobber
+                 || op_alt[def].earlyclobber))
+           {
+             if (op_alt[def_match].anything_ok)
+               def_cl = ALL_REGS;
+             else
+               def_cl = op_alt[def_match].cl;
+             check_and_make_def_conflict (alt, def, def_cl, false);
+           }
+       }
 }
 
 /* Mark early clobber hard registers of the current INSN as live (if
    LIVE_P) or dead.  Return true if there are such registers.  */
 static bool
-mark_hard_reg_early_clobbers (rtx insn, bool live_p)
+mark_hard_reg_early_clobbers (rtx_insn *insn, bool live_p)
 {
-  df_ref *def_rec;
+  df_ref def;
   bool set_p = false;
 
-  for (def_rec = DF_INSN_DEFS (insn); *def_rec; def_rec++)
-    if (DF_REF_FLAGS_IS_SET (*def_rec, DF_REF_MUST_CLOBBER))
+  FOR_EACH_INSN_DEF (def, insn)
+    if (DF_REF_FLAGS_IS_SET (def, DF_REF_MUST_CLOBBER))
       {
-       rtx dreg = DF_REF_REG (*def_rec);
+       rtx dreg = DF_REF_REG (def);
 
        if (GET_CODE (dreg) == SUBREG)
          dreg = SUBREG_REG (dreg);
@@ -711,9 +834,9 @@ mark_hard_reg_early_clobbers (rtx insn, bool live_p)
           because there is no way to say that non-operand hard
           register clobbers are not early ones.  */
        if (live_p)
-         mark_ref_live (*def_rec);
+         mark_ref_live (def);
        else
-         mark_ref_dead (*def_rec);
+         mark_ref_dead (def);
        set_p = true;
       }
 
@@ -726,112 +849,42 @@ mark_hard_reg_early_clobbers (rtx insn, bool live_p)
 static enum reg_class
 single_reg_class (const char *constraints, rtx op, rtx equiv_const)
 {
-  int ignore_p;
-  enum reg_class cl, next_cl;
   int c;
+  enum reg_class cl, next_cl;
+  enum constraint_num cn;
 
   cl = NO_REGS;
-  for (ignore_p = false;
-       (c = *constraints);
-       constraints += CONSTRAINT_LEN (c, constraints))
+  alternative_mask preferred = preferred_alternatives;
+  for (; (c = *constraints); constraints += CONSTRAINT_LEN (c, constraints))
     if (c == '#')
-      ignore_p = true;
+      preferred &= ~ALTERNATIVE_BIT (0);
     else if (c == ',')
-      ignore_p = false;
-    else if (! ignore_p)
+      preferred >>= 1;
+    else if (preferred & 1)
       switch (c)
        {
-       case ' ':
-       case '\t':
-       case '=':
-       case '+':
-       case '*':
-       case '&':
-       case '%':
-       case '!':
-       case '?':
-         break;
-       case 'i':
-         if (CONSTANT_P (op)
-             || (equiv_const != NULL_RTX && CONSTANT_P (equiv_const)))
-           return NO_REGS;
-         break;
+       case 'g':
+         return NO_REGS;
 
-       case 'n':
-         if (CONST_INT_P (op)
-             || (GET_CODE (op) == CONST_DOUBLE && GET_MODE (op) == VOIDmode)
-             || (equiv_const != NULL_RTX
-                 && (CONST_INT_P (equiv_const)
-                     || (GET_CODE (equiv_const) == CONST_DOUBLE
-                         && GET_MODE (equiv_const) == VOIDmode))))
+       default:
+         /* ??? Is this the best way to handle memory constraints?  */
+         cn = lookup_constraint (constraints);
+         if (insn_extra_memory_constraint (cn)
+             || insn_extra_special_memory_constraint (cn)
+             || insn_extra_address_constraint (cn))
            return NO_REGS;
-         break;
-
-       case 's':
-         if ((CONSTANT_P (op) && !CONST_INT_P (op)
-              && (GET_CODE (op) != CONST_DOUBLE || GET_MODE (op) != VOIDmode))
+         if (constraint_satisfied_p (op, cn)
              || (equiv_const != NULL_RTX
                  && CONSTANT_P (equiv_const)
-                 && !CONST_INT_P (equiv_const)
-                 && (GET_CODE (equiv_const) != CONST_DOUBLE
-                     || GET_MODE (equiv_const) != VOIDmode)))
-           return NO_REGS;
-         break;
-
-       case 'I':
-       case 'J':
-       case 'K':
-       case 'L':
-       case 'M':
-       case 'N':
-       case 'O':
-       case 'P':
-         if ((CONST_INT_P (op)
-              && CONST_OK_FOR_CONSTRAINT_P (INTVAL (op), c, constraints))
-             || (equiv_const != NULL_RTX
-                 && CONST_INT_P (equiv_const)
-                 && CONST_OK_FOR_CONSTRAINT_P (INTVAL (equiv_const),
-                                               c, constraints)))
-           return NO_REGS;
-         break;
-
-       case 'E':
-       case 'F':
-         if (GET_CODE (op) == CONST_DOUBLE
-             || (GET_CODE (op) == CONST_VECTOR
-                 && GET_MODE_CLASS (GET_MODE (op)) == MODE_VECTOR_FLOAT)
-             || (equiv_const != NULL_RTX
-                 && (GET_CODE (equiv_const) == CONST_DOUBLE
-                     || (GET_CODE (equiv_const) == CONST_VECTOR
-                         && (GET_MODE_CLASS (GET_MODE (equiv_const))
-                             == MODE_VECTOR_FLOAT)))))
+                 && constraint_satisfied_p (equiv_const, cn)))
            return NO_REGS;
-         break;
-
-       case 'G':
-       case 'H':
-         if ((GET_CODE (op) == CONST_DOUBLE
-              && CONST_DOUBLE_OK_FOR_CONSTRAINT_P (op, c, constraints))
-             || (equiv_const != NULL_RTX
-                 && GET_CODE (equiv_const) == CONST_DOUBLE
-                 && CONST_DOUBLE_OK_FOR_CONSTRAINT_P (equiv_const,
-                                                      c, constraints)))
-           return NO_REGS;
-         /* ??? what about memory */
-       case 'r':
-       case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
-       case 'h': case 'j': case 'k': case 'l':
-       case 'q': case 't': case 'u':
-       case 'v': case 'w': case 'x': case 'y': case 'z':
-       case 'A': case 'B': case 'C': case 'D':
-       case 'Q': case 'R': case 'S': case 'T': case 'U':
-       case 'W': case 'Y': case 'Z':
-         next_cl = (c == 'r'
-                    ? GENERAL_REGS
-                    : REG_CLASS_FROM_CONSTRAINT (c, constraints));
-         if ((cl != NO_REGS && next_cl != cl)
-             || (ira_available_class_regs[next_cl]
-                 > ira_reg_class_max_nregs[next_cl][GET_MODE (op)]))
+         next_cl = reg_class_for_constraint (cn);
+         if (next_cl == NO_REGS)
+           break;
+         if (cl == NO_REGS
+             ? ira_class_singleton[next_cl][GET_MODE (op)] < 0
+             : (ira_class_singleton[cl][GET_MODE (op)]
+                != ira_class_singleton[next_cl][GET_MODE (op)]))
            return NO_REGS;
          cl = next_cl;
          break;
@@ -841,16 +894,13 @@ single_reg_class (const char *constraints, rtx op, rtx equiv_const)
          next_cl
            = single_reg_class (recog_data.constraints[c - '0'],
                                recog_data.operand[c - '0'], NULL_RTX);
-         if ((cl != NO_REGS && next_cl != cl)
-             || next_cl == NO_REGS
-             || (ira_available_class_regs[next_cl]
-                 > ira_reg_class_max_nregs[next_cl][GET_MODE (op)]))
+         if (cl == NO_REGS
+             ? ira_class_singleton[next_cl][GET_MODE (op)] < 0
+             : (ira_class_singleton[cl][GET_MODE (op)]
+                != ira_class_singleton[next_cl][GET_MODE (op)]))
            return NO_REGS;
          cl = next_cl;
          break;
-
-       default:
-         return NO_REGS;
        }
   return cl;
 }
@@ -871,13 +921,13 @@ single_reg_operand_class (int op_num)
    might be used by insn reloads because the constraints are too
    strict.  */
 void
-ira_implicitly_set_insn_hard_regs (HARD_REG_SET *set)
+ira_implicitly_set_insn_hard_regs (HARD_REG_SET *set,
+                                  alternative_mask preferred)
 {
   int i, c, regno = 0;
-  bool ignore_p;
   enum reg_class cl;
   rtx op;
-  enum machine_mode mode;
+  machine_mode mode;
 
   CLEAR_HARD_REG_SET (*set);
   for (i = 0; i < recog_data.n_operands; i++)
@@ -895,34 +945,23 @@ ira_implicitly_set_insn_hard_regs (HARD_REG_SET *set)
          mode = (GET_CODE (op) == SCRATCH
                  ? GET_MODE (op) : PSEUDO_REGNO_MODE (regno));
          cl = NO_REGS;
-         for (ignore_p = false; (c = *p); p += CONSTRAINT_LEN (c, p))
+         for (; (c = *p); p += CONSTRAINT_LEN (c, p))
            if (c == '#')
-             ignore_p = true;
+             preferred &= ~ALTERNATIVE_BIT (0);
            else if (c == ',')
-             ignore_p = false;
-           else if (! ignore_p)
-             switch (c)
-               {
-               case 'r':
-               case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
-               case 'h': case 'j': case 'k': case 'l':
-               case 'q': case 't': case 'u':
-               case 'v': case 'w': case 'x': case 'y': case 'z':
-               case 'A': case 'B': case 'C': case 'D':
-               case 'Q': case 'R': case 'S': case 'T': case 'U':
-               case 'W': case 'Y': case 'Z':
-                 cl = (c == 'r'
-                       ? GENERAL_REGS
-                       : REG_CLASS_FROM_CONSTRAINT (c, p));
-                 if (cl != NO_REGS
-                     /* There is no register pressure problem if all of the
-                        regs in this class are fixed.  */
-                     && ira_available_class_regs[cl] != 0
-                     && (ira_available_class_regs[cl]
-                         <= ira_reg_class_max_nregs[cl][mode]))
-                   IOR_HARD_REG_SET (*set, reg_class_contents[cl]);
-                 break;
-               }
+             preferred >>= 1;
+           else if (preferred & 1)
+             {
+               cl = reg_class_for_constraint (lookup_constraint (p));
+               if (cl != NO_REGS)
+                 {
+                   /* There is no register pressure problem if all of the
+                      regs in this class are fixed.  */
+                   int regno = ira_class_singleton[cl][mode];
+                   if (regno >= 0)
+                     add_to_hard_reg_set (set, mode, regno);
+                 }
+             }
        }
     }
 }
@@ -964,8 +1003,7 @@ process_single_reg_class_operands (bool in_p, int freq)
 
          operand_a = ira_curr_regno_allocno_map[regno];
          aclass = ALLOCNO_CLASS (operand_a);
-         if (ira_class_subset_p[cl][aclass]
-             && ira_class_hard_regs_num[cl] != 0)
+         if (ira_class_subset_p[cl][aclass])
            {
              /* View the desired allocation of OPERAND as:
 
@@ -974,12 +1012,13 @@ process_single_reg_class_operands (bool in_p, int freq)
                 a simplification of:
 
                    (subreg:YMODE (reg:XMODE XREGNO) OFFSET).  */
-             enum machine_mode ymode, xmode;
+             machine_mode ymode, xmode;
              int xregno, yregno;
-             HOST_WIDE_INT offset;
+             poly_int64 offset;
 
              xmode = recog_data.operand_mode[i];
-             xregno = ira_class_hard_regs[cl][0];
+             xregno = ira_class_singleton[cl][xmode];
+             gcc_assert (xregno >= 0);
              ymode = ALLOCNO_MODE (operand_a);
              offset = subreg_lowpart_offset (ymode, xmode);
              yregno = simplify_subreg_regno (xregno, xmode, offset, ymode);
@@ -1010,31 +1049,161 @@ process_single_reg_class_operands (bool in_p, int freq)
              /* We could increase costs of A instead of making it
                 conflicting with the hard register.  But it works worse
                 because it will be spilled in reload in anyway.  */
-             IOR_HARD_REG_SET (OBJECT_CONFLICT_HARD_REGS (obj),
-                               reg_class_contents[cl]);
-             IOR_HARD_REG_SET (OBJECT_TOTAL_CONFLICT_HARD_REGS (obj),
-                               reg_class_contents[cl]);
+             OBJECT_CONFLICT_HARD_REGS (obj) |= reg_class_contents[cl];
+             OBJECT_TOTAL_CONFLICT_HARD_REGS (obj) |= reg_class_contents[cl];
            }
        }
     }
 }
 
-/* Return true when one of the predecessor edges of BB is marked with
-   EDGE_ABNORMAL_CALL or EDGE_EH.  */
-static bool
-bb_has_abnormal_call_pred (basic_block bb)
+/* Look through the CALL_INSN_FUNCTION_USAGE of a call insn INSN, and see if
+   we find a SET rtx that we can use to deduce that a register can be cheaply
+   caller-saved.  Return such a register, or NULL_RTX if none is found.  */
+static rtx
+find_call_crossed_cheap_reg (rtx_insn *insn)
+{
+  rtx cheap_reg = NULL_RTX;
+  rtx exp = CALL_INSN_FUNCTION_USAGE (insn);
+
+  while (exp != NULL)
+    {
+      rtx x = XEXP (exp, 0);
+      if (GET_CODE (x) == SET)
+       {
+         exp = x;
+         break;
+       }
+      exp = XEXP (exp, 1);
+    }
+  if (exp != NULL)
+    {
+      basic_block bb = BLOCK_FOR_INSN (insn);
+      rtx reg = SET_SRC (exp);
+      rtx_insn *prev = PREV_INSN (insn);
+      while (prev && !(INSN_P (prev)
+                      && BLOCK_FOR_INSN (prev) != bb))
+       {
+         if (NONDEBUG_INSN_P (prev))
+           {
+             rtx set = single_set (prev);
+
+             if (set && rtx_equal_p (SET_DEST (set), reg))
+               {
+                 rtx src = SET_SRC (set);
+                 if (!REG_P (src) || HARD_REGISTER_P (src)
+                     || !pseudo_regno_single_word_and_live_p (REGNO (src)))
+                   break;
+                 if (!modified_between_p (src, prev, insn))
+                   cheap_reg = src;
+                 break;
+               }
+             if (set && rtx_equal_p (SET_SRC (set), reg))
+               {
+                 rtx dest = SET_DEST (set);
+                 if (!REG_P (dest) || HARD_REGISTER_P (dest)
+                     || !pseudo_regno_single_word_and_live_p (REGNO (dest)))
+                   break;
+                 if (!modified_between_p (dest, prev, insn))
+                   cheap_reg = dest;
+                 break;
+               }
+
+             if (reg_set_p (reg, prev))
+               break;
+           }
+         prev = PREV_INSN (prev);
+       }
+    }
+  return cheap_reg;
+}  
+
+/* Determine whether INSN is a register to register copy of the type where
+   we do not need to make the source and destiniation registers conflict.
+   If this is a copy instruction, then return the source reg.  Otherwise,
+   return NULL_RTX.  */
+rtx
+non_conflicting_reg_copy_p (rtx_insn *insn)
+{
+  /* Reload has issues with overlapping pseudos being assigned to the
+     same hard register, so don't allow it.  See PR87600 for details.  */
+  if (!targetm.lra_p ())
+    return NULL_RTX;
+
+  rtx set = single_set (insn);
+
+  /* Disallow anything other than a simple register to register copy
+     that has no side effects.  */
+  if (set == NULL_RTX
+      || !REG_P (SET_DEST (set))
+      || !REG_P (SET_SRC (set))
+      || side_effects_p (set))
+    return NULL_RTX;
+
+  int dst_regno = REGNO (SET_DEST (set));
+  int src_regno = REGNO (SET_SRC (set));
+  machine_mode mode = GET_MODE (SET_DEST (set));
+
+  /* By definition, a register does not conflict with itself, therefore we
+     do not have to handle it specially.  Returning NULL_RTX now, helps
+     simplify the callers of this function.  */
+  if (dst_regno == src_regno)
+    return NULL_RTX;
+
+  /* Computing conflicts for register pairs is difficult to get right, so
+     for now, disallow it.  */
+  if ((HARD_REGISTER_NUM_P (dst_regno)
+       && hard_regno_nregs (dst_regno, mode) != 1)
+      || (HARD_REGISTER_NUM_P (src_regno)
+         && hard_regno_nregs (src_regno, mode) != 1))
+    return NULL_RTX;
+
+  return SET_SRC (set);
+}
+
+#ifdef EH_RETURN_DATA_REGNO
+
+/* Add EH return hard registers as conflict hard registers to allocnos
+   living at end of BB.  For most allocnos it is already done in
+   process_bb_node_lives when we processing input edges but it does
+   not work when and EH edge is edge out of the current region.  This
+   function covers such out of region edges. */
+static void
+process_out_of_region_eh_regs (basic_block bb)
 {
   edge e;
   edge_iterator ei;
+  unsigned int i;
+  bitmap_iterator bi;
+  bool eh_p = false;
+
+  FOR_EACH_EDGE (e, ei, bb->succs)
+    if ((e->flags & EDGE_EH)
+       && IRA_BB_NODE (e->dest)->parent != IRA_BB_NODE (bb)->parent)
+      eh_p = true;
+
+  if (! eh_p)
+    return;
 
-  FOR_EACH_EDGE (e, ei, bb->preds)
+  EXECUTE_IF_SET_IN_BITMAP (df_get_live_out (bb), FIRST_PSEUDO_REGISTER, i, bi)
     {
-      if (e->flags & (EDGE_ABNORMAL_CALL | EDGE_EH))
-       return true;
+      ira_allocno_t a = ira_curr_regno_allocno_map[i];
+      for (int n = ALLOCNO_NUM_OBJECTS (a) - 1; n >= 0; n--)
+       {
+         ira_object_t obj = ALLOCNO_OBJECT (a, n);
+         for (int k = 0; ; k++)
+           {
+             unsigned int regno = EH_RETURN_DATA_REGNO (k);
+             if (regno == INVALID_REGNUM)
+               break;
+             SET_HARD_REG_BIT (OBJECT_CONFLICT_HARD_REGS (obj), regno);
+             SET_HARD_REG_BIT (OBJECT_TOTAL_CONFLICT_HARD_REGS (obj), regno);
+           }
+       }
     }
-  return false;
 }
 
+#endif
+
 /* Process insns of the basic block given by its LOOP_TREE_NODE to
    update allocno live ranges, allocno hard register conflicts,
    intersected calls, and register pressure info for allocnos for the
@@ -1045,7 +1214,7 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
   int i, freq;
   unsigned int j;
   basic_block bb;
-  rtx insn;
+  rtx_insn *insn;
   bitmap_iterator bi;
   bitmap reg_live_out;
   unsigned int px;
@@ -1060,11 +1229,10 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
          high_pressure_start_point[ira_pressure_classes[i]] = -1;
        }
       curr_bb_node = loop_tree_node;
-      reg_live_out = DF_LR_OUT (bb);
+      reg_live_out = df_get_live_out (bb);
       sparseset_clear (objects_live);
       REG_SET_TO_HARD_REG_SET (hard_regs_live, reg_live_out);
-      AND_COMPL_HARD_REG_SET (hard_regs_live, eliminable_regset);
-      AND_COMPL_HARD_REG_SET (hard_regs_live, ira_no_alloc_regs);
+      hard_regs_live &= ~(eliminable_regset | ira_no_alloc_regs);
       for (i = 0; i < FIRST_PSEUDO_REGISTER; i++)
        if (TEST_HARD_REG_BIT (hard_regs_live, i))
          {
@@ -1083,12 +1251,16 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
                if (curr_bb_node->reg_pressure[cl] < curr_reg_pressure[cl])
                  curr_bb_node->reg_pressure[cl] = curr_reg_pressure[cl];
                ira_assert (curr_reg_pressure[cl]
-                           <= ira_available_class_regs[cl]);
+                           <= ira_class_hard_regs_num[cl]);
              }
          }
       EXECUTE_IF_SET_IN_BITMAP (reg_live_out, FIRST_PSEUDO_REGISTER, j, bi)
        mark_pseudo_regno_live (j);
 
+#ifdef EH_RETURN_DATA_REGNO
+      process_out_of_region_eh_regs (bb);
+#endif
+
       freq = REG_FREQ_FROM_BB (bb);
       if (freq == 0)
        freq = 1;
@@ -1107,7 +1279,8 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
         pessimistic, but it probably doesn't matter much in practice.  */
       FOR_BB_INSNS_REVERSE (bb, insn)
        {
-         df_ref *def_rec, *use_rec;
+         ira_allocno_t a;
+         df_ref def, use;
          bool call_p;
 
          if (!NONDEBUG_INSN_P (insn))
@@ -1115,9 +1288,12 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
 
          if (internal_flag_ira_verbose > 2 && ira_dump_file != NULL)
            fprintf (ira_dump_file, "   Insn %u(l%d): point = %d\n",
-                    INSN_UID (insn), loop_tree_node->parent->loop->num,
+                    INSN_UID (insn), loop_tree_node->parent->loop_num,
                     curr_point);
 
+         call_p = CALL_P (insn);
+         ignore_reg_for_conflicts = non_conflicting_reg_copy_p (insn);
+
          /* Mark each defined value as live.  We need to do this for
             unused values because they still conflict with quantities
             that are live at the time of the definition.
@@ -1127,10 +1303,9 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
             on a call-clobbered register.  Marking the register as
             live would stop us from allocating it to a call-crossing
             allocno.  */
-         call_p = CALL_P (insn);
-         for (def_rec = DF_INSN_DEFS (insn); *def_rec; def_rec++)
-           if (!call_p || !DF_REF_FLAGS_IS_SET (*def_rec, DF_REF_MAY_CLOBBER))
-             mark_ref_live (*def_rec);
+         FOR_EACH_INSN_DEF (def, insn)
+           if (!call_p || !DF_REF_FLAGS_IS_SET (def, DF_REF_MAY_CLOBBER))
+             mark_ref_live (def);
 
          /* If INSN has multiple outputs, then any value used in one
             of the outputs conflicts with the other outputs.  Model this
@@ -1144,12 +1319,12 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
             to the same hard register as an unused output we could
             set the hard register before the output reload insn.  */
          if (GET_CODE (PATTERN (insn)) == PARALLEL && multiple_sets (insn))
-           for (use_rec = DF_INSN_USES (insn); *use_rec; use_rec++)
+           FOR_EACH_INSN_USE (use, insn)
              {
                int i;
                rtx reg;
 
-               reg = DF_REF_REG (*use_rec);
+               reg = DF_REF_REG (use);
                for (i = XVECLEN (PATTERN (insn), 0) - 1; i >= 0; i--)
                  {
                    rtx set;
@@ -1160,48 +1335,51 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
                      {
                        /* After the previous loop, this is a no-op if
                           REG is contained within SET_DEST (SET).  */
-                       mark_ref_live (*use_rec);
+                       mark_ref_live (use);
                        break;
                      }
                  }
              }
 
-         extract_insn (insn);
-         preprocess_constraints ();
+         preferred_alternatives = ira_setup_alts (insn);
          process_single_reg_class_operands (false, freq);
 
-         /* See which defined values die here.  */
-         for (def_rec = DF_INSN_DEFS (insn); *def_rec; def_rec++)
-           if (!call_p || !DF_REF_FLAGS_IS_SET (*def_rec, DF_REF_MAY_CLOBBER))
-             mark_ref_dead (*def_rec);
-
          if (call_p)
            {
+             /* Try to find a SET in the CALL_INSN_FUNCTION_USAGE, and from
+                there, try to find a pseudo that is live across the call but
+                can be cheaply reconstructed from the return value.  */
+             rtx cheap_reg = find_call_crossed_cheap_reg (insn);
+             if (cheap_reg != NULL_RTX)
+               add_reg_note (insn, REG_RETURNED, cheap_reg);
+
              last_call_num++;
              sparseset_clear (allocnos_processed);
              /* The current set of live allocnos are live across the call.  */
              EXECUTE_IF_SET_IN_SPARSESET (objects_live, i)
                {
                  ira_object_t obj = ira_object_id_map[i];
-                 ira_allocno_t a = OBJECT_ALLOCNO (obj);
+                 a = OBJECT_ALLOCNO (obj);
                  int num = ALLOCNO_NUM (a);
+                 function_abi callee_abi = insn_callee_abi (insn);
 
                  /* Don't allocate allocnos that cross setjmps or any
                     call, if this function receives a nonlocal
                     goto.  */
                  if (cfun->has_nonlocal_label
-                     || find_reg_note (insn, REG_SETJMP,
-                                       NULL_RTX) != NULL_RTX)
+                     || (!targetm.setjmp_preserves_nonvolatile_regs_p ()
+                         && (find_reg_note (insn, REG_SETJMP, NULL_RTX)
+                             != NULL_RTX)))
                    {
                      SET_HARD_REG_SET (OBJECT_CONFLICT_HARD_REGS (obj));
                      SET_HARD_REG_SET (OBJECT_TOTAL_CONFLICT_HARD_REGS (obj));
                    }
                  if (can_throw_internal (insn))
                    {
-                     IOR_HARD_REG_SET (OBJECT_CONFLICT_HARD_REGS (obj),
-                                       call_used_reg_set);
-                     IOR_HARD_REG_SET (OBJECT_TOTAL_CONFLICT_HARD_REGS (obj),
-                                       call_used_reg_set);
+                     OBJECT_CONFLICT_HARD_REGS (obj)
+                       |= callee_abi.mode_clobbers (ALLOCNO_MODE (a));
+                     OBJECT_TOTAL_CONFLICT_HARD_REGS (obj)
+                       |= callee_abi.mode_clobbers (ALLOCNO_MODE (a));
                    }
 
                  if (sparseset_bit_p (allocnos_processed, num))
@@ -1209,7 +1387,7 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
                  sparseset_set_bit (allocnos_processed, num);
 
                  if (allocno_saved_at_call[num] != last_call_num)
-                   /* Here we are mimicking caller-save.c behaviour
+                   /* Here we are mimicking caller-save.c behavior
                       which does not save hard register at a call if
                       it was saved on previous call in the same basic
                       block and the hard register was not mentioned
@@ -1218,16 +1396,33 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
                  /* Mark it as saved at the next call.  */
                  allocno_saved_at_call[num] = last_call_num + 1;
                  ALLOCNO_CALLS_CROSSED_NUM (a)++;
+                 ALLOCNO_CROSSED_CALLS_ABIS (a) |= 1 << callee_abi.id ();
+                 ALLOCNO_CROSSED_CALLS_CLOBBERED_REGS (a)
+                   |= callee_abi.full_and_partial_reg_clobbers ();
+                 if (cheap_reg != NULL_RTX
+                     && ALLOCNO_REGNO (a) == (int) REGNO (cheap_reg))
+                   ALLOCNO_CHEAP_CALLS_CROSSED_NUM (a)++;
                }
            }
 
+         /* See which defined values die here.  Note that we include
+            the call insn in the lifetimes of these values, so we don't
+            mistakenly consider, for e.g. an addressing mode with a
+            side-effect like a post-increment fetching the address,
+            that the use happens before the call, and the def to happen
+            after the call: we believe both to happen before the actual
+            call.  (We don't handle return-values here.)  */
+         FOR_EACH_INSN_DEF (def, insn)
+           if (!call_p || !DF_REF_FLAGS_IS_SET (def, DF_REF_MAY_CLOBBER))
+             mark_ref_dead (def);
+
          make_early_clobber_and_input_conflicts ();
 
          curr_point++;
-
+         
          /* Mark each used value as live.  */
-         for (use_rec = DF_INSN_USES (insn); *use_rec; use_rec++)
-           mark_ref_live (*use_rec);
+         FOR_EACH_INSN_USE (use, insn)
+           mark_ref_live (use);
 
          process_single_reg_class_operands (true, freq);
 
@@ -1240,38 +1435,38 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
              /* Mark each hard reg as live again.  For example, a
                 hard register can be in clobber and in an insn
                 input.  */
-             for (use_rec = DF_INSN_USES (insn); *use_rec; use_rec++)
+             FOR_EACH_INSN_USE (use, insn)
                {
-                 rtx ureg = DF_REF_REG (*use_rec);
+                 rtx ureg = DF_REF_REG (use);
 
                  if (GET_CODE (ureg) == SUBREG)
                    ureg = SUBREG_REG (ureg);
                  if (! REG_P (ureg) || REGNO (ureg) >= FIRST_PSEUDO_REGISTER)
                    continue;
 
-                 mark_ref_live (*use_rec);
+                 mark_ref_live (use);
                }
            }
 
          curr_point++;
        }
+      ignore_reg_for_conflicts = NULL_RTX;
 
-#ifdef EH_RETURN_DATA_REGNO
       if (bb_has_eh_pred (bb))
        for (j = 0; ; ++j)
          {
            unsigned int regno = EH_RETURN_DATA_REGNO (j);
            if (regno == INVALID_REGNUM)
              break;
-           make_hard_regno_born (regno);
+           make_hard_regno_live (regno);
          }
-#endif
 
       /* Allocnos can't go in stack regs at the start of a basic block
-        that is reached by an abnormal edge. Likewise for call
-        clobbered regs, because caller-save, fixup_abnormal_edges and
-        possibly the table driven EH machinery are not quite ready to
-        handle such allocnos live across such edges.  */
+        that is reached by an abnormal edge. Likewise for registers
+        that are at least partly call clobbered, because caller-save,
+        fixup_abnormal_edges and possibly the table driven EH machinery
+        are not quite ready to handle such allocnos live across such
+        edges.  */
       if (bb_has_abnormal_pred (bb))
        {
 #ifdef STACK_REGS
@@ -1283,15 +1478,30 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
              ALLOCNO_TOTAL_NO_STACK_REG_P (a) = true;
            }
          for (px = FIRST_STACK_REG; px <= LAST_STACK_REG; px++)
-           make_hard_regno_born (px);
+           make_hard_regno_live (px);
 #endif
          /* No need to record conflicts for call clobbered regs if we
             have nonlocal labels around, as we don't ever try to
             allocate such regs in this case.  */
-         if (!cfun->has_nonlocal_label && bb_has_abnormal_call_pred (bb))
+         if (!cfun->has_nonlocal_label
+             && has_abnormal_call_or_eh_pred_edge_p (bb))
            for (px = 0; px < FIRST_PSEUDO_REGISTER; px++)
-             if (call_used_regs[px])
-               make_hard_regno_born (px);
+             if (eh_edge_abi.clobbers_at_least_part_of_reg_p (px)
+#ifdef REAL_PIC_OFFSET_TABLE_REGNUM
+                 /* We should create a conflict of PIC pseudo with
+                    PIC hard reg as PIC hard reg can have a wrong
+                    value after jump described by the abnormal edge.
+                    In this case we cannot allocate PIC hard reg to
+                    PIC pseudo as PIC pseudo will also have a wrong
+                    value.  This code is not critical as LRA can fix
+                    it but it is better to have the right allocation
+                    earlier.  */
+                 || (px == REAL_PIC_OFFSET_TABLE_REGNUM
+                     && pic_offset_table_rtx != NULL_RTX
+                     && REGNO (pic_offset_table_rtx) >= FIRST_PSEUDO_REGISTER)
+#endif
+                 )
+               make_hard_regno_live (px);
        }
 
       EXECUTE_IF_SET_IN_SPARSESET (objects_live, i)
@@ -1300,7 +1510,7 @@ process_bb_node_lives (ira_loop_tree_node_t loop_tree_node)
       curr_point++;
 
     }
-  /* Propagate register pressure to upper loop tree nodes: */
+  /* Propagate register pressure to upper loop tree nodes */
   if (loop_tree_node != ira_loop_tree_root)
     for (i = 0; i < ira_pressure_classes_num; i++)
       {
@@ -1360,32 +1570,31 @@ remove_some_program_points_and_update_live_ranges (void)
   int *map;
   ira_object_t obj;
   ira_object_iterator oi;
-  live_range_t r;
-  sbitmap born_or_dead, born, dead;
+  live_range_t r, prev_r, next_r;
   sbitmap_iterator sbi;
   bool born_p, dead_p, prev_born_p, prev_dead_p;
   
-  born = sbitmap_alloc (ira_max_point);
-  dead = sbitmap_alloc (ira_max_point);
-  sbitmap_zero (born);
-  sbitmap_zero (dead);
+  auto_sbitmap born (ira_max_point);
+  auto_sbitmap dead (ira_max_point);
+  bitmap_clear (born);
+  bitmap_clear (dead);
   FOR_EACH_OBJECT (obj, oi)
     for (r = OBJECT_LIVE_RANGES (obj); r != NULL; r = r->next)
       {
        ira_assert (r->start <= r->finish);
-       SET_BIT (born, r->start);
-       SET_BIT (dead, r->finish);
+       bitmap_set_bit (born, r->start);
+       bitmap_set_bit (dead, r->finish);
       }
 
-  born_or_dead = sbitmap_alloc (ira_max_point);
-  sbitmap_a_or_b (born_or_dead, born, dead);
+  auto_sbitmap born_or_dead (ira_max_point);
+  bitmap_ior (born_or_dead, born, dead);
   map = (int *) ira_allocate (sizeof (int) * ira_max_point);
   n = -1;
   prev_born_p = prev_dead_p = false;
-  EXECUTE_IF_SET_IN_SBITMAP (born_or_dead, 0, i, sbi)
+  EXECUTE_IF_SET_IN_BITMAP (born_or_dead, 0, i, sbi)
     {
-      born_p = TEST_BIT (born, i);
-      dead_p = TEST_BIT (dead, i);
+      born_p = bitmap_bit_p (born, i);
+      dead_p = bitmap_bit_p (dead, i);
       if ((prev_born_p && ! prev_dead_p && born_p && ! dead_p)
          || (prev_dead_p && ! prev_born_p && dead_p && ! born_p))
        map[i] = n;
@@ -1394,9 +1603,7 @@ remove_some_program_points_and_update_live_ranges (void)
       prev_born_p = born_p;
       prev_dead_p = dead_p;
     }
-  sbitmap_free (born_or_dead);
-  sbitmap_free (born);
-  sbitmap_free (dead);
+
   n++;
   if (internal_flag_ira_verbose > 1 && ira_dump_file != NULL)
     fprintf (ira_dump_file, "Compressing live ranges: from %d to %d - %d%%\n",
@@ -1404,10 +1611,19 @@ remove_some_program_points_and_update_live_ranges (void)
   ira_max_point = n;
 
   FOR_EACH_OBJECT (obj, oi)
-    for (r = OBJECT_LIVE_RANGES (obj); r != NULL; r = r->next)
+    for (r = OBJECT_LIVE_RANGES (obj), prev_r = NULL; r != NULL; r = next_r)
       {
+       next_r = r->next;
        r->start = map[r->start];
        r->finish = map[r->finish];
+       if (prev_r == NULL || prev_r->start > r->finish + 1)
+         {
+           prev_r = r;
+           continue;
+         }
+       prev_r->start = r->start;
+       prev_r->next = next_r;
+       ira_finish_live_range (r);
       }
 
   ira_free (map);
@@ -1422,6 +1638,21 @@ ira_print_live_range_list (FILE *f, live_range_t r)
   fprintf (f, "\n");
 }
 
+DEBUG_FUNCTION void
+debug (live_range &ref)
+{
+  ira_print_live_range_list (stderr, &ref);
+}
+
+DEBUG_FUNCTION void
+debug (live_range *ptr)
+{
+  if (ptr)
+    debug (*ptr);
+  else
+    fprintf (stderr, "<nil>\n");
+}
+
 /* Print live ranges R to stderr.  */
 void
 ira_debug_live_range_list (live_range_t r)