LCOV - code coverage report
Current view: top level - gcc - tree-ssa-ccp.c (source / functions) Hit Total Coverage
Test: gcc.info Lines: 1556 1676 92.8 %
Date: 2020-03-28 11:57:23 Functions: 54 56 96.4 %
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: 0 0 -

           Branch data     Line data    Source code
       1                 :            : /* Conditional constant propagation pass for the GNU compiler.
       2                 :            :    Copyright (C) 2000-2020 Free Software Foundation, Inc.
       3                 :            :    Adapted from original RTL SSA-CCP by Daniel Berlin <dberlin@dberlin.org>
       4                 :            :    Adapted to GIMPLE trees by Diego Novillo <dnovillo@redhat.com>
       5                 :            : 
       6                 :            : This file is part of GCC.
       7                 :            : 
       8                 :            : GCC is free software; you can redistribute it and/or modify it
       9                 :            : under the terms of the GNU General Public License as published by the
      10                 :            : Free Software Foundation; either version 3, or (at your option) any
      11                 :            : later version.
      12                 :            : 
      13                 :            : GCC is distributed in the hope that it will be useful, but WITHOUT
      14                 :            : ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
      15                 :            : FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
      16                 :            : for more details.
      17                 :            : 
      18                 :            : You should have received a copy of the GNU General Public License
      19                 :            : along with GCC; see the file COPYING3.  If not see
      20                 :            : <http://www.gnu.org/licenses/>.  */
      21                 :            : 
      22                 :            : /* Conditional constant propagation (CCP) is based on the SSA
      23                 :            :    propagation engine (tree-ssa-propagate.c).  Constant assignments of
      24                 :            :    the form VAR = CST are propagated from the assignments into uses of
      25                 :            :    VAR, which in turn may generate new constants.  The simulation uses
      26                 :            :    a four level lattice to keep track of constant values associated
      27                 :            :    with SSA names.  Given an SSA name V_i, it may take one of the
      28                 :            :    following values:
      29                 :            : 
      30                 :            :         UNINITIALIZED   ->  the initial state of the value.  This value
      31                 :            :                             is replaced with a correct initial value
      32                 :            :                             the first time the value is used, so the
      33                 :            :                             rest of the pass does not need to care about
      34                 :            :                             it.  Using this value simplifies initialization
      35                 :            :                             of the pass, and prevents us from needlessly
      36                 :            :                             scanning statements that are never reached.
      37                 :            : 
      38                 :            :         UNDEFINED       ->  V_i is a local variable whose definition
      39                 :            :                             has not been processed yet.  Therefore we
      40                 :            :                             don't yet know if its value is a constant
      41                 :            :                             or not.
      42                 :            : 
      43                 :            :         CONSTANT        ->  V_i has been found to hold a constant
      44                 :            :                             value C.
      45                 :            : 
      46                 :            :         VARYING         ->  V_i cannot take a constant value, or if it
      47                 :            :                             does, it is not possible to determine it
      48                 :            :                             at compile time.
      49                 :            : 
      50                 :            :    The core of SSA-CCP is in ccp_visit_stmt and ccp_visit_phi_node:
      51                 :            : 
      52                 :            :    1- In ccp_visit_stmt, we are interested in assignments whose RHS
      53                 :            :       evaluates into a constant and conditional jumps whose predicate
      54                 :            :       evaluates into a boolean true or false.  When an assignment of
      55                 :            :       the form V_i = CONST is found, V_i's lattice value is set to
      56                 :            :       CONSTANT and CONST is associated with it.  This causes the
      57                 :            :       propagation engine to add all the SSA edges coming out the
      58                 :            :       assignment into the worklists, so that statements that use V_i
      59                 :            :       can be visited.
      60                 :            : 
      61                 :            :       If the statement is a conditional with a constant predicate, we
      62                 :            :       mark the outgoing edges as executable or not executable
      63                 :            :       depending on the predicate's value.  This is then used when
      64                 :            :       visiting PHI nodes to know when a PHI argument can be ignored.
      65                 :            : 
      66                 :            : 
      67                 :            :    2- In ccp_visit_phi_node, if all the PHI arguments evaluate to the
      68                 :            :       same constant C, then the LHS of the PHI is set to C.  This
      69                 :            :       evaluation is known as the "meet operation".  Since one of the
      70                 :            :       goals of this evaluation is to optimistically return constant
      71                 :            :       values as often as possible, it uses two main short cuts:
      72                 :            : 
      73                 :            :       - If an argument is flowing in through a non-executable edge, it
      74                 :            :         is ignored.  This is useful in cases like this:
      75                 :            : 
      76                 :            :                         if (PRED)
      77                 :            :                           a_9 = 3;
      78                 :            :                         else
      79                 :            :                           a_10 = 100;
      80                 :            :                         a_11 = PHI (a_9, a_10)
      81                 :            : 
      82                 :            :         If PRED is known to always evaluate to false, then we can
      83                 :            :         assume that a_11 will always take its value from a_10, meaning
      84                 :            :         that instead of consider it VARYING (a_9 and a_10 have
      85                 :            :         different values), we can consider it CONSTANT 100.
      86                 :            : 
      87                 :            :       - If an argument has an UNDEFINED value, then it does not affect
      88                 :            :         the outcome of the meet operation.  If a variable V_i has an
      89                 :            :         UNDEFINED value, it means that either its defining statement
      90                 :            :         hasn't been visited yet or V_i has no defining statement, in
      91                 :            :         which case the original symbol 'V' is being used
      92                 :            :         uninitialized.  Since 'V' is a local variable, the compiler
      93                 :            :         may assume any initial value for it.
      94                 :            : 
      95                 :            : 
      96                 :            :    After propagation, every variable V_i that ends up with a lattice
      97                 :            :    value of CONSTANT will have the associated constant value in the
      98                 :            :    array CONST_VAL[i].VALUE.  That is fed into substitute_and_fold for
      99                 :            :    final substitution and folding.
     100                 :            : 
     101                 :            :    This algorithm uses wide-ints at the max precision of the target.
     102                 :            :    This means that, with one uninteresting exception, variables with
     103                 :            :    UNSIGNED types never go to VARYING because the bits above the
     104                 :            :    precision of the type of the variable are always zero.  The
     105                 :            :    uninteresting case is a variable of UNSIGNED type that has the
     106                 :            :    maximum precision of the target.  Such variables can go to VARYING,
     107                 :            :    but this causes no loss of infomation since these variables will
     108                 :            :    never be extended.
     109                 :            : 
     110                 :            :    References:
     111                 :            : 
     112                 :            :      Constant propagation with conditional branches,
     113                 :            :      Wegman and Zadeck, ACM TOPLAS 13(2):181-210.
     114                 :            : 
     115                 :            :      Building an Optimizing Compiler,
     116                 :            :      Robert Morgan, Butterworth-Heinemann, 1998, Section 8.9.
     117                 :            : 
     118                 :            :      Advanced Compiler Design and Implementation,
     119                 :            :      Steven Muchnick, Morgan Kaufmann, 1997, Section 12.6  */
     120                 :            : 
     121                 :            : #include "config.h"
     122                 :            : #include "system.h"
     123                 :            : #include "coretypes.h"
     124                 :            : #include "backend.h"
     125                 :            : #include "target.h"
     126                 :            : #include "tree.h"
     127                 :            : #include "gimple.h"
     128                 :            : #include "tree-pass.h"
     129                 :            : #include "ssa.h"
     130                 :            : #include "gimple-pretty-print.h"
     131                 :            : #include "fold-const.h"
     132                 :            : #include "gimple-fold.h"
     133                 :            : #include "tree-eh.h"
     134                 :            : #include "gimplify.h"
     135                 :            : #include "gimple-iterator.h"
     136                 :            : #include "tree-cfg.h"
     137                 :            : #include "tree-ssa-propagate.h"
     138                 :            : #include "dbgcnt.h"
     139                 :            : #include "builtins.h"
     140                 :            : #include "cfgloop.h"
     141                 :            : #include "stor-layout.h"
     142                 :            : #include "optabs-query.h"
     143                 :            : #include "tree-ssa-ccp.h"
     144                 :            : #include "tree-dfa.h"
     145                 :            : #include "diagnostic-core.h"
     146                 :            : #include "stringpool.h"
     147                 :            : #include "attribs.h"
     148                 :            : #include "tree-vector-builder.h"
     149                 :            : #include "cgraph.h"
     150                 :            : #include "alloc-pool.h"
     151                 :            : #include "symbol-summary.h"
     152                 :            : #include "ipa-utils.h"
     153                 :            : #include "ipa-prop.h"
     154                 :            : 
     155                 :            : /* Possible lattice values.  */
     156                 :            : typedef enum
     157                 :            : {
     158                 :            :   UNINITIALIZED,
     159                 :            :   UNDEFINED,
     160                 :            :   CONSTANT,
     161                 :            :   VARYING
     162                 :            : } ccp_lattice_t;
     163                 :            : 
     164                 :  565335000 : class ccp_prop_value_t {
     165                 :            : public:
     166                 :            :     /* Lattice value.  */
     167                 :            :     ccp_lattice_t lattice_val;
     168                 :            : 
     169                 :            :     /* Propagated value.  */
     170                 :            :     tree value;
     171                 :            : 
     172                 :            :     /* Mask that applies to the propagated value during CCP.  For X
     173                 :            :        with a CONSTANT lattice value X & ~mask == value & ~mask.  The
     174                 :            :        zero bits in the mask cover constant values.  The ones mean no
     175                 :            :        information.  */
     176                 :            :     widest_int mask;
     177                 :            : };
     178                 :            : 
     179                 :    2956380 : class ccp_propagate : public ssa_propagation_engine
     180                 :            : {
     181                 :            :  public:
     182                 :            :   enum ssa_prop_result visit_stmt (gimple *, edge *, tree *) FINAL OVERRIDE;
     183                 :            :   enum ssa_prop_result visit_phi (gphi *) FINAL OVERRIDE;
     184                 :            : };
     185                 :            : 
     186                 :            : /* Array of propagated constant values.  After propagation,
     187                 :            :    CONST_VAL[I].VALUE holds the constant value for SSA_NAME(I).  If
     188                 :            :    the constant is held in an SSA name representing a memory store
     189                 :            :    (i.e., a VDEF), CONST_VAL[I].MEM_REF will contain the actual
     190                 :            :    memory reference used to store (i.e., the LHS of the assignment
     191                 :            :    doing the store).  */
     192                 :            : static ccp_prop_value_t *const_val;
     193                 :            : static unsigned n_const_val;
     194                 :            : 
     195                 :            : static void canonicalize_value (ccp_prop_value_t *);
     196                 :            : static void ccp_lattice_meet (ccp_prop_value_t *, ccp_prop_value_t *);
     197                 :            : 
     198                 :            : /* Dump constant propagation value VAL to file OUTF prefixed by PREFIX.  */
     199                 :            : 
     200                 :            : static void
     201                 :         62 : dump_lattice_value (FILE *outf, const char *prefix, ccp_prop_value_t val)
     202                 :            : {
     203                 :         62 :   switch (val.lattice_val)
     204                 :            :     {
     205                 :          0 :     case UNINITIALIZED:
     206                 :          0 :       fprintf (outf, "%sUNINITIALIZED", prefix);
     207                 :          0 :       break;
     208                 :          0 :     case UNDEFINED:
     209                 :          0 :       fprintf (outf, "%sUNDEFINED", prefix);
     210                 :          0 :       break;
     211                 :         16 :     case VARYING:
     212                 :         16 :       fprintf (outf, "%sVARYING", prefix);
     213                 :         16 :       break;
     214                 :         46 :     case CONSTANT:
     215                 :         46 :       if (TREE_CODE (val.value) != INTEGER_CST
     216                 :         46 :           || val.mask == 0)
     217                 :            :         {
     218                 :         46 :           fprintf (outf, "%sCONSTANT ", prefix);
     219                 :         46 :           print_generic_expr (outf, val.value, dump_flags);
     220                 :            :         }
     221                 :            :       else
     222                 :            :         {
     223                 :          0 :           widest_int cval = wi::bit_and_not (wi::to_widest (val.value),
     224                 :          0 :                                              val.mask);
     225                 :          0 :           fprintf (outf, "%sCONSTANT ", prefix);
     226                 :          0 :           print_hex (cval, outf);
     227                 :          0 :           fprintf (outf, " (");
     228                 :          0 :           print_hex (val.mask, outf);
     229                 :          0 :           fprintf (outf, ")");
     230                 :            :         }
     231                 :            :       break;
     232                 :          0 :     default:
     233                 :          0 :       gcc_unreachable ();
     234                 :            :     }
     235                 :         62 : }
     236                 :            : 
     237                 :            : 
     238                 :            : /* Print lattice value VAL to stderr.  */
     239                 :            : 
     240                 :            : void debug_lattice_value (ccp_prop_value_t val);
     241                 :            : 
     242                 :            : DEBUG_FUNCTION void
     243                 :          0 : debug_lattice_value (ccp_prop_value_t val)
     244                 :            : {
     245                 :          0 :   dump_lattice_value (stderr, "", val);
     246                 :          0 :   fprintf (stderr, "\n");
     247                 :          0 : }
     248                 :            : 
     249                 :            : /* Extend NONZERO_BITS to a full mask, based on sgn.  */ 
     250                 :            : 
     251                 :            : static widest_int
     252                 :   17966000 : extend_mask (const wide_int &nonzero_bits, signop sgn)
     253                 :            : {
     254                 :          0 :   return widest_int::from (nonzero_bits, sgn); 
     255                 :            : }
     256                 :            : 
     257                 :            : /* Compute a default value for variable VAR and store it in the
     258                 :            :    CONST_VAL array.  The following rules are used to get default
     259                 :            :    values:
     260                 :            : 
     261                 :            :    1- Global and static variables that are declared constant are
     262                 :            :       considered CONSTANT.
     263                 :            : 
     264                 :            :    2- Any other value is considered UNDEFINED.  This is useful when
     265                 :            :       considering PHI nodes.  PHI arguments that are undefined do not
     266                 :            :       change the constant value of the PHI node, which allows for more
     267                 :            :       constants to be propagated.
     268                 :            : 
     269                 :            :    3- Variables defined by statements other than assignments and PHI
     270                 :            :       nodes are considered VARYING.
     271                 :            : 
     272                 :            :    4- Initial values of variables that are not GIMPLE registers are
     273                 :            :       considered VARYING.  */
     274                 :            : 
     275                 :            : static ccp_prop_value_t
     276                 :    4877070 : get_default_value (tree var)
     277                 :            : {
     278                 :    4877070 :   ccp_prop_value_t val = { UNINITIALIZED, NULL_TREE, 0 };
     279                 :    4877070 :   gimple *stmt;
     280                 :            : 
     281                 :    4877070 :   stmt = SSA_NAME_DEF_STMT (var);
     282                 :            : 
     283                 :    4877070 :   if (gimple_nop_p (stmt))
     284                 :            :     {
     285                 :            :       /* Variables defined by an empty statement are those used
     286                 :            :          before being initialized.  If VAR is a local variable, we
     287                 :            :          can assume initially that it is UNDEFINED, otherwise we must
     288                 :            :          consider it VARYING.  */
     289                 :    4639700 :       if (!virtual_operand_p (var)
     290                 :    4639700 :           && SSA_NAME_VAR (var)
     291                 :    9279390 :           && TREE_CODE (SSA_NAME_VAR (var)) == VAR_DECL)
     292                 :     645188 :         val.lattice_val = UNDEFINED;
     293                 :            :       else
     294                 :            :         {
     295                 :    3994510 :           val.lattice_val = VARYING;
     296                 :    3994510 :           val.mask = -1;
     297                 :    3994510 :           if (flag_tree_bit_ccp)
     298                 :            :             {
     299                 :    3988430 :               wide_int nonzero_bits = get_nonzero_bits (var);
     300                 :    3988430 :               tree value;
     301                 :    3988430 :               widest_int mask;
     302                 :            : 
     303                 :    3988430 :               if (SSA_NAME_VAR (var)
     304                 :    3988420 :                   && TREE_CODE (SSA_NAME_VAR (var)) == PARM_DECL
     305                 :    3954120 :                   && ipcp_get_parm_bits (SSA_NAME_VAR (var), &value, &mask))
     306                 :            :                 {
     307                 :      32614 :                   val.lattice_val = CONSTANT;
     308                 :      32614 :                   val.value = value;
     309                 :      32614 :                   val.mask = mask;
     310                 :      32614 :                   if (nonzero_bits != -1)
     311                 :      61708 :                     val.mask &= extend_mask (nonzero_bits,
     312                 :      30854 :                                              TYPE_SIGN (TREE_TYPE (var)));
     313                 :            :                 }
     314                 :    7944250 :               else if (nonzero_bits != -1)
     315                 :            :                 {
     316                 :       2984 :                   val.lattice_val = CONSTANT;
     317                 :       2984 :                   val.value = build_zero_cst (TREE_TYPE (var));
     318                 :       2984 :                   val.mask = extend_mask (nonzero_bits,
     319                 :       2984 :                                           TYPE_SIGN (TREE_TYPE (var)));
     320                 :            :                 }
     321                 :            :             }
     322                 :            :         }
     323                 :            :     }
     324                 :     237366 :   else if (is_gimple_assign (stmt))
     325                 :            :     {
     326                 :     197155 :       tree cst;
     327                 :     313496 :       if (gimple_assign_single_p (stmt)
     328                 :     116341 :           && DECL_P (gimple_assign_rhs1 (stmt))
     329                 :       7769 :           && (cst = get_symbol_constant_value (gimple_assign_rhs1 (stmt))))
     330                 :            :         {
     331                 :         71 :           val.lattice_val = CONSTANT;
     332                 :         71 :           val.value = cst;
     333                 :            :         }
     334                 :            :       else
     335                 :            :         {
     336                 :            :           /* Any other variable defined by an assignment is considered
     337                 :            :              UNDEFINED.  */
     338                 :     197084 :           val.lattice_val = UNDEFINED;
     339                 :            :         }
     340                 :            :     }
     341                 :      40211 :   else if ((is_gimple_call (stmt)
     342                 :      27801 :             && gimple_call_lhs (stmt) != NULL_TREE)
     343                 :      40211 :            || gimple_code (stmt) == GIMPLE_PHI)
     344                 :            :     {
     345                 :            :       /* A variable defined by a call or a PHI node is considered
     346                 :            :          UNDEFINED.  */
     347                 :      40177 :       val.lattice_val = UNDEFINED;
     348                 :            :     }
     349                 :            :   else
     350                 :            :     {
     351                 :            :       /* Otherwise, VAR will never take on a constant value.  */
     352                 :         34 :       val.lattice_val = VARYING;
     353                 :         34 :       val.mask = -1;
     354                 :            :     }
     355                 :            : 
     356                 :    4877070 :   return val;
     357                 :            : }
     358                 :            : 
     359                 :            : 
     360                 :            : /* Get the constant value associated with variable VAR.  */
     361                 :            : 
     362                 :            : static inline ccp_prop_value_t *
     363                 :  740614000 : get_value (tree var)
     364                 :            : {
     365                 :  740614000 :   ccp_prop_value_t *val;
     366                 :            : 
     367                 :  740614000 :   if (const_val == NULL
     368                 : 1481230000 :       || SSA_NAME_VERSION (var) >= n_const_val)
     369                 :            :     return NULL;
     370                 :            : 
     371                 :  740614000 :   val = &const_val[SSA_NAME_VERSION (var)];
     372                 :  740614000 :   if (val->lattice_val == UNINITIALIZED)
     373                 :    4877070 :     *val = get_default_value (var);
     374                 :            : 
     375                 :  740614000 :   canonicalize_value (val);
     376                 :            : 
     377                 :  740614000 :   return val;
     378                 :            : }
     379                 :            : 
     380                 :            : /* Return the constant tree value associated with VAR.  */
     381                 :            : 
     382                 :            : static inline tree
     383                 :  422393000 : get_constant_value (tree var)
     384                 :            : {
     385                 :  422393000 :   ccp_prop_value_t *val;
     386                 :  422393000 :   if (TREE_CODE (var) != SSA_NAME)
     387                 :            :     {
     388                 :        819 :       if (is_gimple_min_invariant (var))
     389                 :            :         return var;
     390                 :          0 :       return NULL_TREE;
     391                 :            :     }
     392                 :  422392000 :   val = get_value (var);
     393                 :  422392000 :   if (val
     394                 :  422392000 :       && val->lattice_val == CONSTANT
     395                 :  547457000 :       && (TREE_CODE (val->value) != INTEGER_CST
     396                 :  103417000 :           || val->mask == 0))
     397                 :   32479000 :     return val->value;
     398                 :            :   return NULL_TREE;
     399                 :            : }
     400                 :            : 
     401                 :            : /* Sets the value associated with VAR to VARYING.  */
     402                 :            : 
     403                 :            : static inline void
     404                 :   31708600 : set_value_varying (tree var)
     405                 :            : {
     406                 :   31708600 :   ccp_prop_value_t *val = &const_val[SSA_NAME_VERSION (var)];
     407                 :            : 
     408                 :   31708600 :   val->lattice_val = VARYING;
     409                 :   31708600 :   val->value = NULL_TREE;
     410                 :   31708600 :   val->mask = -1;
     411                 :   31708600 : }
     412                 :            : 
     413                 :            : /* For integer constants, make sure to drop TREE_OVERFLOW.  */
     414                 :            : 
     415                 :            : static void
     416                 :  933327000 : canonicalize_value (ccp_prop_value_t *val)
     417                 :            : {
     418                 :  933327000 :   if (val->lattice_val != CONSTANT)
     419                 :            :     return;
     420                 :            : 
     421                 :  484903000 :   if (TREE_OVERFLOW_P (val->value))
     422                 :        890 :     val->value = drop_tree_overflow (val->value);
     423                 :            : }
     424                 :            : 
     425                 :            : /* Return whether the lattice transition is valid.  */
     426                 :            : 
     427                 :            : static bool
     428                 :  125943000 : valid_lattice_transition (ccp_prop_value_t old_val, ccp_prop_value_t new_val)
     429                 :            : {
     430                 :            :   /* Lattice transitions must always be monotonically increasing in
     431                 :            :      value.  */
     432                 :  125943000 :   if (old_val.lattice_val < new_val.lattice_val)
     433                 :            :     return true;
     434                 :            : 
     435                 :   78256100 :   if (old_val.lattice_val != new_val.lattice_val)
     436                 :            :     return false;
     437                 :            : 
     438                 :   78256100 :   if (!old_val.value && !new_val.value)
     439                 :            :     return true;
     440                 :            : 
     441                 :            :   /* Now both lattice values are CONSTANT.  */
     442                 :            : 
     443                 :            :   /* Allow arbitrary copy changes as we might look through PHI <a_1, ...>
     444                 :            :      when only a single copy edge is executable.  */
     445                 :   78242600 :   if (TREE_CODE (old_val.value) == SSA_NAME
     446                 :       7821 :       && TREE_CODE (new_val.value) == SSA_NAME)
     447                 :            :     return true;
     448                 :            : 
     449                 :            :   /* Allow transitioning from a constant to a copy.  */
     450                 :   78234800 :   if (is_gimple_min_invariant (old_val.value)
     451                 :   78234800 :       && TREE_CODE (new_val.value) == SSA_NAME)
     452                 :            :     return true;
     453                 :            : 
     454                 :            :   /* Allow transitioning from PHI <&x, not executable> == &x
     455                 :            :      to PHI <&x, &y> == common alignment.  */
     456                 :   78234800 :   if (TREE_CODE (old_val.value) != INTEGER_CST
     457                 :     101057 :       && TREE_CODE (new_val.value) == INTEGER_CST)
     458                 :            :     return true;
     459                 :            : 
     460                 :            :   /* Bit-lattices have to agree in the still valid bits.  */
     461                 :   78146900 :   if (TREE_CODE (old_val.value) == INTEGER_CST
     462                 :   78133700 :       && TREE_CODE (new_val.value) == INTEGER_CST)
     463                 :   78133700 :     return (wi::bit_and_not (wi::to_widest (old_val.value), new_val.mask)
     464                 :  156267000 :             == wi::bit_and_not (wi::to_widest (new_val.value), new_val.mask));
     465                 :            : 
     466                 :            :   /* Otherwise constant values have to agree.  */
     467                 :      13189 :   if (operand_equal_p (old_val.value, new_val.value, 0))
     468                 :            :     return true;
     469                 :            : 
     470                 :            :   /* At least the kinds and types should agree now.  */
     471                 :          0 :   if (TREE_CODE (old_val.value) != TREE_CODE (new_val.value)
     472                 :          0 :       || !types_compatible_p (TREE_TYPE (old_val.value),
     473                 :          0 :                               TREE_TYPE (new_val.value)))
     474                 :          0 :     return false;
     475                 :            : 
     476                 :            :   /* For floats and !HONOR_NANS allow transitions from (partial) NaN
     477                 :            :      to non-NaN.  */
     478                 :          0 :   tree type = TREE_TYPE (new_val.value);
     479                 :          0 :   if (SCALAR_FLOAT_TYPE_P (type)
     480                 :          0 :       && !HONOR_NANS (type))
     481                 :            :     {
     482                 :          0 :       if (REAL_VALUE_ISNAN (TREE_REAL_CST (old_val.value)))
     483                 :          0 :         return true;
     484                 :            :     }
     485                 :          0 :   else if (VECTOR_FLOAT_TYPE_P (type)
     486                 :          0 :            && !HONOR_NANS (type))
     487                 :            :     {
     488                 :          0 :       unsigned int count
     489                 :          0 :         = tree_vector_builder::binary_encoded_nelts (old_val.value,
     490                 :            :                                                      new_val.value);
     491                 :          0 :       for (unsigned int i = 0; i < count; ++i)
     492                 :          0 :         if (!REAL_VALUE_ISNAN
     493                 :            :                (TREE_REAL_CST (VECTOR_CST_ENCODED_ELT (old_val.value, i)))
     494                 :          0 :             && !operand_equal_p (VECTOR_CST_ENCODED_ELT (old_val.value, i),
     495                 :          0 :                                  VECTOR_CST_ENCODED_ELT (new_val.value, i), 0))
     496                 :            :           return false;
     497                 :            :       return true;
     498                 :            :     }
     499                 :          0 :   else if (COMPLEX_FLOAT_TYPE_P (type)
     500                 :          0 :            && !HONOR_NANS (type))
     501                 :            :     {
     502                 :          0 :       if (!REAL_VALUE_ISNAN (TREE_REAL_CST (TREE_REALPART (old_val.value)))
     503                 :          0 :           && !operand_equal_p (TREE_REALPART (old_val.value),
     504                 :          0 :                                TREE_REALPART (new_val.value), 0))
     505                 :            :         return false;
     506                 :          0 :       if (!REAL_VALUE_ISNAN (TREE_REAL_CST (TREE_IMAGPART (old_val.value)))
     507                 :          0 :           && !operand_equal_p (TREE_IMAGPART (old_val.value),
     508                 :          0 :                                TREE_IMAGPART (new_val.value), 0))
     509                 :            :         return false;
     510                 :          0 :       return true;
     511                 :            :     }
     512                 :            :   return false;
     513                 :            : }
     514                 :            : 
     515                 :            : /* Set the value for variable VAR to NEW_VAL.  Return true if the new
     516                 :            :    value is different from VAR's previous value.  */
     517                 :            : 
     518                 :            : static bool
     519                 :  125943000 : set_lattice_value (tree var, ccp_prop_value_t *new_val)
     520                 :            : {
     521                 :            :   /* We can deal with old UNINITIALIZED values just fine here.  */
     522                 :  125943000 :   ccp_prop_value_t *old_val = &const_val[SSA_NAME_VERSION (var)];
     523                 :            : 
     524                 :  125943000 :   canonicalize_value (new_val);
     525                 :            : 
     526                 :            :   /* We have to be careful to not go up the bitwise lattice
     527                 :            :      represented by the mask.  Instead of dropping to VARYING
     528                 :            :      use the meet operator to retain a conservative value.
     529                 :            :      Missed optimizations like PR65851 makes this necessary.
     530                 :            :      It also ensures we converge to a stable lattice solution.  */
     531                 :  125943000 :   if (old_val->lattice_val != UNINITIALIZED)
     532                 :   81663600 :     ccp_lattice_meet (new_val, old_val);
     533                 :            : 
     534                 :  125943000 :   gcc_checking_assert (valid_lattice_transition (*old_val, *new_val));
     535                 :            : 
     536                 :            :   /* If *OLD_VAL and NEW_VAL are the same, return false to inform the
     537                 :            :      caller that this was a non-transition.  */
     538                 :  125943000 :   if (old_val->lattice_val != new_val->lattice_val
     539                 :  125943000 :       || (new_val->lattice_val == CONSTANT
     540                 :   78242600 :           && (TREE_CODE (new_val->value) != TREE_CODE (old_val->value)
     541                 :   78154700 :               || (TREE_CODE (new_val->value) == INTEGER_CST
     542                 :  156127000 :                   && (new_val->mask != old_val->mask
     543                 :   10673000 :                       || (wi::bit_and_not (wi::to_widest (old_val->value),
     544                 :   10673000 :                                            new_val->mask)
     545                 :   21380700 :                           != wi::bit_and_not (wi::to_widest (new_val->value),
     546                 :   10673000 :                                               new_val->mask))))
     547                 :   10694100 :               || (TREE_CODE (new_val->value) != INTEGER_CST
     548                 :      21010 :                   && !operand_equal_p (new_val->value, old_val->value, 0)))))
     549                 :            :     {
     550                 :            :       /* ???  We would like to delay creation of INTEGER_CSTs from
     551                 :            :          partially constants here.  */
     552                 :            : 
     553                 :  115236000 :       if (dump_file && (dump_flags & TDF_DETAILS))
     554                 :            :         {
     555                 :         54 :           dump_lattice_value (dump_file, "Lattice value changed to ", *new_val);
     556                 :         54 :           fprintf (dump_file, ".  Adding SSA edges to worklist.\n");
     557                 :            :         }
     558                 :            : 
     559                 :  115236000 :       *old_val = *new_val;
     560                 :            : 
     561                 :  115236000 :       gcc_assert (new_val->lattice_val != UNINITIALIZED);
     562                 :            :       return true;
     563                 :            :     }
     564                 :            : 
     565                 :            :   return false;
     566                 :            : }
     567                 :            : 
     568                 :            : static ccp_prop_value_t get_value_for_expr (tree, bool);
     569                 :            : static ccp_prop_value_t bit_value_binop (enum tree_code, tree, tree, tree);
     570                 :            : void bit_value_binop (enum tree_code, signop, int, widest_int *, widest_int *,
     571                 :            :                       signop, int, const widest_int &, const widest_int &,
     572                 :            :                       signop, int, const widest_int &, const widest_int &);
     573                 :            : 
     574                 :            : /* Return a widest_int that can be used for bitwise simplifications
     575                 :            :    from VAL.  */
     576                 :            : 
     577                 :            : static widest_int
     578                 :  141288000 : value_to_wide_int (ccp_prop_value_t val)
     579                 :            : {
     580                 :  141288000 :   if (val.value
     581                 :  109953000 :       && TREE_CODE (val.value) == INTEGER_CST)
     582                 :  109953000 :     return wi::to_widest (val.value);
     583                 :            : 
     584                 :   31335000 :   return 0;
     585                 :            : }
     586                 :            : 
     587                 :            : /* Return the value for the address expression EXPR based on alignment
     588                 :            :    information.  */
     589                 :            : 
     590                 :            : static ccp_prop_value_t
     591                 :    2601970 : get_value_from_alignment (tree expr)
     592                 :            : {
     593                 :    2601970 :   tree type = TREE_TYPE (expr);
     594                 :    2601970 :   ccp_prop_value_t val;
     595                 :    2601970 :   unsigned HOST_WIDE_INT bitpos;
     596                 :    2601970 :   unsigned int align;
     597                 :            : 
     598                 :    2601970 :   gcc_assert (TREE_CODE (expr) == ADDR_EXPR);
     599                 :            : 
     600                 :    2601970 :   get_pointer_alignment_1 (expr, &align, &bitpos);
     601                 :    5203940 :   val.mask = wi::bit_and_not
     602                 :          0 :     (POINTER_TYPE_P (type) || TYPE_UNSIGNED (type)
     603                 :    2601970 :      ? wi::mask <widest_int> (TYPE_PRECISION (type), false)
     604                 :          0 :      : -1,
     605                 :    5203940 :      align / BITS_PER_UNIT - 1);
     606                 :    2601970 :   val.lattice_val
     607                 :    4145540 :     = wi::sext (val.mask, TYPE_PRECISION (type)) == -1 ? VARYING : CONSTANT;
     608                 :    2601970 :   if (val.lattice_val == CONSTANT)
     609                 :    1058400 :     val.value = build_int_cstu (type, bitpos / BITS_PER_UNIT);
     610                 :            :   else
     611                 :    1543570 :     val.value = NULL_TREE;
     612                 :            : 
     613                 :    2601970 :   return val;
     614                 :            : }
     615                 :            : 
     616                 :            : /* Return the value for the tree operand EXPR.  If FOR_BITS_P is true
     617                 :            :    return constant bits extracted from alignment information for
     618                 :            :    invariant addresses.  */
     619                 :            : 
     620                 :            : static ccp_prop_value_t
     621                 :  229635000 : get_value_for_expr (tree expr, bool for_bits_p)
     622                 :            : {
     623                 :  229635000 :   ccp_prop_value_t val;
     624                 :            : 
     625                 :  229635000 :   if (TREE_CODE (expr) == SSA_NAME)
     626                 :            :     {
     627                 :  148069000 :       ccp_prop_value_t *val_ = get_value (expr);
     628                 :  148069000 :       if (val_)
     629                 :  148069000 :         val = *val_;
     630                 :            :       else
     631                 :            :         {
     632                 :        168 :           val.lattice_val = VARYING;
     633                 :        168 :           val.value = NULL_TREE;
     634                 :        168 :           val.mask = -1;
     635                 :            :         }
     636                 :  148069000 :       if (for_bits_p
     637                 :   94617000 :           && val.lattice_val == CONSTANT)
     638                 :            :         {
     639                 :   63370200 :           if (TREE_CODE (val.value) == ADDR_EXPR)
     640                 :      77008 :             val = get_value_from_alignment (val.value);
     641                 :   63293200 :           else if (TREE_CODE (val.value) != INTEGER_CST)
     642                 :            :             {
     643                 :    4782880 :               val.lattice_val = VARYING;
     644                 :    4782880 :               val.value = NULL_TREE;
     645                 :    4782880 :               val.mask = -1;
     646                 :            :             }
     647                 :            :         }
     648                 :            :       /* Fall back to a copy value.  */
     649                 :  148069000 :       if (!for_bits_p
     650                 :   53451900 :           && val.lattice_val == VARYING
     651                 :  151917000 :           && !SSA_NAME_OCCURS_IN_ABNORMAL_PHI (expr))
     652                 :            :         {
     653                 :    3845740 :           val.lattice_val = CONSTANT;
     654                 :    3845740 :           val.value = expr;
     655                 :    3845740 :           val.mask = -1;
     656                 :            :         }
     657                 :            :     }
     658                 :   81566300 :   else if (is_gimple_min_invariant (expr)
     659                 :   81566300 :            && (!for_bits_p || TREE_CODE (expr) == INTEGER_CST))
     660                 :            :     {
     661                 :   66769600 :       val.lattice_val = CONSTANT;
     662                 :   66769600 :       val.value = expr;
     663                 :   66769600 :       val.mask = 0;
     664                 :   66769600 :       canonicalize_value (&val);
     665                 :            :     }
     666                 :   14796800 :   else if (TREE_CODE (expr) == ADDR_EXPR)
     667                 :    2524960 :     val = get_value_from_alignment (expr);
     668                 :            :   else
     669                 :            :     {
     670                 :   12271800 :       val.lattice_val = VARYING;
     671                 :   12271800 :       val.mask = -1;
     672                 :   12271800 :       val.value = NULL_TREE;
     673                 :            :     }
     674                 :            : 
     675                 :  229635000 :   if (val.lattice_val == VARYING
     676                 :  279446000 :       && TYPE_UNSIGNED (TREE_TYPE (expr)))
     677                 :   31827300 :     val.mask = wi::zext (val.mask, TYPE_PRECISION (TREE_TYPE (expr)));
     678                 :            : 
     679                 :  229635000 :   return val;
     680                 :            : }
     681                 :            : 
     682                 :            : /* Return the likely CCP lattice value for STMT.
     683                 :            : 
     684                 :            :    If STMT has no operands, then return CONSTANT.
     685                 :            : 
     686                 :            :    Else if undefinedness of operands of STMT cause its value to be
     687                 :            :    undefined, then return UNDEFINED.
     688                 :            : 
     689                 :            :    Else if any operands of STMT are constants, then return CONSTANT.
     690                 :            : 
     691                 :            :    Else return VARYING.  */
     692                 :            : 
     693                 :            : static ccp_lattice_t
     694                 :  110336000 : likely_value (gimple *stmt)
     695                 :            : {
     696                 :  110336000 :   bool has_constant_operand, has_undefined_operand, all_undefined_operands;
     697                 :  110336000 :   bool has_nsa_operand;
     698                 :  110336000 :   tree use;
     699                 :  110336000 :   ssa_op_iter iter;
     700                 :  110336000 :   unsigned i;
     701                 :            : 
     702                 :  110336000 :   enum gimple_code code = gimple_code (stmt);
     703                 :            : 
     704                 :            :   /* This function appears to be called only for assignments, calls,
     705                 :            :      conditionals, and switches, due to the logic in visit_stmt.  */
     706                 :  110336000 :   gcc_assert (code == GIMPLE_ASSIGN
     707                 :            :               || code == GIMPLE_CALL
     708                 :            :               || code == GIMPLE_COND
     709                 :            :               || code == GIMPLE_SWITCH);
     710                 :            : 
     711                 :            :   /* If the statement has volatile operands, it won't fold to a
     712                 :            :      constant value.  */
     713                 :  201840000 :   if (gimple_has_volatile_ops (stmt))
     714                 :            :     return VARYING;
     715                 :            : 
     716                 :            :   /* Arrive here for more complex cases.  */
     717                 :  110336000 :   has_constant_operand = false;
     718                 :  110336000 :   has_undefined_operand = false;
     719                 :  110336000 :   all_undefined_operands = true;
     720                 :  110336000 :   has_nsa_operand = false;
     721                 :  225199000 :   FOR_EACH_SSA_TREE_OPERAND (use, stmt, iter, SSA_OP_USE)
     722                 :            :     {
     723                 :  114863000 :       ccp_prop_value_t *val = get_value (use);
     724                 :            : 
     725                 :  114863000 :       if (val && val->lattice_val == UNDEFINED)
     726                 :            :         has_undefined_operand = true;
     727                 :            :       else
     728                 :  114704000 :         all_undefined_operands = false;
     729                 :            : 
     730                 :  114863000 :       if (val && val->lattice_val == CONSTANT)
     731                 :   71771700 :         has_constant_operand = true;
     732                 :            : 
     733                 :  114863000 :       if (SSA_NAME_IS_DEFAULT_DEF (use)
     734                 :  114863000 :           || !prop_simulate_again_p (SSA_NAME_DEF_STMT (use)))
     735                 :            :         has_nsa_operand = true;
     736                 :            :     }
     737                 :            : 
     738                 :            :   /* There may be constants in regular rhs operands.  For calls we
     739                 :            :      have to ignore lhs, fndecl and static chain, otherwise only
     740                 :            :      the lhs.  */
     741                 :  440597000 :   for (i = (is_gimple_call (stmt) ? 2 : 0) + gimple_has_lhs (stmt);
     742                 :  330260000 :        i < gimple_num_ops (stmt); ++i)
     743                 :            :     {
     744                 :  219924000 :       tree op = gimple_op (stmt, i);
     745                 :  219924000 :       if (!op || TREE_CODE (op) == SSA_NAME)
     746                 :  142558000 :         continue;
     747                 :   77366100 :       if (is_gimple_min_invariant (op))
     748                 :   61958000 :         has_constant_operand = true;
     749                 :            :     }
     750                 :            : 
     751                 :  110336000 :   if (has_constant_operand)
     752                 :   85694400 :     all_undefined_operands = false;
     753                 :            : 
     754                 :  110336000 :   if (has_undefined_operand
     755                 :  110336000 :       && code == GIMPLE_CALL
     756                 :  110336000 :       && gimple_call_internal_p (stmt))
     757                 :      16232 :     switch (gimple_call_internal_fn (stmt))
     758                 :            :       {
     759                 :            :         /* These 3 builtins use the first argument just as a magic
     760                 :            :            way how to find out a decl uid.  */
     761                 :      16152 :       case IFN_GOMP_SIMD_LANE:
     762                 :      16152 :       case IFN_GOMP_SIMD_VF:
     763                 :      16152 :       case IFN_GOMP_SIMD_LAST_LANE:
     764                 :      16152 :         has_undefined_operand = false;
     765                 :      16152 :         break;
     766                 :            :       default:
     767                 :            :         break;
     768                 :            :       }
     769                 :            : 
     770                 :            :   /* If the operation combines operands like COMPLEX_EXPR make sure to
     771                 :            :      not mark the result UNDEFINED if only one part of the result is
     772                 :            :      undefined.  */
     773                 :  110336000 :   if (has_undefined_operand && all_undefined_operands)
     774                 :            :     return UNDEFINED;
     775                 :  110278000 :   else if (code == GIMPLE_ASSIGN && has_undefined_operand)
     776                 :            :     {
     777                 :      29937 :       switch (gimple_assign_rhs_code (stmt))
     778                 :            :         {
     779                 :            :         /* Unary operators are handled with all_undefined_operands.  */
     780                 :            :         case PLUS_EXPR:
     781                 :            :         case MINUS_EXPR:
     782                 :            :         case POINTER_PLUS_EXPR:
     783                 :            :         case BIT_XOR_EXPR:
     784                 :            :           /* Not MIN_EXPR, MAX_EXPR.  One VARYING operand may be selected.
     785                 :            :              Not bitwise operators, one VARYING operand may specify the
     786                 :            :              result completely.
     787                 :            :              Not logical operators for the same reason, apart from XOR.
     788                 :            :              Not COMPLEX_EXPR as one VARYING operand makes the result partly
     789                 :            :              not UNDEFINED.  Not *DIV_EXPR, comparisons and shifts because
     790                 :            :              the undefined operand may be promoted.  */
     791                 :            :           return UNDEFINED;
     792                 :            : 
     793                 :            :         case ADDR_EXPR:
     794                 :            :           /* If any part of an address is UNDEFINED, like the index
     795                 :            :              of an ARRAY_EXPR, then treat the result as UNDEFINED.  */
     796                 :            :           return UNDEFINED;
     797                 :            : 
     798                 :            :         default:
     799                 :            :           ;
     800                 :            :         }
     801                 :            :     }
     802                 :            :   /* If there was an UNDEFINED operand but the result may be not UNDEFINED
     803                 :            :      fall back to CONSTANT.  During iteration UNDEFINED may still drop
     804                 :            :      to CONSTANT.  */
     805                 :  110260000 :   if (has_undefined_operand)
     806                 :            :     return CONSTANT;
     807                 :            : 
     808                 :            :   /* We do not consider virtual operands here -- load from read-only
     809                 :            :      memory may have only VARYING virtual operands, but still be
     810                 :            :      constant.  Also we can combine the stmt with definitions from
     811                 :            :      operands whose definitions are not simulated again.  */
     812                 :  110205000 :   if (has_constant_operand
     813                 :  110205000 :       || has_nsa_operand
     814                 :  110205000 :       || gimple_references_memory_p (stmt))
     815                 :  110135000 :     return CONSTANT;
     816                 :            : 
     817                 :            :   return VARYING;
     818                 :            : }
     819                 :            : 
     820                 :            : /* Returns true if STMT cannot be constant.  */
     821                 :            : 
     822                 :            : static bool
     823                 :  151458000 : surely_varying_stmt_p (gimple *stmt)
     824                 :            : {
     825                 :            :   /* If the statement has operands that we cannot handle, it cannot be
     826                 :            :      constant.  */
     827                 :  219682000 :   if (gimple_has_volatile_ops (stmt))
     828                 :            :     return true;
     829                 :            : 
     830                 :            :   /* If it is a call and does not return a value or is not a
     831                 :            :      builtin and not an indirect call or a call to function with
     832                 :            :      assume_aligned/alloc_align attribute, it is varying.  */
     833                 :  146017000 :   if (is_gimple_call (stmt))
     834                 :            :     {
     835                 :    8741840 :       tree fndecl, fntype = gimple_call_fntype (stmt);
     836                 :    8741840 :       if (!gimple_call_lhs (stmt)
     837                 :    8741840 :           || ((fndecl = gimple_call_fndecl (stmt)) != NULL_TREE
     838                 :    3159440 :               && !fndecl_built_in_p (fndecl)
     839                 :    1976970 :               && !lookup_attribute ("assume_aligned",
     840                 :    1976970 :                                     TYPE_ATTRIBUTES (fntype))
     841                 :    1976940 :               && !lookup_attribute ("alloc_align",
     842                 :    1976940 :                                     TYPE_ATTRIBUTES (fntype))))
     843                 :    7071560 :         return true;
     844                 :            :     }
     845                 :            : 
     846                 :            :   /* Any other store operation is not interesting.  */
     847                 :  191317000 :   else if (gimple_vdef (stmt))
     848                 :            :     return true;
     849                 :            : 
     850                 :            :   /* Anything other than assignments and conditional jumps are not
     851                 :            :      interesting for CCP.  */
     852                 :  123132000 :   if (gimple_code (stmt) != GIMPLE_ASSIGN
     853                 :   85045500 :       && gimple_code (stmt) != GIMPLE_COND
     854                 :   85045500 :       && gimple_code (stmt) != GIMPLE_SWITCH
     855                 :  208177000 :       && gimple_code (stmt) != GIMPLE_CALL)
     856                 :   83375300 :     return true;
     857                 :            : 
     858                 :            :   return false;
     859                 :            : }
     860                 :            : 
     861                 :            : /* Initialize local data structures for CCP.  */
     862                 :            : 
     863                 :            : static void
     864                 :    2956380 : ccp_initialize (void)
     865                 :            : {
     866                 :    2956380 :   basic_block bb;
     867                 :            : 
     868                 :    2956380 :   n_const_val = num_ssa_names;
     869                 :    2956380 :   const_val = XCNEWVEC (ccp_prop_value_t, n_const_val);
     870                 :            : 
     871                 :            :   /* Initialize simulation flags for PHI nodes and statements.  */
     872                 :   25651500 :   FOR_EACH_BB_FN (bb, cfun)
     873                 :            :     {
     874                 :   22695100 :       gimple_stmt_iterator i;
     875                 :            : 
     876                 :  212321000 :       for (i = gsi_start_bb (bb); !gsi_end_p (i); gsi_next (&i))
     877                 :            :         {
     878                 :  166930000 :           gimple *stmt = gsi_stmt (i);
     879                 :  166930000 :           bool is_varying;
     880                 :            : 
     881                 :            :           /* If the statement is a control insn, then we do not
     882                 :            :              want to avoid simulating the statement once.  Failure
     883                 :            :              to do so means that those edges will never get added.  */
     884                 :  166930000 :           if (stmt_ends_bb_p (stmt))
     885                 :            :             is_varying = false;
     886                 :            :           else
     887                 :  151458000 :             is_varying = surely_varying_stmt_p (stmt);
     888                 :            : 
     889                 :  151458000 :           if (is_varying)
     890                 :            :             {
     891                 :  111701000 :               tree def;
     892                 :  111701000 :               ssa_op_iter iter;
     893                 :            : 
     894                 :            :               /* If the statement will not produce a constant, mark
     895                 :            :                  all its outputs VARYING.  */
     896                 :  141520000 :               FOR_EACH_SSA_TREE_OPERAND (def, stmt, iter, SSA_OP_ALL_DEFS)
     897                 :   29818200 :                 set_value_varying (def);
     898                 :            :             }
     899                 :  166930000 :           prop_set_simulate_again (stmt, !is_varying);
     900                 :            :         }
     901                 :            :     }
     902                 :            : 
     903                 :            :   /* Now process PHI nodes.  We never clear the simulate_again flag on
     904                 :            :      phi nodes, since we do not know which edges are executable yet,
     905                 :            :      except for phi nodes for virtual operands when we do not do store ccp.  */
     906                 :   25651500 :   FOR_EACH_BB_FN (bb, cfun)
     907                 :            :     {
     908                 :   22695100 :       gphi_iterator i;
     909                 :            : 
     910                 :   30418000 :       for (i = gsi_start_phis (bb); !gsi_end_p (i); gsi_next (&i))
     911                 :            :         {
     912                 :    7722830 :           gphi *phi = i.phi ();
     913                 :            : 
     914                 :   15445700 :           if (virtual_operand_p (gimple_phi_result (phi)))
     915                 :    4000260 :             prop_set_simulate_again (phi, false);
     916                 :            :           else
     917                 :    7722830 :             prop_set_simulate_again (phi, true);
     918                 :            :         }
     919                 :            :     }
     920                 :    2956380 : }
     921                 :            : 
     922                 :            : /* Debug count support. Reset the values of ssa names
     923                 :            :    VARYING when the total number ssa names analyzed is
     924                 :            :    beyond the debug count specified.  */
     925                 :            : 
     926                 :            : static void
     927                 :    2956380 : do_dbg_cnt (void)
     928                 :            : {
     929                 :    2956380 :   unsigned i;
     930                 :  210074000 :   for (i = 0; i < num_ssa_names; i++)
     931                 :            :     {
     932                 :  102080000 :       if (!dbg_cnt (ccp))
     933                 :            :         {
     934                 :          0 :           const_val[i].lattice_val = VARYING;
     935                 :          0 :           const_val[i].mask = -1;
     936                 :          0 :           const_val[i].value = NULL_TREE;
     937                 :            :         }
     938                 :            :     }
     939                 :    2956380 : }
     940                 :            : 
     941                 :            : 
     942                 :            : /* We want to provide our own GET_VALUE and FOLD_STMT virtual methods.  */
     943                 :    5912770 : class ccp_folder : public substitute_and_fold_engine
     944                 :            : {
     945                 :            :  public:
     946                 :            :   tree get_value (tree) FINAL OVERRIDE;
     947                 :            :   bool fold_stmt (gimple_stmt_iterator *) FINAL OVERRIDE;
     948                 :            : };
     949                 :            : 
     950                 :            : /* This method just wraps GET_CONSTANT_VALUE for now.  Over time
     951                 :            :    naked calls to GET_CONSTANT_VALUE should be eliminated in favor
     952                 :            :    of calling member functions.  */
     953                 :            : 
     954                 :            : tree
     955                 :  130779000 : ccp_folder::get_value (tree op)
     956                 :            : {
     957                 :  130779000 :   return get_constant_value (op);
     958                 :            : }
     959                 :            : 
     960                 :            : /* Do final substitution of propagated values, cleanup the flowgraph and
     961                 :            :    free allocated storage.  If NONZERO_P, record nonzero bits.
     962                 :            : 
     963                 :            :    Return TRUE when something was optimized.  */
     964                 :            : 
     965                 :            : static bool
     966                 :    2956380 : ccp_finalize (bool nonzero_p) 
     967                 :            : {
     968                 :    2956380 :   bool something_changed;
     969                 :    2956380 :   unsigned i;
     970                 :    2956380 :   tree name;
     971                 :            : 
     972                 :    2956380 :   do_dbg_cnt ();
     973                 :            : 
     974                 :            :   /* Derive alignment and misalignment information from partially
     975                 :            :      constant pointers in the lattice or nonzero bits from partially
     976                 :            :      constant integers.  */
     977                 :  102080000 :   FOR_EACH_SSA_NAME (i, name, cfun)
     978                 :            :     {
     979                 :   89841300 :       ccp_prop_value_t *val;
     980                 :   89841300 :       unsigned int tem, align;
     981                 :            : 
     982                 :  163928000 :       if (!POINTER_TYPE_P (TREE_TYPE (name))
     983                 :  161957000 :           && (!INTEGRAL_TYPE_P (TREE_TYPE (name))
     984                 :            :               /* Don't record nonzero bits before IPA to avoid
     985                 :            :                  using too much memory.  */
     986                 :   30228200 :               || !nonzero_p))
     987                 :   42826100 :         continue;
     988                 :            : 
     989                 :   47015300 :       val = get_value (name);
     990                 :   88771800 :       if (val->lattice_val != CONSTANT
     991                 :   12834100 :           || TREE_CODE (val->value) != INTEGER_CST
     992                 :   54266600 :           || val->mask == 0)
     993                 :   41756500 :         continue;
     994                 :            : 
     995                 :    5258770 :       if (POINTER_TYPE_P (TREE_TYPE (name)))
     996                 :            :         {
     997                 :            :           /* Trailing mask bits specify the alignment, trailing value
     998                 :            :              bits the misalignment.  */
     999                 :     388541 :           tem = val->mask.to_uhwi ();
    1000                 :     388541 :           align = least_bit_hwi (tem);
    1001                 :     388541 :           if (align > 1)
    1002                 :     371845 :             set_ptr_info_alignment (get_ptr_info (name), align,
    1003                 :     371845 :                                     (TREE_INT_CST_LOW (val->value)
    1004                 :     371845 :                                      & (align - 1)));
    1005                 :            :         }
    1006                 :            :       else
    1007                 :            :         {
    1008                 :    4870220 :           unsigned int precision = TYPE_PRECISION (TREE_TYPE (val->value));
    1009                 :    4870220 :           wide_int nonzero_bits
    1010                 :    4870220 :             = (wide_int::from (val->mask, precision, UNSIGNED)
    1011                 :    4870220 :                | wi::to_wide (val->value));
    1012                 :    4870220 :           nonzero_bits &= get_nonzero_bits (name);
    1013                 :    4870220 :           set_nonzero_bits (name, nonzero_bits);
    1014                 :            :         }
    1015                 :            :     }
    1016                 :            : 
    1017                 :            :   /* Perform substitutions based on the known constant values.  */
    1018                 :    2956380 :   class ccp_folder ccp_folder;
    1019                 :    2956380 :   something_changed = ccp_folder.substitute_and_fold ();
    1020                 :            : 
    1021                 :    2956380 :   free (const_val);
    1022                 :    2956380 :   const_val = NULL;
    1023                 :    2956380 :   return something_changed;
    1024                 :            : }
    1025                 :            : 
    1026                 :            : 
    1027                 :            : /* Compute the meet operator between *VAL1 and *VAL2.  Store the result
    1028                 :            :    in VAL1.
    1029                 :            : 
    1030                 :            :                 any  M UNDEFINED   = any
    1031                 :            :                 any  M VARYING     = VARYING
    1032                 :            :                 Ci   M Cj          = Ci         if (i == j)
    1033                 :            :                 Ci   M Cj          = VARYING    if (i != j)
    1034                 :            :    */
    1035                 :            : 
    1036                 :            : static void
    1037                 :  115097000 : ccp_lattice_meet (ccp_prop_value_t *val1, ccp_prop_value_t *val2)
    1038                 :            : {
    1039                 :  115097000 :   if (val1->lattice_val == UNDEFINED
    1040                 :            :       /* For UNDEFINED M SSA we can't always SSA because its definition
    1041                 :            :          may not dominate the PHI node.  Doing optimistic copy propagation
    1042                 :            :          also causes a lot of gcc.dg/uninit-pred*.c FAILs.  */
    1043                 :      99858 :       && (val2->lattice_val != CONSTANT
    1044                 :      69169 :           || TREE_CODE (val2->value) != SSA_NAME))
    1045                 :            :     {
    1046                 :            :       /* UNDEFINED M any = any   */
    1047                 :      49610 :       *val1 = *val2;
    1048                 :            :     }
    1049                 :  115047000 :   else if (val2->lattice_val == UNDEFINED
    1050                 :            :            /* See above.  */
    1051                 :      35596 :            && (val1->lattice_val != CONSTANT
    1052                 :      17896 :                || TREE_CODE (val1->value) != SSA_NAME))
    1053                 :            :     {
    1054                 :            :       /* any M UNDEFINED = any
    1055                 :            :          Nothing to do.  VAL1 already contains the value we want.  */
    1056                 :            :       ;
    1057                 :            :     }
    1058                 :  115021000 :   else if (val1->lattice_val == VARYING
    1059                 :  111888000 :            || val2->lattice_val == VARYING)
    1060                 :            :     {
    1061                 :            :       /* any M VARYING = VARYING.  */
    1062                 :    3142090 :       val1->lattice_val = VARYING;
    1063                 :    3142090 :       val1->mask = -1;
    1064                 :    3142090 :       val1->value = NULL_TREE;
    1065                 :            :     }
    1066                 :  111879000 :   else if (val1->lattice_val == CONSTANT
    1067                 :  111829000 :            && val2->lattice_val == CONSTANT
    1068                 :  111819000 :            && TREE_CODE (val1->value) == INTEGER_CST
    1069                 :  109793000 :            && TREE_CODE (val2->value) == INTEGER_CST)
    1070                 :            :     {
    1071                 :            :       /* Ci M Cj = Ci           if (i == j)
    1072                 :            :          Ci M Cj = VARYING      if (i != j)
    1073                 :            : 
    1074                 :            :          For INTEGER_CSTs mask unequal bits.  If no equal bits remain,
    1075                 :            :          drop to varying.  */
    1076                 :  108829000 :       val1->mask = (val1->mask | val2->mask
    1077                 :  108829000 :                     | (wi::to_widest (val1->value)
    1078                 :  217657000 :                        ^ wi::to_widest (val2->value)));
    1079                 :  217426000 :       if (wi::sext (val1->mask, TYPE_PRECISION (TREE_TYPE (val1->value))) == -1)
    1080                 :            :         {
    1081                 :     204498 :           val1->lattice_val = VARYING;
    1082                 :     204498 :           val1->value = NULL_TREE;
    1083                 :            :         }
    1084                 :            :     }
    1085                 :    3050320 :   else if (val1->lattice_val == CONSTANT
    1086                 :    3000070 :            && val2->lattice_val == CONSTANT
    1087                 :    6041010 :            && operand_equal_p (val1->value, val2->value, 0))
    1088                 :            :     {
    1089                 :            :       /* Ci M Cj = Ci           if (i == j)
    1090                 :            :          Ci M Cj = VARYING      if (i != j)
    1091                 :            : 
    1092                 :            :          VAL1 already contains the value we want for equivalent values.  */
    1093                 :            :     }
    1094                 :    2886880 :   else if (val1->lattice_val == CONSTANT
    1095                 :    2836640 :            && val2->lattice_val == CONSTANT
    1096                 :    2827260 :            && (TREE_CODE (val1->value) == ADDR_EXPR
    1097                 :    2730690 :                || TREE_CODE (val2->value) == ADDR_EXPR))
    1098                 :            :     {
    1099                 :            :       /* When not equal addresses are involved try meeting for
    1100                 :            :          alignment.  */
    1101                 :     231899 :       ccp_prop_value_t tem = *val2;
    1102                 :     231899 :       if (TREE_CODE (val1->value) == ADDR_EXPR)
    1103                 :      96564 :         *val1 = get_value_for_expr (val1->value, true);
    1104                 :     231899 :       if (TREE_CODE (val2->value) == ADDR_EXPR)
    1105                 :     186481 :         tem = get_value_for_expr (val2->value, true);
    1106                 :     231899 :       ccp_lattice_meet (val1, &tem);
    1107                 :            :     }
    1108                 :            :   else
    1109                 :            :     {
    1110                 :            :       /* Any other combination is VARYING.  */
    1111                 :    2654990 :       val1->lattice_val = VARYING;
    1112                 :    2654990 :       val1->mask = -1;
    1113                 :    2654990 :       val1->value = NULL_TREE;
    1114                 :            :     }
    1115                 :  115097000 : }
    1116                 :            : 
    1117                 :            : 
    1118                 :            : /* Loop through the PHI_NODE's parameters for BLOCK and compare their
    1119                 :            :    lattice values to determine PHI_NODE's lattice value.  The value of a
    1120                 :            :    PHI node is determined calling ccp_lattice_meet with all the arguments
    1121                 :            :    of the PHI node that are incoming via executable edges.  */
    1122                 :            : 
    1123                 :            : enum ssa_prop_result
    1124                 :   34439900 : ccp_propagate::visit_phi (gphi *phi)
    1125                 :            : {
    1126                 :   34439900 :   unsigned i;
    1127                 :   34439900 :   ccp_prop_value_t new_val;
    1128                 :            : 
    1129                 :   34439900 :   if (dump_file && (dump_flags & TDF_DETAILS))
    1130                 :            :     {
    1131                 :          4 :       fprintf (dump_file, "\nVisiting PHI node: ");
    1132                 :          4 :       print_gimple_stmt (dump_file, phi, 0, dump_flags);
    1133                 :            :     }
    1134                 :            : 
    1135                 :   34439900 :   new_val.lattice_val = UNDEFINED;
    1136                 :   34439900 :   new_val.value = NULL_TREE;
    1137                 :   34439900 :   new_val.mask = 0;
    1138                 :            : 
    1139                 :   34439900 :   bool first = true;
    1140                 :   34439900 :   bool non_exec_edge = false;
    1141                 :  101627000 :   for (i = 0; i < gimple_phi_num_args (phi); i++)
    1142                 :            :     {
    1143                 :            :       /* Compute the meet operator over all the PHI arguments flowing
    1144                 :            :          through executable edges.  */
    1145                 :   69804200 :       edge e = gimple_phi_arg_edge (phi, i);
    1146                 :            : 
    1147                 :   69804200 :       if (dump_file && (dump_flags & TDF_DETAILS))
    1148                 :            :         {
    1149                 :         16 :           fprintf (dump_file,
    1150                 :            :               "\tArgument #%d (%d -> %d %sexecutable)\n",
    1151                 :          8 :               i, e->src->index, e->dest->index,
    1152                 :          8 :               (e->flags & EDGE_EXECUTABLE) ? "" : "not ");
    1153                 :            :         }
    1154                 :            : 
    1155                 :            :       /* If the incoming edge is executable, Compute the meet operator for
    1156                 :            :          the existing value of the PHI node and the current PHI argument.  */
    1157                 :   69804200 :       if (e->flags & EDGE_EXECUTABLE)
    1158                 :            :         {
    1159                 :   67641300 :           tree arg = gimple_phi_arg (phi, i)->def;
    1160                 :   67641300 :           ccp_prop_value_t arg_val = get_value_for_expr (arg, false);
    1161                 :            : 
    1162                 :   67641300 :           if (first)
    1163                 :            :             {
    1164                 :   34439900 :               new_val = arg_val;
    1165                 :   34439900 :               first = false;
    1166                 :            :             }
    1167                 :            :           else
    1168                 :   33201400 :             ccp_lattice_meet (&new_val, &arg_val);
    1169                 :            : 
    1170                 :   67641300 :           if (dump_file && (dump_flags & TDF_DETAILS))
    1171                 :            :             {
    1172                 :          4 :               fprintf (dump_file, "\t");
    1173                 :          4 :               print_generic_expr (dump_file, arg, dump_flags);
    1174                 :          4 :               dump_lattice_value (dump_file, "\tValue: ", arg_val);
    1175                 :          4 :               fprintf (dump_file, "\n");
    1176                 :            :             }
    1177                 :            : 
    1178                 :   67641300 :           if (new_val.lattice_val == VARYING)
    1179                 :            :             break;
    1180                 :            :         }
    1181                 :            :       else
    1182                 :            :         non_exec_edge = true;
    1183                 :            :     }
    1184                 :            : 
    1185                 :            :   /* In case there were non-executable edges and the value is a copy
    1186                 :            :      make sure its definition dominates the PHI node.  */
    1187                 :   34439900 :   if (non_exec_edge
    1188                 :    1899520 :       && new_val.lattice_val == CONSTANT
    1189                 :    1863140 :       && TREE_CODE (new_val.value) == SSA_NAME
    1190                 :     586089 :       && ! SSA_NAME_IS_DEFAULT_DEF (new_val.value)
    1191                 :   34945900 :       && ! dominated_by_p (CDI_DOMINATORS, gimple_bb (phi),
    1192                 :     506062 :                            gimple_bb (SSA_NAME_DEF_STMT (new_val.value))))
    1193                 :            :     {
    1194                 :      40393 :       new_val.lattice_val = VARYING;
    1195                 :      40393 :       new_val.value = NULL_TREE;
    1196                 :      40393 :       new_val.mask = -1;
    1197                 :            :     }
    1198                 :            : 
    1199                 :   34439900 :   if (dump_file && (dump_flags & TDF_DETAILS))
    1200                 :            :     {
    1201                 :          4 :       dump_lattice_value (dump_file, "\n    PHI node value: ", new_val);
    1202                 :          4 :       fprintf (dump_file, "\n\n");
    1203                 :            :     }
    1204                 :            : 
    1205                 :            :   /* Make the transition to the new value.  */
    1206                 :   34439900 :   if (set_lattice_value (gimple_phi_result (phi), &new_val))
    1207                 :            :     {
    1208                 :   34154100 :       if (new_val.lattice_val == VARYING)
    1209                 :            :         return SSA_PROP_VARYING;
    1210                 :            :       else
    1211                 :   31369200 :         return SSA_PROP_INTERESTING;
    1212                 :            :     }
    1213                 :            :   else
    1214                 :            :     return SSA_PROP_NOT_INTERESTING;
    1215                 :            : }
    1216                 :            : 
    1217                 :            : /* Return the constant value for OP or OP otherwise.  */
    1218                 :            : 
    1219                 :            : static tree
    1220                 :  143721000 : valueize_op (tree op)
    1221                 :            : {
    1222                 :  106181000 :   if (TREE_CODE (op) == SSA_NAME)
    1223                 :            :     {
    1224                 :  124545000 :       tree tem = get_constant_value (op);
    1225                 :  124545000 :       if (tem)
    1226                 :   14601700 :         return tem;
    1227                 :            :     }
    1228                 :            :   return op;
    1229                 :            : }
    1230                 :            : 
    1231                 :            : /* Return the constant value for OP, but signal to not follow SSA
    1232                 :            :    edges if the definition may be simulated again.  */
    1233                 :            : 
    1234                 :            : static tree
    1235                 :  568167000 : valueize_op_1 (tree op)
    1236                 :            : {
    1237                 :  568167000 :   if (TREE_CODE (op) == SSA_NAME)
    1238                 :            :     {
    1239                 :            :       /* If the definition may be simulated again we cannot follow
    1240                 :            :          this SSA edge as the SSA propagator does not necessarily
    1241                 :            :          re-visit the use.  */
    1242                 :  568167000 :       gimple *def_stmt = SSA_NAME_DEF_STMT (op);
    1243                 :  568167000 :       if (!gimple_nop_p (def_stmt)
    1244                 :  568167000 :           && prop_simulate_again_p (def_stmt))
    1245                 :            :         return NULL_TREE;
    1246                 :  139838000 :       tree tem = get_constant_value (op);
    1247                 :  139838000 :       if (tem)
    1248                 :     849199 :         return tem;
    1249                 :            :     }
    1250                 :            :   return op;
    1251                 :            : }
    1252                 :            : 
    1253                 :            : /* CCP specific front-end to the non-destructive constant folding
    1254                 :            :    routines.
    1255                 :            : 
    1256                 :            :    Attempt to simplify the RHS of STMT knowing that one or more
    1257                 :            :    operands are constants.
    1258                 :            : 
    1259                 :            :    If simplification is possible, return the simplified RHS,
    1260                 :            :    otherwise return the original RHS or NULL_TREE.  */
    1261                 :            : 
    1262                 :            : static tree
    1263                 :  110190000 : ccp_fold (gimple *stmt)
    1264                 :            : {
    1265                 :  110190000 :   location_t loc = gimple_location (stmt);
    1266                 :  110190000 :   switch (gimple_code (stmt))
    1267                 :            :     {
    1268                 :   18769800 :     case GIMPLE_COND:
    1269                 :   18769800 :       {
    1270                 :            :         /* Handle comparison operators that can appear in GIMPLE form.  */
    1271                 :   18769800 :         tree op0 = valueize_op (gimple_cond_lhs (stmt));
    1272                 :   18769800 :         tree op1 = valueize_op (gimple_cond_rhs (stmt));
    1273                 :   18769800 :         enum tree_code code = gimple_cond_code (stmt);
    1274                 :   18769800 :         return fold_binary_loc (loc, code, boolean_type_node, op0, op1);
    1275                 :            :       }
    1276                 :            : 
    1277                 :      58416 :     case GIMPLE_SWITCH:
    1278                 :      58416 :       {
    1279                 :            :         /* Return the constant switch index.  */
    1280                 :      58416 :         return valueize_op (gimple_switch_index (as_a <gswitch *> (stmt)));
    1281                 :            :       }
    1282                 :            : 
    1283                 :   91361500 :     case GIMPLE_ASSIGN:
    1284                 :   91361500 :     case GIMPLE_CALL:
    1285                 :   91361500 :       return gimple_fold_stmt_to_constant_1 (stmt,
    1286                 :   91361500 :                                              valueize_op, valueize_op_1);
    1287                 :            : 
    1288                 :          0 :     default:
    1289                 :          0 :       gcc_unreachable ();
    1290                 :            :     }
    1291                 :            : }
    1292                 :            : 
    1293                 :            : /* Apply the operation CODE in type TYPE to the value, mask pair
    1294                 :            :    RVAL and RMASK representing a value of type RTYPE and set
    1295                 :            :    the value, mask pair *VAL and *MASK to the result.  */
    1296                 :            : 
    1297                 :            : void
    1298                 :   15629100 : bit_value_unop (enum tree_code code, signop type_sgn, int type_precision, 
    1299                 :            :                 widest_int *val, widest_int *mask,
    1300                 :            :                 signop rtype_sgn, int rtype_precision,
    1301                 :            :                 const widest_int &rval, const widest_int &rmask)
    1302                 :            : {
    1303                 :   15629100 :   switch (code)
    1304                 :            :     {
    1305                 :    1474880 :     case BIT_NOT_EXPR:
    1306                 :    1474880 :       *mask = rmask;
    1307                 :    1474880 :       *val = ~rval;
    1308                 :    1474880 :       break;
    1309                 :            : 
    1310                 :    1277990 :     case NEGATE_EXPR:
    1311                 :    1277990 :       {
    1312                 :    1277990 :         widest_int temv, temm;
    1313                 :            :         /* Return ~rval + 1.  */
    1314                 :    1277990 :         bit_value_unop (BIT_NOT_EXPR, type_sgn, type_precision, &temv, &temm,
    1315                 :            :                         type_sgn, type_precision, rval, rmask);
    1316                 :    2555980 :         bit_value_binop (PLUS_EXPR, type_sgn, type_precision, val, mask,
    1317                 :            :                          type_sgn, type_precision, temv, temm,
    1318                 :    1277990 :                          type_sgn, type_precision, 1, 0);
    1319                 :    1277990 :         break;
    1320                 :            :       }
    1321                 :            : 
    1322                 :   12871200 :     CASE_CONVERT:
    1323                 :   12871200 :       {
    1324                 :            :         /* First extend mask and value according to the original type.  */
    1325                 :   12871200 :         *mask = wi::ext (rmask, rtype_precision, rtype_sgn);
    1326                 :   12871200 :         *val = wi::ext (rval, rtype_precision, rtype_sgn);
    1327                 :            : 
    1328                 :            :         /* Then extend mask and value according to the target type.  */
    1329                 :   12871200 :         *mask = wi::ext (*mask, type_precision, type_sgn);
    1330                 :   12871200 :         *val = wi::ext (*val, type_precision, type_sgn);
    1331                 :   12871200 :         break;
    1332                 :            :       }
    1333                 :            : 
    1334                 :       5033 :     default:
    1335                 :       5033 :       *mask = -1;
    1336                 :       5033 :       break;
    1337                 :            :     }
    1338                 :   15629100 : }
    1339                 :            : 
    1340                 :            : /* Apply the operation CODE in type TYPE to the value, mask pairs
    1341                 :            :    R1VAL, R1MASK and R2VAL, R2MASK representing a values of type R1TYPE
    1342                 :            :    and R2TYPE and set the value, mask pair *VAL and *MASK to the result.  */
    1343                 :            : 
    1344                 :            : void
    1345                 :   66559700 : bit_value_binop (enum tree_code code, signop sgn, int width, 
    1346                 :            :                  widest_int *val, widest_int *mask,
    1347                 :            :                  signop r1type_sgn, int r1type_precision,
    1348                 :            :                  const widest_int &r1val, const widest_int &r1mask,
    1349                 :            :                  signop r2type_sgn, int r2type_precision,
    1350                 :            :                  const widest_int &r2val, const widest_int &r2mask)
    1351                 :            : {
    1352                 :   66559700 :   bool swap_p = false;
    1353                 :            : 
    1354                 :            :   /* Assume we'll get a constant result.  Use an initial non varying
    1355                 :            :      value, we fall back to varying in the end if necessary.  */
    1356                 :   66559700 :   *mask = -1;
    1357                 :            : 
    1358                 :   66559700 :   switch (code)
    1359                 :            :     {
    1360                 :     866815 :     case BIT_AND_EXPR:
    1361                 :            :       /* The mask is constant where there is a known not
    1362                 :            :          set bit, (m1 | m2) & ((v1 | m1) & (v2 | m2)) */
    1363                 :     866815 :       *mask = (r1mask | r2mask) & (r1val | r1mask) & (r2val | r2mask);
    1364                 :     866815 :       *val = r1val & r2val;
    1365                 :     866815 :       break;
    1366                 :            : 
    1367                 :     357575 :     case BIT_IOR_EXPR:
    1368                 :            :       /* The mask is constant where there is a known
    1369                 :            :          set bit, (m1 | m2) & ~((v1 & ~m1) | (v2 & ~m2)).  */
    1370                 :    1072720 :       *mask = wi::bit_and_not (r1mask | r2mask,
    1371                 :     357575 :                                wi::bit_and_not (r1val, r1mask)
    1372                 :     715150 :                                | wi::bit_and_not (r2val, r2mask));
    1373                 :     357575 :       *val = r1val | r2val;
    1374                 :     357575 :       break;
    1375                 :            : 
    1376                 :      71044 :     case BIT_XOR_EXPR:
    1377                 :            :       /* m1 | m2  */
    1378                 :      71044 :       *mask = r1mask | r2mask;
    1379                 :      71044 :       *val = r1val ^ r2val;
    1380                 :      71044 :       break;
    1381                 :            : 
    1382                 :      15753 :     case LROTATE_EXPR:
    1383                 :      15753 :     case RROTATE_EXPR:
    1384                 :      15753 :       if (r2mask == 0)
    1385                 :            :         {
    1386                 :       9936 :           widest_int shift = r2val;
    1387                 :       9936 :           if (shift == 0)
    1388                 :            :             {
    1389                 :          6 :               *mask = r1mask;
    1390                 :          6 :               *val = r1val;
    1391                 :            :             }
    1392                 :            :           else
    1393                 :            :             {
    1394                 :       9930 :               if (wi::neg_p (shift))
    1395                 :            :                 {
    1396                 :          3 :                   shift = -shift;
    1397                 :          3 :                   if (code == RROTATE_EXPR)
    1398                 :            :                     code = LROTATE_EXPR;
    1399                 :            :                   else
    1400                 :            :                     code = RROTATE_EXPR;
    1401                 :            :                 }
    1402                 :       9927 :               if (code == RROTATE_EXPR)
    1403                 :            :                 {
    1404                 :       9867 :                   *mask = wi::rrotate (r1mask, shift, width);
    1405                 :       9867 :                   *val = wi::rrotate (r1val, shift, width);
    1406                 :            :                 }
    1407                 :            :               else
    1408                 :            :                 {
    1409                 :         63 :                   *mask = wi::lrotate (r1mask, shift, width);
    1410                 :         63 :                   *val = wi::lrotate (r1val, shift, width);
    1411                 :            :                 }
    1412                 :            :             }
    1413                 :            :         }
    1414                 :            :       break;
    1415                 :            : 
    1416                 :     663462 :     case LSHIFT_EXPR:
    1417                 :     663462 :     case RSHIFT_EXPR:
    1418                 :            :       /* ???  We can handle partially known shift counts if we know
    1419                 :            :          its sign.  That way we can tell that (x << (y | 8)) & 255
    1420                 :            :          is zero.  */
    1421                 :     663462 :       if (r2mask == 0)
    1422                 :            :         {
    1423                 :     564142 :           widest_int shift = r2val;
    1424                 :     564142 :           if (shift == 0)
    1425                 :            :             {
    1426                 :       2127 :               *mask = r1mask;
    1427                 :       2127 :               *val = r1val;
    1428                 :            :             }
    1429                 :            :           else
    1430                 :            :             {
    1431                 :     562015 :               if (wi::neg_p (shift))
    1432                 :            :                 {
    1433                 :        190 :                   shift = -shift;
    1434                 :        190 :                   if (code == RSHIFT_EXPR)
    1435                 :            :                     code = LSHIFT_EXPR;
    1436                 :            :                   else
    1437                 :            :                     code = RSHIFT_EXPR;
    1438                 :            :                 }
    1439                 :     561825 :               if (code == RSHIFT_EXPR)
    1440                 :            :                 {
    1441                 :     315675 :                   *mask = wi::rshift (wi::ext (r1mask, width, sgn), shift, sgn);
    1442                 :     315675 :                   *val = wi::rshift (wi::ext (r1val, width, sgn), shift, sgn);
    1443                 :            :                 }
    1444                 :            :               else
    1445                 :            :                 {
    1446                 :     246340 :                   *mask = wi::ext (r1mask << shift, width, sgn);
    1447                 :     246340 :                   *val = wi::ext (r1val << shift, width, sgn);
    1448                 :            :                 }
    1449                 :            :             }
    1450                 :            :         }
    1451                 :            :       break;
    1452                 :            : 
    1453                 :   35371400 :     case PLUS_EXPR:
    1454                 :   35371400 :     case POINTER_PLUS_EXPR:
    1455                 :   35371400 :       {
    1456                 :            :         /* Do the addition with unknown bits set to zero, to give carry-ins of
    1457                 :            :            zero wherever possible.  */
    1458                 :   35371400 :         widest_int lo = (wi::bit_and_not (r1val, r1mask)
    1459                 :   35371400 :                          + wi::bit_and_not (r2val, r2mask));
    1460                 :   35371400 :         lo = wi::ext (lo, width, sgn);
    1461                 :            :         /* Do the addition with unknown bits set to one, to give carry-ins of
    1462                 :            :            one wherever possible.  */
    1463                 :   35371400 :         widest_int hi = (r1val | r1mask) + (r2val | r2mask);
    1464                 :   35371400 :         hi = wi::ext (hi, width, sgn);
    1465                 :            :         /* Each bit in the result is known if (a) the corresponding bits in
    1466                 :            :            both inputs are known, and (b) the carry-in to that bit position
    1467                 :            :            is known.  We can check condition (b) by seeing if we got the same
    1468                 :            :            result with minimised carries as with maximised carries.  */
    1469                 :   35371400 :         *mask = r1mask | r2mask | (lo ^ hi);
    1470                 :   35371400 :         *mask = wi::ext (*mask, width, sgn);
    1471                 :            :         /* It shouldn't matter whether we choose lo or hi here.  */
    1472                 :   35371400 :         *val = lo;
    1473                 :   35371400 :         break;
    1474                 :            :       }
    1475                 :            : 
    1476                 :    1204360 :     case MINUS_EXPR:
    1477                 :    1204360 :       {
    1478                 :    1204360 :         widest_int temv, temm;
    1479                 :    1204360 :         bit_value_unop (NEGATE_EXPR, r2type_sgn, r2type_precision, &temv, &temm,
    1480                 :            :                           r2type_sgn, r2type_precision, r2val, r2mask);
    1481                 :    1204360 :         bit_value_binop (PLUS_EXPR, sgn, width, val, mask,
    1482                 :            :                          r1type_sgn, r1type_precision, r1val, r1mask,
    1483                 :            :                          r2type_sgn, r2type_precision, temv, temm);
    1484                 :    1204360 :         break;
    1485                 :            :       }
    1486                 :            : 
    1487                 :    9083330 :     case MULT_EXPR:
    1488                 :    9083330 :       {
    1489                 :            :         /* Just track trailing zeros in both operands and transfer
    1490                 :            :            them to the other.  */
    1491                 :    9083330 :         int r1tz = wi::ctz (r1val | r1mask);
    1492                 :    9083330 :         int r2tz = wi::ctz (r2val | r2mask);
    1493                 :    9083330 :         if (r1tz + r2tz >= width)
    1494                 :            :           {
    1495                 :          0 :             *mask = 0;
    1496                 :          0 :             *val = 0;
    1497                 :            :           }
    1498                 :    9083330 :         else if (r1tz + r2tz > 0)
    1499                 :            :           {
    1500                 :   25317400 :             *mask = wi::ext (wi::mask <widest_int> (r1tz + r2tz, true),
    1501                 :    8439120 :                              width, sgn);
    1502                 :    8439120 :             *val = 0;
    1503                 :            :           }
    1504                 :            :         break;
    1505                 :            :       }
    1506                 :            : 
    1507                 :   13524200 :     case EQ_EXPR:
    1508                 :   13524200 :     case NE_EXPR:
    1509                 :   13524200 :       {
    1510                 :   13524200 :         widest_int m = r1mask | r2mask;
    1511                 :   27042400 :         if (wi::bit_and_not (r1val, m) != wi::bit_and_not (r2val, m))
    1512                 :            :           {
    1513                 :     753055 :             *mask = 0;
    1514                 :     753055 :             *val = ((code == EQ_EXPR) ? 0 : 1);
    1515                 :            :           }
    1516                 :            :         else
    1517                 :            :           {
    1518                 :            :             /* We know the result of a comparison is always one or zero.  */
    1519                 :   12771200 :             *mask = 1;
    1520                 :   12771200 :             *val = 0;
    1521                 :            :           }
    1522                 :   13524200 :         break;
    1523                 :            :       }
    1524                 :            : 
    1525                 :    2420080 :     case GE_EXPR:
    1526                 :    2420080 :     case GT_EXPR:
    1527                 :    2420080 :       swap_p = true;
    1528                 :    2420080 :       code = swap_tree_comparison (code);
    1529                 :            :       /* Fall through.  */
    1530                 :    2420080 :     case LT_EXPR:
    1531                 :    2420080 :     case LE_EXPR:
    1532                 :    2420080 :       {
    1533                 :    2420080 :         int minmax, maxmin;
    1534                 :            : 
    1535                 :    2420080 :         const widest_int &o1val = swap_p ? r2val : r1val;
    1536                 :    4580840 :         const widest_int &o1mask = swap_p ? r2mask : r1mask;
    1537                 :    4580840 :         const widest_int &o2val = swap_p ? r1val : r2val;
    1538                 :    4580840 :         const widest_int &o2mask = swap_p ? r1mask : r2mask;
    1539                 :            : 
    1540                 :            :         /* If the most significant bits are not known we know nothing.  */
    1541                 :    7666380 :         if (wi::neg_p (o1mask) || wi::neg_p (o2mask))
    1542                 :            :           break;
    1543                 :            : 
    1544                 :            :         /* For comparisons the signedness is in the comparison operands.  */
    1545                 :    1973160 :         sgn = r1type_sgn;
    1546                 :            : 
    1547                 :            :         /* If we know the most significant bits we know the values
    1548                 :            :            value ranges by means of treating varying bits as zero
    1549                 :            :            or one.  Do a cross comparison of the max/min pairs.  */
    1550                 :    1973160 :         maxmin = wi::cmp (o1val | o1mask,
    1551                 :    1973160 :                           wi::bit_and_not (o2val, o2mask), sgn);
    1552                 :    3946310 :         minmax = wi::cmp (wi::bit_and_not (o1val, o1mask),
    1553                 :    1973160 :                           o2val | o2mask, sgn);
    1554                 :    1973160 :         if (maxmin < 0)  /* o1 is less than o2.  */
    1555                 :            :           {
    1556                 :     370248 :             *mask = 0;
    1557                 :     370248 :             *val = 1;
    1558                 :            :           }
    1559                 :    1602910 :         else if (minmax > 0)  /* o1 is not less or equal to o2.  */
    1560                 :            :           {
    1561                 :     221163 :             *mask = 0;
    1562                 :     221163 :             *val = 0;
    1563                 :            :           }
    1564                 :    1381740 :         else if (maxmin == minmax)  /* o1 and o2 are equal.  */
    1565                 :            :           {
    1566                 :            :             /* This probably should never happen as we'd have
    1567                 :            :                folded the thing during fully constant value folding.  */
    1568                 :          0 :             *mask = 0;
    1569                 :          0 :             *val = (code == LE_EXPR ? 1 : 0);
    1570                 :            :           }
    1571                 :            :         else
    1572                 :            :           {
    1573                 :            :             /* We know the result of a comparison is always one or zero.  */
    1574                 :    1381740 :             *mask = 1;
    1575                 :    1381740 :             *val = 0;
    1576                 :            :           }
    1577                 :            :         break;
    1578                 :            :       }
    1579                 :            : 
    1580                 :   66559700 :     default:;
    1581                 :            :     }
    1582                 :   66559700 : }
    1583                 :            : 
    1584                 :            : /* Return the propagation value when applying the operation CODE to
    1585                 :            :    the value RHS yielding type TYPE.  */
    1586                 :            : 
    1587                 :            : static ccp_prop_value_t
    1588                 :   13136700 : bit_value_unop (enum tree_code code, tree type, tree rhs)
    1589                 :            : {
    1590                 :   13136700 :   ccp_prop_value_t rval = get_value_for_expr (rhs, true);
    1591                 :   13136700 :   widest_int value, mask;
    1592                 :   13136700 :   ccp_prop_value_t val;
    1593                 :            : 
    1594                 :   13136700 :   if (rval.lattice_val == UNDEFINED)
    1595                 :          0 :     return rval;
    1596                 :            : 
    1597                 :   13136700 :   gcc_assert ((rval.lattice_val == CONSTANT
    1598                 :            :                && TREE_CODE (rval.value) == INTEGER_CST)
    1599                 :            :               || wi::sext (rval.mask, TYPE_PRECISION (TREE_TYPE (rhs))) == -1);
    1600                 :   13136700 :   bit_value_unop (code, TYPE_SIGN (type), TYPE_PRECISION (type), &value, &mask,
    1601                 :   13136700 :                   TYPE_SIGN (TREE_TYPE (rhs)), TYPE_PRECISION (TREE_TYPE (rhs)),
    1602                 :   13136700 :                   value_to_wide_int (rval), rval.mask);
    1603                 :   23099400 :   if (wi::sext (mask, TYPE_PRECISION (type)) != -1)
    1604                 :            :     {
    1605                 :    9987220 :       val.lattice_val = CONSTANT;
    1606                 :    9987220 :       val.mask = mask;
    1607                 :            :       /* ???  Delay building trees here.  */
    1608                 :    9987220 :       val.value = wide_int_to_tree (type, value);
    1609                 :            :     }
    1610                 :            :   else
    1611                 :            :     {
    1612                 :    3149530 :       val.lattice_val = VARYING;
    1613                 :    3149530 :       val.value = NULL_TREE;
    1614                 :    3149530 :       val.mask = -1;
    1615                 :            :     }
    1616                 :   13136700 :   return val;
    1617                 :            : }
    1618                 :            : 
    1619                 :            : /* Return the propagation value when applying the operation CODE to
    1620                 :            :    the values RHS1 and RHS2 yielding type TYPE.  */
    1621                 :            : 
    1622                 :            : static ccp_prop_value_t
    1623                 :   64110800 : bit_value_binop (enum tree_code code, tree type, tree rhs1, tree rhs2)
    1624                 :            : {
    1625                 :   64110800 :   ccp_prop_value_t r1val = get_value_for_expr (rhs1, true);
    1626                 :   64110800 :   ccp_prop_value_t r2val = get_value_for_expr (rhs2, true);
    1627                 :   64110800 :   widest_int value, mask;
    1628                 :   64110800 :   ccp_prop_value_t val;
    1629                 :            : 
    1630                 :   64110800 :   if (r1val.lattice_val == UNDEFINED
    1631                 :   64077200 :       || r2val.lattice_val == UNDEFINED)
    1632                 :            :     {
    1633                 :      36919 :       val.lattice_val = VARYING;
    1634                 :      36919 :       val.value = NULL_TREE;
    1635                 :      36919 :       val.mask = -1;
    1636                 :      36919 :       return val;
    1637                 :            :     }
    1638                 :            : 
    1639                 :   64073800 :   gcc_assert ((r1val.lattice_val == CONSTANT
    1640                 :            :                && TREE_CODE (r1val.value) == INTEGER_CST)
    1641                 :            :               || wi::sext (r1val.mask,
    1642                 :            :                            TYPE_PRECISION (TREE_TYPE (rhs1))) == -1);
    1643                 :   64073800 :   gcc_assert ((r2val.lattice_val == CONSTANT
    1644                 :            :                && TREE_CODE (r2val.value) == INTEGER_CST)
    1645                 :            :               || wi::sext (r2val.mask,
    1646                 :            :                            TYPE_PRECISION (TREE_TYPE (rhs2))) == -1);
    1647                 :   64073800 :   bit_value_binop (code, TYPE_SIGN (type), TYPE_PRECISION (type), &value, &mask,
    1648                 :   64073800 :                    TYPE_SIGN (TREE_TYPE (rhs1)), TYPE_PRECISION (TREE_TYPE (rhs1)),
    1649                 :   64073800 :                    value_to_wide_int (r1val), r1val.mask,
    1650                 :   64073800 :                    TYPE_SIGN (TREE_TYPE (rhs2)), TYPE_PRECISION (TREE_TYPE (rhs2)),
    1651                 :   64073800 :                    value_to_wide_int (r2val), r2val.mask);
    1652                 :            : 
    1653                 :            :   /* (x * x) & 2 == 0.  */
    1654                 :   64150900 :   if (code == MULT_EXPR && rhs1 == rhs2 && TYPE_PRECISION (type) > 1)
    1655                 :            :     {
    1656                 :      77108 :       widest_int m = 2;
    1657                 :      77233 :       if (wi::sext (mask, TYPE_PRECISION (type)) != -1)
    1658                 :        125 :         value = wi::bit_and_not (value, m);
    1659                 :            :       else
    1660                 :      76983 :         value = 0;
    1661                 :      77108 :       mask = wi::bit_and_not (mask, m);
    1662                 :            :     }
    1663                 :            : 
    1664                 :  114488000 :   if (wi::sext (mask, TYPE_PRECISION (type)) != -1)
    1665                 :            :     {
    1666                 :   50423500 :       val.lattice_val = CONSTANT;
    1667                 :   50423500 :       val.mask = mask;
    1668                 :            :       /* ???  Delay building trees here.  */
    1669                 :   50423500 :       val.value = wide_int_to_tree (type, value);
    1670                 :            :     }
    1671                 :            :   else
    1672                 :            :     {
    1673                 :   13650400 :       val.lattice_val = VARYING;
    1674                 :   13650400 :       val.value = NULL_TREE;
    1675                 :   13650400 :       val.mask = -1;
    1676                 :            :     }
    1677                 :            :   return val;
    1678                 :            : }
    1679                 :            : 
    1680                 :            : /* Return the propagation value for __builtin_assume_aligned
    1681                 :            :    and functions with assume_aligned or alloc_aligned attribute.
    1682                 :            :    For __builtin_assume_aligned, ATTR is NULL_TREE,
    1683                 :            :    for assume_aligned attribute ATTR is non-NULL and ALLOC_ALIGNED
    1684                 :            :    is false, for alloc_aligned attribute ATTR is non-NULL and
    1685                 :            :    ALLOC_ALIGNED is true.  */
    1686                 :            : 
    1687                 :            : static ccp_prop_value_t
    1688                 :       1846 : bit_value_assume_aligned (gimple *stmt, tree attr, ccp_prop_value_t ptrval,
    1689                 :            :                           bool alloc_aligned)
    1690                 :            : {
    1691                 :       1846 :   tree align, misalign = NULL_TREE, type;
    1692                 :       1846 :   unsigned HOST_WIDE_INT aligni, misaligni = 0;
    1693                 :       1846 :   ccp_prop_value_t alignval;
    1694                 :       1846 :   widest_int value, mask;
    1695                 :       1846 :   ccp_prop_value_t val;
    1696                 :            : 
    1697                 :       1846 :   if (attr == NULL_TREE)
    1698                 :            :     {
    1699                 :       1774 :       tree ptr = gimple_call_arg (stmt, 0);
    1700                 :       1774 :       type = TREE_TYPE (ptr);
    1701                 :       1774 :       ptrval = get_value_for_expr (ptr, true);
    1702                 :            :     }
    1703                 :            :   else
    1704                 :            :     {
    1705                 :         72 :       tree lhs = gimple_call_lhs (stmt);
    1706                 :         72 :       type = TREE_TYPE (lhs);
    1707                 :            :     }
    1708                 :            : 
    1709                 :       1846 :   if (ptrval.lattice_val == UNDEFINED)
    1710                 :          0 :     return ptrval;
    1711                 :       1846 :   gcc_assert ((ptrval.lattice_val == CONSTANT
    1712                 :            :                && TREE_CODE (ptrval.value) == INTEGER_CST)
    1713                 :            :               || wi::sext (ptrval.mask, TYPE_PRECISION (type)) == -1);
    1714                 :       1846 :   if (attr == NULL_TREE)
    1715                 :            :     {
    1716                 :            :       /* Get aligni and misaligni from __builtin_assume_aligned.  */
    1717                 :       1774 :       align = gimple_call_arg (stmt, 1);
    1718                 :       1774 :       if (!tree_fits_uhwi_p (align))
    1719                 :         42 :         return ptrval;
    1720                 :       1732 :       aligni = tree_to_uhwi (align);
    1721                 :       1732 :       if (gimple_call_num_args (stmt) > 2)
    1722                 :            :         {
    1723                 :         26 :           misalign = gimple_call_arg (stmt, 2);
    1724                 :         26 :           if (!tree_fits_uhwi_p (misalign))
    1725                 :          2 :             return ptrval;
    1726                 :         24 :           misaligni = tree_to_uhwi (misalign);
    1727                 :            :         }
    1728                 :            :     }
    1729                 :            :   else
    1730                 :            :     {
    1731                 :            :       /* Get aligni and misaligni from assume_aligned or
    1732                 :            :          alloc_align attributes.  */
    1733                 :         72 :       if (TREE_VALUE (attr) == NULL_TREE)
    1734                 :          0 :         return ptrval;
    1735                 :         72 :       attr = TREE_VALUE (attr);
    1736                 :         72 :       align = TREE_VALUE (attr);
    1737                 :         72 :       if (!tree_fits_uhwi_p (align))
    1738                 :          0 :         return ptrval;
    1739                 :         72 :       aligni = tree_to_uhwi (align);
    1740                 :         72 :       if (alloc_aligned)
    1741                 :            :         {
    1742                 :         40 :           if (aligni == 0 || aligni > gimple_call_num_args (stmt))
    1743                 :          0 :             return ptrval;
    1744                 :         40 :           align = gimple_call_arg (stmt, aligni - 1);
    1745                 :         40 :           if (!tree_fits_uhwi_p (align))
    1746                 :         12 :             return ptrval;
    1747                 :         28 :           aligni = tree_to_uhwi (align);
    1748                 :            :         }
    1749                 :         32 :       else if (TREE_CHAIN (attr) && TREE_VALUE (TREE_CHAIN (attr)))
    1750                 :            :         {
    1751                 :         16 :           misalign = TREE_VALUE (TREE_CHAIN (attr));
    1752                 :         16 :           if (!tree_fits_uhwi_p (misalign))
    1753                 :          0 :             return ptrval;
    1754                 :         16 :           misaligni = tree_to_uhwi (misalign);
    1755                 :            :         }
    1756                 :            :     }
    1757                 :       1790 :   if (aligni <= 1 || (aligni & (aligni - 1)) != 0 || misaligni >= aligni)
    1758                 :          0 :     return ptrval;
    1759                 :            : 
    1760                 :       1790 :   align = build_int_cst_type (type, -aligni);
    1761                 :       1790 :   alignval = get_value_for_expr (align, true);
    1762                 :       5370 :   bit_value_binop (BIT_AND_EXPR, TYPE_SIGN (type), TYPE_PRECISION (type), &value, &mask,
    1763                 :       1790 :                    TYPE_SIGN (type), TYPE_PRECISION (type), value_to_wide_int (ptrval), ptrval.mask,
    1764                 :       1790 :                    TYPE_SIGN (type), TYPE_PRECISION (type), value_to_wide_int (alignval), alignval.mask);
    1765                 :            : 
    1766                 :       3580 :   if (wi::sext (mask, TYPE_PRECISION (type)) != -1)
    1767                 :            :     {
    1768                 :       1790 :       val.lattice_val = CONSTANT;
    1769                 :       1790 :       val.mask = mask;
    1770                 :       1790 :       gcc_assert ((mask.to_uhwi () & (aligni - 1)) == 0);
    1771                 :       1790 :       gcc_assert ((value.to_uhwi () & (aligni - 1)) == 0);
    1772                 :       1790 :       value |= misaligni;
    1773                 :            :       /* ???  Delay building trees here.  */
    1774                 :       1790 :       val.value = wide_int_to_tree (type, value);
    1775                 :            :     }
    1776                 :            :   else
    1777                 :            :     {
    1778                 :          0 :       val.lattice_val = VARYING;
    1779                 :          0 :       val.value = NULL_TREE;
    1780                 :          0 :       val.mask = -1;
    1781                 :            :     }
    1782                 :       1790 :   return val;
    1783                 :            : }
    1784                 :            : 
    1785                 :            : /* Evaluate statement STMT.
    1786                 :            :    Valid only for assignments, calls, conditionals, and switches. */
    1787                 :            : 
    1788                 :            : static ccp_prop_value_t
    1789                 :  110336000 : evaluate_stmt (gimple *stmt)
    1790                 :            : {
    1791                 :  110336000 :   ccp_prop_value_t val;
    1792                 :  110336000 :   tree simplified = NULL_TREE;
    1793                 :  110336000 :   ccp_lattice_t likelyvalue = likely_value (stmt);
    1794                 :  110336000 :   bool is_constant = false;
    1795                 :  110336000 :   unsigned int align;
    1796                 :            : 
    1797                 :  110336000 :   if (dump_file && (dump_flags & TDF_DETAILS))
    1798                 :            :     {
    1799                 :         64 :       fprintf (dump_file, "which is likely ");
    1800                 :         64 :       switch (likelyvalue)
    1801                 :            :         {
    1802                 :         64 :         case CONSTANT:
    1803                 :         64 :           fprintf (dump_file, "CONSTANT");
    1804                 :         64 :           break;
    1805                 :          0 :         case UNDEFINED:
    1806                 :          0 :           fprintf (dump_file, "UNDEFINED");
    1807                 :          0 :           break;
    1808                 :          0 :         case VARYING:
    1809                 :          0 :           fprintf (dump_file, "VARYING");
    1810                 :          0 :           break;
    1811                 :         64 :         default:;
    1812                 :            :         }
    1813                 :         64 :       fprintf (dump_file, "\n");
    1814                 :            :     }
    1815                 :            : 
    1816                 :            :   /* If the statement is likely to have a CONSTANT result, then try
    1817                 :            :      to fold the statement to determine the constant value.  */
    1818                 :            :   /* FIXME.  This is the only place that we call ccp_fold.
    1819                 :            :      Since likely_value never returns CONSTANT for calls, we will
    1820                 :            :      not attempt to fold them, including builtins that may profit.  */
    1821                 :  110336000 :   if (likelyvalue == CONSTANT)
    1822                 :            :     {
    1823                 :  110190000 :       fold_defer_overflow_warnings ();
    1824                 :  110190000 :       simplified = ccp_fold (stmt);
    1825                 :  110190000 :       if (simplified
    1826                 :   19400100 :           && TREE_CODE (simplified) == SSA_NAME)
    1827                 :            :         {
    1828                 :            :           /* We may not use values of something that may be simulated again,
    1829                 :            :              see valueize_op_1.  */
    1830                 :   10373500 :           if (SSA_NAME_IS_DEFAULT_DEF (simplified)
    1831                 :   10373500 :               || ! prop_simulate_again_p (SSA_NAME_DEF_STMT (simplified)))
    1832                 :            :             {
    1833                 :    8274980 :               ccp_prop_value_t *val = get_value (simplified);
    1834                 :    8274980 :               if (val && val->lattice_val != VARYING)
    1835                 :            :                 {
    1836                 :     271424 :                   fold_undefer_overflow_warnings (true, stmt, 0);
    1837                 :     271424 :                   return *val;
    1838                 :            :                 }
    1839                 :            :             }
    1840                 :            :           else
    1841                 :            :             /* We may also not place a non-valueized copy in the lattice
    1842                 :            :                as that might become stale if we never re-visit this stmt.  */
    1843                 :            :             simplified = NULL_TREE;
    1844                 :            :         }
    1845                 :  107820000 :       is_constant = simplified && is_gimple_min_invariant (simplified);
    1846                 :  109918000 :       fold_undefer_overflow_warnings (is_constant, stmt, 0);
    1847                 :  109918000 :       if (is_constant)
    1848                 :            :         {
    1849                 :            :           /* The statement produced a constant value.  */
    1850                 :    6871200 :           val.lattice_val = CONSTANT;
    1851                 :    6871200 :           val.value = simplified;
    1852                 :    6871200 :           val.mask = 0;
    1853                 :    6871200 :           return val;
    1854                 :            :         }
    1855                 :            :     }
    1856                 :            :   /* If the statement is likely to have a VARYING result, then do not
    1857                 :            :      bother folding the statement.  */
    1858                 :     146668 :   else if (likelyvalue == VARYING)
    1859                 :            :     {
    1860                 :      70300 :       enum gimple_code code = gimple_code (stmt);
    1861                 :      70300 :       if (code == GIMPLE_ASSIGN)
    1862                 :            :         {
    1863                 :        408 :           enum tree_code subcode = gimple_assign_rhs_code (stmt);
    1864                 :            : 
    1865                 :            :           /* Other cases cannot satisfy is_gimple_min_invariant
    1866                 :            :              without folding.  */
    1867                 :        408 :           if (get_gimple_rhs_class (subcode) == GIMPLE_SINGLE_RHS)
    1868                 :        408 :             simplified = gimple_assign_rhs1 (stmt);
    1869                 :            :         }
    1870                 :      69892 :       else if (code == GIMPLE_SWITCH)
    1871                 :          0 :         simplified = gimple_switch_index (as_a <gswitch *> (stmt));
    1872                 :            :       else
    1873                 :            :         /* These cannot satisfy is_gimple_min_invariant without folding.  */
    1874                 :      69892 :         gcc_assert (code == GIMPLE_CALL || code == GIMPLE_COND);
    1875                 :        408 :       is_constant = simplified && is_gimple_min_invariant (simplified);
    1876                 :          0 :       if (is_constant)
    1877                 :            :         {
    1878                 :            :           /* The statement produced a constant value.  */
    1879                 :          0 :           val.lattice_val = CONSTANT;
    1880                 :          0 :           val.value = simplified;
    1881                 :          0 :           val.mask = 0;
    1882                 :            :         }
    1883                 :            :     }
    1884                 :            :   /* If the statement result is likely UNDEFINED, make it so.  */
    1885                 :      76368 :   else if (likelyvalue == UNDEFINED)
    1886                 :            :     {
    1887                 :      76368 :       val.lattice_val = UNDEFINED;
    1888                 :      76368 :       val.value = NULL_TREE;
    1889                 :      76368 :       val.mask = 0;
    1890                 :      76368 :       return val;
    1891                 :            :     }
    1892                 :            : 
    1893                 :            :   /* Resort to simplification for bitwise tracking.  */
    1894                 :  103117000 :   if (flag_tree_bit_ccp
    1895                 :  103067000 :       && (likelyvalue == CONSTANT || is_gimple_call (stmt)
    1896                 :  103118000 :           || (gimple_assign_single_p (stmt)
    1897                 :        408 :               && gimple_assign_rhs_code (stmt) == ADDR_EXPR))
    1898                 :  206184000 :       && !is_constant)
    1899                 :            :     {
    1900                 :  103067000 :       enum gimple_code code = gimple_code (stmt);
    1901                 :  103067000 :       val.lattice_val = VARYING;
    1902                 :  103067000 :       val.value = NULL_TREE;
    1903                 :  103067000 :       val.mask = -1;
    1904                 :  103067000 :       if (code == GIMPLE_ASSIGN)
    1905                 :            :         {
    1906                 :   83038700 :           enum tree_code subcode = gimple_assign_rhs_code (stmt);
    1907                 :   83038700 :           tree rhs1 = gimple_assign_rhs1 (stmt);
    1908                 :   83038700 :           tree lhs = gimple_assign_lhs (stmt);
    1909                 :  165868000 :           if ((INTEGRAL_TYPE_P (TREE_TYPE (lhs))
    1910                 :   14190800 :                || POINTER_TYPE_P (TREE_TYPE (lhs)))
    1911                 :  163950000 :               && (INTEGRAL_TYPE_P (TREE_TYPE (rhs1))
    1912                 :   13072700 :                   || POINTER_TYPE_P (TREE_TYPE (rhs1))))
    1913                 :   80666900 :             switch (get_gimple_rhs_class (subcode))
    1914                 :            :               {
    1915                 :   20299000 :               case GIMPLE_SINGLE_RHS:
    1916                 :   20299000 :                 val = get_value_for_expr (rhs1, true);
    1917                 :   20299000 :                 break;
    1918                 :            : 
    1919                 :   13136700 :               case GIMPLE_UNARY_RHS:
    1920                 :   13136700 :                 val = bit_value_unop (subcode, TREE_TYPE (lhs), rhs1);
    1921                 :   13136700 :                 break;
    1922                 :            : 
    1923                 :   47213800 :               case GIMPLE_BINARY_RHS:
    1924                 :   94427600 :                 val = bit_value_binop (subcode, TREE_TYPE (lhs), rhs1,
    1925                 :   47213800 :                                        gimple_assign_rhs2 (stmt));
    1926                 :   47213800 :                 break;
    1927                 :            : 
    1928                 :            :               default:;
    1929                 :            :               }
    1930                 :            :         }
    1931                 :   20028100 :       else if (code == GIMPLE_COND)
    1932                 :            :         {
    1933                 :   17771100 :           enum tree_code code = gimple_cond_code (stmt);
    1934                 :   17771100 :           tree rhs1 = gimple_cond_lhs (stmt);
    1935                 :   17771100 :           tree rhs2 = gimple_cond_rhs (stmt);
    1936                 :   35318100 :           if (INTEGRAL_TYPE_P (TREE_TYPE (rhs1))
    1937                 :   21562100 :               || POINTER_TYPE_P (TREE_TYPE (rhs1)))
    1938                 :   16897000 :             val = bit_value_binop (code, TREE_TYPE (rhs1), rhs1, rhs2);
    1939                 :            :         }
    1940                 :    2257030 :       else if (gimple_call_builtin_p (stmt, BUILT_IN_NORMAL))
    1941                 :            :         {
    1942                 :     996601 :           tree fndecl = gimple_call_fndecl (stmt);
    1943                 :     996601 :           switch (DECL_FUNCTION_CODE (fndecl))
    1944                 :            :             {
    1945                 :      87046 :             case BUILT_IN_MALLOC:
    1946                 :      87046 :             case BUILT_IN_REALLOC:
    1947                 :      87046 :             case BUILT_IN_CALLOC:
    1948                 :      87046 :             case BUILT_IN_STRDUP:
    1949                 :      87046 :             case BUILT_IN_STRNDUP:
    1950                 :      87046 :               val.lattice_val = CONSTANT;
    1951                 :      87046 :               val.value = build_int_cst (TREE_TYPE (gimple_get_lhs (stmt)), 0);
    1952                 :      87046 :               val.mask = ~((HOST_WIDE_INT) MALLOC_ABI_ALIGNMENT
    1953                 :      87046 :                            / BITS_PER_UNIT - 1);
    1954                 :      87046 :               break;
    1955                 :            : 
    1956                 :      24662 :             CASE_BUILT_IN_ALLOCA:
    1957                 :      24662 :               align = (DECL_FUNCTION_CODE (fndecl) == BUILT_IN_ALLOCA
    1958                 :      17195 :                        ? BIGGEST_ALIGNMENT
    1959                 :       7467 :                        : TREE_INT_CST_LOW (gimple_call_arg (stmt, 1)));
    1960                 :      24662 :               val.lattice_val = CONSTANT;
    1961                 :      24662 :               val.value = build_int_cst (TREE_TYPE (gimple_get_lhs (stmt)), 0);
    1962                 :      24662 :               val.mask = ~((HOST_WIDE_INT) align / BITS_PER_UNIT - 1);
    1963                 :      24662 :               break;
    1964                 :            : 
    1965                 :            :             /* These builtins return their first argument, unmodified.  */
    1966                 :      45263 :             case BUILT_IN_MEMCPY:
    1967                 :      45263 :             case BUILT_IN_MEMMOVE:
    1968                 :      45263 :             case BUILT_IN_MEMSET:
    1969                 :      45263 :             case BUILT_IN_STRCPY:
    1970                 :      45263 :             case BUILT_IN_STRNCPY:
    1971                 :      45263 :             case BUILT_IN_MEMCPY_CHK:
    1972                 :      45263 :             case BUILT_IN_MEMMOVE_CHK:
    1973                 :      45263 :             case BUILT_IN_MEMSET_CHK:
    1974                 :      45263 :             case BUILT_IN_STRCPY_CHK:
    1975                 :      45263 :             case BUILT_IN_STRNCPY_CHK:
    1976                 :      45263 :               val = get_value_for_expr (gimple_call_arg (stmt, 0), true);
    1977                 :      45263 :               break;
    1978                 :            : 
    1979                 :       1650 :             case BUILT_IN_ASSUME_ALIGNED:
    1980                 :       1650 :               val = bit_value_assume_aligned (stmt, NULL_TREE, val, false);
    1981                 :       1650 :               break;
    1982                 :            : 
    1983                 :         56 :             case BUILT_IN_ALIGNED_ALLOC:
    1984                 :         56 :               {
    1985                 :         56 :                 tree align = get_constant_value (gimple_call_arg (stmt, 0));
    1986                 :         56 :                 if (align
    1987                 :         37 :                     && tree_fits_uhwi_p (align))
    1988                 :            :                   {
    1989                 :         35 :                     unsigned HOST_WIDE_INT aligni = tree_to_uhwi (align);
    1990                 :         35 :                     if (aligni > 1
    1991                 :            :                         /* align must be power-of-two */
    1992                 :         23 :                         && (aligni & (aligni - 1)) == 0)
    1993                 :            :                       {
    1994                 :         23 :                         val.lattice_val = CONSTANT;
    1995                 :         23 :                         val.value = build_int_cst (ptr_type_node, 0);
    1996                 :         23 :                         val.mask = -aligni;
    1997                 :            :                       }
    1998                 :            :                   }
    1999                 :            :                 break;
    2000                 :            :               }
    2001                 :            : 
    2002                 :       3208 :             case BUILT_IN_BSWAP16:
    2003                 :       3208 :             case BUILT_IN_BSWAP32:
    2004                 :       3208 :             case BUILT_IN_BSWAP64:
    2005                 :       3208 :               val = get_value_for_expr (gimple_call_arg (stmt, 0), true);
    2006                 :       3208 :               if (val.lattice_val == UNDEFINED)
    2007                 :            :                 break;
    2008                 :       3208 :               else if (val.lattice_val == CONSTANT
    2009                 :       2009 :                        && val.value
    2010                 :       2009 :                        && TREE_CODE (val.value) == INTEGER_CST)
    2011                 :            :                 {
    2012                 :       2009 :                   tree type = TREE_TYPE (gimple_call_lhs (stmt));
    2013                 :       2009 :                   int prec = TYPE_PRECISION (type);
    2014                 :       2009 :                   wide_int wval = wi::to_wide (val.value);
    2015                 :       2009 :                   val.value
    2016                 :       2009 :                     = wide_int_to_tree (type,
    2017                 :       2009 :                                         wide_int::from (wval, prec,
    2018                 :       2009 :                                                         UNSIGNED).bswap ());
    2019                 :       2009 :                   val.mask
    2020                 :       2009 :                     = widest_int::from (wide_int::from (val.mask, prec,
    2021                 :       2009 :                                                         UNSIGNED).bswap (),
    2022                 :       2009 :                                         UNSIGNED);
    2023                 :       4018 :                   if (wi::sext (val.mask, prec) != -1)
    2024                 :            :                     break;
    2025                 :            :                 }
    2026                 :       1352 :               val.lattice_val = VARYING;
    2027                 :       1352 :               val.value = NULL_TREE;
    2028                 :       1352 :               val.mask = -1;
    2029                 :       1352 :               break;
    2030                 :            : 
    2031                 :          0 :             default:;
    2032                 :            :             }
    2033                 :            :         }
    2034                 :  103067000 :       if (is_gimple_call (stmt) && gimple_call_lhs (stmt))
    2035                 :            :         {
    2036                 :    2205480 :           tree fntype = gimple_call_fntype (stmt);
    2037                 :    2205480 :           if (fntype)
    2038                 :            :             {
    2039                 :    1891510 :               tree attrs = lookup_attribute ("assume_aligned",
    2040                 :    1891510 :                                              TYPE_ATTRIBUTES (fntype));
    2041                 :    1891510 :               if (attrs)
    2042                 :         32 :                 val = bit_value_assume_aligned (stmt, attrs, val, false);
    2043                 :    1891510 :               attrs = lookup_attribute ("alloc_align",
    2044                 :    1891510 :                                         TYPE_ATTRIBUTES (fntype));
    2045                 :    1891510 :               if (attrs)
    2046                 :         40 :                 val = bit_value_assume_aligned (stmt, attrs, val, true);
    2047                 :            :             }
    2048                 :            :         }
    2049                 :  103067000 :       is_constant = (val.lattice_val == CONSTANT);
    2050                 :            :     }
    2051                 :            : 
    2052                 :  103117000 :   if (flag_tree_bit_ccp
    2053                 :  103067000 :       && ((is_constant && TREE_CODE (val.value) == INTEGER_CST)
    2054                 :   40619900 :           || !is_constant)
    2055                 :  103067000 :       && gimple_get_lhs (stmt)
    2056                 :  188362000 :       && TREE_CODE (gimple_get_lhs (stmt)) == SSA_NAME)
    2057                 :            :     {
    2058                 :   85244300 :       tree lhs = gimple_get_lhs (stmt);
    2059                 :   85244300 :       wide_int nonzero_bits = get_nonzero_bits (lhs);
    2060                 :  169158000 :       if (nonzero_bits != -1)
    2061                 :            :         {
    2062                 :   17932200 :           if (!is_constant)
    2063                 :            :             {
    2064                 :    1330910 :               val.lattice_val = CONSTANT;
    2065                 :    1330910 :               val.value = build_zero_cst (TREE_TYPE (lhs));
    2066                 :    1330910 :               val.mask = extend_mask (nonzero_bits, TYPE_SIGN (TREE_TYPE (lhs)));
    2067                 :    1330910 :               is_constant = true;
    2068                 :            :             }
    2069                 :            :           else
    2070                 :            :             {
    2071                 :   33202600 :               if (wi::bit_and_not (wi::to_wide (val.value), nonzero_bits) != 0)
    2072                 :     131139 :                 val.value = wide_int_to_tree (TREE_TYPE (lhs),
    2073                 :            :                                               nonzero_bits
    2074                 :     262278 :                                               & wi::to_wide (val.value));
    2075                 :   16601300 :               if (nonzero_bits == 0)
    2076                 :         89 :                 val.mask = 0;
    2077                 :            :               else
    2078                 :   16601200 :                 val.mask = val.mask & extend_mask (nonzero_bits,
    2079                 :   16601200 :                                                    TYPE_SIGN (TREE_TYPE (lhs)));
    2080                 :            :             }
    2081                 :            :         }
    2082                 :            :     }
    2083                 :            : 
    2084                 :            :   /* The statement produced a nonconstant value.  */
    2085                 :  103117000 :   if (!is_constant)
    2086                 :            :     {
    2087                 :            :       /* The statement produced a copy.  */
    2088                 :    9661540 :       if (simplified && TREE_CODE (simplified) == SSA_NAME
    2089                 :   47340100 :           && !SSA_NAME_OCCURS_IN_ABNORMAL_PHI (simplified))
    2090                 :            :         {
    2091                 :    7999410 :           val.lattice_val = CONSTANT;
    2092                 :    7999410 :           val.value = simplified;
    2093                 :    7999410 :           val.mask = -1;
    2094                 :            :         }
    2095                 :            :       /* The statement is VARYING.  */
    2096                 :            :       else
    2097                 :            :         {
    2098                 :   31340100 :           val.lattice_val = VARYING;
    2099                 :   31340100 :           val.value = NULL_TREE;
    2100                 :   31340100 :           val.mask = -1;
    2101                 :            :         }
    2102                 :            :     }
    2103                 :            : 
    2104                 :  103117000 :   return val;
    2105                 :            : }
    2106                 :            : 
    2107                 :            : typedef hash_table<nofree_ptr_hash<gimple> > gimple_htab;
    2108                 :            : 
    2109                 :            : /* Given a BUILT_IN_STACK_SAVE value SAVED_VAL, insert a clobber of VAR before
    2110                 :            :    each matching BUILT_IN_STACK_RESTORE.  Mark visited phis in VISITED.  */
    2111                 :            : 
    2112                 :            : static void
    2113                 :        424 : insert_clobber_before_stack_restore (tree saved_val, tree var,
    2114                 :            :                                      gimple_htab **visited)
    2115                 :            : {
    2116                 :        424 :   gimple *stmt;
    2117                 :        424 :   gassign *clobber_stmt;
    2118                 :        424 :   tree clobber;
    2119                 :        424 :   imm_use_iterator iter;
    2120                 :        424 :   gimple_stmt_iterator i;
    2121                 :        424 :   gimple **slot;
    2122                 :            : 
    2123                 :        832 :   FOR_EACH_IMM_USE_STMT (stmt, iter, saved_val)
    2124                 :        408 :     if (gimple_call_builtin_p (stmt, BUILT_IN_STACK_RESTORE))
    2125                 :            :       {
    2126                 :        395 :         clobber = build_clobber (TREE_TYPE (var));
    2127                 :        395 :         clobber_stmt = gimple_build_assign (var, clobber);
    2128                 :            : 
    2129                 :        395 :         i = gsi_for_stmt (stmt);
    2130                 :        395 :         gsi_insert_before (&i, clobber_stmt, GSI_SAME_STMT);
    2131                 :            :       }
    2132                 :         13 :     else if (gimple_code (stmt) == GIMPLE_PHI)
    2133                 :            :       {
    2134                 :         12 :         if (!*visited)
    2135                 :         12 :           *visited = new gimple_htab (10);
    2136                 :            : 
    2137                 :         12 :         slot = (*visited)->find_slot (stmt, INSERT);
    2138                 :         12 :         if (*slot != NULL)
    2139                 :          0 :           continue;
    2140                 :            : 
    2141                 :         12 :         *slot = stmt;
    2142                 :         12 :         insert_clobber_before_stack_restore (gimple_phi_result (stmt), var,
    2143                 :            :                                              visited);
    2144                 :            :       }
    2145                 :          1 :     else if (gimple_assign_ssa_name_copy_p (stmt))
    2146                 :          0 :       insert_clobber_before_stack_restore (gimple_assign_lhs (stmt), var,
    2147                 :            :                                            visited);
    2148                 :        424 : }
    2149                 :            : 
    2150                 :            : /* Advance the iterator to the previous non-debug gimple statement in the same
    2151                 :            :    or dominating basic block.  */
    2152                 :            : 
    2153                 :            : static inline void
    2154                 :       8374 : gsi_prev_dom_bb_nondebug (gimple_stmt_iterator *i)
    2155                 :            : {
    2156                 :       8374 :   basic_block dom;
    2157                 :            : 
    2158                 :       8374 :   gsi_prev_nondebug (i);
    2159                 :       8563 :   while (gsi_end_p (*i))
    2160                 :            :     {
    2161                 :        189 :       dom = get_immediate_dominator (CDI_DOMINATORS, i->bb);
    2162                 :        189 :       if (dom == NULL || dom == ENTRY_BLOCK_PTR_FOR_FN (cfun))
    2163                 :            :         return;
    2164                 :            : 
    2165                 :        378 :       *i = gsi_last_bb (dom);
    2166                 :            :     }
    2167                 :            : }
    2168                 :            : 
    2169                 :            : /* Find a BUILT_IN_STACK_SAVE dominating gsi_stmt (I), and insert
    2170                 :            :    a clobber of VAR before each matching BUILT_IN_STACK_RESTORE.
    2171                 :            : 
    2172                 :            :    It is possible that BUILT_IN_STACK_SAVE cannot be found in a dominator when
    2173                 :            :    a previous pass (such as DOM) duplicated it along multiple paths to a BB.
    2174                 :            :    In that case the function gives up without inserting the clobbers.  */
    2175                 :            : 
    2176                 :            : static void
    2177                 :        412 : insert_clobbers_for_var (gimple_stmt_iterator i, tree var)
    2178                 :            : {
    2179                 :        412 :   gimple *stmt;
    2180                 :        412 :   tree saved_val;
    2181                 :        412 :   gimple_htab *visited = NULL;
    2182                 :            : 
    2183                 :       8786 :   for (; !gsi_end_p (i); gsi_prev_dom_bb_nondebug (&i))
    2184                 :            :     {
    2185                 :       8786 :       stmt = gsi_stmt (i);
    2186                 :            : 
    2187                 :       8786 :       if (!gimple_call_builtin_p (stmt, BUILT_IN_STACK_SAVE))
    2188                 :       8374 :         continue;
    2189                 :            : 
    2190                 :        412 :       saved_val = gimple_call_lhs (stmt);
    2191                 :        412 :       if (saved_val == NULL_TREE)
    2192                 :          0 :         continue;
    2193                 :            : 
    2194                 :        412 :       insert_clobber_before_stack_restore (saved_val, var, &visited);
    2195                 :        412 :       break;
    2196                 :            :     }
    2197                 :            : 
    2198                 :        412 :   delete visited;
    2199                 :        412 : }
    2200                 :            : 
    2201                 :            : /* Detects a __builtin_alloca_with_align with constant size argument.  Declares
    2202                 :            :    fixed-size array and returns the address, if found, otherwise returns
    2203                 :            :    NULL_TREE.  */
    2204                 :            : 
    2205                 :            : static tree
    2206                 :       7288 : fold_builtin_alloca_with_align (gimple *stmt)
    2207                 :            : {
    2208                 :       7288 :   unsigned HOST_WIDE_INT size, threshold, n_elem;
    2209                 :       7288 :   tree lhs, arg, block, var, elem_type, array_type;
    2210                 :            : 
    2211                 :            :   /* Get lhs.  */
    2212                 :       7288 :   lhs = gimple_call_lhs (stmt);
    2213                 :       7288 :   if (lhs == NULL_TREE)
    2214                 :            :     return NULL_TREE;
    2215                 :            : 
    2216                 :            :   /* Detect constant argument.  */
    2217                 :       7288 :   arg = get_constant_value (gimple_call_arg (stmt, 0));
    2218                 :       7288 :   if (arg == NULL_TREE
    2219                 :        784 :       || TREE_CODE (arg) != INTEGER_CST
    2220                 :        784 :       || !tree_fits_uhwi_p (arg))
    2221                 :            :     return NULL_TREE;
    2222                 :            : 
    2223                 :        784 :   size = tree_to_uhwi (arg);
    2224                 :            : 
    2225                 :            :   /* Heuristic: don't fold large allocas.  */
    2226                 :        784 :   threshold = (unsigned HOST_WIDE_INT)param_large_stack_frame;
    2227                 :            :   /* In case the alloca is located at function entry, it has the same lifetime
    2228                 :            :      as a declared array, so we allow a larger size.  */
    2229                 :        784 :   block = gimple_block (stmt);
    2230                 :       1187 :   if (!(cfun->after_inlining
    2231                 :        784 :         && block
    2232                 :        403 :         && TREE_CODE (BLOCK_SUPERCONTEXT (block)) == FUNCTION_DECL))
    2233                 :        501 :     threshold /= 10;
    2234                 :        784 :   if (size > threshold)
    2235                 :            :     return NULL_TREE;
    2236                 :            : 
    2237                 :            :   /* We have to be able to move points-to info.  We used to assert
    2238                 :            :      that we can but IPA PTA might end up with two UIDs here
    2239                 :            :      as it might need to handle more than one instance being
    2240                 :            :      live at the same time.  Instead of trying to detect this case
    2241                 :            :      (using the first UID would be OK) just give up for now.  */
    2242                 :        428 :   struct ptr_info_def *pi = SSA_NAME_PTR_INFO (lhs);
    2243                 :        428 :   unsigned uid = 0;
    2244                 :        428 :   if (pi != NULL
    2245                 :        283 :       && !pi->pt.anything
    2246                 :        552 :       && !pt_solution_singleton_or_null_p (&pi->pt, &uid))
    2247                 :            :     return NULL_TREE;
    2248                 :            : 
    2249                 :            :   /* Declare array.  */
    2250                 :        412 :   elem_type = build_nonstandard_integer_type (BITS_PER_UNIT, 1);
    2251                 :        412 :   n_elem = size * 8 / BITS_PER_UNIT;
    2252                 :        412 :   array_type = build_array_type_nelts (elem_type, n_elem);
    2253                 :            : 
    2254                 :        412 :   if (tree ssa_name = SSA_NAME_IDENTIFIER (lhs))
    2255                 :            :     {
    2256                 :            :       /* Give the temporary a name derived from the name of the VLA
    2257                 :            :          declaration so it can be referenced in diagnostics.  */
    2258                 :        393 :       const char *name = IDENTIFIER_POINTER (ssa_name);
    2259                 :        393 :       var = create_tmp_var (array_type, name);
    2260                 :            :     }
    2261                 :            :   else
    2262                 :         19 :     var = create_tmp_var (array_type);
    2263                 :            : 
    2264                 :        412 :   if (gimple *lhsdef = SSA_NAME_DEF_STMT (lhs))
    2265                 :            :     {
    2266                 :            :       /* Set the temporary's location to that of the VLA declaration
    2267                 :            :          so it can be pointed to in diagnostics.  */
    2268                 :        412 :       location_t loc = gimple_location (lhsdef);
    2269                 :        412 :       DECL_SOURCE_LOCATION (var) = loc;
    2270                 :            :     }
    2271                 :            : 
    2272                 :        412 :   SET_DECL_ALIGN (var, TREE_INT_CST_LOW (gimple_call_arg (stmt, 1)));
    2273                 :        412 :   if (uid != 0)
    2274                 :        108 :     SET_DECL_PT_UID (var, uid);
    2275                 :            : 
    2276                 :            :   /* Fold alloca to the address of the array.  */
    2277                 :        412 :   return fold_convert (TREE_TYPE (lhs), build_fold_addr_expr (var));
    2278                 :            : }
    2279                 :            : 
    2280                 :            : /* Fold the stmt at *GSI with CCP specific information that propagating
    2281                 :            :    and regular folding does not catch.  */
    2282                 :            : 
    2283                 :            : bool
    2284                 :  158945000 : ccp_folder::fold_stmt (gimple_stmt_iterator *gsi)
    2285                 :            : {
    2286                 :  158945000 :   gimple *stmt = gsi_stmt (*gsi);
    2287                 :            : 
    2288                 :  158945000 :   switch (gimple_code (stmt))
    2289                 :            :     {
    2290                 :    8450960 :     case GIMPLE_COND:
    2291                 :    8450960 :       {
    2292                 :    8450960 :         gcond *cond_stmt = as_a <gcond *> (stmt);
    2293                 :    8450960 :         ccp_prop_value_t val;
    2294                 :            :         /* Statement evaluation will handle type mismatches in constants
    2295                 :            :            more gracefully than the final propagation.  This allows us to
    2296                 :            :            fold more conditionals here.  */
    2297                 :    8450960 :         val = evaluate_stmt (stmt);
    2298                 :    8450960 :         if (val.lattice_val != CONSTANT
    2299                 :    8450960 :             || val.mask != 0)
    2300                 :            :           return false;
    2301                 :            : 
    2302                 :     173075 :         if (dump_file)
    2303                 :            :           {
    2304                 :         22 :             fprintf (dump_file, "Folding predicate ");
    2305                 :         22 :             print_gimple_expr (dump_file, stmt, 0);
    2306                 :         22 :             fprintf (dump_file, " to ");
    2307                 :         22 :             print_generic_expr (dump_file, val.value);
    2308                 :         22 :             fprintf (dump_file, "\n");
    2309                 :            :           }
    2310                 :            : 
    2311                 :     173075 :         if (integer_zerop (val.value))
    2312                 :     132684 :           gimple_cond_make_false (cond_stmt);
    2313                 :            :         else
    2314                 :    8450960 :           gimple_cond_make_true (cond_stmt);
    2315                 :            : 
    2316                 :            :         return true;
    2317                 :            :       }
    2318                 :            : 
    2319                 :   11521900 :     case GIMPLE_CALL:
    2320                 :   11521900 :       {
    2321                 :   11521900 :         tree lhs = gimple_call_lhs (stmt);
    2322                 :   11521900 :         int flags = gimple_call_flags (stmt);
    2323                 :   11521900 :         tree val;
    2324                 :   11521900 :         tree argt;
    2325                 :   11521900 :         bool changed = false;
    2326                 :   11521900 :         unsigned i;
    2327                 :            : 
    2328                 :            :         /* If the call was folded into a constant make sure it goes
    2329                 :            :            away even if we cannot propagate into all uses because of
    2330                 :            :            type issues.  */
    2331                 :   11521900 :         if (lhs
    2332                 :    4497040 :             && TREE_CODE (lhs) == SSA_NAME
    2333                 :    3740220 :             && (val = get_constant_value (lhs))
    2334                 :            :             /* Don't optimize away calls that have side-effects.  */
    2335                 :         11 :             && (flags & (ECF_CONST|ECF_PURE)) != 0
    2336                 :   11521900 :             && (flags & ECF_LOOPING_CONST_OR_PURE) == 0)
    2337                 :            :           {
    2338                 :          0 :             tree new_rhs = unshare_expr (val);
    2339                 :          0 :             bool res;
    2340                 :          0 :             if (!useless_type_conversion_p (TREE_TYPE (lhs),
    2341                 :          0 :                                             TREE_TYPE (new_rhs)))
    2342                 :          0 :               new_rhs = fold_convert (TREE_TYPE (lhs), new_rhs);
    2343                 :          0 :             res = update_call_from_tree (gsi, new_rhs);
    2344                 :          0 :             gcc_assert (res);
    2345                 :            :             return true;
    2346                 :            :           }
    2347                 :            : 
    2348                 :            :         /* Internal calls provide no argument types, so the extra laxity
    2349                 :            :            for normal calls does not apply.  */
    2350                 :   11521900 :         if (gimple_call_internal_p (stmt))
    2351                 :            :           return false;
    2352                 :            : 
    2353                 :            :         /* The heuristic of fold_builtin_alloca_with_align differs before and
    2354                 :            :            after inlining, so we don't require the arg to be changed into a
    2355                 :            :            constant for folding, but just to be constant.  */
    2356                 :   11163600 :         if (gimple_call_builtin_p (stmt, BUILT_IN_ALLOCA_WITH_ALIGN)
    2357                 :   11163600 :             || gimple_call_builtin_p (stmt, BUILT_IN_ALLOCA_WITH_ALIGN_AND_MAX))
    2358                 :            :           {
    2359                 :       7288 :             tree new_rhs = fold_builtin_alloca_with_align (stmt);
    2360                 :       7288 :             if (new_rhs)
    2361                 :            :               {
    2362                 :        412 :                 bool res = update_call_from_tree (gsi, new_rhs);
    2363                 :        412 :                 tree var = TREE_OPERAND (TREE_OPERAND (new_rhs, 0),0);
    2364                 :        412 :                 gcc_assert (res);
    2365                 :        412 :                 insert_clobbers_for_var (*gsi, var);
    2366                 :        412 :                 return true;
    2367                 :            :               }
    2368                 :            :           }
    2369                 :            : 
    2370                 :            :         /* If there's no extra info from an assume_aligned call,
    2371                 :            :            drop it so it doesn't act as otherwise useless dataflow
    2372                 :            :            barrier.  */
    2373                 :   11163200 :         if (gimple_call_builtin_p (stmt, BUILT_IN_ASSUME_ALIGNED))
    2374                 :            :           {
    2375                 :       1650 :             tree ptr = gimple_call_arg (stmt, 0);
    2376                 :       1650 :             ccp_prop_value_t ptrval = get_value_for_expr (ptr, true);
    2377                 :       1650 :             if (ptrval.lattice_val == CONSTANT
    2378                 :        124 :                 && TREE_CODE (ptrval.value) == INTEGER_CST
    2379                 :       1774 :                 && ptrval.mask != 0)
    2380                 :            :               {
    2381                 :        124 :                 ccp_prop_value_t val
    2382                 :        124 :                   = bit_value_assume_aligned (stmt, NULL_TREE, ptrval, false);
    2383                 :        124 :                 unsigned int ptralign = least_bit_hwi (ptrval.mask.to_uhwi ());
    2384                 :        124 :                 unsigned int align = least_bit_hwi (val.mask.to_uhwi ());
    2385                 :        124 :                 if (ptralign == align
    2386                 :        124 :                     && ((TREE_INT_CST_LOW (ptrval.value) & (align - 1))
    2387                 :        124 :                         == (TREE_INT_CST_LOW (val.value) & (align - 1))))
    2388                 :            :                   {
    2389                 :        124 :                     bool res = update_call_from_tree (gsi, ptr);
    2390                 :        124 :                     gcc_assert (res);
    2391                 :        124 :                     return true;
    2392                 :            :                   }
    2393                 :            :               }
    2394                 :            :           }
    2395                 :            : 
    2396                 :            :         /* Propagate into the call arguments.  Compared to replace_uses_in
    2397                 :            :            this can use the argument slot types for type verification
    2398                 :            :            instead of the current argument type.  We also can safely
    2399                 :            :            drop qualifiers here as we are dealing with constants anyway.  */
    2400                 :   11163100 :         argt = TYPE_ARG_TYPES (gimple_call_fntype (stmt));
    2401                 :   49575700 :         for (i = 0; i < gimple_call_num_args (stmt) && argt;
    2402                 :   19206300 :              ++i, argt = TREE_CHAIN (argt))
    2403                 :            :           {
    2404                 :   19206300 :             tree arg = gimple_call_arg (stmt, i);
    2405                 :   19206300 :             if (TREE_CODE (arg) == SSA_NAME
    2406                 :    7633150 :                 && (val = get_constant_value (arg))
    2407                 :   19206300 :                 && useless_type_conversion_p
    2408                 :          0 :                      (TYPE_MAIN_VARIANT (TREE_VALUE (argt)),
    2409                 :          0 :                       TYPE_MAIN_VARIANT (TREE_TYPE (val))))
    2410                 :            :               {
    2411                 :          0 :                 gimple_call_set_arg (stmt, i, unshare_expr (val));
    2412                 :          0 :                 changed = true;
    2413                 :            :               }
    2414                 :            :           }
    2415                 :            : 
    2416                 :            :         return changed;
    2417                 :            :       }
    2418                 :            : 
    2419                 :   51939300 :     case GIMPLE_ASSIGN:
    2420                 :   51939300 :       {
    2421                 :   51939300 :         tree lhs = gimple_assign_lhs (stmt);
    2422                 :   51939300 :         tree val;
    2423                 :            : 
    2424                 :            :         /* If we have a load that turned out to be constant replace it
    2425                 :            :            as we cannot propagate into all uses in all cases.  */
    2426                 :   51939300 :         if (gimple_assign_single_p (stmt)
    2427                 :   36449100 :             && TREE_CODE (lhs) == SSA_NAME
    2428                 :   15849700 :             && (val = get_constant_value (lhs)))
    2429                 :            :           {
    2430                 :       4903 :             tree rhs = unshare_expr (val);
    2431                 :       4903 :             if (!useless_type_conversion_p (TREE_TYPE (lhs), TREE_TYPE (rhs)))
    2432                 :          0 :               rhs = fold_build1 (VIEW_CONVERT_EXPR, TREE_TYPE (lhs), rhs);
    2433                 :       4903 :             gimple_assign_set_rhs_from_tree (gsi, rhs);
    2434                 :       4903 :             return true;
    2435                 :            :           }
    2436                 :            : 
    2437                 :            :         return false;
    2438                 :            :       }
    2439                 :            : 
    2440                 :            :     default:
    2441                 :            :       return false;
    2442                 :            :     }
    2443                 :            : }
    2444                 :            : 
    2445                 :            : /* Visit the assignment statement STMT.  Set the value of its LHS to the
    2446                 :            :    value computed by the RHS and store LHS in *OUTPUT_P.  If STMT
    2447                 :            :    creates virtual definitions, set the value of each new name to that
    2448                 :            :    of the RHS (if we can derive a constant out of the RHS).
    2449                 :            :    Value-returning call statements also perform an assignment, and
    2450                 :            :    are handled here.  */
    2451                 :            : 
    2452                 :            : static enum ssa_prop_result
    2453                 :   92239600 : visit_assignment (gimple *stmt, tree *output_p)
    2454                 :            : {
    2455                 :   92239600 :   ccp_prop_value_t val;
    2456                 :   92239600 :   enum ssa_prop_result retval = SSA_PROP_NOT_INTERESTING;
    2457                 :            : 
    2458                 :   92239600 :   tree lhs = gimple_get_lhs (stmt);
    2459                 :   92239600 :   if (TREE_CODE (lhs) == SSA_NAME)
    2460                 :            :     {
    2461                 :            :       /* Evaluate the statement, which could be
    2462                 :            :          either a GIMPLE_ASSIGN or a GIMPLE_CALL.  */
    2463                 :   91503400 :       val = evaluate_stmt (stmt);
    2464                 :            : 
    2465                 :            :       /* If STMT is an assignment to an SSA_NAME, we only have one
    2466                 :            :          value to set.  */
    2467                 :   91503400 :       if (set_lattice_value (lhs, &val))
    2468                 :            :         {
    2469                 :   81081500 :           *output_p = lhs;
    2470                 :   81081500 :           if (val.lattice_val == VARYING)
    2471                 :            :             retval = SSA_PROP_VARYING;
    2472                 :            :           else
    2473                 :   53107800 :             retval = SSA_PROP_INTERESTING;
    2474                 :            :         }
    2475                 :            :     }
    2476                 :            : 
    2477                 :   92239600 :   return retval;
    2478                 :            : }
    2479                 :            : 
    2480                 :            : 
    2481                 :            : /* Visit the conditional statement STMT.  Return SSA_PROP_INTERESTING
    2482                 :            :    if it can determine which edge will be taken.  Otherwise, return
    2483                 :            :    SSA_PROP_VARYING.  */
    2484                 :            : 
    2485                 :            : static enum ssa_prop_result
    2486                 :   10382000 : visit_cond_stmt (gimple *stmt, edge *taken_edge_p)
    2487                 :            : {
    2488                 :   10382000 :   ccp_prop_value_t val;
    2489                 :   10382000 :   basic_block block;
    2490                 :            : 
    2491                 :   10382000 :   block = gimple_bb (stmt);
    2492                 :   10382000 :   val = evaluate_stmt (stmt);
    2493                 :   10382000 :   if (val.lattice_val != CONSTANT
    2494                 :   10382000 :       || val.mask != 0)
    2495                 :            :     return SSA_PROP_VARYING;
    2496                 :            : 
    2497                 :            :   /* Find which edge out of the conditional block will be taken and add it
    2498                 :            :      to the worklist.  If no single edge can be determined statically,
    2499                 :            :      return SSA_PROP_VARYING to feed all the outgoing edges to the
    2500                 :            :      propagation engine.  */
    2501                 :    2062820 :   *taken_edge_p = find_taken_edge (block, val.value);
    2502                 :    2062820 :   if (*taken_edge_p)
    2503                 :            :     return SSA_PROP_INTERESTING;
    2504                 :            :   else
    2505                 :          0 :     return SSA_PROP_VARYING;
    2506                 :            : }
    2507                 :            : 
    2508                 :            : 
    2509                 :            : /* Evaluate statement STMT.  If the statement produces an output value and
    2510                 :            :    its evaluation changes the lattice value of its output, return
    2511                 :            :    SSA_PROP_INTERESTING and set *OUTPUT_P to the SSA_NAME holding the
    2512                 :            :    output value.
    2513                 :            : 
    2514                 :            :    If STMT is a conditional branch and we can determine its truth
    2515                 :            :    value, set *TAKEN_EDGE_P accordingly.  If STMT produces a varying
    2516                 :            :    value, return SSA_PROP_VARYING.  */
    2517                 :            : 
    2518                 :            : enum ssa_prop_result
    2519                 :  108035000 : ccp_propagate::visit_stmt (gimple *stmt, edge *taken_edge_p, tree *output_p)
    2520                 :            : {
    2521                 :  108035000 :   tree def;
    2522                 :  108035000 :   ssa_op_iter iter;
    2523                 :            : 
    2524                 :  108035000 :   if (dump_file && (dump_flags & TDF_DETAILS))
    2525                 :            :     {
    2526                 :         72 :       fprintf (dump_file, "\nVisiting statement:\n");
    2527                 :         72 :       print_gimple_stmt (dump_file, stmt, 0, dump_flags);
    2528                 :            :     }
    2529                 :            : 
    2530                 :  108035000 :   switch (gimple_code (stmt))
    2531                 :            :     {
    2532                 :   89545500 :       case GIMPLE_ASSIGN:
    2533                 :            :         /* If the statement is an assignment that produces a single
    2534                 :            :            output value, evaluate its RHS to see if the lattice value of
    2535                 :            :            its output has changed.  */
    2536                 :   89545500 :         return visit_assignment (stmt, output_p);
    2537                 :            : 
    2538                 :    4602040 :       case GIMPLE_CALL:
    2539                 :            :         /* A value-returning call also performs an assignment.  */
    2540                 :    4602040 :         if (gimple_call_lhs (stmt) != NULL_TREE)
    2541                 :    2694170 :           return visit_assignment (stmt, output_p);
    2542                 :            :         break;
    2543                 :            : 
    2544                 :   10382000 :       case GIMPLE_COND:
    2545                 :   10382000 :       case GIMPLE_SWITCH:
    2546                 :            :         /* If STMT is a conditional branch, see if we can determine
    2547                 :            :            which branch will be taken.   */
    2548                 :            :         /* FIXME.  It appears that we should be able to optimize
    2549                 :            :            computed GOTOs here as well.  */
    2550                 :   10382000 :         return visit_cond_stmt (stmt, taken_edge_p);
    2551                 :            : 
    2552                 :            :       default:
    2553                 :            :         break;
    2554                 :            :     }
    2555                 :            : 
    2556                 :            :   /* Any other kind of statement is not interesting for constant
    2557                 :            :      propagation and, therefore, not worth simulating.  */
    2558                 :    5413610 :   if (dump_file && (dump_flags & TDF_DETAILS))
    2559                 :         15 :     fprintf (dump_file, "No interesting values produced.  Marked VARYING.\n");
    2560                 :            : 
    2561                 :            :   /* Definitions made by statements other than assignments to
    2562                 :            :      SSA_NAMEs represent unknown modifications to their outputs.
    2563                 :            :      Mark them VARYING.  */
    2564                 :    7304020 :   FOR_EACH_SSA_TREE_OPERAND (def, stmt, iter, SSA_OP_ALL_DEFS)
    2565                 :    1890410 :     set_value_varying (def);
    2566                 :            : 
    2567                 :            :   return SSA_PROP_VARYING;
    2568                 :            : }
    2569                 :            : 
    2570                 :            : 
    2571                 :            : /* Main entry point for SSA Conditional Constant Propagation.  If NONZERO_P,
    2572                 :            :    record nonzero bits.  */
    2573                 :            : 
    2574                 :            : static unsigned int
    2575                 :    2956380 : do_ssa_ccp (bool nonzero_p)
    2576                 :            : {
    2577                 :    2956380 :   unsigned int todo = 0;
    2578                 :    2956380 :   calculate_dominance_info (CDI_DOMINATORS);
    2579                 :            : 
    2580                 :    2956380 :   ccp_initialize ();
    2581                 :    5912770 :   class ccp_propagate ccp_propagate;
    2582                 :    2956380 :   ccp_propagate.ssa_propagate ();
    2583                 :    3013560 :   if (ccp_finalize (nonzero_p || flag_ipa_bit_cp))
    2584                 :            :     {
    2585                 :    1058220 :       todo = (TODO_cleanup_cfg | TODO_update_ssa);
    2586                 :            : 
    2587                 :            :       /* ccp_finalize does not preserve loop-closed ssa.  */
    2588                 :    1058220 :       loops_state_clear (LOOP_CLOSED_SSA);
    2589                 :            :     }
    2590                 :            : 
    2591                 :    2956380 :   free_dominance_info (CDI_DOMINATORS);
    2592                 :    2956380 :   return todo;
    2593                 :            : }
    2594                 :            : 
    2595                 :            : 
    2596                 :            : namespace {
    2597                 :            : 
    2598                 :            : const pass_data pass_data_ccp =
    2599                 :            : {
    2600                 :            :   GIMPLE_PASS, /* type */
    2601                 :            :   "ccp", /* name */
    2602                 :            :   OPTGROUP_NONE, /* optinfo_flags */
    2603                 :            :   TV_TREE_CCP, /* tv_id */
    2604                 :            :   ( PROP_cfg | PROP_ssa ), /* properties_required */
    2605                 :            :   0, /* properties_provided */
    2606                 :            :   0, /* properties_destroyed */
    2607                 :            :   0, /* todo_flags_start */
    2608                 :            :   TODO_update_address_taken, /* todo_flags_finish */
    2609                 :            : };
    2610                 :            : 
    2611                 :            : class pass_ccp : public gimple_opt_pass
    2612                 :            : {
    2613                 :            : public:
    2614                 :     802160 :   pass_ccp (gcc::context *ctxt)
    2615                 :    1604320 :     : gimple_opt_pass (pass_data_ccp, ctxt), nonzero_p (false)
    2616                 :            :   {}
    2617                 :            : 
    2618                 :            :   /* opt_pass methods: */
    2619                 :     601620 :   opt_pass * clone () { return new pass_ccp (m_ctxt); }
    2620                 :     802160 :   void set_pass_param (unsigned int n, bool param)
    2621                 :            :     {
    2622                 :     802160 :       gcc_assert (n == 0);
    2623                 :     802160 :       nonzero_p = param;
    2624                 :     802160 :     }
    2625                 :    2957410 :   virtual bool gate (function *) { return flag_tree_ccp != 0; }
    2626                 :    2956380 :   virtual unsigned int execute (function *) { return do_ssa_ccp (nonzero_p); }
    2627                 :            : 
    2628                 :            :  private:
    2629                 :            :   /* Determines whether the pass instance records nonzero bits.  */
    2630                 :            :   bool nonzero_p;
    2631                 :            : }; // class pass_ccp
    2632                 :            : 
    2633                 :            : } // anon namespace
    2634                 :            : 
    2635                 :            : gimple_opt_pass *
    2636                 :     200540 : make_pass_ccp (gcc::context *ctxt)
    2637                 :            : {
    2638                 :     200540 :   return new pass_ccp (ctxt);
    2639                 :            : }
    2640                 :            : 
    2641                 :            : 
    2642                 :            : 
    2643                 :            : /* Try to optimize out __builtin_stack_restore.  Optimize it out
    2644                 :            :    if there is another __builtin_stack_restore in the same basic
    2645                 :            :    block and no calls or ASM_EXPRs are in between, or if this block's
    2646                 :            :    only outgoing edge is to EXIT_BLOCK and there are no calls or
    2647                 :            :    ASM_EXPRs after this __builtin_stack_restore.  */
    2648                 :            : 
    2649                 :            : static tree
    2650                 :       2001 : optimize_stack_restore (gimple_stmt_iterator i)
    2651                 :            : {
    2652                 :       2001 :   tree callee;
    2653                 :       2001 :   gimple *stmt;
    2654                 :            : 
    2655                 :       2001 :   basic_block bb = gsi_bb (i);
    2656                 :       2001 :   gimple *call = gsi_stmt (i);
    2657                 :            : 
    2658                 :       2001 :   if (gimple_code (call) != GIMPLE_CALL
    2659                 :       2001 :       || gimple_call_num_args (call) != 1
    2660                 :       2001 :       || TREE_CODE (gimple_call_arg (call, 0)) != SSA_NAME
    2661                 :       4002 :       || !POINTER_TYPE_P (TREE_TYPE (gimple_call_arg (call, 0))))
    2662                 :            :     return NULL_TREE;
    2663                 :            : 
    2664                 :       5385 :   for (gsi_next (&i); !gsi_end_p (i); gsi_next (&i))
    2665                 :            :     {
    2666                 :       3642 :       stmt = gsi_stmt (i);
    2667                 :       3642 :       if (gimple_code (stmt) == GIMPLE_ASM)
    2668                 :            :         return NULL_TREE;
    2669                 :       3641 :       if (gimple_code (stmt) != GIMPLE_CALL)
    2670                 :       3172 :         continue;
    2671                 :            : 
    2672                 :        469 :       callee = gimple_call_fndecl (stmt);
    2673                 :        469 :       if (!callee
    2674                 :        454 :           || !fndecl_built_in_p (callee, BUILT_IN_NORMAL)
    2675                 :            :           /* All regular builtins are ok, just obviously not alloca.  */
    2676                 :        867 :           || ALLOCA_FUNCTION_CODE_P (DECL_FUNCTION_CODE (callee)))
    2677                 :            :         return NULL_TREE;
    2678                 :            : 
    2679                 :        260 :       if (fndecl_built_in_p (callee, BUILT_IN_STACK_RESTORE))
    2680                 :         48 :         goto second_stack_restore;
    2681                 :            :     }
    2682                 :            : 
    2683                 :       1743 :   if (!gsi_end_p (i))
    2684                 :            :     return NULL_TREE;
    2685                 :            : 
    2686                 :            :   /* Allow one successor of the exit block, or zero successors.  */
    2687                 :       1743 :   switch (EDGE_COUNT (bb->succs))
    2688                 :            :     {
    2689                 :            :     case 0:
    2690                 :            :       break;
    2691                 :       1694 :     case 1:
    2692                 :       1694 :       if (single_succ_edge (bb)->dest != EXIT_BLOCK_PTR_FOR_FN (cfun))
    2693                 :            :         return NULL_TREE;
    2694                 :            :       break;
    2695                 :            :     default:
    2696                 :            :       return NULL_TREE;
    2697                 :            :     }
    2698                 :       1489 :  second_stack_restore:
    2699                 :            : 
    2700                 :            :   /* If there's exactly one use, then zap the call to __builtin_stack_save.
    2701                 :            :      If there are multiple uses, then the last one should remove the call.
    2702                 :            :      In any case, whether the call to __builtin_stack_save can be removed
    2703                 :            :      or not is irrelevant to removing the call to __builtin_stack_restore.  */
    2704                 :       1489 :   if (has_single_use (gimple_call_arg (call, 0)))
    2705                 :            :     {
    2706                 :       1325 :       gimple *stack_save = SSA_NAME_DEF_STMT (gimple_call_arg (call, 0));
    2707                 :       1325 :       if (is_gimple_call (stack_save))
    2708                 :            :         {
    2709                 :       1319 :           callee = gimple_call_fndecl (stack_save);
    2710                 :       1319 :           if (callee && fndecl_built_in_p (callee, BUILT_IN_STACK_SAVE))
    2711                 :            :             {
    2712                 :       1319 :               gimple_stmt_iterator stack_save_gsi;
    2713                 :       1319 :               tree rhs;
    2714                 :            : 
    2715                 :       1319 :               stack_save_gsi = gsi_for_stmt (stack_save);
    2716                 :       1319 :               rhs = build_int_cst (TREE_TYPE (gimple_call_arg (call, 0)), 0);
    2717                 :       1319 :               update_call_from_tree (&stack_save_gsi, rhs);
    2718                 :            :             }
    2719                 :            :         }
    2720                 :            :     }
    2721                 :            : 
    2722                 :            :   /* No effect, so the statement will be deleted.  */
    2723                 :       1489 :   return integer_zero_node;
    2724                 :            : }
    2725                 :            : 
    2726                 :            : /* If va_list type is a simple pointer and nothing special is needed,
    2727                 :            :    optimize __builtin_va_start (&ap, 0) into ap = __builtin_next_arg (0),
    2728                 :            :    __builtin_va_end (&ap) out as NOP and __builtin_va_copy into a simple
    2729                 :            :    pointer assignment.  */
    2730                 :            : 
    2731                 :            : static tree
    2732                 :       9103 : optimize_stdarg_builtin (gimple *call)
    2733                 :            : {
    2734                 :       9103 :   tree callee, lhs, rhs, cfun_va_list;
    2735                 :       9103 :   bool va_list_simple_ptr;
    2736                 :       9103 :   location_t loc = gimple_location (call);
    2737                 :            : 
    2738                 :       9103 :   callee = gimple_call_fndecl (call);
    2739                 :            : 
    2740                 :       9103 :   cfun_va_list = targetm.fn_abi_va_list (callee);
    2741                 :      18206 :   va_list_simple_ptr = POINTER_TYPE_P (cfun_va_list)
    2742                 :       9475 :                        && (TREE_TYPE (cfun_va_list) == void_type_node
    2743                 :        372 :                            || TREE_TYPE (cfun_va_list) == char_type_node);
    2744                 :            : 
    2745                 :       9103 :   switch (DECL_FUNCTION_CODE (callee))
    2746                 :            :     {
    2747                 :       6189 :     case BUILT_IN_VA_START:
    2748                 :       6189 :       if (!va_list_simple_ptr
    2749                 :        143 :           || targetm.expand_builtin_va_start != NULL
    2750                 :       6316 :           || !builtin_decl_explicit_p (BUILT_IN_NEXT_ARG))
    2751                 :            :         return NULL_TREE;
    2752                 :            : 
    2753                 :        127 :       if (gimple_call_num_args (call) != 2)
    2754                 :            :         return NULL_TREE;
    2755                 :            : 
    2756                 :        127 :       lhs = gimple_call_arg (call, 0);
    2757                 :        127 :       if (!POINTER_TYPE_P (TREE_TYPE (lhs))
    2758                 :        127 :           || TYPE_MAIN_VARIANT (TREE_TYPE (TREE_TYPE (lhs)))
    2759                 :        127 :              != TYPE_MAIN_VARIANT (cfun_va_list))
    2760                 :            :         return NULL_TREE;
    2761                 :            : 
    2762                 :        127 :       lhs = build_fold_indirect_ref_loc (loc, lhs);
    2763                 :        127 :       rhs = build_call_expr_loc (loc, builtin_decl_explicit (BUILT_IN_NEXT_ARG),
    2764                 :            :                              1, integer_zero_node);
    2765                 :        127 :       rhs = fold_convert_loc (loc, TREE_TYPE (lhs), rhs);
    2766                 :        127 :       return build2 (MODIFY_EXPR, TREE_TYPE (lhs), lhs, rhs);
    2767                 :            : 
    2768                 :        192 :     case BUILT_IN_VA_COPY:
    2769                 :        192 :       if (!va_list_simple_ptr)
    2770                 :            :         return NULL_TREE;
    2771                 :            : 
    2772                 :         41 :       if (gimple_call_num_args (call) != 2)
    2773                 :            :         return NULL_TREE;
    2774                 :            : 
    2775                 :         41 :       lhs = gimple_call_arg (call, 0);
    2776                 :         41 :       if (!POINTER_TYPE_P (TREE_TYPE (lhs))
    2777                 :         41 :           || TYPE_MAIN_VARIANT (TREE_TYPE (TREE_TYPE (lhs)))
    2778                 :         41 :              != TYPE_MAIN_VARIANT (cfun_va_list))
    2779                 :            :         return NULL_TREE;
    2780                 :            : 
    2781                 :         41 :       lhs = build_fold_indirect_ref_loc (loc, lhs);
    2782                 :         41 :       rhs = gimple_call_arg (call, 1);
    2783                 :         41 :       if (TYPE_MAIN_VARIANT (TREE_TYPE (rhs))
    2784                 :         41 :           != TYPE_MAIN_VARIANT (cfun_va_list))
    2785                 :            :         return NULL_TREE;
    2786                 :            : 
    2787                 :         41 :       rhs = fold_convert_loc (loc, TREE_TYPE (lhs), rhs);
    2788                 :         41 :       return build2 (MODIFY_EXPR, TREE_TYPE (lhs), lhs, rhs);
    2789                 :            : 
    2790                 :       2722 :     case BUILT_IN_VA_END:
    2791                 :            :       /* No effect, so the statement will be deleted.  */
    2792                 :       2722 :       return integer_zero_node;
    2793                 :            : 
    2794                 :          0 :     default:
    2795                 :          0 :       gcc_unreachable ();
    2796                 :            :     }
    2797                 :            : }
    2798                 :            : 
    2799                 :            : /* Attemp to make the block of __builtin_unreachable I unreachable by changing
    2800                 :            :    the incoming jumps.  Return true if at least one jump was changed.  */
    2801                 :            : 
    2802                 :            : static bool
    2803                 :       2047 : optimize_unreachable (gimple_stmt_iterator i)
    2804                 :            : {
    2805                 :       2047 :   basic_block bb = gsi_bb (i);
    2806                 :       2047 :   gimple_stmt_iterator gsi;
    2807                 :       2047 :   gimple *stmt;
    2808                 :       2047 :   edge_iterator ei;
    2809                 :       2047 :   edge e;
    2810                 :       2047 :   bool ret;
    2811                 :            : 
    2812                 :       2047 :   if (flag_sanitize & SANITIZE_UNREACHABLE)
    2813                 :            :     return false;
    2814                 :            : 
    2815                 :       7117 :   for (gsi = gsi_start_bb (bb); !gsi_end_p (gsi); gsi_next (&gsi))
    2816                 :            :     {
    2817                 :       3726 :       stmt = gsi_stmt (gsi);
    2818                 :            : 
    2819                 :       3726 :       if (is_gimple_debug (stmt))
    2820                 :        961 :        continue;
    2821                 :            : 
    2822                 :       2765 :       if (glabel *label_stmt = dyn_cast <glabel *> (stmt))
    2823                 :            :         {
    2824                 :            :           /* Verify we do not need to preserve the label.  */
    2825                 :        815 :           if (FORCED_LABEL (gimple_label_label (label_stmt)))
    2826                 :            :             return false;
    2827                 :            : 
    2828                 :        810 :           continue;
    2829                 :            :         }
    2830                 :            : 
    2831                 :            :       /* Only handle the case that __builtin_unreachable is the first statement
    2832                 :            :          in the block.  We rely on DCE to remove stmts without side-effects
    2833                 :            :          before __builtin_unreachable.  */
    2834                 :       1950 :       if (gsi_stmt (gsi) != gsi_stmt (i))
    2835                 :            :         return false;
    2836                 :            :     }
    2837                 :            : 
    2838                 :       1436 :   ret = false;
    2839                 :       3115 :   FOR_EACH_EDGE (e, ei, bb->preds)
    2840                 :            :     {
    2841                 :       1679 :       gsi = gsi_last_bb (e->src);
    2842                 :       1679 :       if (gsi_end_p (gsi))
    2843                 :        277 :         continue;
    2844                 :            : 
    2845                 :       1402 :       stmt = gsi_stmt (gsi);
    2846                 :       1402 :       if (gcond *cond_stmt = dyn_cast <gcond *> (stmt))
    2847                 :            :         {
    2848                 :       1216 :           if (e->flags & EDGE_TRUE_VALUE)
    2849                 :        251 :             gimple_cond_make_false (cond_stmt);
    2850                 :        965 :           else if (e->flags & EDGE_FALSE_VALUE)
    2851                 :        965 :             gimple_cond_make_true (cond_stmt);
    2852                 :            :           else
    2853                 :          0 :             gcc_unreachable ();
    2854                 :       1216 :           update_stmt (cond_stmt);
    2855                 :            :         }
    2856                 :            :       else
    2857                 :            :         {
    2858                 :            :           /* Todo: handle other cases.  Note that unreachable switch case
    2859                 :            :              statements have already been removed.  */
    2860                 :        186 :           continue;
    2861                 :            :         }
    2862                 :            : 
    2863                 :       1216 :       ret = true;
    2864                 :            :     }
    2865                 :            : 
    2866                 :            :   return ret;
    2867                 :            : }
    2868                 :            : 
    2869                 :            : /* Optimize
    2870                 :            :      mask_2 = 1 << cnt_1;
    2871                 :            :      _4 = __atomic_fetch_or_* (ptr_6, mask_2, _3);
    2872                 :            :      _5 = _4 & mask_2;
    2873                 :            :    to
    2874                 :            :      _4 = ATOMIC_BIT_TEST_AND_SET (ptr_6, cnt_1, 0, _3);
    2875                 :            :      _5 = _4;
    2876                 :            :    If _5 is only used in _5 != 0 or _5 == 0 comparisons, 1
    2877                 :            :    is passed instead of 0, and the builtin just returns a zero
    2878                 :            :    or 1 value instead of the actual bit.
    2879                 :            :    Similarly for __sync_fetch_and_or_* (without the ", _3" part
    2880                 :            :    in there), and/or if mask_2 is a power of 2 constant.
    2881                 :            :    Similarly for xor instead of or, use ATOMIC_BIT_TEST_AND_COMPLEMENT
    2882                 :            :    in that case.  And similarly for and instead of or, except that
    2883                 :            :    the second argument to the builtin needs to be one's complement
    2884                 :            :    of the mask instead of mask.  */
    2885                 :            : 
    2886                 :            : static void
    2887                 :       3336 : optimize_atomic_bit_test_and (gimple_stmt_iterator *gsip,
    2888                 :            :                               enum internal_fn fn, bool has_model_arg,
    2889                 :            :                               bool after)
    2890                 :            : {
    2891                 :       3336 :   gimple *call = gsi_stmt (*gsip);
    2892                 :       3336 :   tree lhs = gimple_call_lhs (call);
    2893                 :       3336 :   use_operand_p use_p;
    2894                 :       3336 :   gimple *use_stmt;
    2895                 :       3336 :   tree mask, bit;
    2896                 :       3336 :   optab optab;
    2897                 :            : 
    2898                 :       3336 :   if (!flag_inline_atomics
    2899                 :       3336 :       || optimize_debug
    2900                 :       3336 :       || !gimple_call_builtin_p (call, BUILT_IN_NORMAL)
    2901                 :       3312 :       || !lhs
    2902                 :       1887 :       || SSA_NAME_OCCURS_IN_ABNORMAL_PHI (lhs)
    2903                 :       1887 :       || !single_imm_use (lhs, &use_p, &use_stmt)
    2904                 :       1833 :       || !is_gimple_assign (use_stmt)
    2905                 :        791 :       || gimple_assign_rhs_code (use_stmt) != BIT_AND_EXPR
    2906                 :       3487 :       || !gimple_vdef (call))
    2907                 :       3185 :     return;
    2908                 :            : 
    2909                 :        151 :   switch (fn)
    2910                 :            :     {
    2911                 :            :     case IFN_ATOMIC_BIT_TEST_AND_SET:
    2912                 :            :       optab = atomic_bit_test_and_set_optab;
    2913                 :            :       break;
    2914                 :            :     case IFN_ATOMIC_BIT_TEST_AND_COMPLEMENT:
    2915                 :            :       optab = atomic_bit_test_and_complement_optab;
    2916                 :            :       break;
    2917                 :            :     case IFN_ATOMIC_BIT_TEST_AND_RESET:
    2918                 :            :       optab = atomic_bit_test_and_reset_optab;
    2919                 :            :       break;
    2920                 :            :     default:
    2921                 :            :       return;
    2922                 :            :     }
    2923                 :            : 
    2924                 :        151 :   if (optab_handler (optab, TYPE_MODE (TREE_TYPE (lhs))) == CODE_FOR_nothing)
    2925                 :            :     return;
    2926                 :            : 
    2927                 :        151 :   mask = gimple_call_arg (call, 1);
    2928                 :        151 :   tree use_lhs = gimple_assign_lhs (use_stmt);
    2929                 :        151 :   if (!use_lhs)
    2930                 :            :     return;
    2931                 :            : 
    2932                 :        151 :   if (TREE_CODE (mask) == INTEGER_CST)
    2933                 :            :     {
    2934                 :         84 :       if (fn == IFN_ATOMIC_BIT_TEST_AND_RESET)
    2935                 :         18 :         mask = const_unop (BIT_NOT_EXPR, TREE_TYPE (mask), mask);
    2936                 :         84 :       mask = fold_convert (TREE_TYPE (lhs), mask);
    2937                 :         84 :       int ibit = tree_log2 (mask);
    2938                 :         84 :       if (ibit < 0)
    2939                 :       3185 :         return;
    2940                 :         84 :       bit = build_int_cst (TREE_TYPE (lhs), ibit);
    2941                 :            :     }
    2942                 :         67 :   else if (TREE_CODE (mask) == SSA_NAME)
    2943                 :            :     {
    2944                 :         67 :       gimple *g = SSA_NAME_DEF_STMT (mask);
    2945                 :         67 :       if (fn == IFN_ATOMIC_BIT_TEST_AND_RESET)
    2946                 :            :         {
    2947                 :         18 :           if (!is_gimple_assign (g)
    2948                 :         18 :               || gimple_assign_rhs_code (g) != BIT_NOT_EXPR)
    2949                 :            :             return;
    2950                 :         18 :           mask = gimple_assign_rhs1 (g);
    2951                 :         18 :           if (TREE_CODE (mask) != SSA_NAME)
    2952                 :            :             return;
    2953                 :         18 :           g = SSA_NAME_DEF_STMT (mask);
    2954                 :            :         }
    2955                 :         67 :       if (!is_gimple_assign (g)
    2956                 :         67 :           || gimple_assign_rhs_code (g) != LSHIFT_EXPR
    2957                 :        134 :           || !integer_onep (gimple_assign_rhs1 (g)))
    2958                 :          0 :         return;
    2959                 :         67 :       bit = gimple_assign_rhs2 (g);
    2960                 :            :     }
    2961                 :            :   else
    2962                 :            :     return;
    2963                 :            : 
    2964                 :        151 :   if (gimple_assign_rhs1 (use_stmt) == lhs)
    2965                 :            :     {
    2966                 :        104 :       if (!operand_equal_p (gimple_assign_rhs2 (use_stmt), mask, 0))
    2967                 :            :         return;
    2968                 :            :     }
    2969                 :         47 :   else if (gimple_assign_rhs2 (use_stmt) != lhs
    2970                 :         47 :            || !operand_equal_p (gimple_assign_rhs1 (use_stmt), mask, 0))
    2971                 :          0 :     return;
    2972                 :            : 
    2973                 :        151 :   bool use_bool = true;
    2974                 :        151 :   bool has_debug_uses = false;
    2975                 :        151 :   imm_use_iterator iter;
    2976                 :        151 :   gimple *g;
    2977                 :            : 
    2978                 :        151 :   if (SSA_NAME_OCCURS_IN_ABNORMAL_PHI (use_lhs))
    2979                 :          0 :     use_bool = false;
    2980                 :        267 :   FOR_EACH_IMM_USE_STMT (g, iter, use_lhs)
    2981                 :            :     {
    2982                 :        152 :       enum tree_code code = ERROR_MARK;
    2983                 :        152 :       tree op0 = NULL_TREE, op1 = NULL_TREE;
    2984                 :        152 :       if (is_gimple_debug (g))
    2985                 :            :         {
    2986                 :          1 :           has_debug_uses = true;
    2987                 :          1 :           continue;
    2988                 :            :         }
    2989                 :        151 :       else if (is_gimple_assign (g))
    2990                 :        127 :         switch (gimple_assign_rhs_code (g))
    2991                 :            :           {
    2992                 :          0 :           case COND_EXPR:
    2993                 :          0 :             op1 = gimple_assign_rhs1 (g);
    2994                 :          0 :             code = TREE_CODE (op1);
    2995                 :          0 :             op0 = TREE_OPERAND (op1, 0);
    2996                 :          0 :             op1 = TREE_OPERAND (op1, 1);
    2997                 :          0 :             break;
    2998                 :        103 :           case EQ_EXPR:
    2999                 :        103 :           case NE_EXPR:
    3000                 :        103 :             code = gimple_assign_rhs_code (g);
    3001                 :        103 :             op0 = gimple_assign_rhs1 (g);
    3002                 :        103 :             op1 = gimple_assign_rhs2 (g);
    3003                 :        103 :             break;
    3004                 :            :           default:
    3005                 :            :             break;
    3006                 :            :           }
    3007                 :         24 :       else if (gimple_code (g) == GIMPLE_COND)
    3008                 :            :         {
    3009                 :         12 :           code = gimple_cond_code (g);
    3010                 :         12 :           op0 = gimple_cond_lhs (g);
    3011                 :         12 :           op1 = gimple_cond_rhs (g);
    3012                 :            :         }
    3013                 :            : 
    3014                 :        151 :       if ((code == EQ_EXPR || code == NE_EXPR)
    3015                 :        115 :           && op0 == use_lhs
    3016                 :        266 :           && integer_zerop (op1))
    3017                 :            :         {
    3018                 :        115 :           use_operand_p use_p;
    3019                 :        115 :           int n = 0;
    3020                 :        230 :           FOR_EACH_IMM_USE_ON_STMT (use_p, iter)
    3021                 :        115 :             n++;
    3022                 :        115 :           if (n == 1)
    3023                 :        115 :             continue;
    3024                 :            :         }
    3025                 :            : 
    3026                 :         36 :       use_bool = false;
    3027                 :        152 :       BREAK_FROM_IMM_USE_STMT (iter);
    3028                 :            :     }
    3029                 :            : 
    3030                 :        151 :   tree new_lhs = make_ssa_name (TREE_TYPE (lhs));
    3031                 :        151 :   tree flag = build_int_cst (TREE_TYPE (lhs), use_bool);
    3032                 :        151 :   if (has_model_arg)
    3033                 :        103 :     g = gimple_build_call_internal (fn, 4, gimple_call_arg (call, 0),
    3034                 :            :                                     bit, flag, gimple_call_arg (call, 2));
    3035                 :            :   else
    3036                 :         48 :     g = gimple_build_call_internal (fn, 3, gimple_call_arg (call, 0),
    3037                 :            :                                     bit, flag);
    3038                 :        151 :   gimple_call_set_lhs (g, new_lhs);
    3039                 :        151 :   gimple_set_location (g, gimple_location (call));
    3040                 :        151 :   gimple_move_vops (g, call);
    3041                 :        151 :   bool throws = stmt_can_throw_internal (cfun, call);
    3042                 :        302 :   gimple_call_set_nothrow (as_a <gcall *> (g),
    3043                 :        151 :                            gimple_call_nothrow_p (as_a <gcall *> (call)));
    3044                 :        151 :   gimple_stmt_iterator gsi = *gsip;
    3045                 :        151 :   gsi_insert_after (&gsi, g, GSI_NEW_STMT);
    3046                 :        151 :   edge e = NULL;
    3047                 :        151 :   if (throws)
    3048                 :            :     {
    3049                 :        100 :       maybe_clean_or_replace_eh_stmt (call, g);
    3050                 :        100 :       if (after || (use_bool && has_debug_uses))
    3051                 :         12 :         e = find_fallthru_edge (gsi_bb (gsi)->succs);
    3052                 :            :     }
    3053                 :        151 :   if (after)
    3054                 :            :     {
    3055                 :            :       /* The internal function returns the value of the specified bit
    3056                 :            :          before the atomic operation.  If we are interested in the value
    3057                 :            :          of the specified bit after the atomic operation (makes only sense
    3058                 :            :          for xor, otherwise the bit content is compile time known),
    3059                 :            :          we need to invert the bit.  */
    3060                 :         36 :       g = gimple_build_assign (make_ssa_name (TREE_TYPE (lhs)),
    3061                 :            :                                BIT_XOR_EXPR, new_lhs,
    3062                 :         12 :                                use_bool ? build_int_cst (TREE_TYPE (lhs), 1)
    3063                 :            :                                         : mask);
    3064                 :         18 :       new_lhs = gimple_assign_lhs (g);
    3065                 :         18 :       if (throws)
    3066                 :            :         {
    3067                 :         12 :           gsi_insert_on_edge_immediate (e, g);
    3068                 :         12 :           gsi = gsi_for_stmt (g);
    3069                 :            :         }
    3070                 :            :       else
    3071                 :          6 :         gsi_insert_after (&gsi, g, GSI_NEW_STMT);
    3072                 :            :     }
    3073                 :        151 :   if (use_bool && has_debug_uses)
    3074                 :            :     {
    3075                 :          1 :       tree temp = NULL_TREE;
    3076                 :          1 :       if (!throws || after || single_pred_p (e->dest))
    3077                 :            :         {
    3078                 :          1 :           temp = make_node (DEBUG_EXPR_DECL);
    3079                 :          1 :           DECL_ARTIFICIAL (temp) = 1;
    3080                 :          1 :           TREE_TYPE (temp) = TREE_TYPE (lhs);
    3081                 :          1 :           SET_DECL_MODE (temp, TYPE_MODE (TREE_TYPE (lhs)));
    3082                 :          1 :           tree t = build2 (LSHIFT_EXPR, TREE_TYPE (lhs), new_lhs, bit);
    3083                 :          1 :           g = gimple_build_debug_bind (temp, t, g);
    3084                 :          1 :           if (throws && !after)
    3085                 :            :             {
    3086                 :          0 :               gsi = gsi_after_labels (e->dest);
    3087                 :          0 :               gsi_insert_before (&gsi, g, GSI_SAME_STMT);
    3088                 :            :             }
    3089                 :            :           else
    3090                 :          1 :             gsi_insert_after (&gsi, g, GSI_NEW_STMT);
    3091                 :            :         }
    3092                 :          3 :       FOR_EACH_IMM_USE_STMT (g, iter, use_lhs)
    3093                 :          2 :         if (is_gimple_debug (g))
    3094                 :            :           {
    3095                 :          1 :             use_operand_p use_p;
    3096                 :          1 :             if (temp == NULL_TREE)
    3097                 :          0 :               gimple_debug_bind_reset_value (g);
    3098                 :            :             else
    3099                 :          3 :               FOR_EACH_IMM_USE_ON_STMT (use_p, iter)
    3100                 :          1 :                 SET_USE (use_p, temp);
    3101                 :          3 :             update_stmt (g);
    3102                 :            :           }
    3103                 :            :     }
    3104                 :        151 :   SSA_NAME_OCCURS_IN_ABNORMAL_PHI (new_lhs)
    3105                 :        151 :     = SSA_NAME_OCCURS_IN_ABNORMAL_PHI (use_lhs);
    3106                 :        151 :   replace_uses_by (use_lhs, new_lhs);
    3107                 :        151 :   gsi = gsi_for_stmt (use_stmt);
    3108                 :        151 :   gsi_remove (&gsi, true);
    3109                 :        151 :   release_defs (use_stmt);
    3110                 :        151 :   gsi_remove (gsip, true);
    3111                 :        151 :   release_ssa_name (lhs);
    3112                 :            : }
    3113                 :            : 
    3114                 :            : /* Optimize
    3115                 :            :    a = {};
    3116                 :            :    b = a;
    3117                 :            :    into
    3118                 :            :    a = {};
    3119                 :            :    b = {};
    3120                 :            :    Similarly for memset (&a, ..., sizeof (a)); instead of a = {};
    3121                 :            :    and/or memcpy (&b, &a, sizeof (a)); instead of b = a;  */
    3122                 :            : 
    3123                 :            : static void
    3124                 :     374695 : optimize_memcpy (gimple_stmt_iterator *gsip, tree dest, tree src, tree len)
    3125                 :            : {
    3126                 :     374695 :   gimple *stmt = gsi_stmt (*gsip);
    3127                 :     749390 :   if (gimple_has_volatile_ops (stmt))
    3128                 :     372711 :     return;
    3129                 :            : 
    3130                 :     747251 :   tree vuse = gimple_vuse (stmt);
    3131                 :     374540 :   if (vuse == NULL)
    3132                 :            :     return;
    3133                 :            : 
    3134                 :     374540 :   gimple *defstmt = SSA_NAME_DEF_STMT (vuse);
    3135                 :     374540 :   tree src2 = NULL_TREE, len2 = NULL_TREE;
    3136                 :     374540 :   poly_int64 offset, offset2;
    3137                 :     374540 :   tree val = integer_zero_node;
    3138                 :     374540 :   if (gimple_store_p (defstmt)
    3139                 :     185673 :       && gimple_assign_single_p (defstmt)
    3140                 :     185673 :       && TREE_CODE (gimple_assign_rhs1 (defstmt)) == CONSTRUCTOR
    3141                 :     385353 :       && !gimple_clobber_p (defstmt))
    3142                 :       4602 :     src2 = gimple_assign_lhs (defstmt);
    3143                 :     369938 :   else if (gimple_call_builtin_p (defstmt, BUILT_IN_MEMSET)
    3144                 :       1947 :            && TREE_CODE (gimple_call_arg (defstmt, 0)) == ADDR_EXPR
    3145                 :     371868 :            && TREE_CODE (gimple_call_arg (defstmt, 1)) == INTEGER_CST)
    3146                 :            :     {
    3147                 :       1930 :       src2 = TREE_OPERAND (gimple_call_arg (defstmt, 0), 0);
    3148                 :       1930 :       len2 = gimple_call_arg (defstmt, 2);
    3149                 :       1930 :       val = gimple_call_arg (defstmt, 1);
    3150                 :            :       /* For non-0 val, we'd have to transform stmt from assignment
    3151                 :            :          into memset (only if dest is addressable).  */
    3152                 :       1930 :       if (!integer_zerop (val) && is_gimple_assign (stmt))
    3153                 :            :         src2 = NULL_TREE;
    3154                 :            :     }
    3155                 :            : 
    3156                 :     374540 :   if (src2 == NULL_TREE)
    3157                 :            :     return;
    3158                 :            : 
    3159                 :       6516 :   if (len == NULL_TREE)
    3160                 :       4658 :     len = (TREE_CODE (src) == COMPONENT_REF
    3161                 :       4658 :            ? DECL_SIZE_UNIT (TREE_OPERAND (src, 1))
    3162                 :       3755 :            : TYPE_SIZE_UNIT (TREE_TYPE (src)));
    3163                 :       6516 :   if (len2 == NULL_TREE)
    3164                 :       4602 :     len2 = (TREE_CODE (src2) == COMPONENT_REF
    3165                 :       4602 :             ? DECL_SIZE_UNIT (TREE_OPERAND (src2, 1))
    3166                 :       4597 :             : TYPE_SIZE_UNIT (TREE_TYPE (src2)));
    3167                 :       6516 :   if (len == NULL_TREE
    3168                 :       6516 :       || !poly_int_tree_p (len)
    3169                 :       6516 :       || len2 == NULL_TREE
    3170                 :      13032 :       || !poly_int_tree_p (len2))
    3171                 :            :     return;
    3172                 :            : 
    3173                 :       6516 :   src = get_addr_base_and_unit_offset (src, &offset);
    3174                 :       6516 :   src2 = get_addr_base_and_unit_offset (src2, &offset2);
    3175                 :       6516 :   if (src == NULL_TREE
    3176                 :       6516 :       || src2 == NULL_TREE
    3177                 :       6516 :       || maybe_lt (offset, offset2))
    3178                 :            :     return;
    3179                 :            : 
    3180                 :       5634 :   if (!operand_equal_p (src, src2, 0))
    3181                 :            :     return;
    3182                 :            : 
    3183                 :            :   /* [ src + offset2, src + offset2 + len2 - 1 ] is set to val.
    3184                 :            :      Make sure that
    3185                 :            :      [ src + offset, src + offset + len - 1 ] is a subset of that.  */
    3186                 :       1985 :   if (maybe_gt (wi::to_poly_offset (len) + (offset - offset2),
    3187                 :            :                 wi::to_poly_offset (len2)))
    3188                 :            :     return;
    3189                 :            : 
    3190                 :       1984 :   if (dump_file && (dump_flags & TDF_DETAILS))
    3191                 :            :     {
    3192                 :         17 :       fprintf (dump_file, "Simplified\n  ");
    3193                 :         17 :       print_gimple_stmt (dump_file, stmt, 0, dump_flags);
    3194                 :         17 :       fprintf (dump_file, "after previous\n  ");
    3195                 :         17 :       print_gimple_stmt (dump_file, defstmt, 0, dump_flags);
    3196                 :            :     }
    3197                 :            : 
    3198                 :            :   /* For simplicity, don't change the kind of the stmt,
    3199                 :            :      turn dest = src; into dest = {}; and memcpy (&dest, &src, len);
    3200                 :            :      into memset (&dest, val, len);
    3201                 :            :      In theory we could change dest = src into memset if dest
    3202                 :            :      is addressable (maybe beneficial if val is not 0), or
    3203                 :            :      memcpy (&dest, &src, len) into dest = {} if len is the size
    3204                 :            :      of dest, dest isn't volatile.  */
    3205                 :       1984 :   if (is_gimple_assign (stmt))
    3206                 :            :     {
    3207                 :       1983 :       tree ctor = build_constructor (TREE_TYPE (dest), NULL);
    3208                 :       1983 :       gimple_assign_set_rhs_from_tree (gsip, ctor);
    3209                 :       1983 :       update_stmt (stmt);
    3210                 :            :     }
    3211                 :            :   else /* If stmt is memcpy, transform it into memset.  */
    3212                 :            :     {
    3213                 :          1 :       gcall *call = as_a <gcall *> (stmt);
    3214                 :          1 :       tree fndecl = builtin_decl_implicit (BUILT_IN_MEMSET);
    3215                 :          1 :       gimple_call_set_fndecl (call, fndecl);
    3216                 :          1 :       gimple_call_set_fntype (call, TREE_TYPE (fndecl));
    3217                 :          1 :       gimple_call_set_arg (call, 1, val);
    3218                 :          1 :       update_stmt (stmt);
    3219                 :            :     }
    3220                 :            : 
    3221                 :       1984 :   if (dump_file && (dump_flags & TDF_DETAILS))
    3222                 :            :     {
    3223                 :         17 :       fprintf (dump_file, "into\n  ");
    3224                 :         17 :       print_gimple_stmt (dump_file, stmt, 0, dump_flags);
    3225                 :            :     }
    3226                 :            : }
    3227                 :            : 
    3228                 :            : /* A simple pass that attempts to fold all builtin functions.  This pass
    3229                 :            :    is run after we've propagated as many constants as we can.  */
    3230                 :            : 
    3231                 :            : namespace {
    3232                 :            : 
    3233                 :            : const pass_data pass_data_fold_builtins =
    3234                 :            : {
    3235                 :            :   GIMPLE_PASS, /* type */
    3236                 :            :   "fab", /* name */
    3237                 :            :   OPTGROUP_NONE, /* optinfo_flags */
    3238                 :            :   TV_NONE, /* tv_id */
    3239                 :            :   ( PROP_cfg | PROP_ssa ), /* properties_required */
    3240                 :            :   0, /* properties_provided */
    3241                 :            :   0, /* properties_destroyed */
    3242                 :            :   0, /* todo_flags_start */
    3243                 :            :   TODO_update_ssa, /* todo_flags_finish */
    3244                 :            : };
    3245                 :            : 
    3246                 :            : class pass_fold_builtins : public gimple_opt_pass
    3247                 :            : {
    3248                 :            : public:
    3249                 :     401080 :   pass_fold_builtins (gcc::context *ctxt)
    3250                 :     802160 :     : gimple_opt_pass (pass_data_fold_builtins, ctxt)
    3251                 :            :   {}
    3252                 :            : 
    3253                 :            :   /* opt_pass methods: */
    3254                 :     200540 :   opt_pass * clone () { return new pass_fold_builtins (m_ctxt); }
    3255                 :            :   virtual unsigned int execute (function *);
    3256                 :            : 
    3257                 :            : }; // class pass_fold_builtins
    3258                 :            : 
    3259                 :            : unsigned int
    3260                 :     687603 : pass_fold_builtins::execute (function *fun)
    3261                 :            : {
    3262                 :     687603 :   bool cfg_changed = false;
    3263                 :     687603 :   basic_block bb;
    3264                 :     687603 :   unsigned int todoflags = 0;
    3265                 :            : 
    3266                 :    7383800 :   FOR_EACH_BB_FN (bb, fun)
    3267                 :            :     {
    3268                 :    6696200 :       gimple_stmt_iterator i;
    3269                 :   68018100 :       for (i = gsi_start_bb (bb); !gsi_end_p (i); )
    3270                 :            :         {
    3271                 :   54625700 :           gimple *stmt, *old_stmt;
    3272                 :   54625700 :           tree callee;
    3273                 :   54625700 :           enum built_in_function fcode;
    3274                 :            : 
    3275                 :   54625700 :           stmt = gsi_stmt (i);
    3276                 :            : 
    3277                 :   54625700 :           if (gimple_code (stmt) != GIMPLE_CALL)
    3278                 :            :             {
    3279                 :            :               /* Remove all *ssaname_N ={v} {CLOBBER}; stmts,
    3280                 :            :                  after the last GIMPLE DSE they aren't needed and might
    3281                 :            :                  unnecessarily keep the SSA_NAMEs live.  */
    3282                 :   51169700 :               if (gimple_clobber_p (stmt))
    3283                 :            :                 {
    3284                 :    1030000 :                   tree lhs = gimple_assign_lhs (stmt);
    3285                 :    1133090 :                   if (TREE_CODE (lhs) == MEM_REF
    3286                 :    1030000 :                       && TREE_CODE (TREE_OPERAND (lhs, 0)) == SSA_NAME)
    3287                 :            :                     {
    3288                 :     103087 :                       unlink_stmt_vdef (stmt);
    3289                 :     103087 :                       gsi_remove (&i, true);
    3290                 :     103087 :                       release_defs (stmt);
    3291                 :     103087 :                       continue;
    3292                 :            :                     }
    3293                 :            :                 }
    3294                 :   50139700 :               else if (gimple_assign_load_p (stmt) && gimple_store_p (stmt))
    3295                 :     367643 :                 optimize_memcpy (&i, gimple_assign_lhs (stmt),
    3296                 :            :                                  gimple_assign_rhs1 (stmt), NULL_TREE);
    3297                 :   51066600 :               gsi_next (&i);
    3298                 :   51066600 :               continue;
    3299                 :            :             }
    3300                 :            : 
    3301                 :    3456040 :           callee = gimple_call_fndecl (stmt);
    3302                 :    3456040 :           if (!callee || !fndecl_built_in_p (callee, BUILT_IN_NORMAL))
    3303                 :            :             {
    3304                 :    2749430 :               gsi_next (&i);
    3305                 :    2749430 :               continue;
    3306                 :            :             }
    3307                 :            : 
    3308                 :     706615 :           fcode = DECL_FUNCTION_CODE (callee);
    3309                 :     706615 :           if (fold_stmt (&i))
    3310                 :            :             ;
    3311                 :            :           else
    3312                 :            :             {
    3313                 :     706613 :               tree result = NULL_TREE;
    3314                 :     706613 :               switch (DECL_FUNCTION_CODE (callee))
    3315                 :            :                 {
    3316                 :          2 :                 case BUILT_IN_CONSTANT_P:
    3317                 :            :                   /* Resolve __builtin_constant_p.  If it hasn't been
    3318                 :            :                      folded to integer_one_node by now, it's fairly
    3319                 :            :                      certain that the value simply isn't constant.  */
    3320                 :          2 :                   result = integer_zero_node;
    3321                 :          2 :                   break;
    3322                 :            : 
    3323                 :        584 :                 case BUILT_IN_ASSUME_ALIGNED:
    3324                 :            :                   /* Remove __builtin_assume_aligned.  */
    3325                 :        584 :                   result = gimple_call_arg (stmt, 0);
    3326                 :        584 :                   break;
    3327                 :            : 
    3328                 :       2001 :                 case BUILT_IN_STACK_RESTORE:
    3329                 :       2001 :                   result = optimize_stack_restore (i);
    3330                 :       2001 :                   if (result)
    3331                 :            :                     break;
    3332                 :        512 :                   gsi_next (&i);
    3333                 :        512 :                   continue;
    3334                 :            : 
    3335                 :       2047 :                 case BUILT_IN_UNREACHABLE:
    3336                 :       2047 :                   if (optimize_unreachable (i))
    3337                 :            :                     cfg_changed = true;
    3338                 :            :                   break;
    3339                 :            : 
    3340                 :        702 :                 case BUILT_IN_ATOMIC_FETCH_OR_1:
    3341                 :        702 :                 case BUILT_IN_ATOMIC_FETCH_OR_2:
    3342                 :        702 :                 case BUILT_IN_ATOMIC_FETCH_OR_4:
    3343                 :        702 :                 case BUILT_IN_ATOMIC_FETCH_OR_8:
    3344                 :        702 :                 case BUILT_IN_ATOMIC_FETCH_OR_16:
    3345                 :        702 :                   optimize_atomic_bit_test_and (&i,
    3346                 :            :                                                 IFN_ATOMIC_BIT_TEST_AND_SET,
    3347                 :            :                                                 true, false);
    3348                 :        702 :                   break;
    3349                 :        412 :                 case BUILT_IN_SYNC_FETCH_AND_OR_1:
    3350                 :        412 :                 case BUILT_IN_SYNC_FETCH_AND_OR_2:
    3351                 :        412 :                 case BUILT_IN_SYNC_FETCH_AND_OR_4:
    3352                 :        412 :                 case BUILT_IN_SYNC_FETCH_AND_OR_8:
    3353                 :        412 :                 case BUILT_IN_SYNC_FETCH_AND_OR_16:
    3354                 :        412 :                   optimize_atomic_bit_test_and (&i,
    3355                 :            :                                                 IFN_ATOMIC_BIT_TEST_AND_SET,
    3356                 :            :                                                 false, false);
    3357                 :        412 :                   break;
    3358                 :            : 
    3359                 :        488 :                 case BUILT_IN_ATOMIC_FETCH_XOR_1:
    3360                 :        488 :                 case BUILT_IN_ATOMIC_FETCH_XOR_2:
    3361                 :        488 :                 case BUILT_IN_ATOMIC_FETCH_XOR_4:
    3362                 :        488 :                 case BUILT_IN_ATOMIC_FETCH_XOR_8:
    3363                 :        488 :                 case BUILT_IN_ATOMIC_FETCH_XOR_16:
    3364                 :        488 :                   optimize_atomic_bit_test_and
    3365                 :        488 :                         (&i, IFN_ATOMIC_BIT_TEST_AND_COMPLEMENT, true, false);
    3366                 :        488 :                   break;
    3367                 :        400 :                 case BUILT_IN_SYNC_FETCH_AND_XOR_1:
    3368                 :        400 :                 case BUILT_IN_SYNC_FETCH_AND_XOR_2:
    3369                 :        400 :                 case BUILT_IN_SYNC_FETCH_AND_XOR_4:
    3370                 :        400 :                 case BUILT_IN_SYNC_FETCH_AND_XOR_8:
    3371                 :        400 :                 case BUILT_IN_SYNC_FETCH_AND_XOR_16:
    3372                 :        400 :                   optimize_atomic_bit_test_and
    3373                 :        400 :                         (&i, IFN_ATOMIC_BIT_TEST_AND_COMPLEMENT, false, false);
    3374                 :        400 :                   break;
    3375                 :            : 
    3376                 :        390 :                 case BUILT_IN_ATOMIC_XOR_FETCH_1:
    3377                 :        390 :                 case BUILT_IN_ATOMIC_XOR_FETCH_2:
    3378                 :        390 :                 case BUILT_IN_ATOMIC_XOR_FETCH_4:
    3379                 :        390 :                 case BUILT_IN_ATOMIC_XOR_FETCH_8:
    3380                 :        390 :                 case BUILT_IN_ATOMIC_XOR_FETCH_16:
    3381                 :        390 :                   optimize_atomic_bit_test_and
    3382                 :        390 :                         (&i, IFN_ATOMIC_BIT_TEST_AND_COMPLEMENT, true, true);
    3383                 :        390 :                   break;
    3384                 :         64 :                 case BUILT_IN_SYNC_XOR_AND_FETCH_1:
    3385                 :         64 :                 case BUILT_IN_SYNC_XOR_AND_FETCH_2:
    3386                 :         64 :                 case BUILT_IN_SYNC_XOR_AND_FETCH_4:
    3387                 :         64 :                 case BUILT_IN_SYNC_XOR_AND_FETCH_8:
    3388                 :         64 :                 case BUILT_IN_SYNC_XOR_AND_FETCH_16:
    3389                 :         64 :                   optimize_atomic_bit_test_and
    3390                 :         64 :                         (&i, IFN_ATOMIC_BIT_TEST_AND_COMPLEMENT, false, true);
    3391                 :         64 :                   break;
    3392                 :            : 
    3393                 :        480 :                 case BUILT_IN_ATOMIC_FETCH_AND_1:
    3394                 :        480 :                 case BUILT_IN_ATOMIC_FETCH_AND_2:
    3395                 :        480 :                 case BUILT_IN_ATOMIC_FETCH_AND_4:
    3396                 :        480 :                 case BUILT_IN_ATOMIC_FETCH_AND_8:
    3397                 :        480 :                 case BUILT_IN_ATOMIC_FETCH_AND_16:
    3398                 :        480 :                   optimize_atomic_bit_test_and (&i,
    3399                 :            :                                                 IFN_ATOMIC_BIT_TEST_AND_RESET,
    3400                 :            :                                                 true, false);
    3401                 :        480 :                   break;
    3402                 :        400 :                 case BUILT_IN_SYNC_FETCH_AND_AND_1:
    3403                 :        400 :                 case BUILT_IN_SYNC_FETCH_AND_AND_2:
    3404                 :        400 :                 case BUILT_IN_SYNC_FETCH_AND_AND_4:
    3405                 :        400 :                 case BUILT_IN_SYNC_FETCH_AND_AND_8:
    3406                 :        400 :                 case BUILT_IN_SYNC_FETCH_AND_AND_16:
    3407                 :        400 :                   optimize_atomic_bit_test_and (&i,
    3408                 :            :                                                 IFN_ATOMIC_BIT_TEST_AND_RESET,
    3409                 :            :                                                 false, false);
    3410                 :        400 :                   break;
    3411                 :            : 
    3412                 :      36805 :                 case BUILT_IN_MEMCPY:
    3413                 :      36805 :                   if (gimple_call_builtin_p (stmt, BUILT_IN_NORMAL)
    3414                 :      36788 :                       && TREE_CODE (gimple_call_arg (stmt, 0)) == ADDR_EXPR
    3415                 :       8700 :                       && TREE_CODE (gimple_call_arg (stmt, 1)) == ADDR_EXPR
    3416                 :      44332 :                       && TREE_CODE (gimple_call_arg (stmt, 2)) == INTEGER_CST)
    3417                 :            :                     {
    3418                 :       7052 :                       tree dest = TREE_OPERAND (gimple_call_arg (stmt, 0), 0);
    3419                 :       7052 :                       tree src = TREE_OPERAND (gimple_call_arg (stmt, 1), 0);
    3420                 :       7052 :                       tree len = gimple_call_arg (stmt, 2);
    3421                 :       7052 :                       optimize_memcpy (&i, dest, src, len);
    3422                 :            :                     }
    3423                 :            :                   break;
    3424                 :            : 
    3425                 :       9103 :                 case BUILT_IN_VA_START:
    3426                 :       9103 :                 case BUILT_IN_VA_END:
    3427                 :       9103 :                 case BUILT_IN_VA_COPY:
    3428                 :            :                   /* These shouldn't be folded before pass_stdarg.  */
    3429                 :       9103 :                   result = optimize_stdarg_builtin (stmt);
    3430                 :       9103 :                   break;
    3431                 :            : 
    3432                 :       2001 :                 default:;
    3433                 :            :                 }
    3434                 :            : 
    3435                 :      21566 :               if (!result)
    3436                 :            :                 {
    3437                 :     701136 :                   gsi_next (&i);
    3438                 :     701136 :                   continue;
    3439                 :            :                 }
    3440                 :            : 
    3441                 :       4965 :               if (!update_call_from_tree (&i, result))
    3442                 :        168 :                 gimplify_and_update_call_from_tree (&i, result);
    3443                 :            :             }
    3444                 :            : 
    3445                 :       4967 :           todoflags |= TODO_update_address_taken;
    3446                 :            : 
    3447                 :       4967 :           if (dump_file && (dump_flags & TDF_DETAILS))
    3448                 :            :             {
    3449                 :          0 :               fprintf (dump_file, "Simplified\n  ");
    3450                 :          0 :               print_gimple_stmt (dump_file, stmt, 0, dump_flags);
    3451                 :            :             }
    3452                 :            : 
    3453                 :       4967 :           old_stmt = stmt;
    3454                 :       4967 :           stmt = gsi_stmt (i);
    3455                 :       4967 :           update_stmt (stmt);
    3456                 :            : 
    3457                 :       4967 :           if (maybe_clean_or_replace_eh_stmt (old_stmt, stmt)
    3458                 :       4967 :               && gimple_purge_dead_eh_edges (bb))
    3459                 :            :             cfg_changed = true;
    3460                 :            : 
    3461                 :       4967 :           if (dump_file && (dump_flags & TDF_DETAILS))
    3462                 :            :             {
    3463                 :          0 :               fprintf (dump_file, "to\n  ");
    3464                 :          0 :               print_gimple_stmt (dump_file, stmt, 0, dump_flags);
    3465                 :          0 :               fprintf (dump_file, "\n");
    3466                 :            :             }
    3467                 :            : 
    3468                 :            :           /* Retry the same statement if it changed into another
    3469                 :            :              builtin, there might be new opportunities now.  */
    3470                 :       4967 :           if (gimple_code (stmt) != GIMPLE_CALL)
    3471                 :            :             {
    3472                 :       4967 :               gsi_next (&i);
    3473                 :       4967 :               continue;
    3474                 :            :             }
    3475                 :          0 :           callee = gimple_call_fndecl (stmt);
    3476                 :          0 :           if (!callee
    3477                 :          0 :               || !fndecl_built_in_p (callee, fcode))
    3478                 :          0 :             gsi_next (&i);
    3479                 :            :         }
    3480                 :            :     }
    3481                 :            : 
    3482                 :            :   /* Delete unreachable blocks.  */
    3483                 :     687603 :   if (cfg_changed)
    3484                 :        957 :     todoflags |= TODO_cleanup_cfg;
    3485                 :            : 
    3486                 :     687603 :   return todoflags;
    3487                 :            : }
    3488                 :            : 
    3489                 :            : } // anon namespace
    3490                 :            : 
    3491                 :            : gimple_opt_pass *
    3492                 :     200540 : make_pass_fold_builtins (gcc::context *ctxt)
    3493                 :            : {
    3494                 :     200540 :   return new pass_fold_builtins (ctxt);
    3495                 :            : }
    3496                 :            : 
    3497                 :            : /* A simple pass that emits some warnings post IPA.  */
    3498                 :            : 
    3499                 :            : namespace {
    3500                 :            : 
    3501                 :            : const pass_data pass_data_post_ipa_warn =
    3502                 :            : {
    3503                 :            :   GIMPLE_PASS, /* type */
    3504                 :            :   "post_ipa_warn", /* name */
    3505                 :            :   OPTGROUP_NONE, /* optinfo_flags */
    3506                 :            :   TV_NONE, /* tv_id */
    3507                 :            :   ( PROP_cfg | PROP_ssa ), /* properties_required */
    3508                 :            :   0, /* properties_provided */
    3509                 :            :   0, /* properties_destroyed */
    3510                 :            :   0, /* todo_flags_start */
    3511                 :            :   0, /* todo_flags_finish */
    3512                 :            : };
    3513                 :            : 
    3514                 :            : class pass_post_ipa_warn : public gimple_opt_pass
    3515                 :            : {
    3516                 :            : public:
    3517                 :     401080 :   pass_post_ipa_warn (gcc::context *ctxt)
    3518                 :     802160 :     : gimple_opt_pass (pass_data_post_ipa_warn, ctxt)
    3519                 :            :   {}
    3520                 :            : 
    3521                 :            :   /* opt_pass methods: */
    3522                 :     200540 :   opt_pass * clone () { return new pass_post_ipa_warn (m_ctxt); }
    3523                 :     687615 :   virtual bool gate (function *) { return warn_nonnull != 0; }
    3524                 :            :   virtual unsigned int execute (function *);
    3525                 :            : 
    3526                 :            : }; // class pass_fold_builtins
    3527                 :            : 
    3528                 :            : unsigned int
    3529                 :      58222 : pass_post_ipa_warn::execute (function *fun)
    3530                 :            : {
    3531                 :      58222 :   basic_block bb;
    3532                 :            : 
    3533                 :     741036 :   FOR_EACH_BB_FN (bb, fun)
    3534                 :            :     {
    3535                 :     682814 :       gimple_stmt_iterator gsi;
    3536                 :    7559090 :       for (gsi = gsi_start_bb (bb); !gsi_end_p (gsi); gsi_next (&gsi))
    3537                 :            :         {
    3538                 :    6193460 :           gimple *stmt = gsi_stmt (gsi);
    3539                 :    6193460 :           if (!is_gimple_call (stmt) || gimple_no_warning_p (stmt))
    3540                 :    5851680 :             continue;
    3541                 :            : 
    3542                 :     341781 :           if (warn_nonnull)
    3543                 :            :             {
    3544                 :     341781 :               bitmap nonnullargs
    3545                 :     341781 :                 = get_nonnull_args (gimple_call_fntype (stmt));
    3546                 :     341781 :               if (nonnullargs)
    3547                 :            :                 {
    3548                 :     101914 :                   for (unsigned i = 0; i < gimple_call_num_args (stmt); i++)
    3549                 :            :                     {
    3550                 :      76503 :                       tree arg = gimple_call_arg (stmt, i);
    3551                 :      76503 :                       if (TREE_CODE (TREE_TYPE (arg)) != POINTER_TYPE)
    3552                 :      76378 :                         continue;
    3553                 :      44738 :                       if (!integer_zerop (arg))
    3554                 :      44249 :                         continue;
    3555                 :        489 :                       if (!bitmap_empty_p (nonnullargs)
    3556                 :        489 :                           && !bitmap_bit_p (nonnullargs, i))
    3557                 :        364 :                         continue;
    3558                 :            : 
    3559                 :        125 :                       location_t loc = gimple_location (stmt);
    3560                 :        250 :                       auto_diagnostic_group d;
    3561                 :        125 :                       if (warning_at (loc, OPT_Wnonnull,
    3562                 :            :                                       "%Gargument %u null where non-null "
    3563                 :            :                                       "expected", stmt, i + 1))
    3564                 :            :                         {
    3565                 :        121 :                           tree fndecl = gimple_call_fndecl (stmt);
    3566                 :        242 :                           if (fndecl && DECL_IS_BUILTIN (fndecl))
    3567                 :         85 :                             inform (loc, "in a call to built-in function %qD",
    3568                 :            :                                     fndecl);
    3569                 :         36 :                           else if (fndecl)
    3570                 :         36 :                             inform (DECL_SOURCE_LOCATION (fndecl),
    3571                 :            :                                     "in a call to function %qD declared here",
    3572                 :            :                                     fndecl);
    3573                 :            : 
    3574                 :            :                         }
    3575                 :            :                     }
    3576                 :      25411 :                   BITMAP_FREE (nonnullargs);
    3577                 :            :                 }
    3578                 :            :             }
    3579                 :            :         }
    3580                 :            :     }
    3581                 :      58222 :   return 0;
    3582                 :            : }
    3583                 :            : 
    3584                 :            : } // anon namespace
    3585                 :            : 
    3586                 :            : gimple_opt_pass *
    3587                 :     200540 : make_pass_post_ipa_warn (gcc::context *ctxt)
    3588                 :            : {
    3589                 :     200540 :   return new pass_post_ipa_warn (ctxt);
    3590                 :            : }

Generated by: LCOV version 1.0

LCOV profile is generated on x86_64 machine using following configure options: configure --disable-bootstrap --enable-coverage=opt --enable-languages=c,c++,fortran,go,jit,lto --enable-host-shared. GCC test suite is run with the built compiler.