1/*===----- avx512vpopcntdqintrin.h - AVX512VPOPCNTDQ intrinsics-------------===
 2 *
 3 *
 4 * Part of the LLVM Project, under the Apache License v2.0 with LLVM Exceptions.
 5 * See https://llvm.org/LICENSE.txt for license information.
 6 * SPDX-License-Identifier: Apache-2.0 WITH LLVM-exception
 7 *
 8 *===-----------------------------------------------------------------------===
 9 */
10#ifndef __IMMINTRIN_H
11#error                                                                         \
12    "Never use <avx512vpopcntdqintrin.h> directly; include <immintrin.h> instead."
13#endif
14
15#ifndef __AVX512VPOPCNTDQINTRIN_H
16#define __AVX512VPOPCNTDQINTRIN_H
17
18/* Define the default attributes for the functions in this file. */
19#define __DEFAULT_FN_ATTRS                                                     \
20  __attribute__((__always_inline__, __nodebug__,                               \
21                 __target__("avx512vpopcntdq,evex512"),                        \
22                 __min_vector_width__(512)))
23
24#if defined(__cplusplus) && (__cplusplus >= 201103L)
25#define __DEFAULT_FN_ATTRS_CONSTEXPR __DEFAULT_FN_ATTRS constexpr
26#else
27#define __DEFAULT_FN_ATTRS_CONSTEXPR __DEFAULT_FN_ATTRS
28#endif
29
30static __inline__ __m512i __DEFAULT_FN_ATTRS_CONSTEXPR
31_mm512_popcnt_epi64(__m512i __A) {
32  return (__m512i)__builtin_elementwise_popcount((__v8du)__A);
33}
34
35static __inline__ __m512i __DEFAULT_FN_ATTRS
36_mm512_mask_popcnt_epi64(__m512i __W, __mmask8 __U, __m512i __A) {
37  return (__m512i)__builtin_ia32_selectq_512(
38      (__mmask8)__U, (__v8di)_mm512_popcnt_epi64(__A), (__v8di)__W);
39}
40
41static __inline__ __m512i __DEFAULT_FN_ATTRS
42_mm512_maskz_popcnt_epi64(__mmask8 __U, __m512i __A) {
43  return _mm512_mask_popcnt_epi64((__m512i)_mm512_setzero_si512(), __U, __A);
44}
45
46static __inline__ __m512i __DEFAULT_FN_ATTRS_CONSTEXPR
47_mm512_popcnt_epi32(__m512i __A) {
48  return (__m512i)__builtin_elementwise_popcount((__v16su)__A);
49}
50
51static __inline__ __m512i __DEFAULT_FN_ATTRS
52_mm512_mask_popcnt_epi32(__m512i __W, __mmask16 __U, __m512i __A) {
53  return (__m512i)__builtin_ia32_selectd_512(
54      (__mmask16)__U, (__v16si)_mm512_popcnt_epi32(__A), (__v16si)__W);
55}
56
57static __inline__ __m512i __DEFAULT_FN_ATTRS
58_mm512_maskz_popcnt_epi32(__mmask16 __U, __m512i __A) {
59  return _mm512_mask_popcnt_epi32((__m512i)_mm512_setzero_si512(), __U, __A);
60}
61
62#undef __DEFAULT_FN_ATTRS
63
64#endif