]> git.ipfire.org Git - thirdparty/kernel/linux.git/commitdiff
Merge branch 'kvm-async-pf-int' into HEAD
authorPaolo Bonzini <pbonzini@redhat.com>
Mon, 15 Jun 2020 11:53:05 +0000 (07:53 -0400)
committerPaolo Bonzini <pbonzini@redhat.com>
Wed, 8 Jul 2020 20:20:30 +0000 (16:20 -0400)
1  2 
arch/x86/Kconfig
arch/x86/include/asm/idtentry.h
arch/x86/include/asm/kvm_para.h
arch/x86/kernel/kvm.c

index 6a0cc524882dbee2a277eb7e88700968344d5728,31d0ca8de02f784bd7d4f4d44c6f6af95e05558d..aba928581226203bd53633ec06fe2f9417669fc5
@@@ -802,8 -801,9 +802,9 @@@ config KVM_GUES
        depends on PARAVIRT
        select PARAVIRT_CLOCK
        select ARCH_CPUIDLE_HALTPOLL
+       select X86_HV_CALLBACK_VECTOR
        default y
 -      ---help---
 +      help
          This option enables various optimizations for running under the KVM
          hypervisor. It includes a paravirtualized clock, so that instead
          of relying on a PIT (or probably other) emulation by the
index cf51c50eb356dd3a67884324bd90a2c39b90d47e,0000000000000000000000000000000000000000..cecc603eed3599cb39ac86d54b0d7493a681cee1
mode 100644,000000..100644
--- /dev/null
@@@ -1,652 -1,0 +1,656 @@@
 +/* SPDX-License-Identifier: GPL-2.0 */
 +#ifndef _ASM_X86_IDTENTRY_H
 +#define _ASM_X86_IDTENTRY_H
 +
 +/* Interrupts/Exceptions */
 +#include <asm/trapnr.h>
 +
 +#ifndef __ASSEMBLY__
 +#include <linux/hardirq.h>
 +
 +#include <asm/irq_stack.h>
 +
 +void idtentry_enter_user(struct pt_regs *regs);
 +void idtentry_exit_user(struct pt_regs *regs);
 +
 +bool idtentry_enter_cond_rcu(struct pt_regs *regs);
 +void idtentry_exit_cond_rcu(struct pt_regs *regs, bool rcu_exit);
 +
 +/**
 + * DECLARE_IDTENTRY - Declare functions for simple IDT entry points
 + *                  No error code pushed by hardware
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Declares three functions:
 + * - The ASM entry point: asm_##func
 + * - The XEN PV trap entry point: xen_##func (maybe unused)
 + * - The C handler called from the ASM entry point
 + *
 + * Note: This is the C variant of DECLARE_IDTENTRY(). As the name says it
 + * declares the entry points for usage in C code. There is an ASM variant
 + * as well which is used to emit the entry stubs in entry_32/64.S.
 + */
 +#define DECLARE_IDTENTRY(vector, func)                                        \
 +      asmlinkage void asm_##func(void);                               \
 +      asmlinkage void xen_asm_##func(void);                           \
 +      __visible void func(struct pt_regs *regs)
 +
 +/**
 + * DEFINE_IDTENTRY - Emit code for simple IDT entry points
 + * @func:     Function name of the entry point
 + *
 + * @func is called from ASM entry code with interrupts disabled.
 + *
 + * The macro is written so it acts as function definition. Append the
 + * body with a pair of curly brackets.
 + *
 + * idtentry_enter() contains common code which has to be invoked before
 + * arbitrary code in the body. idtentry_exit() contains common code
 + * which has to run before returning to the low level assembly code.
 + */
 +#define DEFINE_IDTENTRY(func)                                         \
 +static __always_inline void __##func(struct pt_regs *regs);           \
 +                                                                      \
 +__visible noinstr void func(struct pt_regs *regs)                     \
 +{                                                                     \
 +      bool rcu_exit = idtentry_enter_cond_rcu(regs);                  \
 +                                                                      \
 +      instrumentation_begin();                                        \
 +      __##func (regs);                                                \
 +      instrumentation_end();                                          \
 +      idtentry_exit_cond_rcu(regs, rcu_exit);                         \
 +}                                                                     \
 +                                                                      \
 +static __always_inline void __##func(struct pt_regs *regs)
 +
 +/* Special case for 32bit IRET 'trap' */
 +#define DECLARE_IDTENTRY_SW   DECLARE_IDTENTRY
 +#define DEFINE_IDTENTRY_SW    DEFINE_IDTENTRY
 +
 +/**
 + * DECLARE_IDTENTRY_ERRORCODE - Declare functions for simple IDT entry points
 + *                            Error code pushed by hardware
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Declares three functions:
 + * - The ASM entry point: asm_##func
 + * - The XEN PV trap entry point: xen_##func (maybe unused)
 + * - The C handler called from the ASM entry point
 + *
 + * Same as DECLARE_IDTENTRY, but has an extra error_code argument for the
 + * C-handler.
 + */
 +#define DECLARE_IDTENTRY_ERRORCODE(vector, func)                      \
 +      asmlinkage void asm_##func(void);                               \
 +      asmlinkage void xen_asm_##func(void);                           \
 +      __visible void func(struct pt_regs *regs, unsigned long error_code)
 +
 +/**
 + * DEFINE_IDTENTRY_ERRORCODE - Emit code for simple IDT entry points
 + *                           Error code pushed by hardware
 + * @func:     Function name of the entry point
 + *
 + * Same as DEFINE_IDTENTRY, but has an extra error_code argument
 + */
 +#define DEFINE_IDTENTRY_ERRORCODE(func)                                       \
 +static __always_inline void __##func(struct pt_regs *regs,            \
 +                                   unsigned long error_code);         \
 +                                                                      \
 +__visible noinstr void func(struct pt_regs *regs,                     \
 +                          unsigned long error_code)                   \
 +{                                                                     \
 +      bool rcu_exit = idtentry_enter_cond_rcu(regs);                  \
 +                                                                      \
 +      instrumentation_begin();                                        \
 +      __##func (regs, error_code);                                    \
 +      instrumentation_end();                                          \
 +      idtentry_exit_cond_rcu(regs, rcu_exit);                         \
 +}                                                                     \
 +                                                                      \
 +static __always_inline void __##func(struct pt_regs *regs,            \
 +                                   unsigned long error_code)
 +
 +/**
 + * DECLARE_IDTENTRY_RAW - Declare functions for raw IDT entry points
 + *                  No error code pushed by hardware
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Maps to DECLARE_IDTENTRY().
 + */
 +#define DECLARE_IDTENTRY_RAW(vector, func)                            \
 +      DECLARE_IDTENTRY(vector, func)
 +
 +/**
 + * DEFINE_IDTENTRY_RAW - Emit code for raw IDT entry points
 + * @func:     Function name of the entry point
 + *
 + * @func is called from ASM entry code with interrupts disabled.
 + *
 + * The macro is written so it acts as function definition. Append the
 + * body with a pair of curly brackets.
 + *
 + * Contrary to DEFINE_IDTENTRY() this does not invoke the
 + * idtentry_enter/exit() helpers before and after the body invocation. This
 + * needs to be done in the body itself if applicable. Use if extra work
 + * is required before the enter/exit() helpers are invoked.
 + */
 +#define DEFINE_IDTENTRY_RAW(func)                                     \
 +__visible noinstr void func(struct pt_regs *regs)
 +
 +/**
 + * DECLARE_IDTENTRY_RAW_ERRORCODE - Declare functions for raw IDT entry points
 + *                                Error code pushed by hardware
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Maps to DECLARE_IDTENTRY_ERRORCODE()
 + */
 +#define DECLARE_IDTENTRY_RAW_ERRORCODE(vector, func)                  \
 +      DECLARE_IDTENTRY_ERRORCODE(vector, func)
 +
 +/**
 + * DEFINE_IDTENTRY_RAW_ERRORCODE - Emit code for raw IDT entry points
 + * @func:     Function name of the entry point
 + *
 + * @func is called from ASM entry code with interrupts disabled.
 + *
 + * The macro is written so it acts as function definition. Append the
 + * body with a pair of curly brackets.
 + *
 + * Contrary to DEFINE_IDTENTRY_ERRORCODE() this does not invoke the
 + * idtentry_enter/exit() helpers before and after the body invocation. This
 + * needs to be done in the body itself if applicable. Use if extra work
 + * is required before the enter/exit() helpers are invoked.
 + */
 +#define DEFINE_IDTENTRY_RAW_ERRORCODE(func)                           \
 +__visible noinstr void func(struct pt_regs *regs, unsigned long error_code)
 +
 +/**
 + * DECLARE_IDTENTRY_IRQ - Declare functions for device interrupt IDT entry
 + *                      points (common/spurious)
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Maps to DECLARE_IDTENTRY_ERRORCODE()
 + */
 +#define DECLARE_IDTENTRY_IRQ(vector, func)                            \
 +      DECLARE_IDTENTRY_ERRORCODE(vector, func)
 +
 +/**
 + * DEFINE_IDTENTRY_IRQ - Emit code for device interrupt IDT entry points
 + * @func:     Function name of the entry point
 + *
 + * The vector number is pushed by the low level entry stub and handed
 + * to the function as error_code argument which needs to be truncated
 + * to an u8 because the push is sign extending.
 + *
 + * On 64-bit idtentry_enter/exit() are invoked in the ASM entry code before
 + * and after switching to the interrupt stack. On 32-bit this happens in C.
 + *
 + * irq_enter/exit_rcu() are invoked before the function body and the
 + * KVM L1D flush request is set.
 + */
 +#define DEFINE_IDTENTRY_IRQ(func)                                     \
 +static __always_inline void __##func(struct pt_regs *regs, u8 vector);        \
 +                                                                      \
 +__visible noinstr void func(struct pt_regs *regs,                     \
 +                          unsigned long error_code)                   \
 +{                                                                     \
 +      bool rcu_exit = idtentry_enter_cond_rcu(regs);                  \
 +                                                                      \
 +      instrumentation_begin();                                        \
 +      irq_enter_rcu();                                                \
 +      kvm_set_cpu_l1tf_flush_l1d();                                   \
 +      __##func (regs, (u8)error_code);                                \
 +      irq_exit_rcu();                                                 \
 +      instrumentation_end();                                          \
 +      idtentry_exit_cond_rcu(regs, rcu_exit);                         \
 +}                                                                     \
 +                                                                      \
 +static __always_inline void __##func(struct pt_regs *regs, u8 vector)
 +
 +/**
 + * DECLARE_IDTENTRY_SYSVEC - Declare functions for system vector entry points
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Declares three functions:
 + * - The ASM entry point: asm_##func
 + * - The XEN PV trap entry point: xen_##func (maybe unused)
 + * - The C handler called from the ASM entry point
 + *
 + * Maps to DECLARE_IDTENTRY().
 + */
 +#define DECLARE_IDTENTRY_SYSVEC(vector, func)                         \
 +      DECLARE_IDTENTRY(vector, func)
 +
 +/**
 + * DEFINE_IDTENTRY_SYSVEC - Emit code for system vector IDT entry points
 + * @func:     Function name of the entry point
 + *
 + * idtentry_enter/exit() and irq_enter/exit_rcu() are invoked before the
 + * function body. KVM L1D flush request is set.
 + *
 + * Runs the function on the interrupt stack if the entry hit kernel mode
 + */
 +#define DEFINE_IDTENTRY_SYSVEC(func)                                  \
 +static void __##func(struct pt_regs *regs);                           \
 +                                                                      \
 +__visible noinstr void func(struct pt_regs *regs)                     \
 +{                                                                     \
 +      bool rcu_exit = idtentry_enter_cond_rcu(regs);                  \
 +                                                                      \
 +      instrumentation_begin();                                        \
 +      irq_enter_rcu();                                                \
 +      kvm_set_cpu_l1tf_flush_l1d();                                   \
 +      run_on_irqstack_cond(__##func, regs, regs);                     \
 +      irq_exit_rcu();                                                 \
 +      instrumentation_end();                                          \
 +      idtentry_exit_cond_rcu(regs, rcu_exit);                         \
 +}                                                                     \
 +                                                                      \
 +static noinline void __##func(struct pt_regs *regs)
 +
 +/**
 + * DEFINE_IDTENTRY_SYSVEC_SIMPLE - Emit code for simple system vector IDT
 + *                               entry points
 + * @func:     Function name of the entry point
 + *
 + * Runs the function on the interrupted stack. No switch to IRQ stack and
 + * only the minimal __irq_enter/exit() handling.
 + *
 + * Only use for 'empty' vectors like reschedule IPI and KVM posted
 + * interrupt vectors.
 + */
 +#define DEFINE_IDTENTRY_SYSVEC_SIMPLE(func)                           \
 +static __always_inline void __##func(struct pt_regs *regs);           \
 +                                                                      \
 +__visible noinstr void func(struct pt_regs *regs)                     \
 +{                                                                     \
 +      bool rcu_exit = idtentry_enter_cond_rcu(regs);                  \
 +                                                                      \
 +      instrumentation_begin();                                        \
 +      __irq_enter_raw();                                              \
 +      kvm_set_cpu_l1tf_flush_l1d();                                   \
 +      __##func (regs);                                                \
 +      __irq_exit_raw();                                               \
 +      instrumentation_end();                                          \
 +      idtentry_exit_cond_rcu(regs, rcu_exit);                         \
 +}                                                                     \
 +                                                                      \
 +static __always_inline void __##func(struct pt_regs *regs)
 +
 +/**
 + * DECLARE_IDTENTRY_XENCB - Declare functions for XEN HV callback entry point
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Declares three functions:
 + * - The ASM entry point: asm_##func
 + * - The XEN PV trap entry point: xen_##func (maybe unused)
 + * - The C handler called from the ASM entry point
 + *
 + * Maps to DECLARE_IDTENTRY(). Distinct entry point to handle the 32/64-bit
 + * difference
 + */
 +#define DECLARE_IDTENTRY_XENCB(vector, func)                          \
 +      DECLARE_IDTENTRY(vector, func)
 +
 +#ifdef CONFIG_X86_64
 +/**
 + * DECLARE_IDTENTRY_IST - Declare functions for IST handling IDT entry points
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Maps to DECLARE_IDTENTRY_RAW, but declares also the NOIST C handler
 + * which is called from the ASM entry point on user mode entry
 + */
 +#define DECLARE_IDTENTRY_IST(vector, func)                            \
 +      DECLARE_IDTENTRY_RAW(vector, func);                             \
 +      __visible void noist_##func(struct pt_regs *regs)
 +
 +/**
 + * DEFINE_IDTENTRY_IST - Emit code for IST entry points
 + * @func:     Function name of the entry point
 + *
 + * Maps to DEFINE_IDTENTRY_RAW
 + */
 +#define DEFINE_IDTENTRY_IST(func)                                     \
 +      DEFINE_IDTENTRY_RAW(func)
 +
 +/**
 + * DEFINE_IDTENTRY_NOIST - Emit code for NOIST entry points which
 + *                       belong to a IST entry point (MCE, DB)
 + * @func:     Function name of the entry point. Must be the same as
 + *            the function name of the corresponding IST variant
 + *
 + * Maps to DEFINE_IDTENTRY_RAW().
 + */
 +#define DEFINE_IDTENTRY_NOIST(func)                                   \
 +      DEFINE_IDTENTRY_RAW(noist_##func)
 +
 +/**
 + * DECLARE_IDTENTRY_DF - Declare functions for double fault
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Maps to DECLARE_IDTENTRY_RAW_ERRORCODE
 + */
 +#define DECLARE_IDTENTRY_DF(vector, func)                             \
 +      DECLARE_IDTENTRY_RAW_ERRORCODE(vector, func)
 +
 +/**
 + * DEFINE_IDTENTRY_DF - Emit code for double fault
 + * @func:     Function name of the entry point
 + *
 + * Maps to DEFINE_IDTENTRY_RAW_ERRORCODE
 + */
 +#define DEFINE_IDTENTRY_DF(func)                                      \
 +      DEFINE_IDTENTRY_RAW_ERRORCODE(func)
 +
 +#else /* CONFIG_X86_64 */
 +
 +/* Maps to a regular IDTENTRY on 32bit for now */
 +# define DECLARE_IDTENTRY_IST         DECLARE_IDTENTRY
 +# define DEFINE_IDTENTRY_IST          DEFINE_IDTENTRY
 +
 +/**
 + * DECLARE_IDTENTRY_DF - Declare functions for double fault 32bit variant
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Declares two functions:
 + * - The ASM entry point: asm_##func
 + * - The C handler called from the C shim
 + */
 +#define DECLARE_IDTENTRY_DF(vector, func)                             \
 +      asmlinkage void asm_##func(void);                               \
 +      __visible void func(struct pt_regs *regs,                       \
 +                          unsigned long error_code,                   \
 +                          unsigned long address)
 +
 +/**
 + * DEFINE_IDTENTRY_DF - Emit code for double fault on 32bit
 + * @func:     Function name of the entry point
 + *
 + * This is called through the doublefault shim which already provides
 + * cr2 in the address argument.
 + */
 +#define DEFINE_IDTENTRY_DF(func)                                      \
 +__visible noinstr void func(struct pt_regs *regs,                     \
 +                          unsigned long error_code,                   \
 +                          unsigned long address)
 +
 +#endif        /* !CONFIG_X86_64 */
 +
 +/* C-Code mapping */
 +#define DECLARE_IDTENTRY_MCE          DECLARE_IDTENTRY_IST
 +#define DEFINE_IDTENTRY_MCE           DEFINE_IDTENTRY_IST
 +#define DEFINE_IDTENTRY_MCE_USER      DEFINE_IDTENTRY_NOIST
 +
 +#define DECLARE_IDTENTRY_NMI          DECLARE_IDTENTRY_RAW
 +#define DEFINE_IDTENTRY_NMI           DEFINE_IDTENTRY_RAW
 +
 +#define DECLARE_IDTENTRY_DEBUG                DECLARE_IDTENTRY_IST
 +#define DEFINE_IDTENTRY_DEBUG         DEFINE_IDTENTRY_IST
 +#define DEFINE_IDTENTRY_DEBUG_USER    DEFINE_IDTENTRY_NOIST
 +
 +/**
 + * DECLARE_IDTENTRY_XEN - Declare functions for XEN redirect IDT entry points
 + * @vector:   Vector number (ignored for C)
 + * @func:     Function name of the entry point
 + *
 + * Used for xennmi and xendebug redirections. No DEFINE as this is all ASM
 + * indirection magic.
 + */
 +#define DECLARE_IDTENTRY_XEN(vector, func)                            \
 +      asmlinkage void xen_asm_exc_xen##func(void);                    \
 +      asmlinkage void asm_exc_xen##func(void)
 +
 +#else /* !__ASSEMBLY__ */
 +
 +/*
 + * The ASM variants for DECLARE_IDTENTRY*() which emit the ASM entry stubs.
 + */
 +#define DECLARE_IDTENTRY(vector, func)                                        \
 +      idtentry vector asm_##func func has_error_code=0
 +
 +#define DECLARE_IDTENTRY_ERRORCODE(vector, func)                      \
 +      idtentry vector asm_##func func has_error_code=1
 +
 +/* Special case for 32bit IRET 'trap'. Do not emit ASM code */
 +#define DECLARE_IDTENTRY_SW(vector, func)
 +
 +#define DECLARE_IDTENTRY_RAW(vector, func)                            \
 +      DECLARE_IDTENTRY(vector, func)
 +
 +#define DECLARE_IDTENTRY_RAW_ERRORCODE(vector, func)                  \
 +      DECLARE_IDTENTRY_ERRORCODE(vector, func)
 +
 +/* Entries for common/spurious (device) interrupts */
 +#define DECLARE_IDTENTRY_IRQ(vector, func)                            \
 +      idtentry_irq vector func
 +
 +/* System vector entries */
 +#define DECLARE_IDTENTRY_SYSVEC(vector, func)                         \
 +      idtentry_sysvec vector func
 +
 +#ifdef CONFIG_X86_64
 +# define DECLARE_IDTENTRY_MCE(vector, func)                           \
 +      idtentry_mce_db vector asm_##func func
 +
 +# define DECLARE_IDTENTRY_DEBUG(vector, func)                         \
 +      idtentry_mce_db vector asm_##func func
 +
 +# define DECLARE_IDTENTRY_DF(vector, func)                            \
 +      idtentry_df vector asm_##func func
 +
 +# define DECLARE_IDTENTRY_XENCB(vector, func)                         \
 +      DECLARE_IDTENTRY(vector, func)
 +
 +#else
 +# define DECLARE_IDTENTRY_MCE(vector, func)                           \
 +      DECLARE_IDTENTRY(vector, func)
 +
 +# define DECLARE_IDTENTRY_DEBUG(vector, func)                         \
 +      DECLARE_IDTENTRY(vector, func)
 +
 +/* No ASM emitted for DF as this goes through a C shim */
 +# define DECLARE_IDTENTRY_DF(vector, func)
 +
 +/* No ASM emitted for XEN hypervisor callback */
 +# define DECLARE_IDTENTRY_XENCB(vector, func)
 +
 +#endif
 +
 +/* No ASM code emitted for NMI */
 +#define DECLARE_IDTENTRY_NMI(vector, func)
 +
 +/* XEN NMI and DB wrapper */
 +#define DECLARE_IDTENTRY_XEN(vector, func)                            \
 +      idtentry vector asm_exc_xen##func exc_##func has_error_code=0
 +
 +/*
 + * ASM code to emit the common vector entry stubs where each stub is
 + * packed into 8 bytes.
 + *
 + * Note, that the 'pushq imm8' is emitted via '.byte 0x6a, vector' because
 + * GCC treats the local vector variable as unsigned int and would expand
 + * all vectors above 0x7F to a 5 byte push. The original code did an
 + * adjustment of the vector number to be in the signed byte range to avoid
 + * this. While clever it's mindboggling counterintuitive and requires the
 + * odd conversion back to a real vector number in the C entry points. Using
 + * .byte achieves the same thing and the only fixup needed in the C entry
 + * point is to mask off the bits above bit 7 because the push is sign
 + * extending.
 + */
 +      .align 8
 +SYM_CODE_START(irq_entries_start)
 +    vector=FIRST_EXTERNAL_VECTOR
 +    pos = .
 +    .rept (FIRST_SYSTEM_VECTOR - FIRST_EXTERNAL_VECTOR)
 +      UNWIND_HINT_IRET_REGS
 +      .byte   0x6a, vector
 +      jmp     asm_common_interrupt
 +      nop
 +      /* Ensure that the above is 8 bytes max */
 +      . = pos + 8
 +    pos=pos+8
 +    vector=vector+1
 +    .endr
 +SYM_CODE_END(irq_entries_start)
 +
 +#ifdef CONFIG_X86_LOCAL_APIC
 +      .align 8
 +SYM_CODE_START(spurious_entries_start)
 +    vector=FIRST_SYSTEM_VECTOR
 +    pos = .
 +    .rept (NR_VECTORS - FIRST_SYSTEM_VECTOR)
 +      UNWIND_HINT_IRET_REGS
 +      .byte   0x6a, vector
 +      jmp     asm_spurious_interrupt
 +      nop
 +      /* Ensure that the above is 8 bytes max */
 +      . = pos + 8
 +    pos=pos+8
 +    vector=vector+1
 +    .endr
 +SYM_CODE_END(spurious_entries_start)
 +#endif
 +
 +#endif /* __ASSEMBLY__ */
 +
 +/*
 + * The actual entry points. Note that DECLARE_IDTENTRY*() serves two
 + * purposes:
 + *  - provide the function declarations when included from C-Code
 + *  - emit the ASM stubs when included from entry_32/64.S
 + *
 + * This avoids duplicate defines and ensures that everything is consistent.
 + */
 +
 +/*
 + * Dummy trap number so the low level ASM macro vector number checks do not
 + * match which results in emitting plain IDTENTRY stubs without bells and
 + * whistels.
 + */
 +#define X86_TRAP_OTHER                0xFFFF
 +
 +/* Simple exception entry points. No hardware error code */
 +DECLARE_IDTENTRY(X86_TRAP_DE,         exc_divide_error);
 +DECLARE_IDTENTRY(X86_TRAP_OF,         exc_overflow);
 +DECLARE_IDTENTRY(X86_TRAP_BR,         exc_bounds);
 +DECLARE_IDTENTRY(X86_TRAP_NM,         exc_device_not_available);
 +DECLARE_IDTENTRY(X86_TRAP_OLD_MF,     exc_coproc_segment_overrun);
 +DECLARE_IDTENTRY(X86_TRAP_SPURIOUS,   exc_spurious_interrupt_bug);
 +DECLARE_IDTENTRY(X86_TRAP_MF,         exc_coprocessor_error);
 +DECLARE_IDTENTRY(X86_TRAP_XF,         exc_simd_coprocessor_error);
 +
 +/* 32bit software IRET trap. Do not emit ASM code */
 +DECLARE_IDTENTRY_SW(X86_TRAP_IRET,    iret_error);
 +
 +/* Simple exception entries with error code pushed by hardware */
 +DECLARE_IDTENTRY_ERRORCODE(X86_TRAP_TS,       exc_invalid_tss);
 +DECLARE_IDTENTRY_ERRORCODE(X86_TRAP_NP,       exc_segment_not_present);
 +DECLARE_IDTENTRY_ERRORCODE(X86_TRAP_SS,       exc_stack_segment);
 +DECLARE_IDTENTRY_ERRORCODE(X86_TRAP_GP,       exc_general_protection);
 +DECLARE_IDTENTRY_ERRORCODE(X86_TRAP_AC,       exc_alignment_check);
 +
 +/* Raw exception entries which need extra work */
 +DECLARE_IDTENTRY_RAW(X86_TRAP_UD,             exc_invalid_op);
 +DECLARE_IDTENTRY_RAW(X86_TRAP_BP,             exc_int3);
 +DECLARE_IDTENTRY_RAW_ERRORCODE(X86_TRAP_PF,   exc_page_fault);
 +
 +#ifdef CONFIG_X86_MCE
 +DECLARE_IDTENTRY_MCE(X86_TRAP_MC,     exc_machine_check);
 +#endif
 +
 +/* NMI */
 +DECLARE_IDTENTRY_NMI(X86_TRAP_NMI,    exc_nmi);
 +DECLARE_IDTENTRY_XEN(X86_TRAP_NMI,    nmi);
 +
 +/* #DB */
 +DECLARE_IDTENTRY_DEBUG(X86_TRAP_DB,   exc_debug);
 +DECLARE_IDTENTRY_XEN(X86_TRAP_DB,     debug);
 +
 +/* #DF */
 +DECLARE_IDTENTRY_DF(X86_TRAP_DF,      exc_double_fault);
 +
 +#ifdef CONFIG_XEN_PV
 +DECLARE_IDTENTRY_XENCB(X86_TRAP_OTHER,        exc_xen_hypervisor_callback);
 +#endif
 +
 +/* Device interrupts common/spurious */
 +DECLARE_IDTENTRY_IRQ(X86_TRAP_OTHER,  common_interrupt);
 +#ifdef CONFIG_X86_LOCAL_APIC
 +DECLARE_IDTENTRY_IRQ(X86_TRAP_OTHER,  spurious_interrupt);
 +#endif
 +
 +/* System vector entry points */
 +#ifdef CONFIG_X86_LOCAL_APIC
 +DECLARE_IDTENTRY_SYSVEC(ERROR_APIC_VECTOR,            sysvec_error_interrupt);
 +DECLARE_IDTENTRY_SYSVEC(SPURIOUS_APIC_VECTOR,         sysvec_spurious_apic_interrupt);
 +DECLARE_IDTENTRY_SYSVEC(LOCAL_TIMER_VECTOR,           sysvec_apic_timer_interrupt);
 +DECLARE_IDTENTRY_SYSVEC(X86_PLATFORM_IPI_VECTOR,      sysvec_x86_platform_ipi);
 +#endif
 +
 +#ifdef CONFIG_SMP
 +DECLARE_IDTENTRY(RESCHEDULE_VECTOR,                   sysvec_reschedule_ipi);
 +DECLARE_IDTENTRY_SYSVEC(IRQ_MOVE_CLEANUP_VECTOR,      sysvec_irq_move_cleanup);
 +DECLARE_IDTENTRY_SYSVEC(REBOOT_VECTOR,                        sysvec_reboot);
 +DECLARE_IDTENTRY_SYSVEC(CALL_FUNCTION_SINGLE_VECTOR,  sysvec_call_function_single);
 +DECLARE_IDTENTRY_SYSVEC(CALL_FUNCTION_VECTOR,         sysvec_call_function);
 +#endif
 +
 +#ifdef CONFIG_X86_LOCAL_APIC
 +# ifdef CONFIG_X86_UV
 +DECLARE_IDTENTRY_SYSVEC(UV_BAU_MESSAGE,                       sysvec_uv_bau_message);
 +# endif
 +
 +# ifdef CONFIG_X86_MCE_THRESHOLD
 +DECLARE_IDTENTRY_SYSVEC(THRESHOLD_APIC_VECTOR,                sysvec_threshold);
 +# endif
 +
 +# ifdef CONFIG_X86_MCE_AMD
 +DECLARE_IDTENTRY_SYSVEC(DEFERRED_ERROR_VECTOR,                sysvec_deferred_error);
 +# endif
 +
 +# ifdef CONFIG_X86_THERMAL_VECTOR
 +DECLARE_IDTENTRY_SYSVEC(THERMAL_APIC_VECTOR,          sysvec_thermal);
 +# endif
 +
 +# ifdef CONFIG_IRQ_WORK
 +DECLARE_IDTENTRY_SYSVEC(IRQ_WORK_VECTOR,              sysvec_irq_work);
 +# endif
 +#endif
 +
 +#ifdef CONFIG_HAVE_KVM
 +DECLARE_IDTENTRY_SYSVEC(POSTED_INTR_VECTOR,           sysvec_kvm_posted_intr_ipi);
 +DECLARE_IDTENTRY_SYSVEC(POSTED_INTR_WAKEUP_VECTOR,    sysvec_kvm_posted_intr_wakeup_ipi);
 +DECLARE_IDTENTRY_SYSVEC(POSTED_INTR_NESTED_VECTOR,    sysvec_kvm_posted_intr_nested_ipi);
 +#endif
 +
 +#if IS_ENABLED(CONFIG_HYPERV)
 +DECLARE_IDTENTRY_SYSVEC(HYPERVISOR_CALLBACK_VECTOR,   sysvec_hyperv_callback);
 +DECLARE_IDTENTRY_SYSVEC(HYPERVISOR_REENLIGHTENMENT_VECTOR,    sysvec_hyperv_reenlightenment);
 +DECLARE_IDTENTRY_SYSVEC(HYPERVISOR_STIMER0_VECTOR,    sysvec_hyperv_stimer0);
 +#endif
 +
 +#if IS_ENABLED(CONFIG_ACRN_GUEST)
 +DECLARE_IDTENTRY_SYSVEC(HYPERVISOR_CALLBACK_VECTOR,   sysvec_acrn_hv_callback);
 +#endif
 +
 +#ifdef CONFIG_XEN_PVHVM
 +DECLARE_IDTENTRY_SYSVEC(HYPERVISOR_CALLBACK_VECTOR,   sysvec_xen_hvm_callback);
 +#endif
 +
++#ifdef CONFIG_KVM_GUEST
++DECLARE_IDTENTRY_SYSVEC(HYPERVISOR_CALLBACK_VECTOR,   sysvec_kvm_asyncpf_interrupt);
++#endif
++
 +#undef X86_TRAP_OTHER
 +
 +#endif
Simple merge
index df63786e7bfa46ae490700f771776653ddd1c848,3a0115e8d880617becad69ba5312152b1a5d3c5c..681bc4090e91c58099c4f9fed749c6eb5627ef2c
@@@ -9,6 -9,6 +9,7 @@@
  
  #include <linux/context_tracking.h>
  #include <linux/init.h>
++#include <linux/irq.h>
  #include <linux/kernel.h>
  #include <linux/kvm_para.h>
  #include <linux/cpu.h>
@@@ -229,23 -229,15 +230,18 @@@ noinstr u32 kvm_read_and_reset_apf_flag
        return flags;
  }
  EXPORT_SYMBOL_GPL(kvm_read_and_reset_apf_flags);
 -NOKPROBE_SYMBOL(kvm_read_and_reset_apf_flags);
  
 -bool __kvm_handle_async_pf(struct pt_regs *regs, u32 token)
 +noinstr bool __kvm_handle_async_pf(struct pt_regs *regs, u32 token)
  {
-       u32 reason = kvm_read_and_reset_apf_flags();
+       u32 flags = kvm_read_and_reset_apf_flags();
 +      bool rcu_exit;
  
-       switch (reason) {
-       case KVM_PV_REASON_PAGE_NOT_PRESENT:
-       case KVM_PV_REASON_PAGE_READY:
-               break;
-       default:
+       if (!flags)
                return false;
-       }
  
 +      rcu_exit = idtentry_enter_cond_rcu(regs);
 +      instrumentation_begin();
 +
        /*
         * If the host managed to inject an async #PF into an interrupt
         * disabled region, then die hard as this is not going to end well
                        panic("Host injected async #PF in kernel mode\n");
                /* Page is swapped out by the host. */
                kvm_async_pf_task_wait_schedule(token);
 -              return true;
 +      } else {
-               kvm_async_pf_task_wake(token);
++              WARN_ONCE(1, "Unexpected async PF flags: %x\n", flags);
        }
  
 -      WARN_ONCE(1, "Unexpected async PF flags: %x\n", flags);
 +      instrumentation_end();
 +      idtentry_exit_cond_rcu(regs, rcu_exit);
        return true;
  }
 -NOKPROBE_SYMBOL(__kvm_handle_async_pf);
  
 -__visible void __irq_entry kvm_async_pf_intr(struct pt_regs *regs)
++DEFINE_IDTENTRY_SYSVEC(sysvec_kvm_asyncpf_interrupt)
+ {
++      struct pt_regs *old_regs = set_irq_regs(regs);
+       u32 token;
++      bool rcu_exit;
 -      entering_ack_irq();
++      rcu_exit = idtentry_enter_cond_rcu(regs);
+       inc_irq_stat(irq_hv_callback_count);
+       if (__this_cpu_read(apf_reason.enabled)) {
+               token = __this_cpu_read(apf_reason.token);
 -              rcu_irq_enter();
+               kvm_async_pf_task_wake(token);
 -              rcu_irq_exit();
+               __this_cpu_write(apf_reason.token, 0);
+               wrmsrl(MSR_KVM_ASYNC_PF_ACK, 1);
+       }
 -      exiting_irq();
++      idtentry_exit_cond_rcu(regs, rcu_exit);
++      set_irq_regs(old_regs);
+ }
  static void __init paravirt_ops_setup(void)
  {
        pv_info.name = "KVM";
@@@ -646,8 -659,10 +665,10 @@@ static void __init kvm_guest_init(void
        if (kvm_para_has_feature(KVM_FEATURE_PV_EOI))
                apic_set_eoi_write(kvm_guest_apic_eoi_write);
  
-       if (kvm_para_has_feature(KVM_FEATURE_ASYNC_PF) && kvmapf)
+       if (kvm_para_has_feature(KVM_FEATURE_ASYNC_PF_INT) && kvmapf) {
                static_branch_enable(&kvm_async_pf_enabled);
 -              alloc_intr_gate(HYPERVISOR_CALLBACK_VECTOR, kvm_async_pf_vector);
++              alloc_intr_gate(HYPERVISOR_CALLBACK_VECTOR, asm_sysvec_kvm_asyncpf_interrupt);
+       }
  
  #ifdef CONFIG_SMP
        smp_ops.smp_prepare_cpus = kvm_smp_prepare_cpus;