tilelang.carver.template package

Submodules

• tilelang.carver.template.base module
  • BaseTemplate
    • BaseTemplate.arch
    • BaseTemplate.equivalent_function()
    • BaseTemplate.get_hardware_aware_configs()
    • BaseTemplate.has_arch()
    • BaseTemplate.initialize_function()
    • BaseTemplate.is_ampere_arch()
    • BaseTemplate.is_cdna_arch()
    • BaseTemplate.is_volta_arch()
    • BaseTemplate.output_nodes
    • BaseTemplate.recommend_hints()
    • BaseTemplate.set_function()
    • BaseTemplate.set_output_nodes()
    • BaseTemplate.with_arch()
• tilelang.carver.template.conv module
  • ConvTemplate
    • ConvTemplate.N
    • ConvTemplate.C
    • ConvTemplate.H
    • ConvTemplate.W
    • ConvTemplate.F
    • ConvTemplate.K
    • ConvTemplate.S
    • ConvTemplate.D
    • ConvTemplate.P
    • ConvTemplate.in_dtype
    • ConvTemplate.out_dtype
    • ConvTemplate.accum_dtype
    • ConvTemplate.with_bias
    • ConvTemplate.C
    • ConvTemplate.D
    • ConvTemplate.F
    • ConvTemplate.H
    • ConvTemplate.K
    • ConvTemplate.N
    • ConvTemplate.P
    • ConvTemplate.S
    • ConvTemplate.W
    • ConvTemplate.accum_dtype
    • ConvTemplate.class_attributes
    • ConvTemplate.get_hardware_aware_configs()
    • ConvTemplate.in_dtype
    • ConvTemplate.initialize_function()
    • ConvTemplate.out_dtype
    • ConvTemplate.params_as_dict()
    • ConvTemplate.with_bias
• tilelang.carver.template.elementwise module
  • ElementwiseTemplate
    • ElementwiseTemplate.shape
    • ElementwiseTemplate.dtype
    • ElementwiseTemplate.class_attributes
    • ElementwiseTemplate.dtype
    • ElementwiseTemplate.get_hardware_aware_configs()
    • ElementwiseTemplate.initialize_function()
    • ElementwiseTemplate.params_as_dict()
    • ElementwiseTemplate.shape
• tilelang.carver.template.flashattention module
  • FlashAttentionTemplate
    • FlashAttentionTemplate.accum_dtype
    • FlashAttentionTemplate.batch_size
    • FlashAttentionTemplate.class_attributes
    • FlashAttentionTemplate.get_hardware_aware_configs()
    • FlashAttentionTemplate.head_dim
    • FlashAttentionTemplate.in_dtype
    • FlashAttentionTemplate.initialize_function()
    • FlashAttentionTemplate.is_causal
    • FlashAttentionTemplate.num_heads
    • FlashAttentionTemplate.out_dtype
    • FlashAttentionTemplate.params_as_dict()
    • FlashAttentionTemplate.seq_kv_length
    • FlashAttentionTemplate.seq_length
• tilelang.carver.template.gemv module
  • GEMVTemplate
    • GEMVTemplate.K
    • GEMVTemplate.N
    • GEMVTemplate.accum_dtype
    • GEMVTemplate.class_attributes
    • GEMVTemplate.get_hardware_aware_configs()
    • GEMVTemplate.in_dtype
    • GEMVTemplate.initialize_function()
    • GEMVTemplate.out_dtype
    • GEMVTemplate.params_as_dict()
    • GEMVTemplate.trans_B
    • GEMVTemplate.with_bias
• tilelang.carver.template.general_reduce module
  • GeneralReductionTemplate
    • GeneralReductionTemplate.class_attributes
    • GeneralReductionTemplate.dtype
    • GeneralReductionTemplate.get_hardware_aware_configs()
    • GeneralReductionTemplate.initialize_function()
    • GeneralReductionTemplate.params_as_dict()
    • GeneralReductionTemplate.shape
    • GeneralReductionTemplate.structure
• tilelang.carver.template.matmul module
  • MatmulTemplate
    • MatmulTemplate.M
    • MatmulTemplate.N
    • MatmulTemplate.K
    • MatmulTemplate.trans_A
    • MatmulTemplate.trans_B
    • MatmulTemplate.in_dtype
    • MatmulTemplate.out_dtype
    • MatmulTemplate.accum_dtype
    • MatmulTemplate.with_bias
    • MatmulTemplate.K
    • MatmulTemplate.M
    • MatmulTemplate.N
    • MatmulTemplate.accum_dtype
    • MatmulTemplate.class_attributes
    • MatmulTemplate.get_hardware_aware_configs()
    • MatmulTemplate.in_dtype
    • MatmulTemplate.initialize_function()
    • MatmulTemplate.out_dtype
    • MatmulTemplate.params_as_dict()
    • MatmulTemplate.trans_A
    • MatmulTemplate.trans_B
    • MatmulTemplate.with_bias

Module contents

Template for the TileLang Carver.