enable mixed dtype benchmark (#472)

Author: taozha2

benchmarks/device/bmg/input_files/input_sglang_gemm_mixed_dtype.in

@@ -0,0 +1,18 @@
+#############################################################################
+### Benchmarks for required shapes for second SGLang release              ###
+#############################################################################
+
+# The data type " FP16U4FP16F16FP16S4 " in the benchmark are: A, B, C, Mma, Scale, Zero
+
+
+# int4
+PvcMixedPrecisionGemmFP16U4FP16F16FP16S4_RCR_1 --bm_name=mixed_dtype_int4 --m=32 --k=4096 --n=14336 --l=1
+PvcMixedPrecisionGemmBF16U4BF16BF16BF16S4_RCR_1 --bm_name=mixed_dtype_int4 --m=32 --k=4096 --n=14336 --l=1
+PvcMixedPrecisionGemmFP16U4FP16S8FP16S4_RCR_1 --bm_name=mixed_dtype_int4 --m=32 --k=4096 --n=14336 --l=1
+PvcMixedPrecisionGemmFP16U4S8S8FP16S4_RCR_1 --bm_name=mixed_dtype_int4 --m=32 --k=4096 --n=14336 --l=1
+PvcMixedPrecisionGemmBF16U4BF16S8BF16S4_RCR_1 --bm_name=mixed_dtype_int4 --m=32 --k=4096 --n=14336 --l=1
+PvcMixedPrecisionGemmBF16U4S8S8BF16S4_RCR_1 --bm_name=mixed_dtype_int4 --m=32 --k=4096 --n=14336 --l=1
+
+# int8
+PvcMixedPrecisionGemmBF16S8BF16S8BF16S8_RCR_1 --bm_name=mixed_dtype_int8 --m=32 --k=4096 --n=14336 --l=1
+PvcMixedPrecisionGemmFP16S8FP16S8FP16S8_RCR_1 --bm_name=mixed_dtype_int8 --m=32 --k=4096 --n=14336 --l=1

benchmarks/gemm/CMakeLists.txt

@@ -35,6 +35,8 @@ set(CONFIG_FILE_INTEL_SGLANG_SPLITK --config_file=${CMAKE_SOURCE_DIR}/benchmarks
 
 set(CONFIG_FILE_CUDA --config_file=${CMAKE_SOURCE_DIR}/benchmarks/device/ampere/input_files/input_gemm.in)
 
+set(CONFIG_FILE_INTEL_MIXED_DTYPE --config_file=${CMAKE_SOURCE_DIR}/benchmarks/device/bmg/input_files/input_sglang_gemm_mixed_dtype.in)
+
 cutlass_benchmark_add_suite(cutlass_benchmarks_gemm)
 
 if(CUTLASS_ENABLE_SYCL)
@@ -51,6 +53,7 @@ cutlass_benchmark_add_executable(
     CONFIG_FILE_INTEL_PYTORCH
     CONFIG_FILE_INTEL_SGLANG
     CONFIG_FILE_INTEL_SGLANG_SPLITK
+    CONFIG_FILE_INTEL_MIXED_DTYPE
 )
 
 else()