Skip to content

Enable prefill for running CausalLM using ET runtime #435

Enable prefill for running CausalLM using ET runtime

Enable prefill for running CausalLM using ET runtime #435

Job Run time
3s
34s
32s
34s
34s
33s
33s
34s
32s
28s
34s
34s
34s
33s
33s
29s
33s
33s
34s
32s
34s
34s
33s
34s
34s
33s
34s
34s
1s
35s
34s
34s
34s
33s
34s
1s
34s
1s
34s
28s
33s
33s
36s
33s
34s
34s
33s
37s
33s
35s
35s
35s
35s
34s
35s
35s
33s
35s
35s
35s
34s
35s
37s
34s
33s
34s
35s
35s
36s
34s
35s
36s
34s
33s
36s
35s
35s
1s
34s
35s
35s
35s
36s
36s
36s
35s
33s
34s
37s
36s
36s
35s
35s
35s
35s
35s
34s
36s
35s
36s
36s
36s
35s
36s
34s
36s
36s
35s
34s
59m 31s