WebGPU
2023/4/8 19:16:00
abi/secret-llama: Fully private LLM chatbot that runs entirely with a browser with no server needed. Supports Mistral and LLama 3.burn『[js/WebGPU] webgpu performance gains not showing with transformers.js』compute.toysあれあれ『Possibility of SPIR-V and/or GLSL as a WebGPU extension?』wgpuWGSLWebGPUの制約あれWebGPUで遺伝的プログラミングwgpu-nativeあれあれ『GPUを使ってウェブ上のグラフィックスを改善するWebGLの後継API「WebGPU」がChrome 113ベータ版で利用可能に』
burn
2024/1/15 14:04:00
『[js/WebGPU] webgpu performance gains not showing with transformers.js』
2023/9/20 17:55:00
compute.toys
2023/7/17 13:45:00
あれ
2023/7/17 4:26:00
WGSLのコード内の条件分岐の数が2倍になると、compute pipelineの作成にかかる時間が10倍になった現象は、Macにおいてのみ低速な可能性がある。
MTLCompilerServiceがCPU100%に張り付いている。
WGSL → SRIP−V → Metal Shading Languageと変換される部分の、SRIP−V → Metal Shading Language が時間を取っている、ような気がする。
Windowsでも再現することが確認できた。
200個の条件分岐があるとpipelineの作成が200秒程度かかる。