Public » Linux

GPU Intel¶

1. minimalne distro to Debian Forky aby widziało urządzenie ./llama-cli --list-devices PokażUkryj

   apt install -y firmware-intel-graphics; \
   apt install -y clinfo intel-opencl-icd; \
   

2. w kernelu nie dodajemy nomodeseting*
3. dummy plug / virtual display aby karta była aktywna PokażUkryj
   Porty na karcie to Display Port *konieczna przejsciówka lub kabel DP->HDMI):

   1. port 1 HDMI DP dummy plug
   2. port 2 Kabel DP->HDMI i monitor(u nas KVM)

   Kolejność jest ważna ponieważ port 1 stale jest włączony i karta się nie dezaktuwuje, a port 2 aktywuje się w momencie włączenia KVM. Przy odwrotnym podłączeniu portów urządzenie sie dezaktywuje gdy przełączamy KVM na inny port

Monitoring wykorzystania¶

Dla sterownika xe do monitoringu korzystamy z aplikacji gputop zamiast intel_gpu_top która jest dla starego sterownika i915

apt-get install -y igt-gpu-tools;

Implementacje¶

1. Intel llama.cpp - SYCL OneAPI
2. Intel llm-scaler